HBM
High Bandwidth Memory
‘챗gpt’, ‘DALL·E’, ‘Bard’의 등장과 같이 AI서비스 종류가 다양해지고
고도화될수록, 메모리 반도체가 수행해야할 역할도 더욱 확장되고 있습니다.
AI 서비스를 원활하게 구현하려면 대량의 데이터를 기반으로
여러 연산을 동시에 빠르게 수행하는 능력이 필요하기 때문입니다.
이러한 상황에서 반도체 업계는 ‘AI 서비스와 함께 폭발적으로 증가하는 데이터를
어떻게 효율적이고 빠르게 처리할 것인가’에 대한 해답을 찾게 됩니다.
차원이 다른 고성능 기술을 제공하는 AI 시대의 핵심 반도체,
‘HBM’이 바로 그것입니다.
올해 글로벌 고대역폭메모리(HBM) 수요가 10억 GB를
초과할 것이라는 전망이 나왔습니다. 지난해 HBM 수요의
3배가 넘는 수치입니다.
지난 ‘AI-PIM 반도체 워크숍’에서 “지난해 HBM 총 수요가
3억 2000GB 수준이었다"며 "시장조사업체 IDC는
올해 HBM 수요가 5억 2000GB 정도로 전망했다" 고
밝혔습니다.
이어 "최근의 수요 증가세를 보면 시장 수요 전망을
완전히 뒤집어엎어야 한다"며 "유진투자증권에서
삼성전자와 SK하이닉스가 (엔비디아 등 기업으로부터)
주문을 받은 걸 계산해 보니, 올해 총 HBM 수요가
10억~12억 GB 규모로 추산된다"고 부연했습니다.
HBM은 그래픽처리장치(GPU)나 신경망처리장치(NPU),
주문형반도체(ASIC) 형태의 AI 반도체에 탑재되는 고성능 D램입니다.
기존 D램 대비 대역폭을 넓혀 병목현상을 개선한 것이 특징이며,
삼성전자와 SK하이닉스, 마이크론 등 3개 기업이 생산하고 있습니다.
이들 기업은 올해 상반기 내 5세대 HBM(HBM3E) 양산을 목표하고 있습니다.
이 센터장은 PIM이 국내 메모리 반도체 기업의 차세대 먹거리가 될 것이라고
전망했습니다. 그는 "AMD가 HBM 로직 다이에 (PIM 기능을) 추가해
테스트해봤더니, 속도(7%)가 좋아졌고, 전력 소모가 85% 가량 개선됐다"며
"(AI 반도체 시대에서 PIM이) 앞으로 중요해질 수 있는 부분"이라고 밝혔습니다.
이 센터장이 언급한 HBM-PIM은 HBM로직 다이에 PIM기능을 추가한
반도체입니다. CPU가 담당하던 일부 연산을 메모리에서 처리해
데이터 이동량을 줄이는 콘셉입니다. 삼성전자는 지난해 8월 미국에서 열린
핫칩스2023에서 HBM-PIM, 저전력 더블데이터레이(LPDDR)-PIM 연구성과를
공개한 바 있습니다.
연구결과에 따르면 생성형 AI에 HBM-PIM을 적용 시 기존 HBM 대비
가속기 성능과 전력 효율이 2배 이상 증가합니다. 연구에 사용된 GPU는
AMD MI-100입니다. LPDDR-PIM의 경우 모바일용 D램에
PIM을 결합한 형태로 엣지디바이스 내에서 연산을 직접 처리합니다.
엣지디바이스용으로 개발되고 있는 제품이기 때문에
대역폭(102.4GB/s)도 낮습니다.
SK하이닉스도 AiMX를 공개하는 등 PIM 관련 연구를 진행하고 있다.
AiMX는 지난해 9월 공개한 메모리 기반 가속기로, A100, H100 등
기존 가속기와 달리 메모리 인텐시브한 함수 연산에 최적화된 가속기다.
AiMX에는 16개의 1GB GDDR6-AiM과
2개의 프로그래머블반도체(FPGA)를 탑재했다.
*마이크로웍스코리아㈜에서 반도체 재고공유 플랫폼 ESC
재고 공유 플랫폼 ESC 사이트 주소 : http://www.microworks-esc.com/kr/index.php
홍보 동영상 : https://blog.naver.com/mworksk/223139207576
문의 사항 : 02-6112-7328
반도체 재고 반도체 수입 전자부품 구매대행 PCB 아트웍 반도체 패키지_TSSOP, SSOP, SOIC, SOT,, 등 ANALOGDEVICE ARROW 반도체대리점 IC칩 DCDC컨버터 알테라 FPGA PCB 원자재 IC부품 IC TI ANALOGDEVICE ARROW 반도체대리점 DCDC TI 자일링스 CPLD 컨버터 릴레이 아이솔레이터 컨트롤러 반도체칩 PCB 원자재 IC부품 IC MCU 리니어텍 자재 메모리모듈 WINBOND 메모리 어드벤텍 트랜샌드 반도체 유통 반도체 검사 전자부품 구매 IC 구매 아날로그디바이스 CPU 맥심
반도체 DRAM MODULE
올파츠 NAC AWG규격 ARROW 편광렌즈 IC114 레지스터 SUPPLIES 개폐기 ELCB 터치스크린 미쯔비시PLC HDMIDP CHERRY 트랜스미터 전자부품쇼핑몰 인버터컨버터 디지키코리아 MENTOR MENTOR COOPER ATLANTIC I79700K CAT6케이블 마우져 ATEC DIGIKEY APTIV 한국프로페이스 DATASHEET 삼원ACT 캐퍼시터 한국미쓰비시 LUCAS 과전류차단기 RS485케이블 APOLLO ELEMENT14 무선히팅건 AONE 6008 TTI 인버터펌프 미쯔비시전기 AVEVA FOXCONN ARRESTER 애로우일렉트로닉스 KACO FUJITSU 자일링스 20AWG 옴론코리아 오므론코리아 DICKIES ABUS 회로기판 캐피시터 고휘도LED SQUARED 쿨러팬 ACCURA 모터콘덴서 판다파츠 교류전자개폐기 모터인버터 회로차단기 CABLEDUCT 케페시터 ADDER RAF BAKERHUGHES ANYZEN BLACKBOX E-CON 단자압착기 CTEK ARKEMA 심포 형광램프 세라믹콘덴서 전자부품판매 하트전자 콘덴서종류 LEDDRIVER RS온라인 COMMSCOPE HITEC CEJN HY-M904 AVNET ROCHESTER 전자부품사이트 아두이노프로젝트 KETER HANYOUNG CARLISLE FASTSTEEL 오므론PLC 소리센서 FINDCHIPS PCB부품 METCAL AMP커넥터 커넥터종류 ALLPARTS ARROWELECTRONICS SEMTECH 로봇부품 전기전자부품 AVENTICS POMONA 애로우코리아 에브넷 LUUX 엡손L3100잉크 한국오므론전장 KRONE CONTITECH GEDORE RCHIPS 엘레멘트14 ICPART BLACKSTAR 차량용커넥터 AC커넥터 전자공구 커넥터케이블 ELGA KVASER 셈테크 퓨처일렉트로닉스 ATOTECH LEOCOM 아이씨샵 CHIP1STOP CHIPONE 결로테이프 BOGEN LEVITON CB-016N6 HOLTEK 2N2222 RF필터 MAXONMOTOR DYNEX WONPRO AVNETKOREA ABRACON SACMI 에로우코리아 ARROWKOREA 칩원스탑 ARAG B.BRAUN ARTUS MPJ-K-F MULTICOMP TESTPOINT 625ZZ MAKEPCB GEARWRENCH 비글본블랙 CAMFIL CATU 적외선거리센서 MAUSER REDLION 탄탈커패시터 ASTEC 콘덴서구입 CAVOTEC 애브넷 칩원 FARNELL RSCOMPONENTS ARROW.COM FINDCHIP DATASHEETS 아이씨밴큐 파인드칩스 파인드칩 CHIPONESTOP 아이씨파트 한능테크노 CITEC MOTORENCODER BIDDLE LUCEAT BIWIN ANTUNES ATKORE AUTOMED AZUD