• List

• Facebook
• X

SK하이닉스, 생성형 AI 가속기 카드 AiMX 공개 - AI 반응속도 10배 이상, 전력 사용량 대폭 감축

SK하이닉스가 생성형 인공지능(AI)에 특화된 가속기 카드 시제품을 공개했다. 이 가속기 카드는 그래픽처리장치(GPU)보다 AI 반응속도가 10배 이상 빠르지만 전력 사용량은 대폭 감축된 제품이다.

SK하이닉스는 미국 캘리포니아에서 열린 AI 하드웨어&에지 AI 서밋 2023에서 GDDR6-AiM(액셀러레이터 인 메모리)을 활용한 생성형 AI 가속기 카드 시제품인 AiMX를 공개했다. 이 가속기 카드는 중앙처리장치(CPU)나 GPU의 속도를 높여주는 가속기 칩인 GDDR6-AiM을 여러 개 연결해 제작되었다. GDDR6-AiM 칩은 초당 16기가비트 속도로 데이터를 처리하는 GDDR6 메모리에 연산 기능을 추가한 제품으로, 데이터 기억과 연산을 모두 수행하는 차세대 스마트 메모리다. 이 제품은 지난해 2월에 처음 공개되었다.

SK하이닉스는 AI 하드웨어&에지 AI 서밋에서 AiMX 시스템을 활용한 메타의 생성형 AI인 OPT 모델을 직접 시연했다. 시연 결과, AiMX 시스템은 GPU만 장착한 시스템에 비해 10배 빠른 반응속도와 5분의 1 수준의 전력소모를 보였다. 생성형 AI는 대량의 데이터 처리에 필요하기 때문에 저전력 고속 메모리가 필수적이다.

임의철 SK하이닉스 메모리 솔루션 담당 부사장은 "SK하이닉스의 AiMX는 기존 GPU를 사용할 때보다 성능을 높이면서도 비용을 절감할 수 있는 솔루션이다"라며 "AI 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것"이라고 밝혔다.

Like

0

Upvote

0