삼전 메모리 기술근황
https://youtu.be/SxOy8FzolJw?si=hnChkD1sj8G-pB02
LPDDR5X-PIM 개발했다함.
여기에서 PIM이란? Procrssing in memory 의약자로
메모리 내부에서 자체적으로 연산처리기능 달아놓아서
FP16,FP8,INT,4/8/16 등 다양한 연산을 지원함
기존 범용 규격과 배열을 동일하게 설계해 시스템 변경 없이 곧바로 장착할 수 있는 높은 호환성내 맞춰 만들었으며
초당 토큰 처리량 역시 기존 일반 메모리의 3배에 달하는 성능을 보여주며 AI 연산의 고질적인 지연 병목 현상을 해결할 대안으로
메타의 AI 모델 라마 3.1을 대상으로 한 테스트 가 이루어졌으면
기존 대비 약 2.3배 빠른 처리 속도를 기록했다함
차세대 LPDDR6-PIM 표준화 작업에도 착수중이라고함.
지금같이 ai시장에 빠르게 신기술 이것저것 빠르게 수요로 도입되는.시장에서 앞으로 pim기능달린 비디오카드겸사용 램카드나
Gddr-pim 같은거도 기대해볼만한듯
I constantly used to spend my half an hour to read this webp…
08.21
버디버디