삼성 PIM, 메모리에서 AI 계산까지 하네

삼성전자가 메모리 안에서 일부 연산까지 처리하는 PIM 기술을 공개함. 기존에는 데이터를 메모리와 AI 칩 사이로 계속 옮겨야 했지만, PIM은 메모리 내부에서 일부 계산을 처리해 데이터 이동을 줄이는 방식임. 실제 칩 검증 결과도 나옴. 메타 라마 3.1 80억 파라미터 모델 기준으로 기존 저전력 메모리에서는 초당 27토큰을 처리했지만, LPDDR5X-PIM 적용 후에는 초당 81.3토큰까지 올라감. 같은 작업 시간도 12.3초에서 5.4초로 줄었다고 함. 기존 시스템과의 호환성을 유지한 점도 눈에 띔. 기존 LPDDR5X와 같은 패키지를 쓰고 기존 메모리 제어 방식을 그대로 활용할 수 있어, 새로운 메모리 컨트롤러 없이 적용 가능하다는 설명임. 결국 PIM의 핵심은 메모리 성능 자체보다 AI 데이터 이동 병목을 줄이는 데 있는 듯함. 아직 정확도와 성능 최적화가 더 필요하지만, 기존 인프라를 크게 바꾸지 않고 AI 처리 효율을 높일 수 있다는 점에서 상용화 가능성은 꽤 현실적으로 보임.