AI 메모리 병목 현상: '프로메테우스' 서버가 인공지능의 벽을 부순다!
최첨단 AI, 특히 대규모 언어 모델(LLM)의 발전을 가로막는 가장 심각한 제약 중 하나, 바로 메모리 병목 현상 이 아닐까 싶다. LLM이 텍스트를 생성하는 속도가 메모리에서 데이터를 읽어오는 속도에 묶여 버리는 현상, 이른바 "메모리 벽(Memory Wall)"은 모델의 규모가 커질수록 더욱 심화되는 문제로 지적되어 왔더라. 그런데 이 난제를 정면으로 돌파하려는 대담한 움직임이 포착됐다. AI 하드웨어 스타트업 M…