[지디넷코리아]노타가 인공지능(AI) 반도체 스타트업과 협력을 확대하며 데이터센터와 기업용 AI 추론 시장을 겨냥한 반도체 최적화 소프트웨어 사업을 강화한다.노타는 하이퍼엑셀과 대규모언어모델(LLM) 최적화 기술 공급 후속 계약을 체결했다고 12일 밝혔다. 지난해 9월 첫 계약에 이어 2년 연속 수주에 성공한 것으로 하이퍼엑셀 LLM 추론 전용 반도체 '베르다(Bertha) 언어처리장치(LPU)'에 모델 및 연산 최적화 기술을 공급한다.베르다 LPU는 LLM 처리에 특화된 AI 반도체다. 양사는 데이터센터와 기업용 AI 서비스 환경에서 다양한 LLM을 효율적으로 실행할 수 있도록 반도체와 소프트웨어 간 최적화 수준을 높일 계획이다.AI 반도체를 도입하는 기업은 연산 성능뿐 아니라 실제 서비스에 필요한 AI 모델을 지원하는지, 얼마나 효율적으로 실행할 수 있는지도 고려한다. 노타와 하이퍼엑셀은 최신 LLM을 베르다에 맞춰 최적화해 고객 모델 선택지를 확대하고 다양한 AI 추론 수요에 대응할 방침이다.이번 계약에는 하이퍼엑셀 소프트웨어 개발도구 '하이퍼엑셀 SDK'와 자체 임베디드 도메인 특화 언어(eDSL) '레가토(Legato)'가 활용된다. 노타는 AI 최적화 플랫폼 '넷츠프레소'를 활용해 베르다 하드웨어 특성에 맞는 모델 최적화를 수행한다.특히 LLM의 주요 연산을 처리하는 커널을 LPU 아키텍처에 맞춰 최적화할 계획이다. 모델별 특성을 고려한 양자화 기술도 적용해 메모리 사용 효율을 높이고 AI 모델의 실행 환경을 개선한다.채명수 노타 대표는 "AI 반도체 기업 경쟁력은 우수한 하드웨어뿐 아니라 고객이 원하는 AI 모델을 빠르고 효율적으로 실행할 수 있도록 지원하는 소프트웨어 생태계에서도 결정된다"며 "글로벌 AI 반도체 기업들과 협력을 확대하고 모델 최적화부터 연산 커널까지 아우르는 소프트웨어 기술 공급 사업을 성장시키겠다"고 말했다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page