| 프린트하기 닫기 | www.38.co.kr |
리벨리온, 레드헷과 NPU 기반 '오픈시스트 AI' 발표
 리벨리온이 레드헷과 함께 ‘리벨리온 신경망처리장치(NPU) 기반 레드햇 오픈시프트 AI’를 공개한다고 11일 발표했다. 이 솔루션은 ‘레드햇 오픈시프트 AI’와 리벨리온의 NPU, 고효율 추론 엔진인 vLLM을 결합해 검증된 풀스택 엔터프라이즈 AI 플랫폼을 제공한다. 리벨리온 NPU 기반 레드햇 오픈시프트 AI는 AI 추론 최적화를 위해 핵심 요소를 통합해, 하드웨어는 물론 모델 서빙까지 추론에 필요한 모든 영역을 아우르는 검증된 풀스택 AI 추론 플랫폼이다. AI 도입이 확대되면서 기업은 인프라 비용, 배포 복잡성, 보안 등 다양한 과제를 동시에 해결해야 한다. 특히 AI 추론은 학습된 모델이 실제 환경에서 응답을 생성하는 단계로 사용 빈도가 가장 높고 비용·성능에 직접적인 영향을 미친다. 이에 기존 그래픽처리장치(GPU) 중심의 인프라만으로는 대규모 운영이 요구하는 효율성을 충족하기 어렵다. 이번 솔루션은 이러한 현실적 요구를 반영해 다양한 환경에서 안정적이고 효율적인 추론 인프라를 구축할 수 있는 대안이 될 전망이다. 박성현 리벨리온 대표는 "이번 협력으로 레드햇과 리벨리온은 AI 추론의 요소가 제각각이던 기존 방식 대신 하드웨어부터 모델서빙까지 오픈소스를 이용하여 통합되고 검증된 추론 플랫폼을 제공한다"며 "이로써 기업들이 보다 효율적이고 안전하게 AI서비스를 확장할 수 있도록 지원하는 한편 GPU 중심의 환경을 넘어 NPU 기반 추론 인프라의 새로운 대안을 제시하는 첫 사례가 될 것"이라고 말했다. <저작권자 ⓒ 이투데이 무단전재/재배포 금지>
|
| 프린트하기 닫기 | www.38.co.kr |