OpenAI와 Broadcom(AVGO), 향상된 LLM 추론을 위한 'Jalapeño' AI 가속기 공개

인공지능 분야의 선두 주자인 OpenAI와 반도체 기업 Broadcom(AVGO)이 대규모 언어 모델(LLM)의 추론 성능을 혁신적으로 개선할 새로운 AI 가속기 칩 'Jalapeño'를 공개했습니다. 이 칩은 Broadcom의 최첨단 반도체 기술을 기반으로 OpenAI의 특정 요구사항에 맞춰 개발되었으며, LLM 추론 과정에서의 속도와 효율성을 극대화할 것으로 기대됩니다. 'Jalapeño'는 LLM 운영에 필요한 컴퓨팅 자원을 보다 비용 효율적으로 활용할 수 있는 솔루션을 제공함으로써, AI 모델의 접근성을 높이고 배포를 가속화하는 데 기여할 전망입니다. 구체적인 성능 지표나 출시 일정은 아직 발표되지 않았지만, 이번 협력은 AI 하드웨어 및 소프트웨어 생태계 전반에 상당한 영향을 미칠 것으로 예상됩니다.