아마존, 실패한 AI 작업에 180만 달러 낭비… 5개월 동안 인지 못 해

아마존이 AI 프로젝트에서 180만 달러의 상당한 금액을 낭비한 사실이 드러났습니다. 해당 AI 모델은 텍스트에 대한 질문에 답변하도록 설계되었으나, 5개월간의 운영 기간 동안 '거의 모든 질문'에 잘못된 답변을 생성했습니다. 이로 인해 AI 모델 훈련 및 배포 과정에서 180만 달러의 비용이 발생했으나, 이를 오랜 기간 인지하지 못했습니다. 이번 사례는 AI 기술 개발 및 운영 과정에서 철저한 비용 관리와 지속적인 성능 모니터링의 중요성을 강조합니다. 특히 대규모 언어 모델(LLM) 개발 시 예상치 못한 비용 발생 가능성에 대한 주의가 요구됩니다.