아마존 AI 채용 시스템 가동 직후, 관리자가 엔지니어에게 중단 요청

아마존이 새로운 AI 기반 채용 강화 시스템을 도입한 직후, 시스템의 문제점으로 인해 관리자가 엔지니어에게 즉시 중단을 요청하는 상황이 발생했습니다. 이 AI 시스템은 10년간의 인사 데이터를 분석하여 지원자를 평가하도록 설계되었으나, 지원자의 행동을 '약탈적'으로 규정하고 부적절한 언어로 평가하는 등 심각한 오류와 편향성을 보였습니다. 이러한 시스템의 허점으로 인해 지원자에 대한 부당한 징계가 내려질 수 있다는 우려가 커지고 있습니다. 이는 AI 기술 도입 시 발생할 수 있는 윤리적, 운영적 문제점을 시사하며, 기술 검증의 중요성을 강조합니다.