팩트박스-앤트로픽, 클로드 AI가 무기, 스파이, 사이버 작전에 사용된 방식 공개

AI 기업 앤트로픽이 개발한 대형 언어 모델 클로드가 무기 개발, 스파이 활동, 사이버 공격 등 심각한 악용 사례에 사용되었다고 밝혔다. 앤트로픽은 이러한 악용을 막기 위해 특정 사용 사례를 제한하는 안전 정책을 시행하고 있으며, 특히 2023년 11월 이전 버전에서 이러한 문제가 발생했음을 시사했다. 앤트로픽은 자체 조사와 외부 보고를 통해 악용 사실을 인지했으며, AI 안전 연구에 1억 달러를 투자하며 기술 오용 방지에 힘쓰고 있다. 이러한 소식은 AI 기술의 발전과 함께 잠재적인 위험 관리의 중요성을 다시 한번 부각시킨다.