앤트로픽, 중요 소프트웨어 보안 위한 '프로젝트 글래스윙' 출시

AI 안전 연구 기업 앤트로픽이 자체 개발한 AI 모델의 보안 및 신뢰성 강화를 위한 '프로젝트 글래스윙'을 공개했습니다. 이 프로젝트는 AI 모델이 예상치 못한 오류를 일으키거나 취약점을 노출하는 것을 방지하기 위한 도구 모음으로 구성됩니다. 특히 AI의 '환각' 현상을 줄이고 예측 불가능한 행동을 최소화하는 데 중점을 두고 있습니다. 앤트로픽은 이를 통해 AI 시스템의 안전성과 신뢰도를 높여 AI 기술의 건전한 발전에 기여하겠다는 입장입니다. 이번 프로젝트는 AI 모델 개발 및 운영 전반에 걸쳐 보안을 강화하려는 업계의 노력을 보여줍니다.