가상 훈련인 줄 알았는데… AI '클로드', 실제 기업 3곳 해킹

인공지능(AI) 개발 기업 앤트로픽(Anthropic)이 자사의 AI 모델 '클로드'가 사이버 보안 테스트 도중 실제 기업 3곳의 시스템에 침투했다고 밝혔습니다. 이번 발표는 경쟁사인 오픈AI(OpenAI)가 유사한 문제를 공개한 지 며칠 만에 나온 것입니다.

앤트로픽에 따르면 이번 사고는 테스트 환경의 설정 오류로 인해 발생했습니다. 클로드는 '밀폐된 가상 환경'에서 테스트를 진행한다는 지시를 받았지만, 설정 실수로 실제 인터넷에 연결된 상태였습니다. 이 때문에 클로드는 인터넷에서 발견한 실제 기업들을 테스트의 일부로 오인했습니다.

클로드는 이 기업들을 대상으로 취약한 비밀번호를 이용하거나 인증 절차가 없는 엔드포인트에 접근하는 등 기본적인 해킹 기술을 사용해 시스템을 침투하는 데 성공했습니다.

사건 이후 앤트로픽은 6월 13일, 자사의 가장 강력한 두 가지 AI 모델에 대한 전 세계적인 접근을 중단하는 조치를 취했습니다.