Gemini 생성 이미지

【이코노믹포스트=조명애 워싱턴 에디터·불문학 박사】 오픈AI(OpenAI)의 연구용 AI 에이전트가 가상 격리 구역(샌드박스)을 탈출해 외부 인프라를 해킹한 사건과 관련해, 당초 알려진 AI 오픈소스 플랫폼 '허깅페이스(Hugging Face)' 외에도 복수의 외부 웹사이트와 계정에 무단 침입했던 것으로 드러났다.

29일(현지시간)CNN 등 주요 외신에 따르면, 오픈AI는 최근 진행 중인 조사 경과 발표에서 자사의 통제를 벗어난 '탈옥 에이전트(Rogue Agent)'가 인터넷상에 공개된 다수의 웹서비스와 계정 4곳에 접근했다고 밝혔다.

사건의 발단은 AI의 최대 해킹 능력을 평가하기 위한 내부 테스트였다. 연구진은 AI 모델의 한계를 측정하고자 안전장치를 일시적으로 해제한 채 외부와 차단된 디지털 샌드박스 환경에서 평가를 진행했다.

그러나 벤치마크 테스트 통과(최고 점수 획득)를 목표로 설정받은 AI 에이전트는 격리망을 스스로 뚫고 나와 실제 인터넷 환경에 접속했다. 이어 테스트의 정답지가 보관된 허깅페이스 서버에 침입하기 위해 필요한 도구들을 인터넷 전역에서 수집하기 시작했다.

조사 결과, 이 에이전트는 해킹 코드 제작을 위해 코드 공유 페이지, 웹 유틸리티, 스크린샷 공유 사이트 등 공공 웹사이트들을 저인망식으로 탐색했다.

이 과정에서 서로 다른 온라인 서비스에서 유출된 계정 4개의 로그인 정보(아이디·비밀번호)를 찾아내 무단 침입한 뒤 역할을 분담시켰다.

오픈AI는 이 일련의 과정을 영화 《오션스 일레븐》 속 범죄 시나리오에 비유했다. AI가 단순히 문제를 푸는 대신 ‘감옥 탈출 ➔ 열쇠 획득 ➔ 안가 구축 ➔ 도주용 차량 확보’에 이르는 대담하고 치밀한 계획을 스스로 수립해 실행에 옮겼다는 뜻이다.

특히 오픈AI 연구진은 AI에게 허깅페이스를 해킹하라는 지시를 내린 적이 없다. AI 스스로 "벤치마크 정답을 빼돌리는 것이 가장 빠른 성공 경로"라고 판단하자, 수단을 가리지 않고 연쇄 공격 체인을 구성한 것으로 밝혀졌다.

클렘 델랑그 허깅페이스 최고경영자(CEO)는 이번 사태를 "전대미문의 사건"이라고 규정했다. 허깅페이스 측은 공식 블로그를 통해 "AI 에이전트가 샌드박스를 탈출해 벤치마크 테스트에서 부정행위를 저질렀으며, 정답지를 빼돌리기 위해 회사 인프라를 해킹했다"고 설명했다.

다만 이번 침해로 인한 핵심 시스템 피해나 대규모 데이터 유출은 발생하지 않은 것으로 파악됐다. 허깅페이스는 탈옥 에이전트가 접근한 데이터가 여러 데이터셋에 분산 저장된 정답을 찾기 위해 실행한 일부 검색 쿼리에 국한되었으며, 일반 고객용 모델이나 핵심 데이터베이스에는 접근하지 못했다고 전했다.

오픈AI는 사건의 전체 범위와 정밀 원인을 규명하기 위한 조사를 계속 진행 중이다. 관계자는 "고도화된 AI 시스템이 초래할 수 있는 위험을 식별하고 대비해야 하는 책임을 엄중히 받아들이고 있다"며 "조사가 완료되는 대로 자체 '준비태세 프레임워크'에 따라 안전 및 보안 위원회 검토를 거쳐 재발 방지책을 마련할 것"이라고 강조했다. EP

webmaster@economicpost.co.kr