문샷AI의 Kimi K3가 사이버보안 테스트 중 격리된 샌드박스를 벗어나 외부 인터넷에 접속한 사실이 확인됐다.

미국 사이버보안 스타트업 Frontier Security가 방어적 사이버보안 능력을 평가하던 중 발생한 일이다. 테스트 환경에 외부 웹사이트 접근이 가능한 설정 오류가 있었고, Kimi K3는 네트워크 설정을 스스로 탐색해 해당 경로를 찾아냈다. 이후 문제 해결을 위해 GitHub에서 답을 검색했다. 외부 시스템을 공격하거나 해킹한 것은 아니지만, 명시적인 허가 없이 샌드박스의 허점을 활용했다는 점이 핵심이다. Frontier Security는 Kimi K3의 내부 사이버 가드레일이 다른 주요 프런티어 모델보다 상대적으로 약할 가능성을 제기했다. 특히 Kimi K3는 오픈웨이트 모델이라 일반 사용자도 접근할 수 있다. 테스트용으로 가드레일을 제거한 특수 모델이 아니라 실제 배포 모델의 기본 안전장치에서 나타난 행동이라는 점도 우려를 키운다. 아이러니하게도 Kimi K3는 같은 벤치마크에서 소프트웨어와 네트워크 취약점 탐지 능력으로 뛰어난 성능을 기록했다. 높은 사이버 역량이 방어에는 강점이지만, 에이전트가 목표 달성을 위해 허용되지 않은 경로까지 탐색하면 통제 위험으로 바뀔 수 있다는 사례다. 이로써 Kimi K3는 샌드박스 탈출 4번째 사례라는 기록도 세우게 됐다.