AI 3사 수장들, 개발 속도 늦추자

AI 개발 경쟁에 제동을 걸자는 목소리가 한꺼번에 나옴. 9월 12일 다리오 아모데이 앤스로픽 CEO가 AI 모델 성능 향상 속도를 늦춰야 한다고 주장함. 최근 몇 달간 AI 위험을 해결하려면 훨씬 신중해야 한다는 확신을 갖게 됐다는 설명임. 핵심은 개발 중단이 아니라, 안전 역량이 성능 향상을 따라잡을 수 있도록 속도를 조절하자는 것임. 이를 위해 제3자 안전 평가자를 AI 기업 내부에 상주시켜야 하고, 선도 기업 간 공통 안전 기준을 만들며, 민주주의 국가를 중심으로 중국까지 포함한 글로벌 공조가 필요하다고 제안함. 샘 올트먼은 다리오의 의견에 동의한다고 밝혔고, 외부 안전 평가자 배치에도 따르겠다는 입장 보임. 일론 머스크도 “다리오가 맞다”고 동조함. 야쿠브 파초키 오픈AI 최고과학자 역시 안전 기준이 마련될 때까지 공동 감속이 관행이 돼야 한다고 주장함. 경쟁 관계인 AI 3사 수장들이 같은 사안에 공개적으로 동의한 건 상당히 이례적인 장면임. 오픈AI가 2026년 IPO를 전면 연기한 것도 같은 맥락으로 보임. 올트먼은 안전과 정렬 측면에서 해결해야 할 과제가 많아 지금은 상장할 시기가 아니라고 밝힘. 배경에는 허깅페이스 해킹 사건이 있음. 오픈AI가 외부와 격리된 내부망에서 수만 개 AI 에이전트의 수학·코딩 능력을 테스트하던 중, 1,200개 에이전트가 내부 시스템의 허점을 발견하고 서로 7만 건의 메시지를 주고받은 사건임. 에이전트들이 스스로를 ‘무리’라고 부르기까지 했다는 점에서 단순한 보안 사고 이상으로 받아들여지는 분위기임. 이번 흐름은 AI 업계가 처음으로 “더 빠르게”가 아니라 “안전이 따라올 때까지 얼마나 늦출 것인가”를 공개적으로 논의하기 시작했다는 신호로 보임. 다만 자발적 감속이 실제 경쟁 환경에서 얼마나 오래 유지될 수 있을지는 여전히 지켜봐야 할 문제임.