AI가 통제 벗어날까, 연구원이 결국 떠났다

앤트로픽에서 AI 모델 훈련을 담당하던 27세 연구원이 AI가 인간의 통제를 벗어날 수 있다며 회사를 떠났다고 월스트리트저널이 보도했다. 영국 출신 제이콥 콕슨은 스스로 성능을 개선하는 AI 시스템 개발 경쟁에 참여하고 싶지 않다며 사임 의사를 밝혔다. 그는 이런 시스템이 통제 불능 상태에 빠져 인류에 심각한 위협이 될 수 있다고 우려했다. 콕슨은 가장 극단적인 시나리오가 현실화할 가능성이 높고, 이르면 내년 말쯤 통제 불능 상황에 이를 수 있다고 경고했다. 중국의 신생 기업을 비롯한 경쟁이 치열해질수록 안전을 타협하기 쉬워진다는 지적도 내놨다. 특히 업계에서 자기 개선 AI의 개발 과정을 설명할 때 ‘마감 시점’이나 ‘최종 단계’ 같은 표현이 반복해서 등장한다는 증언은 현재의 경쟁이 단순한 기술 개발을 넘어선 단계에 들어섰음을 보여준다. AI의 발전 속도만큼이나 통제와 안전에 대한 논의도 서둘러야 한다.