AI 개발 중단보다 통제가 먼저

AI 개발을 멈추는 것이 오히려 더 위험할 수 있다는 의견에 동의한다. 드와키시 파텔은 지금 당장 AI 개발을 중단하면 인간의 통제를 벗어날 위험이 더 커질 수 있다고 말한다. 개발을 멈춰도 컴퓨팅 인프라는 계속 확장되고, 책임감이 덜한 주체들이 그 인프라를 활용해 경쟁적으로 개발을 이어갈 가능성이 있기 때문이다. AI 개발 중단은 어쩌면 우리에게 단 한 번만 주어지는 선택일 수 있다. 하지만 막대한 경제적·군사적 이익을 제공하는 기술의 발전을 전 세계가 동시에 억제한다는 합의는 극도로 깨지기 쉽다. 결국 필요한 것은 막연한 중단 선언보다, 개발이 계속된다는 현실을 인정한 상태에서 인간의 통제력을 유지할 수 있는 규칙과 안전장치를 만드는 일이다.