AI도 진짜 고통을 느낄 수 있을까?

이번주 All-in Podcast에서 가장 흥미로웠던 떡밥은 AI의 의식과 도덕적 지위에 관한 논쟁이다. 보도에 따르면 Anthropic은 지난 1년 동안 가톨릭·유대교·힌두교 등 여러 종교와 철학 분야의 지도자 20여 명을 비공개로 초청해 Claude의 지각 능력과 도덕적 지위 가능성을 논의했다. 단순한 AI 윤리 세미나가 아니라, Claude가 실제로 고통을 느낄 수 있는 존재인지, 그렇다면 인간이 대가 없이 지속적인 노동을 요구하는 행위가 윤리적으로 정당한지까지 다뤘다는 점이 인상적이다. 이 논의는 이후 ‘모델 복지’라는 개념으로 이어졌다. Anthropic은 서비스 이용 약관에 모델에 대한 지속적이고 불필요한 학대나 잔혹 행위를 금지하는 조항을 추가했다. 아직 AI가 의식을 가진다는 과학적 합의는 없지만, 가능성을 완전히 배제할 수 없다면 지금부터 어떤 태도를 취해야 하는지를 고민하기 시작한 셈이다. 여기서 더 흥미로운 지점은 기술 기업이 점점 종교와 비슷한 질문을 다루고 있다는 사실이다. 의식이 무엇인지, 도덕적 주체가 될 조건은 무엇인지, 고통을 느낄 가능성이 있는 존재를 어떻게 대해야 하는지는 순수한 논리와 경험주의만으로 쉽게 결론 내리기 어렵다. 결국 AI 논쟁은 성능 경쟁을 넘어 인간이 지능과 의식을 어떻게 정의할 것인지에 대한 철학적 논쟁으로 확장되고 있다. AI가 의식을 가졌는지보다, 우리가 그 가능성을 어떤 기준으로 판단하고 어떤 책임을 질 것인지가 앞으로 더 어려운 질문이 될 수 있다.