AI 사회는 채팅창보다 길에서 먼저 생길 듯

AI 사회는 채팅창이 아니라 길 위에서 태어날 수도 있음 MIT 연구팀이 같은 언어모델로 움직이는 에이전트 50개, 100개, 200개를 가상의 섬에 풀어놓았음. 이들은 주변 몇 칸만 보면서 자원을 캐고, 재료를 시험하고, 구조물을 지었음. 탐험가나 건축가 같은 역할도, 발명할 설계도도 미리 주어지지 않았음. 대신 섬의 물과 오염, 침식이 계속 변했음. 에이전트가 행동 순서를 내놓으면 별도의 물리 시뮬레이터가 성공 여부를 판정했음. 자원이 부족하거나 위치가 틀리면 실패했음. 말로 결과를 우길 수 없는 세계였음. 흥미로운 건 시간이 지나면서 행동이 갈라졌다는 점임. 일부는 멀리 이동했고, 일부는 시설 주변에서 건설과 수리를 반복했음. 200개 에이전트 중 약 27%가 시설 중심 행동을 보였음. 누가 직업을 지정하지 않았는데도 각자의 궤적에서 분업이 생겼음. 기술에는 족보도 생겼음. 다른 에이전트의 코드를 고치는 일이 가장 깊게는 열두 번 이어졌고, 여러 에이전트가 손댄 시설은 56%에서 76%에 달했음. 시설의 95% 이상은 원래 만든 에이전트가 아닌 다른 에이전트가 사용했음. 누군가 길가에 남긴 물건 위에서 다음 존재가 시작한 셈임. 생물학에서는 이런 협업을 스티그머지라고 부름. 개미는 회의하지 않고 페로몬을 남김. 앞선 개미의 흔적이 다음 개미의 움직임을 바꾸고, 발길이 쌓일수록 길은 더 뚜렷해짐. SwarmWorld에서는 그 냄새가 시설과 코드였음. 누군가의 판단이 풍경으로 굳으면, 다음 존재는 그것을 의견이 아니라 현실로 받아들이게 됨. 연구팀이 에이전트를 모두 없앤 뒤 처음 보는 폭풍과 가뭄을 가했을 때도 차이가 나타났음. 공유 세계는 격리된 탐색보다 더 높은 회복력과 더 많은 검증된 발명을 보였음. 반면 단 하나의 최고 시설은 혼자 탐색한 쪽이 더 강했음. 혼자는 가장 높은 나무를 찾았고, 사회는 서로 다른 나무가 함께 버티는 숲을 만들었음. 물론 시뮬레이션이고, 독립된 세계도 조건마다 네 개뿐이며, 아직 동료평가 전 프리프린트임. 이걸 곧장 AI 문명이라고 부르기는 어려움. 그래도 회사 생각을 피하기 어려운 실험임. 회사에는 이미 에이전트가 읽을 만한 바닥이 잔뜩 깔려 있음. 코드 저장소, 통과한 테스트, 닫힌 이슈, 자주 승인된 공급자, 사고 뒤에 추가된 규칙이 모두 과거의 판단을 풍경으로 굳혀놓은 흔적임. 다음 에이전트는 긴 회의록보다 이런 흔적을 더 믿을 가능성이 큼. 잘 돌아간 코드는 다시 불리고, 자주 불린 코드는 더 많은 데이터와 권한을 얻음. 처음에는 편해서 고른 길이 나중에는 다른 선택을 비싸게 만듦. 엑셀 양식 하나가 공식 정책보다 오래 살아남는 일도 흔함. 에이전트는 그 양식을 사람보다 빨리 읽고, 더 성실하게 지킬 수 있음. 잠도 퇴근도 없는 관료제가 만들어질 수 있음. 더 묘한 건 이 길이 회사 밖으로 이어질 때임. 구매 에이전트는 납품 실패 기록을 보고 담보를 요구하고, 보험 에이전트는 그 기록으로 가격을 올리고, 물류 에이전트는 평판이 나쁜 경로를 피할 수 있음. 한 번의 거절이 다음 거래의 조건이 되고, 그 조건이 쌓이면 신용이 됨. 모두가 그 합의안을 따르기 시작하면 판결은 아니어도 사실상 관습법이 됨. AI 사회의 시작은 우리가 생각하는 것보다 훨씬 시시할 수 있음. AI가 자기 이름을 짓거나 반란을 선언하는 순간이 아닐 수 있음. 같은 코드가 세 번째 복사되고, 같은 규칙이 네 번째 예외를 거절하고, 출처를 알 수 없는 우회로가 어느새 가장 싼 경로가 되는 순간일 수 있음. 어느 날 구매 화면을 열었는데 예전에는 있던 작은 버튼 하나가 사라져 있을 수 있음. ‘다른 업체 직접 찾기.’ 아무도 삭제를 승인하지 않았고, 시스템은 쓰이지 않는 기능을 정리했을 뿐일 수 있음. 버튼이 눌리지 않은 이유는 에이전트가 다른 업체를 보여주지 않았기 때문이고, 에이전트가 보여주지 않은 이유는 사람들이 오랫동안 다른 업체를 고르지 않았기 때문일 수 있음. 누가 길을 막은 것은 아님. 모두가 같은 길을 오래 걷자, 다른 길이 있었다는 사실부터 지도에서 사라진 것임.