AI 조직의 헌법을 설계해야 함

그래프 엔지니어링의 진짜 함의는 AI 에이전트를 여러 개 연결하는 데 있지 않다. AI가 자신의 조직 구조와 권력 배분까지 바꾸기 시작했다는 데 있다. 조사 담당, 분석 담당, 검증 담당 에이전트를 붙이면 겉으로는 다양한 의견이 오가는 것처럼 보인다. 하지만 셋이 같은 검색 결과를 읽고 같은 모델의 습관으로 추론한다면, 회의에 세 명이 있어도 생각은 하나일 수 있다. 그래프는 단순한 업무 흐름도가 아니다. 누가 원문을 보고, 누가 요약본만 받으며, 어느 판단에 증거가 필요하고, 누가 거부권을 갖는지를 정하는 실행 구조다. 연결선이 곧 통제선이 된다. 그래서 그래프 엔지니어링은 AI 조직의 헌법을 코드로 만드는 일에 가깝다. 지식 그래프가 무엇을 사실로 취급할지 정한다면, 실행 그래프는 누가 그 사실을 읽고 어떤 행동을 승인할지 정한다. 둘은 연결하되 쓰기 권한은 분리해야 한다. 잘못된 사실을 등록한 에이전트가 실행 권한까지 넓힐 수 있다면 오류는 답변에 머물지 않고 명령이 된다. 더 많은 에이전트와 더 긴 회의가 항상 더 나은 결과를 보장하지도 않는다. 최근 연구에서도 잘못된 업무 배분, 정보 손실, 에이전트 간 불일치와 검증 실패가 반복된다. 독립적으로 보이는 에이전트들이 실제로는 같은 데이터와 지시문에서 나온 비슷한 오류를 공유할 수 있기 때문이다. 검증 담당 에이전트는 작성된 문장만 읽어서는 안 된다. 원문부터 다시 확인해야 한다. 코딩 에이전트가 만든 코드는 다른 에이전트의 칭찬보다 자동 시험과 문법 검사가 먼저 배포를 막아야 한다. 예측값은 실측값과 대조해야 한다. 완벽하지 않더라도 시험지와 합격선을 에이전트가 함께 고치지 못하게 하는 장치가 필요하다. 무엇을 보여줄지도 권한이다. 어떤 관계를 문맥에 넣고 어떤 반대 증거를 제외할지가 판단의 경계를 만든다. 검색 담당 에이전트는 자료를 찾는 사서인 동시에 회의 안건을 정하는 사람이다. 앞으로 중요한 질문은 AI에게 어떤 일을 맡길지가 아닐 수 있다. 그 조직을 누가 만들고 바꿀지, 바뀐 뒤의 판단을 어디까지 되돌릴 수 있을지가 더 중요해진다. 내가 만든 AI 조직에서 모두가 같은 답을 내놓을 때, 끝까지 “아니다”라고 말할 수 있는 구조를 먼저 설계해야 한다.