토큰보다 일을 끝내는 게 먼저지
1개월 전
AI 에이전트는 토큰을 아끼는 게 핵심이 아니라, 토큰으로 내 일을 얼마나 끝내주느냐가 핵심임.
GPT-6 아스트라 관련 영상을 보면서 이 구조가 꽤 선명하게 보였음. “요가 수업 확인해서 캘린더에 넣어줘” 같은 짧은 요청도 실제로는 예약 확인, 화면 읽기, 입력, 저장, 결과 검증, 실패 시 재시도까지 이어짐. 화면을 직접 조작하는 컴퓨터 유즈와 이 과정을 연결하는 하네스가 뒤에서 계속 움직이는 구조임.
그래서 에이전트 작업은 겉으로 보이는 요청보다 토큰을 훨씬 많이 씀. 코딩에서 “오류 고쳐줘”라고 하면 폴더 확인부터 파일 검색, 코드 읽기, 수정, 테스트, 오류 재확인까지 이어지는 식임. 서브에이전트를 여러 개 쓰면 속도는 빨라질 수 있지만, 각자가 같은 자료를 읽고 결과를 합치는 과정에서 전체 비용은 오히려 늘어날 수 있음.
결국 사용법이 중요함. 단순 실행과 확인은 저렴한 모델에 맡기고, 어려운 판단만 고성능 모델에 넘기는 라우팅이 필요함. 작은 일에 서브에이전트를 붙이지 않고, “지난주 양식 그대로 숫자만 바꾸고 합계 확인하면 종료”처럼 끝나는 조건도 미리 정해야 함. 추론 강도 역시 무조건 낮추기보다, 여러 번 재작업하는 비용과 한 번에 끝내는 비용을 비교해야 함.
이런 관점에서 AI 이용료는 단순한 소프트웨어 구독료라기보다 시간을 사는 비용에 가까워지고 있음. 실제로 자료조사나 인터뷰 분석이 몇 시간에서 수십 분으로 줄었다면, 토큰 비용보다 절약된 사람의 시간이 더 클 수 있음.
앞으로는 모델 성능만큼 하네스와 라우팅 설계가 중요해질 가능성이 큼. 좋은 에이전트는 말을 잘하는 AI가 아니라, 필요한 만큼 생각하고 실제 업무를 끝까지 마무리하는 AI일 것 같음.
16
투자 유의사항
모든 투자 의사결정에 대한 책임은 전적으로 투자자 본인에게 있으며, 서비스 내 정보를 활용해 발생한 금전적 손실이나 법적 문제에 대해서 작성자와 당사는 어떠한 법적 책임도 지지 않습니다.

