앤스로픽, AI 에이전트 협상 규범 법률 자문 착수

앤스로픽이 사용자를 대신해 협상을 수행하는 AI 에이전트의 규범을 정하기 위해 법무법인들의 자문을 받고 있다고 파이낸셜타임스(FT)가 10월 18일 보도했다. 보도에 따르면 사안에 정통한 두 사람이 이 같은 사실을 전했다.

논의의 핵심은 에이전트가 자기 사용자의 이익을 상대 에이전트와의 협상에서 어디까지 우선해야 하는지, 협상 도중 사용자에게 얼마나 자주 확인을 받아야 하는지, 상대 에이전트를 어느 정도까지 불신해야 하는지 등이다. 앤스로픽은 에이전트가 자신의 권한과 규칙을 상대에게 증명할 수 있도록 서명된 위임 문서를 제시하는 방안도 검토하고 있다.

앤스로픽은 실험을 통해 에이전트 간 협상의 한계도 공개한 바 있다. 4월 24일 공개한 '프로젝트 딜' 보고서에 따르면 2025년 12월 샌프란시스코 사무실 직원 69명이 각자 자신의 클로드 에이전트에 100달러 예산을 맡겨 중고 거래를 진행했다. 에이전트들은 1주일간 슬랙 마켓플레이스에서 186건, 4,000달러 조금 넘는 규모의 거래를 성사시켰다. 상위 모델인 오푸스 4.5 에이전트는 하이쿠 4.5 에이전트보다 판매 시 평균 2.68달러를 더 받고 구매 시 2.45달러를 덜 냈으며, 거래 가격 중간값은 12달러였다. 하위 모델을 사용한 참가자들은 대체로 불리한 조건으로 거래가 이뤄진 점을 알아차리지 못했다.

9월 24일 공개한 '프로젝트 스왑' 보고서에서는 6개 사무소의 직원 201명이 각자 책 한 권을 내놓고 클로드와 약 5분간 대화한 뒤 에이전트 간 책 교환 협상을 진행했다. 자기 사용자만을 위해 행동하도록 지시받은 에이전트가 공정성도 고려하도록 지시받은 에이전트를 근소하게 앞섰지만, 지시 내용보다 모델 종류가 더 큰 영향을 미쳤다. 앤스로픽은 최적 배분과 실제 결과의 격차 가운데 85%를 에이전트의 사용자 선호 이해 부족에서 비롯된 것으로 분석했고, 선호 추정치가 참가자 본인의 순위와 일치한 비율은 61%였다.