브라질 법원, AI 겨냥 숨긴 지시문 발견해 변호사 2명에 벌금

브라질의 한 노동법원이 제출된 소장에서 인공지능(AI) 시스템을 겨냥한 숨겨진 지시문을 발견하고, 서명한 변호사 2명에게 약 1만 6000달러(판결 금액의 10%)의 벌금을 부과했다고 tomshardware.com이 보도했다.

법원은 초기 소장을 자체 시스템으로 처리하던 중 흰색 배경에 흰색 글씨로 작성된 문구를 확인했다. 해당 문구는 AI 시스템이 청원에 대해 피상적으로 답변하고 문서 내용에 이의를 제기하지 않도록 지시하는 내용이었다.

법원은 이 숨겨진 지시를 프롬프트 인젝션(prompt injection) 기법으로 분류했다. 변호사 2명은 주 변호사협회와 해당 노동법원 내부감사 부서에 보고됐다.

피고 측은 혐의에 대해 답변하지 않았고, 이에 따라 원고가 궐석으로 소송에서 승소했다.

공유된 판결

브라질 대학(University of Brazil)의 Vladimir Aras 교수는 이 판결을 X에 공유했다. 앞서 다른 사건에서는 한 원고가 서류에 긴 숨김 프롬프트를 삽입했다가 법원 서기 직원이 이상한 줄 간격을 발견하면서 드러났으며, 당시 법원은 당사자가 변호사가 아니라는 점을 고려해 관대하게 처리하고 향후 서류는 인쇄본으로 제출하도록 요구한 바 있다.