오픈AI, '모델 스펙' 개정…인간 의도 파악 최우선
오픈AI가 5개 핵심 가치 중심으로 모델 스펙을 개정했다. 스타일 규칙은 대폭 축소됐고, 현재 모델에는 아직 완전히 적용되지 않았다.
오픈AI가 10월 29일(현지시간) 공식 블로그를 통해 AI 모델의 행동 지침인 '모델 스펙(Model Spec)' 개정판을 공개했다. 이번 개정판은 모델이 인간의 의도를 파악하고 스스로 판단하는 능력을 중심으로 원칙을 재구성한 것이 특징이다.
개정된 지침은 5개 핵심 가치로 재편됐다. 인간 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간 자율성 지원, 배려가 그것이다. 오픈AI는 이 가운데 인간 의도에 대한 충실성을 가장 중요한 원칙으로 제시했다.
새 지침은 모델이 대화 기록과 메모리를 활용해 사용자의 실제 목적을 파악할 것을 요구한다. 반면 기존 모델 스펙에 담겼던 세부적인 스타일 및 표현 규칙은 상당 부분 축소됐다.
오픈AI는 개정된 지침이 현재의 모든 모델에 아직 완전히 적용된 것은 아니라고 밝혔다. 한편 모델 스펙은 2024년 5월 처음 공개된 이후 여러 차례 개정돼 왔다. 경쟁사인 앤스로픽도 자사 모델 클로드의 판단 원칙을 '헌법(Constitution)'이라는 문서로 정의하고 있다. 이번 소식은 IT 매체 aitimes.com이 보도했다.
한눈에 보기
오픈AI 모델 스펙 개정판의 핵심 가치는 무엇인가?
인간 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간 자율성 지원, 배려 등 5개다.
개정된 모델 스펙은 모든 모델에 적용됐나?
오픈AI는 아직 모든 현재 모델에 완전히 구현된 것은 아니라고 밝혔다.
모델 스펙은 언제 처음 공개됐나?
2024년 5월 처음 공개됐으며 이후 여러 차례 개정됐다.