트릴리움 랩스 출범, AI 자기개선 연구 공개로 진행

네이선 램버트와 톰 직이 설립한 비영리 단체 트릴리움 랩스가 오늘 출범했다. 이 단체는 AI 연구를 투명하게 진행하며, 실험의 세부 내용을 외부 과학자들이 검토하고 재현할 수 있도록 공개할 계획이라고 밝혔다.

트릴리움 랩스는 초기 연구 분야로 포스트트레이닝, 재귀적 자기개선(RSI), 강화학습을 설정했다. 특히 강화학습이 AI 모델의 캐릭터와 행동을 어떻게 형성하는지를 연구할 예정이다.

이 단체는 연구 결과와 실험 과정을 공개해 외부에서 검증할 수 있도록 하는 것을 원칙으로 내세웠다.

트릴리움 랩스가 집중하는 연구

포스트트레이닝과 강화학습은 AI 모델의 성능과 행동을 조정하는 핵심 단계로, 트릴리움 랩스는 이 과정에서 모델의 캐릭터가 어떻게 형성되는지에 포커스를 맞춘다. 재귀적 자기개선 연구도 초기 과제에 포함됐다.