前Ai2研究员创立Trillium Labs，专注透明AI研究
Nathan Lambert与Tom Zick共同创立非营利机构Trillium Labs，今日正式启动，初期聚焦后训练、递归自我改进与强化学习。
据wired.com报道，Nathan Lambert与Tom Zick共同创立的非营利研究机构Trillium Labs于今天正式启动。该机构将公开实验细节，供外部科学家研究与复现，以透明方式开展人工智能研究。
Trillium Labs初期的研究重点包括后训练、递归自我改进（RSI）以及强化学习。机构还将研究强化学习如何塑造AI模型的性格与行为。
两位创始人的背景横跨产业与学界。Lambert曾在Ai2工作，该机构在AI研究上采取了异常开放的做法；他还曾在Hugging Face任职，并发起了American Truly Open Models倡议。Zick曾在哈佛大学工作，并协助Charles Schwab制定负责任AI相关政策。
据背景信息，两人是在新冠疫情期间、同为加州大学伯克利分校研究生时通过Zoom结识的。Trillium Labs成立之际，透明与开放正成为AI研究领域的一条并行路线：本月初，一名Anthropic研究员离职并警告称，递归自我改进可能对人类构成生存威胁；近期，小米集团公开了一次涉及旗下某模型的大型训练过程细节；斯坦福大学的研究人员则正在公开预训练AI模型Marin。
快速问答
Trillium Labs是什么机构？
它是由Nathan Lambert和Tom Zick创立的非营利机构，以透明方式开展AI研究，公开实验细节供外部科学家研究和复现。
Trillium Labs初期研究哪些方向？
初期聚焦后训练、递归自我改进（RSI）和强化学习，并研究强化学习如何塑造AI模型的性格与行为。
两位创始人此前在哪里工作？
Lambert曾在Ai2和Hugging Face工作，并发起American Truly Open Models倡议；Zick曾在哈佛大学工作，并协助Charles Schwab制定负责任AI政策。