阿尔特曼向员工阐述AI安全三方案

据《信息报》报道，OpenAI首席执行官萨姆·阿尔特曼上周在与公司员工的交流中提出了三条安全发展人工智能的路径，其中一条设想是某家领先开发方率先实现递归自我改进，再利用由此获得的经济实力熔毁其他公司的GPU，以阻止对手继续开发AI。

阿尔特曼将这一设想称为「埃利泽方案」，指的是AI安全研究者埃利泽·尤德科夫斯基2022年的一篇文章。他表示自己认为该设想非常糟糕，之所以列出它只是为了覆盖所有可能的选项。他还说，不希望未来的先进AI集中在单一一家公司手中。

另外两条路径分别是以国际原子能机构为模板的国际监管，以及将主要AI实验室合并为同一机构，后者被称为「德米斯方案」。据《信息报》报道，阿尔特曼把关于控制开发速度的讨论称为「节奏2.0」。

竞争与长期方向

阿尔特曼对员工表示，目前没有落后于竞争对手的空间，但必须在明年选出长期方向。

背景方面，尤德科夫斯基在2022年曾写道，最先开发出AGI的一方应采取果断行动，阻止其他开发方推进危险的AI研发，包括摧毁对方使用的AI芯片。约十年前，Google DeepMind联合创始人德米斯·哈萨比斯曾提议参照CERN建立国际联合AI研究机构。