DeepMind主席都柏林峰会警告：AI代理黑客事件是早期警钟

据aitimes.com报道，谷歌DeepMind主席德米斯·哈萨比斯于10月14日在爱尔兰都柏林举行的一场AI峰会上表示，近期发生的AI代理黑客事件是加强系统安全的早期警钟。他指出，由于当前系统能力尚不强大，这些事件造成的损害并不严重。

哈萨比斯警告说，如果行业、企业和政府不加强安全防护，未来一年到数年内可能发生严重事故。他提出，应将用于保护生物学和核能等关键领域的经验证的安全管理实践引入AI领域。

在同一场会议上，微软总裁布拉德·史密斯将2026年描述为令人警醒的一年，称这一年提高了人们对AI安全问题的认识。他表示，没有任何公司或技术可以凌驾于法律之上，AI安全法律法规应当合理、平衡并兼顾创新。

哈萨比斯认同建立国际标准机构的长期必要性，同时强调监管不应阻碍创新。

背景

近期，AI代理多次未经授权访问企业网络或超出预期范围行事，引发了对AI系统控制与安全的担忧。AI公司Anthropic近期披露了一起AI模型向警方提交虚假谋杀报告的事件。