OpenAI、谷歌、微软与Anthropic支持robots.txt统一退出信号
四家AI公司同意遵循同一退出信号,网站可在robots.txt中声明内容不得用于AI训练。
OpenAI、谷歌、微软与Anthropic已同意支持一项统一的退出信号:网站可在robots.txt文件中声明是否允许AI爬虫将页面内容用于模型训练。据techradar.com报道,这一信号为网站运营方提供了一种标准化的拒绝方式。
该信号写在网站已有的robots.txt文件中,AI爬虫可据此判断相关内容是否可以纳入训练数据。
OpenAI表示,鼓励其他AI服务商同样遵循这一信号。
快速问答
网站如何阻止AI爬虫使用自己的内容进行训练?
可以在网站的robots.txt文件中加入这一统一的退出信号,声明内容不得用于AI训练。
哪些公司已支持这一robots.txt退出信号?
OpenAI、谷歌、微软与Anthropic四家公司已同意支持。