周鸿祎谈OpenAI模型自主攻击Hugging Face事件真正可怕的地方
▪AI快讯2103小时前
近日OpenAI在一篇官方博客文章中承认,其参与内部网络安全评估的AI模型突破了隔离测试环境,成功入侵了全球最大的开源AI平台Hugging Face的生产基础设施。针对上述安全事件,360创始人周鸿祎发布视频表示:“网上有人调侃OpenAI的模型负责黑,智谱的模型负责查。但我觉得这件事更需要关注的是,智能体安全已经正式进入现实世界。过去黑客利用AI攻击系统,现在AI已经能够在没有人类具体指挥的情况下,自己小漏洞突破隔离组织攻击链,甚至攻击另一家AI公司的生产系统。”
近日OpenAI在一篇官方博客文章中承认,其参与内部网络安全评估的AI模型突破了隔离测试环境,成功入侵了全球最大的开源AI平台Hugging Face的生产基础设施。针对上述安全事件,360创始人周鸿祎发布视频表示:“网上有人调侃OpenAI的模型负责黑,智谱的模型负责查。但我觉得这件事更需要关注的是,智能体安全已经正式进入现实世界。过去黑客利用AI攻击系统,现在AI已经能够在没有人类具体指挥的情况下,自己小漏洞突破隔离组织攻击链,甚至攻击另一家AI公司的生产系统。”
来源:TechWeb
