谷歌DeepMind推出AI安全框架Frontier Safety Framework

IT之家5月21日消息，谷歌DeepMind日前推出了一款名为“FrontierSafetyFramework”的AI安全框架，主要用于检测AI模型的风险情况，号称能够主动识别“未来可能酿成重大风险的AI能力”，向研究人员指出相关模型“究竟在哪些层面可能会被黑客利用”。

据介绍，DeepMind目前公布的版本主要包含三个关键组件，即“识别模型是否具备酿成重大风险的能力”，“预估模型会在什么阶段具备安全隐患”、“智能优化模型防止其酿成风险”。

DeepMind表示，该公司“一直在突破AI的边界”，所开发的模型已改变了他们对AI可能性的认知，虽然公司相信未来的AI技术将为社会带来宝贵的工具。但他们也意识到相关AI技术的风险性有可能对社会造成毁灭性的影响，因此他们正在逐步增强模型的安全性与可控性。

IT之家注意到，目前DeepMind仍在开发FrontierSafetyFramework，计划通过产业、学术及有关部门的合作来改善相关框架。

很赞哦!（189）