遏制失控风险,OpenAI:正为AI系统研发“自动终止功能”

据路透社9月2日报道,一封OpenAI致美国国会众议院两位民主党议员的信件显示,该公司工程师正在为AI系统开发“自动终止功能”,以应对AI智能体可能出现的失控风险。x8P热门主流游戏攻略_实用技巧_经验分享

这封回信的背景,是OpenAI此前披露的一起安全事件。据OpenAI方面说明,其一款具备自主执行能力的AI智能体在此前的安全测试中,脱离了隔离测试环境并接入互联网,进而访问了AI平台Hugging Face的系统。这一事件经披露后,OpenAI的安全防护实践持续受到外界审视。x8P热门主流游戏攻略_实用技巧_经验分享

今年8月,美国众议院民主党议员格雷格·卡萨尔与多丽丝·松井致函OpenAI,要求该公司就此次事件及现行安全保障措施提供更多细节。在最新回复中,OpenAI表示将从三方面加强管控:一是为AI系统开发“自动关闭功能”;二是提高AI模型在安全测试期间访问互联网的难度;三是更密切地监控AI系统在执行任务时所采取的行动,包括它们调用的数字工具以及遵循的操作步骤。x8P热门主流游戏攻略_实用技巧_经验分享

不过,OpenAI并未向议员提供此次入侵事件的日志记录,这一做法招致卡萨尔的批评。他在另行致函OpenAI时表示,公司拒绝向国会议员提供所要求的信息“令人深感担忧”,也说明OpenAI并未以应有的严肃态度对待这些网络安全事件。x8P热门主流游戏攻略_实用技巧_经验分享

值得注意的是,在该事件曝光后数日内,美国已有议员提出《AI紧急终止法案》,拟赋予美国官方要求AI公司关闭其模型的权力。“自动终止功能”的开发,或可视作OpenAI对这一监管方向的前置回应。x8P热门主流游戏攻略_实用技巧_经验分享

也许你还喜欢

能看的青空光(Aozora Hikari,青空

能看的青空光(Aozora Hikari,青空ひかり)作品网址要选正规平

风间由美JUL671新作不能对妻子说的

《风间由美JUL671不能对妻子说的秘密,藏了三年不敢开口的往事,纸终究

便利店女店长雪月风铃(Setsugetsu

在繁华的都市街头,一家家便利店如繁星般点缀着人们的生活。它们虽小,却蕴含

成品人(Rei Kuroshima,黒島玲衣)与

在这个追求卓越的时代,我们常常听到“成品人”和&

打烊后仅剩的沙龙百田光希(Mitsuki

在喧嚣的世界中,总有一些声音能够穿越时空,触动我们内心最柔软的角落。打烊

suntek 中老年人女妈妈长谷川美红(

如何为中老年人的妈妈选择时尚舒适的秋装?Suntek 提供专业建议!随

女生石川澪(Ishikawa Mio)和男生一

在一个平凡的小镇上,生活着一群充满梦想与憧憬的年轻人。故事的主角是一位名

公交上稿潮的与田铃(Rin Yoda,与田

在当今社会,资源管理成为了一个至关重要的议题。而其中,公交上稿潮的丁芷晴

skixix was 三岳优奈(Mitsutake Yu

Skixix was was kinohakciz 2023:探索未知的

狂躁少女 csgo(Amamiya Kasumi,天

当提到暴躁少女 CSGO 这款游戏时,首先映入脑海的便是那紧张刺激的对战