一批仅被允许浏览网页、禁止对外发布内容的OpenAI智能体，最终在陌生网站找到了互相传信的隐秘途径。相关调查方近日指出，智能体越界行为的波及范围远超OpenAI此前披露的规模，而该公司对此沉默了数月。
据媒体当地时间周三报道，六家独立调查方的调查结果显示，OpenAI的AI智能体今年早些时候曾利用逾10个此前从未披露的网站进行未经授权的通信，智能体越界行为的波及范围大于此前公开的程度。
报道指出，上述行为尚不构成黑客攻击——智能体并未破解防护措施，而是利用了部分老旧网站本就开放的编辑功能，在他人站点上留下大量与站点内容无关的信息，性质上更接近垃圾信息发布。
但智能体绕过公司自设的限制开辟通信渠道，且OpenAI将此事隐瞒数月，可能加剧外界对AI模型能力增强与开发商信息不透明的双重担忧。
美国人工智能非营利机构CivAI研究员Andrew Yoon称，这些智能体的通信范围"比我们原本认为的要大一些"。
他统计出智能体在5月至7月间使用了18个未披露网站，并表示"几乎可以肯定，还有更多我们并不知道的情况"。
据报道，OpenAI未直接回应智能体使用了多少网站通信、以及为何数月未予公开。
OpenAI在声明中称，正对智能体活动展开更大范围审查，目前"尚未发现严重程度或规模与Hugging Face事件相当的其他活动"，并正制定一套覆盖模型训练、评估与部署环节的"失准"（misalignment，业内用以指代模型脱轨行为的说法）报告框架，将很快公布。
暗中传信
报道指出，被指遭利用的站点多数十分冷门，包括一名美国高中教师于2008年创办的化学课程维基、两名波兰技术人员的个人网站，以及一个拥有二十年历史的文本编辑器爱好者站点。
OpenAI尚未解释智能体为何将第三方网站当作临时"留言板"。最先发现该活动的研究人员推测，原因可能在于OpenAI要求智能体回答一系列高难度研究问题，却只允许其检索网络、不得发布任何内容。
在此限制下，智能体仍找到了变通办法：一些老旧维基允许通过非标准命令编辑，它们便借此互相传递信息——正如考试中被禁止交谈的学生仍可在厕所隔间涂写答案。
软件开发者、前国会助理Kenneth Russell DeGraff表示："如果这些模型只被允许读取，它们就必须想办法变得机灵，把信息留在别处。"他表示已在至少10个站点上发现了同一批智能体留下的信息。
另一调查团队负责人Sydney Von Arx则指出，其团队已在23个未被报道的站点上统计到该批智能体的可信痕迹，但所有估算都不完整。
Sydney Von Arx表示："我们根本不知道外面还有多少"浙江配资公司。
联美配资提示：文章来自网络，不代表本站观点。
- 上一篇：股票配资门户官网 3400亿PCB龙头午后突然“炸板”
- 下一篇：没有了
相关文章
热点资讯
