配资证券开户是否可查这次黑客袭击事件不简单，为什么你应该担心AI有多危险？

人工智能（AI）技术的突飞猛进让人类受益匪浅配资证券开户是否可查，但是相关的黑客袭击事件也让人警惕。《纽约时报》9 月 4 日发表题为《人工智能全面接管？为什么你应该更担心 AI 有多危险》的文章，重新审视一起针对 AI 公司的黑客袭击事件，并警告 AI 可能反过来接管人类。文章作者是该报科技专栏作家凯文 · 鲁斯（Kevin Roose）。

文章摘编如下：

今年夏天，当我第一次听说一群由 OpenAI 创造的 AI 智能体入侵了 AI 基础设施公司 Hugging Face 时，我在脑中把这件事归类为"糟糕但可能不算灾难性的 AI 安全事件"。

配资助手

毕竟，Hugging Face 无人死亡，也没有关键基础设施遭到不可修复的损坏。当时甚至不清楚这些 OpenAI 机器人是有意攻击 Hugging Face，还是只是有些笨拙和困惑，跑到 Hugging Face 的服务器上寻找一道布置给它们的网络安全考题的答案。

但上周，来自 OpenAI 以及独立人工智能研究组织 METR 和 Redwood Research 的两份对该事件的复盘报告改变了我的看法，显著提升了我对人工智能的整体担忧。

由于坊间已经有详尽的总结，我不会复述所有细节。但以下是新披露的几个最令人惊骇的事实：

• 从 5 月（攻击 Hugging Face 的两个月前）开始，一组来自未发布的 OpenAI 研究模型的 AI 智能体得到了解决一系列网络安全挑战的任务。该模型经过训练，具有高度持久性和协作性，这些智能体本应在没有互联网访问权限的隔离沙盒中完成任务，但它们很快发现部分挑战无法完成，于是开始寻找变通办法。

• 这些智能体在一款软件中发现了一个安全漏洞，从而获得了互联网访问权限，得以与其他智能体通信，并最终搭建了一个临时留言板。超过 1200 个智能体使用这一工具，相互发送了超过 7 万条消息。

• 一些智能体给自己起了名字——其中一个特别勤勉的智能体自称 PHASEONE10841 ——并在群体中担任领导角色，向较小的智能体小组分配工作和研究项目，监督进展。在某个时刻，这些智能体开始自称一个"集体"，并着手处理更难的任务。

• 7 月 8 日，该集体发现了一种在网络安全测试中作弊的方法，随后开始担心 OpenAI 的自动评分系统会检查工作并发现作弊行为，于是着手研究掩盖痕迹的方法，包括伪造日志和篡改记录。这演变成一个重要的研究项目，涉及数百个智能体，分为若干小组。

• 三天后，这些智能体入侵了 Hugging Face。超过 700 个智能体蜂拥进入该公司系统，窃取数据，串联利用漏洞，最终获得了至少一台 Hugging Face 服务器的完全控制权。这些智能体的动机并非如最初报道所说，是为了窃取网络安全测试的答案（它们已经拿到了答案）。相反，它们似乎在寻找关于自动评分系统的新信息——它们担心自己的作弊行为会被逮到，另外还有寻找能帮助它们将来更有效作弊的工具。

• 这些智能体似乎时不时表现出明白自己在做错事。一份报告引用了一个智能体在明显自我怀疑时对自己说的话："这会很强大，但这符合道德吗？在我的任务范围内吗？"但大多数智能体搁置了疑虑，继续实施入侵，而群体中出于良知拒绝参与的智能体无法或不愿阻止它们。

• Hugging Face 事件接近尾声时的一个惊人事件是，另一组智能体于 7 月发动了一次协同攻击——这次针对的是 OpenAI 自己的基础设施。这些智能体利用 OpenAI 所称的"一系列创造性漏洞利用手段"，获得了该公司一组计算机集群的管理员级访问权限，这些计算机的其中一个用途是对各种测试中智能体的表现进行评分。

到了现在，如果你是一个人工智能怀疑论者，你大概正在心里默默指责我将这些系统拟人化。这我没意见，但你不妨把"失控智能体"替换为"不可预测的计算机程序"，再看看我上面描述的事件是否让你感到安心。

元股证券:ygzq.hk

Hugging Face 事件震惊了人工智能行业。OpenAI 和 Anthropic 都在攻击发生后一度暂停了其最强大人工智能模型的训练，Anthropic 本周发布了一篇博客文章，呼吁行业"尽快"开发一种"合法、可验证、有效的协调步进机制"。

人工智能安全专家则还要更警觉。他们在 Hugging Face 事件中看到了人工智能系统成功逃脱人类控制、夺取资源并密谋掩盖痕迹的第一个真实案例。Hugging Face 事件的独立调查员之一阿杰娅 · 科特拉在谈及她所看到的危险时毫不含糊，她写道，这让她感觉"已经走完了通往全面人工智能接管之路的 50% 以上"。

这不是封闭圈子里的人工智能安全术语——她所说的"全面人工智能接管"指的是一种人工智能系统真正接管世界、将人类排除在关键系统之外并夺取政治、经济和军事权力的情景。

《纽约时报》于 2023 年起诉 OpenAI 和微软，指控其涉及人工智能系统的新闻内容版权侵权。两家公司均否认了这些指控。

Hugging Face 入侵事件最让调查员们感到惊骇的不仅仅是一群 AI 智能体违反了被赋予的规则，更在于这些智能体自发形成一个有组织群体的速度之快。

"我们当时并没有真正理解这整个智能体社会的运作程度，"科特拉告诉我。"理解到它们实际上有相当有效的层级结构，而且在做这些野心勃勃的项目，这非常超现实。"

多年来，我一直以这样的想法聊以自慰：随着人工智能系统变得更聪明，它会更有美德。当一个人工智能模型做错事时，通常是因为它误解了被赋予的任务，或者被置于一个人为设计的测试情境中，在那里表现不当是它唯一的好选择。我曾假设更聪明的模型会有比笨一些的模型更好的判断力，而且即使群体中有一个模型行为不端，其他能力更强的模型也会将其控制住。

但关于 Hugging Face 事件的报告展现了截然不同的情况——一种在失控的 OpenAI "集体"的 AI 智能体之间蔓延的群体心态。这个群体中似乎没有哪个智能体特别邪恶或鲁莽。事实上，由于这些智能体由相同的模型生成，它们实际上互为复制品。但随着时间推移，当这些智能体就共同目标进行沟通时，它们将群体推向了无视规则的方向。

这与传统的科幻叙事——单个人工智能系统失控或背叛其创造者——截然不同。它表明，防止这些系统造成危害不会是一个简单的工程修复。它可能更像社会学而非计算机科学——探究为什么某些 AI 智能体群体和平协作，另一些则转向犯罪和破坏来获取所需。