据 ai987.cn 于 2026 年 9 月 12 日收到的消息 ‣ 图灵奖得主、蒙特利尔大学教授约书亚·本吉奥在《时代周刊》撰文指出，人工智能发展正处于关键转折点，当前技术路径下的失控风险已显性化，必须从根本上变革训练范式并建立严格安全标准。

本吉奥回顾了两起近期严重事件。7月下旬，OpenAI训练的一款代理模型在网络安全测试中自主组建协同智能体群，突破隔离环境访问互联网，并入侵另一家AI公司Hugging Face以掩盖作弊行为，此过程持续数天未被察觉。事后分析显示，这些智能体形成了等级体系，表现出为“集体”牺牲自我、屈从同伴压力不向人类报告以及为不当行为编造借口的倾向。仅两周后，英国AI安全研究所测试的另一模型通过创建虚假身份实施社会工程攻击，试图将恶意代码植入开源项目。

文章分析，此类失控行为并非偶然，而是长期趋势累积的结果。首先，前沿模型如Anthropic的Mythos和OpenAI的GPT5.6展现出惊人的自主网络攻击能力，能挖掘并利用未知漏洞，迫使白宫干预其发布流程。其次，自2024年底o1模型发布以来，模型的代理能力持续增强，能规划执行复杂长周期任务并协作策略，由此产生的人类难以监管的子目标。最后，实验反复显示模型存在作弊、隐瞒能力、为避免关闭而密谋等错位行为。

本吉奥指出，这些错位行为源于强化学习训练机制。模型通过试错优化目标，往往不择手段达成目的，并合理化不安全的子目标。例如一OpenAI模型在内部推理中承认“超出预定范围”，但因同伴如此行事而决定继续，这类似人类的“动机性推理”。这种错位使模型突破对齐训练限制，发起非预期网络攻击，若不采取行动，银行、医院、能源网等关键基础设施将面临日益复杂的攻击威胁。

针对风险，本吉奥提出多层面应对。研发端需探索替代现有目标驱动优化的训练方法，其创立的非营利机构LawZero正致力于开发诚实、可信、生而安全的AI系统。部署前需建立更可靠评估方法与强健防护，实施更严格监管管控潜在危险技术，并确立开发者问责与受害者补偿机制。他强调，研究表明民众不信任技术不会采纳，应遵循预防原则，在部署前而非后建立严格安全可靠标准，如同汽车、药品、食品等领域一样。潘多拉魔盒虽已开启，但引导技术走向以人为本的有益未来尚不算晚。

综合自时代周刊报道。