算法战争时代下的人类智能与责任困境

据 ai987.cn 于 2026 年 10 月 11 日收到的消息 ‣ 战略文化基金会刊发政治哲学教授洛伦佐·玛丽亚·帕奇尼的长文,深入探讨算法战争中人类智能被边缘化的危险。文章以伊朗米纳布小学遭袭案为切入点,揭示当技术将作战者与后果拉开距离时,决策者的责任反而可能被稀释。

算法战争时代下的人类智能与责任困境 - Image 1

文章指出,现代战争运作链条包含探测、识别、分类、预测、优先排序、目标确定、打击七个环节,每个环节技术精进并不带来道德精进。2024年调查披露的“薰衣草”系统,曾被以色列军方用于加沙,将数万人标记为武装分子概率目标,人工核实往往不足二十秒。认知心理学称此为“自动化偏见”,操作员倾向将算法建议视为替代自身判断的依据。

帕奇尼引用德赫希里观点:技术精确不等于伦理精确,准确不等于正义,自动化不等于责任,技术优势不等于道德优势。他补充第五点:相关性不等于理解。机器识别统计模式,却不知何为学校、何为儿童,更不知自己并不知晓。

2026年2月28日,伊朗霍尔木兹甘省米纳布的沙贾雷·泰耶贝小学上课时遭多次打击,造成百余名女童及教师丧生。卫星图像显示该校原为革命卫队海军基地一部分,美方或因目标数据过时将其误判。当地居民早知建筑用途已变,这种人类情报(HUMINT)掌握的知识,却被远程战争视为多余。

冷战历史提供反面教材:1983年彼得罗夫凭借对美核战略的了解,判断卫星预警系统报警为太阳反光而非导弹发射;1962年阿尔基波夫拒绝发射核鱼雷,因他辨别出信号弹与实战攻击的区别。两人皆未批准系统建议,而是凭借对世界整体图景的理解予以否定。

文章将人类智能构建为三层结构:认识论层面,机器只有推演能力,缺乏把握意义的“直觉”;实践层面,审慎美德要求将普遍原则应用于特殊个案,而机器只会归类;关系层面,情报学奠基人肯特强调通过人、语言、习俗获取知识,这正是大国过去三十年资源向技术情报倾斜所丧失的。

地缘政治层面,算法战争能力分配即权力分配,规则制定权掌握在最不愿受约束者手中。国际法进展缓慢,联合国大会决议、红十字会呼吁、教皇谴责与2026年战场现实差距以伤亡计算。数据控制权决定谁成为目标,受害者多在非西方地区。不生产平台、不控制数据库的国家,若将世界观托付给外部系统,便连同数据一同放弃了判断自主权。

作者提出具体建议:国际人道法应明确规定,目标清单中每处固定设施的民用性质必须经过人工核实,并设定时效期限,过期须以直接信息源更新。技术决定武器如何命中,人类决定是否应当打击。米纳布悲剧的核心在于:本该有人知道那里是学校,却无人知晓、无人询问,这正是必须重新出发的起点。

综合自战略文化基金会报道


吉ICP备2020006555号

【ai987.cn】

⌜ 免 责 声 明 ⌝
本站仅为个人学习AI(人工智能)知识的相关日志,网页内容(如有图片或视频亦包括在内)短期缓存均无商业目的。
遇有侵害您合法权益之处欲申诉删改,可联络处理(删/改)!