文章图片




文章图片





本文翻译自《大西洋月刊》

作者：苏玛雅·扎赫尔
由于人工智能算法进入几乎所有领域 ， 世界目前正在见证一场巨大的技术革命 ， 从智能手机到医疗诊断 ， 但是 ， 你有没有想过当人工智能进入军事领域会发生什么？是的 ， 你不用猜测 ， 已经开始了 ， 因为人工智能无人机目前已经用于了阿拉伯世界的战争 。 但具备人工智能能力的军事工具本质是什么？是什么让它比核导弹更具杀伤力？它有多可怕？这些问题由人工智能专家李开复来回答 ， 李开复曾担任谷歌中国区负责人 ， 还曾在其他公司工作 ， 并曾在苹果和微软工作 。
随着美军在9·11事件20周年之际紧急撤离阿富汗 ， 难以忽视武装冲突的可怕现实和不对称自杀式恐怖袭击的挑战 ， 因为武器技术在过去的二十年里发生了很大的变化 ， 所以想到不久的将来 ， 我们不禁要问：如果武器技术得到发展 ， 恐怖分子能够用人工智能取代人为因素（自爆者） ， 会发生什么？作为一个在人工智能领域研究和工作了几十年的人 ， 我必须关注这种技术威胁 。
杀手机器人……战争的第三次革命自主武器或致命自主武器 ， 被称为“杀手机器人” ， 是继火药和核武器之后的第三次战争革命 ， 发生的演变 ， 从地雷到导弹 ， 只是人工智能领域真正独立的序幕 ， 并通过搜索特定人员 ， 做出与他们交战的决定 ， 然后在没有丝毫人为干预的情况下完全消除他们 。
以色列“哈比”（Harpy）无人机（自杀式无人机）是一种自主（无人驾驶）武器 ， 它被编程为飞到特定区域以搜索特定目标 ， 然后通过称为“即发即弃”的功能使用高爆弹头摧毁它们 ， 但一个更具挑衅性的例子出现在短片 Slaughterbots 中 ， 短片讲述了一群像鸟一样大小的无人机可以搜索并杀死特定的人 ， 通过向被锁定目标人员头骨射击少量炸药 ， 由于这些飞机非常小巧、敏捷和智能 ， 因此 ， 无法轻易被抓住、阻止或摧毁 。
这些杀手机器人不仅仅是一种幻觉 ， 而是一种真正的危险 ， 当其中一架无人机在 2018 年差点杀死委内瑞拉总统时 ， 就证明了其后果 。 我们今天面临的更深层次的问题是 ， 这些飞机可以由经验丰富的爱好者轻松建造 ， 成本不到一千美元 ， 这是因为飞机的所有部件现在都可以在线购买 ， 并且可以下载开源技术 。 这是一个意想不到的后果 ， 因为使用人工智能和机器人技术变得更容易、更便宜 。 和我共同想象一下 ， 我们有一个成本不超过一千美元的政治杀手！我们所说的不是未来可能发生的不太可能发生的危险 ， 事实上 ， 现在威胁我们的是一个明显的危险 。
我们已经看到人工智能在许多领域取得的快速进步 ， 随着这些发展 ， 在不久的将来 ， 我们很可能会见证这些自主武器的快速扩散 ， 它们不仅会变得更智能、更准确、更快 ， 更便宜 ， 还将学习新的能力 ， 例如 ， 如何形成依靠团队合作行动的群体 ， 他们的速度加倍 ， 他们的动作重复 ， 这使得他们的任务几乎不可阻挡 。 令人震惊的是 ， 能够摧毁半个城市的 10000 架无人机现在成本不到 1000 万美元 。
如果我们转向故事的光明面 ， 我们会发现这些自主（管理）武器有几个好处 ， 例如 ， 如果机器代替他们发动战争 ， 它们能够挽救士兵的生命 ， 并且它可以——如果它们落入负责任的军事机构之手——帮助士兵仅瞄准敌军中的战斗人员 ， 避免无意中杀死友军、儿童和平民（类似于自动驾驶汽车在即将发生碰撞时刹车以挽救驾驶员生命的方式）， 这些武器还可以用来防御杀手和肇事者 。
但是这些武器的负面影响以及由于使用这些武器而落在人类身上的责任远远超过这些好处 ， 而这种最大的责任是道德责任 ， 因为几乎所有的道德和宗教体系都将人类灵魂的丧失视为一个棘手的、有争议的问题 ， 需要强有力的论证和审查 。 对此 ， 联合国秘书长安东尼奥·古特雷斯评论说：“机器拥有行动自由和夺走人类生命能力的前景令人厌恶 ， 在道德上是不可接受的 。 ”