联合国曝光 AI 杀手机器人:人脸定位、一击致命

 人工智能一旦脱离束缚,就会以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制,无法与之竞争,将被取代,这将给我们的经济带来极大的破坏。

  ——霍金

  然而,这种糟糕的情况似乎正逐渐向我们走来。

联合国曝光 AI 杀手机器人:人脸定位、一击致命

  近日,在日内瓦举办的联合国特定常规武器公约(CCW)会议上,播放了一段可怕的视频:视频中,一群神似《黑镜 III》中机器杀人蜂的小型机器人,通过人脸定位瞬间杀死了正在上课的一众学生,场面血腥。

  先来看看视频里的几个可怕画面:

  一个体型类似蜜蜂的小型机器人飞入会场并轻易躲过演讲人抓捕,其拥有 anti-sniper 技术,完全基于 AI。

 

  这个小机器人有着非常可怕的黑科技:广角摄像头、传感器、面部识别,且在其中,还有 3 克炸药。

 

  来看看它的攻击效果,一击而中,极端致命:

 

  随后,有媒体便称,这款武器极其像《三体》里的“水滴”,其状如水滴,由被相互作用力紧密锁死的质子和中子构成,密度巨大无坚不摧,“仅一个水滴就能接连摧毁人类的一千多艘飞船,打击方式也是直接、精确穿透关键部位,如这段视频中所展现。”

  争议不断,杀手机器人命运归何处?

  与人类的情感反应不同,人工智能技术能够用于制造不需要人类监管就能自动运行的武器,也称为“冷血杀手”。它们能够在一个区域内徘徊,且不需要获得军事人员的许可就能对来犯敌人做出生或者死的决定。

  换句话说,当你因无知犯下弥天大错,你愿意将生命轻易交给冷冰冰的“杀手机器人”,而不求一点可以辩解的机会吗?这无疑超越了人类的道德底线。然而,你或许更想象不到的是,军方竟然成为当前 AI 研究的主要赞助者之一。

  目前来说,尽管人工智能可用于研发排雷机器人或运输供给的无人机,但在军方手中,由人工智能技术嵌入的全自动化攻击性武器,很有可能会演变成大规模杀伤性武器。而武器制造商已经为军方打造了具有高度自主程度的武器系统,如机器人、自动驾驶坦克以及追踪并打击目标的无人机等,这些系统需要在提前设定并需要在人类监管的情况下运作。

  其实,早在 8 月,就有许多世界领先的机器人和人工智能领域的公司创始人、科学家(包括OpenAI、特斯拉、SpaceX 创始人 Elon Musck,Deepmind 联合创始人 Mustafa Suleyman 等)呼吁联合国对杀手机器人下达封杀令,对自动化武器展开严格监督,以叫停打造自动化武器的军事竞赛活动。研究人员在公开信中描述了机器人武器的风险,并表示,这样的军事竞赛有可能继“火药”、“核弹”之后引发第三次战争革命。

  但同样也有狡辩者声称,如果将致命性自主武器应用于战争会起到正面作用。如,降低己方士兵危险,降低战争带来的人员伤亡代价,并且这种武器弥补了人类在速度、准确性、稳定性方面的弱点,“可以抵达人类不可及之处,完成搜救和保护任务。”

  会议主席印度裁军大使阿曼迪普·吉尔(Amandeep Gill)提到:“机器人并没有占领世界,人类仍在掌控,我们必须小心,不要让这个问题变得情绪化或戏剧化。”

  与核武器相比,人工智能武器具备制造成本低廉而且制造简单的特点,这意味着它们很容易在武器黑市的市场流通。

  伯克利大学教授、资深 AI 研究者 Stuart Russell 在视频的最后提醒人们,想象一下,这些致命的自动武器一旦落入恐怖分子之手,可能造成怎样的后果。

0

付费内容

查看我的付费内容