一款无人机同时具有这些能力,就意味着它已具备在操作员未下达指令情况下发起自主攻击的基本条件。
相关研究指出,这架自主发起对人类袭击的无人机按照编程攻击目标,不需要操作员用数据链控制弹药。
从另一个角度来理解,这等于让自主武器装备掌握了自行开火的“扳机”。
报道所指的无人机是不是“Kargu-2”并不重要,重要的是它是否真的被赋予了自行决定开火的决策权力。
有专家认为,如果真的任由自主武器装备掌握最终生杀大权,这一做法很可能引发更多致命危险。
他们的理由有二:一方面,人工智能的学习是基于软件的算法来实施,通过向大型数据集学习来积累能力。
这一过程中,客观上存在多种因素可导致结果错误。
比如,数据集不够全面和复杂,就可能导致人工智能学到错误“课程”。
这种对错误“课程”的学习,很可能使自主武器装备做出错误判断,并对错误目标发起攻击。
另一方面,人工智能决策的过程是不透明的。
尤其在进入自主模式后,即使它决策错误也无法被及时发现。