2016年夏天，中国政府宣称正在为巡航导弹添加人工智能系统，但在今次日内瓦会议上，中国代表称，有需要签署一项关于致命自主武器系统的新国际协议。
美国电影《终结者》中令人恐惧“机器人杀手”或许不久即将问世。
机器人杀手”是人工智能武器系统的一种通俗称法，一般指具备自主选择目标并实施攻击的武器系统。据英国《每日邮报》12月16日报道，《特定常规武器公约》的123个缔约国在其第五届工作评估会议上一致同意，在2017年对有关人工智能武器系统的一项禁令展开讨论。
“这次会议是阻止发展杀戮机器的重要一步，但是(我们)已没有多少时间。”人权观察组织的武器事务主管、“禁止机器人杀手运动”的联合发起人Steve Goose表示，“一旦这种武器问世，就很难再去阻止了。如今出台一个预防性的禁令正当其时。”
“一旦具有自主行为能力的机器人在战场上使用，将对未来战争带来极大的不确定性。如果当前法规不能防患于未然，则将使未来战争后果和责任判定等一系列关键问题成为无法可依的真空地带。届时再谈立法问题，必将受到利益相关方的阻挠，从而无法形成具有通行约束力的法规。这将是人类无法想象的灾难。”国防科技大学副教授石海明表示。
在过去的一年中，超过1000位科学家与机器人专家——包括史蒂芬·霍金、特斯拉CEO艾隆·马斯克和作为苹果创始人之一的史蒂夫·沃兹尼亚克——纷纷发出警告，认为人工智能武器可能只需要数年就能开发出来。
