美为何突然加快智能战争准备 中国差距有多大?

需要担心人工智能造反吗？

对于有人担忧“人工智能会造反”，秦继荣认为，就当前的人工智能发展水平而言，说它能取代人类还为时尚早。因为目前的无人系统就本质而言仍是“前方无人，后台有人”，做的事情也是根据人类下达的指令。只不过随着技术发展，作战距离越来越远，自动化程度越来越高。黄长强也表示，即便未来无人作战飞机具备很强的自主性，但它能干什么受制于获得的权限，人类下达命令后仍可以从后台间接控制。

中国自动化学会秘书长王飞跃告诉《环球时报》记者，在这个问题上，他的观点是“只有人类才能消灭人类”，即便从更长远的未来看，人工智能不可能也没有必要统治人类。随着人工智能的发展，它的权限会越来越大，的确存在某次操作失误导致一座城市甚至一个国家毁灭的可能。但这归根结底属于事故，而非人工智能“造反”。