第三个警告，防范人工智能获得独立意志。人类可以发展人工智能，但发展机器人有三个原则：第一个原则就是机器人一定要听人类的，它不能有独立意志。2015年，谷歌旗下DeepMind公司研发了围棋机器人阿尔法（AlphaGo），围棋界公认阿尔法围棋的棋力已经超过人类职业围棋顶尖水平，在Go Ratings网站公布的世界职业围棋排名中，其等级分曾超过排名人类第一的棋手柯洁。AlphaGo每天可以学习100万盘棋谱，可人类最优秀的棋手一辈子大概也只能学8000盘棋谱，所以人类这一辈子攒的知识，阿尔法几分钟就掌握了，而且他可以不睡觉，天天不停地学。
世界顶级棋手柯洁败给AlphaGo之后痛哭
再举一个例子，谷歌在人工智能方面是做得最好的，其人工智能实验室也是最好的。根据美国媒体报道，2016年在谷歌的机器人实验室发生了一个恐怖的事件。实验室中，两台机器用他们自己发明的语言开始说话，人类听不懂，在场的工程师非常惊讶。当时，工程师的第一反应就是命令他们不许讲话了，但是他们并没有停下来，最后工程师只好切断电源，将两台机器永远封存。这说明，这两台机器已经有初步的自我意识了，是很危险的。
第四个警告，防范人类当中的疯子使用核武器。
