100：超级智能系统

者环境而进行自动升级。”

    “可这样的话........”龙玖皱眉，她脑子转得很快，根据沈乔的描述，她已经飞快地想得十分长远了，“它们跟人类还有什么区别？智能系统拥有了自己的思想，不是很容易产生自我吗？一旦让它们产生了自我，那以后究竟是人类在控制它们，还是它们反过来再控制人类？”

    别说龙玖是仅凭自己的意识想到了这个，就连萧停云在听完了沈乔关于智能系统的描述后，正了脸色，沉声道：“我记得很多年前的一位著名的人工智能研发教授曾经警告过，不管时代如何的变化，也不论人工智能的科技如何发展，但唯一要谨记的就是绝对不能让智能系统产生自我和自己的思想，否则人类明文将会遭到前所未有的毁灭性颠覆。”

    萧停云严肃地看着沈乔，提醒道：“你这个研究方向太危险了。”

    现在的星际时代，哪里都离不开人工智能系统，倘若一旦让这些人工智能系统产生了自我和思想，那么等时日一长，这些人工智能系统不一定还愿意被人类做主使用。

    若是让它们生出了反抗的心，倾覆人类的现代文明对于它们来说简直是轻而易举。

    沈乔作为一个研究设计者自然比萧停云和龙玖更明白这其中的危险性，但他还能够坚持往这方面研究，肯定也有他自己的想法。

    是以，沈乔对萧停云翻了个白眼，道：“我会不知道这个的危险性，所以研发这种智能系统的同时还有给它们加上一道锁，这道锁能够保证它们的绝对忠诚，也能够成为最终让它们休眠或自毁的最后且无法违抗的指令。”

    萧停云拧着眉看着他，虽然