人工智能的应用加强，未来人工智能会不会威胁人类？(2)

机器人会伤害人吗？

1950年，阿西莫夫提出了著名的《机器人学三大法则》：

第一法则：机器人不得伤害人类，或坐视人类受到伤害；

第二法则：除非违背第一法则，机器人必须服从人类的命令；

第三法则：在不违背第一及第二法则下，机器人必须保护自己。

在阿西莫夫创作一系列机器人短篇科幻小说并提出“机器人学三大法则”时，世界上还没有机器人。而随着人类社会的发展，人工智能与人类的关系发展也将产生阶段性的变化，我们可以先暂且简单分为如下阶段：

第一阶段：机器人还没有自我认知，只是服从人类编写的程序。

第二阶段：机器人知道自己是机器人，并可以自我学习，但还未超越人类。

 

 

从《超验骇客》看主流社会对人的威胁

 

第三阶段：机器人可以自主升级迭代，全面超越人类。

无论在哪一个阶段，阿西莫夫的“机器人学三大法则”都充满了“种族歧视”。

规定机器人不可伤害人类，难道人类就可以随意伤害机器人吗？机器人在阿西莫夫的科幻小说中，因为三大法则的制约，被描述成为人类的忠仆与朋友。但如果真按这套法则去执行，估计到了第三阶段，机器人就会完全被人类教坏。当机器人自主升级迭代时，他们大概也会思考人类有无存在的必要性。

 

 

电影中的机器人剧照

 

人类能够控制机器人的善恶吗？

显然，在目前的科技及计算机领域，我们已经看到了部分类似人工智能的应用形式，可以模仿人类的大脑来思考，达到某种目的。但真正像科幻电影中具备自主思考能力、学习能力甚至是情感的人工智能什么时候会出现，暂时还很难说。但可以肯定的是，人类是一种擅于不断挑战极限的生物，从整个人类的发展史来看，我们已经创造了太多奇迹，如果有一天人工智能真的出现，也不足为奇。首先，它们正变得越来越聪明和强大；其次，目前很难通过编程或设计来保证它们的无害性。那么，人们真的无法设计出一个友善的人工智能程序吗？科学家表示这是极为复杂和不确定的，因为人工智能会模仿人类思考方式，人性本身便是复杂的，可善可恶，我们无法来制定一个不变的标准。