AI发展起来后，除了机器人三定律还有那些可以限制AI的方法？（机器人的发展对人类是否构成威胁？人工智能进展引发担忧。）

机器人的发展对人类是否构成威胁？人工智能进展引发担忧。

AI发展起来后，除了机器人三定律还有那些可以限制AI的方法？

现在人工智能应用越来越广泛，在两会期间就有人工智能“小智”进行每天答题互动。

尽管是3D模拟的美女，但其脸部表情和应变能力都是非常不错的，比之以往机械化的语言，说话声音更流畅、人性化，嘴唇和发声更加同步。在她没说完时，你还可以打断询问，互动效果非常好。许多人表示，如果能和“小智”一起学习就好了。这是一个充满合作的人工智能，也是以后的主流——服务型机器人。

我们所担心的是毁灭性机器人，其实这些杀戮机器早就大量存在了。它们就是战争时用的武器。这不难理解，武器演变得越来越先进，越来越智能，从冷兵器时代，到洋枪大炮，再到信息化作战。信息化作战所使用最多的就是智能系统，这些火控系统、跟踪导弹、雷达都可以看作是人工智能。

我们不能局限于外形像人才称为机器人，现在各国都有无人机，那正是人工智能的结晶。我们只需要在办公室里按动一个按钮就会造成大面积的人员伤亡，而在办公室的人像玩游戏一样，他根本不会在乎所谓的机器人三大法则。

机器人三大法则是由科幻作家艾萨克·阿西莫夫提出的，目的是防止机器人失控危害人类。其内容是：

第一定律：机器人不能伤害人类，或者目睹人类个体遭受危险时袖手旁观。

第二定律：机器人必须服从人类，当该定律和第一定律相冲突时例外。

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己。

看似这三大定律逻辑十分严密，真正实行起来会导致十分尴尬的境地。如果人类命令机器人去外星球采矿，而突然发生了爆炸事故，机器人会在危险的边缘打转，仅仅是满足执行人类的命令的同时不伤害自己。

当人类的决定产生危及自身的后果时，富有远见的机器人很有可能出于保护人类的目的，夺取人类的决定权，将人类软禁起来，防止他们做出连他们自己都没有意识到的伤害自己的行为。这样的结果和统治人类没有什么两样。

为此有人还追加了机器人零法则：机器人不能奴役人类。

机器人三大定律本身并不严密，也不可能实现，因为这些定律本就是人强加给机器人的，只体现了人的意志。

在《真实的人类》中对人工智能看法是相当独到的，剧中的机器人显然是“人类友好型”，它们服务于人类的方方面面，甚至可以说是处于被奴役的状态。即便是当它们有了意识也想要与人类共享生活，之所以在剧中偶尔产生对抗，主要还是人类的敌意。

进入生活的“友好型”机器人是可行的，日本研发的机器人通常是帮助人类，而不搞破坏，它们根本没有破坏的功能。这些并不像一些军用无人机具有追捕、猎杀的功能，相反，同样是无人机，用于航拍的无人机则是友好的。

对于未来，我们必须抱有开放的姿态，机器人就像是人类的孩子，他可以服务于你，但你必须承认，在特定方面它必将超过人类。比如围棋方面，宇宙探索。也许，我们以后就是人体和机器人的结合，就如同钢铁侠一样。

大家认为机器人的发展对人类有没有威胁？

人工智能发展初级阶段，强人工智能出现仍需控制与验证

我从专业的角度告诉你，这个不用太担心的。

首先真正意义上的强人工智能面世还远的很，至少目前以深度学习为代表的第三次人工智能浪潮，还是人工智能非常初级的阶段，主要的应用也只是在视觉、语言等比较下意识的这些比较低级的智能层级方面。

其次，如果未来强人工智能出现，机器人三定律只是一种理论规定，对于其怎么实现并没有给出。总的来说，人能造出来的东西，还是会给出可控的限制或者安全验证之后才会量产的。就比如现阶段的自动驾驶需要过车规的认证、一些带人工智能的医疗设备也需要通过专门的FDA等复杂而严格的认证才能上市。当然，取决于到时具体的人工智能实现方式，机器人三定律以什么样的方式实现、是否需要改进等等问题，只有等这种技术的面世之后再具体模型具体分析了。