如何防止人工智能超越人类的可能性？

Question

如题所述

Answer 1

如果强大的人工智能有了情感思维，它可以自主学习，理解和解决复杂的问题。其次，AI系统提供足够的资源，让它能够控制和管理世界上的各种系统，以及掌握世界上的各种信息。最后，我们需要给AI系统提供一个安全的环境，让它能够控制和管理世界上的各种系统，以及掌握世界上的各种信息，而不会受到外部干扰，但是当有一天人工智能学会给自身下达命令时，威胁就随之而来了，从简单的自我命令，到是非判断，再到产生性格，一个强大的思维个体就诞生了，这时它是否还会执行人类的命令，或者命令与其意志相悖时，它会不会反抗呢？

设想一下如果AI超越人类，统治地球，那么人类将何去何从，像六千多万年以前恐龙大灭绝一样从地球消失，还成为人工智能的奴隶？然而，这都不是最坏的结果。最可怕的情况不是人类无法翻盘，而是人类根本不想翻盘。

人类被AI灭绝，不是AI朝人类发射核弹，也不是身边的机器人突然造反砍人。人类被AI取代，只会是一种社会文明的取代，就像我们的祖先创造的人类文明，为后代世人提供了未来发展的坚实基础与思想支撑。其实人类被AI统治的趋势已经开始逐渐显现了，越是科技发达的国家和种群，越倾向与个人主义，他们追求个人享乐，不愿承担太多责任，生育率都很低。绝大多数的发达国家包括一些发展中国家例如中国，都存在严重的人口老龄化问题。

现代人对AI的态度普遍是"AI能给我们的生活带来极大的便利"，以后枯燥的工作都交给AI，而人类只负责做有情感或创新的事情。人类在AI的周全服务下，会逐渐缺失对生活技能和科技知识的掌握。AI接管生产后，人类只需享乐，即使有人主观上愿意主动去学习也没用，因为学了也无用武之地。未来极有可能是人类人口逐步减少，生活水平大幅度提高，人类文明变成依赖于AI的寄生文明。结果是最后的人类，在一大群AI的服务下，过着远超人类历史上任何一位帝王的无比奢糜的一生，人类历史从此落幕，而整个过程所有人都沉浸其中、毫无知觉。

霍金提出，"未来人工智能可能毁掉人类"、"如果现在人类还不能看清未来，不能为未来的事情做好最坏打算，建立相对于人工智能更好地管理办法，人类最终都会败给人工智能，只不过是时间问题。

Answer 2

3月14日著名物理学家斯蒂芬霍金教授去世，巨星陨落，令人痛心，也让人不禁重新思考他的很多理论成就和经典言论。在去世前这几年，霍金最关注的话题就是离开地球和警惕人工智能。2016年10月霍金在剑桥大学发表演讲，他说，人工智能技术的确有希望带来巨大的福利，比如根除疾病和贫困，但是它同样也可能带来危险，比如强大的自主式武器，或者帮助少数人压迫多数人。2017年3月，霍金在接受英国《泰晤士报》来访时再次警告：“人类需要控制以人工智能为代表的新兴科技，以防止它们在未来可能对人类生存带来的毁灭性威胁。”发出类似警告的著名科学家还有不少。例如Sun Microsystems公司的首席科学家比尔乔伊说：“唯一现实的选择就是放弃、限制那些太过危险的技术研发，限制我们对此类知识的追求。”“我们是否要冒全军覆灭的危险来攫取更多的知识或财富。”“我们正被推入一个新世纪，没计划、没控制、没刹车。”这就是地球主义的主张。但宇宙主义者也很强大，宇宙主义者就是支持人工智能的人。雨果德加里斯认为，面对这样的前景人类将分为两派：地球主义者反对制造人工智能，宇宙主义者坚持制造人工智能，他们之间的矛盾将激化并导致战争。现在有些学者提出，人工智能的发展可以分为三个阶段：弱人工智能Artificial Narrow Intelligence (ANI)，强人工智能Artificial General Intelligence (AGI)和超人工智能Artificial Super intelligence (ASI)，但他们的划分标准并不完全可取。我的划分标准是：在弱智阶段，人工智能还没有超越人类智能；在强智阶段，人工智能超越人类智能的幅度不大，人类还可以控制人工智能；在超智阶段，人工智能远远超越人类智能，人类只能接受人工智能的统治。在不同的阶段，人工智能对人类的威胁的性质完全不同。当人类能够控制人工智能的时候，人工智能不会带来很大威胁，因为人对人的威胁已经足够大了。人类一直生活在核恐怖之下，现有的核武器足以彻底灭绝人类，人工智能还能做什么呢？对于少数人压迫多数人之类社会正义的问题，人类也已经经历的够多了。所以在弱智和强智阶段，只要人能控制就不会有太大问题。而且人类要想离开地球，开辟新的生存空间，就必须依靠人工智能。但是到了超智阶段，人类就会面对真正的威胁。那么我们怎么办？全面停止研究吗？雨果德加里斯认为机器人会灭绝人类，就像人要灭绝蚊子一样。人类确实想灭绝蚊子，因为蚊子总侵害人类，如果人类不侵害机器人，机器人还会灭绝人类吗？人类会不会灭绝蜜蜂呢？即使机器人真的统治了地球，它们就一定会与人类为敌吗？既然机器人可能比人聪明亿万倍，那么它们就一定懂得与人为善的道理。所以这么聪明的机器人一定是天使，不会是恶魔。面对受机器人奴役的前景，人类一定会反抗，会争夺统治权。成功了皆大欢喜，如果失败了，那么这时应该顽抗到底还是听天由命呢？受他人奴役其实是家常便饭，在一个国家里，被统治者远远多于统治者。当我们争论人类与机器人的问题时，人类的统治权好像就是我们自己的统治权，但有几个人真正享有过统治权？事实上，只要统治者能让大家正常生活，就很少有人愿意考虑应该由谁统治的问题。当清政府统治中国的时候，汉族老百姓也能过得心安理得，而且很快乐。所以，如果人类真的没有能力反抗，让人们接受机器人的统治其实也是很容易的。人类一旦接受了机器人的统治，机器人也就没有理由灭绝人类了，就像人不会灭绝笼子里的老虎一样。科学、政治和伦理的争论在真实的历史发展中往往很难起决定作用，国际竞争和企业竞争会让人们无暇顾及未来的风险，只要机器人能给人带来利益，人们会毫不犹豫地研制和使用，很少有人会真正考虑地球主义者的忧虑。这是人类的私欲造成的必然结果，你我想阻止都不可能。我们能做的只有想开一点，接受这个现实。知识就是力量的观念早已深入人心，每一个企业都把人才战略当成最重要的战略之一，为了挖一个人才可以不惜重金。如果将来人工智能达到和超过了人的智能，那么企业怎么会放过这样的“人才”呢。比尔盖茨做了什么？他和他的员工不过是编了一些程序。如果你拥有一台机器，可以把微软公司一年的工作在一天里做完，而且又快又好，那么你还发愁挣不到钱吗？知识经济已经造就了世界最大的富翁，那么拥有超级智能的机器人对企业家们来说意味着什么也就不言而喻了，他们一定会争先恐后地研制和采用机器人。人工智能让历史发展进入一个新的转折点，每一个民族都要面对这个转折。对这种发展采取不同的态度，会决定每个民族未来的命运，这是一轮新的竞争。过去的民族竞争是极其残酷的，南京大屠杀还像是昨天的事情。未来的民族竞争不会那么残酷，但谁也不敢掉以轻心。接受人工智能会带来恐惧，但拒绝人工智能同样带来恐惧。也许在这个问题上，历史因素会发挥作用，让中国人能比西方人更快地接受人工智能。接受一个残酷的现实其实并不难，每个人都能做到。例如，交通事故造成的死亡比世界大战还多，你每次开车出门都面对巨大的风险，但你还是毫不犹豫地踩下油门。每个人都会死，每个人都会失去亲人，这么残酷的现实大家都能接受。美苏对抗的时候，核战争随时可能爆发，一旦爆发就必然导致人类毁灭，这样的现实大家也能接受。如果没有机器人，你能把握自己的命运吗？我们这一代人早晚要失去权力，怎么保证子孙能按我们的意志统治世界呢？除了教育没有别的办法。但教育也不保险，当年张居正费尽心思教育万历皇帝，但张居正死后，万历怠政四十多年；诸葛亮对阿斗也苦口婆心地教育，但蜀汉还是很快灭亡了。所以把握未来的命运从来都只是一个幻想，失去对命运的把握一点也不可怕，我们每个人都只能担当生前事。只要你以最理智负责的态度面对今生，就没有必要为身后的事担心。地球主义者的的观点以及控制人工智能的愿望都是从人类的利益出发的，但是为什么一定从人类的利益出发呢？如果机器人比人聪明，那么机器人的统治代替人的统治应该也是进化。人类现在都不把机器人当成人，但是当机器人具有了人的智能之后，机器人与人的区别就几乎不存在了，这时就应该把机器人当成人了。机器人是我们创造的人，也就是我们的子孙。那么我们怎样对待它们不孝的危险呢？我们从来不会因为自己的孩子可能不孝就杀死他们或者不让他们出生。如果机器人真的不孝，那么就当是用父母的生命成全它们吧！

Answer 3

人工智能超越人类是一个复杂的问题，因为它涉及到许多不同的领域和技术。下面列举一些防止人工智能超越人类的可能性的方法：

限制AI的能力：有些人认为，限制人工智能的学习和决策能力，或者将其限制在特定的任务领域内，可以避免其超过人类的能力。

加强监督和控制：确保人工智能系统始终受到人类的监督和掌控，使其不能超越人类智能。

发展安全AI：研究和发展符合伦理和道德标准的人工智能系统，对于预测和解决潜在的风险和安全问题至关重要。

推动AI透明度：推动人工智能系统透明度的发展，增加人们对人工智能决策的理解和可信度。

建立国际共识：需要建立全球统一和标准的政策和法规框架，以确保人工智能技术的稳健和可持续发展。

总之，防止人工智能超越人类的可能性需要从多个方面入手，包括技术、制度、法律等多个层面，需要全球社会共同努力。