AI是一把双刃剑,人类真的在召唤恶魔吗?

phonix
2018-04-10 08:35:57
我有话要说

相信大部分人都知道,特斯拉CEO马斯克是不折不扣的“AI威胁论”持有者,曾多次警告AI可能带来的危险。他曾称,如果让我猜测人类生存面临的最大威胁,人工智能或许就是,因此我们人类必须小心人工智能的崛起。“人工智能或许就是我们正在召唤的恶魔。”

AI是一把双刃剑,人类真的在召唤恶魔吗?

最近,马斯克在刚上线的AI纪录片《你信任这台电脑吗?》中表示,人类可能在不知不觉中创造“一个不朽的独裁者”,并将永远无法摆脱它们的统治。“过去那些邪恶的领导人,比如阿道夫·希特勒,只是因为他们是凡人因而能力有限。如果一个邪恶但超级智能的电脑控制了局面,那就不是这样了。”

AI是一把双刃剑,人类真的在召唤恶魔吗?

马斯克在推荐该纪录片时表示,“没有什么会比数字超级智能更能影响人类的未来了。”那么全球的AI竞赛,真的是在召唤恶魔,并可能给世界带来更大风险吗?至少从科学家和科技业的一系列动作来看,AI毫无疑问是一把双刃剑,需要谨慎对待。

韩国“杀手机器人”实验室

自今年2月份以来,韩国科学技术院(KAIST)和韩国军火制造商韩华集团进行合作,为后者研发人工智能武器。由于其目标是开发应用在军事武器的AI技术,以便在无人控制的情况下搜索并消除目标,引发业内专家的广泛担忧和抵制——已经有30个国家和地区的人工智能及机器人专家宣布,将抵制研究人工智能武器的KAIST。

AI是一把双刃剑,人类真的在召唤恶魔吗?

据悉,美国和日本等30个国家和地区的约50名研究人员签署了一封公开信,称这是加速机器人武器开发竞争的动向,令人遗憾。如果该大学不承诺停止研发,将与之断绝关系,拒绝和KAIST任何部门进行合作,直到这所大学承诺放弃研发这类缺少人类有效控制的武器。

不过KAIST院长否认了开发杀手机器人,“KAIST将不会开展任何违背人类尊严的科研活动,包括缺乏人类控制的自主武器。”虽然事件未有定论,不过可以看出,“机器人杀手”会使所有人更不安全,很有可能成为恐怖武器。这也难怪马斯克去年9月时曾表示,人工智能可能引发第三次世界大战。

谷歌员工反抗Maven计划

将AI与战争联系在一起的,还有Google公司。据外媒报道,有3100名谷歌员工联名发出公开信,希望谷歌退出美国国防部的Maven计划(Project Maven),并希望谷歌CEO桑达尔·皮查伊能做出承诺,谷歌永远不会参与打造任何类型的战争科技。

AI是一把双刃剑,人类真的在召唤恶魔吗?

据了解,谷歌将Maven计划的工作描述为“非攻击性的”,谷歌产品不会创造出无需人类操作者就能开火的自主武器系统,自主武器系统在人工智能应用中也有很大争议。不过在谷歌员工看来,参与军事项目可能会疏远用户,甚至影响未来的人才引进。“由于人们越来越担心AI的偏见与武器化,谷歌争取用户信任的道路已经越来越难走了。”

人工智能具有其双面性

谷歌和韩国KAIST之所以会遭到反对,正是由于研究人员和公司正将AI用于“作恶”,引发了公众担忧。由于AI使用庞大数据进行训练,开发者即使是在无心之下,也可能发展出具有偏见、歧视的AI,更别提是在意图明确的情境下发展AI武器了。事实上,科技发展往往会带来正面和负面影响,可以说是一把“双刃剑”,关键看公司和社会如何利用技术。

AI是一把双刃剑,人类真的在召唤恶魔吗?

比如AI与人类工作这个话题上,AI就很好地展示其双面性,而非仅仅是“威胁人类”这一属性:AI确实会取代一些人力工作,让部分人因失业而沮丧,但AI也会带来新的工作机会;AI取代一些人类工作的同时,也会让人类有更多空闲时间做其他更有意义的事等等。

但需要指出的是,AI虽然具有其双面性,但目前谈论AI的威胁似乎有些为时过早:MIT著名机器人专家鲁尼·布鲁克斯、美国国家科学院院士迈克尔·乔丹都曾表示,AI 离真正的智能还很远,想要将这项技术转化成真的产品是非常困难的。

专家们都怎么看待AI?

当然,在AI这个问题上,业内人士的态度和观点各异,值得我们去思考。比如纽约时报记者John Markoff认为,“我们正处于AI时代,谷歌和Facebook等公司为我们提供了免费的东西,也拿走了一些东西,但我们完全不知道。”未来学家Ray Kurzweil则认为,“我们将能够让自己变得更聪明,能够更好地解决问题。我们将不再衰老,我们将永生不死。智能机器能为人类做的事情,真的没有限制。”

AI是一把双刃剑,人类真的在召唤恶魔吗?

此外,苹果创始人沃兹尼亚克曾表示,“他对于人工智能的发展并不感到害怕,主要是因为现在的人工智能的认知水平仍旧保留在一个幼童的水平。”扎克伯格、拉里佩奇等则认为,技术进步几乎总是带来积极的影响,而阻碍这一进步不仅是糟糕的,而且是有违道德的,因为它剥夺了整个社会的利益。

写在最后

AI真的会威胁人类吗?确实是这样的。有专家已经列举了AI能做的一些坏事,包括投用户所好的钓鱼攻击、机器人(无人机、无人车和各类机器人)武器等等。当然了,这是AI技术被恶意利用带来的严重后果。从现阶段来看,在巨头快速发展AI技术的同时,为可能出现的AI被恶意使用的情况做好准备和干预也是必须的。

从这个角度来看,“AI威胁论”也是可以理解的,毕竟中国也有句古话,“变坏容易,变好难”:如果AI真的被率先用于作恶的话,那么恐怕想矫正AI威胁就真的很难了!