欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  科技

人工智能会对人类构成威胁吗?

程序员文章站 2023-03-22 16:04:33
5月12日消息:据国外媒体报道,经过几十年发展,人工智能已经从科幻小说里的一个概念,变成了当今科技发展的主流。苹果的语音控制系统Siri、亚马逊的智能助手Alexa、IBM的沃森超级电脑、谷歌大脑.....

5月12日消息:据国外媒体报道,经过几十年发展,人工智能已经从科幻小说里的一个概念,变成了当今科技发展的主流。苹果的语音控制系统Siri、亚马逊的智能助手Alexa、IBM的沃森超级电脑、谷歌大脑...能够理解这个世界并且给出高效反馈的智能机器似乎就在眼前。

强大的互联网接入和学习运算法则让机器在理解人类语音、视频信息的方面取得了飞跃性的进步,也逐渐向狭义上真正的人工智能迈进。AI(Artificial Intelligence),可实现自动响应的人工智能产品距离我们还远吗?如何让他们保持不断自我更新升级但是依然在人类可控范围内?

这个问题给人们带来普遍的担心和焦虑。“我认为人工智能的发展最终会导致人类族群的灭绝,”物理学家斯蒂芬·霍金接受BBC的采访给出了这样的观点。特斯拉的创始人埃隆·马斯克把AI成为“人类最大的潜在威胁”。微软前总裁比尔·盖茨也表示过类似的担忧。

有多少担忧是必要的?问题有多紧迫?我们聚集了多位工业、科研研究、政策决策领域的专家,一起评估人工智能的发展风险。参加此次话题讨论的包括Skype创始人之一、人类未来发展潜在风险研究院的智库成员——Jaan Tallinn,IBM的沃森超级电脑研究院负责电脑认知研究的专家——Guruduth S. Banavar,帕多瓦大学计算机系教授、哈佛大学拉德克利夫高级研究所研究院和狙击最多AI研究者的国际人工智能研究协会主席——Francesca Ross。

人工智能会对人类构成威胁吗?

以下是经过编辑整理的专家谈话内容。

危险究竟是什么?

记者:人工智能会对人类造成哪些威胁?

Banavar:受科幻小说、电影的影响,人工智能带来的威胁主要是人类与机器之间的矛盾冲突,这个观点其实是错误的。人工智能在某些领域能够比人类更出色地解决问题,比如大数据筛眩然而,某些人类擅长的领域离,机器的表现非常糟糕。比如常识推理、提出精彩的问题以及“跳出来”想问题。人类和机器的结合体,即我们研究的计算机认知能力的基础,是对解决各个领域的复杂问题的革命性的设想。

人工智能为基础的系统已经在很多方面为我们的生活提供了便利:股票自动交易系统、自动飞行控制系统、工业流水作业机器、错误检测和搜索引擎...在过去的5-10年间,机器学习运算法则和先进的计算机架构让我们实现了很多新应用。

然而,需要认识到,计算机运算法则已经被运用到极致。要实现更大的进步,则需要引入更多复杂的符号系统——这是个很高的要求。今天我们的神经科学和认知科学研究,对于人类智能的研究还只是抓到皮毛。

我个人的观点是,能够达到人类水平进行一般感知、推测的人工智能机器还只是个娱乐话题。

TALLINN:今天的人工智能不可能对人类构成威胁。如果我们要讨论人工智能的长远影响,(也就是人工智能能够比人类更好地完成策略、科学、人工智能研究的时候。)我们就要涉及到控制超级智能的问题。

记者:什么是超级智能控制问题?

TALLINN:现在最先进的机器人也存在一个能够让人类实现完全控制的“关机键”。然而,“关机键”发挥作用的前提是它在机器人的工作领域之外。举个例子,一个会下棋的电脑工作领域仅限于与人对弈,它并不会觉察到它的人类对手可以拔掉它的电源终止游戏。

然而,超级智能机器,经过有意或者无意的程序设定,能够全面的了解周围世界并且对于有人可以动他们的“关机键”的后果作出预测,人类就很难再控制它。