欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  科技

霍金:军事科技过度依赖人工智能 将导致人类灭亡

程序员文章站 2022-04-04 17:55:11
剑桥大学著名理论物理学家斯蒂芬•霍金 在三连胜之后,“阿尔法围棋”(AlphaGo)软件终于在13日的第四局比赛中,被拥有18项国际赛桂冠的韩...

霍金:军事科技过度依赖人工智能 将导致人类灭亡

剑桥大学著名理论物理学家斯蒂芬•霍金

在三连胜之后,“阿尔法围棋”(AlphaGo)软件终于在13日的第四局比赛中,被拥有18项国际赛桂冠的韩国棋手李世石打败。新加坡《联合早报》14日社论表示,专家原本估计,人工智能超越人类的这种能力,应当在10年内还不会发生。李世石的三连败完全颠覆了这个假设。这个结果最直接的意涵是人工智能的学习和进化速度,已经远超人类的想象。这对于人类的未来究竟是祸是福,知识界莫衷一是。

文章摘编如下:

“阿尔法围棋”创始人德米什•哈萨比斯说,“阿尔法围棋”在第79手犯错,直到第87手才意识到问题。这是“阿尔法围棋”去年10月五连胜欧洲冠军樊麾后的第一场败局——人机对决的积分榜是1比8。在昨天之前,“阿尔法围棋”非但证明具备自我纠正能力的人工智能,可以在变化“比宇宙中的原子数量还多”的围棋中,打败代表人类顶尖实力的棋手,更因为此前始终没有犯错,而引发了诸多联想。

当“阿尔法围棋”在3月9日的第一场比赛中获胜后,大感意外的围棋界多以李世石轻敌来自我安慰,并自信在后续的比赛将胜出。李世石在第二局不再采取试验性策略,改用稳扎稳打的手法,期待利用对手的错误取胜,但是“阿尔法围棋”却始终没有露出破绽,最后还险胜李世石。诸多围棋手在第三局前集思广益,制定了抢攻并用“劫争”法逼迫“阿尔法围棋”被动防守的战略。但是在第三局中盘后,“阿尔法围棋”非但稳住阵脚,还反守为攻,甚至表现出料敌先机的能力,终在第176手胜出。

3月12日,在刚刚结束的“AlphaGo”与韩国14冠高手李世石之间的人机大战第三局中,李世石没能挽回赛点,执黑中盘再次失利,在五番棋的较量中总比分0-3落败。双方第四局比赛将于北京时间明天进行,李世石将为荣誉而战。

国际围棋界多以“惊骇”“生畏”形容第三局的比赛结果。与IBM研制的计算机“深蓝”在1997年击败国际象棋世界冠军相比,被谷歌收购为子公司的“深度思维”所研发的“阿尔法围棋”软件,依靠的并非“深蓝”那种庞大直接的运算能力,而是类似人类思考模式的自我学习与评估能力,以子之矛克子之盾。

专家原本估计,人工智能超越人类的这种能力,应当在10年内还不会发生。李世石的三连败完全颠覆了这个假设。这个结果最直接的意涵是人工智能的学习和进化速度,已经远超人类的想象。

这对于人类的未来究竟是祸是福,知识界莫衷一是。剑桥大学著名理论物理学家斯蒂芬•霍金在2014年就发出警告,人类的进化速度远不如人工智能,他担心军事科技如果过度依赖人工智能,可能导致人类的灭亡。

霍金在去年连同科技发明及企业家伊隆•马斯克、苹果计算机共同创办人史蒂夫•沃兹尼克等数百名顶尖精英发表联署公开信,表示人工智能对人类生存的威胁更甚于核子武器。微软创办人盖茨也表达了同样的担忧。高科技军事装备的普及,如美军在战场上大量使用无人机远程杀敌,多少印证了这种忧虑。

另一派则没有那么悲观。曾任谷歌大中华区总裁的李开复说,基于深度学习的人工智能,未来将创造更多价值,包括更准确地计算投资回报率、个性化的精准医疗、搜索引擎更贴近的推荐结果等等。

“阿尔法围棋”软件之父哈撒比斯也认为,人工智能将对公共医疗、智慧手机和机器人等有所贡献。哈撒比斯正同英国*合作,利用人工智能提高英国全国医疗服务体系的效率。人工智能也会让手机软件更个性化,成为使用者的贴心助手。他预计市场会在四五年内看到这类产品。

如同工业革命时出现的机器导致大量失业的问题,自动化加上演进快速的人工智能,未来也会造成众多中产阶级所从事的白领职位消失。这个经济和社会冲击势必激化为政治问题。同样的,工业革命所产生的巨大财富,也一度令一些思想家以为,不愁基本温饱的乌托邦即将到来。

但事实证明,新增的大量财富并不能解决分配不均的老问题,而后者仍然是世界冲突和矛盾的根源。人工智能一样是创造新财富的强大工具,可是如何公平分配,依赖的恐怕还得是人类的传统智慧。