首页 >> 正文

人工智能会否带来失控的未来?
2017-05-18 作者: 郑渝川 来源: 经济参考网

  美国未来学家、非营利组织幸福马拉松项目创始人约翰C·黑文斯在其所著的《入侵未来》(机械工业出版社2016年6月出版)一书中,表达了对于互联网经济、数字时代前景的信心。黑文斯在《入侵未来》书中解释说,未来,人们拥有并掌控自己的数据,主动采用前所未有的方式来监测生活,对数据进行自我分析后采取行动来提升幸福;在此基础上,幸福指标将成为新的全球性价值衡量标准,从各国到每个机构、个人都在透明和道德标准基础上去创造幸福。他还设法祛除部分用户对于热点技术应用的担忧。热点技术具备挖掘数据甚至是用户隐私的可能,但应用价值更大,如果能获得恰当的使用,将为用户创造更大价值。

  黑文斯最新出版的《失控的未来》一书,对于互联网经济和数字时代的描绘,却秉持一种悲观意味。他在书中假设他的女儿未来(2021年)患上了青少年帕金森病,被要求在大脑中植入一个可以远程更新的芯片,但医院方面对于芯片联网运作带给人体、人脑的潜在危害不置一词,也没有针对黑客入侵的应对预案。而到了2022年冬天,虽然黑文斯女儿的病情日渐稳定,芯片也经过了两次更换,但因为“机器换人”大背景下,黑文斯夫妇已经找不到财力以继续支撑女儿更换新版本芯片的工作,医院方面决定从她女儿大脑中拿掉芯片。

  基于现有的人工智能、互联网等技术发展趋向,黑文斯还描绘了其他几幅场景:他的女儿痊愈,却在2028年进入青春期后,选择了一个机器人作为首个约会对象;身为专栏作家、记者的他,周边同行的工作被机器人悉数取代,他本人得以短暂留职仅仅是因为媒体老板象征性的保留“人类记者”职位,他还经常被机器人同行取笑;2044年,进入老年的黑文斯,期盼着儿子来看他,结果儿子仅仅派来了一个克隆了自己神经网络意识的人形机器人,这让黑文斯大感不满。

  以上几类场景是黑文斯想象得出的,但发生在2014年11月美国俄亥俄州哥伦布市的一起悲剧事件却真实存在。一户购买了经系统改进能够自动寻找插座充电的扫地机器人,机器人无法从自己现有的插座上充电,便抢夺了另一处插座上的电源,被拔去电源的恰恰是这户居民所使用的婴儿监视器。凌晨时分,婴儿因为吐奶而被呛得发不出声音,但负责招呼孩子的父亲却睡着了,没能听到哭声。

  黑文斯在《失控的未来》书中表达了对于人工智能和互联网等技术,在没有加入道德标准和伦理限制的前提下狂飙发展的担忧。“人类当前具有而机器所没有的,是一种与生俱来的价值观念……(人们)还具备对情感和道德感知能力……”现在的问题是,要让人类社会的价值观经过确认、梳理、总结,转化为机器可以识别的协议,十分困难;更加令人担忧的是,智能产业、互联网产业中的企业对于建构和转化适用于机器的道德准则,也并无积极主动的意识。这种情况下,人们有理由担心,20世纪以来,产值、财务报表数据、利润至上的资本逻辑,在延续到本世纪,通过人工智能和互联网等新技术构建起一个规模庞大的机器化、自动化新世界后,会出现不利于人类生存发展的失控状态,个人、少数人甚至相当部分的族群、群体,会在资本逻辑和技术至上观念的驱动下,成为牺牲品。

  全书分为两大部分。第一部分中,书作者深入讨论了大数据、人工智能、移动互联网等新技术加速演进,所产生的应用和管理困惑。前面提到的几类假想场景,均建立在新技术的现有应用方式特别是缺乏道德约束和伦理考量的基础之上,例如当代人对于虚拟关系的严重依赖,智能增强设备的创新迭代、神经生物学的飞速进展,让人与机器的结合逐渐成为现实,未来的人将不再是纯粹意义上的人,在人的大脑中植入芯片(以治疗疾病或进行行为控制)、人与机器人的恋爱并非空想。

  再来看“机器换人”对于现有白领阶层、技术人员的冲击,因为这不仅将造成失业人群的经济损失,还因为剥夺了有目的性的工作,让人们无法从生活中获得意义。而当机器、智能可以克隆出“高仿”版的真人的情况下,人的社会存在价值便受到了进一步的剥蚀。黑文斯担心,未来,可以复制人的记忆和思维方式的机器,却因为不具备人的道德、情感,会对人类社会的运转带来不可避免的威胁。

  《失控的未来》一书的第二部分对于第一部分陈述的问题,提出对应的解决建议。比如,要促成积极心理学与人工智能的融合,让个性化算法帮助而非诱导、安排人如何去实现幸福;更加清晰的梳理社会价值观,确保其涵盖志愿服务等正向活动的价值。又如,集合政府、社会组织、数据产业企业、互联网企业,建立人工智能道德标准,将感激、利他主义、意义植入其中,在此基础上促成技术、经济和社会秩序重建,走出失控。 

凡标注来源为“经济参考报”或“经济参考网”的所有文字、图片、音视频稿件,及电子杂志等数字媒体产品,版权均属经济参考报社,未经经济参考报社书面授权,不得以任何形式刊载、播放。获取授权
南方基金

机器人产业扶持引导政策将出

机器人产业扶持引导政策将出

。“在经济整体不太景气,由高速增长向中高速增长换挡的情况下,我国机器人产业一枝独秀,引领了制造业的发展。”

·辽宁“事转企”激活国资超千亿元

“到付”快递成诈骗新渠道

“到付”快递成诈骗新渠道

互联网时代,网上购物受到消费者青睐,可层出不穷的诈骗“陷阱”却随之而来。

·“免费促销”背后几多“空头支票”?