作者:约翰·C·黑文斯 出版:中信出版集团 |
以上类场景是黑文斯想象得出的,但发生在2014年11月美国俄亥俄州哥伦布市的一起悲剧事件却真实存在。
黑文斯在《失控的未来》中表达了对于人工智能和互联网等技术,在没有加入道德标准和伦理限制的前提下狂飙发展的担忧。现在的问题是,要让人类社会的价值观经过确认、梳理、总结,转化为机器可以识别的协议,十分困难;更加令人担忧的是,智能产业、互联网产业中的企业对于建构和转化适用于机器的道德准则,也并无积极主动的意识。这种情况下,人们有理由担心,20世纪以来,产值、财务报表数据、利润至上的资本逻辑,在延续到本世纪,通过人工智能和互联网等新技术构建起一个规模庞大的机器化、自动化新世界后,会出现不利于人类生存发展的失控状态。
全书分为两大部分。第一部分中,作者深入讨论了大数据、人工智能、移动互联网等新技术加速演进产生的应用和管理困惑。前面提到的假想场景,均建立在新技术的现有应用方式特别是缺乏道德约束和伦理考量的基础之上,例如当代人对于虚拟关系的严重依赖,智能增强设备的创新迭代、神经生物学的飞速进展等等。
作者笔下,“机器换人”对现有白领阶层、技术人员的冲击巨大,因为这不仅将造成失业人群的经济损失,还剥夺了有目的性的工作,让人们无法从生活中获得意义。
《失控的未来》的第二部分对于第一部分陈述的问题,提出对应的解决建议。比如,要促成积极心理学与人工智能的融合,让个性化算法帮助而非诱导、安排人如何去实现幸福;更加清晰地梳理社会价值观,确保其涵盖志愿服务等正向活动的价值。又如,集合政府、社会组织、数据产业企业、互联网企业,建立人工智能道德标准,将感激、利他主义、意义植入其中,在此基础上促成技术、经济和社会秩序重建,走出失控。