人工智能，由我们亲手做出的跳脱天然范畴的人工设计，堪称为人类实现自我突破与变革的一场“逆天革命”与“疯狂冒险”。面对人工智能，与其说我们是对自身的未来抱有多美好的憧憬，倒不如说对未来满怀“恐惧着的希望”，人工智能碾压一切的进步性与潜在的失控风险始终拉扯着我们的终极神经。

如何制衡人工智能这把“双刃利剑”，已然成为智慧产业前行的重要课题。何以在人工智能“够聪明”之前，为它们树立并能够实际遵循的行为准则，以此构建较完善的监管体系或者说是 “道德束缚”?

智慧进化 箭在弦上

曾几何时，人工智能还只是计算机科学的一个分支，出于对人类意识、思维的信息模拟。自1956年达特茂斯会议诞生“人工智能”一词以来， 短短60年，商业动机已经让与工业力量相关的人工智能无处不在，互联网、金融、医疗、教育、物流、娱乐、传媒等行业都在加速自己智能化的进程。市场研究公司IDC预测，到2020年，AI的市场规模将从今年的80亿美元增长到470亿美元，而对话机器人、智能语音、人工智能医疗等则成了人工智能这一热点中的热点。

互联网及物联网技术的不断进步、大数据在数量与内容上的持续性几何增长与应用，让人工智能得以不断“深度学习和演化”，在具备学习能力的机器眼中，一切“人、事、物”皆可以被数据化，而算法基于这些数据便可以建立“人、事、物”之间错综复杂的关联关系。当算法可以充分捕获描述人事物的关键数据后，机器便可以复制甚至超越人类的学习能力。

2016年3月15日，谷歌阿尔法围棋(AlphaGo)与李世石的五局人机大战在首尔四季酒店战罢，人类代表韩国棋手李世石九段执黑不敌AlphaGo，代表人类大脑最复杂领域的围棋被机器攻略，进一步论证了人工智能在模拟人脑、基因演化和自我进化的过程中已深度“进阶”。人工智能正在由“弱人工智能”向“超级人工智能”高速进化。

我们一边以科技的进步标榜自己的成就，一边又焦虑并惧怕着被科技产物所取代甚至毁灭。这种巨大的恐惧和担忧，在文艺工作者的作品中体现得尤其明显：电影《终结者》邪恶机器人天网，企图审判并灭绝人类;《黑客帝国》中机器人要完全控制并奴役人类;《银翼杀手》里人工智能复制人与人类对抗……虽然我们还不至于亲眼目睹、亲身经历电影桥段中可能出现的危机，但是接下来我们确实很可能会产生一个群体——无用的人群。因为以往人类社会的几次技术革命在导致失业的同时，也创造了大量新型工作。而人工智能技术的发展，在替代人类劳动的同时，对创造新工种可能贡献有限，这将在一定程度上对就业产生负面影响。

目前，全球最大的5家科技公司谷歌母公司Alphabet、亚马逊、Facebook、IBM和微软都在率先尝试制定关于人工智能机器人的道德标准，并规划成立人工智能行业组织。虽然尚不清楚，这一行业组织最终会取得什么样的成果。但其基本出发点很明确：确保人工智能的研究专注于造福人类，而非不利于人类。