自从1920年捷克作家卡雷尔·恰佩克在他的剧本《罗素姆的万能机器人》(Rossum’s Universal Robots)中，第一次使用robot这个词，描绘了被机器人统治的世界以后，全球的剧作家们就开始各种放飞想象。
从奠定了“机器人三定律”的阿西莫夫小说，到与人类缠斗不休的《终结者》系列，亦或是充满哲学浪漫色彩的《爱死亡机器人》，关于机器的善恶二元论，为科幻世界贡献了无数经典，也成了智能科技领域中最接地气、人人都能讨论两句的主题之一。
机器人真的会拥有自主意识吗？又会对人类社会产生怎样的影响？粒子机器人的出现，似乎又将这道难解之谜推演到了新的阶段。
从“细胞”开始，推开机器人觉醒的未来之门
最近，哥伦比亚大学教授、机器人研究权威专家Hod Lipson提出，机器将会有自我意识，这件事是确信无疑的。只不过“这件事情将在10年之后发生，还是100年之后发生”，科学家本人也不知道。
我们知道，以往在设计机器智能系统的时候，技术人员总是会试图让它们模拟和还原人类的行为。于是我们看到，机器在copy人类的过程中，学会了如何看、如何下棋，甚至还会像人一样控制肢体来上一段花式体操。看起来，似乎机器的能力已经比绝大多数普通肥宅要强的多了。但为什么小说和电影里那么多牛气冲天的机器人，生活中却一个也没有呢？
别说对着人类突突突的机器人军团了，想花钱找个机器人管家替我擦桌子洗碗整理家务，都常常被科普“想太多”……而这都源于机器人的自我意识缺失。它只能完成人类告诉它的事情，并且还十分费劲。至于强智能系统需要的自我模拟、自我建模，更是遥远的天方夜谭。
怎么现在突然就说机器人要产生自主意识了？乍听之下简直震惊我全家，接下来是不是该组织人类反抗军了？咳咳，抱歉刚看完《终结者》后遗症有点大……关于机器人觉醒，或许要从其最新的成果——仿生群体粒子机器人说起。
和人们想象中拥有机械身体、超智慧大脑的人形智能机器人不同，Hod Lipson所说的机器意识，很可能最先从粒子机器人集群中诞生。
今年三月，hod lipson团队发明的新兴粒子机器人登上了《自然》杂志封面，让“机器的自我意识”出现了松动，这一发现也在学界引起了轩然大波。其创新性主要来自两个方面：一是这些由“粒子”（即圆盘状单元）组成的机械系统，不需要人类的强集中控制，也能依靠自主性伸缩和随机运动完成复杂的任务；二是这种系统很可能产生觉知，通过思考“我为什么在这里”进而做出自我模拟、自我复制，从而可以在设备故障、特殊作业环境中顺利完成任务。
听到这里，大家可能会在松一口气的同时也干到了一丝迷惑：
这种机器人系统看起来和草履虫也差不太多，并不是很有威胁的样子，那么传说中的“黑客帝国”到底会不会来呢？
模拟人类心智的一小步，机器人的一大步
我们知道，人工智能研究是建立在人脑如何工作的基础之上的，而意识则是其中十分高级的一环。粒子机器人集群的进步，说明机器人学来到了哪个阶段呢？
首先，在担忧机器威胁人类社会之前，我们会率先品尝到技术进步带来的甜蜜时刻。
之所以这么说，是因为前面的发现，正在将机器能够模拟的心智能力推向更高维度。根据目前的科学研究，人类的心智主要包括四大能力，其中视觉感知和推理能力，已经被神经网络模型复制到了现实世界，计算机视觉、AI大脑正在成为新的生产力引擎。
而情感和社会关系，比如不同文化圈的人类能够感受到爱恨悲喜等相通的感情，能够根据合作、竞争、友谊、家人等不同的社会关系来产生动机并预测行为。
后面两种能力才是机器人和科研人员苦求而不得的高级智能。机器如果拥有它们，会发生什么呢？至少目光所能及的未来很值得心动。
（霍德·立普森（Hod Lipson）教授 photo by Hatnim Lee）
以粒子机器人为例，这种非常初级的“极可能拥有意识”的机器系统，能够带来的社会价值都是巨大的。
一方面，机器人如果能够模拟其它的人类和机器人，那也就会启动机器人之间的社会行为，进而可以认知环境、预测未来并主动采取行动。
如果机器某个零件坏了，它就可以自己修复，这使得机器的利用效率和适用范围大大提升。比如工厂里的机器、家里的吸尘器等，一些部件坏掉就会让整个机器无法运作。未来由这些纳米级机器人组成的机器，就能够不断循环，单个足见坏掉之后依然可以使用，帮助使用者不断节省成本。
另一方面，能够为未来科技打开新的想象空间与可能性。比如太空科技，生物医药等，随着粒子机器人技术向毫米、纳米级演进，未来应用到人类的血管中帮助处理病灶，亦或是在月球上机器人可以根据任务的需求改变自身的形态。任何自动化智能系统，包括在技术瓶颈中苦寻出路的无人驾驶等，一旦它们能够有自我意识，从毁坏中恢复，就能够更快地改进，这都是并不遥远得机器智能未来。
青山遮不住，毕竟东流去：机器的善恶谁说了算？
接下来，我们再来聊聊第二个问题——如果机器有意识，它一定会是恶的吗？
在回答这个问题之前，我们不妨先聊聊计算机的进步。众所周知，今天的计算机已经比上个世纪更加聪明且强大，但类似《2001太空漫游》等科幻电影中大型主机反叛人类的担忧，却越来越少了。今天，我们也许会担心网络漏洞所引发的混乱或是人为恶意制造的病毒，却很少会想象出现什么电脑杀手或秘密组织。
人类为什么对智能机器人这么紧张呢？除了在智力、能力、体力上对人类个体的碾压之外，恐怕一个很大的恐惧来自于未知与不确定性：一旦机器拥有独立的人格和认知，会不会伤害人类呢？
问题来了，为什么机器人想要这么做呢？为了更多的服务器资源，还是伤害流水线工人会使其得到快感？在没有足够“奖励”的前提下机器会自己变坏吗？显然还要问人类自己。
很多人认为，机器人觉醒会像《西部世界》中女主角德洛瑞丝一样，意识到自己是被人类奴役和玩弄的，进而开始复仇。即使这一天真的会到来，我想以目前人类与机器人之间的关系，也不至于会变得剑拔弩张吧。
哪个“变态科学家”会甘愿冒天下之大不韪，丢给智能机器这样“反人类”的数据集，而不担心先被机器虐的是自己呢？
事实上，像波士顿动力那样动辄对机器人拳打脚踢，只是为了训练其适应性和灵活性的必要方式。就连这样的操作，也因为人类自身的同理心和同情心，而变得越来越少了。让AI在仿真环境里打游戏、让机械手臂玩魔方、去山坡上溜机械狗……都是时下训练的新方式，真有觉醒那一天，AI应该也给人类造一个沙盒游戏场快乐玩耍“投桃报李”才对嘛。
再进一步，如果出现了这样的人类“恐怖分子”，比如利用AI行骗、犯罪，将机器人改造成爆炸装置之类的，在技术上能否及时发现并遏制呢？
对于这一点，智能科学正在向网络安全界学习，引入一些成熟的防范机制，比如人工智能开发中的红色团队、人工智能系统中的正式验证，以及负责任地披露人工智能漏洞等等。
去年，由OpenAI、牛津大学、剑桥大学等14家机构和高校共同发布的《人工智能恶意使用》报告中，也进一步号召人工智能领域形成规范和道德框架。
在这样道德、技术、法律等多方面的做功下，机器人的自主意识还会对人类带来危险吗？严谨如Hod Lipson也只是回答——没那么简单。
“应该说任何这样的问题都没有一个简单的答案，但是我们必须走上这样一个历程，并且一步一步的往前走，我们现在要公开讨论它应该可以做些什么，不可以做些什么，要不断地进行研究。”
（Hod Lipson在接受采访）
对技术的担忧，就如同初次触摸火种的惊惧，永恒地悬在人类心头。今天绝大多数人提到AI，已经没有了初见深蓝和阿尔法狗的恐惧，开始重点关注其如何为经济释放能量。
从这个角度看，智能机器人的“黄金时代”还没能到来，它正如所有“前辈们”一样，经历着幻想、质疑、混沌。所以，在这个技术尚且十分初级的阶段，来探讨其觉醒后是善是恶，似乎是一件很形而上的事情，但关乎我们每个人的未来，也孕育在这样与技术进步相勾连的思索与拷问之间。
