第13期 | 天使还是魔鬼 - 汉堡科学院华人院士谈人工智能危机

张建伟教授任德国汉堡大学信息科学系多模态技术研究所（TAMS）所长，德国汉堡科学院院士，世界智能机器人顶级会议IROS2015总主席。家联合会会长，德国清华校友会会长。曾任中国留德学者计算机学会主席，全德中国学联主席。

张教授1986年于清华大学计算机系以学士第一名的成绩毕业，1989年清华大学计算机系硕士人工智能专业毕业，2004年德国卡尔斯鲁厄大学计算机系机器人专业博士毕业。机械及领导工业4.0中三的感知学习和规划，多传感信息处理与融合，智能机器人技术，多模式人机交互的研究与开发。发表三百余篇论文及专着，并多次获得国际会议最佳论文奖。指导德国硕士工程师百余名，德国博士三十余名，洪堡学者多人。拥有四十余项机器人和人工智能方面发明专利。任数个国际重要机器人及人工智能会议的主席，多份国际专业杂志编辑，并任德国数家企业的技术顾问。

在张教授任职所长期间，TAMS研究所主持了多个德国科学基金重点项目，联邦教研部与工业合作项目和欧盟ICT重大项目，开发出可用于工业4.0的经验学习机器人系统，自主移动操作机器人，通用装配系统，多模式人机交互平台，开放式机器人软件，认知式电子教学界面等多种技术与系统。

但史蒂芬·霍金教授曾发出警告，如果强人工智能真的实现，将是“人类历史上发生的最好的，甚至最坏的事情”强人工智能可能会给人类带来某种危机？科学界目前在采取某种对策？我们来引用人工智能和机器人专家张建伟教授的见解。

张教授您好，下面我们想跟您聊一下人工智能的潜在风险。现在有很多科幻影视或者书籍以未来人工智能给人类带来危机为替代，您觉得这是杞人忧天吗？

你的这个问题让我想起一个小故事，去年我在汉堡组织了世界智能机器人系统大会（IROS 2015），会上另外来自世界各地的3000多名专家学者之外，还有一群不速之客，他们在警察署登记要游行反对研究和发展机器人。

我觉得这是一个很好的现象，因为在一个民主社会需要有不同的声音。后来我和抗议者进行了交流。原来他们来自一个和平主义组织，他们担心机器人研究会担心战争，也担心未来机器人统治人类会成为现实。后来我邀请他们参加市民论坛，也为他们安排了一个展位，允许他们表达自己的声音，但要求他们必须遵守遵守的纪律，之后他们也改变了一些造成的偏见。许多专家学者也觉得，有人提醒监督机器人研究的道德规范是个好事。

将学术界控制人工智能或者机器人的风险的问题叫做机器人伦理，也就是机器人伦理。因为机器人和其它技术一样，既能够带来生产技术的进步，也存在滥用这一技术的可能，所以研究和讨论机器人科学研究是很有必要的。

也就是说您也认为风险是真实存在的，在您看来，可能会存在潜在风险呢？

最初的风险风险是，机器人置于人类的工作位置抢走。这个问题已经过时了，现在德国的工会普遍认为，使用机器人对他们来说是一个好的事情。因为机器人可以替代工人去做很多枯燥繁重，环境恶劣的工作，工厂的质量和效率也会提高，工人能够更好地保住他们在德国的工作位置，否则如果工作依旧全手工进行的话，它们可能会被转向劳动力成本低廉的地区。所以目前在德国，工人和工会对机器人持比较积极正面的态度。

目前讨论机器人科学研究的问题主要在三个方面，一是机器人与人类的科学研究关系，二是机器人被战争，三是超级机器人对人类的威胁。

您能否具体介绍一下这三方面的风险？

首先是关于人类的科学研究关系。我认为，如果花费足够的资金和科研力量，在未来50至100年之间造成类人水平的强人工智能是完全有可能的。到时候，机器人将会更加紧密地服务于人类的生活，和人类建立更加紧密的关系。

人与机器人之间会形成什么样的关系，有没有可能成为朋友，甚至生活伙伴？人与人之间的伙伴关系，亲情关系，婚姻关系等等会不会受到威胁？就像一些影视或者书籍里描述的那样，类人水平的强人工智能可能对人类社会的伦理道德，人与人之间的相互关系提出一些挑战。

第二个方面就是机器人应用于战争。目前已经存在一些间谍机器人，能够操纵炸弹的无人机等等。未来机器人在战争里的应用也会越来越广，以后的战争有可能变成是机器人的战争，带给人类的影响或许会比原子弹还要大。

第三个就是超级机器人，超级人工智能的出现，会不会威胁到人类的生存，会不会机器人不再是为人服务而是统治人类。从技术的角度来看，我觉得超级机器人或是人工智能被开发出来的技术可能性是存在的。

面对这些风险的存在，科研学术领域有没有采取某些措施去应对呢？

现在我们已经到了需要考虑机器人科学研究的时候了，对这个风险的预防目前可以从两个方面来做。一是对资源投入进行引导和监督，二是未来要逐步建立起应对机器人时代的道德和法律规范。

首先是对资助人的引导和监督。机器人的研究需要大量的资源投入，要确保资源投入的领域和方向是对的。资助的来源主要有两个方面，可以是政府资助，必须是商业资助。

目前我们科研领域会积极地与政府沟通，对政府资金的投入方向进行引导。每年的世界机器人大会上都会组织政府论坛，比如去年我们请来了美国的自然基金，欧盟的机器人基金机构，还有德国的，日本的，韩国的，中国的等等，让各个政府资助机构聚在一起，互相交流，讨论这些是真正的全球性问题，这是应该资助的主要方向。某些像保护环境，助老助残，工业应用等等，这些都是资助的最重要方向。

另一个方面就是追求商业利益的资源投入，其中机器人伙伴，性伙伴等等，这些可能会赚钱，但这些机器人的研发应该主要由私人或民营公司来资助。甚至有可能会有一些很有钱的人或组织希望造出一个超级机器来追求利益，或者说想统治世界。这些情况就需要未来道德和法律来进行规范了。

具体到您的研究工作当中，您是如何处理关于机器人临床道德方面的问题的？

我们一直避免倡导以人为中心的机器人，也就说为人服务的机器人，而不是创造一个完全自主的，不能相互作用的机器。

我们要在做机器人的整个过程中要求机器人的思考，状态，推理和学习等等都对人透明，然后使我们每一步都可以跟它相互作用，能够知道他是为什么做出这种决定，然后让机器人最多成为我们的伙伴，而不是成为我们的主人。

我和我的学生在机器人的研讨中，至少会让一个学生讨论机器人的物理学，有时候就会以科幻片里的各种各样想象的机器人为背景。它们对我们的研究会有一定的启示，也。另一方面能让学生在讨论机器人伦理时候逐渐更加深刻地认识到，哪些可以做，哪些不应该做。

目前在德国，年轻人在机器人应用方面的道德感还是非常强的，例如之前有讨论过要做无人机，有人来到实验室门口进行抗议，因为他们联想到这是会被用到战争里的机器。

如果大部分人都建立起应对机器人时代的伦理道德，并同时存在相应的法律之后，那么甚至有些私人或机构投掷很多钱去做一些对人类没有任何的，甚至说最后有可能威胁到人类的事情，那么他们必然会受到人们的反对，甚至是法律的制裁。

我想，在全球加强协作的情况下，未来是能够控制住这个局面的。

原来电影里的人工智能危机双重艺术的夸张，甚至真的有可能会变成现实。让我们在期待人工智能不断发展的同时，也祝愿我们人类会有好运！

张华伟教授长期在德国军事教学与科研管理工作。作为华人，如何才能在德国高校取得教席？在德国做教授又是怎样的体验？与内部任教有何不同？德国高校与政府及工业界有什么特别的合作方式？下一期中张教授将带您深入了解如何在德国做教授。

    有了这个号，还要什么女朋友？

对话德国将采访一位某人德系豪华车的研发负责人，如果您有任何关心的问题，请给我们留言，我们将进行尝试在访谈中为您获得答案。感谢支持！

- 结束 -

欢迎大家对公众号提出建议，如果有特别关注的问题也欢迎回复公众号，我们将逐步在先前的采访中寻找答案。

欢迎转发分享，准许不得转载。