车东西（chedongxi）
编 | 小树
12月8日，由现代汽车及HBP2018获奖者龙星如策划举办的《朋友：邱志杰与AI的对话》讲座在北京正式举行。
现代汽车文化中心诚邀微软小冰来此座谈,与邱志杰一起探讨人类与机器对未来演化和人类责任这一话题的反思和设想。
人工智能的全球发展,是全人类的共同课题。科技技术浪潮的每一次革新,都在推动社会迈向更高层次的境界 ,对于人工智能,可以预见的是,不管承认与否,人工智能时代离我们已经越来越近。那么,人类究竟要如何面对一个人工智能普遍存在的未来?
以下为对话实录：
（Q & R & Y / 邱志杰 = Q,龙星如=R)（Q & B / 邱志杰 = Q,小冰=B）
Q：完美的人工智能是否会犯错误？
B：这个问题很难回答。因为我们无法判断在我们认为它“犯错”的时候，它是否真的在“犯错”。如果在超人工智能时代，我们的思维已经落后于人工智能，那么这个问题实际上因为不可知并且就不会存在了。
Q：完美的世界有必要存在吗？
B：同意。你指的客观存在还是存在于人们心里？我觉得客观的存在可能没有必要，因为如果它是必要的，那么我们应该不惜一切手段达到这个目的，事实上我们没有，但在人们心里，应该是必要的，这样我们才有不断努力的动力，才有生活的指望。
Q:没有人类的世界是否会更好？
微软小冰：没想好要怎么回答你。(不明白真相的吃瓜群众)
Q:完美的错误应该是什么样的？
B：确实很完美
Q:其实我昨天晚上刚刚开始跟四个AI聊起来,看起来它的人设非常明显,小冰是一个写诗的,熟悉电影和流行音乐,甚至熟悉一些体育,妲己是一个游戏里面的人物,是一个跟历史上的妲己有点像,有点脑残少女。
陈琰：它应该是傲娇,用现在的词就是M系。
Q:这个无名氏专门为了对我的刁难问题产生出来一个比较愿意动脑子的,但是碰到人类的哲学家,有对付不了的问题的时候,倾向于耍赖,有一套完美的逃避办法。
陈琰：
可以这么理解,其实哲学问题是非常深刻的,而且难于被普通人所理解的问题,所以在回答的时候,会动用已有的一些知识框架和人类智慧。发现已有的人类智慧都没有能够完美回答您的问题的时候,会采用一种拖延或者敷衍的态度去说话。
Q:昨晚我把小冰的对话托给一个不知道小冰的人,他倒是非常明确地鉴定出这是一个女孩。对小冰这个少女人设应该是成功的,现在小易(人工智能对话机器人)是怎么界定的?
陈琰：小易,其实我们在打造它的时候,想把它塑造成更为成熟的小冰(25或26岁左右),所以在人设上,其实我们去判断一个人的性格的时候,当一个性格出于中庸阶段,很难判断它的性格,它是通用型人格。
R:刚才您也讲到了,性格这件事情可能需要通过对比才能产生的,可能在一对一的时候,我未必能够非常准确的把握这个人的所在。我特别想知道,当我们界定聊天机器人或者语言风格的时候,它产生什么样的机制或者怎么设计这个风格和性格的?
这个技术叫做神经网络学习的方法，我们采用了生成的模型做这样的事，所谓生成的模型，我们发现有些问题在人类社会当中被问过，有些回答人类社会当中无法找到回答，生成模型，这个问题放到那，自动生成回答，中间经历的过程，对于我们来说也是“黑盒”。
神经网络永远只知道输入、输出端，中间发生的事情其实都是“黑盒”，我们采用生成模型做这件事情，它的相关性和能够覆盖的问题广度比原来大很多，这是我们现在主要用的两块。
至于语言风格的话，有一个比较类似的情况，我们回答语言风格偏网络化语言比较多，遇到哲学性问题的时候，其实比较难于回答，原因在于我们现在数据来源，其实和现在至少使用中文语境下的网民性格状态比较类似。
就是中国的网民爱聊什么，它其实就会比较擅长聊什么，比如中国网民可能爱聊明星、八卦、体育，聊一些有的没的、闲聊一些事情，这方面回答的比较好，数据比较丰富。我相信中国网民很少聊到哲学，这是我们遇到的一个短板。
Q:其实我给小冰准备了一百个问题,但只准备到第89个问题,还有11个问题没有想出来,这89个问题某种程度上都是人类历史上最难的问题,类似于像我说在电梯里抽烟的人不是人,这是中国历史上有名的《白马黑马》故事,类似于死于非命算不算一种命运,这个其实是哥德尔不完备,把自己作为子集的集合。
如果翻译成一个问题,叫做每个福建人都说我是一个福建人,每个福建人说的每句话都是谎言,这个叫做悖论，不被自己剃头的剃头师的悖论，都是把数学家、哲学家折腾的死去活来的一些问题，其实我有点欺负小冰,她是19岁沉迷于中国网络里面会学着写点诗的少女，大概拿了一些大哲学家非常难解决的问题来刁难她。
其实人工智能经常把自己和人类分开，我们会发现人在交流的时候，它的语言是涵盖人类内容，语言内容本身，有一些沟通技巧，当我们发现内容无法提问者的时候，采用回避或者调整工作。
Q:日常生活当中也是把尴尬无法回答的局面昏过去了，恰恰是很精准的对人类交谈作为一种社交活动的一种模拟吧。
陈琰：明显目前赶不上人类技巧那么成熟。
R:其实完全可以把这次表演做得对答如流，好像人工智能瞬间具备了非常完备的语言能力的局面，我们选择不这么做，我个人角度策划这个项目很希望在创作的过程当中让工程师能知道艺术家的脑回路，然艺术家能知道可能我们现在的技术边界到底在哪里，哪些是能做，狭义来说人工智能作为聊天机器人边界在哪里。
作为提问者，提出什么样的问题，不在于什么样回答，在于提出什么问题，选择与机器人交流的方式，基本上建构了对于机器人的猜测和理解。现在语料来源是网民回复和在线评论，假设网上大量曝光的人和全部语料，是否存在这样一个情境，生成类似这个人的人设IP。
陈琰：理论上已经有实际产品，我们先看人和人的区别，不到1%，除了性别，人的语言习惯最多只有不到1%的内容有差异性，我们所谓聊的事情都是有通识性问题，人和人语言风格上的差别只有三观、受的教育、语言习惯，语言习惯比例非常小，少量的差异性可以通过少量的机器学习构建的，目前来看完全可行。
Q:除了语言风格差别，更实质的是一个人特点。我刚才给小冰准备的一百个问题，一部分是逻辑问题、悖论问题，其实更大的一部分总是围绕着两个问题展开的，是否有机会犯错误，以及有机会从错误当中产生出创造力来，当然我为它制作出各种变形问题，更核心的问题围绕着人有没有能力预测未来？
当我们足够全知，掌握的信息足够富足的时候，预测未来是否可行？预测的未来是不是未来？这个问题通向包括我们的祈祷能不能改变未来，我们愿望的力量能不能改变未来？
当然涉及到不是哲学问题，会牵引向宗教问题，最后会问小冰鬼神问题，我一直觉得人工智能可以打有座位的领域是算命，我研究过种种算命，从周易，西方有荷马史诗，到水晶球，看相、手相、面相，到抽签占卜，洒豆子，到扑克牌，到测字、金钱卦，都可以归结到基于统计学、大数据的事情，人工智能是否可以在算命这件事情上解决很大的需求，不知道有没有往这个方面走？
陈琰：又问了一个非常难回答的问题，人工智能本质上也跟哲学有一些关系，哲学基本上分成经验论和预期论，所有知识根据已获得的经验或者经历过的一些经历，还有理性论，所有知识来源于理性的。
其实现有的人工智能，人工智能是机器学习，基于海量的数据，如果海量数据已经产生的，基于经验论，本质上区别是无法预知未来。
新一代人工智能技术不断的发展,将早期的科技智能代入情感化、人文化,融合于人文情怀、社会主流的新型未来风向。
与此同时,现代汽车也将继续秉持初心，吸引、培养高端创新型人才，不断探究未来设计、技术领域的新边疆，以更富情感价值的设计和产品，为消费者带来更加美好的汽车生活体验。
