李飞飞对谈赫拉利：AI演变成全球科技竞争，会比核竞赛还要可怕？

　　原标题：李飞飞对谈赫拉利：AI演变成全球科技竞争，会比核竞赛还要可怕？

　　近日, 斯坦福大学社会与伦理中心，斯坦福“以人为本”AI研究院和斯坦福人文中心共同主办了一场“未来AI”主题活动。

　　畅销书《人类简史》、《未来简史》作家尤瓦尔·赫拉利（ Yuval Noah Harari ）和AI界“女神”李飞飞分别谈到对未来AI发展的一些看法。

　　赫拉利在讨论中重述了他在《未来简史》中的预言，他认为当AI与脑科学、生物科技、大数据联合起来时，将具备攻击人类大脑的能力。

　　而李飞飞坚信任何技术都有两面性，AI带来的机遇和潜在的危机应该被正确看待。未来AI发展所面临的挑战和问题需要各界专家学者共同探讨研究，重新构建下一代AI发展规划。

　　17世纪和18世纪围绕着人的能动性和个体自由意志建立起来的现代哲学体系，面临的不是新的哲学思想挑战，而是AI可能带来的颠覆。

　　赫拉利认为哲学危机一半来自AI与计算机技术，另一半来自脑科学和生物科技。如果总结为一个公式，生物科技*计算能力*数据=攻击（hack）人类大脑的能力。

　　假若可以创建一个比自己还要了解自己的算法，现在所谓的“自由意志”，“独立思考”，“民主投票”都会崩溃。哲学家们几千年来讨论的诸多哲学概念都将在算法面前土崩瓦解。

　　赫拉利强调真正入侵人类大脑的能力不是指收集用户购买习惯，网页浏览记录，进行广告推荐这些，而是算法可以直窥人的大脑和心脏，收集数据。

　　而李飞飞认为，首先AI的诞生就是从神经科学、生物学中获取的灵感。尤其是机器学习，就是从模拟人脑的神经网络工作的。

　　其次，人类从火的发现开始所创造的任何技术都是一把双刃剑。它可以给生活、工作和社会带来改善，也可以带来危险，所以AI也会有危险。

　　从60年代后到今天，AI在医疗保健方面收集了大量生理学和病理学数据，并利用机器学习来辅助医生诊断和治疗，很大程度上改善了人们的医疗健康水平。

　　AI是一项革命性的技术。虽然与物理、化学、生物学相比，它仍然是一门新兴的科学，但有了数据、计算力，AI正在对人类的商业和生活产生各种各样的影响。

　　面对人类面临的各种问题和危机，斯坦福大学“以人为本”AI 研究中心提供的一个建议是，重构下一阶段AI的研究和发展。这需要人文学家、哲学家、历史学家、政治科学家、经济学家、伦理学家、法律学者、神经科学家、心理学家以及其他众多领域科学家共同研究。

　　关于人类的爱情，AI也能学习吗？

　　爱情是人类独有的情感，AI是否能进化，以至有能力进入人类爱的堡垒?

　　赫拉利认为，关键如何来定义“爱情”。从生物学角度来看，爱情的产生无非是一串身体内部产生的生化反应，荷尔蒙会升高，心跳会变化，外部的情绪和动作也跟着变化，如果机器算法可以给这种生理过程编码，爱情的产生就和一场禽流感没什么区别。

　　李飞飞对此完全不同意，首先，AI算法还没有达到如此强大的地步，不仅可以预测和判断我们的金融消费行为，还可以将人类的意识和爱进行模型生成，这种AI在我们这个时代是不可能的。

　　另外，这个时代不是只有AI这一种技术，过去，现在和未来，都有很多种技术与AI 同时发展，有的技术甚至比AI更强大。人类在其历史上面临着如此多的技术，如果没有任何监管、规则、法律、道德准则，那么技术可能早已以巨大的方式摧毁人类或伤害人类。

　　但从历史的角度来看，我们的社会正在向一个更加文明可控的方向迈进。所有的技术都有可能落入坏人之手，AI误入坏人之手的可能性和负面影响不应该被单独放大。应对AI的发展和危机，应同其他科技领域的技术一起看待，一起来面对和解决。

　　AI 全球竞赛，比核竞赛还要危险？

　　赫拉利在访谈中讲到，AI的发展只有少数国家有竞争优势，尤其是中美两国，在技术，人才等上面有 的优势，而很多其他国家，如非洲国家，甚至一些欧洲国家已经远远落后于这场竞赛。更为可怕的是，AI的发展中，竞争的味道更浓，而不是合作大于竞争。如果AI演变成全球科技竞争，这对全人类都不是一件好事。

　　真正的可怕之处在于“数据殖民”。例如19世纪的全球殖民地统治，英国在印度或埃及种植棉花，然后将原料运到英国，用高新技术生产衬衫，再送回印度销售，与当地厂家竞争。某种程度上，现在的数据经济也是这样，创业公司在巴西和印度尼西亚等地收集数据，但他们不在那里处理数据，而是送往加利福尼亚或中国东部处理，生产出各种新奇的新设备和技术，作为成品卖到全球各地。

　　另外从政治角度来看，如果AI技术只服务于本国利益时，那么其他AI发展落后的国家怎么能信任AI强国提供的服务呢？

　　和核竞赛相比更可怕之处在于，虽然大家都在研发核武器，但是只是作为国防实力展示，并没有打算随便去用，而AI技术出现时，马上会被投入使用。

　　李飞飞认为这种情况出现的可能性很低，如今的科学在全球范围内都开展比较频繁的合作与交流，有很多跨国的合作研究和应用，仅在斯坦福大学，每年全球合作生产的论文就数不胜数，此外还有GitHub这样的开源服务社区向所有对技术感兴趣的人开放。

　　另外确实有很多AI 资源掌握在少数的大公司中，但不是全部。学术界很多独立研究机构在AI发展上都扮演着分享者的角色。目前AI发展落后的国家其实还是有机会和时间去思考，制定自己的AI发展战略的。