当Elon Musk们担心AI失去监管的时候，究竟在担心什么？

编者按：本文来自微信公众号“线性资本”（ID：LinearVenture），作者：Desroches 姜珊，36氪经授权发布。

人工智能的飞速发展创造了许多新兴产业，将会对社会治理、法律制度、监管乃至社会伦理等产生深远影响。人工智能变得“拟人”和“超人”，人们越是对其依赖和赞叹，越是恐慌不安。现实中，人工智能对现行法律制度的挑战已初露端倪，而未来如果人工智能具有自主性和情感，其法律地位及与人的法律关系定位将成为难题。

医疗保健

人工智能在医疗保健产业的应用前景光明。人工智能具有分析大量数据的能力，使它们能够成为预测药物疗效的有力工具，并帮助病人找到合适的药物。

例如：IBM的沃森保健程序（Watson Health program）“能够通过查阅数百万页的医疗科学文献，来理解并提取关键信息，从而显示药物和疾病之间的关系”。人工智能的某些特性能够使之通过智能手机上的应用程序来捕捉和分析药物摄取的数据，用以确定病人是否按时服药。

人工智能在医疗保健产业中的应用面临的法律挑战不仅包括隐私和数据保护，还涉及民事与合同责任。如果病人遵循人工智能系统的推荐，而该推荐被证明是错误的，谁来负责？

此外，人工智能程序和软件的可靠性，以及雇员在日常工作中的使用，也会引起复杂的法律问题。

客户服务

许多电脑程序能够通过语音或文字与人对话。商家可以使用这些程序为客户提供服务或娱乐内容，比如Facebook, Messenger和Snapchat等信息平台。虽然这些电脑程序并不是纯粹的人工智能应用，但其中一些现有或开发中的功能属于人工智能范畴。

当这些电脑程序被用于订立正式合同时（比如下订单，确认同意等），商家必须确保把适用的条款及条件告知对方，或正确披露免责事项。此外，使用这类程序和系统不可避免地会产生合同履行上的问题。

金融产业和金融科技

近年来，金融服务和金融科技与机器人技术相结合的研发活动层出不穷。人工智能在金融产业中的应用种类繁多，包括分析客户的投资行为，或分析大数据来改善投资策略及金融衍生产品的使用。

人工智能在金融产业中的应用也会面对法律挑战，例如算法失灵的后果。诸如股票交易平台的系统需要谨慎设计人为干预与人工智能之间的互动关系，以避免或限制法律风险。

自动驾驶汽车

虽然目前允许进入公共道路的汽车并不是完全自动的。2011年6月，美国内华达州成为世界上第一个允许自动驾驶汽车进入公共道路的地区。按照内华达州法律，自动驾驶汽车是“通过人工智能和科技，使汽车能够完成所有驾驶的机械操作，而不需要自然人积极或持续的控制的一种汽车”。

中国还没有针对自动驾驶汽车立法，随着自动驾驶技术的发展，立法迫在眉睫。在自动驾驶汽车面对的法律挑战中，责任和保险的问题值得注意。当自动驾驶汽车发生事故时，谁应该承担责任？比如近期北京五环李彦宏坐百度无人车首秀就出现了违章情况，应该任何处理？此外，我们还注意到，使用自动驾驶汽车进行商业运输活动将会引起一些值得注意的讨论，例如商品的运送和交付。

上个月，美国国会通过了一项针对自动驾驶汽车的立法草案，这标志着美国自动驾驶汽车上路监管由各洲分制的情形即将终结，今后美国公路上奔跑的每一辆自动驾驶汽车，不论在加利福尼亚还是密歇根，都要按照统一的标准被监管。

人工智能责任制度

人工智能的基本性质本身，对合同责任及侵权责任制度就是一种挑战。当机器根据用户提供的资料或其自动获得的数据做出自发决定时，它的表现和最终结果可能无法预测。

在不久的将来，责任制度中的“可预见损害”、“直接损害”以及“物品的自发行为”等概念会在人工智能应用的领域引发有趣的讨论。在什么情况下，人工智能的制造者、供应者、终端用户等其他受益方需要为其产生的结果负责？人为干预与人工智能系统的互动联系将会在确定这一责任时发挥关键作用。

有一些问题还没有答案。例如：运用人工智能的自动系统，是否可以在某些情况下“自己”承担责任？如果法律漏洞损害人工智能相关各方的利益，我们又如何处理？

2017年1月，欧盟的法律事务委员会（“欧盟委员会”），向欧洲议会提交了一份动议，要求就机器人技术兴起而产生的问题进行立法。欧盟委员会认为责任法的改革十分关键。动议提出：“未来的法律文件必须订定严格责任制度，也就是说，只需证明损害已经发生，以及建立机器人的损害行为和受害方所受损害之间的因果关系”。欧盟委员会还建议欧洲议会建立强制保险制度及/或补偿基金，来保证对受害者的赔偿。

AI+法律？

科学家正以前所未有的速度发展人工智能技术，法律可能需要作出修改来应对相关的挑战。在开发和使用人工智能时，需要了解法律风险并且做出知情的决定。

人工智能需要学习聆听并理解概念和想法。经过训练，它甚至无需借助于事先确定的标准，而像人类一样具有预测能力（其实聆听和理解对于人类自己来说也是难题）。

当前，法律科技（LawTech）正在持续兴起。在人工智能技术的加持下，法律科技更是有望给法律行业带来更深、更彻底的变革。

将来某一日，当多个人工智能应用程序合并成为更高级的系统时，人工智能的发展将会更上层楼。那么重要的问题是，谁会最先做出这样的合并？是人类还是人工智能系统它们自己？