欧盟还想定义AI"高风险领域"

2018年12月6日，微软总裁Brad Smith撰文呼吁对人脸识别技术加强监管。图片来源：微软

1月20日，DLA Piper律师事务所就欧盟数据保护状况发布报告。报告显示，自2018年《一般数据保护条例》(GDPR) 发布以来，欧盟已经收了1.14亿欧元(约合1.26亿美元)的罚款。然而对欧盟来说，这一切还仅仅是个开始。

DLA Piper负责网络和数据保护领域的合伙人麦基恩(Ross McKean)对CNBC表示，目前欧盟仍处于执法的初期，“未来还会发出更多罚单。”

对数据监管机构来说，数据泄露是隐私保护工作中的重点。从2018年5月到2020年1月以来，欧盟共收到个人数据泄露事件通报160921起。

在万豪国际酒店的案例中，自2014年起，近4亿客户的数据因黑客入侵而惨遭泄露。2019年7月，英国数据监管机构(ICO)对万豪酒店开出的1.23亿美元罚单到目前还在处理之中。

英国信息专员德纳姆(Elizabeth Denham)在声明中说：“个人数据具有真正的价值，因此各组织机构有法律义务确保其安全，就像他们保护任何其他资产那样。如果未能做到，我们将在必要时毫不犹豫地采取有力行动来保护公众权利。”

2019年1月，法国数据监管机构(CNIL)以违反GDPR为由对谷歌进行了5700万美元的处罚，成为迄今GDPR已交罚单数额之最。

自GDPR生效以来欧盟各个国家罚款数额比对图。来源：DLA Piper

不过，罚款并不是欧盟规制数据问题的唯一方式。最新文件显示，欧盟委员会正在考虑用新的法律框架来对严重依赖数据的人工智能(AI)技术实施更严格监管。

1月17日，欧洲媒体EURACTIV获得了欧盟2020 AI白皮书草案。草案指出，欧盟需要以自己的方式鼓励AI发展，更要建立法律框架解决AI所带来的负面影响和法律责任问题。

例如，针对在公共场合大规模出现的人脸识别技术应用，欧盟认为可以考虑实施3至5年的全面禁令，以“确定和评估这一技术的影响及可能的风险管理措施”。

对此，北京安理律师事务所高级合伙人王新锐对界面新闻表示：

“很多人对这份报告有一些误读。事实上这份白皮书的重点在于欧盟委员会提出了针对未来欧洲AI监管框架的五点建议。虽然委员会认为可以考虑在公开场合禁用人脸识别技术一段时间，但事实上，他们也承认这样的禁令影响深远，可能会严重阻碍这项技术的发展。因此，委员会主张在现阶段，还是依照GDPR的监管框架执行。”

专注于人工智能的科技新媒体平台“新智元”认为，(欧盟)人脸识别禁令如果实施，势必会对海康威视、商汤、旷视、依图、云从等中国企业产生影响。有业内人士认为，中国的人脸识别算法精确率居全球领先水平，并有望成为全球最大的人脸识别市场。

除了人脸识别技术以外，欧盟委员会在白皮书中还给出了AI“高风险领域”的初步定义。所谓“高风险”，是指“在应用AI技术时会对个人或实体带来法律或身体等方面的重大风险”。

欧盟认为，在医疗健康、交通运输、警察执法、司法判决等“高风险领域”，AI技术的使用或需要符合额外的法律规定，以保障个人的基本权利。

事实上，GDPR的第22条明确规定，数据所有者有权不接受完全由AI自动化处理做出的重大决定，除非符合某些特殊情况。欧盟委员会的这一建议如果通过的话，将会给全球的智能医疗、自动驾驶、犯罪预测等AI技术企业带来重大冲击。

不过，这份白皮书提出的监管建议离落地法规还有很长的距离。腾讯研究院高级研究员曹建峰对界面新闻表示：

“目前这些建议还没有到立法阶段，属于前期的解决方案研究。如果到了更成熟的阶段的话，欧盟委员会会提出具体的指令或者条例草案，这样才是进入了立法议程。”

同时曹建峰还认为，在人脸识别技术规制方面，英国的态度较为理性，并未完全禁止，而是要求建立强行性的规则和较高的法律门槛，充分平衡各方利益，即执法部门必须提供充分的证据来证明在每一个特定的场景下使用人脸识别技术是严格必需的、有效的且符合利益平衡原则和比例原则的。

对于愈发严格的数据保护倾向，很多批评人士都认为这种趋势阻碍了欧盟在AI领域的创新。不过最新的数据显示，在欧盟AI战略中一直占有重要地位的英国正在赶超中国和美国成为全球科技投资的中心。

2019年，英国的科技公司获得的风投激增44%，增速超过美国和中国。

英国数字经济委员会(Digital Economy Council) 的新数据显示，2019年全球向英国科技公司投资约132亿美元，约占欧洲所有技术投资的三分之一，排在中美之后为世界第三位。

由Tech Nation和Dealroom.co汇编的数据还显示，伦敦是产生独角售(估值超过10亿美元)公司的领跑者，在过去的30年里产生了46个独角兽公司。

英国数字大臣摩根 (Nick Morgan) 表示：“这些亮眼的新数据显示了英国科技行业的实力，它们是我们经济的‘甜蜜区’。我们的科技公司不仅赢得了全球投资者的信心，而且还在全英国各地创造了新的就业机会和财富。”

英国的经验表明，相对严格的数据隐私立法环境并不一定就是扼杀科技创新的决定性因素。在数据主体和企业之间建立了充分信任的创新环境，也许才对投资有着更大的吸引力。

达沃斯官网。

科技创新为社会带来了深刻的变革，甚至威胁到人性的界定。在即将开幕的冬季达沃斯年会上，“科技向善”(Technology for Good)就是七大主题之一，届时与会专家们将就相关议题展开讨论。

在AI时代，如何能在科技创新、数据权利和社会风险中找到完美的平衡，将是一个值得探讨的话题。

关键词： 欧盟 AI