《中国信息安全》2021增刊丨郑方：以人民为中心，树立5G AI时代的新型安全观 2021-9

以人民为中心，树立5G+AI时代的新型安全观

文丨清华大学人工智能研究院 郑 方

习近平总书记在2016年4月19日网络安全和信息化工作座谈会上对关健信息基础设施保护和网络安全检查工作做了精辟论述，指出要避免“谁进来了不知道，是敌是友不知道，干了什么不知道。”这里的根本是网络可信身份认证问题。

5G商用后，海量设备和应用场景的接入，对网络本身的传输速率、并发性和可靠性提出了挑战，被网绪连接的人与人、人与物、人与机构之间的信任问题也远比以前更为复杂。这时人工智能（AI）也许可以发挥作用，但作用发挥得好不好，关键在于人。因此对AI系统的访问授权特别重要：往小了说，如果AI认错人，不仅会闹笑话还可能造成财产损失；往大了说，坏人掌握了AI能力，则可能陷社会于危险当中。

可见，随着5G和AI技术的不断发展，可信身份对于网络安全的意义越来越重要。而身份认证技术则正在从“以设备为中心”走向“以人为中心”，最终实现“以人民为中心”。

AI时代越来越依赖于个人信息，其中就包括生物特征等隐私信息。虽然很多文件将其列为敏感资源，事实上却很难禁止，也不可能一刀切对待。“用户知情”“用户同意”很多时候也形同虚设。

实际上，要禁止的不应该是生物特征采集，而是生物特征的滥采、滥用和无序商业化。面对日趋常态化的数字生活，有关企业应规范对用户信息的收集、处理和利用。对于监管部门来说，则需要依法约束企业，防止企业过度采集和非法使用用户的个人信息，以及坚决打击各种形式的网络诈骗、侵犯公民隐私等网络违法犯罪活动。

生物特征不仅是重要的个人信息，也是推动人工智能行业发展不可缺少的底层基础数据，更是国家和民族的一种特殊的重要战略资源。尤其我国是个多民族国家，各族老百姓的声纹、指纹、脸部等都是具有中国人基因特点的生物特征，是我国战略资源库的一部分，建议国家予以重视，做好顶层设计，在总体保护前提下合理利用。另外，还需建立严格的市场准入机制：运营层面既应鼓励企业积极参与，政府也要做好“把关人”的角色。不应允许有外资背景的商业公司参与国内生物特征采集，同样也不应允许有失信记录的企业进入该领域。为此，国家应设立严格的市场准入制度，对已在开展相关业务的公司开展资质核查，防止过度无序的商业开发，造成个人隐私泄露和战略资源流失。在这方面，我们做了一些探索，包括牵头起草的声纹数据安全国家标准，并实践“政产学研”合作运营模式：以政府为主导，搭建平台、完成采集，商业公司提供技术服务，学术机构提供技术支撑。

AI既可以是矛，也可以是盾；既可以在某种程度上帮助解决安全问题，又可以通过自动生成假的数据，制造新的安全隐患。AI应用落地时，由于信息不对称，往往过分追求算法的准确率和使用的便捷性，而忽视系统性安全漏洞和系统级综合指标，这使当前很多所谓的AI系统的安全性极其薄弱，留下了不少后门。AI技术的发展已进入后深度学习阶段，建立“可解释的、鲁棒的第三代人工智能”是学术和产业界的重要任务。仍有不少缺乏技术积累的商业机构打着深度学习的旗号，简单套用国外的开源模型“快餐式”地开发系统，而弃安全和隐私于不顾。这不利于真正的创新，也带来了安全隐患。建议针对金融、公安、政务等重点领域的算法厂商，逐步建立起AI行业的评估体系，大力推动行业的安全、自主、可控。