人工智能应用需要以海量的个人信息数据作支撑。人工智能如同一把“双刃剑”，如果应用不当，就可能带来隐私泄露的伦理风险。
在12月23日召开的全国政协双周协商座谈会上，全国政协委员、重庆医科大学校长黄爱龙建议，隐私信息采集应区分“战时”和“平时”，并坚持“最小够用”原则。他举例说：“健康码”采集的信息，疫情过后再使用的话，要有相关规定;“行程码”显示的行程信息，建议由逐一列出手机使用者去过的地区，调整为只列出去过的中高风险地区。
与黄爱龙一样，多位与会同志呼吁，在推进人工智能应用的同时，要注重加强隐私保护。
全国政协委员、上海众人科技有限公司董事长谈剑锋发言时提到了一个概念——不可再生性数据。
什么是不可再生性数据?谈剑锋说：“与传统口令可以随时更改不同，不可再生性数据是永远无法更改的，比如人脸、指纹、DNA等生物特征数据，以及个人医疗档案数据等，这些数据具有唯一性且无法更改。”
作为一名数据安全领域的工作者，谈剑锋呼吁严格管控大数据的使用场景，在大力支持人工智能技术发展的同时，对唯一性、不可再生性的重要数据必须提前设防，在生物识别等技术使用规范上要制定更加严格的要求，防范相关各类风险。
谈剑锋还建议设立“数据银行”，由国家成立专门机构来统一管控、存储和应用不可再生性大数据，限制企业自行采集收集和垄断，并运用区块链技术分布式存储，运用密码技术严格保护数据。
全国政协委员、最高人民法院副院长姜伟建议：“要尽快将数据产权保护类的法律列入立法计划”。
姜伟认为，需要根据数据的属性特点建立数据产权制度，化解“个人数据与企业产权”之间的矛盾，平衡“数据安全与数据利用”之间的关系，对各种类型数据合理确权，解决好数据属谁所有、如何使用、收益归谁等问题。
