算法基于人的行为而产生“锁定效应”。虽然立法也赋予了用户拒绝个性化推荐的权利，但对许多用户而言，完全拒绝算法追踪，可能会影响平台内其他功能的使用。因此，还需对算法进行场景化和精细化治理。
“大数据杀熟”升级、个性化推送固化思维……前不久，上海市消费者权益保护委员会透露，随着人工智能等新技术的应用，算法快速更迭，再加上平台对消费者个人信息的全方位收集，算法“杀熟”方式升级，转向基于被平台充分掌握个人信息的“杀熟”，比如平台会根据消费者使用的手机型号等个人信息匹配相关的产品、广告或不同的优惠券。
面对越来越多的算法套路、越来越精准的营销和个性化推送，用户能否彻底拒绝或者脱离算法?又该如何对算法进行规制?近日，专家学者接受民主与法制社记者采访时，从技术和立法层面对这些问题进行了剖析。
算法技术会固化、放大偏见
上海大学法学院大数据与人工智能法治研究中心执行主任陈吉栋表示，狭义上的算法可以视为纯粹的技术，但随着人工智能技术及大数据的发展，它被应用于更多领域。广义上的算法是一种以构建社会秩序等目标而设定的一系列步骤。
“我们常说的人工智能从某种意义上讲，就是一种能学习、判断和决策的算法。”陈吉栋说，算法是一种人机交互场景下决策的新形态，在算法技术下，人类可以通过代码设置、数据运算与机器自动化判断进行决策。这个过程人机共同参与，既有人的决策也有机器的自动化决断。
既然如此，算法歧视到底是人为还是机器所为?对外经济贸易大学数字经济与法律创新研究中心执行主任张欣说，这应从算法技术架构原理说起。
“导致算法歧视的原因很多，有模型设计原因，有数据本身存在歧视的问题。”张欣说，算法本身是一项纯粹的技术，但如今算法技术深度嵌入平台经济，依据不同场景运行，有些是完全自动化决策，有些需要人为干预，但最终产生的算法结果是批量、大规模、系统性的决策，这可能会使传统世界中存在的偏见和歧视问题被系统性放大。
陈吉栋也表示，运用算法技术进行决策可能会固化和放大偏见。这是由于算法数据采集于人类，其不可避免地在数据中会掺杂人的情感认知偏见。这些数据输入终端后使得算法在模型更新迭代过程中让偏见因素进一步固化，加深偏见和歧视，例如求职类App对应聘者进行筛选时可能包含一些性别和地域偏好。
这种基于人为偏见而导致的算法模型在多个场景深度嵌入后，会出现用户在多个场景中被屡次歧视的“锁定效应”。张欣举例称，如果某个用户不恰当地被打上了“信誉低”的数据标签，通过数据标签的共享，就可能产生歧视“锁定效应”。如用户在免押租金使用共享单车的场景下因为“信誉低”被拒绝，转而发现在保险费率核定、银行贷款等更多场景下，也会遇到类似情形。
陈吉栋说，因为算法机器学习和自身的复杂性，加之部分商业平台算法的商业秘密特征，使得大多数人无法理解算法的工作原理，由此导致算法使用者处于事实上的支配地位。
法律赋予用户拒绝个性化推荐的权利
除算法歧视问题外，近年来，个性化推荐、精准营销等引发公众对个人信息安全的担忧。同时，算法在用户画像越来越精准的同时，也让人们担心同质化内容会固化甚至引发人的思维退化，会阻碍人们通过网络获取多元化的信息。
陈吉栋说，算法的精准推荐使得个人信息自主选择受限，加剧“信息茧房”现象。网络的开放性给予了人们更多的信息选择机会，借助算法可以为人们量身打造符合自身喜好App内容，但也使用户陷于自身编织的“信息茧房”之中。
陈吉栋表示，目前，算法可能引发的法律风险在于其基于社会因素对个人进行分类、排序和决策，主要包括搜索结果竞价排序、精准广告营销、个性化推荐、保险或贷款评定、信用评级、图像识别和数据画像等活动场景。
张欣说，实际上，我国立法赋予了用户拒绝个性化推荐的权利，例如《中华人民共和国电子商务法》第十八条明确规定，电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务搜索结果的，应当同时向该消费者提供不针对其个人特征的选项，尊重和平等保护消费者合法权益。
陈吉栋表示，电子商务法第十八条规定了网络平台算法个性化推荐结果的消费者保护义务，并明确平台的推荐算法搜索结果应提供非个性化推荐的一般结果，即不针对消费者个人的普通搜索结果。但此条规定的立法目的不是限制定向提供搜索结果的行为和定向结果推送，仅对其加以限制。
此外，我国民法典、网络安全法、消费者权益保护法都从个人信息和数据处理的层面对算法进行了间接规制。比如网络安全法第四章“网络信息安全”中，对网络运营者收集、使用个人信息进行了详细的规定和严格的限制。其中，该法第四十一条规定，网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。网络运营者不得收集与其提供的服务无关的个人信息，不得违反法律、行政法规的规定和双方的约定收集、使用个人信息，并应当依照法律、行政法规的规定与用户约定处理其保存的个人信息。同时该法第四十三条赋予了公民发现网络运营者违规使用个人信息时对其信息进行删除或更正的权利。
基于此，陈吉栋认为，App应设置用户拒绝接收精准营销等选项，为用户提供选择退出项。
应开展场景化和精细化治理
用户能否彻底拒绝“算法”?张欣说，正在制定中的《数据安全管理办法(征求意见稿)》试图解决该问题。
《数据安全管理办法(征求意见稿)》第二十三条规定，“网络运营者利用用户数据和算法推送新闻信息、商业广告等，应当以明显方式标明‘定推’字样，为用户提供停止接收定向推送信息的功能;用户选择停止接收定向推送信息时，应当停止推送，并删除已经收集的设备识别码等用户数据和个人信息。”
张欣分析称，该规定可以在技术上保证用户拒绝个性化精准推荐的权利。“每一台移动设备中都有一个设备识别码，设备识别码一旦从算法系统中删除，那么系统再也不能追踪这台设备的数据，也就不能再对用户进行画像，进而推送精准营销广告和个性化推荐内容。”
但张欣认为，对许多用户而言，完全拒绝算法的追踪在生活中是不现实的。因为如果采用删除设备识别码的方法拒绝算法推荐，可能会影响用户平台内其他功能的使用，比如难以获得具有针对性的评分高的美食店铺的推荐信息。同时，互联网平台负有许多法律上的责任和义务，一旦删除设备识别码，平台难以通过识别设备对设备上的账号进行风险控制。
如何解决上述矛盾?有观点认为，应当通过算法公开、提高算法的透明度，来对算法进行规制。对此，陈吉栋表示，技术层面的算法公开是算法应用者公布算法运算数据和编程源代码，算法公开也能够在一定程度上促进算法治理。
算法公开的目的是抹平消费者和平台方之间力量对比关系的失衡，通过公开达到可治理和可规制，通过对算法的可接触反向验证算法是否存在妨害。但由于技术鸿沟的存在，这样的公开对普通用户而言并无意义。陈吉栋说，碍于算法和机器学习技术的复杂性，算法公开能实现的效果可能有限。因此，对算法进行治理，还需要更广泛的配套制度，如算法认证、算法查验等。
张欣也表示，目前，算法公开还涉及商业秘密和知识产权保护问题，如何公开、公开到何种程度需要进行合理规制。目前，国际上比较成熟的算法治理方式是对算法开展影响评估，通过成立专门的监管机构或者评估工作组，对算法在个人隐私权、公平权、平等权及社会经济等多方面可能产生的影响进行系统评估。
陈吉栋说，这在《中华人民共和国个人信息保护法(草案)》(以下简称《草案》)中也有体现，包括事前的算法影响评估、事中的算法审计和事后的算法决策要求说明及拒绝制度。
张欣表示，目前《草案》规定，算法影响的评估只要求对用户个人进行评估，且规定评估的依据是“法律法规”，但法律可能存在滞后性，应当引入算法伦理规范一并作为评估依据，并开展多方面的评估。
张欣说，实践中对算法公开或者算法透明的呼吁主要集中在公共事业领域。“目前，我国立法对算法规制主要集中在电商领域，但实践中，许多领域都已经使用了算法技术，包括行政领域。一旦公共领域的算法适用出现问题，可能会对公民权利造成不利影响。因此，应制定科学合理的规制议程，按照风险等级，优先对公共事业领域的算法进行规制。
张欣建议，对算法进行场景化和精细化治理，立法机关应在起草涉及不同场景的法律法规时，具有系统化、场景化的算法规制意识。
