在信息技术背景下，伴随着人工智能和大数据的飞速发展，智能算法在社会各个领域得到广泛应用。算法技术不仅为政府、企业和公众带来了良好的生活体验，而且大大提升了经济生产效率和效益。然而，智能算法的广泛应用也带来了一系列社会治理问题，需对此作出积极应对之策。

当前，人工智能算法面临四大风险。第一，资本与技术垄断带来的数据安全风险。当今社会是信息社会，数据是信息与算法的基础。少数资本和科技头部企业不仅掌握着亿量用户的基础数据，而且通过运用算法技术对用户行为进行长期跟踪和深度分析。一旦数据泄露，可能侵犯公民隐私安全。此外，大型跨国公司的数据跨境流动，可能带来海量数据和重要数据出境后的安全风险，甚至可能威胁国家安全。第二，算法的专业性和隐蔽性极易导致算法的滥用风险。算法作为时下风行的一种技术手段，大多涉及技术创新和知识产权。对算法的监管力度不足将导致一些企业为了实现商业利润最大化而滥用算法技术。例如，各种商业平台的大数据“杀熟”技术，就是利用大数据计算客户的行为偏好，从而针对同一产品制定出差别化的价格。第三，因监管制度缺失而引发的未知风险。目前，我国与算法监管相关的法律法规主要有《网络安全法》《电子商务法》和《民法总则》等。这些主要是对互联网外部法律秩序的规范，而对作为网络内部规则的算法不够明确，对算法治理主体的权利和责任划分尚不明晰。加上算法技术的专业性、复杂性、隐蔽性和高科技性等特征，往往导致算法监管和问责的难度极大，从而容易引发算法操纵、算法偏见等未知的风险。第四，算法在舆论领域的广泛应用可能影响受众认知。智能算法在网络的广泛应用，主要体现在精准推送上。“精准推送”的信息往往更加关注个体用户的偏好，而非信息本身的公共价值，单一精准的推送极易导致人们形成单向度思维观念。

为了有效应对智能算法面临的风险，我们亟须从法律、行业管理和技术创新等层面对算法进行规制。

一是加快智能算法领域的立法进程。首先，要明确算法相关责任主体的权利和义务。秉持谁应用谁负责的态度，明确算法研发主体和应用主体的责任清单。其次，针对算法引发的伦理和法律问题，建立和完善审查机制。2018年5月生效的欧盟《一般数据保护法案》，给予用户申请基于算法得出结论的解释权。美国纽约州针对算法歧视问题于2017年通过了《算法问责法案》。这些案例为我国建立健全智能算法应用方面的法律法规提供了有益借鉴。

二是优化智能算法领域的行业规范。行业自律与规范是行业管理的重要手段。一方面，应建立行业规范管理标准。目前，国内人工智能领域缺少统一、规范的行业准则。企业应积极借鉴国内外经验，提出可行方案，不断加强行业自律。另一方面，可以通过建立算法行业协会，管理和规范企业、行业行为。

三是加快推进算法设计的优化与技术进步。应加快推进人工智能算法设计中的因果推断研究，构建算法研发者、数据科学家、人文社科工作者以及相关领域专业技术人员之间的多方合作，以实现技术与人文因素的良性互动。除此之外，智能算法可与区块链技术相结合，借助区块链的透明性、即时性来改善智能算法的黑箱操作困境，从而使智能算法更为科学合理，更好地为人类服务。

总而言之，我们必须从实际出发，准确把握算法技术发展趋势，综合评估算法技术带来的风险，多方位、多层次加强对智能算法的规划和引导，提升智能算法的社会经济效益，降低安全风险和隐患。

（本文系教育部重大课题攻关项目“积极参与全球治理体系改革和建设研究”（20JZD057）阶段性成果）

（作者单位：华东政法大学中国法治战略研究中心）

关键词： 人工智能 广泛应用