揭开算法的神秘面纱

  【读书者说】 

  当你把目的地输入导航系统，它可以规划出最优路线，以缩短高峰时段上下班时间；当你打开智能音箱时，它会播放你此前从未听过但的确很喜欢的歌曲；当你浏览新闻资讯平台时，总会惊叹于页面显示的信息正合你意。这些我们逐渐习以为常的生活，都是隐藏于服务背后的算法。

  如今，人工智能及其核心算法正以前所未有的深度和广度，嵌入社会、经济、政治等诸多领域，一个前所未有的高度自动化的世界正在形成。从商业领域扩展至立法、执法与司法等公权力运行过程中，对提高政府治理能力、推动人民群众生活的便利化，以及预测并防止风险的发生和扩大等方面发挥重要作用。在新冠肺炎疫情常态化防控和复工复产关键阶段发挥重要作用的健康码，当属例证。随着机器学习算法的控制力的延伸，决策权部分或全部，主动或被动地从“人类之手”交由“算法之手”。“十四五”规划纲要将“加快数字化发展 建设数字中国”作为独立篇章，围绕打造数字经济新优势、加快数字社会建设步伐、提高数字政府建设水平以及营造良好数字生态，勾画出了未来五年数字中国建设的新图景。

  现代社会中，科技嵌入治理不仅成为现实，也是趋势。如何保证科技向善，不仅是伦理问题，更是法治问题。国家行政管理出版社出版的新书《算法：人工智能在想什么》一书，在细致勾勒算法时代特征的基础上，审视算法时代的隐忧与算法决策的风险，并提供规制算法的思路和框架，对人类长久存在的歧视问题在算法中的体现展开深入分析，并以无人驾驶为例探讨算法规制的关键所在，探讨应对风险与问题的可行性路径，从多学科的角度对嵌入国家治理能力体系中的算法进行了理论和实务两个层面的探讨。此书的作者是活跃在国内研究一线的中青年学者，他们不仅能用深入浅出的语言来探讨这一重要问题，更难得的是，他们从科技伦理和法治两个层面，探讨在国家治理体系和能力现代化的进程中政府对算法如何予以规制，以及政府如何依法科学运用算法，该著作也是这一领域的最新研究成果。

  1988年邓小平同志提出的“科学技术是第一生产力”。十八届三中全会提出了“国家治理体系和治理能力现代化”的重要命题，以人工智能、大数据和算法为代表的现代科技在改变社会结构、商业模式和个人生活方式的同时，必然嵌入现代国家治理体系之中，影响社会治理能力。如何在法治化的背景下理性审视算法技术，又如何有效规制算法，可谓人工智能时代国际社会普遍关注的一项重要议题。我们在看到人工智能和算法带来益处的同时，也需要有效应对算法带来的风险和挑战。对我国而言，为人工智能技术提供更多法律和政策支持，对算法问题予以规制，是重要问题，决定着我国在新一轮科技和产业革命中，能否实现科技和产业发展的多赢局面。

  法治化是国家治理现代化的主要内容，是衡量国家治理现代化水平的主要标准，是实现国家治理现代化的关键。我们要探讨如何规制算法，就要对算法以及算法的应用予以了解，并要运用法治思维和法治方式来展开讨论、寻求对策。

  首先，要准确理解算法及其特征。无论是法学、社会学、管理学等专业社科研究人员，还是普通公众，都需要“揭开算法的神秘面纱”，知道算法是怎么回事儿，在这个算法已经无处不在的时代，这是第一步。算法，本质上就是解决问题的一系列步骤。它并非计算机时代或人工智能体系的独创概念，只不过随着大规模数据采集和分析能力的提升，能够自主学习的机器学习算法日渐成为人工智能时代的驱动器。机器学习算法的运行原理是，通过对已有数据进行学习建模，再根据更多的数据修正和分析模型，在面对新情景时，也可以根据历史数据和其“所学”作出判断。人工智能的实现相当程度上要归功于机器学习算法之应用。

  其次，要客观中立研究和解读算法。任何科学技术的兴起与发展过程均伴随一定的隐忧，机器学习算法也不例外。人类与算法之间的关系错综复杂，它在带来诸多实实在在便利的同时，也带来一些风险。现实中对人工智能、大数据等科技及其应用的探讨，很容易走向极端。一种极端，是对科技盲目乐观，简单信奉所谓“技术中立”，对掌握科技、运用科技的人，过分信任，监管对策准备不足；另一种极端，是对新技术的发展进程不了解，盲目恐慌，以科幻电影所描绘的未来世界来展开想象。其实，十八般武艺俱全，既能订餐又能炒菜，还能开车的超级人工智能，仍是遥不可及的未来。作为社会科学研究者，对科技问题展开规制的探讨应当是客观中立的。

  最后，要跨学科探讨对算法的规制。对算法规制的研究应当是多学科交叉融合的，而且应当是多主体参与的。其中，既要有学者的思考，更要有政府部门和企业的高度参与。算法规制的成功与否，取决于学界、政府和行业是否共同思考，有效利用新技术推动社会治理创新。需要聚集来自法学、哲学、公共管理等社会学科的知识和力量，用冷静中立的视角，来思考人工智能和算法带来的挑战和风险。无论是自动驾驶的法律和政策应对研究，还是个人信息保护现状分析，人工智能时代算法歧视研究乃至数据安全法立法建议等问题，法学都应当在其中发挥重要作用。

  （作者：胡建淼，系中共中央党校〔国家行政学院〕教授）