给智能体应用装上“制度护栏”

　　近日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》（以下简称《实施意见》），明确支持探索智能体在城市规划、建设与治理环节的规范应用，同时将智能体安全、可靠、可信作为产业发展的底线要求。

　　当前，以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现，呈现规模化应用态势，极大便利了人们的工作生活。智能体的广泛使用，使得各类风险能被快速感知、及时处置，城市也变得更加“聪明”、更有韧性。例如，上海警方首创的“交通治堵大模型”已在全市360个路口部署应用，平均车速提升12.9%；北京街道10万余井盖、地下6800余公里管道全部接入智慧巡检系统，智能井盖一旦监测到异常沉降，30秒内自动报警；天津中新生态城搭建起智能感知网络，可精准识别道路污染、建筑垃圾倾倒等行为，并实时上报预警信息，如同24小时在岗的“虚拟哨兵”。这样的智能体应用，在全国各类城市已经越来越多了。

　　然而，技术跑得太快，也会让人心有疑虑。智能体的权限会不会越界？决策是否有效？如果决策出了问题谁来负责？隐私数据会不会“裸奔”？这些问题，老百姓关心，城市管理者更得放在心上。技术更新迭代速度快，制度建设跟不上，就会产生大量隐患。城市治理不是智能体的实验室，它关系着千家万户的切身利益，一旦出了问题，所带来的破坏和损失往往难以估量。在这方面，国外已有前车之鉴。

　　这给我们提了个醒，智能体本身不是问题，真正的问题在于缺少“制度护栏”。当智能体帮我们提供服务时，它调用的数据是否必要、依据了什么规则，决策错了得纠偏问责；城市大脑调配信号灯时，算法偏差了得有人及时“踩刹车”；无人机飞越上空时，不能侵犯他人隐私和侵扰他人生活。也就是说，智能技术不能是“技术自运转”，它的运行必须有规矩、有边界。《实施意见》的出台，就是要及时填补技术应用与制度建设的“落差”。它不是给智能体创新“踩刹车”，而是给智能体“装上方向盘、系上安全带、画好轨道线”。

　　智能体的应用，要遵循以人为本的理念。说到底，智能体是工具，它应该服务于人。《实施意见》明确要求“确保用户对智能体自主决策享有知情权和最终决策权”，正是将人的主体性摆在了核心位置。近日，工业和信息化部办公厅印发了《关于实施人工智能科技伦理审查与服务先导计划的通知》，将在北京、上海、天津、广东、山东等10个省市开展AI科技伦理审查。这些探索正是回归到人的权利本位。城市管理者要让智能技术从“无限运算”转向“最小必要运算”，从“替人做主”转向“助人决断”，让每一个被智能体服务的市民，享受得到服务、看得见规则、找得着说法。

　　智能体的效果，取决于“制度护栏”的保障。政府不能只做智能技术的“使用者”，更要做智能体生态的“塑造者”。各地须统揽各类智能体，根据应用场景的风险高低，审慎划定智能体“可为”与“不可为”边界，同步建立算法备案与影响评估制度，让每一套算法在上线前先“过审”；同时完善人工复核与申诉救济机制，确保智能决策有据可查、有人负责、有地方说理。“制度护栏”不是为了束缚智能体，而是为了让它在服务市民的轨道上跑得更稳。

　　智能体的生态，要靠多元共治的协同。智能体不是政府和企业的“专属工具”，它连接着企业、社区和普通市民。《实施意见》强调“坚持以人为本、智能向善、多元共治、安全稳妥”，鼓励行业自律、信用评价建设，引导公众和企业、高校、科研机构积极参与，这就是共建共治共享。政府应从单一的“智能体使用者”转向“多元共治的塑造者”。在这方面，国内已有鲜活实践。

　　国务院国资委牵头打造的“焕新社区”，由25家企业、高校和标准化机构共同发起，面向全社会开放了40个央企高价值场景，使AI创新成果惠及更多中小企业和开发者。这启示我们，开放合作的智能体生态更有生命力。智能体的接口不仅应该开放给基层单位，而且应该向社会公众开放，用以成为“众包平台”，使政府内外的行动者能够在此基础上创新应用、共同治理。要让居民对影响自己生活的算法有发言权，让第三方机构参与评估认证，让行业自律与政府监管形成合力。

　　（作者：吴晓林，系南开大学国家治理研究院院长、中国式现代化发展研究院高级研究员）