共探智能体安全与治理
（来源：天津日报）
转自：天津日报
本报讯（记者 韩雯）日前，第四届网络空间安全（天津）论坛落幕。作为论坛的一部分，智能体安全治理主题论坛吸引了来自国家部委、央企、高校、行业组织、国家网络与信息安全信息通报机制成员单位，以及国内头部大模型及智能体研发企业和安全厂商等近300名嘉宾代表参加。
论坛以“智御未来 智能体安全与治理”为主题，聚焦智能体异常行为、智能体全链路嵌入攻击链等前沿挑战，汇聚产学研用力量，开展跨领域交流，深入剖析智能体法律合规风险，探索其在网安警务、国家计算机病毒协同分析平台的创新应用，着力补齐智能体安全标准与需求规划短板，构建算法、数据、模型、应用全生命周期安全生态，进一步提升漏洞挖掘、投毒防范、内容辨识能力，为我国人工智能安全可信可控发展夯实理论与实践基础。
天津大学网络安全学院执行院长吕勇强在演讲中指出，智能体认知形成机制正由模型参数主导，扩展至预置技能与长期记忆共同驱动。智能体认知安全应界定为对认知要素全生命周期的安全保障，需系统分析技能供应链风险与记忆投毒耦合形成的攻击链，构建涵盖来源认证、完整性校验、最小权限、执行隔离的防护体系。
国家超级计算天津中心首席科学家孟祥飞在演讲中针对国产超算异构性强、可靠性不足及安全响应滞后等问题，提出多智能体自主协同运维架构，实现状态实时感知、异常事件识别与自适应响应，并通过红蓝对抗演练验证主动防御能力，为提升国产超算安全运维水平提供技术支撑。
阿里研究院人工智能治理中心主任傅宏宇在演讲中认为，智能体安全治理需从三个层面同步推进——基础层用规约框定模型行为边界；工具层通过网关统管调用、高危操作人工确认；生态层做到身份透明、责任按控制力分配。其核心是让安全和能力同步迭代，而不是等问题出现再补救。
论坛举办期间，国家计算机病毒应急处理中心联合天津大学、天津师范大学发布《大模型与智能体安全综合测评报告》，系统梳理大模型与智能体领域的安全风险态势，为行业测评、标准制定和安全加固提供了重要依据。
上一篇：从钢花到稻浪：荣程的另一种温度
下一篇：创新搭建闭环工作机制