严禁滥用人工智能技术生成虚假信息、操纵市场价格,金融监管总局发布指导意见
创始人
2026-06-18 21:38:49
0

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

  6月18日,国家金融监督管理总局网站消息,金融监管总局近日发布《关于银行业保险业人工智能安全开发应用的指导意见》。

  《指导意见》从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等方面提出了32项指导性意见。强调金融机构要健全风险治理体系。有效应对金融业务侧可能产生的投资策略趋同、放大市场波动风险,严禁滥用人工智能技术生成虚假信息、操纵市场价格。

   点 速 览

  推动人工智能在服务实体经济、加强金融风险管理等领域发挥积极作用,穿透管控关联交易、资金运用等重点领域风险问题

  鼓励有条件的金融机构建立一站式人工智能开发平台,实现模型开发部署全流程管理

  鼓励有条件的大型金融机构向中小金融机构输出算力服务,支持同业探索基础设施共建共享

  推动模型算法、数据资源、基础设施、应用系统等安全能力建设,完善业务及风险管理流程,防范模型生成结果不可靠风险

  有序推进人工智能科技创新

  与金融业务深度融合

  “当前,我国金融行业不断加大人工智能技术资源投入,加快人工智能应用场景落地,已形成一定的应用实践基础。”国家金融监督管理总局有关司局负责人表示,国家金融监督管理总局密切跟踪人工智能发展动态,深入调研行业人工智能应用的现状、问题与挑战,在此基础上,研究制定了《指导意见》。目的是规范银行业保险业金融机构对人工智能的开发应用,有效防控人工智能技术应用可能带来的风险,推动数字金融高质量发展,有序推进人工智能科技创新与金融业务深度融合,引导金融领域人工智能应用朝着有益、安全、公平方向健康有序发展。

  《指导意见》从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等方面提出了多项指导性意见。

  一是完善人工智能治理架构。要求金融机构加强顶层设计和统筹管理,建立健全人工智能全生命周期管理体系,加强应用场景和业务流程管理。

  二是推进高水平人工智能开发应用。要求金融机构完善开发与测评体系,实现模型开发部署全流程管理,稳妥探索人工智能技术研发和金融智能体建设,促进行业应用生态建设。

  三是提升数据治理能力。要求完善数据管理运营体系,提升数据服务能力,针对业务场景持续推进高质量数据集和知识工程建设。

  四是加强智能算力建设。按需布局建设自主可控、安全高效的智能算力底座,鼓励有条件的大型金融机构向中小金融机构输出算力服务,支持同业探索基础设施共建共享。

  五是完善人工智能风险治理框架。要求金融机构将人工智能风险纳入全面风险管理体系,实施风险分类分级管理和高风险应用准入管理,在高风险应用关键环节要建立人工监督和干预机制,加强外包和供应链风险管理。

  六是提升人工智能安全开发应用能力。持续增强人工智能模型稳健性,提高透明度,促进可解释性,确保人工智能应用符合法律法规及社会价值观要求,加强网络安全、数据安全与个人信息保护,加强运营韧性和业务连续性管理。

  七是保障与监督。明确金融监管总局及各级派出机构加强指导和监督,督促金融机构全面落实风险治理要求,关注金融业务合规风险,严肃查处违规行为。加强风险应对处置,定期评估监管政策和监管效果,持续提高监管适配能力。

  加强供应链风险与开源技术管理

  谈及《指导意见》对金融机构在完善人工智能治理方面提出的要求时,国家金融监督管理总局有关司局负责人表示,首先是加强顶层设计与治理体系建设。董(理)事会指定专门委员会对人工智能开发应用管理负责,强化战略引领,统筹制定发展规划。完善模型研发、数据治理、安全运行、外包管理等方面的基本制度规范,组建跨业务、科技、数据职能的协同机制,培养具备人工智能素养与业务能力的复合型人才队伍,确保人工智能应用与机构自身风险管理能力相匹配。

  其次是建立人工智能全生命周期管理体系,覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出等阶段。规范模型研发、应用及资产管理,加强安全评估、伦理审查、责任追溯机制建设。对人工智能应用进行分级分类管理,并实施针对性的差异化管控措施。

  最后是加强应用场景和流程管理,按照技术适配原则,将适合的技术用于适当的场景,在服务实体经济、金融风险防控等领域充分释放人工智能技术的赋能价值。完善人机协同的业务管理流程,科学设定人工智能的功能边界、系统和数据权限,明确人员岗位责任,确保业务全流程管理责任清晰、可落实、可追溯。

  值得注意的是,《指导意见》强调,完善人工智能风险治理框架。健全风险治理体系。金融机构应将人工智能风险纳入全面风险管理体系,定期开展对人工智能应用风险及管理措施的评估审查。推动模型算法、数据资源、基础设施、应用系统等安全能力建设,完善业务及风险管理流程,防范模型生成结果不可靠风险,防止模型黑箱导致关键业务流程难落责问题。夯实数据安全、网络安全、个人信息与隐私保护和业务连续性基础。有效应对金融业务侧可能产生的投资策略趋同、放大市场波动风险,严禁滥用人工智能技术生成虚假信息、操纵市场价格。

  实施风险分类分级管理。金融机构应根据业务场景重要性、应用规模、对客影响度、模型依赖度、模型复杂度等因素,对人工智能应用进行风险识别和分类分级管理。建立管理制度,制定应用清单,实施分级管控措施,落实管理责任。

  加强供应链风险与开源技术管理。金融机构要建立对人工智能算力、模型、数据、技术工具等的供应链安全合规管理机制,确保应用自主可控,防范对个别技术服务过度依赖引发的集中度风险。完善开源技术使用规范,建立开源软件管理台账,对外部引入的开源组件应进行审查评估,加强代码审计、漏洞扫描及安全测试,定期排查开源组件风险隐患,防范供应链投毒。

相关内容

热门资讯

长征五号B遥一运载火箭顺利通过... 2020年1月19日,长征五号B遥一运载火箭顺利通过了航天科技集团有限公司在北京组织的出厂评审。目前...
9所本科高校获教育部批准 6所... 1月19日,教育部官方网站发布了关于批准设置本科高等学校的函件,9所由省级人民政府申报设置的本科高等...
9所本科高校获教育部批准 6所... 1月19日,教育部官方网站发布了关于批准设置本科高等学校的函件,9所由省级人民政府申报设置的本科高等...
湖北省黄冈市人大常委会原党组成... 据湖北省纪委监委消息:经湖北省纪委监委审查调查,黄冈市人大常委会原党组成员、副主任吴美景丧失理想信念...
《大江大河2》剧组暂停拍摄工作... 搜狐娱乐讯 今天下午,《大江大河2》剧组发布公告,称当前防控疫情是重中之重的任务,为了避免剧组工作人...