马上消费陆全：AI共生治理技术新发展，助力消费金融实现普惠共赢

近年来，我国人工智能产业发展迅速。根据中国信通院发布的数据，我国人工智能产业规模从2019年起进入快速增长，2021年同比增长达到33.3%，2022年产业规模达到5080亿元，同比增长18%。初步统计，2023年规模达到了5784亿元。新一代人工智能技术在促进科技创新、培育新兴产业、改造升级传统业态、加快实体经济转型等方面的作用也正在日益突显，已成为经济发展、社会进步、民生改善的重要驱动力量。

日前， 2024世界人工智能大会暨人工智能全球治理高级别会议开幕期间，马上消费人工智能研究院院长陆全向与会者介绍面向亿级用户的大规模人工智能治理实践，从AI原生战略到多智能体全生命周期治理框架，他认为未来的关注焦点还是在于减少人工干预的自主智能方法，提高机器智能对环境的自主学习能力，通过合成数据自动地将人工智能扩展到更多案例中，同时，他指出，金融机构在金融大模型治理体系承担着至关重要的作用，有义务去承担监管合规的责任。

Al共生治理技术飞跃背景下机遇与挑战并存

海量数据处理、超强的学习能力等特点让人工智能技术的优势有目共睹，但同时也存在一些不容忽视的问题，例如强化偏见、扩大监控、模糊责任边界和传播虚假信息等屡屡引发业界讨论。

马上消费人工智能研究院院长陆全在接受凤凰网专访时也表示， AI共生技术飞速发展的时代环境下引起的国际及国内变革主要围绕三大挑战展开。

其中最主要的在于AI所提供的工具作用的变化。原始技术提供了一种确定性的、包含基本输入输出的简单的工具，而目前AI技术的智能体择经过了一个工作能力上的优化，在源头上使用了非常多的数据去做训练，但人们并不知道智能体源头或者产生智能体的数据从何而来，其中该环节就存在很高的风险。

此外，当前智能体的使用过程也会出现不确定的风险。如今的智能体有更高级的智能，因此哪怕只使用其中一个功能，人们在使用过程中也更难控制。第三，智能水平进一步升级之后，Al技术有可能出现一些人们无法预测的能力，这会带来更多的未知性。

同时，Al共生治理也将迎来新的发展和趋势变化。首先是对于数据更好更多的加强。当前人工智能领域的大量研究集中在深度学习，但深度学习的局限是仍然需要大量人工干预，比如人工设计深度神经网络模型、人工设定应用场景、人工采集和标注大量训练数据、用户需要人工适配智能系统等，较为费时费力；以及大众现阶段内看到的、特别是合规治理方面，人工智能的智能体比较难以去学习和很好地应用。

因此，陆全认为未来的关注焦点还是在于减少人工干预的自主智能方法，提高机器智能对环境的自主学习能力，通过合成数据自动地将人工智能扩展到更多案例中。

以更加长远的视角来看，陆全认为大模型是一个比较关键的方向。“我们作为大模型的训练者，只要向人工智能输出一种‘三观标准’就好了，但未来人工智能需要配备一个自己的‘意识’，并在这种意识标准下自动地判断行为是否规范，而不是单纯依赖已有数据的合成和样例的分析。”

“三明治”全流程Al治理框架进一步加强人工智能合规性

回首过去近十年，消费金融经历了一段相对漫长的发展历程。随着市场潜力被高度认同，狭义消费金融行业迎来大繁荣，但间接酝酿了后期的消费金融乱象，也预示着未来的持续规范与整治。2020年以来，围绕市场准入、业务规范、平台整顿、消费者保护等几条主线的监管制度体系逐步建立，消费金融市场的乱象得到根本扭转，新的发展阶段正式到来。

据介绍，马上消费金融作为持有消费金融牌照的科技驱动型金融机构，所搭建的AI治理框架包括微观和宏观两个方面。根据微观而言，马上消费通过其生产系统和线上应用的几千个AI模型的组合系统来完成AI治理。具体来看，该治理分为三个阶段。事前，马上消费在所有的模型训练方法中都有所加强，使得模型能够更好地从训练数据开始，从而为后续留意到合规方面问题打好基础；在事中阶段，马上消费通过对提示词的控制及其他技术，来加强规范模型使用中的行为；最后是事后的兜底，在模型用完或模型的结果出来后，马上消费会对模型的结果是否符合全面合规标准进行一个综合的检测。

宏观治理则指向“共同治理”的理念。实现共同治理，需要技术、监管、标准等方面的严格规定，这也是马上消费目前极力打造的。“我们认为一个好的企业应该在行业中承担用标准引领的一个义务。”陆全说。

目前，马上消费已在Al治理的过程中斩获不少创新，其中就包括天津地区的大模型和Al新基建，项目通过了中国信息通信研究院的44家最高安全级别评估的标准。整体来看，2023年天津市人工智能相关产业营业收入超过3000亿元，AI加速赋能天津的新质生产力发展；天津的半导体、超算等AI相关产业环节也同步发展，形成了一条完整的人工智能产业链。

金融大模型治理体系助力生态共建与普惠共赢

根据《中国新一代人工智能科技产业发展报告2023》，人工智能企业主要分布于第三产业，其中金融业占比排名第四，占比约10.68%。

据陆全介绍，马上消费2017年成立的人工智能研究院，已推出包括全国首个零售金融大模型“天镜”在内的多款AI产品。陆全认为，平衡商业利益和社会责任是一个企业非常需要注重的问题。马上消费更加看中公司的长跑能力。

他也认为，另一个不可缺少的能力在于金融机构在治理体系中所发挥的监管作用。金融机构不仅负责方案的确切落实、与用户和技术的接触，同样需要将用户的需求、最新的技术和监管的治理理念真正的承接起来，最终落地形成效果。金融机构不仅是技术创新的受益方，也要成为真正的落实方，有义务去承担监管合规的责任。

日前，马上消费倡导了生态共建和普惠共赢的金融大模型治理体系，通过建立制度规范体系、组建大模型联盟、推进金融可信安全与联合创新计划，标准生态共建等，为实现行业的长远发展保驾护航。陆全补充道，为了达成普惠共赢的目标，多方社会角色也需要共同参与。只有坚持打造政府、市场、公众多方协同共治的治理模式，才能搭建一个安全、合规与发展兼顾、行业自洽的共生体。