谨防金融大模型应用风险
时间:2024-11-20 19:05:23来源:经济日报
 当前,人工智能大模型正在逐步影响各行各业,金融领域也不例外。

  根据英伟达发布的针对近400家金融机构的调研结果,43%的金融机构已开始使用大模型。麦肯锡2024年的调研数据显示,金融行业从业者反馈“在工作中常规使用大模型”“在生活中常规使用大模型”和“在工作和生活中均常规使用大模型”的数量占比已达到48%。据麦肯锡测算,大模型有望给全球金融行业带来每年2500亿美元至4100亿美元的增量价值。这些数据无疑为大模型在金融领域的进一步应用描绘了光明的前景。

  然而,随着大模型的广泛应用,一些新风险也逐渐显露出来,一旦应对不当,可能对金融行业构成严峻的挑战。

  首先,大模型的进一步推广可能会加剧金融行业的“两极分化”。由于技术投入、业务禀赋和人力资源等方面的差异,一些头部金融机构在大模型展现的能力上开始显现出明显优势。相比之下,中小机构受限于资金预算约束、相对有限的业务规模和专业人才资源,与头部机构之间的差距将被逐渐拉大,呈现出“强者愈强,弱者愈弱”的趋势。从行业整体来看,金融行业原本就具有信息数据密集、人才智力密集等特点,大模型的推广应用可能导致金融行业资源进一步集中。

  其次,目前大模型本身存在的缺陷也可能给金融系统带来安全风险。大模型仍存在专业能力有限、生成结果不可控、算法可解释性较差等问题,当前在合规性和适当性等方面仍缺乏保障。一旦训练数据不完备或质量较差,可能会生成低质量的错误内容,导致结果不可用,甚至误导金融机构和金融消费者的判断和决策。在模型可解释性方面,大模型的复杂程度较高,使得内容生成的结果和过程难以被清晰地解释,产生“黑箱”问题,导致金融机构难以在事前、事中、事后进行有效的风险溯源和管理。此外,考虑到大模型基于海量数据进行训练,若底层数据本身存在偏见和歧视,可能会导致大模型内容输出、决策生成方面存在偏见,进而导致金融服务存在歧视性定价等风险。

  最后,金融机构对少数大型科技公司提供的基座大模型的依赖可能形成新的风险点。考虑到基座大模型通常与部分大型科技公司云业务捆绑销售,这可能进一步加大金融机构对少数第三方的依赖,加大相关技术服务商对金融系统的潜在影响力。一旦服务商的运营出现问题或系统出现故障,将对金融系统的稳定造成严重影响。

  当前,大模型的深入应用对金融监管提出了更高要求,现实中如何既鼓励创新,又确保金融行业的健康稳定发展,已成为金融监管部门的重要议题。只有防患于未然,在深刻认识大模型的特点并妥善应对这些风险的基础上,才能推动金融大模型更好发挥作用,促进金融业高质量发展。

标签:

最新
  • 谨防金融大模型应用风险

     当前,人工智能大模型正在逐步影响各行各业,金融领域也不例

  • 崧厦街道强化制度建设,守护拆违工作成果

    上虞区崧厦街道无违建创建工作开展以来,按照省、市、区三级精神要

  • 江苏:“数”“智”融合发展激活乡镇经济新动能

    走进位于江苏省沭阳县贤官镇的江苏云朵木业有限公司,现代化厂房、

  • 祁连山:雪豹等旗舰物种迅速恢复

    中新网兰州10月11日电(南如卓玛)甘肃祁连山国家级自然保护区管护中

  • 国庆假期文旅消费热潮涌动-今日热搜

    经文化和旅游部数据中心测算,国庆假期7天,全国国内出游7 65亿人次

  • 焦点热文:招商银行:一张“好用的银行卡”,陪伴年轻人踏入职场

    小张刚来深圳工作几个月,但却为房租的事儿犯了愁,一个月房租2200

  • 广州专家:高危女性应增加随访频率 打破卵巢癌治疗“魔咒”

    中新网广州9月30日电 (记者 蔡敏婕)每年9月是卵巢癌防治宣传月。

  • 焦点短讯!驻马店市驿城区雪松街道十三香社区开展安全隐患排查活动

    为进一步加强社区安全管理工作,有效预防安全事故的发生,切实保障居民

  • 驻马店市驿城区老街街道:严把“安全关” 守好“平安线”

    安全是最稳的幸福,也是最基本的民生。为有效预防和遏制安全事故发生,

  • 当前动态:WTT澳门冠军赛:林诗栋首夺男单冠军 孙颖莎女单摘金

    中新社北京9月15日电 15日,世界乒乓球职业大联盟(WTT)澳门冠军赛

  • 每日看点!周慎:以AIGC技术推动大黄山打造文旅新业态、新场景

    周慎还提到了中国科大AIGC未来媒介创客模式对大黄山文旅发展的赋能

  • 农业农村部提示“云养经济”领域非法集资风险

    中新网9月11日电 据农业农村部网站消息,农业农村部10日发布《关于

  • ​西平县嫘祖初级中学举办2024秋期班主任工作培训会-最资讯

    8月29日上午,为提升学校班主任队伍整体素质,提高班主任工作、管理水

  • 家电去旧换新:换出消费新活力 服务质量是关键|世界速看

    家电去旧换新,消费者愿意吗——来自北京市场的调查夏日炎炎,家电

  • 每日头条!《重生》首映 反转复仇局获赞

     8月14日,电影《重生》在北京举行首映礼,导演、编剧、领衔主

  • 全球微资讯!快手进军保险经纪,金融版图再扩展能否打造“第二增长曲线”

    7月31日讯(记者李丹萍实习生于争)继3月间接持股拿下一张网络小贷牌照后

  • 旅游
    • 假面骑士geats:原来茨姆莉演员青岛心经常对着绿幕演戏,会因为自己演不好而沮丧

    • “双万”城市半年报:沪杭等7城增速领跑全国,5座准“双万”城市有望晋级

    • 客站大厅服务人员(进站安检人员和检票人员)态度

    • 固定收益周报:政策有望加码 预期或渐进修复