谨防金融大模型应用风险
时间:2024-11-20 19:10:37来源:经济日报
 当前,人工智能大模型正在逐步影响各行各业,金融领域也不例外。

  根据英伟达发布的针对近400家金融机构的调研结果,43%的金融机构已开始使用大模型。麦肯锡2024年的调研数据显示,金融行业从业者反馈“在工作中常规使用大模型”“在生活中常规使用大模型”和“在工作和生活中均常规使用大模型”的数量占比已达到48%。据麦肯锡测算,大模型有望给全球金融行业带来每年2500亿美元至4100亿美元的增量价值。这些数据无疑为大模型在金融领域的进一步应用描绘了光明的前景。

  然而,随着大模型的广泛应用,一些新风险也逐渐显露出来,一旦应对不当,可能对金融行业构成严峻的挑战。

  首先,大模型的进一步推广可能会加剧金融行业的“两极分化”。由于技术投入、业务禀赋和人力资源等方面的差异,一些头部金融机构在大模型展现的能力上开始显现出明显优势。相比之下,中小机构受限于资金预算约束、相对有限的业务规模和专业人才资源,与头部机构之间的差距将被逐渐拉大,呈现出“强者愈强,弱者愈弱”的趋势。从行业整体来看,金融行业原本就具有信息数据密集、人才智力密集等特点,大模型的推广应用可能导致金融行业资源进一步集中。

  其次,目前大模型本身存在的缺陷也可能给金融系统带来安全风险。大模型仍存在专业能力有限、生成结果不可控、算法可解释性较差等问题,当前在合规性和适当性等方面仍缺乏保障。一旦训练数据不完备或质量较差,可能会生成低质量的错误内容,导致结果不可用,甚至误导金融机构和金融消费者的判断和决策。在模型可解释性方面,大模型的复杂程度较高,使得内容生成的结果和过程难以被清晰地解释,产生“黑箱”问题,导致金融机构难以在事前、事中、事后进行有效的风险溯源和管理。此外,考虑到大模型基于海量数据进行训练,若底层数据本身存在偏见和歧视,可能会导致大模型内容输出、决策生成方面存在偏见,进而导致金融服务存在歧视性定价等风险。

  最后,金融机构对少数大型科技公司提供的基座大模型的依赖可能形成新的风险点。考虑到基座大模型通常与部分大型科技公司云业务捆绑销售,这可能进一步加大金融机构对少数第三方的依赖,加大相关技术服务商对金融系统的潜在影响力。一旦服务商的运营出现问题或系统出现故障,将对金融系统的稳定造成严重影响。

  当前,大模型的深入应用对金融监管提出了更高要求,现实中如何既鼓励创新,又确保金融行业的健康稳定发展,已成为金融监管部门的重要议题。只有防患于未然,在深刻认识大模型的特点并妥善应对这些风险的基础上,才能推动金融大模型更好发挥作用,促进金融业高质量发展。

标签:

最新
  • 极氪汽车在宁波成立销售服务新公司,注册资本为1000万人民币

    天眼查App显示,近日,宁波前湾新区极氪汽车销售服务有限公司成立,法

  • 蓝舒洁(关于蓝舒洁简述)

    ,你们好,今天0471房产来聊聊一篇舒洁,舒洁简述的文章,网友们对这件

  • 志高空调创始人被公安机关控制,案件号有“刑”字

    近日,业内盛传“志高空调创始人李兴浩失联”,8月19日午间经媒体证实

  • 美媒:拜登的五大经济谎言露馅了

    美媒:拜登的五大经济谎言露馅了,拜登,白宫,唐纳德·特朗普,里根,美国总统

  • 选择出境游,开心出游的同时,更要安心出游

    暑期是出行的高峰,不少人更是将出境游作为出行首选。随着商务旅行、探

  • 德雷森:6号位?夏窗还有2周可拭目以待 诺伊尔会比设想地早回归

    至于是否会签下主帅图赫尔渴望得到的防守型六号位球员,德雷森则表示:

  • 泰康健康有约重疾险怎么样?有什么保障呢?

    泰康健康有约重疾险是泰康保险公司推出的一款重疾险产品,它以其全面的

  • 探寻CBS的文学意义圣诞礼物推荐指南

    基本混凝土块。缩写CBS代表混凝土砌块结构。过去,混凝土砌块被认为对

  • 印度对洋葱征收40%的出口关税,此前麦当劳、赛百味、汉堡王停供西红柿

    印度据悉对洋葱征收40%的出口关税,出口税立即生效,有效期至12月31日

  • 文脉可道④丨孙中启:感受红色文化魅力,让红歌永续唱响

    编者按:2023年,山东全面启动沿黄河、沿大运河、沿齐长城、沿黄渤海、

  • 越跌越买!超百亿抄底资金豪赌反弹!这只ETF创三年半新低 份额却暴增至628亿份创历史新高

    【越跌越买!超百亿抄底资金豪赌反弹!这只ETF创三年半新低份额却暴增

  • 唯美意境好听的女生网名大全(唯美意境女生网名)

    唯美意境好听的女生网名大全,唯美意境女生网名这个很多人还不知道,现

  • 山东省世界级港口群建设暨项目启动

    这是启动仪式现场(8月18日摄,无人机照片)。  当日,山东省世界级

  • 马桶清洁机器人让我们对人工智能的实用性有了更好的认识

    看着人工智能学习编写音乐、诗歌和科技新闻,确实会让我们感到沮丧,但

  • 梦幻西游欧皇喜提150级935伤无级别神杖,做师门买到6红宠却吐血

    原标题:梦幻西游欧皇喜提150级935伤无级别神杖,做师门买到6红宠却吐

  • 国网福鼎市供电公司:加强电网防雷改造 提升供电可靠性

    中国电力网讯(通讯员李依涵、陈祖进)8月14日,国网福鼎市供电

  • 旅游
    • 《美年大师课》开启 第一讲聚焦“体检查出肺结节”-播报

    • 全球热讯:第二届装配化装修高质量发展论坛暨成果发布会举办

    • 全球速递!​西平县安委办开展进基层企业普法活动

    • BMW新世代汽车车内体验从“心”出发 全球新视野