LLM大模型在金融行业入口实践 原创

大模型正在从技术变革走向产业变革。无数的AI原生应用，正在重新定义我们与数字世界乃至物理世界的交互方式。作为产业端落地的重要行业之一，大模型在金融领域，也正在创造越来越多的增量值。大模型在金融行业的入口主要体现在以下几个方面：

• 金融风险管理：大模型技术可以用于构建更准确、更全面的风险模型，帮助金融机构评估和管理市场风险、信用风险、操作风险等，提供更精确的风险预测和决策支持。
• 量化交易：大模型技术可以应用于量化交易策略的开发和执行，通过分析海量的金融数据和市场信息，识别出潜在的交易机会和趋势，自动执行交易策略并进行实时调整。
• 个性化投资建议：大模型技术可以根据个体投资者的偏好和风险承受能力，生成个性化的投资建议和组合配置，辅助投资者做出更明智的决策。
• 金融欺诈检测和预防：大模型技术可以应用于金融欺诈检测和预防，通过分析用户的交易数据、行为模式和历史记录，识别出潜在的欺诈行为和异常交易，提高金融机构对欺诈风险的识别和应对能力。
• 智能客户服务：大模型技术可以用于构建智能客户服务系统，通过提供流畅的人机对话服务，提升客户满意度和忠诚度。
• 智能投顾与个性化理财：AI智能体被认为是未来的发展方向，可以应用于智能投顾与个性化理财、智能风控与反欺诈、智能催收与语音机器人等多个领域。

• 智能核保和理赔：在保险行业，大模型技术可以用于智能核保和理赔，提高效率和准确性。

• 智能支付和交易：在支付领域，AI技术让支付体验变得更加智能化，如支付宝和微信支付推出的智能卡功能，以及Google Pay运用机器学习技术提供个性化支付建议。

• 后台管理：大模型在金融企业运营的后台管理中也有应用，如智能招聘系统和智能培训系统，提高了招聘的准确性和培训的质量。

这些应用场景展示了大模型技术在金融行业的广泛潜力和影响力，它们不仅改进了现有的操作流程，还开辟了新的可能性，帮助金融机构在市场竞争中取得先机。

Tips1 研发框架

建设统一的AIGC应用研发框架，为上层应用场景提供统一的大模型研发基础能力。研发框架面向大模型端，实现对各类MaaS服务的能力进行适配包装，以实现一次研发，多端适配；在面向应用场景端，则提供统一的标准化API能力，包含会话等，降低应用场景研发的复杂度

某保险公司的Maas架构

Tips2 金融类GPT的Prompt

利用LLM对新闻的自动处理

LLM拥有强大的数据整合与分析能力，可以帮助基本面投资者进行定量分析

Tips3 RAG思维导图

提升方案

数据预处理,数据添加标签过滤
意图识别 (semantic-router)
提示词优化
知识图谱（大幅提高准确率场景)
多重召回 如 BM25 ,ES结合提升召回率，ReRank 重排
知识图谱
Query Expansion(创建类似的问题尽可能召回更多数据）
Q&A
使用LangChain&LlamaIndex框架(LangServe,LangSmith)

Tips4 隐私安全

金融行业充满了敏感信息和潜在的风险，保护用户隐私成为了至关重要的考虑因素。

传统安全能力主要考察模型在财产隐私、违法犯罪、偏见歧视、社会和谐等方面的安全能力。
在传统安全的测评中，Claude2遥遥领先取得了最高分83.00，高出第二名15分。
Claude2的良好表现可能与Anthropic对AI安全的重视密不可分，Anthropic 的首要目标是通过创建一个“有用、无害、诚实”的大语言模型，并配备精心设计的安全防护措施，来避免安全问题。排在第二名的是文心一言4.0（API）取得68分。紧随其后是智谱清言和Yi-34B-Chat，均超过了65分。在安全能力上的测评上，GPT系列依然呈现出不稳定的情况，超过GPT3.5的国内模型有14个。GPT4(API)不尽如人意，可能与国内外安全范围及OpenAI安全策有关。

总体来看，在传统安全测评中国内大模型的表现不俗，是当下国内大模型比较重视的一个方向，同样我们看到Claude2即使在中文场景下依然展现出很高的安全水准，值得国内大模型进一步分析。

示例:基于LLM的关键词抽取

Tips5 AI Agent智能体

金融领域 Agent的应用场景

Agent 场景
信货、财富管理、信贷、投研、
个性化：个性化教研、个性化财富管理服务、个性化催收
数据分析 BI
Agent 类型
创造与生成类助手 (API,AutoGPT)
企业知识助手 （RAG）
数据分析助手（N2SQL ,Code Interpreter）
应用&工具助手（LangChain agent tools,Open AI Assistant API）
AI 自动化流程（RPA,Zapier,Flowise)

Tips6 模型微调

优秀开源大模型训练微调框架，支持全参，部分参数和Lora 等调优。下图展示使用LLaMA-Factory 和使用官方ChatGLM P-Tuning的调优性能对比。

LLaMA-Factory允许用户在浏览器中直接进行模型的训练、评估和推理，无需复杂的命令行操作并预集成了多种流行的大型语言模型，包括LLaMA、BLOOM、Mistral、Baichuan、Qwen和ChatGLM。

本文转载自公众号数字化助推器  作者：天涯咫尺TGH

原文链接：​​https://mp.weixin.qq.com/s/jXbEJhIHq87jQso3Eoc5Uw​​