【国研沙龙09期】大语言模型在证券行业的应用

中科院计算所智能信息处理重点实验室博士生导师罗平、中金财富数字化能力发展中心执行总经理宋鹏程、申万宏源信息技术开发总部AI算法专家王瑜、中信建投证券信息技术部固收八爪鱼AI平台开发负责人王一凡分别做专题发言；多位机构代表在讨论环节发言。来自金融机构、科技公司和科研院所的近80位专业人士与研究人员通过线上参加了本期沙龙。

自ChatGPT问世以来，国内外科技巨头和新兴AI公司都在积极推出大语言模型，市场上现有的大模型在性能和应用场景上存在差异，挑选合适的模型是机构面临的一大难点，罗平从学术和工程角度提出两种评测大模型的公正方法：无偏差的盲测和参考实际投产应用的选择。此外，罗平分享了检索增强生成(RAG,Retrieval-Augmented Generation)的基本原理和实现方式，并通过实际应用案例介绍了检索增强生成中提高识别率和准确度的方法和工具。 

宋鹏程介绍了中金财富在人工智能方面的应用和探索。一是推出数字人，为客户提供知识问答。二是构建内部知识库，通过检索增强的技术，提高内部的日常办公效率。三是上线智能客服，提供与客服的交互功能，减少了转人工需求，有效地节约了人力成本。四是AI辅助设计，帮助设计师大幅提升效率。

王瑜分享了申万宏源在投研业务上的大模型应用。在与申万研究所深度合作的基础上，通过智能撰写、智能问答和智能搜索等场景建设，提升研究员的工作效率和质量。在智能撰写方面，申万宏源利用大模型和资源处理融合的技术，实现了数据的自动补全。在智能问答和智能搜索方面，基于资讯数据和分析师上传的数据，为研究员提供了金融辅助服务。王瑜还强调了在大模型应用过程中需要注意数据质量、模型选择和优化、提示工程等问题。

王一凡分享了中信建投八爪鱼平台的AI智能化建设，包括平台的整体规划、建设基础和大模型技术应用。八爪鱼平台围绕具体的业务需求，打造了一个解决实际业务问题的平台，利用AI能力提升业务效率和质量。平台的建设基础包括数据治理、业务需求和技术积累，通过协调多个部门和业务环节，提升了数据的及时性和准确性。此外，大模型技术应用在二级市场的询报价场景，实现了信息提取和结构化数据生成，解决了询报价过程中的信息筛选效率低、响应慢和数据资产流失等问题。

与会嘉宾一致认为，证券行业在大模型的具体场景落地过程中面临着诸多挑战，需要机构在技术、算法、数据、安全等多个方面进行深入的研究和探索，以寻求有效的解决方案。这些挑战包括但不限于以下几个方面：

一是模型选择和适配：不同的证券业务场景对大模型的要求不同，需要选择适合的模型，并进行适配和优化，对模型进行定制化调整。

二是数据治理和标注：大模型需要大量的数据进行训练和优化，进行数据治理和标注，确保数据的质量和准确性。

三是技术集成和应用：大模型需要与证券业务系统进行集成和应用，需要解决技术兼容性和接口标准化等问题。

四是合规和监管：证券行业受到严格的合规和监管要求，大模型的应用需要符合相关规定，避免出现风险和问题。

当前，大模型在证券行业的应用仍处于不断探索和发展的阶段，尽管已经取得一些显著的成效，但专家们普遍认为在实际应用中仍面临技术、业务和监管等多方面的挑战，例如模型的准确性、可靠性和安全性需要进一步提高，数据的质量和隐私需要得到更好的保障，以及如何更好地与现有业务系统进行集成和协同等。发言嘉宾一致认为大模型在证券行业应用的前景广阔，随着技术进步和实践的深入，大模型将在证券领域发挥越来越重要的作用，为行业的发展带来新的机遇和变革。