近日，临商银行上线企业级AI大模型服务平台“临小智”，为办公和业务场景智能化提供了技术支撑。
据了解，“临小智”依托本地化部署的DeepSeek R1 70B蒸馏模型构建，具有知识库管理、智能体编排、RAG应用等核心技术能力。
在知识库方面，“临小智”相当于企业的“大脑”。支持上传PDF、Word、Excel、图片等10余种文件格式，可快速构建个人、团队及公共知识库。具体来看，系统首先通过PaddleOCR对文档进行解析，然后利用BGE模型实现高精度向量化检索，最后结合ElasticSearch与Milvus向量数据库，确保制度查询、文档参考等场景下的响应速度和准确性。
在RAG方面，“临小智”的回答做到了“有据可依”。其RAG系统包含13个模块，采用分布式模块化部署，便于优化升级和问题定位。借助“向量编码+语义重排序”技术（BGE Reranker模型），从知识库中挑选出最相关的片段，输入大模型后生成可靠回答。在解析合同、财报等复杂文档时，可结合上下文不断完善答案，比如自动提取关键条款并对比历史版本的不同之处。
值得一提的是，“临小智”的技术架构与以往相比有所创新，具体体现为四大数据库协同运作。其采用MySQL、Redis、Milvus、Elasticsearch四种数据库协同工作的创新架构，大幅提升了数据协同效率。其中，Redis处理高频精确查询，Milvus负责向量检索，Elasticsearch实现混合检索，MySQL保障事务一致性，这四种数据库共同构成了完整的数据处理闭环。
目前，“临小智”已在临商银行多个办公及业务场景中完成初步应用落地，覆盖全行制度助手、文档解析助手、代码生成助手、智能工作流中心、AI写作助手五大场景。
具体而言，一是全行制度助手，通过自然语言交互实现秒级政策检索，并索引到查询的具体文章和章节出处；二是文档解析助手，基于深度学习的内容理解引擎，采用多模态识别技术，自动提取关键字段、生成内容摘要；三是代码生成助手，提供智能化的开发支持；四是智能工作流中心，提供可视化的工作流编排工具，支持跨系统业务流程的智能化改造；五是AI写作助手，基于知识库和素材库，按照不同文案类型、语言风格和模板生成文章，进行AI续写、优化和校对、翻译等功能。
此前，临商银行也曾在AI大模型领域进行招标采购工作。
4月15日，临商银行发布AI大模型配套服务器采购项目竞争性磋商公告。公告显示，采购涵盖配套AI服务器等货物的供货、安装及后续服务的全部内容，供应商须对采购清单中的所有货物整体响应，不得对货物分解后进行响应，预算金额为50万元。4月27日，该项目由北京先进数通信息技术股份有限公司中标，中标价格为39.88万元。
值得一提的是，“临小智”也是由北京先进数通信息技术股份公司提供专业技术支持。
