来源 :星环科技2025-10-28
星环科技助力研究机构探索“AI+”场景,推动知识库构建与智能助手落地
某研究院为了响应“人工智能+”政策并避免在大模型技术应用上落后,同时便于向集团汇报大模型应用边界的探索进展,规划建设全院制度知识库助手和多场景知识助手,实现大模型在经营管理、科研等领域的快速落地,并为后续深入开展大模型技术赋能积累经验,完成先行技术验证。
该研究院基于星环科技Sophon LLMOps大模型运营管理平台完成了大模型的本地化部署,构建了“知识库搭建-智能应用开发-系统集成对接-算力资源管理”的全流程解决方案。平台帮助研究院完成了知识库搭建与调优、模型部署管理、应用助手开发的全流程技术验证,构建智能助手等创新应用并与门户系统完成集成对接。同时通过资源监控与模型切换、启停功能,实现对算力资源的自主分配与管理。
①标准规范知识库构建:完成300余份制度规范文件与标准文件的梳理入库,实现管理与研发领域知识系统化整合;通过文档分析、向量化切片与重排召回等流程构建并优化知识库,为智能应用奠定数据基础。
②企业制度规范问答助手:搭建智能问答助手,精准响应制度与标准条款查询需求,替代传统人工检索,大幅提升信息获取效率;助手挂载企业门户,覆盖更广,并通过HTTP请求与附加Token两种方式简化权限集成,降低对接成本。
③企业门户运维助手:无需依赖数据库接口,通过搭建应用链并利用代码实例拉取本地日志,生成可视化图表呈现分析结果;助手以门户弹窗形式发布,用户可一键发起问答交互,快速响应运维需求。
④算力资源自主管理:针对GPU资源有限问题,LLMOps平台支持大模型版本切换与图形化操作一键部署,提供实时监控与快速启停,实现算力自主调配,避免浪费并降低运维成本和技术门槛。
星环科技大模型运营管理平台Sophon LLMOps:语料、知识、模型和应用,四大核心数据资产全生命周期管理
Sophon LLMOps是一款企业级人工智能模型全生命周期运营管理平台,旨在赋能企业用户能敏捷、高效、有闭环地将大小人工智能模型落地到生产和业务中去。Sophon LLMOps打通并优化了语料接入、标注和开发、文件资产、知识工程、大模型训练、模型管理和发布、应用编排和智能体构建、应用部署、运维和监控、算力精细化管理以及业务效果持续提升等全链路流程。