当前，人和大模型的业务场景落地已经进入深水区。近期，数字政通技术团队对Kimi在长文本的场景下做了大量的测试，实验证明Kimi在卷宗评查（执法业务），热线分析（一网统管业务）等长文本的场景中，有着突出的表现，未来在更大规模的应用场景中具有广泛深入的合作前景。
一、Kimi助力人和大模型打造长文本分析场景
目前，人和大模型已经完成基于Kimi的Moonshot开放平台提供的API调用moonshot-v1-8k、moonshot-v1-32k、moonshot-v1-128k三个不同参数规模的模型能力。Kimi具备强大的长文本总结与生成能力、联网搜索与辅助信息搜索能力、数据处理与表格分析能力。在城市治理行业中，可助力以下应用场景：
长文总结与生成：通过简单的提问或文件上传，Kimi能够快速提炼大量长文本的核心内容，理解文本，生成文本摘要。在执法案件评查场景中，通过大模型超长无损上下文能力解析司法部门制定的行政案件评查标准，以及从立案、调查、取证、告知、听证程序、审查决定、送达执行、结案全流程的卷宗、笔录、审批文书、行政处罚告知书、听证告知书、行政处罚决定书、结案报告等相关材料，自动化完成行政处罚案件评查工作，单批次最大支持1000个文件的快速解析，可极大提高案卷评查工作效率。
图基于Kimi的案件评查
数据处理与报表分析：Kimi能够接收用户输入的长文本文件，自动将复杂的数据整理成清晰易读的表格形式，有助于用户进行快速的数据分析和决策。在民生诉求智能报表报告应用场景中，通过导入民生诉求工单数据，对工单总体情况、问题来源、案件类型、事项类型、高发问题、总结与建议等进行智能分析，自动化生成智能报表。
图基于Kimi的报表分析
联网搜索和辅助信息搜集：Kimi可以联网搜索最新信息，也支持查找更多细分领域的专业知识，快速构建一套行业知识体系。在民生诉求、法治政府、城市管理等业务中，可沉淀丰富的项目案例和业务经验，打通各个业务线的数据，进行关联分析和挖掘，并成为搜索、问答、推荐等功能与知识库应用。智能知识库有丰富的应用场景，例如机器人客服、人工客服工具（检索、推荐）、法律法规知识库等。
二、人和大模型技术研究方向
人和大模型致力于针对城市治理行业中的确定性问题提供解决方案。它基于一个通用、解耦的大模型底座，通过融入行业经验和专业知识进行微调，以构建更贴合行业需求的应用新模式。为了确保城市治理行业场景应用能够有效落地，人和大模型在以下几个关键技术领域进行了深入探索和优化：
知识增强：通过构建本地知识库和集成互联网搜索功能，增强大模型获取广泛领域知识的能力。确保在对话中能够提供准确、全面的信息，以支持复杂的城市治理问题。
大模型Agents：模仿人类行为的大模型应用，可以根据模型输出通过prompts指导Agents使用外部工具（如计算器、搜索API、数据库等），实现从外部获取输入并生成所需输出的复杂任务。
大模型加速技术：采用缓存机制，通过嵌入算法和向量存储优化查询响应时间；VLLM通过PagedAttention算法进行内存管理和批处理请求，以及针对CUDA内核的优化，实现并行推理加速。
强化学习技术：结合RLHF技术，即通过人类反馈的强化学习，提升模型性能和准确度；强化学习使得大模型能够适应新环境，快速学习新知识，并在多个领域中进行有效的迁移学习和泛化。
多模态大模型：利用图像生成文本描述，使模型能够理解和表达图像内容，在城市治理视频、图片应用场景提高算法理解能力。
通过这些技术的整合和优化，人和大模型旨在为城市治理行业提供更高效、智能的解决方案，推动行业的数字化转型和升级。同时，为提高大模型算力适应性，人和大模型已完成基于昇腾GPU等国产化环境兼容适配。
三、人和大模型应用场景实践进展
自2023年11月数字政通发布城市治理行业人和大模型以来，持续投入在大模型应用技术的研究和城市治理场景应用实践的探索。在发布会上，我们深入分析了不同城市治理场景当中各类参与者的痛点及核心诉求，秉承“以人为本，赋能城市治理参与者”的发展理念，推出了民生诉求、法治政府、基层治理和城市管理四大应用场景，致力于打造符合行业实际需求的场景应用新范式，赋能智慧城市高质量发展。
图人和大模型架构
人和大模型专注于分析业务痛点、沉淀行业数据、通过模型微调提升大模型专业能力，推动场景落地。因此，我们构建了一套灵活解耦的大模型基础底座，开放兼容各类开源或者商用的通用大模型（ChatGLM、通义千问、星火、Kimi等），以集各家大模型优势，针对性解决特定场景问题。
发布会后，各地政府城市治理领域业务专家和政通技术团队进行了多轮深入的沟通交流，致力于人和大模型在城市治理场景中的落地，其中不乏城市管理业务、社会治理业务、综合执法业务、一网统管业务、城市生命线业务等等。各个场景均有较大进展。
（1）大模型赋能民生诉求智能化应用场景
开展民生诉求工作是政府倾听民众声音、打造“服务型”政府的重要手段。然而，如何有效解决“市民诉求杂、人力资源缺、运营成本高、数据分析弱、领导关注频”等问题，成为了提升民生诉求工作成效、优化市民服务水平的关键。基于人和大模型打造的智能客服、智能知识库、话务辅助、智能分类、智能分拨、智能打标、智能回访等场景先后在多个项目落地，从多种角度提炼分析可用于城市治理决策的数据，实现民生诉求的态势全面感知、趋势智能预判。
智能客服：基于海量数据，根据用户需求场景生成精准回复，准确理解用户的意图并生成工单。
图大模型赋能智能客服
智能知识库：与传统知识库相比，智能知识库利用人工智能和大数据技术，对海量数据进行处理、分析和挖掘，提供智能化的搜索、推荐和个性化服务。它能够自动分类和归纳总结知识，实时更新和优化知识内容，保证准确性和时效性。
话务辅助：帮助坐席员实现工作效率和诉求人满意度的双提升。通过实时语音转文字、知识库一键搜索等功能，能够快速响应诉求、提高问题解决率。确保服务的质量与专业性，为坐席员提供了全面的支持与保障。
图大模型赋能话务辅助
智能分类：可根据问题描述或地址信息智能识别推荐的事项（小类），用户可一键引用事项，也可对其进行修改。
智能分拨：基于历史事件数据，算法训练识别此事件推荐的TOP1专业部门和置信度，可以查看该事件关联的历史事件。
智能标签：通过大模型文本能力解析工单问题描述，将非结构化数据结构化处理，为工单大数据分析、预警等数据治理环节提供基础支撑。
智能回访：提高对话的自然度和理解能力，更好地捕捉用户情绪，灵活调整回应策略，回答市民的问题和诉求。
（2）大模型赋能全过程依法行政
当前法治政府建设当中行政处罚工作存在：法律条文方面的执法依据记不住、笔录问询方面的笔录制作不规范、自由裁量权方面的自由裁量运用不当、法制审核方面的法制审核人员力量薄弱等痛点。通过城市治理行业大模型赋能，从立案登记、调查取证、法制审核、处罚决定这四个环节出发，帮助执法人员根据线索详情智能识别违法行为，推荐相关案由及违则罚则，完成执法立案登记；智能推荐笔录模板，一键填充执法文书内容，完成执法调查询问笔录；智能完成案件审核，实现自查自纠；智能推荐相关的自由裁量建议，辅助执法决定。
图大模型赋能全过程依法行政
目前，数字政通正在推动与多个一线城市政府部门战略合作，共同探索法治政府领域大模型应用场景、算法、算力方面实践，通过大模型强大的数据处理和分析能力，在多个层面提升依法行政水平，推动法治政府建设，增强政府的公信力和执行力。
四、总结与展望
城市治理行业的大模型应用体现在其对城市治理现代化的深远影响。随着大模型技术的不断发展，大模型在城市治理中的应用将更加广泛和深入。
在应用场景分类上，大模型赋能城市治理主要分为服务优化、风险预警、经验学习和决策支持四大类。服务优化场景通过大模型优化业务流程，提升服务效率和质量；风险预警场景可利用数据分析提高预警能力；经验学习场景通过案例学习构建知识库，复制推广成功经验；决策支持场景结合数据分析提供快速决策建议。
落地策略上，智慧城市行业大模型需结合专业知识库、模型微调和引导词服务。行业知识库基于行业数据构建，为大模型提供训练基础；大模型微调通过技术手段如监督微调、奖励模型和强化学习提升效率；引导词服务基于业务理解，精准激活模型生成所需信息。
通过这些策略，智慧城市将实现管理手段、模式和理念的创新，使城市治理更智能、高效。大模型的利用为智慧城市带来治理新范式，推动各类应用场景的务实落地，实现高质量发展。城市治理行业大模型的应用前景广阔，将深刻改变城市治理方式，提升城市治理的智能化水平，为建设更加智慧、安全、高效的城市环境提供强有力的技术支持。