来源 :CGT中国长城2024-09-26
近日,中国长城旗下长城科技推出长城AIGC一体机。该款一体机基于长城擎天GF7280 V5 AI服务器和国产GPU,可应用于大模型和传统AI等场景,具有设计性能优异、性价比高的特点。
01
大模型场景
01
技术创新
单台支持70B-180B开源大模型FP16精度的私有数据微调,常规70B以上模型微调需要2-3台8卡满配80G显存的GPU才能完成,长城通过显存扩容方案,解决模型“放不下”问题,微调成本降低60%。
本地私有微调后,即可在原配置上推理,真正做到训推一体,在金融、新闻、政务、医疗、工业等专业性要求高的垂直领域,模型性能要求高(70B以上规模模型效果好),且对专业知识理解能力强(私有数据微调),长城训推一体给出了完美解决方案。
02
兼容主流生态
支持主流框架(Pytorch、Tensorflow、PaddlePaddle、ONNX Runtime、DeepSpeed、Colossal-AI),支持主流开源模型(LLama2、LLama-3、Qwen、Mistral等50+开源大模型),集成国产GPU最优实践训推镜像,开箱即用。
03
功能全面
提供大模型全功能训练工具、评估测试、大模型Prompt开发、大模型PEFT(参数高效微调)、大模型推理服务、大模型应用开发等功能。
覆盖对话问答、内容生成、智能助理、知识库、数字人等多种应用场景,简单配置后即可使用。
集成适配主流开源AI应用,包括Agent工作流和RAG(LangChain、Dify)、模型管理(Ollama)、生图(ConfyUI)、音频(GPT-SoVITS),具有开箱即用的能力,加速业务智能化落地。
02
传统AI场景
OCR场景
应用广泛
数字英文识别率≥99.9%,中文字识别率≥99.5%,字体、字号适应性强。支持合同等文档、手写扫描、证照、各类型票据的识别。
抗干扰能力强
兼容更低的分辨率 50dpi,支持模糊失真的图像文字。支持图像倾斜、梯形等变形,支持任意形状和任意方向的文本行识别。支持传真、手机拍照片、截屏、自然场景、抗盖章干扰、底纹干扰。
视频处理
成熟生态
支持20以上传统视频检测及行为分析算法。支持多模态CV大模型,基于大模型语义理解能力,解决传统算法难应对场景碎片化的问题。
高规格
单卡支持256路1080P@30FPS视频解码,整机支持3072路。单卡支持16路1080P@30FPS视频编码,整机支持192路。单卡支持7000FPS@1080P JEPG编解码,整机支持84000FPS@1080P JEPG编解码。