上新!長城科技推出長城AIGC一體機
近日,中國長城旗下長城科技推出長城AIGC一體機。該款一體機基于長城擎天GF7280 V5 AI服務器和國產GPU,可應用于大模型和傳統AI等場景,具有設計性能優異、性價比高的特點。
大模型場景
01
技術創新
單臺支持70B-180B開源大模型FP16精度的私有數據微調,常規70B以上模型微調需要2-3臺8卡滿配80G顯存的GPU才能完成,長城通過顯存擴容方案,解決模型“放不下”問題,微調成本降低60%。
本地私有微調后,即可在原配置上推理,真正做到訓推一體,在金融、新聞、政務、醫療、工業等專業性要求高的垂直領域,模型性能要求高(70B以上規模模型效果好),且對專業知識理解能力強(私有數據微調),長城訓推一體給出了完美解決方案。
02
兼容主流生態
支持主流框架(Pytorch、Tensorflow、PaddlePaddle、ONNX Runtime、DeepSpeed、Colossal-AI),支持主流開源模型(LLama2、LLama-3、Qwen、Mistral等50+開源大模型),集成國產GPU最優實踐訓推鏡像,開箱即用。
03
功能全面
提供大模型全功能訓練工具、評估測試、大模型Prompt開發、大模型PEFT(參數高效微調)、大模型推理服務、大模型應用開發等功能。
覆蓋對話問答、內容生成、智能助理、知識庫、數字人等多種應用場景,簡單配置后即可使用。
集成適配主流開源AI應用,包括Agent工作流和RAG(LangChain、Dify)、模型管理(Ollama)、生圖(ConfyUI)、音頻(GPT-SoVITS),具有開箱即用的能力,加速業務智能化落地。
傳統AI場景
OCR場景
1.應用廣泛
數字英文識別率≥99.9%,中文字識別率≥99.5%,字體、字號適應性強。支持合同等文檔、手寫掃描、證照、各類型票據的識別。
2.抗干擾能力強
兼容更低的分辨率 50dpi,支持模糊失真的圖像文字。支持圖像傾斜、梯形等變形,支持任意形狀和任意方向的文本行識別。支持傳真、手機拍照片、截屏、自然場景、抗蓋章干擾、底紋干擾。
視頻處理
1.成熟生態
支持20以上傳統視頻檢測及行為分析算法。支持多模態CV大模型,基于大模型語義理解能力,解決傳統算法難應對場景碎片化的問題。
2.高規格
單卡支持256路1080P@30FPS視頻解碼,整機支持3072路。單卡支持16路1080P@30FPS視頻編碼,整機支持192路。單卡支持7000FPS@1080P JEPG編解碼,整機支持84000FPS@1080P JEPG編解碼。