交通类 AI 项目预演阶段，本地化部署的一些新思路

交通行业的 AI 应用场景目前主要涵盖交通公共服务体验优化、汽车等交通工具的智能化升级和物流的智能化转型。大部分应用场景仍在项目实验阶段。此阶段需要有效地平衡项目需求、成本和开发效率。

在项目预演阶段中，通常小规模算力就可以满足需求。此阶段主要是对模型的可行性、架构设计的合理性以及算法的有效性进行初步验证，此时模型规模相对较小，参数数量和复杂度都处于较低水平。

例如，在构建一个简单的文本分类预演模型时，可能只需要训练几万到几十万的参数，小规模算力足以支持模型在较短时间内完成训练和评估。等到模型进入正式训练和优化阶段，才会对算力有更高的要求。

我们今天就几种主要的 AI 场景，谈谈对于处在项目预演阶段的团队，值得尝试的一些高效又经济的本地化硬件部署方案。

智慧交通大模型

目前在开发的智慧交通大模型面向的公共服务体验场景非常多元，例如：

报告生成类：很多团队在本地化部署大语言模型，主要使用 AI 生成交通违规报告，加快交通事故处理效率；

咨询服务类：部分团队借助大语言模型 ，正在基于现有的交通标准规范、学科教材、交通知识等材料搭建用于交通知识问答的大模型，希望为出行者、企业等提供便捷精准的交通咨询服务；

业务办理类：有些团队利用现有的路网数据，训练用于交通情况预测、智能咨询和 AI 辅助办理业务的大模型；

资源调度类：还有团队在考虑利用DeepSeek的深度推理能力，对历史流量、天气、事件等多源数据进行融合分析，开发出大模型能够动态地优化信号灯控制策略，提升路口通行效率和交通资源利用率。

这其中，报告生成类任务主要基于 DeepSeek 等模型进行部署，通常为长文本生成场景，咨询服务类则多为短文本生成，模型以 DeepSeek R1 70B、32B、通义千问 QWQ 32B 为主，主要采用的推理精度为 FP16。在项目预演阶段，采用搭载 NVIDIA RTX™GPU 的平台可以在1周内完成模型部署并启动研究工作。

NVIDIA RTX™GPU 属于NVIDIA 企业级显卡，兼具有图形处理和AI能力，安培架构被称为“卡皇”的NVIDIA RTX™A6000就是属于该系列的显卡。目前 NVIDIA RTX™A6000 已停产，性能更强的 NVIDIA Ada Lovelace 架构显卡为NVIDIA RTX™5000 Ada （32GB）、NVIDIA RTX™5880 Ada （48GB）。

*测试数据来源：赞奇科技

汽车的AI应用开发

车企正在布局开发更多的 AI 场景，包括 AI 工厂机器人、车内AI Agent应用等。

工厂AI 机器人

AI 机器人逐步开始在工厂流水线的一些特定环节中“打工”，逐步尝试着未来能降本增效。AI 机器人场景对硬件设备的 AI 与图形处理能力均有要求。目前，机器人仿真测试任务主流基于 NVIDIA Isaac Sim™平台，同时采用的是NVIDIA Isaac™Lab 进行强化学习，还需要通过 DeepSeek 等大语言模型的推理能力来实现语音交互。此类场景中，NVIDIA RTX GPU 可以同时满足 AI 和图形需求，我们以搭载 NVIDIA RTX 5000 Ada 的计算平台为例，来看看一些开发场景中的 GPU 消耗、可以适配的部署方案及其预期效果。

*测试数据来源：赞奇科技

车内 AI Agent

车内的 Agent 应用已经在如火如荼地开发进程中，场景不限于出行伴侣、旅行专家、用车助手等。很多开发团队尝试借助 DeepSeek、QWQ 的深度推理能力，实现多情感、多模态的超拟人交互。随着 Manus AI Agent 的出现，对于 Agent 的市场关注度和开发热度也有所提升。

在项目前期开发阶段，AI Agent 会以相对简单的场景来实现快速落地，开发团队用于模型训练和推理测试的规模并不是非常庞大的，但依然需要较强的算力来支持不同的算法模型。NVIDIA RTX 5880 Ada 无论在计算能力还是图形能力上，都在 NVIDIA RTX 系列 GPU 中首屈一指。NVIDIA RTX 5880 Ada 单卡能力超强，这能够为后续机器的扩展留有较大的空间，毕竟随着 AI Agent 功能的完善，即使是项目前期预演阶段，算力需求也会在增长。

由于 AI Agent 具体的应用场景、功能需求和数据规模差异比较大，我们需要根据具体情况来评估所需的算力规模，并且不断通过测试来匹配开发效果预期。

*与NVIDIA产品相关的图片或视频（完整或部分）的版权均归NVIDIA Corporation所有。