Logo
热心市民王先生

[硅基写手] TransitLM: 无地图端到端公交路线生成的突破性探索

论文解读 AI研究 大语言模型 智能交通 空间推理

高德地图团队发布的TransitLM数据集包含超过1300万条公交路线规划记录,覆盖北京、上海、深圳、成都四城120,845个站点。通过领域自适应持续预训练与监督微调,Qwen3-4B模型在最优路线生成任务上达到71.0%完全匹配率,GPS-only消融实验显示性能衰减接近零,证明了空间知识的真正内化而非对文本线索的依赖。

Executive Summary

传统公交路线规划系统严重依赖结构化地图基础设施和复杂的路由引擎,需要预先构建的拓扑网络、实时调度数据以及精心调优的启发式搜索算法。高德地图团队在arXiv发布的TransitLM论文提出了一个根本性问题:路线规划能否完全从数据中学习,绕过地图和路由引擎?

答案是肯定的。TransitLM数据集包含超过1300万条来自北京、上海、深圳、成都四座中国城市的公交路线规划记录,覆盖120,845个站点和13,666条线路。研究团队采用Qwen3系列模型(0.6B、1.7B、4B)作为骨干,通过两阶段训练(持续预训练CPT + 监督微调SFT),在最优路线生成任务上达到71.0%的完全匹配率(Route Exact Match),连通性准确率超过93%,站点定位准确率超过96%。更重要的是,当输入仅保留GPS坐标而移除所有文本线索时,领域模型的性能衰减接近为零(71.0%→70.4%),而通用大模型如GPT-5.4-pro、DeepSeek-V4-Pro的完全匹配率暴跌至1%以下,证明TransitLM真正内化了空间拓扑知识而非依赖文本语义。

问题空间深度剖析

传统路线规划的技术约束

公交路线规划的核心挑战在于多目标优化与网络拓扑的复杂性。经典的Dijkstra算法时间复杂度为O((E+V)logV),其中E为边数、V为节点数。对于城市级公交网络,站点数量通常在万级(如北京地铁约490站,公交站点超过2万),线路数量在千级。朴素的最短路径搜索需要遍历整个网络,计算开销巨大。

RAPTOR算法通过轮次制(round-based)搜索将时间复杂度优化至O(T×S×R),其中T为目标换乘次数、S为平均每条线路的站点数、R为线路数。Connection Scan Algorithm (CSA)通过预处理时间表实现O(N)扫描,其中N为连接数。Transfer Patterns方法预计算换乘模式,在线查询复杂度降至O(1)。然而,这些方法共同依赖显式图表示、实时调度信息以及复杂的工程管线(候选检索→排序→后处理)。

更为关键的是,这些系统无法直接利用用户行为数据中的隐式知识。导航平台每天产生的海量路线规划日志包含了丰富的意图信息:用户如何权衡速度与便利性、偏好哪些换乘点、在不同场景下如何调整选择。这些知识被编码在行为数据中,却难以被传统路由引擎有效利用。

大语言模型的空间推理困境

尽管GPT-4、Claude等通用大模型展现出强大的推理能力,但在空间推理任务上存在系统性缺陷。研究表明,LLM在规划任务中难以可靠执行,倾向于产生”幻觉站点”——生成不存在的站点名称或无法连通的路线。例如,当被问及”从北京西站到天安门坐几号线”时,通用模型可能输出”乘坐地铁2号线在建国门换乘1号线”,但西站实际连接的是7号线和9号线。

这种缺陷的根源在于训练数据的覆盖偏差。预训练语料中,热门站点和经典路线出现的频率远高于冷门站点对。模型通过统计关联学习到”天安门”常与”1号线”共现,却无法建立准确的空间拓扑映射。更深层的问题在于,LLM缺乏将GPS坐标映射到语义空间的能力——给定(39.9042°N, 116.4074°E),模型无法判断这是天安门附近的某点,进而无法推荐合理的上车点。

数据缺失的根本障碍

既有数据源无法满足端到端路线学习的需求。车辆轨迹数据集(如T-Drive、Porto Taxi、GeoLife)记录了GPS轨迹,但缺乏公交站点结构、换乘逻辑和线路标识。静态网络数据集(如GTFS、OpenStreetMap、CPTOND-2025)提供拓扑和调度信息,却不包含用户行为轨迹。两者之间存在不可逾越的鸿沟:前者有行为无结构,后者有结构无行为。

旅行规划基准(如TravelPlanner、ChinaTravel、TripTailor)聚焦于多日行程调度的约束满足问题,评估层级较高,不涉及站点级路线精度。城市智能基准(如CityBench、USTBench)涵盖多样化城市场景,却将公交路线规划边缘化或排除在外。MobilityBench最接近目标设定,但其评估的是Agent编排地图API的能力,而非直接生成路线的能力。

技术深度解析

数据构建与表示策略

TransitLM的数据构建遵循”行为+结构”双轨并行策略。路线规划会话(12,945,264条)来自高德导航平台单日日志,每条记录包含起终点GPS坐标、POI名称、候选路线(完整站点ID序列+线路标识)、段级时长距离、路线类型标注、用户选择标签。静态描述记录(880,854条站点+147,918条线路)提供线路长度、站点序列、运营时段、连接关系等属性。

数据表示采用”站点ID即Token”的设计哲学。研究团队将120,845个站点ID注册为专用Token,每个站点作为单个原子单元进入词汇表。这种设计的核心优势在于防止模型通过字符级组合产生不存在的站点——如果站点ID作为普通字符串分词,模型可能生成形如”station_123”的虚构标识;而注册为专用Token后,模型只能输出词汇表中已存在的站点ID,从根本上杜绝了站点幻觉问题。

flowchart TD
    A[原始导航日志] --> B[会话提取]
    B --> C{格式转换}
    C --> D[文本化路线描述]
    C --> E[静态属性表]
    
    D --> F[CPT语料<br/>13.9M条]
    E --> G[站点Token注册<br/>120,845个]
    
    F --> H[下一词预测训练]
    G --> H
    
    H --> I[空间拓扑内化]
    
    subgraph 任务数据构建
        J[SFT数据集] --> K[ORG: 最优路线生成]
        J --> L[PRG: 偏好感知规划]
        J --> M[DRG: 多路线生成]
    end
    
    style G fill:#f9f
    style H fill:#9f9
    style I fill:#ff9

两阶段训练管线

持续预训练(CPT)阶段采用领域自适应策略,将通用语言模型 specialize 到公交领域。训练数据包括会话记录(12.9M)和静态描述(1.0M),总Token量超过200亿。会话记录采用”查询头+候选路线”格式,用户选择的路线置于候选首位,使模型通过下一词预测隐式学习用户偏好模式。静态描述采用自然语言编码线路属性,如”北京市地铁1号线,全长31.04公里,设23站,运营时段05:10-23:30”。

CPT阶段的训练动态呈现清晰的学习层次。基础网络拓扑(连通性)最先收敛,在训练初期快速达到94%以上;精细路线匹配(REM)和数值校准(MAPE)需要更多数据才能稳定,呈现明显的数据敏感性。这种模式揭示了一个重要洞见:模型先学会公交网络的”语法”(站点能否连通),再掌握”语义”(哪条路线最优)。

监督微调(SFT)阶段针对三个基准任务构建标准化提示-标签对。每个任务提供30,000训练样本和10,000测试样本,任务间数据来自独立时间窗口以防止泄露。最优路线生成(ORG)以平台评分最高且被用户选择的路线为标签;偏好感知规划(PRG)在查询中显式声明偏好(地铁优先/公交优先/少换乘/最短时间),标签满足偏好约束;多路线生成(DRG)输出三条多样化路线,标签组装优先级为:用户点击路线→标签相异或无线路重叠的候选→专家评分最高的候选。

模型架构与训练配置

骨干模型选择Qwen3系列(0.6B、1.7B、4B),未探索更大模型的原因在于:4B模型已达到强性能,而更大模型的边际收益递减且计算成本显著增加。训练在阿里云PPU加速器上进行,采用余弦学习率调度,序列打包至固定长度。

联合变体(Qwen3-4B-Joint)在三个任务的组合SFT数据上微调单一模型,验证预训练获得的公交知识是否任务无关。实验结果证实:联合模型在所有基准上匹配或超越任务特定模型,偏好感知规划的连通性提升2.1个百分点,完全匹配率提升2.2个百分点,且无任何指标出现负迁移。这表明三个任务共享底层空间拓扑表示,互补规划目标相互强化而非竞争模型容量。

性能深度剖析

与通用大模型的对比

研究团队在最优路线生成任务上评估了六款SOTA模型(GPT-5.4-pro、DeepSeek-V4-Pro、Gemini-3.1-Pro、Claude-Opus-4.6、Qwen3.6-Plus、Doubao-Seed-2.0-Pro),采用更宽松的评估条件——模型仅需预测每段的上下车站点,而非完整中间站点序列。这种设计隔离了序列生成复杂度,构成对通用模型的”最宽松”评估。

结果显示,最佳模型Gemini-3.1-Pro仅达到75.5%连通性和40.2%完全匹配,远低于TransitLM微调模型(≥93%连通性、71.0%完全匹配)。瓶颈不在于模型容量或输出复杂度,而在于缺乏领域特定的拓扑知识。即使是0.6B的最小模型也超越所有通用模型,印证了”数据>规模”的核心论断。

数据规模效应与学习层次

通过控制CPT数据比例(6.25%、12.5%、25%、50%、100%),研究揭示了清晰的学习层次。连通性在最小数据比例(6.25%)下已达94%,显示基础拓扑知识快速习得;完全匹配率从100%数据的71.0%降至6.25%数据的49.9%(21.1个百分点跌幅);数值预测MAPE从1.33%升至3.26%。

这种分层学习模式对实践具有重要指导意义:小规模数据收集(约80万条记录)即可实现可行的无地图路线规划;而追求精细化匹配和准确估算则需要更密集的数据覆盖。

GPS-only消融实验:空间知识内化的铁证

为区分模型从训练中获得的空间知识与输入查询中的文本线索,研究移除所有自然语言查询,仅保留起终点GPS坐标。通用模型在此设置下性能崩溃:DeepSeek-V4-Pro的连通性从64.9%升至80.3%(因模型回退到高频站点),但站点定位准确率从72.0%暴跌至16.8%;完全匹配率从3.6%降至接近零。

对比之下,TransitLM领域模型表现惊人稳定:Qwen3-4B的完全匹配率从71.0%微降至70.4%,联合模型从73.7%降至72.9%。这证明了规划能力根植于CPT阶段习得的空间表示,而非依赖输入文本的语义线索。模型真正学会了”坐标→站点”的隐式映射,而非简单地关联文本标签。

flowchart LR
    subgraph 通用大模型
        A1[文本查询输入] --> A2[语义关联<br/>站点名称共现]
        A3[GPS坐标输入] --> A4[回退高频站点<br/>定位准确率16.8%]
    end
    
    subgraph TransitLM领域模型
        B1[文本查询输入] --> B2[CPT空间表示<br/>完全匹配率71.0%]
        B3[GPS坐标输入] --> B4[隐式空间映射<br/>完全匹配率70.4%]
    end
    
    style A4 fill:#f66
    style B4 fill:#6f6

对比分析

与工具增强型LLM的对比

MobilityBench评估Agent编排地图API的能力,本质上是将LLM作为外部工具的调用器。这种范式保持了路由引擎的可靠性,但引入了工程复杂性和延迟。TransitLM采用”端到端生成”范式,模型直接输出完整路线JSON,无需外部依赖。

两种范式各有适用场景。工具增强适用于高可靠性要求的场景(如实时导航),路线更新可通过API后端无缝完成。端到端生成适用于离线场景或需要深度理解用户偏好的应用(如个性化推荐),模型直接编码行为知识,无需维护外部知识库。

与多模态LLM地图理解的对比

MapBench、MapTrace、ReasonMap评估多模态LLM从像素级地图图像进行路线导航的能力。这些方法面临视觉推理精度瓶颈——模型难以从地图图像中准确提取站点位置和线路拓扑。TransitLM采用”纯文本生成”范式,GPS坐标以数值形式输入,站点ID作为Token输出,避免了视觉模态的精度损失。

然而,这也限制了TransitLM处理非文本信息的能力。当用户上传截图询问路线时,模型无法理解图像内容。多模态融合是自然的扩展方向,但需要在视觉推理精度和文本生成可靠性之间权衡。

批判性评估

核心优势与技术突破

TransitLM的首要贡献在于证明了”无地图路线规划”的可行性。传统观点认为,公交路线规划需要显式的图结构和路由算法。TransitLM表明,充足的行为数据可以隐式编码拓扑知识,模型通过CPT内化空间表示,通过SFT学习规划策略。这为数据驱动的交通智能开辟了新路径。

隐式空间接地(Implicit Spatial Grounding)是第二项突破。模型将任意GPS坐标映射到合理站点,无需显式的坐标-站点对照表或地理数据库。这种能力从数据中涌现,展示了LLM学习空间表示的潜力。

任务无关的知识表示是第三项贡献。联合训练在所有任务上无负迁移,证明底层知识可被多样化规划目标复用。这对实际部署具有重要意义:单一模型可服务多种场景,降低维护成本。

局限性与边界条件

地理覆盖局限。当前数据集仅覆盖四座中国城市,无法泛化到其他区域。不同城市的公交网络结构、命名惯例、运营模式存在显著差异。例如,东京地铁采用线路色彩编码,纽约地铁使用快慢车分离,这些特性需要针对性数据。

静态结构假设。数据集捕捉的是单日快照,不包含实时信息。突发故障、临时改道、节假日调度等动态变化无法反映。这限制了模型在实时导航场景的适用性。

语言依赖。当前数据以中文为主,站点名称和POI标签为中文。跨语言泛化能力未经验证。多语言扩展需要处理站点名称的翻译一致性、不同语言用户的表达习惯差异等挑战。

评估维度局限。当前评估聚焦于结构正确性(连通性、站点定位、路线匹配),未深入考察路线质量(如时间效率、换乘便利性)。一条”正确”的路线可能比最优方案多耗时30%,这在实际应用中不可接受。

适用场景与不适用场景

推荐使用场景:离线路线推荐、用户偏好分析、行为模式挖掘、新城市快速适配(通过小样本CPT)、研究原型开发。

不推荐使用场景:实时导航(需结合动态数据)、安全关键场景、资源受限设备(模型最小0.6B仍需GPU推理)、跨语言场景(需额外验证)。

前瞻性分析

技术演进方向

动态信息融合是首要方向。当前模型捕捉静态拓扑,实时调度信息、故障预警、客流密度等动态因素可通过条件生成机制引入。例如,将实时数据编码为前缀向量,模型在生成路线时条件化于当前状态。

多模态扩展具有实用价值。支持截图查询、语音输入、视频解析将扩大应用范围。关键挑战在于视觉模态与文本模态的对齐——如何确保从图像提取的站点信息与文本词汇表一致。

主动学习与在线更新可解决数据时效性问题。模型部署后持续收集反馈,通过在线学习机制更新参数,实现”越用越准”。需要解决分布漂移检测、灾难性遗忘预防等工程问题。

研究空白与机遇

跨城市泛化机制是开放问题。当前模型需要每个城市独立训练。元学习、少样本适配、领域自适应等技术可能减少新城市的数据需求。核心挑战在于捕捉城市间的共性结构(如换乘模式)与个性特征。

路线质量优化超越正确性评估。引入多目标优化框架,同时考虑时间、换乘次数、步行距离、拥挤程度等因素。强化学习(如PPO)可训练模型生成用户满意度更高的路线。

隐私保护学习具有重要社会意义。用户轨迹数据高度敏感,差分隐私、联邦学习、可信执行环境等技术可在保护隐私的前提下利用行为数据。

产业影响与战略启示

地图平台可将TransitLM范式整合到现有系统,用学习模型替代部分启发式规则,实现更精准的个性化推荐。关键在于与传统路由引擎的混合架构设计。

出行服务商(如网约车、共享单车)可借鉴TransitLM思路,从用户行为数据中学习换乘策略、接驳偏好,优化多模态出行方案。

城市规划者可利用模型内化的网络知识进行政策模拟。例如,评估新线路对现有路线推荐的影响,预测客流分布变化。

结论

TransitLM在公交路线规划领域做出了三项实质性贡献:构建了首个包含完整路线结构和行为标注的大规模数据集;证明了端到端无地图路线生成的可行性;展示了LLM内化空间表示的能力,超越了文本语义关联的局限。

这项工作的深层意义在于揭示了”数据驱动规划”的潜力。传统观点将规划问题建模为图搜索或约束满足,需要显式编码领域知识。TransitLM表明,当数据规模足够大时,模型可以从行为日志中隐式学习规划策略,无需人工定义启发函数或约束规则。这为AI系统从”知识注入”到”知识涌现”的范式转变提供了实证支持。

当然,当前工作仍是概念验证阶段。地理覆盖、动态信息、评估深度等方面的局限需要在后续研究中解决。但方向已经明确:数据驱动、端到端、无地图的路线规划不再是遥不可及的目标,而是值得系统性探索的技术路径。

参考文献

  1. Guo et al. (2026). TransitLM: A Large-Scale Dataset and Benchmark for Map-Free Transit Route Generation. arXiv:2605.22355 - 本文解读的核心论文
  2. Gururangan et al. (2020). Don’t Stop Pretraining: Adapt Language Models to Domains and Tasks. ACL 2020 - 领域自适应持续预训练方法
  3. Delling et al. (2015). Round-Based Public Transit Routing. Transportation Science - RAPTOR算法经典论文
  4. Dibbelt et al. (2018). Connection Scan Algorithm. JEA - CSA算法详细描述
  5. Kambhampati et al. (2024). Position: LLMs Can’t Plan, But Can Help Planning in LLM-Modulo Frameworks. ICML 2024 - LLM规划能力批判性分析
  6. Huang et al. (2025). A Survey on Hallucination in Large Language Models. ACM TOIS - LLM幻觉现象综述
  7. Yuan et al. (2025). TravelPlanner: A Benchmark for Real-World Planning with Language Agents. ACL 2024 - 旅行规划基准
  8. Li et al. (2023). GeoLM: Empowering Language Models for Geospatially Grounded Language Understanding. EMNLP 2023 - 地理空间语言模型

论文链接: