UltraData-RL-2609长上下文数据教程长文档多跳问答样本如何支撑128K推理【免费下载链接】UltraData-RL-2609项目地址: https://ai.gitcode.com/OpenBMB/UltraData-RL-2609UltraData-RL-2609 是 OpenBMB 面向强化学习RL后训练的合成增强数据集其中Long-Context 长上下文切片通过 18,046 条长文档多跳问答样本帮助 MiniCPM5-2B 等小模型将推理能力扩展到128K上下文规模。本文带你快速搞懂这些长文本多跳问答长什么样、如何保证答得出来、判得对以及新手如何一键上手。为什么长上下文数据需要多跳问答设计小模型做长推理时最大的难题不是读不完而是读完后不会用答案往往藏在文档不同位置需要把多个线索串联起来才能推出——这正是多跳Multi-hop的含义。UltraData-RL-2609 的长上下文切片就是围绕这一点构建的长文档上下文由多跳与文档问答数据扩写至更长篇幅训练模型在数万甚至十万级 token 内保持注意力多跳问题答案无法从单一句子直接抄到必须跨段落、跨证据整合答案可验证每条样本都有ground_truth参考答案且构建时已保证上下文支撑答案让 RL 奖励信号干净可靠。长上下文数据从哪来3 个开源数据源 内部合成数据源类型作用HotpotQA多跳问答提供多跳推理问题骨架Qasper科研文档问答提供长文档 问答对MuSiQue多跳问答增加多跳复杂度与变体内部合成数据合成扩写至更长上下文补足长度分布四个领域共用同一套六阶段构建流程数据准备 → 标准化改写 → 可验证性过滤 → 奖励可信校验 → 难度匹配 → 格式整理长上下文样本在此过程中必须通过两道关卡明确的上下文—问题—答案关联问题必须能从给定上下文推出答案必须被上下文支撑否则整条丢弃参考答案比对 多模型质量评估由 LLM Judge 和多模型评审双重把关减少标注噪声对 RL 训练的干扰。数据文件位于 data/Long_Context/共 2 个分片Long_Context_part-1-of-2.jsonl、Long_Context_part-2-of-2.jsonl。一条长上下文样本长什么样整个数据集采用统一的五字段 JSONL 结构长上下文任务的特点是完整上下文和问题都放在query字段里ground_truth存放参考答案。{ uuid: Long_Context_00001, query: ……很长的文档上下文 待回答的多跳问题……, ground_truth: ……参考答案……, source: HotpotQA | UltraData-RL-2609, domain: Long_Context }字段说明uuid全局唯一 ID领域前缀 序号query完整上下文 问题直接投喂给策略模型ground_truth参考答案字符串用于答案匹配奖励source原始来源 UltraData-RL-2609domain固定为Long_Context这种上下文内嵌于 query的设计对 RL 训练非常友好训练器无需额外拼接逻辑一条记录就是一次完整的长文阅读 推理 作答任务。快速上手3 行代码加载长上下文切片from datasets import load_dataset ds load_dataset(openbmb/UltraData-RL-2609, Long-Context, splittrain) print(ds[0][query][:300]) # 长文档开头 print(ds[0][ground_truth]) # 参考答案 注意 config 名称是Long-Context连字符而domain字段值是Long_Context下划线加载时别写混了。其他三个切片的 config 为Math、Knowledge、Code可按需混配比。实测效果支撑 128K 推理 RL 的硬核证据这套数据不只是长而是真正被验证过有效。在JustRL II实验设置中极简 JustRL 配方 critic 长度自适应 advantage 估计指标结果推理 RL 规模扩展到128KAIME 2025约 300 步 RL 内由61 → 81MiniCPM5-2B 最终 checkpointAIME 2025 达86长上下文多跳问答在其中扮演长跑教练它强迫模型在超长轨迹中维持推理链的一致性与 Math32,412 条、Code23,665 条、Knowledge11,872 条切片共同构成 85,995 条的完整 RL 分布让短推理与长推理能力互相增益。新手避坑指南使用注意事项难度分布已预筛过通过率为 1已掌握的样本已移除通过率为 0 但标签合法的样本保留并由在线动态采样调控——你拿到的就是可学习区间内的样本无需自行再筛难度。选择题、图片题已清洗构建流程中移除了选择题、判断题、证明题、多问题及依赖图片的题避免抽取式判分失真。静态标签构建时的难度过滤与采样权重不作为字段发布仅保留最终入选样本。去污范围去重仅覆盖构建时已知评测集若引入新基准请自行检测重叠。许可项目按 Apache 2.0 发布上游数据各自的 MIT / CC BY 4.0 / CC BY-SA 4.0 条款继续适用。常见问题 FAQQ1Long-Context 切片适合单独训练吗可以按切片独立使用也可与其他切片配比混合。长上下文 RL 计算成本较高建议先用小批次验证训练器能正确处理长query再全量启动。Q2如何判断答案是否正确长上下文采用与ground_truth的答案匹配判分且构建时已保证上下文支撑答案无需额外验证器这与 Code 切片需要自备沙箱不同。Q3我的模型上下文小于 128K 能用吗可以。样本本身按长度分布构建短上下文模型同样受益128K 级收益则需要配套长上下文训练器与 128K 窗口支持。总结UltraData-RL-2609 的长上下文切片用 18,046 条可验证的长文档多跳问答把读得长练成推得远HotpotQA / Qasper / MuSiQue 打底、六阶段流水线保证奖励可信、难度预筛适配 RL最终支撑小模型 128K 推理 RL 落地。如果你的目标是端侧或本地部署模型的长推理能力这份数据值得一试 【免费下载链接】UltraData-RL-2609项目地址: https://ai.gitcode.com/OpenBMB/UltraData-RL-2609创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 UltraData-RL-2609长上下文数据教程：长文档多跳问答样本如何支撑128K推理
UltraData-RL-2609长上下文数据教程长文档多跳问答样本如何支撑128K推理【免费下载链接】UltraData-RL-2609项目地址: https://ai.gitcode.com/OpenBMB/UltraData-RL-2609UltraData-RL-2609 是 OpenBMB 面向强化学习RL后训练的合成增强数据集其中Long-Context 长上下文切片通过 18,046 条长文档多跳问答样本帮助 MiniCPM5-2B 等小模型将推理能力扩展到128K上下文规模。本文带你快速搞懂这些长文本多跳问答长什么样、如何保证答得出来、判得对以及新手如何一键上手。为什么长上下文数据需要多跳问答设计小模型做长推理时最大的难题不是读不完而是读完后不会用答案往往藏在文档不同位置需要把多个线索串联起来才能推出——这正是多跳Multi-hop的含义。UltraData-RL-2609 的长上下文切片就是围绕这一点构建的长文档上下文由多跳与文档问答数据扩写至更长篇幅训练模型在数万甚至十万级 token 内保持注意力多跳问题答案无法从单一句子直接抄到必须跨段落、跨证据整合答案可验证每条样本都有ground_truth参考答案且构建时已保证上下文支撑答案让 RL 奖励信号干净可靠。长上下文数据从哪来3 个开源数据源 内部合成数据源类型作用HotpotQA多跳问答提供多跳推理问题骨架Qasper科研文档问答提供长文档 问答对MuSiQue多跳问答增加多跳复杂度与变体内部合成数据合成扩写至更长上下文补足长度分布四个领域共用同一套六阶段构建流程数据准备 → 标准化改写 → 可验证性过滤 → 奖励可信校验 → 难度匹配 → 格式整理长上下文样本在此过程中必须通过两道关卡明确的上下文—问题—答案关联问题必须能从给定上下文推出答案必须被上下文支撑否则整条丢弃参考答案比对 多模型质量评估由 LLM Judge 和多模型评审双重把关减少标注噪声对 RL 训练的干扰。数据文件位于 data/Long_Context/共 2 个分片Long_Context_part-1-of-2.jsonl、Long_Context_part-2-of-2.jsonl。一条长上下文样本长什么样整个数据集采用统一的五字段 JSONL 结构长上下文任务的特点是完整上下文和问题都放在query字段里ground_truth存放参考答案。{ uuid: Long_Context_00001, query: ……很长的文档上下文 待回答的多跳问题……, ground_truth: ……参考答案……, source: HotpotQA | UltraData-RL-2609, domain: Long_Context }字段说明uuid全局唯一 ID领域前缀 序号query完整上下文 问题直接投喂给策略模型ground_truth参考答案字符串用于答案匹配奖励source原始来源 UltraData-RL-2609domain固定为Long_Context这种上下文内嵌于 query的设计对 RL 训练非常友好训练器无需额外拼接逻辑一条记录就是一次完整的长文阅读 推理 作答任务。快速上手3 行代码加载长上下文切片from datasets import load_dataset ds load_dataset(openbmb/UltraData-RL-2609, Long-Context, splittrain) print(ds[0][query][:300]) # 长文档开头 print(ds[0][ground_truth]) # 参考答案 注意 config 名称是Long-Context连字符而domain字段值是Long_Context下划线加载时别写混了。其他三个切片的 config 为Math、Knowledge、Code可按需混配比。实测效果支撑 128K 推理 RL 的硬核证据这套数据不只是长而是真正被验证过有效。在JustRL II实验设置中极简 JustRL 配方 critic 长度自适应 advantage 估计指标结果推理 RL 规模扩展到128KAIME 2025约 300 步 RL 内由61 → 81MiniCPM5-2B 最终 checkpointAIME 2025 达86长上下文多跳问答在其中扮演长跑教练它强迫模型在超长轨迹中维持推理链的一致性与 Math32,412 条、Code23,665 条、Knowledge11,872 条切片共同构成 85,995 条的完整 RL 分布让短推理与长推理能力互相增益。新手避坑指南使用注意事项难度分布已预筛过通过率为 1已掌握的样本已移除通过率为 0 但标签合法的样本保留并由在线动态采样调控——你拿到的就是可学习区间内的样本无需自行再筛难度。选择题、图片题已清洗构建流程中移除了选择题、判断题、证明题、多问题及依赖图片的题避免抽取式判分失真。静态标签构建时的难度过滤与采样权重不作为字段发布仅保留最终入选样本。去污范围去重仅覆盖构建时已知评测集若引入新基准请自行检测重叠。许可项目按 Apache 2.0 发布上游数据各自的 MIT / CC BY 4.0 / CC BY-SA 4.0 条款继续适用。常见问题 FAQQ1Long-Context 切片适合单独训练吗可以按切片独立使用也可与其他切片配比混合。长上下文 RL 计算成本较高建议先用小批次验证训练器能正确处理长query再全量启动。Q2如何判断答案是否正确长上下文采用与ground_truth的答案匹配判分且构建时已保证上下文支撑答案无需额外验证器这与 Code 切片需要自备沙箱不同。Q3我的模型上下文小于 128K 能用吗可以。样本本身按长度分布构建短上下文模型同样受益128K 级收益则需要配套长上下文训练器与 128K 窗口支持。总结UltraData-RL-2609 的长上下文切片用 18,046 条可验证的长文档多跳问答把读得长练成推得远HotpotQA / Qasper / MuSiQue 打底、六阶段流水线保证奖励可信、难度预筛适配 RL最终支撑小模型 128K 推理 RL 落地。如果你的目标是端侧或本地部署模型的长推理能力这份数据值得一试 【免费下载链接】UltraData-RL-2609项目地址: https://ai.gitcode.com/OpenBMB/UltraData-RL-2609创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考