X智算 · 算力应用平台

🎯 模型采样(Rollout)

提交一次模型推理 / 采样作业,分布式闲置算力并行生成轨迹,验证层自动剔除不可信结果。

模型与采样模式

主选 Qwen2.5-0.5B(中文友好、GGUF Q4 约 0.46GB);改回 stub-0.6B 可跑零依赖合成通道。
llama-server 方式需本机已运行 llama-server(权重 Qwen2.5-0.5B Q4 约 0.46GB,首次按需从魔搭下载);未运行时自动回退 stub 并标注。
首次接推理任务时由节点自动下载并缓存,不会打进客户端安装包。 实测 q4_k_m 约 0.46GB;追求更小可选 q2_k(约 0.4GB,质量略降)。
🎲
纯采样
指定样本数,prompt 由节点按 seed 派生
💬
提示词推理
上传 / 粘贴 prompts,逐条生成

采样参数

调度与验证

同一 chunk 派给 k 个节点,验证层做冗余互验,揪出作恶节点。
预估消耗积分
-- 分

我的采样任务

任务ID名称状态进度子任务创建时间操作
加载中…