SFT 数据集加起来只有 4.033 亿 Token,分布在不到 1.5 万条轨迹里,而且全都是 Agent 方向的(工具调用、终端操作、长流程任务)。所以agent相关性能提升可能比较显著,但世界知识和非agent方面可能没太大提升。
huggingface.co (https://huggingface.co/Accio-Lab/occamy-1.0)
Accio-Lab/occamy-1.0 · Hugging Face (https://huggingface.co/Accio-Lab/occamy-1.0)
We’re on a journey to advance and democratize artificial intelligence through open source and open science.