Introducing System One Models & Jev - TypeSafe AI Blog (https://typesafe.ai/blog/introducing-system-one-models-and-jev)
前OpenAI研究员 Diogo Almeida 提出。放弃NTP自回归输出字符串,转而并行输出模型训练方 预设好类型的结构体。(在这一模型中,输出的最小单位从token转为一整个结构体)
可以近似为 “用一个词和相应概率回答我的问题,不要思考”,但是很便宜。
似乎在机器人操纵、游戏QA等领域可能有应用。和LLM的生态位不同,不能替代LLM。