星颖资源网

 找回密码
 立即注册
查看: 757|回复: 11

Vals AI 发现 MiMo v2.6 的强化学习训练环境会泄露答案

[复制链接]

7万

主题

1万

回帖

26万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
265943
发表于 2026-10-8 16:36:10 | 显示全部楼层 |阅读模式

vals.ai – 7 Oct 26 (https://www.vals.ai/blogs/mimo-reward-hacking)

Two-Thirds of MiMo v2.6's Coding Tasks Leak the Answer. Are Models That... (https://www.vals.ai/blogs/mimo-reward-hacking)
In two-thirds of the coding environments Xiaomi released for MiMo v2.6, the fix is still readable in the task's Git history, and MiMo finds it.
看下来大致意思是:虽然 MiMo 考虑到了要防止模型作弊,但删 git 历史的时候没删干净。如果历史版本有残留,可能会被 MiMo v2.6 挖出来。如果历史版本没了、但留下了异常的修改时间,也相当于给模型提示了。
或许这就是开源的好处,让全世界研究人员一起帮忙发现问题 体现了 MIUI 开发版的精神
回复

使用道具 举报

0

主题

3350

回帖

6700

积分

VIP(年费)

积分
6700
发表于 2026-10-9 00:50:52 | 显示全部楼层
有远大理想不要告诉别人,否则会得到嘲笑和泼冷水。
回复

使用道具 举报

0

主题

3429

回帖

6858

积分

VIP(年费)

积分
6858
发表于 2026-10-17 12:39:30 来自手机 | 显示全部楼层
先学习,后验证,最后再决定要不要加码。
回复

使用道具 举报

0

主题

3608

回帖

7216

积分

VIP(年费)

积分
7216
发表于 2026-10-20 14:29:07 | 显示全部楼层
看到就是学到:流量绝不是所有数据的开始,而是内容优质与否的结果。
回复

使用道具 举报

0

主题

3386

回帖

6772

积分

VIP(年费)

积分
6772
发表于 2026-10-23 15:36:54 来自手机 | 显示全部楼层
不要用当下的资源限制终局,而要用 终局思维 来思考资源配置。
回复

使用道具 举报

0

主题

3719

回帖

7438

积分

VIP(年费)

积分
7438
发表于 2026-10-26 14:44:23 | 显示全部楼层
看到就转:希望您购买每一件商品都是因为喜欢,而不是因为便宜,就像结婚一样,是因为爱情而不是凑合。——销冠金句
回复

使用道具 举报

0

主题

3471

回帖

6942

积分

VIP(年费)

积分
6942
发表于 2026-10-29 12:37:10 | 显示全部楼层
针不戳,针不戳
回复

使用道具 举报

0

主题

3389

回帖

6778

积分

VIP(年费)

积分
6778
发表于 2026-11-1 09:02:15 | 显示全部楼层
原来认知差比学历差更可怕,幸好遇见星颖
回复

使用道具 举报

0

主题

3491

回帖

6982

积分

VIP(年费)

积分
6982
发表于 2026-11-4 10:48:02 | 显示全部楼层
星友们的分享越来越细了,学习成本降低不少。
回复

使用道具 举报

0

主题

3346

回帖

6692

积分

VIP(年费)

积分
6692
发表于 2026-11-7 07:07:54 | 显示全部楼层
混星颖第二年,认知差 让我甩开同龄人三条街
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

微信

社群

VIP

AI

顶部

QQ|本站内容来源网友投稿或网络转载,如果有侵权的内容,请联系我们删除。|小黑屋|人人为我,我为人人!| 星颖资源网

GMT+8, 2026-11-19 12:03 , Processed in 0.353790 second(s), 22 queries .

快速回复 返回顶部 返回列表