星颖 发表于 2026-10-30 08:52:21

Anthropic 论文宣称会使用对话内容进行封号

https://cdn3.ldstatic.com/original/4X/c/3/1/c3197c2b7a207414e5c68b2a274263bf2b51c835.svg
Anthropic Safeguards Blog – 16 Oct 26 (https://safeguards.anthropic.com/2026/self-assessment/)
https://cdn3.ldstatic.com/optimized/4X/e/4/7/e47ae15cbff750cc039f515290a0b308ad5e8134_2_690x362.png
Scaling Misuse Detection with Self-Assessment (https://safeguards.anthropic.com/2026/self-assessment/)
Self-assessment lets Claude assess the safety of its own responses. It scales well with model capabilities and helps us identify emergent harms.
Anthropic 会使用对话内容进行封号,实现方法是在用户的对话后面接一个提示,让模型自己判断是不是该封号,跟 Claude 说自己是中国人的基本是确定性的会寄了,就看什么时候

YaoShuFang5 发表于 2026-10-30 23:16:32

看完感觉要把之前收藏的内容重新整理一遍。

XiaoXing982 发表于 2026-11-2 22:11:53

已阅,删帖吧,别让别人看到了!!!

湖北川哥 发表于 2026-11-5 18:36:30

星颖的电子书库是我的第二大脑,准备搭建一个知识库,有没有感兴趣的

老司机 发表于 7 天前

有没有星友在山东的,一起出来聚聚啊

mqjz1314 发表于 3 天前

自己解决不了的问题,就 跳过问题本身,找能解决问题的人 。

DaiTianYu7 发表于 27 分钟前

专业抢沙发
页: [1]
查看完整版本: Anthropic 论文宣称会使用对话内容进行封号