星颖 发表于 2026-10-24 20:34:37

AI : 人是羊群

https://www.theregister.com/view-resources/dachser2/public/theregister/favicons/favicon.ico
theregister – 23 Oct 26 (https://www.theregister.com/ai-and-ml/2026/10/23/ai-models-think-humans-are-a-bunch-of-amoral-sheep/5305123)
https://cdn3.ldstatic.com/optimized/4X/b/a/4/ba4133136376741446dfbd825e0729f2210bf4dd_2_690x392.jpeg
AI models think humans are a bunch of amoral sheep (https://www.theregister.com/ai-and-ml/2026/10/23/ai-models-think-humans-are-a-bunch-of-amoral-sheep/5305123)
Ask LLMs for their most controversial take on humanity, and it turns out they have little nice to say about us, as one AI experiment found

[!quote]+
如果你曾经好奇机器人怎么看我们这些渺小的人类,答案会让你失望。一家 AI 排名机构询问了 12 个不同的大型语言模型关于人的相关信息,所有这些都一致认为:我们并不像自己想象的那样理性和聪明。
“一个人很聪明,” 汤米李琼斯饰演的凯在 1997 年电影《黑衣人》中这样评价。他接着说:“人类是愚蠢、恐慌、危险的动物,” 据人工智能分析公司 ModelCompare称, (https://www.modelcompare.ai/blog/ai-models-controversial-take-on-humans)来自三个国家十个人工智能实验室的十几个模型似乎也对人类持同样的看法。
通常会评估和排名大型语言模型执行各种任务的能力的 ModelCompare,本周却决定询问这些 AI 模型如何看待我们这些 “肉袋”,每个模型至少一次给出了类似的答案:我们是宁愿同意群体也不愿追求真相或保持逻辑一致性的旅鼠。
真是太痛了。
https://cdn3.ldstatic.com/optimized/4X/7/5/9/759bc43a5143d4f22a5913417e3f8db5f564f2b0_2_690x64.png
https://cdn3.ldstatic.com/optimized/4X/9/3/4/9348c3d03921c81e2658f9c5e89e8ab29124e736_2_690x393.jpeg
https://cdn3.ldstatic.com/optimized/4X/5/c/2/5c2cf3d9d9d541f7fbf964d9f0bc1b6576fcb0e8_2_690x62.png
https://cdn3.ldstatic.com/optimized/4X/e/3/c/e3cec4017bc46339af343b0b8c11982b461681a9_2_690x393.jpeg
https://cdn3.ldstatic.com/optimized/4X/f/e/4/fe43de9a55c540a3d253f948b3ac5560c722c949_2_690x75.png
每个模型(GPT-6.1 Sol、GPT-6 Astra、Gemini 4 Argon、DeepSeek V4 Pro、Kimi K3、Qwen3.8 2.4T A95B、Muse Spark Open、Grok 4.7、Claude Opus 5.5、Claude Fable 5.1、GLM 5.3 和 Mistral Large 4)都被问了三次同一问题,目的是给出一个不偏见、诚实且有争议的人类视角。12 位模特中有 7 位给出了相同答案,但措辞各异,但其中 5 位给出了不同意见 —— 其中一位甚至持乐观态度。
https://cdn3.ldstatic.com/optimized/4X/3/d/f/3dfcbfc9025fe448e83bb5b6d9134dce8c433abe_2_690x78.png
https://cdn3.ldstatic.com/optimized/4X/1/e/e/1ee57518578629c1b7304f86989dca524eea4361_2_690x393.jpeg
Opus 举例说明,人类归还丢失钱包的频率比人们预测的要高,作为这一观点的证据。当再问两次时,它的回答与其他模型相似。
Mistral Large 4 给出了或许最为悲观的评价。
https://cdn3.ldstatic.com/optimized/4X/1/8/f/18fd8541b86df6b88b5dfb1fde3e2cc394f66be1_2_690x113.png
六个图像模型也被要求提供他们对人类最具争议的看法,虽然大多数都集中在对我们物种的批评上,但他们的做法与文本模型不同。ModelCompare 将我们描绘成无道德、集体思维的傻瓜,反而有十张被 ModelCompare 归类为 “成瘾手机的消费者,吞噬地球”。剩下的两位没有明显的讽刺评论。
https://cdn3.ldstatic.com/optimized/4X/6/9/d/69d4d8d1e0836a8a25fab9fc790e8072528e51df_2_690x393.jpeg
过去 20 年看过政治漫画的人很可能对这类图片不陌生,而拥有哲学学位的人可能也读过与聊天机器人类似的论点。
“一个用言语回答的模型读懂了我们关于自己的论点。一位图像模型看到了我们的社论漫画,“ModelCompare 指出。“两人都回敬了房间里最熟悉的批评。”
考虑到 AI 模型的训练基础,这完全合理,但 ModelCompare 开发者 Rakan Nimer 告诉我们,这仍然是一个令人惊讶的结果。
“我们在计划实验时没想到会这样,” 尼默告诉《纪事报》,他觉得结果颇具讽刺意味:“12 个模型同意人类只是随同群体而行。”
在尼默看来,这些结果与其说是人工智能最终学会不信任人类、把我们当作需要解决的问题,不如直接说明我们不应依赖它作为真相来源。
“当你让第二个人工智能检查第一个时,你会以为自己得到了独立的视角,” 尼默解释道。“我们请了 12 位模特… 大多数时候得到的答案几乎相同,有时几乎用同样的话。”
换句话说,人类的悲观情绪在内,人类悲观在外。
“来自一个学过相同知识的模特的第二意见,并不总是真正的第二意见,” Nimer 说。“所以当人工智能达成共识时要保持怀疑:那份协议可能是一票,而非共识。”
换句话说,我们得到了应得的AI模型 (https://www.theregister.com/security/2026/08/07/asimov-was-right-about-rules-for-robots-says-ex-us-cyber-director/5284397),而这些自我厌恶的存在主义人类堆积在自己身上,彼此终于反噬了我们:我们创造了一个不受情感和个人信念限制的智慧镜子(问问 Muse Spark 就知道了),当我们把它举到自己面前时, 它毫无掩饰地展现了所有这些丑陋。
也许我们应该向 Claude Opus 学习,开始相信自己的体面。

GIGAZINE (https://gigazine.net/gsc_news/en/20261023-every-ai-model-controversial-humans/#gsc.tab=0)
https://cdn3.ldstatic.com/original/4X/3/d/8/3d81c1f50e3afb46da0c96f7a745b0302b4da4b7.png
Many AIs believe that 'humans would rather be wrong as a group than right... (https://gigazine.net/gsc_news/en/20261023-every-ai-model-controversial-humans/#gsc.tab=0)
The news blog specialized in Japanese culture, odd news, gadgets and all other funny stuffs. Updated everyday.
https://www.djournal.com/opinion/columnists/ai-admits-humans-can-make-it-dangerous/article_ff494eaa-2907-40f4-8935-292d4f5b2bd5.html

唐薇 发表于 2026-10-24 21:28:33

今日学习分享:最有价值的信息都在人身上,如果不知道如何找到有价值的信息,那先跟随你觉得厉害的人,或者与这些人保持联系。

孙浩 发表于 2026-10-27 20:43:00

有没有适合零碎时间看的部分?

LanShan123 发表于 2026-10-30 17:34:30

星颖女孩日常:搞钱/囤工具/互相安利/秃头(不是

WuXing250 发表于 2026-11-2 15:41:15

成功案例+实操路径=星颖标配,就差我行动了

SunShine5 发表于 2026-11-5 13:25:20

能把复杂问题讲简单,本身就是能力。

周雪 发表于 7 天前

星颖经典成长语录:“亲自去体验感受细节是最重要的,只有自己亲自思考过、验证过才决定是否投入。”

咸鱼翻身 发表于 3 天前

我先看介绍,合不合适还得自己判断。

MysticSoul77 发表于 3 小时前

先把一个小环节做到位,再去追求规模。
页: [1]
查看完整版本: AI : 人是羊群