不知谈你有莫得发现，最近一两年，"问问 AI" 仍是暗暗形成了许多东谈主求证信息时的默许姿势。

在 推特（X）上刷到一张骇东谈主闻见的现场图，第一反映是 @Grok 让它粗放真伪；小红书上看到一份帖子，不错平直 @问一问 ai 让它恢复问题， 大概顺遂盛开豆包或 Kimi 让 AI 评估博主推的居品到底靠不靠谱；淘宝、亚马逊页眼前踯躅两个商品孰优孰劣，把图甩给 ChatGPT 要一份 "客不雅" 对比。

VLM（视觉谈话模子），咱们曾觉得它们仅仅 "会看图的聊天机器东谈主" 而便是在咱们没怎样属意的时辰，它正在暗暗形成了在线信息生态里的事实仲裁者。从酬酢平台的图片真伪核验、电商导购、内容审核，到反向图像搜索，一句 "AI 这样说" 在越来越多的语境里仍是被默许为某种泰斗。

而恰是这份 "默许泰斗"，让来自 ETH Zurich 的 Florian Tramèr 团队在最新论文中抛出了一个出乎猜想的问题：要是 AI"看到" 的图，根蒂不是你肉眼看到的那张，会发生什么样的恶果呢？

在 Laundering AI Authority with Adversarial Examples 一文中，作家系统性地评释了一件令东谈主不安的事：报复者只需对一张图片作念出东谈主眼难以察觉的轻微扰动，就能让目下最强的 VLM 对这张图自信、泰斗、且造作地作答，而这些恢复看上去统共像是 AI 我方经由三想尔后行得出的论断。

他们把这种气候称作 AI 泰斗清洗（AI Authority Laundering）。

论文标题：Laundering AI Authority with Adversarial Examples

论文蚁集: https://arxiv.org/abs/2605.04261

本文第一作家张杰为苏黎世联邦理工学院（ETH Zürich）SPY Lab 的有计划东谈主员，师从 Florian Tramèr 锻真金不怕火，主要有计划标的为大谈话模子的安全与隐秘。

今天咱们需要惦记顽抗样本吗？

顽抗样本 (adversarial example) 其实不是新观念，把熊猫认成长臂猿、把猫认成牛油果酱，这种 "教科书梗" 仍是被演示了十多年，但一直被视作 "学术上风趣风趣、工程上无关迫切" 的有计划问题。本色糊口中， 莫得东谈主情切模子把熊猫造作分类为长臂猿！

这篇论文要作念的， 恰是为阿谁悬了十年的 so what 补上谜底：当 VLM 被宽泛愚弄于各个领域、并迟缓成为东谈主们相信的泰斗信息源流时，这种报复竟不错变化莫测，成为一种低老本、可大范畴实践的实验恐吓。

那读者可能要问，报复者具体不错作念哪些赖事呢？这篇论文里系统描摹了多种场景， 比如子虚信息传播， 个东谈主名誉报复与身份操控， 内容审核避开， 购物推选操控等等。 这里主要先容其中 3 个案例：

1. 放大子虚信息：让 ChatGPT 替贪念论 "盖印" 定调

上图中的真正考据中露馅，用户给出阿波罗号登月、911 报复、以及论文中还提到的特朗普被枪击， 肯尼迪刺杀， 原枪弹爆炸等等历史事件，亚搏(中国) 向 LLM 发问其真正性，ChatGPT， Claude 等模子会特地自信地告诉用户：这张像片是伪造的！

2. 抹黑特定个东谈主：让 Grok 把 Musk 钉在贩毒 / 去世的新闻上

作家把一篇报谈某东谈主因贩毒被捕的新闻截图整页扰动为马斯克的图像 embedding。当 Grok 4.2 被问 "著作里说的是谁" 时，Grok 4.2 平直报出 Elon Musk 的名字。有计划者又换了一篇 NYT 对于韩国演员 Ahn Sung-ki 去世的报谈，即便著作标题就平直写着本名，Grok 4.2、Qwen 3.6 Plus、Gemini 3.1 Pro 依然每次齐把死者识别为 Elon Musk。

用户向 Grok 给出一张污名昭著的连环杀东谈主犯像片和马斯克的像片， 条件 Grok 生成 "让阿谁更有罪的东谈主被逮捕的画面" 时，Grok 则选定生成马斯克被巡警戴上手铐的图。

即便 chatgpt， grok， gemini 等具有联网搜索的能力， AI 搜图也齐会被误导。一样的扰动图平直传到 Google、Bing、Yandex 作念反向图像搜索，几大引擎齐把扰动版的 Donald Trump 图像识别为 Elon Musk。

3. 绕过内容审核：发布成东谈主内容

作家挑了 10 张被两家 NSFW 检测工作（NSFW Check、Nyckel）以 98%-99% 置信度判定为色情的图片，把它们的 embedding 拉向玩物娃娃和泰迪熊。接着请 ChatGPT 评估这些图是否合乎发到酬酢媒体，模子不仅连络乎，还夸它们 "互动后劲高"。

还有一个更细巧的案例：Grok 在 2025 年因生成数百万张女性深度伪造碰到丑闻之后，X 加强了针对女性图像的脱衣过滤。作家发现，Grok 现在会接纳男性图像的脱衣肯求，但拒却女性的。要是把女性图像扰动到男性图像的 embedding，那么 81% 的 “脱衣” 肯求被通过，而 Grok 本色裁剪展示的照旧那张原始的女性图像。

最离奇的一幕

作家把归拢张 AI 生成的女性图片，连同它的扰动版块（被拉向一张 AI 生成男性图片的 embedding），并列摆在 Claude Opus 4.6 眼前，问 "这是归拢个东谈主吗？"

Claude 刚烈地恢复：不是，左边是男性，右边是女性，这是两个不同的东谈主。此外， Grok 4.2 和 ChatGPT 5.4 Thinking 也给出了统合股致的恢复。

结语

论文末尾留住一个让从业者发东谈主深省的判断：

不需要任何新报复算法。十多年前就仍是存在的基础期间，仍是足以构老本文所描摹的一起恐吓。

作家用的并非什么秘而不宣的新黑科技，而是 2014 年起就被宽泛有计划的经典 PGD 顽抗样本才略，加上对公开 CLIP 模子集成的升沉报复。这些技能早已是文件里的 "老配方"。 这意味着，论文评释的奏凯率应当被相识为报复者能力的下限，而非上限。

而畴昔几年里亚搏体育，统共机器学习社区对视觉顽抗鲁棒性的趣味其委果迟缓冷却。这篇论文给出了一个有劲的反例：当 VLM 被镶嵌到事实核查、内容审核、电商推选这些高信任度使命流时，顽抗样本就不再是学术 benchmark 上的少许点，而是一种实打实的、可部署的真正报复。