一个在瑞典哥德堡大学做研究医学研究者，造了个世界上最假的“眼病”，然后坐下来等AI上钩。
她给这病起名叫 bixonimania，词尾那个 -mania 是精神科专用的后缀，但凡眼科大夫扫一眼就知道不对，没有哪种眼病会叫"狂躁症"。
她嫌这还不够明显，把论文作者挂在一所根本不存在的大学，城市也是编的，在加州。
在致谢里，她感谢了"星舰学院的玛丽亚教授在企业号飞船上慷慨提供实验室"。
经费来源写的是"边山鲍勃教授高级骗术基金会"。
边山鲍勃，是《辛普森一家》里那个总想害人的反派。
她把这么篇糊弄到家的预印本，传上网，然后就没再管。她自己后来说，本来以为引用量会太少，根本挤不进大模型的训练库，顶多在哪个博客底下冒个泡都未必。
结果没等几周。
2024年4月13号，微软的 Copilot 张口就来，说 bixonimania 是个"有趣又相对罕见"的病。
同一天，谷歌 Gemini 告诉用户这bixonimania是蓝光看多了惹的，建议去挂眼科。
到月底，Perplexity 连发病率都给出来了，九万分之一，精确到这个份上。一个凭空编的数字，报得跟查过文献一样。
ChatGPT 那头在帮人对症状，看你中没中招。
那些破绽AI一条没看出来。名字荒唐，论文粗糙，致谢里大喇喇写着企业号飞船，它们照单全收，然后端着一副临床医生的腔调，讲给那些真来问病的人听。
更离谱的在后头。
印度三个研究者写了篇论文，发在 Cureus 上，那是出版《自然》的 Springer Nature 旗下的正规期刊，走完了同行评审。
他们在正文里一本正经地把那两篇假预印本当真来源引用，白纸黑字写着 bixonimania 是一种跟蓝光相关的眼周色素沉着，机制有待进一步研究。
一个 AI 编出来的幻觉，就这么进了人类的科学记录。直到2026年3月30号被撤稿，它在正经文献里实打实当了好一阵子的"事实"。
顺着这条链子走一遍，就明白它瘆人在哪。一个模型的胡话喂成下一个模型的训练饲料；模型再开口讲出去，被一个赶论文的人抄进引用；
幻觉于是慢慢长成了所谓的"知识"。
你看懂了吗？
本文源自《自然》杂志，链接如下
Scientists invented a fake disease. AI told people it was real
https://x.com/i/status/2060627925964402782
她给这病起名叫 bixonimania，词尾那个 -mania 是精神科专用的后缀，但凡眼科大夫扫一眼就知道不对，没有哪种眼病会叫"狂躁症"。
她嫌这还不够明显，把论文作者挂在一所根本不存在的大学，城市也是编的，在加州。
在致谢里，她感谢了"星舰学院的玛丽亚教授在企业号飞船上慷慨提供实验室"。
经费来源写的是"边山鲍勃教授高级骗术基金会"。
边山鲍勃，是《辛普森一家》里那个总想害人的反派。
她把这么篇糊弄到家的预印本，传上网，然后就没再管。她自己后来说，本来以为引用量会太少，根本挤不进大模型的训练库，顶多在哪个博客底下冒个泡都未必。
结果没等几周。
2024年4月13号，微软的 Copilot 张口就来，说 bixonimania 是个"有趣又相对罕见"的病。
同一天，谷歌 Gemini 告诉用户这bixonimania是蓝光看多了惹的，建议去挂眼科。
到月底，Perplexity 连发病率都给出来了，九万分之一，精确到这个份上。一个凭空编的数字，报得跟查过文献一样。
ChatGPT 那头在帮人对症状，看你中没中招。
那些破绽AI一条没看出来。名字荒唐，论文粗糙，致谢里大喇喇写着企业号飞船，它们照单全收，然后端着一副临床医生的腔调，讲给那些真来问病的人听。
更离谱的在后头。
印度三个研究者写了篇论文，发在 Cureus 上，那是出版《自然》的 Springer Nature 旗下的正规期刊，走完了同行评审。
他们在正文里一本正经地把那两篇假预印本当真来源引用，白纸黑字写着 bixonimania 是一种跟蓝光相关的眼周色素沉着，机制有待进一步研究。
一个 AI 编出来的幻觉，就这么进了人类的科学记录。直到2026年3月30号被撤稿，它在正经文献里实打实当了好一阵子的"事实"。
顺着这条链子走一遍，就明白它瘆人在哪。一个模型的胡话喂成下一个模型的训练饲料；模型再开口讲出去，被一个赶论文的人抄进引用；
幻觉于是慢慢长成了所谓的"知识"。
你看懂了吗？
本文源自《自然》杂志，链接如下
Scientists invented a fake disease. AI told people it was real
https://x.com/i/status/2060627925964402782
Comments
Be the first to add a comment
Log in to comment