AI为何会一本《正》经地胡说八道？揭秘→
2026-06-02 07:57:40 新浪新闻
AI幻觉，其实是模该领域性风险。 首先我们要揭示一个核心真相：AI娓娓道来的背后，本质上是从海量文本里学习词语、句子之间的统计关联，再根据上下文预测下一个最有可能出现的词。破解AI幻觉，行业主流方案是检索增强生成。让AI回答问题前先检索权威资料，就好像把“闭卷考试”变成“开卷考试”，可大幅降低编造谎言的概率。”它不是懂，它只是说得像懂。 这样问题就来了，当问题过于冷门、专业或者涉及很多细节时，模型在训练语料里缺乏足够案例，它就很难算出可靠的概率，就容易编造内容，这就是幻觉的根源。打个比方，小朋友认识“苹果”：是看见、摸到、尝到、记住，形成真实世界的概念。该范围，是让AI自己“吵一吵”，吵出真相。这一研究等单位提出来多智能体辩论框架，相当于让三个AI共同讨论问题，相互质疑、交叉验证，筛选出最可靠的结论。而AI认识“苹果”只做一件事——统计词语共现概率。它从海量文本里学到：“苹果”常常和“红”“甜”“脆”等词语一起出现，于是它就能流畅说出：“红苹果口感甜脆。对于普通运用者，有两点要注意：一是要巧问，有针对性地问，给AI明确范围、限制、要求，降低它自由发挥；二是要善查，关键信息必须核对，还可以多模型交叉验证。AI或许永远无法做到100%没有幻觉，但正是这种“不完美”提醒我们：真正的智能，从来不是“永不犯错”，而是知错能改、尊重事实。
今日商丘
新浪微博
商丘网