IT之家 4 月 19 日消息，OpenAI 最新发布的 o3 和 o4mini 模型在多个方面展现出业内领先的水准，不过，这两款模型依然无法摆脱“幻觉”问题 —— 甚至比以往发布的模型更加严重。
据外媒 TechCrunch 今日报道，幻觉问题一直是生成式 AI 发展过程中最难解决的挑战之一，即使是目前性能最优秀的模型也难以完全避免。过去，每一代新模型在降低幻觉频率方面通常都会取得小幅进步，但 o3 和 o4mini 却打破了这一趋势。
根据 OpenAI 的内部测试，作为推理模型的 o3 和 o4mini，出现幻觉的频率不仅超过了前代推理模型 o1、o1mini 和 o3mini，甚至还高于传统“非推理”模型（IT之家注：如 GPT4o）。
OpenAI 在针对这两款模型发布的技术报告中表示：“要弄清楚随着推理模型规模的扩大，幻觉问题为何反而变得更加严重，还需要进一步研究。”报告指出，尽管 o3 和 o4mini 在编程和数学等任务上的表现优于以往，但由于模型输出的答案总量增加，导致其既能作出更多准确判断，同时也不可避免地出现更多错误甚至幻觉。
在 OpenAI 设计的内部基准测试 PersonQA 中，o3 回答问题时出现幻觉的比例达到 33%，几乎是前代推理模型 o1 和 o3mini 的两倍，后者的幻觉率分别为 16% 和 14.8%。在同一测试中，o4mini 的表现更差，幻觉率高达 48%。
第三方机构 Transluce 的测试也印证了这一问题。这家非营利 AI 研究实验室发现，o3 在回答问题时经常会凭空捏造出某些“过程操作”。例如，Transluce 曾观察到，o3 声称自己在一台 2021 款 MacBook Pro 上“在 ChatGPT 之外”运行了代码，并将结果复制进了答案中。实际上，虽然 o3 拥有一部分工具访问权限，但并不具备执行这种操作的能力。
OpenAI 发言人 Niko Felix 表示：“解决幻觉问题是我们一直在推进的重点研究方向，我们也在不断努力提升模型的准确性与可靠性。”
相关文章：
9999元版买的人最多！Pura X真卖太好了：直06-25
《知音漫客》宣布正式复刊！名漫画期刊回来06-25
解码尤溪茶叶出海记：拼配技术、精选品质与06-25
消息人士：美方正准备承认克里米亚为俄领土06-25