GPT-4“胡编乱造”的问题依旧存在

尽管GPT-4在自然语言生成方面取得了巨大的进展，但笔者认为该技术仍存在一些不足之处。具体而言，GPT-4在生成文本内容时可能会出现“胡编乱造”的情况，即生成的结果可能和事实不符或缺乏逻辑性。

但AI毕竟还是AI，OpenAI也明确表示，现阶段的GPT-4并不完美，在一些方面依旧存在问题。

比如，在GPT-3.5中就存在的，AI“胡编乱造”问题，到了GPT-4，也依旧存在。

在新版本中，AI依旧会编造事实，并且事实方向也不一定总是可靠的，由于系统不知道什么是真的，什么是假的，它们可能会生成完全错误的文本。

对此，OpenAI表示，“它倾向于坚持认为它是正确的，即使它错了”，这导致它有时仍然会输出完全错误的结果。

比如在被要求提供描述最新癌症研究的网站地址时，GPT-4甚至会生成不存在的互联网地址，用来佐证并不正确的结论。