尼曼实验室发现，OpenAI 的 ChatGPT 正在生成指向其合作伙伴出版物的新闻报道的虚假链接。尽管与主要新闻机构签订了许可协议，但据报道，ChatGPT 会将用户引导至不存在的 URL，这引发了人们对该工具的准确性和可靠性的担忧。
在过去的一年里，许多主要新闻机构与 OpenAI 合作，同意允许 ChatGPT 制作其报道摘要并链接回其网站。然而，人们发现 ChatGPT 一直在为重要新闻创建虚假 URL，导致用户进入 404 错误页面。
这个问题最初是在《商业内幕》工会代表致管理层的一封信被泄露后才为人所知，尼曼实验室的进一步测试证实，这个问题至少影响了 10 家其他出版物，包括美联社、华尔街日报和金融时报。
在测试期间，ChatGPT 被提示链接到这些出版物中的重要调查文章，包括获奖故事。然而，人工智能工具经常无法提供正确的链接。
尼曼实验室举了一个例子，当 ChatGPT 被要求查找有关Wirecard丑闻的信息时，ChatGPT 正确地将金融时报识别为来源，但提供了不相关网站的链接，而不是原始文章。
这个问题并不局限于少数案例。据尼曼实验室称，当被提示进行其他备受瞩目的调查时，比如《华尔街日报》对前总统唐纳德·特朗普支付封口费的报道，人工智能再次将用户引导到无效链接。
与 OpenAI 合作的媒体公司已公开表示，ChatGPT 应该链接到他们的网站并注明出处。大西洋月刊和阿克塞尔·斯普林格都在公告中强调，涉及其内容的用户查询将包含完整文章的直接链接。
然而，目前尚不清楚 OpenAI 计划如何确保这些功能在聊天机器人经常产生不准确的 URL 的情况下正常工作。
OpenAI 的回应
针对这些问题，OpenAI 承认其许可协议中承诺的引用功能仍在开发中。据 OpenAI 发言人 Kayla Wood 称，该公司正在与其新闻合作伙伴合作，以创造更好的用户体验，其中包括正确的归属和源材料的链接。
然而，OpenAI 没有提供有关其计划如何解决虚假 URL 问题的更多细节。
尼曼实验室的安德鲁·德克进行了测试，他的研究结果表明 ChatGPT 经常产生幻觉 URL，目前缺乏为其合作伙伴的故事提供相关链接的能力。
然而，德克承认，此次评估并不构成对 ChatGPT 的全面审计，计划对所涉及的技术因素进行进一步调查。
“但是，如果这些 URL 幻觉大规模发生，OpenAI 可能需要解决这个问题，才能向新闻出版商传达其总体宣传，”德克说。
（机器翻译，轻度译后编辑，仅供参考）
编辑：刘慧
