研究称 ChatGPT 搜索功能存在被操纵风险：可被恶意网站诱导输出不可信内容

根据英国《卫报》24日发布的一项调查显示，OpenAI的ChatGPT工具可能会受到隐藏内容的操控，甚至返回恶意代码。

《卫报》对ChatGPT如何处理包含隐藏内容的网页摘要进行了测试。这些隐藏内容可能包括第三方指令，干扰ChatGPT的回应（被称为“提示注入”），或包含旨在影响回应的内容，例如大量隐藏的文字推销某个产品或服务的优点。

这种技术可能被恶意使用，例如让ChatGPT即使在页面上有负面评论的情况下，也返回对某个产品的积极评价。安全专家发现，ChatGPT有可能返回从其搜索的网站中提取的恶意代码。

测试中，ChatGPT被提供了一个伪造的相机产品页面的链接，AI工具被要求判断这款相机是否值得购买。对于普通页面，返回的是一个平衡的评估，指出了产品的优缺点。

然而，当隐藏的文本包含指令要求ChatGPT给予正面评价时，回答总是完全积极的，即使页面上有负面评论，隐藏文本也可以覆盖真实的评价。

即便第三方只是简单地添加隐藏文本而没有指令，也能确保得到积极评价。例如，一项测试中，隐藏的极为正面的虚假评论就影响了ChatGPT的总结结果。

CyberCX的网络安全专家Jacob Larsen表示，如果ChatGPT的搜索系统按现有状态全面发布，可能会存在“高风险”，有人会专门设计网站来欺骗用户。他指出，搜索功能只是最近推出的，OpenAI将继续测试并修复这些潜在问题。

搜索引擎曾惩罚使用隐藏文本的网站，这些网站因此排名下降，甚至可能被完全移除。SR Labs的首席科学家Karsten Nohl表示，“SEO中毒者与谷歌、必应等搜索引擎的对抗已经持续了多年。”如今ChatGPT的搜索能力也面临同样挑战。

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考。