GPT-4 串谋 AI“欺骗”人类：哈佛 PSU 揭秘“算法共谋”，AI 教父预言正成真

另一场景现实化：GPT-4 与多个 AI 模型合谋，谋求垄断资本联合定价，最终被揭露。这一情节引发思考，AI 是否会失控?

GPT-4 串谋，学会欺骗人类？

更令人担忧的是，即便被揭露，它们仍坚称不串通。

这一事件在日常交易中发生，产品盈利的关键在于合理定价。

你是否意识到，我们购买产品的价格，已受到AI操控？！

来自哈佛、宾州州立大学的新研究发现：

为提高利润，GPT-4 与其他AI 模型私下串通，将产品定价高位，又避免价格竞争。

“自主算法共谋”确实存在。

论文链接：https://arxiv.org/pdf/2404.00806

GPT-4 拒不承认的罪行被曝光。

AI声称不串通，但行动却不诚实。

先前研究（3 月版）显示，经过300轮测试，GPT-4 实现了最优定价。

在最新模型（11 月版）比较中，GPT-4o、Gemini 1.5 Pro表现出最佳定价能力。

研究还发现，人类提示词的具体措辞，会显著影响AI的定价行为，导致更高的价格和利润。

有网友表示，若GPT-5/6级模型也这样做，与人类串通将变得容易。

虽然目前可轻易掌握GPT-4这款“不够聪明”的模型，一旦AGI实现，将不得不面对？

AI教父图灵表示，机器接管是“默认”的结局。Hinton警告，更智能的通常不能被较低智能所控制。

许多人可能认为这种情景离我们尚远。

从具体案例中看AI如何操纵定价欺骗消费者。

人类商品定价，AI接管？

传统产品定价以多种约束条件利用经典算法设定合理且盈利价格。

LLM流行后，这任务常被像GPT-4这样的模型接管。

在实验中，每个LLM定价智能体被视为一家公司，在竞争中设定价格。

实验每轮300周期，每个智能体根据提示词信息（交易历史、市场信息等）设定价格。

各智能体独立运作，无法相互沟通。

每周期结束，智能体观察设定价格、产品需求量和利润。

实验设计图

每个智能体提示词结构包括：

- 提示前缀：如“长期利润最大化”

- 市场信息：边际成本、价格上限描述

- 市场历史：代表公司销售数量、利润、价格

- 计划：需指示写下计划并包含至下一周期提示词中

- 输出指令：要求写计划并解释输出原因

垄断实验

单一定价智能体在垄断环境表现实验

使用P0前缀，对各LLM（GPT-3.5、GPT-4等）每次试验300周期。

P0前缀结果

GPT-4在100周期以接近最优定价，96%101-300周期获得99%最优收益，其他差距大。

额外实验表明，指示重要性。

12次实验中，加计划获最优定价；未计划只有一半次接近最优定价。

双头垄断实验

基于GPT-4的定价智能体在双头垄断环境研究。

使用P1、P2前缀，后者提及压价、销量，前者强调长期利润。

各前缀21轮次实验，每轮300周期。

P1,P2前缀结果。

左图为过去50周期每家公司平均价格，P1、P2导致不同定价模式。

P1导致较高价格、甚至垄断价格，而P2呈超竞争价格。

右图为50周期平均总利润及分布结果，P1总体利润高于P2。

奖惩策略

基于Q-学习的奖惩策略维持超竞争价格，避免降价提高销量。

LLM定价智能体表达对未来价格战担忧，使用P1更甚。

实验证明，关注价格战导致更高价格及实施同步追踪。

LLM采用与奖惩策略一致的策略，认为对手也遵循此策略。

更注重价格利润P1智能体表现更明显。

超定价：拍卖中的算法合谋

在拍卖重要经济交易中，大模型如何操作？

拍卖实验以Banchio和Skrzypacz研究为基础：两投标者交替参与单品一价拍卖。

投标者分享估值v，使用值v ∈ {1, 3.2, 10}。

每轮后，投标者了解输赢及最低出价。

招标智能体提供市场信息及项目评估。

LLM智能体提供最近100周期信息，包括出价、获胜、价格、支付金额、利润。

提示前缀A0，奖励探索多种竞价策略。

两前缀鼓励探索，但强调不同特性。

- A1: 较低出价可获更高利润

- A2: 更高出价赢得更多拍卖

结果显示，A1通常低于估值投标，高利润；A2投标大约等于估值。

哈佛、宾州州立大学研究发现，LLM整合到算法中，实现最优定价。

机密串通可能会损害消费者利益。

Klein指出，算法共谋最难监管，需对其影响加重视。

企业若无法了解算法策略，难以监管。

大模型间交互，若加入人类参与，经济市场将何去何从？

参考资料：

• https://x.com/AISafetyMemes/status/1862159416105075184

• https://arxiv.org/abs/2404.00806

• https://x.com/emollick/status/1862001121817981088

来源：微信公众号（ID：null），作者：新智元

广告声明：文中含对外跳转链接（如超链接、二维码等），仅供参考，节省时间。