谷歌称其 PaliGemma 2 人工智能模型可识别情绪，引发专家担忧

据称谷歌新的人工智能模型系列具备能够“识别”情绪的功能。

谷歌发布了最新的 AI 模型系列PaliGemma 2，拥有图像分析能力，并能够生成图像描述和回答照片中人物相关问题。PaliGemma 2 能够识别物体，并生成在上下文中详细相关的图像描述，包括动作、情感以及整体场景的叙述。

PaliGemma 2 的情感识别功能需要进行专门的微调，专家对此表示担忧。

多年来，许多科技公司一直在尝试开发能够识别情感的AI。大多数情感识别系统都基于心理学家Paul Ekman的理论，认为人类有六种基本情绪。然而，来自不同文化背景的人们在表达情感时存在显著差异，这使得情感识别的普遍性受到质疑。

伦敦国王学院的研究员Mike Cook认为，情感识别在一般情况下是不可行的，因为人类的情感体验非常复杂。

情感识别系统存在可靠性和偏见问题。研究表明，面部分析模型可能会对某些表情产生偏好，而最近的研究则表明情感分析模型对黑人面孔的负面情绪判断比白人面孔更多。

谷歌表示，PaliGemma 2在经过广泛测试后，在人群偏见方面表现良好。然而，一些研究者批评FairFace存在偏见，认为该数据集仅代表少数几种族群。

AI Now研究所的Heidy Khlaaf表示，解读情绪是一件相当主观的事情，需要考虑个人和文化背景。

欧盟的《人工智能法案》禁止学校和雇主部署情感识别系统，但允许执法机构使用。

Khlaaf表示，如果情感识别是建立在伪科学假设基础上的，这种能力可能会被用来进一步歧视边缘化群体。

谷歌表示，公司对PaliGemma 2 的“表征危害”测试充满信心，并进行了广泛的伦理和安全评估。

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考。