易于访问的文本到图像生成如何放大刻板印象：一项大规模研究

近年来，文本到图像生成技术取得了显著进步，使得任何人都可以轻松地生成图像。然而，这项技术也引发了人们对其潜在社会影响的担忧，特别是关于其如何放大现有社会偏见和刻板印象的担忧。

由Federico Bianchi、Pratyusha Kalluri、Esin Durmus、Faisal Ladhak、Myra Cheng、Debora Nozza、Tatsunori Hashimoto、Dan Jurafsky、James Zou和Aylin Caliskan共同撰写的题为'易于访问的文本到图像生成在大规模上放大了人口统计学刻板印象'的论文对这一问题进行了深入探讨。该论文发表于arXiv预印本arXiv:2211.03759, 2022年。

研究重点:

研究人员调查了易于访问的文本到图像生成技术如何在大规模上放大与性别、种族和职业相关的人口统计学刻板印象。* 他们分析了由流行的文本到图像生成模型生成的数百万张图像，并发现这些模型经常再现和放大现有的社会偏见。* 研究结果表明，这些偏见可能会对人们对不同社会群体的看法和对待方式产生重大影响。

主要发现:

文本到图像生成模型更容易生成符合传统性别角色的图像，例如将女性描绘成家庭主妇，将男性描绘成商人。* 这些模型还倾向于将某些种族和族裔群体与特定的职业和社会经济地位联系起来，从而强化了有害的刻板印象。* 研究结果强调了在开发和部署文本到图像生成技术时解决潜在社会影响的重要性。

结论:

这项研究提供了一个及时的提醒，即即使是最先进的技术也可能延续和放大有害的社会偏见。作者呼吁在人工智能伦理和公平性方面进行更多研究，以减轻文本到图像生成和其他人工智能技术的潜在负面影响。

相关信息:

论文链接: https://arxiv.org/abs/2211.03759