对抗人工智能中的性别偏见:挑战和解决方案
文章“人工智能与性别平等”,由联合国妇女署出版,对性别偏见进行了批判性分析 人工智能 (IA)。文本强调了社会不平等如何反映在该技术的开发和使用中。
一个关键点是在人工智能系统的创建和培训中缺乏女性代表。 文章引用的研究表明,该领域的专业人士中只有 30% 是女性。这种缺乏反映了在多个系统中观察到的性别偏见,例如艺术家 Beyza Doğuç 所报告的,他在使用人工智能生成内容时, 注意到医生与男性的自动关联,护士与女性的自动关联.
另一个令人担忧的因素是用于训练人工智能的数据的质量。 男性数据的主导地位和种族多样性的缺乏强化了刻板印象,并限制了人工智能处理不同现实的能力。所引用的女性医疗诊断不准确的案例说明了性别偏见如何产生负面后果。
文章指出了缓解该问题的方法。 投资女孩和妇女的 STEM 教育是提高女性参与人工智能开发的关键。同样,有必要优先将代表不同性别和种族的数据纳入系统培训。
最后,本文为人工智能全球治理机制的创建进行了辩护。目标是降低风险、遏制歧视性偏见并确保技术有助于性别平等。 2024 年全球数字契约(GDC)的谈判被视为建立纳入性别观点的监管框架的机会。
简而言之, 联合国妇女署的文章警告人工智能中存在性别偏见的风险,并提出促进该技术的发展和公平使用的解决方案。女性参与代表性数据的创建和使用对于确保人工智能成为平等工具而不是延续现有的不平等至关重要。
阅读:
本帖子最后修改于 25 年 2024 月 23 日 09:XNUMX