Quand l’intelligence artificielle rencontre les inégalités raciales
Cet article analyse l’intersection entre l’intelligence artificielle (IA) et les pratiques de marginalisation raciale, en se concentrant particulièrement sur l’expérience des Afro-Américains aux États-Unis. Il montre comment la dialectique de l’hypervisibilité et de l’invisibilité de la race se manifeste dans les systèmes d’IA, avec des conséquences importantes pour la démocratie et l’égalité. L’auteur s’appuie sur la théorie de la formation raciale pour comprendre comment les stéréotypes raciaux sont intégrés dans les algorithmes, avec des impacts potentiellement dommageables pour les populations marginalisées.
Points clés
- L’intersection entre l’IA et la race est un enjeu central pour comprendre l’avenir de la démocratie
- L’IA est de plus en plus présente dans de nombreux secteurs clés de la société
- Mais les systèmes d’IA reproduisent souvent les stéréotypes et les pratiques de marginalisation raciale existantes
- La race fonctionne de manière particulière, étant à la fois hypervisible (par les traits physiques) et invisible (dans les structures)
- Cette dialectique de la visibilité raciale pose problème pour une démocratie égalitaire
- Les populations les plus touchées sont les personnes de couleur, en particulier les individus à la peau plus foncée
À retenir
Face à ces constats alarmants, il est clair que le développement de l’IA doit impérativement s’accompagner d’une réflexion approfondie sur ses impacts en termes d’inégalités raciales. Sinon, on risque de voir se perpétuer, voire s’aggraver, les discriminations et les injustices dont souffrent déjà les populations marginalisées. Bien que les solutions ne soient pas simples, il est grand temps que la technologie serve l’égalité et la justice sociale, plutôt que de renforcer les schémas existants.
Sources
