TL;DR : l’intelligence artificielle et la représentation queer
- L’IA générative peine à représenter fidèlement la diversité de la communauté LGBTQ.
- Les stéréotypes prédominent dans les images générées, renforçant les clichés.
- Des initiatives émergent pour améliorer la situation, mais les défis demeurent importants.
- La qualité des outils d’IA s’améliore, mais la représentation reste imparfaite.
Comment l’IA générative représente-t-elle les personnes queer ?
San Francisco est à la fois un centre d’innovation en IA et l’une des villes les plus queer des États-Unis.
Au cœur de cette intersection, les personnes queer contribuent activement à la révolution de l’IA. Spencer Kaplan, anthropologue et doctorant à Yale, se penche sur les développeurs d’outils génératifs. Sam Altman, PDG d’OpenAI et membre de la communauté LGBTQ, a célébré son mariage l’année dernière. Des groupes tels que Queer in AI, fondé en 2017, offrent des espaces de connexion pour la communauté LGBTQ dans le domaine de l’IA.
Pour plus de détails sur cette intersection entre IA et représentation LGBTQ, consultez cet article de Wired.
Quelle est la divergence entre l’intérêt des personnes queer pour l’IA et leur représentation par ces outils ?
Les outils d’IA tels que les générateurs d’images et de vidéos répondent souvent avec des représentations stéréotypées de la culture LGBTQ.
Les images générées tendent à présenter une version simplifiée et blanchie de la vie queer, avec des femmes lesbiennes arborant des anneaux de nez et des expressions sévères, des hommes gays comme des fashionistas aux abdominaux parfaits, et des représentations de base des femmes trans hypersexualisées.
Quelles sont les conséquences des données utilisées pour entraîner les algorithmes d’apprentissage automatique ?
Les données, principalement collectées en grattant le web, renforcent les stéréotypes existants, tels que les hommes gays apparaissant efféminés et les femmes lesbiennes apparaissant masculines.
Les utilisateurs peuvent ainsi rencontrer des problèmes et des biais lors de la génération d’images d’autres groupes minoritaires.
Comment les outils d’IA échouent-ils à dépeindre les personnes transgenres de manière réaliste ?
Les images générées par les outils d’IA ne reflètent pas fidèlement l’apparence des personnes transgenres. Un exemple notable est celui d’un homme trans en tant que représentant élu présenté de manière non conforme à la réalité.
Quelles stratégies sont envisageables pour améliorer les outils d’IA générative et rendre les résultats plus conformes à la réalité des personnes queer ?
Pour améliorer les résultats, il est envisageable de développer des algorithmes avec des données bien étiquetées représentant diverses personnes LGBTQ, d’ajouter des garde-fous et de modifier les invites des utilisateurs pour encourager l’inclusivité. OpenAI a déjà modifié une invite pour inclure des détails sur le genre, la race et le contexte.
Quels sont les défis de la représentation algorithmique de l’existence humaine fluide ?
Les outils d’IA risquent de mal représenter les groupes minoritaires et de restreindre la perception que les personnes queer ont d’elles-mêmes. Les stéréotypes amplifiés par l’IA peuvent avoir des conséquences négatives.
Quelles améliorations récentes ont été observées dans les aspects de l’IA générative ?
Il y a eu une amélioration notable de la qualité des images et des vidéos générées par IA, avec des exemples de clips vidéo générés par le modèle Sora d’OpenAI présentant des résultats impressionnants mais imparfaits.
Quels sont les retours de la communauté Queer in AI sur les clips vidéo générés par l’IA ?
La communauté Queer in AI a exprimé des inquiétudes concernant la définition de la diversité par Sora, la représentation des personnes queer âgées, de grande taille ou ayant des handicaps visibles, et le contrôle des représentations de soi par les outils d’IA à l’avenir.
