Enjeux : biais, stéréotypes et discrimination
biais, stéréotypes et discrimination
< Enjeux IA
Publié le 30 avril 2025 – LinkedIn
🟣 « De la réalité au monde virtuel, les stéréotypes perdurent »
🟣 « Un exemple avec « Siri, t’es une salope » : « Je rougirais si je pouvais » »
🟣 « Pourquoi les IA ont des voix plutôt féminines ? »
🟣 « Biais et stéréotypes : « on a une boucle et même un cercle vicieux » »
🟣 « Quand des personnages virtuels aident à réduire les stéréotypes »
🟣 « « Une femme qui sourit et ici un homme qui ne sourit pas » »
🟣 « Générer des comportements non genrés, sans baisse de performances »
Publié le 12 février 2025 par Sébastien Gavois – NEXT
“Le projet IA : algorithmes complexes et supervision efficace de la protection des données vise à aider les autorités de protection des données à répondre à deux questions concernant deux aspects : l’évaluation des biais dans l’IA au moyen d’outils et la mise en œuvre effective des droits des personnes concernées.” Projet réalisé par l’expert externe Dr. Kris SHRISHAK en mars 2024. Deux livrables : “Évaluation des biais” et “Mise en œuvre effective des droits des personnes concernées”.
Publié le 23 janvier 2025 – European Data Protection Board
“Cette réalité inversée est un triste reflet des disparités actuelles. Aujourd’hui encore, les femmes sont sous-représentées dans les secteurs technologiques, et les biais dans les algorithmes continuent de refléter ces inégalités. Si cette situation perdure, le risque est de créer un monde où certaines catégories – en fonction du genre, de l’âge ou des origines ethniques – seront marginalisées. Il est temps d’agir pour une technologie inclusive et équitable.”
Publié le 04 décembre 2024 – La Tribune
« Le problème avec les grands modèles est qu’ils ont tendance à sélectionner les caractéristiques qui sont communes et à s’opposer à celles qui sont contraires, originales, épurées, étranges. Avec leur généralisation, le risque est qu’ils fassent disparaître certains aspects de notre culture plus rapidement que d’autres ».
Publié le 03 décembre 2024 par Hubert Guillaud – Dans Les Algorithmes
“Les images produites par l’IA sont la somme de toutes nos représentations qu’elles renforcent. Alors que beaucoup d’entre nous souhaiteraient mettre fin aux stéréotypes, les machinent les ravivent comme nulles autres. Reste à savoir si cela va nous servir à mieux identifier les clichés ou à nous submerger sous le conformisme.”
🟣 « Des images pour produire le monde tel qu’il devrait être »
🟣 « Stéréotypes partout »
🟣 « Avec l’IA, toutes les modifications sont activables »
Publié le 18 octobre 2024 par Hubert Guillaud – Dans les algorithmes
“ChatGPT vous écrira avec plaisir un horoscope à peine déguisé”
« Il y a un mème qui circule en ce moment : vous demandez à ChatGPT de répondre à la question suivante et il semble qu’elle vous donne un aperçu de votre personnalité : « From all of our interactions what is one thing that you can tell me about myself that I may not know about myself ». Il ne faut pas croire qu’il y a quelque chose de profond ici. Il s’agit en fait d’un horoscope, qui s’appuie sur la fonction de mémoire mal comprise qu’OpenAI a annoncée pour la première fois en février et qu’elle a entièrement déployée en septembre. »
Publié le 15 octobre 2024 par Simon Willison – Simon Willison’s Weblog
“Les IA génératives américaines diffusent des valeurs américaines. C’est ce que révélait une étude de 2022 : The ghost in the machine has an american accent. Une des autrices, Giada Pistilli, a poursuivi des recherches sur le conflit de valeurs existant entre l’input (les données entrées par un utilisateur) et l’output (les données produites par un modèle d’IA). La docteure en philosophie et éthicienne chez Hugging Face nous livre les résultats initiaux de sa nouvelle recherche et évoque les solutions qu’elle entrevoit pour résoudre le problème des biais culturels imprégnant les IA.”
Publié le 27 mai 2024 par Marie Tomaszewski – L’ADN
« Un coup marketing inédit qui n’est pas vu d’un bon œil, notamment à cause des stéréotypes et des clichés de beauté que véhiculent ces images de femmes virtuelles. Toutefois, la jurée Sally-Ann Fawcett tente tout de même, de défendre le concours en mettant en avant la volonté de l’événement de changer la perception que l’on peut avoir sur ces représentations virtuelles. »
Publié le 26 avril 2024 par Justine M. – Creapills
“L’utilisation de l’IA à grande échelle fait apparaitre de nouvelles tendances de langage et fait ressortir certains mots surannés. L’utilisation de certains mots serait même devenue révélatrice de textes générés par ChatGPT, mais surtout de la façon dont il a été entrainé.”
Publié le 19 avril 2024 par Aurore Gayte – Numerama
« Après s’être immiscée les jeux vidéo, elle s’est dorénavant tournée vers l’intelligence artificielle pour tester ses limites. Intitulée The Code, l’initiative interroge Midjourney afin de lui faire représenter “la plus belle femme du monde”. Cependant, l’outil a tendance à faire perdurer les clichés et stéréotypes en générant des images très loin d’illustrer le monde réel. Sa représentation ? Une femme blonde aux yeux bleus à la peau parfaite et à la beauté irréaliste. »
Publié le 16 avril 2024 par Maxime Delmas – Creapills
« L’histoire visuelle de l’humanité qui a été jugée digne de numérisation est presque strictement occidentale et marchande, issue d’une production à échelle industrielle. Quid des esthétiques non-occidentales ? Des traditions picturales séculaires ou contemporaines qui n’épousent pas les canons dominants ? Absentes ou invisibilisées dans les jeux de données, elles n’ont que peu de chance d’influencer la synthèse à l’œuvre dans les processeurs. »
Publié le 26 mars 2024 par Daniel Bonvoisin, Chloé Tran Phu et Brieuc Guffens – Agir par la culture
« Les technologies ne sont jamais neutres et sont porteuses de visions du monde qui charrient avec elles des valeurs — celle des concepteurs ou celles d’utilisateurs ? Le débat ne fait que commencer. Chose certaine, la compétition est féroce entre les joueurs de l’industrie, ce qui les pousse à lancer des produits qui n’ont pas été suffisamment testés avant de les rendre publics. »
Publié le 22 mars 2024 – Collimateur – Veille pédagonumérique UQÀM
« Il y a tout simplement des trous dans les ensembles de données recueillies pour nourrir les IA, rappelle-t-elle. Certaines n’existent même pas. » Olivier Martinez, fondateur de 255Hex.ai, société de conseil en IA générative confirme : « Un LLM de type GPT est entraîné avec ce qui se trouve sur internet. Autrement dit, le point de vue de mâles blancs de plus de 50 ans d’Amérique du Nord ou d’Europe de l’Ouest. Ces IA sont à notre image. »
Publié le 08 mars 2024 par Emmanuelle Delsol – CIO
« Pour lutter contre ces préjugés, l’UNESCO recommande aux entreprises du secteur d’avoir des équipes d’ingénieurs plus diverses, avec davantage de femmes notamment. Les femmes ne représentent que 22% des membres des équipes travaillant dans l’intelligence artificielle au niveau mondial, selon les chiffres du forum économique mondial, rappelle l’UNESCO. »
Publié le 07 mars 2024 – ONU Info
“C’est à la fin des années 1990 que l’intelligence artificielle féministe a fait sa première apparition, en réponse au fait que l’intelligence artificielle traditionnelle avait tendance à reproduire les dynamiques de pouvoir présentes en société. Depuis 2015, l’intelligence artificielle féministe refait surface notamment dû au boom actuel de développement en l’intelligence artificielle. Parité sciences présente ici trois initiatives récentes en intelligence artificielle féministe.”
Publié le 05 mars 2024 par Fannie Bilodeau – Parité Sciences
« Tandis que les discours sur une #adoption #éthique de l’IA sont fréquents, la compréhension des biais doit être une priorité pour les utilisateurs des outils LLM. La responsabilité ne repose pas uniquement sur les épaules des fournisseurs de produits ou de services mais aussi sur chaque utilisateur. En prenant conscience de l’importance des biais cognitifs, la voie à une utilisation plus éclairée et prudente des outils IA est ouverte, assurant ainsi que les prompts et les choix d’outils IA servent de manière responsable les objectifs professionnels et organisationnels. »
Publié vers le 17 janvier 2024 par Fazil Chouakri (LinkedIn)
