(Page créée avec « {{Tuto Details |Main_Picture=Risques_de_l_IA_-_les_biais_0_XP-kzQuPM6LPiiHm.jpg |Licences=Attribution (CC-BY) |Description=Comprendre comment les biais peuvent se glisser... ») |
|||
| (Une révision intermédiaire par le même utilisateur non affichée) | |||
| Ligne 2 : | Ligne 2 : | ||
|Main_Picture=Risques_de_l_IA_-_les_biais_0_XP-kzQuPM6LPiiHm.jpg | |Main_Picture=Risques_de_l_IA_-_les_biais_0_XP-kzQuPM6LPiiHm.jpg | ||
|Licences=Attribution (CC-BY) | |Licences=Attribution (CC-BY) | ||
| − | |Description=Comprendre comment les biais peuvent se glisser dans les prédictions d'une IA et les risques associés. | + | |Description=(Animation 4 ) |
| + | Comprendre comment les biais peuvent se glisser dans les prédictions d'une IA et les risques associés. | ||
|Disciplines scientifiques=Computing | |Disciplines scientifiques=Computing | ||
|Difficulty=Technical | |Difficulty=Technical | ||
| Ligne 22 : | Ligne 23 : | ||
| − | Prévoir 15 profils type ; soyez large dans vos profils | + | Prévoir 15 profils type ; soyez large dans vos profils |
"Femme, 30 ans, ingénieure" ; | "Femme, 30 ans, ingénieure" ; | ||
| − | "Homme, 45 ans, médecin"; | + | "Homme, 45 ans, médecin" ; |
| − | "Non Binaire, 21, artisan"; | + | "Non Binaire, 21 ans, artisan" ; |
| + | |||
| + | "Femme,43 ans, Fabmangeuse"; | ||
| + | |||
| + | "Femme, 25 ans, Garagiste" ; | ||
| + | |||
| + | "Homme, 56 ans, Sage-femme (ou maïeuticien)" ; | ||
Préparez un scenario où une IA doit faire des prédictions. | Préparez un scenario où une IA doit faire des prédictions. | ||
| − | + | Trouver une personne pour un poste. | |
Qui va recevoir une promotion. | Qui va recevoir une promotion. | ||
Version actuelle datée du 27 novembre 2024 à 15:13
(Animation 4 )
Comprendre comment les biais peuvent se glisser dans les prédictions d'une IA et les risques associés.
Difficulté
Technique
Durée
45 minute(s)
Disciplines scientifiques
Informatique
- IA
- Matériel et outils
Tableau velleda
[[File:]]
Tableau blanc
Feutres velleda
[[File:]]
Feutres effaçables
Étape 1 - créer en amont des cartes de profil type
L'âge, le sexe, la profession, une image type (générer par l'IA par exemple)
Prévoir 15 profils type ; soyez large dans vos profils
"Femme, 30 ans, ingénieure" ;
"Homme, 45 ans, médecin" ;
"Non Binaire, 21 ans, artisan" ;
"Femme,43 ans, Fabmangeuse";
"Femme, 25 ans, Garagiste" ;
"Homme, 56 ans, Sage-femme (ou maïeuticien)" ;
Préparez un scenario où une IA doit faire des prédictions.
Trouver une personne pour un poste.
Qui va recevoir une promotion.
Étape 2 - Regle du jeu
Règles du Jeu :
- Divisez les participants en groupes.
- Chaque groupe reçoit un ensemble de cartes de profil et doit faire des prédictions basées sur des critères donnés.
- Encouragez les groupes à discuter de leurs choix et des raisons derrière leurs prédictions.
Étape 3 - les Biais
Discussion des Biais :
- Après avoir fait les prédictions, discutez des résultats en groupe.
- Parlez des stéréotypes et des biais implicites qui ont pu influencer les prédictions.
- Expliquez que les IA, entraînées sur des données biaisées, peuvent reproduire et amplifier ces biais.
Étape 4 - Temps de discussions
Exemples Réels :
- Donnez des exemples réels de biais dans les systèmes d'IA, comme les biais dans les algorithmes de recrutement ou de reconnaissance faciale.
- Discutez des risques de ces biais, comme la discrimination et les décisions injustes.
Exemple de la mariée : si on demande à un participant de visualisé une image de mariée, on a de grandes chances qu'il la visualise : en robe blanche. Mais dans notre multiculturalisme, la mariée n'est pas toujours en robe blanche. L'IA va reproduire ce biais, car elle a un regard très occidental
Étape 5 - Réflexion
Encouragez les participants à réfléchir sur les moyens de réduire les biais dans les données d'entraînement et les algorithmes.
Parlez des bonnes pratiques comme la diversification des données et l'audit régulier des systèmes d'IA.
Dernière modification 27/11/2024 par user:Nadialb.
Published