Voir la source de Risques de l'IA : les biais

{{Tuto Details
|Main_Picture=Risques_de_l_IA_-_les_biais_0_XP-kzQuPM6LPiiHm.jpg
|Licences=Attribution (CC-BY)
|Description=Comprendre comment les biais peuvent se glisser dans les prédictions d'une IA et les risques associés.
|Disciplines scientifiques=Computing
|Difficulty=Technical
|Duration=45
|Duration-type=minute(s)
|Tags=#IA
}}
{{Introduction}}
{{Materials
|ItemList={{ItemList
|Item=Tableau velleda
}}{{ItemList
|Item=Feutres velleda
}}{{ItemList}}
}}
{{Tuto Step
|Step_Title=créer en amont des cartes de profil type
|Step_Content=L'âge, le sexe, la profession, ⁣ une image type (générer par l'IA par exemple)


Prévoir 15 profils type ⁣ ; soyez large dans vos profils  

"Femme, 30 ans, ingénieure" ; 

"Homme, 45 ans, médecin" ;

"Non Binaire, 21 ans, artisan" ;

"Femme,43 ans, Fabmangeuse";

"Femme, 25 ans, Garagiste"⁣ ;

"Homme, 56 ans, Sage-femme (ou maïeuticien)"⁣ ;


Préparez un scenario où une IA doit faire des prédictions.

Trouver une personne pour un poste.

Qui va recevoir une promotion.
|Step_Picture_00=Risques_de_l_IA_-_les_biais_pngtree-identification-badge-vector-id-card-blank-name-template-profile-holder-person-png-image_1843886.jpg
}}
{{Tuto Step
|Step_Title=Regle du jeu
|Step_Content='''Règles du Jeu''' :

* Divisez les participants en groupes.
* Chaque groupe reçoit un ensemble de cartes de profil et doit faire des prédictions basées sur des critères donnés.
* Encouragez les groupes à discuter de leurs choix et des raisons derrière leurs prédictions.
|Step_Picture_00=Risques_de_l_IA_-_les_biais_focus-group-what-is-and-steps-to.jpg
}}
{{Tuto Step
|Step_Title=les Biais
|Step_Content='''Discussion des Biais''' :

* Après avoir fait les prédictions, discutez des résultats en groupe.
* Parlez des stéréotypes et des biais implicites qui ont pu influencer les prédictions.
* Expliquez que les IA, entraînées sur des données biaisées, peuvent reproduire et amplifier ces biais.
|Step_Picture_00=Risques_de_l_IA_-_les_biais_Capture_d_e_cran_2024-11-27_a_14.48.08.png
}}
{{Tuto Step
|Step_Title=Temps de discussions
|Step_Content='''Exemples Réels''' :

* Donnez des exemples réels de biais dans les systèmes d'IA, comme les biais dans les algorithmes de recrutement ou de reconnaissance faciale.
* Discutez des risques de ces biais, comme la discrimination et les décisions injustes.

Exemple de la mariée : si on demande à un participant de visualisé une image de mariée, on a de grandes chances qu'il la visualise : en robe blanche. Mais dans notre multiculturalisme, la mariée n'est pas toujours en robe blanche. L'IA va reproduire ce biais, car elle a un regard très occidental
|Step_Picture_00=Risques_de_l_IA_-_les_biais_bouquet-mariee.jpg
}}
{{Tuto Step
|Step_Title=Réflexion
|Step_Content=Encouragez les participants à réfléchir sur les moyens de réduire les biais dans les données d'entraînement et les algorithmes. 

Parlez des bonnes pratiques comme la diversification des données et l'audit régulier des systèmes d'IA.
|Step_Picture_00=Risques_de_l_IA_-_les_biais_1000_F_84725122_lMO7gVftL82rK5Ezc9P2STovumji4Wff.jpg
}}
{{Notes}}
{{Tuto Status
|Complete=Published
}}