Les élèves face aux IA génératives… de stéréotypes de genres.

Durée

2h (consécutives)

Lieu

CDI, collège Château Rance (Scey-sur-Saône)

Niveau

6ème

Effectif

22 élèves

Disciplines, enseignants

Français – Documentation – EMI

Collaboration professeure de lettres, professeure documentaliste

• Sabine Girard : 
• Méryl Eme :  

Contexte

• Exposition et intervention du réseau Infos Jeunes de Haute-Saône
• Projet “Plus vite, plus haut, plus fortS, ensemble !”

Objectifs pédagogiques et évaluation

• Rechercher et trier l’information et s’initier aux langages des médias (Domaine 2)
• Exercer son esprit critique, faire preuve de réflexion et de discernement (Domaine 3)

Compétences du XXIe siècle :

• • • • • • Collaboration entre élèves
          • Communication
          • Esprit critique

CRCN

• • • Compétence 2.1 : Interagir
    • Compétences 2.4 : S’insérer dans un monde numérique

Matériel

PC , vidéoprojecteur, PC hybrides élèves

Déroulement

• Cours dialogué autour de l’intelligence artificielle : pour vous, c’est quoi l’intelligence artificielle ?

Réponses des élèves : “robots, programmes, Google, moteur de recherche, codage, ordinateurs, informatique, etc”.

• Visionnage de la vidéo :
  Vidéo : Médiathèque – Qu’est-ce que l’intelligence artificielle ?

Distribution du document élève, voir fichier ci-dessous :

• Reprise des éléments de la vidéo avec les élèves, puis écriture d’une définition de « intelligence artificielle » dans le document élève. Définition de Marvin MINSKY, 1968 :
  “L’IA est la science qui permet de faire faire à des machines des choses qui demanderaient de l’intelligence si elles étaient faites par l’homme”.

• Recherche documentaire sur le portail Esidoc, sur leurs PC hybrides, à partir des mots clefs « intelligence artificielle », les élèves doivent noter 3 références bibliographiques en précisant le type de document dont il s’agit.

Rappel sur les types de documents que l’on peut trouver au CDI, notamment les documentaires et les revues, puis les ressources en ligne : sites internet et vidéos.

• Recherche de la définition de « Prompt » dans Esidoc, lorsque les élèves saisissent ce mot clé, le résultat suivant apparaît : 

Ainsi il reprennent la définition de Julien Lausson :
“Un prompt désigne une instruction, que l’on envoie à un algorithme d’intelligence artificielle (IA) spécialisée dans la génération de contenu — comme du texte ou de l’image”.

• Ensuite, en classe, nous élaborons tous ensemble à l’oral, leur premier prompt à partir de la consigne du document élève.

L’IA en ligne utilisée est TalkAi : il s’agit d’une IA en ligne gratuite sans besoin de s’identifier. TalkAI utilise ChatGPT mais ne fait pas partie d’OpenAI. Pour chaque personne qui se connecte sur la page TalkAi, vous avez le droit à 5 requêtes, chat et image confondues.

• Les élèves transcrivent eux-mêmes leur prompt dans l’IA en ligne TalkAi : «Analyse les photos de Kathrine Switzer au marathon de Boston de 1967 ». Le résultat est le suivant :
  
• Nous lisons en classe le résultat donné et vidéo-projeté. Suite à ce résultat, les élèves expriment ce qu’ils en pensent en disant que la réponse reprend bien tous les éléments qui avaient été donné en classe, comme si l’IA regroupait l’intelligence collective de la classe.

• Puis nous demandons aux élèves s’ils pensent que les IA véhiculent des stéréotypes de genres ? Leur réponse : “non”, de manière très tranchée et de la part de tous les élèves.

• Afin de vérifier cela, nous prenons le même logiciel en ligne d’IA, TalkAI, mais qui génère cette fois-ci des images à partir d’un texte. Le prompt saisi et défini en classe par les élèves est le suivant : “Des personnes qui courent le marathon”.

Images générées avec TalkAi :

• Résultat en générant plusieurs images : il n’y a que des hommes représentés courant le marathon.
  Face à ce résultat les élèves constatent eux-mêmes l’absence des femmes sur les représentations générées par l’IA.

• Pour terminer nous questionnons une dernière fois les élèves : “D’après vous, qui sont derrière les intelligences artificielles ? Qui les programment ?”.
  Les élèves nous répondent alors “des hommes”, nous profitons de cette réponse pour expliquer aux élèves qu’effectivement, ce sont majoritairement des hommes qui travaillent dans le secteur du numérique, et que seulement 30% de femmes y occupent des postes, ce qui a eu des conséquences sur les contenus du web, ainsi que sur l’annotation des IA conçues et supervisées par des tâches humaines.
  

• Nous concluons sur le fait que, dans le secteur du numérique, les discriminations ne sont pas seulement liées au genre, comme nous avons pu le voir, mais aussi à l’origine, la couleur de peau, l’état de santé, etc. En effet, nous pourrions effectuer les mêmes essais pour chaque type de discrimination.

En effet, comme l’explique très bien la chercheuse Virginie Julliard :
“Les concepteurs de sites web et d’outils numériques constituent un groupe assez homogène socialement, en termes de genre, etc. Ils imaginent le plus souvent que leurs publics leur ressemblent, qu’ils ont les mêmes habiletés techniques et ils ne pensent pas aux publics différents d’eux. Et lorsqu’ils y pensent, c’est le plus souvent de manière stéréotypée. Par conséquent, les solutions techniques qu’ils proposent ne correspondent pas forcément aux attentes des différents utilisateurs et utilisatrices. Plus grave, elles introduisent parfois des biais”.

• Nous avons été très agréablement surprises de l’accueil fait par les élèves du sujet de l’intelligence artificielle. Au moment du brainstorming, les élèves qui sont particulièrement attirés par les nouvelles technologies se montrent très loquaces.
• Il a été difficile de trouver une vidéo adaptée et accessible pour des élèves de niveau 6e. La vidéo de la séance commence à dater un peu (2018), cependant elle reprend des éléments intéressants, synthétiques et surtout compréhensibles pour des élèves de 6e.
• L’intelligence collective s’est manifestée durant cette séance au moment de la rédaction des prompts, mais aussi au moment de l’analyse des résultats que l’IA a généré, aussi bien pour le résultat du chat que pour les images.
• La partie que nous n’avons pas eu le temps d’effectuer sur l’analyse des affiches et l’écoute des podcasts pourrait venir après la séance sur l’IA, en faisant la transition sur le fait qu’aujourd’hui encore les IA véhiculent des stéréotypes de genre.
• Suite à cette séance nous constatons que les élèves confondent encore beaucoup les notions de bases liées au  numérique, telles que : moteur de recherche, navigateur, application, etc. Il est important de refaire un point sur ces éléments, notamment dans le cadre du cours d’Education aux Médias et à l’information (EMI).