Citoyens prenez le pouvoir

Au même titre que le moteur de recherche à été une révolution dans l'accès aux ressources d'internet, ou la connectivité permanente fournie par les smartphone dans notre relation aux savoirs, un outil comme ChatGPT et tous les dérivés qui sont en train d'émerger, va nous faire franchir une nouvelle étape dans notre relation à l'information.

En quelques semaines, tous les élèves et étudiants ont pris conscience du potentiel de cet outil dans leur travail scolaire. Voici pour moi les impacts immédiats sur ma pratique d'enseignant.

Accès internet permanent

J'ai choisi de laisser accès en permanence à mes élève un accès à internet, que ce soit sur les ordinateurs de la classe, sur leur tablette fourni par la Région ou sur leur smartphone (oui ils peuvent utiliser leur téléphone dans ma classe, tant que c'est en rapport avec le sujet du cours). Les élèves accèdent donc à internet même pendant que je fait cours pour parfois me corriger ou compléter mes propos. Autant vous dire qu'il vaut mieux être humble, si on veut conserver sa crédibilité

Du coup, il n'y a aucune barrière à l'utilisation de ChatGPT en classe. Les élèves s'en servent comme une ressource, comme ils le faisaient précédemment avec les moteurs de recherche, sauf que cet outil leur épargne l'étape de synthèse des résultats d'une recherche et c'est là que cela change la donne, car une bonne partie du job de l'enseignant consiste à transmettre aux élèves la capacité à synthétiser les savoirs et à les réinvestir. Si on supprime l'étape de synthèse, sera-t-il encore possible d'enseigner le reste ?

Les moteurs de recherche ont préparé le terrain

Les élèves utilisent mal les moteurs de recherche en classe, même après leur avoir fait un cours sur le sujet. Ils sont rares à extraire les mots clés d'un sujet et se contentent de recopier une question en langage naturel. De plus ils considère que les 2 premières réponses sont valides et n'utilisent que rarement leur esprit critique, qu'il ont par ailleurs, sur la pertinence des réponses. Il y a une confiance candide dans les réponses des moteurs de recherche qui est effrayante.

D’ailleurs, les moteurs de recherche l'ont bien compris et ont tous, depuis longtemps déjà, ajouté des IA pour "traduire" les questions des internautes. Il devient quasi impossible de faire une recherche par mots clé dans les grands moteurs de recherche généralistes, qui mélangent reformulation et algorithme de suggestion ou publicitaires, afin de pousser les réponses qu'ils jugent pertinentes. Mon cours sur les moteurs de recherche censé apprendre aux élève à utiliser la recherche avancée, qui date de 2 ans seulement, est déjà obsolète et ne fonctionne plus.

Les élèves (et donc les gens en général) ont pris l'habitude que leurs recherches dans les moteurs soit reformulées par des IA, qui sur les sujets simples, fournissent déjà des réponses synthétiques extraites des résultats de la recherche. Le petit encart à droite qui donne la réponse la plus probable, les premiers liens vers la publicité en rapport et les 2 premiers résultats de la recherche. Qui va chercher plus loin ?

Super moteur de recherche

ChatGPT est donc perçu tout naturellement comme une évolution des moteurs de recherche. Il n'extrait plus une réponse qui semble pertinente, il la fabrique. Il supprime le besoin de faire une synthèse des résultats d'une recherche, ce que les enseignants attendent des élèves, et fournis directement une synthèse. Une seule réponse qui est la digestion de ce qui se trouve sur le net.

La nature humaine étant ce qu'elle est, une seule réponse, c'est beaucoup moins d'effort, donc elle est adoptée, d'autant plus qu'elle est formulée en langage naturel, ce qui facilite son adoption. Faire travailler l'esprit de synthèse aux élèves et prendre du recul sur un sujet va devenir une gageure.

Quid de la pertinence ?

Sauf qu'au même titre que les réponses que l'on trouve sur internet ne sont pas forcément justes, rien, absolument rien ne garantie que les réponse de ChatGPT sont justes. C'est avant tout un outil conversationnel, c'est à dire qu'il utilise des algorithmes et des corrélations à partir de sa base de connaissance, pour construire des réponses structurées et cohérentes. Il excelle dans ce qui s'appuie sur l'existant, et peut proposer des corrélations intéressantes, mais sa logique peut être fausse et ses propos cohérents mais pas forcément vrais.

Droits d'auteur

Pas grand monde en cause, mais les IA posent des problèmes ardus en matière de droits d'auteur. Déjà que les élèves ont du mal à comprendre le concept, ce n'est pas avec ces nouveaux outils qui font du remix industriellement que l'on va les aider à comprendre.

A lire sur le sujet Wikimedia analyse les enjeux de droits d’auteur posés par ChatGPT et l'article publié par la fondation Wikimedia (en anglais) Wikilegal/Copyright Analysis of ChatGPT. Cela mérite un billet rien que sur le sujet.

Tendance

Je vois des élèves se désespérer que ChatGPT ne leur fournissent pas une réponse aux problèmes posés par le travail qu'ils ont à faire, et qui abandonnent au lieu de chercher à acquérir l'expertise requise pour résoudre le problème. Le copier/coller continue à faire des ravages, que ce soit de solutions trouvées grâce à un moteur de recherche, ou générée par une IA.

Encore trop d'élèves ne comprennent pas que les enseignants attendent qu'ils digèrent l'information, l'analyse, pour pouvoir l'utiliser dans d'autres contextes, et donc l'enrichir et la mettre en perspective, et pas simplement la restituent, ce que n'importe quel moteur de recherche ou IA peut faire.

Il me semble qu'il va y avoir un agrandissement du fossé entre ceux formés à l'analyse et ceux qui se contente d'analyses produites par d'autres (hier les média, demain les IA). La généralisation d'IA dans tous les secteurs va conduire à un appauvrissement des compétences analytiques et un risque majeur de manipulation. Car une fois que les humains délégueront la démarche analytique aux IA et auront perdus pour la plupart la capacité ou l’entraînement à les faire, l'altération des algorithmes pourra se faire de manière invisible.

Les aides pour trouver l'information, les aides à la décision, les suggestions liées aux habitudes... tous ces domaines dans lesquels les IA vont exceller, fonctionneront sans réel contrôle. Des hackers pourront altérer le fonctionnement de ces IA sans que cela ne soit visible. Aujourd'hui les démocraties sont en train d'être hackées par les gouvernement illibéraux en jouant avec les algorithmes des réseaux sociaux. Demain, ce sera encore plus facile, il suffira de changer les paramètres des IA dans lesquelles nous baignerons.

On fait quoi alors ?

L'avenir est à la redondance, avec des IA qui contrôlent des humains, des humains qui contrôlent des IA et des IA qui contrôlent des IA. Il faut aussi que les états soient en capacité de surveiller les usages des IA avec des obligation de transparence :

• Tout ce qui provient des IA doit être identifié comme tel, avec un mécanisme de contournement. Par exemple une recherche enrichie par IA, devrait pouvoir être faite sans l'aide de l'IA.
• Le processus d'accompagnement par une IA devrait pouvoir être décortiquer pour apprécier la pertinence de cet accompagnement, notamment pour tout ce qui est aide à la décision, afin de permettre une reprise en main manuelle sur tout ou partie du processus.
• Il va falloir former massivement et en urgence les citoyens et les décideurs, pour qu'ils soient exigeants et ne se fasse pas manipuler.

En lisant ceci, je suppose que vous vous dites comme moi, que c'est très utopique. Mais vous, vous voyez quoi comme piste pour que ces outils deviennent plus un bénéfice qu'un risque ?

Image générée par nightcafe.studio pour les mots clés "artificial intelligence school"

Et voilà, moi aussi je sombre dans la folie ChatGPT. Ce truc a de quoi rendre dingue.

Comme j'étais en train d'écrire un cours d'introduction sur l'intelligence artificielle pour mes élèves de seconde (j'en ferais un billet si j'arrive au bout), il fallait bien tester le bouzin à la mode. J'aurais pu faire comme mes élèves de BTS qui lui demandent de leur pisser leur code en C, ou chercher à lui poser des pièges comme certains font (et il tombe facilement dedans), mais il m'a semblé plus pertinent de l'utiliser pour ce pour quoi il est conçu, la conversation.

C'est un peu verbeux, mais c'est impressionnant pour une machine d'obtenir ce niveau de langage et cette capacité à synthétiser des informations (la version 4 fait encore mieux semble-t-il).

Mes questions sont dans les encarts, et le texte correspond aux réponses de ChatGPT version du 14 Mars (je crois que c'est la version 3.5).

Pour ceux qui ont la flemme de tout lire, je lui ai demandé de faire un résumer à la fin. Et pour les encore plus flemmards, j'ai utilisé une autre IA pour générer une vidéo de la synthèse avec une voix de synthèse qui lit le texte et qui a choisi toute seule les vidéos d'accompagnement du texte dans sa banque de vidéo en rapport avec le sujet (on peut faire mieux si on y passe du temps, mais ce n'est pas le but ici).