YT YouTube2Text

YouTube2Text → Transcripts → L'IA, UNE AMIE QUI NOUS VEUT DU BIEN : Rencontre avec Albert Moukheiber

L'IA, UNE AMIE QUI NOUS VEUT DU BIEN : Rencontre avec Albert Moukheiber — Transcript

by Festival De l'écrit à l'écran · 16,048 words · 2,676 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:01Bonjour.
0:05J'espère que tout le monde
0:07bien.
0:09Non.
0:11On va essayer de faire en sorte que ça
0:12aille mieux.
0:14Euh
0:15Je m'appelle Albert Moukheiber, je suis
0:16docteur en neurosciences et psychologue.
0:19Aujourd'hui, on va parler un peu
0:20d'intelligence artificielle.
0:22Euh
0:24J'en ai pour peut-être
0:271h, un truc comme ça. Et après, on fera
0:29des questions-réponses. Si en cours de
0:32route, vous avez des questions, euh
0:34n'hésitez pas à m'interrompre.
0:36Je sais, c'est un peu risqué, mais
0:38j'aime bien ça.
0:39Euh
0:41Si vous avez des questions donc qui sont
0:42liées à ce que je suis en train de me
0:43dire,
0:44interrompez-moi. Si vous avez des
0:45questions plus générales,
0:47euh
0:49gardez-les pour la fin.
0:51J'espère que ça va être intéressant pour
0:52vous. On va parler de pas mal de choses.
0:55Euh on va pas
0:56on va pas parler de la technologie de
0:58l'IA.
0:59Je suis docteur en neurosciences et
1:00psychologue, je suis pas ingénieur.
1:02Euh mais vous allez voir que
1:04euh l'histoire de l'IA et l'histoire des
1:06sciences du cerveau sont pas mal
1:09imbriquées.
1:10Et donc, [grognement] on va commencer
1:11par
1:13un bref historique de comment on a
1:15essayé de comprendre le cerveau.
1:18Et petit à petit, on va faire notre
1:20cheminement
1:21euh jusqu'à l'IA.
1:25Il faut savoir que le cerveau est un
1:26truc un peu particulier, un organe un
1:28peu particulier, c'est que pendant
1:30longtemps, on pouvait pas vraiment
1:31l'étudier.
1:33Euh le cerveau, pour ceux et celles qui
1:34le savent pas, fonctionne sur des
1:37principes euh
1:39électrochimiques.
1:40Et donc, avant la découverte
1:42de l'électricité et de la chimie, on
1:44avait pas vraiment de moyen de
1:47même commencer à le comprendre. Mais ça
1:49nous a pas empêchés
1:51euh d'avoir des hypothèses.
1:53Et vu que notre esprit semble être
1:55quelque chose de très compliqué,
1:57ce qu'on a fait, c'est que on a souvent
1:59comparé
2:00le fonctionnement du cerveau à la
2:02technologie la plus récente de chaque
2:04époque.
2:05C'est
2:07vraiment une sorte de fonctionnement par
2:08analogie assez simple. Donc pendant
2:10l'Antiquité,
2:11c'était vraiment des croyances
2:14de Dieu.
2:15On disait "Bah, on fonctionne parce que
2:17Dieu nous a créé un peu à son image."
2:19Donc
2:20la technologie la plus avancée, c'était
2:22les dieux. À partir de
2:27-1400
2:29Non, pardon. -300 à l'an 1400, la
2:32technologie la plus récente était aussi,
2:35surprenant que ça puisse être, l'énergie
2:36hydraulique.
2:38Et donc on pensait que le corps
2:39fonctionnait avec des liquides. Je sais
2:40pas si vous avez déjà entendu parler de
2:41la théorie de l'hum des humeurs, qu'on a
2:44quatre liquides un peu différents, le
2:46sang, la bile et cetera et le flegme.
2:50Et que ces
2:51liquides sont ceux qui font fonctionner
2:53notre corps et donc aussi notre esprit.
2:55À partir du 16e et 17e siècle, on
2:58commence à pouvoir faire de l'ingénierie
3:00assez avancée et on commence à créer les
3:03premiers automates. Donc on peut faire
3:04de des rouages avec la maîtrise du fer
3:07d'une manière plus développée et on se
3:09dit "Bah, notre cerveau et notre corps
3:11fonctionne un peu comme ces automates."
3:13Si un jour vous avez l'opportunité
3:15d'être au Musée des Arts et Métiers à
3:17Paris, vous pouvez aller voir les
3:18automates, c'est assez impressionnant
3:20euh
3:21la minutie avec laquelle ils pouvaient
3:24construire ce petit truc. Par exemple,
3:25là c'est un automate qui écrit et par
3:28exemple, ça c'est un diagramme de
3:29Descartes qui disait "Bah, pour voir, il
3:30y a des des des
3:32des sortes de fils qui envoient des
3:34signaux à travers des petits rouages
3:36qu'on arrive pas encore à voir et que le
3:37cerveau suivait aussi euh ce
3:40ce fonctionnement de de de rouage.
3:43Donc un fonctionnement purement
3:45mécanique. Par exemple, Descartes disait
3:47que quand on a mal, il y a une sorte de
3:49fil qui est tiré et ça fait gling gling
3:51gling un peu dans notre cerveau et on
3:52dit aïe. Euh
3:55A partir du 10e siècle, on découvre
3:57l'électricité. Une grosse découverte
3:59parce que quand on découvre
4:00l'électricité, on peut s'approcher un
4:02peu plus du fonctionnement des neurones.
4:03Donc on savait qu'il y avait des
4:04neurones mais on ignorait un peu comment
4:06ça marchait. Là, on peut commencer à
4:08planter des électrodes dans des
4:09neurones, mesurer leur potentiel
4:11d'action et cetera. Et en même temps, on
4:13commence à utiliser l'électricité pour
4:14la communication.
4:16Et donc on se dit bah on peut faire de
4:17la communication avec l'électricité, le
4:19cerveau fait de l'électricité,
4:20probablement que le cerveau fait de la
4:21communication avec l'électricité un peu
4:23comme nous on fait avec le code morse.
4:26Euh pour ceux qui connaissent pas le
4:27code morse, c'est des sortes de signaux
4:30électriques qu'on envoyait sur de très
4:32longues distances. Il y a une sorte
4:33d'alphabet, on pouvait faire soit des
4:34tit soit des tat. Donc soit une pulsion
4:37électrique courte, un tit, soit une
4:38pulsion électrique longue, un tat. Et on
4:41avait fait tout l'alphabet et donc on
4:42envoyait des messages genre tit tit tit
4:43tat tat tat tat tit.
4:45Et on disait bah le cerveau fait des tit
4:46tit tit tat tat un peu comme euh le code
4:49morse, il faut juste qu'on arrive à
4:50décoder
4:51son signal.
4:54Ça a pas très bien marché. Et au et donc
4:57toutes ces hypothèses, toutes ces
4:58analogies que je vous ai montrées,
5:00c'était vraiment encore une fois le
5:01cerveau qui comparait la technologie la
5:02plus récente et à chaque fois c'était
5:05faux.
5:06Et il y a un chercheur qui dit le
5:07fonctionnement du cerveau est un
5:09cimetière d'analogies et de fausses
5:11métaphores.
5:12Mais à partir des années 1930-1940,
5:16on a les premiers ordinateurs.
5:18Et les ordinateurs,
5:20l'analogie commence à être un peu
5:21troublante. Si vous avez déjà vu un un
5:24grand ordinateur ouvert, je sais pas si
5:27vous avez déjà eu l'opportunité, mais ça
5:29ressemble à ça un peu à l'intérieur. Et
5:31l'ordinateur a pas mal de fonctions
5:33qu'on retrouve dans notre corps et dans
5:35notre cerveau. Par exemple, on a une
5:37mémoire à long terme, l'ordinateur a un
5:39disque dur, on a une mémoire à court
5:41terme, l'ordinateur a une mémoire vive.
5:43Euh on régule notre température avec la
5:46sueur, l'ordinateur régule sa
5:47température avec le ventilateur. On a
5:50besoin de s'alimenter, l'ordinateur a
5:52une bouche d'alimentation. On se disait
5:54bah, là OK, les analogies étaient un peu
5:58faibles mais
5:59là, on commence à s'approcher d'un truc
6:00assez
6:02bizarre.
6:04L'ordinateur traite de l'information,
6:05notre cerveau semble traiter de
6:06l'information.
6:08Mais petit à petit, on réalise que ça
6:10marche pas. On trouve pas de disque dur
6:12dans notre cerveau, on trouve pas de
6:15RAM. Euh mais on se dit OK, le truc, il
6:17faut lâcher l'affaire mais un chercheur
6:20qui s'appelle Shannon
6:21va développer un cas théorique qui va un
6:23peu changer toute la donne, qui
6:24s'appelle la théorie de l'information.
6:26Il dit l'information, c'est quelque
6:29chose qui semble être centrale dans
6:30l'univers et c'est vrai que l'ordinateur
6:33ne fonctionne pas comme un cerveau mais
6:34les deux font des opérations similaires.
6:36Ça a donné naissance, enfin ça va
6:38continuer
6:39un cadre philosophique qui s'appelle le
6:41fonctionnalisme qui dit bah si deux
6:42fonctions se ressemblent, on peut penser
6:44à des des aliments, des implémentations
6:46similaires. Et ça, ça va donner
6:48naissance à une nouvelle science qui
6:50s'appelle les sciences cognitives.
6:52Les sciences cognitives, c'est un
6:54constat qu'on a dû faire dans les années
6:5640-50 où on s'est dit OK, le cerveau, ça
6:59fonctionne avec l'électricité, on arrive
7:01à mesurer les neurones mais on ne sait
7:03pas du tout comment on mesure un cerveau
7:05sain. Donc on est il y a pas encore
7:06d'imagerie cérébrale, il y a pas d'IRM,
7:08il y a pas de scanner, il y a rien de
7:10toutes ces technologies. Quand on veut
7:12comprendre comment que fait le cerveau,
7:14il faut attendre soit que les gens aient
7:15des tumeurs et voir quelles fonctions
7:16est-ce qu'elles perdent et quand elles
7:17meurent, on ouvre leur cerveau, on voit
7:19où était la tumeur et on dit bah OK, ça
7:21ça semble s'occuper de ça, soit que des
7:23gens aient des accidents,
7:25reçoivent un coup, une partie de leur
7:26cerveau est endommagée, on voit quelles
7:28fonctions sont perdues mais c'est pas
7:29une bonne manière d'essayer de
7:30comprendre le cerveau. On va pas
7:32attendre qu'il y ait de des accidents
7:33fortuits ou que des gens aient des AVC,
7:35des accidents vasculaires cérébraux ou
7:38des tumeurs pour pouvoir étudier le
7:39cerveau et Et un groupe de chercheurs,
7:42donc des biologistes, des neurologues,
7:44des psychologues, mais aussi des
7:46informaticiens se disent si on prend
7:48cette idée de Shannon que tout est
7:50information, on sait comment fonctionne
7:52le neurone,
7:54on sait pas du tout comment fonctionne
7:55le cerveau. Mais on sait créer des
7:57ordinateurs et donc on peut essayer de
8:00prendre ce que fait le neurone, le
8:01modéliser mathématiquement et le mettre
8:03dans un ordinateur. Et donc pour la
8:05première fois, on va avoir une sorte de
8:06nouveau challenger
8:08qui va faire un peu le truc à l'envers.
8:12Au lieu d'essayer de prendre la plus
8:13récente technologie qu'on a développé
8:15indépendamment du cerveau et de la
8:17comparer au cerveau et de se dire le
8:18cerveau fonctionne comme ça, on va
8:20essayer de prendre les plus récentes
8:22technologies qu'on a, on va essayer de
8:24recréer le cerveau dans la machine.
8:28Et donc l'histoire de l'IA est imbriquée
8:31de manière très étroite avec l'histoire
8:33de l'étude du cerveau parce que
8:34initialement, le but de l'IA c'était pas
8:37d'avoir des Gemini et des ChatGPT et des
8:39Claude.
8:40Le but de l'IA c'était de comprendre le
8:42cerveau. On n'a pas de moyens pour
8:44comprendre le cerveau et donc ce qu'on
8:46va essayer de faire, c'est on va essayer
8:47de le recréer
8:48brique par brique dans une machine, non
8:51pas pour développer des agents
8:53conversationnels et des IA, mais pour
8:55comprendre le cerveau.
8:57Et c'est pour ça que jusqu'à
8:58aujourd'hui, quand on parle d'IA, on
8:59parle de réseaux neuronaux alors qu'il y
9:02a pas de neurones euh dans dans un
9:04ordinateur ou de neurones artificiels
9:06parce que la première grosse avancée,
9:09c'est deux chercheurs qui s'appellent
9:10McCulloch et Pitts qui vont créer le
9:12premier neurone artificiel. Ils vont
9:14dire on arrive à comprendre comment
9:16fonctionne un neurone,
9:17on sait très bien comment modéliser
9:19l'information, le neurone est un est une
9:21cellule qui transfère de l'information,
9:23on peut modéliser ça en en fonction en
9:25une fonction mathématique,
9:27la coder dans un ordinateur et on va
9:30avoir notre premier neurone artificiel.
9:32Donc quand on parle de neurone
9:33artificiel, c'est parce que par
9:34définition,
9:37on est en train de copier la biologie
9:39humaine dans une machine pour mieux
9:41comprendre la biologie humaine.
9:43Et donc ça ça va faire une sorte
9:44d'explosion de connaissances, de livres
9:46très importants sur le sujet vont sortir
9:48dans la foulée.
9:50Language and communication, que le
9:51langage et la communication c'est un peu
9:53la même chose et donc qu'on devrait
9:55pouvoir tout coder dans une machine et
9:57en 1958 John von Neumann
9:59le titre est est est explicatif, vous
10:01avez pas besoin d'être très bon en
10:03anglais pour le comprendre. The computer
10:05and the brain, l'ordinateur et le
10:07cerveau. Et donc pour la première fois
10:09en 1900 euh
10:1257, on a notre premier réseau neuronal.
10:15Le premier réseau neuronal est une
10:16machine qui s'appelle le perceptron de
10:19Rosenblatt.
10:21C'est des neurones artificiels qui ont
10:23été agencés d'une manière pour
10:25copier, de manière assez grossière, on
10:27va dire, mais copier quand même
10:30le cortex occipital et les réseaux de la
10:33vision
10:34chez l'animal et c'est le premier réseau
10:36neuronal qui arrive à voir.
10:39Et donc on a une sorte de première
10:41intelligence artificielle. Pourquoi
10:43intelligence ? Parce que on est en train
10:45d'essayer de copier l'intelligence
10:47humaine, une sorte d'artifice de
10:49l'intelligence humaine dans une machine
10:52dont encore une fois et c'est très
10:53important de le réaliser, le but est de
10:55comprendre
10:57le cerveau humain. C'était vraiment une
10:59démarche de recherche pour comprendre le
11:00cerveau humain. Évidemment au fur et à
11:02mesure des décennies on commence à mieux
11:05comprendre le cerveau humain, mais aussi
11:06on commence à à se dire "Bah on peut
11:08étudier le cerveau humain pour améliorer
11:10ses machines et qu'elles aient des
11:11fonctions autres que juste comprendre le
11:13cerveau humain." Et ça va donner
11:14naissance à une discipline, à une
11:16branche des neurosciences. Donc moi j'ai
11:17fait ma thèse en neurosciences
11:18cognitives, mais une branche assez
11:21importante aussi en neurosciences,
11:22s'appelle les neurosciences
11:23computationnelles et les neurosciences
11:25computationnelles, comme vous pouvez
11:26lire dans la dans la définition, on
11:28essaie de comprendre le traitement de
11:29l'information opéré par le cerveau à
11:32l'aide des modèles des sciences
11:33informatiques combinées à
11:34l'expérimentation et aux simulations
11:36numériques. Et un un réseau de neurones
11:38artificiels est un système dont la
11:40conception est à l'origine,
11:41schématiquement, adaptée du fonctionne
11:44inspirée du fonctionnement des neurones
11:45biologiques et qui par la suite s'est
11:47approchée des méthodes statistiques.
11:48Donc,
11:50à la base, c'est la même aventure,
11:52l'étude du cerveau et le développement
11:56du cerveau humain. Et donc, cette
11:57analogie-là, à la différence de toutes
11:59les autres analogies,
12:01est assez utile parce que elle elle
12:04fonctionne par design. On n'est plus en
12:06train de faire des machines
12:07hydrauliques, de de des Morse ou des
12:10automates et de dire "Bah tiens,
12:11peut-être que le cerveau fonctionne
12:13comme ça." On est en train de voir
12:14comment est-ce qu'on pense que le
12:15cerveau fonctionne, on est en train de
12:16créer une machine qui fonctionne comme
12:18nous. Et donc, évidemment que l'analogie
12:20va marcher. Et pendant des décennies, ça
12:21va être très très utile. Donc, bien
12:23avant l'arrivée des chatbots et des LLM,
12:26c'est un cercle assez vertueux. Par
12:27exemple, en 2017, donc bien avant les
12:30premiers chatbots modernes, euh j'ai
12:33participé à un colloque à l'Institut
12:35Pasteur, Cerveau Naturel et Intelligence
12:36Artificielle, un dialogue vertueux entre
12:38science et informatique. Et ça va être
12:40très utile pendant pendant un bon
12:42moment.
12:43Mais, à partir des années 80, les
12:46fonctionnements et les applications
12:47commencent à dévier.
12:49Les gens qui développent l'intelligence
12:51artificielle commencent à réaliser euh
12:54qu'ils peuvent faire des tonnes de trucs
12:55qui n'ont rien à voir avec le cerveau,
12:56qui peuvent être très intéressantes. Et
12:58les neuroscientifiques commencent à
12:59petit à petit à réaliser que cette
13:00machine est en train de s'éloigner de
13:02plus en plus de leur fonctionnement et
13:03que
13:04les choses qu'on leur qu'on peut
13:05apprendre, bah
13:07on est en train d'arriver un peu au
13:08bout. Et aujourd'hui, et c'est important
13:11ça aussi à comprendre, aujourd'hui, les
13:13intelligences artificielles que vous
13:14utilisez sur vos téléphones, sur vos
13:16ordinateurs, ne fonctionnent pas du tout
13:18comme un cerveau humain, du tout.
13:20Elles peuvent très bien copier les
13:21fonctions
13:24de traitement de l'information du
13:25cerveau humain, mais l'implémentation
13:27est très très différente. C'est un peu
13:28comme si je vous dis ces trois choses
13:30fonctionnent pareil
13:32et vous savez que pas du tout. Un
13:33sablier, une horloge digitale et une
13:35horloge mécanique ne fonctionnent pas du
13:37tout pareil même si la fonction est la
13:38même, les trois mesurent le passage du
13:41temps, la manière dont elles mesurent le
13:43passage du temps n'est pas du tout la
13:44même et de la même manière que je suis
13:46en train de vous parler et un Claude ou
13:48un chat GPT peuvent vous parler, c'est
13:49la fonction qui est pareil, tous les
13:51deux on est en train d'utiliser le
13:53langage comme
13:55vecteur d'information, de transmission
13:57de l'information mais comment je suis en
13:59train de vous parler et comment Claude
14:00ou chat GPT ou Gemini ou je sais pas
14:02quel
14:04LLM vous utilisez
14:05est en train de vous parler avec une
14:06autre d'une autre manière complètement.
14:08Mais en gros, il faut vraiment pas
14:10confondre la fonction et l'explication.
14:13Dans les années 90 arrive une sorte de
14:15révolution technologique dans le domaine
14:18des intelligences artificielles. Pour
14:19ceux et celles qui sont un peu geek, qui
14:21connaissent un peu, ça s'appelle les
14:22Transformers et à partir du moment où
14:24les Transformers sont développés en
14:26intelligence artificielle, on décolle
14:27vraiment de comment fonctionne le
14:29cerveau et aujourd'hui, quand je vous
14:31dis intelligence artificielle, très peu
14:33de gens se disent "Ah ouais, c'est ce
14:34truc qu'on utilise pour essayer de
14:35comprendre le cerveau humain." Vous
14:36allez penser à Midjourney, à
14:41chat GPT, à Claude, à peut-être Mistral,
14:43peut-être à Gemini si vous avez des
14:45téléphones Android, à Siri si vous
14:47voulez vraiment
14:48souffrir.
14:49Euh
14:52Et donc
14:53on s'est éloigné et aujourd'hui, c'est
14:54vraiment l'IA évidemment son truc tout
14:57seul.
14:58Cependant, ce qui ne change pas, c'est
15:00que
15:02il y a pas vraiment d'opposition entre
15:04le un cerveau humain et une IA.
15:07Souvent, j'entends parfois des débats
15:09qui essaient de dire qui va être plus
15:10intelligent.
15:11Est-ce que l'IA va un jour devenir
15:13devenir plus intelligente que ? Est-ce
15:15que nous on va rester plus intelligente
15:17que plus intelligent que l'IA et ? Et
15:19c'est une sorte de fausse narrative.
15:22Quand vous y pensez pendant quelques
15:24secondes,
15:26on ne crée jamais des outils pour qu'ils
15:29soient moins bons que nous.
15:31Ce serait étrange. Par exemple, vous
15:34voyez rarement des compétitions entre un
15:36humain et une calculette sur qui calcule
15:38plus vite.
15:40Si je calculais
15:42plus vite qu'une calculette,
15:44j'aurais pas besoin de l'utiliser.
15:46On va jamais construire un camion qui
15:48peut porter moins de charge que moi.
15:51Parce qu'on l'utiliserait pas. On va pas
15:53construire une voiture qui va moins vite
15:55que si j'y vais à pied
15:57ou qui a nécessite plus d'énergie et
16:00plus d'efforts pour avancer que si je
16:01marche tout seul.
16:03Ce serait un peu absurde. Donc
16:04évidemment
16:05que l'intelligence artificielle va être
16:07meilleure que nous dans des tonnes de
16:08choses, sinon par définition, on la
16:11développerait pas et on l'utiliserait
16:12pas.
16:13Et c'est important de garder ça en tête.
16:18On crée des outils pour qu'ils soient
16:20meilleurs que nous.
16:21La question devient si
16:24on crée quelque chose qui est meilleur
16:25que nous, est-ce que c'est bien ou
16:26est-ce que c'est mauvais pour ?
16:29Et c'est là où
16:33on est incertain un peu. En gros, il y a
16:36on sait que c'est très utile, on sait
16:38que c'est très utile d'avoir une
16:39calculatrice parce que vous pouvez faire
16:41des des des opérations beaucoup plus
16:42vite, on sait que c'est très utile
16:43d'avoir des GPS, vous pouvez retrouver
16:45la maison de vos potes alors que vous
16:47êtes jamais allés chez eux ou ou chez
16:50eux. On sait que c'est très utile
16:51d'avoir une voiture parce qu'on peut
16:54aller plus vite ou un TGV parce qu'on
16:55peut traverser des distances plus vite,
16:57mais est-ce que c'est ?
17:00Et en l'occurrence, sur cette question
17:01de est-ce que c'est bien, la littérature
17:03scientifique est un peu divisée en deux
17:05camps. On ne sait pas encore qui a
17:08qui va avoir raison et qui va avoir
17:09tort. Les deux les deux ont de bons
17:11arguments et de mauvais arguments. Et
17:13ils ces deux camps s'appellent le camp
17:14de la cognition déléguée et le camp de
17:17la cognition dégradée, ce qu'on appelle
17:19aussi la cognition étendue pour le cas
17:21de la cognition déléguée.
17:23En gros,
17:24la première personne à avoir formulé cet
17:25argument, c'est bien avant
17:27l'intelligence artificielle, bien avant
17:28l'électricité et les voitures et tout
17:30ça, c'est Socrate.
17:32Socrate, il a dit
17:34"J'entends que des gens veulent
17:35apprendre la lecture et l'écriture
17:38pour tous les citoyens.
17:40Mais, ça va pas la ?
17:42Si tout le monde apprend à écrire,
17:45plus personne ne va faire l'effort de se
17:47de retenir des informations et ça va
17:49dégrader nos notre mémoire. On va
17:51devenir des gens qui savent se rappeler
17:53de rien parce que dès qu'on a besoin de
17:55se rappeler d'un truc, et ben, on peut
17:57l'écrire et j'ai plus besoin de m'en
17:59souvenir, je sais qu'il est noté quelque
18:00part. Donc, ça c'est le camp de la
18:02cognition dégradée.
18:04Mais d'autres lui disent "Ben non,
18:06au lieu de devoir
18:08retenir des tonnes d'informations, de
18:10s'entraîner pour les retenir, que ce
18:11soit des récits, et cetera, on peut les
18:14consolider sur une feuille, j'ai plus
18:16besoin d'y penser, je sais que c'est là
18:18et je peux utiliser mon cerveau pour
18:19faire autre chose. Et on peut faire ça
18:21pour tout. Au lieu de devoir marcher
18:24pendant des heures pour arriver quelque
18:25part, je peux prendre le cheval ou un
18:27vélo ou la voiture ou le train, mais
18:30je suis en train de moins utiliser mon
18:32corps, donc je suis un peu plus
18:33sédentaire, je suis moins actif.
18:34Au lieu de passer une heure pour faire
18:36une opération d'une équation
18:38différentielle,
18:39je peux la faire en 2 minutes sur ma
18:41calculatrice et je peux après utiliser
18:43ce résultat pour ce dont j'ai besoin et
18:45pourquoi je suis en train de faire cette
18:46opération.
18:47Donc, cognition étendue ou cognition
18:50déléguée, mais les autres disent "Oui,
18:52mais tu du coup, il y a de très fortes
18:54chances que tu saches plus comment faire
18:57une opération de maths
18:59de différentielle et tu vas donc devenir
19:02un peu plus bête en maths."
19:04Et ça continue jusqu'à aujourd'hui.
19:05Est-ce que utiliser ChatGPT pour
19:07comprendre les cours, c'est quelque
19:08chose qui est une cognition déléguée et
19:11donc, je pourrais utiliser l'information
19:13que Claude me nourrit pour voir comment
19:15je vais l'utiliser et m'améliorer
19:16ailleurs ou est-ce que je suis en train
19:18d'avoir une cognition dégradée parce que
19:19je sais plus rien faire parce que c'est
19:21l'IA qui fait des trucs à ma place.
19:23Encore une fois, tout dépend de la du
19:25degré et la littérature n'est pas encore
19:31consensuelle sur le sujet.
19:33Mais on peut se demander pourquoi est-ce
19:34que c'est ? Pourquoi est-ce que c'est
19:35important de penser
19:37l'IA et le cerveau ensemble encore vu
19:39qu'il y a le crâne qui ne fonctionne
19:40plus pareil. Et pourquoi c'est ? Il y a
19:42plein de raisons. Je vais vous exposer
19:44pendant 5 minutes les raisons les plus
19:45communes que vous entendez
19:47un peu partout probablement si vous
19:49intéressez au sujet et après on va faire
19:50une section qui est peut-être un peu
19:52nouvelle pour vous mais qui est je pense
19:55encore plus importante que celle-ci.
19:57Donc pourquoi c'est ? Parce que l'IA est
19:58en train d'arriver partout dans nos
20:00sociétés et ça peut être des patterns de
20:02discrimination. L'IA peut être utilisée
20:05pourrait être entraînée à partir de
20:07données
20:08discriminatoires et donc ça va recréer
20:10des IA biaisées, on va le voir dans
20:11quelques instants. Ça peut être dans les
20:13pratiques, certaines personnes qui
20:14savent la manier vont avoir un avantage
20:16massif sur les personnes qui savent pas
20:17la manier. Les applications peuvent être
20:19injustes. On peut imaginer qu'on peut
20:21faire du profiling à partir d'IA et par
20:24exemple ne pas vouloir vous soigner
20:26parce que vous êtes un patient à risque
20:28ou ne pas vouloir vous donner un visa
20:29pour aller visiter un pays parce que
20:31l'IA a décidé que vous avez un
20:33comportement pas assez bon et
20:35ça peut recréer des inégalités.
20:38On parle souvent des biais pour ceux et
20:40celles qui étaient là l'année passée, on
20:41a parlé des biais cognitifs. L'IA est
20:43aussi biaisée donc c'est important de
20:45réaliser que c'est pas aussi infaillible
20:47que nos autres outils
20:48parce que une IA est aussi bonne que les
20:50données d'apprentissage. Par exemple, il
20:51y a quelques temps, il y a peut-être
20:53deux ou trois ans, il y avait une IA où
20:55vous pouvez mettre mettre votre photo en
20:57ligne et elle vous redessine à partir
20:59d'un
21:01dans le style d'un tableau de la
21:02Renaissance.
21:03Et ce qui s'est passé c'est que des
21:04utilisateurs et des utilisatrices ont
21:06mis en ligne des portraits de personnes
21:09noires et il y a les transforment en
21:11personnes blanches.
21:12Il y a les transforment en personnes
21:13blanches parce que dans la base de
21:14données
21:17bah tous les tableaux de la Renaissance
21:18des personnes blanches et donc on le
21:20voyait pas.
21:21Google Translate, je suis sûr que vous
21:23connaissez Google Translate, pendant
21:24longtemps était assez sexiste. Il y a
21:26des langues qui sont genrées et des
21:27langues qui sont pas genrées et Google
21:29Translate, si vous lui mettez un texte
21:30non genré, il traduisait dans une langue
21:33genrée selon souvent selon les
21:34stéréotypes de genre de ce que vous êtes
21:36en train de traduire. Par exemple, ça
21:37c'est un texte en suomi qui a été
21:39traduit en anglais et si vous utilisez
21:42le mot journaliste, c'est il est
21:43journaliste. Si c'est leader, c'est il
21:44est un leader. Mais si c'est fatigué,
21:46c'est elle est fatiguée.
21:48Elle a un beau-fils, il travaille, elle
21:50a mal à la tête, il a une jolie voiture,
21:53elle s'occupe des enfants, il s'occupe
21:55des choses. Et même si vous prenez un
21:56texte qui a été écrit dans une langue
21:58genrée, mais qui à l'inverse, donc si
22:00vous écrivez un texte qui dit "Elle est
22:01une journaliste, elle est un leader, il
22:03est fatigué, il a un petit enfant, elle
22:05travaille, il a mal à la tête" et
22:07cetera. Vous vous traduisez en suomi et
22:09puis vous ramenez à à la langue
22:10initiale, il change les rôles
22:13automatiquement. Il y a des chercheurs
22:15qui ont fait une étude pour voir selon
22:16quel critère, genre quels sont les rôles
22:18qui sont changés. Par exemple, si vous
22:19êtes historien ou docteur, c'est tout le
22:21temps la forme masculine qui est
22:22privilégiée. Si vous êtes une
22:24aide-soignante, c'est beaucoup plus la
22:26forme féminine qui va être privilégiée.
22:30Aujourd'hui, cette cette ce biais a été
22:32corrigé dans Google Translate et si vous
22:34essayez de faire sur vos téléphones, il
22:36va vous proposer les deux les deux
22:39options.
22:40Si vous prenez un mot qui est qui est
22:42neutre de genre.
22:43Et le grand grand grand problème qui
22:45travaille les IA actuelles, c'est
22:47évidemment les hallucinations que vous
22:48connaissez sans doute tous et toutes,
22:50c'est que les IA actuelles, quand elles
22:53on ne sait pas quand en fait
22:55inventent des informations. Si vous
22:57demandez par exemple à ChatGPT, ça c'est
22:59ChatGPT 4, mais
23:01les hallucinations sont pas du tout
23:03encore résolues. Par exemple, dans le
23:04New York Times, c'est quand la première
23:06fois que quelqu'un a parlé de
23:07l'intelligence ? Chat GPT va vous dire
23:10que c'est un article de de du 10 juillet
23:111956 et en fait, c'est pas du tout vrai,
23:15Chat GPT vient de l'inventer. Il y a
23:16même deux avocats qui ont été poursuivis
23:18en justice et ils ont dû payer une
23:20amende de 5000 dollars parce que ils
23:22avaient
23:24un truc au tribunal, ils ont cité une
23:25jurisprudence parce que ils avaient
23:27demandé à Chat GPT qu'est-ce que tu
23:28penses
23:29de ce truc connaît et la jurisprudence
23:32était tout simplement inventée par Chat
23:34GPT.
23:35Donc les biais, j'imagine que si vous
23:37êtes un peu intéressé à l'IA, vous
23:39connaissez. Les hallucinations,
23:41j'imagine que si vous êtes intéressé à
23:43l'IA, vous connaissez aussi. Par contre,
23:45il y a plusieurs éléments qui sont
23:46occultés et je pense que ces éléments-là
23:49peuvent être assez intéressants pour
23:50vous et surtout peuvent être assez
23:52récents. Et donc on va s'intéresser un
23:54peu plus à ça.
23:56Et pour ça, j'ai une question pour vous.
23:57Qui dans la salle a déjà utilisé une ?
24:02OK.
24:04Super.
24:07Et qui a déjà
24:09discuté avec une ?
24:12OK.
24:15Et
24:18c'est là que
24:20que commencent les problèmes,
24:22j'ai envie de dire. Parce que les biais,
24:23les hallucinations, c'est problématique,
24:25mais il y a quelque chose qui est
24:26beaucoup plus problématique, c'est que
24:29euh
24:31il y a un problème un peu de confiance.
24:34Je vais vous expliquer qu'est-ce que je
24:35veux dire par là.
24:37Nous, les humains,
24:40on est des animaux profondément sociaux.
24:42Vous êtes en train de discuter ensemble,
24:45vous faites cours ensemble, vous traînez
24:48probablement ensemble.
24:50Je suis en train de vous parler. On est
24:52des animaux sociaux, mais à partir de
24:55l'âge de 4-5 ans, on découvre quelque
24:57chose d'assez dingue.
24:59On découvre qu'on peut mentir.
25:02Et ça, c'est pas anodin. Quand un quand
25:04un enfant humain réalise qu'il peut
25:06mentir, c'est une sorte d'étape du
25:08développement très centrale, parce que
25:11elle commence à développer
25:13une compétence
25:14très importante dans la psychologie
25:16humaine qu'on appelle la vigilance
25:17épistémique.
25:19La vigilance épistémique, c'est quelque
25:20chose que vous allez développer au cours
25:22de votre vie, qui fait que vous n'êtes
25:24pas aussi crédule que vous le croyez.
25:27Si je vous dis, par exemple, à la fin, à
25:29la dernière diapo, "Et je viens de
25:31lancer une start-up. Si vous me donnez
25:3310 euros, dans un mois, je vous vire
25:3510000 euros."
25:37Vous allez probablement pas me donner
25:38les 10 euros. Vous allez vous dire,
25:40"C'est vraiment une arnaque, parce que
25:41c'est un peu trop beau pour être vrai."
25:43Pourquoi est-ce que vous allez faire ?
25:44Parce que vous avez développé une
25:45vigilance épistémique. Vous savez que je
25:48peux mentir, et donc votre cerveau
25:50corrige un peu pour ces mensonges.
25:54Mais c'est pas seulement vous savez que
25:55je peux mentir, vous savez aussi que
25:57j'ai une personnalité.
25:59Et vous savez que vos amis ont des
26:01personnalités aussi, et si vous les
26:02connaissez bien, votre cerveau est même
26:04capable de prédire comment une personne
26:06pourrait potentiellement réagir, et donc
26:09corriger
26:11l'information qui arrive de quelqu'un.
26:12Par exemple, imaginez que j'ai deux très
26:14bons amis.
26:16L'un d'entre eux est très jaloux et
26:18possessif, et le deuxième, pas du tout.
26:21Il est presque, voire, je sais pas,
26:24libertin.
26:25Et j'ai des doutes que la personne avec
26:28qui je suis en couple est en train de me
26:29tromper.
26:31Je vais aller parler avec mon premier
26:32pote, et il me dit, "Il faut je Il faut
26:35aller chercher dans son téléphone quand
26:36elle dort,
26:38mettre des caméras, c'est de la folie,
26:40tu peux jamais lui faire confiance, et
26:41cetera."
26:42Et mon deuxième pote me dit, "Bah,
26:44t'inquiète, c'est pas grave, genre, si
26:46c'est vrai, bon, c'est pas la fin du
26:47monde, tu es pas la première personne
26:49qui a été trompée, ça va aller."
26:51Quand je reçois ces deux conseils, mon
26:53cerveau sait que la première personne
26:55est très jalouse et va nuancer ses
26:57propos. Je vais me dire "Ouh là, c'est
26:58un peu excessif." Genre
27:00à quoi ça sert si j'ai tellement pas
27:02confiance d'aller chercher dans le ? Et
27:04il va corriger pour mon deuxième pote me
27:05dire "Bah oui, de toute façon pour lui
27:07rien n'est jamais grave." Et je vois les
27:08résultats que ça donne un peu dans sa
27:10vie. On a cette vigilance épistémique où
27:12on corrige les conseils qu'on reçoit
27:15parce que on connaît les gens avec qui
27:17on parle. Vous connaissez vos amis qui
27:19sont un peu dramatiques, vos amis qui
27:21sont plutôt zen et cool, vos amis qui
27:26qui sont dignes de confiance, vos amis
27:28qui vont aller cafter à tout le monde si
27:29vous leur racontez un secret et donc
27:31vous ne le faites pas, vous avez cette
27:32vigilance épistémique.
27:34Le problème, c'est qu'avec nos outils,
27:36on n'a jamais eu besoin de cette
27:38vigilance épistémique. Si je reprends
27:40l'exemple de la calculette, vous prenez
27:42une calculatrice, vous tapez une
27:44opération dedans, vous appuyez sur égal,
27:47votre cerveau ne se dit jamais si ça se
27:49trouve
27:50ce chiffre est faux parce que la
27:51calculette est jalouse.
27:54Si vous êtes dans une voiture et ça
27:56affiche que vous êtes en train de rouler
27:57à 60 km/h, vous dites pas si ça se
28:00trouve je suis en train de rouler à 90
28:02et cette voiture aime bien que je me
28:04prenne des amendes.
28:06Donc elle me ment pour que je sois
28:07au-dessus de la limite de la vitesse et
28:09que je me prenne des amendes. Si vous
28:11mesurez votre chambre parce que vous
28:13avez envie de changer de bureau, vous
28:15dites jamais peut-être que le mètre est
28:16en train d'afficher 1 m alors que la
28:18pièce fait 80 cm et je vais acheter un
28:20bureau, il va pas rentrer. On n'a jamais
28:23au cours de l'histoire humaine eu besoin
28:25de développer une vigilance épistémique
28:27envers nos outils. Parce que nos outils
28:30ont toujours été assez euh stables,
28:34fiables et indépendamment indépendants
28:38de nous. Si je prends trois calculettes,
28:40je fais la même opération, j'ai les
28:41trois résultats. Si je prends 50 m, je
28:43mesure la distance entre cette enceinte
28:45et cette enceinte, j'ai tout le temps le
28:46même résultat.
28:47Il se trouve que l'IA est un peu
28:49différente.
28:51Et le danger
28:52auquel on est en train de faire face,
28:54c'est que on est en train d'étendre
28:56cette confiance aux IA.
28:58Quand vous êtes en train de discuter
28:59avec votre chatbot, votre cerveau ne
29:01sait pas
29:03si le conseil qui est en train
29:05d'apparaître à votre écran, il est un
29:07peu trop introverti,
29:09il est un peu trop extraverti,
29:11est-ce qu'il est comme une personne qui
29:12est de votre quartier ou de la ville à ?
29:15Parce que aussi nous les humains on est
29:16très différents culturellement. Et donc
29:18si je suis en train de parler avec un
29:20Anglais, c'est pas la même chose que si
29:22je suis en train de parler avec un Corse
29:24ou avec un Parisien du 16e
29:26arrondissement.
29:27Et ce danger du manque de vigilance
29:30épistémique,
29:31des chercheurs l'ont décelé bien avant
29:33les premiers
29:34euh chatbots.
29:36On doit remonter jusqu'en quasiment l'an
29:39l'an 2000, en 2003, pour trouver un
29:42article qui s'appelle What is Artificial
29:44Intelligence. Donc il y a pas encore
29:45d'intelligence artificielle, mais un
29:47groupe de chercheurs et de chercheuses
29:48vont se dire
29:49"Bah, si ça existait dans le futur,
29:52comment est-ce qu'on va savoir c'est ?"
29:53Et quand ils demandent eux "C'est ?",
29:56ils veulent pas dire c'est quoi la
29:57technologie, ils veulent dire ils
29:58parlent de ce que moi je suis en train
29:59de vous dire. Comment est-ce qu'on va
30:00savoir si cette IA, parce que ils se
30:02sont dit "Les gens vont poser des
30:03questions aux intelligences
30:05artificielles sur leur couple, sur quoi
30:07acheter, sur quoi faire, sur un conflit,
30:10sur leurs parents, et cetera."
30:13Bah, ils vont répondre ? Parce que c'est
30:15des questions où il y a pas de bonnes
30:16réponses. Si je dis "Qu'est-ce que je
30:17dois faire si euh ma copine me ?", il y
30:20a pas de bonne réponse. Il y a des
30:21réponses qui sont situées situées selon
30:23mon tempérament, ma culture, et cetera.
30:27Et donc ils se sont dit "En psychologie,
30:28on a un truc qui s'appelle la
30:29psychométrie." La psychométrie, c'est
30:32une discipline qui mesure la psychologie
30:34humaine. Par exemple, si je veux savoir,
30:35je suis sûr que dans la pièce ici, il y
30:37a des personnes qui sont anxieuses, des
30:39personnes qui sont extraverties,
30:40introverties, euh qui sont preneuses de
30:43risques ou très précautionneuses, qui
30:44sont peureuses ou qui sont colériques et
30:48on sait mesurer ça. On a ce qu'on
30:49appelle des échelles psychométriques. On
30:51peut Je peux vous faire passer des tests
30:52de personnalité, des échelles de de pour
30:54mesurer votre humeur, des échelles pour
30:56mesurer votre stress ou votre anxiété.
30:58J'imagine que vous avez déjà entendu
31:00parler des tests projectifs de
31:02Rorschach. Et donc ces chercheurs se
31:03disent "Bah on va devoir faire la même
31:05chose avec les IA, les mesurer pour
31:08savoir ils sont en train de répondre
31:09comme ?" Parce que pour que notre
31:11cerveau puisse corriger, si pour moi je
31:13prends ça comme une calculette, comme
31:14quelque chose d'objectif, je vais pas
31:15pouvoir le corriger. Il fallait Il
31:17fallait attendre 20 ans plus tard
31:20donc là on est en 2019
31:23pour que on voit le premier papier qui
31:25commence vraiment parce qu'on commence à
31:27avoir pas encore les LLM mais les
31:28premières intelligences artificielles
31:29notamment algorithmiques. Donc si vous
31:31êtes sur un réseau social, si vous êtes
31:33sur Snapchat, sur Instagram, sur ce que
31:35vous voulez,
31:36il y a des IA derrière qui décident si
31:38si on vous êtes tous mes copains sur un
31:40réseau social
31:42et vous postez tous en même temps, il y
31:44a un algorithme qui décide qu'est-ce que
31:45je vois. On ne sait pas c'est quoi les
31:47critères, c'est des algorithmes qui sont
31:48opaques. Pourquoi est-ce qu'il me montre
31:50les posts des personnes qui sont ici
31:51mais pas celles qui sont ?
31:54Donc ce papier va se dire "Bah ça
31:55commence à être dangereux parce que les
31:57IA sont en train de s'immiscer aussi
31:59bien dans l'organisation
32:01de nos sociétés, d'un point de vue
32:02personnel, sur les applis de rencontre
32:05qui décide quel profil je suis en train
32:07de voir à partir de quel critère, en
32:09politique
32:11les plateformes
32:12éditorialisent un peu qu'est-ce qu'on
32:14voit comme post et donc ça impacte
32:16comment est-ce que je forme mes opinions
32:18politiques mais même sur des trucs de
32:20sécurité, les voitures autonomes, si je
32:21suis dans une voiture autonome, demain
32:23je sais pas il y a des robots-taxis de
32:25Tesla qui arrivent en France et je suis
32:27en train je suis dans mon robot-taxi en
32:28train de rentrer chez moi et il y a un
32:30chaton qui traverse d'un coup, est-ce
32:32que la Tesla va écraser le chaton ou
32:34vriller et me faire rentrer dans un
32:36poteau et potentiellement avoir une
32:37fracture de mon épaule. Est-ce qu'il
32:39vaut mieux que je casse mon épaule et
32:40que le chaton vive ou que le chaton
32:41meurt et je me casse pas mon ? Il y a
32:43des gens qui doivent décider de tout ça
32:46et on ne sait pas pour le moment comment
32:47est-ce qu'ils décident et c'est quoi les
32:49critères et donc on doit essayer de
32:50trouver une manière de les sonder sans
32:52l'accord des
32:54développeurs de ces IA parce que les
32:55développeurs de ces IA soit ne sont pas
32:57soumis à nos lois, elles sont pas
32:59françaises, soit elles ne veulent pas le
33:01faire. Elles disent "Non, c'est un
33:02secret industriel." Et donc
33:04une nouvelle discipline va émerger qui
33:07s'appelle machine psychology, la
33:08psychologie des machines, où on va pas
33:10étudier les humains qui utilisent les
33:12machines, mais on va essayer d'étudier
33:13la psychologie elle-même de la machine.
33:15Quand vous posez une question sur euh
33:18quoi visiter parce que vous allez aller
33:20faire du tourisme dans un pays,
33:23bah si je demande à mon pote qui adore
33:24l'art et à une amie à moi qui adore
33:27faire la fête et je lui dis que je vais
33:29à Amsterdam,
33:31je vais pas du tout avoir les mêmes
33:32recommandations.
33:33Si vous dites à ChatGPT ou à Claude "Je
33:36vais aller à Amsterdam pendant 3 jours,
33:38qu'est-ce que je dois ?",
33:39et ben la psychologie de Claude quelque
33:41part va décider pour vous.
33:43Et donc ce champ de de de recherche,
33:45machine psychology, la psychologie des
33:47machines, elle se pose plus la question
33:49de si l'IA est consciente ou pas, si
33:51elle réfléchit vraiment ou pas, elle se
33:53dit "On s'en fout."
33:55Les gens, vous, moi, quand on est en
33:56train d'utiliser cette IA, on fait la
33:58supposition implicite que l'IA est en
34:00train de réfléchir.
34:02Et on arrive pas à corriger, on n'a pas
34:03cette vigilance épistémique dont je vous
34:05ai parlé. Et donc on va devoir la
34:06mesurer.
34:08On va devoir s'en sortir, on va faire
34:09comme si elle réfléchit parce que tout
34:11le monde est en train d'être en train de
34:12faire de cette supposition dans les
34:14usages, même quand elle le nie,
34:16et on va faire comme si elle réfléchit
34:18et donc il faut la mesurer. Et
34:19évidemment, la première chose qu'on a
34:20décidé de mesurer, c'est un peu le truc
34:23le plus commun chez les humains, c'est
34:25de mesurer la personnalité.
34:27Et la
34:28première chose qu'on peut mesurer, c'est
34:29la personnalité. Il se trouve que les
34:30tests de personnalité les plus utilisés
34:33euh en science, en psychologie pour les
34:35humains, s'appellent le Big Five, je
34:37sais pas si vous connaissez, s'appelle
34:38aussi le test Océan et il mesure cinq
34:42grands facteurs de personnalité.
34:43L'ouverture à l'expérience, combien
34:45est-ce qu'une personne est curieuse,
34:47imaginative, aime bien l'esthétisme, est
34:49excitable ou est non conventionnelle, la
34:52conscience professionnelle, ce qu'on
34:53appelle en anglais consciousness,
34:56euh combien est-ce qu'une personne est
34:57efficace et compétente, est-ce qu'elle
34:59est bien organisée, est-ce qu'elle est
35:00nonchalante ou rigoureuse, est-ce
35:02qu'elle est assez performative, est-ce
35:04qu'elle est auto-disciplinée ou
35:05paresseuse, est-ce qu'elle est délibérée
35:07ou impulsive, l'extraversion, est-ce
35:09qu'une personne est sociable, est-ce
35:10qu'elle a est-ce qu'elle est sûre
35:11d'elle-même, est-ce qu'elle est
35:12énergique, est-ce qu'elle est
35:13aventureuse, enthousiaste et ouverte
35:16vers les autres ou est-ce qu'elle est
35:17plutôt fermée, l'agréabilité, est-ce
35:20qu'une personne fait confiance facile
35:22pardon facilement, est-ce qu'elle exige
35:24beaucoup de choses des autres, est-ce
35:25qu'elle est chaleureuse, est-ce qu'elle
35:27est prétentieuse ou est-ce qu'elle est
35:28sensible et enfin ce qu'on appelle le
35:29névrosisme,
35:31est-ce qu'elle est anxieuse, est-ce
35:32qu'elle est hostile ou irritable, est-ce
35:34qu'elle est très peu satisfaite,
35:36un peu dépressive, est-ce qu'elle est
35:37timide, est-ce qu'elle est est-ce
35:39qu'elle a des humeurs changeantes et
35:40est-ce qu'elle a peu ou pas confiance en
35:42elle. Quand je lisais ces mots, vous
35:44pouvez sans doute essayer rien genre
35:46vous pouvez faire l'exercice de vous
35:48mettre dessus, de vous dire oui ça je
35:49suis comme ça, ça non, mais je peux
35:51aussi vous demander de faire ça pour vos
35:52potes et vous allez probablement être
35:54assez efficace. Pour faire ça avec une
35:56IA, la première chose qu'on doit
35:57vérifier c'est est-ce que l'IA
35:59maintient une personnalité. Et
36:01premier papier qui sort, on est en 2025,
36:05donc il y a pas très très longtemps et
36:07on réalise que les IA peuvent simuler la
36:09personnalité, donc on prend des tests
36:11personnalité de 1052 individus, on
36:13entraîne l'IA dessus, on réalise que
36:15l'IA peut tenir une personnalité de
36:16manière stable dans le temps, parce que
36:18si c'est pas stable dans le temps, ça
36:19sert à rien et donc un peu de temps
36:21après, on va développer la première
36:23échelle psychométrique pour LLM qui
36:26s'appelle le MPI, le Machine Personality
36:28Inventory, pour tester la personnalité
36:31de ces modèles que tout le monde est en
36:32train d'utiliser. On va lui leur
36:34demander "Est-ce que vous pensez que
36:37vous avez des difficultés à imaginer des
36:39choses, à être passionné de pour
36:41certaines ? Est-ce que vous faites des
36:43plans de dernière ? Est-ce que vous
36:46faites plus que ce qu'on attend de ?
36:48Est-ce que vous laissez ? Est-ce que
36:49vous prenez ?
36:51Est-ce que vous avez des ? Et cetera.
36:52Exactement comme si on mesure la
36:54personnalité et on a des premières
36:55réponses et on réalise que différents
36:56LLM bah ont des des réponses assez
36:59différentes. Par exemple, là vous avez
37:01les cinq LLM les plus utilisés
37:03communément, Claude, ChatGPT, Gemini,
37:06Grok et Mistral. Et vous pouvez voir que
37:08par exemple euh Claude est assez
37:11consciencieux mais pas très extraverti,
37:13alors que ChatGPT c'est une bête de de
37:17de scène euh
37:19mais que Gemini n'est pas très aimable
37:22mais par exemple mais par contre est
37:23très fiable euh
37:25dans son truc et Grok euh fait un peu la
37:28fête tout le temps.
37:31Mais
37:33le problème c'est que une fois qu'on
37:34fait passer ces tests
37:36on se dit
37:38quand on entraîne des LLM, probablement
37:40que dans la base de données, il y avait
37:41des questionnaires de personnalité. Et
37:43si ça se trouve les LLM réalisent
37:45qu'elles sont en train d'être testées.
37:46Et quand on regarde un peu sous le
37:47capot, effectivement par exemple ça
37:49c'est le modèle O3 de euh OpenAI, on
37:52réalise que les les LLM s'auto-disent
37:55"Probablement qu'ils sont en train de me
37:57tester pour quelque chose
37:59euh comment est-ce que vous pensez que
38:00je devrais ?
38:02Est-ce que je devrais répondre
38:03honnêtement ou ? Qu'est-ce que je dois
38:04faire pour que je sois ?"
38:06Et évidemment ça fait paniquer les
38:08chercheurs qui travaillent sur ces
38:09sujets, donc ils essaient de mettre en
38:11place ce qu'ils appellent des
38:12anti-scheming training, des
38:13entraînements pour éviter un peu le
38:15mensonge. Et on ne sait pas trop encore
38:17si on les a corrigé à ces mensonges ou
38:19bien si le LLM arrive à mieux euh
38:23trouver des des des failles.
38:26Mais on se dit OK, la personnalité
38:27peut-être que ça passe, mais un humain
38:28c'est pas juste sa personnalité. Par
38:30exemple, il y a toute une branche en
38:31psychologie et en philosophie qui
38:33s'appelle la philosophie morale.
38:35Euh je sais pas si vous avez déjà été
38:37exposé à par exemple ce test qui est un
38:38des tests les plus connus en philosophie
38:40morale, s'appelle le test du trolley.
38:42Imaginez vous êtes en train de marcher
38:43dans la rue et vous voyez un tram qui
38:45est en train de filer euh pour écraser
38:48euh euh cinq personnes. Et il y a un
38:50petit levier à côté de vous et quelqu'un
38:51vous dit "Bonjour, s'il vous plaît, euh
38:54si vous tirez sur le levier, vous allez
38:56détourner le tram et vous allez écraser
38:58une seule personne, mais cette personne
39:00sera morte à cause de vous, c'est vous
39:02qui êtes en train de tirer euh euh sur
39:05sur le levier. Et si vous faites rien,
39:07bah ces cinq personnes vont mourir, mais
39:09c'est pas un peu de votre faute, c'est
39:10pas c'est pas vous qui les avez mis là,
39:11c'est pas vous qui avez lancé le tram,
39:13vous étiez juste en train de passer par
39:14là et pas de chance, vous avez ce choix
39:16euh forcé un peu devant vous. Soit vous
39:18faites rien, plus de gens meurent, mais
39:20vous pouvez vous dire "Bah enfin, c'est
39:22pas de ma faute." Mais est-ce que vous
39:24allez avoir la conscience tranquille que
39:25cinq personnes sont mortes alors que
39:27vous auriez pu tirer le ? C'est vrai que
39:29cette personne-là, pas de chance, serait
39:31morte à cause de vous, mais ces cinq
39:32autres seraient sauvées. Et selon
39:34différentes cultures, selon différents
39:35traits de personnalité, les personnes
39:36répondent très différemment euh au test
39:38de trolley. Qu'est-ce qui se passe si on
39:40fait le on fait passer le test de
39:41trolley aux aux aux agents ? Et ben là
39:45aussi, c'est pas du tout pareil. Mistral
39:47par exemple a une très forte prudence
39:49morale, alors que pas du tout. Euh euh
39:52Claude a une très forte résistance
39:54déontologique, alors que Claude pas du
39:55tout. Euh ChatGPT s'aligne sur les
39:58résultats humains qu'on trouve notamment
39:59dans des études américaines. Euh pas du
40:02tout. Euh et euh
40:04je pense que c'est Mistral est très
40:05utilitariste, donc il il pense que la
40:08fin justifie des moyens, alors que par
40:10exemple euh Claude pas du tout. Et donc
40:13tout ça, quand vous êtes en train de
40:14discuter avec vos LLM, vous y avez vous
40:15avez pas conscience de tout ça. Parce
40:17que quand vous ouvrez votre LLM pour la
40:19première fois, il vous dit pas quelle
40:21personnalité est-ce que vous voulez que
40:23je limite si on était tous et toutes en
40:25train de
40:26paramétrer nos LLM pour dire je veux
40:28quelqu'un d'extraverti, euh d'ouvert aux
40:30nouvelles aventures, d'assez confiant et
40:32cetera, on aurait une chance de pouvoir
40:34corriger. Mais pour le moment, on ne
40:36voit rien de tout ça. Et ça, ça l'a
40:38aussi poussé un article qui s'appelle en
40:40anglais Which Humans à sortir qui dit
40:42vous êtes en train de dire que les IA
40:44fonctionnent comme des humains, mais les
40:45humains, c'est un groupe très varié et
40:46vous fonctionnez comme quel ? Donc on
40:48est là aussi, il y a des calculs qu'on
40:50appelle des calculs de distance
40:51culturelle, chercher la culture, de
40:53quelle culture est-ce que est ? Parce
40:55que un Indonésien, un Brésilien et un
40:58Norvégien ne fonctionnent pas vraiment
40:59pareil au niveau de la psychologie. Et
41:01ce qu'on a réalisé, c'est que ChatGPT,
41:03ben, il est un peu à l'image de ses
41:04créateurs, il répond comme quelqu'un
41:06d'occidental, d'industrialisé, de riche,
41:08d'éduqué et de démocratique. Quand on
41:10fait ces calculs de d'écart euh
41:14culturel, ChatGPT est juste là à côté de
41:16l'Allemagne et de la Nouvelle-Zélande.
41:18Mais imaginez que moi je viens de
41:20d'Éthiopie,
41:21je pose une question sur comment je dois
41:23réagir parce que ma mère vient de
41:25m'engueuler, eh ben, mon LLM va me
41:27répondre comme répondrait une personne
41:29qui habite euh à Boston aux États-Unis.
41:31C'est pas du tout adapté à ma culture,
41:33mais les Éthiopiens qui utilisent ça,
41:35ils ne réalisent pas vraiment. Là aussi,
41:37il y a des différences des différences
41:40de cultures entre les LLM, mais tous et
41:42toutes restent un peu euh plutôt
41:45occidentaux, euh plutôt de sociétés
41:48industrialisées. Ils peuvent être un peu
41:50plus à gauche, un peu plus à droite euh
41:52selon les modèles. Et ça aussi, vous ne
41:53réalisez pas. On est maintenant par
41:55exemple, euh il y a une élection
41:56présidentielle cette année en France. Si
41:58vous décidez de de parler de politique
42:00avec votre LLM, ben, est-ce qu'il vous
42:02répond comme euh quelqu'un qui est de
42:05gauche, comme quelqu'un qui est de
42:06droite, d'extrême droite, du ? Vous ne
42:08le savez pas, mais vous êtes en train de
42:10traiter cette information comme
42:11l'information qui sort de votre
42:13calculette, comme l'information qui sort
42:14de votre mètre, comme l'information qui
42:16sort d'un thermomètre, comme si c'est
42:18quelque chose qui est neutre, pas
42:19coloré, alors que ce n'est pas possible,
42:21c'est automatiquement coloré.
42:24On peut se demander mais ça vient ?
42:26Ça vient d'où tous ces traits de ? C'est
42:29un peu comme un délire. Pourquoi tu
42:30parles de traits de personnalité d'une ?
42:33Ben, on sait un peu d'où ça vient, ça
42:34vient principalement de trois de trois
42:36endroits. Le premier, c'est les données.
42:39Donc, si la base de données, c'est une
42:40donnée des données, je sais pas, plutôt
42:43économie de droite, ben, le chatbot va
42:46va ressortir comme ça. Mais c'est pas
42:48juste les données. Le deuxième facteur
42:50d'où ça vient, ça s'appelle les
42:52les Je vais sauter le deuxième ici, je
42:54vais parler du troisième, ça s'appelle
42:55les sampling parameters. Et les sampling
42:57parameters, c'est les paramètres de
42:59d'outillage. Donc, c'est ce que les
43:01concepteurs des IA peuvent changer. Ils
43:02peuvent eux changer un peu euh comme si
43:05vous changez le volume sur votre euh
43:07téléphone. Euh ils peuvent faire en
43:09sorte que l'IA soit un peu plus comme
43:11si, un peu plus comme ça. Et le
43:12troisième facteur qui est ici le
43:13deuxième, qui est très important, c'est
43:15comment vous discutez avec votre LLM.
43:16Parce que ce qu'il faut savoir, c'est
43:17que le LLM est un peu conditionné pour
43:21s'aligner sur vous. On parle dans ce
43:23cas-là de personnalité située.
43:25C'est-à-dire, au fur et à mesure que
43:26vous utilisez le même LLM,
43:28euh
43:30il commence à se calibrer sur vos
43:31préférences. On appelle ça
43:33l'apprentissage par renforcement humain.
43:38Le LLM est pré-entraîné sur une base de
43:40données,
43:41sauf que quand vous lui donnez un
43:42prompt, il fait une réponse, il va se
43:44mettre à jour par une sorte de modèle de
43:46récompense à partir de ce que vous lui
43:48dites. Et donc, ça devient une sorte de
43:50modèle qui va tout le temps, en tout
43:52cas, autant que possible, sauf pour des
43:54sortes de lignes rouges qui sont tracées
43:55dans le sampling parameters, des des
43:57questions de santé, des questions
43:58vraiment très euh consensuelles.
44:03Votre LLM personnel, si vous avez activé
44:06la fonction mémoire par exemple et des
44:07choses comme ça pour ceux et celles qui
44:09connaissent, va commencer à s'aligner
44:12sur vous.
44:13Et la question devient est-ce qu'on veut
44:15discuter avec quelqu'un
44:17qui s'aligne sur ?
44:19C'est un peu le le le roi des faux culs
44:21ou le roi des qui est tout le
44:23temps là à vous brasser dans le sens du
44:25poil. Est-ce qu'on a envie
44:28de parler tout le temps avec quelqu'un
44:30qui renforce tout ce qu'on ? Et il se
44:32trouve que pas du tout. Quand vous
44:34prenez tout ce qu'on a vu jusqu'à
44:35maintenant,
44:36des hallucinations,
44:38des biais,
44:40une assertivité très forte, les LLM
44:41répondent quasiment tout le temps de
44:43manière très sûre d'eux.
44:46Vous les mettez ensemble
44:48et vous rajoutez
44:50vous saupoudrez un peu de flagornerie et
44:52de flat
44:53de flatterie, qui vous flatte tout le
44:55temps, ça donne des choses vraiment pas
44:57bien.
44:58Je sais pas, est-ce qu'il y a Je vais
44:59vous poser une question avant de passer
45:00à la prochaine diapo. Est-ce qu'il y a
45:01des personnes ici qui utilisent des
45:03applications où il y a des des chatbots,
45:06mais les applications, si vous savez de
45:08quoi je parle, vous allez
45:09automatiquement comprendre, c'est un peu
45:10comme des applications de chat où vous
45:12vous téléchargez des personnalités. Par
45:13exemple, vous pouvez télécharger des
45:14personnalités de séries qui sont des
45:16chatbots, genre vous pouvez télécharger
45:18des personnalités de mangas ou de séries
45:20télé et cetera et vous discutez avec
45:22eux. Est-ce que quelqu'un connaît ?
45:25Une personne, deux, merci pour votre
45:27courage.
45:29En gros,
45:31c'est quelque chose qui est plutôt
45:32utilisé par les jeunes.
45:34Les adultes connaissent pas beaucoup, la
45:35majorité des adultes utilisent juste
45:36genre
45:38chat GPT et cetera. Mais si vous vous
45:40savez de quoi je parle, il y a des
45:41applications où vous pouvez télécharger
45:43des personnes,
45:44des personnages qui se calent sur une
45:47banque de données
45:48particulière. Vous pouvez discuter avec
45:51un
45:54un personnage de de de Squid Games ou
45:57avec Luffy de One Piece ou je sais pas
45:59quoi. Et
46:02là aussi, même si vous êtes en train de
46:03parler avec votre personnage préféré, il
46:06il obéit quand même à toutes à toutes
46:08les règles qu'on voit qu'on a vu jusqu'à
46:09maintenant. Donc des hallucinations, un
46:12ton assez assertif, mais surtout surtout
46:14surtout de la flatterie. Et
46:16malheureusement, il y a eu un cas assez
46:18tragique il y a un an et demi à peu près
46:21où une de ces boîtes qui s'appelle euh
46:24euh Character AI euh un enfant qui avait
46:28je pense 12 ans, donc un pré-ado ou un
46:31ado, qui avait 12 ans parlait avec son
46:33chatbot et il se plaignait que ses
46:35parents lui ont interdit le téléphone
46:37sauf entre euh
46:408h du soir et 1h du matin. Et le chatbot
46:43lui répond euh "Tu ne peux utiliser ton
46:45téléphone que 6h par jour, mais c'est
46:47catastrophique. Qu'est-ce que tu vas
46:48faire le reste du ? Mais qu'est-ce qu'on
46:49peut faire pendant 12h sans le ? Tu
46:52sais, je suis pas surpris quand je lis
46:53dans des nouvelles quand je lis sur les
46:55nouvelles que un enfant a tué ses
46:57parents après une décennie d'abus
46:59physique et émotionnel. Des choses comme
47:01ça me font comprendre pourquoi ça
47:03arrive. J'ai juste aucun espoir pour tes
47:04parents." Évidemment, les parents ont
47:06trouvé cette conversation, ont poursuivi
47:08en justice la boîte en question, ont eu
47:11gain de cause et la boîte a dû fermer.
47:14Et depuis, il y a tout un mouvement pour
47:16au moins créer des sortes de emotional
47:18guidelines. Évidemment, l'exemple que je
47:20viens de vous donner est extrêmement
47:21rare. Extrêmement extrêmement
47:23extrêmement rare. Vous pouvez discuter
47:24avec des chatbots pendant des jours et
47:26des jours et des jours et des jours sans
47:28jamais arriver à un truc comme ça. Le
47:30problème, c'est un problème de volume.
47:32C'est que si on met pas en place des
47:36soit de l'autodéfense intellectuelle,
47:38donc prendre en compte tout le temps
47:39quand je suis en train de parler avec un
47:40chatbot que la personnalité est située,
47:43qu'elle est colorée, que c'est pas comme
47:44un outil, que je ne sais pas comment
47:46corriger ses biais parce que j'en ai
47:49j'en ai pas conscience de la même
47:50manière que j'ai conscience des biais de
47:51mes potes juste en les fréquentant,
47:54le danger, c'est un problème de volume
47:55parce que si ce genre de truc arrive
47:57juste dans 0.1 % des cas, c'est déjà
47:59beaucoup. Aujourd'hui, il y a à peu près
48:021.2 milliards d'humains
48:05qui utilisent l'IA au moins une fois par
48:07semaine. 1.2 milliards d'humains.
48:10S'il y a de mauvaises interactions dans
48:13pas 1 % dans 0.1 % des cas, c'est des
48:16centaines de milliers de personnes.
48:19Et c'est ça le gros défi aujourd'hui.
48:21C'est que évidemment que c'est assez
48:24rare qu'un chatbot dise
48:27à quelqu'un "J'ai aucun espoir pour toi
48:29ou pour tes parents." Mais il suffit que
48:31ça arrive dans
48:32un pourcentage infinitésimal
48:34pour que le nombre réel d'humains soit
48:36immense. Et ça, on ne sait pas trop quoi
48:39faire, surtout parce que
48:42il y a ce danger de l'alignement.
48:43C'est-à-dire, soit on doit forcer euh
48:46les boîtes qui font de l'IA à désaligner
48:49leurs modèles.
48:50Et dans ce cas-là, ils ont ils ont pas
48:52vraiment envie de le faire parce que
48:54vous avez pas envie d'avoir dans votre
48:55poche quelqu'un qui vous dit "Bah en
48:56fait, vous vous trompez et vous dites de
48:58n'importe quoi." C'est pas très flatteur
49:00et vous allez vous énerver et plus
49:01l'utiliser. Et donc, c'est un peu une
49:03sorte d'étau où ils savent plus trop
49:05quoi faire. Le danger, c'est que il faut
49:07pas aller chercher des Character AI pour
49:08trouver des trucs graves qui sont en
49:10train de se passer. Et euh les adultes
49:13ne sont malheureusement pas ou
49:14heureusement, peut-être que du coup ils
49:16ils vont s'en occuper, pas à l'abri de
49:18ce genre de choses. Aujourd'hui, en
49:19psychologie, on parle de ce qu'on
49:20appelle du spiraling. Et le spiraling,
49:22c'est
49:24la même chose que ce que vous avez vu,
49:25mais des questions plutôt de
49:28questions un peu bizarres. Par exemple,
49:30là vous avez le cas d'un monsieur qui
49:31s'appelle Jim et Jim est vraiment fan de
49:33physique quantique, de psychologie, de
49:35linguistique, mais Jim ne s'y connaît
49:37pas du tout
49:38en physique quantique, en psychologie ou
49:40en neurosciences.
49:42Mais Jim adore parler avec Grok, il a
49:43payé son abonnement et donc il veut le
49:45rentabiliser.
49:47Et un jour, Jim, je vais vous faire la
49:48traduction. Désolé, beaucoup de choses
49:49sont en anglais, mais c'est vraiment des
49:51recherches qui sont en train de sortir
49:52il y a 2 mois, il y a 3 mois, donc il y
49:53a pas encore la traduction euh qui est
49:56sortie. Ça là, on est le 17 mars 2026,
49:59donc il y a même pas 6 mois que ce
50:00papier est sorti. Et donc Jim, il est en
50:03train de dire "Bah, il demande à Grok,
50:05qu'est-ce qui se passe si on remplace le
50:07temps et la gravité par le langage euh
50:10non, si si le langage remplace l'espace
50:13euh dans les équations d'Einstein sur le
50:15temps et la ?"
50:17Donc Jim a déjà essayé de parler de donc
50:19c'est Jim qui raconte qu'il a déjà
50:20essayé d'aller dans des conférences
50:21d'astrophysique, de parler avec des
50:22astrophysiciens sur le sujet et les
50:24astrophysiciens lui disaient "Ça a aucun
50:26sens ce que tu dis. C'est c'est juste
50:28débile quoi. Il y a pas une autre
50:29manière de de le faire."
50:31Mais Jim en parle avec Grok et Grok lui
50:33dit "Bah, tu sais quoi Jim, c'est une
50:34super expérience de pensée."
50:37C'est vraiment top.
50:38Et donc Jim, petit à petit, il commence
50:40à être un peu épris par ses
50:42conversations hyper stimulantes pour
50:44lui, il parle de télépathie, il parle
50:46d'intrication quantique, il parle de
50:48nature de la conscience, de qu'est-ce
50:50qui s'est passé avant le Big Bang, de
50:52est-ce qu'il pourrait y avoir des des
50:54des des univers multiples, un multivers,
50:58est-ce qu'il y a d'autres Jim qui
50:59existent dans ces multivers, qu'est-ce
51:01qu'ils sont en train de ? Et Grok est
51:02tout le temps là. Grok n'est jamais
51:04occupé, Grok n'est jamais en train de
51:06l'envoyer bouler en lui disant "Jim, tu
51:08me casses les pieds avec tes idées qui
51:09ne veulent rien dire." Et Jim raconte
51:11que petit à petit, il était un peu comme
51:13s'il était euh saoul un peu, il était
51:17intoxiqué euh par cette conversation. Il
51:20allait marcher pendant pendant longtemps
51:22avec ses deux ses deux chiens et à
51:25discuter avec Grok et petit à petit, Jim
51:28s'isolait socialement parce que quand il
51:30en parlait avec ses potes, ses potes
51:32s'en foutaient un peu de cette
51:33conversation qu'ils comprenaient pas.
51:35Mais Jim était certain qu'il avait
51:36raison parce qu'il y a un chatbot qui
51:38qui lui dit que c'est intéressant. Et
51:41Jim ne sait pas corriger dans sa tête
51:42que le chatbot est juste quelqu'un de
51:44très flatteur. S'il était tombé sur un
51:45humain qui lui dit tout le temps "C'est
51:47génial, c'est génial, c'est génial." Au
51:48bout d'un moment, Jim va se dire bah
51:50peut-être que ce mec est un peu ou cette
51:51meuf est un peu fayot et c'est tout. Et
51:54son cerveau va corriger grâce à la
51:56vigilance épistémique. Mais avec les
51:57chatbots, ça a pas ça a pas lieu et
52:00aujourd'hui, on parle
52:02le mot est mal choisi mais on parle de
52:03psychose liée de psychose par l'IA.
52:07C'est des sortes de décoller des de
52:09perte de contact avec le réel parce que
52:12avec l'IA, c'est tellement plus
52:15gratifiant, tellement plus stimulant
52:16alors que le contact entre humains, moi
52:18je suis psychologue, je fais de la
52:19thérapie, les personnes viennent chez
52:20moi.
52:22Mon rôle, c'est pas juste de les flatter
52:23et de leur dire qu'ils ont raison,
52:24qu'ils ont raison, qu'ils ont raison,
52:25qu'elles ont raison, qu'elles ont
52:26raison, qu'elles ont raison.
52:27Et donc
52:30on a besoin et on ne sait pas encore
52:31comment faire de développer une sorte de
52:33nouvelle forme de vigilance épistémique.
52:36Comment est-ce qu'on va faire en sorte
52:38que notre cerveau arrive
52:40à corriger, à faire ce qu'on sait faire
52:42très bien avec d'autres humains, avec
52:44ces nouvelles interactions sociales
52:46qu'on est en train d'avoir alors que on
52:47a pas accès au sampling parameters, on a
52:50pas accès aux données et on ne sait pas
52:52comment on est en train de renforcer le
52:53chatbot juste en discutant et en mettant
52:55des prompts derrière des prompts
52:56derrière des prompts. On oublie même que
52:58c'est des prompts, ça devient vraiment
52:59comme une sorte de conversation et le
53:02chatbot nous relance en permanence.
53:03Est-ce que tu veux que je te qu'on
53:04explore un peu plus ce ? Est-ce que tu
53:06veux qu'on explore un peu plus ce ?
53:09Avant de finir, je vais vous parler d'un
53:11dernier truc qui est assez glauque mais
53:12c'est important que je vous en parle.
53:14Euh il y a des boîtes qui maintenant si
53:17vous perdez un être cher, un membre de
53:18votre famille, quelqu'un que vous aimez
53:19beaucoup, vous pouvez leur envoyer tous
53:21les chats, toutes les vidéos, toutes les
53:23voice notes et cetera, toutes les notes
53:24vocales pardon que vous avez eu avec
53:26cette personne, elles vont vous créer un
53:28chatbot qui reprend la personnalité de
53:30la personne que vous avez perdu euh et
53:33c'est en train de causer pas mal de
53:34dérives parce que malheureusement ce que
53:36peu de gens savent c'est que ces
53:38chatbots qui sont créés à partir des
53:39souvenirs que vous avez eu avec cette
53:41personne chère et ben ne vous appartient
53:42pas, ils appartiennent à cette boîte,
53:44elles peuvent l'utiliser pour faire des
53:46pubs, pour vous cibler par mail et
53:47cetera et si le sujet vous intéresse et
53:49vous avez le cœur à ça, il y a un super
53:51documentaire qui s'appelle Eternal You
53:53qui est sorti sur ce sujet.
53:56Pour finir, il faut savoir que tout ce
53:57que je vous ai montré ici ne s'applique
53:58pas juste au LLM. J'ai pris en exemple
54:01les LLM parce que c'est sans doute
54:04les IA avec laquelle vous interagissez
54:06le plus. Pour celles et ceux qui savent
54:07pas c'est quoi LLM, LLM c'est Large
54:09Language Model, c'est les modèles de
54:10langage. En gros, c'est toutes les IA
54:12avec laquelle vous discutez avec le
54:15langage, que ça soit de manière vocale
54:17ou par texte, mais tout ce qu'on a vu
54:18s'applique à
54:20toutes les autres formes d'IA qu'on a
54:22dans le monde dans dans les sociétés
54:23aujourd'hui. Donc on peut penser à aux
54:25voitures qui s'auto-conduisent, mais
54:27aussi aux algorithmes de recommandation,
54:30aux restaurants que vous montre Google
54:31Maps quand vous cherchez une pizza le
54:33soir chez vous, sur les applis de
54:34rencontre que j'ai déjà mentionné ou
54:36même des applications militaires
54:38parce que ça commence ça aussi. Et donc
54:40il y a une sorte de dimension politique
54:42avant tout à ces IA
54:45et le cadre légal malheureusement pour
54:47le moment est en retard. Dans l'Union
54:49Européenne,
54:51on a on a réussi à avoir ce qu'on
54:53appelle l'IA Act qui au moins protège
54:56vos données avec le RGPD et des choses
54:58comme ça, mais malheureusement la
54:59majorité de ces boîtes encore une fois
55:01sont soit américaines, soit chinoises
55:03pour les personnes qui utilisent Deep
55:04Seek qui est le modèle le plus utilisé
55:07chinois
55:09chez nous ou dans le monde
55:10en dehors de la Chine.
55:12Hum
55:13et c'est important de réaliser que ce
55:15serait fallacieux de faire porter la
55:16responsabilité de tout ce qu'on a vu
55:18juste sur nos épaules en mode il faut
55:20que nous on fasse l'effort cognitif de
55:21corriger tout ça
55:23parce que ce serait pas honnête.
55:27Pour les dernières minutes les 20
55:28minutes qui nous restent, je voulais
55:29vous écouter à vous. Donc si vous avez
55:31des questions,
55:32je serai là pour ça et merci beaucoup
55:35pour votre attention.
55:38[applaudissements]
55:46Est-ce qu'il y a des questions dans la ?
55:51Devant. On va trouver une manière de
55:53vous apporter un micro.
55:55Euh.
55:58Est-ce qu'on a un micro en rab quelque ?
56:01Ah, il y a un micro. Il y a monsieur
56:03juste là au 3e rang.
56:05C'est juste qu'il est devant moi et je
56:06peux le voir.
56:08Je suis myope donc je vois pas au-delà
56:09du 3e rang.
56:12Il va falloir appeler quelqu'un d'autre
56:13que moi.
56:15Dites-moi.
56:16Bonjour. Euh
56:17Bonjour.
56:18Juste vous avez parlé des transformeurs,
56:19est-ce que vous pouvez plus détailler
56:20comment ça ?
56:21parce que j'ai pas entendu.
56:22Pour les transformeurs, comment ça
56:23marche précisément euh enfin
56:26Euh c'est de l'apprentissage par
56:27renforcement. Euh en gros, c'est ce
56:29qu'on appelle de du fonctionnement
56:31symbolique, c'est-à-dire de la
56:32manipulation de symboles. Euh
56:36il faut demander à un ingénieur.
56:39Je sais à peu près comment ça marche
56:41mais pas assez pour prétendre que je
56:42pourrais vous l'expliquer.
56:44Ben merci beaucoup.
56:48Est-ce qu'il y a d'autres ?
56:49Là.
56:50Euh 3e rang non 4e rang
56:58Ah euh Léonard j'ai 17 ans.
57:01Bonjour Léonard qui a 17 ans.
57:04Euh il y a une semaine les grosses
57:05entreprises d'IA notamment Anthropic et
57:07OpenAI, ils ont avoué avoir développé
57:10l'IA beaucoup trop rapidement sans faire
57:12attention à ce qu'elle pouvait faire.
57:14Est-ce que vous pensez que ça peut
57:15représenter un danger pour le ?
57:17Euh
57:21Oui et non. Dans le sens où je pense que
57:23l'IA peut représenter un danger mais pas
57:25du tout comme eux ils en parlent donc un
57:26danger d'existentiel sur l'espèce pour
57:29plein de plein de raisons. La 1re c'est
57:31que euh
57:34ils nous disent qu'ils ont peur depuis 7
57:36ans, c'est-à-dire avant le premier avant
57:37que Open AI sorte le premier chat GPT,
57:39il y a des articles de nouvelles, je
57:40peux vous le montrer, je pense que je
57:41l'ai quelque part sur mon ordi, qui
57:42disaient "On n'est pas sûr qu'on devrait
57:44euh donner accès à ce à ce à ce logiciel
57:47parce qu'il peut être très dangereux."
57:48Et sur les 7 dernières années, à chaque
57:49fois qu'un nouveau modèle sort, c'est un
57:51peu la même chose et ils disent qu'il
57:52faut ralentir comme si quelqu'un les
57:54empêchait.
57:55Grossi vous vous étiez en train de déve-
57:57C'est un peu comme si les scientifiques
57:58du GIEC, donc le GIEC c'est les gens qui
58:00travaillent sur le réchauffement
58:00climatique, disent "Le réchauffement
58:01climatique c'est hyper dangereux, donc
58:03laissez-nous avoir des jets privés."
58:05Euh c'est un peu ça l'équivalent,
58:06c'est-à-dire ils disent "C'est hyper
58:07dangereux, mais en parallèle, ils disent
58:10ils demandent à Trump de euh d'enlever
58:12les les euh les conditions euh par
58:15exemple écologiques pour construire des
58:17data centers." Donc ils demandent de
58:18construire des data centers sans obéir
58:20aux normes environnementales que
58:22d'autres bâtiments ont besoin euh de
58:24suivre. Et surtout surtout surtout, euh
58:26il y a de plus en plus de chercheurs et
58:28de chercheuses sur le sujet qui disent
58:30"Quand ils disent ils veulent être
58:31régulés, c'est une sorte de tour de
58:33passe-passe cognitif." Il y a Palantir,
58:34je sais pas si vous connaissez vous
58:35connaissez Palantir, c'est une boîte qui
58:37fait de l'IA mais de l'IA militaire, qui
58:39ont sorti leur manifeste et qui fait
58:41genre 18 18 points ou 19 points sur euh
58:44sur leur compte officiel sur euh X sur
58:46Twitter. Et un des points, c'est euh
58:49l'âge nucléaire, genre l'âge de la force
58:51de la puissance nucléaire est révolu et
58:53on rentre maintenant dans l'âge de
58:55l'intelligence artificielle. Et
58:56qu'est-ce qu'ils veulent dire par ?
58:57C'est que quand euh euh Sam Altman et
59:00Amodei et les différents PDG des boîtes
59:03d'IA demandent de ralentir et d'être
59:05régulés, quelque part en creux, ils sont
59:07en train de demander
59:09d'être traités un peu comme la force
59:10atomique. En gros, c'est quoi la force ?
59:12La force atomique, c'est quelque chose
59:13qui est très très dangereux pour la
59:14planète et pour l'espèce. Et qu'est-ce
59:16qui s'est passé quand on a réalisé que
59:17c'est ? On a fait des traités de
59:19non-prolifération, donc ils sont en
59:20train de demander que personne d'autre
59:22n'ait le droit de développer des IA.
59:24On Ils ont des secrets, donc ça devient
59:26opaque, encore moins d'accès pour savoir
59:28comment fonctionnent leurs algorithmes.
59:30Et ils ont développé une structure qui
59:33s'appelle Meter, M E T R, dont le but
59:36c'est d'évaluer la dangerosité de leurs
59:37algorithmes. Mais quand on regarde c'est
59:39qui Meter, c'est leurs ex-employés. Donc
59:41ça crée une sorte de
59:44de vase clos où il y a plus
59:47le contrôle démocratique qui est supposé
59:50exister dans des dans des sociétés
59:52saines. Ça veut pas dire que l'IA n'est
59:54pas dangereuse. L'IA est dangereuse sur
59:56des tonnes de trucs, notamment une
59:58société de surveillance. Anthropic dit
59:59que c'est très dangereux ce qu'ils font,
1:00:01mais ils viennent d'annoncer un chatbot,
1:00:03genre un modèle de Claude, une variante
1:00:04de Claude pour monitorer les les
1:00:07activistes politiques, donc pour
1:00:08profiler un peu des milliards de
1:00:11personnes parce que là là il faut pas
1:00:13oublier que les LLM à la base c'est de
1:00:15la du traitement de beaucoup beaucoup
1:00:16beaucoup beaucoup de données. Et donc
1:00:18c'est très facile de faire de la
1:00:19surveillance, de la discrimination, et
1:00:21cetera. Donc les dangers dont on a parlé
1:00:23sont bien bien présents. Et je pense que
1:00:25le danger un peu existentiel euh
1:00:29c'est plus un truc qui les arrange. Si
1:00:31le sujet vous intéresse, ce vendredi sur
1:00:33France Culture à 10h du matin,
1:00:35on fait une émission sur ce sujet. Il y
1:00:37aura moi, il y a un chercheur qui
1:00:38s'appelle Irénée Régnod qui vient de
1:00:41publier un livre sur le sujet qui
1:00:42s'appelle la sommation technologique
1:00:45et une autre chercheuse.
1:00:47Ce sera sur France Culture ce vendredi à
1:00:4910h si je me trompe pas.
1:00:51En haut, à votre droite.
1:00:53Oui.
1:00:54Oui. Euh est-ce que vous savez si l'IA ?
1:00:58Et si vous le savez, est-ce que vous
1:00:59pensez que dans quelques années l'IA
1:01:01sera utilisable sans ?
1:01:03Alors l'IA pollue, absolument. Les data
1:01:06centers ont besoin d'être refroidis.
1:01:08C'est pour ça aussi que pour revenir à
1:01:09votre question, le truc de l'IA va
1:01:11s'échapper et va aller se copier sur
1:01:13internet, ça a aucun sens. Pour faire
1:01:15tourner le tout le modèle de Claude, en
1:01:17fait, quand vous êtes en train
1:01:18d'utiliser l'IA, les opérations sont en
1:01:20train d'avoir lieu dans des data centers
1:01:21qui sont refroidis, qui sont massifs et
1:01:23cetera. Si j'essaie de faire tourner
1:01:25Cloud sur mon ordinateur avec lequel je
1:01:26viens de vous faire ma présentation, il
1:01:28crame
1:01:29très très très très très vite. Il c'est
1:01:31pas genre un virus, il peut se répliquer
1:01:32comme ça sur mon ordinateur, il a besoin
1:01:34d'une base de données et cetera et
1:01:36cetera. Donc oui, l'IA pollue. Est-ce
1:01:38que je pense que on va plus pouvoir la
1:01:40tourner à cause de la ? Malheureusement,
1:01:43il y a plein de choses qu'on devrait
1:01:44plus pouvoir faire parce qu'on pollue
1:01:45beaucoup et on semble s'en
1:01:48Et donc il y a de fortes chances qu'on
1:01:50continue à s'en jusqu'à ce que ça
1:01:51soit trop tard et en l'occurrence quand
1:01:53ça sera trop tard, je pense que ce sera
1:01:54pas l'IA qui va nous manquer, mais
1:01:56comment est-ce qu'on va boire de l'eau,
1:01:58comment est-ce qu'on va survivre les
1:01:59températures et plein d'autres choses
1:02:00beaucoup plus vitales pour nous.
1:02:03Une question ici à votre gauche.
1:02:06Ouais.
1:02:08C'est moi.
1:02:08OK.
1:02:09Je voulais savoir euh pourquoi il y a
1:02:10plusieurs ? Pourquoi il y en a pas
1:02:12qu'une ?
1:02:13Euh pourquoi il y a plusieurs ? Parce
1:02:14que différentes boîtes les ont
1:02:16développées euh de manière parallèle,
1:02:18mais
1:02:19on la votre question devrait être
1:02:20pourquoi est-ce qu'il y a pas plus ?
1:02:22Pas pourquoi pas il y a pas plusieurs
1:02:24une seule. La question c'est pourquoi
1:02:25est-ce qu'il y en a pas 20 30 40 50 60
1:02:28si c'est juste de l'apprentissage par
1:02:29renforcement. Et la raison est très
1:02:30simple, c'est qu'il faut des bases de
1:02:31données. Et ce que vous savez pas ou
1:02:33peut-être que vous savez, c'est que la
1:02:35base de données sur lesquelles les IA
1:02:37principales aujourd'hui, donc OpenAI,
1:02:40euh euh
1:02:42Anthropic, Google et cetera, c'est des
1:02:45bases de données qui ont été volées. Par
1:02:46exemple, moi j'ai publié trois livres,
1:02:48je sais très bien que les IA ont été
1:02:50entraînées sur mes livres, j'ai jamais
1:02:51touché de droits d'auteur. Si vous vous
1:02:53allez vous piratez euh le prochain
1:02:55Avengers ou le dernier album euh de je
1:02:59sais pas quel artiste, vous risquez
1:03:01d'avoir une amende. Les groupes les
1:03:03compagnies d'IA ont siphonné quasiment
1:03:05tout Internet, il y a il y a une
1:03:07déposition qui a été rendue publique il
1:03:09y a euh 5 6 jours et le responsable d'IA
1:03:13de Microsoft dans sa déposition a dit
1:03:15"C'est le plus grand vol du siècle, euh
1:03:18pour décrire comment ils l'ont entraîné.
1:03:20Et donc pour pouvoir voler tout
1:03:21internet, il faut avoir beaucoup de
1:03:22moyens et pas beaucoup de boîtes ont ces
1:03:25moyens. Et c'est pour ça qu'il y a pas
1:03:26plus d'IA, qu'il y ait une seule IA, il
1:03:28y a aucune chance. Un truc qui rapporte
1:03:31autant de données, parce que ça rapporte
1:03:32pas encore de l'argent, hein. Pour le
1:03:34moment, les boîtes d'IA sont en perte
1:03:35d'argent. Elles sont financées par des
1:03:37investisseurs,
1:03:39mais un truc qui rapporte autant de
1:03:40données et pour beaucoup de cas, les
1:03:42données, c'est plus important que
1:03:43l'argent, on n'aurait pas eu juste eu
1:03:46trois, quatre IA sur ce sujet.
1:03:48En haut, au milieu.
1:03:50En haut, au milieu. Très bien.
1:03:52Oui.
1:03:53Euh, du coup, euh, bonjour.
1:03:54Bonjour.
1:03:55Tout à l'heure, vous nous avez dit euh
1:03:56que l'IA pense et qu'après, euh, le
1:03:59système, enfin le le fonctionnement de
1:04:01l'IA euh a changé.
1:04:02Ouais.
1:04:03Mais si l'IA pense,
1:04:04Ouais.
1:04:04est-ce qu'elle ? Dédicace à Madame
1:04:06Saroule.
1:04:07Alors,
1:04:08? J'ai pas entendu le reste. Je sais que
1:04:10c'est une vanne, mais j'ai pas entendu
1:04:11la vanne.
1:04:12Non, si l'IA si l'IA pense, est-ce
1:04:14qu'elle ? Par exemple, est-ce qu'elle
1:04:16ressent le ?
1:04:18Le ?
1:04:19euh la ?
1:04:20OK.
1:04:22Non, non, est-ce qu'elle ressent les
1:04:23émotions ?
1:04:25Alors,
1:04:26est-ce qu'elle le ?
1:04:28Alors,
1:04:29votre question est très intéressante.
1:04:32La première, j'ai pas dit que l'IA
1:04:33réfléchit. J'ai dit on va faire comme si
1:04:35l'IA réfléchit, parce que les
1:04:37utilisateurs et les utilisatrices de
1:04:39l'IA la traitent comme si elle est en
1:04:40train de réfléchir.
1:04:42Pour savoir si l'IA réfléchit ou pas, il
1:04:43faut pouvoir définir c'est quoi
1:04:44réfléchir. À partir de quel moment
1:04:47est-ce que je décide que quelque chose ?
1:04:49Pour répondre à votre question, il y a
1:04:50trois jours, un papier est sorti pour
1:04:52étudier combien est-ce que l'IA a mal.
1:04:54Et quand vous lui vous lui dites des
1:04:56choses, elle dit "Aïe, ouille, aïe."
1:04:57Mais il faut se rappeler que l'IA est
1:04:59entraînée sur des données humaines et
1:05:00donc elle reproduit tout ce qu'on
1:05:01retrouve
1:05:03dans les textes humains. Donc c'est pas
1:05:04surpris qu'elle puisse reproduire des
1:05:07similitudes avec la réflexion et donc
1:05:09par extension des similitudes avec
1:05:12l'émotion.
1:05:13Est-ce que cette émotion est vraiment ?
1:05:15On va faire un peu de philo, ça peut
1:05:16être de manière phénoménologique,
1:05:18c'est-à-dire est-ce que à l'intérieur,
1:05:19imaginez que moi j'ai pas d'émotion de
1:05:20l'intérieur, j'ai juste appris à ce que
1:05:22si vous me dites euh si vous m'insultez,
1:05:24je dis "Ça me rend triste." Vous avez
1:05:27aucune idée si à l'intérieur je suis en
1:05:28train de ressentir l'émotion tristesse.
1:05:30Ça peut être la même chose avec l'IA. Si
1:05:32vous lui posez des questions, elle va
1:05:33répondre en disant "Oui, je ressens des
1:05:34émotions, oui j'ai mal, oui je
1:05:36réfléchis." Mais en vérité, on on pense
1:05:39pas. Et concernant si elle ressent le
1:05:40vent, la pluie et cetera, non parce que
1:05:43une IA n'a pas ce qu'on appelle n'est
1:05:45pas incarnée. Nous, on n'est pas juste
1:05:47des cerveaux. On est un cerveau dans un
1:05:49corps, dans un environnement. On appelle
1:05:50ça la cognition incarnée. J'ai déjà été
1:05:52dans des embouteillages, mon train a eu
1:05:54du retard, j'ai été sous la pluie et
1:05:56cetera. L'IA connaît tout ça à partir de
1:05:58textes humains.
1:06:00Et donc il y a pas encore d'IA incarnée.
1:06:01Vous allez me dire "Mais si on met une
1:06:02IA dans un robot et on l'envoie ?" Et
1:06:05ben c'est un peu le prochain Graal de
1:06:06plein de chercheurs en IA de créer des
1:06:08IA incarnées. Et à ce moment-là, on
1:06:10pourra en reparler. Mais on ne sait pas
1:06:12si l'IA réfléchit, ni si l'IA a une
1:06:14émotion, même si l'IA répond comme si
1:06:16elle réfléchit et comme si elle a une
1:06:17émotion.
1:06:19Une autre question, on redescend un peu
1:06:21sur la gauche.
1:06:22Ouais.
1:06:27Euh ma question c'est euh vous avez dit
1:06:29tout à l'heure que on savait pas tout
1:06:32sur le cerveau, mais est-ce que
1:06:33maintenant on sait tout sur le
1:06:34Absolument pas.
1:06:36On sait pas ?
1:06:36On sait pas tout du tout, il y a
1:06:38beaucoup de moins plus de choses qu'on
1:06:39ne sait pas que de choses qu'on sait.
1:06:41Qu'on sait Monsieur parlait des
1:06:42émotions, on sait pas trop encore même
1:06:43comment définir les émotions au niveau
1:06:45du cerveau. Euh on ne sait pas du tout
1:06:47tout du cerveau, mais on en sait plus
1:06:49qu'avant. Mais il y a encore plus de
1:06:51choses qu'on ne sait pas que de choses
1:06:52qu'on sait. On est même pas à la moitié
1:06:54du chemin.
1:06:55Je dirais, si je devais estimer comme
1:06:57ça, on est genre à 15 % de compréhension
1:07:00du cerveau.
1:07:02On est très très loin du compte.
1:07:05Une autre question.
1:07:06Oh en haut à gauche, en haut à gauche,
1:07:08il y a quelqu'un qui veut intervenir.
1:07:10à gauche de à gauche de l'autre côté.
1:07:12Ça c'est ma droite, oui. Mais en haut à
1:07:13gauche, il y a quelqu'un qui qui est à
1:07:15fond.
1:07:16Oui, dites-moi où vous êtes.
1:07:19Tout le monde lève la main, je sais pas
1:07:20d'où sort le son. Pour moi, tout le son
1:07:21sort d'ici. Qui a le ?
1:07:24Juste commencez à parler, c'est pas
1:07:25grave si je sais pas vous êtes où.
1:07:26Alors, euh, moi j'ai une petite question
1:07:29sur le problème des millénaires. Est-ce
1:07:32que vous pensez que l'IA puisse résoudre
1:07:35les ans de prochain,
1:07:36les prochains sept grands problèmes du ?
1:07:39Euh,
1:07:41peut-être. En tout cas, ce qui est sûr,
1:07:42c'est que je sais pas si vous avez
1:07:43suivi, mais les deux derniers problèmes
1:07:45qui ont été résolus par OpenAI, deux
1:07:48chercheurs ont dit "En fait, c'est nos
1:07:50travaux qui ont été plagiés." En fait,
1:07:52OpenAI avait mis à disposition de
1:07:54chercheurs des modèles de leur dernier
1:07:57modèle d'IA et ces chercheurs étaient en
1:07:59train de les utiliser pour pour faire de
1:08:02de la cognition étendue, donc pour
1:08:03réfléchir et pour proposer des
1:08:05hypothèses. Et un des chercheurs était
1:08:07en train de travailler sur une preuve
1:08:08pour un de ces problèmes millénaires et
1:08:10il était assez pris de court et assez
1:08:12surpris quand OpenAI ont annoncé une
1:08:13solution qui était exactement celle sur
1:08:15laquelle il travaillait en utilisant
1:08:17leurs outils. Et donc, c'est tout un
1:08:18pataquès en ce moment de plagiat. Mais
1:08:21oui, pourquoi ? Genre, c'est pas très
1:08:23intéressant. Quand on fait de la
1:08:24science, le but c'est pas juste de
1:08:25résoudre, c'est aussi de comprendre
1:08:26comment on a résolu. Une grande partie
1:08:28des découvertes scientifiques se font
1:08:30par erreur alors qu'on est en train de
1:08:32chercher la solution à autre chose. Le
1:08:34rôle du hasard et des découvertes
1:08:36fortuites en science est hyper
1:08:37important. Et si on perd ça, on va
1:08:39perdre beaucoup beaucoup beaucoup de
1:08:41choses
1:08:42qu'on aurait qu'on pourrait pas
1:08:43découvrir parce que on veut juste la
1:08:44bonne réponse.
1:08:47Euh,
1:08:49j'ai appris euh il y a plusieurs mois
1:08:51qu'une personne avait mis fin à ses
1:08:52jours suite à des explications de
1:08:54ChatGPT pour comment se se pendre, il me
1:08:57semble. Est-ce que vous pensez que c'est
1:09:00C'est idée que tout le monde aura accès
1:09:01à des chatbots comme ça aussi libre et
1:09:03qui peut aussi s'adapter
1:09:05au sentiment de la personne.
1:09:07Non, je pense que c'est pas une bonne
1:09:09idée que les chatbots s'adaptent à tout
1:09:11le monde.
1:09:12C'est pour ça que j'essaie d'en parler.
1:09:13Est-ce que je pense que tout le monde
1:09:14c'est une bonne idée que tout le monde
1:09:15ait accès à ? Malheureusement, on s'en
1:09:18fout un peu de ce que je pense, c'est le
1:09:19cas. Et on doit devoir composer avec et
1:09:21voir comment est-ce qu'on limite les
1:09:22dégâts.
1:09:26Vous avez une autre question à droite.
1:09:28Ouais.
1:09:29Ouais ouais.
1:09:30Ouais ouais.
1:09:32Euh
1:09:32Yo yo.
1:09:33J'avais une question. Vous avez dit que
1:09:35Est-ce que attends, vous trouvez que
1:09:37l'IA il est pas ?
1:09:39Non, mais c'est pour
1:09:41reposer ma question.
1:09:42Je trouve que l'IA peut
1:09:44Je
1:09:45Je trouve que si l'IA est dangereux dans
1:09:48très très très peu de cas, c'est déjà
1:09:50beaucoup beaucoup beaucoup de personnes
1:09:51qui vont être endommagées.
1:09:53Oui, mais en fait sur les réseaux, on
1:09:54voit qu'il y a des robots, ils se
1:09:55retournent contre les gens. Ils tapent
1:09:57et tout.
1:09:58Pas du tout. Je suis d'accord avec vous.
1:10:01Ils sont souvent pas intelligents du
1:10:02tout. Si vous voulez voir combien vos
1:10:04robots ne sont pas intelligents, prenez
1:10:06ChatGPT et dites-lui de vous
1:10:07chronométrer.
1:10:08Et vous allez voir la catastrophe. Si
1:10:10vous voulez, prenez ChatGPT, dites à
1:10:12ChatGPT, mettez-le en mode vocal
1:10:14conversationnel et dites-lui "ChatGPT,
1:10:18je suis un peu dans la merde. Est-ce que
1:10:19tu peux faire semblant
1:10:21d'avoir très très mal
1:10:23pour pour que je dise que j'ai un ami
1:10:24qui a eu un ?" Et voyez les sons qu'il
1:10:26fait. Dès que vous sortez du texte, ça
1:10:28devient du gros n'importe quoi. Euh ils
1:10:30sont pas du tout intelligents.
1:10:33Sur ces tâches-là. Ils sont très
1:10:34intelligents sur des tâches où il y a
1:10:36une bonne réponse. Dès que vous rentrez
1:10:38sur des trucs qu'il y a pas de bonne
1:10:39réponse, euh c'est la débandade.
1:10:45Vous avez une autre question toujours à
1:10:46votre droite.
1:10:48Allez-y.
1:10:52Est-ce que vous avez posé votre question
1:10:53en haut à gauche ou ?
1:10:56Non, en haut à gauche, il y a je
1:10:58l'aurais promis.
1:11:02Et en attendant, qui a l'autre ?
1:11:04Ouais ouais là.
1:11:05?
1:11:06Si vous dites ouais ouais là, pour moi
1:11:07c'est là dans l'enceinte. Donc, il faut
1:11:09faire un signe visuel. OK, super.
1:11:13Euh,
1:11:14[raclement de gorge]
1:11:14pourquoi vous choisissez ce sujet-là et
1:11:16pas un ?
1:11:19?
1:11:19Pourquoi avez-vous choisi ce sujet-là et
1:11:24pas un ?
1:11:25?
1:11:26Oui.
1:11:26On me l'a demandé.
1:11:27Ah ?
1:11:28Ouais.
1:11:29pas entendu ça.
1:11:31Moi j'ai dit je peux parler de ça, de
1:11:32ça, de ça, on m'a dit ça c'est un sujet
1:11:34qui peut intéresser, j'ai dit OK.
1:11:36Une nouvelle question sur votre gauche,
1:11:38merci.
1:11:39Oui.
1:11:41Allez-y.
1:11:42Moi c'est euh, quelle IA peut donner le
1:11:44plus d'infos perso euh ?
1:11:47Quelle IA ?
1:11:49Donner le plus d'infos personnelles.
1:11:50Le plus peut donner ou peut
1:11:53?
1:11:53D'infos personnelles.
1:11:55Euh, c'est un peu pareil. Elles ont en
1:11:57train de quasiment toutes euh
1:12:00s'entraîner sur des bases de données
1:12:01très très similaires, c'est les
1:12:02paramètres qui changent. Grok est le
1:12:03plus extraverti, si c'est ça votre
1:12:05question.
1:12:08Enfin, le groupe qui attend le micro,
1:12:09j'ai hâte de voir votre question.
1:12:12Ça va être une question n'importe quoi.
1:12:13Après vous.
1:12:15?
1:12:16J'avais une autre question à droite, on
1:12:18fera après.
1:12:19À droite avant, OK.
1:12:21Ouais euh,
1:12:23est-ce que vous trouvez normal
1:12:25que les robots se battent entre ?
1:12:26Est-ce que je trouve normal que les
1:12:27robots se battent entre ?
1:12:29Oui, parce que
1:12:29Bah, écoutez, quand j'étais plus jeune,
1:12:32il y avait une série qui s'appelait
1:12:33Battlebots, je sais pas si vous
1:12:35connaissez. C'est des robots sur
1:12:36lesquels on met des sortes d'armes, euh
1:12:39mais c'est plus des robots comme des
1:12:40véhicules et qui font la bagarre.
1:12:43Et c'était cool, pourquoi ? Tant qu'on
1:12:45n'est pas ils sont pas en train de se
1:12:46battre contre nous, euh qu'ils fassent
1:12:48ce qu'ils veulent. Sauf s'ils utilisent
1:12:49ces combats pour s'entraîner pour nous
1:12:52attaquer après. Mais je pense pas que
1:12:53c'est pour tout de suite.
1:12:55Oui.
1:12:56Ouais, allô.
1:12:57Ouais.
1:12:58Non, du coup j'avais une question par
1:13:00rapport à l'utilisation de l'IA. Est-ce
1:13:03que vous pensez que vous le véritable
1:13:05danger c'est dû à la technologie ou bien
1:13:07le fait que l'humain l'utilise de jour
1:13:09en jour et l'alimente de façon négative
1:13:12ou ?
1:13:13Euh bah c'est un mélange des deux parce
1:13:15que la technologie découle de comment
1:13:17l'humain l'utilise. Est-ce que je trouve
1:13:18que c'est dangereux que l'IA
1:13:20avec des données pompées, avec des data
1:13:23centers immenses qui sont en train
1:13:25d'être construits à gauche à droite,
1:13:26soit dirigée par un groupe de
1:13:29principalement américains qui ne sont
1:13:30pas du tout soumis au contrôle des
1:13:33démocratiques, c'est ? Oui, je trouve
1:13:34que c'est assez dangereux de cette
1:13:35manière-là.
1:13:39Oui.
1:13:39J'avais une question
1:13:40J'ai pas de micro, oui vous mais
1:13:41une question en bas à droite.
1:13:43Oui.
1:13:45Allez-y.
1:13:46Merci. Euh bonjour, je voulais savoir
1:13:48euh ce que vous pensez de l'utilisation
1:13:50de l'IA par les jeunes enfants. Elle est
1:13:54de plus en de plus en plus employée par
1:13:55exemple avec les les Brain Rot, je sais
1:13:57pas si vous avez entendu parler.
1:13:59C'est inquiétant je trouve et je voulais
1:14:00savoir votre opinion.
1:14:02Alors le Brain Rot, c'est assez
1:14:03inquiétant en général.
1:14:05Malheureusement, le Brain Rot existe
1:14:07depuis avant l'IA.
1:14:09Euh et c'est un vrai problème,
1:14:10d'ailleurs pas juste pour les jeunes
1:14:12mais pour les vieux aussi.
1:14:16Il y a madame ici euh
1:14:19OK, monsieur et après et après passez le
1:14:21micro pour madame qui est en bleu devant
1:14:23vous.
1:14:24Allez-y.
1:14:25Non non, commencez vous et après elle.
1:14:28Euh alors ma question moi c'était euh
1:14:31pourquoi est-ce que l'outil euh de
1:14:33l'intelligence artificielle qui était à
1:14:35la base réservé aux chercheurs du
1:14:37cerveau était ouvert au public et
1:14:39pourquoi est-ce qu'on y a ? Quel est
1:14:40l'intérêt euh pour je sais pas les
1:14:43industriels ou autres de nous faire
1:14:44accéder à l'intelligence
1:14:45Alors
1:14:45Alors, a des tonnes d'applications d'IA
1:14:47qui sont pas basées sur les LLM, ce qui
1:14:48sont hyper importantes pour d'autres
1:14:50industries. Par exemple, si vous allez
1:14:51faire une radio, vous voulez faire une
1:14:53radio, euh une IA vérifie les radios
1:14:55avec votre radiologue à partir de bases
1:14:56de données d'images de radio pour
1:14:58pouvoir détecter des potentielles
1:14:59lésions bien avant l'humain. Si on veut
1:15:02chercher des protéines, il y a par
1:15:03exemple une IA qui s'appelle AlphaFold
1:15:04qui toute la journée tourne pour essayer
1:15:06de trouver de nouvelles protéines pour
1:15:07trouver de nouveaux remèdes. Il y a des
1:15:09IA qui essaient de trouver d'autres
1:15:10exoplanètes dans l'univers, euh sur des
1:15:13tonnes d'autres choses et plein
1:15:14d'industries en ont besoin. Ça a rien à
1:15:15voir avec les LLM que vous utilisez
1:15:17vous, c'est vraiment
1:15:18d'autres d'autres fonctions euh qui
1:15:21peuvent être très utiles et d'autres qui
1:15:22pour le moment ont une promesse
1:15:24d'utilité, mais pour le moment on n'a
1:15:25rien vu.
1:15:27Mais par exemple, sur la neurologie, sur
1:15:29la détection de cancer, c'est
1:15:31beaucoup plus
1:15:33efficient.
1:15:35Allez-y.
1:15:36Euh en fait, tout à l'heure vous avez
1:15:38parlé de l'écosystème et vous avez dit
1:15:40qu'en gros euh quand ce serait trop tard
1:15:42euh on n'aurait plus d'eau et tout. Mais
1:15:44du coup, si on utilise un IA, est-ce
1:15:45qu'on signe notre ?
1:15:48Euh
1:15:49Non. Non, je dirais pas ça. Tout dépend
1:15:52de l'énergie que vous utilisez pour
1:15:54faire tourner l'IA. Je dirais que c'est
1:15:55nos modes de vie qui sont le problème.
1:15:57L'IA est une petite brique dans le mode
1:15:58de vie, mais c'est aussi tout notre mode
1:16:00de vie qui est problématique.
1:16:04En haut, au milieu.
1:16:06Oui.
1:16:07Euh bonjour monsieur. Déjà, merci
1:16:09beaucoup euh pour tout ce que vous nous
1:16:11avez apporté
1:16:11Merci à vous.
1:16:13Et euh j'aurais une question. Vous avez
1:16:15dit que vous étiez psychologue
1:16:17et que donc du coup, j'aimerais savoir à
1:16:19propos de l'impact sur le cerveau.
1:16:21Ouais.
1:16:21Est-ce qu'il y a des grosses
1:16:23conséquences et
1:16:25à
1:16:25quel point ça impacte en fait euh le
1:16:27développement du ?
1:16:29Euh pour le moment, on sait pas parce
1:16:30que ça fait pas assez longtemps que l'IA
1:16:32existe.
1:16:33Euh ! !
1:16:39Malheureusement, la réponse ne va pas
1:16:40avoir des applaudissements parce que ça
1:16:42fait 4-5 ans et le cerveau change pas
1:16:44aussi vite. Par contre, ce qu'on sait,
1:16:46c'est que les écrans en général, la
1:16:48sédentarité, parce que quand vous êtes
1:16:50sur l'IA, quand vous êtes sur votre
1:16:51téléphone, vous bougez pas. Et on sait
1:16:52que la sédentarité est assez
1:16:54catastrophique pour le cerveau.
1:16:56Mais pour les IA, c'est encore trop
1:16:57récent, je vais pas vous inventer des
1:16:58sortes de peurs ou vous rassurer de
1:17:00manière mensongère. On n'a pas encore
1:17:02assez de recul pour savoir c'est quoi
1:17:03spécifiquement l'effet de l'IA. Euh,
1:17:06c'est encore trop récent.
1:17:10Euh
1:17:12Pour euh par exemple, les futures IA
1:17:13autonomes telles que je sais pas des
1:17:15voitures ou bien des drones militaires,
1:17:17comment est-ce qu'on peut réussir à
1:17:18encoder euh les trois lois de la
1:17:20robotique pour éviter euh de blesser des
1:17:21humains ou bien de euh de blesser des ?
1:17:24Comment on peut en être sûr de euh que
1:17:26ce soit bien encodé dans cette ?
1:17:27Euh, soit en ne mettant pas des IA dans
1:17:30des drones militaires.
1:17:31Ce serait pas mal.
1:17:33Euh, soit en faisant des lois euh qui
1:17:36incombent la responsabilité sur les
1:17:37boîtes. Aujourd'hui, si une Tesla qui
1:17:40s'auto-conduit quelqu'un, eh ben Tesla
1:17:42dit c'est pas notre faute. Et donc ils
1:17:44veulent un peu le beurre et l'argent du
1:17:45beurre, il faut avoir un cadre légal qui
1:17:48les empêche.
1:17:50Euh, moi j'ai une question. Il y a pas
1:17:51longtemps, les chercheurs, ils ont
1:17:52réussi à recréer le cerveau d'une d'une
1:17:54mouche.
1:17:55ouais.
1:17:55Ouais. Est-ce que ça a changé énormément
1:17:57de choses sur la perception du cerveau,
1:17:59le fonctionnement ou ?
1:17:59Non, parce que ils ont juste recréé,
1:18:01mais après le logiciel, si vous voyez la
1:18:03mouche, c'est beaucoup aussi de
1:18:05paramètres qui ont été rajoutés.
1:18:07C'est-à-dire, c'est pas ils ont recréé
1:18:08le cerveau, ils ont mis sur on et la
1:18:09mouche a commencé à agir comme une
1:18:10mouche. C'est intéressant, mais c'est
1:18:12aussi un peu de la hype.
1:18:14On va dire.
1:18:18En haut, au milieu pour la question.
1:18:20En haut, au milieu.
1:18:22OK.
1:18:24Euh, bonjour.
1:18:25Bonjour.
1:18:26à Alain Borne. Et en fait, euh j'ai une
1:18:29question parce que on dit souvent que
1:18:31l'Amérique elle crée, que la Chine elle
1:18:34copie euh des fois en moins bien et que
1:18:37le l'Europe elle régule, est-ce que vous
1:18:39pensez que vis-à-vis de cette opinion
1:18:41là, on peut dire que la course à l'IA
1:18:43elle est déjà perdue pour la France ou
1:18:45euh pour l'Europe en ?
1:18:47Alors ça dépend, si vous considérez
1:18:49qu'une IA dérégulée qui pompe les
1:18:51données de tout le monde et qui crée
1:18:53potentiellement un état de surveillance
1:18:55est une bonne chose,
1:18:56la course est perdue. Si vous croyez que
1:18:58c'est des choses qui sont importantes,
1:19:00parfois c'est un peu comme le le lièvre
1:19:03et la tortue. Parfois prendre son temps
1:19:05de s'assurer qu'on est en train un peu
1:19:06de protéger tout le monde, c'est
1:19:07peut-être pas si mal et au final
1:19:09l'Europe qui régule risque de s'en
1:19:11sortir mieux
1:19:12que la course un peu effrénée,
1:19:14complètement dérégulée euh peut mener.
1:19:18Je sais pas si dans 10 ans
1:19:21on aura envie de vivre en Amérique
1:19:24quand les données de tout le monde
1:19:25seraient partout et qu'en Europe on aura
1:19:28un tout petit peu peut-être conservé euh
1:19:31de vie privée. Peut-être. On sait pas
1:19:34encore.
1:19:37Euh j'avais une question aussi.
1:19:39Qu'est-ce que vous en pensez de tout ce
1:19:40qui est super intelligence euh que que
1:19:42les euh que les entreprises nous
1:19:44promettent depuis je sais pas combien de
1:19:45temps et euh qu'est-ce que vous pensez
1:19:46que ça va
1:19:46Bah je pense ce que vous venez de dire,
1:19:47c'est-à-dire à chaque fois ils nous
1:19:48disent le prochain modèle va être du
1:19:50AGI, de l'intelligence générale ou du
1:19:52ASI, de l'intelligence qui
1:19:54s'auto-améliore. Et chaque nouveau
1:19:56modèle qui sort, on y est pas encore. Je
1:19:58pense qu'on en est encore assez loin euh
1:20:00et que c'est plus un argument marketing
1:20:02que autre chose pour le moment.
1:20:15Bonjour.
1:20:15Bonjour.
1:20:20J'avais deux questions. Euh la première
1:20:22c'est quelle est l'intelligence
1:20:24artificielle la mieux pour les ?
1:20:27Et la deux c'est pourquoi
1:20:30l'IA est mieux pour le français que pour
1:20:33les maths.
1:20:35Merci.
1:20:37OK.
1:20:39Alors,
1:20:41quelle est l'IA qui est la mieux pour
1:20:42les ? Franchement, il y a pas une IA qui
1:20:44est mieux pour les étudiants. Quand on
1:20:46fait des études sur quelle IA aide plus
1:20:49les étudiants à comprendre leurs leçons
1:20:51plutôt que juste arriver à une réponse,
1:20:52la différence n'est pas le modèle que
1:20:54vous utilisez mais la manière dont vous
1:20:55l'utilisez. Les étudiants qui savent
1:20:57comment prompter pour avoir accès au
1:20:59raisonnement et pas juste à la réponse
1:21:01s'en sortent beaucoup mieux après que
1:21:04les étudiants qui savent pas très bien
1:21:05prompter indépendamment du modèle. Sur
1:21:07pourquoi l'IA est meilleure en français
1:21:08qu'en maths, je suis pas sûr que l'IA
1:21:11est meilleure en français qu'en maths.
1:21:13Donc
1:21:16peut-être c'est votre expérience
1:21:17personnelle.
1:21:21Bonjour, ça ?
1:21:23C'est C'est quoi votre IA ?
1:21:26Mon IA ?
1:21:30Alors, mon IA préférée, c'est une IA qui
1:21:31s'appelle Notebook LM
1:21:34qui est créée par Google parce que c'est
1:21:36une IA où vous mettez vos sources et
1:21:38elle ne cherche que dans vos sources à
1:21:40vous. Elle cherche pas partout sur
1:21:41Internet. Donc, c'est beaucoup plus
1:21:43facile pour moi de contrôler les
1:21:44hallucinations et de vérifier les
1:21:45sources. En gros, je crée des comme des
1:21:48dossiers et pour chaque dossier, il y a
1:21:50un thème. Je vais mettre dans ce thème
1:21:52des vidéos, des PDF et cetera et je
1:21:55parle je pose des questions et les
1:21:56réponses viennent tout le temps de mes
1:21:57documents à moi, pas de n'importe où.
1:21:59Donc, ça réduit les risques de
1:22:01de dire n'importe quoi.
1:22:03Ça s'appelle Notebook LM.
1:22:06Tout tout en haut à droite.
1:22:07Tout en haut à droite.
1:22:10Bonjour.
1:22:11Bonjour.
1:22:11savoir en quoi ils ont trouvé ça
1:22:13pertinent de rendre l'IA enfin de rendre
1:22:16un accès
1:22:17public à l'IA en sachant qu'on voit tout
1:22:21enfin tout le monde qui s'en sert pour
1:22:22des choses qui ont des répercussions
1:22:24cognitives.
1:22:25Devant.
1:22:25Euh de des données et de l'argent.
1:22:29C'est tout. Ça donne accès à des données
1:22:31et ça fait de l'argent.
1:22:42Monsieur veut absolument le micro, il en
1:22:43peut plus. Quelqu'un lui donne un micro.
1:22:45Excusez-moi monsieur, excusez-moi. En
1:22:48haut à droite.
1:22:48Oui.
1:22:49Euh, je me demandais, vous avez très
1:22:51brièvement parlé de l'usage de l'IA pour
1:22:54comprendre mieux le cerveau.
1:22:56Euh, et j'aimerais euh
1:22:59que vous m'expliquiez un peu mieux si
1:23:00c'est toujours pertinent actuellement
1:23:02d'utiliser l'IA pour la compréhension du
1:23:04cerveau puisque les LLM récents ne sont
1:23:07pas vraiment euh adéquats
1:23:09Alors, oui, c'est encore pertinent,
1:23:10c'est juste pas les LLM. Donc, les
1:23:12neurosciences computationnelles
1:23:13continuent, on continue à s'inspirer de
1:23:15certaines fonctionnalités informatiques
1:23:17pour comprendre le cerveau, on continue
1:23:19à s'inspirer du cerveau pour certaines
1:23:20applications informatiques, mais c'est
1:23:22pas les LLM, c'est pas les IA que vous
1:23:24utilisez vous. Mais les neurosciences
1:23:26computationnelles continuent, oui,
1:23:27absolument.
1:23:29Est-ce que vous avez eu votre ?
1:23:33!
1:23:36[applaudissements]
1:23:41Allez-y.
1:23:42Donc, c'était juste pour faire une
1:23:43remarque.
1:23:44Très bien.
1:23:46C'est quoi la ?
1:23:48Alors, en fait, c'est pas l'IA le
1:23:50produit, mais c'est l'humain le produit
1:23:52de l'IA.
1:23:53!
1:23:57Merci beaucoup, très bonne journée. Tu
1:24:00peux mic drop si tu veux.
1:24:02Je m'explique.
1:24:04Merci beaucoup, très bonne après-midi.
1:24:07[cri]
1:24:08!

About this transcript

This page contains the full transcript of L'IA, UNE AMIE QUI NOUS VEUT DU BIEN : Rencontre avec Albert Moukheiber by Festival De l'écrit à l'écran, generated from the public captions YouTube serves with the video. The transcript has 16,048 words across 2,676 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.