Part 1 - IA Generative Multi Modale et Agentique — Transcript
Full transcript
- 0:19Bien. Bonjour. Bonjour tout le monde.
- 0:24Vo bien les sourires tout va bien.
- 0:28Voilà.
- 0:29Alors voilà, donc je suis très content
- 0:32de vous revoir, ça fait quelques
- 0:34moments.
- 0:36Euh en fait cette année pour vous c'est
- 0:39une année particulière, donc c'est
- 0:41l'année terminale. Donc pour la major la
- 0:44majorité d'entre vous peut-être c'est le
- 0:48peut-être bon c'est la dernière année de
- 0:50votre cursus académique.
- 0:53Euh et donc voilà donc il y a la la vie
- 0:55professionnelle euh qui qui s'ouvre à
- 0:58vous.
- 0:59Et il faut le savoir, c'est que dans
- 1:02quelques semaines, vous allez commencer
- 1:03à faire des entretiens euh pour
- 1:06décrocher des opportunité de de stage,
- 1:08de projet, de fin d'étude. Mademoiselle,
- 1:13tu veux que je te laisse encore un peu
- 1:14de temps pour lui raconter ce que tu as
- 1:17fait pendant tout ?
- 1:20[rires]
- 1:22Bon le donc bientôt vous allez commencer
- 1:26à faire des entretiens euh pour
- 1:29décrocher des opportunités
- 1:32et donc c'est très important cette
- 1:34année-là. Donc vraiment il y a pas il y
- 1:36a pas du temps à perdre parce que en
- 1:39fait d'abord vous avez des modules de
- 1:42spécialité et en même temps euh il y a
- 1:45d'abord la maîtrise technique. C'est
- 1:46important la maîtrise technique de du
- 1:48concept plutôt de c'est-à-dire
- 1:51développer des applications basées sur
- 1:53l'intelligence artificielle donc et
- 1:55maîtriser l'écosystème de tout ce qui
- 1:57est la data. Donc ça c'est important,
- 2:00mais il faut pas négliger une chose qui
- 2:01est très importante, c'est que euh en
- 2:04fait il y a le vocabulaire, c'est très
- 2:07important parce que quand vous allez
- 2:08faire des entretiens, alors parfois donc
- 2:11il y a des petites questions qui
- 2:12nécessitent des petites réponses et
- 2:15parfois pour répondre correctement, il
- 2:16vous faut utiliser le bon le bon mot
- 2:19vocabulaire. Et donc ce qui fait que euh
- 2:22n'hésitez pas quand vous faites des
- 2:24activités pratiques de en fait de de
- 2:28noter euh le vocabulaire technique de
- 2:30base que vous devrez retenir euh pour
- 2:33pouvoir pour pouvoir bien sûr euh euh
- 2:36répondre à des questions, d'éventuelles
- 2:38questions qui sont très très pointues.
- 2:41Alors, c'est la raison pour laquelle en
- 2:43fait nous on va continuer, bon, vous me
- 2:45connaissez déjà, donc on va continuer à
- 2:46travailler toujours de la même manière
- 2:49ce semestre là. Donc vous allez vous
- 2:51allez avoir un en fait un module qui
- 2:54s'appelle li a générative multimodal.
- 2:56Alors l'IA générative multimodale donc
- 2:59en principe il y a deux parties et il y
- 3:01a la partie visuelle et la partie
- 3:03textuelle. Donc euh c'est pour cela vous
- 3:04avez deux éléments qui sont séparés mais
- 3:06en réalité c'est le c'est le même module
- 3:09parce que juste il y a une partie qui va
- 3:11traiter le texte et une autre partie qui
- 3:12va traiter le le côté visuel,
- 3:14c'est-à-dire les images.
- 3:16Et donc c'est un domaine que vous
- 3:18connaissez déjà en partie. Vous allez
- 3:19trouver que dans ce module, il y a
- 3:22encore des choses qu'on a déjà faites
- 3:23l'année dernière et qu'on va encore
- 3:25reprendre en profondeur. Donc ce qui
- 3:28fait que vous serez pas dépayisé, c'est
- 3:30que il y aura à un moment donné, on va
- 3:32encore retrouver les agentiques euh
- 3:34encore avec euh tout l'écosystème que
- 3:37nous avons fait l'année dernière. il y
- 3:39aura un projet que je vais vous
- 3:41présenter à partir de la semaine
- 3:43prochaine. Et donc la même chose donc
- 3:45c'est un projet général euh qui
- 3:48ressemble à peu près, c'est un type de
- 3:51projet qui ressemble à peu près à ce que
- 3:54euh les entreprises aujourd'hui
- 3:56demandent, c'est-à-dire au stagiaires.
- 4:00parce que nous avons constaté que dans
- 4:02la majorité des projets de fin d'étude
- 4:04qui qui viennent de de de terminer, dans
- 4:06la majorité des cas, c'est des
- 4:08applications agenti qui aura toujours
- 4:11graph, il y aura toujours MCP, il y aura
- 4:13toujours des agents AI, il y aura
- 4:15toujours des LLMs euh et il y aura
- 4:18toujours des modèles d'intelligence
- 4:19artificielle. Bah il du coup donc cette
- 4:22partie là on a déjà vous êtes déjà
- 4:24préparé pour ça parce que l'année
- 4:26dernière on a beaucoup avancé là-dessus
- 4:29sauf que c'est vrai que l'année dernière
- 4:31on a fait plus ce qu'il fallait faire
- 4:32peut-être parce qu'il y a une bonne
- 4:34partie de de ce que nous avons fait
- 4:36l'année dernière on va la retrouver
- 4:37cette dans ce programme. Donc ce qui
- 4:39fait que vous serez pas dépaysé donc on
- 4:42va encore travailler avec les LLMS.
- 4:46Alors, sauf que l'année dernière donc
- 4:48on a beaucoup travaillé avec les LM open
- 4:51parce qu'on va mais c'est cette
- 4:53année-là, vous allez beaucoup travailler
- 4:55avec les LLMs open source parce qu'on va
- 4:57faire du fine tuning. On va encore
- 4:59rentrer un peu plus dans les détails la
- 5:01structure de des des large language
- 5:04models. Et donc il y a beaucoup de de
- 5:07choses qui sont intéressantes dans
- 5:09laquelle on va combiner. il y aura des
- 5:10pour vous des nouveaux concepts et des
- 5:13nouvelles, on va dire maîtrise technique
- 5:16que vous allez euh que vous allez faire.
- 5:18Et puis il y a surtout donc euh euh en
- 5:22fait une une bonne partie de ce que
- 5:25va approfondir les connaissances par
- 5:27rapport à ce que nous avons fait le
- 5:30l'année dernière.
- 5:32Alors aujourd'hui c'est la première
- 5:33séance donc normalement je devrais avoir
- 5:35beaucoup de monde mais ils arrivent
- 5:37comme du goutto comme [rires]
- 5:39[grognement] alors j'espère que pour les
- 5:41les semaines qui viendront
- 5:43essayz de de faire l'effort de de venir
- 5:46à temps parce qu'en fait comme je disais
- 5:48donc dans ce semestre il y a pas
- 5:49beaucoup de temps à perdre et donc il
- 5:51faut que qu'on avance.
- 5:54Alors, c'est une première séance donc il
- 5:56y aura beaucoup de rappels et les
- 5:59rappels euh dans le domaine de
- 6:02l'intelligence artificielle font
- 6:04toujours du bien parce qu'il se trouve
- 6:06que vous faites beaucoup de en fait vous
- 6:10avez beaucoup de modules dans lequel
- 6:11vous traitez le le machine learning, dit
- 6:14learning et les réseaux neuron
- 6:16artificiel. Mais il se trouve encore que
- 6:18dans notre module les réseaux neuron
- 6:21artificiel c'est une partie qui est très
- 6:23importante. C'est un prérequis très
- 6:25important et les bases de machine
- 6:28learning c'est des prérequis. Donc c'est
- 6:30la raison pour laquelle aujourd'hui donc
- 6:31je vais prendre un peu de temps pour
- 6:33rappeler un certain nombre de concepts
- 6:36qu'il faudrait retenir
- 6:38et c'est des choses qui sont
- 6:39fondamentales. Donc voilà. Donc on va en
- 6:41parler aujourd'hui.
- 6:45Alors on va commencer par quoi ?
- 6:48Alors, d'abord
- 6:51la première des choses donc je rappelle
- 6:53que l'intelligence artificielle c'est
- 6:56une grande discipline
- 6:58dans laquelle vous avez de on va dire il
- 7:00y a deux branches dans le domaine de
- 7:01l'intelligence artificielle. Il y a une
- 7:04branche ce qu'on appelle lia symbolique
- 7:06et puis il y a une autre grande branche
- 7:08ce qu'on appelle euh l'IA basé sur
- 7:11l'apprentissage. C'est ce qu'on appelle
- 7:13machine learning.
- 7:15Et donc l' symbolique, c'est une
- 7:17approche historique. Bah c'est une
- 7:19approche historique, c'est-à-dire que
- 7:20depuis que l'intelligence artificielle a
- 7:22été créé, bon l symbolique donc été
- 7:26utilisé
- 7:28euh généralement euh quand est-ce qu'on
- 7:30utilise lien symbolique ? Quand
- 7:33vous êtes devant un problème euh
- 7:37déterministe.
- 7:39Alors, quand on est dans un problème
- 7:41déterministe, ça veut dire quoi
- 7:43déterminist ? Ça veut dire que vous êtes
- 7:44dans un problème du type if si cette
- 7:47condition est vérifiée, je fais ça. Si
- 7:48cette condition est vérifiée, je fais
- 7:50ça. Si cette condition est et cetera et
- 7:52cetera. Donc c'est-à-dire vous êtes dans
- 7:53un problème. Si je suis dans une
- 7:55situation, voilà ce que je dois faire,
- 7:57n'est-ce pas ? Et parfois, il se trouve
- 7:58que dans des domaines comme par exemple
- 8:01la santé, comme par exemple la
- 8:02logistique et d'autres domaines, c'est
- 8:04que parfois on est dans des problèmes
- 8:05déterministes. C'est-à-dire et quand on
- 8:07est dans des devant des des problèmes
- 8:09qui sont déterministes, bah ça sert à
- 8:11rien d'aller faire de euh de l'IA basé
- 8:14sur l'apprentissage. Généralement, l'IA
- 8:16symbolique, il est très utilisé euh il
- 8:19est d'actualité euh c'est-à-dire il y a
- 8:21des domaines là où on peut utiliser lien
- 8:23symbolique pour résoudre des problèmes.
- 8:25Donc je rappelle juste que lia
- 8:26symbolique donc c'est une approche de
- 8:29l'IA qui représente la connaissance sous
- 8:31forme de symbole
- 8:33seus forme de règles
- 8:36plutôt c'est c'est des règles explicites
- 8:38en utilisant ce qu'on appelle la logique
- 8:40formelle. Autrement dit, donc c'est ce
- 8:42que je viens de dire tout à l'heure. En
- 8:43résumé, un algorithme de lien
- 8:45symbolique, ça ressemble à quelque chose
- 8:47comme if else if else if else if,
- 8:51c'est-à-dire suite à cette condition, je
- 8:53fais ça. Si cette condition, si je suis
- 8:55dans cette situation, je dois réagir
- 8:57ainsi et cetera. Et donc l' symbolique,
- 8:59c'est pas ce qui nous intéresse nous
- 9:00bien sûr parce que c'est ça ne
- 9:03représente qu'une petite partie de de
- 9:05l'intelligence artificielle qui est
- 9:06exploité. Mais il faut pas oublier ça.
- 9:09Il faut pas oublier que les il y a
- 9:11encore des problèmes dans le différents
- 9:13domaines dans lesquels on n' pas besoin
- 9:16de d'aller vers l'apprentissage
- 9:19plutôt le basé sur l'apprentissage mais
- 9:22on reste sur ce qu'on appelle un moteur
- 9:24de règle. On crée un moteur de règle et
- 9:26puis avec ce moteur de règle, ça permet
- 9:28de régler le problème. Et c'est quoi
- 9:29l'avantage
- 9:31du lien symbolique ? Alors, l'avantage
- 9:33de lien symbolique, c'est ce qui d'abord
- 9:35il est explicable, c'est-à-dire on peut
- 9:37expliquer, on peut comprendre facilement
- 9:39la pourquoi la telle décision a été
- 9:42prise et en même temps l symbolique, il
- 9:44est contrôlable et prévisible. Donc il y
- 9:46a pas de surprise. Ce n'est pas comme
- 9:48par exemple les algorithmes de deep
- 9:50learning qui sont pas explicables.
- 9:53C'est-à-dire c'est c'est parfois on vous
- 9:55avez un modèle qui prédit des choses
- 9:57mais on peut pas savoir pour quelle
- 9:59raison il a prédit telle chose. C'est
- 10:01difficile à expliquer. Et donc euh
- 10:03voilà. Donc ça on va on va plus en
- 10:06parler parce que c'est pas ce qui nous
- 10:08intéresse dans le domaine de lia
- 10:09génératif. Et ce qui nous intéresse
- 10:11plutôt, c'est la grande partie des
- 10:14applications industrielles aujourd'hui.
- 10:16Ils sont plutôt basés sur
- 10:19l'apprentissage, c'est-à-dire sur
- 10:20machine learning. Alors maintenant, si
- 10:22on reste dans le domaine de du machine
- 10:24learning, c'est-à-dire dans le domaine
- 10:26de l'a basé sur l'apprentissage,
- 10:30bah vous avez parler de d'abord ce qu'on
- 10:34appelle prédictive et décisionnel. C'est
- 10:36quoi l'objectif ? apprendre à prédire
- 10:39pour prendre des décisions. Et quand on
- 10:41dit apprendre euh comment on peut
- 10:44apprendre ?
- 10:45Il faut savoir qu'on peut apprendre soit
- 10:46à partir des données structuré ou non,
- 10:50on peut apprendre à partir de
- 10:52l'expérience,
- 10:54ça c'est je vais en parler, c'est ce
- 10:56qu'on appelle l'apprentissage par
- 10:57renforcement et on peut apprendre par
- 11:02les lois de la physique. Alors ça, on
- 11:04l'oublie souvent, c'est que parfois
- 11:07parfois il se trouve qu'il y a des
- 11:08domaines dans lesquels je connais déjà
- 11:11les équations de la physique,
- 11:13c'est-à-dire je connais déjà les
- 11:14équations différentielles qui permettent
- 11:17de résoudre un problème physique. Bon,
- 11:20les lois de la physique, on les connaît.
- 11:21Par exemple, si vous rappelez, je sais
- 11:22pas euh peut-être au baccalauréat, vous
- 11:26avez fait un peu de physique, n'est-ce
- 11:27pas ? vous rappelez la loi de Newton, la
- 11:29loi de euh je sais pas de euh les
- 11:33différentes lois de la physique euh on
- 11:35peut toujours parfois les utiliser euh
- 11:37pour pouvoir euh modéliser, créer un
- 11:40modèle physique. Et donc ce qui fait que
- 11:42parfois les les il y a des domaines
- 11:45notamment dans le domaine de
- 11:46l'ingénierie plutôt de on va dire de de
- 11:50des sciences de l'ingénieur de manière
- 11:51générale, dans la majorité des cas, on a
- 11:55déjà une idée sur le le modèle de la
- 11:57physique, c'est-à-dire les équations
- 11:58différentielles qui permettent de
- 12:00c'est-à-dire de piloter ou bien de
- 12:02gouverner un un système. Et donc parfois
- 12:06on peut créer un modèle de
- 12:08l'intelligence artificielle
- 12:10qui peut être guidé ou bien entraîné par
- 12:13ce qu'on appelle les la physique. Alors,
- 12:16on aura l'occasion de parler de ce sujet
- 12:18là parce que c'est quand même un élément
- 12:19qui est aussi important. Et donc on va
- 12:22retrouver ça. Donc on va retrouver donc
- 12:25dans le dans ce domaine euh on peut
- 12:28créer des modèles pilotés par les
- 12:30données. Alors les modèles pilotés par
- 12:32les con les pilotés par les données,
- 12:34c'est des choses que vous connaissez.
- 12:36Donc on peut utiliser l'apprentissage
- 12:39supervisé, l'apprentissage non
- 12:42supervisé. Donc je rappelle que
- 12:44l'apprentissage supervisé euh c'est un
- 12:47type d'apprentissage dans lequel euh
- 12:49nous avons besoin d'un dataset qui est
- 12:52étiqueté, c'est-à-dire pour lequel on
- 12:53connaît les inputs et les outputs. Alors
- 12:57que dans l'apprentissage non supervisé,
- 13:00souvent on a un ensemble de données pour
- 13:02lesquelles on connaît pas le output et
- 13:05puis grâce à des algorithmes comme par
- 13:08exemple caminis donc que vous avez déjà
- 13:10étudié je suppose on peut faire ce qu'on
- 13:13appelle le class c'est-à-dire on peut
- 13:14fouiller dans les données et à partir de
- 13:17ces donnéesl même s'il ne c'est-à-dire
- 13:19même si on connaît pas les étiquettes on
- 13:21peut fouiller dans les données et créer
- 13:23ce qu'on appelle des classeurs ou bien
- 13:24des groupes homogènes.
- 13:26Alors, ça c'est c'est
- 13:29on va toujours retrouver donc ce ce
- 13:31c'est-à-dire ces algorithmes
- 13:32d'apprentissage supervisé, non
- 13:34supervisés, sauf que dans ce ce cours
- 13:36là, on va on va travailler que avec les
- 13:38les réseaux de neurones parce qu'en fait
- 13:40dans l' générative donc c'est quasiment
- 13:42c'est les les réseaux de neurones
- 13:44artificiels qui sont utilisés et et donc
- 13:47on va encore tout à l'heure donc on va
- 13:49faire des rappels euh avec par exemple
- 13:53avec un framework comme Pythch. Donc
- 13:56c'est un framework qui est très
- 13:57important pour vous euh bien Sorfow.
- 13:59Donc c'est des des framework qui sont
- 14:01importants. On va voir comment on on va
- 14:03implémenter des modèles de de ce type.
- 14:05Donc euh histoire pour faire des
- 14:06rappels.
- 14:08Donc les modèles pilotés par les
- 14:10données, c'est quoi le problème ? Alors
- 14:13c'est quoi le problème des modèles
- 14:15pilotés par les données ? Et bien le
- 14:17modèle le grand problème pil le grand
- 14:19problème des modèles pilotés par les
- 14:22données, c'est les données. [rires]
- 14:24C'està-dire nous avons besoin des des
- 14:26données et ça souvent c'est la chose la
- 14:29plus importante quand vous êtes quand
- 14:31vous serez en entreprise dans votre
- 14:33projet de fin d'étude vous avez vous on
- 14:35vous donne un problème. Le premier
- 14:37problème que vous allez rencontrer, où
- 14:39trouver les données ? Il faut euh
- 14:42définir une stratégie de collecte de
- 14:44données. Et la stratégie de collecte de
- 14:46données, c'est très coûteuse pour les
- 14:48entreprises. Et parfois, il y a des
- 14:50entreprises qui mettent beaucoup de
- 14:52budget pour mettre en place des
- 14:53stratégies qui vont collecter les
- 14:56données pendant des c'est-à-dire des des
- 14:59mois et des mois parfois des des années
- 15:01pour pouvoir élaborer un un modèle qui
- 15:04est représentatif.
- 15:06Donc ce qu'il faut noter, c'est que les
- 15:09modèles pilotés par les données
- 15:12euh c'est-à-dire ils sont très
- 15:14importants, ils sont euh très utilisés
- 15:17mais à condition de disposer d'un grand
- 15:21nombre quantité de données et une bonne
- 15:24qualité des données qui vous permettent
- 15:26de de créer un modèle qui est plus
- 15:28représentatif. Et dans la majorité des
- 15:31cas, ce qui vous arrive en tant que
- 15:34académicien, c'est-à-dire tant que vous
- 15:36êtes dans le domaine académique,
- 15:39bah ce que vous faites souvent, vous
- 15:41avez un tel problème, vous allez
- 15:42télécharger des datasets sur Google,
- 15:45c'est des données qui sont déjà
- 15:46préparées. Vous avez vous vous appliquez
- 15:48des modèles et après vous vous évaluez
- 15:53les performances du modèle. Vous
- 15:54trouverez des métriques du type 98 % 99
- 15:59% ça a l'air d'être très bon n'est-ce
- 16:01pas et ça semble très facile. Mais dans
- 16:04la réalité c'est que quand on passe en
- 16:05production, c'est-à-dire quand on est
- 16:07dans la la réalité et parfois euh les
- 16:10modèles qu'on obtient c'est des modèles.
- 16:12Parfois quand on mesure les
- 16:13performances, on trouve euh on trouve
- 16:16des performances de l'ordre de
- 16:19parfois de 50 60 %. Et vous savez que si
- 16:23vous avez euh par exemple un modèle qui
- 16:25est performant à hauteur de 60 %, bah on
- 16:29peut pas lui faire confiance parce que
- 16:30si on veut faire confiance à un modèle
- 16:32de de Lia, il faudrait que ces
- 16:34performances atteignent un niveau qui
- 16:36est très très élevé. Et donc ce qui se
- 16:39passe généralement,
- 16:41je vous donne juste un exemple, c'est
- 16:42que euh dans l'un des projets, j'ai j'ai
- 16:45travaillé sur un projet
- 16:48un projet de
- 16:50euh dans lequel euh avec bon euh euh
- 16:54pour une banque dans lequel euh en fait
- 16:56l'idée c'est quoi ? que le euh la banque
- 16:59souhaite créer une application mobile
- 17:02dans laquelle euh tout simplement il va
- 17:04permettre à ses clients euh de créer euh
- 17:07un compte bancaire. Et pour créer un
- 17:09compte bancaire, il y a une étape
- 17:11importante, c'est que euh l'application
- 17:13mobile va demander à au clients de de
- 17:17faire euh en fait de de scanner sa carte
- 17:19d'identité nationale, n'est-ce pas ? et
- 17:22puis de faire un selfie.
- 17:25Et l'application, le modèle de l'IA,
- 17:27qu'est-ce qu'il doit faire ? Il doit
- 17:28vérifier si le selfie, si la photo du
- 17:30selfie correspond bien à la photo qui se
- 17:32trouve dans la carte nationale. Bon, ça
- 17:35c'est un c'est un problème un type de
- 17:37problème assez assez classique.
- 17:40Et bien
- 17:42c'est c'est un problème qui peut sembler
- 17:45évident mais c'est pas si c'est pas
- 17:46évident. Pourquoi ? Parce que dans la
- 17:48majorité des cas, c'est que la photo qui
- 17:49se trouve dans la carte d'identité
- 17:51nationale, souvent, elle est très loin
- 17:52de de la photo de du selfie. Et donc, il
- 17:56vous faut vraiment un modèle de
- 17:58l'intelligence artificielle de deep
- 17:59learning qui est capable, on va lui
- 18:01donner, on va lui donner tel tel selfie
- 18:05et tel la photo de la carte d'identité
- 18:07nationale et en output, il va venir
- 18:09est-ce que c'est est-ce que ça matche ou
- 18:10bien ça matche pas. Et donc pour faire
- 18:13ça euh bah au départ donc la banque nous
- 18:17a fourni un certain nombre, nous avons
- 18:19besoin d'un dataset. Et notre dataset
- 18:21c'est quoi ? Et bien c'est un ensemble
- 18:23de un ensemble de de données dans
- 18:25lesquelles nous avons besoin des cartes
- 18:26nationales de des clients. C'est pas
- 18:28évident avoir les cartes d'identité
- 18:30nationale des clients. Déjà la banque,
- 18:33il doit faire toute une stratégie pour
- 18:35pouvoir les avoir et donc surtout avoir
- 18:38le selfie. Ben, on va pas demander au
- 18:40client s'il vous plaît puisque vous
- 18:41pouvez nous donner un selfie de votre
- 18:44n'est-ce pas ? C'est pas évident. Et
- 18:45donc ce qui fait que au départ la banque
- 18:48disposit d'une quantité de données qui
- 18:51n'est pas très importante. OK ? Et donc
- 18:54ce qu'on a fait, c'est qu'on a pris ces
- 18:55données-là, on a entraîné des modèles
- 18:56avec différents types de modèles de
- 18:58typeine. On a euh
- 19:01quasiment testé euh la majorité des des
- 19:03des modèles qui sont les plus les plus
- 19:06connus dans dans ce domaine. Et puis
- 19:09quand on mesure les performances et ben
- 19:11on trouve un taux de performance de 36
- 19:14%.
- 19:16[rires] Vous voyez ? Donc 36 % de
- 19:18performance c'est une déception. C'estàd
- 19:21alors qu'est-ce qu'on va dire ? C'est
- 19:22c'est un problème, il faut oublier,
- 19:24c'est que nous savons très bien que la
- 19:26démarche, elle est bonne, mais les
- 19:28données ne sont pas suffisantes.
- 19:31Et vous savez ce que ce que ce que ce
- 19:33qu'on va faire, c'est que c'est que avec
- 19:36la banque, on va prendre cette
- 19:39application, même si le modèle il n'est
- 19:41pas performant, mais nous avons proposé
- 19:43à la banque de le déployer
- 19:46en production dans la phase de test.
- 19:49et bien on le déploie dans la phase de
- 19:50test et comme ça les clients de la
- 19:52banque ils vont commencer à tester
- 19:54n'est-ce pas et quand ils commencent à
- 19:56tester on va commencer à collecter les
- 19:59données. Et ben, c'est ce qu'on a fait.
- 20:01C'est-à-dire que on dans la phase de
- 20:02test, pendant quelques mois, on a
- 20:05collecté une grande quantité de de
- 20:07données
- 20:08et par la suite c'est les mêmes données
- 20:10ont été utilisées pour réentraîner le
- 20:13modèle et en fin de compte, on obtient
- 20:15un modèle qui est très bon et qui est
- 20:17déployé en production et qui marche très
- 20:19bien. Donc, c'est juste pour vous dire
- 20:21que en fait les les données nécessite
- 20:24une stratégie. Et donc nous, quelle
- 20:26stratégie que nous avons utilisé ? La
- 20:29stratégie que nous avons utilisé, c'est
- 20:30que nous avons développé d'abord un
- 20:32modèle et une application intermédiaire
- 20:35qui est déployé en production qui va
- 20:37être utilisé comme un outil de collecte
- 20:40de de données et donc ce qui fait que
- 20:44c'est vraiment la chose la plus terrible
- 20:46pour l'intelligence artificielle.
- 20:49Et donc il y a que les entreprises, il y
- 20:51a que les institutions qui mettent
- 20:53beaucoup de moyens et beaucoup d'argent
- 20:55euh sur la stratégie de collecte de
- 20:58données qui sont euh qui sont qui qui
- 21:01ont cette possibilité de produire des
- 21:03modèles de l'intelligence artificielle
- 21:04qui sont très très performants. Et donc
- 21:07dans ce domaine donc il y a plein
- 21:08d'algorithmes que vous connaissez déjà
- 21:11dans le domaine de l'apprentissage
- 21:12supervisé. Donc vous avez des modèles
- 21:14comme SVM, comme Descourer, Random,
- 21:17Forest, KNN et cetera, XG Boost. Vous
- 21:20avez tout ça c'est des c'est des des
- 21:25modèles de l'apprentissage
- 21:27supervisé. Donc vous avez déjà manipulé
- 21:30pas mal de de modèles là-dessus. Et puis
- 21:32il y a aussi les réseaux de neurones
- 21:34artificiels. C'est-à-dire les réseaux de
- 21:36neuron artificiel, c'est l'un des
- 21:39algorithmes
- 21:42qu'on peut utiliser pour faire du
- 21:43machine learning, notamment des créer
- 21:46des modèles d'apprentissage supervisé.
- 21:49Et donc sauf que donc de quand on
- 21:52utilise les réseaux neuron artificiel,
- 21:53on a plus de possibilités. on a la
- 21:55possibilité de faire ce qu'on appelle le
- 21:58deep learning avec des modèles comme
- 22:00CNN, comme RNN et STM et cetera. Alors
- 22:04tous ces modèlesl euh donc sont très
- 22:06importants notamment
- 22:10quand le nombre de de de variables
- 22:12d'entrée devient très importante. Donc
- 22:15ce qu'il faut noter ici c'est que quand
- 22:18vous parlez du machine learning,
- 22:19c'està-dire on peut utiliser n'importe
- 22:21quel algorithme
- 22:23de de machine learning.
- 22:25Si le nombre de variables de input n'est
- 22:27pas très important, il y a pas de
- 22:29problème. Par exemple, vous êtes vous
- 22:31avez un problème pour lequel vous avez
- 22:3310 variables ou bien 20 20 variables
- 22:36input. Et donc là, on peut utiliser
- 22:38n'importe quel algorithme. Mais par
- 22:40contre, quand il s'agit par exemple de
- 22:42du texte et des images, c'est-à-dire
- 22:45quand vous avez une image, vous savez
- 22:46une image, si vous prenez par exemple
- 22:48une image de 1 mégapixel, n'est-ce pas ?
- 22:51Et quand vous dites 1 mégapixel, ça veut
- 22:53dire il y a combien de pixels ? Il y a 1
- 22:54million de pixels. Et quand vous donnez
- 22:57une image un modèle de machine de de
- 23:00l'intelligence artificielle, ça veut
- 23:02dire que vous lui donnez combien de
- 23:03variables en entrée
- 23:06dans une image ? Il y a combien de
- 23:07pixels ? 1 million. Et bien vous lui
- 23:09donnez 1 million de variables, n'est-ce
- 23:11pas ? un million de de features. Donc
- 23:14c'estàd quand le nombre de variables
- 23:15input devient très important alors tous
- 23:18ces algorithmes là classiques de de
- 23:20machine learning ça ça marchera plus et
- 23:22donc et ça reste le seul qui va être
- 23:25utilisé c'est les réseaux de neuron
- 23:27comme quoi les réseaux de neuron
- 23:28artificiel il est toujours là quelle que
- 23:31soit la situation. Donc c'est pour cela
- 23:33que c'est c'est c'est vraiment un un
- 23:36modèle en fait un algorithme que vous
- 23:38allez beaucoup pratiquer que vous allez
- 23:39utiliser dans le domaine de l
- 23:41générative.
- 23:44Alors pour le cas de l'apprentissage non
- 23:45supervisé, donc vous avez des
- 23:46algorithmes, on va y revenir rapidement,
- 23:49on va les rappeler comme camins. Donc ça
- 23:50c'est pour faire le class train et
- 23:52cetera. C'est clair ? Donc vous voyez
- 23:54donc ici on est dans les modèles
- 23:58pilotés par les données.
- 24:01Alors une fois que vous avez ça, vous
- 24:04avez ensuite les les modèles pilotés par
- 24:06l'expérience. Alors, parfois parfois
- 24:10donc dans le le domaine de
- 24:11l'intelligence artificielle, bah on peut
- 24:13apprendre
- 24:15à partir de l'expérience. C'est ce qu'on
- 24:17appelle l'apprentissage par
- 24:18renforcement. Donc c'est quoi l'idée
- 24:19principale ? Ben l'idée principale c'est
- 24:22que et bien on va créer un agent en
- 24:25quelque sorte
- 24:27qui va apprendre à partir de son
- 24:29environnement. Alors comment il va
- 24:31apprendre à partir de l'environnement ?
- 24:33Et ben, l'agent, il va explorer
- 24:34l'environnement. et en explorant
- 24:36l'environnement, il va essayer de
- 24:38d'apprendre.
- 24:40Alors, comment ça se passe généralement
- 24:41? C'est que l'agent, il va agercir
- 24:44l'environnement
- 24:46et quand il va agercir l'environnement,
- 24:48l'environnement va lui donner une
- 24:49récompense. Et cette récompense peut
- 24:51être soit positive ou bien négative.
- 24:55et il va encore essayer une deuxième
- 24:58fois juste il va essayer réessayer
- 25:01réessayer jusqu'à ce que à un moment
- 25:03donné il va construire ce qu'on appelle
- 25:05une table d'apprentissage et c'est cette
- 25:07table d'apprentissage qui va lui
- 25:08permettre à un moment donné une fois
- 25:09qu'il a appris bah je lâche l'agent dans
- 25:12un environnement et l'agent en fonction
- 25:14de de l'état dans lequel elle est il
- 25:17peut prendre la la décision optimale il
- 25:19va prendre l'action optimale.
- 25:22Alors, c'est comme ça que vous avez
- 25:23appris beaucoup de choses. Quand vous
- 25:24avez appris à conduire une bicyclette,
- 25:27c'est comme ça que ça se passe, n'est-ce
- 25:28pas ? Un enfant qui qui conduit une
- 25:30bicyclette, vous savez, pour apprendre à
- 25:31conduire la bicyclette, bah il suffit
- 25:33pas de de faire venir un enfant. Vous
- 25:35lui dites "Si tu veux conduire une
- 25:37bicyclette, tu fais ça, tu fais ça, tu
- 25:38fais ça et ça va marcher." Non, ça
- 25:40marche pas parce que vous allez prendre
- 25:43la bicyclette, vous allez essayer, vous
- 25:45allez tomber, vous allez tomber, ça veut
- 25:47dire vous allez avoir une récompense. La
- 25:49récompense, elle est négative. Vous êtes
- 25:50fait mal, n'est-ce pas ? Et vous allez
- 25:52encore essayer une deuxième fois euh une
- 25:55troisième fois une 4è vous allez essayer
- 25:58beaucoup de fois vous allez commencer à
- 25:59explorer les différentes techniques
- 26:01jusqu'à ce que à un moment donné vous
- 26:02allez commencer à prendre votre
- 26:03équilibre et vous avez appris comment à
- 26:05conduire une bicyclette. C'est pareil
- 26:07pour apprendre à nager. C'est pareil
- 26:09pour
- 26:10C'est comme ça que
- 26:13c'est comme ça que en fait une voiture
- 26:15autonome a été entraînée.
- 26:18Vous savez que une voiture autonome
- 26:20voiture qui se qui se conduit toute
- 26:23seule, n'est-ce pas ? Et bien comment ?
- 26:26Et bien tout simplement parce que
- 26:28derrière il y a ce qu'on appelle des
- 26:29algorithmes d'apprentissage par
- 26:30renforcement. Parce que qui conduit qui
- 26:34conduit et bien c'est le c'est les
- 26:36algorithmes d'apprentissage par
- 26:38renforcement. C'est-à-dire quoi ?
- 26:40C'est-à-dire que vous avez une voiture
- 26:41qui a ce qu'on appelle des ledars. Les
- 26:43ledar
- 26:45les les caméras qui l'entour. Bah ces
- 26:48leddards, ils lui permettent de
- 26:49connaître l'environnement.
- 26:51Ici j'ai une idée sur l'environnement.
- 26:53Ça veut dire que je peux savoir est-ce
- 26:55qu'il y a un obstacle et cetera. Et
- 26:57comment je peux savoir est-ce qu'il y a
- 26:58un obstacle à quelle distance ? Et là,
- 27:01on a besoin d'utiliser des pleurer les
- 27:03réseaux de neuron artificiel parce que
- 27:04des modèles comme CNN maintenant sont
- 27:08capable à partir d'une photo,
- 27:12n'est-ce pas ? Euh, il y a des modèles
- 27:14qui sont très connus comme yolo. C'est
- 27:16des modèles qui sont capables de
- 27:18détecter les objets de de c'est-à-dire
- 27:21de de faire pas mal de choses là-dessus.
- 27:24Donc c'est-à-dire que le on utilise
- 27:26généralement des modèles de de deep
- 27:28learning pour faire pour faire ce qu'on
- 27:31appelle une représentation de
- 27:32l'environnement pour connaître qu'est-ce
- 27:34qui se passe. Et puis du moment que j'ai
- 27:36une idée sur le le l'environnement et
- 27:39bien tout simplement qu'est-ce qu'il
- 27:40fait le l'algorithme d'apprentissage par
- 27:42rafforcement parce que c'est lui qui va
- 27:44décider est-ce qu'il va tourner à
- 27:45gauche, est-ce qu'il va tourner à
- 27:46droite, est-ce qu'il va accélérer,
- 27:48freiner. C'est-à-dire finalement il doit
- 27:50décider quelle est l'action optimale à
- 27:52prendre. Et donc les voitures autonomes
- 27:55sont en fait pilotées par des
- 27:57algorithmes qu'on appelle c'est deep
- 28:00deep reinforcement learning.
- 28:02C'est-à-dire on va utiliser les deux
- 28:04techniques deep learning et
- 28:06reinforcement learning. deep learning,
- 28:08ça nous permet de de connaître qu'est-ce
- 28:10qui se passe les images et cetera et
- 28:12reinforce mettre le learning, c'est lui
- 28:14qui conduit, c'est lui qui va accélérer,
- 28:16c'est lui qui va arrêter. C'est
- 28:17c'est-à-dire finalement c'est le
- 28:18conducteur. Et donc pour quand on est
- 28:22dans le et quand on est dans dans dans
- 28:25ce domaine donc on va retrouver on va
- 28:27retrouver souvent dans la majorité des
- 28:29problèmes on va
- 28:31alors donc quand euh quand dans la
- 28:35majorité des problèmes, on va souvent
- 28:37trouver toujours le
- 28:39c'est-à-dire le des
- 28:42la place pour faire de la planté ça
- 28:44supervisé. Alors, si vous rappelez
- 28:46l'année dernière, on a fait des on a
- 28:48fait un peu de lien agentique, n'est-ce
- 28:49pas ? Et ben l'IA agentique, il est basé
- 28:52sur l'apprentissage par renforcement. Si
- 28:54vous rappelez donc l'agent comment il
- 28:56fonctionne lui-même, c'est notamment le
- 28:58pattern React. Donc, on aura encore le
- 29:01l'occasion d'y revenir mais il est basé
- 29:03sur le l'apprentissage par renforcement.
- 29:07Alors maintenant, c'est quoi le problème
- 29:09de l'apprentissage par renforcement ?
- 29:12Ben, le problème de l'apprentissage par
- 29:13renforcement, c'est que nous avons
- 29:14besoin de de l'environnement,
- 29:18c'est-à-dire comment entraîner un
- 29:20modèle. Il nous faut un environnement
- 29:23dans lequel on va entraîner
- 29:27le l'agence.
- 29:29Alors, pour des applications par exemple
- 29:30comme Wi, vous la connaissez
- 29:32l'application, c'est l'application qui
- 29:33vous permet de de vous guider à aller
- 29:36d'un point vers un autre. Il y a pas de
- 29:38problème. L'environnement, c'est quoi ?
- 29:40L'environnement, c'est la carte. On
- 29:42dispose de la carte, des données de la
- 29:43carte. Donc c'est-à-dire on a déjà une
- 29:46idée sur l'environnement et là on peut
- 29:47utiliser des algorithmes comme
- 29:50Kearning, comme PPO, Proximal Policy
- 29:54Optimization. Il y a des algorithmes
- 29:56qu'on peut utiliser et qui permettent
- 29:58d'entraîner à partir de de
- 30:00l'environnement. Donc là, il y a pas de
- 30:02souci. Donc on peut on peut créer euh
- 30:05des agents qui sont capables de montrer
- 30:07le chemin optimal grâce à des
- 30:10algorithmes d'apprentissage par
- 30:11renforcement.
- 30:12Mais par contre dans d'autres problèmes,
- 30:14on n' pas la possibilité. Par exemple,
- 30:15une voiture autonome, où est-ce que vous
- 30:17allez l'entraîner ? Est-ce que vous
- 30:19allez prendre la voiture, vous la lâchez
- 30:21dans le les rues pour pour savoir euh
- 30:24pour savoir ? Bon, il va il va faire des
- 30:28centaines d'accidents avant d'apprendre,
- 30:29n'est-ce pas ? on peut pas se permer ça.
- 30:31Donc nous avons besoin des simulateurs,
- 30:34des environnements dans lesquels il faut
- 30:35faire l'entraînement et après il faut
- 30:38les accompagner sur par un conducteur et
- 30:41cetera et cetera. Donc c'est c'est
- 30:43vraiment c'est c'est un peu coûteux
- 30:45parfois. Donc ce qui fait que il faut
- 30:47savoir que ce euh que de manière
- 30:49générale, vous avez les les modèles
- 30:52pilotés par les données. OK ? Et les
- 30:55modèles pilotés par l'expérience. C'est
- 30:58quoi la limite des modèles pilotés par
- 30:59les données ?
- 31:02C'est les données. C'est quoi le
- 31:04problème ? C'est les données. La
- 31:06disponibilité des données. Et c'est quoi
- 31:07le problème des modèles pilotés par
- 31:09l'expérience ? C'est l'environnement. Il
- 31:11nous faut une représentation de
- 31:13l'environnement ou bien une abstraction
- 31:15de l'environnement. Voilà.
- 31:18Donc en terme de d'algorithme souvent on
- 31:20a besoin de il y a des algorithmes que
- 31:22vous allez sûrement utiliser comme key
- 31:24learning, comme deep keyin et cetera.
- 31:27PPO comme je disais c'est euh PPO c'est
- 31:30l'un des algorithmes Proximal policy
- 31:32optimization. Il est utilisé dans chat
- 31:33GPT parce qu'en fait dans les les lls
- 31:37vous allez trouver tout ça c'est-à-dire
- 31:39aussi bien les les les modèles pilotés
- 31:41par les données et les modèles pilotés
- 31:43par l'expérience.
- 31:48Voilà. Alors euh mais aussi il y a les
- 31:50réseaux de neurones. Alors, c'est juste
- 31:52pour vous dire que ici aussi, on a
- 31:54besoin des réseaux de neurones
- 31:55artificiels. Mais pourquoi on a besoin
- 31:58des réseaux de neuron artificiel ?
- 32:01C'est pour l'environnement. Parce que
- 32:02quand vous avez des photos, quand vous
- 32:04avez des des fichiers audio, on a besoin
- 32:06de savoir qu'est-ce qui se passe. Et
- 32:08donc pour savoir ce qui se passe dans
- 32:10une image, et bien dans une séquence
- 32:12vidéo par exemple, bah on a besoin des
- 32:14modèles comme CNN, comme RN et STM. Et
- 32:18donc forcément, on a besoin de faire
- 32:20d'utiliser des réseaux de neuron pour
- 32:23donner à l'algorithme d'apprentissage
- 32:24par renforcement une représentation de
- 32:27l'environnement euh pour la la prise des
- 32:29décisions.
- 32:31C'est clair ? Parfait. Alors, j'essaie
- 32:33d'aller tout doucement, mais tout ça
- 32:34pour vous, c'est vraiment parce que ce
- 32:36slide c'est quasiment c'est tout ce que
- 32:39vous allez apprendre en intelligence
- 32:40artificielle.
- 32:42C'est c'est peut-être le slide qui va
- 32:43vous permettre de répondre facilement à
- 32:45des questions dans des entretiens parce
- 32:47que tout se trouve globalement
- 32:50là-dessus. Donc c'est pour cela que à un
- 32:52moment donné vous aurez besoin de de
- 32:54capter le vocab le vocabulaire surtout
- 32:56parce que c'est ça c'est c'est
- 32:57important.
- 33:00Alors qu'est-ce que je disais tout à
- 33:02l'heure ? Donc vous avez on peut
- 33:03apprendre à partir des données, on peut
- 33:05apprendre à partir de l'expérience et on
- 33:09peut apprendre à partir les lois de la
- 33:11physique. Alors, il se trouve que
- 33:13parfois je n'ai pas ce qui se passe
- 33:16généralement, c'est que la quantité de
- 33:19données dont je dispose n'est pas
- 33:20suffisante
- 33:22et les données dont je dispose parfois
- 33:25il y a des bruits. Et vous savez que
- 33:27quand vous vous mettez des capteurs pour
- 33:29collecter des données dans les le
- 33:30dataset, vous avez ce qu'on appelle
- 33:32l'rouille. Donc l'rouille, c'est-à-dire
- 33:34c'est des données qui ne sont pas
- 33:35correctes, n'est-ce pas ? Et le problème
- 33:37c'est que dans notre dataset on peut pas
- 33:40savoir où c'est quoi ces données ces
- 33:42bruits là. Donc il est court ces bruits
- 33:44ils peuvent fausser le le le modèle.
- 33:47Mais par contre, parfois, il se trouve
- 33:49que je dispose de de la loi de la
- 33:50physique, c'est-à-dire je dispose déjà
- 33:53de la fonction mathématique en quelque
- 33:55sorte d'un modèle mathématique qui
- 33:58permet déjà de modéliser le le problème.
- 34:01Et donc, si je dispose des des lois euh
- 34:05c'est-à-dire mathématiques ou des
- 34:07équations différentielles ou dérivées
- 34:09partielles qui permettent de gouverner
- 34:11le système, et bien on peut créer un un
- 34:13modèle. Et là encore euh il y a un type
- 34:17de modèle qui s'appelle les pins. Les
- 34:19pins, c'est le physi physi informed
- 34:22neural network.
- 34:24C'est les réseaux de neurones les
- 34:26réseaux de neurones informés par la
- 34:29physique. C'est-à-dire c'est des réseaux
- 34:31de neurones qu'on va entraîner
- 34:35mais on va pas les entraîner à partir
- 34:36des données, mais plutôt on va les les
- 34:40entraîner à prendre les lois de la
- 34:43physique. C'est-à-dire c'est grâce aux
- 34:45équations de la physique, on peut
- 34:47entraîner un modèle de l'intelligence
- 34:49artificielle à faire des des
- 34:51prédictions.
- 34:53Alors et le problème encore de des
- 34:56c'est-à-dire de ce ce type de modèle,
- 34:59c'est que nous avons besoin des lois de
- 35:01la physique et le problème on n pas
- 35:03toujours ça. C'est qu quand vous êtes
- 35:04dans un domaine médical par exemple dans
- 35:07le le domaine de de la médecine, c'est
- 35:09très difficile de trouver un modèle
- 35:11mathématique qui permet de représenter
- 35:13un tel un tel modèle. Et donc parfois on
- 35:16n'a pas le modèle mathématique donc on
- 35:18est obligé d'utiliser les données. Et si
- 35:21on n'a pas beaucoup de données, on va
- 35:22essayer de combiner avec l'expérience.
- 35:26Mais l'idéal alors c'est quoi l'idéal ?
- 35:28C'est de faire ce qu'on appelle des
- 35:29modèles hybrides.
- 35:31Alors les modèles hybrides, c'est-à-dire
- 35:32c'est des modèles dans lequel on va
- 35:34utiliser le un modèle piloté par les
- 35:36données, n'est-ce pas ? parce que le
- 35:39modèle piloté par les données, même si
- 35:41le la quantité de données n'est pas
- 35:42suffisante, même s'il contient des
- 35:45bruits, bah qu'est-ce que je vais faire
- 35:47? Je vais l'aider avec des modèles de la
- 35:49physique à se à se corriger en quelque
- 35:51sorte. Donc c'est-à-dire l'idée
- 35:53principale, c'est comment utiliser les
- 35:55lois de la physique pour informer un
- 35:58modèle piloté par les données
- 36:01pour pouvoir créer un modèle qui est
- 36:03plus performant. Et ça vous allez vous
- 36:06aurez l'occasion de de voir ça. Euh donc
- 36:09on aura l'occasion de voir comment créer
- 36:10ce qu'on appelle un modèle piloté par
- 36:13les physiques. Alors que même si on
- 36:14parle physique, faites attention parce
- 36:15que les pins, même s'il y a le terme
- 36:18physique, mais ces modèles-là, on peut
- 36:20les utiliser dans le domaine de la
- 36:21santé, de la finance, de dans le domaine
- 36:23de plein plein plein de modèles plutôt
- 36:26plein de de domaines. Donc ce qui fait
- 36:28que
- 36:32c'est ça quand il y a des lois
- 36:33généralement on peut le les utiliser.
- 36:35Par exemple pour dans le domaine de la
- 36:37bourse notamment de le domaine de la
- 36:38finance euh on les utilise parce qu'il y
- 36:41a des modèles mathématiques qui sont
- 36:43utilisés pour pour
- 36:45analyser. Et le problème des modèles
- 36:49physiques, c'est quoi ? c'est que les
- 36:50modèles physiques
- 36:55sont des modèles
- 36:57approximatif
- 37:00approximatif et bien pour le pour
- 37:02obtenir un modèle de la physique on fait
- 37:04ce qu'on appelle les hypothèses.
- 37:06Je les hypothèses c'est-à-dire par
- 37:08exemple vous dites dans le domaine de
- 37:09par exemple de la physique je vais je
- 37:11suppose que je néglige les frottements.
- 37:15vous jetez une boule par exemple comme
- 37:17ça, vous l'ajetez. Voyez la loi de
- 37:19Newton, je vous rappelez quand vous
- 37:21l'ajoutez, vous voulez voir la
- 37:22trajectoire, bah vous allez avoir une
- 37:24équation mais vous dites je vais
- 37:25négliger les frottements, c'est-à-dire
- 37:27je vais négliger la poussée d'Archemède.
- 37:30Je vais je vais supposer que le la Terre
- 37:33est plate mais la Terre n'est pas plate,
- 37:35n'est-ce pas ? C'est-à-dire en général
- 37:37la majorité des équations de la
- 37:38physique, ils sont basées sur des
- 37:41hypothèses. C'est-à-dire que les modèles
- 37:42physiques ne sont pas des vrais des
- 37:43modèles
- 37:45on va dire exact, c'est des modèles qui
- 37:48sont
- 37:49approximatifs.
- 37:50Et donc si vous voulez voir si vous
- 37:52voulez vraiment des modèles exacts,
- 37:55il faut utiliser les données parce que
- 37:57c'est quoi l'abottage des données ?
- 37:58C'est que vous faites l'expérimental,
- 38:00c'est que les données ça représente la
- 38:02vraie réalité. Et donc si vous prenez
- 38:05une partie des données qui nous donne la
- 38:06vraie réalité et vous utilisez un modèle
- 38:09physique qui est approximatif, si vous
- 38:12les combinez
- 38:15et bien vous allez obtenir un modèle
- 38:16d'intelligence artificielle qui est
- 38:17beaucoup plus performant. Et ben c'est
- 38:20ce que ce qu'on appelle les les pins
- 38:22donc physi informat network mais en tout
- 38:24cas bon il y a toute un tas de choses à
- 38:27dire là-dessus. Donc voilà. Donc le le
- 38:30problème qui qui va se poser ici donc
- 38:31c'est le modèle lui-même et c'est
- 38:33l'approximation du modèle.
- 38:37C'est clair ?
- 38:40Pas de question. Parfait.
- 38:44Alors donc pour
- 38:46développer pour créer des modèles
- 38:48pilotés par la physique, on a encore
- 38:50besoin des réseaux neurones artificiel.
- 38:53Alors après il y a les génér
- 38:59dans les ce qu'on appelle les prédictive
- 39:01et décisionnel,
- 39:03on a les choses classiques, c'est-à-dire
- 39:05vous avez ce qu'on appelle des modèles
- 39:06discriminatifs.
- 39:08Alors l'idée générative c'est l'idée
- 39:10principale, c'est apprendre les
- 39:11structures de données qui sont souvent
- 39:14non structurées. Donc on va apprendre à
- 39:16partir des données qui ne sont pas
- 39:17structurées souvent comme le texte, les
- 39:20images et cetera. Et puis une fois que
- 39:22le modèle est appris, et bien le modèle
- 39:24il est capable de de générer les
- 39:26nouvelles données. Et ben maintenant
- 39:29c'est ce qui marche le plus.
- 39:30C'est-à-dire quand vous utilisez chat
- 39:32GPT, c'est que vous lui donnez un prompt
- 39:34et après vous lui demandez de vous
- 39:36générer soit du texte, soit des images,
- 39:38soit des vidéos et cetera. Et donc on
- 39:40est dans ce qu'on appelle les modèles
- 39:42génératifs. Alors donc tout à l'heure,
- 39:45je vais revenir sur le la différence
- 39:47entre l'IA discriminative et l'IA
- 39:49générative. Et donc ici pour pouvoir
- 39:52générer des nouvelles données, on a
- 39:54inventé de de nouvelles techniques
- 39:57d'apprentissage. C'est ce qu'on appelle
- 39:59l'apprentissage auto supervisé.
- 40:04L'apprentissage auto supervisé ou bien
- 40:07ce qu'on appelle self supervised
- 40:09learning.
- 40:10Alors c'est quoi c'est quoi la
- 40:13différence entre
- 40:15bah c'est quoi l'apprentissage
- 40:16autosupervisé ? L'apprentissage
- 40:19autosupervisé, c'est très simple. On va
- 40:21prendre un texte, par exemple, un texte,
- 40:25un texte, n'importe quel texte
- 40:28qui non structuré, bah on va le donner
- 40:31au modèle.
- 40:33souvent c'est des réseaux neuron
- 40:34artificiel
- 40:36et puis ce texte là on va commencer à
- 40:38masquer à cacher des mots. Par exemple,
- 40:41je vais cacher un un texte dans le texte
- 40:44[grognement] et puis je vais entraîner
- 40:45le modèle à à plutôt à prédire le texte
- 40:49qui est
- 40:50caché
- 40:52et ensuite je vais cacher un autre mot.
- 40:54Je l'entraîne à prédire le mot qui est
- 40:56caché. C'est-à-dire finalement euh
- 41:00pourquoi on l'appelle autosupervisé ?
- 41:02C'est pas l'être humain qui va étiqueter
- 41:03le le le
- 41:06données, c'est l'algorithme lui qui va
- 41:08le faire. Comment il le fait ? Bah,
- 41:10c'est comme si vous prenez une image,
- 41:12vous lui cachez une petite partie du
- 41:13visage et vous allez l'entraîner à
- 41:16retrouver la partie qui est cachée. Une
- 41:18fois qu'il a appris ça, vous allez
- 41:20encore cacher une autre partie et vous
- 41:22refaites ça plusieurs fois. Et ben à un
- 41:24moment donné euh ça c'est ce qu'on
- 41:26appelle l'apprentissage auto supervisé.
- 41:30Alors, si vous rappelez quand vous étiez
- 41:32en en primaire,
- 41:34on vous pose la question imla, n'est-ce
- 41:37pas ? On vous donne un texte, on cache
- 41:40des parties et on demande à un enfant de
- 41:43remplir les parties qui sont masquées.
- 41:47Et ben c'est à peu près ça. Donc si vous
- 41:49êtes capable de prédire les parties
- 41:51masqué en fonction des contextes, des
- 41:53mots et cetera, et bien c'est comme ça
- 41:55que l' générative a été créé de manière
- 41:57générale. Donc tout ça, on va en parler.
- 42:00Donc ça c'est le l'apprentissage
- 42:02autosupervisé.
- 42:03Et donc pour faire de l'apprentissage
- 42:05autosupvisé donc ben on a besoin
- 42:08également des réseaux de neurones
- 42:09artificiels.
- 42:14Alors il y a plein de d'algorithmes que
- 42:15vous allez apprendre dans ce cours comme
- 42:17les Transformers, les gains, les modèles
- 42:20de diffusion. Donc ça c'est vraiment
- 42:22c'est les les TP que vous allez faire.
- 42:23C'est c'est dans ce cours c'est c'est
- 42:26des c'est des TP qui concernent ça.
- 42:32Bah et puis vous avez l' agentique. Donc
- 42:34finalement l' agentique ce n'est que le
- 42:36fruit. Li agentique ce n'est que le
- 42:37fruit de tout ça.
- 42:41Il y a agent que vous savez ce que c'est
- 42:42un agent c'est une entité autonome qui
- 42:46possède quoi ? Un corps et un cerveau.
- 42:50Le cerveau, c'est quoi ? C'est le c'est
- 42:53le modèle d'intelligence artificielle.
- 42:55Ça peut être un LM,
- 42:57ça peut être un modèle piloté par la
- 42:59physique, ça peut être un modèle piloté
- 43:01par l'expérience, ça peut être un modèle
- 43:02piloté par les données. Mais dans les
- 43:05agents AI, la majorité des cas, on va
- 43:07utiliser les LLMs. Pourquoi ? Parce que
- 43:09les large language models sont très
- 43:11forts. Ils sont capables facilement de
- 43:14comprendre le contexte de de du
- 43:16problème.
- 43:18Et puis il y a donc le le corps. Et le
- 43:20corps c'est quoi ? et les tools, c'est
- 43:22l'ensemble des actions que l'agent peut
- 43:24euh effectuer, l'ensemble des fonctions
- 43:26que l'agent peut appeler euh bien sûr
- 43:31euh pour collecter ce qu'on appelle des
- 43:34observations. Donc c'est à peu près ça.
- 43:35Donc ça c'est je pense que cette partie
- 43:38là on a déjà parlé de des agents on va
- 43:41encore en parler parce qu'il y a un
- 43:42chapitre encore sur l' général li
- 43:44agentique et on va reprendre à peu près
- 43:47presque ce que nous avons fait l'année
- 43:49dernière et une grande partie du projet
- 43:51sur lequel vous allez travailler il y
- 43:53aura toujours l'IN graphe, il y aura
- 43:54toujours link chain, il y aura toujours
- 43:56le les agents a exactement comme vous
- 43:58avez fait l'année dernière sauf que
- 43:59cette fois-ci vous allez introduire des
- 44:02modèles LLMs avec des open source avec
- 44:05du F tuning que vous allez faire
- 44:07vous-même. Donc c'est des techniques que
- 44:09vous allez apprendre à réaliser à
- 44:10travers les TP.
- 44:14Donc voilà. Donc il a agent c'est une
- 44:16architecture dans laquelle un agent
- 44:17perçoit son environnement, il va
- 44:19raisonner le raisonnement et pour
- 44:21raisonner, il a besoin d'un llant ou
- 44:24bien d'un modèle d'intelligence
- 44:25artificielle. Il va planifier parce
- 44:27qu'il va il va planifier, ça veut dire
- 44:29il va découper euh euh bien sûr son but.
- 44:32il va planifier son but en plusieurs
- 44:34étapes et puis il va utiliser les tools.
- 44:37C'est les outils qu'il va appeler pour
- 44:39pouvoir réaliser pour plutôt pour agir
- 44:41sur son environnement et atteindre son
- 44:44objectif. Donc ça c'est une définition
- 44:45mais comme vous voyez donc c'est une
- 44:47partie que vous connaissez déjà. Et puis
- 44:49donc les technologies que vous pouvez
- 44:51utiliser donc dans l'IAage antique, vous
- 44:53avez besoin des LLMs qui sont basés sur
- 44:55les réseaux neurones. les tools, vous
- 44:58avez besoin d'utiliser un protocole
- 45:00comme MCP, modèle context protocole
- 45:02qu'on a aussi vu l'année dernière. Vous
- 45:06faites vous utilisez du rag, on va
- 45:08encore l'utiliser cette année-là dans ce
- 45:09cours.
- 45:11Et puis vous allez faire l'apprentissage
- 45:13par renforcement parce qu'en fait les
- 45:15agents quand vous parlez agent,
- 45:16c'est-à-dire derrière il y a
- 45:17l'apprentissage par renforcement.
- 45:22C'est clair ?
- 45:24Voilà. Alors maintenant, je vous laisse
- 45:25si vous voulez poser des questions, mais
- 45:26ce slide il est extrêmement important
- 45:28parce que si vous voulez faire un
- 45:29entretien en principe, il vaudrait mieux
- 45:32revoir cette séquence de vidéo dont je
- 45:34vous ai parlé parce que c'est là où il y
- 45:35a le vocabulaire, bah c'est ça
- 45:36l'intelligence artificielle. Et ben tous
- 45:38les autres cours que vous que vous allez
- 45:40faire, chaque cours, il est quelque part
- 45:42dans cette partie-là. Et c'est bien
- 45:44d'avoir cette map pour vous parce qu'à
- 45:47un moment donné, on va vous dire c'est
- 45:48quoi la différence entre l'apprentissage
- 45:49supervisé, l'apprentissage non supervisé
- 45:52et auto supervisé.
- 45:54En fait euh donc le le modèle le modèle
- 45:58P, je vais vous donner un exemple. Euh
- 46:01vous prenez par exemple un exemple que
- 46:03vous connaissez la loi de Newton. Par
- 46:04exemple, prenez par exemple un
- 46:06projectile, vous le jetez comme ça et
- 46:08après vous voulez savoir un instant T
- 46:10donc des clabou que vous lancez, il sera
- 46:13dans quelle position X Y, n'est-ce pas ?
- 46:16Et vous savez qu'il y a un modèle déjà
- 46:17de la loi de Newton qui vous donne
- 46:19l'équation différentielle. Donc
- 46:21c'est-à-dire vous connaissez déjà les
- 46:22les l'équation au dérivé qui permettent
- 46:25de de modéliser de de vous donner ça.
- 46:27D'accord ?
- 46:29Et bien ce qu'on va faire c'est que si
- 46:32tu veux faire un un modèle piloté par
- 46:34les données, supposant tu connais pas la
- 46:36physique, la loi de la physique,
- 46:38qu'est-ce que tu vas faire ? Tu vas tu
- 46:40vas faire l'expérimental. Comment
- 46:42l'expérimental ? Tu vas mettre des
- 46:44capteurs, tu tu vas mettre des capteurs
- 46:46dans la boule, tu vas l'ajouter
- 46:49les capteurs, ils vont t'envoyer les la
- 46:51position X Y. Donc c'est-à-dire j'ai
- 46:55collecté un dataset qui me donne à
- 46:57l'instant T, il se trouve dans cette
- 46:59position à l'instant T. Donc ça c'est
- 47:01c'est le c'est la stratégie de connect
- 47:03les données. C'est un modèle piloté par
- 47:05les données. Ah ouais. Donc j'ai le
- 47:07modèle piloté par les données. Alors si
- 47:10si
- 47:11toutes les données que j'ai capturé sont
- 47:14bonnes et vous allez avoir un modèle
- 47:17parfait. C'est-à-dire, vous n'avez pas
- 47:19besoin de la physique. Effectivement,
- 47:21vous n'avez pas besoin de la physique
- 47:22parce que vous avez le modèle piloté par
- 47:24les données. Il est plus réaliste que la
- 47:26physique. Il est plus réaliste que la
- 47:28physique parce que dans la physique, il
- 47:30y a des hypothèses.
- 47:32On néglige le frottement des on néglige,
- 47:35on a mais mais l'expérimental, est-ce
- 47:37qu'on a négligé les frottements de l'air
- 47:38? Non, parce que c'est la réalité. Donc,
- 47:40c'est-à-dire dans le modèle piloté par
- 47:42les données, j'ai pris en considération
- 47:44euh toutes les les conditions réelles.
- 47:47Donc, si vous voulez, les les données
- 47:49sont plus
- 47:51représentatives
- 47:53que la physique. Dans ce cas-là, si vous
- 47:55êtes sûr que la quantité de données et
- 47:57la qualité de données que vous avez sont
- 48:00meilleur, oubliez la physique parce que
- 48:02vous avez déjà quelque chose qui est
- 48:04beaucoup mieux que la loi de Newton et
- 48:06cetera qui vous permet de de calculer la
- 48:08position à instant. On est d'accord ?
- 48:11Mais le problème c'est quoi ? Le
- 48:13problème c'est que les données que vous
- 48:14allez obtenir l'expérimental, il y a des
- 48:16bruits. C'est-à-dire le capteur, il va
- 48:18pas toujours vous donner des bonnes
- 48:20informations. De temps en temps, il y a
- 48:23parfois un bruit, il vous donne quelque
- 48:24chose de bizarre. Donc c'est-à-dire dans
- 48:26les données que vous avez obtenu trouver
- 48:28des des données qui sont bruites,
- 48:31c'est-à-dire des données qui vont
- 48:32fausser votre modèle. Donc le dataset
- 48:36que j'ai, si je crée un modèle purement
- 48:38piloté par les données, je vais avoir
- 48:40quelque chose qui ne représente pas la
- 48:43réalité. Pourquoi ? Parce qu'il est faé
- 48:44par les données qui sont bruites. Vous
- 48:48me suivez ? Alors maintenant, ce qu'on
- 48:50va faire, c'est que pendant
- 48:51l'entraînement,
- 48:53je vais entraîner le modèle
- 48:57par les données, n'est-ce pas ? Et quand
- 49:00j'entraîne le modèle piloté par les
- 49:01données, qu'est-ce que je lui donne les
- 49:02données ?
- 49:05Je prends le output moins le le output
- 49:08triel qui ce qu'on appelle le loss
- 49:10l'erreur ça vous le savez. Et bien
- 49:13d'habitude qu'est-ce qu'on fait ? On va
- 49:14essayer de de de minimiser l'erreur et
- 49:17cetera mais ce qu'on va faire maintenant
- 49:19une fois que j'ai les les l'erreur et
- 49:21ben qu'est-ce que je vais faire ? Je
- 49:22vais prendre le output et je vais le
- 49:24donner à l'équation à l'équation de
- 49:26physique. Twa, il va me donner la valeur
- 49:30de de l'erreur. C'est-à-dire une fois
- 49:32que j'entraîne, je vais dire j'ai le
- 49:34output et je vais dire au moder de la
- 49:35physique, est-ce est-ce que est-ce que
- 49:37le l'output respecte la loi de la
- 49:39physique ? Et bien, il va me donner il
- 49:42va me dire "Non, tu respectes pas la
- 49:43physique, tu as une autre erreur. Donc
- 49:45je prends l'erreur qui est donnée par le
- 49:46modèle de la physique quindi indique
- 49:48l'erreur les données et je réentraîne et
- 49:51je refais le travail. à un moment donné,
- 49:53je vais obtenir le le le résultat final,
- 49:56c'est que tu vas obtenir un modèle
- 49:58piloté par les données mais informé par
- 50:00la physique. C'est pour cela qu'on
- 50:02l'appelle pins physi informat noral.
- 50:06J'informe. Et et c'est quoi le résultat
- 50:08? Et ben le résultat il est il est
- 50:10génial. Pourquoi ? Parce que grâce avec
- 50:12le modèle de la physique, je vais
- 50:14corriger donc les bruits parce que donc
- 50:16les bruits qui qui sont faux. et le le
- 50:19modèle de la physique, il va il va
- 50:21m'informer comme quoi avec les les
- 50:22points c'est un peu c'est pas c'est pas
- 50:25normal. Et avec ça donc ça c'est ce
- 50:27qu'on appelle un modèle hybride.
- 50:29Donc c'est un modèle piloté par les
- 50:31données et informé par la physique. Et
- 50:34ça c'est beaucoup mieux. Et ça c'est
- 50:35intéressant à voir un instant.
- 50:39Ouais.
- 50:40Alors généralement dans le la recherche
- 50:42on utilise beaucoup de des choses comme
- 50:44ça. Pas uniquement dans la recherche,
- 50:46même dans le la gens qui font de la
- 50:48finance, ils font ça.
- 50:51Parce que vous savez pour prédire a
- 50:52l'option d'achat d'une action pour
- 50:54prédire ce il y a des des équations
- 50:58n'est-ce pas c'est il y a des des
- 51:00modèles mathématiques et bien les
- 51:03modèles mathématiques c'est des modèles
- 51:04qui sont rapprochés sont pas vrais et
- 51:07donc si vous avez les données et le
- 51:09modèle mathématique si vous les combinez
- 51:10ça vous donne quelque chose de mieux
- 51:13c'est un peu ça
- 51:15c'est clair
- 51:18c'est bon pas de question parfait alors
- 51:20J'essaie d'aller tout doucement parce
- 51:21que tout ça c'est vraiment c'est un peu
- 51:23de des rappels.
- 51:26Donc
- 51:27en résumé donc les prérequis donc que
- 51:30vous devrez avoir en rappel donc
- 51:33l'apprentissage supervisé. Dans
- 51:35l'apprentissage supervisé donc je
- 51:37rappelle qu'il y a deux types de
- 51:38problèmes. Il y a
- 51:41la régression et la classification.
- 51:44Voilà encore une autre question qui vous
- 51:45sera tout le temps posée. C'est quoi la
- 51:47différence entre la régression et
- 51:50classification ? Alors la la régression
- 51:53c'est un type de problème
- 51:54d'apprentissage supervisé dans lequel on
- 51:56prédit une valeur continue. On est bien
- 52:00d'accord ? Par exemple prédire le prix
- 52:03le prix d'un produit c'est une valeur
- 52:05continue. Ça peut être ça peut être 5
- 52:07comme ça peut être 400 ça peut être et
- 52:09cetera.
- 52:10Euh, on peut prédire la température,
- 52:12prédire une probabilité, prédire des
- 52:14choses. C'est c'est ce qu'on appelle une
- 52:16régression.
- 52:18Et puis il y a la classification.
- 52:20Alors, la classification quand on prédit
- 52:22une valeur, une sortie catégorique, par
- 52:27exemple, prédire par exemple si un
- 52:30plutôt si un email est un spam ou non.
- 52:32Donc voyez, donc à la sortie, ça peut
- 52:34être soit oui ou bien non. Donc quand
- 52:37vous avez que oui ou non, ça c'est ce
- 52:39qu'on appelle un classifur binaire. OK ?
- 52:42Ou tout simplement prédire c'est dans
- 52:44une photo est-ce que c'est un chat ou
- 52:45bien c'est un chien ou bien c'est un
- 52:46fruit et cetera. Donc ça c'est des
- 52:49classifieurs. Alors ça c'est des choses
- 52:50que vous connaissez. Alors forcément euh
- 52:54vous avez des quelques
- 52:57quelle est la métrique qu'on utilise
- 52:58pour mesurer les performances d'une
- 53:00régression ? Quelle est la métrique
- 53:03qu'on utilise pour mesurer les
- 53:04performances d'une régression ? Mean
- 53:07squared error.
- 53:09L'erreur quadratique c'est la moyenne.
- 53:16Voilà. Min square error. Donc vous
- 53:19pouvez l'utiliser pour pour mesurer les
- 53:22performances. Et quelles sont les
- 53:23métriques qu'on utilise pour mesurer les
- 53:25performances d'un classifieur ?
- 53:30Qur, précision, récolle et f score
- 53:34ou généralement quand vous faites la
- 53:36classification, vous avez besoin de
- 53:37dresser ce qu'on appelle euh
- 53:42la matrice de confusion. Tout à fait.
- 53:44Donc c'est des concepts de base qui sont
- 53:45liés à la classification. Ne les oubliez
- 53:47pas. Alors euh le premier TP qu'on va
- 53:50faire c'est c'est ça c'est avec Pyth on
- 53:53va voir comment créer une régression,
- 53:55comment créer une classification,
- 53:57comment faire du deep learning, comment
- 53:59faire comment faire et comme ça pour la
- 54:01suite ça c'est vraiment c'est c'est
- 54:04fondamental parce que si je je n'ai pas
- 54:06dans ma poche fondamentaux à un moment
- 54:09donné vous vous aurez avoir des
- 54:11difficultés parce que pour être recruté
- 54:14euh dans le domaine de l'intelligence
- 54:16artificielle, il y a Les fondamentaux,
- 54:18si vous les connaissez pas, alors c'est
- 54:20c'est quasiment c'est éliminatoire. Donc
- 54:24c'est pour cela que euh quand vous allez
- 54:26faire les TP, je vais vous noter
- 54:28quelques quelques
- 54:30un ensemble de questions euh réponses
- 54:33sur lesquelles il faut trancher.
- 54:34C'est-à-dire quand on vous pose cette
- 54:35question, il faut bien donner la la
- 54:38bonne la bonne réponse.
- 54:41Alors donc l'apprentissage aut plutôt
- 54:44non supervisé, donc ça c'est le
- 54:46classing. Donc à partir des données, on
- 54:48va faire on va détecter les groupes, les
- 54:50clusters. Donc parmi les algorithmes que
- 54:53vous devrez connaître, que vous avez
- 54:55déjà étudié, il y a Camins, n'est-ce pas
- 54:58? Vous l'avez déjà fait. Parfait.
- 55:01L'apprentissage par renforcement, je
- 55:03viens d'en parler, il y a des modèles
- 55:04comme Killing, euh voilà, euh PPO,
- 55:09l'apprentissage autosupervisé.
- 55:11Alors, voyez donc l'apprentissage
- 55:12supervisé. J'ai ici un texte, le chat
- 55:17dort
- 55:18sur le tapis. Ça c'est un texte,
- 55:21n'est-ce pas ? Bah qu'est-ce que je vais
- 55:22faire ? Je vais prendre le chat dors sur
- 55:24le tapis. Regardez le je masque. Je
- 55:25masque le chat.
- 55:28Je masque le chat, je le cache et après
- 55:31je vais entraîner le modèle à prédire
- 55:33qu'est-ce qui est masqué ? C'est le
- 55:36le chat. Et puis je vais encore masquer
- 55:38tapis. Je je l'entraîne. Donc c'est ça
- 55:41l'apprentissage auto supervisé.
- 55:44NLP
- 55:46NLP il est basé sur l'apprentissage
- 55:49c'est NLP c'est NLP il est basé sur
- 55:51l'apprentissage autosupvis
- 55:54et puis les réseaux informés par la
- 55:56physique donc je viens de d'en parler OK
- 56:00alors maintenant une fois qu'on a une
- 56:03idée une map générale sur le sur le en
- 56:06fait l'intelligence artificielle
- 56:09maintenant c'est quoi la différence
- 56:11entre l' discriminative et générative.
- 56:15[raclement de gorge] Alors dans l'IA
- 56:16discriminative,
- 56:18on apprend la frontière entre les
- 56:21classes
- 56:23à partir des données qui sont étiquetées
- 56:25de manière générale. C'est-à-dire quoi ?
- 56:26Dans l'IA discriminatif, qu'est-ce qu'on
- 56:27fait ? Euh ben on a un dataset qui se
- 56:30vont étiquetés pour lequel on connaît
- 56:33les inputs et les outputs. On
- 56:34l'entraîne, ça vous le savez. Et après
- 56:36par la suite quand je donne une photo,
- 56:37par exemple, il va me dire à la fin
- 56:39est-ce qu'il s'agit de d'un chien ou
- 56:41bien d'un oiseau ou d'un chat. c'est il
- 56:42discrimine, c'est-à-dire je lui donne un
- 56:45input et à la fin il va me donner une
- 56:47étiquette. Il va me dire voilà, il va
- 56:49faire ce qu'on appelle la
- 56:50discrimination.
- 56:52OK ?
- 56:54Alors que dans l'IA génératif c'est un
- 56:56peu le c'est c'est différent parce que
- 56:57qu'est-ce qu'on va faire dans l'IA
- 56:58génératif ? On va prendre un ensemble de
- 57:00données, on va les on va souvent faire
- 57:03de l'apprentissage autosupervisé pour
- 57:05faire l'entraînement. Une fois que le
- 57:07modèle est entraîné et bien euh on
- 57:10pourra lui donner un prompt.
- 57:12Par exemple, je peux lui dire je veux un
- 57:14chat portant du papillon plutôt voilà du
- 57:17papillon assis dans un salon et cetera
- 57:19élégant. Donc ça c'est un prompt et à
- 57:22partir de ce prompt là le modèle il est
- 57:24capable de générer donc une nouvelle
- 57:27photo qu'il n'a jamais vu. Donc
- 57:29c'est-à-dire la capacité de générer du
- 57:31nouveau texte, la capacité de générer
- 57:33des nouvelles images, générer de la
- 57:35musique, générer de Donc ça on est
- 57:37plutôt dans les modèles ce qu'on appelle
- 57:39génératif.
- 57:42Alors maintenant, tout ce que vous avez
- 57:45euh en fait, vous savez quand j'ai parlé
- 57:48tout à l'heure de ça, vous avez
- 57:51en quelque sorte tout ça c'est des c'est
- 57:52c'est des modèles qui sont
- 57:54discriminatifs, n'est-ce pas ?
- 57:57Discriminatif, c'est-à-dire on a le
- 57:59input et après le output, ça peut être
- 58:01soit une valeur, soit un label. Donc le
- 58:04c'est les modèles discriminatifs alors
- 58:07que dans l' générative donc on est dans
- 58:09une autre logique et donc ça nous pousse
- 58:12à parler un peu de c générative.
- 58:17Alors en fait l' générative donc c'est
- 58:19c'est un c'est ou donc c'est une
- 58:26historiquement si vous voulez l
- 58:27générative il a il a fait ses premiers
- 58:29pas en 2014
- 58:32par les modèles qu'on appelle les gains.
- 58:38Alors generative adversal
- 58:41network. Donc ça c'est l'un des modèles
- 58:43que vous allez étudier dans ce ce cours
- 58:45et vous aurez l'occasion de voir comment
- 58:47créer ces ces gains, comment les
- 58:48utiliser.
- 58:51Et puis euh en 2017, c'est là où on va
- 58:54s'accélérer. Donc en 2017 euh il y a en
- 58:57fait il y a des auteurs chez Google qui
- 58:59ont créé un un article, qui ont publié
- 59:02un article qui s'appelle attention is
- 59:04all unit.
- 59:06Alors cet article là, je vous l'ai déjà
- 59:08montré l'année dernière si vous rappelez
- 59:10mais cette année-là vous allez vraiment
- 59:12le maintenant c'est on va rentrer dans
- 59:13le le le modèle comment euh comment on
- 59:16va implémenter ces algorithmes qu'on
- 59:17appelle les transformers. C'est grâce à
- 59:20ce mécanisme d'attention qu'en est une
- 59:22nouvelle génération d'algorithmes euh
- 59:24qu'on appelle les transformers. Les
- 59:26transformers.
- 59:28Et bien euh après juste après il y a en
- 59:31fait Google a créé son propre modèle de
- 59:34transformer qu'on appelle birthd. C'est
- 59:37by Directional encoder represent from
- 59:39Transformers.
- 59:41Et puis a Facebook plutôt Open qui a
- 59:45créé son propre modèle GPT.
- 59:48Alors GPT c'est Gen Transformers. Donc
- 59:51ça c'est des algorithmes basés sur ce
- 59:53qu'on appelle le mécanisme d'attention
- 59:55euh que nous allons étudier par la
- 59:56suite.
- 59:59Et puis euh donc vous voyez qu'est-ce
- 1:00:02qu'il y a qu'est-ce qui a développé le
- 1:00:03premier article ? C'est ça se passe chez
- 1:00:04Google, n'est-ce pas ? Mais qu'est-ce
- 1:00:06qui a en profiter plus ?
- 1:00:08C'est Open I parce que Open I a fait
- 1:00:11plus vite, il a créé chat GPT les
- 1:00:13versions et cetera. Donc il a il a pris
- 1:00:15de l'avance mais après Google a a
- 1:00:17rattrapé avec Gemini et cetera. Donc et
- 1:00:20donc voilà donc 2019, il y a une
- 1:00:22nouvelle version des gains, c'est ce
- 1:00:24qu'on appelle les style GS qui sont très
- 1:00:26performants. Et puis donc voilà 2020
- 1:00:30tout le monde a été étonné par la
- 1:00:31première version de chat GPT. Tout le
- 1:00:34monde est tout le monde se posait la
- 1:00:37question c'est quoi ce chat GPT ? il est
- 1:00:40il commençait déjà à impressionner et ce
- 1:00:43n'est que après qu'on va commencer à
- 1:00:44voir les versions GPT4, GPT for
- 1:00:50euh
- 1:00:53et après vous avez des des modèles
- 1:00:55maintenant GPT5, GPT6, vous avez
- 1:00:58Deeptic, vous avez Lama, vous avez plein
- 1:01:00les modèles de diffusion et c'est
- 1:01:02c'est-à-dire l'écosystème c'était c'est
- 1:01:04vraiment développé de manière incroyable
- 1:01:07et de mois en mois on obtient des
- 1:01:09nouvelles versions qui sont beaucoup
- 1:01:10plus performantes. Euh mais ce qu'il
- 1:01:12faut ce qu'il faut noter, c'est que euh
- 1:01:14donc on est dans à l'aire de 2026 et
- 1:01:18donc aujourd'hui donc vous avez GPT6,
- 1:01:20vous avez Cloud
- 1:01:23Cloud 4, vous avez et cetera. Donc euh
- 1:01:26mais on va dire que le vous avez cloud
- 1:01:29d'un côté, vous avez euh Open I, vous
- 1:01:32avez Google avec Gemini
- 1:01:37et après vous avez les les modèles
- 1:01:39chinois donc qui sont très performants
- 1:01:42et puis vous avez Deepsic, vous avez
- 1:01:44GMA, vous avez et vous avez plein de
- 1:01:46modèles open source. Donc ça c'est il
- 1:01:47faut pas oublier, c'est que il y a un
- 1:01:49site qui s'appelle Hugin Face que vous
- 1:01:51allez beaucoup utiliser cette année euh
- 1:01:53dans lequel vous allez trouver des
- 1:01:54milliers et des milliers de de modèles
- 1:01:56LLMs open open source et donc euh vous
- 1:02:00aurez besoin de de pouvoir les les
- 1:02:02utiliser parce qu'on aura besoin de
- 1:02:03faire du F tuning et euh donc voilà donc
- 1:02:06ça c'est ce qui fait j'espère que vous
- 1:02:08aurez une machine qui est un peu plus
- 1:02:12[rires]
- 1:02:13j'espère parce que le problème de lia
- 1:02:16génératif Le le problème c'est ça. Soit
- 1:02:18j'ai une bonne machine euh si je n'ai
- 1:02:21pas une bonne machine, j'ai besoin de
- 1:02:22d'un openner I et open il faut payer les
- 1:02:25les tout ça. Donc c'est toujours c'est
- 1:02:27un coût. Il y a un coût quelque part,
- 1:02:28n'est-ce pas ? Alors bon comme l'année
- 1:02:30dernière, je vous ai à chaque semaine je
- 1:02:32vous donne une clé [rires]
- 1:02:35que je paye à chaque fois moi-même,
- 1:02:36c'est pas un problème. Mais le problème
- 1:02:38c'est difficile à gérer.
- 1:02:41Mais cette année-là donc pour faire de
- 1:02:42lien génératif vraiment il faut on va
- 1:02:44faire de des modèles open source. On va
- 1:02:46travailler beaucoup avec les modèles
- 1:02:47open source. Et donc euh si vous avez
- 1:02:50une machine qui n'est pas très
- 1:02:51puissante, vous allez télécharger un
- 1:02:52modèle qui est plus petit, c'est-à-dire
- 1:02:54le modèle le plus le plus adéquat pour
- 1:02:57votre machine. Et par la suite, on va
- 1:02:59essayer de de travailler là-dessus.
- 1:03:03[raclement de gorge]
- 1:03:08Est-ce que c'est clair ? Parfait.
- 1:03:12Alors, il y a une autre question qui est
- 1:03:14très importante, c'est que qu'est-ce qui
- 1:03:16fait que aujourd'hui
- 1:03:18l' générative vit ce qu'on appelle l'âge
- 1:03:20d'or de l'intelligence artificielle ?
- 1:03:23Bon, il y a trois choses de base.
- 1:03:25D'abord, c'est la puissance des modèles.
- 1:03:27C'est grâce principalement au
- 1:03:30Transformers GPT, Birt, les LLMs et
- 1:03:33cetera. C'est les modèles, les
- 1:03:35transformers ont démontré leur capacité
- 1:03:37de de comprendre de manière incroyable
- 1:03:40l'abondance des données. Ça c'est très
- 1:03:43important. Plus avec les réseaux
- 1:03:45sociaux, tout le monde génère les
- 1:03:46données et cetera. Il y a tellement
- 1:03:47beaucoup de données que et on peut on
- 1:03:51peut profiter de des données pour
- 1:03:53générer pour entraîner des des modèles.
- 1:03:56Et puis il y a ça, ça c'est important,
- 1:03:59c'est la puissance de calcul.
- 1:04:01Parce que euh pour pouvoir entraîner des
- 1:04:04des transformers sur des des tonnes de
- 1:04:07données, bah il nous faut utiliser ce
- 1:04:10qu'on appelle les GPU.
- 1:04:12et les GPU. D'ailleurs, pour ceux qui le
- 1:04:14savent pas, euh quand vous faites
- 1:04:16l'intelligence artificielle, si
- 1:04:21vous avez un budget, si vous vous
- 1:04:23envisagez d'acheter un ordinateur, bah
- 1:04:26vous achetez vous cherchez un ordinateur
- 1:04:28avec une carte Nvidia, carte graphique
- 1:04:31Nvidia. Parce que si vous avez une carte
- 1:04:33graphique Nvidia, c'est que vous avez le
- 1:04:35GPO. Et c'est quoi le GPO ? Le GPE,
- 1:04:38c'est une carte graphique dans la dans
- 1:04:40laquelle vous avez des milliers de
- 1:04:42petits microprocesseurs.
- 1:04:46Et quand vous faites le calcul, vous
- 1:04:48savez dans les réseaux de neurones,
- 1:04:49quand on entraîne des modèles de réseau
- 1:04:51de neurone, on fait beaucoup de calculs
- 1:04:53matriciels. C'est des calculs
- 1:04:54matriciels, n'est-ce pas ? Et bien, si
- 1:04:57vous utilisez le CPU pour faire ces
- 1:04:59calculs matriciels, vous allez faire
- 1:05:01beaucoup de boucles fort fort fort fort
- 1:05:03et cetera. ça prend beaucoup de temps.
- 1:05:05Mais si on utilise le GPO, on fait ses
- 1:05:07calculs de manière parallèle.
- 1:05:09C'est-à-dire grâce au GPO, on va
- 1:05:10utiliser des milliers de petits
- 1:05:12microprocesseurs qui permettent de
- 1:05:14d'accélérer les calculs. Donc voilà.
- 1:05:17Donc ça c'est un détail qui est très
- 1:05:18important parce que souvent quand vous
- 1:05:20avez un GPU, il faut savoir l'utiliser
- 1:05:22et cetera. Donc
- 1:05:26c'est clair. Donc il y a c'est ce qui
- 1:05:29est aujourd'hui précieux dans le domaine
- 1:05:31de l'intelligence artificielle, c'est
- 1:05:33les GPU. Les entreprises ont besoin de
- 1:05:35d'acheter les GPU pour entraîner et
- 1:05:37vous-même vous en aurez besoin. Bon, les
- 1:05:39institutions, les laboratoires et et
- 1:05:41donc euh alors maintenant, si vous avez
- 1:05:43un petit GPU, ça peut suffire pour vous,
- 1:05:45mais pour mettre un modèle en production
- 1:05:48euh généralement euh parfois il vous
- 1:05:50faut de des serveurs qui sont coûteux,
- 1:05:51qui sont qui coûtent trop cher pour les
- 1:05:53entreprises. Ça, on va en parler.
- 1:05:57Et puis il y a le cloud computing bien
- 1:05:59sûr, il y a les GPU. Euh Google utilise
- 1:06:01sa propre génération de GPU, ce qu'on
- 1:06:03appelle les TPU. D'ailleurs, si vous
- 1:06:06allez vers collab,
- 1:06:08donc collab Google collab, quand vous
- 1:06:09allez faire votre vous allez entraîner
- 1:06:12un modèle, vous pouvez voir dans les
- 1:06:14paramètres, vous pouvez activer soit le
- 1:06:15GPU, soit le TPU, n'est-ce pas ? Alors,
- 1:06:18tout ça c'est des c'est des des cartes
- 1:06:20d'accélération de calcul parallèle.
- 1:06:23C'est ça un serveur. Oui, mais en
- 1:06:25général en général je vais vous dire une
- 1:06:28chose, c'est que le quand vous allez
- 1:06:29faire votre stage PFE ou bien quand vous
- 1:06:31allez travailler, vous allez rencontrer
- 1:06:33ce problème. Ce que les entreprises, ils
- 1:06:35vont faire, ils vont faire utiliser l'
- 1:06:37générative et agentique, la question
- 1:06:39est-ce qu'on va utiliser quel est ce
- 1:06:41qu'on va utiliser
- 1:06:44écoutez-moi bien, ça c'est vous le notez
- 1:06:45dans votre tête. Et après l'entreprise,
- 1:06:47il va vous dire est-ce qu'on va utiliser
- 1:06:49un LLM open source ou bien on va
- 1:06:51utiliser les LLM par exemple Openi.
- 1:06:55Et si vous utilisez les LLM open source,
- 1:06:58il faut que vous le sachiez, c'est que à
- 1:07:00un moment donné l'entreprise doit
- 1:07:01acheter des des serveurs, des GPU, c'est
- 1:07:04un coût, il y a de la maintenance et
- 1:07:05cetera. Il faut que il faut le savoir
- 1:07:08quand vous allez utiliser Open A, ils
- 1:07:10vont vous dire la chose mais nous pour
- 1:07:12des raisons de confidentialité des
- 1:07:13données, on veut pas que les données
- 1:07:16sortent de de du contexte.
- 1:07:20Et ça c'est une fausse
- 1:07:23c'est une c'est une fausse crainte.
- 1:07:26Pourquoi ? Parce que généralement la
- 1:07:29majorité des gens ne savent pas ce qui
- 1:07:30se passe. C'est que il faut expliquer
- 1:07:32aux gens que un LM est stateless. Je
- 1:07:35l'ai déjà l'année dernière
- 1:07:38stat, ça veut dire que quand je lui
- 1:07:39envoie des données, il va les
- 1:07:41transformer en tokens, ça devient des
- 1:07:43imbedins. Et après le ll, il fait les
- 1:07:46calculs, il génère. Mais quand il
- 1:07:48génère, il se rappelle plus de de rien.
- 1:07:50C'est-à-dire le LLM ne va jamais
- 1:07:52utiliser le les données que vous envoyez
- 1:07:54dans les les requêtes euh pour euh pour
- 1:07:57les les entraîner quelque part. On est
- 1:07:59bien d'accord.
- 1:08:01Autre chose, c'est que quand quelqu'un
- 1:08:03me pose cette question, il me dit que
- 1:08:05les données confidentielles, bah je leur
- 1:08:07dis tout simplement, est-ce que vous
- 1:08:09utilisez Gmail ? Bah oui. Mais pourquoi
- 1:08:11vous posez la question si vous utilisez
- 1:08:13Gmail ? C'est que vous donnez les sons
- 1:08:14déjà dans le cloud.
- 1:08:16C'est-à-dire, on se permet d'échanger
- 1:08:19des des emails confidentiels par Gmail
- 1:08:22et après on a peur que que quelques
- 1:08:25petites données aillent vers Open UNIP
- 1:08:28pour faire ça. Donc c'est les les gens
- 1:08:29ils ont pas ils comprennent pas. Donc
- 1:08:32c'est juste cette crainte, c'est que
- 1:08:34vous vous devrez avoir un peu des
- 1:08:37arguments à expliquer aux gens. Bien.
- 1:08:40Alors euh maintenant donc pour le reste,
- 1:08:43on va commencer à en fait euh à
- 1:08:46pratiquer un peu le les choses. Et pour
- 1:08:48pratiquer ça, je je dois encore rappeler
- 1:08:50quelque chose peut-être que vous avez vu
- 1:08:51plusieurs fois, c'est le les réseaux de
- 1:08:54neurones artificiel. OK ? Alors, c'est
- 1:08:56quoi un neurone ?
- 1:08:59Donc, vous voyez donc la structure d'un
- 1:09:01neurone, donc c'est qu'est-ce qu'il fait
- 1:09:03le le neuron ? Le neurone, c'est un
- 1:09:04neurone artificiel, c'est une
- 1:09:06approximation du neurone biologique.
- 1:09:09Bon, généralement, comment fonctionne un
- 1:09:10neurone ? Il va recevoir des des inputs,
- 1:09:13n'est-ce pas ? Xi
- 1:09:16et puis
- 1:09:19le neuron fait deux opérations. La
- 1:09:20première, c'est que il va faire ce qu'on
- 1:09:22appelle une sommation pondérée. Ça veut
- 1:09:24dire quoi ? Ça veut dire que euh par
- 1:09:28exemple pour x1, il va prendre x1 m par
- 1:09:31w1
- 1:09:32plutôt x1* par w1 + x2 multipli par w2 +
- 1:09:37x3* par w3. C'est quoi les w ? Les les w
- 1:09:42c'est ce qu'on appelle les poids de de
- 1:09:43neuron plutôt des connexions. Les poids
- 1:09:46des connexions. OK ? Et donc le neurone,
- 1:09:50il va faire d'abord une sommation
- 1:09:52pondérée.
- 1:09:54OK ? C'est-à-dire, il va faire W x plus
- 1:09:58le billet en fait, le le basse. Alors
- 1:10:01pourquoi le billet ? Parce que si par
- 1:10:03exemple x é= à 0, c'est-à-dire si
- 1:10:05l'entrée égale à éuron
- 1:10:08il va il va donner comme quoi comme
- 1:10:10sortie. Parce que si vous faites W x,
- 1:10:13c'est si X é= 0, qu'est-ce qui vous
- 1:10:14reste ? C'est
- 1:10:15c'est B. C'est-à-dire le billet,
- 1:10:17c'est-à-dire si jamais il y a pas
- 1:10:18d'entrée, ben le neuron, il va quand
- 1:10:20même donner quelque chose à la sortie,
- 1:10:21il va pas donner un zéro. Et donc
- 1:10:23finalement,
- 1:10:26une fois que que vous allez faire cette
- 1:10:27sommation pondérée, la deuxième étape
- 1:10:30euh d'utiliser une fonction
- 1:10:32d'activation. Alors, pourquoi une
- 1:10:34fonction d'activation ? Parce que nous
- 1:10:36avons d'introduire ce qu'on appelle la
- 1:10:38non linéarité. Parce que si vous faites
- 1:10:40la sommation pondérée, vous êtes
- 1:10:42purement dans un problème linéaire,
- 1:10:44c'est-à-dire mais la majorité des
- 1:10:47problèmes sont non linéaires. Et pour
- 1:10:49introduire la nonéarité, on va appliquer
- 1:10:51ce qu'on appelle une fonction
- 1:10:52d'activation.
- 1:10:54Avec la fonction d'activation, il y a
- 1:10:56beaucoup de fonctions qui sont très
- 1:10:57connues que vous connaissez parmi
- 1:10:58lesquel a sigmoïde, il y a tangent
- 1:11:01hyperbolique, r donc vous avez plein de
- 1:11:04fonctions d'activation qu'on va beaucoup
- 1:11:05utiliser dans la pratique et c'est des
- 1:11:07fonctions qu'il faut connaître.
- 1:11:09il faut les les connaître l'allure de
- 1:11:11chaque fonction. Il faut savoir dans tel
- 1:11:13type de problème quelle est la la
- 1:11:15fonction d'activation la plus
- 1:11:16appropriée. Et ça c'est quelque chose
- 1:11:18qu'on va vous sur lequel on va revenir
- 1:11:19dans le dans la pratique.
- 1:11:21Donc en quelque sorte euh quand on va
- 1:11:24euh quand on va faire euh appliquer la
- 1:11:27fonction d'activation, on va avoir euh
- 1:11:29une sortie. Par exemple, si vous
- 1:11:30appliquez la la fonction d'activation
- 1:11:32sigma 8, la sortie ça va être un nombre
- 1:11:36entre 0 et et 1. C'est-à-dire le
- 1:11:39l'output, ça va être un nombre entre 0
- 1:11:41et et 1. Si vous appliquez par exemple
- 1:11:43tangent hyperbolique, ça va être quelque
- 1:11:45chose entre -1 et 1 et cetera. Donc
- 1:11:48c'est ce qui fait la fonction
- 1:11:49d'activation, elle est là pour
- 1:11:51introduire la non linéarité.
- 1:11:54Donc les W ça représente quoi ? c'est
- 1:11:56les poids de de des connexions. B, c'est
- 1:11:59les billets.
- 1:12:01Alors, sigma, c'est ce qu'on appelle la
- 1:12:03fonction d'activation qui introduit la
- 1:12:05non linéarité. Ben, Z, ce que vous voyez
- 1:12:07là, la sommation, c'est ce qu'on appelle
- 1:12:09également la combinaison linéaire. Bon,
- 1:12:10c'est une sommation linéaire et py c'est
- 1:12:13la sortie du neurone. Et comment ça se
- 1:12:17fait l'entraînement de d'un neurone ? Il
- 1:12:18y a des étapes. On va prendre les
- 1:12:20données d'entraînement. On va d'abord
- 1:12:23faire une opération qui s'appelle
- 1:12:24forward. OK ?
- 1:12:26Alors, forward, c'est tout simplement on
- 1:12:28va donner à à la fin, c'est-à-dire on va
- 1:12:30donner au neuron plutôt le on va donner
- 1:12:33au modèle le x à l'entrée et ça va
- 1:12:36donner quelque chose à la sortie. Une
- 1:12:38fois que j'ai la sortie, je calcule la
- 1:12:42l'erreur et l'erreur c'est ce qu'on
- 1:12:44appelle le loss. OK ? Et c'est quoi
- 1:12:46l'erreur ? tout simplement c'est la
- 1:12:48sortie générée par le le modèle moins la
- 1:12:53sortie réelle.
- 1:12:55Et puis par la suite, on a besoin de
- 1:12:56minimiser le pour faire le pour
- 1:12:58minimiser ce loss là, on a besoin de
- 1:13:00faire ce qu'on appelle la rétro
- 1:13:02propagation backword. Et généralement
- 1:13:05dans la rétroagation
- 1:13:07euh nous allons euh quoi ? Nous allons
- 1:13:09euh mettre à jour les les paramètres du
- 1:13:12modèle. C'est-à-dire il l'idée
- 1:13:14principale, c'est comment trouver les
- 1:13:16les bonnes valeurs des poids qui
- 1:13:19permettent de minimiser le loss. Et donc
- 1:13:22pour faire ça, il y a une petite formule
- 1:13:24que vous devrez connaître, c'est que le
- 1:13:25paramètre par exemple W égal le W actuel
- 1:13:29auquel on va retrancher mu fois la
- 1:13:34dérivée le ce qu'on appelle le gradient
- 1:13:36du los par rapport au poids.
- 1:13:40Donc ça veut dire que nous aurons besoin
- 1:13:41de de calculer ce qu'on appelle le le
- 1:13:43gradient, c'est-à-dire c'est le la
- 1:13:45variation de du loss par rapport au
- 1:13:48poids. Et si vous prenez un paramètre
- 1:13:51mu, c'est ce qu'on appelle la vitesse
- 1:13:52d'apprentissage learning rate. Bon de mu
- 1:13:56c'est learning rate, c'est une valeur
- 1:13:58qui est comprise entre 0 plus dans la
- 1:14:00majorité des cas, vous trouverez 0,001
- 1:14:02et cetera.
- 1:14:04Et donc si vous faites ça, cette
- 1:14:06opération là, et bien cette cette façon
- 1:14:08de la mise à jour des des paramètres, ça
- 1:14:10permet de calculer tout simplement en
- 1:14:13quelque sorte quel quels sont les
- 1:14:14paramètres, c'est-à-dire les poids et
- 1:14:16les billets.
- 1:14:18Et on va reprendre plusieurs fois. Ça
- 1:14:20c'est la première passe, c'est ce qu'on
- 1:14:22appelle une époque. Et après on va
- 1:14:24reprendre une deuxième fois, la deuxième
- 1:14:25époque, la trè on va faire ça jusqu'à ce
- 1:14:28que le los devient très très petit. Donc
- 1:14:30ça c'est la technique globale qu'on va
- 1:14:31utiliser pour entraîner un un réseau
- 1:14:34neurone artificiel.
- 1:14:36Alors il faut noter également que quand
- 1:14:38on parle du loss alors le loss donc
- 1:14:40quand il s'agit d'une régression donc
- 1:14:42plutôt on va utiliser
- 1:14:44RMSE donc min squared error et quand il
- 1:14:47s'agit de d'une classification on va
- 1:14:49utiliser
- 1:14:52cross entropy. Donc il y a des métriques
- 1:14:54plutôt il y a des des fonctions qui sont
- 1:14:56utilisées pour le cas de de
- 1:14:57classification. C'est ce qu'on va voir.
- 1:15:01Voilà. Donc on arrive directement à la
- 1:15:03partie donc les les bases de POR.
- 1:15:06Alors pour euh pour euh develop pour
- 1:15:08faire li génératif généralement vous
- 1:15:11allez faire du deep learning. Et pour
- 1:15:12faire des deep learning, il y a deux
- 1:15:14framework qui sont populaires qui sont
- 1:15:16les plus utilisés et on a Tinorflow et P
- 1:15:19Torche. Alors dans notre cas, on va
- 1:15:21beaucoup travailler avec P torche.
- 1:15:23Peut-être dans des DTP, on va combiner
- 1:15:25entre Turflow et P torche. Mais pour le
- 1:15:27moment, on va se concentrer P torch
- 1:15:29parce que c'est c'est en même temps pour
- 1:15:31vous c'est les on va revoir un peu les
- 1:15:33bases,
- 1:15:34n'est-ce pas ? Et en même temps, ça sera
- 1:15:36pour vous l'occasion de maîtriser les
- 1:15:37réseaux en artificiel. Et en même temps,
- 1:15:40ce sera l'occasion de revenir comment
- 1:15:42créer un une régression, comment faire
- 1:15:44une classification, comment faire euh de
- 1:15:48un deep learning et puis on va enchaîner
- 1:15:50par les modèles génératifs parce que ce
- 1:15:52qui nous intéresse au début, on va
- 1:15:53s'intéresser au modèle discriminatif, ça
- 1:15:57c'est pour le fondamentaux. Et par la
- 1:15:59suite, on va commencer à travailler les
- 1:16:01modèles génératifs. Et dans les modèles
- 1:16:03génératifs, il y en a plusieurs. Donc,
- 1:16:04on va en parler.
- 1:16:06Alors bon donc pour comme je disais donc
- 1:16:08il y a une partie qui est très
- 1:16:10importante pour la suite de ce cours.
- 1:16:13Euh donc il y a des activités pratiques
- 1:16:15qui concernent les bases de pche.
- 1:16:19Euh donc le voilà. Alors ici donc vous
- 1:16:21avez un certain nombre de choses qu'il
- 1:16:23faut savoir.
- 1:16:25Il y a un notebook que j'ai partagé sur
- 1:16:28Classroom qui contient en fait comme
- 1:16:30d'habitude les bases de Pche.
- 1:16:34Donc ce notebook bien sûr ça ça sera
- 1:16:36l'objet de de l'activité pratique de la
- 1:16:39semaine prochaine mais pour le moment
- 1:16:41donc je vous explique globalement les
- 1:16:42éléments de base.
- 1:16:44Alors, d'abord, vous aurez besoin de
- 1:16:46d'installer les dépendances Torche, donc
- 1:16:49Porche.
- 1:16:51Et puis donc on va voir en fait, il y a
- 1:16:53d'autres en fait, il y a d'autres
- 1:16:55packages que vous vous allez devoir
- 1:16:56installer. Alors euh donc la première
- 1:17:00des choses souvent il est toujours on va
- 1:17:03dire ce réflexe c'est que à chaque fois
- 1:17:05s'il vous plaît
- 1:17:11donc il est toujours le réflexe donc une
- 1:17:14fois que vous importez torche donc vous
- 1:17:16allez voir la version de torche
- 1:17:19et surtout
- 1:17:21et surtout donc vous avez besoin de
- 1:17:23savoir est-ce que votre machine euh
- 1:17:25dispose d'un GPU ou non. C'est
- 1:17:27important. Vous voyez donc les GPU,
- 1:17:29c'est ces cartes que vous voyez là
- 1:17:30Nvidia, c'est des se parfois c'est des
- 1:17:33cartes qui sont intégrées dans vos
- 1:17:35ordinateurs. Et donc pour pouvoir euh
- 1:17:38tester si votre euh votre machine
- 1:17:42dispose d'un GPU, vous utilisez donc
- 1:17:43tout simplement torch.
- 1:17:46Alors en fait, c'est quoi CUDA ? Alors
- 1:17:48coda, c'est le langage de programmation
- 1:17:51qui est utilisé pour faire le calcul
- 1:17:54parallèle au niveau des GPU de Nvidia.
- 1:17:58Parce que quand je parle quand je parle
- 1:18:00de en fait GPO, il y a les GPO les plus
- 1:18:03populaires, c'est les GPU de Nvidia.
- 1:18:05C'est les plus populaires mais euh Apple
- 1:18:08a ses propres GPU. Microsoft il a ses
- 1:18:11propres GPU, mais on va dire les plus
- 1:18:13populaires, c'est Nvidia. Et donc
- 1:18:14NVIDIA, c'était le premier qui a qui
- 1:18:16avait créé ces ces ces ces c'est ces
- 1:18:19cartes de ces accélérateurs de calcul
- 1:18:21parallèle. Et pour créer des pour
- 1:18:25paralléliser
- 1:18:26pour paralléliser ou bien pour faire un
- 1:18:29calcul parallèle au sein des GPU
- 1:18:32euh et bien on utilisait un langage qui
- 1:18:34s'appelait cou.
- 1:18:36Le langage cou il dit c'est le langage C
- 1:18:38dans la base c'est-à-dire la syntaxe
- 1:18:39c'est le langage C mais dans lequel il y
- 1:18:43a des directives qui sont faites
- 1:18:44uniquement pour Nvidia.
- 1:18:47Donc c'est pour cela qu'on va utiliser
- 1:18:48CODA is volable. Donc siici alors ici
- 1:18:51donc vous voyez donc ici c'est affiché
- 1:18:53false veut dire que ma machine ne
- 1:18:55dispose pas de GPU. Ça veut dire que
- 1:18:57tout ce que vous allez faire par la
- 1:18:58suite vous allez faire les calculs au
- 1:19:00niveau de CPU.
- 1:19:03Alors pour les les gens qui le
- 1:19:05connaissent pas, c'est que par exemple
- 1:19:06si vous avez en fait une carte Nvidia
- 1:19:10notamment un GPU, supposons vous voulez
- 1:19:12faire le le la somme de deux matrices.
- 1:19:15C'est c'est un exemple très simple, la
- 1:19:17somme de deux matrices, la matrice A, la
- 1:19:20matrice B, n'est-ce pas ? Si vous n'avez
- 1:19:23pas de GPU, comment vous allez faire la
- 1:19:26somme ? Vous allez faire fort i égal à 0
- 1:19:29jusqu'à tel, fort jug et après vous
- 1:19:31faites la somme de ce point avec ce
- 1:19:33point, la somme de ce point, n'est-ce
- 1:19:34pas ? C'est ce que vous faites ça, c'est
- 1:19:36le CPI, c'est un ensemble de boucles.
- 1:19:38Mais si vous avez des matrices qui sont
- 1:19:39très grandes, bah qu'est-ce qui va se
- 1:19:41passer ? Ça prend du temps.
- 1:19:44Alors si vous avez le GPU, qu'est-ce qui
- 1:19:46se passe ? Et ben ce qui se passe, c'est
- 1:19:48qu'en fait dans le GPU, vous avez des
- 1:19:49milliers de de de processeur. Qu'est-ce
- 1:19:52qui se passe ? que je vais prendre la
- 1:19:53matrice A, je la transfère vers le GPU.
- 1:19:56Et dans ce cas-là, chaque élément chaque
- 1:19:59élément de la matrice euh c'est-à-dire
- 1:20:02les les matrices sont au niveau de la
- 1:20:03mémoire de des GPU, je prends la matrice
- 1:20:06B, je la mets dans le GPU et je vais lui
- 1:20:09demander de faire la somme. Mais quand
- 1:20:11il va faire la somme, il va pas faire la
- 1:20:13somme point par point. Qu'est-ce qu'il
- 1:20:15fait ? Et ben tout simplement, c'est
- 1:20:17très simple. ce par exemple ce petit
- 1:20:19processeur, il va calculer euh la somme
- 1:20:22de ce point avec ce point. Mais en
- 1:20:23parallèle, il y a un autre processeur
- 1:20:25qui va calculer la somme de d'un autre
- 1:20:28point par rapport à un autre point.
- 1:20:30C'est-à-dire au lieu de faire des
- 1:20:31boucles pour pouvoir faire ça en par
- 1:20:33exemple 10000 opérations, vous allez le
- 1:20:35faire en une seule
- 1:20:38opération. Si vous avez vous avez la
- 1:20:39matrice il y a 10000 nombres dans la
- 1:20:41matrice avec le CPU, il y a combien
- 1:20:44d'opérations de de que vous allez faire
- 1:20:48de somme ?
- 1:20:50Vous avez 1000 nombres dans la matrice,
- 1:20:53vous allez faire
- 1:20:551000 opérations. Pour chaque point de la
- 1:20:57matrice, vous faites la somme, la somme,
- 1:20:59la somme, la somme. Mais si vous
- 1:21:01utilisez GPU, bah qu'est-ce qui se passe
- 1:21:03? Vous n'allez pas faire 1000 opérations
- 1:21:05et ben vous allez faire une seule
- 1:21:07opération. Pourquoi ? Parce que en
- 1:21:09parallèle tous les tous les processeurs
- 1:21:11graphiques, chacun va s'occuper d'un
- 1:21:13seul point de la matrice. Il dit que
- 1:21:16donc on fait c'est comme si vous prenez
- 1:21:17les matrices, vous faites comme ça, vous
- 1:21:19vous vous faites la somme de manière
- 1:21:20parallèle. Alors, c'est pour cela que
- 1:21:22vous allez voir généralement quand vous
- 1:21:23travaillez dans avec Porche ou bien
- 1:21:27Torflow, de temps en temps, vous aurez
- 1:21:30besoin de si vous avez un GPU, vous
- 1:21:32aurez besoin d'utiliser to device
- 1:21:35to device, c'est-à-dire je vais
- 1:21:36transférer les modèle vers le GPU et
- 1:21:39parfois on fait l'opération inverse. Et
- 1:21:42quand je veux par exemple visualiser mes
- 1:21:44données, je devrais transférer les
- 1:21:46données du GPU vers le CPU. Et donc on
- 1:21:49va faire ce ce ces éléments là. En tout
- 1:21:51cas, ça c'est juste pour pour savoir,
- 1:21:54notez bien que euh en fait ça c'est euh
- 1:21:58KODA, c'est c'est ce langage que nous
- 1:22:01avons parce que moi personnellement
- 1:22:03depuis que enfin depuis que les les GP
- 1:22:05ont été créés, j'ai beaucoup travaillé
- 1:22:07avec ce langage coua pour paralléliser
- 1:22:10des algorithmes. C'est dans le domaine
- 1:22:11de la recherche, c'est-à-dire euh ce
- 1:22:14qu'on faisait de manière séquencielle,
- 1:22:16on faisait de manière parallèle.
- 1:22:18Euh mais qu'est-ce qu'il a fait Google ?
- 1:22:20Google ou
- 1:22:22et en fait Facebook, ils ont créé un
- 1:22:25framework
- 1:22:26les WAP torch Google il a créé le
- 1:22:28framework ton S. Qu'est-ce qu'ils ont
- 1:22:29fait ? Et bien vous savez toutes les
- 1:22:32opérations du calcul
- 1:22:36de l'algèbre linéaire. Vous savez
- 1:22:38l'algèbre linéaire c'est calcul le
- 1:22:41produit des matrices, le déterminant
- 1:22:42d'une matrice, le toutes les toutes les
- 1:22:44opérations de matriciel, le le calcul
- 1:22:46matriciel, ils ont déjà écrit ce code
- 1:22:49coda qui permet de faire ces opérations.
- 1:22:52C'est-à-dire le développeur n'a plus
- 1:22:53besoin d'écrire des codes coda pour
- 1:22:56faire le calcul parallèle. c'est des
- 1:22:58choses qui sont déjà faites. Donc
- 1:22:59c'est-à-dire si vous utilisez le
- 1:23:01framework transflow ou bien P torche,
- 1:23:04c'est que vous disposez déjà d'un
- 1:23:07ensemble de fonctions qui sont basées
- 1:23:08sur ce langage couda et qui permet de
- 1:23:11faire le calcul parallèle. Donc vous
- 1:23:13faites du calcul parallèle sans que vous
- 1:23:15le sachiez mais sachez-le. OK ? Et donc
- 1:23:18voilà donc c'est ce qui s'est passé et
- 1:23:20mais les gens parfois qui font de la
- 1:23:22recherche parfois de temps en temps ils
- 1:23:23ont besoin de prendre leurs propres
- 1:23:25algorithmes qui sont pas encore
- 1:23:26parallélisés. Bah, on utilise ce langage
- 1:23:29là pour écrire avec le langage C des
- 1:23:32choses comme ça pour pouvoir
- 1:23:33paralléliser les éléments.
- 1:23:36Deuxièmement, alors maintenant, si vous
- 1:23:38voulez faire le calcul parallèle,
- 1:23:40c'est-à-dire si vous voulez faire le
- 1:23:42calcul parallèle avec P torche, il faut
- 1:23:44créer ce qu'on appelle les tensors.
- 1:23:50Alors, c'est quoi un tenseur ? Bah, vous
- 1:23:52savez c'est vous avez déjà fait pyon et
- 1:23:54vous avez utilisé une impaille, n'est-ce
- 1:23:55pas ? Ben Nie, c'est c'est une librairie
- 1:23:58que vous utilisez pour faire le calcul
- 1:24:00des vecteurs, des matrices et cetera,
- 1:24:02c'est-à-dire pour représenter des pour
- 1:24:04faire le calcul sur les tableaux, sur
- 1:24:05les matrices
- 1:24:072 D, 3D, ND et cetera. Donc on utilise
- 1:24:09NPA. Alors, sauf que avec Npille, un
- 1:24:12tableau quand vous faites les calculs
- 1:24:15avec Npille, et bien vous tous les
- 1:24:18calculs se font via le CPU, c'est-à-dire
- 1:24:21si vous faites le produit d'imatrice,
- 1:24:22c'est le CPU qui le fait.
- 1:24:24Et donc avec les tenseurs, les tenseurs
- 1:24:27c'est à peu près la même chose qu'on a
- 1:24:29que les tableau paille, sauf que le
- 1:24:31calcul peut se faire de manière
- 1:24:32parallèle. Il peut se faire au niveau
- 1:24:35des CPU comme il peut se faire au niveau
- 1:24:36de GPU. Et donc ce qui fait que quand
- 1:24:40vous allez travailler avec Porche, au
- 1:24:42lieu de créer des tableaux N et cetera,
- 1:24:44des simples tableaux, vous allez créer
- 1:24:46ce qu'on appelle des tenseurs. Donc
- 1:24:49comment créer un tenseur ? Il existe
- 1:24:51plusieurs façons pour créer les
- 1:24:52tenseurs. Par exemple, vous utilisez
- 1:24:54torche tseur si vous voulez créer un
- 1:24:55scalaire, par exemple 3. Bon, c'est un
- 1:24:58c'est un simple nombre 3 euh qui
- 1:25:00représente un scalaire, un simple nombre
- 1:25:02tensur. Vous voulez créer un tableau de
- 1:25:04dimension, vous utilisez tinur et vous
- 1:25:06mettez entrecrocher la valeur des
- 1:25:08tableaux. Donc ça c'est un un simple
- 1:25:10tableau. Vous voulez créer une matrice,
- 1:25:11vous utilisez tortur par exemple. Vous
- 1:25:13voyez ici ? Donc ça c'est une matrice de
- 1:25:15de lignes et de de colonnes exactement
- 1:25:19comme vous le faites avec NPA.
- 1:25:22Et puis donc vous avez un certain nombre
- 1:25:23d'opérations à connaître. Par exemple,
- 1:25:25si vous prenez par exemple le tensur
- 1:25:27shape, il va vous donner le la la la
- 1:25:30dimension. OK ? Et si vous mettez euh
- 1:25:34donc par exemple ici, j'affiche ici.
- 1:25:37Donc euh alors ça c'est
- 1:25:43première. Alors, scalard par exemple
- 1:25:45ici, voilà. Donc
- 1:25:49alors ici donc ça c'est c'est le c'est
- 1:25:51un scalaire. Alors ça ça va vous donner
- 1:25:54c'est-à-dire une ligne de colonne et ça
- 1:25:57c'est de lignes de colonne et cetera. En
- 1:25:58tout cas, chips, il va vous donner la
- 1:26:00forme ou bien le nombre de lignes, le
- 1:26:01nombre de colons qui se trouvent dans le
- 1:26:03le tableau et c'est très important de le
- 1:26:05savoir.
- 1:26:06Alors, si vous voulez savoir le type de
- 1:26:08données parce que quand on stock les
- 1:26:09données dans un tenseur, on peut stocker
- 1:26:11des données de type int, de type float,
- 1:26:13de type double et cetera. Donc si vous
- 1:26:15voulez voir la donnée qui est stockée
- 1:26:17dans le tensur, quel est le type qu'il
- 1:26:18utilise, vous pouvez utiliser des types.
- 1:26:21Donc la propriété des types. Donc ça va
- 1:26:24dans notre cas ici, ça va afficher float
- 1:26:2732, c'est-à-dire c'est un flow 32 bits,
- 1:26:29sachant qu'il y a flow 32 bits, il y a
- 1:26:31flow 64 bit et cetera.
- 1:26:35Alors ça c'est la base des tensurs et
- 1:26:37puis vous avez un certain nombre de
- 1:26:39d'opérateurs sur les tensurs. Maintenant
- 1:26:42si vous voulez faire des opérations sur
- 1:26:43le tensur, je crée par exemple X. Euh
- 1:26:46euh en fait quand vous utilisez Torch
- 1:26:48range euh par exemple C12, c'est que
- 1:26:51vous allez créer un tenseur dont les
- 1:26:52valeurs vont commencer de 0 jusqu'à
- 1:26:55jusqu'à 11. Bon, c'est comme range si
- 1:26:57vous voulez de naille enfin range
- 1:27:00classique.
- 1:27:02Alors là, j'affiche x. Si vous mettez le
- 1:27:05shape, c'est très important, on va
- 1:27:06beaucoup l'utiliser. Par exemple, notre
- 1:27:08X c'est un tableau, une ligne, combien
- 1:27:11de colonnes ?
- 1:27:14Enfin, vous avez un tableau qui contient
- 1:27:15combien d'éléments ? C'est c'est 12.
- 1:27:17Alors maintenant supposant je voudrais
- 1:27:19le le faire un recherchet pour que ça
- 1:27:21soit une matrice de 3 x x 4.
- 1:27:25C'est-à-dire je je voudrais rendre ce
- 1:27:26vecteur là en une en une matrice 3 x 4
- 1:27:30et ben j'utilise tout simplement rehap
- 1:27:32trois lignes 4 colonnes.
- 1:27:34Mais quand vous faites 3 x 3 x 4 c'est
- 1:27:3612. Il y aura toujours les 12 nombres.
- 1:27:39Ensuite, si vous voulez avoir extraire
- 1:27:42une seule colonne d'un d'un tensor, donc
- 1:27:45vous pouvez utiliser par exemple ici, je
- 1:27:46vais extraire la la colonne numéro 1,
- 1:27:49c'est X entre crochet. Vous voyez ça
- 1:27:52c'est l'abscisse et ça l'ordonnée. Si
- 1:27:54vous mettez ici deux points, ça veut
- 1:27:55dire quoi ? C'est toutes les lignes.
- 1:27:58C'est-à-dire je quand vous mettez de si
- 1:28:00vous mettez par exemple si vous mettez
- 1:28:02dans l'indice de points de points tout
- 1:28:05cours, ça veut dire quoi ? toutes les
- 1:28:07les lignes. Mais par contre, quel
- 1:28:08colonne qui m'intéresse ? C'est c'est un
- 1:28:10c'est-à-dire je vais récupérer la la
- 1:28:13première colonne.
- 1:28:15Si vous voulez récupérer une ligne, vous
- 1:28:17faites l'inverse. Par exemple, la
- 1:28:18première ligne, vous mettez X, c'est la
- 1:28:20la ligne numéro 0 mais pour toutes les
- 1:28:24colonnes, n'est-ce pas ? Bon, ça c'est
- 1:28:26des techniques. Et puis donc ici donc je
- 1:28:28vais créer par exemple de tensur A et B.
- 1:28:32Donc ici c'est de de matrice et puis si
- 1:28:35vous voulez faire le produit matriciel.
- 1:28:38Alors il faut faire il faut faire
- 1:28:39attention, il y a une différence entre
- 1:28:41multiplication
- 1:28:43et
- 1:28:45le caractère à le l'opérateur àas. Alors
- 1:28:49ce que cet opérateur c'est c'est
- 1:28:52multiplier
- 1:28:54les matrices. C'est la le produit
- 1:28:57matriciel. Si vous mettez étoile c'est
- 1:29:00différent.
- 1:29:01Si fois, c'est-à-dire si vous mettez
- 1:29:02étoile, qu'est-ce qu'il fait ? Le
- 1:29:04premier point le le point de l'autre
- 1:29:06matrice point par point. C'est-à-dire
- 1:29:07c'est le produit point à point. Mais si
- 1:29:09vous mettez cet opérateur, il va faire
- 1:29:11le le calcul matriciel, c'est-à-dire le
- 1:29:13produit matriciel comme vous le savez.
- 1:29:16Alors, vous avez min, c'est des
- 1:29:18opérateurs assez classiques, la moyenne
- 1:29:20des nombres, la somme des nombres et
- 1:29:21tout ça. Et puis vous allez maintenant
- 1:29:25d'habitude on on aura toujours besoin de
- 1:29:27commencer avec ça. C'est pour on créer
- 1:29:29ce qu'on appelle le device.
- 1:29:31Alors, pour créer le device, donc vous
- 1:29:33utilisez torche device. Regardez
- 1:29:36l'instruction coda. If torche coda is
- 1:29:40available else CPU, ça veut dire quoi ?
- 1:29:43À quoi est égal device ? ça peut être
- 1:29:45soit coda, soit
- 1:29:46CPO. Et donc c'est une façon de dire
- 1:29:49tout simplement dès le départ, je dois
- 1:29:51savoir dans ma machine est-ce que j'ai
- 1:29:53le CPU ou bien le GPU.
- 1:29:56Et donc voilà. Donc si vous voulez euh
- 1:30:00si vous voulez transférer par exemple un
- 1:30:02tenseur vers le le GPU, on va utiliser
- 1:30:05par exemple torche tensor. Voilà un
- 1:30:07tenseur et je fais tout tout quoi ? Tout
- 1:30:10device. Donc vous voyez donc le tenseur
- 1:30:12il est passé vers le GPO.
- 1:30:15Voilà, donc ça c'est fait. Et puis donc
- 1:30:18vous avez quelque chose de très
- 1:30:19important dans les réseaux neuron
- 1:30:20artificiel, c'est le calcul du gradient.
- 1:30:26C'est extrêmement important. Pourquoi ?
- 1:30:27Parce que je disais, je vous ai expliqué
- 1:30:29tout à l'heure dans dans un dans un
- 1:30:32neuron artificiel, ça
- 1:30:35vous voyez quand on va faire forward,
- 1:30:38nous avons un loss, n'est-ce pas ? Et
- 1:30:41donc comment je peux régler les
- 1:30:43paramètres les poids et les les billets
- 1:30:46qui vont minimiser le loss ? Bah les D
- 1:30:48c'est ça c'est cette formule que que
- 1:30:50vous voyez ici. Donc la mise à jour du
- 1:30:52poids c'est que le paramètre égal le
- 1:30:54paramètre actuel plus alors ce ce la
- 1:30:58plaent
- 1:31:00c'est la dérivée c'est la dérivée du
- 1:31:03l'os par rapport au poids ou bien par
- 1:31:06rapport au billet. Et donc nous
- 1:31:08[grognement] aurons besoin de calculer
- 1:31:09le ce qu'on appelle le gradient. Et donc
- 1:31:12pour pouvoir calculer le gradient, il
- 1:31:13faut savoir le faire avec P torche.
- 1:31:20Et bien vous avez deux façons de faire.
- 1:31:22Il y a une une façon un peu
- 1:31:23particulière. Donc par exemple,
- 1:31:24regardez, je vais je vais je vais par
- 1:31:28exemple j'ai un X é= torche tensur 2,
- 1:31:31c'est-à-dire GX = 2 GW = 3. OK ? Alors
- 1:31:38quand vous créez un torche, il y a un
- 1:31:39paramètre qui s'appelle require grad.
- 1:31:42Alors c'est égal à true, ça veut dire
- 1:31:45quoi ? Ça veut dire que quand vous
- 1:31:47faites quand vous calculez une variable
- 1:31:50qui dépend de W, bah automatiquement
- 1:31:54Pyth il calcule le gradient.
- 1:31:58Alors ça je vais vous l'expliquer en
- 1:31:59détail. Donc en tout cas, vous allez
- 1:32:00avoir ça c'est c'est un paramètre que
- 1:32:02vous allez beaucoup voir. Par exemple B
- 1:32:07é= torche tensor 1 require grade ég à 1
- 1:32:10égal égal à true. Supposant je veux
- 1:32:12faire un calcul, je veux calculer y = wx
- 1:32:16+ b. Et bien quand je fais y = wx + b,
- 1:32:23ben qu'est-ce qui va se passer ? Bah il
- 1:32:24fait le calcul.
- 1:32:29Donc vous avez W mais en même temps
- 1:32:31Python il il crée ce qu'on appelle le
- 1:32:33graphe des opérateurs.
- 1:32:35Alors comment il le fait ? Donc il va
- 1:32:36prendre il va créer un graphe de de de
- 1:32:39des opérateurs. Vous avez W = 3 X = 2.
- 1:32:43On va faire l'opération. Regardez W x
- 1:32:46x. On va multiplier. Donc il y a un
- 1:32:48opérateur de multiplication
- 1:32:51et puis on va avoir 6. Et puis on va
- 1:32:54ajouter quoi ? P et le B égal à égal à
- 1:32:57combien ? Égal 1. Donc ici, quelle est
- 1:32:59l'opération qu'on va faire ? C'est plus
- 1:33:01il va faire l'addition et puis par la
- 1:33:04suite donc là on va avoir y é= é= à 7.
- 1:33:09Et puis on va calculer le le los. Par
- 1:33:12exemple, je voudrais calculer le le loss
- 1:33:14égal à y. Supposons j'écris juste une
- 1:33:17valeur comme ça y - 10 au carré,
- 1:33:20n'est-ce pas ? Supposons que le ça c'est
- 1:33:22le supposons que y c'est la sortie et 10
- 1:33:25c'est le la sortie réelle. Donc je fais
- 1:33:28la différence au carré par exemple. Et
- 1:33:31dans ce cas-là, qu'est-ce qui va se
- 1:33:32passer ? Il va prendre encore y, il va
- 1:33:34prendre 10, il va faire euh voilà la
- 1:33:38soustraction, ça va donner une
- 1:33:40opération, c'est - 3 et ensuite il va
- 1:33:43faire au carré. Il y a un opérateur au
- 1:33:45carré qu'il va faire et ça va vous
- 1:33:46donner le los égal
- 1:33:479
- 1:33:489.
- 1:33:49Et donc vous voyez comment il fait le il
- 1:33:51fait en fait Porche, c'est que euh c'est
- 1:33:55parce que vous avez fait ça, vous avez
- 1:33:57require grade égal à tr, c'est que quand
- 1:33:59vous faites les calculs qui dépend de
- 1:34:02ces ces ces paramètres, il crée
- 1:34:04automatiquement ce graphe d'opération.
- 1:34:08Pourquoi il crée ce graphe ? Parce que
- 1:34:09quand il a ce graphe, si vous lui
- 1:34:11demandez je veux calculer le gradient,
- 1:34:13c'est c'est grâce à ce graphe qu'il
- 1:34:15calcule la dérivée. La dérivée,
- 1:34:17c'estàdire ce gradient.
- 1:34:19Et donc ce qui fait que c'est un petit
- 1:34:21détail. Alors par exemple ici si vous
- 1:34:22voulez maintenant si si vous voulez
- 1:34:25calculer le gradient avec P torche si
- 1:34:28vous voulez calculer le gradient et il
- 1:34:31par exemple vous voulez dériver vous
- 1:34:33voulez calculer la dérivée du los
- 1:34:36par rapport à W
- 1:34:38hein la dérivée du los par rapport à à W
- 1:34:43ou bien la dérivée du los par rapport au
- 1:34:45billet. Et ben qu'est-ce qu'on va faire
- 1:34:47? On va utiliser tout simplement l'OS on
- 1:34:49appelle la fonction backward.
- 1:34:52Alors la fonction backward qu'est-ce
- 1:34:54qu'elle fait ? C'est elle qui calcule le
- 1:34:56gradient.
- 1:34:58Donc automatiquement si vous voulez
- 1:34:59connaître le gradient par exemple D de
- 1:35:01los par rapport à DW, il suffit
- 1:35:03d'utiliser euh d'aller vers le le tenur
- 1:35:08de W et vous faites appel à une
- 1:35:10propriété qui s'appelle grad,
- 1:35:13c'est-à-dire le gradient.
- 1:35:15Alors c'est donc si vous faites item
- 1:35:16donc ça va vous donner la valeur ça va
- 1:35:17vous donner cette valeur là c'est moins
- 1:35:21- 12 voyez donc la dérivée des par
- 1:35:22rapport à DW c'est 12 ici la dérivée des
- 1:35:26par rapport à DB c'est - 6 et donc cette
- 1:35:30fonction ça c'est il faut noter une
- 1:35:32chose importante c'est deux choses
- 1:35:33premièrement c'est que quand vous voulez
- 1:35:35optimiser des paramètres
- 1:35:38le réseau de neurone les paramètres d'un
- 1:35:39réseau de neurone on les les les poids W
- 1:35:42et les billets B et bien les points W et
- 1:35:46les B, il faudrait qu'il soit en mode
- 1:35:49require grade égal tr pourquoi parce
- 1:35:52qu'on aura besoin de calculer la dérivée
- 1:35:54du los par rapport à ces paramètres pour
- 1:35:56trouver quel est le réglage à faire pour
- 1:36:00pouvoir minimiser le
- 1:36:02le donc ça c'est un petit détail
- 1:36:04important donc ici on peut le faire de
- 1:36:06cette manière mais il y a une autre
- 1:36:07façon pour calculer le gradient il
- 1:36:09suffit donc d'utiliser torche auto grad
- 1:36:13Alors quand vous mettez t grade
- 1:36:17d grade et vous mettez par exemple loss
- 1:36:19et W, ça veut dire vous calculez la
- 1:36:22dérivée du L par rapport à W. Alors si
- 1:36:25je vais mettre W et B, ça veut dire je
- 1:36:27vais faire les deux en même temps. Je
- 1:36:28calcule la dérivée des los par rapport à
- 1:36:30W et je calcule également la dérivée des
- 1:36:33los par rapport à B. Donc ici vous voyez
- 1:36:35DW DB je les affich.
- 1:36:39OK ? Donc notez bien que ça c'est un
- 1:36:41petit détail. Si vous avez deux façons
- 1:36:44pour euh calculer
- 1:36:47le le le gradient, le premier c'est
- 1:36:51d'utiliser backward,
- 1:36:54n'est-ce pas ? Parce que quand vous
- 1:36:55faites backward, automatiquement et il
- 1:36:57fait il revient en arrière, il calcule à
- 1:37:00travers ce c'est-à-dire ce graphe
- 1:37:02d'opérateur, il calcule le gradient.
- 1:37:05La deuxième c'est de faire appel torche
- 1:37:07auto autograde. Donc autograde. Donc
- 1:37:10vous voyez donc il vous il vous permet
- 1:37:11aussi également de de calculer le
- 1:37:12gradient et ça on en aura besoin. Alors
- 1:37:15maintenant du moment que une fois que
- 1:37:17vous faites ça, une fois que vous savez
- 1:37:18maintenant cette idée là de du gradient
- 1:37:22maintenant après vous allez essayer de
- 1:37:23créer un premier un petit réseau de
- 1:37:26neuron. Euh tout simplement comment on
- 1:37:28va faire ? Et ben, on va tout simplement
- 1:37:30si vous voulez créer un un réseau de
- 1:37:33neuron, vous pouvez utiliser vous
- 1:37:35importer torche euh NN N c'est Nal
- 1:37:38network
- 1:37:40n et après vous utilisez NN linear.
- 1:37:44Donc je vais créer un modèle linéaire et
- 1:37:48quand vous créez un modèle linéaire,
- 1:37:49vous spécifiez il y a combien de
- 1:37:51neurones input
- 1:37:54l'entrée,
- 1:37:56il y aura combien output ? Alors ici
- 1:37:59donc j'ai ici par exemple trois input et
- 1:38:01la sortie c'est 1. Alors maintenant dans
- 1:38:04mon cas le input c'est x, il y aura
- 1:38:06trois nombres 1 2 et 3. Ça c'est le
- 1:38:09input x. Et puis maintenant si vous
- 1:38:12voulez faire le forward si vous voulez
- 1:38:14faire predict alors c'est pour faire un
- 1:38:17prédict avec P, il suffit d'utiliser
- 1:38:19modèle entre parenthèses X. En fait de
- 1:38:21façons de faire soit vous mettez modèle
- 1:38:24entre parenthèses X ou bien modèle
- 1:38:27predict.
- 1:38:28X. Bon, généralement, on n pas besoin de
- 1:38:30mettre la méthode predict mais en
- 1:38:32principe c'est le mais quand vous mettez
- 1:38:34modèle X, c'est-à-dire c'est le forward,
- 1:38:36c'est-à-dire je donne le X à l'entrée et
- 1:38:39qu'est-ce que j'obtiens à la sortie ? Le
- 1:38:40Y
- 1:38:41le Y.
- 1:38:42OK ? Donc vous affichez la sortie Y,
- 1:38:45vous affichez donc si vous voulez voir
- 1:38:47les les les poids, c'est-à-dire W et les
- 1:38:51paramètres W et B. Donc vous pouvez
- 1:38:53utiliser modèle weight si vous voulez
- 1:38:55voir les poids et modèle bias si vous
- 1:38:57voulez voir les billets. Et puis si vous
- 1:39:00voulez dessiner une image, ça c'est peut
- 1:39:02être utile. Si vous voulez dessiner une
- 1:39:04image qui vous donne une idée sur le sur
- 1:39:07le graphe de d'opérateurs qui sont
- 1:39:09générés, ben vous faites appel. Vous
- 1:39:11aurez juste besoin d'importer un autre
- 1:39:13package qui s'appelle torche euh vision.
- 1:39:17Et vous importez une fonction make dot.
- 1:39:19Et quand vous faites ici make dot, euh
- 1:39:22vous allez tout simplement lui donner y
- 1:39:24et les paramètres. Et tout simplement
- 1:39:26les paramètres, c'est tout simplement
- 1:39:27c'est modèle
- 1:39:29named parameters. Et puis vous
- 1:39:32enregistrez, vous faites render et vous
- 1:39:34enregistrez ça dans un fichier format
- 1:39:36PNG. Donc il va vous donner une image,
- 1:39:38vous pouvez l'avir et ça va vous donner
- 1:39:39une idée. Alors on voit clairement ici
- 1:39:42qu'est-ce que nous allons avoir.
- 1:39:43C'est-à-dire notre réseau de Noron,
- 1:39:45qu'est-ce qu'il fait ? Ben, il fait ses
- 1:39:46ses opérations comme ça. C'est clair ?
- 1:39:48Mais ici donc est-ce que j'ai entraîné
- 1:39:50le modèle ? Non. Donc j'ai créé juste un
- 1:39:52un réseau, je fais forward et ça me
- 1:39:54donne ça.
- 1:39:57Alors maintenant si vous voulez créer un
- 1:39:59un réseau de neuron avec si vous voulez
- 1:40:01un ce qu'on appelle un multilayer
- 1:40:04perceptant, c'est MLP.
- 1:40:08Alors vous avez deux façons de
- 1:40:09travailler. Donc vous pouvez directement
- 1:40:11aller créer un modèle comme ça. Je crée
- 1:40:13modèle ég n
- 1:40:17séquentiel.
- 1:40:18Alors, séquencier, c'est-à-dire je vais
- 1:40:20créer un modèle séquenciel dansquel je
- 1:40:22vais empiler un ensemble de couches.
- 1:40:24Alors, c'est quoi la première couche ?
- 1:40:26Voyez donc la première couche, il y aura
- 1:40:28combien de de il aura combien input ? 4
- 1:40:33etoutput c'est 16 par exemple, il y aura
- 1:40:3716 neurones euh le la couche et puis euh
- 1:40:41après donc le la couche linéaire donc je
- 1:40:45vais euh appliquer une fonction
- 1:40:47d'activation. Donc si là vous allez
- 1:40:49appliquer une fonction d'activation
- 1:40:50comme sigmu euh reli euh tangente
- 1:40:54hyperbolique. Alors ici donc je vais
- 1:40:56utiliser Relio. Si vous faites
- 1:40:58généralement les CNN vous allez beaucoup
- 1:40:59travailler avec Relio. Je rappelle que
- 1:41:01Relio, qu'est-ce qu'il fait ? il va
- 1:41:03retourner zéro si le nombre est négatif.
- 1:41:07S'il n'est pas s'il est supérieur à
- 1:41:08zéro, il va retourner sa valeur. Ça
- 1:41:10c'est ce qu'il fait. Donc vous voyez
- 1:41:12donc je fais relu et je vais ajouter une
- 1:41:14autre couche dans laquelle input c'est
- 1:41:16combien ? C'est 16 ou output c'est 8.
- 1:41:21Ensuite j'applique une fonction
- 1:41:22d'activation relio et à la fin je vais
- 1:41:25avoir les lard 8 et à la sortie il y
- 1:41:29aura il y aura tr. Alors, ce qui est
- 1:41:32très important ici quand vous créez un
- 1:41:33modèle séquencier, c'est que le output
- 1:41:35de cette de de cette couche doit être
- 1:41:39égal au input de l'autre couche. Ça
- 1:41:42c'est très important. Par exemple, ici,
- 1:41:43vous avez vous pouvez mettre 32 et là il
- 1:41:45faut mettre 32.
- 1:41:48Donc 16 16 8 3. Donc vous allez avoir
- 1:41:51quelque chose comme ça. Alors
- 1:41:53maintenant, le nombre de neurones de
- 1:41:55chaque couche, c'est un hyper paramètre.
- 1:41:56Malheureusement, il y a pas une règle
- 1:41:59qui va vous dire quel est le le meilleur
- 1:42:01nombre d'UR. Généralement, quand vous
- 1:42:03allez faire un modèle, vous allez partir
- 1:42:05sur des des valeurs quelconques, vous
- 1:42:06estimez, vous allez entraîner le modèle.
- 1:42:09Si les performances de votre modèle sont
- 1:42:10bonnes, c'est bon. Si c'est pas le cas,
- 1:42:13vous allez vous allez jouer sur beaucoup
- 1:42:15de paramètres. Je vais augmenter le
- 1:42:17nombre de de neurons, je vais augmenter
- 1:42:19le nombre de couches. Et donc c'est des
- 1:42:21c'est des hyperparamètres.
- 1:42:23Et vous savez que les les épir
- 1:42:24paramètres, on ne peut les déterminer
- 1:42:26que de manière
- 1:42:28par l'expérience.
- 1:42:32C'est-à-dire quand vous faites quand
- 1:42:33vous faites vos TP, vous allez
- 1:42:36réentraîner le modèle plusieurs fois et
- 1:42:37ça consomme du temps et on va le
- 1:42:40réentraîner. On va changer les
- 1:42:41paramètres, on va les hper paramètres,
- 1:42:43on le refit jusqu'à ce que l'on arrive à
- 1:42:46un modèle qui est bien paramétré. OK.
- 1:42:52Non, pas forcément. Il y a pas de de
- 1:42:55règle. Vous pouvez mettre un nombre
- 1:42:56quelconque. Donc, dites-vous si le le
- 1:42:59terme le le nombre de neurones de chaque
- 1:43:02le nombre de couches le nombre de
- 1:43:03neurones de chaque couche, c'est un
- 1:43:05hyperparamètre.
- 1:43:07C'est quoi la différence entre un
- 1:43:08paramètre et un hyperparamètre ? Un
- 1:43:10paramètre, c'est quelque chose qu'on
- 1:43:11peut déterminer, qu'on peut optimiser.
- 1:43:13Un éper paramètre, on ne peut le
- 1:43:15déterminer que de manière empirique.
- 1:43:17Empirérique, c'est-à-dire par
- 1:43:19l'expérience. C'est un peu ça.
- 1:43:24Donc voilà. Donc si vous faites ça, donc
- 1:43:26c'est que vous avez créé un modèle de
- 1:43:28réseau neurone euh qui est séquentiel.
- 1:43:32Alors séquentiel donc c'est un peu on va
- 1:43:34dire vous avez vous allez empiler un
- 1:43:36ensemble de couches la sortie de chaque
- 1:43:39couche devient l'entrée de l'autre de la
- 1:43:40couche suivante et cetera. Alors, sauf
- 1:43:43que donc si vous voulez maintenant vous
- 1:43:45avez le modèle mais de manière pratique
- 1:43:49euh si vous pour créer des modèle plus
- 1:43:50personnalisé, au lieu de faire ça,
- 1:43:54au lieu de de travailler comme ça, on va
- 1:43:56préférer créer une classe. C'est-à-dire
- 1:43:58pour le modèle, on va créer une classe.
- 1:44:01Par exemple, la classe, je vais
- 1:44:02l'appeler MLP. Alors, c'est une classe
- 1:44:05qui va hériter obligatoirement de d'une
- 1:44:08classe qui s'appelle module. Et puis il
- 1:44:11y a le constructeur. Voyez donc ça c'est
- 1:44:13le constructeur. Et dans le constructeur
- 1:44:14vous allez toujours trouver euh super
- 1:44:16init. Donc vous faites appel à la
- 1:44:18méthode init de c'est-à-dire la méthode
- 1:44:21init de la classe parente. Donc si vous
- 1:44:23voulez le super et puis vous allez
- 1:44:26maintenant créer des variables. Alors
- 1:44:28ici si vous mettez self net donc vous
- 1:44:30allez créer une variable que vous allez
- 1:44:32appeler net. À quoi est égal ? Égal ce
- 1:44:34que j'ai fait ici séquentiel. Je mets
- 1:44:37euh mon réseau, n'est-ce pas ? Et puis
- 1:44:39vous serez obligé de redéfinir une
- 1:44:41méthode qui s'appelle
- 1:44:43forward. Et voyez donc la méthode
- 1:44:45forward, qu'est-ce qu'il fait ? On va
- 1:44:46lui donner X, n'est-ce pas ? Qu'est-ce
- 1:44:48qu'il va faire ? Il va tout simplement
- 1:44:50faire return self dot
- 1:44:54net entre parenthèses X. Donc on va
- 1:44:57donner euh si vous voulez x à ce ce ce
- 1:45:02modèle séquentiel, il va nous retourner
- 1:45:04le résultat. Donc une autre façon de
- 1:45:06faire c'est que modèle égal MLP. Donc
- 1:45:07vous avez créé le modèle et puis si vous
- 1:45:09fait vous l'affichez ça va vous donner
- 1:45:11ça. Vous voyez donc vous avez deux
- 1:45:13façons de travailler. Si vous voulez
- 1:45:15créer un modèle simple dans lequel il y
- 1:45:17a pas donc vous pouvez travailler comme
- 1:45:18ça. Et si vous voulez mod créer un
- 1:45:21modèle plus complexe, parfois il y a des
- 1:45:23modèles qui nécessitent de créer une
- 1:45:24classe parce que parfois au lieu de
- 1:45:26faire un simple return ici, on fait
- 1:45:29plein d'opérations pour pouvoir par
- 1:45:31exemple ça on va en parler comme par
- 1:45:34exemple pour créer un un pin ou bien
- 1:45:36pour créer les modèles génératifs,
- 1:45:39parfois on sera obligé de d'utiliser des
- 1:45:42classes.
- 1:45:44Est-ce que c'est clair ?
- 1:45:46C'est clair pour tout le monde ?
- 1:45:48Parfait.
- 1:45:50Alors maintenant les fonctions
- 1:45:52d'activation, j'en ai parlé mais c'est
- 1:45:54bien pour vous de l'activité pratique
- 1:45:56d'afficher ces fonctions d'activation
- 1:45:58pour voir l'allure de chaque fonction.
- 1:46:00Par exemple ici euh je vais générer un
- 1:46:03nombre tenseur x euh dans la valeur y
- 1:46:06est comprise entre - 4 et 4. Il y a
- 1:46:09combien de valeurs que je vais générer
- 1:46:11de 100 valeurs ? Et puis qu'est-ce que
- 1:46:13je vais faire ? Je vais calculer, je
- 1:46:15vais utiliser la fonction rilieux de x,
- 1:46:17tangente hyperbolique de x, sig et puis
- 1:46:20je fais plot. Et quand je fais plot, ça
- 1:46:22va vous donner quelque chose comme ça.
- 1:46:23Et vous avez une idée. Voyez par exemple
- 1:46:25pour la fonction sigmid, regardez sigmid
- 1:46:29il est compris entre quoi ? Minimum
- 1:46:30c'est 0 et le maximum c'est c'est 1.
- 1:46:34Vous voyez Smid il est comme ça. C'est
- 1:46:36la vert, c'est le qui est verte.
- 1:46:38Donc le minimum c'est 0, il est entre 0
- 1:46:42et 1. Alors que tenang hyperbolique, il
- 1:46:46est entre -1 et 1. Alors que par exemple
- 1:46:51reli il est compris entre zéro,
- 1:46:54c'est-à-dire quand quelque chose négatif
- 1:46:56c'est zéro mais quand c'est positif ça
- 1:46:58ça prend la valeur comme ça.
- 1:47:01Bon c'est trois fonctions d'activation
- 1:47:03qui sont les plus utilisées donc il faut
- 1:47:04les connaître.
- 1:47:08Alors ensuite vous avez maintenant
- 1:47:11le la le ce qu'on appelle bon pour
- 1:47:14entraîner un modèle vous avez deux
- 1:47:15étapes forward et backward. Alors il
- 1:47:18faut qu'on explique ça il faut que vous
- 1:47:19le connaissez. D'abord la première c'est
- 1:47:21que quand vous utilisez torche par
- 1:47:23exemple X random. Je vais générer
- 1:47:28je vais générer une matrice par exemple
- 1:47:31un nombre de 5 lignes et 4 colonne. Donc
- 1:47:34ça c'est de manière aléatoire. Et
- 1:47:37qu'est-ce que je vais donner ? Je vais
- 1:47:38donner tout simplement modèle de X. Donc
- 1:47:40je vais prédire si vous voulez je vais
- 1:47:42donner X en entrée. J'ai predicted. Et
- 1:47:45après si vous voulez voir ce qu'il y a
- 1:47:46dans predcted, vous mettez shape puis
- 1:47:48vous mettez x. prédic donc ça vous donne
- 1:47:52donc x type chip c'est 5 l 4 colonnes et
- 1:47:56prédic c'est 5 l plutôt vous avez 5 et 3
- 1:48:00aussi
- 1:48:04alors maintenant los donc
- 1:48:08alors si vous voulez donc entraîner si
- 1:48:12vous voulez entraîner un un modèle un
- 1:48:15réseau neurone donc vous avez besoin de
- 1:48:17choisir le los la fonction erreur
- 1:48:20Et j'ai déjà expliqué le loss il est
- 1:48:22choisi en fonction du type de problème.
- 1:48:24S'il s'agit d'une régression, vous allez
- 1:48:27faire appel à mse loss. C'est mean
- 1:48:31squared error.
- 1:48:34Alors s'il s'agit d'une d'une
- 1:48:35classification, on va utiliser cross
- 1:48:37entropy. Donc ça c'est globalement c'est
- 1:48:39des techniques que vous allez vraiment
- 1:48:43beaucoup manipuler.
- 1:48:46Alors qu'est-ce que je vais faire
- 1:48:46supposant ? Je vais faire quelque chose
- 1:48:48comme ça. Donc j'ai euh euh pred,
- 1:48:51c'est-à-dire y prédiction,
- 1:48:54c'est torche. Supposons que j'ai prédit
- 1:48:56euh ces valeurs 2 et 4 alors que le vrai
- 1:49:00y égal à quoi ? 3 et
- 1:49:03et 5 c'est comme si vous avez fait
- 1:49:05predict, vous avez votre réseau, il a
- 1:49:08prédit euh [raclement de gorge] de 2 et
- 1:49:114 alors que le le vraie valeur c'est 3
- 1:49:14et 5. Alors dans ce cas-là, si je veux
- 1:49:17créer le loss, bah qu'est-ce que je vais
- 1:49:19faire ? Je vais utiliser cette variable.
- 1:49:22Je l'ai appelé criterion régression.
- 1:49:24Donc ça c'est le euh émissionur loss. Et
- 1:49:26ben je lui donne tout simplement euh Y
- 1:49:29predit et Y le le vrai Y et ça me donne
- 1:49:34le loss.
- 1:49:36Alors si vous l'affichez, ça va vous
- 1:49:37donner donc MS égal égal à 1.
- 1:49:41Alors que quand il s'agit d'une
- 1:49:42classification donc on va utiliser
- 1:49:44plutôt cross entropy loss. Et quand il
- 1:49:48s'agit d'un classifieur binaire, on va
- 1:49:50utiliser BCE, c'est-à-dire binary
- 1:49:53crossenthropie.
- 1:49:54Donc ça c'est des des fonction lorsquon
- 1:49:56va utiliser en fonction du type de
- 1:49:58problème. Bah c'est pareil, j'ai ici
- 1:50:00donc des valeurs. Alors sauf que ici
- 1:50:03remarquez que par exemple predict on a
- 1:50:06prédit 2
- 1:50:08ici. Donc euh voilà donc
- 1:50:12j'ai les valeurs zéro. Bon, en tout cas,
- 1:50:13si vous faites le calcul, ça va vous
- 1:50:15donner euh crossenthropie, ça va vous
- 1:50:17donner une probabilité. Ça, c'est ce qui
- 1:50:18est important. Et si cette probabilité
- 1:50:21se vendre quand il est supérieur à 05 ça
- 1:50:23va être telle valeur s'il est inférieur
- 1:50:25ça nous donne une idée comment le
- 1:50:27classifieur il va entre ces décisions.
- 1:50:31Donc notez bien il y a MS loss cross
- 1:50:34entropy loss pour les classifieurs
- 1:50:35multiclasse et BCE euh loss généralement
- 1:50:39c'est euh les classifiurs binaires.
- 1:50:43Alors donc vous connaissez le loss
- 1:50:46maintenant les optimizers.
- 1:50:48Alors l'optimizer c'est quoi ? C'est
- 1:50:50l'algorithme qui permet de de faire de
- 1:50:54mettre à jour les paramètres du modèle
- 1:50:56pour minimiser le loss. Alors
- 1:51:00normalement c'est dans les optimizers,
- 1:51:02il y en a plusieurs. Le les plus
- 1:51:04populaires, il y a SGD, stoicque
- 1:51:06gradient descent, c'est très connu. Il y
- 1:51:08a aussi Adam, c'est très utilisé.
- 1:51:12Alors par exemple ici donc j'ai un
- 1:51:13modèle linéaire, j'ai ici donc j'ai créé
- 1:51:17un optimizer qui est Adam. Mais regardez
- 1:51:19quand vous créez un optimizer comme
- 1:51:21Adam, vous qu'est-ce que vous voulez
- 1:51:23optimiser ? Qu'est-ce qu'on voudrait
- 1:51:26optimiser ? C'est les paramètres du
- 1:51:28modèle, c'est-à-dire les poids et les
- 1:51:30billets. Et bien tout simplement, je
- 1:51:33vais lui donner quoi ? c'est le modèle
- 1:51:35d'autres paramètres et les paramètres
- 1:51:37des modèles, c'est les points et les
- 1:51:39billets. Mais il faut donner learning
- 1:51:42rate.
- 1:51:43Donc rappelez-vous learning ray la la
- 1:51:45vitesse d'apprentissage parce que dans
- 1:51:47la formule que je vous ai montré tout à
- 1:51:49l'heure dans le le neuron
- 1:51:52tout à fait. Regardez, c'est ce MU que
- 1:51:56vous voyez là, c'est learning rate.
- 1:51:58C'est-à-dire lui, qu'est-ce qu'il va
- 1:51:59faire en principe ? il va tout
- 1:52:01simplement Adam, c'est lui qui va faire
- 1:52:03ce travail. Il va prendre le le gradient
- 1:52:06du los par rapport à au poids, il va lui
- 1:52:10ajouter, il va retrancher la la vitesse
- 1:52:12d'apprentissage et après il on obtient
- 1:52:15la nouvelle valeur du poids et on fait
- 1:52:17la même chose pour le billet et on fait
- 1:52:19ça en plusieurs époques et c'est comme
- 1:52:21ça que ça marche.
- 1:52:26Donc Adam c'est un c'est un optimizer
- 1:52:28qu'il faut connaître. Il y a pas, il
- 1:52:31n'est pas le seul, il y en a plusieurs.
- 1:52:32Donc SGD stock gradient des donc voilà.
- 1:52:36Donc c'est comme ça qu'on va créer un un
- 1:52:38optimizer. Maintenant vous connaissez le
- 1:52:39loss, vous connaissez le optimizer, vous
- 1:52:41connaissez les tensurs, vous savez
- 1:52:43comment créer un modèle. vous pouvez
- 1:52:44maintenant l'entraîner.
- 1:52:46Alors, la boucle d'apprentissage. Alors,
- 1:52:47maintenant, ce qui est intéressant dans
- 1:52:49Python, c'est que ça va vous obliger de
- 1:52:51comprendre comment se fait la boucle
- 1:52:53d'apprentissage.
- 1:52:55Alors, regardez bien, je prends
- 1:53:00supposons j'ai x é=
- 1:53:04x par exemple ég t je vais faire random
- 1:53:078. Alors, 81 ça veut dire quoi ? Ça veut
- 1:53:10dire j'ai l une seule colonne
- 1:53:14et je vais calculer y = 2x + 1.
- 1:53:19C'est-à-dire ici donc vous faites une
- 1:53:21fonction de 2 x + 1. Alors ça c'est un
- 1:53:26calcul, c'est-à-dire je connais le c'est
- 1:53:27comme si je connais le l' output vrai
- 1:53:31parce que le output vrai pour moi c'est
- 1:53:32une fonction que je connais déjà. Donc
- 1:53:35c'est quoi mon dataset ? C'est x et y.
- 1:53:39Le input c'est x et le output c'est y.
- 1:53:42Et dans mon cas, j'ai pris ici une
- 1:53:44régression dans laquelle y est égal et 2
- 1:53:46x + 1. Alors maintenant, ce qu'on va
- 1:53:48faire, on va créer un modèle de réseau
- 1:53:49de neurone et on va l'entraîner à ce
- 1:53:52qu'il puisse prédirec le à trouver cette
- 1:53:55relation qui existe entre le output et
- 1:53:57le input. Alors, comment on va faire ?
- 1:53:59Bien, il faut créer un optimizer.
- 1:54:02Donc, on va refaire à peu près ce qu'on
- 1:54:03a fait tout à l'heure. C'est Adam. Donc,
- 1:54:06on va optimiser quoi ? C'est les
- 1:54:07paramètres du modèle. avec le ray, c'est
- 1:54:100,001.
- 1:54:14Et puis on a besoin de loss. Quel est le
- 1:54:16loss qu'on va utiliser ? C'est MSE parce
- 1:54:18que c'est une régression
- 1:54:21et nous avons besoin de rentrer dans une
- 1:54:23boucle d'apprentissage. Donc pour la
- 1:54:25boucle d'apprentissage, nous aurons
- 1:54:27besoin de connaître le nombre de
- 1:54:29d'époques, combien de fois on va répéter
- 1:54:32l'opération. Alors ici par exemple, je
- 1:54:33prends 500. Alors le nombre d'épox c'est
- 1:54:36un hyperparamètre. Je peux pas savoir
- 1:54:38est-ce que je vais mettre 10 ou au
- 1:54:40départ je vais partir avec un nombre et
- 1:54:42après je vais voir si c'est si ça
- 1:54:44marche. Et ben qu'est-ce qu'on fait ? On
- 1:54:46va tout simplement fa euh faire un for
- 1:54:48pour chaque époque dans range époque
- 1:54:51c'est le nombre c'est-à-dire ça fait on
- 1:54:53va faire varier l'époque de zéro jusqu'à
- 1:54:56jusqu'à 499.
- 1:54:59Qu'est-ce qu'on fait pour chaque pour
- 1:55:01chaque époque ? On va faire prédict. Je
- 1:55:03prends le modèle supposant j'ai simple
- 1:55:06modèle un simple modèle que j'ai créé
- 1:55:08ici c'est il y a le modèle que j'ai créé
- 1:55:11ici a combien de neurones un seul bon on
- 1:55:14va voir parce que c'est c'est c'est
- 1:55:16suffisante parce que c'est une simple
- 1:55:18régression linéaire bah qu'est-ce que je
- 1:55:20fais simple modèle de x je fais predict
- 1:55:23qu'est-ce que j'obtiens j'obtiens y
- 1:55:25predicted.
- 1:55:27Une fois que j'ai predcted je connais
- 1:55:29déjà la sortie réelle y. Donc je dois
- 1:55:32calculer l'erreur. Et pour calculer
- 1:55:35l'erreur, donc je vais utiliser los égal
- 1:55:37à quoi ? Critérium les ms los. Je donne
- 1:55:43predicted
- 1:55:45et ça me donne le loss. Donc vous voyez
- 1:55:48donc je connais l'erreur. Qu'est-ce qui
- 1:55:49reste maintenant ? Il faut minimiser
- 1:55:51cette cette erreur. Et par pour
- 1:55:53minimiser l'erreur, regardez ce que je
- 1:55:55vais faire. D'abord, il y a deux
- 1:55:56opérations importantes. Optimizer zé
- 1:55:59grat. Pourquoi ? Il faut d'abord
- 1:56:02initialiser les gradients parce que à
- 1:56:04chaque fois que je vais utiliser
- 1:56:05backword,
- 1:56:07il va calculer les gradients. Et si on
- 1:56:10ininitialise pas à chaque fois les
- 1:56:11gradients, il va toujours ajouter des
- 1:56:13gradients au gradients qui qui sont déjà
- 1:56:15calculés. Ça ça va foncer le calcul.
- 1:56:18Donc c'est pour cela il faut pas oublier
- 1:56:19que dans la boucle quelque part, il faut
- 1:56:21toujours faire appel à la à la méthode 0
- 1:56:24grade. C'est-à-dire on va initialiser
- 1:56:26les gradients de pour W et les gradients
- 1:56:28pour B.
- 1:56:30Et puis on va utiliser los backward.
- 1:56:33Rappelez-vous los backward qu'est-ce
- 1:56:35qu'il fait ? Il va calculer les
- 1:56:37gradients du los par rapport au poids et
- 1:56:40donc il calcule les gradients.
- 1:56:42J'ai pas encore je n'ai pas encore mis à
- 1:56:44jour les paramètres. Il va revenir en
- 1:56:46arrière, il va calculer les gradients
- 1:56:49et puis qu'est-ce qui qu'est-ce qui
- 1:56:50reste ? Optimiser. Donc c'est-à-dire
- 1:56:53mettre à jour les les paramètres. Et
- 1:56:56pour cela, c'est on va utiliser
- 1:56:57Optimizer.
- 1:56:59Voyez Adam et on va utiliser Optimizer
- 1:57:02Step. Donc optimizer step, qu'est-ce
- 1:57:04qu'il fait ? Il va chercher tous les
- 1:57:06poids, il va régler les poids de façon à
- 1:57:08ce que le lot soit minimum. Et ça ça
- 1:57:12c'est c'est fait. Donc ici donc
- 1:57:13quasiment vous voyez cette boucle
- 1:57:14d'apprentissage, c'est impérative. Il
- 1:57:17faut la comprendre parce que vous allez
- 1:57:18la retrouver dans les modèles génératifs
- 1:57:19tout le temps. C'est comme ça qu'on va
- 1:57:21entraîner le les modèles.
- 1:57:24Et puis on va afficher juste, on va
- 1:57:25loguer l'époque. Mais souvent du moment
- 1:57:28que vous faites parfois des boucles de
- 1:57:301000 époques, ça sert à rien de loguer
- 1:57:32toutes les époques. Je vais se voir ce
- 1:57:34qu'on fait c'est que on va vérifier si
- 1:57:37le reste l'époque module le 100
- 1:57:40c'est-à-dire si le reste de l'époque
- 1:57:42divisé par 100 ég à 0, c'est-à-dire si
- 1:57:44l'époque est un multiple de 100, je vais
- 1:57:47afficher l'époque, j'affiche le loss.
- 1:57:50Donc autrement dit, donc je vais
- 1:57:51afficher l'époque 0, l'époque 100, 200,
- 1:57:53300, 400. Parce que si vous affichez
- 1:57:56pour chaque époque, vous allez polluer
- 1:57:57un peu l'affichage. On a besoin juste de
- 1:57:59voir regarder ce qui nous intéresse. Au
- 1:58:01départ, le los égal à combien ? 9. Et
- 1:58:04après il est descendu à 3 et à partir de
- 1:58:07de de 400 époques, il est déjà à 003.
- 1:58:11Et donc ici ça vous donne une idée
- 1:58:13peut-être de dire peut-être j'aurais pu
- 1:58:15m'arrêter peut-être à à l'époque numéro
- 1:58:18300 ou bien encore il faut ajouter au
- 1:58:21lieu de 500 il faut aller. Mais pour le
- 1:58:23moment je ne sais pas encore est-ce que
- 1:58:25l'essentiel c'est que j'ai une idée sur
- 1:58:27le loss. Maintenant il faut évaluer le
- 1:58:29modèle.
- 1:58:31Donc le le slide que vous voyez là donc
- 1:58:32c'est le c'est c'est la boucle
- 1:58:34d'apprentissage. Oui. Alors en fait euh
- 1:58:38c'est justement c'est que généralement
- 1:58:41les le les optimizers ils font toujours
- 1:58:43le la descente du gradient. C'est c'est
- 1:58:45l'algorithme qui est assez assez assez
- 1:58:47connu. Euh mais en terme de performance
- 1:58:51euh il a par exemple Adam parce que SGD
- 1:58:55c'était le premier optimizer qui était
- 1:58:56créé dans le l'écosystème mais après
- 1:58:59sont venus d'autres algorithmes qui ont
- 1:59:00fait mieux, ils ont ils ont un peu
- 1:59:01amélioré et du coup donc parfois dans le
- 1:59:04ça dépend des situations. Parfois SGD il
- 1:59:07est largement suffisant. Euh parfois si
- 1:59:09vous changez SGD avec Adam, vous voyez
- 1:59:11que votre modèle il apprend mieux. Mais
- 1:59:13de manière générale, Adam, il donne
- 1:59:15toujours mieux que SGD. Voilà. Donc vous
- 1:59:17pouvez regarder, il y a de en terme
- 1:59:20d'algorithme, il y a il y a des
- 1:59:22variantes de l'algorithme, mais
- 1:59:24l'algorithme lui-même de base, c'est la
- 1:59:25descente du gradient.
- 1:59:27OK, c'est clair pour la boucle
- 1:59:30d'apprentissage ? Parfait. Alors
- 1:59:32maintenant, comment évaluer le modèle ?
- 1:59:35Alors, il faut juste noter une chose,
- 1:59:36c'est que dans quand vous travaillez
- 1:59:38avec Porche, donc vous avez deux modes
- 1:59:40de fonctionnement de de du réseau
- 1:59:42neurone. Il y a ce qu'on appelle le mode
- 1:59:44train et le mode EVAL. Il faut faire la
- 1:59:47différence entre les deux, entre train
- 1:59:49et EVAL. Regardez, je crée un modèle, je
- 1:59:52l'appelle deout demo dans lequel je vais
- 1:59:55créer un un je vous savez
- 2:00:00tout à l'heure, j'ai pas parlé de de
- 2:00:02d'un phénomène qui est très important,
- 2:00:04c'est que parfois quand vous faites un
- 2:00:06modèle piloté par les données, vous
- 2:00:08risquez d'avoir un problème de ce qu'on
- 2:00:10appelle surapprentissage overfitting,
- 2:00:13n'est-ce pas ?
- 2:00:15Alors, ça veut dire quoi overfitting ?
- 2:00:20Voilà.
- 2:00:21Mais vous savez quand vous avez un
- 2:00:23modèle qui a surpris supposons
- 2:00:27alors ça quand vous avez un modèle par
- 2:00:31exemple les points de de l'expérience et
- 2:00:34vous voulez par exemple entraîner un
- 2:00:36modèle à trouver le modèle qui va qui va
- 2:00:39ajuster les les nuages de point.
- 2:00:42Et donc si quand vous allez entraîner le
- 2:00:45modèle, vous allez avoir trois
- 2:00:46situations. La première situation
- 2:00:50underfitting sousapprentissage,
- 2:00:52c'est-à-dire le modèle il est loin avec
- 2:00:54la droite, regardez la droite en rouge,
- 2:00:57il est loin de
- 2:00:59de du nuage de de expérimental,
- 2:01:02c'est-à-dire de point.
- 2:01:04Vous avez l'autre cas extrême, c'est
- 2:01:07surapprentissage.
- 2:01:08Le surapprentissage, c'est quand vous
- 2:01:10avez le modèle, il essaie de suivre tous
- 2:01:12les points,
- 2:01:15c'est-à-dire il suit tous les points
- 2:01:16d'apprentissage.
- 2:01:18Et le problème, c'est que c'est quand
- 2:01:20vous allez tester votre modèle en
- 2:01:22utilisant les données d'entraînement,
- 2:01:24vous allez trouver 100 % à peu près ou
- 2:01:26là 99 %. Mais si vous le testez avec les
- 2:01:29données de test qui n'a jamais vu, vous
- 2:01:31allez trouver un taux de performance qui
- 2:01:33est très faible. C'est-à-dire il est il
- 2:01:35est loin de aussi de la réalité parce
- 2:01:37qu'il a il a essayé de suivre que les
- 2:01:39données d'entraînement. Ensite le
- 2:01:41apprentissage, bah il faut savoir que
- 2:01:44dans les réseaux neurones, si vous
- 2:01:45voulez éviter
- 2:01:47si vous voulez éviter un modèle de
- 2:01:50réseau neuron de de tomber dans le
- 2:01:53problème de surapprentissage,
- 2:01:55on crée des couches ce qu'on appelle
- 2:01:57drop out. Dropout.
- 2:02:00Alors, c'est exactement ce que j'ai ici.
- 2:02:04Alors, vous savez quand vous créez un un
- 2:02:06modèle linéaire, vous mettez linear
- 2:02:08linéaire mais à un moment donné, vous
- 2:02:09utilisez dropout. Et quand vous utilisez
- 2:02:12Dropout,
- 2:02:14vous donnez ici euh un nombre, une
- 2:02:17probabilité par exemple de 0,5. Ça veut
- 2:02:19dire quoi ? Ça veut dire tout simplement
- 2:02:21le réseau de neuron quand il arrive à la
- 2:02:23couche de dropout,
- 2:02:25il va désactiver à peu près 50 % des
- 2:02:28neurones qui vont pas faire le calcul.
- 2:02:31C'est une façon de d'éviter que le le
- 2:02:33modèle aille vers le surapprentissage.
- 2:02:36Donc la technique de de repout c'est
- 2:02:38très connu en deep learning parce qu'il
- 2:02:40permet d'éviter le sur apprentissage.
- 2:02:45Alors maintenant pourquoi j'ai fait ça ?
- 2:02:46Parce que si dans un modèle vous avez un
- 2:02:50drop out, dans un modèle vous avez un
- 2:02:53drop out, il faut noter que le mode
- 2:02:56train et le mode EVAL fonctionnent de
- 2:02:58différentes manières.
- 2:03:00C'est ce que vous allez tester ici.
- 2:03:01Regardez donc je crée le modèle M. OK,
- 2:03:05je vais avoir x dans lequel je vais
- 2:03:08mettre que des 1 donc tch on c'estàdire
- 2:03:12je vais avoir un vecteur qui contient de
- 2:03:1410 qui contient que des des 1. Regardez,
- 2:03:17si je fais M train, attention, c'est
- 2:03:20quand je mets M train, ça veut pas dire
- 2:03:22entraîner.
- 2:03:24Je suis juste en train de dire au
- 2:03:25modèle, je voudrais euh euh je voudrais
- 2:03:28me positionner dans le mode
- 2:03:29d'entraînement
- 2:03:31parce que l'entraînement, c'est une
- 2:03:32boucle qu'on va faire. Train, c'est
- 2:03:34juste dire je suis dans le mode
- 2:03:36training. OK ? Si si le modèle est dans
- 2:03:40le mode trend, si regardez si vous
- 2:03:42faites m de x, si vous faites la
- 2:03:45prédiction, ça va vous donner une
- 2:03:46valeur. Regardez les valeurs
- 2:03:49ici, ça va vous donner ça. Mais si vous
- 2:03:51êtes dans le modèle EVAL, si vous mettez
- 2:03:54m modèle point EVAL, ça veut dire que
- 2:03:57vous vous lui dites je suis dans le mode
- 2:03:59le mode évaluation. Ici, je suis dans le
- 2:04:02mode évaluation.
- 2:04:04Si vous faites la même chose, vous
- 2:04:06faites ici mx,
- 2:04:09OK ? Et si vous faites m de x, vous
- 2:04:12allez voir c'est des valeurs qui sont
- 2:04:14différentes.
- 2:04:15Ça veut dire quoi ? Je vous explique.
- 2:04:18Ça veut dire que normalement dans quand
- 2:04:21dans un modèle basé sur P torche, vous
- 2:04:23avez deux modes. Il y a le mode train,
- 2:04:24il y a le mode EVAL.
- 2:04:27Et bien quand vous êtes dans le mode
- 2:04:29train et bien si vous avez si vous avez
- 2:04:32dans votre modèle un une couche dropout,
- 2:04:36il est prise en considération.
- 2:04:39Donc le dropout il est prise en
- 2:04:40considération pendant l'entraînement
- 2:04:43mais si vous êtes dans le mode
- 2:04:45la couche dropout n'est pas prise en
- 2:04:48considération ce qui explique pourquoi
- 2:04:50vous avez la différence. c'est en mode
- 2:04:52trin, il vous donne un résultat et en
- 2:04:55mode il vous donne un autre résultat.
- 2:04:59Mais par contre si
- 2:05:02vous n'avez pas de de drop out par
- 2:05:05exemple dans votre modèle, et bien le
- 2:05:08mode train et le mode EVAL vont donner
- 2:05:10le même résultat. C'est-à-dire que vous
- 2:05:12soyez dans le mode trend ou bien dans le
- 2:05:14mode EVAL, ça va vous donner la même
- 2:05:16chose. Alors ça c'est un petit détail,
- 2:05:18c'est juste il faut le noter. Il y a de
- 2:05:20deux cas. Il y a dropout et batch norm.
- 2:05:24C'est la normalisation parce qu'il y a
- 2:05:25également de la même manière c'est pour
- 2:05:27éviter de surapprentissage, on peut
- 2:05:29utiliser une autre couche de type qui
- 2:05:31s'appelle BNOR.
- 2:05:39Non, c'est un hyper paramètre. Si vous
- 2:05:40mettez par exemple 0,7,
- 2:05:43ça veut dire que si vous lui vous lui
- 2:05:45dites de désactiver 70 % des neurones
- 2:05:480,5, c'est-à-dire quand tu arrives là,
- 2:05:51essaie de supposant ta couche la couche
- 2:05:54la couche, il y a par exemple 100 et
- 2:05:58bien quand on va la couche quand il va
- 2:05:59calculer, il y a que 50 qui vont faire
- 2:06:02les calculs, les autres ils vont rien
- 2:06:03faire.
- 2:06:05Et avec ces techniques, on peut éviter
- 2:06:06ce qu'on appelle le surapprentissage. Ce
- 2:06:08qui serait plus un peu correct, c'est de
- 2:06:11ne pas de ne pas être dans le
- 2:06:13surapprentissage.
- 2:06:15C'est-à-dire au lieu d'être dans le
- 2:06:16surapprentissage, on va utiliser, on va
- 2:06:18déterminer quel est le le le, on va dire
- 2:06:21la droite qui va ajuster le les points.
- 2:06:23OK ? C'estàdire, on est ici quelque part
- 2:06:26comme ça. Par exemple, c'est un modèle.
- 2:06:28Regardez
- 2:06:30séquentiel.
- 2:06:31Alors, je crée un modèle séquentiel et
- 2:06:33cetera. Je le teste, il y a pas de
- 2:06:34problème. Mais supposant, vous avez
- 2:06:36trouvé il y a un problème de
- 2:06:37surapprentissage.
- 2:06:39Si vous trouvez qu'il y a un
- 2:06:39surapprentissage, qu'est-ce que vous
- 2:06:41allez faire ? Vous allez venir quelque
- 2:06:43part ici.
- 2:06:46Donc, vous allez venir quelque part ici.
- 2:06:47Vous allez ajouter NN drop out 05. Et
- 2:06:51peut-être là encore, vous mettez NN drop
- 2:06:53outer
- 2:06:55et vous allez voir que vous allez éviter
- 2:06:57le surapprentissage mais il faut essayer
- 2:07:01plusieurs
- 2:07:03il faut regarder donc jusqu'à ce que
- 2:07:04vous trouvez le le bon modèle.
- 2:07:07Alors, il y a une autre chose qui est
- 2:07:08très importante, c'est que quand vous
- 2:07:10voulez évaluer un un modèle,
- 2:07:15alors quand vous voulez évaluer un
- 2:07:17modèle, donc c'estàd quand vous voulez
- 2:07:19faire la prédiction, quand vous mettez
- 2:07:21par exemple, vous voulez l'évaluer, vous
- 2:07:23n'avez pas envie de calculer les
- 2:07:25gradients parce que les gradients, on
- 2:07:26les calcule uniquement.
- 2:07:30Le graphe le graphe des des opérateurs,
- 2:07:32on le fait, on en a besoin que pour dans
- 2:07:34l'entraînement. On n pas besoin dans la
- 2:07:35prédiction. Donc c'est pour cela que
- 2:07:37quand on veut faire la prédiction dans
- 2:07:39le mode évaluation, on va utiliser Torch
- 2:07:42inference mode, c'est-à-dire il faut
- 2:07:44être dans le mode le mode d'inférence.
- 2:07:46Ça ça évite de recalculer
- 2:07:49les gradients inutilement.
- 2:07:51Alors le notebook que je vous ai partagé
- 2:07:53c'est les bases de P torche il est là.
- 2:07:56OK.
- 2:07:58Alors, vous allez trouver en fait toutes
- 2:08:00toutes les opérations que je viens de de
- 2:08:02vous montrer.
- 2:08:04Alors, d'abord
- 2:08:07alors comment démarrer ?
- 2:08:09Alors, je vous rappelle que pour de pour
- 2:08:11démarrer,
- 2:08:13il faut créer un un projet. Donc, on va
- 2:08:15toujours travailler de la même manière
- 2:08:16que l'année dernière. On va utiliser
- 2:08:19s'il vous plaît s'il vous plaît.
- 2:08:31Alors, on va toujours travailler de la
- 2:08:32même manière que l'année dernière. Donc,
- 2:08:34on va utiliser UVI, n'est-ce pas ?
- 2:08:36Rappelez
- 2:08:38quelles sont les choses pour pour
- 2:08:39commencer ? Parce que pour le moment euh
- 2:08:42donc vous aurez juste besoin de de
- 2:08:43commencer. Alors, vous aurez besoin de
- 2:08:46de créer un dossier. Bon, terminal comme
- 2:08:50d'habitude.
- 2:08:53Alors, dans votre terminal, vous allez
- 2:09:01vous allez créer un dossier.
- 2:09:06Je l'avais par exemple pas torche
- 2:09:11lab.
- 2:09:13Donc ça c'est le dossier.
- 2:09:19Alors c python lab
- 2:09:24et puis vous mettez code et vous ouvrez
- 2:09:26donc ce dossier là avec VS code. OK.
- 2:09:31Alors dans le terminal
- 2:09:34alors je vais voir si vous rappelez des
- 2:09:36commandes de base.
- 2:09:39Alors UV
- 2:09:41UV quoi ? init.
- 2:09:44Voilà. Ensuite, alors je rappelle que V
- 2:09:48init, qu'est-ce qu'il permet de faire ?
- 2:09:50Il va vous créer un un projet dans
- 2:09:52lequel vous avez euh euh en fait euh
- 2:09:55Pipe Project Tomel et en fait dans Pipe
- 2:09:58Project, c'est là où on va trouver les
- 2:09:59dépendances donc qu'on va installer. Et
- 2:10:03bien vous utilisez ensite vous créez un
- 2:10:05environnement virtuel en utilisant UV
- 2:10:08VV.
- 2:10:11Alors, you virtuel virtuel environment.
- 2:10:17Voilà, il vous crée donc le le
- 2:10:19l'environnement et puis vous allez
- 2:10:20activer l'environnement. Et pour
- 2:10:22l'activer, vous avez ici le pour si vous
- 2:10:25avez le Mac, vous utilisez source cette
- 2:10:28commande. Si vous avez Windows, vous
- 2:10:30allez taper la commande d'activation.
- 2:10:33Donc j'ai activé l'environnement. Une
- 2:10:35fois que vous faites ça, vous allez
- 2:10:37ajouter les dépendances avec ads. Alors,
- 2:10:41la première dépendance qu'on aura
- 2:10:43toujours besoin d'installer, c'est iPie
- 2:10:45Kern parce qu'on va créer des fichiers
- 2:10:48notebook. Donc
- 2:10:51kernel
- 2:10:54kernel. Oui,
- 2:10:57voilà.
- 2:11:00Alors, une fois que
- 2:11:02vous êtes bien branché. Alors euh donc
- 2:11:04iPie kernel et puis vous créez le le
- 2:11:07notebook
- 2:11:08créer un fichier que vous allez appeler
- 2:11:11lab
- 2:11:13Pyth
- 2:11:16ipie NB notebook
- 2:11:20et puis vous allez sélectionner le
- 2:11:23l'environnement virtuel. noyau, c'est
- 2:11:25c'est celui-là que nous avons créé
- 2:11:27l'environnement
- 2:11:28et puis vous faites le test et et quand
- 2:11:32vous faites le le test, si tout va bien,
- 2:11:34c'est que votre environnement il est
- 2:11:35configuré et si vous voulez travailler
- 2:11:38avec P torche, vous aurez besoin
- 2:11:40d'installer un certain nombre de
- 2:11:41dépendances. Alors, quelles sont les
- 2:11:42dépendances ?
- 2:11:45Alors, je vais vous les montrer. Donc,
- 2:11:47UV ad torche.
- 2:11:57Alors, c'est une librairie qui est un
- 2:11:59peu qui contient beaucoup beaucoup de
- 2:12:01choses. Donc, c'est-à-dire euh une fois
- 2:12:04que vous avez installé Torche,
- 2:12:06j'attends. Ben, je vais le prendre,
- 2:12:08copier
- 2:12:10et je vais le mettre ici.
- 2:12:14ouvrir dans le finder
- 2:12:21coller.
- 2:12:25Alors ça c'est le notebook. Voilà, c'est
- 2:12:27celui-là.
- 2:12:33Bon voilà donc et là vous allez trouver
- 2:12:36un peu ce que je viens de dire. Donc ici
- 2:12:39vous vous lui affectez l'environnement.
- 2:12:44Vous associez l'environnement au
- 2:12:46notebook.
- 2:12:48On attend un petit moment. Voilà. Ben,
- 2:12:51[grognement] il me dit que voyez donc
- 2:12:52ici dans mon cas ici, je n'ai pas mat
- 2:12:55plot lib. D'accord ? C'est que donc mat
- 2:12:58plot, ça dépend des versions de Python
- 2:13:00que vous avez. Donc ici, je dois
- 2:13:02installer mat plot mat plot lib.
- 2:13:10Alors c'est UV add
- 2:13:14mat plot
- 2:13:17lib.
- 2:13:26Voilà.
- 2:13:38Et vous essayez donc de de tester partie
- 2:13:40par partie. Donc le voilà. Donc ici donc
- 2:13:41je suis juste en train de tester si euh
- 2:13:44ici le coda est disponible ou pas. Alors
- 2:13:46vous voyez dans mon cas vous avez false.
- 2:13:49Alors ça veut pas dire que je n'ai pas
- 2:13:50le GPO. J'ai le GP mais pour le Mac et
- 2:13:53donc pour le Mac vous avez un GPO, c'est
- 2:13:55ce n'est pas Kuda, ce n'est pas Nvidia,
- 2:13:58c'est un GP de Apple, n'est-ce pas ?
- 2:14:02Donc ce qui fait que pour pouvoir
- 2:14:04l'exploiter, je devrais faire autre
- 2:14:07chose. Donc mais si vous avez un GPU
- 2:14:10Nvidia, donc vous allez voir ici true.
- 2:14:14Et puis donc vous avez la partie des
- 2:14:16tensurs. Bon, ça je l'ai expliqué tout à
- 2:14:18l'heure. Vous avez la multiplication des
- 2:14:20tenseurs avec l'opérateur que vous voyez
- 2:14:22ici pour tester.
- 2:14:26Vous avez le device. vérifier ce que le
- 2:14:29device c'est c'est un CPU ou bien un
- 2:14:32GPU. Ça c'est pour le calcul des
- 2:14:34gradients
- 2:14:38autograde.
- 2:14:40Donc ça je l'ai expliqué tout à l'heure.
- 2:14:44Ça c'est la première manière de faire
- 2:14:47avec backward et la deuxième c'est en
- 2:14:49utilisant Autograde,
- 2:14:55c'est-à-dire c'est l'activité pratique
- 2:14:56que qu'on va travailler la semaine
- 2:14:58prochaine. Euh quelques exercices sur
- 2:15:00sur P torche. Mais c'est quelque chose
- 2:15:03qui est fondamental parce que c'est tous
- 2:15:06les TP que vous allez faire, on va
- 2:15:07toujours retrouver les mêmes les mêmes
- 2:15:09concepts.
- 2:15:14Est-ce qu'il y a des questions ? Pas de
- 2:15:16questions. Tranquille. OK.
- 2:15:19Alors, il reste encore quelques
- 2:15:21éléments. Donc euh
- 2:15:27alors tout ça en principe avec Python,
- 2:15:30s'il vous plaît.
- 2:15:35Alors, en principe avec
- 2:15:37Porche. Donc si vous avez le dataset
- 2:15:40globalement vous pouvez toujours
- 2:15:41l'entraîner. On a vu comment faire mais
- 2:15:43souvent dans la majorité des cas c'est
- 2:15:45que on a les dataset qui contient une
- 2:15:47grande quantité de de données et donc
- 2:15:50pour pouvoir pour pouvoir entraîner le
- 2:15:53modèle on va entraîner le modèle avec ce
- 2:15:55qu'on appelle des batchs. C'est-à-dire
- 2:15:58je vais prendre un batch, c'est une
- 2:16:00partie de de du dataset. Et donc vous
- 2:16:03aurez besoin d'un certain nombre de de
- 2:16:05classes qui sont très importantes euh
- 2:16:07qui s'appelle euh qui s'appelle tout
- 2:16:09simplement de data loader. En fait data
- 2:16:13loader pour PE donc c'est euh c'est des
- 2:16:16classes euh c'est des objets qui
- 2:16:18permettent de charger les données. Une
- 2:16:21fois que vous chargez les données, ça
- 2:16:22vous permet de manipuler facilement les
- 2:16:24données. Alors vous vous avez déjà
- 2:16:26travaillé beaucoup avec
- 2:16:29vous avez beaucoup travaillé avec cycet
- 2:16:31Le n'est-ce pas ? Oui.
- 2:16:33Donc avec L souvent vous commencez par
- 2:16:35Pondas pour lire le dataset et puis vous
- 2:16:38faites euh
- 2:16:41test split split, c'est-à-dire vous
- 2:16:44faites les les splits et vous vous avez
- 2:16:47un ensemble de fonctions qui qui vous
- 2:16:49permettent de gérer ça. Mais dans le cas
- 2:16:50du deep learning, on a on a souvent
- 2:16:53besoin d'utiliser ce datat load de ta
- 2:16:56loader. Voilà comment le créer. Donc ici
- 2:16:59regardez donc je vais créer un dataset.
- 2:17:02Supposons vous avez x é= je vais créer
- 2:17:06un
- 2:17:08un random de combien de lignes ?
- 2:17:10100
- 2:17:11100 combien de colonnes ? 3,
- 2:17:13c'est-à-dire j'ai combien de variables
- 2:17:14fait X ? 3 3 variables x et puis donc y
- 2:17:19c'est 100 x 1 c'est-à-dire output j'ai
- 2:17:221
- 2:17:22une seule sortie
- 2:17:24et bien je vais créer tout simplement un
- 2:17:25dataset c'est tor des x y une fois que
- 2:17:29vous faites ça je vais créer un loader
- 2:17:32alors comment créer un loader c'est data
- 2:17:34loader je lui donne le dataset et je
- 2:17:37choisis le batch
- 2:17:39alors c'est quoi le batch 16 par exemple
- 2:17:41ici 16 é= à 16 ça veut dire quoi ça veut
- 2:17:44dire Quand je vais faire train,
- 2:17:47il va pour chaque forward, il va prendre
- 2:17:50combien d'exemples ? 16 pour ch pour
- 2:17:53pour chaque turn, pour chaque opération
- 2:17:56de forward, il va prendre 16. Donc il va
- 2:17:59prendre 16 par 16 si vous voulez. OK ?
- 2:18:02Et donc euh cette valeur là, la même
- 2:18:04chose, c'est un hyperparamètre et
- 2:18:06souvent vous avez besoin de la régler.
- 2:18:08Alors, chauffle égal à tr, c'est pour
- 2:18:10lui demander de faire chauffle,
- 2:18:12c'est-à-dire les données il va faire il
- 2:18:14va les mélanger
- 2:18:16parce que parfois il se trouve que dans
- 2:18:17vos données ici, ils sont ordonnés selon
- 2:18:19les classes. Euh et après vous faites
- 2:18:21chaf, il va les mettre aléatoire pour ne
- 2:18:23pas euh parce que ce n'est pas pratique
- 2:18:25d'avoir un dataset. Par exemple, la
- 2:18:27première partie des données, il prédit
- 2:18:29la classe 1 et la deuxème partie prédit
- 2:18:31la classe 2. Ça c'est pas bon. Pourquoi
- 2:18:34? parce que c'est dans l'entraînement,
- 2:18:35vous allez dire pour ces données, c'est
- 2:18:37la classe 1 et après vous passez à la
- 2:18:39classe 2. Et à la fin, il va beaucoup se
- 2:18:42rappeler de la classe 2 plus qu'à la
- 2:18:44classe 1. C'est-à-dire, vous allez créer
- 2:18:46ce qu'on appelle un modèle biaisé pour
- 2:18:48la classe 2. Alors pour cela, on va
- 2:18:50utiliser souvent chauffle. Donc on va
- 2:18:52ici par exemple dans notre asset, la
- 2:18:55première ligne c'est la classe 0, la
- 2:18:57deuxème ligne c'est la classe 1. La 3è
- 2:19:00ligne c'est la classe 0, la 4e il fait
- 2:19:02ce chaffle là. Ça permet, c'est très
- 2:19:04c'est très utile.
- 2:19:06Ben et puis donc vous avez euh souvent
- 2:19:09pour parcourir le loader, on va utiliser
- 2:19:12for X batch, Y batch et in loader. Vous
- 2:19:16affichez tout simplement le le chip si
- 2:19:18vous voulez. Et si vous affichez, vous
- 2:19:20voyez donc chaque bas, il contient
- 2:19:21combien de lignes ? C'est 6.
- 2:19:24C'est-à-dire je vais parcourir le
- 2:19:25dataset par batch pour chaque batch.
- 2:19:28Vous voyez ?
- 2:19:31Alors ici donc j'ai un dataset qui
- 2:19:33contient 100. C'est comme si pour chaque
- 2:19:35itération je vais prendre 16 16 lignes.
- 2:19:38Et ces 16 lign je vais le donner au
- 2:19:40modèle. Je calcule le loss. J'optimise.
- 2:19:43Ensuite je reviens encore pour prendre
- 2:19:45le les les 16 prochains et cetera
- 2:19:48jusqu'à ce que je termine tous les
- 2:19:49batchs et tout ça c'est une époque et
- 2:19:53après je reviens pour la deuxème époque
- 2:19:54la 3è et cetera. OK ?
- 2:19:58Et donc ça vous donne quelque chose
- 2:19:59comme ça. Alors si vous voulez créer par
- 2:20:03exemple la régression linéaire,
- 2:20:06alors ça c'est une régression linéaire
- 2:20:08avec pay torche.
- 2:20:10On va générer un dataset comme ça. Alors
- 2:20:13si vous voulez générer un dataset comme
- 2:20:15ça, vous allez utiliser euh donc torche.
- 2:20:18Je vais prendre X euh line space. Donc
- 2:20:22je vais générer un vecteur X entre - 2
- 2:20:25et et 2. Il y a combien de valeurs ?
- 2:20:28120 valeurs.
- 2:20:29OK.
- 2:20:31En fait, ici un un squeeze, c'est pour
- 2:20:35supprimer la la première dimension.
- 2:20:38C'est-à-dire quoi ? Supposons vous avez
- 2:20:41une matrice vous avez une matrice qui
- 2:20:45contient un seul vecteur. Voyez une
- 2:20:47matrice
- 2:20:49qui contient un seul une seule ligne. Et
- 2:20:53quand vous avez une matrice qui contient
- 2:20:55une seule ligne, bah ça sert à rien. On
- 2:20:58va supprimer la première dimension comme
- 2:20:59ça on va avoir un seul vecteur. Et si
- 2:21:02vous voulez supprimer la première
- 2:21:03dimension de de la matrice, donc comme
- 2:21:05ça, il vous reste que la deuxième
- 2:21:07dimension, c'est-à-dire le le vecteur,
- 2:21:09on utilise cette fonctione. C'est pour
- 2:21:12supprimer la première dimension. C'est
- 2:21:13très utile.
- 2:21:17Bon, ce qu'on va faire, c'est que on va
- 2:21:18calculer ça. On va calculer on va faire
- 2:21:21une régression linéaire en utilisant y =
- 2:21:243x + 2. Mais le problème, si vous
- 2:21:28utilisez 3x + 2, ça va don nous donner
- 2:21:30une ligne.
- 2:21:32Mais moi, je ne veux pas une ligne, je
- 2:21:33veux avoir des données expérimentales,
- 2:21:36c'est-à-dire je vais ajouter un bruit.
- 2:21:39Et donc ici, donc je vais ajouter noise.
- 2:21:41Et c'est quoi le noise ? C'est un bruit.
- 2:21:43Comment je le calcule ? C'est 0,6 x un
- 2:21:45nombre aléatoire de x. Et donc comme ça,
- 2:21:48si je représente si je fais un plot,
- 2:21:51voyez, si vous faites un scatter plot
- 2:21:53pour ce dataset, vous allez avoir un
- 2:21:56nuage de point. Donc vous voyez donc
- 2:21:58qu'est-ce que je viens de faire ici ? Je
- 2:21:59viens de créer un dataset
- 2:22:01qui représente quoi ? Normalement une
- 2:22:04régression.
- 2:22:06Alors c'est quoi l'idée principale ?
- 2:22:07Maintenant, il faut trouver quelle est
- 2:22:08la ligne,
- 2:22:11la droite qui va ajuster les les points,
- 2:22:14c'est-à-dire la droite qui va passer à
- 2:22:15côté de de tous les les points,
- 2:22:18c'està-dire vous faites la régression
- 2:22:20linéaire tout simplement.
- 2:22:22Donc voilà le dataset. Alors si vous
- 2:22:24voulez créer la régression linéaire,
- 2:22:26pour créer une simple régression
- 2:22:27linéaire, vous créez un modèle linéaire.
- 2:22:30Donc vous créez le modèle linéaire. Vous
- 2:22:32voyez combien de neurons
- 2:22:34n pas besoin ici. Je vais utiliser MS MS
- 2:22:38loss et Adam. Je reprends la même boucle
- 2:22:41d'apprentissage. Donc ici donc je vais
- 2:22:44créer un tableau vide dans lequel je
- 2:22:46vais stocker les loss au fur et à mesure
- 2:22:48que les époques avancent.
- 2:22:51Je vais faire varier l'époque de 0
- 2:22:53jusqu'à 300. Et regardez modèle rec trin
- 2:22:57ça veut dire quoi ça ?
- 2:23:00Alors, je rappelle train ça veut pas
- 2:23:02dire entraîner,
- 2:23:03c'est juste je suis dans le mode train.
- 2:23:06Pourquoi c'est très ? Parce que quand je
- 2:23:07je fais l'entraînement, il faut
- 2:23:09s'assurer que vous êtes dans le mode
- 2:23:11train.
- 2:23:13Quand est-ce que c'est important ? Quand
- 2:23:15dans votre modèle, vous avez des
- 2:23:17dropout, n'est-ce pas ? Et comme ici on
- 2:23:20n pas de dropout, même si vous mettez
- 2:23:22pas ça, ça va marcher. C'estàdire ça
- 2:23:25change rien. C'est-à-dire si vous n'avez
- 2:23:27pas des dropout et d'autres notamment
- 2:23:31d'autres d'autres cas particuliers, bah
- 2:23:34c'est-à-dire le le mode train et le mode
- 2:23:36et le mode EVAL, c'est la même chose.
- 2:23:38Donc bref, je suis en mode trend, je
- 2:23:41fais predict modèle de X età j'ai la
- 2:23:44prédiction. Je calcule le loss, je fais
- 2:23:48optimizer 0 grad. Je rappelle, c'est
- 2:23:51pour initialiser le gradient à zé et
- 2:23:54puis je fais backward. Alors backward,
- 2:23:56ça permet de calculer les gradients. Et
- 2:23:58step optimizer step, il permet de de
- 2:24:01mettre à jour les les paramètres.
- 2:24:04Et puis je j'ai un los que je vais
- 2:24:06ajouter à cette à cette liste. Et puis
- 2:24:08donc je voilà à la fin donc je vais
- 2:24:11afficher. Je vois ici déjà le dernier le
- 2:24:15dernier loss, il est 0,34.
- 2:24:19Et donc je vois si je fais un plot du
- 2:24:22loss ici, c'est-à-dire de ce tableau-là,
- 2:24:25je vois que le loss il il 100,
- 2:24:28c'est-à-dire à partir de l'époque numéro
- 2:24:30combien ? 150. Je vois que presque le
- 2:24:34loss il est stabilisé. Donc
- 2:24:36techniquement parlant, je n'ai pas
- 2:24:37besoin d'aller jusqu'à 300 époque.
- 2:24:40Peut-être avec 150 époques, on va
- 2:24:42obtenir le même résultat.
- 2:24:46Donc j'ai entraîné le modèle. Maintenant
- 2:24:48qu'est-ce qu'il faut faire ? Il faut le
- 2:24:50l'évaluer.
- 2:24:52Alors pour l'évaluer, qu'est-ce que je
- 2:24:53vais faire ? Donc je vais utiliser
- 2:24:54modèle EVAL. Donc je suis dans le modèle
- 2:24:57EVAL et je vais utiliser je vais prendre
- 2:24:59le le X c'est-à-dire modèle predict X et
- 2:25:04j'ai la prédiction. OK.
- 2:25:10Alors ici c'est pas très intéressant.
- 2:25:11Pourquoi ? Parce que je vais l'évaluer
- 2:25:12avec les mêmes données d'entraînement,
- 2:25:15n'est-ce pas ? C'est-à-dire je vais je
- 2:25:17vais l'évaluer avec les mêmes données
- 2:25:19que j'ai utilisé pendant l'entraînement.
- 2:25:22Mais dans la réalité, qu'est-ce qu'on
- 2:25:23fait ? c'est que on a un dataset, on va
- 2:25:26le découper en deux parties. Il y a une
- 2:25:29partie pour l'entraînement, il y a une
- 2:25:30partie pour le test. Alors ici donc je
- 2:25:33vais utiliser le même dataset.
- 2:25:37J'ai j'ai le la prédiction.
- 2:25:40OK
- 2:25:42de faire un plot de Y se forme de d'un
- 2:25:46simple plot. Regardez, ça me donne dans
- 2:25:48cette ligne ici.
- 2:25:53Voilà, c'est la droite. La droite en
- 2:25:55bleu, c'est euh c'est bien ce que je
- 2:25:58plotte ici. Regardez, je fais scatter,
- 2:26:01c'est les points. Et après plot, c'est
- 2:26:04euh ici y,
- 2:26:06c'est-à-dire ce que j'ai ce que j'ai
- 2:26:08prédit.
- 2:26:10Et ça me donne B. Si je vois la ligne,
- 2:26:12apparemment, j'ai une ligne qui passe à
- 2:26:16qui va ajuster les points. C'est-à-dire
- 2:26:18c'est cette ligne là, elle minimise
- 2:26:20l'erreur, n'est-ce pas ? Il y a pas de
- 2:26:22surapprentissage parce que s'il y a un
- 2:26:23surapprentissage, je vais avoir quelque
- 2:26:25chose comme ça. Il y a pas de
- 2:26:27sous-apprentissage, c'est-à-dire que la
- 2:26:29droite est il a l'air d'être correct
- 2:26:32mais j'ai besoin d'un score.
- 2:26:34Alors si vous voulez mesurer le score ou
- 2:26:36bien le score d'une régression, on va
- 2:26:39utiliser alors maintenant si vous voulez
- 2:26:41calculer le score d'une régression,
- 2:26:43quelle est la métrique qu'on va utiliser
- 2:26:44? C'est R au carré R squ, n'est-ce pas ?
- 2:26:48Bon, vous savez les les régressions
- 2:26:51c'est R au carré il y a il y a bien sûr
- 2:26:56RMSE, n'est-ce pas ? Ça ça vous donne
- 2:26:59une idée sur l'erreur mais si vous
- 2:27:01voulez calculer le score, vous pouvez
- 2:27:02utiliser la métrique au carré R squ il
- 2:27:06est là. Bah qu'est-ce que vous pour
- 2:27:08utiliser R square avec P torche, vous
- 2:27:11utilisez la classe R2 score. OK ? R
- 2:27:16carré si vous voulez score
- 2:27:18et vous utilisez métrique update.
- 2:27:20Qu'est-ce que je lui donne ? Y
- 2:27:23c'est-à-dire ce qui est prédit et le
- 2:27:24vrai Y. Et je lui demande de calculer la
- 2:27:27métrique et je l'affiche. Et quand je
- 2:27:29l'affiche, regardez ici, ça me donne 97
- 2:27:32%. Donc c'est-à-dire j'ai vraiment dit
- 2:27:34c'est euh mon modèle il est performant à
- 2:27:36hauteur de 97 %. Ça c'est pour la
- 2:27:39régression.
- 2:27:42C'est clair ? Alors ça c'est un très
- 2:27:44simple exemple dans en même temps ça
- 2:27:47vous permet de revenir de voir comment
- 2:27:49créer une régression simple
- 2:27:51et en même temps vous êtes en train de
- 2:27:53pratiquer pche.
- 2:27:56Et puis vous avez un autre exemple de
- 2:27:57classification.
- 2:28:00Alors quelque chose que je ne vous ai
- 2:28:01pas expliqué ici dans au début vous avez
- 2:28:03ce
- 2:28:05torche manuel s = 42 vous savez le site
- 2:28:08quand vous le fixez à une valeur
- 2:28:12parce que dans quand vous faites vous
- 2:28:14créez un modèle il génère des nombres
- 2:28:16aléatoires, n'est-ce pas ? Si vous fixez
- 2:28:19par exemple le SID a une valeur, vous
- 2:28:21êtes sûr que à chaque fois que vous
- 2:28:23réexécutez votre code, il va toujours
- 2:28:25vous donner le même résultat. Parce que
- 2:28:28si vous ne fixez pas le site à une
- 2:28:29valeur, qu'est-ce qui se passe ? Une
- 2:28:31première exécution, il va commencer avec
- 2:28:32des valeurs aléatoires et ça va vous
- 2:28:35donner un résultat. La deuxième
- 2:28:37exécution, il va générer des valeurs
- 2:28:38aléatoires qui sont différentes. Il va
- 2:28:40vous donner peut-être un résultat qui
- 2:28:42est différent. Donc c'est pour cela
- 2:28:44queon commence toujours par euh ici on
- 2:28:47fixe le le side le générateur aléatoire
- 2:28:49si vous voulez.
- 2:28:51Alors pour le classifieur, la même
- 2:28:52chose, vous allez euh ici donc on va
- 2:28:55créer un classifieur simple. Donc je
- 2:28:57vais avoir en fait le si vous voulez
- 2:29:02j'ai un dataset dans lequel je vais
- 2:29:03avoir deux classes. La classe zéro bon
- 2:29:07la classe 0 donc je vais générer euh n
- 2:29:10é=al à combien ? C'est 120. Je vais
- 2:29:12générer 120 nombres. OK ?
- 2:29:16C'est-à-dire avec deux colonnes
- 2:29:20lè de colonn c'est parce que je vais
- 2:29:21avoir x y si vous voulez.
- 2:29:26Donc je vais générer un nombre aléatoire
- 2:29:28et je vais ajouter un tenseur 2 et 0.
- 2:29:30C'estàdire c'est comme si vous vous
- 2:29:32faites en fait 2 plus les valeurs
- 2:29:35aléatoires et 0 plus les valeurs
- 2:29:36aléatoires. Alors la même chose, je vais
- 2:29:38générer donc la classe 1. Voilà. Ça
- 2:29:41c'est la classe les points de la classe
- 2:29:440. Ça c'est les points de la classe 1.
- 2:29:47Et puis je vais les concatiner. Voyez
- 2:29:49donc si vous avez de de deux turs et
- 2:29:51vous voulez les fusionner en un seul, on
- 2:29:54va utiliser torche
- 2:29:564. Alors 4 donc je dans classe 0 classe
- 2:30:001 et après vous vous mettez la
- 2:30:02dimension. Est-ce que vous voulez les
- 2:30:03les concatinés selon la colonne ou bien
- 2:30:05selon les lignes ? Alors ici selon les
- 2:30:08colonnes, c'est-à-dire vous avez le le
- 2:30:09tensur le le tenseur zéro c'est un c'est
- 2:30:13par exemple 120 lignes, n'est-ce pas ?
- 2:30:17Et le tenseur 1 c'est 120 lignes. Donc
- 2:30:19qu'est-ce que je vais faire ? Je vais
- 2:30:20prendre le tensur 2, je vais le mettre
- 2:30:22en bas de du tensur 1, c'est-à-dire je
- 2:30:24vais les fusionner comme ça en ligne en
- 2:30:26colonne. Donc dim 0, c'est les colonnes.
- 2:30:32Bon bref, donc vous avez ici donc le
- 2:30:35vous avez les classes x Y. Alors
- 2:30:38maintenant vous allez faire plot et puis
- 2:30:40si vous voulez créer un modèle de
- 2:30:41classifieur, on fait la même chose. On
- 2:30:43crée un modèle linéaire input. Il y a
- 2:30:47combien de variables input ?
- 2:30:49Combien d'honneur en 16 ? On fait relio.
- 2:30:52Encore une autre couche 16 16 relio et
- 2:30:56après 16 de output. Et puis donc on crée
- 2:31:00le modèle classifieur. On crée le los.
- 2:31:04Alors regardez comme c'est un classifur
- 2:31:05binaire, je vais utiliser cross
- 2:31:09optimizer. C'est toujours Adam et je
- 2:31:12fais la même boucle d'apprentissage
- 2:31:13c'est toujours la même chose. Donc ici
- 2:31:16le il est là.
- 2:31:18Et puis je fais je vais faire ici les
- 2:31:21l'évaluation de la même manière. Cette
- 2:31:23fois-ci je vais pas pour mesurer les
- 2:31:26performances d'un classifieur, je vais
- 2:31:28pas utiliser au carré, n'est-ce pas ?
- 2:31:30Ben, je vais utiliser écur ici,
- 2:31:34n'est-ce pas ? Ou bien je peux utiliser
- 2:31:38il faut un score précision. Donc c'est
- 2:31:40des métriques que vous connaissez. Alors
- 2:31:42en tout cas pour calculer écure ici donc
- 2:31:45voyez ici j'ai pas utilisé une classe
- 2:31:46particulière je peux la calculer c'est
- 2:31:49quoi c'est tout simplement écure ici il
- 2:31:52va je vais regarder euh le nombre de cas
- 2:31:56de prédictions et classes qui sont les
- 2:31:57mêmes et je fais la moyenne. Ça va vous
- 2:32:00donner écure ici. Vous voyez ici comme
- 2:32:03c'est un classifieur qui est simple nous
- 2:32:05donne un taux de performance de 100 %.
- 2:32:09Alors si vous voulez calculer les autres
- 2:32:11métriques dont j'ai parlé, vous pouvez
- 2:32:13utiliser
- 2:32:14binarc
- 2:32:16également précision,
- 2:32:19vous avez récol et vous avez score. Et
- 2:32:23bien de la même manière, vous faites ça
- 2:32:25et si vous voulez
- 2:32:27générer
- 2:32:28comment s'appelle ce tableau là
- 2:32:29?
- 2:32:31C'est pas table de vérité
- 2:32:33confusion.
- 2:32:34Matrice de confusion. Alors, si vous
- 2:32:36voulez générer la matrice de confusion
- 2:32:37pour un classifieur, et ben vous aurez
- 2:32:39juste besoin de de faire si voilà,
- 2:32:46j'ai la métrique, la classe s'appelle
- 2:32:48binary confusion matrix. Donc, je la
- 2:32:52génère si vous faites plot
- 2:32:55parce que je sais que vous avez eu
- 2:32:56l'habitude de faire ça avec.
- 2:32:59Alors maintenant vous êtes en train de
- 2:33:00le faire avec Petche. Donc ça vous savez
- 2:33:03le faire ça vous donne une idée.
- 2:33:06Il y a aussi donc vous dans le
- 2:33:08l'activité pratique, vous allez trouver
- 2:33:09des choses intéressantes. Vous allez
- 2:33:11trouver comment dessiner le le
- 2:33:13c'est-à-dire le le séparateur,
- 2:33:15c'est-à-dire la frontière qui séparé de
- 2:33:17classe. Ça c'est intéressant.
- 2:33:19et vous allez trouver comment
- 2:33:21sauvegarder un modèle parce que un
- 2:33:23modèle une fois qu'il est entraîné, il
- 2:33:25faut le le sauvegarder, l'enregistrer.
- 2:33:28Bon, ça c'est vous avez trouvé le code
- 2:33:31et voilà. Donc bon, quand vous arrivez
- 2:33:34là, c'est que vous avez à peu près les
- 2:33:36bases de pche. Alors maintenant, je vous
- 2:33:39les présenter mais maintenant c'est à
- 2:33:40vous de de faire. C'est l'objet de la
- 2:33:42semaine prochaine. OK. Donc s'il vous
- 2:33:45plaît la semaine prochaine ramenez avec
- 2:33:47vos
- 2:33:48vos machines.
- 2:33:52Alors j'imagine pas un ingénieur qui qui
- 2:33:54vient son sans machine. Ramenez les
- 2:33:57machines et comme ça donc la semaine
- 2:33:59prochaine ça il y a des exercices qu'on
- 2:34:01va faire sur Petch.
- 2:34:03Voilà, je vais faire l'appel et je vais
- 2:34:07vous souhaiter une très bonne journée.
- 2:34:08Ok.
About this transcript
This page contains the full transcript of Part 1 - IA Generative Multi Modale et Agentique by Professeur Mohamed YOUSSFI, generated from the public captions YouTube serves with the video. The transcript has 25,178 words across 3,950 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.
What you can do with it
Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.
Free YouTube transcript tool
YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.