YouTube2Text

Part 1 - IA Generative Multi Modale et Agentique — Transcript

by Professeur Mohamed YOUSSFI · 25,178 words · 3,950 segments · language en · Watch on YouTube

Full transcript

  1. 0:19Bien. Bonjour. Bonjour tout le monde.
  2. 0:24Vo bien les sourires tout va bien.
  3. 0:28Voilà.
  4. 0:29Alors voilà, donc je suis très content
  5. 0:32de vous revoir, ça fait quelques
  6. 0:34moments.
  7. 0:36Euh en fait cette année pour vous c'est
  8. 0:39une année particulière, donc c'est
  9. 0:41l'année terminale. Donc pour la major la
  10. 0:44majorité d'entre vous peut-être c'est le
  11. 0:48peut-être bon c'est la dernière année de
  12. 0:50votre cursus académique.
  13. 0:53Euh et donc voilà donc il y a la la vie
  14. 0:55professionnelle euh qui qui s'ouvre à
  15. 0:58vous.
  16. 0:59Et il faut le savoir, c'est que dans
  17. 1:02quelques semaines, vous allez commencer
  18. 1:03à faire des entretiens euh pour
  19. 1:06décrocher des opportunité de de stage,
  20. 1:08de projet, de fin d'étude. Mademoiselle,
  21. 1:13tu veux que je te laisse encore un peu
  22. 1:14de temps pour lui raconter ce que tu as
  23. 1:17fait pendant tout ?
  24. 1:20[rires]
  25. 1:22Bon le donc bientôt vous allez commencer
  26. 1:26à faire des entretiens euh pour
  27. 1:29décrocher des opportunités
  28. 1:32et donc c'est très important cette
  29. 1:34année-là. Donc vraiment il y a pas il y
  30. 1:36a pas du temps à perdre parce que en
  31. 1:39fait d'abord vous avez des modules de
  32. 1:42spécialité et en même temps euh il y a
  33. 1:45d'abord la maîtrise technique. C'est
  34. 1:46important la maîtrise technique de du
  35. 1:48concept plutôt de c'est-à-dire
  36. 1:51développer des applications basées sur
  37. 1:53l'intelligence artificielle donc et
  38. 1:55maîtriser l'écosystème de tout ce qui
  39. 1:57est la data. Donc ça c'est important,
  40. 2:00mais il faut pas négliger une chose qui
  41. 2:01est très importante, c'est que euh en
  42. 2:04fait il y a le vocabulaire, c'est très
  43. 2:07important parce que quand vous allez
  44. 2:08faire des entretiens, alors parfois donc
  45. 2:11il y a des petites questions qui
  46. 2:12nécessitent des petites réponses et
  47. 2:15parfois pour répondre correctement, il
  48. 2:16vous faut utiliser le bon le bon mot
  49. 2:19vocabulaire. Et donc ce qui fait que euh
  50. 2:22n'hésitez pas quand vous faites des
  51. 2:24activités pratiques de en fait de de
  52. 2:28noter euh le vocabulaire technique de
  53. 2:30base que vous devrez retenir euh pour
  54. 2:33pouvoir pour pouvoir bien sûr euh euh
  55. 2:36répondre à des questions, d'éventuelles
  56. 2:38questions qui sont très très pointues.
  57. 2:41Alors, c'est la raison pour laquelle en
  58. 2:43fait nous on va continuer, bon, vous me
  59. 2:45connaissez déjà, donc on va continuer à
  60. 2:46travailler toujours de la même manière
  61. 2:49ce semestre là. Donc vous allez vous
  62. 2:51allez avoir un en fait un module qui
  63. 2:54s'appelle li a générative multimodal.
  64. 2:56Alors l'IA générative multimodale donc
  65. 2:59en principe il y a deux parties et il y
  66. 3:01a la partie visuelle et la partie
  67. 3:03textuelle. Donc euh c'est pour cela vous
  68. 3:04avez deux éléments qui sont séparés mais
  69. 3:06en réalité c'est le c'est le même module
  70. 3:09parce que juste il y a une partie qui va
  71. 3:11traiter le texte et une autre partie qui
  72. 3:12va traiter le le côté visuel,
  73. 3:14c'est-à-dire les images.
  74. 3:16Et donc c'est un domaine que vous
  75. 3:18connaissez déjà en partie. Vous allez
  76. 3:19trouver que dans ce module, il y a
  77. 3:22encore des choses qu'on a déjà faites
  78. 3:23l'année dernière et qu'on va encore
  79. 3:25reprendre en profondeur. Donc ce qui
  80. 3:28fait que vous serez pas dépayisé, c'est
  81. 3:30que il y aura à un moment donné, on va
  82. 3:32encore retrouver les agentiques euh
  83. 3:34encore avec euh tout l'écosystème que
  84. 3:37nous avons fait l'année dernière. il y
  85. 3:39aura un projet que je vais vous
  86. 3:41présenter à partir de la semaine
  87. 3:43prochaine. Et donc la même chose donc
  88. 3:45c'est un projet général euh qui
  89. 3:48ressemble à peu près, c'est un type de
  90. 3:51projet qui ressemble à peu près à ce que
  91. 3:54euh les entreprises aujourd'hui
  92. 3:56demandent, c'est-à-dire au stagiaires.
  93. 4:00parce que nous avons constaté que dans
  94. 4:02la majorité des projets de fin d'étude
  95. 4:04qui qui viennent de de de terminer, dans
  96. 4:06la majorité des cas, c'est des
  97. 4:08applications agenti qui aura toujours
  98. 4:11graph, il y aura toujours MCP, il y aura
  99. 4:13toujours des agents AI, il y aura
  100. 4:15toujours des LLMs euh et il y aura
  101. 4:18toujours des modèles d'intelligence
  102. 4:19artificielle. Bah il du coup donc cette
  103. 4:22partie là on a déjà vous êtes déjà
  104. 4:24préparé pour ça parce que l'année
  105. 4:26dernière on a beaucoup avancé là-dessus
  106. 4:29sauf que c'est vrai que l'année dernière
  107. 4:31on a fait plus ce qu'il fallait faire
  108. 4:32peut-être parce qu'il y a une bonne
  109. 4:34partie de de ce que nous avons fait
  110. 4:36l'année dernière on va la retrouver
  111. 4:37cette dans ce programme. Donc ce qui
  112. 4:39fait que vous serez pas dépaysé donc on
  113. 4:42va encore travailler avec les LLMS.
  114. 4:46Alors, sauf que l'année dernière donc
  115. 4:48on a beaucoup travaillé avec les LM open
  116. 4:51parce qu'on va mais c'est cette
  117. 4:53année-là, vous allez beaucoup travailler
  118. 4:55avec les LLMs open source parce qu'on va
  119. 4:57faire du fine tuning. On va encore
  120. 4:59rentrer un peu plus dans les détails la
  121. 5:01structure de des des large language
  122. 5:04models. Et donc il y a beaucoup de de
  123. 5:07choses qui sont intéressantes dans
  124. 5:09laquelle on va combiner. il y aura des
  125. 5:10pour vous des nouveaux concepts et des
  126. 5:13nouvelles, on va dire maîtrise technique
  127. 5:16que vous allez euh que vous allez faire.
  128. 5:18Et puis il y a surtout donc euh euh en
  129. 5:22fait une une bonne partie de ce que
  130. 5:25va approfondir les connaissances par
  131. 5:27rapport à ce que nous avons fait le
  132. 5:30l'année dernière.
  133. 5:32Alors aujourd'hui c'est la première
  134. 5:33séance donc normalement je devrais avoir
  135. 5:35beaucoup de monde mais ils arrivent
  136. 5:37comme du goutto comme [rires]
  137. 5:39[grognement] alors j'espère que pour les
  138. 5:41les semaines qui viendront
  139. 5:43essayz de de faire l'effort de de venir
  140. 5:46à temps parce qu'en fait comme je disais
  141. 5:48donc dans ce semestre il y a pas
  142. 5:49beaucoup de temps à perdre et donc il
  143. 5:51faut que qu'on avance.
  144. 5:54Alors, c'est une première séance donc il
  145. 5:56y aura beaucoup de rappels et les
  146. 5:59rappels euh dans le domaine de
  147. 6:02l'intelligence artificielle font
  148. 6:04toujours du bien parce qu'il se trouve
  149. 6:06que vous faites beaucoup de en fait vous
  150. 6:10avez beaucoup de modules dans lequel
  151. 6:11vous traitez le le machine learning, dit
  152. 6:14learning et les réseaux neuron
  153. 6:16artificiel. Mais il se trouve encore que
  154. 6:18dans notre module les réseaux neuron
  155. 6:21artificiel c'est une partie qui est très
  156. 6:23importante. C'est un prérequis très
  157. 6:25important et les bases de machine
  158. 6:28learning c'est des prérequis. Donc c'est
  159. 6:30la raison pour laquelle aujourd'hui donc
  160. 6:31je vais prendre un peu de temps pour
  161. 6:33rappeler un certain nombre de concepts
  162. 6:36qu'il faudrait retenir
  163. 6:38et c'est des choses qui sont
  164. 6:39fondamentales. Donc voilà. Donc on va en
  165. 6:41parler aujourd'hui.
  166. 6:45Alors on va commencer par quoi ?
  167. 6:48Alors, d'abord
  168. 6:51la première des choses donc je rappelle
  169. 6:53que l'intelligence artificielle c'est
  170. 6:56une grande discipline
  171. 6:58dans laquelle vous avez de on va dire il
  172. 7:00y a deux branches dans le domaine de
  173. 7:01l'intelligence artificielle. Il y a une
  174. 7:04branche ce qu'on appelle lia symbolique
  175. 7:06et puis il y a une autre grande branche
  176. 7:08ce qu'on appelle euh l'IA basé sur
  177. 7:11l'apprentissage. C'est ce qu'on appelle
  178. 7:13machine learning.
  179. 7:15Et donc l' symbolique, c'est une
  180. 7:17approche historique. Bah c'est une
  181. 7:19approche historique, c'est-à-dire que
  182. 7:20depuis que l'intelligence artificielle a
  183. 7:22été créé, bon l symbolique donc été
  184. 7:26utilisé
  185. 7:28euh généralement euh quand est-ce qu'on
  186. 7:30utilise lien symbolique ? Quand
  187. 7:33vous êtes devant un problème euh
  188. 7:37déterministe.
  189. 7:39Alors, quand on est dans un problème
  190. 7:41déterministe, ça veut dire quoi
  191. 7:43déterminist ? Ça veut dire que vous êtes
  192. 7:44dans un problème du type if si cette
  193. 7:47condition est vérifiée, je fais ça. Si
  194. 7:48cette condition est vérifiée, je fais
  195. 7:50ça. Si cette condition est et cetera et
  196. 7:52cetera. Donc c'est-à-dire vous êtes dans
  197. 7:53un problème. Si je suis dans une
  198. 7:55situation, voilà ce que je dois faire,
  199. 7:57n'est-ce pas ? Et parfois, il se trouve
  200. 7:58que dans des domaines comme par exemple
  201. 8:01la santé, comme par exemple la
  202. 8:02logistique et d'autres domaines, c'est
  203. 8:04que parfois on est dans des problèmes
  204. 8:05déterministes. C'est-à-dire et quand on
  205. 8:07est dans des devant des des problèmes
  206. 8:09qui sont déterministes, bah ça sert à
  207. 8:11rien d'aller faire de euh de l'IA basé
  208. 8:14sur l'apprentissage. Généralement, l'IA
  209. 8:16symbolique, il est très utilisé euh il
  210. 8:19est d'actualité euh c'est-à-dire il y a
  211. 8:21des domaines là où on peut utiliser lien
  212. 8:23symbolique pour résoudre des problèmes.
  213. 8:25Donc je rappelle juste que lia
  214. 8:26symbolique donc c'est une approche de
  215. 8:29l'IA qui représente la connaissance sous
  216. 8:31forme de symbole
  217. 8:33seus forme de règles
  218. 8:36plutôt c'est c'est des règles explicites
  219. 8:38en utilisant ce qu'on appelle la logique
  220. 8:40formelle. Autrement dit, donc c'est ce
  221. 8:42que je viens de dire tout à l'heure. En
  222. 8:43résumé, un algorithme de lien
  223. 8:45symbolique, ça ressemble à quelque chose
  224. 8:47comme if else if else if else if,
  225. 8:51c'est-à-dire suite à cette condition, je
  226. 8:53fais ça. Si cette condition, si je suis
  227. 8:55dans cette situation, je dois réagir
  228. 8:57ainsi et cetera. Et donc l' symbolique,
  229. 8:59c'est pas ce qui nous intéresse nous
  230. 9:00bien sûr parce que c'est ça ne
  231. 9:03représente qu'une petite partie de de
  232. 9:05l'intelligence artificielle qui est
  233. 9:06exploité. Mais il faut pas oublier ça.
  234. 9:09Il faut pas oublier que les il y a
  235. 9:11encore des problèmes dans le différents
  236. 9:13domaines dans lesquels on n' pas besoin
  237. 9:16de d'aller vers l'apprentissage
  238. 9:19plutôt le basé sur l'apprentissage mais
  239. 9:22on reste sur ce qu'on appelle un moteur
  240. 9:24de règle. On crée un moteur de règle et
  241. 9:26puis avec ce moteur de règle, ça permet
  242. 9:28de régler le problème. Et c'est quoi
  243. 9:29l'avantage
  244. 9:31du lien symbolique ? Alors, l'avantage
  245. 9:33de lien symbolique, c'est ce qui d'abord
  246. 9:35il est explicable, c'est-à-dire on peut
  247. 9:37expliquer, on peut comprendre facilement
  248. 9:39la pourquoi la telle décision a été
  249. 9:42prise et en même temps l symbolique, il
  250. 9:44est contrôlable et prévisible. Donc il y
  251. 9:46a pas de surprise. Ce n'est pas comme
  252. 9:48par exemple les algorithmes de deep
  253. 9:50learning qui sont pas explicables.
  254. 9:53C'est-à-dire c'est c'est parfois on vous
  255. 9:55avez un modèle qui prédit des choses
  256. 9:57mais on peut pas savoir pour quelle
  257. 9:59raison il a prédit telle chose. C'est
  258. 10:01difficile à expliquer. Et donc euh
  259. 10:03voilà. Donc ça on va on va plus en
  260. 10:06parler parce que c'est pas ce qui nous
  261. 10:08intéresse dans le domaine de lia
  262. 10:09génératif. Et ce qui nous intéresse
  263. 10:11plutôt, c'est la grande partie des
  264. 10:14applications industrielles aujourd'hui.
  265. 10:16Ils sont plutôt basés sur
  266. 10:19l'apprentissage, c'est-à-dire sur
  267. 10:20machine learning. Alors maintenant, si
  268. 10:22on reste dans le domaine de du machine
  269. 10:24learning, c'est-à-dire dans le domaine
  270. 10:26de l'a basé sur l'apprentissage,
  271. 10:30bah vous avez parler de d'abord ce qu'on
  272. 10:34appelle prédictive et décisionnel. C'est
  273. 10:36quoi l'objectif ? apprendre à prédire
  274. 10:39pour prendre des décisions. Et quand on
  275. 10:41dit apprendre euh comment on peut
  276. 10:44apprendre ?
  277. 10:45Il faut savoir qu'on peut apprendre soit
  278. 10:46à partir des données structuré ou non,
  279. 10:50on peut apprendre à partir de
  280. 10:52l'expérience,
  281. 10:54ça c'est je vais en parler, c'est ce
  282. 10:56qu'on appelle l'apprentissage par
  283. 10:57renforcement et on peut apprendre par
  284. 11:02les lois de la physique. Alors ça, on
  285. 11:04l'oublie souvent, c'est que parfois
  286. 11:07parfois il se trouve qu'il y a des
  287. 11:08domaines dans lesquels je connais déjà
  288. 11:11les équations de la physique,
  289. 11:13c'est-à-dire je connais déjà les
  290. 11:14équations différentielles qui permettent
  291. 11:17de résoudre un problème physique. Bon,
  292. 11:20les lois de la physique, on les connaît.
  293. 11:21Par exemple, si vous rappelez, je sais
  294. 11:22pas euh peut-être au baccalauréat, vous
  295. 11:26avez fait un peu de physique, n'est-ce
  296. 11:27pas ? vous rappelez la loi de Newton, la
  297. 11:29loi de euh je sais pas de euh les
  298. 11:33différentes lois de la physique euh on
  299. 11:35peut toujours parfois les utiliser euh
  300. 11:37pour pouvoir euh modéliser, créer un
  301. 11:40modèle physique. Et donc ce qui fait que
  302. 11:42parfois les les il y a des domaines
  303. 11:45notamment dans le domaine de
  304. 11:46l'ingénierie plutôt de on va dire de de
  305. 11:50des sciences de l'ingénieur de manière
  306. 11:51générale, dans la majorité des cas, on a
  307. 11:55déjà une idée sur le le modèle de la
  308. 11:57physique, c'est-à-dire les équations
  309. 11:58différentielles qui permettent de
  310. 12:00c'est-à-dire de piloter ou bien de
  311. 12:02gouverner un un système. Et donc parfois
  312. 12:06on peut créer un modèle de
  313. 12:08l'intelligence artificielle
  314. 12:10qui peut être guidé ou bien entraîné par
  315. 12:13ce qu'on appelle les la physique. Alors,
  316. 12:16on aura l'occasion de parler de ce sujet
  317. 12:18là parce que c'est quand même un élément
  318. 12:19qui est aussi important. Et donc on va
  319. 12:22retrouver ça. Donc on va retrouver donc
  320. 12:25dans le dans ce domaine euh on peut
  321. 12:28créer des modèles pilotés par les
  322. 12:30données. Alors les modèles pilotés par
  323. 12:32les con les pilotés par les données,
  324. 12:34c'est des choses que vous connaissez.
  325. 12:36Donc on peut utiliser l'apprentissage
  326. 12:39supervisé, l'apprentissage non
  327. 12:42supervisé. Donc je rappelle que
  328. 12:44l'apprentissage supervisé euh c'est un
  329. 12:47type d'apprentissage dans lequel euh
  330. 12:49nous avons besoin d'un dataset qui est
  331. 12:52étiqueté, c'est-à-dire pour lequel on
  332. 12:53connaît les inputs et les outputs. Alors
  333. 12:57que dans l'apprentissage non supervisé,
  334. 13:00souvent on a un ensemble de données pour
  335. 13:02lesquelles on connaît pas le output et
  336. 13:05puis grâce à des algorithmes comme par
  337. 13:08exemple caminis donc que vous avez déjà
  338. 13:10étudié je suppose on peut faire ce qu'on
  339. 13:13appelle le class c'est-à-dire on peut
  340. 13:14fouiller dans les données et à partir de
  341. 13:17ces donnéesl même s'il ne c'est-à-dire
  342. 13:19même si on connaît pas les étiquettes on
  343. 13:21peut fouiller dans les données et créer
  344. 13:23ce qu'on appelle des classeurs ou bien
  345. 13:24des groupes homogènes.
  346. 13:26Alors, ça c'est c'est
  347. 13:29on va toujours retrouver donc ce ce
  348. 13:31c'est-à-dire ces algorithmes
  349. 13:32d'apprentissage supervisé, non
  350. 13:34supervisés, sauf que dans ce ce cours
  351. 13:36là, on va on va travailler que avec les
  352. 13:38les réseaux de neurones parce qu'en fait
  353. 13:40dans l' générative donc c'est quasiment
  354. 13:42c'est les les réseaux de neurones
  355. 13:44artificiels qui sont utilisés et et donc
  356. 13:47on va encore tout à l'heure donc on va
  357. 13:49faire des rappels euh avec par exemple
  358. 13:53avec un framework comme Pythch. Donc
  359. 13:56c'est un framework qui est très
  360. 13:57important pour vous euh bien Sorfow.
  361. 13:59Donc c'est des des framework qui sont
  362. 14:01importants. On va voir comment on on va
  363. 14:03implémenter des modèles de de ce type.
  364. 14:05Donc euh histoire pour faire des
  365. 14:06rappels.
  366. 14:08Donc les modèles pilotés par les
  367. 14:10données, c'est quoi le problème ? Alors
  368. 14:13c'est quoi le problème des modèles
  369. 14:15pilotés par les données ? Et bien le
  370. 14:17modèle le grand problème pil le grand
  371. 14:19problème des modèles pilotés par les
  372. 14:22données, c'est les données. [rires]
  373. 14:24C'està-dire nous avons besoin des des
  374. 14:26données et ça souvent c'est la chose la
  375. 14:29plus importante quand vous êtes quand
  376. 14:31vous serez en entreprise dans votre
  377. 14:33projet de fin d'étude vous avez vous on
  378. 14:35vous donne un problème. Le premier
  379. 14:37problème que vous allez rencontrer, où
  380. 14:39trouver les données ? Il faut euh
  381. 14:42définir une stratégie de collecte de
  382. 14:44données. Et la stratégie de collecte de
  383. 14:46données, c'est très coûteuse pour les
  384. 14:48entreprises. Et parfois, il y a des
  385. 14:50entreprises qui mettent beaucoup de
  386. 14:52budget pour mettre en place des
  387. 14:53stratégies qui vont collecter les
  388. 14:56données pendant des c'est-à-dire des des
  389. 14:59mois et des mois parfois des des années
  390. 15:01pour pouvoir élaborer un un modèle qui
  391. 15:04est représentatif.
  392. 15:06Donc ce qu'il faut noter, c'est que les
  393. 15:09modèles pilotés par les données
  394. 15:12euh c'est-à-dire ils sont très
  395. 15:14importants, ils sont euh très utilisés
  396. 15:17mais à condition de disposer d'un grand
  397. 15:21nombre quantité de données et une bonne
  398. 15:24qualité des données qui vous permettent
  399. 15:26de de créer un modèle qui est plus
  400. 15:28représentatif. Et dans la majorité des
  401. 15:31cas, ce qui vous arrive en tant que
  402. 15:34académicien, c'est-à-dire tant que vous
  403. 15:36êtes dans le domaine académique,
  404. 15:39bah ce que vous faites souvent, vous
  405. 15:41avez un tel problème, vous allez
  406. 15:42télécharger des datasets sur Google,
  407. 15:45c'est des données qui sont déjà
  408. 15:46préparées. Vous avez vous vous appliquez
  409. 15:48des modèles et après vous vous évaluez
  410. 15:53les performances du modèle. Vous
  411. 15:54trouverez des métriques du type 98 % 99
  412. 15:59% ça a l'air d'être très bon n'est-ce
  413. 16:01pas et ça semble très facile. Mais dans
  414. 16:04la réalité c'est que quand on passe en
  415. 16:05production, c'est-à-dire quand on est
  416. 16:07dans la la réalité et parfois euh les
  417. 16:10modèles qu'on obtient c'est des modèles.
  418. 16:12Parfois quand on mesure les
  419. 16:13performances, on trouve euh on trouve
  420. 16:16des performances de l'ordre de
  421. 16:19parfois de 50 60 %. Et vous savez que si
  422. 16:23vous avez euh par exemple un modèle qui
  423. 16:25est performant à hauteur de 60 %, bah on
  424. 16:29peut pas lui faire confiance parce que
  425. 16:30si on veut faire confiance à un modèle
  426. 16:32de de Lia, il faudrait que ces
  427. 16:34performances atteignent un niveau qui
  428. 16:36est très très élevé. Et donc ce qui se
  429. 16:39passe généralement,
  430. 16:41je vous donne juste un exemple, c'est
  431. 16:42que euh dans l'un des projets, j'ai j'ai
  432. 16:45travaillé sur un projet
  433. 16:48un projet de
  434. 16:50euh dans lequel euh avec bon euh euh
  435. 16:54pour une banque dans lequel euh en fait
  436. 16:56l'idée c'est quoi ? que le euh la banque
  437. 16:59souhaite créer une application mobile
  438. 17:02dans laquelle euh tout simplement il va
  439. 17:04permettre à ses clients euh de créer euh
  440. 17:07un compte bancaire. Et pour créer un
  441. 17:09compte bancaire, il y a une étape
  442. 17:11importante, c'est que euh l'application
  443. 17:13mobile va demander à au clients de de
  444. 17:17faire euh en fait de de scanner sa carte
  445. 17:19d'identité nationale, n'est-ce pas ? et
  446. 17:22puis de faire un selfie.
  447. 17:25Et l'application, le modèle de l'IA,
  448. 17:27qu'est-ce qu'il doit faire ? Il doit
  449. 17:28vérifier si le selfie, si la photo du
  450. 17:30selfie correspond bien à la photo qui se
  451. 17:32trouve dans la carte nationale. Bon, ça
  452. 17:35c'est un c'est un problème un type de
  453. 17:37problème assez assez classique.
  454. 17:40Et bien
  455. 17:42c'est c'est un problème qui peut sembler
  456. 17:45évident mais c'est pas si c'est pas
  457. 17:46évident. Pourquoi ? Parce que dans la
  458. 17:48majorité des cas, c'est que la photo qui
  459. 17:49se trouve dans la carte d'identité
  460. 17:51nationale, souvent, elle est très loin
  461. 17:52de de la photo de du selfie. Et donc, il
  462. 17:56vous faut vraiment un modèle de
  463. 17:58l'intelligence artificielle de deep
  464. 17:59learning qui est capable, on va lui
  465. 18:01donner, on va lui donner tel tel selfie
  466. 18:05et tel la photo de la carte d'identité
  467. 18:07nationale et en output, il va venir
  468. 18:09est-ce que c'est est-ce que ça matche ou
  469. 18:10bien ça matche pas. Et donc pour faire
  470. 18:13ça euh bah au départ donc la banque nous
  471. 18:17a fourni un certain nombre, nous avons
  472. 18:19besoin d'un dataset. Et notre dataset
  473. 18:21c'est quoi ? Et bien c'est un ensemble
  474. 18:23de un ensemble de de données dans
  475. 18:25lesquelles nous avons besoin des cartes
  476. 18:26nationales de des clients. C'est pas
  477. 18:28évident avoir les cartes d'identité
  478. 18:30nationale des clients. Déjà la banque,
  479. 18:33il doit faire toute une stratégie pour
  480. 18:35pouvoir les avoir et donc surtout avoir
  481. 18:38le selfie. Ben, on va pas demander au
  482. 18:40client s'il vous plaît puisque vous
  483. 18:41pouvez nous donner un selfie de votre
  484. 18:44n'est-ce pas ? C'est pas évident. Et
  485. 18:45donc ce qui fait que au départ la banque
  486. 18:48disposit d'une quantité de données qui
  487. 18:51n'est pas très importante. OK ? Et donc
  488. 18:54ce qu'on a fait, c'est qu'on a pris ces
  489. 18:55données-là, on a entraîné des modèles
  490. 18:56avec différents types de modèles de
  491. 18:58typeine. On a euh
  492. 19:01quasiment testé euh la majorité des des
  493. 19:03des modèles qui sont les plus les plus
  494. 19:06connus dans dans ce domaine. Et puis
  495. 19:09quand on mesure les performances et ben
  496. 19:11on trouve un taux de performance de 36
  497. 19:14%.
  498. 19:16[rires] Vous voyez ? Donc 36 % de
  499. 19:18performance c'est une déception. C'estàd
  500. 19:21alors qu'est-ce qu'on va dire ? C'est
  501. 19:22c'est un problème, il faut oublier,
  502. 19:24c'est que nous savons très bien que la
  503. 19:26démarche, elle est bonne, mais les
  504. 19:28données ne sont pas suffisantes.
  505. 19:31Et vous savez ce que ce que ce que ce
  506. 19:33qu'on va faire, c'est que c'est que avec
  507. 19:36la banque, on va prendre cette
  508. 19:39application, même si le modèle il n'est
  509. 19:41pas performant, mais nous avons proposé
  510. 19:43à la banque de le déployer
  511. 19:46en production dans la phase de test.
  512. 19:49et bien on le déploie dans la phase de
  513. 19:50test et comme ça les clients de la
  514. 19:52banque ils vont commencer à tester
  515. 19:54n'est-ce pas et quand ils commencent à
  516. 19:56tester on va commencer à collecter les
  517. 19:59données. Et ben, c'est ce qu'on a fait.
  518. 20:01C'est-à-dire que on dans la phase de
  519. 20:02test, pendant quelques mois, on a
  520. 20:05collecté une grande quantité de de
  521. 20:07données
  522. 20:08et par la suite c'est les mêmes données
  523. 20:10ont été utilisées pour réentraîner le
  524. 20:13modèle et en fin de compte, on obtient
  525. 20:15un modèle qui est très bon et qui est
  526. 20:17déployé en production et qui marche très
  527. 20:19bien. Donc, c'est juste pour vous dire
  528. 20:21que en fait les les données nécessite
  529. 20:24une stratégie. Et donc nous, quelle
  530. 20:26stratégie que nous avons utilisé ? La
  531. 20:29stratégie que nous avons utilisé, c'est
  532. 20:30que nous avons développé d'abord un
  533. 20:32modèle et une application intermédiaire
  534. 20:35qui est déployé en production qui va
  535. 20:37être utilisé comme un outil de collecte
  536. 20:40de de données et donc ce qui fait que
  537. 20:44c'est vraiment la chose la plus terrible
  538. 20:46pour l'intelligence artificielle.
  539. 20:49Et donc il y a que les entreprises, il y
  540. 20:51a que les institutions qui mettent
  541. 20:53beaucoup de moyens et beaucoup d'argent
  542. 20:55euh sur la stratégie de collecte de
  543. 20:58données qui sont euh qui sont qui qui
  544. 21:01ont cette possibilité de produire des
  545. 21:03modèles de l'intelligence artificielle
  546. 21:04qui sont très très performants. Et donc
  547. 21:07dans ce domaine donc il y a plein
  548. 21:08d'algorithmes que vous connaissez déjà
  549. 21:11dans le domaine de l'apprentissage
  550. 21:12supervisé. Donc vous avez des modèles
  551. 21:14comme SVM, comme Descourer, Random,
  552. 21:17Forest, KNN et cetera, XG Boost. Vous
  553. 21:20avez tout ça c'est des c'est des des
  554. 21:25modèles de l'apprentissage
  555. 21:27supervisé. Donc vous avez déjà manipulé
  556. 21:30pas mal de de modèles là-dessus. Et puis
  557. 21:32il y a aussi les réseaux de neurones
  558. 21:34artificiels. C'est-à-dire les réseaux de
  559. 21:36neuron artificiel, c'est l'un des
  560. 21:39algorithmes
  561. 21:42qu'on peut utiliser pour faire du
  562. 21:43machine learning, notamment des créer
  563. 21:46des modèles d'apprentissage supervisé.
  564. 21:49Et donc sauf que donc de quand on
  565. 21:52utilise les réseaux neuron artificiel,
  566. 21:53on a plus de possibilités. on a la
  567. 21:55possibilité de faire ce qu'on appelle le
  568. 21:58deep learning avec des modèles comme
  569. 22:00CNN, comme RNN et STM et cetera. Alors
  570. 22:04tous ces modèlesl euh donc sont très
  571. 22:06importants notamment
  572. 22:10quand le nombre de de de variables
  573. 22:12d'entrée devient très importante. Donc
  574. 22:15ce qu'il faut noter ici c'est que quand
  575. 22:18vous parlez du machine learning,
  576. 22:19c'està-dire on peut utiliser n'importe
  577. 22:21quel algorithme
  578. 22:23de de machine learning.
  579. 22:25Si le nombre de variables de input n'est
  580. 22:27pas très important, il y a pas de
  581. 22:29problème. Par exemple, vous êtes vous
  582. 22:31avez un problème pour lequel vous avez
  583. 22:3310 variables ou bien 20 20 variables
  584. 22:36input. Et donc là, on peut utiliser
  585. 22:38n'importe quel algorithme. Mais par
  586. 22:40contre, quand il s'agit par exemple de
  587. 22:42du texte et des images, c'est-à-dire
  588. 22:45quand vous avez une image, vous savez
  589. 22:46une image, si vous prenez par exemple
  590. 22:48une image de 1 mégapixel, n'est-ce pas ?
  591. 22:51Et quand vous dites 1 mégapixel, ça veut
  592. 22:53dire il y a combien de pixels ? Il y a 1
  593. 22:54million de pixels. Et quand vous donnez
  594. 22:57une image un modèle de machine de de
  595. 23:00l'intelligence artificielle, ça veut
  596. 23:02dire que vous lui donnez combien de
  597. 23:03variables en entrée
  598. 23:06dans une image ? Il y a combien de
  599. 23:07pixels ? 1 million. Et bien vous lui
  600. 23:09donnez 1 million de variables, n'est-ce
  601. 23:11pas ? un million de de features. Donc
  602. 23:14c'estàd quand le nombre de variables
  603. 23:15input devient très important alors tous
  604. 23:18ces algorithmes là classiques de de
  605. 23:20machine learning ça ça marchera plus et
  606. 23:22donc et ça reste le seul qui va être
  607. 23:25utilisé c'est les réseaux de neuron
  608. 23:27comme quoi les réseaux de neuron
  609. 23:28artificiel il est toujours là quelle que
  610. 23:31soit la situation. Donc c'est pour cela
  611. 23:33que c'est c'est c'est vraiment un un
  612. 23:36modèle en fait un algorithme que vous
  613. 23:38allez beaucoup pratiquer que vous allez
  614. 23:39utiliser dans le domaine de l
  615. 23:41générative.
  616. 23:44Alors pour le cas de l'apprentissage non
  617. 23:45supervisé, donc vous avez des
  618. 23:46algorithmes, on va y revenir rapidement,
  619. 23:49on va les rappeler comme camins. Donc ça
  620. 23:50c'est pour faire le class train et
  621. 23:52cetera. C'est clair ? Donc vous voyez
  622. 23:54donc ici on est dans les modèles
  623. 23:58pilotés par les données.
  624. 24:01Alors une fois que vous avez ça, vous
  625. 24:04avez ensuite les les modèles pilotés par
  626. 24:06l'expérience. Alors, parfois parfois
  627. 24:10donc dans le le domaine de
  628. 24:11l'intelligence artificielle, bah on peut
  629. 24:13apprendre
  630. 24:15à partir de l'expérience. C'est ce qu'on
  631. 24:17appelle l'apprentissage par
  632. 24:18renforcement. Donc c'est quoi l'idée
  633. 24:19principale ? Ben l'idée principale c'est
  634. 24:22que et bien on va créer un agent en
  635. 24:25quelque sorte
  636. 24:27qui va apprendre à partir de son
  637. 24:29environnement. Alors comment il va
  638. 24:31apprendre à partir de l'environnement ?
  639. 24:33Et ben, l'agent, il va explorer
  640. 24:34l'environnement. et en explorant
  641. 24:36l'environnement, il va essayer de
  642. 24:38d'apprendre.
  643. 24:40Alors, comment ça se passe généralement
  644. 24:41? C'est que l'agent, il va agercir
  645. 24:44l'environnement
  646. 24:46et quand il va agercir l'environnement,
  647. 24:48l'environnement va lui donner une
  648. 24:49récompense. Et cette récompense peut
  649. 24:51être soit positive ou bien négative.
  650. 24:55et il va encore essayer une deuxième
  651. 24:58fois juste il va essayer réessayer
  652. 25:01réessayer jusqu'à ce que à un moment
  653. 25:03donné il va construire ce qu'on appelle
  654. 25:05une table d'apprentissage et c'est cette
  655. 25:07table d'apprentissage qui va lui
  656. 25:08permettre à un moment donné une fois
  657. 25:09qu'il a appris bah je lâche l'agent dans
  658. 25:12un environnement et l'agent en fonction
  659. 25:14de de l'état dans lequel elle est il
  660. 25:17peut prendre la la décision optimale il
  661. 25:19va prendre l'action optimale.
  662. 25:22Alors, c'est comme ça que vous avez
  663. 25:23appris beaucoup de choses. Quand vous
  664. 25:24avez appris à conduire une bicyclette,
  665. 25:27c'est comme ça que ça se passe, n'est-ce
  666. 25:28pas ? Un enfant qui qui conduit une
  667. 25:30bicyclette, vous savez, pour apprendre à
  668. 25:31conduire la bicyclette, bah il suffit
  669. 25:33pas de de faire venir un enfant. Vous
  670. 25:35lui dites "Si tu veux conduire une
  671. 25:37bicyclette, tu fais ça, tu fais ça, tu
  672. 25:38fais ça et ça va marcher." Non, ça
  673. 25:40marche pas parce que vous allez prendre
  674. 25:43la bicyclette, vous allez essayer, vous
  675. 25:45allez tomber, vous allez tomber, ça veut
  676. 25:47dire vous allez avoir une récompense. La
  677. 25:49récompense, elle est négative. Vous êtes
  678. 25:50fait mal, n'est-ce pas ? Et vous allez
  679. 25:52encore essayer une deuxième fois euh une
  680. 25:55troisième fois une 4è vous allez essayer
  681. 25:58beaucoup de fois vous allez commencer à
  682. 25:59explorer les différentes techniques
  683. 26:01jusqu'à ce que à un moment donné vous
  684. 26:02allez commencer à prendre votre
  685. 26:03équilibre et vous avez appris comment à
  686. 26:05conduire une bicyclette. C'est pareil
  687. 26:07pour apprendre à nager. C'est pareil
  688. 26:09pour
  689. 26:10C'est comme ça que
  690. 26:13c'est comme ça que en fait une voiture
  691. 26:15autonome a été entraînée.
  692. 26:18Vous savez que une voiture autonome
  693. 26:20voiture qui se qui se conduit toute
  694. 26:23seule, n'est-ce pas ? Et bien comment ?
  695. 26:26Et bien tout simplement parce que
  696. 26:28derrière il y a ce qu'on appelle des
  697. 26:29algorithmes d'apprentissage par
  698. 26:30renforcement. Parce que qui conduit qui
  699. 26:34conduit et bien c'est le c'est les
  700. 26:36algorithmes d'apprentissage par
  701. 26:38renforcement. C'est-à-dire quoi ?
  702. 26:40C'est-à-dire que vous avez une voiture
  703. 26:41qui a ce qu'on appelle des ledars. Les
  704. 26:43ledar
  705. 26:45les les caméras qui l'entour. Bah ces
  706. 26:48leddards, ils lui permettent de
  707. 26:49connaître l'environnement.
  708. 26:51Ici j'ai une idée sur l'environnement.
  709. 26:53Ça veut dire que je peux savoir est-ce
  710. 26:55qu'il y a un obstacle et cetera. Et
  711. 26:57comment je peux savoir est-ce qu'il y a
  712. 26:58un obstacle à quelle distance ? Et là,
  713. 27:01on a besoin d'utiliser des pleurer les
  714. 27:03réseaux de neuron artificiel parce que
  715. 27:04des modèles comme CNN maintenant sont
  716. 27:08capable à partir d'une photo,
  717. 27:12n'est-ce pas ? Euh, il y a des modèles
  718. 27:14qui sont très connus comme yolo. C'est
  719. 27:16des modèles qui sont capables de
  720. 27:18détecter les objets de de c'est-à-dire
  721. 27:21de de faire pas mal de choses là-dessus.
  722. 27:24Donc c'est-à-dire que le on utilise
  723. 27:26généralement des modèles de de deep
  724. 27:28learning pour faire pour faire ce qu'on
  725. 27:31appelle une représentation de
  726. 27:32l'environnement pour connaître qu'est-ce
  727. 27:34qui se passe. Et puis du moment que j'ai
  728. 27:36une idée sur le le l'environnement et
  729. 27:39bien tout simplement qu'est-ce qu'il
  730. 27:40fait le l'algorithme d'apprentissage par
  731. 27:42rafforcement parce que c'est lui qui va
  732. 27:44décider est-ce qu'il va tourner à
  733. 27:45gauche, est-ce qu'il va tourner à
  734. 27:46droite, est-ce qu'il va accélérer,
  735. 27:48freiner. C'est-à-dire finalement il doit
  736. 27:50décider quelle est l'action optimale à
  737. 27:52prendre. Et donc les voitures autonomes
  738. 27:55sont en fait pilotées par des
  739. 27:57algorithmes qu'on appelle c'est deep
  740. 28:00deep reinforcement learning.
  741. 28:02C'est-à-dire on va utiliser les deux
  742. 28:04techniques deep learning et
  743. 28:06reinforcement learning. deep learning,
  744. 28:08ça nous permet de de connaître qu'est-ce
  745. 28:10qui se passe les images et cetera et
  746. 28:12reinforce mettre le learning, c'est lui
  747. 28:14qui conduit, c'est lui qui va accélérer,
  748. 28:16c'est lui qui va arrêter. C'est
  749. 28:17c'est-à-dire finalement c'est le
  750. 28:18conducteur. Et donc pour quand on est
  751. 28:22dans le et quand on est dans dans dans
  752. 28:25ce domaine donc on va retrouver on va
  753. 28:27retrouver souvent dans la majorité des
  754. 28:29problèmes on va
  755. 28:31alors donc quand euh quand dans la
  756. 28:35majorité des problèmes, on va souvent
  757. 28:37trouver toujours le
  758. 28:39c'est-à-dire le des
  759. 28:42la place pour faire de la planté ça
  760. 28:44supervisé. Alors, si vous rappelez
  761. 28:46l'année dernière, on a fait des on a
  762. 28:48fait un peu de lien agentique, n'est-ce
  763. 28:49pas ? Et ben l'IA agentique, il est basé
  764. 28:52sur l'apprentissage par renforcement. Si
  765. 28:54vous rappelez donc l'agent comment il
  766. 28:56fonctionne lui-même, c'est notamment le
  767. 28:58pattern React. Donc, on aura encore le
  768. 29:01l'occasion d'y revenir mais il est basé
  769. 29:03sur le l'apprentissage par renforcement.
  770. 29:07Alors maintenant, c'est quoi le problème
  771. 29:09de l'apprentissage par renforcement ?
  772. 29:12Ben, le problème de l'apprentissage par
  773. 29:13renforcement, c'est que nous avons
  774. 29:14besoin de de l'environnement,
  775. 29:18c'est-à-dire comment entraîner un
  776. 29:20modèle. Il nous faut un environnement
  777. 29:23dans lequel on va entraîner
  778. 29:27le l'agence.
  779. 29:29Alors, pour des applications par exemple
  780. 29:30comme Wi, vous la connaissez
  781. 29:32l'application, c'est l'application qui
  782. 29:33vous permet de de vous guider à aller
  783. 29:36d'un point vers un autre. Il y a pas de
  784. 29:38problème. L'environnement, c'est quoi ?
  785. 29:40L'environnement, c'est la carte. On
  786. 29:42dispose de la carte, des données de la
  787. 29:43carte. Donc c'est-à-dire on a déjà une
  788. 29:46idée sur l'environnement et là on peut
  789. 29:47utiliser des algorithmes comme
  790. 29:50Kearning, comme PPO, Proximal Policy
  791. 29:54Optimization. Il y a des algorithmes
  792. 29:56qu'on peut utiliser et qui permettent
  793. 29:58d'entraîner à partir de de
  794. 30:00l'environnement. Donc là, il y a pas de
  795. 30:02souci. Donc on peut on peut créer euh
  796. 30:05des agents qui sont capables de montrer
  797. 30:07le chemin optimal grâce à des
  798. 30:10algorithmes d'apprentissage par
  799. 30:11renforcement.
  800. 30:12Mais par contre dans d'autres problèmes,
  801. 30:14on n' pas la possibilité. Par exemple,
  802. 30:15une voiture autonome, où est-ce que vous
  803. 30:17allez l'entraîner ? Est-ce que vous
  804. 30:19allez prendre la voiture, vous la lâchez
  805. 30:21dans le les rues pour pour savoir euh
  806. 30:24pour savoir ? Bon, il va il va faire des
  807. 30:28centaines d'accidents avant d'apprendre,
  808. 30:29n'est-ce pas ? on peut pas se permer ça.
  809. 30:31Donc nous avons besoin des simulateurs,
  810. 30:34des environnements dans lesquels il faut
  811. 30:35faire l'entraînement et après il faut
  812. 30:38les accompagner sur par un conducteur et
  813. 30:41cetera et cetera. Donc c'est c'est
  814. 30:43vraiment c'est c'est un peu coûteux
  815. 30:45parfois. Donc ce qui fait que il faut
  816. 30:47savoir que ce euh que de manière
  817. 30:49générale, vous avez les les modèles
  818. 30:52pilotés par les données. OK ? Et les
  819. 30:55modèles pilotés par l'expérience. C'est
  820. 30:58quoi la limite des modèles pilotés par
  821. 30:59les données ?
  822. 31:02C'est les données. C'est quoi le
  823. 31:04problème ? C'est les données. La
  824. 31:06disponibilité des données. Et c'est quoi
  825. 31:07le problème des modèles pilotés par
  826. 31:09l'expérience ? C'est l'environnement. Il
  827. 31:11nous faut une représentation de
  828. 31:13l'environnement ou bien une abstraction
  829. 31:15de l'environnement. Voilà.
  830. 31:18Donc en terme de d'algorithme souvent on
  831. 31:20a besoin de il y a des algorithmes que
  832. 31:22vous allez sûrement utiliser comme key
  833. 31:24learning, comme deep keyin et cetera.
  834. 31:27PPO comme je disais c'est euh PPO c'est
  835. 31:30l'un des algorithmes Proximal policy
  836. 31:32optimization. Il est utilisé dans chat
  837. 31:33GPT parce qu'en fait dans les les lls
  838. 31:37vous allez trouver tout ça c'est-à-dire
  839. 31:39aussi bien les les les modèles pilotés
  840. 31:41par les données et les modèles pilotés
  841. 31:43par l'expérience.
  842. 31:48Voilà. Alors euh mais aussi il y a les
  843. 31:50réseaux de neurones. Alors, c'est juste
  844. 31:52pour vous dire que ici aussi, on a
  845. 31:54besoin des réseaux de neurones
  846. 31:55artificiels. Mais pourquoi on a besoin
  847. 31:58des réseaux de neuron artificiel ?
  848. 32:01C'est pour l'environnement. Parce que
  849. 32:02quand vous avez des photos, quand vous
  850. 32:04avez des des fichiers audio, on a besoin
  851. 32:06de savoir qu'est-ce qui se passe. Et
  852. 32:08donc pour savoir ce qui se passe dans
  853. 32:10une image, et bien dans une séquence
  854. 32:12vidéo par exemple, bah on a besoin des
  855. 32:14modèles comme CNN, comme RN et STM. Et
  856. 32:18donc forcément, on a besoin de faire
  857. 32:20d'utiliser des réseaux de neuron pour
  858. 32:23donner à l'algorithme d'apprentissage
  859. 32:24par renforcement une représentation de
  860. 32:27l'environnement euh pour la la prise des
  861. 32:29décisions.
  862. 32:31C'est clair ? Parfait. Alors, j'essaie
  863. 32:33d'aller tout doucement, mais tout ça
  864. 32:34pour vous, c'est vraiment parce que ce
  865. 32:36slide c'est quasiment c'est tout ce que
  866. 32:39vous allez apprendre en intelligence
  867. 32:40artificielle.
  868. 32:42C'est c'est peut-être le slide qui va
  869. 32:43vous permettre de répondre facilement à
  870. 32:45des questions dans des entretiens parce
  871. 32:47que tout se trouve globalement
  872. 32:50là-dessus. Donc c'est pour cela que à un
  873. 32:52moment donné vous aurez besoin de de
  874. 32:54capter le vocab le vocabulaire surtout
  875. 32:56parce que c'est ça c'est c'est
  876. 32:57important.
  877. 33:00Alors qu'est-ce que je disais tout à
  878. 33:02l'heure ? Donc vous avez on peut
  879. 33:03apprendre à partir des données, on peut
  880. 33:05apprendre à partir de l'expérience et on
  881. 33:09peut apprendre à partir les lois de la
  882. 33:11physique. Alors, il se trouve que
  883. 33:13parfois je n'ai pas ce qui se passe
  884. 33:16généralement, c'est que la quantité de
  885. 33:19données dont je dispose n'est pas
  886. 33:20suffisante
  887. 33:22et les données dont je dispose parfois
  888. 33:25il y a des bruits. Et vous savez que
  889. 33:27quand vous vous mettez des capteurs pour
  890. 33:29collecter des données dans les le
  891. 33:30dataset, vous avez ce qu'on appelle
  892. 33:32l'rouille. Donc l'rouille, c'est-à-dire
  893. 33:34c'est des données qui ne sont pas
  894. 33:35correctes, n'est-ce pas ? Et le problème
  895. 33:37c'est que dans notre dataset on peut pas
  896. 33:40savoir où c'est quoi ces données ces
  897. 33:42bruits là. Donc il est court ces bruits
  898. 33:44ils peuvent fausser le le le modèle.
  899. 33:47Mais par contre, parfois, il se trouve
  900. 33:49que je dispose de de la loi de la
  901. 33:50physique, c'est-à-dire je dispose déjà
  902. 33:53de la fonction mathématique en quelque
  903. 33:55sorte d'un modèle mathématique qui
  904. 33:58permet déjà de modéliser le le problème.
  905. 34:01Et donc, si je dispose des des lois euh
  906. 34:05c'est-à-dire mathématiques ou des
  907. 34:07équations différentielles ou dérivées
  908. 34:09partielles qui permettent de gouverner
  909. 34:11le système, et bien on peut créer un un
  910. 34:13modèle. Et là encore euh il y a un type
  911. 34:17de modèle qui s'appelle les pins. Les
  912. 34:19pins, c'est le physi physi informed
  913. 34:22neural network.
  914. 34:24C'est les réseaux de neurones les
  915. 34:26réseaux de neurones informés par la
  916. 34:29physique. C'est-à-dire c'est des réseaux
  917. 34:31de neurones qu'on va entraîner
  918. 34:35mais on va pas les entraîner à partir
  919. 34:36des données, mais plutôt on va les les
  920. 34:40entraîner à prendre les lois de la
  921. 34:43physique. C'est-à-dire c'est grâce aux
  922. 34:45équations de la physique, on peut
  923. 34:47entraîner un modèle de l'intelligence
  924. 34:49artificielle à faire des des
  925. 34:51prédictions.
  926. 34:53Alors et le problème encore de des
  927. 34:56c'est-à-dire de ce ce type de modèle,
  928. 34:59c'est que nous avons besoin des lois de
  929. 35:01la physique et le problème on n pas
  930. 35:03toujours ça. C'est qu quand vous êtes
  931. 35:04dans un domaine médical par exemple dans
  932. 35:07le le domaine de de la médecine, c'est
  933. 35:09très difficile de trouver un modèle
  934. 35:11mathématique qui permet de représenter
  935. 35:13un tel un tel modèle. Et donc parfois on
  936. 35:16n'a pas le modèle mathématique donc on
  937. 35:18est obligé d'utiliser les données. Et si
  938. 35:21on n'a pas beaucoup de données, on va
  939. 35:22essayer de combiner avec l'expérience.
  940. 35:26Mais l'idéal alors c'est quoi l'idéal ?
  941. 35:28C'est de faire ce qu'on appelle des
  942. 35:29modèles hybrides.
  943. 35:31Alors les modèles hybrides, c'est-à-dire
  944. 35:32c'est des modèles dans lequel on va
  945. 35:34utiliser le un modèle piloté par les
  946. 35:36données, n'est-ce pas ? parce que le
  947. 35:39modèle piloté par les données, même si
  948. 35:41le la quantité de données n'est pas
  949. 35:42suffisante, même s'il contient des
  950. 35:45bruits, bah qu'est-ce que je vais faire
  951. 35:47? Je vais l'aider avec des modèles de la
  952. 35:49physique à se à se corriger en quelque
  953. 35:51sorte. Donc c'est-à-dire l'idée
  954. 35:53principale, c'est comment utiliser les
  955. 35:55lois de la physique pour informer un
  956. 35:58modèle piloté par les données
  957. 36:01pour pouvoir créer un modèle qui est
  958. 36:03plus performant. Et ça vous allez vous
  959. 36:06aurez l'occasion de de voir ça. Euh donc
  960. 36:09on aura l'occasion de voir comment créer
  961. 36:10ce qu'on appelle un modèle piloté par
  962. 36:13les physiques. Alors que même si on
  963. 36:14parle physique, faites attention parce
  964. 36:15que les pins, même s'il y a le terme
  965. 36:18physique, mais ces modèles-là, on peut
  966. 36:20les utiliser dans le domaine de la
  967. 36:21santé, de la finance, de dans le domaine
  968. 36:23de plein plein plein de modèles plutôt
  969. 36:26plein de de domaines. Donc ce qui fait
  970. 36:28que
  971. 36:32c'est ça quand il y a des lois
  972. 36:33généralement on peut le les utiliser.
  973. 36:35Par exemple pour dans le domaine de la
  974. 36:37bourse notamment de le domaine de la
  975. 36:38finance euh on les utilise parce qu'il y
  976. 36:41a des modèles mathématiques qui sont
  977. 36:43utilisés pour pour
  978. 36:45analyser. Et le problème des modèles
  979. 36:49physiques, c'est quoi ? c'est que les
  980. 36:50modèles physiques
  981. 36:55sont des modèles
  982. 36:57approximatif
  983. 37:00approximatif et bien pour le pour
  984. 37:02obtenir un modèle de la physique on fait
  985. 37:04ce qu'on appelle les hypothèses.
  986. 37:06Je les hypothèses c'est-à-dire par
  987. 37:08exemple vous dites dans le domaine de
  988. 37:09par exemple de la physique je vais je
  989. 37:11suppose que je néglige les frottements.
  990. 37:15vous jetez une boule par exemple comme
  991. 37:17ça, vous l'ajetez. Voyez la loi de
  992. 37:19Newton, je vous rappelez quand vous
  993. 37:21l'ajoutez, vous voulez voir la
  994. 37:22trajectoire, bah vous allez avoir une
  995. 37:24équation mais vous dites je vais
  996. 37:25négliger les frottements, c'est-à-dire
  997. 37:27je vais négliger la poussée d'Archemède.
  998. 37:30Je vais je vais supposer que le la Terre
  999. 37:33est plate mais la Terre n'est pas plate,
  1000. 37:35n'est-ce pas ? C'est-à-dire en général
  1001. 37:37la majorité des équations de la
  1002. 37:38physique, ils sont basées sur des
  1003. 37:41hypothèses. C'est-à-dire que les modèles
  1004. 37:42physiques ne sont pas des vrais des
  1005. 37:43modèles
  1006. 37:45on va dire exact, c'est des modèles qui
  1007. 37:48sont
  1008. 37:49approximatifs.
  1009. 37:50Et donc si vous voulez voir si vous
  1010. 37:52voulez vraiment des modèles exacts,
  1011. 37:55il faut utiliser les données parce que
  1012. 37:57c'est quoi l'abottage des données ?
  1013. 37:58C'est que vous faites l'expérimental,
  1014. 38:00c'est que les données ça représente la
  1015. 38:02vraie réalité. Et donc si vous prenez
  1016. 38:05une partie des données qui nous donne la
  1017. 38:06vraie réalité et vous utilisez un modèle
  1018. 38:09physique qui est approximatif, si vous
  1019. 38:12les combinez
  1020. 38:15et bien vous allez obtenir un modèle
  1021. 38:16d'intelligence artificielle qui est
  1022. 38:17beaucoup plus performant. Et ben c'est
  1023. 38:20ce que ce qu'on appelle les les pins
  1024. 38:22donc physi informat network mais en tout
  1025. 38:24cas bon il y a toute un tas de choses à
  1026. 38:27dire là-dessus. Donc voilà. Donc le le
  1027. 38:30problème qui qui va se poser ici donc
  1028. 38:31c'est le modèle lui-même et c'est
  1029. 38:33l'approximation du modèle.
  1030. 38:37C'est clair ?
  1031. 38:40Pas de question. Parfait.
  1032. 38:44Alors donc pour
  1033. 38:46développer pour créer des modèles
  1034. 38:48pilotés par la physique, on a encore
  1035. 38:50besoin des réseaux neurones artificiel.
  1036. 38:53Alors après il y a les génér
  1037. 38:59dans les ce qu'on appelle les prédictive
  1038. 39:01et décisionnel,
  1039. 39:03on a les choses classiques, c'est-à-dire
  1040. 39:05vous avez ce qu'on appelle des modèles
  1041. 39:06discriminatifs.
  1042. 39:08Alors l'idée générative c'est l'idée
  1043. 39:10principale, c'est apprendre les
  1044. 39:11structures de données qui sont souvent
  1045. 39:14non structurées. Donc on va apprendre à
  1046. 39:16partir des données qui ne sont pas
  1047. 39:17structurées souvent comme le texte, les
  1048. 39:20images et cetera. Et puis une fois que
  1049. 39:22le modèle est appris, et bien le modèle
  1050. 39:24il est capable de de générer les
  1051. 39:26nouvelles données. Et ben maintenant
  1052. 39:29c'est ce qui marche le plus.
  1053. 39:30C'est-à-dire quand vous utilisez chat
  1054. 39:32GPT, c'est que vous lui donnez un prompt
  1055. 39:34et après vous lui demandez de vous
  1056. 39:36générer soit du texte, soit des images,
  1057. 39:38soit des vidéos et cetera. Et donc on
  1058. 39:40est dans ce qu'on appelle les modèles
  1059. 39:42génératifs. Alors donc tout à l'heure,
  1060. 39:45je vais revenir sur le la différence
  1061. 39:47entre l'IA discriminative et l'IA
  1062. 39:49générative. Et donc ici pour pouvoir
  1063. 39:52générer des nouvelles données, on a
  1064. 39:54inventé de de nouvelles techniques
  1065. 39:57d'apprentissage. C'est ce qu'on appelle
  1066. 39:59l'apprentissage auto supervisé.
  1067. 40:04L'apprentissage auto supervisé ou bien
  1068. 40:07ce qu'on appelle self supervised
  1069. 40:09learning.
  1070. 40:10Alors c'est quoi c'est quoi la
  1071. 40:13différence entre
  1072. 40:15bah c'est quoi l'apprentissage
  1073. 40:16autosupervisé ? L'apprentissage
  1074. 40:19autosupervisé, c'est très simple. On va
  1075. 40:21prendre un texte, par exemple, un texte,
  1076. 40:25un texte, n'importe quel texte
  1077. 40:28qui non structuré, bah on va le donner
  1078. 40:31au modèle.
  1079. 40:33souvent c'est des réseaux neuron
  1080. 40:34artificiel
  1081. 40:36et puis ce texte là on va commencer à
  1082. 40:38masquer à cacher des mots. Par exemple,
  1083. 40:41je vais cacher un un texte dans le texte
  1084. 40:44[grognement] et puis je vais entraîner
  1085. 40:45le modèle à à plutôt à prédire le texte
  1086. 40:49qui est
  1087. 40:50caché
  1088. 40:52et ensuite je vais cacher un autre mot.
  1089. 40:54Je l'entraîne à prédire le mot qui est
  1090. 40:56caché. C'est-à-dire finalement euh
  1091. 41:00pourquoi on l'appelle autosupervisé ?
  1092. 41:02C'est pas l'être humain qui va étiqueter
  1093. 41:03le le le
  1094. 41:06données, c'est l'algorithme lui qui va
  1095. 41:08le faire. Comment il le fait ? Bah,
  1096. 41:10c'est comme si vous prenez une image,
  1097. 41:12vous lui cachez une petite partie du
  1098. 41:13visage et vous allez l'entraîner à
  1099. 41:16retrouver la partie qui est cachée. Une
  1100. 41:18fois qu'il a appris ça, vous allez
  1101. 41:20encore cacher une autre partie et vous
  1102. 41:22refaites ça plusieurs fois. Et ben à un
  1103. 41:24moment donné euh ça c'est ce qu'on
  1104. 41:26appelle l'apprentissage auto supervisé.
  1105. 41:30Alors, si vous rappelez quand vous étiez
  1106. 41:32en en primaire,
  1107. 41:34on vous pose la question imla, n'est-ce
  1108. 41:37pas ? On vous donne un texte, on cache
  1109. 41:40des parties et on demande à un enfant de
  1110. 41:43remplir les parties qui sont masquées.
  1111. 41:47Et ben c'est à peu près ça. Donc si vous
  1112. 41:49êtes capable de prédire les parties
  1113. 41:51masqué en fonction des contextes, des
  1114. 41:53mots et cetera, et bien c'est comme ça
  1115. 41:55que l' générative a été créé de manière
  1116. 41:57générale. Donc tout ça, on va en parler.
  1117. 42:00Donc ça c'est le l'apprentissage
  1118. 42:02autosupervisé.
  1119. 42:03Et donc pour faire de l'apprentissage
  1120. 42:05autosupvisé donc ben on a besoin
  1121. 42:08également des réseaux de neurones
  1122. 42:09artificiels.
  1123. 42:14Alors il y a plein de d'algorithmes que
  1124. 42:15vous allez apprendre dans ce cours comme
  1125. 42:17les Transformers, les gains, les modèles
  1126. 42:20de diffusion. Donc ça c'est vraiment
  1127. 42:22c'est les les TP que vous allez faire.
  1128. 42:23C'est c'est dans ce cours c'est c'est
  1129. 42:26des c'est des TP qui concernent ça.
  1130. 42:32Bah et puis vous avez l' agentique. Donc
  1131. 42:34finalement l' agentique ce n'est que le
  1132. 42:36fruit. Li agentique ce n'est que le
  1133. 42:37fruit de tout ça.
  1134. 42:41Il y a agent que vous savez ce que c'est
  1135. 42:42un agent c'est une entité autonome qui
  1136. 42:46possède quoi ? Un corps et un cerveau.
  1137. 42:50Le cerveau, c'est quoi ? C'est le c'est
  1138. 42:53le modèle d'intelligence artificielle.
  1139. 42:55Ça peut être un LM,
  1140. 42:57ça peut être un modèle piloté par la
  1141. 42:59physique, ça peut être un modèle piloté
  1142. 43:01par l'expérience, ça peut être un modèle
  1143. 43:02piloté par les données. Mais dans les
  1144. 43:05agents AI, la majorité des cas, on va
  1145. 43:07utiliser les LLMs. Pourquoi ? Parce que
  1146. 43:09les large language models sont très
  1147. 43:11forts. Ils sont capables facilement de
  1148. 43:14comprendre le contexte de de du
  1149. 43:16problème.
  1150. 43:18Et puis il y a donc le le corps. Et le
  1151. 43:20corps c'est quoi ? et les tools, c'est
  1152. 43:22l'ensemble des actions que l'agent peut
  1153. 43:24euh effectuer, l'ensemble des fonctions
  1154. 43:26que l'agent peut appeler euh bien sûr
  1155. 43:31euh pour collecter ce qu'on appelle des
  1156. 43:34observations. Donc c'est à peu près ça.
  1157. 43:35Donc ça c'est je pense que cette partie
  1158. 43:38là on a déjà parlé de des agents on va
  1159. 43:41encore en parler parce qu'il y a un
  1160. 43:42chapitre encore sur l' général li
  1161. 43:44agentique et on va reprendre à peu près
  1162. 43:47presque ce que nous avons fait l'année
  1163. 43:49dernière et une grande partie du projet
  1164. 43:51sur lequel vous allez travailler il y
  1165. 43:53aura toujours l'IN graphe, il y aura
  1166. 43:54toujours link chain, il y aura toujours
  1167. 43:56le les agents a exactement comme vous
  1168. 43:58avez fait l'année dernière sauf que
  1169. 43:59cette fois-ci vous allez introduire des
  1170. 44:02modèles LLMs avec des open source avec
  1171. 44:05du F tuning que vous allez faire
  1172. 44:07vous-même. Donc c'est des techniques que
  1173. 44:09vous allez apprendre à réaliser à
  1174. 44:10travers les TP.
  1175. 44:14Donc voilà. Donc il a agent c'est une
  1176. 44:16architecture dans laquelle un agent
  1177. 44:17perçoit son environnement, il va
  1178. 44:19raisonner le raisonnement et pour
  1179. 44:21raisonner, il a besoin d'un llant ou
  1180. 44:24bien d'un modèle d'intelligence
  1181. 44:25artificielle. Il va planifier parce
  1182. 44:27qu'il va il va planifier, ça veut dire
  1183. 44:29il va découper euh euh bien sûr son but.
  1184. 44:32il va planifier son but en plusieurs
  1185. 44:34étapes et puis il va utiliser les tools.
  1186. 44:37C'est les outils qu'il va appeler pour
  1187. 44:39pouvoir réaliser pour plutôt pour agir
  1188. 44:41sur son environnement et atteindre son
  1189. 44:44objectif. Donc ça c'est une définition
  1190. 44:45mais comme vous voyez donc c'est une
  1191. 44:47partie que vous connaissez déjà. Et puis
  1192. 44:49donc les technologies que vous pouvez
  1193. 44:51utiliser donc dans l'IAage antique, vous
  1194. 44:53avez besoin des LLMs qui sont basés sur
  1195. 44:55les réseaux neurones. les tools, vous
  1196. 44:58avez besoin d'utiliser un protocole
  1197. 45:00comme MCP, modèle context protocole
  1198. 45:02qu'on a aussi vu l'année dernière. Vous
  1199. 45:06faites vous utilisez du rag, on va
  1200. 45:08encore l'utiliser cette année-là dans ce
  1201. 45:09cours.
  1202. 45:11Et puis vous allez faire l'apprentissage
  1203. 45:13par renforcement parce qu'en fait les
  1204. 45:15agents quand vous parlez agent,
  1205. 45:16c'est-à-dire derrière il y a
  1206. 45:17l'apprentissage par renforcement.
  1207. 45:22C'est clair ?
  1208. 45:24Voilà. Alors maintenant, je vous laisse
  1209. 45:25si vous voulez poser des questions, mais
  1210. 45:26ce slide il est extrêmement important
  1211. 45:28parce que si vous voulez faire un
  1212. 45:29entretien en principe, il vaudrait mieux
  1213. 45:32revoir cette séquence de vidéo dont je
  1214. 45:34vous ai parlé parce que c'est là où il y
  1215. 45:35a le vocabulaire, bah c'est ça
  1216. 45:36l'intelligence artificielle. Et ben tous
  1217. 45:38les autres cours que vous que vous allez
  1218. 45:40faire, chaque cours, il est quelque part
  1219. 45:42dans cette partie-là. Et c'est bien
  1220. 45:44d'avoir cette map pour vous parce qu'à
  1221. 45:47un moment donné, on va vous dire c'est
  1222. 45:48quoi la différence entre l'apprentissage
  1223. 45:49supervisé, l'apprentissage non supervisé
  1224. 45:52et auto supervisé.
  1225. 45:54En fait euh donc le le modèle le modèle
  1226. 45:58P, je vais vous donner un exemple. Euh
  1227. 46:01vous prenez par exemple un exemple que
  1228. 46:03vous connaissez la loi de Newton. Par
  1229. 46:04exemple, prenez par exemple un
  1230. 46:06projectile, vous le jetez comme ça et
  1231. 46:08après vous voulez savoir un instant T
  1232. 46:10donc des clabou que vous lancez, il sera
  1233. 46:13dans quelle position X Y, n'est-ce pas ?
  1234. 46:16Et vous savez qu'il y a un modèle déjà
  1235. 46:17de la loi de Newton qui vous donne
  1236. 46:19l'équation différentielle. Donc
  1237. 46:21c'est-à-dire vous connaissez déjà les
  1238. 46:22les l'équation au dérivé qui permettent
  1239. 46:25de de modéliser de de vous donner ça.
  1240. 46:27D'accord ?
  1241. 46:29Et bien ce qu'on va faire c'est que si
  1242. 46:32tu veux faire un un modèle piloté par
  1243. 46:34les données, supposant tu connais pas la
  1244. 46:36physique, la loi de la physique,
  1245. 46:38qu'est-ce que tu vas faire ? Tu vas tu
  1246. 46:40vas faire l'expérimental. Comment
  1247. 46:42l'expérimental ? Tu vas mettre des
  1248. 46:44capteurs, tu tu vas mettre des capteurs
  1249. 46:46dans la boule, tu vas l'ajouter
  1250. 46:49les capteurs, ils vont t'envoyer les la
  1251. 46:51position X Y. Donc c'est-à-dire j'ai
  1252. 46:55collecté un dataset qui me donne à
  1253. 46:57l'instant T, il se trouve dans cette
  1254. 46:59position à l'instant T. Donc ça c'est
  1255. 47:01c'est le c'est la stratégie de connect
  1256. 47:03les données. C'est un modèle piloté par
  1257. 47:05les données. Ah ouais. Donc j'ai le
  1258. 47:07modèle piloté par les données. Alors si
  1259. 47:10si
  1260. 47:11toutes les données que j'ai capturé sont
  1261. 47:14bonnes et vous allez avoir un modèle
  1262. 47:17parfait. C'est-à-dire, vous n'avez pas
  1263. 47:19besoin de la physique. Effectivement,
  1264. 47:21vous n'avez pas besoin de la physique
  1265. 47:22parce que vous avez le modèle piloté par
  1266. 47:24les données. Il est plus réaliste que la
  1267. 47:26physique. Il est plus réaliste que la
  1268. 47:28physique parce que dans la physique, il
  1269. 47:30y a des hypothèses.
  1270. 47:32On néglige le frottement des on néglige,
  1271. 47:35on a mais mais l'expérimental, est-ce
  1272. 47:37qu'on a négligé les frottements de l'air
  1273. 47:38? Non, parce que c'est la réalité. Donc,
  1274. 47:40c'est-à-dire dans le modèle piloté par
  1275. 47:42les données, j'ai pris en considération
  1276. 47:44euh toutes les les conditions réelles.
  1277. 47:47Donc, si vous voulez, les les données
  1278. 47:49sont plus
  1279. 47:51représentatives
  1280. 47:53que la physique. Dans ce cas-là, si vous
  1281. 47:55êtes sûr que la quantité de données et
  1282. 47:57la qualité de données que vous avez sont
  1283. 48:00meilleur, oubliez la physique parce que
  1284. 48:02vous avez déjà quelque chose qui est
  1285. 48:04beaucoup mieux que la loi de Newton et
  1286. 48:06cetera qui vous permet de de calculer la
  1287. 48:08position à instant. On est d'accord ?
  1288. 48:11Mais le problème c'est quoi ? Le
  1289. 48:13problème c'est que les données que vous
  1290. 48:14allez obtenir l'expérimental, il y a des
  1291. 48:16bruits. C'est-à-dire le capteur, il va
  1292. 48:18pas toujours vous donner des bonnes
  1293. 48:20informations. De temps en temps, il y a
  1294. 48:23parfois un bruit, il vous donne quelque
  1295. 48:24chose de bizarre. Donc c'est-à-dire dans
  1296. 48:26les données que vous avez obtenu trouver
  1297. 48:28des des données qui sont bruites,
  1298. 48:31c'est-à-dire des données qui vont
  1299. 48:32fausser votre modèle. Donc le dataset
  1300. 48:36que j'ai, si je crée un modèle purement
  1301. 48:38piloté par les données, je vais avoir
  1302. 48:40quelque chose qui ne représente pas la
  1303. 48:43réalité. Pourquoi ? Parce qu'il est faé
  1304. 48:44par les données qui sont bruites. Vous
  1305. 48:48me suivez ? Alors maintenant, ce qu'on
  1306. 48:50va faire, c'est que pendant
  1307. 48:51l'entraînement,
  1308. 48:53je vais entraîner le modèle
  1309. 48:57par les données, n'est-ce pas ? Et quand
  1310. 49:00j'entraîne le modèle piloté par les
  1311. 49:01données, qu'est-ce que je lui donne les
  1312. 49:02données ?
  1313. 49:05Je prends le output moins le le output
  1314. 49:08triel qui ce qu'on appelle le loss
  1315. 49:10l'erreur ça vous le savez. Et bien
  1316. 49:13d'habitude qu'est-ce qu'on fait ? On va
  1317. 49:14essayer de de de minimiser l'erreur et
  1318. 49:17cetera mais ce qu'on va faire maintenant
  1319. 49:19une fois que j'ai les les l'erreur et
  1320. 49:21ben qu'est-ce que je vais faire ? Je
  1321. 49:22vais prendre le output et je vais le
  1322. 49:24donner à l'équation à l'équation de
  1323. 49:26physique. Twa, il va me donner la valeur
  1324. 49:30de de l'erreur. C'est-à-dire une fois
  1325. 49:32que j'entraîne, je vais dire j'ai le
  1326. 49:34output et je vais dire au moder de la
  1327. 49:35physique, est-ce est-ce que est-ce que
  1328. 49:37le l'output respecte la loi de la
  1329. 49:39physique ? Et bien, il va me donner il
  1330. 49:42va me dire "Non, tu respectes pas la
  1331. 49:43physique, tu as une autre erreur. Donc
  1332. 49:45je prends l'erreur qui est donnée par le
  1333. 49:46modèle de la physique quindi indique
  1334. 49:48l'erreur les données et je réentraîne et
  1335. 49:51je refais le travail. à un moment donné,
  1336. 49:53je vais obtenir le le le résultat final,
  1337. 49:56c'est que tu vas obtenir un modèle
  1338. 49:58piloté par les données mais informé par
  1339. 50:00la physique. C'est pour cela qu'on
  1340. 50:02l'appelle pins physi informat noral.
  1341. 50:06J'informe. Et et c'est quoi le résultat
  1342. 50:08? Et ben le résultat il est il est
  1343. 50:10génial. Pourquoi ? Parce que grâce avec
  1344. 50:12le modèle de la physique, je vais
  1345. 50:14corriger donc les bruits parce que donc
  1346. 50:16les bruits qui qui sont faux. et le le
  1347. 50:19modèle de la physique, il va il va
  1348. 50:21m'informer comme quoi avec les les
  1349. 50:22points c'est un peu c'est pas c'est pas
  1350. 50:25normal. Et avec ça donc ça c'est ce
  1351. 50:27qu'on appelle un modèle hybride.
  1352. 50:29Donc c'est un modèle piloté par les
  1353. 50:31données et informé par la physique. Et
  1354. 50:34ça c'est beaucoup mieux. Et ça c'est
  1355. 50:35intéressant à voir un instant.
  1356. 50:39Ouais.
  1357. 50:40Alors généralement dans le la recherche
  1358. 50:42on utilise beaucoup de des choses comme
  1359. 50:44ça. Pas uniquement dans la recherche,
  1360. 50:46même dans le la gens qui font de la
  1361. 50:48finance, ils font ça.
  1362. 50:51Parce que vous savez pour prédire a
  1363. 50:52l'option d'achat d'une action pour
  1364. 50:54prédire ce il y a des des équations
  1365. 50:58n'est-ce pas c'est il y a des des
  1366. 51:00modèles mathématiques et bien les
  1367. 51:03modèles mathématiques c'est des modèles
  1368. 51:04qui sont rapprochés sont pas vrais et
  1369. 51:07donc si vous avez les données et le
  1370. 51:09modèle mathématique si vous les combinez
  1371. 51:10ça vous donne quelque chose de mieux
  1372. 51:13c'est un peu ça
  1373. 51:15c'est clair
  1374. 51:18c'est bon pas de question parfait alors
  1375. 51:20J'essaie d'aller tout doucement parce
  1376. 51:21que tout ça c'est vraiment c'est un peu
  1377. 51:23de des rappels.
  1378. 51:26Donc
  1379. 51:27en résumé donc les prérequis donc que
  1380. 51:30vous devrez avoir en rappel donc
  1381. 51:33l'apprentissage supervisé. Dans
  1382. 51:35l'apprentissage supervisé donc je
  1383. 51:37rappelle qu'il y a deux types de
  1384. 51:38problèmes. Il y a
  1385. 51:41la régression et la classification.
  1386. 51:44Voilà encore une autre question qui vous
  1387. 51:45sera tout le temps posée. C'est quoi la
  1388. 51:47différence entre la régression et
  1389. 51:50classification ? Alors la la régression
  1390. 51:53c'est un type de problème
  1391. 51:54d'apprentissage supervisé dans lequel on
  1392. 51:56prédit une valeur continue. On est bien
  1393. 52:00d'accord ? Par exemple prédire le prix
  1394. 52:03le prix d'un produit c'est une valeur
  1395. 52:05continue. Ça peut être ça peut être 5
  1396. 52:07comme ça peut être 400 ça peut être et
  1397. 52:09cetera.
  1398. 52:10Euh, on peut prédire la température,
  1399. 52:12prédire une probabilité, prédire des
  1400. 52:14choses. C'est c'est ce qu'on appelle une
  1401. 52:16régression.
  1402. 52:18Et puis il y a la classification.
  1403. 52:20Alors, la classification quand on prédit
  1404. 52:22une valeur, une sortie catégorique, par
  1405. 52:27exemple, prédire par exemple si un
  1406. 52:30plutôt si un email est un spam ou non.
  1407. 52:32Donc voyez, donc à la sortie, ça peut
  1408. 52:34être soit oui ou bien non. Donc quand
  1409. 52:37vous avez que oui ou non, ça c'est ce
  1410. 52:39qu'on appelle un classifur binaire. OK ?
  1411. 52:42Ou tout simplement prédire c'est dans
  1412. 52:44une photo est-ce que c'est un chat ou
  1413. 52:45bien c'est un chien ou bien c'est un
  1414. 52:46fruit et cetera. Donc ça c'est des
  1415. 52:49classifieurs. Alors ça c'est des choses
  1416. 52:50que vous connaissez. Alors forcément euh
  1417. 52:54vous avez des quelques
  1418. 52:57quelle est la métrique qu'on utilise
  1419. 52:58pour mesurer les performances d'une
  1420. 53:00régression ? Quelle est la métrique
  1421. 53:03qu'on utilise pour mesurer les
  1422. 53:04performances d'une régression ? Mean
  1423. 53:07squared error.
  1424. 53:09L'erreur quadratique c'est la moyenne.
  1425. 53:16Voilà. Min square error. Donc vous
  1426. 53:19pouvez l'utiliser pour pour mesurer les
  1427. 53:22performances. Et quelles sont les
  1428. 53:23métriques qu'on utilise pour mesurer les
  1429. 53:25performances d'un classifieur ?
  1430. 53:30Qur, précision, récolle et f score
  1431. 53:34ou généralement quand vous faites la
  1432. 53:36classification, vous avez besoin de
  1433. 53:37dresser ce qu'on appelle euh
  1434. 53:42la matrice de confusion. Tout à fait.
  1435. 53:44Donc c'est des concepts de base qui sont
  1436. 53:45liés à la classification. Ne les oubliez
  1437. 53:47pas. Alors euh le premier TP qu'on va
  1438. 53:50faire c'est c'est ça c'est avec Pyth on
  1439. 53:53va voir comment créer une régression,
  1440. 53:55comment créer une classification,
  1441. 53:57comment faire du deep learning, comment
  1442. 53:59faire comment faire et comme ça pour la
  1443. 54:01suite ça c'est vraiment c'est c'est
  1444. 54:04fondamental parce que si je je n'ai pas
  1445. 54:06dans ma poche fondamentaux à un moment
  1446. 54:09donné vous vous aurez avoir des
  1447. 54:11difficultés parce que pour être recruté
  1448. 54:14euh dans le domaine de l'intelligence
  1449. 54:16artificielle, il y a Les fondamentaux,
  1450. 54:18si vous les connaissez pas, alors c'est
  1451. 54:20c'est quasiment c'est éliminatoire. Donc
  1452. 54:24c'est pour cela que euh quand vous allez
  1453. 54:26faire les TP, je vais vous noter
  1454. 54:28quelques quelques
  1455. 54:30un ensemble de questions euh réponses
  1456. 54:33sur lesquelles il faut trancher.
  1457. 54:34C'est-à-dire quand on vous pose cette
  1458. 54:35question, il faut bien donner la la
  1459. 54:38bonne la bonne réponse.
  1460. 54:41Alors donc l'apprentissage aut plutôt
  1461. 54:44non supervisé, donc ça c'est le
  1462. 54:46classing. Donc à partir des données, on
  1463. 54:48va faire on va détecter les groupes, les
  1464. 54:50clusters. Donc parmi les algorithmes que
  1465. 54:53vous devrez connaître, que vous avez
  1466. 54:55déjà étudié, il y a Camins, n'est-ce pas
  1467. 54:58? Vous l'avez déjà fait. Parfait.
  1468. 55:01L'apprentissage par renforcement, je
  1469. 55:03viens d'en parler, il y a des modèles
  1470. 55:04comme Killing, euh voilà, euh PPO,
  1471. 55:09l'apprentissage autosupervisé.
  1472. 55:11Alors, voyez donc l'apprentissage
  1473. 55:12supervisé. J'ai ici un texte, le chat
  1474. 55:17dort
  1475. 55:18sur le tapis. Ça c'est un texte,
  1476. 55:21n'est-ce pas ? Bah qu'est-ce que je vais
  1477. 55:22faire ? Je vais prendre le chat dors sur
  1478. 55:24le tapis. Regardez le je masque. Je
  1479. 55:25masque le chat.
  1480. 55:28Je masque le chat, je le cache et après
  1481. 55:31je vais entraîner le modèle à prédire
  1482. 55:33qu'est-ce qui est masqué ? C'est le
  1483. 55:36le chat. Et puis je vais encore masquer
  1484. 55:38tapis. Je je l'entraîne. Donc c'est ça
  1485. 55:41l'apprentissage auto supervisé.
  1486. 55:44NLP
  1487. 55:46NLP il est basé sur l'apprentissage
  1488. 55:49c'est NLP c'est NLP il est basé sur
  1489. 55:51l'apprentissage autosupvis
  1490. 55:54et puis les réseaux informés par la
  1491. 55:56physique donc je viens de d'en parler OK
  1492. 56:00alors maintenant une fois qu'on a une
  1493. 56:03idée une map générale sur le sur le en
  1494. 56:06fait l'intelligence artificielle
  1495. 56:09maintenant c'est quoi la différence
  1496. 56:11entre l' discriminative et générative.
  1497. 56:15[raclement de gorge] Alors dans l'IA
  1498. 56:16discriminative,
  1499. 56:18on apprend la frontière entre les
  1500. 56:21classes
  1501. 56:23à partir des données qui sont étiquetées
  1502. 56:25de manière générale. C'est-à-dire quoi ?
  1503. 56:26Dans l'IA discriminatif, qu'est-ce qu'on
  1504. 56:27fait ? Euh ben on a un dataset qui se
  1505. 56:30vont étiquetés pour lequel on connaît
  1506. 56:33les inputs et les outputs. On
  1507. 56:34l'entraîne, ça vous le savez. Et après
  1508. 56:36par la suite quand je donne une photo,
  1509. 56:37par exemple, il va me dire à la fin
  1510. 56:39est-ce qu'il s'agit de d'un chien ou
  1511. 56:41bien d'un oiseau ou d'un chat. c'est il
  1512. 56:42discrimine, c'est-à-dire je lui donne un
  1513. 56:45input et à la fin il va me donner une
  1514. 56:47étiquette. Il va me dire voilà, il va
  1515. 56:49faire ce qu'on appelle la
  1516. 56:50discrimination.
  1517. 56:52OK ?
  1518. 56:54Alors que dans l'IA génératif c'est un
  1519. 56:56peu le c'est c'est différent parce que
  1520. 56:57qu'est-ce qu'on va faire dans l'IA
  1521. 56:58génératif ? On va prendre un ensemble de
  1522. 57:00données, on va les on va souvent faire
  1523. 57:03de l'apprentissage autosupervisé pour
  1524. 57:05faire l'entraînement. Une fois que le
  1525. 57:07modèle est entraîné et bien euh on
  1526. 57:10pourra lui donner un prompt.
  1527. 57:12Par exemple, je peux lui dire je veux un
  1528. 57:14chat portant du papillon plutôt voilà du
  1529. 57:17papillon assis dans un salon et cetera
  1530. 57:19élégant. Donc ça c'est un prompt et à
  1531. 57:22partir de ce prompt là le modèle il est
  1532. 57:24capable de générer donc une nouvelle
  1533. 57:27photo qu'il n'a jamais vu. Donc
  1534. 57:29c'est-à-dire la capacité de générer du
  1535. 57:31nouveau texte, la capacité de générer
  1536. 57:33des nouvelles images, générer de la
  1537. 57:35musique, générer de Donc ça on est
  1538. 57:37plutôt dans les modèles ce qu'on appelle
  1539. 57:39génératif.
  1540. 57:42Alors maintenant, tout ce que vous avez
  1541. 57:45euh en fait, vous savez quand j'ai parlé
  1542. 57:48tout à l'heure de ça, vous avez
  1543. 57:51en quelque sorte tout ça c'est des c'est
  1544. 57:52c'est des modèles qui sont
  1545. 57:54discriminatifs, n'est-ce pas ?
  1546. 57:57Discriminatif, c'est-à-dire on a le
  1547. 57:59input et après le output, ça peut être
  1548. 58:01soit une valeur, soit un label. Donc le
  1549. 58:04c'est les modèles discriminatifs alors
  1550. 58:07que dans l' générative donc on est dans
  1551. 58:09une autre logique et donc ça nous pousse
  1552. 58:12à parler un peu de c générative.
  1553. 58:17Alors en fait l' générative donc c'est
  1554. 58:19c'est un c'est ou donc c'est une
  1555. 58:26historiquement si vous voulez l
  1556. 58:27générative il a il a fait ses premiers
  1557. 58:29pas en 2014
  1558. 58:32par les modèles qu'on appelle les gains.
  1559. 58:38Alors generative adversal
  1560. 58:41network. Donc ça c'est l'un des modèles
  1561. 58:43que vous allez étudier dans ce ce cours
  1562. 58:45et vous aurez l'occasion de voir comment
  1563. 58:47créer ces ces gains, comment les
  1564. 58:48utiliser.
  1565. 58:51Et puis euh en 2017, c'est là où on va
  1566. 58:54s'accélérer. Donc en 2017 euh il y a en
  1567. 58:57fait il y a des auteurs chez Google qui
  1568. 58:59ont créé un un article, qui ont publié
  1569. 59:02un article qui s'appelle attention is
  1570. 59:04all unit.
  1571. 59:06Alors cet article là, je vous l'ai déjà
  1572. 59:08montré l'année dernière si vous rappelez
  1573. 59:10mais cette année-là vous allez vraiment
  1574. 59:12le maintenant c'est on va rentrer dans
  1575. 59:13le le le modèle comment euh comment on
  1576. 59:16va implémenter ces algorithmes qu'on
  1577. 59:17appelle les transformers. C'est grâce à
  1578. 59:20ce mécanisme d'attention qu'en est une
  1579. 59:22nouvelle génération d'algorithmes euh
  1580. 59:24qu'on appelle les transformers. Les
  1581. 59:26transformers.
  1582. 59:28Et bien euh après juste après il y a en
  1583. 59:31fait Google a créé son propre modèle de
  1584. 59:34transformer qu'on appelle birthd. C'est
  1585. 59:37by Directional encoder represent from
  1586. 59:39Transformers.
  1587. 59:41Et puis a Facebook plutôt Open qui a
  1588. 59:45créé son propre modèle GPT.
  1589. 59:48Alors GPT c'est Gen Transformers. Donc
  1590. 59:51ça c'est des algorithmes basés sur ce
  1591. 59:53qu'on appelle le mécanisme d'attention
  1592. 59:55euh que nous allons étudier par la
  1593. 59:56suite.
  1594. 59:59Et puis euh donc vous voyez qu'est-ce
  1595. 1:00:02qu'il y a qu'est-ce qui a développé le
  1596. 1:00:03premier article ? C'est ça se passe chez
  1597. 1:00:04Google, n'est-ce pas ? Mais qu'est-ce
  1598. 1:00:06qui a en profiter plus ?
  1599. 1:00:08C'est Open I parce que Open I a fait
  1600. 1:00:11plus vite, il a créé chat GPT les
  1601. 1:00:13versions et cetera. Donc il a il a pris
  1602. 1:00:15de l'avance mais après Google a a
  1603. 1:00:17rattrapé avec Gemini et cetera. Donc et
  1604. 1:00:20donc voilà donc 2019, il y a une
  1605. 1:00:22nouvelle version des gains, c'est ce
  1606. 1:00:24qu'on appelle les style GS qui sont très
  1607. 1:00:26performants. Et puis donc voilà 2020
  1608. 1:00:30tout le monde a été étonné par la
  1609. 1:00:31première version de chat GPT. Tout le
  1610. 1:00:34monde est tout le monde se posait la
  1611. 1:00:37question c'est quoi ce chat GPT ? il est
  1612. 1:00:40il commençait déjà à impressionner et ce
  1613. 1:00:43n'est que après qu'on va commencer à
  1614. 1:00:44voir les versions GPT4, GPT for
  1615. 1:00:50euh
  1616. 1:00:53et après vous avez des des modèles
  1617. 1:00:55maintenant GPT5, GPT6, vous avez
  1618. 1:00:58Deeptic, vous avez Lama, vous avez plein
  1619. 1:01:00les modèles de diffusion et c'est
  1620. 1:01:02c'est-à-dire l'écosystème c'était c'est
  1621. 1:01:04vraiment développé de manière incroyable
  1622. 1:01:07et de mois en mois on obtient des
  1623. 1:01:09nouvelles versions qui sont beaucoup
  1624. 1:01:10plus performantes. Euh mais ce qu'il
  1625. 1:01:12faut ce qu'il faut noter, c'est que euh
  1626. 1:01:14donc on est dans à l'aire de 2026 et
  1627. 1:01:18donc aujourd'hui donc vous avez GPT6,
  1628. 1:01:20vous avez Cloud
  1629. 1:01:23Cloud 4, vous avez et cetera. Donc euh
  1630. 1:01:26mais on va dire que le vous avez cloud
  1631. 1:01:29d'un côté, vous avez euh Open I, vous
  1632. 1:01:32avez Google avec Gemini
  1633. 1:01:37et après vous avez les les modèles
  1634. 1:01:39chinois donc qui sont très performants
  1635. 1:01:42et puis vous avez Deepsic, vous avez
  1636. 1:01:44GMA, vous avez et vous avez plein de
  1637. 1:01:46modèles open source. Donc ça c'est il
  1638. 1:01:47faut pas oublier, c'est que il y a un
  1639. 1:01:49site qui s'appelle Hugin Face que vous
  1640. 1:01:51allez beaucoup utiliser cette année euh
  1641. 1:01:53dans lequel vous allez trouver des
  1642. 1:01:54milliers et des milliers de de modèles
  1643. 1:01:56LLMs open open source et donc euh vous
  1644. 1:02:00aurez besoin de de pouvoir les les
  1645. 1:02:02utiliser parce qu'on aura besoin de
  1646. 1:02:03faire du F tuning et euh donc voilà donc
  1647. 1:02:06ça c'est ce qui fait j'espère que vous
  1648. 1:02:08aurez une machine qui est un peu plus
  1649. 1:02:12[rires]
  1650. 1:02:13j'espère parce que le problème de lia
  1651. 1:02:16génératif Le le problème c'est ça. Soit
  1652. 1:02:18j'ai une bonne machine euh si je n'ai
  1653. 1:02:21pas une bonne machine, j'ai besoin de
  1654. 1:02:22d'un openner I et open il faut payer les
  1655. 1:02:25les tout ça. Donc c'est toujours c'est
  1656. 1:02:27un coût. Il y a un coût quelque part,
  1657. 1:02:28n'est-ce pas ? Alors bon comme l'année
  1658. 1:02:30dernière, je vous ai à chaque semaine je
  1659. 1:02:32vous donne une clé [rires]
  1660. 1:02:35que je paye à chaque fois moi-même,
  1661. 1:02:36c'est pas un problème. Mais le problème
  1662. 1:02:38c'est difficile à gérer.
  1663. 1:02:41Mais cette année-là donc pour faire de
  1664. 1:02:42lien génératif vraiment il faut on va
  1665. 1:02:44faire de des modèles open source. On va
  1666. 1:02:46travailler beaucoup avec les modèles
  1667. 1:02:47open source. Et donc euh si vous avez
  1668. 1:02:50une machine qui n'est pas très
  1669. 1:02:51puissante, vous allez télécharger un
  1670. 1:02:52modèle qui est plus petit, c'est-à-dire
  1671. 1:02:54le modèle le plus le plus adéquat pour
  1672. 1:02:57votre machine. Et par la suite, on va
  1673. 1:02:59essayer de de travailler là-dessus.
  1674. 1:03:03[raclement de gorge]
  1675. 1:03:08Est-ce que c'est clair ? Parfait.
  1676. 1:03:12Alors, il y a une autre question qui est
  1677. 1:03:14très importante, c'est que qu'est-ce qui
  1678. 1:03:16fait que aujourd'hui
  1679. 1:03:18l' générative vit ce qu'on appelle l'âge
  1680. 1:03:20d'or de l'intelligence artificielle ?
  1681. 1:03:23Bon, il y a trois choses de base.
  1682. 1:03:25D'abord, c'est la puissance des modèles.
  1683. 1:03:27C'est grâce principalement au
  1684. 1:03:30Transformers GPT, Birt, les LLMs et
  1685. 1:03:33cetera. C'est les modèles, les
  1686. 1:03:35transformers ont démontré leur capacité
  1687. 1:03:37de de comprendre de manière incroyable
  1688. 1:03:40l'abondance des données. Ça c'est très
  1689. 1:03:43important. Plus avec les réseaux
  1690. 1:03:45sociaux, tout le monde génère les
  1691. 1:03:46données et cetera. Il y a tellement
  1692. 1:03:47beaucoup de données que et on peut on
  1693. 1:03:51peut profiter de des données pour
  1694. 1:03:53générer pour entraîner des des modèles.
  1695. 1:03:56Et puis il y a ça, ça c'est important,
  1696. 1:03:59c'est la puissance de calcul.
  1697. 1:04:01Parce que euh pour pouvoir entraîner des
  1698. 1:04:04des transformers sur des des tonnes de
  1699. 1:04:07données, bah il nous faut utiliser ce
  1700. 1:04:10qu'on appelle les GPU.
  1701. 1:04:12et les GPU. D'ailleurs, pour ceux qui le
  1702. 1:04:14savent pas, euh quand vous faites
  1703. 1:04:16l'intelligence artificielle, si
  1704. 1:04:21vous avez un budget, si vous vous
  1705. 1:04:23envisagez d'acheter un ordinateur, bah
  1706. 1:04:26vous achetez vous cherchez un ordinateur
  1707. 1:04:28avec une carte Nvidia, carte graphique
  1708. 1:04:31Nvidia. Parce que si vous avez une carte
  1709. 1:04:33graphique Nvidia, c'est que vous avez le
  1710. 1:04:35GPO. Et c'est quoi le GPO ? Le GPE,
  1711. 1:04:38c'est une carte graphique dans la dans
  1712. 1:04:40laquelle vous avez des milliers de
  1713. 1:04:42petits microprocesseurs.
  1714. 1:04:46Et quand vous faites le calcul, vous
  1715. 1:04:48savez dans les réseaux de neurones,
  1716. 1:04:49quand on entraîne des modèles de réseau
  1717. 1:04:51de neurone, on fait beaucoup de calculs
  1718. 1:04:53matriciels. C'est des calculs
  1719. 1:04:54matriciels, n'est-ce pas ? Et bien, si
  1720. 1:04:57vous utilisez le CPU pour faire ces
  1721. 1:04:59calculs matriciels, vous allez faire
  1722. 1:05:01beaucoup de boucles fort fort fort fort
  1723. 1:05:03et cetera. ça prend beaucoup de temps.
  1724. 1:05:05Mais si on utilise le GPO, on fait ses
  1725. 1:05:07calculs de manière parallèle.
  1726. 1:05:09C'est-à-dire grâce au GPO, on va
  1727. 1:05:10utiliser des milliers de petits
  1728. 1:05:12microprocesseurs qui permettent de
  1729. 1:05:14d'accélérer les calculs. Donc voilà.
  1730. 1:05:17Donc ça c'est un détail qui est très
  1731. 1:05:18important parce que souvent quand vous
  1732. 1:05:20avez un GPU, il faut savoir l'utiliser
  1733. 1:05:22et cetera. Donc
  1734. 1:05:26c'est clair. Donc il y a c'est ce qui
  1735. 1:05:29est aujourd'hui précieux dans le domaine
  1736. 1:05:31de l'intelligence artificielle, c'est
  1737. 1:05:33les GPU. Les entreprises ont besoin de
  1738. 1:05:35d'acheter les GPU pour entraîner et
  1739. 1:05:37vous-même vous en aurez besoin. Bon, les
  1740. 1:05:39institutions, les laboratoires et et
  1741. 1:05:41donc euh alors maintenant, si vous avez
  1742. 1:05:43un petit GPU, ça peut suffire pour vous,
  1743. 1:05:45mais pour mettre un modèle en production
  1744. 1:05:48euh généralement euh parfois il vous
  1745. 1:05:50faut de des serveurs qui sont coûteux,
  1746. 1:05:51qui sont qui coûtent trop cher pour les
  1747. 1:05:53entreprises. Ça, on va en parler.
  1748. 1:05:57Et puis il y a le cloud computing bien
  1749. 1:05:59sûr, il y a les GPU. Euh Google utilise
  1750. 1:06:01sa propre génération de GPU, ce qu'on
  1751. 1:06:03appelle les TPU. D'ailleurs, si vous
  1752. 1:06:06allez vers collab,
  1753. 1:06:08donc collab Google collab, quand vous
  1754. 1:06:09allez faire votre vous allez entraîner
  1755. 1:06:12un modèle, vous pouvez voir dans les
  1756. 1:06:14paramètres, vous pouvez activer soit le
  1757. 1:06:15GPU, soit le TPU, n'est-ce pas ? Alors,
  1758. 1:06:18tout ça c'est des c'est des des cartes
  1759. 1:06:20d'accélération de calcul parallèle.
  1760. 1:06:23C'est ça un serveur. Oui, mais en
  1761. 1:06:25général en général je vais vous dire une
  1762. 1:06:28chose, c'est que le quand vous allez
  1763. 1:06:29faire votre stage PFE ou bien quand vous
  1764. 1:06:31allez travailler, vous allez rencontrer
  1765. 1:06:33ce problème. Ce que les entreprises, ils
  1766. 1:06:35vont faire, ils vont faire utiliser l'
  1767. 1:06:37générative et agentique, la question
  1768. 1:06:39est-ce qu'on va utiliser quel est ce
  1769. 1:06:41qu'on va utiliser
  1770. 1:06:44écoutez-moi bien, ça c'est vous le notez
  1771. 1:06:45dans votre tête. Et après l'entreprise,
  1772. 1:06:47il va vous dire est-ce qu'on va utiliser
  1773. 1:06:49un LLM open source ou bien on va
  1774. 1:06:51utiliser les LLM par exemple Openi.
  1775. 1:06:55Et si vous utilisez les LLM open source,
  1776. 1:06:58il faut que vous le sachiez, c'est que à
  1777. 1:07:00un moment donné l'entreprise doit
  1778. 1:07:01acheter des des serveurs, des GPU, c'est
  1779. 1:07:04un coût, il y a de la maintenance et
  1780. 1:07:05cetera. Il faut que il faut le savoir
  1781. 1:07:08quand vous allez utiliser Open A, ils
  1782. 1:07:10vont vous dire la chose mais nous pour
  1783. 1:07:12des raisons de confidentialité des
  1784. 1:07:13données, on veut pas que les données
  1785. 1:07:16sortent de de du contexte.
  1786. 1:07:20Et ça c'est une fausse
  1787. 1:07:23c'est une c'est une fausse crainte.
  1788. 1:07:26Pourquoi ? Parce que généralement la
  1789. 1:07:29majorité des gens ne savent pas ce qui
  1790. 1:07:30se passe. C'est que il faut expliquer
  1791. 1:07:32aux gens que un LM est stateless. Je
  1792. 1:07:35l'ai déjà l'année dernière
  1793. 1:07:38stat, ça veut dire que quand je lui
  1794. 1:07:39envoie des données, il va les
  1795. 1:07:41transformer en tokens, ça devient des
  1796. 1:07:43imbedins. Et après le ll, il fait les
  1797. 1:07:46calculs, il génère. Mais quand il
  1798. 1:07:48génère, il se rappelle plus de de rien.
  1799. 1:07:50C'est-à-dire le LLM ne va jamais
  1800. 1:07:52utiliser le les données que vous envoyez
  1801. 1:07:54dans les les requêtes euh pour euh pour
  1802. 1:07:57les les entraîner quelque part. On est
  1803. 1:07:59bien d'accord.
  1804. 1:08:01Autre chose, c'est que quand quelqu'un
  1805. 1:08:03me pose cette question, il me dit que
  1806. 1:08:05les données confidentielles, bah je leur
  1807. 1:08:07dis tout simplement, est-ce que vous
  1808. 1:08:09utilisez Gmail ? Bah oui. Mais pourquoi
  1809. 1:08:11vous posez la question si vous utilisez
  1810. 1:08:13Gmail ? C'est que vous donnez les sons
  1811. 1:08:14déjà dans le cloud.
  1812. 1:08:16C'est-à-dire, on se permet d'échanger
  1813. 1:08:19des des emails confidentiels par Gmail
  1814. 1:08:22et après on a peur que que quelques
  1815. 1:08:25petites données aillent vers Open UNIP
  1816. 1:08:28pour faire ça. Donc c'est les les gens
  1817. 1:08:29ils ont pas ils comprennent pas. Donc
  1818. 1:08:32c'est juste cette crainte, c'est que
  1819. 1:08:34vous vous devrez avoir un peu des
  1820. 1:08:37arguments à expliquer aux gens. Bien.
  1821. 1:08:40Alors euh maintenant donc pour le reste,
  1822. 1:08:43on va commencer à en fait euh à
  1823. 1:08:46pratiquer un peu le les choses. Et pour
  1824. 1:08:48pratiquer ça, je je dois encore rappeler
  1825. 1:08:50quelque chose peut-être que vous avez vu
  1826. 1:08:51plusieurs fois, c'est le les réseaux de
  1827. 1:08:54neurones artificiel. OK ? Alors, c'est
  1828. 1:08:56quoi un neurone ?
  1829. 1:08:59Donc, vous voyez donc la structure d'un
  1830. 1:09:01neurone, donc c'est qu'est-ce qu'il fait
  1831. 1:09:03le le neuron ? Le neurone, c'est un
  1832. 1:09:04neurone artificiel, c'est une
  1833. 1:09:06approximation du neurone biologique.
  1834. 1:09:09Bon, généralement, comment fonctionne un
  1835. 1:09:10neurone ? Il va recevoir des des inputs,
  1836. 1:09:13n'est-ce pas ? Xi
  1837. 1:09:16et puis
  1838. 1:09:19le neuron fait deux opérations. La
  1839. 1:09:20première, c'est que il va faire ce qu'on
  1840. 1:09:22appelle une sommation pondérée. Ça veut
  1841. 1:09:24dire quoi ? Ça veut dire que euh par
  1842. 1:09:28exemple pour x1, il va prendre x1 m par
  1843. 1:09:31w1
  1844. 1:09:32plutôt x1* par w1 + x2 multipli par w2 +
  1845. 1:09:37x3* par w3. C'est quoi les w ? Les les w
  1846. 1:09:42c'est ce qu'on appelle les poids de de
  1847. 1:09:43neuron plutôt des connexions. Les poids
  1848. 1:09:46des connexions. OK ? Et donc le neurone,
  1849. 1:09:50il va faire d'abord une sommation
  1850. 1:09:52pondérée.
  1851. 1:09:54OK ? C'est-à-dire, il va faire W x plus
  1852. 1:09:58le billet en fait, le le basse. Alors
  1853. 1:10:01pourquoi le billet ? Parce que si par
  1854. 1:10:03exemple x é= à 0, c'est-à-dire si
  1855. 1:10:05l'entrée égale à éuron
  1856. 1:10:08il va il va donner comme quoi comme
  1857. 1:10:10sortie. Parce que si vous faites W x,
  1858. 1:10:13c'est si X é= 0, qu'est-ce qui vous
  1859. 1:10:14reste ? C'est
  1860. 1:10:15c'est B. C'est-à-dire le billet,
  1861. 1:10:17c'est-à-dire si jamais il y a pas
  1862. 1:10:18d'entrée, ben le neuron, il va quand
  1863. 1:10:20même donner quelque chose à la sortie,
  1864. 1:10:21il va pas donner un zéro. Et donc
  1865. 1:10:23finalement,
  1866. 1:10:26une fois que que vous allez faire cette
  1867. 1:10:27sommation pondérée, la deuxième étape
  1868. 1:10:30euh d'utiliser une fonction
  1869. 1:10:32d'activation. Alors, pourquoi une
  1870. 1:10:34fonction d'activation ? Parce que nous
  1871. 1:10:36avons d'introduire ce qu'on appelle la
  1872. 1:10:38non linéarité. Parce que si vous faites
  1873. 1:10:40la sommation pondérée, vous êtes
  1874. 1:10:42purement dans un problème linéaire,
  1875. 1:10:44c'est-à-dire mais la majorité des
  1876. 1:10:47problèmes sont non linéaires. Et pour
  1877. 1:10:49introduire la nonéarité, on va appliquer
  1878. 1:10:51ce qu'on appelle une fonction
  1879. 1:10:52d'activation.
  1880. 1:10:54Avec la fonction d'activation, il y a
  1881. 1:10:56beaucoup de fonctions qui sont très
  1882. 1:10:57connues que vous connaissez parmi
  1883. 1:10:58lesquel a sigmoïde, il y a tangent
  1884. 1:11:01hyperbolique, r donc vous avez plein de
  1885. 1:11:04fonctions d'activation qu'on va beaucoup
  1886. 1:11:05utiliser dans la pratique et c'est des
  1887. 1:11:07fonctions qu'il faut connaître.
  1888. 1:11:09il faut les les connaître l'allure de
  1889. 1:11:11chaque fonction. Il faut savoir dans tel
  1890. 1:11:13type de problème quelle est la la
  1891. 1:11:15fonction d'activation la plus
  1892. 1:11:16appropriée. Et ça c'est quelque chose
  1893. 1:11:18qu'on va vous sur lequel on va revenir
  1894. 1:11:19dans le dans la pratique.
  1895. 1:11:21Donc en quelque sorte euh quand on va
  1896. 1:11:24euh quand on va faire euh appliquer la
  1897. 1:11:27fonction d'activation, on va avoir euh
  1898. 1:11:29une sortie. Par exemple, si vous
  1899. 1:11:30appliquez la la fonction d'activation
  1900. 1:11:32sigma 8, la sortie ça va être un nombre
  1901. 1:11:36entre 0 et et 1. C'est-à-dire le
  1902. 1:11:39l'output, ça va être un nombre entre 0
  1903. 1:11:41et et 1. Si vous appliquez par exemple
  1904. 1:11:43tangent hyperbolique, ça va être quelque
  1905. 1:11:45chose entre -1 et 1 et cetera. Donc
  1906. 1:11:48c'est ce qui fait la fonction
  1907. 1:11:49d'activation, elle est là pour
  1908. 1:11:51introduire la non linéarité.
  1909. 1:11:54Donc les W ça représente quoi ? c'est
  1910. 1:11:56les poids de de des connexions. B, c'est
  1911. 1:11:59les billets.
  1912. 1:12:01Alors, sigma, c'est ce qu'on appelle la
  1913. 1:12:03fonction d'activation qui introduit la
  1914. 1:12:05non linéarité. Ben, Z, ce que vous voyez
  1915. 1:12:07là, la sommation, c'est ce qu'on appelle
  1916. 1:12:09également la combinaison linéaire. Bon,
  1917. 1:12:10c'est une sommation linéaire et py c'est
  1918. 1:12:13la sortie du neurone. Et comment ça se
  1919. 1:12:17fait l'entraînement de d'un neurone ? Il
  1920. 1:12:18y a des étapes. On va prendre les
  1921. 1:12:20données d'entraînement. On va d'abord
  1922. 1:12:23faire une opération qui s'appelle
  1923. 1:12:24forward. OK ?
  1924. 1:12:26Alors, forward, c'est tout simplement on
  1925. 1:12:28va donner à à la fin, c'est-à-dire on va
  1926. 1:12:30donner au neuron plutôt le on va donner
  1927. 1:12:33au modèle le x à l'entrée et ça va
  1928. 1:12:36donner quelque chose à la sortie. Une
  1929. 1:12:38fois que j'ai la sortie, je calcule la
  1930. 1:12:42l'erreur et l'erreur c'est ce qu'on
  1931. 1:12:44appelle le loss. OK ? Et c'est quoi
  1932. 1:12:46l'erreur ? tout simplement c'est la
  1933. 1:12:48sortie générée par le le modèle moins la
  1934. 1:12:53sortie réelle.
  1935. 1:12:55Et puis par la suite, on a besoin de
  1936. 1:12:56minimiser le pour faire le pour
  1937. 1:12:58minimiser ce loss là, on a besoin de
  1938. 1:13:00faire ce qu'on appelle la rétro
  1939. 1:13:02propagation backword. Et généralement
  1940. 1:13:05dans la rétroagation
  1941. 1:13:07euh nous allons euh quoi ? Nous allons
  1942. 1:13:09euh mettre à jour les les paramètres du
  1943. 1:13:12modèle. C'est-à-dire il l'idée
  1944. 1:13:14principale, c'est comment trouver les
  1945. 1:13:16les bonnes valeurs des poids qui
  1946. 1:13:19permettent de minimiser le loss. Et donc
  1947. 1:13:22pour faire ça, il y a une petite formule
  1948. 1:13:24que vous devrez connaître, c'est que le
  1949. 1:13:25paramètre par exemple W égal le W actuel
  1950. 1:13:29auquel on va retrancher mu fois la
  1951. 1:13:34dérivée le ce qu'on appelle le gradient
  1952. 1:13:36du los par rapport au poids.
  1953. 1:13:40Donc ça veut dire que nous aurons besoin
  1954. 1:13:41de de calculer ce qu'on appelle le le
  1955. 1:13:43gradient, c'est-à-dire c'est le la
  1956. 1:13:45variation de du loss par rapport au
  1957. 1:13:48poids. Et si vous prenez un paramètre
  1958. 1:13:51mu, c'est ce qu'on appelle la vitesse
  1959. 1:13:52d'apprentissage learning rate. Bon de mu
  1960. 1:13:56c'est learning rate, c'est une valeur
  1961. 1:13:58qui est comprise entre 0 plus dans la
  1962. 1:14:00majorité des cas, vous trouverez 0,001
  1963. 1:14:02et cetera.
  1964. 1:14:04Et donc si vous faites ça, cette
  1965. 1:14:06opération là, et bien cette cette façon
  1966. 1:14:08de la mise à jour des des paramètres, ça
  1967. 1:14:10permet de calculer tout simplement en
  1968. 1:14:13quelque sorte quel quels sont les
  1969. 1:14:14paramètres, c'est-à-dire les poids et
  1970. 1:14:16les billets.
  1971. 1:14:18Et on va reprendre plusieurs fois. Ça
  1972. 1:14:20c'est la première passe, c'est ce qu'on
  1973. 1:14:22appelle une époque. Et après on va
  1974. 1:14:24reprendre une deuxième fois, la deuxième
  1975. 1:14:25époque, la trè on va faire ça jusqu'à ce
  1976. 1:14:28que le los devient très très petit. Donc
  1977. 1:14:30ça c'est la technique globale qu'on va
  1978. 1:14:31utiliser pour entraîner un un réseau
  1979. 1:14:34neurone artificiel.
  1980. 1:14:36Alors il faut noter également que quand
  1981. 1:14:38on parle du loss alors le loss donc
  1982. 1:14:40quand il s'agit d'une régression donc
  1983. 1:14:42plutôt on va utiliser
  1984. 1:14:44RMSE donc min squared error et quand il
  1985. 1:14:47s'agit de d'une classification on va
  1986. 1:14:49utiliser
  1987. 1:14:52cross entropy. Donc il y a des métriques
  1988. 1:14:54plutôt il y a des des fonctions qui sont
  1989. 1:14:56utilisées pour le cas de de
  1990. 1:14:57classification. C'est ce qu'on va voir.
  1991. 1:15:01Voilà. Donc on arrive directement à la
  1992. 1:15:03partie donc les les bases de POR.
  1993. 1:15:06Alors pour euh pour euh develop pour
  1994. 1:15:08faire li génératif généralement vous
  1995. 1:15:11allez faire du deep learning. Et pour
  1996. 1:15:12faire des deep learning, il y a deux
  1997. 1:15:14framework qui sont populaires qui sont
  1998. 1:15:16les plus utilisés et on a Tinorflow et P
  1999. 1:15:19Torche. Alors dans notre cas, on va
  2000. 1:15:21beaucoup travailler avec P torche.
  2001. 1:15:23Peut-être dans des DTP, on va combiner
  2002. 1:15:25entre Turflow et P torche. Mais pour le
  2003. 1:15:27moment, on va se concentrer P torch
  2004. 1:15:29parce que c'est c'est en même temps pour
  2005. 1:15:31vous c'est les on va revoir un peu les
  2006. 1:15:33bases,
  2007. 1:15:34n'est-ce pas ? Et en même temps, ça sera
  2008. 1:15:36pour vous l'occasion de maîtriser les
  2009. 1:15:37réseaux en artificiel. Et en même temps,
  2010. 1:15:40ce sera l'occasion de revenir comment
  2011. 1:15:42créer un une régression, comment faire
  2012. 1:15:44une classification, comment faire euh de
  2013. 1:15:48un deep learning et puis on va enchaîner
  2014. 1:15:50par les modèles génératifs parce que ce
  2015. 1:15:52qui nous intéresse au début, on va
  2016. 1:15:53s'intéresser au modèle discriminatif, ça
  2017. 1:15:57c'est pour le fondamentaux. Et par la
  2018. 1:15:59suite, on va commencer à travailler les
  2019. 1:16:01modèles génératifs. Et dans les modèles
  2020. 1:16:03génératifs, il y en a plusieurs. Donc,
  2021. 1:16:04on va en parler.
  2022. 1:16:06Alors bon donc pour comme je disais donc
  2023. 1:16:08il y a une partie qui est très
  2024. 1:16:10importante pour la suite de ce cours.
  2025. 1:16:13Euh donc il y a des activités pratiques
  2026. 1:16:15qui concernent les bases de pche.
  2027. 1:16:19Euh donc le voilà. Alors ici donc vous
  2028. 1:16:21avez un certain nombre de choses qu'il
  2029. 1:16:23faut savoir.
  2030. 1:16:25Il y a un notebook que j'ai partagé sur
  2031. 1:16:28Classroom qui contient en fait comme
  2032. 1:16:30d'habitude les bases de Pche.
  2033. 1:16:34Donc ce notebook bien sûr ça ça sera
  2034. 1:16:36l'objet de de l'activité pratique de la
  2035. 1:16:39semaine prochaine mais pour le moment
  2036. 1:16:41donc je vous explique globalement les
  2037. 1:16:42éléments de base.
  2038. 1:16:44Alors, d'abord, vous aurez besoin de
  2039. 1:16:46d'installer les dépendances Torche, donc
  2040. 1:16:49Porche.
  2041. 1:16:51Et puis donc on va voir en fait, il y a
  2042. 1:16:53d'autres en fait, il y a d'autres
  2043. 1:16:55packages que vous vous allez devoir
  2044. 1:16:56installer. Alors euh donc la première
  2045. 1:17:00des choses souvent il est toujours on va
  2046. 1:17:03dire ce réflexe c'est que à chaque fois
  2047. 1:17:05s'il vous plaît
  2048. 1:17:11donc il est toujours le réflexe donc une
  2049. 1:17:14fois que vous importez torche donc vous
  2050. 1:17:16allez voir la version de torche
  2051. 1:17:19et surtout
  2052. 1:17:21et surtout donc vous avez besoin de
  2053. 1:17:23savoir est-ce que votre machine euh
  2054. 1:17:25dispose d'un GPU ou non. C'est
  2055. 1:17:27important. Vous voyez donc les GPU,
  2056. 1:17:29c'est ces cartes que vous voyez là
  2057. 1:17:30Nvidia, c'est des se parfois c'est des
  2058. 1:17:33cartes qui sont intégrées dans vos
  2059. 1:17:35ordinateurs. Et donc pour pouvoir euh
  2060. 1:17:38tester si votre euh votre machine
  2061. 1:17:42dispose d'un GPU, vous utilisez donc
  2062. 1:17:43tout simplement torch.
  2063. 1:17:46Alors en fait, c'est quoi CUDA ? Alors
  2064. 1:17:48coda, c'est le langage de programmation
  2065. 1:17:51qui est utilisé pour faire le calcul
  2066. 1:17:54parallèle au niveau des GPU de Nvidia.
  2067. 1:17:58Parce que quand je parle quand je parle
  2068. 1:18:00de en fait GPO, il y a les GPO les plus
  2069. 1:18:03populaires, c'est les GPU de Nvidia.
  2070. 1:18:05C'est les plus populaires mais euh Apple
  2071. 1:18:08a ses propres GPU. Microsoft il a ses
  2072. 1:18:11propres GPU, mais on va dire les plus
  2073. 1:18:13populaires, c'est Nvidia. Et donc
  2074. 1:18:14NVIDIA, c'était le premier qui a qui
  2075. 1:18:16avait créé ces ces ces ces c'est ces
  2076. 1:18:19cartes de ces accélérateurs de calcul
  2077. 1:18:21parallèle. Et pour créer des pour
  2078. 1:18:25paralléliser
  2079. 1:18:26pour paralléliser ou bien pour faire un
  2080. 1:18:29calcul parallèle au sein des GPU
  2081. 1:18:32euh et bien on utilisait un langage qui
  2082. 1:18:34s'appelait cou.
  2083. 1:18:36Le langage cou il dit c'est le langage C
  2084. 1:18:38dans la base c'est-à-dire la syntaxe
  2085. 1:18:39c'est le langage C mais dans lequel il y
  2086. 1:18:43a des directives qui sont faites
  2087. 1:18:44uniquement pour Nvidia.
  2088. 1:18:47Donc c'est pour cela qu'on va utiliser
  2089. 1:18:48CODA is volable. Donc siici alors ici
  2090. 1:18:51donc vous voyez donc ici c'est affiché
  2091. 1:18:53false veut dire que ma machine ne
  2092. 1:18:55dispose pas de GPU. Ça veut dire que
  2093. 1:18:57tout ce que vous allez faire par la
  2094. 1:18:58suite vous allez faire les calculs au
  2095. 1:19:00niveau de CPU.
  2096. 1:19:03Alors pour les les gens qui le
  2097. 1:19:05connaissent pas, c'est que par exemple
  2098. 1:19:06si vous avez en fait une carte Nvidia
  2099. 1:19:10notamment un GPU, supposons vous voulez
  2100. 1:19:12faire le le la somme de deux matrices.
  2101. 1:19:15C'est c'est un exemple très simple, la
  2102. 1:19:17somme de deux matrices, la matrice A, la
  2103. 1:19:20matrice B, n'est-ce pas ? Si vous n'avez
  2104. 1:19:23pas de GPU, comment vous allez faire la
  2105. 1:19:26somme ? Vous allez faire fort i égal à 0
  2106. 1:19:29jusqu'à tel, fort jug et après vous
  2107. 1:19:31faites la somme de ce point avec ce
  2108. 1:19:33point, la somme de ce point, n'est-ce
  2109. 1:19:34pas ? C'est ce que vous faites ça, c'est
  2110. 1:19:36le CPI, c'est un ensemble de boucles.
  2111. 1:19:38Mais si vous avez des matrices qui sont
  2112. 1:19:39très grandes, bah qu'est-ce qui va se
  2113. 1:19:41passer ? Ça prend du temps.
  2114. 1:19:44Alors si vous avez le GPU, qu'est-ce qui
  2115. 1:19:46se passe ? Et ben ce qui se passe, c'est
  2116. 1:19:48qu'en fait dans le GPU, vous avez des
  2117. 1:19:49milliers de de de processeur. Qu'est-ce
  2118. 1:19:52qui se passe ? que je vais prendre la
  2119. 1:19:53matrice A, je la transfère vers le GPU.
  2120. 1:19:56Et dans ce cas-là, chaque élément chaque
  2121. 1:19:59élément de la matrice euh c'est-à-dire
  2122. 1:20:02les les matrices sont au niveau de la
  2123. 1:20:03mémoire de des GPU, je prends la matrice
  2124. 1:20:06B, je la mets dans le GPU et je vais lui
  2125. 1:20:09demander de faire la somme. Mais quand
  2126. 1:20:11il va faire la somme, il va pas faire la
  2127. 1:20:13somme point par point. Qu'est-ce qu'il
  2128. 1:20:15fait ? Et ben tout simplement, c'est
  2129. 1:20:17très simple. ce par exemple ce petit
  2130. 1:20:19processeur, il va calculer euh la somme
  2131. 1:20:22de ce point avec ce point. Mais en
  2132. 1:20:23parallèle, il y a un autre processeur
  2133. 1:20:25qui va calculer la somme de d'un autre
  2134. 1:20:28point par rapport à un autre point.
  2135. 1:20:30C'est-à-dire au lieu de faire des
  2136. 1:20:31boucles pour pouvoir faire ça en par
  2137. 1:20:33exemple 10000 opérations, vous allez le
  2138. 1:20:35faire en une seule
  2139. 1:20:38opération. Si vous avez vous avez la
  2140. 1:20:39matrice il y a 10000 nombres dans la
  2141. 1:20:41matrice avec le CPU, il y a combien
  2142. 1:20:44d'opérations de de que vous allez faire
  2143. 1:20:48de somme ?
  2144. 1:20:50Vous avez 1000 nombres dans la matrice,
  2145. 1:20:53vous allez faire
  2146. 1:20:551000 opérations. Pour chaque point de la
  2147. 1:20:57matrice, vous faites la somme, la somme,
  2148. 1:20:59la somme, la somme. Mais si vous
  2149. 1:21:01utilisez GPU, bah qu'est-ce qui se passe
  2150. 1:21:03? Vous n'allez pas faire 1000 opérations
  2151. 1:21:05et ben vous allez faire une seule
  2152. 1:21:07opération. Pourquoi ? Parce que en
  2153. 1:21:09parallèle tous les tous les processeurs
  2154. 1:21:11graphiques, chacun va s'occuper d'un
  2155. 1:21:13seul point de la matrice. Il dit que
  2156. 1:21:16donc on fait c'est comme si vous prenez
  2157. 1:21:17les matrices, vous faites comme ça, vous
  2158. 1:21:19vous vous faites la somme de manière
  2159. 1:21:20parallèle. Alors, c'est pour cela que
  2160. 1:21:22vous allez voir généralement quand vous
  2161. 1:21:23travaillez dans avec Porche ou bien
  2162. 1:21:27Torflow, de temps en temps, vous aurez
  2163. 1:21:30besoin de si vous avez un GPU, vous
  2164. 1:21:32aurez besoin d'utiliser to device
  2165. 1:21:35to device, c'est-à-dire je vais
  2166. 1:21:36transférer les modèle vers le GPU et
  2167. 1:21:39parfois on fait l'opération inverse. Et
  2168. 1:21:42quand je veux par exemple visualiser mes
  2169. 1:21:44données, je devrais transférer les
  2170. 1:21:46données du GPU vers le CPU. Et donc on
  2171. 1:21:49va faire ce ce ces éléments là. En tout
  2172. 1:21:51cas, ça c'est juste pour pour savoir,
  2173. 1:21:54notez bien que euh en fait ça c'est euh
  2174. 1:21:58KODA, c'est c'est ce langage que nous
  2175. 1:22:01avons parce que moi personnellement
  2176. 1:22:03depuis que enfin depuis que les les GP
  2177. 1:22:05ont été créés, j'ai beaucoup travaillé
  2178. 1:22:07avec ce langage coua pour paralléliser
  2179. 1:22:10des algorithmes. C'est dans le domaine
  2180. 1:22:11de la recherche, c'est-à-dire euh ce
  2181. 1:22:14qu'on faisait de manière séquencielle,
  2182. 1:22:16on faisait de manière parallèle.
  2183. 1:22:18Euh mais qu'est-ce qu'il a fait Google ?
  2184. 1:22:20Google ou
  2185. 1:22:22et en fait Facebook, ils ont créé un
  2186. 1:22:25framework
  2187. 1:22:26les WAP torch Google il a créé le
  2188. 1:22:28framework ton S. Qu'est-ce qu'ils ont
  2189. 1:22:29fait ? Et bien vous savez toutes les
  2190. 1:22:32opérations du calcul
  2191. 1:22:36de l'algèbre linéaire. Vous savez
  2192. 1:22:38l'algèbre linéaire c'est calcul le
  2193. 1:22:41produit des matrices, le déterminant
  2194. 1:22:42d'une matrice, le toutes les toutes les
  2195. 1:22:44opérations de matriciel, le le calcul
  2196. 1:22:46matriciel, ils ont déjà écrit ce code
  2197. 1:22:49coda qui permet de faire ces opérations.
  2198. 1:22:52C'est-à-dire le développeur n'a plus
  2199. 1:22:53besoin d'écrire des codes coda pour
  2200. 1:22:56faire le calcul parallèle. c'est des
  2201. 1:22:58choses qui sont déjà faites. Donc
  2202. 1:22:59c'est-à-dire si vous utilisez le
  2203. 1:23:01framework transflow ou bien P torche,
  2204. 1:23:04c'est que vous disposez déjà d'un
  2205. 1:23:07ensemble de fonctions qui sont basées
  2206. 1:23:08sur ce langage couda et qui permet de
  2207. 1:23:11faire le calcul parallèle. Donc vous
  2208. 1:23:13faites du calcul parallèle sans que vous
  2209. 1:23:15le sachiez mais sachez-le. OK ? Et donc
  2210. 1:23:18voilà donc c'est ce qui s'est passé et
  2211. 1:23:20mais les gens parfois qui font de la
  2212. 1:23:22recherche parfois de temps en temps ils
  2213. 1:23:23ont besoin de prendre leurs propres
  2214. 1:23:25algorithmes qui sont pas encore
  2215. 1:23:26parallélisés. Bah, on utilise ce langage
  2216. 1:23:29là pour écrire avec le langage C des
  2217. 1:23:32choses comme ça pour pouvoir
  2218. 1:23:33paralléliser les éléments.
  2219. 1:23:36Deuxièmement, alors maintenant, si vous
  2220. 1:23:38voulez faire le calcul parallèle,
  2221. 1:23:40c'est-à-dire si vous voulez faire le
  2222. 1:23:42calcul parallèle avec P torche, il faut
  2223. 1:23:44créer ce qu'on appelle les tensors.
  2224. 1:23:50Alors, c'est quoi un tenseur ? Bah, vous
  2225. 1:23:52savez c'est vous avez déjà fait pyon et
  2226. 1:23:54vous avez utilisé une impaille, n'est-ce
  2227. 1:23:55pas ? Ben Nie, c'est c'est une librairie
  2228. 1:23:58que vous utilisez pour faire le calcul
  2229. 1:24:00des vecteurs, des matrices et cetera,
  2230. 1:24:02c'est-à-dire pour représenter des pour
  2231. 1:24:04faire le calcul sur les tableaux, sur
  2232. 1:24:05les matrices
  2233. 1:24:072 D, 3D, ND et cetera. Donc on utilise
  2234. 1:24:09NPA. Alors, sauf que avec Npille, un
  2235. 1:24:12tableau quand vous faites les calculs
  2236. 1:24:15avec Npille, et bien vous tous les
  2237. 1:24:18calculs se font via le CPU, c'est-à-dire
  2238. 1:24:21si vous faites le produit d'imatrice,
  2239. 1:24:22c'est le CPU qui le fait.
  2240. 1:24:24Et donc avec les tenseurs, les tenseurs
  2241. 1:24:27c'est à peu près la même chose qu'on a
  2242. 1:24:29que les tableau paille, sauf que le
  2243. 1:24:31calcul peut se faire de manière
  2244. 1:24:32parallèle. Il peut se faire au niveau
  2245. 1:24:35des CPU comme il peut se faire au niveau
  2246. 1:24:36de GPU. Et donc ce qui fait que quand
  2247. 1:24:40vous allez travailler avec Porche, au
  2248. 1:24:42lieu de créer des tableaux N et cetera,
  2249. 1:24:44des simples tableaux, vous allez créer
  2250. 1:24:46ce qu'on appelle des tenseurs. Donc
  2251. 1:24:49comment créer un tenseur ? Il existe
  2252. 1:24:51plusieurs façons pour créer les
  2253. 1:24:52tenseurs. Par exemple, vous utilisez
  2254. 1:24:54torche tseur si vous voulez créer un
  2255. 1:24:55scalaire, par exemple 3. Bon, c'est un
  2256. 1:24:58c'est un simple nombre 3 euh qui
  2257. 1:25:00représente un scalaire, un simple nombre
  2258. 1:25:02tensur. Vous voulez créer un tableau de
  2259. 1:25:04dimension, vous utilisez tinur et vous
  2260. 1:25:06mettez entrecrocher la valeur des
  2261. 1:25:08tableaux. Donc ça c'est un un simple
  2262. 1:25:10tableau. Vous voulez créer une matrice,
  2263. 1:25:11vous utilisez tortur par exemple. Vous
  2264. 1:25:13voyez ici ? Donc ça c'est une matrice de
  2265. 1:25:15de lignes et de de colonnes exactement
  2266. 1:25:19comme vous le faites avec NPA.
  2267. 1:25:22Et puis donc vous avez un certain nombre
  2268. 1:25:23d'opérations à connaître. Par exemple,
  2269. 1:25:25si vous prenez par exemple le tensur
  2270. 1:25:27shape, il va vous donner le la la la
  2271. 1:25:30dimension. OK ? Et si vous mettez euh
  2272. 1:25:34donc par exemple ici, j'affiche ici.
  2273. 1:25:37Donc euh alors ça c'est
  2274. 1:25:43première. Alors, scalard par exemple
  2275. 1:25:45ici, voilà. Donc
  2276. 1:25:49alors ici donc ça c'est c'est le c'est
  2277. 1:25:51un scalaire. Alors ça ça va vous donner
  2278. 1:25:54c'est-à-dire une ligne de colonne et ça
  2279. 1:25:57c'est de lignes de colonne et cetera. En
  2280. 1:25:58tout cas, chips, il va vous donner la
  2281. 1:26:00forme ou bien le nombre de lignes, le
  2282. 1:26:01nombre de colons qui se trouvent dans le
  2283. 1:26:03le tableau et c'est très important de le
  2284. 1:26:05savoir.
  2285. 1:26:06Alors, si vous voulez savoir le type de
  2286. 1:26:08données parce que quand on stock les
  2287. 1:26:09données dans un tenseur, on peut stocker
  2288. 1:26:11des données de type int, de type float,
  2289. 1:26:13de type double et cetera. Donc si vous
  2290. 1:26:15voulez voir la donnée qui est stockée
  2291. 1:26:17dans le tensur, quel est le type qu'il
  2292. 1:26:18utilise, vous pouvez utiliser des types.
  2293. 1:26:21Donc la propriété des types. Donc ça va
  2294. 1:26:24dans notre cas ici, ça va afficher float
  2295. 1:26:2732, c'est-à-dire c'est un flow 32 bits,
  2296. 1:26:29sachant qu'il y a flow 32 bits, il y a
  2297. 1:26:31flow 64 bit et cetera.
  2298. 1:26:35Alors ça c'est la base des tensurs et
  2299. 1:26:37puis vous avez un certain nombre de
  2300. 1:26:39d'opérateurs sur les tensurs. Maintenant
  2301. 1:26:42si vous voulez faire des opérations sur
  2302. 1:26:43le tensur, je crée par exemple X. Euh
  2303. 1:26:46euh en fait quand vous utilisez Torch
  2304. 1:26:48range euh par exemple C12, c'est que
  2305. 1:26:51vous allez créer un tenseur dont les
  2306. 1:26:52valeurs vont commencer de 0 jusqu'à
  2307. 1:26:55jusqu'à 11. Bon, c'est comme range si
  2308. 1:26:57vous voulez de naille enfin range
  2309. 1:27:00classique.
  2310. 1:27:02Alors là, j'affiche x. Si vous mettez le
  2311. 1:27:05shape, c'est très important, on va
  2312. 1:27:06beaucoup l'utiliser. Par exemple, notre
  2313. 1:27:08X c'est un tableau, une ligne, combien
  2314. 1:27:11de colonnes ?
  2315. 1:27:14Enfin, vous avez un tableau qui contient
  2316. 1:27:15combien d'éléments ? C'est c'est 12.
  2317. 1:27:17Alors maintenant supposant je voudrais
  2318. 1:27:19le le faire un recherchet pour que ça
  2319. 1:27:21soit une matrice de 3 x x 4.
  2320. 1:27:25C'est-à-dire je je voudrais rendre ce
  2321. 1:27:26vecteur là en une en une matrice 3 x 4
  2322. 1:27:30et ben j'utilise tout simplement rehap
  2323. 1:27:32trois lignes 4 colonnes.
  2324. 1:27:34Mais quand vous faites 3 x 3 x 4 c'est
  2325. 1:27:3612. Il y aura toujours les 12 nombres.
  2326. 1:27:39Ensuite, si vous voulez avoir extraire
  2327. 1:27:42une seule colonne d'un d'un tensor, donc
  2328. 1:27:45vous pouvez utiliser par exemple ici, je
  2329. 1:27:46vais extraire la la colonne numéro 1,
  2330. 1:27:49c'est X entre crochet. Vous voyez ça
  2331. 1:27:52c'est l'abscisse et ça l'ordonnée. Si
  2332. 1:27:54vous mettez ici deux points, ça veut
  2333. 1:27:55dire quoi ? C'est toutes les lignes.
  2334. 1:27:58C'est-à-dire je quand vous mettez de si
  2335. 1:28:00vous mettez par exemple si vous mettez
  2336. 1:28:02dans l'indice de points de points tout
  2337. 1:28:05cours, ça veut dire quoi ? toutes les
  2338. 1:28:07les lignes. Mais par contre, quel
  2339. 1:28:08colonne qui m'intéresse ? C'est c'est un
  2340. 1:28:10c'est-à-dire je vais récupérer la la
  2341. 1:28:13première colonne.
  2342. 1:28:15Si vous voulez récupérer une ligne, vous
  2343. 1:28:17faites l'inverse. Par exemple, la
  2344. 1:28:18première ligne, vous mettez X, c'est la
  2345. 1:28:20la ligne numéro 0 mais pour toutes les
  2346. 1:28:24colonnes, n'est-ce pas ? Bon, ça c'est
  2347. 1:28:26des techniques. Et puis donc ici donc je
  2348. 1:28:28vais créer par exemple de tensur A et B.
  2349. 1:28:32Donc ici c'est de de matrice et puis si
  2350. 1:28:35vous voulez faire le produit matriciel.
  2351. 1:28:38Alors il faut faire il faut faire
  2352. 1:28:39attention, il y a une différence entre
  2353. 1:28:41multiplication
  2354. 1:28:43et
  2355. 1:28:45le caractère à le l'opérateur àas. Alors
  2356. 1:28:49ce que cet opérateur c'est c'est
  2357. 1:28:52multiplier
  2358. 1:28:54les matrices. C'est la le produit
  2359. 1:28:57matriciel. Si vous mettez étoile c'est
  2360. 1:29:00différent.
  2361. 1:29:01Si fois, c'est-à-dire si vous mettez
  2362. 1:29:02étoile, qu'est-ce qu'il fait ? Le
  2363. 1:29:04premier point le le point de l'autre
  2364. 1:29:06matrice point par point. C'est-à-dire
  2365. 1:29:07c'est le produit point à point. Mais si
  2366. 1:29:09vous mettez cet opérateur, il va faire
  2367. 1:29:11le le calcul matriciel, c'est-à-dire le
  2368. 1:29:13produit matriciel comme vous le savez.
  2369. 1:29:16Alors, vous avez min, c'est des
  2370. 1:29:18opérateurs assez classiques, la moyenne
  2371. 1:29:20des nombres, la somme des nombres et
  2372. 1:29:21tout ça. Et puis vous allez maintenant
  2373. 1:29:25d'habitude on on aura toujours besoin de
  2374. 1:29:27commencer avec ça. C'est pour on créer
  2375. 1:29:29ce qu'on appelle le device.
  2376. 1:29:31Alors, pour créer le device, donc vous
  2377. 1:29:33utilisez torche device. Regardez
  2378. 1:29:36l'instruction coda. If torche coda is
  2379. 1:29:40available else CPU, ça veut dire quoi ?
  2380. 1:29:43À quoi est égal device ? ça peut être
  2381. 1:29:45soit coda, soit
  2382. 1:29:46CPO. Et donc c'est une façon de dire
  2383. 1:29:49tout simplement dès le départ, je dois
  2384. 1:29:51savoir dans ma machine est-ce que j'ai
  2385. 1:29:53le CPU ou bien le GPU.
  2386. 1:29:56Et donc voilà. Donc si vous voulez euh
  2387. 1:30:00si vous voulez transférer par exemple un
  2388. 1:30:02tenseur vers le le GPU, on va utiliser
  2389. 1:30:05par exemple torche tensor. Voilà un
  2390. 1:30:07tenseur et je fais tout tout quoi ? Tout
  2391. 1:30:10device. Donc vous voyez donc le tenseur
  2392. 1:30:12il est passé vers le GPO.
  2393. 1:30:15Voilà, donc ça c'est fait. Et puis donc
  2394. 1:30:18vous avez quelque chose de très
  2395. 1:30:19important dans les réseaux neuron
  2396. 1:30:20artificiel, c'est le calcul du gradient.
  2397. 1:30:26C'est extrêmement important. Pourquoi ?
  2398. 1:30:27Parce que je disais, je vous ai expliqué
  2399. 1:30:29tout à l'heure dans dans un dans un
  2400. 1:30:32neuron artificiel, ça
  2401. 1:30:35vous voyez quand on va faire forward,
  2402. 1:30:38nous avons un loss, n'est-ce pas ? Et
  2403. 1:30:41donc comment je peux régler les
  2404. 1:30:43paramètres les poids et les les billets
  2405. 1:30:46qui vont minimiser le loss ? Bah les D
  2406. 1:30:48c'est ça c'est cette formule que que
  2407. 1:30:50vous voyez ici. Donc la mise à jour du
  2408. 1:30:52poids c'est que le paramètre égal le
  2409. 1:30:54paramètre actuel plus alors ce ce la
  2410. 1:30:58plaent
  2411. 1:31:00c'est la dérivée c'est la dérivée du
  2412. 1:31:03l'os par rapport au poids ou bien par
  2413. 1:31:06rapport au billet. Et donc nous
  2414. 1:31:08[grognement] aurons besoin de calculer
  2415. 1:31:09le ce qu'on appelle le gradient. Et donc
  2416. 1:31:12pour pouvoir calculer le gradient, il
  2417. 1:31:13faut savoir le faire avec P torche.
  2418. 1:31:20Et bien vous avez deux façons de faire.
  2419. 1:31:22Il y a une une façon un peu
  2420. 1:31:23particulière. Donc par exemple,
  2421. 1:31:24regardez, je vais je vais je vais par
  2422. 1:31:28exemple j'ai un X é= torche tensur 2,
  2423. 1:31:31c'est-à-dire GX = 2 GW = 3. OK ? Alors
  2424. 1:31:38quand vous créez un torche, il y a un
  2425. 1:31:39paramètre qui s'appelle require grad.
  2426. 1:31:42Alors c'est égal à true, ça veut dire
  2427. 1:31:45quoi ? Ça veut dire que quand vous
  2428. 1:31:47faites quand vous calculez une variable
  2429. 1:31:50qui dépend de W, bah automatiquement
  2430. 1:31:54Pyth il calcule le gradient.
  2431. 1:31:58Alors ça je vais vous l'expliquer en
  2432. 1:31:59détail. Donc en tout cas, vous allez
  2433. 1:32:00avoir ça c'est c'est un paramètre que
  2434. 1:32:02vous allez beaucoup voir. Par exemple B
  2435. 1:32:07é= torche tensor 1 require grade ég à 1
  2436. 1:32:10égal égal à true. Supposant je veux
  2437. 1:32:12faire un calcul, je veux calculer y = wx
  2438. 1:32:16+ b. Et bien quand je fais y = wx + b,
  2439. 1:32:23ben qu'est-ce qui va se passer ? Bah il
  2440. 1:32:24fait le calcul.
  2441. 1:32:29Donc vous avez W mais en même temps
  2442. 1:32:31Python il il crée ce qu'on appelle le
  2443. 1:32:33graphe des opérateurs.
  2444. 1:32:35Alors comment il le fait ? Donc il va
  2445. 1:32:36prendre il va créer un graphe de de de
  2446. 1:32:39des opérateurs. Vous avez W = 3 X = 2.
  2447. 1:32:43On va faire l'opération. Regardez W x
  2448. 1:32:46x. On va multiplier. Donc il y a un
  2449. 1:32:48opérateur de multiplication
  2450. 1:32:51et puis on va avoir 6. Et puis on va
  2451. 1:32:54ajouter quoi ? P et le B égal à égal à
  2452. 1:32:57combien ? Égal 1. Donc ici, quelle est
  2453. 1:32:59l'opération qu'on va faire ? C'est plus
  2454. 1:33:01il va faire l'addition et puis par la
  2455. 1:33:04suite donc là on va avoir y é= é= à 7.
  2456. 1:33:09Et puis on va calculer le le los. Par
  2457. 1:33:12exemple, je voudrais calculer le le loss
  2458. 1:33:14égal à y. Supposons j'écris juste une
  2459. 1:33:17valeur comme ça y - 10 au carré,
  2460. 1:33:20n'est-ce pas ? Supposons que le ça c'est
  2461. 1:33:22le supposons que y c'est la sortie et 10
  2462. 1:33:25c'est le la sortie réelle. Donc je fais
  2463. 1:33:28la différence au carré par exemple. Et
  2464. 1:33:31dans ce cas-là, qu'est-ce qui va se
  2465. 1:33:32passer ? Il va prendre encore y, il va
  2466. 1:33:34prendre 10, il va faire euh voilà la
  2467. 1:33:38soustraction, ça va donner une
  2468. 1:33:40opération, c'est - 3 et ensuite il va
  2469. 1:33:43faire au carré. Il y a un opérateur au
  2470. 1:33:45carré qu'il va faire et ça va vous
  2471. 1:33:46donner le los égal
  2472. 1:33:479
  2473. 1:33:489.
  2474. 1:33:49Et donc vous voyez comment il fait le il
  2475. 1:33:51fait en fait Porche, c'est que euh c'est
  2476. 1:33:55parce que vous avez fait ça, vous avez
  2477. 1:33:57require grade égal à tr, c'est que quand
  2478. 1:33:59vous faites les calculs qui dépend de
  2479. 1:34:02ces ces ces paramètres, il crée
  2480. 1:34:04automatiquement ce graphe d'opération.
  2481. 1:34:08Pourquoi il crée ce graphe ? Parce que
  2482. 1:34:09quand il a ce graphe, si vous lui
  2483. 1:34:11demandez je veux calculer le gradient,
  2484. 1:34:13c'est c'est grâce à ce graphe qu'il
  2485. 1:34:15calcule la dérivée. La dérivée,
  2486. 1:34:17c'estàdire ce gradient.
  2487. 1:34:19Et donc ce qui fait que c'est un petit
  2488. 1:34:21détail. Alors par exemple ici si vous
  2489. 1:34:22voulez maintenant si si vous voulez
  2490. 1:34:25calculer le gradient avec P torche si
  2491. 1:34:28vous voulez calculer le gradient et il
  2492. 1:34:31par exemple vous voulez dériver vous
  2493. 1:34:33voulez calculer la dérivée du los
  2494. 1:34:36par rapport à W
  2495. 1:34:38hein la dérivée du los par rapport à à W
  2496. 1:34:43ou bien la dérivée du los par rapport au
  2497. 1:34:45billet. Et ben qu'est-ce qu'on va faire
  2498. 1:34:47? On va utiliser tout simplement l'OS on
  2499. 1:34:49appelle la fonction backward.
  2500. 1:34:52Alors la fonction backward qu'est-ce
  2501. 1:34:54qu'elle fait ? C'est elle qui calcule le
  2502. 1:34:56gradient.
  2503. 1:34:58Donc automatiquement si vous voulez
  2504. 1:34:59connaître le gradient par exemple D de
  2505. 1:35:01los par rapport à DW, il suffit
  2506. 1:35:03d'utiliser euh d'aller vers le le tenur
  2507. 1:35:08de W et vous faites appel à une
  2508. 1:35:10propriété qui s'appelle grad,
  2509. 1:35:13c'est-à-dire le gradient.
  2510. 1:35:15Alors c'est donc si vous faites item
  2511. 1:35:16donc ça va vous donner la valeur ça va
  2512. 1:35:17vous donner cette valeur là c'est moins
  2513. 1:35:21- 12 voyez donc la dérivée des par
  2514. 1:35:22rapport à DW c'est 12 ici la dérivée des
  2515. 1:35:26par rapport à DB c'est - 6 et donc cette
  2516. 1:35:30fonction ça c'est il faut noter une
  2517. 1:35:32chose importante c'est deux choses
  2518. 1:35:33premièrement c'est que quand vous voulez
  2519. 1:35:35optimiser des paramètres
  2520. 1:35:38le réseau de neurone les paramètres d'un
  2521. 1:35:39réseau de neurone on les les les poids W
  2522. 1:35:42et les billets B et bien les points W et
  2523. 1:35:46les B, il faudrait qu'il soit en mode
  2524. 1:35:49require grade égal tr pourquoi parce
  2525. 1:35:52qu'on aura besoin de calculer la dérivée
  2526. 1:35:54du los par rapport à ces paramètres pour
  2527. 1:35:56trouver quel est le réglage à faire pour
  2528. 1:36:00pouvoir minimiser le
  2529. 1:36:02le donc ça c'est un petit détail
  2530. 1:36:04important donc ici on peut le faire de
  2531. 1:36:06cette manière mais il y a une autre
  2532. 1:36:07façon pour calculer le gradient il
  2533. 1:36:09suffit donc d'utiliser torche auto grad
  2534. 1:36:13Alors quand vous mettez t grade
  2535. 1:36:17d grade et vous mettez par exemple loss
  2536. 1:36:19et W, ça veut dire vous calculez la
  2537. 1:36:22dérivée du L par rapport à W. Alors si
  2538. 1:36:25je vais mettre W et B, ça veut dire je
  2539. 1:36:27vais faire les deux en même temps. Je
  2540. 1:36:28calcule la dérivée des los par rapport à
  2541. 1:36:30W et je calcule également la dérivée des
  2542. 1:36:33los par rapport à B. Donc ici vous voyez
  2543. 1:36:35DW DB je les affich.
  2544. 1:36:39OK ? Donc notez bien que ça c'est un
  2545. 1:36:41petit détail. Si vous avez deux façons
  2546. 1:36:44pour euh calculer
  2547. 1:36:47le le le gradient, le premier c'est
  2548. 1:36:51d'utiliser backward,
  2549. 1:36:54n'est-ce pas ? Parce que quand vous
  2550. 1:36:55faites backward, automatiquement et il
  2551. 1:36:57fait il revient en arrière, il calcule à
  2552. 1:37:00travers ce c'est-à-dire ce graphe
  2553. 1:37:02d'opérateur, il calcule le gradient.
  2554. 1:37:05La deuxième c'est de faire appel torche
  2555. 1:37:07auto autograde. Donc autograde. Donc
  2556. 1:37:10vous voyez donc il vous il vous permet
  2557. 1:37:11aussi également de de calculer le
  2558. 1:37:12gradient et ça on en aura besoin. Alors
  2559. 1:37:15maintenant du moment que une fois que
  2560. 1:37:17vous faites ça, une fois que vous savez
  2561. 1:37:18maintenant cette idée là de du gradient
  2562. 1:37:22maintenant après vous allez essayer de
  2563. 1:37:23créer un premier un petit réseau de
  2564. 1:37:26neuron. Euh tout simplement comment on
  2565. 1:37:28va faire ? Et ben, on va tout simplement
  2566. 1:37:30si vous voulez créer un un réseau de
  2567. 1:37:33neuron, vous pouvez utiliser vous
  2568. 1:37:35importer torche euh NN N c'est Nal
  2569. 1:37:38network
  2570. 1:37:40n et après vous utilisez NN linear.
  2571. 1:37:44Donc je vais créer un modèle linéaire et
  2572. 1:37:48quand vous créez un modèle linéaire,
  2573. 1:37:49vous spécifiez il y a combien de
  2574. 1:37:51neurones input
  2575. 1:37:54l'entrée,
  2576. 1:37:56il y aura combien output ? Alors ici
  2577. 1:37:59donc j'ai ici par exemple trois input et
  2578. 1:38:01la sortie c'est 1. Alors maintenant dans
  2579. 1:38:04mon cas le input c'est x, il y aura
  2580. 1:38:06trois nombres 1 2 et 3. Ça c'est le
  2581. 1:38:09input x. Et puis maintenant si vous
  2582. 1:38:12voulez faire le forward si vous voulez
  2583. 1:38:14faire predict alors c'est pour faire un
  2584. 1:38:17prédict avec P, il suffit d'utiliser
  2585. 1:38:19modèle entre parenthèses X. En fait de
  2586. 1:38:21façons de faire soit vous mettez modèle
  2587. 1:38:24entre parenthèses X ou bien modèle
  2588. 1:38:27predict.
  2589. 1:38:28X. Bon, généralement, on n pas besoin de
  2590. 1:38:30mettre la méthode predict mais en
  2591. 1:38:32principe c'est le mais quand vous mettez
  2592. 1:38:34modèle X, c'est-à-dire c'est le forward,
  2593. 1:38:36c'est-à-dire je donne le X à l'entrée et
  2594. 1:38:39qu'est-ce que j'obtiens à la sortie ? Le
  2595. 1:38:40Y
  2596. 1:38:41le Y.
  2597. 1:38:42OK ? Donc vous affichez la sortie Y,
  2598. 1:38:45vous affichez donc si vous voulez voir
  2599. 1:38:47les les les poids, c'est-à-dire W et les
  2600. 1:38:51paramètres W et B. Donc vous pouvez
  2601. 1:38:53utiliser modèle weight si vous voulez
  2602. 1:38:55voir les poids et modèle bias si vous
  2603. 1:38:57voulez voir les billets. Et puis si vous
  2604. 1:39:00voulez dessiner une image, ça c'est peut
  2605. 1:39:02être utile. Si vous voulez dessiner une
  2606. 1:39:04image qui vous donne une idée sur le sur
  2607. 1:39:07le graphe de d'opérateurs qui sont
  2608. 1:39:09générés, ben vous faites appel. Vous
  2609. 1:39:11aurez juste besoin d'importer un autre
  2610. 1:39:13package qui s'appelle torche euh vision.
  2611. 1:39:17Et vous importez une fonction make dot.
  2612. 1:39:19Et quand vous faites ici make dot, euh
  2613. 1:39:22vous allez tout simplement lui donner y
  2614. 1:39:24et les paramètres. Et tout simplement
  2615. 1:39:26les paramètres, c'est tout simplement
  2616. 1:39:27c'est modèle
  2617. 1:39:29named parameters. Et puis vous
  2618. 1:39:32enregistrez, vous faites render et vous
  2619. 1:39:34enregistrez ça dans un fichier format
  2620. 1:39:36PNG. Donc il va vous donner une image,
  2621. 1:39:38vous pouvez l'avir et ça va vous donner
  2622. 1:39:39une idée. Alors on voit clairement ici
  2623. 1:39:42qu'est-ce que nous allons avoir.
  2624. 1:39:43C'est-à-dire notre réseau de Noron,
  2625. 1:39:45qu'est-ce qu'il fait ? Ben, il fait ses
  2626. 1:39:46ses opérations comme ça. C'est clair ?
  2627. 1:39:48Mais ici donc est-ce que j'ai entraîné
  2628. 1:39:50le modèle ? Non. Donc j'ai créé juste un
  2629. 1:39:52un réseau, je fais forward et ça me
  2630. 1:39:54donne ça.
  2631. 1:39:57Alors maintenant si vous voulez créer un
  2632. 1:39:59un réseau de neuron avec si vous voulez
  2633. 1:40:01un ce qu'on appelle un multilayer
  2634. 1:40:04perceptant, c'est MLP.
  2635. 1:40:08Alors vous avez deux façons de
  2636. 1:40:09travailler. Donc vous pouvez directement
  2637. 1:40:11aller créer un modèle comme ça. Je crée
  2638. 1:40:13modèle ég n
  2639. 1:40:17séquentiel.
  2640. 1:40:18Alors, séquencier, c'est-à-dire je vais
  2641. 1:40:20créer un modèle séquenciel dansquel je
  2642. 1:40:22vais empiler un ensemble de couches.
  2643. 1:40:24Alors, c'est quoi la première couche ?
  2644. 1:40:26Voyez donc la première couche, il y aura
  2645. 1:40:28combien de de il aura combien input ? 4
  2646. 1:40:33etoutput c'est 16 par exemple, il y aura
  2647. 1:40:3716 neurones euh le la couche et puis euh
  2648. 1:40:41après donc le la couche linéaire donc je
  2649. 1:40:45vais euh appliquer une fonction
  2650. 1:40:47d'activation. Donc si là vous allez
  2651. 1:40:49appliquer une fonction d'activation
  2652. 1:40:50comme sigmu euh reli euh tangente
  2653. 1:40:54hyperbolique. Alors ici donc je vais
  2654. 1:40:56utiliser Relio. Si vous faites
  2655. 1:40:58généralement les CNN vous allez beaucoup
  2656. 1:40:59travailler avec Relio. Je rappelle que
  2657. 1:41:01Relio, qu'est-ce qu'il fait ? il va
  2658. 1:41:03retourner zéro si le nombre est négatif.
  2659. 1:41:07S'il n'est pas s'il est supérieur à
  2660. 1:41:08zéro, il va retourner sa valeur. Ça
  2661. 1:41:10c'est ce qu'il fait. Donc vous voyez
  2662. 1:41:12donc je fais relu et je vais ajouter une
  2663. 1:41:14autre couche dans laquelle input c'est
  2664. 1:41:16combien ? C'est 16 ou output c'est 8.
  2665. 1:41:21Ensuite j'applique une fonction
  2666. 1:41:22d'activation relio et à la fin je vais
  2667. 1:41:25avoir les lard 8 et à la sortie il y
  2668. 1:41:29aura il y aura tr. Alors, ce qui est
  2669. 1:41:32très important ici quand vous créez un
  2670. 1:41:33modèle séquencier, c'est que le output
  2671. 1:41:35de cette de de cette couche doit être
  2672. 1:41:39égal au input de l'autre couche. Ça
  2673. 1:41:42c'est très important. Par exemple, ici,
  2674. 1:41:43vous avez vous pouvez mettre 32 et là il
  2675. 1:41:45faut mettre 32.
  2676. 1:41:48Donc 16 16 8 3. Donc vous allez avoir
  2677. 1:41:51quelque chose comme ça. Alors
  2678. 1:41:53maintenant, le nombre de neurones de
  2679. 1:41:55chaque couche, c'est un hyper paramètre.
  2680. 1:41:56Malheureusement, il y a pas une règle
  2681. 1:41:59qui va vous dire quel est le le meilleur
  2682. 1:42:01nombre d'UR. Généralement, quand vous
  2683. 1:42:03allez faire un modèle, vous allez partir
  2684. 1:42:05sur des des valeurs quelconques, vous
  2685. 1:42:06estimez, vous allez entraîner le modèle.
  2686. 1:42:09Si les performances de votre modèle sont
  2687. 1:42:10bonnes, c'est bon. Si c'est pas le cas,
  2688. 1:42:13vous allez vous allez jouer sur beaucoup
  2689. 1:42:15de paramètres. Je vais augmenter le
  2690. 1:42:17nombre de de neurons, je vais augmenter
  2691. 1:42:19le nombre de couches. Et donc c'est des
  2692. 1:42:21c'est des hyperparamètres.
  2693. 1:42:23Et vous savez que les les épir
  2694. 1:42:24paramètres, on ne peut les déterminer
  2695. 1:42:26que de manière
  2696. 1:42:28par l'expérience.
  2697. 1:42:32C'est-à-dire quand vous faites quand
  2698. 1:42:33vous faites vos TP, vous allez
  2699. 1:42:36réentraîner le modèle plusieurs fois et
  2700. 1:42:37ça consomme du temps et on va le
  2701. 1:42:40réentraîner. On va changer les
  2702. 1:42:41paramètres, on va les hper paramètres,
  2703. 1:42:43on le refit jusqu'à ce que l'on arrive à
  2704. 1:42:46un modèle qui est bien paramétré. OK.
  2705. 1:42:52Non, pas forcément. Il y a pas de de
  2706. 1:42:55règle. Vous pouvez mettre un nombre
  2707. 1:42:56quelconque. Donc, dites-vous si le le
  2708. 1:42:59terme le le nombre de neurones de chaque
  2709. 1:43:02le nombre de couches le nombre de
  2710. 1:43:03neurones de chaque couche, c'est un
  2711. 1:43:05hyperparamètre.
  2712. 1:43:07C'est quoi la différence entre un
  2713. 1:43:08paramètre et un hyperparamètre ? Un
  2714. 1:43:10paramètre, c'est quelque chose qu'on
  2715. 1:43:11peut déterminer, qu'on peut optimiser.
  2716. 1:43:13Un éper paramètre, on ne peut le
  2717. 1:43:15déterminer que de manière empirique.
  2718. 1:43:17Empirérique, c'est-à-dire par
  2719. 1:43:19l'expérience. C'est un peu ça.
  2720. 1:43:24Donc voilà. Donc si vous faites ça, donc
  2721. 1:43:26c'est que vous avez créé un modèle de
  2722. 1:43:28réseau neurone euh qui est séquentiel.
  2723. 1:43:32Alors séquentiel donc c'est un peu on va
  2724. 1:43:34dire vous avez vous allez empiler un
  2725. 1:43:36ensemble de couches la sortie de chaque
  2726. 1:43:39couche devient l'entrée de l'autre de la
  2727. 1:43:40couche suivante et cetera. Alors, sauf
  2728. 1:43:43que donc si vous voulez maintenant vous
  2729. 1:43:45avez le modèle mais de manière pratique
  2730. 1:43:49euh si vous pour créer des modèle plus
  2731. 1:43:50personnalisé, au lieu de faire ça,
  2732. 1:43:54au lieu de de travailler comme ça, on va
  2733. 1:43:56préférer créer une classe. C'est-à-dire
  2734. 1:43:58pour le modèle, on va créer une classe.
  2735. 1:44:01Par exemple, la classe, je vais
  2736. 1:44:02l'appeler MLP. Alors, c'est une classe
  2737. 1:44:05qui va hériter obligatoirement de d'une
  2738. 1:44:08classe qui s'appelle module. Et puis il
  2739. 1:44:11y a le constructeur. Voyez donc ça c'est
  2740. 1:44:13le constructeur. Et dans le constructeur
  2741. 1:44:14vous allez toujours trouver euh super
  2742. 1:44:16init. Donc vous faites appel à la
  2743. 1:44:18méthode init de c'est-à-dire la méthode
  2744. 1:44:21init de la classe parente. Donc si vous
  2745. 1:44:23voulez le super et puis vous allez
  2746. 1:44:26maintenant créer des variables. Alors
  2747. 1:44:28ici si vous mettez self net donc vous
  2748. 1:44:30allez créer une variable que vous allez
  2749. 1:44:32appeler net. À quoi est égal ? Égal ce
  2750. 1:44:34que j'ai fait ici séquentiel. Je mets
  2751. 1:44:37euh mon réseau, n'est-ce pas ? Et puis
  2752. 1:44:39vous serez obligé de redéfinir une
  2753. 1:44:41méthode qui s'appelle
  2754. 1:44:43forward. Et voyez donc la méthode
  2755. 1:44:45forward, qu'est-ce qu'il fait ? On va
  2756. 1:44:46lui donner X, n'est-ce pas ? Qu'est-ce
  2757. 1:44:48qu'il va faire ? Il va tout simplement
  2758. 1:44:50faire return self dot
  2759. 1:44:54net entre parenthèses X. Donc on va
  2760. 1:44:57donner euh si vous voulez x à ce ce ce
  2761. 1:45:02modèle séquentiel, il va nous retourner
  2762. 1:45:04le résultat. Donc une autre façon de
  2763. 1:45:06faire c'est que modèle égal MLP. Donc
  2764. 1:45:07vous avez créé le modèle et puis si vous
  2765. 1:45:09fait vous l'affichez ça va vous donner
  2766. 1:45:11ça. Vous voyez donc vous avez deux
  2767. 1:45:13façons de travailler. Si vous voulez
  2768. 1:45:15créer un modèle simple dans lequel il y
  2769. 1:45:17a pas donc vous pouvez travailler comme
  2770. 1:45:18ça. Et si vous voulez mod créer un
  2771. 1:45:21modèle plus complexe, parfois il y a des
  2772. 1:45:23modèles qui nécessitent de créer une
  2773. 1:45:24classe parce que parfois au lieu de
  2774. 1:45:26faire un simple return ici, on fait
  2775. 1:45:29plein d'opérations pour pouvoir par
  2776. 1:45:31exemple ça on va en parler comme par
  2777. 1:45:34exemple pour créer un un pin ou bien
  2778. 1:45:36pour créer les modèles génératifs,
  2779. 1:45:39parfois on sera obligé de d'utiliser des
  2780. 1:45:42classes.
  2781. 1:45:44Est-ce que c'est clair ?
  2782. 1:45:46C'est clair pour tout le monde ?
  2783. 1:45:48Parfait.
  2784. 1:45:50Alors maintenant les fonctions
  2785. 1:45:52d'activation, j'en ai parlé mais c'est
  2786. 1:45:54bien pour vous de l'activité pratique
  2787. 1:45:56d'afficher ces fonctions d'activation
  2788. 1:45:58pour voir l'allure de chaque fonction.
  2789. 1:46:00Par exemple ici euh je vais générer un
  2790. 1:46:03nombre tenseur x euh dans la valeur y
  2791. 1:46:06est comprise entre - 4 et 4. Il y a
  2792. 1:46:09combien de valeurs que je vais générer
  2793. 1:46:11de 100 valeurs ? Et puis qu'est-ce que
  2794. 1:46:13je vais faire ? Je vais calculer, je
  2795. 1:46:15vais utiliser la fonction rilieux de x,
  2796. 1:46:17tangente hyperbolique de x, sig et puis
  2797. 1:46:20je fais plot. Et quand je fais plot, ça
  2798. 1:46:22va vous donner quelque chose comme ça.
  2799. 1:46:23Et vous avez une idée. Voyez par exemple
  2800. 1:46:25pour la fonction sigmid, regardez sigmid
  2801. 1:46:29il est compris entre quoi ? Minimum
  2802. 1:46:30c'est 0 et le maximum c'est c'est 1.
  2803. 1:46:34Vous voyez Smid il est comme ça. C'est
  2804. 1:46:36la vert, c'est le qui est verte.
  2805. 1:46:38Donc le minimum c'est 0, il est entre 0
  2806. 1:46:42et 1. Alors que tenang hyperbolique, il
  2807. 1:46:46est entre -1 et 1. Alors que par exemple
  2808. 1:46:51reli il est compris entre zéro,
  2809. 1:46:54c'est-à-dire quand quelque chose négatif
  2810. 1:46:56c'est zéro mais quand c'est positif ça
  2811. 1:46:58ça prend la valeur comme ça.
  2812. 1:47:01Bon c'est trois fonctions d'activation
  2813. 1:47:03qui sont les plus utilisées donc il faut
  2814. 1:47:04les connaître.
  2815. 1:47:08Alors ensuite vous avez maintenant
  2816. 1:47:11le la le ce qu'on appelle bon pour
  2817. 1:47:14entraîner un modèle vous avez deux
  2818. 1:47:15étapes forward et backward. Alors il
  2819. 1:47:18faut qu'on explique ça il faut que vous
  2820. 1:47:19le connaissez. D'abord la première c'est
  2821. 1:47:21que quand vous utilisez torche par
  2822. 1:47:23exemple X random. Je vais générer
  2823. 1:47:28je vais générer une matrice par exemple
  2824. 1:47:31un nombre de 5 lignes et 4 colonne. Donc
  2825. 1:47:34ça c'est de manière aléatoire. Et
  2826. 1:47:37qu'est-ce que je vais donner ? Je vais
  2827. 1:47:38donner tout simplement modèle de X. Donc
  2828. 1:47:40je vais prédire si vous voulez je vais
  2829. 1:47:42donner X en entrée. J'ai predicted. Et
  2830. 1:47:45après si vous voulez voir ce qu'il y a
  2831. 1:47:46dans predcted, vous mettez shape puis
  2832. 1:47:48vous mettez x. prédic donc ça vous donne
  2833. 1:47:52donc x type chip c'est 5 l 4 colonnes et
  2834. 1:47:56prédic c'est 5 l plutôt vous avez 5 et 3
  2835. 1:48:00aussi
  2836. 1:48:04alors maintenant los donc
  2837. 1:48:08alors si vous voulez donc entraîner si
  2838. 1:48:12vous voulez entraîner un un modèle un
  2839. 1:48:15réseau neurone donc vous avez besoin de
  2840. 1:48:17choisir le los la fonction erreur
  2841. 1:48:20Et j'ai déjà expliqué le loss il est
  2842. 1:48:22choisi en fonction du type de problème.
  2843. 1:48:24S'il s'agit d'une régression, vous allez
  2844. 1:48:27faire appel à mse loss. C'est mean
  2845. 1:48:31squared error.
  2846. 1:48:34Alors s'il s'agit d'une d'une
  2847. 1:48:35classification, on va utiliser cross
  2848. 1:48:37entropy. Donc ça c'est globalement c'est
  2849. 1:48:39des techniques que vous allez vraiment
  2850. 1:48:43beaucoup manipuler.
  2851. 1:48:46Alors qu'est-ce que je vais faire
  2852. 1:48:46supposant ? Je vais faire quelque chose
  2853. 1:48:48comme ça. Donc j'ai euh euh pred,
  2854. 1:48:51c'est-à-dire y prédiction,
  2855. 1:48:54c'est torche. Supposons que j'ai prédit
  2856. 1:48:56euh ces valeurs 2 et 4 alors que le vrai
  2857. 1:49:00y égal à quoi ? 3 et
  2858. 1:49:03et 5 c'est comme si vous avez fait
  2859. 1:49:05predict, vous avez votre réseau, il a
  2860. 1:49:08prédit euh [raclement de gorge] de 2 et
  2861. 1:49:114 alors que le le vraie valeur c'est 3
  2862. 1:49:14et 5. Alors dans ce cas-là, si je veux
  2863. 1:49:17créer le loss, bah qu'est-ce que je vais
  2864. 1:49:19faire ? Je vais utiliser cette variable.
  2865. 1:49:22Je l'ai appelé criterion régression.
  2866. 1:49:24Donc ça c'est le euh émissionur loss. Et
  2867. 1:49:26ben je lui donne tout simplement euh Y
  2868. 1:49:29predit et Y le le vrai Y et ça me donne
  2869. 1:49:34le loss.
  2870. 1:49:36Alors si vous l'affichez, ça va vous
  2871. 1:49:37donner donc MS égal égal à 1.
  2872. 1:49:41Alors que quand il s'agit d'une
  2873. 1:49:42classification donc on va utiliser
  2874. 1:49:44plutôt cross entropy loss. Et quand il
  2875. 1:49:48s'agit d'un classifieur binaire, on va
  2876. 1:49:50utiliser BCE, c'est-à-dire binary
  2877. 1:49:53crossenthropie.
  2878. 1:49:54Donc ça c'est des des fonction lorsquon
  2879. 1:49:56va utiliser en fonction du type de
  2880. 1:49:58problème. Bah c'est pareil, j'ai ici
  2881. 1:50:00donc des valeurs. Alors sauf que ici
  2882. 1:50:03remarquez que par exemple predict on a
  2883. 1:50:06prédit 2
  2884. 1:50:08ici. Donc euh voilà donc
  2885. 1:50:12j'ai les valeurs zéro. Bon, en tout cas,
  2886. 1:50:13si vous faites le calcul, ça va vous
  2887. 1:50:15donner euh crossenthropie, ça va vous
  2888. 1:50:17donner une probabilité. Ça, c'est ce qui
  2889. 1:50:18est important. Et si cette probabilité
  2890. 1:50:21se vendre quand il est supérieur à 05 ça
  2891. 1:50:23va être telle valeur s'il est inférieur
  2892. 1:50:25ça nous donne une idée comment le
  2893. 1:50:27classifieur il va entre ces décisions.
  2894. 1:50:31Donc notez bien il y a MS loss cross
  2895. 1:50:34entropy loss pour les classifieurs
  2896. 1:50:35multiclasse et BCE euh loss généralement
  2897. 1:50:39c'est euh les classifiurs binaires.
  2898. 1:50:43Alors donc vous connaissez le loss
  2899. 1:50:46maintenant les optimizers.
  2900. 1:50:48Alors l'optimizer c'est quoi ? C'est
  2901. 1:50:50l'algorithme qui permet de de faire de
  2902. 1:50:54mettre à jour les paramètres du modèle
  2903. 1:50:56pour minimiser le loss. Alors
  2904. 1:51:00normalement c'est dans les optimizers,
  2905. 1:51:02il y en a plusieurs. Le les plus
  2906. 1:51:04populaires, il y a SGD, stoicque
  2907. 1:51:06gradient descent, c'est très connu. Il y
  2908. 1:51:08a aussi Adam, c'est très utilisé.
  2909. 1:51:12Alors par exemple ici donc j'ai un
  2910. 1:51:13modèle linéaire, j'ai ici donc j'ai créé
  2911. 1:51:17un optimizer qui est Adam. Mais regardez
  2912. 1:51:19quand vous créez un optimizer comme
  2913. 1:51:21Adam, vous qu'est-ce que vous voulez
  2914. 1:51:23optimiser ? Qu'est-ce qu'on voudrait
  2915. 1:51:26optimiser ? C'est les paramètres du
  2916. 1:51:28modèle, c'est-à-dire les poids et les
  2917. 1:51:30billets. Et bien tout simplement, je
  2918. 1:51:33vais lui donner quoi ? c'est le modèle
  2919. 1:51:35d'autres paramètres et les paramètres
  2920. 1:51:37des modèles, c'est les points et les
  2921. 1:51:39billets. Mais il faut donner learning
  2922. 1:51:42rate.
  2923. 1:51:43Donc rappelez-vous learning ray la la
  2924. 1:51:45vitesse d'apprentissage parce que dans
  2925. 1:51:47la formule que je vous ai montré tout à
  2926. 1:51:49l'heure dans le le neuron
  2927. 1:51:52tout à fait. Regardez, c'est ce MU que
  2928. 1:51:56vous voyez là, c'est learning rate.
  2929. 1:51:58C'est-à-dire lui, qu'est-ce qu'il va
  2930. 1:51:59faire en principe ? il va tout
  2931. 1:52:01simplement Adam, c'est lui qui va faire
  2932. 1:52:03ce travail. Il va prendre le le gradient
  2933. 1:52:06du los par rapport à au poids, il va lui
  2934. 1:52:10ajouter, il va retrancher la la vitesse
  2935. 1:52:12d'apprentissage et après il on obtient
  2936. 1:52:15la nouvelle valeur du poids et on fait
  2937. 1:52:17la même chose pour le billet et on fait
  2938. 1:52:19ça en plusieurs époques et c'est comme
  2939. 1:52:21ça que ça marche.
  2940. 1:52:26Donc Adam c'est un c'est un optimizer
  2941. 1:52:28qu'il faut connaître. Il y a pas, il
  2942. 1:52:31n'est pas le seul, il y en a plusieurs.
  2943. 1:52:32Donc SGD stock gradient des donc voilà.
  2944. 1:52:36Donc c'est comme ça qu'on va créer un un
  2945. 1:52:38optimizer. Maintenant vous connaissez le
  2946. 1:52:39loss, vous connaissez le optimizer, vous
  2947. 1:52:41connaissez les tensurs, vous savez
  2948. 1:52:43comment créer un modèle. vous pouvez
  2949. 1:52:44maintenant l'entraîner.
  2950. 1:52:46Alors, la boucle d'apprentissage. Alors,
  2951. 1:52:47maintenant, ce qui est intéressant dans
  2952. 1:52:49Python, c'est que ça va vous obliger de
  2953. 1:52:51comprendre comment se fait la boucle
  2954. 1:52:53d'apprentissage.
  2955. 1:52:55Alors, regardez bien, je prends
  2956. 1:53:00supposons j'ai x é=
  2957. 1:53:04x par exemple ég t je vais faire random
  2958. 1:53:078. Alors, 81 ça veut dire quoi ? Ça veut
  2959. 1:53:10dire j'ai l une seule colonne
  2960. 1:53:14et je vais calculer y = 2x + 1.
  2961. 1:53:19C'est-à-dire ici donc vous faites une
  2962. 1:53:21fonction de 2 x + 1. Alors ça c'est un
  2963. 1:53:26calcul, c'est-à-dire je connais le c'est
  2964. 1:53:27comme si je connais le l' output vrai
  2965. 1:53:31parce que le output vrai pour moi c'est
  2966. 1:53:32une fonction que je connais déjà. Donc
  2967. 1:53:35c'est quoi mon dataset ? C'est x et y.
  2968. 1:53:39Le input c'est x et le output c'est y.
  2969. 1:53:42Et dans mon cas, j'ai pris ici une
  2970. 1:53:44régression dans laquelle y est égal et 2
  2971. 1:53:46x + 1. Alors maintenant, ce qu'on va
  2972. 1:53:48faire, on va créer un modèle de réseau
  2973. 1:53:49de neurone et on va l'entraîner à ce
  2974. 1:53:52qu'il puisse prédirec le à trouver cette
  2975. 1:53:55relation qui existe entre le output et
  2976. 1:53:57le input. Alors, comment on va faire ?
  2977. 1:53:59Bien, il faut créer un optimizer.
  2978. 1:54:02Donc, on va refaire à peu près ce qu'on
  2979. 1:54:03a fait tout à l'heure. C'est Adam. Donc,
  2980. 1:54:06on va optimiser quoi ? C'est les
  2981. 1:54:07paramètres du modèle. avec le ray, c'est
  2982. 1:54:100,001.
  2983. 1:54:14Et puis on a besoin de loss. Quel est le
  2984. 1:54:16loss qu'on va utiliser ? C'est MSE parce
  2985. 1:54:18que c'est une régression
  2986. 1:54:21et nous avons besoin de rentrer dans une
  2987. 1:54:23boucle d'apprentissage. Donc pour la
  2988. 1:54:25boucle d'apprentissage, nous aurons
  2989. 1:54:27besoin de connaître le nombre de
  2990. 1:54:29d'époques, combien de fois on va répéter
  2991. 1:54:32l'opération. Alors ici par exemple, je
  2992. 1:54:33prends 500. Alors le nombre d'épox c'est
  2993. 1:54:36un hyperparamètre. Je peux pas savoir
  2994. 1:54:38est-ce que je vais mettre 10 ou au
  2995. 1:54:40départ je vais partir avec un nombre et
  2996. 1:54:42après je vais voir si c'est si ça
  2997. 1:54:44marche. Et ben qu'est-ce qu'on fait ? On
  2998. 1:54:46va tout simplement fa euh faire un for
  2999. 1:54:48pour chaque époque dans range époque
  3000. 1:54:51c'est le nombre c'est-à-dire ça fait on
  3001. 1:54:53va faire varier l'époque de zéro jusqu'à
  3002. 1:54:56jusqu'à 499.
  3003. 1:54:59Qu'est-ce qu'on fait pour chaque pour
  3004. 1:55:01chaque époque ? On va faire prédict. Je
  3005. 1:55:03prends le modèle supposant j'ai simple
  3006. 1:55:06modèle un simple modèle que j'ai créé
  3007. 1:55:08ici c'est il y a le modèle que j'ai créé
  3008. 1:55:11ici a combien de neurones un seul bon on
  3009. 1:55:14va voir parce que c'est c'est c'est
  3010. 1:55:16suffisante parce que c'est une simple
  3011. 1:55:18régression linéaire bah qu'est-ce que je
  3012. 1:55:20fais simple modèle de x je fais predict
  3013. 1:55:23qu'est-ce que j'obtiens j'obtiens y
  3014. 1:55:25predicted.
  3015. 1:55:27Une fois que j'ai predcted je connais
  3016. 1:55:29déjà la sortie réelle y. Donc je dois
  3017. 1:55:32calculer l'erreur. Et pour calculer
  3018. 1:55:35l'erreur, donc je vais utiliser los égal
  3019. 1:55:37à quoi ? Critérium les ms los. Je donne
  3020. 1:55:43predicted
  3021. 1:55:45et ça me donne le loss. Donc vous voyez
  3022. 1:55:48donc je connais l'erreur. Qu'est-ce qui
  3023. 1:55:49reste maintenant ? Il faut minimiser
  3024. 1:55:51cette cette erreur. Et par pour
  3025. 1:55:53minimiser l'erreur, regardez ce que je
  3026. 1:55:55vais faire. D'abord, il y a deux
  3027. 1:55:56opérations importantes. Optimizer zé
  3028. 1:55:59grat. Pourquoi ? Il faut d'abord
  3029. 1:56:02initialiser les gradients parce que à
  3030. 1:56:04chaque fois que je vais utiliser
  3031. 1:56:05backword,
  3032. 1:56:07il va calculer les gradients. Et si on
  3033. 1:56:10ininitialise pas à chaque fois les
  3034. 1:56:11gradients, il va toujours ajouter des
  3035. 1:56:13gradients au gradients qui qui sont déjà
  3036. 1:56:15calculés. Ça ça va foncer le calcul.
  3037. 1:56:18Donc c'est pour cela il faut pas oublier
  3038. 1:56:19que dans la boucle quelque part, il faut
  3039. 1:56:21toujours faire appel à la à la méthode 0
  3040. 1:56:24grade. C'est-à-dire on va initialiser
  3041. 1:56:26les gradients de pour W et les gradients
  3042. 1:56:28pour B.
  3043. 1:56:30Et puis on va utiliser los backward.
  3044. 1:56:33Rappelez-vous los backward qu'est-ce
  3045. 1:56:35qu'il fait ? Il va calculer les
  3046. 1:56:37gradients du los par rapport au poids et
  3047. 1:56:40donc il calcule les gradients.
  3048. 1:56:42J'ai pas encore je n'ai pas encore mis à
  3049. 1:56:44jour les paramètres. Il va revenir en
  3050. 1:56:46arrière, il va calculer les gradients
  3051. 1:56:49et puis qu'est-ce qui qu'est-ce qui
  3052. 1:56:50reste ? Optimiser. Donc c'est-à-dire
  3053. 1:56:53mettre à jour les les paramètres. Et
  3054. 1:56:56pour cela, c'est on va utiliser
  3055. 1:56:57Optimizer.
  3056. 1:56:59Voyez Adam et on va utiliser Optimizer
  3057. 1:57:02Step. Donc optimizer step, qu'est-ce
  3058. 1:57:04qu'il fait ? Il va chercher tous les
  3059. 1:57:06poids, il va régler les poids de façon à
  3060. 1:57:08ce que le lot soit minimum. Et ça ça
  3061. 1:57:12c'est c'est fait. Donc ici donc
  3062. 1:57:13quasiment vous voyez cette boucle
  3063. 1:57:14d'apprentissage, c'est impérative. Il
  3064. 1:57:17faut la comprendre parce que vous allez
  3065. 1:57:18la retrouver dans les modèles génératifs
  3066. 1:57:19tout le temps. C'est comme ça qu'on va
  3067. 1:57:21entraîner le les modèles.
  3068. 1:57:24Et puis on va afficher juste, on va
  3069. 1:57:25loguer l'époque. Mais souvent du moment
  3070. 1:57:28que vous faites parfois des boucles de
  3071. 1:57:301000 époques, ça sert à rien de loguer
  3072. 1:57:32toutes les époques. Je vais se voir ce
  3073. 1:57:34qu'on fait c'est que on va vérifier si
  3074. 1:57:37le reste l'époque module le 100
  3075. 1:57:40c'est-à-dire si le reste de l'époque
  3076. 1:57:42divisé par 100 ég à 0, c'est-à-dire si
  3077. 1:57:44l'époque est un multiple de 100, je vais
  3078. 1:57:47afficher l'époque, j'affiche le loss.
  3079. 1:57:50Donc autrement dit, donc je vais
  3080. 1:57:51afficher l'époque 0, l'époque 100, 200,
  3081. 1:57:53300, 400. Parce que si vous affichez
  3082. 1:57:56pour chaque époque, vous allez polluer
  3083. 1:57:57un peu l'affichage. On a besoin juste de
  3084. 1:57:59voir regarder ce qui nous intéresse. Au
  3085. 1:58:01départ, le los égal à combien ? 9. Et
  3086. 1:58:04après il est descendu à 3 et à partir de
  3087. 1:58:07de de 400 époques, il est déjà à 003.
  3088. 1:58:11Et donc ici ça vous donne une idée
  3089. 1:58:13peut-être de dire peut-être j'aurais pu
  3090. 1:58:15m'arrêter peut-être à à l'époque numéro
  3091. 1:58:18300 ou bien encore il faut ajouter au
  3092. 1:58:21lieu de 500 il faut aller. Mais pour le
  3093. 1:58:23moment je ne sais pas encore est-ce que
  3094. 1:58:25l'essentiel c'est que j'ai une idée sur
  3095. 1:58:27le loss. Maintenant il faut évaluer le
  3096. 1:58:29modèle.
  3097. 1:58:31Donc le le slide que vous voyez là donc
  3098. 1:58:32c'est le c'est c'est la boucle
  3099. 1:58:34d'apprentissage. Oui. Alors en fait euh
  3100. 1:58:38c'est justement c'est que généralement
  3101. 1:58:41les le les optimizers ils font toujours
  3102. 1:58:43le la descente du gradient. C'est c'est
  3103. 1:58:45l'algorithme qui est assez assez assez
  3104. 1:58:47connu. Euh mais en terme de performance
  3105. 1:58:51euh il a par exemple Adam parce que SGD
  3106. 1:58:55c'était le premier optimizer qui était
  3107. 1:58:56créé dans le l'écosystème mais après
  3108. 1:58:59sont venus d'autres algorithmes qui ont
  3109. 1:59:00fait mieux, ils ont ils ont un peu
  3110. 1:59:01amélioré et du coup donc parfois dans le
  3111. 1:59:04ça dépend des situations. Parfois SGD il
  3112. 1:59:07est largement suffisant. Euh parfois si
  3113. 1:59:09vous changez SGD avec Adam, vous voyez
  3114. 1:59:11que votre modèle il apprend mieux. Mais
  3115. 1:59:13de manière générale, Adam, il donne
  3116. 1:59:15toujours mieux que SGD. Voilà. Donc vous
  3117. 1:59:17pouvez regarder, il y a de en terme
  3118. 1:59:20d'algorithme, il y a il y a des
  3119. 1:59:22variantes de l'algorithme, mais
  3120. 1:59:24l'algorithme lui-même de base, c'est la
  3121. 1:59:25descente du gradient.
  3122. 1:59:27OK, c'est clair pour la boucle
  3123. 1:59:30d'apprentissage ? Parfait. Alors
  3124. 1:59:32maintenant, comment évaluer le modèle ?
  3125. 1:59:35Alors, il faut juste noter une chose,
  3126. 1:59:36c'est que dans quand vous travaillez
  3127. 1:59:38avec Porche, donc vous avez deux modes
  3128. 1:59:40de fonctionnement de de du réseau
  3129. 1:59:42neurone. Il y a ce qu'on appelle le mode
  3130. 1:59:44train et le mode EVAL. Il faut faire la
  3131. 1:59:47différence entre les deux, entre train
  3132. 1:59:49et EVAL. Regardez, je crée un modèle, je
  3133. 1:59:52l'appelle deout demo dans lequel je vais
  3134. 1:59:55créer un un je vous savez
  3135. 2:00:00tout à l'heure, j'ai pas parlé de de
  3136. 2:00:02d'un phénomène qui est très important,
  3137. 2:00:04c'est que parfois quand vous faites un
  3138. 2:00:06modèle piloté par les données, vous
  3139. 2:00:08risquez d'avoir un problème de ce qu'on
  3140. 2:00:10appelle surapprentissage overfitting,
  3141. 2:00:13n'est-ce pas ?
  3142. 2:00:15Alors, ça veut dire quoi overfitting ?
  3143. 2:00:20Voilà.
  3144. 2:00:21Mais vous savez quand vous avez un
  3145. 2:00:23modèle qui a surpris supposons
  3146. 2:00:27alors ça quand vous avez un modèle par
  3147. 2:00:31exemple les points de de l'expérience et
  3148. 2:00:34vous voulez par exemple entraîner un
  3149. 2:00:36modèle à trouver le modèle qui va qui va
  3150. 2:00:39ajuster les les nuages de point.
  3151. 2:00:42Et donc si quand vous allez entraîner le
  3152. 2:00:45modèle, vous allez avoir trois
  3153. 2:00:46situations. La première situation
  3154. 2:00:50underfitting sousapprentissage,
  3155. 2:00:52c'est-à-dire le modèle il est loin avec
  3156. 2:00:54la droite, regardez la droite en rouge,
  3157. 2:00:57il est loin de
  3158. 2:00:59de du nuage de de expérimental,
  3159. 2:01:02c'est-à-dire de point.
  3160. 2:01:04Vous avez l'autre cas extrême, c'est
  3161. 2:01:07surapprentissage.
  3162. 2:01:08Le surapprentissage, c'est quand vous
  3163. 2:01:10avez le modèle, il essaie de suivre tous
  3164. 2:01:12les points,
  3165. 2:01:15c'est-à-dire il suit tous les points
  3166. 2:01:16d'apprentissage.
  3167. 2:01:18Et le problème, c'est que c'est quand
  3168. 2:01:20vous allez tester votre modèle en
  3169. 2:01:22utilisant les données d'entraînement,
  3170. 2:01:24vous allez trouver 100 % à peu près ou
  3171. 2:01:26là 99 %. Mais si vous le testez avec les
  3172. 2:01:29données de test qui n'a jamais vu, vous
  3173. 2:01:31allez trouver un taux de performance qui
  3174. 2:01:33est très faible. C'est-à-dire il est il
  3175. 2:01:35est loin de aussi de la réalité parce
  3176. 2:01:37qu'il a il a essayé de suivre que les
  3177. 2:01:39données d'entraînement. Ensite le
  3178. 2:01:41apprentissage, bah il faut savoir que
  3179. 2:01:44dans les réseaux neurones, si vous
  3180. 2:01:45voulez éviter
  3181. 2:01:47si vous voulez éviter un modèle de
  3182. 2:01:50réseau neuron de de tomber dans le
  3183. 2:01:53problème de surapprentissage,
  3184. 2:01:55on crée des couches ce qu'on appelle
  3185. 2:01:57drop out. Dropout.
  3186. 2:02:00Alors, c'est exactement ce que j'ai ici.
  3187. 2:02:04Alors, vous savez quand vous créez un un
  3188. 2:02:06modèle linéaire, vous mettez linear
  3189. 2:02:08linéaire mais à un moment donné, vous
  3190. 2:02:09utilisez dropout. Et quand vous utilisez
  3191. 2:02:12Dropout,
  3192. 2:02:14vous donnez ici euh un nombre, une
  3193. 2:02:17probabilité par exemple de 0,5. Ça veut
  3194. 2:02:19dire quoi ? Ça veut dire tout simplement
  3195. 2:02:21le réseau de neuron quand il arrive à la
  3196. 2:02:23couche de dropout,
  3197. 2:02:25il va désactiver à peu près 50 % des
  3198. 2:02:28neurones qui vont pas faire le calcul.
  3199. 2:02:31C'est une façon de d'éviter que le le
  3200. 2:02:33modèle aille vers le surapprentissage.
  3201. 2:02:36Donc la technique de de repout c'est
  3202. 2:02:38très connu en deep learning parce qu'il
  3203. 2:02:40permet d'éviter le sur apprentissage.
  3204. 2:02:45Alors maintenant pourquoi j'ai fait ça ?
  3205. 2:02:46Parce que si dans un modèle vous avez un
  3206. 2:02:50drop out, dans un modèle vous avez un
  3207. 2:02:53drop out, il faut noter que le mode
  3208. 2:02:56train et le mode EVAL fonctionnent de
  3209. 2:02:58différentes manières.
  3210. 2:03:00C'est ce que vous allez tester ici.
  3211. 2:03:01Regardez donc je crée le modèle M. OK,
  3212. 2:03:05je vais avoir x dans lequel je vais
  3213. 2:03:08mettre que des 1 donc tch on c'estàdire
  3214. 2:03:12je vais avoir un vecteur qui contient de
  3215. 2:03:1410 qui contient que des des 1. Regardez,
  3216. 2:03:17si je fais M train, attention, c'est
  3217. 2:03:20quand je mets M train, ça veut pas dire
  3218. 2:03:22entraîner.
  3219. 2:03:24Je suis juste en train de dire au
  3220. 2:03:25modèle, je voudrais euh euh je voudrais
  3221. 2:03:28me positionner dans le mode
  3222. 2:03:29d'entraînement
  3223. 2:03:31parce que l'entraînement, c'est une
  3224. 2:03:32boucle qu'on va faire. Train, c'est
  3225. 2:03:34juste dire je suis dans le mode
  3226. 2:03:36training. OK ? Si si le modèle est dans
  3227. 2:03:40le mode trend, si regardez si vous
  3228. 2:03:42faites m de x, si vous faites la
  3229. 2:03:45prédiction, ça va vous donner une
  3230. 2:03:46valeur. Regardez les valeurs
  3231. 2:03:49ici, ça va vous donner ça. Mais si vous
  3232. 2:03:51êtes dans le modèle EVAL, si vous mettez
  3233. 2:03:54m modèle point EVAL, ça veut dire que
  3234. 2:03:57vous vous lui dites je suis dans le mode
  3235. 2:03:59le mode évaluation. Ici, je suis dans le
  3236. 2:04:02mode évaluation.
  3237. 2:04:04Si vous faites la même chose, vous
  3238. 2:04:06faites ici mx,
  3239. 2:04:09OK ? Et si vous faites m de x, vous
  3240. 2:04:12allez voir c'est des valeurs qui sont
  3241. 2:04:14différentes.
  3242. 2:04:15Ça veut dire quoi ? Je vous explique.
  3243. 2:04:18Ça veut dire que normalement dans quand
  3244. 2:04:21dans un modèle basé sur P torche, vous
  3245. 2:04:23avez deux modes. Il y a le mode train,
  3246. 2:04:24il y a le mode EVAL.
  3247. 2:04:27Et bien quand vous êtes dans le mode
  3248. 2:04:29train et bien si vous avez si vous avez
  3249. 2:04:32dans votre modèle un une couche dropout,
  3250. 2:04:36il est prise en considération.
  3251. 2:04:39Donc le dropout il est prise en
  3252. 2:04:40considération pendant l'entraînement
  3253. 2:04:43mais si vous êtes dans le mode
  3254. 2:04:45la couche dropout n'est pas prise en
  3255. 2:04:48considération ce qui explique pourquoi
  3256. 2:04:50vous avez la différence. c'est en mode
  3257. 2:04:52trin, il vous donne un résultat et en
  3258. 2:04:55mode il vous donne un autre résultat.
  3259. 2:04:59Mais par contre si
  3260. 2:05:02vous n'avez pas de de drop out par
  3261. 2:05:05exemple dans votre modèle, et bien le
  3262. 2:05:08mode train et le mode EVAL vont donner
  3263. 2:05:10le même résultat. C'est-à-dire que vous
  3264. 2:05:12soyez dans le mode trend ou bien dans le
  3265. 2:05:14mode EVAL, ça va vous donner la même
  3266. 2:05:16chose. Alors ça c'est un petit détail,
  3267. 2:05:18c'est juste il faut le noter. Il y a de
  3268. 2:05:20deux cas. Il y a dropout et batch norm.
  3269. 2:05:24C'est la normalisation parce qu'il y a
  3270. 2:05:25également de la même manière c'est pour
  3271. 2:05:27éviter de surapprentissage, on peut
  3272. 2:05:29utiliser une autre couche de type qui
  3273. 2:05:31s'appelle BNOR.
  3274. 2:05:39Non, c'est un hyper paramètre. Si vous
  3275. 2:05:40mettez par exemple 0,7,
  3276. 2:05:43ça veut dire que si vous lui vous lui
  3277. 2:05:45dites de désactiver 70 % des neurones
  3278. 2:05:480,5, c'est-à-dire quand tu arrives là,
  3279. 2:05:51essaie de supposant ta couche la couche
  3280. 2:05:54la couche, il y a par exemple 100 et
  3281. 2:05:58bien quand on va la couche quand il va
  3282. 2:05:59calculer, il y a que 50 qui vont faire
  3283. 2:06:02les calculs, les autres ils vont rien
  3284. 2:06:03faire.
  3285. 2:06:05Et avec ces techniques, on peut éviter
  3286. 2:06:06ce qu'on appelle le surapprentissage. Ce
  3287. 2:06:08qui serait plus un peu correct, c'est de
  3288. 2:06:11ne pas de ne pas être dans le
  3289. 2:06:13surapprentissage.
  3290. 2:06:15C'est-à-dire au lieu d'être dans le
  3291. 2:06:16surapprentissage, on va utiliser, on va
  3292. 2:06:18déterminer quel est le le le, on va dire
  3293. 2:06:21la droite qui va ajuster le les points.
  3294. 2:06:23OK ? C'estàdire, on est ici quelque part
  3295. 2:06:26comme ça. Par exemple, c'est un modèle.
  3296. 2:06:28Regardez
  3297. 2:06:30séquentiel.
  3298. 2:06:31Alors, je crée un modèle séquentiel et
  3299. 2:06:33cetera. Je le teste, il y a pas de
  3300. 2:06:34problème. Mais supposant, vous avez
  3301. 2:06:36trouvé il y a un problème de
  3302. 2:06:37surapprentissage.
  3303. 2:06:39Si vous trouvez qu'il y a un
  3304. 2:06:39surapprentissage, qu'est-ce que vous
  3305. 2:06:41allez faire ? Vous allez venir quelque
  3306. 2:06:43part ici.
  3307. 2:06:46Donc, vous allez venir quelque part ici.
  3308. 2:06:47Vous allez ajouter NN drop out 05. Et
  3309. 2:06:51peut-être là encore, vous mettez NN drop
  3310. 2:06:53outer
  3311. 2:06:55et vous allez voir que vous allez éviter
  3312. 2:06:57le surapprentissage mais il faut essayer
  3313. 2:07:01plusieurs
  3314. 2:07:03il faut regarder donc jusqu'à ce que
  3315. 2:07:04vous trouvez le le bon modèle.
  3316. 2:07:07Alors, il y a une autre chose qui est
  3317. 2:07:08très importante, c'est que quand vous
  3318. 2:07:10voulez évaluer un un modèle,
  3319. 2:07:15alors quand vous voulez évaluer un
  3320. 2:07:17modèle, donc c'estàd quand vous voulez
  3321. 2:07:19faire la prédiction, quand vous mettez
  3322. 2:07:21par exemple, vous voulez l'évaluer, vous
  3323. 2:07:23n'avez pas envie de calculer les
  3324. 2:07:25gradients parce que les gradients, on
  3325. 2:07:26les calcule uniquement.
  3326. 2:07:30Le graphe le graphe des des opérateurs,
  3327. 2:07:32on le fait, on en a besoin que pour dans
  3328. 2:07:34l'entraînement. On n pas besoin dans la
  3329. 2:07:35prédiction. Donc c'est pour cela que
  3330. 2:07:37quand on veut faire la prédiction dans
  3331. 2:07:39le mode évaluation, on va utiliser Torch
  3332. 2:07:42inference mode, c'est-à-dire il faut
  3333. 2:07:44être dans le mode le mode d'inférence.
  3334. 2:07:46Ça ça évite de recalculer
  3335. 2:07:49les gradients inutilement.
  3336. 2:07:51Alors le notebook que je vous ai partagé
  3337. 2:07:53c'est les bases de P torche il est là.
  3338. 2:07:56OK.
  3339. 2:07:58Alors, vous allez trouver en fait toutes
  3340. 2:08:00toutes les opérations que je viens de de
  3341. 2:08:02vous montrer.
  3342. 2:08:04Alors, d'abord
  3343. 2:08:07alors comment démarrer ?
  3344. 2:08:09Alors, je vous rappelle que pour de pour
  3345. 2:08:11démarrer,
  3346. 2:08:13il faut créer un un projet. Donc, on va
  3347. 2:08:15toujours travailler de la même manière
  3348. 2:08:16que l'année dernière. On va utiliser
  3349. 2:08:19s'il vous plaît s'il vous plaît.
  3350. 2:08:31Alors, on va toujours travailler de la
  3351. 2:08:32même manière que l'année dernière. Donc,
  3352. 2:08:34on va utiliser UVI, n'est-ce pas ?
  3353. 2:08:36Rappelez
  3354. 2:08:38quelles sont les choses pour pour
  3355. 2:08:39commencer ? Parce que pour le moment euh
  3356. 2:08:42donc vous aurez juste besoin de de
  3357. 2:08:43commencer. Alors, vous aurez besoin de
  3358. 2:08:46de créer un dossier. Bon, terminal comme
  3359. 2:08:50d'habitude.
  3360. 2:08:53Alors, dans votre terminal, vous allez
  3361. 2:09:01vous allez créer un dossier.
  3362. 2:09:06Je l'avais par exemple pas torche
  3363. 2:09:11lab.
  3364. 2:09:13Donc ça c'est le dossier.
  3365. 2:09:19Alors c python lab
  3366. 2:09:24et puis vous mettez code et vous ouvrez
  3367. 2:09:26donc ce dossier là avec VS code. OK.
  3368. 2:09:31Alors dans le terminal
  3369. 2:09:34alors je vais voir si vous rappelez des
  3370. 2:09:36commandes de base.
  3371. 2:09:39Alors UV
  3372. 2:09:41UV quoi ? init.
  3373. 2:09:44Voilà. Ensuite, alors je rappelle que V
  3374. 2:09:48init, qu'est-ce qu'il permet de faire ?
  3375. 2:09:50Il va vous créer un un projet dans
  3376. 2:09:52lequel vous avez euh euh en fait euh
  3377. 2:09:55Pipe Project Tomel et en fait dans Pipe
  3378. 2:09:58Project, c'est là où on va trouver les
  3379. 2:09:59dépendances donc qu'on va installer. Et
  3380. 2:10:03bien vous utilisez ensite vous créez un
  3381. 2:10:05environnement virtuel en utilisant UV
  3382. 2:10:08VV.
  3383. 2:10:11Alors, you virtuel virtuel environment.
  3384. 2:10:17Voilà, il vous crée donc le le
  3385. 2:10:19l'environnement et puis vous allez
  3386. 2:10:20activer l'environnement. Et pour
  3387. 2:10:22l'activer, vous avez ici le pour si vous
  3388. 2:10:25avez le Mac, vous utilisez source cette
  3389. 2:10:28commande. Si vous avez Windows, vous
  3390. 2:10:30allez taper la commande d'activation.
  3391. 2:10:33Donc j'ai activé l'environnement. Une
  3392. 2:10:35fois que vous faites ça, vous allez
  3393. 2:10:37ajouter les dépendances avec ads. Alors,
  3394. 2:10:41la première dépendance qu'on aura
  3395. 2:10:43toujours besoin d'installer, c'est iPie
  3396. 2:10:45Kern parce qu'on va créer des fichiers
  3397. 2:10:48notebook. Donc
  3398. 2:10:51kernel
  3399. 2:10:54kernel. Oui,
  3400. 2:10:57voilà.
  3401. 2:11:00Alors, une fois que
  3402. 2:11:02vous êtes bien branché. Alors euh donc
  3403. 2:11:04iPie kernel et puis vous créez le le
  3404. 2:11:07notebook
  3405. 2:11:08créer un fichier que vous allez appeler
  3406. 2:11:11lab
  3407. 2:11:13Pyth
  3408. 2:11:16ipie NB notebook
  3409. 2:11:20et puis vous allez sélectionner le
  3410. 2:11:23l'environnement virtuel. noyau, c'est
  3411. 2:11:25c'est celui-là que nous avons créé
  3412. 2:11:27l'environnement
  3413. 2:11:28et puis vous faites le test et et quand
  3414. 2:11:32vous faites le le test, si tout va bien,
  3415. 2:11:34c'est que votre environnement il est
  3416. 2:11:35configuré et si vous voulez travailler
  3417. 2:11:38avec P torche, vous aurez besoin
  3418. 2:11:40d'installer un certain nombre de
  3419. 2:11:41dépendances. Alors, quelles sont les
  3420. 2:11:42dépendances ?
  3421. 2:11:45Alors, je vais vous les montrer. Donc,
  3422. 2:11:47UV ad torche.
  3423. 2:11:57Alors, c'est une librairie qui est un
  3424. 2:11:59peu qui contient beaucoup beaucoup de
  3425. 2:12:01choses. Donc, c'est-à-dire euh une fois
  3426. 2:12:04que vous avez installé Torche,
  3427. 2:12:06j'attends. Ben, je vais le prendre,
  3428. 2:12:08copier
  3429. 2:12:10et je vais le mettre ici.
  3430. 2:12:14ouvrir dans le finder
  3431. 2:12:21coller.
  3432. 2:12:25Alors ça c'est le notebook. Voilà, c'est
  3433. 2:12:27celui-là.
  3434. 2:12:33Bon voilà donc et là vous allez trouver
  3435. 2:12:36un peu ce que je viens de dire. Donc ici
  3436. 2:12:39vous vous lui affectez l'environnement.
  3437. 2:12:44Vous associez l'environnement au
  3438. 2:12:46notebook.
  3439. 2:12:48On attend un petit moment. Voilà. Ben,
  3440. 2:12:51[grognement] il me dit que voyez donc
  3441. 2:12:52ici dans mon cas ici, je n'ai pas mat
  3442. 2:12:55plot lib. D'accord ? C'est que donc mat
  3443. 2:12:58plot, ça dépend des versions de Python
  3444. 2:13:00que vous avez. Donc ici, je dois
  3445. 2:13:02installer mat plot mat plot lib.
  3446. 2:13:10Alors c'est UV add
  3447. 2:13:14mat plot
  3448. 2:13:17lib.
  3449. 2:13:26Voilà.
  3450. 2:13:38Et vous essayez donc de de tester partie
  3451. 2:13:40par partie. Donc le voilà. Donc ici donc
  3452. 2:13:41je suis juste en train de tester si euh
  3453. 2:13:44ici le coda est disponible ou pas. Alors
  3454. 2:13:46vous voyez dans mon cas vous avez false.
  3455. 2:13:49Alors ça veut pas dire que je n'ai pas
  3456. 2:13:50le GPO. J'ai le GP mais pour le Mac et
  3457. 2:13:53donc pour le Mac vous avez un GPO, c'est
  3458. 2:13:55ce n'est pas Kuda, ce n'est pas Nvidia,
  3459. 2:13:58c'est un GP de Apple, n'est-ce pas ?
  3460. 2:14:02Donc ce qui fait que pour pouvoir
  3461. 2:14:04l'exploiter, je devrais faire autre
  3462. 2:14:07chose. Donc mais si vous avez un GPU
  3463. 2:14:10Nvidia, donc vous allez voir ici true.
  3464. 2:14:14Et puis donc vous avez la partie des
  3465. 2:14:16tensurs. Bon, ça je l'ai expliqué tout à
  3466. 2:14:18l'heure. Vous avez la multiplication des
  3467. 2:14:20tenseurs avec l'opérateur que vous voyez
  3468. 2:14:22ici pour tester.
  3469. 2:14:26Vous avez le device. vérifier ce que le
  3470. 2:14:29device c'est c'est un CPU ou bien un
  3471. 2:14:32GPU. Ça c'est pour le calcul des
  3472. 2:14:34gradients
  3473. 2:14:38autograde.
  3474. 2:14:40Donc ça je l'ai expliqué tout à l'heure.
  3475. 2:14:44Ça c'est la première manière de faire
  3476. 2:14:47avec backward et la deuxième c'est en
  3477. 2:14:49utilisant Autograde,
  3478. 2:14:55c'est-à-dire c'est l'activité pratique
  3479. 2:14:56que qu'on va travailler la semaine
  3480. 2:14:58prochaine. Euh quelques exercices sur
  3481. 2:15:00sur P torche. Mais c'est quelque chose
  3482. 2:15:03qui est fondamental parce que c'est tous
  3483. 2:15:06les TP que vous allez faire, on va
  3484. 2:15:07toujours retrouver les mêmes les mêmes
  3485. 2:15:09concepts.
  3486. 2:15:14Est-ce qu'il y a des questions ? Pas de
  3487. 2:15:16questions. Tranquille. OK.
  3488. 2:15:19Alors, il reste encore quelques
  3489. 2:15:21éléments. Donc euh
  3490. 2:15:27alors tout ça en principe avec Python,
  3491. 2:15:30s'il vous plaît.
  3492. 2:15:35Alors, en principe avec
  3493. 2:15:37Porche. Donc si vous avez le dataset
  3494. 2:15:40globalement vous pouvez toujours
  3495. 2:15:41l'entraîner. On a vu comment faire mais
  3496. 2:15:43souvent dans la majorité des cas c'est
  3497. 2:15:45que on a les dataset qui contient une
  3498. 2:15:47grande quantité de de données et donc
  3499. 2:15:50pour pouvoir pour pouvoir entraîner le
  3500. 2:15:53modèle on va entraîner le modèle avec ce
  3501. 2:15:55qu'on appelle des batchs. C'est-à-dire
  3502. 2:15:58je vais prendre un batch, c'est une
  3503. 2:16:00partie de de du dataset. Et donc vous
  3504. 2:16:03aurez besoin d'un certain nombre de de
  3505. 2:16:05classes qui sont très importantes euh
  3506. 2:16:07qui s'appelle euh qui s'appelle tout
  3507. 2:16:09simplement de data loader. En fait data
  3508. 2:16:13loader pour PE donc c'est euh c'est des
  3509. 2:16:16classes euh c'est des objets qui
  3510. 2:16:18permettent de charger les données. Une
  3511. 2:16:21fois que vous chargez les données, ça
  3512. 2:16:22vous permet de manipuler facilement les
  3513. 2:16:24données. Alors vous vous avez déjà
  3514. 2:16:26travaillé beaucoup avec
  3515. 2:16:29vous avez beaucoup travaillé avec cycet
  3516. 2:16:31Le n'est-ce pas ? Oui.
  3517. 2:16:33Donc avec L souvent vous commencez par
  3518. 2:16:35Pondas pour lire le dataset et puis vous
  3519. 2:16:38faites euh
  3520. 2:16:41test split split, c'est-à-dire vous
  3521. 2:16:44faites les les splits et vous vous avez
  3522. 2:16:47un ensemble de fonctions qui qui vous
  3523. 2:16:49permettent de gérer ça. Mais dans le cas
  3524. 2:16:50du deep learning, on a on a souvent
  3525. 2:16:53besoin d'utiliser ce datat load de ta
  3526. 2:16:56loader. Voilà comment le créer. Donc ici
  3527. 2:16:59regardez donc je vais créer un dataset.
  3528. 2:17:02Supposons vous avez x é= je vais créer
  3529. 2:17:06un
  3530. 2:17:08un random de combien de lignes ?
  3531. 2:17:10100
  3532. 2:17:11100 combien de colonnes ? 3,
  3533. 2:17:13c'est-à-dire j'ai combien de variables
  3534. 2:17:14fait X ? 3 3 variables x et puis donc y
  3535. 2:17:19c'est 100 x 1 c'est-à-dire output j'ai
  3536. 2:17:221
  3537. 2:17:22une seule sortie
  3538. 2:17:24et bien je vais créer tout simplement un
  3539. 2:17:25dataset c'est tor des x y une fois que
  3540. 2:17:29vous faites ça je vais créer un loader
  3541. 2:17:32alors comment créer un loader c'est data
  3542. 2:17:34loader je lui donne le dataset et je
  3543. 2:17:37choisis le batch
  3544. 2:17:39alors c'est quoi le batch 16 par exemple
  3545. 2:17:41ici 16 é= à 16 ça veut dire quoi ça veut
  3546. 2:17:44dire Quand je vais faire train,
  3547. 2:17:47il va pour chaque forward, il va prendre
  3548. 2:17:50combien d'exemples ? 16 pour ch pour
  3549. 2:17:53pour chaque turn, pour chaque opération
  3550. 2:17:56de forward, il va prendre 16. Donc il va
  3551. 2:17:59prendre 16 par 16 si vous voulez. OK ?
  3552. 2:18:02Et donc euh cette valeur là, la même
  3553. 2:18:04chose, c'est un hyperparamètre et
  3554. 2:18:06souvent vous avez besoin de la régler.
  3555. 2:18:08Alors, chauffle égal à tr, c'est pour
  3556. 2:18:10lui demander de faire chauffle,
  3557. 2:18:12c'est-à-dire les données il va faire il
  3558. 2:18:14va les mélanger
  3559. 2:18:16parce que parfois il se trouve que dans
  3560. 2:18:17vos données ici, ils sont ordonnés selon
  3561. 2:18:19les classes. Euh et après vous faites
  3562. 2:18:21chaf, il va les mettre aléatoire pour ne
  3563. 2:18:23pas euh parce que ce n'est pas pratique
  3564. 2:18:25d'avoir un dataset. Par exemple, la
  3565. 2:18:27première partie des données, il prédit
  3566. 2:18:29la classe 1 et la deuxème partie prédit
  3567. 2:18:31la classe 2. Ça c'est pas bon. Pourquoi
  3568. 2:18:34? parce que c'est dans l'entraînement,
  3569. 2:18:35vous allez dire pour ces données, c'est
  3570. 2:18:37la classe 1 et après vous passez à la
  3571. 2:18:39classe 2. Et à la fin, il va beaucoup se
  3572. 2:18:42rappeler de la classe 2 plus qu'à la
  3573. 2:18:44classe 1. C'est-à-dire, vous allez créer
  3574. 2:18:46ce qu'on appelle un modèle biaisé pour
  3575. 2:18:48la classe 2. Alors pour cela, on va
  3576. 2:18:50utiliser souvent chauffle. Donc on va
  3577. 2:18:52ici par exemple dans notre asset, la
  3578. 2:18:55première ligne c'est la classe 0, la
  3579. 2:18:57deuxème ligne c'est la classe 1. La 3è
  3580. 2:19:00ligne c'est la classe 0, la 4e il fait
  3581. 2:19:02ce chaffle là. Ça permet, c'est très
  3582. 2:19:04c'est très utile.
  3583. 2:19:06Ben et puis donc vous avez euh souvent
  3584. 2:19:09pour parcourir le loader, on va utiliser
  3585. 2:19:12for X batch, Y batch et in loader. Vous
  3586. 2:19:16affichez tout simplement le le chip si
  3587. 2:19:18vous voulez. Et si vous affichez, vous
  3588. 2:19:20voyez donc chaque bas, il contient
  3589. 2:19:21combien de lignes ? C'est 6.
  3590. 2:19:24C'est-à-dire je vais parcourir le
  3591. 2:19:25dataset par batch pour chaque batch.
  3592. 2:19:28Vous voyez ?
  3593. 2:19:31Alors ici donc j'ai un dataset qui
  3594. 2:19:33contient 100. C'est comme si pour chaque
  3595. 2:19:35itération je vais prendre 16 16 lignes.
  3596. 2:19:38Et ces 16 lign je vais le donner au
  3597. 2:19:40modèle. Je calcule le loss. J'optimise.
  3598. 2:19:43Ensuite je reviens encore pour prendre
  3599. 2:19:45le les les 16 prochains et cetera
  3600. 2:19:48jusqu'à ce que je termine tous les
  3601. 2:19:49batchs et tout ça c'est une époque et
  3602. 2:19:53après je reviens pour la deuxème époque
  3603. 2:19:54la 3è et cetera. OK ?
  3604. 2:19:58Et donc ça vous donne quelque chose
  3605. 2:19:59comme ça. Alors si vous voulez créer par
  3606. 2:20:03exemple la régression linéaire,
  3607. 2:20:06alors ça c'est une régression linéaire
  3608. 2:20:08avec pay torche.
  3609. 2:20:10On va générer un dataset comme ça. Alors
  3610. 2:20:13si vous voulez générer un dataset comme
  3611. 2:20:15ça, vous allez utiliser euh donc torche.
  3612. 2:20:18Je vais prendre X euh line space. Donc
  3613. 2:20:22je vais générer un vecteur X entre - 2
  3614. 2:20:25et et 2. Il y a combien de valeurs ?
  3615. 2:20:28120 valeurs.
  3616. 2:20:29OK.
  3617. 2:20:31En fait, ici un un squeeze, c'est pour
  3618. 2:20:35supprimer la la première dimension.
  3619. 2:20:38C'est-à-dire quoi ? Supposons vous avez
  3620. 2:20:41une matrice vous avez une matrice qui
  3621. 2:20:45contient un seul vecteur. Voyez une
  3622. 2:20:47matrice
  3623. 2:20:49qui contient un seul une seule ligne. Et
  3624. 2:20:53quand vous avez une matrice qui contient
  3625. 2:20:55une seule ligne, bah ça sert à rien. On
  3626. 2:20:58va supprimer la première dimension comme
  3627. 2:20:59ça on va avoir un seul vecteur. Et si
  3628. 2:21:02vous voulez supprimer la première
  3629. 2:21:03dimension de de la matrice, donc comme
  3630. 2:21:05ça, il vous reste que la deuxième
  3631. 2:21:07dimension, c'est-à-dire le le vecteur,
  3632. 2:21:09on utilise cette fonctione. C'est pour
  3633. 2:21:12supprimer la première dimension. C'est
  3634. 2:21:13très utile.
  3635. 2:21:17Bon, ce qu'on va faire, c'est que on va
  3636. 2:21:18calculer ça. On va calculer on va faire
  3637. 2:21:21une régression linéaire en utilisant y =
  3638. 2:21:243x + 2. Mais le problème, si vous
  3639. 2:21:28utilisez 3x + 2, ça va don nous donner
  3640. 2:21:30une ligne.
  3641. 2:21:32Mais moi, je ne veux pas une ligne, je
  3642. 2:21:33veux avoir des données expérimentales,
  3643. 2:21:36c'est-à-dire je vais ajouter un bruit.
  3644. 2:21:39Et donc ici, donc je vais ajouter noise.
  3645. 2:21:41Et c'est quoi le noise ? C'est un bruit.
  3646. 2:21:43Comment je le calcule ? C'est 0,6 x un
  3647. 2:21:45nombre aléatoire de x. Et donc comme ça,
  3648. 2:21:48si je représente si je fais un plot,
  3649. 2:21:51voyez, si vous faites un scatter plot
  3650. 2:21:53pour ce dataset, vous allez avoir un
  3651. 2:21:56nuage de point. Donc vous voyez donc
  3652. 2:21:58qu'est-ce que je viens de faire ici ? Je
  3653. 2:21:59viens de créer un dataset
  3654. 2:22:01qui représente quoi ? Normalement une
  3655. 2:22:04régression.
  3656. 2:22:06Alors c'est quoi l'idée principale ?
  3657. 2:22:07Maintenant, il faut trouver quelle est
  3658. 2:22:08la ligne,
  3659. 2:22:11la droite qui va ajuster les les points,
  3660. 2:22:14c'est-à-dire la droite qui va passer à
  3661. 2:22:15côté de de tous les les points,
  3662. 2:22:18c'està-dire vous faites la régression
  3663. 2:22:20linéaire tout simplement.
  3664. 2:22:22Donc voilà le dataset. Alors si vous
  3665. 2:22:24voulez créer la régression linéaire,
  3666. 2:22:26pour créer une simple régression
  3667. 2:22:27linéaire, vous créez un modèle linéaire.
  3668. 2:22:30Donc vous créez le modèle linéaire. Vous
  3669. 2:22:32voyez combien de neurons
  3670. 2:22:34n pas besoin ici. Je vais utiliser MS MS
  3671. 2:22:38loss et Adam. Je reprends la même boucle
  3672. 2:22:41d'apprentissage. Donc ici donc je vais
  3673. 2:22:44créer un tableau vide dans lequel je
  3674. 2:22:46vais stocker les loss au fur et à mesure
  3675. 2:22:48que les époques avancent.
  3676. 2:22:51Je vais faire varier l'époque de 0
  3677. 2:22:53jusqu'à 300. Et regardez modèle rec trin
  3678. 2:22:57ça veut dire quoi ça ?
  3679. 2:23:00Alors, je rappelle train ça veut pas
  3680. 2:23:02dire entraîner,
  3681. 2:23:03c'est juste je suis dans le mode train.
  3682. 2:23:06Pourquoi c'est très ? Parce que quand je
  3683. 2:23:07je fais l'entraînement, il faut
  3684. 2:23:09s'assurer que vous êtes dans le mode
  3685. 2:23:11train.
  3686. 2:23:13Quand est-ce que c'est important ? Quand
  3687. 2:23:15dans votre modèle, vous avez des
  3688. 2:23:17dropout, n'est-ce pas ? Et comme ici on
  3689. 2:23:20n pas de dropout, même si vous mettez
  3690. 2:23:22pas ça, ça va marcher. C'estàdire ça
  3691. 2:23:25change rien. C'est-à-dire si vous n'avez
  3692. 2:23:27pas des dropout et d'autres notamment
  3693. 2:23:31d'autres d'autres cas particuliers, bah
  3694. 2:23:34c'est-à-dire le le mode train et le mode
  3695. 2:23:36et le mode EVAL, c'est la même chose.
  3696. 2:23:38Donc bref, je suis en mode trend, je
  3697. 2:23:41fais predict modèle de X età j'ai la
  3698. 2:23:44prédiction. Je calcule le loss, je fais
  3699. 2:23:48optimizer 0 grad. Je rappelle, c'est
  3700. 2:23:51pour initialiser le gradient à zé et
  3701. 2:23:54puis je fais backward. Alors backward,
  3702. 2:23:56ça permet de calculer les gradients. Et
  3703. 2:23:58step optimizer step, il permet de de
  3704. 2:24:01mettre à jour les les paramètres.
  3705. 2:24:04Et puis je j'ai un los que je vais
  3706. 2:24:06ajouter à cette à cette liste. Et puis
  3707. 2:24:08donc je voilà à la fin donc je vais
  3708. 2:24:11afficher. Je vois ici déjà le dernier le
  3709. 2:24:15dernier loss, il est 0,34.
  3710. 2:24:19Et donc je vois si je fais un plot du
  3711. 2:24:22loss ici, c'est-à-dire de ce tableau-là,
  3712. 2:24:25je vois que le loss il il 100,
  3713. 2:24:28c'est-à-dire à partir de l'époque numéro
  3714. 2:24:30combien ? 150. Je vois que presque le
  3715. 2:24:34loss il est stabilisé. Donc
  3716. 2:24:36techniquement parlant, je n'ai pas
  3717. 2:24:37besoin d'aller jusqu'à 300 époque.
  3718. 2:24:40Peut-être avec 150 époques, on va
  3719. 2:24:42obtenir le même résultat.
  3720. 2:24:46Donc j'ai entraîné le modèle. Maintenant
  3721. 2:24:48qu'est-ce qu'il faut faire ? Il faut le
  3722. 2:24:50l'évaluer.
  3723. 2:24:52Alors pour l'évaluer, qu'est-ce que je
  3724. 2:24:53vais faire ? Donc je vais utiliser
  3725. 2:24:54modèle EVAL. Donc je suis dans le modèle
  3726. 2:24:57EVAL et je vais utiliser je vais prendre
  3727. 2:24:59le le X c'est-à-dire modèle predict X et
  3728. 2:25:04j'ai la prédiction. OK.
  3729. 2:25:10Alors ici c'est pas très intéressant.
  3730. 2:25:11Pourquoi ? Parce que je vais l'évaluer
  3731. 2:25:12avec les mêmes données d'entraînement,
  3732. 2:25:15n'est-ce pas ? C'est-à-dire je vais je
  3733. 2:25:17vais l'évaluer avec les mêmes données
  3734. 2:25:19que j'ai utilisé pendant l'entraînement.
  3735. 2:25:22Mais dans la réalité, qu'est-ce qu'on
  3736. 2:25:23fait ? c'est que on a un dataset, on va
  3737. 2:25:26le découper en deux parties. Il y a une
  3738. 2:25:29partie pour l'entraînement, il y a une
  3739. 2:25:30partie pour le test. Alors ici donc je
  3740. 2:25:33vais utiliser le même dataset.
  3741. 2:25:37J'ai j'ai le la prédiction.
  3742. 2:25:40OK
  3743. 2:25:42de faire un plot de Y se forme de d'un
  3744. 2:25:46simple plot. Regardez, ça me donne dans
  3745. 2:25:48cette ligne ici.
  3746. 2:25:53Voilà, c'est la droite. La droite en
  3747. 2:25:55bleu, c'est euh c'est bien ce que je
  3748. 2:25:58plotte ici. Regardez, je fais scatter,
  3749. 2:26:01c'est les points. Et après plot, c'est
  3750. 2:26:04euh ici y,
  3751. 2:26:06c'est-à-dire ce que j'ai ce que j'ai
  3752. 2:26:08prédit.
  3753. 2:26:10Et ça me donne B. Si je vois la ligne,
  3754. 2:26:12apparemment, j'ai une ligne qui passe à
  3755. 2:26:16qui va ajuster les points. C'est-à-dire
  3756. 2:26:18c'est cette ligne là, elle minimise
  3757. 2:26:20l'erreur, n'est-ce pas ? Il y a pas de
  3758. 2:26:22surapprentissage parce que s'il y a un
  3759. 2:26:23surapprentissage, je vais avoir quelque
  3760. 2:26:25chose comme ça. Il y a pas de
  3761. 2:26:27sous-apprentissage, c'est-à-dire que la
  3762. 2:26:29droite est il a l'air d'être correct
  3763. 2:26:32mais j'ai besoin d'un score.
  3764. 2:26:34Alors si vous voulez mesurer le score ou
  3765. 2:26:36bien le score d'une régression, on va
  3766. 2:26:39utiliser alors maintenant si vous voulez
  3767. 2:26:41calculer le score d'une régression,
  3768. 2:26:43quelle est la métrique qu'on va utiliser
  3769. 2:26:44? C'est R au carré R squ, n'est-ce pas ?
  3770. 2:26:48Bon, vous savez les les régressions
  3771. 2:26:51c'est R au carré il y a il y a bien sûr
  3772. 2:26:56RMSE, n'est-ce pas ? Ça ça vous donne
  3773. 2:26:59une idée sur l'erreur mais si vous
  3774. 2:27:01voulez calculer le score, vous pouvez
  3775. 2:27:02utiliser la métrique au carré R squ il
  3776. 2:27:06est là. Bah qu'est-ce que vous pour
  3777. 2:27:08utiliser R square avec P torche, vous
  3778. 2:27:11utilisez la classe R2 score. OK ? R
  3779. 2:27:16carré si vous voulez score
  3780. 2:27:18et vous utilisez métrique update.
  3781. 2:27:20Qu'est-ce que je lui donne ? Y
  3782. 2:27:23c'est-à-dire ce qui est prédit et le
  3783. 2:27:24vrai Y. Et je lui demande de calculer la
  3784. 2:27:27métrique et je l'affiche. Et quand je
  3785. 2:27:29l'affiche, regardez ici, ça me donne 97
  3786. 2:27:32%. Donc c'est-à-dire j'ai vraiment dit
  3787. 2:27:34c'est euh mon modèle il est performant à
  3788. 2:27:36hauteur de 97 %. Ça c'est pour la
  3789. 2:27:39régression.
  3790. 2:27:42C'est clair ? Alors ça c'est un très
  3791. 2:27:44simple exemple dans en même temps ça
  3792. 2:27:47vous permet de revenir de voir comment
  3793. 2:27:49créer une régression simple
  3794. 2:27:51et en même temps vous êtes en train de
  3795. 2:27:53pratiquer pche.
  3796. 2:27:56Et puis vous avez un autre exemple de
  3797. 2:27:57classification.
  3798. 2:28:00Alors quelque chose que je ne vous ai
  3799. 2:28:01pas expliqué ici dans au début vous avez
  3800. 2:28:03ce
  3801. 2:28:05torche manuel s = 42 vous savez le site
  3802. 2:28:08quand vous le fixez à une valeur
  3803. 2:28:12parce que dans quand vous faites vous
  3804. 2:28:14créez un modèle il génère des nombres
  3805. 2:28:16aléatoires, n'est-ce pas ? Si vous fixez
  3806. 2:28:19par exemple le SID a une valeur, vous
  3807. 2:28:21êtes sûr que à chaque fois que vous
  3808. 2:28:23réexécutez votre code, il va toujours
  3809. 2:28:25vous donner le même résultat. Parce que
  3810. 2:28:28si vous ne fixez pas le site à une
  3811. 2:28:29valeur, qu'est-ce qui se passe ? Une
  3812. 2:28:31première exécution, il va commencer avec
  3813. 2:28:32des valeurs aléatoires et ça va vous
  3814. 2:28:35donner un résultat. La deuxième
  3815. 2:28:37exécution, il va générer des valeurs
  3816. 2:28:38aléatoires qui sont différentes. Il va
  3817. 2:28:40vous donner peut-être un résultat qui
  3818. 2:28:42est différent. Donc c'est pour cela
  3819. 2:28:44queon commence toujours par euh ici on
  3820. 2:28:47fixe le le side le générateur aléatoire
  3821. 2:28:49si vous voulez.
  3822. 2:28:51Alors pour le classifieur, la même
  3823. 2:28:52chose, vous allez euh ici donc on va
  3824. 2:28:55créer un classifieur simple. Donc je
  3825. 2:28:57vais avoir en fait le si vous voulez
  3826. 2:29:02j'ai un dataset dans lequel je vais
  3827. 2:29:03avoir deux classes. La classe zéro bon
  3828. 2:29:07la classe 0 donc je vais générer euh n
  3829. 2:29:10é=al à combien ? C'est 120. Je vais
  3830. 2:29:12générer 120 nombres. OK ?
  3831. 2:29:16C'est-à-dire avec deux colonnes
  3832. 2:29:20lè de colonn c'est parce que je vais
  3833. 2:29:21avoir x y si vous voulez.
  3834. 2:29:26Donc je vais générer un nombre aléatoire
  3835. 2:29:28et je vais ajouter un tenseur 2 et 0.
  3836. 2:29:30C'estàdire c'est comme si vous vous
  3837. 2:29:32faites en fait 2 plus les valeurs
  3838. 2:29:35aléatoires et 0 plus les valeurs
  3839. 2:29:36aléatoires. Alors la même chose, je vais
  3840. 2:29:38générer donc la classe 1. Voilà. Ça
  3841. 2:29:41c'est la classe les points de la classe
  3842. 2:29:440. Ça c'est les points de la classe 1.
  3843. 2:29:47Et puis je vais les concatiner. Voyez
  3844. 2:29:49donc si vous avez de de deux turs et
  3845. 2:29:51vous voulez les fusionner en un seul, on
  3846. 2:29:54va utiliser torche
  3847. 2:29:564. Alors 4 donc je dans classe 0 classe
  3848. 2:30:001 et après vous vous mettez la
  3849. 2:30:02dimension. Est-ce que vous voulez les
  3850. 2:30:03les concatinés selon la colonne ou bien
  3851. 2:30:05selon les lignes ? Alors ici selon les
  3852. 2:30:08colonnes, c'est-à-dire vous avez le le
  3853. 2:30:09tensur le le tenseur zéro c'est un c'est
  3854. 2:30:13par exemple 120 lignes, n'est-ce pas ?
  3855. 2:30:17Et le tenseur 1 c'est 120 lignes. Donc
  3856. 2:30:19qu'est-ce que je vais faire ? Je vais
  3857. 2:30:20prendre le tensur 2, je vais le mettre
  3858. 2:30:22en bas de du tensur 1, c'est-à-dire je
  3859. 2:30:24vais les fusionner comme ça en ligne en
  3860. 2:30:26colonne. Donc dim 0, c'est les colonnes.
  3861. 2:30:32Bon bref, donc vous avez ici donc le
  3862. 2:30:35vous avez les classes x Y. Alors
  3863. 2:30:38maintenant vous allez faire plot et puis
  3864. 2:30:40si vous voulez créer un modèle de
  3865. 2:30:41classifieur, on fait la même chose. On
  3866. 2:30:43crée un modèle linéaire input. Il y a
  3867. 2:30:47combien de variables input ?
  3868. 2:30:49Combien d'honneur en 16 ? On fait relio.
  3869. 2:30:52Encore une autre couche 16 16 relio et
  3870. 2:30:56après 16 de output. Et puis donc on crée
  3871. 2:31:00le modèle classifieur. On crée le los.
  3872. 2:31:04Alors regardez comme c'est un classifur
  3873. 2:31:05binaire, je vais utiliser cross
  3874. 2:31:09optimizer. C'est toujours Adam et je
  3875. 2:31:12fais la même boucle d'apprentissage
  3876. 2:31:13c'est toujours la même chose. Donc ici
  3877. 2:31:16le il est là.
  3878. 2:31:18Et puis je fais je vais faire ici les
  3879. 2:31:21l'évaluation de la même manière. Cette
  3880. 2:31:23fois-ci je vais pas pour mesurer les
  3881. 2:31:26performances d'un classifieur, je vais
  3882. 2:31:28pas utiliser au carré, n'est-ce pas ?
  3883. 2:31:30Ben, je vais utiliser écur ici,
  3884. 2:31:34n'est-ce pas ? Ou bien je peux utiliser
  3885. 2:31:38il faut un score précision. Donc c'est
  3886. 2:31:40des métriques que vous connaissez. Alors
  3887. 2:31:42en tout cas pour calculer écure ici donc
  3888. 2:31:45voyez ici j'ai pas utilisé une classe
  3889. 2:31:46particulière je peux la calculer c'est
  3890. 2:31:49quoi c'est tout simplement écure ici il
  3891. 2:31:52va je vais regarder euh le nombre de cas
  3892. 2:31:56de prédictions et classes qui sont les
  3893. 2:31:57mêmes et je fais la moyenne. Ça va vous
  3894. 2:32:00donner écure ici. Vous voyez ici comme
  3895. 2:32:03c'est un classifieur qui est simple nous
  3896. 2:32:05donne un taux de performance de 100 %.
  3897. 2:32:09Alors si vous voulez calculer les autres
  3898. 2:32:11métriques dont j'ai parlé, vous pouvez
  3899. 2:32:13utiliser
  3900. 2:32:14binarc
  3901. 2:32:16également précision,
  3902. 2:32:19vous avez récol et vous avez score. Et
  3903. 2:32:23bien de la même manière, vous faites ça
  3904. 2:32:25et si vous voulez
  3905. 2:32:27générer
  3906. 2:32:28comment s'appelle ce tableau là
  3907. 2:32:29?
  3908. 2:32:31C'est pas table de vérité
  3909. 2:32:33confusion.
  3910. 2:32:34Matrice de confusion. Alors, si vous
  3911. 2:32:36voulez générer la matrice de confusion
  3912. 2:32:37pour un classifieur, et ben vous aurez
  3913. 2:32:39juste besoin de de faire si voilà,
  3914. 2:32:46j'ai la métrique, la classe s'appelle
  3915. 2:32:48binary confusion matrix. Donc, je la
  3916. 2:32:52génère si vous faites plot
  3917. 2:32:55parce que je sais que vous avez eu
  3918. 2:32:56l'habitude de faire ça avec.
  3919. 2:32:59Alors maintenant vous êtes en train de
  3920. 2:33:00le faire avec Petche. Donc ça vous savez
  3921. 2:33:03le faire ça vous donne une idée.
  3922. 2:33:06Il y a aussi donc vous dans le
  3923. 2:33:08l'activité pratique, vous allez trouver
  3924. 2:33:09des choses intéressantes. Vous allez
  3925. 2:33:11trouver comment dessiner le le
  3926. 2:33:13c'est-à-dire le le séparateur,
  3927. 2:33:15c'est-à-dire la frontière qui séparé de
  3928. 2:33:17classe. Ça c'est intéressant.
  3929. 2:33:19et vous allez trouver comment
  3930. 2:33:21sauvegarder un modèle parce que un
  3931. 2:33:23modèle une fois qu'il est entraîné, il
  3932. 2:33:25faut le le sauvegarder, l'enregistrer.
  3933. 2:33:28Bon, ça c'est vous avez trouvé le code
  3934. 2:33:31et voilà. Donc bon, quand vous arrivez
  3935. 2:33:34là, c'est que vous avez à peu près les
  3936. 2:33:36bases de pche. Alors maintenant, je vous
  3937. 2:33:39les présenter mais maintenant c'est à
  3938. 2:33:40vous de de faire. C'est l'objet de la
  3939. 2:33:42semaine prochaine. OK. Donc s'il vous
  3940. 2:33:45plaît la semaine prochaine ramenez avec
  3941. 2:33:47vos
  3942. 2:33:48vos machines.
  3943. 2:33:52Alors j'imagine pas un ingénieur qui qui
  3944. 2:33:54vient son sans machine. Ramenez les
  3945. 2:33:57machines et comme ça donc la semaine
  3946. 2:33:59prochaine ça il y a des exercices qu'on
  3947. 2:34:01va faire sur Petch.
  3948. 2:34:03Voilà, je vais faire l'appel et je vais
  3949. 2:34:07vous souhaiter une très bonne journée.
  3950. 2:34:08Ok.

About this transcript

This page contains the full transcript of Part 1 - IA Generative Multi Modale et Agentique by Professeur Mohamed YOUSSFI, generated from the public captions YouTube serves with the video. The transcript has 25,178 words across 3,950 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.