YouTube2Text

Part 1- Generative AI and AI Agents — Transcript

by Professeur Mohamed YOUSSFI · 25,252 words · 3,969 segments · language en · Watch on YouTube

Full transcript

  1. 0:05Re bonjour tout le monde. Donc j'espère
  2. 0:07que vous allez
  3. 0:08bien. Alors comme prévu donc après avoir
  4. 0:13traité les l'essentiel concernant les
  5. 0:17les bases de l'intelligence
  6. 0:20artificielle donc je rappelle qu'on a
  7. 0:23fait un en fait un parcours général.
  8. 0:25Donc passons par le euh d'abord la
  9. 0:29régression puis la classification puis
  10. 0:32l'apprentissage non
  11. 0:33supervisé puis l'analyse de la
  12. 0:35composante principale et puis la partie
  13. 0:39qui concerne deeple learninguring. Donc
  14. 0:40c'était le en fait le la dernière partie
  15. 0:43qu'on avait traité.
  16. 0:46Et donc je pense que ça c'est les bases
  17. 0:48vraiment quelqu'un qui veut euh être
  18. 0:50bien basé sur euh euh c'est-à-dire au
  19. 0:53niveau de de l'intelligence
  20. 0:56artificielle. Donc euh voilà. Donc ça
  21. 0:59c'est les vraiment les bases. Il y a des
  22. 1:01détails bien sûr. Euh mais pour pour
  23. 1:03vous, je pense que ça c'est le vraiment
  24. 1:06moi ce qui ce que j'appelle les concepts
  25. 1:08fondamentaux. Bon ça c'est quelque chose
  26. 1:09qui ne changera jamais parce que c'est
  27. 1:10ce qui fait l'intelligence artificielle.
  28. 1:13Euh alors, sauf que les les choses ont
  29. 1:15beaucoup
  30. 1:16évolué euh notamment ces dernières
  31. 1:18années à travers euh ce qu'on appelle l'
  32. 1:21générative. Euh donc et du coup donc
  33. 1:24aujourd'hui si vous n'utilisez pas
  34. 1:25encore l' générative euh c'est quasiment
  35. 1:28euh c'est c'est comme si vous ne
  36. 1:29profitez pas de de l'avancée de la
  37. 1:31science dans ce domaine. Donc c'est la
  38. 1:34raison pour laquelle j'avais euh donc je
  39. 1:37vais terminer par cette partie-là. Euh
  40. 1:39c'est une partie qui est très
  41. 1:40importante, ça demande aussi du temps.
  42. 1:43Euh donc ça concerne l' générative. on
  43. 1:46va parler de beaucoup de choses et les
  44. 1:48ce qu'on appelle la notion
  45. 1:50de des architectures agentiques ou bien
  46. 1:53ce qu'on appelle AI
  47. 1:55agents euh et aussi donc de en fait des
  48. 1:59des des différentes solutions comme RAC,
  49. 2:02comme le F tuning, il y a pas il y a
  50. 2:04beaucoup de choses en tout cas mais bien
  51. 2:06sûr comme je disais donc cette partie
  52. 2:08làà c'est une partie que j'essaierai de
  53. 2:11continuer ce forme de en fait de de
  54. 2:14séminaire comme ça euh alors c'est c'est
  55. 2:18une partie donc bien sûr je vous invite
  56. 2:20à suivre ce qui se fait c'est mais c'est
  57. 2:23c'est pas une partie qui qui fait partie
  58. 2:26de forcément de votre de votre programme
  59. 2:29qui se termine donc à partir de de cette
  60. 2:32séance- là et donc c'est c'est voilà
  61. 2:36donc ça c'est c'est ce que ce que je
  62. 2:38vais faire donc le cours va continuer
  63. 2:40mais pour vous donc bien sûr la partie
  64. 2:42fondamentale que vous avez dans le le
  65. 2:44programme vous Donc vous l'a déjà
  66. 2:46traité et donc mais par contre je vous
  67. 2:49conseille vraiment c'est pour profiter
  68. 2:52de de l'intelligence artificielle il
  69. 2:55vaudrait mieux donc intégrer les les
  70. 2:59c'est-à-dire les possibilités qui sont
  71. 3:00offertes par l'IA générative.
  72. 3:03Alors euh d'abord euh quand en fait je
  73. 3:07parle de lia
  74. 3:08générative euh donc l'IA générative
  75. 3:10c'est un domaine de l'intelligence
  76. 3:12artificielle euh qui consiste euh en
  77. 3:16fait à générer des nouvelles données euh
  78. 3:18à partir euh bien sûr des données d'un
  79. 3:22ensemble de données qui ont été
  80. 3:23utilisées pendant l'entraînement. Donc
  81. 3:25l'idée c'est de créer des modèles qui
  82. 3:26sont capables de générer du texte,
  83. 3:28générer des des images, de de la
  84. 3:31musique, de de l'audio, de générer de du
  85. 3:34contenu. Donc c'est des c'est des
  86. 3:35modèles qui sont génératifs, qui
  87. 3:37génèrent des contenus. Euh mais ces
  88. 3:39modèles-là ont été euh entraînés sur la
  89. 3:42base la base de bien sûr d'un grand d'un
  90. 3:45large d'un large corpus de données et
  91. 3:49qui font que le ces modèles sont
  92. 3:51capables euh de recevoir en input euh du
  93. 3:55texte. Euh il y a des modèles, ce qu'on
  94. 3:57appelle les modèles multimodux,
  95. 4:00c'est-à-dire les LLMs multimodo euh qui
  96. 4:03peuvent recevoir l'input du texte et des
  97. 4:05images et de donner à la fin de de
  98. 4:08c'est-à-dire et de générer du texte,
  99. 4:09c'est-à-dire la description des images
  100. 4:11et bien sûr le texte
  101. 4:13classique. Alors euh les exemples du
  102. 4:16modèle qui génère, c'est-à-dire qui
  103. 4:20utilise que du texte. Donc c'est par
  104. 4:24exemple fait la MA 3, vous avez GPT
  105. 4:27fort, vous avez les anciennes versions
  106. 4:29généralement de GPT. Généralement au
  107. 4:31début ça a commencé comme ça.
  108. 4:33C'est-à-dire que c'est des modèles qui
  109. 4:34sont capables de comprendre que du
  110. 4:37texte. Mais après donc les les LLM
  111. 4:40multimod se sont développés comme GPT40
  112. 4:42qui est l'un des modèles les plus
  113. 4:44puissants aujourd'hui euh de Openni. Euh
  114. 4:47et aussi il y a des modèles, on va dire
  115. 4:50qui sont open source. C'est très
  116. 4:53important donc de de voir comment
  117. 4:55utiliser les deux comme lama par exemple
  118. 4:573.2. Aujourd'hui il a lama 4 donc ça ça
  119. 5:01va vite. Et puis il y a donc euh des
  120. 5:03modèles qui sont capables de générer de
  121. 5:06recevoir du texte et des images of input
  122. 5:09et puis donc il génère des images
  123. 5:11output. Donc c'est-à-dire les modèles
  124. 5:13qui génèrent des images sont des modèles
  125. 5:15spéciaux comme par exemple dall stable
  126. 5:18diffusion euh comme les gains. Donc ça
  127. 5:20c'est des c'est des modèles qui sont
  128. 5:21très connus dans le domaine de lia
  129. 5:23générative.
  130. 5:25Alors, d'abord euh donc le domaine de
  131. 5:28lia génératif c'est s'est développé
  132. 5:30historiquement, c'est-à-dire ça
  133. 5:32commencer euh on va dire en 2014 donc
  134. 5:36par la la création des premiers modèles
  135. 5:40génératifs. Ces modèles s'appellent
  136. 5:42Generative Adversation Network, c'est
  137. 5:44les GS. Donc c'est des modèles qui ont
  138. 5:47été créés au début. Et ici donc il y a
  139. 5:51un site qui est assez connu.
  140. 5:57Euh bon, il y a un site qui est assez
  141. 5:59connu qui s'appelle this person does not
  142. 6:01exist. Donc ça c'est juste ça a commencé
  143. 6:04comme ça euh à à générer à chaque fois
  144. 6:06vous actualisez vous générez des des
  145. 6:09images. Alors toutes les images qu'on
  146. 6:12génère euh à partir de là c'est des
  147. 6:15modèles de lien génératif qui les
  148. 6:16génèrent et c'est des personnes qui
  149. 6:18n'existent pas réellement c'est-à-dire
  150. 6:20c'est des c'est des personnages qui sont
  151. 6:21inventés par Lia. Et donc bien sûr euh
  152. 6:25pour pouvoir inventer euh c'est-à-dire
  153. 6:28des des ces personnages ou bien ces
  154. 6:30images par Li et bien il fallait
  155. 6:33utiliser un modèle donc il fallait
  156. 6:35utiliser un modèle qui entraînait euh
  157. 6:38sur la base de d'un large corpus de
  158. 6:41données, c'est-à-dire il y a des grandes
  159. 6:42quantités de de données. Donc il y a
  160. 6:44beaucoup de moyens de calcul notamment
  161. 6:46les GP qui sont utilisés pour euh
  162. 6:48entraîner ces modèles. Et donc ça a
  163. 6:51commencé comme ça. Et ce c'est-à-dire ce
  164. 6:54ça commence à
  165. 6:55devenir euh c'est-à-dire à donner des
  166. 6:58idées pour comme quoi euh on peut bien
  167. 7:00créer de li
  168. 7:02génér de générer des nouvelles données
  169. 7:06euh bien sûr notamment les
  170. 7:09images. Et après, il y a un point qui
  171. 7:12est très important dans l'état de l'art,
  172. 7:14c'est ce qui s'est passé en 2017.
  173. 7:16Alors en fait en 2017 il y avait quelque
  174. 7:19chose qui a été introduit par des des
  175. 7:22auteurs par chez Google et qui ont
  176. 7:25publié un article qui s'appelle
  177. 7:27Attention is all un need. Donc vous avez
  178. 7:30le lien de de cet article là. Alors,
  179. 7:33attention is all units. C'est c'est
  180. 7:35c'est un
  181. 7:36article euh c'est un article qui qui est
  182. 7:39tout simplement qui qui décrit une
  183. 7:42nouvelle façon une nouvelle façon de une
  184. 7:46nouvelle façon euh c'est-à-dire de
  185. 7:48d'apprendre de comprendre du texte euh
  186. 7:51notamment sans passer par les méthodes
  187. 7:53classiques utilisées auparavant euh
  188. 7:55notamment parce que avant dans le
  189. 7:57domaine de NLP euh on utilisait des
  190. 8:00modèles comme LSTM, comme GRU, comme les
  191. 8:03les réseaux de Nandon récurrent euh qui
  192. 8:06était capable de donner des des
  193. 8:08résultats. Euh et après ce ce modèle-
  194. 8:11là, plutôt cette cet article avait
  195. 8:14introduit euh un mécanisme qui s'appelle
  196. 8:16le mécanisme d'attention. Euh donc ce
  197. 8:18mécanisme d'attention euh qui est décrit
  198. 8:21dans cet article. Donc je vais pas
  199. 8:22rentrer dans les détails parce que c'est
  200. 8:23pas l'objectif
  201. 8:25aujourd'hui. Donc ce mécanisme
  202. 8:27d'attention, c'est-à-dire a démontré que
  203. 8:30rien que en utilisant ce qu'on appelle
  204. 8:33les self attention et multihead
  205. 8:36attention, donc c'est des c'est des
  206. 8:37c'est des mécanismes que vous voyez ici
  207. 8:40et qui permettent tout simplement de de
  208. 8:42voilà de créer des des modèles qui sont
  209. 8:45capables de comprendre, c'est-à-dire le
  210. 8:48texte de c'est-à-dire et de générer euh
  211. 8:50du texte. C'est donc ce qui c'est c'est
  212. 8:52justement ce qui a donné les LLMS,
  213. 8:54c'est-à-dire les larges language model
  214. 8:57que vous êtes en train aujourd'hui
  215. 8:58d'utiliser comme chat GPT et cetera.
  216. 9:00Donc vous voyez donc ça c'est juste pour
  217. 9:02vous donner un une idée sur l'état de
  218. 9:05l'art. Euh donc et à travers ce à
  219. 9:10travers cet article là, c'est-à-dire
  220. 9:12attention is all unit.
  221. 9:14Bon, l'idée de l'attention isolée,
  222. 9:16c'est-à-dire tout ce tout ce dont on a
  223. 9:18besoin finalement, c'est de c'est le
  224. 9:20mécanisme d'attention, c'est-à-dire
  225. 9:22comment prêter attention euh
  226. 9:25c'est-à-dire comment les mots d'une
  227. 9:26phrase peuvent c'est-à-dire comment
  228. 9:29c'est-à-dire le le mot dans une phrase
  229. 9:34comment déterminer l'attention,
  230. 9:36c'est-à-dire son attention par rapport à
  231. 9:38ce qui l'entour, à son contexte
  232. 9:39notamment dans la phrase elle-même, par
  233. 9:41rapport à lui-même, par rapport au
  234. 9:43dictionnaire. Donc il y a il y a en fait
  235. 9:46un mécanisme qui ce qui n'est pas
  236. 9:47compliqué, c'est un simple calcul
  237. 9:49matriciel qui se fait et qui a avec ça,
  238. 9:53on a créé ce qu'on appelle des modèles
  239. 9:54des modèles qu'on appelle les
  240. 9:55transformers. Donc voyz donc les
  241. 9:57transformers, c'est des modèles qui sont
  242. 9:59basés sur ce ce mécanisme d'attention et
  243. 10:02qui a donné une nouvelle gén une
  244. 10:04nouvelle génération d'algorithmes euh
  245. 10:06qui sont très forts dans le domaine du
  246. 10:08de NLP. Alors, ce qui fait que il y a il
  247. 10:12y a Google qui a créé qui a créé son
  248. 10:15propre modèle BET. Alors, Bird c'est by
  249. 10:18Directional Encoder Representation from
  250. 10:21Transformers. Donc, ça c'est le modèle
  251. 10:23créé par Google et qui est basé sur en
  252. 10:26fait les
  253. 10:28Transformers. Et puis il y a Openni qui
  254. 10:30avait créé son modèle GPT Generative
  255. 10:33Prined Transformers. Euh alors bien sûr
  256. 10:36ces modèles-là sont basés sur les
  257. 10:38encodeurs et les décodeurs. Donc ça
  258. 10:40c'est le le principe bien sûr de qui est
  259. 10:42utilisé dans le les Transformers. Euh
  260. 10:45ils ont une approche relativement
  261. 10:46différente. Euh donc mais euh tous les
  262. 10:49les ces modèles BT et GPT euh sont basés
  263. 10:52sur euh sont basés sur les Transformers.
  264. 10:56Alors bien sûr donc mais tout c'est
  265. 10:59c'est-à-dire Open I a profiter de de
  266. 11:03c'est-à-dire de cet article, on va dire
  267. 11:06pour aller plus vite que Google. Et donc
  268. 11:09euh donc le choses ont se sont beaucoup
  269. 11:12accélérées. D'abord en 2019, il y a les
  270. 11:14GAN qui qui ont amélioré un peu leur
  271. 11:17modèle en créant ce qu'on appelle les
  272. 11:18style GS et puis donc pour générer les
  273. 11:22images et puis surtout en 2020 en 2020
  274. 11:25nous avons découvert tous ensemble qu'il
  275. 11:28y a il y a un modèle qui s'appelle Chat
  276. 11:30GPT notamment avec son modèle GPT 3 qui
  277. 11:34est le premier LLM euh qui est développé
  278. 11:37par Openni et qui a cette capacité de
  279. 11:40comprendre des problèmes complexes et de
  280. 11:42donner
  281. 11:43euh des réponses qui sont parfois
  282. 11:44étonnantes et surprises et surprenantes.
  283. 11:48Et donc le après les choses sont euh
  284. 11:51c'est-à-dire les choses ont accéléré.
  285. 11:54Bah en 2021 dans le domaine de la
  286. 11:56génération des images, il y a deux
  287. 11:58nouveaux modèles qui ont été créés
  288. 11:59notamment Clip par Open Igalement par
  289. 12:02Openni et après euh donc ça c'est des
  290. 12:05modèles qui qui sont capables de de
  291. 12:08générer de de comprendre les images. Et
  292. 12:11puis donc en 2022 il y a la version 3.5
  293. 12:15de chat GPT qui génère le texte. a
  294. 12:19d'aller qui de qui génère les images et
  295. 12:22après par la suite 2023 2024 2025 les
  296. 12:26choses se sont accéléré euh parce qu'on
  297. 12:29après on est passé de GPT for vers
  298. 12:30GPT40. J'ai voilà, j'ai j'ai euh plutôt
  299. 12:36j'ai GPT for au mini euh ça c'est tout
  300. 12:39ça c'est des modèles de open euh mais en
  301. 12:42parallèle il y a de l'open source qui
  302. 12:43s'est vraiment développé euh à l'image
  303. 12:46de Lama Depsic GMA euh donc euh et tout
  304. 12:50ce qui tout ce qui va bien sûr euh chez
  305. 12:54Google développe ses ses
  306. 12:55propres ses
  307. 12:59propres à développer ses propres
  308. 13:02modèle et donc ce qui fait la liste
  309. 13:04c'est c'est vraiment c'est c'est
  310. 13:06accéléré donc pour générer pour créer
  311. 13:08des modèles qui sont capable de de
  312. 13:10générer du texte et des images et puis
  313. 13:13donc la même chose pour la génération
  314. 13:16des images comme par exemple d'aller et
  315. 13:17stable diffusion. L'essentiel, c'est que
  316. 13:20euh quasiment euh chaque chaque chaque
  317. 13:23mois, chaque 3 mois, on on voit de des
  318. 13:25nouvelles versions euh pour améliorer
  319. 13:27bien sûr la capacité de ce de ces
  320. 13:30modèles. Alors, ça c'est juste pour vous
  321. 13:32donner à peu près une idée une idée. Euh
  322. 13:35en fait euh bon, cet article là, bon
  323. 13:38comme je disais, donc je vais pas
  324. 13:39m'arrêter là-dessus parce que je pense
  325. 13:40que je l'avais expliqué dans une
  326. 13:42conférence il y a il y a 2 années comme
  327. 13:43ça a commencé. Euh c'est pas c'est pas
  328. 13:46compliqué.
  329. 13:47Donc le mécanisme d'attention comme je
  330. 13:50disais le le principe c'est quoi ? C'est
  331. 13:51que quand vous avez une
  332. 13:52phrase quelconque par exemple my cat
  333. 13:56cannot move the the bag because it
  334. 14:00is it's tired. Alors maintenant si vous
  335. 14:04posez la question ce hit là ce hit parce
  336. 14:06que dans une phrase ce hit est-ce que ça
  337. 14:08ça ça concerne de bag ou bien ça
  338. 14:09concerne mycat ? Alors ce qui fait que
  339. 14:14donc dans le mécanisme d'attention, il
  340. 14:16essaie de calculer, c'est-à-dire la
  341. 14:18tension qui est liée à l'ensemble des
  342. 14:20mots de la phrase. Et c'est grâce à
  343. 14:22cette valeur là
  344. 14:24calculée. Donc c'est avec cette phrase
  345. 14:26là qu'il qu'il arrive à comprendre le
  346. 14:28sens de bien sûr de chaque de chaque mot
  347. 14:30dans le contexte. Donc ça c'est l'idée
  348. 14:32principale. Donc ce qui fait que il y a
  349. 14:34quelques formules notamment qui sont
  350. 14:37établies dans par l'article et qui
  351. 14:39permettent euh c'est de simples calculs
  352. 14:42matriciels qui permettent de de de faire
  353. 14:45ce ce travail.
  354. 14:47Alors, ça c'est juste un petit flash
  355. 14:49mais bien sûr pour les gens qui veulent
  356. 14:51vraiment euh qui veulent travailler dans
  357. 14:53le domaine de lia générative pour
  358. 14:56proposer des n des nouveaux des
  359. 14:58nouvelles solutions, euh c'est très
  360. 15:00important de commencer par ça,
  361. 15:01c'est-à-dire de commencer par comprendre
  362. 15:03d'abord euh cet article parce que c'est
  363. 15:05la base de l'état de l'art et après donc
  364. 15:07regarder donc par la suite les choses
  365. 15:10qui se sont développées. Et jusqu'à
  366. 15:12présent bien sûr, c'est toujours ça,
  367. 15:14c'est le c'est l'algorithme de base qui
  368. 15:16est utilisé dans la majorité de des
  369. 15:19modèles des LLMs, c'est-à-dire les large
  370. 15:22language
  371. 15:23models. Alors ça c'est donc voilà ce qui
  372. 15:26s'est passé et juste
  373. 15:29après, il y a une discipline qui s'est
  374. 15:32qui s'est développée notamment,
  375. 15:35c'est-à-dire c'est ce qu'on appelle le
  376. 15:36prompt engineering, c'est-à-dire pour
  377. 15:39tirer profit de de l'intelligence
  378. 15:40artificielle. euh des modèles. Donc vous
  379. 15:43avez besoin de poser des questions et
  380. 15:46donc et pour poser ces questions à
  381. 15:47l'intelligence artificielle et bien vous
  382. 15:50aurez besoin de savoir comment
  383. 15:52structurer la question, quels sont les
  384. 15:53paramètres qui se trouvent dans c
  385. 15:55c'est-à-dire c ces questions et ben tout
  386. 15:57simplement ces questions, c'est ce qu'on
  387. 15:58va appeler des
  388. 16:00promptes. Et donc il y a une science
  389. 16:02donc juste il y
  390. 16:05a quasiment une année et demi, c'est pas
  391. 16:08c'est pas très loin, il y a une année et
  392. 16:10demi donc que la science du prompt
  393. 16:12engineer s'est développée et aujourd'hui
  394. 16:14donc il est devenu une science qui est
  395. 16:17enseignée dans toutes les les
  396. 16:19disciplines. L'idée principale, c'est
  397. 16:21c'est que c'est-à-dire c'est de
  398. 16:23maîtriser
  399. 16:24comment bien sûr rédiger, comment
  400. 16:28concevoir, comment concevoir, évaluer et
  401. 16:32déployer les promptes. Donc ce qui fait
  402. 16:34que dans le prompt engineering, vous
  403. 16:36avez deux choses. Donc vous avez d'abord
  404. 16:37la notion de prompt. Alors c'est quoi un
  405. 16:39prompt ? Un prome, c'est un ensemble
  406. 16:41d'instruction spécifique qu'on va
  407. 16:43envoyer vers un LM avec, c'est-à-dire un
  408. 16:47large language model pour accomplir une
  409. 16:49tâche. Donc c'est-à-dire c'est la
  410. 16:50question que vous envoyez vers le LLM.
  411. 16:53Alors, sauf que il faut savoir que la
  412. 16:55question que vous envoyez vers quand
  413. 16:56vous tapez parfois sur une interface
  414. 16:59votre question, alors généralement la
  415. 17:01question qu'on va euh envoyer au LM sûr
  416. 17:04il contient votre question mais
  417. 17:05également il contient d'autres d'autres
  418. 17:08informations qui permettent d'ajouter
  419. 17:10euh c'est-à-dire le contexte de
  420. 17:12l'application euh c'est donc il y a pas
  421. 17:15mal de choses qui sont dans le prom donc
  422. 17:16c'est ce que je vais vous décrire tout à
  423. 17:18l'heure. Donc et puis il y a le terme
  424. 17:21engineering. Donc engineering, c'est
  425. 17:23quoi ? C'est un
  426. 17:24processus qui consiste à concevoir les
  427. 17:27promptes, c'est-à-dire comment concevoir
  428. 17:29les bons promptes, évaluer ces promptes
  429. 17:31parce que l'évaluation c'est quelque
  430. 17:33chose de très important. Je ne peux pas
  431. 17:35euh en entreprise par exemple euh on
  432. 17:38peut pas faire confiance, on peut pas
  433. 17:40déployer un prompte, on peut pas faire
  434. 17:42confiance à un prompt, c'est on n'est
  435. 17:44pas sûr que il est évalué et le
  436. 17:46processus d'évaluation donc il y a des
  437. 17:48métriques exactement comme on a fait
  438. 17:50dans le la classification, dans le la
  439. 17:53régression et dans le les tout ce qu'on
  440. 17:55a fait, il y a des métriques qui sont
  441. 17:57utilisées donc pour évaluer bien sûr la
  442. 18:01c'est-à-dire la la capacité ou bien les
  443. 18:03performances d'un prompt et puis donc
  444. 18:06déployer. Donc quand on évalue le
  445. 18:08prompt, ça veut dire qu'on peut lui
  446. 18:09faire confiance. Après déployer, ça veut
  447. 18:11dire il faut développer souvent des
  448. 18:12applications web ou bien mobiles dans
  449. 18:14lesquelles on va essayer donc de de
  450. 18:16déployer ce prompt et comme ça les
  451. 18:18utilisateurs de cette application, ils
  452. 18:20peont poser des questions en utilisant
  453. 18:21ce prompt. Donc c'est-à-dire le prompt
  454. 18:23réellement c'est ce qui est déployé dans
  455. 18:25le l'application.
  456. 18:28Alors et du coup donc le le prompt on on
  457. 18:30va dire euh euh dans le les promptes euh
  458. 18:35la la structure d'abord d'un prom si
  459. 18:36vous
  460. 18:37voulez un prompt c'est à peu près et il
  461. 18:43contient donc on peut dire que un prompt
  462. 18:46contient euh trois
  463. 18:49parties. Donc la première partie c'est
  464. 18:51ce qu'on appelle système message. Alors,
  465. 18:54système message donc c'est la partie
  466. 18:56dans laquelle on va décrire la la
  467. 18:59problématique. C'est-à-dire si vous
  468. 19:01voulez poser une question à
  469. 19:03LM à une intelligence artificielle, il
  470. 19:06faut d'abord bien expliquer votre
  471. 19:08contexte, la problématique. Donc et du
  472. 19:11que donc pour pouvoir donc il faudrait
  473. 19:14donner tous les petits détails euh pour
  474. 19:17que le le pour que le LLM puisse
  475. 19:20comprendre c'est quoi la problématique.
  476. 19:23Alors par exemple dans système message,
  477. 19:25si vous faites par exemple, vous êtes
  478. 19:27dans une problématique de l'analyse des
  479. 19:29sentiments, par exemple euh par exemple
  480. 19:32vous allez dire euh vous dans le dans
  481. 19:35système, on va lui écrire vous êtes un
  482. 19:37spécialiste, vous êtes par exemple euh
  483. 19:41un assistant dans dans de qui travaille
  484. 19:44dans une clinique médicale. Donc
  485. 19:45c'est-à-dire il faut d'abord situier
  486. 19:47dans le contexte. euh c'est-à-dire c'est
  487. 19:50un spécialiste, c'est un médecin ou bien
  488. 19:52tu es euh par exemple euh un agent dans
  489. 19:55dans une clinique
  490. 19:57médicale et euh donc euh vous lui dites
  491. 20:00par exemple qu'on reçoit euh un ensemble
  492. 20:03d'email à partir des clients et dans ces
  493. 20:05emails, on trouve donc des c'est-à-dire
  494. 20:07des des reviews, c'est-à-dire des
  495. 20:09parfois des réclamations. et ta tâche
  496. 20:12par exemple, c'est de à partir de ces
  497. 20:15ces c'est-à-dire ces ces commentaires,
  498. 20:18on voudrait savoir si le commentaire par
  499. 20:20exemple est-ce qu'il est positif, est-ce
  500. 20:22qu'il est
  501. 20:23négatif, est-ce que peut-être quels sont
  502. 20:25les services qui sont concernés. euh on
  503. 20:28peut par exemple lui demander de de de
  504. 20:30donner pas mal de c'est-à-dire
  505. 20:31d'extraire à partir de euh de d'un
  506. 20:34review par exemple ou bien d'un
  507. 20:35commentaire toutes ces
  508. 20:37informations. Alors ce qui fait que ici
  509. 20:40euh la façon avec laquelle ça c'est très
  510. 20:42important parce que la façon avec le
  511. 20:44prompt d'abord c'est ça, c'est système
  512. 20:46message. Donc il faut bien écrire, il
  513. 20:48faut bien euh c'est-à-dire concevoir un
  514. 20:50bon système message qui décrit bien le
  515. 20:53problème. B on le dit souvent, c'est que
  516. 20:55quand on pose on pose bien le problème,
  517. 20:59c'est déjà la moitié de la solution.
  518. 21:00Alors, vous savez que vous êtes des
  519. 21:01chercheurs et c'est que la première des
  520. 21:03choses généralement, c'est poser la
  521. 21:05problématique. Et si vous savez bien
  522. 21:07poser le problème souvent, c'est que
  523. 21:09vous avez déjà la moitié de la moitié de
  524. 21:11la solution et donc c'est exactement ça.
  525. 21:14Donc le système message donc c'est c'est
  526. 21:17grâce à ce système message que l'IA peut
  527. 21:20vous donner une réponse pertinente ou
  528. 21:21pas.
  529. 21:23Donc la deuxème partie euh donc la
  530. 21:25deuxième partie de euh du prompt
  531. 21:28contient ce qu'on appelle les fus shot
  532. 21:30prompt ou bien les fus shot examples.
  533. 21:33Alors en fait les fus shot c'est quoi ?
  534. 21:36Bah c'est c'est tout simplement c'est un
  535. 21:37ensemble un ensemble d'exemples avec
  536. 21:40réponse. Et il se trouve que parfois
  537. 21:43généralement l'utilisateur l'utilisateur
  538. 21:45quand il pose une question il va écrire
  539. 21:48il va il va spécifier ce qu'on appelle
  540. 21:50user user message. Donc user message
  541. 21:54c'est la dernière partie du prompt. Donc
  542. 21:56user message c'est ce que vous allez
  543. 21:58saisir par exemple dans une interface.
  544. 22:00Par exemple, dans le l'interface de chat
  545. 22:02GPT, vous allez saisir un user
  546. 22:04message et normalement avec ce user
  547. 22:07message et système
  548. 22:10message et ben normalement Lia, il peut
  549. 22:12vous donner une réponse. Pourquoi ?
  550. 22:14Parce que user message c'est votre
  551. 22:16question. système message lui il décrit
  552. 22:18donc le la problématique le contexte et
  553. 22:20cetera et normalement l'IA il est
  554. 22:22capable de donner une bonne réponse.
  555. 22:24Alors sauf que parfois pour pour
  556. 22:27permettre à Lia de vous donner une
  557. 22:29réponse un peu plus précise dans le
  558. 22:32prompt on va ajouter quelques exemples
  559. 22:34avec réponse. Et donc ça c'est ce qu'on
  560. 22:36appelle les future examples. Donc on
  561. 22:38trouve par exemple ici euh un user
  562. 22:40message, c'estàdire une question.
  563. 22:43Voilà la réponse. C'est-à-dire moi je
  564. 22:45c'est comme si votre dataset si vous
  565. 22:47voulez parce que vous avez un petit
  566. 22:48dataset euh sauf sauf que vous n'avez
  567. 22:50pas besoin des milliers de de données.
  568. 22:53Vous dans votre dataset vous avez par
  569. 22:54exemple voilà la question et voilà la
  570. 22:57réponse. C'est-à-dire c'est des réponses
  571. 22:59connues. Voilà euh pour cette question
  572. 23:01voilà la réponse et après je lui pose la
  573. 23:03question. Donc c'est à peu près les les
  574. 23:05l'idée principale, c'est ça, c'est que
  575. 23:08euh sachant ce système message, sachant
  576. 23:11que pour cette question, voilà la bonne
  577. 23:13réponse, pour cette question, voilà la
  578. 23:15réponse, la bonne réponse. Alors
  579. 23:16maintenant, réponds-moi à cette
  580. 23:18question. Et tout ça et ben tout ça,
  581. 23:21c'est ce qu'on a c'est le prompte. Alors
  582. 23:23donc euh on peut dire que euh donc pour
  583. 23:28définir les différents types de prompt
  584. 23:30euh donc il existe différents types de
  585. 23:32prompt donc déjà pour les classifier en
  586. 23:35terme de structure donc ici vous avez
  587. 23:38deux types. Vous avez soit zero shot
  588. 23:41prompt ou bien few shot prompt. Donc ça
  589. 23:44c'est des termes qui sont utilisés. Donc
  590. 23:46le zero shot prompt c'est quoi ? Bah,
  591. 23:48c'est un prom dans lequel on trouve
  592. 23:50system message et user message. Donc,
  593. 23:55c'est-à-dire vous avez que système
  594. 23:56message et user message. Bon,
  595. 23:58généralement dans la majorité des cas
  596. 24:00avec la majorité des cas avec system et
  597. 24:03user message généralement c'est
  598. 24:05suffisant pour avoir une bonne réponse
  599. 24:07de la part d'un LL.
  600. 24:10Et donc ça c'est et si vous avez que
  601. 24:12système message et user messages et que
  602. 24:14vous n'avez pas vous mettez pas le fus
  603. 24:17shot examples parce que vous n'êtes pas
  604. 24:19obligé de les mettre. Si vous mettez pas
  605. 24:20les fus shot examples alors dans ce
  606. 24:22cas-là ce prompt on l'appelle zero shot
  607. 24:24prompt, c'est-à-dire c'est un prompt
  608. 24:26dans lequel il n'y a pas de d'exemple
  609. 24:27avec
  610. 24:28réponse. Et puis l'autre c'est le fus
  611. 24:31shot prompt.
  612. 24:33Alors en fait le fichot prom c'est un
  613. 24:34prom justement complet dans lequel on
  614. 24:38trouve on trouve donc système message on
  615. 24:41trouve les fus shot examples, quelques
  616. 24:43exemples avec réponse et puis on trouve
  617. 24:46le user message. Alors ça c'est en terme
  618. 24:49de structure. Donc ça c'est le il y a
  619. 24:51deux types de prompt et puis sans
  620. 24:53oublier que dans le dans un prompt il y
  621. 24:56a d'abord la structure c'est-à-dire ça
  622. 24:58et puis il y a les paramètres.
  623. 25:01C'est-à-dire quand vous envoyez un
  624. 25:02prompt ou un Llm comme par exemple GPT4
  625. 25:07O par exemple et bien donc votre prompt
  626. 25:11contient bien sûr ces informations mais
  627. 25:13également il y a un ensemble de
  628. 25:15paramètres donc il y a il y a un
  629. 25:17ensemble de paramètres qui sont
  630. 25:18importants ici. Donc je je vois un peu
  631. 25:20le les paramètres ici. Alors parmi les
  632. 25:24paramètres donc vous avez max plutôt
  633. 25:26vous avez la
  634. 25:27température. C'est un paramètre qui est
  635. 25:29très important. Donc c'est un paramètre
  636. 25:32dont la valeur peut varier entre 0 et
  637. 25:341. Alors généralement euh si vous vous
  638. 25:38cherchez une réponse
  639. 25:40précise, généralement on va utiliser une
  640. 25:42température une température qui est
  641. 25:44égale à zéro ou bien proche de zéro. Par
  642. 25:46exemple, si vous faites vous avez une
  643. 25:48problématique d'un sentiment de
  644. 25:50l'analyse du sentiment, c'est que quand
  645. 25:52je pose la question à
  646. 25:56lléponse que j'attends ? soit positif
  647. 25:58soit négatif. C'est-à-dire je il doit
  648. 26:00être précis soit positif soit négatif.
  649. 26:03Alors ici donc la réponse que je cherche
  650. 26:05c'est une réponse qui est factuelle
  651. 26:07précise. Alors, c'est la raison pour
  652. 26:09laquelle dans ce genre de problème, on
  653. 26:11va utiliser la température égale à zéro.
  654. 26:13Donc, si vous cherchez une un calcul ou
  655. 26:15bien un si vous faites la
  656. 26:17classification, c'est-à-dire d'une
  657. 26:19manière générale, vous utilisez la
  658. 26:21température égale à é.
  659. 26:23Mais par contre, si si vous voulez euh
  660. 26:25que euh généralement quand vous utilisez
  661. 26:28la température égale à zéro,
  662. 26:30c'est-à-dire si vous avez une question
  663. 26:33que vous envoyez à
  664. 26:39Llure euh la température égale à
  665. 26:44é Llm des centaines de fois, il va vous
  666. 26:47donner la même réponse parce que de
  667. 26:50toute façon avec le ce prompt
  668. 26:53avec ce ce prompt et pour le LLM avec la
  669. 26:56température zéro. Donc il va vous
  670. 26:57générer toujours la la même la même
  671. 27:00réponse. Mais par contre si si la
  672. 27:02température elle est proche de
  673. 27:051 et bien la même question si vous la
  674. 27:07posez au Ll, il vous donne des réponses
  675. 27:09différentes. Donc c'est-à-dire que si la
  676. 27:11température est proche de 1, elle vous
  677. 27:14êtes en train de demander au LM d'être
  678. 27:17imaginatif et parfois on en a besoin.
  679. 27:19par exemple et des problématiques dans
  680. 27:21laquelle je demande par exemple au Ll de
  681. 27:26me donner de me générer des idées et je
  682. 27:29voudrais que à chaque fois que je lui
  683. 27:30pose la question, je voudrais qu'il me
  684. 27:32me génère une idée qui est différente.
  685. 27:35Donc c'est-à-dire par exemple, vous
  686. 27:36voulez générer une histoire ou bien vous
  687. 27:38voulez générer des choses. Donc ce qui
  688. 27:40fait à chaque fois que vous posez le la
  689. 27:43le le prompt, vous voulez qu'il vous
  690. 27:45génère un contenu qui est différent.
  691. 27:48Alors, dans ce cas-là, on a intérêt à
  692. 27:50utiliser une température qui est qui est
  693. 27:52proche de qui est proche de de zé plutôt
  694. 27:55de 1.
  695. 27:57Voilà. Alors, il y a d'autres paramètres
  696. 27:59euh parmi ces paramètres, il y a max
  697. 28:01tokens. Alors, la notion de tokens,
  698. 28:03c'est très important dans le domaine de
  699. 28:06NLP.
  700. 28:08Alors, il faut juste savoir que d'une
  701. 28:09manière générale, c'est que quand vous
  702. 28:12avez un texte, généralement quand vous
  703. 28:16vous envoyez un texte vers un LM,
  704. 28:19c'est-à-dire d'une manière générale, ben
  705. 28:21la première des choses qui se fait,
  706. 28:22c'est ce qu'on appelle la tokenisation,
  707. 28:24c'est-à-dire il va décomposer votre
  708. 28:25texte en un ensemble de tokens. Alors,
  709. 28:28par exemple, si vous cherchez euh pour
  710. 28:30le par exemple le modèle de OpenI, vous
  711. 28:33avez ici un tokenizer. Vous vous pouvez
  712. 28:35voir vous-même. Alors ici, donc si vous
  713. 28:37prenez
  714. 28:38euh ce ce texte là, par exemple, je vais
  715. 28:42zoomer un
  716. 28:50peu. Par exemple, je suis en train de
  717. 28:54vous
  718. 28:55expliquer. Voilà. Donc ça c'est un
  719. 28:58texte. Alors et bien ce texte là pour
  720. 29:00opener I avant qu'il soit donné à ben il
  721. 29:03va il va être divisé en tokens. Alors
  722. 29:05vous voyez donc ici vous voyez les
  723. 29:06tokens je c'est un token. Bon ça c'est
  724. 29:09vous voyez la cette couleur suit
  725. 29:12c'est-à-dire même avec compresse son
  726. 29:14espace jusque là jusque là c'est un
  727. 29:17token. En un cette partie de là c'est un
  728. 29:20token. Voyez entre c'est un token A N.
  729. 29:24C'est un token euh de vous expliquer.
  730. 29:28Alors ce qui fait que les généralement
  731. 29:30tout tous les les modèles de lia
  732. 29:33générative utilisent un modèle de de
  733. 29:35toconisation et c'est c'est cette façon
  734. 29:38de il c'est-à-dire chaque chaque LLM
  735. 29:41choisit sa propre façon de de créer les
  736. 29:43tokens. Alors généralement souvent euh
  737. 29:46vous pouvez bon bon dans la littérature
  738. 29:48il y a plusieurs techniques qui sont
  739. 29:49utilisées pour ça mais les les lems
  740. 29:52parfois a et les autres ils ont leur
  741. 29:55secret souvent qui qui fait que c'est ce
  742. 29:58qui fait la différence parfois entre des
  743. 30:00des modèles et d'autres et justement la
  744. 30:02manière de de de générer ces tokens euh
  745. 30:06donc ça
  746. 30:07peut il compte les espaces pour le
  747. 30:10nombre de caractères.
  748. 30:12Oui, bien sûr. C'est-à-dire parce que un
  749. 30:14espace lui-même c'est un c'est un c'est
  750. 30:16un
  751. 30:17caractère. Donc c'est-à-dire ce texte là
  752. 30:19par
  753. 30:20exemple ce token, il contient l'espace y
  754. 30:24compris l'espace.
  755. 30:29Alors ça c'est le c'est en fait c'est
  756. 30:31comme ça que ça ça se passe. Donc et du
  757. 30:33coup euh donc quand une A
  758. 30:37générative un Llm quand il génère du
  759. 30:40contenu, ben il génère du contenu en
  760. 30:43utilisant parce que il a un
  761. 30:45dictionnaire, c'est comme si il a une
  762. 30:47bibliothèque de
  763. 30:48tokens. C'est les tokens.
  764. 30:52Donc c'est-à-dire que tout lui il il
  765. 30:54bâtit tout son modèle sur un un
  766. 30:57dictionnaire qui contient des des
  767. 30:59tokens. Et donc quand il génère ben
  768. 31:02quand il vous donne la
  769. 31:04réponse, bah il vous génère du texte
  770. 31:07mais en utilisant ces tokens avec les
  771. 31:09tokens qu'il génère des contenus. Et
  772. 31:12donc chaque token correspond à un nombre
  773. 31:14euh donc pour lui. Donc il dit que c'est
  774. 31:16comme ça qu'il peut euh bien sûr générer
  775. 31:19des contenus. Mais il se trouve que
  776. 31:21généralement, c'est-à-dire vous pouvez
  777. 31:24dans un dans un prompt, vous pouvez
  778. 31:25limiter le maximum de tokens. Donc
  779. 31:27c'est-à-dire ici par exemple max Windows
  780. 31:31max tokens= 700. Ça veut dire que ça
  781. 31:33veut dire quoi ? Max max tokens = 700.
  782. 31:36Ça veut dire que si vous vous prenez la
  783. 31:39question, la question et la réponse,
  784. 31:42vous prenez votre question et la réponse
  785. 31:45et vous comptez le nombre de tokens qui
  786. 31:46existe dans la question et la réponse,
  787. 31:48et ben ça ça va ça doit pas dépasser le
  788. 31:51max. Donc c'est-à-dire que
  789. 31:53parfois parfois c'est-à-dire il faut il
  790. 31:57faut
  791. 31:58limiter le maximum de tokens. Alors, il
  792. 32:01faut limiter tout simplement parce que
  793. 32:03il faut savoir que pour les les modèles
  794. 32:04qui sont
  795. 32:05payants, c'est que la facturation se
  796. 32:08fait par nombre de tokens. Alors, si
  797. 32:10vous regardez par exemple les modèles de
  798. 32:13Openni, vous trouverez pour chaque
  799. 32:14million de tokens, ça vous vaut 0
  800. 32:18quelque chose dollars et cetera. Donc,
  801. 32:20c'est des 0
  802. 32:21vir euh dollars pour les millions de
  803. 32:24tokens. Donc ce qui fait que souvent
  804. 32:27votre application a besoin de de
  805. 32:29maîtriser aussi donc le le nombre de
  806. 32:31tokens euh qui sont utilisé pour que
  807. 32:34c'est-à-dire que on doit le maximum de
  808. 32:39tokens qu'on doit euh utiliser donc pour
  809. 32:41générer les réponses et ça permet de
  810. 32:43limiter donc le bien sûr le c'est-à-dire
  811. 32:47le d'être un peu plus précis parfois par
  812. 32:49exemple si si vous vous
  813. 32:51savez que la réponse que vous cherchez
  814. 32:54soit
  815. 32:55positif ou bien négatif. Alors, ça veut
  816. 32:57dire que ici euh voyez donc vous n'avez
  817. 33:00pas forcément besoin de beaucoup de
  818. 33:01tokens. Donc c'est c'est c'est si avec
  819. 33:04peu de tokens, on peut générer la la
  820. 33:09réponse. Alors donc il y a ce max tokens
  821. 33:12mais il faut savoir également une chose
  822. 33:14qui est très très importante, c'est que
  823. 33:16les ellms, c'est-à-dire le dans le le
  824. 33:20l'article attention is all unit,
  825. 33:22c'est-à-dire les les
  826. 33:25transformers et ils ont ils ont une
  827. 33:27caractéristique, c'est que il ils limite
  828. 33:30ce qu'on appelle le contexte Windows
  829. 33:32parce que ces modèles utilisent des
  830. 33:33matrices pour faire pour faire ses
  831. 33:35calculs et les matrices qu'ils
  832. 33:37utilisent, ils ont une une une taille
  833. 33:40fixe et cette taille fixe là donc il
  834. 33:43détermine ce qu'on appelle le contexte
  835. 33:45Windows. Alors par exemple si vous
  836. 33:47cherchez si vous cherchez par exemple
  837. 33:49GPT 3.5 son contexte window égal c'est
  838. 33:554096. Ça veut dire quoi contexte window
  839. 33:57? Ça veut dire que ce modèle là euh il
  840. 34:00ne peut pas prendre un texte qui dépasse
  841. 34:024096 tokens. Ça c'est le nombre de
  842. 34:05tokens. Donc ça c'est le maximum de
  843. 34:07tokens que vous pouvez que vous pouvez
  844. 34:10envoyer vers un LLM. C'est justement
  845. 34:13c'est c'est ce qu'on appelle le contexte
  846. 34:14Window. GPT for par exemple c'est
  847. 34:17128000 mixtral 128000. Donc la majorité
  848. 34:21aujourd'hui de c'est-à-dire des des Llms
  849. 34:24qui sont relativement plus grands donc
  850. 34:26sont autour de 128000. Il y en a
  851. 34:28d'autres qui sont plus que ça. Donc
  852. 34:30c'estàdire ce contexte window ça
  853. 34:33constitue d'ailleurs une limite de LLM.
  854. 34:36Donc c'est c'est donc souvent les les
  855. 34:39les pour créer des modèles qui sont plus
  856. 34:42puissants parfois il faut il faut
  857. 34:45réentraîner le le modèle sur la base de
  858. 34:48c'est-à-dire de d'un nouveau contexte
  859. 34:50Windows qui est plus
  860. 34:52grand. Et donc ce qui fait vous aurez
  861. 34:55toujours vous aurez toujours besoin de
  862. 34:57de connaître ça, c'est-à-dire quand vous
  863. 34:59utilisez un LLM. Donc, il faut il faut
  864. 35:02savoir euh que d'abord ce qu'il y a un
  865. 35:05contexte window, c'est-à-dire il y a une
  866. 35:06limite de tokens à ne pas
  867. 35:09dépasser. Et la deuxième des choses,
  868. 35:11c'est qu'il faut savoir que en fait un
  869. 35:14un LM il est
  870. 35:16stateless. Alors, ça veut dire quoi
  871. 35:18stateless ? Stateless, ça veut dire il
  872. 35:20n'a pas de mémoire.
  873. 35:22Ça veut dire que tout simplement si vous
  874. 35:23prenez un
  875. 35:25LLM, donc un LLM
  876. 35:29quelconque, alors vous lui envoyez euh
  877. 35:33une
  878. 35:33question 1, il vous donne la
  879. 35:37réponse. La réponse
  880. 35:401. OK.
  881. 35:43Alors et si vous lui posez une autre
  882. 35:49question, c'est-à-dire quand il vous
  883. 35:51donne quand il vous donne la réponse, il
  884. 35:54se rappelle plus il il va plus se
  885. 35:56rappeler de la question que vous lui
  886. 35:57avez déjà posée. C'est-à-dire il n'a pas
  887. 35:59de mémoire. C'est-à-dire si vous lui
  888. 36:00posez la question, il vous donne la
  889. 36:02réponse. Et si vous lui vous lui dites
  890. 36:04par exemple, "Est-ce que tu peux me dire
  891. 36:05ce que tu peux me par exemple me est-ce
  892. 36:09que tu te rappelles de la question que
  893. 36:10je t'ai posé ?" Il va te dire non.
  894. 36:12C'est-à-dire le LLM, il est stateless,
  895. 36:14il n'a pas de mémoire. Ça veut dire si
  896. 36:15tu lui poses la deuxème question, une
  897. 36:18deuxème question, et bien c'est dans
  898. 36:20cette question 2 euh ben tout simplement
  899. 36:23euh c'est une nouvelle question,
  900. 36:25c'est-à-dire pour lui c'est une nouvelle
  901. 36:27c'est une nouvelle euh un nouveau
  902. 36:29prompte. Donc ce qui fait euh donc euh
  903. 36:34donc ce n'est pas le qui garde la
  904. 36:36conversation.
  905. 36:38Donc ce qui fait que euh si c'est
  906. 36:40l'agent, c'est-à-dire c'est
  907. 36:41l'application, donc tout à l'heure on va
  908. 36:43parler de la notion d'agent, c'est
  909. 36:45l'application qui envoie le le prompt si
  910. 36:49l'application qui envoie le prompt euh
  911. 36:51vers le LLM, c'est elle qui doit définir
  912. 36:53ce qu'on appelle une mémoire. C'est elle
  913. 36:55qui doit avoir une mémoire dans laquelle
  914. 36:58on va stocker la conversation.
  915. 37:00C'est-à-dire quoi ? C'est-à-dire
  916. 37:02que euh quand vous travaillez à sur par
  917. 37:06exemple l'interface de chat
  918. 37:09GPT euh et bien quand vous allez ouvrir
  919. 37:13votre interface, vous avez le le LLM.
  920. 37:18Alors, si vous posez la première
  921. 37:20question, la première question 1,
  922. 37:23question 1, elle vous donne la réponse
  923. 37:241.
  924. 37:28Alors si vous voulez qu'il comprennent
  925. 37:31le contexte quand vous allez poser la
  926. 37:34question 2, ben dans la deuxième
  927. 37:36question que vous allez
  928. 37:37poser alors vous allez envoyer dans dans
  929. 37:39le prank vous allez envoyer la question
  930. 37:431 la réponse 1 question
  931. 37:472 c'estàd à chaque fois il faut lui
  932. 37:49envoyer la conversation donc quand vous
  933. 37:52lui posez vous lui dites par exemple
  934. 37:54pour cette question là voilà la réponse.
  935. 37:58réponds-moi à cette question, il va vous
  936. 38:00répondre. La prochaine fois, vous allez
  937. 38:02encore lui dire euh voilà, sachant que
  938. 38:05la question 1, voilà la réponse que tu
  939. 38:07m'as donné. Pour la question 2, voilà la
  940. 38:09réponse que tu m'as donné, réponds-moi à
  941. 38:11la question numéro 3. Donc ça veut dire
  942. 38:14que finalement euh dans les interfaces
  943. 38:17des des applications que vous utilisez,
  944. 38:19ben ils utilisent euh une sorte de
  945. 38:22mémoire dans laquelle ils doivent
  946. 38:24mémoriser la conversation. Et cette
  947. 38:26conversation doit être envoyée vers le
  948. 38:28LLM comme ça il peut comprendre
  949. 38:31réellement le contexte de votre
  950. 38:33question. Et ça c'est très important euh
  951. 38:36parce qu'il y en a beaucoup qui croient
  952. 38:37que les LLMs ont une mémoire. Donc la
  953. 38:41les lim ils sont
  954. 38:43stateless et donc c'est les agences et
  955. 38:45les applications euh qui doivent définir
  956. 38:48une mémoire dans laquelle ils vont
  957. 38:51garder structurer le la conversation et
  958. 38:55comme ça à chaque fois qu'on pose la
  959. 38:56question au lemm on lui envoie donc
  960. 38:58notre question mais avec la conversation
  961. 39:00passée. C'est comme ça qu'il peut
  962. 39:02comprendre. Et donc le la question qui
  963. 39:06se pose après. Alors maintenant comment
  964. 39:08structurer la mémoire ? Donc c'est c'est
  965. 39:10donc ça c'est le concept de ce qu'on
  966. 39:12appelle les agents. Et pour définir la
  967. 39:14mémoire pour un agent donc nous allons
  968. 39:17voir qu'il existe plusieurs types de de
  969. 39:19mémoire. Il y a ce qu'on appelle des
  970. 39:23euh des des mémoires de type terme,
  971. 39:27c'est-à-dire à court terme. Euh
  972. 39:28généralement les mémoires à court terme,
  973. 39:30c'est des context memory. Context
  974. 39:32memory, c'est ça, c'est ce que je viens
  975. 39:33de vous dire. C'est-à-dire vous posez au
  976. 39:35départ au début vous avez system message
  977. 39:381. Pour la deuxième question que vous
  978. 39:40allez poser c'est système message
  979. 39:42question 1 réponse 1. Pour la troisème
  980. 39:45question que vous allez lui poser, ça va
  981. 39:47être système message 1, réponse 1,
  982. 39:49question 2, réponse 2, question. Donc ça
  983. 39:52veut dire que ça euh ce que vous voyez
  984. 39:54là, c'est cette questionréponse, c'est
  985. 39:57les fiches dont je vous ai parlé. Euh
  986. 40:00c'est ça le c'est ça la contexte mémory,
  987. 40:03c'est-à-dire c'est le la mémoire du
  988. 40:04contexte généralement dans laquelle on
  989. 40:06garde souvent la conversation.
  990. 40:09Mais après le problème c'est que plus la
  991. 40:12conversation se se c'est-à-dire se
  992. 40:15devient très longue et et du coup donc
  993. 40:18le vous allez avoir des plombes qui sont
  994. 40:21très grands et quand vous avez des
  995. 40:23plomes qui sont très grands vous risquez
  996. 40:25de dépasser euh c'est-à-dire le contexte
  997. 40:28window et en même temps plus vous avez
  998. 40:30des des promes qui sont très grands le
  999. 40:33parfois euh c'est très difficile de de
  1000. 40:36prendre en considération
  1001. 40:38tout ce qui s'est passé dans la
  1002. 40:40conversation. Alors, c'est la raison
  1003. 40:41pour laquelle parfois on a besoin de
  1004. 40:44structurer la mémoire, c'est-à-dire au
  1005. 40:46lieu de d'avoir une simple mémoire
  1006. 40:48conversationnelle. Euh donc il y a des
  1007. 40:50modèles aujourd'hui. Donc il y a pas mal
  1008. 40:52d'articles qui qui sont qui qui se
  1009. 40:54créent dans ce domaine. C'est-à-dire
  1010. 40:56rien que dans la mémoire. Par exemple,
  1011. 40:58il y a des modèles euh euh summarized
  1012. 41:02memory, c'est-à-dire c'est des c'est des
  1013. 41:04modèles qui permettent euh avant
  1014. 41:06d'envoyer la conversation vers le LLM,
  1015. 41:09on va passer via un modèle qui qui
  1016. 41:11permet de créer un résumé. Donc c'est
  1017. 41:13comme si par exemple dans la question
  1018. 41:15que vous posez, vous lui posez la
  1019. 41:17question mais en envoyant le résumé à
  1020. 41:19chaque fois de la conversation.
  1021. 41:20C'est-à-dire l'agent il va pas retenir
  1022. 41:22toutes les les questions réponses mais
  1023. 41:24il va retenir que le en fait une
  1024. 41:27synthèse ou bien euh un résumé de
  1025. 41:29c'est-à-dire de de de la conversation.
  1026. 41:32Et après, il y a également sémanticque
  1027. 41:34memory. C'est c'est des mémoires qui
  1028. 41:36permettent de garder la sémantique,
  1029. 41:37c'est-à-dire le sens. Euh donc on va
  1030. 41:39regarder, on va voir euh il y a des
  1031. 41:42situations. Alors généralement euh les
  1032. 41:44c'est c'est summariz memory c'est des
  1033. 41:46c'est des mémoire de type mid terme,
  1034. 41:49c'est-à-dire c'est à moyen terme. Et
  1035. 41:51après, vous avez des mémoires à long
  1036. 41:52terme souvent qui sont euh enregistrées
  1037. 41:55dans des bases de données, dans des
  1038. 41:56fichiers et donc on trouve semantic
  1039. 42:00memory, persistance memory et cetera.
  1040. 42:01Donc vous voyez donc ici il existe il y
  1041. 42:04a de la recherche qui se fait parce que
  1042. 42:06c'est un domaine qui est très nouveau.
  1043. 42:09Donc il y a il y a pas mal de d'articles
  1044. 42:12qui sont créés et qui permettent de
  1045. 42:15proposer donc des façons de d'améliorer
  1046. 42:17la mémoire d'un agent. Donc tout ça on
  1047. 42:19va parler. Est-ce que c'est clair
  1048. 42:23? OK.
  1049. 42:25OK.
  1050. 42:27Alors donc oui, c'est Alors donc j'ai
  1051. 42:30parlé de max tokens euh mais il y a
  1052. 42:32d'autres paramètres parmi les ces
  1053. 42:34paramètres, il y a top penalty penality,
  1054. 42:37il y
  1055. 42:38a frequency penality. Alors c'est des
  1056. 42:44paramètres plutôt top pénalité, c'est
  1057. 42:47quoi ? c'est que plus vous
  1058. 42:51avez, c'est-à-dire si vous avez un un
  1059. 42:54top pénalité qui est plus
  1060. 42:58grand et c'est-à-dire si vous avez top P
  1061. 43:02qui qui est plus grand, euh il y a plus
  1062. 43:05de tokens qui sont utilisés pour générer
  1063. 43:07la la réponse. Bon, si vous voulez, tout
  1064. 43:10à l'heure, je disais que en fait le
  1065. 43:12c'est-à-dire le LLM, il dispose des
  1066. 43:15tokens, c'est-à-dire c'est des millions
  1067. 43:17de tokens qui c'est pour lui, il génère
  1068. 43:20les réponses avec les tokens. Alors
  1069. 43:22maintenant si ce ce top euh est plus
  1070. 43:26grand et ben c'est comme si vous lui
  1071. 43:28dites tu utilises plus de token pour
  1072. 43:29générer la réponse. Alors c'est top il
  1073. 43:33est petit c'est comme si vous lui
  1074. 43:34limitez l'espace vous lui dites ne
  1075. 43:36dépasse pas par exemple un un maximum de
  1076. 43:39tokens pour générer la la réponse. Vous
  1077. 43:41voyez ? Donc les tokens, il va les
  1078. 43:43combiner euh c'est avec une combinaison
  1079. 43:45de tokens qu'il peut générer la réponse.
  1080. 43:48Et puis l'autre paramètre c'est euh
  1081. 43:51c'est frequency pénality. Euh c'est
  1082. 43:56c'est pour on va dire c'est pour
  1083. 43:58pénaliser le la répétition des tokens.
  1084. 44:01Donc c'est-à-dire si vous avez une
  1085. 44:02valeur qui est plus
  1086. 44:04grande, vous aurez euh moins de chance
  1087. 44:07que les tokens soient répétés.
  1088. 44:10C'est-à-dire si vous augmentez cette
  1089. 44:12cette valeur là, c'est comme si vous lui
  1090. 44:14dites quand il génère la réponse, essaie
  1091. 44:16de ne pas utiliser les mêmes tokens.
  1092. 44:19C'est-à-dire à chaque fois chaque fois
  1093. 44:20que tu génères du du texte, utilise des
  1094. 44:22tokens qui sont différents. Bon, ça
  1095. 44:25c'est des techniques qui sont euh
  1096. 44:27parfois utiles. Dans la majorité des
  1097. 44:29cas, c'est vraiment c'est les choses
  1098. 44:30auxquelles on fait pas vraiment
  1099. 44:32attention, prête pas attention. Mais
  1100. 44:34dans des des cas dans des cas précis,
  1101. 44:37euh parfois, on a besoin de de changer
  1102. 44:39ces paramètres. euh pour euh pour avoir
  1103. 44:41des réponses qui sont parfois plus
  1104. 44:43pertinentes ou bien des réponses qui
  1105. 44:45sont
  1106. 44:51factuelles. Voilà. Alors ça c'est une
  1107. 44:53idée sur le prompt engineering. Alors
  1108. 44:55euh donc si vous voulez dans le dans la
  1109. 44:59structure donc se souvent les LLM c'est
  1110. 45:02des c'est des modèles de l'intelligence
  1111. 45:03artificielle.
  1112. 45:05Donc un LM, c'est un modèle de
  1113. 45:08l'intelligence artificielle qui utilise
  1114. 45:09les réseaux de neuron parce qu'en fait
  1115. 45:11les transformers généralement sont c'est
  1116. 45:14des calculs matriciels et vous savez
  1117. 45:15tout ce qui est calcul matriciel
  1118. 45:17généralement il il est basé sur le les
  1119. 45:20réseaux
  1120. 45:21neurones et donc
  1121. 45:25euh pour vous êtes euh vous avez une
  1122. 45:30application alors l'application pour
  1123. 45:32qu'il communique avec le LLM
  1124. 45:34Et généralement les applications, on
  1125. 45:37communique avec les LLM via ce qu'on
  1126. 45:38appelle les API. Enfin, c'est c'est des
  1127. 45:41c'est des des API qui permettent,
  1128. 45:44c'est-à-dire c'est des applications euh
  1129. 45:46c'est des web services RF qui sont
  1130. 45:49développés par ceux qui qui déploient
  1131. 45:51les LLEMS euh qui reçoit des
  1132. 45:54requêtes. OK, des recrompt.
  1133. 45:58Et après euh c'est cet API qui va
  1134. 46:01présenter ce contenu là euh au Llm qui
  1135. 46:04pour générer la réponse et après il
  1136. 46:05génère la réponse. Et donc et du coup
  1137. 46:08donc la la majorité des API aujourd'hui
  1138. 46:10et ça je pense c'est une bonne chose la
  1139. 46:12majorité des API des LLM euh
  1140. 46:15c'est-à-dire respectent à peu près le
  1141. 46:16même format.
  1142. 46:18Alors le format euh il ressemble à ça.
  1143. 46:21Donc ça dépend bien sûr de des versions.
  1144. 46:23Alors si vous prenez donc les les deux
  1145. 46:25types de prompt, vous avez zé plutôt
  1146. 46:27vous avez zé shot prompt et vous avez f
  1147. 46:30shot prompt. Alors dans le zé shot
  1148. 46:33prompt c'estàd c'est le le zé shot
  1149. 46:37prompt. Si vous envoyez un zé shot prom
  1150. 46:40vers le ll par exemple comme chat GPT et
  1151. 46:43bien ce prom c'est un objet dans lequel
  1152. 46:45on spécifie le modèle.
  1153. 46:47quel est le modèle qu'on veut utiliser
  1154. 46:49GPT for ou et cetera. Et après, vous
  1155. 46:52avez un tableau qui contient des
  1156. 46:54messages. Et dans ces messages, il y a
  1157. 46:59un ensemble de d'objets, c'est-à-dire un
  1158. 47:02ensemble de messages si vous voulez.
  1159. 47:04C'est un tableau de message. Et chaque
  1160. 47:07message, il est il a un type. Donc quel
  1161. 47:09est le rôle ? Alors ici donc le rôle
  1162. 47:12c'est système. Système ça veut dire
  1163. 47:13c'est système message. Alors et le
  1164. 47:15contenu c'est c'est système message.
  1165. 47:18Donc c'est c'est ici. C'est-à-dire votre
  1166. 47:20système message que vous voyez là. Donc
  1167. 47:22c'est c'est ce que vous allez mettre
  1168. 47:24ici. Donc un message il a un rôle
  1169. 47:26c'est-à-dire son type. Le rôle c'est
  1170. 47:27c'est système. Et puis vous avez le
  1171. 47:30deuxième
  1172. 47:32message rôle c'est user c'est-à-dire
  1173. 47:34c'est la question utilisateur,
  1174. 47:36c'est-à-dire c'est
  1175. 47:37celui-là. Et c'est quoi sa valeur ? Ce
  1176. 47:39contenu c'est user
  1177. 47:41input. Alors donc ça c'est le zero shot
  1178. 47:44prompt. Donc le zero shot prompt
  1179. 47:46généralement le le prompt que vous
  1180. 47:48envoyez LLM souvent c'est c'est comme
  1181. 47:51ça. Donc vous trouverez system message
  1182. 47:53et euh user message. Et puis euh après
  1183. 47:57il y a les les paramètres la
  1184. 47:59température, max token, stopy, frequency
  1185. 48:02pénality et cetera.
  1186. 48:04Donc c'est-à-dire si c'est si c'est ce
  1187. 48:07qui va vers le le ll pour faire la la
  1188. 48:09prédiction. Alors ça c'est pour le zero
  1189. 48:12shot prompt mais si vous avez un f shot
  1190. 48:14prompt vous allez trouver à peu près la
  1191. 48:15même chose sauf que ici vous allez
  1192. 48:17trouver le modèle et un ensemble de
  1193. 48:19messages et dans les messages vous
  1194. 48:20trouverez system message user message
  1195. 48:24assistant message. Voyez donc ici
  1196. 48:26assistant message ça veut dire quoi ?
  1197. 48:28C'est la réponse de l'assistance.
  1198. 48:29C'est-à-dire, c'est la réponse. C'est
  1199. 48:31comme si vous dites voilà pour cette
  1200. 48:32question là, voilà la réponse. Alors
  1201. 48:34cette réponse, ça peut être soit un
  1202. 48:36expert par exemple quand il s'agit de d'
  1203. 48:39si si vous avez des fus c'est-à-dire
  1204. 48:41c'est c'est-à-dire c'est votre dataset.
  1205. 48:43Donc vous connaissez déjà le output.
  1206. 48:46Donc c'est c'est une c'est un message de
  1207. 48:48type assistant ou ça peut être une
  1208. 48:51réponse qui est déjà générée auparavant
  1209. 48:52par l'IA. Donc l'essentiel c'est que
  1210. 48:54vous avez trois types de messages
  1211. 48:56plutôt. Vous avez system message, user
  1212. 48:59message, system
  1213. 49:01message plutôt assistant message. Donc
  1214. 49:04pour cette question là, voilà la réponse
  1215. 49:08de l'assistant. Pour cette question là,
  1216. 49:11c'est la la question utilisateur. Voilà
  1217. 49:13la réponse de
  1218. 49:14l'assistant. Et après, on arrive vers
  1219. 49:17user input. Et user input, c'est la
  1220. 49:19question que l'utilisateur va saisir
  1221. 49:21bien sûr à la fin. C'est-à-dire, c'est
  1222. 49:23comme si vous dites "Réponds-moi à cette
  1223. 49:25question" en utilisant ce système
  1224. 49:28message. Sachant que sachant que pour
  1225. 49:31cette question là, voilà la réponse que
  1226. 49:33tu que tu as donné pour cette question
  1227. 49:36là, voilà la la vraie la bonne réponse.
  1228. 49:38Et voilà. Donc ça génère un peu le donc
  1229. 49:41c'est ça la différence entre le zé shot
  1230. 49:43prompt et le fus shot prompt. Est-ce que
  1231. 49:46c'est clair la différence entre zé shot
  1232. 49:48prompt et f shot prompt
  1233. 49:50? Alors si donc vous mettez juste un
  1234. 49:53petit OK dans les messages comme ça je
  1235. 49:55suis un peu voilà, c'est juste un petit
  1236. 49:59un petit signe qui me permet d'avancer.
  1237. 50:02Si vous voulez donc interagir avec un
  1238. 50:06LLM, si vous voulez voir ce ce mécanisme
  1239. 50:09là comme ça, vous n'êtes pas obligé de
  1240. 50:12d'écrire du code. Vous utilisez un
  1241. 50:14simple outil que un simple outil qui
  1242. 50:16envoie des requêtes HTTP vers les les
  1243. 50:18modèles. Euh je prends par exemple cet
  1244. 50:22outil là que vous pouvez télécharger qui
  1245. 50:24s'appelle
  1246. 50:27Postman. Alors Post P post postman. Donc
  1247. 50:30je je vous recommande de l'utiliser au
  1248. 50:32moins une fois. Vous pouvez utiliser
  1249. 50:34d'autres d'autres outils. Bon, PostMa,
  1250. 50:36c'est l'un des outils qui sont très
  1251. 50:37utilisés par le les gens pour tester,
  1252. 50:40pour communiquer avec des des web
  1253. 50:42services
  1254. 50:44RISTF. Donc si vous voulez avec Postman,
  1255. 50:46je peux je peux par exemple envoyer euh
  1256. 50:50une requête vers
  1257. 50:52vers un modèle. Par exemple, si vous
  1258. 50:55voulez utiliser un modèle de de chat GPT
  1259. 50:58de Openni, euh donc il vous faut il vous
  1260. 51:01faut d'abord une clé parce qu'en fait
  1261. 51:04les modèles de open sont
  1262. 51:06payants et donc le euh ici donc de sur
  1263. 51:10plateforme Open I d'ailleurs dans
  1264. 51:13plateforme open vous avez ici playground
  1265. 51:16vous pouvez d'ailleurs voir ce que je
  1266. 51:18viens de vous dire euh ici. Donc vous
  1267. 51:21voyez donc ici vous posez une question
  1268. 51:23euh mais en même temps vous pouvez avoir
  1269. 51:25le vous pouvez avoir donc
  1270. 51:28le voyez donc dans la la partie
  1271. 51:30configuration vous pouvez spécifier quel
  1272. 51:32modèle que vous voulez utiliser. Vous
  1273. 51:34spécifiez système message. Voyez donc
  1274. 51:36ici donc ça c'est système message. Vous
  1275. 51:38voyez souvent vous vous regardez pas ça
  1276. 51:40euh mais en même temps vous pouvez euh
  1277. 51:42voyez donc les paramètres euh donc euh
  1278. 51:45ça c'est la température égale à 1 et
  1279. 51:47cetera. Donc vous pouvez toujours euh
  1280. 51:49régler la température max token, stop,
  1281. 51:52pénalité. Euh donc tout ça c'est des
  1282. 51:54c'est des c'est des paramètres, vous
  1283. 51:56voyez donc euh que vous pouvez régler
  1284. 51:59avant d'envoyer la la la requête. OK
  1285. 52:02? Alors ça c'est le c'est juste
  1286. 52:04l'interface mais si vous voulez
  1287. 52:07interagir avec ces ll avec avec votre
  1288. 52:10propre application parce que ça c'est ce
  1289. 52:12qui ce qui ce qui nous intéresse.
  1290. 52:14C'est-à-dire comment créer des des
  1291. 52:16prompts, comment le les les tester euh à
  1292. 52:19travers vos propres
  1293. 52:21modèles. Donc vous aurez besoin de d'une
  1294. 52:24clé d'API. Donc ici donc
  1295. 52:28euh IP case. Donc il vous faut générer
  1296. 52:31une clé.
  1297. 52:32Euh alors bien sûr donc je génère une
  1298. 52:34clé que je vais appeler
  1299. 52:55test. Alors donc je vais générer une clé
  1300. 52:58peu importe.
  1301. 53:00Je génère la clé, je vais la
  1302. 53:02copier. OK. Bon, vous pouvez générer des
  1303. 53:05clés. Mais quand je disais euh ces
  1304. 53:08modèles open sont panton. Donc ce qui
  1305. 53:11fait que il faut euh il faut toujours
  1306. 53:14regarder ici donc
  1307. 53:16le la partie bine. Donc vous voyez ici
  1308. 53:19quelque part vous avez le crédit, vous
  1309. 53:20pouvez charger un montant. Euh par
  1310. 53:22exemple, moi ça m'arrive de charger un
  1311. 53:25montant.
  1312. 53:26Euh mais ce monteau là, vous vous le
  1313. 53:28consommez jusqu'à ce qu'il soit
  1314. 53:30consommé. Ça prend beaucoup de temps.
  1315. 53:32C'est-à-dire euh une centaine de de
  1316. 53:35dirham, vous pouvez charger votre compte
  1317. 53:39et ça vous permet de faire pas mal de
  1318. 53:40tests, surtout si parfois vous voulez
  1319. 53:42comparer les performances d'un modèle de
  1320. 53:44open par rapport au llur que vous
  1321. 53:47utilisez. Euh donc vous aurez besoin de
  1322. 53:49donc de de mettre un peu d'argent quand
  1323. 53:52vous le faites pour charger votre
  1324. 53:54téléphone. C'est la réalité c'est que
  1325. 53:57c'est que il a il s'impose et à un
  1326. 53:59moment donné maintenant aujourd'hui les
  1327. 54:00entreprises tout le monde paye paye
  1328. 54:03généralement ces modèles pour pour tirer
  1329. 54:07profit mais bien sûr il y a des modèles
  1330. 54:09qui sont qui sont gratuits qui sont
  1331. 54:11oburs. Il y a des moyens de de voir
  1332. 54:14ça. Donc ça c'est juste pour vous donner
  1333. 54:17une idée en tout cas. Donc ici donc si
  1334. 54:19je suppose que si je j'ai une clé, vous
  1335. 54:21avez généré une clé
  1336. 54:27d'API. Donc si vous avez la clé, je peux
  1337. 54:30par exemple aller vers euh par exemple
  1338. 54:33ici euh Postman. Il suffit d'envoyer une
  1339. 54:37requête HTTP avec Post vers le modèle de
  1340. 54:41Openni. dans cette adresse-là, c'est
  1341. 54:44httpi,
  1342. 54:46openi V1 chat completions et puis il va
  1343. 54:50falloir envoyer de de deux headers dans
  1344. 54:52la requête HTTP. Le premier d'abord
  1345. 54:54c'est content
  1346. 54:55type. Alors content type ça doit la
  1347. 54:59valeur ça doit être application Jon.
  1348. 55:01C'est-à-dire parce que les données qu'
  1349. 55:02qu'on envoie, c'est des données au
  1350. 55:03format au format Jason application
  1351. 55:09Jason. Et puis euh en fait pour la
  1352. 55:12sécurité maintenant euh vous allez
  1353. 55:15envoyer un header qui s'appelle
  1354. 55:17authorization dans lequel il faut
  1355. 55:20écrire. C'est un mot comme ça, espace et
  1356. 55:24vous mettez la clé la clé que j'ai
  1357. 55:25copié. Vous voyez ici ? Donc ça c'est la
  1358. 55:28clé que je viens de créer parce que si
  1359. 55:30vous n'avez pas si vous envoyez pas
  1360. 55:31cette clé là, il va vous dire vous
  1361. 55:32n'avez pas le droit. Donc je suis en
  1362. 55:34train de consommer le en utilisant ma
  1363. 55:37propre clé euh c'est-à-dire de la
  1364. 55:40PPN. Donc voilà les deux headers qu'il
  1365. 55:42faut envoyer dans la requête HTTP et
  1366. 55:43puis maintenant le corps body. Et dans
  1367. 55:46B, vous allez
  1368. 55:47envoyer vous allez envoyer le contenu.
  1369. 55:50Et le contenu donc c'est ce que je viens
  1370. 55:53de vous montrer ici. C'est ça. Donc il
  1371. 55:55va falloir envoyer un objet de Jon qui
  1372. 55:58contient le modèle, qui contient les
  1373. 56:00messages et après qui contient ça. Bon,
  1374. 56:02vous pouvez tenter de faire des choses.
  1375. 56:05Je vais faire quelque chose de plus
  1376. 56:06simple. Regardez. Donc je vais dire par
  1377. 56:09exemple, je vais utiliser le le modèle.
  1378. 56:13Pour le modèle, je vais utiliser GPT par
  1379. 56:16exemple for. Ça c'est le plus le c'est
  1380. 56:19le modèle le plus puissant mais c'est
  1381. 56:21aussi c'est relativement
  1382. 56:24euh le un peu plus cher par rapport par
  1383. 56:27vous pouvez utiliser GPT for au mini par
  1384. 56:29exemple, c'est moins cher. Euh il y a
  1385. 56:31d'autres modèles qui sont qui coûtent
  1386. 56:33presque gratuit les anciens modèles de
  1387. 56:35Open mais ça c'est pour faire c'est pas
  1388. 56:38les modèles qui manquent. vous avez vous
  1389. 56:39aurez pas mal de de solutions à tester.
  1390. 56:43Donc il y a modèle et après il y a les
  1391. 56:46messages donc un ensemble de mess de
  1392. 56:49messages et les messages. Donc vous
  1393. 56:51voyez donc les messages que vous envoyez
  1394. 56:52c'est un tableau et chaque message
  1395. 56:56contient le rôle.
  1396. 56:58Par exemple ici le rôle c'est par
  1397. 57:00exemple
  1398. 57:02système c'est un système message et
  1399. 57:06content le contenu de de ce
  1400. 57:09message c'est voilà le système message
  1401. 57:11par exemple vous dites vous lui dites
  1402. 57:13vous
  1403. 57:15êtes vous vous êtes par
  1404. 57:18exemple un
  1405. 57:21assistant dans le
  1406. 57:23domaine médical et ceter peu importe
  1407. 57:27dans le domaine
  1408. 57:30médical et que et que et cetera. Donc ça
  1409. 57:33c'est la problématique, c'est le système
  1410. 57:34message. Et puis donc sachant que voilà
  1411. 57:37la problématique, le donc c'est-à-dire
  1412. 57:40le contexte, je vais lui envoyer un
  1413. 57:43autre message avec le rôle
  1414. 57:49user. Rôle, c'est
  1415. 57:53user et le
  1416. 57:55contenu. Alors, il y a quelque chose qui
  1417. 57:57j'ai raté ici. Alors, ça c'est le
  1418. 58:01premier message. Voilà, le deuxème
  1419. 58:05message. Alors ça c'est le rôle de
  1420. 58:08point
  1421. 58:11user et après
  1422. 58:15content c'est par
  1423. 58:17exemple
  1424. 58:21euh donne-moi des conseils. Bah je sais
  1425. 58:24des
  1426. 58:27conseils. Alors normalement cette
  1427. 58:28question là donne-moi des conseils,
  1428. 58:30c'est un peu abstraite. Si vous lui
  1429. 58:31dites donne-moi des conseils, il peut
  1430. 58:32pas savoir dans quel domaine. Mais
  1431. 58:34maintenant, c'est parce que système ISCG
  1432. 58:36lui dit "Tu es un assistant dans le
  1433. 58:37domaine médical." Il va comprendre que
  1434. 58:40c'est des conseils qui qui concernent le
  1435. 58:42domaine médical. Et après, bon, c'est
  1436. 58:44juste pour faire un test. Et puis euh
  1437. 58:47donc après les messages, vous envoyez
  1438. 58:49les paramètres. Et parmi les paramètres,
  1439. 58:51il y a par exemple la température.
  1440. 58:56Alors, la température, je vais mettre
  1441. 58:57par exemple 0,5.
  1442. 59:00Alors voyez ici donc ça c'est c'est un
  1443. 59:02un exemple de prompt en fait de message.
  1444. 59:06C'est un zé shot prompt. OK. Alors
  1445. 59:09pourquoi zé shot prom ? Parce qu'il y a
  1446. 59:10que système message et user user
  1447. 59:14message. Alors j'envoie la
  1448. 59:18requête. Alors ici donc il reconnaît pas
  1449. 59:21la température parce qu'il est mal
  1450. 59:22écrite. Donc il me dit que je ce
  1451. 59:25paramètre il est mal écrit.
  1452. 59:29température et vous voyez la réponse
  1453. 59:31maintenant, c'est-à-dire le le LLM, il
  1454. 59:34vous répond avec quoi ? Il vous répond
  1455. 59:36avec le ID de la réponse, la date de la
  1456. 59:39réponse, choices, c'est-à-dire il y a
  1457. 59:41plusieurs choix parce qu'il peut vous
  1458. 59:42donner plusieurs réponses et chaque
  1459. 59:44choice, il contient l'index, le numéro
  1460. 59:46de choix et ici il contient un message
  1461. 59:49cette fois-ci. Si vous voyez donc le
  1462. 59:50rôle, c'est assistant, c'est-à-dire ça,
  1463. 59:53c'est le message de de la réponse de
  1464. 59:55l'assistance, c'est-à-dire de l'IA et le
  1465. 59:57contenu. Voilà la la la réponse. Bien
  1466. 1:00:00sûr, je serais heureux de vous donner
  1467. 1:00:02des conseils. Cependant, j'aurais besoin
  1468. 1:00:04de savoir dans quel domaine de la
  1469. 1:00:05gestion du stress. Il sait bien que
  1470. 1:00:07c'est dans le domaine médical, mais
  1471. 1:00:10système Mige ne n'a pas précisé vraiment
  1472. 1:00:13de ce que c'est dans dans le domaine
  1473. 1:00:14cardio et cetera et cetera. Voilà. Alors
  1474. 1:00:18ici, ça c'est juste un test et après il
  1475. 1:00:21vous donne également le nombre de tokens
  1476. 1:00:24qu'il y a dans votre prompt. Il vous
  1477. 1:00:26donne également total tokens,
  1478. 1:00:28c'est-à-dire entre la requête et la
  1479. 1:00:30réponse euh et cetera. Donc c'est-à-dire
  1480. 1:00:33ça c'est completion tokens, le nombre de
  1481. 1:00:35tokens de la réponse et ça c'est le
  1482. 1:00:37nombre de tokens de la question. Si vous
  1483. 1:00:39faites la 100, vous allez trouver 80
  1484. 1:00:4399. Est-ce que c'est clair pour ça ?
  1485. 1:00:48OK. Alors ça c'est pour opener I mais si
  1486. 1:00:51vous voulez travailler avec un modèle
  1487. 1:00:53open source euh ben vous pouvez
  1488. 1:00:56télécharger
  1489. 1:00:57Olama. Alors
  1490. 1:01:01Olama donc Olama c'est un outil simple
  1491. 1:01:04vous le téléchargez vous
  1492. 1:01:06l'installez. Une fois que vous
  1493. 1:01:07l'installez vous pouvez télécharger des
  1494. 1:01:09modèles open source, il y en a beaucoup
  1495. 1:01:12vous voyez donc vous pouvez utiliser
  1496. 1:01:13GMA. C'est un modèle open source euh de
  1497. 1:01:16qui vient de chez Google. Il y a Queen
  1498. 1:01:18très connu des psic c'est euh
  1499. 1:01:22c'est-à-dire le modèle d'Isic euh la
  1500. 1:01:25version avec raisonnement. Euh donc vous
  1501. 1:01:28pouvez le télécharger la MA 4, ça c'est
  1502. 1:01:29la dernière version de Lama. Vous avez
  1503. 1:01:32vous voyez donc vous avez beaucoup de
  1504. 1:01:33modèles. Alors tous ces LLM là c'est des
  1505. 1:01:35modèles mixtral,
  1506. 1:01:37mistral, ça c'est lui de Microsoft euh
  1507. 1:01:41et cetera. Euh et vous allez trouver des
  1508. 1:01:43modèles qui sont spécialisés dans des
  1509. 1:01:45des domaines précis. Bon, avec OAMA,
  1510. 1:01:48vous pouvez télécharger tous ces ces
  1511. 1:01:50modèles. Alors, une fois que vous
  1512. 1:01:52installez cet outil là euh Ou au lama,
  1513. 1:01:55il faut le
  1514. 1:01:58lancer au lama.
  1515. 1:02:01Alors si vous vous au
  1516. 1:02:08lama alors ici ça c'est la la deuxième
  1517. 1:02:11version vous le lancez et vous voyez
  1518. 1:02:13doncci il est lancé et directement sur
  1519. 1:02:16ligne de
  1520. 1:02:19commande je vais lancer un
  1521. 1:02:27terminal je fais je quitte
  1522. 1:02:32Alors en terminal, une fois que vous
  1523. 1:02:34l'avez installé, vous lancez votre
  1524. 1:02:36terminal et vous tapez tout simplement
  1525. 1:02:37la
  1526. 1:02:39main run et vous spécifiez le modèle que
  1527. 1:02:42vous voulez
  1528. 1:02:44démarrer. Alors ici donc le modèle, vous
  1529. 1:02:46prenez Mistral, vous prenez et cetera.
  1530. 1:02:49Euh ici donc je cherche par exemple la
  1531. 1:02:51MA 3.3, voyez la MA 3.2 par exemple la
  1532. 1:02:55MA 3.2 si vous regardez euh vous allez
  1533. 1:02:57trouver la taille si 16 euh alors vous
  1534. 1:03:01pouvez consulter la taille la mat 32
  1535. 1:03:04c'est ça c'est 2 Go. Vous voyez c'est 2
  1536. 1:03:08Go. Euh le context window c'est 128 kg.
  1537. 1:03:13Euh vous avez les diversions avec 1
  1538. 1:03:17bilion de paramètres, 3 bilions de
  1539. 1:03:19paramètres et cetera. Donc vous avez
  1540. 1:03:21plusieurs Donc si vous voulez d'ailleurs
  1541. 1:03:23l'exécuter, vous vous tapez au lama
  1542. 1:03:27run le modèle. Alors si le modèle
  1543. 1:03:29n'existe pas, il va le télécharger. Donc
  1544. 1:03:32si vous mettez Olama ls, il va vous
  1545. 1:03:35lister la liste des llms euh open source
  1546. 1:03:38que vous avez téléchargé. Alors ici donc
  1547. 1:03:39je vois bien j'ai déjà téléchargé la la
  1548. 1:03:41MAT 3.2. La MA 3.2 c'est un modèle à peu
  1549. 1:03:44près l'équivalent de euh GPT for H à peu
  1550. 1:03:48près en terme de de dimension et vous
  1551. 1:03:50pouvez l'utiliser. Voyz donc je vois ici
  1552. 1:03:52aussi vous pouvez tester des psiques,
  1553. 1:03:54vous pouvez tester pas mal de de
  1554. 1:03:55modèles. Alors ici donc ce que je vais
  1555. 1:03:57faire, je vais utiliser
  1556. 1:04:00Olama run euh lama
  1557. 1:04:043.2. Alors donc là il est démarré. Bon,
  1558. 1:04:08vous pouvez commencer à chatter,
  1559. 1:04:10c'est-à-dire comme ça, vous pouvez lui
  1560. 1:04:11poser des questions, il vous répond.
  1561. 1:04:13Donc, vous voyez donc ici, ça c'est un
  1562. 1:04:15modèle local euh ici que je suis en
  1563. 1:04:18train d'utiliser. Et si vous voulez le
  1564. 1:04:21euh le tester avec, j'envoie la même
  1565. 1:04:24question euh euh à lama euh
  1566. 1:04:28c'est-à-dire euh de c'est-à-dire lama au
  1567. 1:04:31lama. Donc ici donc vous vous remplacez
  1568. 1:04:33tout simplement la requête par ça par
  1569. 1:04:36http local
  1570. 1:04:39host. Alors bien sûr vous
  1571. 1:04:42ajoutez/chations http2.lolecal local
  1572. 1:04:44host, c'est le numéro de port, c'est
  1573. 1:04:4811434 V1 chat completions. Donc ça c'est
  1574. 1:04:51pour vous êtes en train d'interagir avec
  1575. 1:04:54Olama, vous lui envoyez la requête sauf
  1576. 1:04:56que cette fois-ci vous n'avez pas besoin
  1577. 1:04:58d'envoyer le header ici. Voilà donc le
  1578. 1:05:01c'est-à-dire le token, la clé vous
  1579. 1:05:04n'avez pas besoin parce que c'est
  1580. 1:05:05gratuit. Ça c'est ça c'est pour opener I
  1581. 1:05:09mais ici donc je vais pas l'envoyer ça
  1582. 1:05:11sert à rien et j'envoie ce qui est bien
  1583. 1:05:14c'est que je vais lui envoyer le même
  1584. 1:05:16promte c'est-à-dire c'est le même promte
  1585. 1:05:17que j'ai envoyé à chat GPT je l'envoie à
  1586. 1:05:20lama ici.
  1587. 1:05:24Donc il vous dit que il connaît pas GPT
  1588. 1:05:26for c'est normal parce queama le modèle
  1589. 1:05:30que j'ai démarré s'appelle Lama 3.2.
  1590. 1:05:38Et là, vous générez la
  1591. 1:05:41réponse. Alors, vous remarquez bien sûr,
  1592. 1:05:43ça prend plus de temps parce que si vous
  1593. 1:05:44n'avez pas une machine relativement
  1594. 1:05:45puissante, euh ça va être un peu voilà
  1595. 1:05:50en tant que assistant médical. Donc,
  1596. 1:05:51vous voyez donc la mail vous dit en tant
  1597. 1:05:53que assistant médical, je peux vous
  1598. 1:05:54offrir et cetera. Bon, l'essentiel c'est
  1599. 1:05:57que vous avez une réponse, vous pouvez
  1600. 1:05:58tester
  1601. 1:06:01ça. Voilà. Alors donc ça c'est le un
  1602. 1:06:04premier
  1603. 1:06:10passage. Donc pour tester, je vous ai
  1604. 1:06:13montré donc
  1605. 1:06:14avec en fait Postman, vous testez euh le
  1606. 1:06:19modèle de Open A et vous testez la main.
  1607. 1:06:22Alors maintenant on arrive le
  1608. 1:06:24c'est-à-dire comment exploiter l
  1609. 1:06:27générative. Donc j'ai à peu près une
  1610. 1:06:28idée sur c'est quoi le prompt ingéné,
  1611. 1:06:31j'ai une une idée sur c'est quoi un
  1612. 1:06:33prompt, les différents types de
  1613. 1:06:34promptes, les paramètres, la structure
  1614. 1:06:36et cetera. Alors peut-être j'ai sauté
  1615. 1:06:38quelque chose de dont j'ai pas parlé ici
  1616. 1:06:40parce que en fait les différents types
  1617. 1:06:42de pompes
  1618. 1:06:43déjà en terme de structure alors en
  1619. 1:06:47terme de structure il y a zé shot prompt
  1620. 1:06:51il y a f shot prompt mais en terme de
  1621. 1:06:53contenu il existe plusieurs types de
  1622. 1:06:55prompt ça dépend de des des problèmes.
  1623. 1:06:58Par exemple, il a ce qu'on appelle
  1624. 1:06:59instruction prompt, c'est ce qu'on
  1625. 1:07:00appelle les les promptes
  1626. 1:07:03pédagogiques. Les raisonn prompt, les
  1627. 1:07:07les promptes de raisonnement. Induction
  1628. 1:07:09prompt, c'est les promptes
  1629. 1:07:12d'induction parapharisine prompt sh
  1630. 1:07:15prompt, c'est ce qu'on appelle code
  1631. 1:07:17prompt. Donc vous voyez donc ça dépend
  1632. 1:07:20euh ça dépend de type de problème. Si
  1633. 1:07:22par exemple vous voulez poser la
  1634. 1:07:24question à à un à un Llm pour lui dire
  1635. 1:07:27de de vous générer des promptes, bon il
  1636. 1:07:30faut utiliser un type de prompt. Si vous
  1637. 1:07:32voulez par exemple faire du
  1638. 1:07:33raisonnement, euh vous utilisez code
  1639. 1:07:35shot prompt et cetera. Donc tout ça euh
  1640. 1:07:38je vais pas m'arrêter en détail sur ça
  1641. 1:07:40parce que dans le le support vous allez
  1642. 1:07:41trouver que des euh dans le notebook,
  1643. 1:07:45vous allez trouver des exemples de
  1644. 1:07:47chaque type de de prompt mais c'est
  1645. 1:07:49intéressant à
  1646. 1:07:52savoir. Alors maintenant euh comment euh
  1647. 1:07:56tirer profit de en fait de lien
  1648. 1:07:58génératif ? Ah ça c'est important.
  1649. 1:08:01Alors, vous savez, il y a il y a deux
  1650. 1:08:03années parce que les choses vraiment ces
  1651. 1:08:05ces deux années ces ces deux dernières
  1652. 1:08:07années, il y a beaucoup de choses qui s
  1653. 1:08:08qui se sont passés.
  1654. 1:08:10Euh d'abord euh
  1655. 1:08:13donc nous avons d'abord à euh quelque
  1656. 1:08:17chose qui s'appelle le prompt
  1657. 1:08:18engineering parce qu'il faut comprendre
  1658. 1:08:20comment euh comment rédiger, concevoir,
  1659. 1:08:23évaluer les promptes pour communiquer
  1660. 1:08:25avec les applications, avec l'IA, avec
  1661. 1:08:27l'intelligence
  1662. 1:08:29artificielle. Et puis euh vous avez donc
  1663. 1:08:31le
  1664. 1:08:33donc pour profiter de de l'IA, vous
  1665. 1:08:36pouvez faire ce qu'on appelle le fot
  1666. 1:08:38learning. Alors, c'est quoi le fot
  1667. 1:08:40learning ? Vous le connaissez ? Et ben
  1668. 1:08:42tout simplement, c'est le fait de
  1669. 1:08:44prendre dans une application quelconque,
  1670. 1:08:47vous envoyez un prompt dans lequel vous
  1671. 1:08:48trouverez il y a system
  1672. 1:08:51message, il y a few shots, c'est-à-dire
  1673. 1:08:54quelques exemples avec des des réponses.
  1674. 1:08:56Généralement, vous n'avez pas besoin de
  1675. 1:08:57beaucoup. Vous aurez besoin juste de
  1676. 1:08:59quelques exemples, cinq exemples ou bien
  1677. 1:09:01deux exemples. Parfois, ça suffit pour
  1678. 1:09:03donner plus de contexte au Ll.
  1679. 1:09:07Et après il y a user input. Donc c'est
  1680. 1:09:11comme si vous vous dites au LM
  1681. 1:09:14réponds-moi à cette question en
  1682. 1:09:16utilisant ce ce contexte ce système
  1683. 1:09:19message. Sachant que pour cette question
  1684. 1:09:22voilà la bonne réponse. Pour cette
  1685. 1:09:23question voilà la bonne réponse. Donc je
  1686. 1:09:25lui donne de
  1687. 1:09:27de Fot
  1688. 1:09:29examples. Bon avec ça généralement c'est
  1689. 1:09:33la la solution la moins la moins
  1690. 1:09:35coûteuse. La moins coûteuse. Pourquoi ?
  1691. 1:09:37parce que vous n'aurez pas besoin
  1692. 1:09:38vraiment
  1693. 1:09:39de créer des des modèles, votre
  1694. 1:09:42application, il va juste profiter de et
  1695. 1:09:45donc votre travail consiste juste à
  1696. 1:09:46faire des prompt engineering,
  1697. 1:09:48c'est-à-dire il faut créer d'abord le
  1698. 1:09:50prompt et après il faut il vous faut un
  1699. 1:09:52petit dataset, c'est-à-dire qui va vous
  1700. 1:09:55permettre d'avoir quelques exemples avec
  1701. 1:09:57des réponses. Et puis donc vous avez
  1702. 1:10:00vous allez tout simplement utiliser des
  1703. 1:10:02fichot prompt que vous allez évaluer.
  1704. 1:10:04Une fois que vous l'avez évalué que et
  1705. 1:10:06que ça donne de bons résultats, après
  1706. 1:10:08vous pouvez déployer le prompt et ça
  1707. 1:10:10marche. Les les utilisateurs peuvent
  1708. 1:10:12profiter de de ce prompt. Ça c'est ce
  1709. 1:10:15qu'on appelle le fus learning. Et puis
  1710. 1:10:18la deuxième façon, c'est de faire ce
  1711. 1:10:19qu'on appelle le find
  1712. 1:10:21tuning. Alors le fine tuning c'est une
  1713. 1:10:24une façon euh qui consiste à quoi ?
  1714. 1:10:27c'est le fait de prendre c'est de faire
  1715. 1:10:30ce qu'on a de profiter du transfert
  1716. 1:10:31learning, c'est-à-dire on va prendre un
  1717. 1:10:34dataset dans votre domaine et ça c'est
  1718. 1:10:37intéressant. Donc maintenant vous allez
  1719. 1:10:38dans votre sujet de thèse ou dans votre
  1720. 1:10:41recherche, vous avez un dataset que vous
  1721. 1:10:43allez
  1722. 1:10:44collecter. Alors ce qui est intéressant
  1723. 1:10:46c'est que vous n'êtes pas obligé d'avoir
  1724. 1:10:48un un très grand dataset. Euh donc vous
  1725. 1:10:51avez un dataset de bonne qualité euh
  1726. 1:10:54bien
  1727. 1:10:55sûr plus il y a le nombre de d'exemples
  1728. 1:10:58c'est c'est mieux. Et après, on va
  1729. 1:11:00utiliser ce dataset pour réentraîner un
  1730. 1:11:03ll. C'est-à-dire, vous allez télécharger
  1731. 1:11:04un LLM comme par exemple Lama, lama 3.2
  1732. 1:11:09ou un modèle comme par exemple Mistral
  1733. 1:11:11ou autre chose. Et bien tout simplement,
  1734. 1:11:14c'est un modèle général, c'est-à-dire
  1735. 1:11:17qui a été déjà entraîné sur un large
  1736. 1:11:19corpus de données, c'est-à-dire c'est un
  1737. 1:11:21modèle qui est déjà très
  1738. 1:11:23intelligent qui est capable de répondre
  1739. 1:11:26à pas mal de questions dans différents
  1740. 1:11:29domaines. Et maintenant, je voudrais
  1741. 1:11:31qu'il se spécialise dans ce
  1742. 1:11:33domaineel. Et ben, tout simplement, on
  1743. 1:11:35va réentraîner ce LLM en utilisant ce
  1744. 1:11:39dataset. Et quand on va le réentraîner,
  1745. 1:11:42ça va nous donner un nouveau LLM. si
  1746. 1:11:44vous créez votre propre LM spécifique et
  1747. 1:11:47ce LLM spécifique lui il il est capable
  1748. 1:11:51de répondre à des questions qui sont
  1749. 1:11:53dans ce domaine
  1750. 1:11:54spécifique. Alors et dans ce cas-là vous
  1751. 1:11:57avez votre application va envoyer un
  1752. 1:11:59prompt un simple zero shot prompt est
  1753. 1:12:02suffisant qui contient système message
  1754. 1:12:05et user input. Donc cette fois-ci vous
  1755. 1:12:07n'aurez pas besoin de donner quelques
  1756. 1:12:09exemples
  1757. 1:12:10avec réponse dans le le prompt. Pourquoi
  1758. 1:12:13? Tout simplement parce que le LLM, il
  1759. 1:12:15est déjà entraîné sur quelques sur un
  1760. 1:12:19ensemble de questions réponses qui sont
  1761. 1:12:20déjà connu auparavant. Donc ça c'est le
  1762. 1:12:23votre dataset qui est
  1763. 1:12:27étiqueté et avec ça donc le Lim
  1764. 1:12:29spécifique va générer de des réponses
  1765. 1:12:31qui sont très précises. Donc avec cette
  1766. 1:12:34technique de find tuning, généralement
  1767. 1:12:37vous pouvez avoir quelque chose de plus
  1768. 1:12:39intéressant que le fuse short learning.
  1769. 1:12:42Et donc si vous avez une problématique
  1770. 1:12:45particulière dans laquelle vous
  1771. 1:12:47travaillez dans le domaine de l'IA, et
  1772. 1:12:50bien au lieu de créer ce qu'on appelle
  1773. 1:12:51un modèle from scratch, c'est ce que
  1774. 1:12:53nous avons appris jusqu'à présent parce
  1775. 1:12:55que en fait les les modèles que nous
  1776. 1:12:58avons entraînés dans le les les cours
  1777. 1:13:01avant, c'est des modèles qui sont basés
  1778. 1:13:04100 % sur nos propres
  1779. 1:13:06données. Alors que cette fois-ci, vous
  1780. 1:13:08allez utiliser un modèle qui qui est
  1781. 1:13:10déjà entraîné sur des beaucoup de data,
  1782. 1:13:13un large corpus de de data et vous lui
  1783. 1:13:16ajoutez votre votre domaine spécifique
  1784. 1:13:19et vous obtenez un voilà un LM qui est
  1785. 1:13:22spécifique. Bon, c'est à peu près c'est
  1786. 1:13:24comme si vous êtes vous avez un médecin
  1787. 1:13:26généraliste qui est capable de répondre
  1788. 1:13:28à des questions d'ordre général.
  1789. 1:13:30Bah, on va lui donner euh on va le
  1790. 1:13:32former, on va lui donner un un une
  1791. 1:13:35formation spécifique, on va le
  1792. 1:13:38entraîner, ça devient un médecin
  1793. 1:13:40spécialiste, c'est-à-dire c'est un
  1794. 1:13:41médecin qui médecin qui est capable de
  1795. 1:13:43donner des réponses dans ce domaine
  1796. 1:13:45spécifique. C'est à peu près
  1797. 1:13:48ça. Alors, bien sûr, le f tun euh il y a
  1798. 1:13:51des techniques qui sont utilisées.
  1799. 1:13:54Il y a de le le fine tuning passe par
  1800. 1:13:57plusieurs étapes également parce que
  1801. 1:13:59dans le f c'est le fine tuning qui qui
  1802. 1:14:01c'est c'est avec le fine tuning que vous
  1803. 1:14:02arrivez à voir. Euh si vous regardez
  1804. 1:14:04dans Hugin face euh hugin face il y a
  1805. 1:14:08des il y a des il y a des milliers de de
  1806. 1:14:11modèles euh qui sont à chaque fois
  1807. 1:14:14téléchargés. C'est des modèles open
  1808. 1:14:15source. Alors tous les les LLMs qui sont
  1809. 1:14:19spécialisés, c'est comme ça que les gens
  1810. 1:14:21font. C'est-à-dire, vous utilisez un
  1811. 1:14:23dataset, vous faites le find tuning, ça
  1812. 1:14:25vous donne un ll spécifique et ce ll
  1813. 1:14:28spécifique, on peut encore l'utiliser
  1814. 1:14:30pour faire encore un autre fine tuning.
  1815. 1:14:32Et donc avec ça, on génère beaucoup de
  1816. 1:14:34de des modèles de LIA. Donc toutes les
  1817. 1:14:36applications de LIA que vous voyez qui
  1818. 1:14:38qui apparaissent généralement, c'est
  1819. 1:14:40comme ça que ça se passe, c'est que les
  1820. 1:14:41gens ils prennent des LLM généralistes,
  1821. 1:14:44on fait du fine tuning, on obtient un
  1822. 1:14:46nouveau lm, on le déploie et après on
  1823. 1:14:48crée des applications euh qui vont
  1824. 1:14:50profiter de ce LLM là euh dans un
  1825. 1:14:53domaine
  1826. 1:14:55spécifique. Alors ça c'est le c'est la
  1827. 1:14:57deuxième euh la deuxième façon de faire.
  1828. 1:15:00Alors la troisième façon de faire c'est
  1829. 1:15:02d'utiliser ce qu'on appelle le système
  1830. 1:15:04rag root rver augmented
  1831. 1:15:06generation. Alors c'est quoi le en fait
  1832. 1:15:08le système rag ? Alors avec le le fine
  1833. 1:15:12tuning, on peut on peut tirer profit de
  1834. 1:15:15l'IA euh généralement euh en en en
  1835. 1:15:20exploitant un dataset qui est structuré.
  1836. 1:15:24Mais parfois, il se trouve que dans les
  1837. 1:15:26entreprises, c'est que nous avons des
  1838. 1:15:29documents qui ne sont pas structurés,
  1839. 1:15:30c'est-à-dire vous avez des fichiers PDF,
  1840. 1:15:33vous avez plein de fichiers PDF, des
  1841. 1:15:35documents Word, c'est-à-dire
  1842. 1:15:37l'entreprise dispose de beaucoup de de
  1843. 1:15:40documents et des livres, des des
  1844. 1:15:43ressources, des vidéos, des audios et
  1845. 1:15:44cetera, des images. Euh donc tous c
  1846. 1:15:47toutes ces données structurées là, bah
  1847. 1:15:49qu'est-ce qu'on va faire ? Et bien on va
  1848. 1:15:51ici donc de prendre le le document, on
  1849. 1:15:54va on va faire une opération qui
  1850. 1:15:55s'appelle
  1851. 1:15:56split. Alors l'opération
  1852. 1:15:59split consiste à créer à découper un un
  1853. 1:16:02document PDF par exemple en un ensemble
  1854. 1:16:05de ce qu'on appelle les chunks. Bon les
  1855. 1:16:07chunks c'est c'est des morceaux.
  1856. 1:16:09Un chunk, ça peut être un paragraphe du
  1857. 1:16:12du document, ça peut être une page.
  1858. 1:16:15Donc, il existe des stratégies, il
  1859. 1:16:17existe plusieurs stratégies pour faire
  1860. 1:16:19ce qu'on appelle pour créer les chunks.
  1861. 1:16:22On peut faire les chunks selon les
  1862. 1:16:23paragraphes, selon le nombre de
  1863. 1:16:26caractères de du chunks. L'essentiel,
  1864. 1:16:28c'est que on va découper
  1865. 1:16:30notre contenu, notre livre, par exemple,
  1866. 1:16:33PDF. On a un ensemble de de chunks.
  1867. 1:16:37Alors, pourquoi d'abord on va utiliser
  1868. 1:16:38plusieurs chunks ? Parce que déjà euh
  1869. 1:16:42nous avons dit tout à l'heure que un ll,
  1870. 1:16:44il a ce qu'on appelle un context window.
  1871. 1:16:47Alors, le contexte window euh,
  1872. 1:16:49c'est-à-dire il est limité. Ça veut dire
  1873. 1:16:51que si vous avez un context window =
  1874. 1:16:53128000, ben ça veut dire que normalement
  1875. 1:16:55on ne peut pas présenter un
  1876. 1:16:58llans le nombre de tokens passe 128000.
  1877. 1:17:00Donc c'est-à-dire on peut pas donner un
  1878. 1:17:02livre PDF directement à l'IA. Le
  1879. 1:17:08ll pourquoi ? Parce que vous avez une
  1880. 1:17:10limite, c'est le contexte Window. Mais
  1881. 1:17:13par contre ce que je vais faire euh donc
  1882. 1:17:15je vais je vais donc faire ce créer ces
  1883. 1:17:18chunks et puis ces chunks là on va on va
  1884. 1:17:21faire une opération qui s'appelle texte
  1885. 1:17:24embedin. Alors texte embeding c'est euh
  1886. 1:17:27c'est tout simplement c'est de convertir
  1887. 1:17:29le texte les chens en
  1888. 1:17:31vecteur. Alors il y a des modèles de de
  1889. 1:17:34Lia euh qui qui font ce travail là dans
  1890. 1:17:37le domaine de NLP. Euh vous prenez un
  1891. 1:17:40texte euh faire de nbidin, ça vous donne
  1892. 1:17:42des vecteurs. C'est normal parce queen
  1893. 1:17:45fait le euh c'est-à-dire quand quand on
  1894. 1:17:50c'est-à-dire le pour pouvoir comprendre
  1895. 1:17:53le texte, ben il faudrait enregistrer le
  1896. 1:17:56sens la sémantique du texte. Et pour
  1897. 1:17:59enregistrer le sens d'un texte, bah il y
  1898. 1:18:01a des modèles de NLP qui font cette
  1899. 1:18:03opération de binin. Vous lui donnez un
  1900. 1:18:05texte, il va vous générer un vecteur.
  1901. 1:18:08Alors ce vecteur là, il est très il est
  1902. 1:18:09très grand. Donc il vous génère si vous
  1903. 1:18:11voulez un vecteur dans lequel vous avez
  1904. 1:18:14plusieurs nombres. Voyez donc c'est
  1905. 1:18:16entre 0 et 1. Et ces nombres là ça
  1906. 1:18:19représente le sens de du mot. Pourquoi ?
  1907. 1:18:23parce que le LLM généralement il a le
  1908. 1:18:25modèle a un dictionnaire de de de
  1909. 1:18:28mots. Et donc ce qui fait donc ce
  1910. 1:18:30vecteur là, bah chaque chaque élément ça
  1911. 1:18:33ça indique par exemple ce ce token là,
  1912. 1:18:37il est proche plutôt ce voilà ce token
  1913. 1:18:40là. Est-ce que plutôt ce ce mot ? Est-ce
  1914. 1:18:42qu'il est proche euh à ce ce
  1915. 1:18:45c'est-à-dire quel est son sens par
  1916. 1:18:47rapport euh au dictionnaire qui est
  1917. 1:18:49défini par le modèle ? L'essentiel,
  1918. 1:18:51c'est que le mbedin, il permet
  1919. 1:18:54d'enregistrer le texte en vecteur. Et
  1920. 1:18:56dans ces vecteurs, on va garder la
  1921. 1:19:03sémantique, c'est-à-dire le
  1922. 1:19:05sens. On enregistre pas le texte, on
  1923. 1:19:08enregistre le sens du texte. C'est ça la
  1924. 1:19:11notion de MBD. Et puis donc tous ces
  1925. 1:19:13vecteurs là, on va les enregistrer dans
  1926. 1:19:15une base de données vectoriell.
  1927. 1:19:17Alors, tout ça maintenant, on est
  1928. 1:19:19toujours chez nous, c'est-à-dire
  1929. 1:19:20l'entreprise va utiliser une base de
  1930. 1:19:22données vectorielle.
  1931. 1:19:25Alors, il y a il a il y a une année
  1932. 1:19:27parce qu'en fait les systèmes RAX ça
  1933. 1:19:29évolue de depuis une année et quelques.
  1934. 1:19:32au début donc il y avait quelques bases
  1935. 1:19:34de données qui supportent les bases de
  1936. 1:19:35données vectorielles comme par exemple
  1937. 1:19:39PinCroma
  1938. 1:19:44DB compost grèisse par
  1939. 1:19:52exemple
  1940. 1:19:54euh c'est c'est PG Vector Store et puis
  1941. 1:19:58maintenant depuis une année quasiment la
  1942. 1:20:00liste est très longue. C'est-à-dire que
  1943. 1:20:02à aujourd'hui la majorité des systèmes
  1944. 1:20:05de de gestion de base de données
  1945. 1:20:06supportent les bases de données
  1946. 1:20:08vectorielles. Donc ce qui fait que
  1947. 1:20:10aujourd'hui donc il y a le choix, il est
  1948. 1:20:11très très important mais dans la
  1949. 1:20:13majorité des cas donc il y en a il y en
  1950. 1:20:15a beaucoup qui travaillent avec
  1951. 1:20:17Chromadib et souvent en production euh
  1952. 1:20:20il y a PostG qui est un SGBD qui est
  1953. 1:20:22très très connu. Donc
  1954. 1:20:27souvent c'est un c'est un bon choix pour
  1955. 1:20:29les applications généralement en
  1956. 1:20:32production.
  1957. 1:20:33Mais sinon tous les SGBD, vous pouvez
  1958. 1:20:35utiliser Mongo Dibi,
  1959. 1:20:37Cassandra, tous les SGBD aujourd'hui, je
  1960. 1:20:39pense la majorité il supportent les
  1961. 1:20:42bases de données vectorielles. Alors
  1962. 1:20:43qu'il y a une année, c'était pas le cas
  1963. 1:20:45parce que ça c'est vraiment un un
  1964. 1:20:47tendance
  1965. 1:20:49importante. Donc en résumé, donc je
  1966. 1:20:51prends je prends les données d'un
  1967. 1:20:55document non structuré ou bien des des
  1968. 1:20:57documents non structuré, ça devient des
  1969. 1:20:59vecteurs et je stock mes mes livres, mes
  1970. 1:21:02mes documents PDF, mes PowerPoint, mes
  1971. 1:21:05mes fichiers, c'est-à-dire tous mes
  1972. 1:21:06fichiers que que je ne peux pas
  1973. 1:21:08exploiter habituellement. Ben, je je
  1974. 1:21:11vais faire cette opération et ça devient
  1975. 1:21:13dans ma base de données ce format
  1976. 1:21:14vectoriel. Et après, par la suite, on va
  1977. 1:21:17créer une application.
  1978. 1:21:19On va créer par exemple un
  1979. 1:21:21chatbot, une application qui va
  1980. 1:21:23permettre à l'utilisateur de saisir la
  1981. 1:21:25question, c'est-à-dire de saisir,
  1982. 1:21:27c'est-à-dire ce qu'il veut. Donc il va
  1983. 1:21:29envoyer sa question, son query et cette
  1984. 1:21:32application, qu'est-ce qu'il va faire ?
  1985. 1:21:33Le système RAG, il va d'abord faire une
  1986. 1:21:35opération. Il va d'abord prendre la
  1987. 1:21:37question, il l'a converti en vecteur
  1988. 1:21:40d'abord, c'est-à-dire il fait la même
  1989. 1:21:42chose et il fait le mbedine et puis il
  1990. 1:21:45va chercher dans la base de données, il
  1991. 1:21:47va faire ce qu'on appelle une recherche
  1992. 1:21:49sémantique. Ça veut dire quoi la
  1993. 1:21:51recherche sémantique ? C'estàdire on va
  1994. 1:21:52demander à la base de données de nous
  1995. 1:21:54donner quels sont les vecteurs, qui sont
  1996. 1:21:56les
  1997. 1:21:57ch qui sont les chs qui sont proches qui
  1998. 1:22:01ont euh qui sont en relation avec cette
  1999. 1:22:03question.
  2000. 1:22:05Moi, je pose une question quelconque par
  2001. 1:22:07exemple et après dans la base de
  2002. 1:22:09données, je vais il va fouiller
  2003. 1:22:11rapidement dans des des centaines de
  2004. 1:22:13chunks, des milliers de ch beaucoup de
  2005. 1:22:15livres, beaucoup de documents non
  2006. 1:22:17structurés. Et après, il va vous
  2007. 1:22:19chercher c chunks ou bien quatre chunks,
  2008. 1:22:22c'est-à-dire quatre paragraphes qui sont
  2009. 1:22:24en relation avec cette question.
  2010. 1:22:27C'est-à-dire là, il cherche il cherche
  2011. 1:22:29via euh c'est-à-dire il cherche par le
  2012. 1:22:31sens du mot et non pas le par le texte.
  2013. 1:22:35C'est un peu
  2014. 1:22:36différent. Donc ça c'est de la recherche
  2015. 1:22:38sémantique. Alors en fait la la
  2016. 1:22:40recherche sémantique le principe c'est
  2017. 1:22:42quoi ? que tout simplement
  2018. 1:22:44cette c'est-à-dire ce cou là ça devient
  2019. 1:22:47un
  2020. 1:22:48vecteur c'est il fait bidine ça devient
  2021. 1:22:51un vecteur et après on va essayer de
  2022. 1:22:54comparer ce vecteur là avec les autres
  2023. 1:22:56vecteurs qui se trouvent dans la base de
  2024. 1:22:57données. Et on va chercher le vecteur le
  2025. 1:23:00plus proche les vecteurs les plus
  2026. 1:23:01proches. Et techniquement parlant on
  2027. 1:23:03utilise une mesure de similarité qui
  2028. 1:23:07s'appelle
  2029. 1:23:08cosine
  2030. 1:23:10cosine similarity.
  2031. 1:23:17Alors cosité, c'est une mesure qui
  2032. 1:23:20consiste à calculer le cosinus des deux
  2033. 1:23:22vecteurs. Vous savez que si le cosinus
  2034. 1:23:24des deux vecteurs égal à 1, bah ça veut
  2035. 1:23:26dire les vecteurs sont les mêmes,
  2036. 1:23:27c'est-à-dire ils ont le même sens. Donc
  2037. 1:23:29c'est à peu près ça. Donc il va vous
  2038. 1:23:30chercher quelles sont les vecteurs dans
  2039. 1:23:32le cosinus. Euh dans le cosinus et les
  2040. 1:23:36deux vecteurs, il est proche de 1. Donc
  2041. 1:23:39il va vous donner les les les cinq
  2042. 1:23:40vecteurs, par exemple les plus proches à
  2043. 1:23:43ce vecteurl et ça va donner ça va donner
  2044. 1:23:46donc le le contexte.
  2045. 1:23:49Donc tout ça, jusque là, j'utilise pas
  2046. 1:23:51les LLM. Donc c'est juste une
  2047. 1:23:53application qui va poser une question à
  2048. 1:23:54la base de données pour chercher le
  2049. 1:23:57contexte de cette question. Et
  2050. 1:23:59maintenant c ce contexte là, on va
  2051. 1:24:01l'envoyer vers le LLM. Maintenant on va
  2052. 1:24:04envoyer au LLM une la question dans
  2053. 1:24:07laquelle on aura système message.
  2054. 1:24:10Système
  2055. 1:24:11message, la question de
  2056. 1:24:13l'utilisateur, c'est cette question là
  2057. 1:24:17plus le contexte.
  2058. 1:24:19Alors, le contexte c'est ce que j'ai
  2059. 1:24:20cherché à partir de de ma base de
  2060. 1:24:23données. Alors, c'est comme si vous
  2061. 1:24:24dites à Olm, vous lui dites
  2062. 1:24:27"Réponds-moi, réponds-moi, réponds-moi à
  2063. 1:24:30cette
  2064. 1:24:31question en utilisant ce contexte."
  2065. 1:24:34Parce que s'il n'y a pas ce contexte là,
  2066. 1:24:38bah si vous dites par exemple, je sais
  2067. 1:24:41pas par exemple si vous dites un un chat
  2068. 1:24:44GPT, vous lui posez la question donne
  2069. 1:24:47euh donne-moi les performances de mon
  2070. 1:24:48entreprise entre 2020 et 2022.
  2071. 1:24:52Alors, il est évident le chat GPT ne
  2072. 1:24:55peut pas vous répondre, il peut pas vous
  2073. 1:24:56donner la réponse parce qu'il vous dit
  2074. 1:24:58je connais pas votre entreprise et en
  2075. 1:25:01même temps il n'a pas les données de de
  2076. 1:25:03votre de votre
  2077. 1:25:04question. Donc c'est-à-dire que ça, on
  2078. 1:25:07peut pas résoudre le problème comme ça
  2079. 1:25:09avec le le fusure de promptin. OK
  2080. 1:25:13? Alors, si vous voulez poser des
  2081. 1:25:15questions comme ça,
  2082. 1:25:16parfois il y a des Llm qui vont tomber
  2083. 1:25:19dans le problème de ce qu'on appelle
  2084. 1:25:22l'hallucination. L'hallucination, ça
  2085. 1:25:24veut dire quoi
  2086. 1:25:25? C'est-à-dire que vous posez la
  2087. 1:25:27question au lelem euh alors il n'a pas
  2088. 1:25:30vraiment compris votre question mais
  2089. 1:25:32quand même il répond et parfois il vous
  2090. 1:25:34vous donne des réponses de n'importe
  2091. 1:25:35quoi. Et donc ça c'est ce qui est un peu
  2092. 1:25:38euh très très compliqué parfois dans le
  2093. 1:25:41dans les LLM. Il faut savoir comment euh
  2094. 1:25:44limiter le c'est-à-dire le
  2095. 1:25:46l'hallucination. Il faut que votre
  2096. 1:25:48application indique au
  2097. 1:25:53llép. Alors justement, c'est ce qu'on va
  2098. 1:25:55faire
  2099. 1:25:56ici dans c'est-à-dire dans quand on va
  2100. 1:25:59poser la question au l'élèm,
  2101. 1:26:01c'est-à-dire cette question là, vous lui
  2102. 1:26:03dites je veux je veux par exemple les
  2103. 1:26:06performances de mon de mon entreprise
  2104. 1:26:08entre 2020. analyse-moi les performances
  2105. 1:26:11de mon de l'entreprise entre 2020 et
  2106. 1:26:132023. Et bien, sachant que dans la base
  2107. 1:26:16de données, il y a déjà les rapports les
  2108. 1:26:19rapports qui sont déjà au format
  2109. 1:26:21vectoriel dans la base de données, et
  2110. 1:26:24ben on va chercher quelles sont les les
  2111. 1:26:26informations qui sont en relation avec
  2112. 1:26:28cette question. Et après, on va demander
  2113. 1:26:31euh au Llm, on va écrire un système
  2114. 1:26:34message. Bon, système message,
  2115. 1:26:35généralement, c'est très simple. Le
  2116. 1:26:36système ige c'est euh on va écrire
  2117. 1:26:39répond répond à la question de
  2118. 1:26:42l'utilisateur répond à la question
  2119. 1:26:44d'utilisateur en utilisant uniquement le
  2120. 1:26:47contexte fourni ce contexte là dans le
  2121. 1:26:49prompt et après vous ajoutez si si le si
  2122. 1:26:53la question ne contient si la la
  2123. 1:26:56question ne contient pas de
  2124. 1:26:58contexte pour la réponse répond avec je
  2125. 1:27:02ne sais pas. C'est-à-dire que si la
  2126. 1:27:05question la réponse à la question ne se
  2127. 1:27:07trouve pas dans ce contexte, bah il
  2128. 1:27:09devrait répondre avec je ne sais pas, il
  2129. 1:27:11doit pas halluciner.
  2130. 1:27:13Alors justement, si vous envoyez cette
  2131. 1:27:16question avec ce ce ce contexte, et ben
  2132. 1:27:20généralement le le LLM, il va vous
  2133. 1:27:22donner des bonnes des bonnes
  2134. 1:27:24réponses. Et c'est avec ça aujourd'hui
  2135. 1:27:27les entreprises créent des chatbot euh
  2136. 1:27:29se vent euh qui permettent tous
  2137. 1:27:31utilisateurs d'interroger, de poser donc
  2138. 1:27:35de poser des questions sur leur un
  2139. 1:27:38contexte et après vous avez des réponses
  2140. 1:27:40vraiment qui sont pertinentes. Alors,
  2141. 1:27:42vous voyez donc une année, ça a commencé
  2142. 1:27:44il y a une année donc le système RAG
  2143. 1:27:45s'est
  2144. 1:27:47développé et
  2145. 1:27:50donc mais c'est-à-dire dans les
  2146. 1:27:53premières
  2147. 1:27:54versions euh donc ça peut marcher
  2148. 1:27:56parfois mais il y a des scénarios dans
  2149. 1:27:58lesquels ça donne pas vraiment des
  2150. 1:27:59choses un peu précises. Donc c'est pour
  2151. 1:28:02cela que la recherche euh a beaucoup euh
  2152. 1:28:05publié beaucoup d'articles dans ce dans
  2153. 1:28:07ce à ce niveau-là. euh en s'intéressant
  2154. 1:28:11à à ce qu'on appelle le multimodal rag
  2155. 1:28:14déjà parce que au début donc on on
  2156. 1:28:16profitait que du
  2157. 1:28:18texte, c'est-à-dire on on prend que le
  2158. 1:28:20texte qui se trouve dans le dans les
  2159. 1:28:22fichiers PDF par exemple, mais en
  2160. 1:28:24réalité dans les fichiers PDF, il y a
  2161. 1:28:26également les
  2162. 1:28:27images. Il y a les images, il y a il y a
  2163. 1:28:29il y a d'autres d'autres ressources.
  2164. 1:28:31Dans ce cas-là, vous avez ce qu'on
  2165. 1:28:33appelle le mul multimodal euh rag.
  2166. 1:28:39Alors dans le le multimodx, c'est un peu
  2167. 1:28:42c'est c'est la même chose, sauf que
  2168. 1:28:44cette fois-ci, on va prendre les
  2169. 1:28:47fichiers PDF qui contiennent des images.
  2170. 1:28:49On peut avoir également des des fichiers
  2171. 1:28:51audio et cetera. C'est-à-dire on peut
  2172. 1:28:52avoir des des une multimodalité.
  2173. 1:28:56Et puis pour le texte, pour les les le
  2174. 1:28:58texte, on sait faire, on va faire texte
  2175. 1:29:00splitter, ça devient des chunks. On fait
  2176. 1:29:02textein, ça devient des vecteurs. On on
  2177. 1:29:04enregistre dans la base de données. Ça
  2178. 1:29:05c'était ce qu'on ce qu'on faisait depuis
  2179. 1:29:08les premières versions du système RAG.
  2180. 1:29:11Alors, quand on trouve une image dans un
  2181. 1:29:13fichier PDF, ce qu'on va faire, c'est
  2182. 1:29:14que on va prendre l'image, on va la
  2183. 1:29:17présenter à un modèle LLM
  2184. 1:29:20multimodale comme par exemple Clip ou
  2185. 1:29:22bien GPT for O. et on va tout simplement
  2186. 1:29:26lui demander de nous donner une
  2187. 1:29:27description de cette image. Alors, vous
  2188. 1:29:29savez qu'aujourd'hui, il y a il y a
  2189. 1:29:31beaucoup de de modèles. Si vous leur
  2190. 1:29:32donnez une image, vous il va vous donner
  2191. 1:29:34la description. Qu'est-ce qu'il y a dans
  2192. 1:29:36cette image ? Et ça, c'est très
  2193. 1:29:37intéressant. Donc je je cherche la
  2194. 1:29:39description de l'image. Et si cette
  2195. 1:29:42description, ça devient du
  2196. 1:29:44texte, c'est du texte. Et puis ce texte
  2197. 1:29:47là, je vais le le convertir en chunks et
  2198. 1:29:49ça devient des vecteurs. Et puis je
  2199. 1:29:51l'enregistre dans la base de données.
  2200. 1:29:53Donc ça veut dire que maintenant dans ma
  2201. 1:29:54base, j'ai le texte de mon fichier PDF
  2202. 1:29:57mais j'ai également le sens,
  2203. 1:29:59c'est-à-dire la description des images,
  2204. 1:30:00ce format
  2205. 1:30:01vectoriel. Alors pour l'audio, c'est
  2206. 1:30:04très simple, on fait la transcription,
  2207. 1:30:06c'estàdire quand vous avez un une vidéo
  2208. 1:30:09ou bien un audio, ben on fait la
  2209. 1:30:10transcription à partir de de de l'audio,
  2210. 1:30:13on obtient du texte.
  2211. 1:30:16Et la même chose donc le texte là on
  2212. 1:30:18fait euh de on fait du texteine et ça
  2213. 1:30:21devient des victoires l'enregistre. Donc
  2214. 1:30:23ça veut dire que techniquement parlant
  2215. 1:30:24aujourd'hui dans les bases de données
  2216. 1:30:26vectorielles, on peut stocker des euh on
  2217. 1:30:29peut avoir des multi modalités,
  2218. 1:30:32c'est-à-dire on peut avoir des
  2219. 1:30:33informations sur le texte, des
  2220. 1:30:34informations sur des images, des
  2221. 1:30:35informations sur l'audio. L'essentiel,
  2222. 1:30:37c'est que vous avez euh toutes les
  2223. 1:30:39données structurées que n'est pas
  2224. 1:30:41capable de de d'exploiter dans les
  2225. 1:30:44systèmes d'information avec les modèles
  2226. 1:30:46de l'intelligence artificielle
  2227. 1:30:47classique. Bah aujourd'hui avec le
  2228. 1:30:49système RAG, on peut on peut le profiter
  2229. 1:30:52de tout
  2230. 1:30:55ça. Et donc une fois qu'on qu'on va
  2231. 1:30:58stocker tous toutes ces modalités dans
  2232. 1:31:00le les bases de données
  2233. 1:31:02vectorielles, bah ce qu'on va faire
  2234. 1:31:03c'est que on va poser la la question au
  2235. 1:31:05RAG. On va lui dire par exemple, on peut
  2236. 1:31:08par exemple cette fois-ci poser une
  2237. 1:31:10question sur un graphique qui concerne
  2238. 1:31:13une information qui se trouve dans un
  2239. 1:31:15graphique de voilà dans le fichier PDF.
  2240. 1:31:19Donc si vous voz ça, c'est très
  2241. 1:31:20intéressant. Et après le système RAG, il
  2242. 1:31:22va faire la recherche sémantique. Il va
  2243. 1:31:24chercher donc les informations, les les
  2244. 1:31:26chunks qui sont en relation avec la
  2245. 1:31:29question et puis on va les
  2246. 1:31:31présenter on va les présenter au LLM.
  2247. 1:31:34Donc cette fois-ci donc système message
  2248. 1:31:36query et le contexte. Cette fois-ci le
  2249. 1:31:38contexte peut contenir de du texte, peut
  2250. 1:31:40contenir des informations sur l'image et
  2251. 1:31:42cetera. Donc l'essentiel c'est que le
  2252. 1:31:44LLM il va répondre et quand il donne la
  2253. 1:31:48réponse et bien maintenant on va donner
  2254. 1:31:51la réponse précise à le à l'utilisateur.
  2255. 1:31:55Alors dans ce cas-là, on parle de ce
  2256. 1:31:56qu'on appelle les
  2257. 1:31:58multimodales. Est-ce que c'est clair ?
  2258. 1:32:10Oui. Voilà. Alors maintenant euh ça
  2259. 1:32:13c'est
  2260. 1:32:14c'est et après donc le même avec ça euh
  2261. 1:32:19parfois il se trouve que dans des
  2262. 1:32:20situations euh c'est très c'est très
  2263. 1:32:23difficile d'avoir des réponses précises.
  2264. 1:32:25Alors, notamment quand il y a une
  2265. 1:32:26question, une grosse question par
  2266. 1:32:28exemple, si vous prenez une question qui
  2267. 1:32:32contient beaucoup beaucoup de choses qui
  2268. 1:32:34qui n'est pas très précise, alors c'est
  2269. 1:32:36très difficile de chercher les chunks
  2270. 1:32:39les plus
  2271. 1:32:40pertinents et parfois ça donne ça donne
  2272. 1:32:42des résultats qui sont pas très bons.
  2273. 1:32:45Alors, c'est la raison pour laquelle
  2274. 1:32:46dans le domaine de la recherche, il y a
  2275. 1:32:49il y a beaucoup de de solutions qui sont
  2276. 1:32:51en train d'être créées et vous-même ça
  2277. 1:32:54peut vous donner des idées sur des
  2278. 1:32:57contributions que vous pouvez faire dans
  2279. 1:32:58ce domaine. Alors, vous avez ce qu'on
  2280. 1:33:00appelle le modèle advanced multimodal
  2281. 1:33:02agentic rag. Alors ça c'est on va
  2282. 1:33:04commencer à introduire la notion de
  2283. 1:33:06agentique. C'est juste ce que je vais
  2284. 1:33:09expliquer juste après. Mais j'explique
  2285. 1:33:12d'abord ce ce advanced, c'est-à-dire les
  2286. 1:33:15modèles maintenant les modèles RAG euh
  2287. 1:33:18qui sont basés sur des
  2288. 1:33:20agents et voilà comment il marche. Donc
  2289. 1:33:23ce que ce qu'on va faire c'est que on va
  2290. 1:33:25prendre les les fichiers PDF par exemple
  2291. 1:33:27qui contient de du texte et des images.
  2292. 1:33:30On va passer par d'abord une opération
  2293. 1:33:32qui s'appelle le parser. Le parser,
  2294. 1:33:35c'est quoi ? C'est le c'est
  2295. 1:33:36l'opération que vous allez utiliser pour
  2296. 1:33:39convertir votre texte en on va extraire
  2297. 1:33:43de du fichier PDF, on va extraire du
  2298. 1:33:45texte, on va extraire les tables parce
  2299. 1:33:48que parfois dans des documents PDF, il y
  2300. 1:33:50a des tables
  2301. 1:33:52tableaux. Vous savez que les tables ce
  2302. 1:33:55n'est pas comme le texte. c table c'est
  2303. 1:33:56c'est c'est presque c'est du c'est des
  2304. 1:33:59du texte
  2305. 1:34:00semistructuré. Donc c'est-à-dire que
  2306. 1:34:02dans le modèle classique, il considère
  2307. 1:34:05quand il trouve une table, il prend
  2308. 1:34:07comme un texte simple alors qu'en
  2309. 1:34:10réalité les tables, ils doivent être
  2310. 1:34:11traités d'une manière différente parce
  2311. 1:34:13qu'il contient des informations plus
  2312. 1:34:15précises, plus pertinentes. Donc on va
  2313. 1:34:18ici donc c'est pareil, on va stocker les
  2314. 1:34:20textes, on va récupérer les textes, on
  2315. 1:34:22va récupérer les les tables ou bien les
  2316. 1:34:24tableaux.
  2317. 1:34:26et puis on va récupérer les images.
  2318. 1:34:28Alors, sauf que les images qu'on va
  2319. 1:34:30récupérer bien sûr, c'est la description
  2320. 1:34:31des images. Donc, c'est ce que je viens
  2321. 1:34:33de dire tout à l'heure. Donc, j'ai une
  2322. 1:34:35image, je la stock mais je vais aller
  2323. 1:34:38vers un LM qui va me donner la
  2324. 1:34:40description. Donc, une ça c'est la
  2325. 1:34:42première opération, c'est ce qu'on
  2326. 1:34:43appelle il faut utiliser un parce qui
  2327. 1:34:45permet d'abord de faire ça. Donc
  2328. 1:34:47aujourd'hui, donc il y a plein de
  2329. 1:34:48librairies qui sont capables de vous
  2330. 1:34:50faire ce ce genre de
  2331. 1:34:52travail. Après, on va passer via le
  2332. 1:34:54chunker. Donc le chckle maintenant c'est
  2333. 1:34:56le c'est le la l'algorithme ou bien
  2334. 1:34:58c'est le la méthode qui va permettre de
  2335. 1:35:01découper euh c'est-à-dire votre texte et
  2336. 1:35:03vos tables euh et votre description des
  2337. 1:35:06images en
  2338. 1:35:07chunks. Donc ce texte-là ça devient donc
  2339. 1:35:10vous avez les chunks des des du texte,
  2340. 1:35:13les différents chunks pour les tables et
  2341. 1:35:15les chunks qui représentent les
  2342. 1:35:18images. Alors ici donc il y a des
  2343. 1:35:20stratégies, la même chose ici donc il y
  2344. 1:35:21a
  2345. 1:35:22de c'est-à-dire il y a de la recherche
  2346. 1:35:25le chunker je peux toujours proposer une
  2347. 1:35:28nouvelle technique un peu plus
  2348. 1:35:30pertinente par rapport à des caps
  2349. 1:35:33précis. Donc il y a pas il y a pas mal
  2350. 1:35:35de choses qui se font à ce niveau-là.
  2351. 1:35:39Alors après par la suite euh on peut
  2352. 1:35:42avant d'enregistrer ces chunks dans une
  2353. 1:35:44base de données
  2354. 1:35:46vectorielles, on peut améliorer parfois
  2355. 1:35:48les choses en en utilisant en ajoutant
  2356. 1:35:51dans le le pipeline une opération qui
  2357. 1:35:52s'appelle hypothetical questions. Alors
  2358. 1:35:55hypothetical question c'est quoi ? C'est
  2359. 1:35:58que c'est le fait de prendre par exemple
  2360. 1:36:00un chunk. Je prends un
  2361. 1:36:03chunk et après j'envoie une requête vers
  2362. 1:36:05un LLM.
  2363. 1:36:07parce que t toutes ces opérations là euh
  2364. 1:36:10j'utilise un modèle de
  2365. 1:36:12lia un modèle quelconque, ça peut être
  2366. 1:36:14un llou un simple modèle et bien je vais
  2367. 1:36:17lui poser lui donner le chunk et après
  2368. 1:36:20je vais lui donner de me générer des
  2369. 1:36:22questions un ensemble de
  2370. 1:36:26questions en relation avec ce chunk.
  2371. 1:36:29C'est comme si vous lui dites génère-moi
  2372. 1:36:32cinq
  2373. 1:36:34questions ou quelle réponse ce chin.
  2374. 1:36:38Alors maintenant les ll sont capables de
  2375. 1:36:39vous donner ça. Donc si vous prenez un
  2376. 1:36:42texte, vous le donnez à chat GPT, vous
  2377. 1:36:44lui dites sur ce texte là donne-moi 5
  2378. 1:36:46questions.
  2379. 1:36:48À propos de ce texte là donne-moi 5
  2380. 1:36:50questions et ben il va vous générer 5
  2381. 1:36:51questions. Donc ça c'est ça c'est le
  2382. 1:36:53modèle hypothetical questions. Alors
  2383. 1:36:56maintenant, une fois que j'ai ces
  2384. 1:36:57questions là, je vais les ajouter, je
  2385. 1:36:59vais les enregistrer également dans la
  2386. 1:37:02la base de données vectoriell,
  2387. 1:37:03c'est-à-dire quand quand je vais passer
  2388. 1:37:05au modèle de quand je vais créer les
  2389. 1:37:08chunks, maintenant je vais avoir les
  2390. 1:37:10chunks. Mais dans les chunks, à côté des
  2391. 1:37:13chunks, il y a des questions
  2392. 1:37:15supplémentaires, c'est-à-dire potentiel
  2393. 1:37:17potentiellement des types de questions
  2394. 1:37:19auxquelles ce répond. Et ça c'est ça ça
  2395. 1:37:21augmente la précision.
  2396. 1:37:25Et puis donc on va faire le embedidin.
  2397. 1:37:28Donc ici donc le texte embedid, on va
  2398. 1:37:30passer par le
  2399. 1:37:31le c'est c'est-à-dire on enregistre le
  2400. 1:37:35la discr les embeddiens, c'est-à-dire
  2401. 1:37:36les vecteurs et tous ces vecteurs bien
  2402. 1:37:39sûr qui représentent ce ces chens donc
  2403. 1:37:42vont être enregistrés dans la base de
  2404. 1:37:44données. Alors ça c'est si vous voulez
  2405. 1:37:46dans le système RAX, ça c'est la
  2406. 1:37:47première partie. La première partie,
  2407. 1:37:49c'est la partie ce qu'on appelle
  2408. 1:37:51l'ingjestion et euh indexing pipeline.
  2409. 1:37:54Ingestion et indexing pipeline. Donc
  2410. 1:37:58c'est-à-dire c'est l'injestion des
  2411. 1:38:00données, donc c'est-à-dire la
  2412. 1:38:02la collecte de data, lire les données à
  2413. 1:38:05partir des fichiers et puis on va les
  2414. 1:38:08indexer. On va indexer ce contenu là non
  2415. 1:38:10structuré dans une base de données
  2416. 1:38:11vectorielle.
  2417. 1:38:13C'est l'indexation de du contenu.
  2418. 1:38:15l'indexation du
  2419. 1:38:18contenu. Est-ce que c'est clair pour
  2420. 1:38:20cette partie ?
  2421. 1:38:28Oui, c'est clair. OK. Alors maintenant,
  2422. 1:38:30on a la deuxième partie. Maintenant,
  2423. 1:38:32c'est la partie query, c'est-à-dire
  2424. 1:38:34c'est la partie de de génération. la
  2425. 1:38:37partie, c'est-à-dire générer les les
  2426. 1:38:39réponses. Alors, dans la partie euh
  2427. 1:38:41génération de réponses, maintenant euh
  2428. 1:38:44vous allez avoir un utilisateur qui va
  2429. 1:38:46poser la question à un agent. Alors, ça
  2430. 1:38:49pour le moment pour vous, un agent c'est
  2431. 1:38:51quoi ? Je sais pas. Euh c'est ce qu'on
  2432. 1:38:53va on va détailler dans dans la suite.
  2433. 1:38:57Donc, on va poser la question à un
  2434. 1:38:58agent. Et cet agent-là euh bah tout
  2435. 1:39:01simplement cette application, qu'est-ce
  2436. 1:39:02qu'il va faire ? Ben, il va d'abord
  2437. 1:39:05normalement il va envoyer il va envoyer
  2438. 1:39:08une question vers le c'est-à-dire vers
  2439. 1:39:10la la base de données pour chercher les
  2440. 1:39:12les c'est-à-dire pour chercher le
  2441. 1:39:14contexte. Mais avant d'envoyer la
  2442. 1:39:16question vers la base de données, il va
  2443. 1:39:18passer par des opérations. Parmi les
  2444. 1:39:20opérations qui sont très importantes, il
  2445. 1:39:23y a l'agent il fait une opération qui
  2446. 1:39:25s'appelle query
  2447. 1:39:26expansion. Alors ça veut dire quoi query
  2448. 1:39:28expansion ? Query expansion, c'est quand
  2449. 1:39:31vous posez une question qui est qui est
  2450. 1:39:32généralement complexe, vous avez parfois
  2451. 1:39:35une question qui est complexe se font
  2452. 1:39:37d'un paragraphe et query expansion, ça
  2453. 1:39:40consiste à envoyer la
  2454. 1:39:43question la question vers le
  2455. 1:39:45LLM, c'est-à-dire ça c'est la question
  2456. 1:39:48de
  2457. 1:39:49l'utilisateur. Et après le lem, il va
  2458. 1:39:51décomposer cette question, il va la
  2459. 1:39:53décomposer en trois questions. question
  2460. 1:39:561, la première partie de la question, la
  2461. 1:39:58deuxième partie de la question et la
  2462. 1:40:00troisème partie de la question. C'est
  2463. 1:40:02comme si vous dites par exemple, je
  2464. 1:40:03voudrais savoir la je voudrais savoir
  2465. 1:40:06quels sont euh quels sont par exemple
  2466. 1:40:08les performances de mon
  2467. 1:40:10entreprise au niveau de la bourse, au
  2468. 1:40:12niveau socioéconomique, au niveau je
  2469. 1:40:14sais pas quoi. Donc vous vous posez des
  2470. 1:40:16questions dans laquelle il y a plein de
  2471. 1:40:17choses. Alors dans ce cas et query
  2472. 1:40:20expansion, il va essayer de de
  2473. 1:40:22décomposer la question en un ensemble de
  2474. 1:40:25questions précises
  2475. 1:40:27élémentaires. Et puis par la suite ça va
  2476. 1:40:30être encore plus intéressant parce qu'on
  2477. 1:40:32va envoyer les requêtes vers le on va
  2478. 1:40:35faire le texte bidine de ces questions
  2479. 1:40:37cette fois-ci maintenant
  2480. 1:40:40quedine et puis on va chercher dans la
  2481. 1:40:43base de données quels sont les chs qui
  2482. 1:40:45sont en relation avec ces différentes
  2483. 1:40:49questions. Donc cette fois-ci donc je
  2484. 1:40:51vais chercher quels sont les les
  2485. 1:40:52paragraphes qui sont en relation avec
  2486. 1:40:54cette question. les paragraphes qui sont
  2487. 1:40:57en relation avec cette deuxième partie
  2488. 1:40:58de la question et les paragraphes qui
  2489. 1:41:01sont en relation avec cette partie de la
  2490. 1:41:03question. Et là, je récupère le
  2491. 1:41:05contexte. Vous voyez donc ici donc je
  2492. 1:41:08récupère le
  2493. 1:41:12contexte mais là ça devient encore plus
  2494. 1:41:15précis. Alors maintenant ici ça c'est
  2495. 1:41:18une étape l'agent. l'agent lui euh parce
  2496. 1:41:21que quand vous dites une étape,
  2497. 1:41:23forcément derrière une étape, il y a un
  2498. 1:41:25modèle d'intelligence artificielle.
  2499. 1:41:27Alors, vous n'êtes pas obligé d'utiliser
  2500. 1:41:28un LM. Parfois on fait appel à des
  2501. 1:41:31modèles de classification que vous
  2502. 1:41:33développez et qui vont vous permettre de
  2503. 1:41:35générer euh des choses un peu plus
  2504. 1:41:37précises par exemple.
  2505. 1:41:40Et donc je récupère le le les chunks et
  2506. 1:41:43même quand je récupère ces ces chunks,
  2507. 1:41:46je peux encore faire quelque chose. On
  2508. 1:41:49peut ajouter d'autres opérations.
  2509. 1:41:50L'agent, il peut faire d'abord une
  2510. 1:41:52opération de compression. Alors pourquoi
  2511. 1:41:54compression ? parce que parfois il se
  2512. 1:41:55trouve que vous allez récupérer beaucoup
  2513. 1:41:57de chunks à partir de de la base de
  2514. 1:41:59données. Et après ces chunks là, on va
  2515. 1:42:02essayer de les résumer. Vous savez que
  2516. 1:42:05la compression, c'est le fait de
  2517. 1:42:06d'envoyer votre question à
  2518. 1:42:11Ll, un modèle d'intelligence
  2519. 1:42:14artificielle et vous lui donnez de de
  2520. 1:42:15vous donner le
  2521. 1:42:16résumé. Donc de donc faire une opération
  2522. 1:42:20de
  2523. 1:42:21résumé summarize par exemple.
  2524. 1:42:25il vous donne il vous donne le
  2525. 1:42:27c'est-à-dire tous ces chunks là, on va
  2526. 1:42:29les les synthétiser dans un dans un dans
  2527. 1:42:32un contenu. Il y a une autre opération
  2528. 1:42:35qu'on fait également, c'est ce qu'on
  2529. 1:42:36appelle
  2530. 1:42:37ranking. Alors c'est ça veut dire quoi
  2531. 1:42:39ranking ? Parce que vous savez que dans
  2532. 1:42:41les bases de données vectorielles, quand
  2533. 1:42:42vous lui dites quels sont les les chunks
  2534. 1:42:45les plus proches de cette question, il
  2535. 1:42:47va vous donner 5 par exemple parce que
  2536. 1:42:49c'est à vous de préciser combien de
  2537. 1:42:50chunks que vous voulez. il va vous
  2538. 1:42:52donner les 5 mais les 5 il va les
  2539. 1:42:54classer. Il va vous dire voilà le prier,
  2540. 1:42:56le 2e, le 3e, le 4e selon selon bien sûr
  2541. 1:42:59la la
  2542. 1:43:01similarité. Et après ce qu'on peut faire
  2543. 1:43:03parfois c'est de faire le ranking,
  2544. 1:43:05c'est-à-dire que avec le classement
  2545. 1:43:06qu'il a donné le modèle, je peux
  2546. 1:43:09utiliser encore un modèle de lia qui me
  2547. 1:43:11permet de reclasser peut-être le deuxème
  2548. 1:43:15chin, il est il devient le premier et le
  2549. 1:43:17trisème devient le deuxè. C'est-à-dire,
  2550. 1:43:19je je peux faire un rer ranking en
  2551. 1:43:21utilisant également euh un modèle de de
  2552. 1:43:25un modèle euh de de LIA qui permet de
  2553. 1:43:28faire cette
  2554. 1:43:30opération. Alors ça peut être dans la
  2555. 1:43:31majorité des cas, c'est des LLMS mais on
  2556. 1:43:34utilise pas le même ll chaque fois on
  2557. 1:43:36utilise un lm qui est F tun précis. Par
  2558. 1:43:40exemple Renkin, vous utilisez, il y a
  2559. 1:43:42des modèles qui sont spécialisés dans
  2560. 1:43:44Renin. La même chose pour chaque la
  2561. 1:43:46compression, la même chose. Il y a des
  2562. 1:43:48LLM qui sont déjà fonés dans ce domaine.
  2563. 1:43:50Et vous vous pouvez créer votre propre
  2564. 1:43:52modèle qui fait qui fait qui fait ce
  2565. 1:43:58travail. Et donc je j'obtiens donc les
  2566. 1:44:00chens et puis je vais envoyer maintenant
  2567. 1:44:04ça au LLM. Maintenant, ça c'est le LLM
  2568. 1:44:07auquel je peux faire confiance,
  2569. 1:44:09c'est-à-dire que l'agent va utiliser
  2570. 1:44:11pour donner pour générer la réponse.
  2571. 1:44:13J'envoie la requête.
  2572. 1:44:15Alors maintenant quand j'envoie le le
  2573. 1:44:17prompt plus le
  2574. 1:44:18contexte, je peux encore euh l'agent il
  2575. 1:44:21peut faire une autre opération qui
  2576. 1:44:22s'appelle
  2577. 1:44:23optimizage. Alors pour éviter de
  2578. 1:44:25présenter un contexte parfois qui est
  2579. 1:44:27trop complexe au LLM, on peut utiliser
  2580. 1:44:31des modèles qui vont prendre le contexte
  2581. 1:44:33fourni et on va l'optimiser. Il va
  2582. 1:44:37souvent c'est des c'est des c'est un
  2583. 1:44:40c'est un résumé, ça peut être
  2584. 1:44:43c'est-à-dire une réécriture du contexte
  2585. 1:44:46de manière un peu plus plus pertinente.
  2586. 1:44:49Et après j'envoie le contexte vers le
  2587. 1:44:51LLM et le LM va répondre.
  2588. 1:44:55Et quand le LLM va donner la réponse, et
  2589. 1:44:58ben cette réponse là, on va pas la
  2590. 1:45:00donner au client avant de la filtrer.
  2591. 1:45:03Donc il y a une autre opération ce que
  2592. 1:45:05l'agent va faire, c'est ce qu'on appelle
  2593. 1:45:08content filter. Alors content filter,
  2594. 1:45:11c'est une opération euh qui qui va
  2595. 1:45:14prendre la réponse et de la filtrer.
  2596. 1:45:17Pourquoi la filtrer ? parce que parfois
  2597. 1:45:20il y a des règles de d'éthique par
  2598. 1:45:22exemple et des règles de sécurité qu'il
  2599. 1:45:25faut respecter. Donc par exemple dans
  2600. 1:45:28les règles d'éthiques, il faut d'abord
  2601. 1:45:29prendre ce contenu, on va l'envoyer à un
  2602. 1:45:33lm qui définit les règles d'éthiques. Et
  2603. 1:45:36après, le ll va nous dire est-ce que ce
  2604. 1:45:38contenu là ne viole pas euh le
  2605. 1:45:41c'est-à-dire les règles de l'éthique ?
  2606. 1:45:43Alors si s'il viole les règles de
  2607. 1:45:44l'éthique, donc je dois encore venir
  2608. 1:45:46vers la vers le ll pour lui dire ça.
  2609. 1:45:48Comme quoi là c'est c'est pas le c'est
  2610. 1:45:50pas le bon résultat. Et une fois que qui
  2611. 1:45:54c'est-à-dire que le contenu est filtré,
  2612. 1:45:56c'est-à-dire il y a pas de quelque chose
  2613. 1:45:59d'anormal, euh donc c'est à ce moment-là
  2614. 1:46:01que qu'on va envoyer la réponse vers
  2615. 1:46:04l'utilisateur. Et ça c'est très très
  2616. 1:46:06récent ce que ce que vous voyez ici,
  2617. 1:46:08c'est-à-dire dans le domaine de la
  2618. 1:46:10recherche dans ce domaine de de du
  2619. 1:46:12système RAG. Maintenant euh sur chaque
  2620. 1:46:15niveau, sur chaque niveau, vous pouvez
  2621. 1:46:17planter des modèles, c'est-à-dire vous
  2622. 1:46:19pouvez par exemple intervenir, cr
  2623. 1:46:22proposer des solutions sur différentes
  2624. 1:46:24parties des des modèles. Et ça fait
  2625. 1:46:26souvent des c'est-à-dire des
  2626. 1:46:28contributions qui sont intéressantes
  2627. 1:46:30parce que les systèmes
  2628. 1:46:32rag-à-dire au fur et à mesure que vous
  2629. 1:46:34qu'on ajoute, c'est-à-dire ces ces ces
  2630. 1:46:37fonctionnalités, ça devient plus précis
  2631. 1:46:39et on commence à avoir des agents des
  2632. 1:46:41des chatbot, des des applications qui
  2633. 1:46:44sont capables d'apporter des réponses
  2634. 1:46:45qui sont très très
  2635. 1:46:47précises. Et donc ça c'est ce qu'on
  2636. 1:46:49appelle une solution agentique agentique
  2637. 1:46:52multimodal d'abord parce que il y a
  2638. 1:46:54plusieurs modalités.
  2639. 1:46:57advanced parce que on ajoute beaucoup de
  2640. 1:47:00beaucoup de de
  2641. 1:47:02d'opérations. Sur chaque étape, on
  2642. 1:47:04ajoute des
  2643. 1:47:08opérations de filtrage, de compression
  2644. 1:47:10et cetera et
  2645. 1:47:12cetera. Et après agentique parce que
  2646. 1:47:14tout ça c'est piloté par un agent. Donc
  2647. 1:47:17maintenant, c'est ce qui manque
  2648. 1:47:18maintenant à vos à ce système là. C'est
  2649. 1:47:20quoi un un agent et comment les agents
  2650. 1:47:23vont communiquer avec les LLM. Donc ce
  2651. 1:47:26qui fait que voilà donc toutes ces
  2652. 1:47:29solutions là sont agentiques. Donc c'est
  2653. 1:47:31ce que nous allons essayer de voir
  2654. 1:47:35après. Donc ça c'est la
  2655. 1:47:40partie
  2656. 1:47:42indexing. Ça c'est la partie generation.
  2657. 1:47:48C'est la
  2658. 1:47:49génération. Là, on génère les réponses.
  2659. 1:47:52Là, on indexe le contenu. Donc, vous
  2660. 1:47:53voyez donc ici, donc ça c'est
  2661. 1:47:55l'indexation du contenu et ça c'est la
  2662. 1:47:57partie le génération de des
  2663. 1:48:01réponses. Est-ce que c'est clair ? Je
  2664. 1:48:04pense que il y a pas mal de de choses à
  2665. 1:48:07retenir ici. Oui, c'est clair.
  2666. 1:48:10C'est parfait. Alors, comme c'est clair,
  2667. 1:48:13je vais aussi parler de du
  2668. 1:48:15concept. Alors, je vais parler de des
  2669. 1:48:18agents euh justement pour compléter ces
  2670. 1:48:21concepts là. Et après, donc après c'est
  2671. 1:48:25la partie des mots donc mais la partie
  2672. 1:48:26des mots, il y a des applications, pas
  2673. 1:48:27mal de choses qui qui vraiment c'est la
  2674. 1:48:30partie la plus ce n'est pas la partie la
  2675. 1:48:32plus compliquée, mais c'est très
  2676. 1:48:34important de savoir comment matérialiser
  2677. 1:48:37ce ce qu'on est en train de dire.
  2678. 1:48:41Alors, d'abord, c'est quoi un un AI
  2679. 1:48:43agent ? Donc la notion maintenant
  2680. 1:48:46agentique. Alors, un agent c'est un
  2681. 1:48:49agent un AI agent. Donc c'est un comme
  2682. 1:48:52il est décrit par le framework un
  2683. 1:48:54framework qui s'appelle React. Donc ça
  2684. 1:48:56c'est un framework.
  2685. 1:49:02Faites attention ce React que vous voyez
  2686. 1:49:04là pour les gens qui qui développent des
  2687. 1:49:06applications. Ça n'a rien à voir avec
  2688. 1:49:08React JS que vous qu'on utilise pour
  2689. 1:49:11développer des applications. Non, ça n'a
  2690. 1:49:12rien à voir. Alors React ça veut dire
  2691. 1:49:14quoi ? Ça veut dire il y a raison
  2692. 1:49:15action. Donc c'est un modèle de c'est un
  2693. 1:49:19c'est un framework de dans le domaine de
  2694. 1:49:21l'intelligence artificielle. Resoning
  2695. 1:49:23action. C'est quoi le principe ? Le
  2696. 1:49:26principe c'est que vous avez un
  2697. 1:49:29agent qui est une entité autonome
  2698. 1:49:32d'abord qui est autonome qui a d'abord
  2699. 1:49:34un but à
  2700. 1:49:36atteindre et qui peut
  2701. 1:49:38raisonner. Raisonner, ça veut dire
  2702. 1:49:40penser. Alors, il va raisonner en se
  2703. 1:49:42basant sur un contexte. C'est-à-dire que
  2704. 1:49:45l'agent euh si vous lui fournissez le
  2705. 1:49:47contexte, c'est quoi le contexte ? Ça
  2706. 1:49:49peut être du texte, ça peut être une
  2707. 1:49:51image, ça peut être par exemple une
  2708. 1:49:54caméra qui qui va visualiser un peu le
  2709. 1:49:56contexte, c'est l'environnement. Donc
  2710. 1:49:58généralement le contexte ça donne un
  2711. 1:50:00cliché de l'environnement. Donc en
  2712. 1:50:02fonction d'une abstraction de
  2713. 1:50:04l'environnement, ben l'agent il est
  2714. 1:50:06capable de raisonner.
  2715. 1:50:08Et pour raisonner généralement
  2716. 1:50:09aujourd'hui il y a pas il y a pas mieux
  2717. 1:50:10que LLM les larges language models parce
  2718. 1:50:15que maintenant les modèles comme GPT4
  2719. 1:50:17par exemple ou Lama ou d'autres modèles
  2720. 1:50:20et ben si vous voule présenter un
  2721. 1:50:21contexte on vient de voir ils peuvent
  2722. 1:50:23vous donner ils peuvent vous donner quoi
  2723. 1:50:26faire et ben justement il va
  2724. 1:50:32raisonner donc l'agent il va d'abord
  2725. 1:50:35raisonner ça c'est la première partie
  2726. 1:50:37Une fois qu'il raisonne, il va euh
  2727. 1:50:41déterminer quelle est l'action optimale
  2728. 1:50:43à prendre. Action. Donc c'est-à-dire que
  2729. 1:50:46l'agent euh en suite à un raisonnement,
  2730. 1:50:49il va déterminer quelle est l'action
  2731. 1:50:51optimale à prendre. Donc il va agir de
  2732. 1:50:53manière autonome sur
  2733. 1:50:57l'environnement. Alors il va agir sur
  2734. 1:50:59l'environnement. Donc, c'est-à-dire euh
  2735. 1:51:01généralement l'agent il va il va faire
  2736. 1:51:04appel pour les applications. CPJ, il va
  2737. 1:51:06consulter une base de une fonction, il
  2738. 1:51:09va se connecter internet, il va envoyer
  2739. 1:51:12un mail, il va l'essentiel c'est que
  2740. 1:51:14agir, il euh c'est-à-dire que l'agent
  2741. 1:51:17dispose de ce qu'on appelle d'un
  2742. 1:51:19environnement dans lequel il trouve ce
  2743. 1:51:21qu'on appelle les outils, les les
  2744. 1:51:24tools. Et après une fois qu'il va
  2745. 1:51:26raisonner, bah ce raisonnement, ce LLM
  2746. 1:51:29va déterminer quelle est l'action
  2747. 1:51:30optimale à prendre. Donc ce qui fait que
  2748. 1:51:33l'agent, il va agir sur l'environnement
  2749. 1:51:36et quand il va agir sur l'environnement,
  2750. 1:51:38l'environnement va lui donner des un
  2751. 1:51:41retour, le feedback. Et bien ce
  2752. 1:51:43feedback, c'est ce qu'on appelle les
  2753. 1:51:44observations. Donc l'agent, il va
  2754. 1:51:46collecter les observations à partir de
  2755. 1:51:49l'environnement et on va reboucler,
  2756. 1:51:51c'est-à-dire voyez donc raisonner. Une
  2757. 1:51:54fois qu'il va raisonner, il va décider
  2758. 1:51:55quelle est l'action optimale à prendre.
  2759. 1:51:57Une fois qu'il va prendre l'action
  2760. 1:51:59optimale, il va collecter les
  2761. 1:52:01observation. Et ces observations, on va
  2762. 1:52:03encore les envoyer vers le Lélim pour
  2763. 1:52:05raisonner. Ensuite, il va encore
  2764. 1:52:07déterminer quelle est l'action optimale
  2765. 1:52:09à prendre. Ensuite, il va récupérer de
  2766. 1:52:13nouvelles observations. On va encore
  2767. 1:52:15présenter ces observations euh vers le
  2768. 1:52:17le le LLM, c'est-à-dire le modèle. Il va
  2769. 1:52:21raisonner et cetera. jusqu'à ce que
  2770. 1:52:24jusqu'à ce que le les le j'ai l'ensemble
  2771. 1:52:28des observations qui sont suffisantes
  2772. 1:52:29pour générer le le la
  2773. 1:52:32réponse et à la fin je génère la
  2774. 1:52:34réponse. Donc ça c'est c'est ça le le
  2775. 1:52:37framework React. Le framework React donc
  2776. 1:52:40il est défini comme
  2777. 1:52:42ça. Alors et puis vous avez le vous avez
  2778. 1:52:45le voilà donc vous avez l'agent en
  2779. 1:52:47quelque sorte c'est ça. Donc vous avez
  2780. 1:52:50l'agent elle est là.
  2781. 1:52:53Alors l'agent il a d'abord un un
  2782. 1:52:56cerveau. Vous voyez donc un cerveau, un
  2783. 1:53:00agent aujourd'hui ce n'est pas comme les
  2784. 1:53:02agents longtemps. Aujourd'hui, un agent
  2785. 1:53:04son cerveau, c'est le LLM. C'est-à-dire
  2786. 1:53:07à chaque fois il va il va envoyer un un
  2787. 1:53:09prompt. Donc c'est-à-dire un agent, il a
  2788. 1:53:11un
  2789. 1:53:12prompt et ce prompt là c'est lui qui
  2790. 1:53:16définit le but à atteindre.
  2791. 1:53:18Donc le le but à atteindre, on le décrit
  2792. 1:53:20généralement dans le promte qu'on va
  2793. 1:53:22donner à
  2794. 1:53:23l'agent. Et donc l'agent, il va utiliser
  2795. 1:53:25LLM. Il va utiliser le le LLM pour
  2796. 1:53:29raisonner. Donc ça c'est la partie
  2797. 1:53:32pensée. Vous voyez ? Donc il va penser.
  2798. 1:53:35Une fois qu'il va penser, qu'est-ce
  2799. 1:53:37qu'il va le ll va déterminer quel est il
  2800. 1:53:39va euh donner à l'agent quelle est
  2801. 1:53:43l'action optimale à prendre. Donc
  2802. 1:53:45c'est-à-dire c'est leelemm qui va
  2803. 1:53:46répondre à la jangle pour lui dire euh
  2804. 1:53:49maintenant sachant ce contexte là ce que
  2805. 1:53:51tu vas faire. Et donc l'agent il va agir
  2806. 1:53:54il va agir en utilisant ce qu'on appelle
  2807. 1:53:56les tools sur l'environnement. Alors,
  2808. 1:53:59cet environnement, c'est ce qu'on
  2809. 1:54:00appelle également euh action space.
  2810. 1:54:02C'est l'espace de des des
  2811. 1:54:04actions. Et donc, une fois qu'on va agir
  2812. 1:54:06sur l'environnement, par exemple
  2813. 1:54:08l'action, ça peut être accéder à une
  2814. 1:54:10base de données ou là euh accéder à
  2815. 1:54:12utiliser un capteur ou envoyer un email
  2816. 1:54:15ou peut-être chercher sur au niveau du
  2817. 1:54:18web. Parce que pour répondre à la
  2818. 1:54:19question, parfois le l'agent il va il va
  2819. 1:54:22agir, il va faire quelque chose, il va
  2820. 1:54:25commander un système industriel, il va
  2821. 1:54:27donc c'est-à-dire c'est le LLM qui va
  2822. 1:54:29lui dire ce qu'il doit faire et puis euh
  2823. 1:54:32après il y a les observations.
  2824. 1:54:34C'est-à-dire une fois que j'exécute
  2825. 1:54:35l'agent exécute une action, il va avoir
  2826. 1:54:38un retour, c'est-à-dire il y a un
  2827. 1:54:40résultat. Donc ces observationsl et ces
  2828. 1:54:43observations, on va encore les envoyer
  2829. 1:54:44vers le
  2830. 1:54:46LLM, c'est-à-dire ce niveau-là.
  2831. 1:54:49Et après la donc il va penser, il va
  2832. 1:54:53déterminer quelle est l'action optimale
  2833. 1:54:54à prendre. On collecte les observations
  2834. 1:54:57et on va encore revenir vers le le
  2835. 1:55:00cerveau. On va penser, on détermine
  2836. 1:55:02quelle est l'action optimale à prendre.
  2837. 1:55:04Les observations jusqu'à ce que
  2838. 1:55:07j'obtiens l'ensemble des observations
  2839. 1:55:09qui déterminent le contexte suffisant
  2840. 1:55:12pour répondre à à la question. C'est à
  2841. 1:55:15ce moment-là que on va générer la la
  2842. 1:55:19réponse, la la solution finale. Alors ça
  2843. 1:55:22c'est c'est comme ça que ça marche
  2844. 1:55:24l'agent. Alors quand vous l'avez
  2845. 1:55:25constaté en fait c'est c'est quoi ça ?
  2846. 1:55:27C'est quel type d'apprentissage ?
  2847. 1:55:33C'est exactement donc ça c'est de
  2848. 1:55:34l'apprentissage par renforcement. On en
  2849. 1:55:36a déjà parlé, c'est que dans
  2850. 1:55:38l'apprentissage par renforcement, vous
  2851. 1:55:39avez l'agent qui va agir sur
  2852. 1:55:42l'environnement en utilisant des tools.
  2853. 1:55:45L'environnement va euh donner un
  2854. 1:55:47feedback, c'est des observations, c'est
  2855. 1:55:49ce qui diminue le contexte. Et une fois
  2856. 1:55:52que l'agent a les observations, il va
  2857. 1:55:53les présenter vers le LLM euh
  2858. 1:55:56c'est-à-dire son cerveau. Donc le
  2859. 1:55:58cerveau de l'agence, c'est LLM. Euh et
  2860. 1:56:01après le LLM va lui donner il va lui
  2861. 1:56:03donner quelle est l'action optimale à
  2862. 1:56:04prendre. Donc il va encore agir sur
  2863. 1:56:07l'environnement. Il collecte les
  2864. 1:56:09observations. On va vers le LLM, il va
  2865. 1:56:12lui dire quelle est l'action à prendre.
  2866. 1:56:14Il prend l'action et à chaque fois qu'il
  2867. 1:56:16prend une action, l'état de l'agent va
  2868. 1:56:20changer. Donc il va passer d'un état à
  2869. 1:56:22l'autre. Parce qu'en fait quand on est
  2870. 1:56:24dans quand on prend une action, on a un
  2871. 1:56:26feedback et l'état de l'agent
  2872. 1:56:28généralement il est défini dans la
  2873. 1:56:30mémoire. Alors, si vous vous rappelez
  2874. 1:56:32tout à l'heure, j'avais dit que les LLM
  2875. 1:56:34sont stateless. Stateless, c'est-à-dire
  2876. 1:56:36le LLM ne le ll ne peut pas se rappeler
  2877. 1:56:39de cette
  2878. 1:56:40conversation. Il peut pas savoir. Donc
  2879. 1:56:43le si vous voulez garder la conversation
  2880. 1:56:46euh c'est-à-dire l'historique des de la
  2881. 1:56:48conversation euh avec le avec l'agent de
  2882. 1:56:52l'agent et l'agent va utiliser sa
  2883. 1:56:54mémoire. Alors maintenant, si je reviens
  2884. 1:56:57à ce que je vous ai montré tout à
  2885. 1:56:58l'heure, c'est à peu près ça
  2886. 1:57:05notre voyez donc c'est-à-dire notre
  2887. 1:57:08agent il envoie de il communique avec le
  2888. 1:57:10LLM et l'agent il a une mémoire et après
  2889. 1:57:14la mémoire donc il y a différents types
  2890. 1:57:16de mémoire. Donc ça c'est encore il y a
  2891. 1:57:18des articles, il y a plein d'articles
  2892. 1:57:19qui travaillent sur les différentes
  2893. 1:57:20mémoires. Context memory, summarized
  2894. 1:57:23memory, semantic memory, persistent
  2895. 1:57:25memory et cetera. Donc tout ça, on aura
  2896. 1:57:27l'occasion de d'y revenir en
  2897. 1:57:39pratique. Alors, d'abord, est-ce que
  2898. 1:57:41c'est clair la définition d'un agent ?
  2899. 1:57:46Oui, monsieur. Juste une question pour
  2900. 1:57:48les agents. Est-ce que un agent il doit
  2901. 1:57:50on doit savoir toujours le LLMs ? Par
  2902. 1:57:53exemple, moi dans mon domaine, si je je
  2903. 1:57:55crée un modèle Iou qui permet par
  2904. 1:57:58exemple de par exemple dans le domaine
  2905. 1:58:00d'automobile qui
  2906. 1:58:01détecte euh les lignes de de la route.
  2907. 1:58:05Oui. Et euh se positionne donc il la
  2908. 1:58:08position du véhicule par rapport aux
  2909. 1:58:10lignes et après il il acte pour réguler
  2910. 1:58:13la position du véhicule. Oui. Est-ce
  2911. 1:58:16qu'on peut on peut considérer comme un
  2912. 1:58:18agent ? Oui, bien sûr. Alors, si vous
  2913. 1:58:20prenez le même donc vous remplacez le
  2914. 1:58:22LLM par un modèle de diplurine par
  2915. 1:58:25exemple, bah ça peut être un modèle de
  2916. 1:58:27diplurine, ça peut être le votre modèle
  2917. 1:58:29qui permet avec lequel vous raisonnez.
  2918. 1:58:32Alors sauf que pour les problèmes
  2919. 1:58:35complexes, les c'est ça ce qu'il faut
  2920. 1:58:37savoir, c'est que pour les problèmes
  2921. 1:58:38plus complexes, généralement, il y a pas
  2922. 1:58:41mieux. C'est ça le il y a pas mieux que
  2923. 1:58:44elm aujourd'hui. Ouais. Donc ce qui fait
  2924. 1:58:47que même si tu utilises un modèle
  2925. 1:58:49spécifique, il faut si ton modèle
  2926. 1:58:50spécifique il est performant, bon c'est
  2927. 1:58:52bon. Donc tu peux monter ton agent mais
  2928. 1:58:55c'est c'est si si c'est c'est pas le
  2929. 1:58:57cas. Il faut tester également avec des
  2930. 1:58:59LLM multimodo, avec du F tuning et
  2931. 1:59:02souvent souvent ça donne des choses plus
  2932. 1:59:04intéressante.
  2933. 1:59:07D'accord. Merci monsieur.
  2934. 1:59:10Est-ce que c'est clair pour les autres ?
  2935. 1:59:13Je peux avancer
  2936. 1:59:15? Oui.
  2937. 1:59:17Oui. Oui.
  2938. 1:59:21Alors maintenant donc ça c'est la
  2939. 1:59:23définition d'un agent et après bon il y
  2940. 1:59:24a la notion maintenant système
  2941. 1:59:25multiagent. Alors, le système multiagent
  2942. 1:59:29euh c'est tout simplement c'est un
  2943. 1:59:31système dans lequel finalement on va
  2944. 1:59:32utiliser plusieurs agents qui vont
  2945. 1:59:35collaborer entre eux euh pour résoudre
  2946. 1:59:38des problèmes complexes.
  2947. 1:59:40Et généralement la notion d'agent euh et
  2948. 1:59:43et si vous voulez euh euh dans la
  2949. 1:59:46définition un système multiagent, donc
  2950. 1:59:47c'est un système généralement
  2951. 1:59:49distribué qui est composé d'un ensemble
  2952. 1:59:52d'agents qui sont chaque agent est
  2953. 1:59:54localisé dans son propre environnement.
  2954. 1:59:57Les agents sont capables d'interagir
  2955. 1:59:59entre eux selon une organisation.
  2956. 2:00:04Et donc on peut voir un agent comme ça.
  2957. 2:00:07Donc un agent il a une mémoire, il a un
  2958. 2:00:10modèle d'intelligence
  2959. 2:00:12artificielle. Un agent se trouve dans un
  2960. 2:00:14environnement. Donc les trois dimensions
  2961. 2:00:16d'un agent, c'est l'environnement.
  2962. 2:00:18Alors, l'environnement c'est c'est celui
  2963. 2:00:20c'est c'est donc ici l'environnement
  2964. 2:00:22c'est un ensemble de de fonctions un
  2965. 2:00:24ensemble de tools généralement pour pour
  2966. 2:00:29qui que l'agent peut utiliser pour
  2967. 2:00:31travailler. Donc c'est-à-dire que dans
  2968. 2:00:33un système industriel ou bien un système
  2969. 2:00:34quelconque, il faut définir quels sont
  2970. 2:00:36les tools que l'agent peut utiliser.
  2971. 2:00:38Donc ça c'est la la la même chose, la
  2972. 2:00:41première des
  2973. 2:00:42choses. Et justement à ce niveau-là, il
  2974. 2:00:45y a des il y a un protocole qui vient
  2975. 2:00:47d'être créé tout récemment par un qui
  2976. 2:00:51s'appelle MCP, modèle context protocole.
  2977. 2:00:54Donc pour pouvoir pour faire profiter
  2978. 2:00:56les agents des outils qui existent
  2979. 2:00:58facilement pour pour que qu'un agent
  2980. 2:01:00puisse exploiter euh des des tools qui
  2981. 2:01:03sont développés avec différents langages
  2982. 2:01:05de programmation de manière très simple,
  2983. 2:01:07et bien il y a un protocole qui est très
  2984. 2:01:09intéressant euh qu'il faut connaître qui
  2985. 2:01:12s'appelle MCP modèle contexte protocole.
  2986. 2:01:15Donc j'aurai l'occasion de le le
  2987. 2:01:17détailler. Et puis donc vous avez donc
  2988. 2:01:20l'agent il vit dans un environnement et
  2989. 2:01:22après il va interagir. Il y a
  2990. 2:01:24l'interaction la trè la deuxième
  2991. 2:01:26dimension c'est que l'agent il va
  2992. 2:01:28interagir avec d'autres agents. Alors
  2993. 2:01:30maintenant pour l'interaction vous avez
  2994. 2:01:32un agent peut communiquer avec un autre
  2995. 2:01:33agent. Ici il y a un protocole qui vient
  2996. 2:01:36d'être créé et qui est en train de de
  2997. 2:01:40finaliser la spécification qui s'appelle
  2998. 2:01:42agent to agent.
  2999. 2:01:44Donc pour les les anciens systèmes
  3000. 2:01:45multiaagents, à l'époque, on utilisait
  3001. 2:01:47un langage qui s'appelait ACL pour les
  3002. 2:01:49gens qui font le les systèmes
  3003. 2:01:51multiaagents. ACL, c'est Agent
  3004. 2:01:53Communication Language. Ça c'est pour
  3005. 2:01:55les anciens modèles du système
  3006. 2:01:56multiagent. Mais aujourd'hui, avec cette
  3007. 2:01:58nouvelle génération des agents, il y a
  3008. 2:02:01des protocoles qui qui sont qui sont en
  3009. 2:02:03train de d'être mis en place, parmi
  3010. 2:02:05lesquels il y a agent to agent euh qui
  3011. 2:02:08qui peut être utilisé pour faire
  3012. 2:02:10communiquer des agents distribus. un
  3013. 2:02:12agent dans cette machine peut
  3014. 2:02:13communiquer avec un agent dans dans une
  3015. 2:02:14autre machine. Euh donc et ça ça peut
  3016. 2:02:18marcher. Et puis donc vous avez une
  3017. 2:02:20organisation.
  3018. 2:02:22Alors maintenant, dans un système
  3019. 2:02:23multiagent, il faut déterminer quel est
  3020. 2:02:26la l'organisation que vous allez
  3021. 2:02:28utiliser pour résoudre des problèmes
  3022. 2:02:30complexes. Par exemple, vous pouvez dire
  3023. 2:02:31je vais utiliser une organisation
  3024. 2:02:33hiérarchique qui fait que j'ai un agent
  3025. 2:02:35central qui va euh communiquer, qui va
  3026. 2:02:39piloter plusieurs agents et chaque agent
  3027. 2:02:41va s'occuper de d'une tâche précise et
  3028. 2:02:43après l'agence centrale, il fait une
  3029. 2:02:45synthèse et il il donne des des des
  3030. 2:02:47réponses. Et donc on peut utiliser des
  3031. 2:02:50des modèles, on va dire pipeline
  3032. 2:02:52linéaire, on peut utiliser des
  3033. 2:02:53pipelines, voilà,
  3034. 2:02:55multidimensionnel, pyramidal et cetera.
  3035. 2:02:58Donc il existe des des ce qu'on appelle
  3036. 2:03:02des
  3037. 2:03:03des euh c'est-à-dire des des modèles
  3038. 2:03:07d'organisation qu'on peut euh qu'on peut
  3039. 2:03:10adopter, ça dépend des
  3040. 2:03:12problématiques. Alors maintenant, on
  3041. 2:03:14vous pouvez dire que généralement voilà
  3042. 2:03:16les systèmes multiaagent, il est
  3043. 2:03:18aujourd'hui résumé avec ce schéma là.
  3044. 2:03:20Vous avez un agent, un agent d'abord
  3045. 2:03:22c'est une entité autonome qui a une
  3046. 2:03:24mémoire et qui a un modèle
  3047. 2:03:26d'intelligence artificielle.
  3048. 2:03:30dans la majorité des cas, c'est un
  3049. 2:03:31LLM. Et puis euh un agent dispose d'un
  3050. 2:03:35ensemble de
  3051. 2:03:37tools. Alors, les tools, c'est quoi ?
  3052. 2:03:39C'est des
  3053. 2:03:41fonctions que l'agent peut utiliser pour
  3054. 2:03:45euh profiter des ressources.
  3055. 2:03:48Vous avez des ressources. Par exemple,
  3056. 2:03:51j'ai ici un un tool, une fonction qui
  3057. 2:03:54permet de consulter une base de données
  3058. 2:03:56par exemple qui permet de consulter la
  3059. 2:03:58température ou bien les les données
  3060. 2:04:00météorologiques. J'ai ici un tools qui
  3061. 2:04:02permet de chercher les données
  3062. 2:04:04financières et cetera. J'ai ici un tools
  3063. 2:04:07qui va consulter un capteur qui permet
  3064. 2:04:09de déterminer de des choses bien
  3065. 2:04:11précises. Par exemple, la chaleur, je
  3066. 2:04:13sais pas dans dans un four ou je sais
  3067. 2:04:15pas quoi. Donc c'est-à-dire il y a des
  3068. 2:04:17capteurs, il y a les tools, c'est des
  3069. 2:04:19fonctions qui vont aller vers des
  3070. 2:04:21ressources pour collecter de de des
  3071. 2:04:23informations. C'est c'est ce qu'on
  3072. 2:04:25appelle les observations. Donc vous
  3073. 2:04:26voyez donc tous ces tools là, c'est eux
  3074. 2:04:28qui vont permettre de c'est des actions
  3075. 2:04:31si vous voulez. les tools et les
  3076. 2:04:33actions qui vont collecter les
  3077. 2:04:35observations. Et bien donc bien sûr ces
  3078. 2:04:38observations avec ça c'est avec les
  3079. 2:04:41observations plutôt avec les tools, je
  3080. 2:04:44je récupère des observations. Ces
  3081. 2:04:46observations vont être euh utilisées
  3082. 2:04:49pour raisonner. Donc le l'él raisonner,
  3083. 2:04:52il va encore déterminer quelle est
  3084. 2:04:53l'action à prendre. l'agent, il va
  3085. 2:04:55encore faire appel à telle action pour
  3086. 2:04:58encore récupérer des
  3087. 2:04:59observations. Il va raisonner encore. Il
  3088. 2:05:02va encore déterminer quel est la la
  3089. 2:05:04prochaine action à prendre et jusqu'à ce
  3090. 2:05:07que il atteint son but. Alors si parfois
  3091. 2:05:10donc vous voyez donc pour profiter des
  3092. 2:05:12des tools euh de manière très simple,
  3093. 2:05:16ben on peut utiliser un un protocole
  3094. 2:05:19MCP. Donc maintenant avec MCP, on peut
  3095. 2:05:22déployer les tools se forme de ce qu'on
  3096. 2:05:24appelle de serveur MCP. Et donc un agent
  3097. 2:05:26peut facilement profiter des tools. Par
  3098. 2:05:29exemple, j'ai ici un tool euh un tool
  3099. 2:05:31par exemple qui est développé en
  3100. 2:05:35Python. Déjà, c'est un tool qui est
  3101. 2:05:37développé en
  3102. 2:05:39Java et ça c'est un tool qui est
  3103. 2:05:41développé avec un autre langage C++ et
  3104. 2:05:43cetera. Il y a pas de problème
  3105. 2:05:44maintenant. C'est-à-dire les tools.
  3106. 2:05:46Chaque tool, je peux le développer avec
  3107. 2:05:48le langage qui qui me semble le plus le
  3108. 2:05:50plus simple et le plus pertinent. Et
  3109. 2:05:52après tous ces tools là, donc je peux
  3110. 2:05:54les exposer via un serveur MCP ou bien
  3111. 2:05:56via des serveurs MCP si vous voulez et
  3112. 2:05:59que la l'agent je peux lui dire voilà tu
  3113. 2:06:02as voilà l'adresse où se trouvent les
  3114. 2:06:04serveurs MTP MCP automatiquement il peut
  3115. 2:06:07savoir quels sont les tools dont il
  3116. 2:06:09dispose. Et après par la suite, si
  3117. 2:06:11l'agent ne peut pas, c'est-à-dire si
  3118. 2:06:13l'agent ne peut pas faire son travail en
  3119. 2:06:16utilisant ses tools dont il dispose,
  3120. 2:06:18bien sûr selon le raisonnement, ben
  3121. 2:06:20c'est à ce moment-là que l'agent peut
  3122. 2:06:22communiquer avec un autre agent qui lui
  3123. 2:06:25la même chose va utiliser ses propres
  3124. 2:06:27tools pour bien sûr pour faire des
  3125. 2:06:30choses et après il y a un échange et
  3126. 2:06:33c'est avec ça avec ce système là on peut
  3127. 2:06:36automatiser
  3128. 2:06:42Donc avec ça, on peut automatiser donc
  3129. 2:06:43le bien sûr les les les tâches d'une
  3130. 2:06:47manière générale. Et d'ailleurs, les
  3131. 2:06:49systèmes multiaagents, c'est ça fait
  3132. 2:06:50partie de l'intelligence artificielle
  3133. 2:06:52distribué euh et qui l'objectif c'est de
  3134. 2:06:55d'automatiser les
  3135. 2:06:57processes euh résoudre des problèmes
  3136. 2:06:59complexes en exploitant plusieurs
  3137. 2:07:03agents. Donc ce qui fait que aujourd'hui
  3138. 2:07:05si vous voulez
  3139. 2:07:08travailler dans le domaine des systèmes
  3140. 2:07:11multiagent, il va falloir un peu
  3141. 2:07:13regarder un peu ce qui se passe au
  3142. 2:07:14niveau de des nouveautés sur MCP et ces
  3143. 2:07:19protocoles là, les protocoles de
  3144. 2:07:21communication entre les
  3145. 2:07:24agents. Alors juste pour schématiser par
  3146. 2:07:27exemple ici juste un exemple.
  3147. 2:07:29J'ai par exemple ici un un étudiant par
  3148. 2:07:33exemple, je suis juste en train de
  3149. 2:07:35tracer par exemple à quoi va ressembler
  3150. 2:07:37les plateforme de e-learning
  3151. 2:07:38futur parce que toutes les les solutions
  3152. 2:07:41qui que vous allez utiliser dans le
  3153. 2:07:43futur, c'est des solutions qui seront
  3154. 2:07:44basées sur des agents. Et donc une
  3155. 2:07:47solution agentique, par exemple, j'ai un
  3156. 2:07:49étudiant qui va dire je voudrais passer
  3157. 2:07:51une
  3158. 2:07:52évaluation de positionnement concernant
  3159. 2:07:55le chapitre chaîne d'énergie.
  3160. 2:07:59fonction alimenté, distribuer,
  3161. 2:08:01convertir. Bon, par exemple ici, donc on
  3162. 2:08:03veut faire un test de positionnement.
  3163. 2:08:05Alors, cette question vous allez la
  3164. 2:08:06poser à à l'application qui est agentée,
  3165. 2:08:09qui qui est piloté par un agent. Ben
  3166. 2:08:11l'agent, qu'est-ce qu'il va faire ? Ben,
  3167. 2:08:13il va d'abord envoyer, il va envoyer
  3168. 2:08:16vers le LL, il va lui envoyer la
  3169. 2:08:18question de
  3170. 2:08:19l'utilisateur mais en même temps dans le
  3171. 2:08:21prompt, il va envoyer les tools et ça
  3172. 2:08:23c'est important. Alors, tout à l'heure,
  3173. 2:08:25je vous disais que on envoie dans la
  3174. 2:08:26requête la question, le contexte, mais
  3175. 2:08:29également on envoie les tools.
  3176. 2:08:32C'est-à-dire que dans le les modèles
  3177. 2:08:34agent qui supportent les systèmes
  3178. 2:08:36multiagents, les LLM multiagent, euh
  3179. 2:08:40donc le prompt contient une partie dans
  3180. 2:08:42laquelle on décrit les tools. Par
  3181. 2:08:44exemple, l'agent il va dire "Réponds-moi
  3182. 2:08:46à cette question sachant que j'ai les
  3183. 2:08:49tools." Les tools, c'est des fonctions.
  3184. 2:08:51Sachant que j'ai une méthode, une
  3185. 2:08:53opération qui s'appelle get chapters qui
  3186. 2:08:55permet de récupérer la liste des
  3187. 2:08:56chapitres. J'ai par exemple une
  3188. 2:08:58opération qui permet de consulter un
  3189. 2:09:00chapitre, le détail d'un chapitre. J'ai
  3190. 2:09:02une opération qui permet de consulter
  3191. 2:09:04les objectifs d'un chapitre. Euh et j'ai
  3192. 2:09:08par exemple une opération qui permet de
  3193. 2:09:10de consulter les critères d'évaluation.
  3194. 2:09:13Ouais. Donc tout ça c'est des tools que
  3195. 2:09:14j'ai dans mon application, dans mon
  3196. 2:09:16système
  3197. 2:09:17d'information et ces tools là vont
  3198. 2:09:20forcément accéder à la base de données
  3199. 2:09:21pour pour faire des choses. Et donc
  3200. 2:09:25quand je présente cette question au LLM,
  3201. 2:09:28il va prendre la question, il va il sait
  3202. 2:09:30quels sont les tools dont de vous
  3203. 2:09:33disposez raisonner et après il va
  3204. 2:09:36répondre avec
  3205. 2:09:38l'action. Il va répondre à l'argent, il
  3206. 2:09:40va lui dire voilà quelle est l'action à
  3207. 2:09:42prendre.
  3208. 2:09:43Donc c'est-à-dire supposons que l'action
  3209. 2:09:44ça va être get chapter. Le nom de
  3210. 2:09:47l'action c'est get chapter. Bah
  3211. 2:09:49qu'est-ce qu'il fait l'agent ? Il va
  3212. 2:09:50donc faire appel à cette fonction. Cette
  3213. 2:09:52fonction va vers la base de données. Il
  3214. 2:09:55va récupérer le le les informations sur
  3215. 2:09:57le les les la liste des chapitres de qui
  3216. 2:10:01qui sont en relation avec ça par
  3217. 2:10:05exemple. Donc j'ai la liste des
  3218. 2:10:06chapitres. Donc ça la liste des
  3219. 2:10:08chapitres c'est les observations. Vous
  3220. 2:10:10voyez ? C'est les observations et encore
  3221. 2:10:12l'agent, il va envoyer encore ça, le
  3222. 2:10:16prompt, les tools et les
  3223. 2:10:18observations. Et maintenant, il connaît
  3224. 2:10:20la liste des chapitres, il va encore lui
  3225. 2:10:22répondre avec quelle est la deuxième
  3226. 2:10:24action apporte. Il va il va lui dire
  3227. 2:10:26peut-être tu fais appel, donne-moi le
  3228. 2:10:28détail de ce chapitre, c'est-à-dire les
  3229. 2:10:31les grandes lignes de ce chapitre. Il va
  3230. 2:10:33encore récupérer les détails du
  3231. 2:10:35chapitre. Il va lui dire tiens voilà le
  3232. 2:10:36le détail du chapitre.
  3233. 2:10:38Et après le LLM, il va raisonner, il va
  3234. 2:10:40lui dire bah tu me donnes donne-moi la
  3235. 2:10:43la la liste les critères
  3236. 2:10:45d'évaluation parce que dans la liste des
  3237. 2:10:47tools, il sait que l'agent dispose de
  3238. 2:10:49d'un tool qui permet de de consulter les
  3239. 2:10:52critères d'évaluation. Donc l'agent
  3240. 2:10:55encore, il va vers la base de données,
  3241. 2:10:56il récupère les critères d'évaluation,
  3242. 2:10:58il va les présenter à l'agent, l'agent
  3243. 2:11:02va donc à la fin quand il aura
  3244. 2:11:05généralement tout ce qu'il ce dont il a
  3245. 2:11:09besoin, et bien c'est à ce moment-là que
  3246. 2:11:11l'agent va gén le LN va générer le
  3247. 2:11:14l'évaluation et cette évaluation va être
  3248. 2:11:16présentée vers
  3249. 2:11:20l'utilisateur. Bon, ça c'est je pense
  3250. 2:11:22c'est un bon exemple qui montre
  3251. 2:11:23globalement c'est-à-dire les solutions
  3252. 2:11:27agentées c'est-à-dire les les solutions
  3253. 2:11:29basées sur les agents. C'est ce qui va
  3254. 2:11:31fonctionner dans le tous les systèmes
  3255. 2:11:35futurs. Donc dans le ce soit dans le
  3256. 2:11:37domaine de la santé, le domaine
  3257. 2:11:39industriel, dans t tous les domaines,
  3258. 2:11:41l'énergie, donc tout tout la la
  3259. 2:11:43biologie, le je sais pas c'est c'est
  3260. 2:11:45c'est un peu ça. Alors, c'est comme si
  3261. 2:11:48par exemple vous vous êtes vous êtes un
  3262. 2:11:51agent chez vous. Maintenant, je suis
  3263. 2:11:52chez moi un agent et après j'ai dit
  3264. 2:11:55tools. Je vais juste dire voilà, j'ai un
  3265. 2:11:58un stylo, j'ai un écran, j'ai j'ai une
  3266. 2:12:01une bouteille d'eau, j'ai j'ai devant
  3267. 2:12:03moi et cetera. Donc j'ai les tools moi
  3268. 2:12:05les tools que vous voyez ici. Et après à
  3269. 2:12:08un moment donné je vais quand on me
  3270. 2:12:10demande de faire quelque chose, on me
  3271. 2:12:12demande de faire quelque chose et ben je
  3272. 2:12:14vais je vais demander à mon cerveau au
  3273. 2:12:17LM je vais demander à un agent euh voilà
  3274. 2:12:21donc je vais envoyer la requête par
  3275. 2:12:23exemple à chat GPT. Je vais lui dire,
  3276. 2:12:25sachant que j'ai voilà la question qu'on
  3277. 2:12:28m'a posé, sachant que voilà les outils
  3278. 2:12:30dont je dispose, alors donne-moi ce que
  3279. 2:12:33je veux faire. Et après le LM, il vous
  3280. 2:12:35dit tiens euh il va vous répondre
  3281. 2:12:38d'abord tu vas prendre ton stylo, tu vas
  3282. 2:12:40écrire tel et après je vais lui dire
  3283. 2:12:42"Oui, c'est bon, j'ai écrit ça." Il va
  3284. 2:12:44te dire encore maintenant tu vas voilà
  3285. 2:12:46envoyer un mail et cetera et cetera.
  3286. 2:12:48Donc c'est-à-dire si finalement c'est le
  3287. 2:12:50LLM qui va exploiter les outils, les
  3288. 2:12:55tools euh de l'agent pour pouvoir
  3289. 2:12:58répondre à la question. Donc grâce à
  3290. 2:13:01cette notion d'agent et bien tout
  3291. 2:13:03simplement les LLMs, les modèles de
  3292. 2:13:07l'intelligence
  3293. 2:13:09artificielle peuvent utiliser le système
  3294. 2:13:12d'information. Vous voyez ? Donc
  3295. 2:13:15c'est-à-dire dans le il y a il y a une
  3296. 2:13:17année avance, on voyait pas ça, on
  3297. 2:13:19voyait tout simplement c'est le mon
  3298. 2:13:21application qui profite qui qui utilise
  3299. 2:13:23le le syst le
  3300. 2:13:25LLM. Alors maintenant avec la notion
  3301. 2:13:27d'agent, ben le LLM euh c'est lui qui
  3302. 2:13:30accède, c'est lui qui décide euh vers
  3303. 2:13:34quelle fonction qui doit être appelée
  3304. 2:13:35par l'agent. Donc c'est-à-dire c'est le
  3305. 2:13:37finalement le cerveau c'est le LLM et
  3306. 2:13:40après bon le reste c'est si vous si vous
  3307. 2:13:41c'est les tools, c'est le c'est votre
  3308. 2:13:44vos
  3309. 2:13:46application. Alors ce qui ce qui va
  3310. 2:13:48ouvrir maintenant un chantier pour la la
  3311. 2:13:50sécurité. Alors bien sûr ici donc euh
  3312. 2:13:53ici donc automatiser des processus via
  3313. 2:13:57des agents. Donc ça ouvre aussi des
  3314. 2:13:59failles de sécurité de et cetera. Donc
  3315. 2:14:01tout ça c'est des sujets de recherche
  3316. 2:14:04qui sont intéressants. Il y a de
  3317. 2:14:06l'injection, il y a pas mal de de choses
  3318. 2:14:08qui peuvent être discutées à ce
  3319. 2:14:10niveau-là. En tout cas pour les gens qui
  3320. 2:14:12travaillent dans le domaine de la
  3321. 2:14:12sécurité, la cybersécurité, je sais pas.
  3322. 2:14:15Alors, sachez que en fait ça ça fait
  3323. 2:14:18partie de des des architectures euh sur
  3324. 2:14:22lequel qu'il faudrait
  3325. 2:14:24envisager euh en tout cas dans le le
  3326. 2:14:27futur
  3327. 2:14:32proche. Bon voilà. Alors donc vous avez
  3328. 2:14:36bon ça c'est juste pour MCP. MCP. Donc
  3329. 2:14:40comme je disais donc c'est un protocole
  3330. 2:14:41qui permet à un agent de fait de de
  3331. 2:14:46d'exploiter les tools. En fait un tool
  3332. 2:14:49c'est une fonction qui peut être
  3333. 2:14:50développée avec des langages différents.
  3334. 2:14:52Par exemple si j'ai un tool qui permet
  3335. 2:14:53d'accéder à la base de données. J'ai un
  3336. 2:14:55tool développé en Python qui permet
  3337. 2:14:57d'utiliser des capteurs quelconque. J'ai
  3338. 2:15:00un tool qui permet de de de se connecter
  3339. 2:15:02à GitHub pour chercher des informations.
  3340. 2:15:05J'ai un tool qui est capable d'envoyer
  3341. 2:15:07un email Gmail. J'ai un tool qui permet
  3342. 2:15:09de consulter Facebook, j'ai un tool qui
  3343. 2:15:12permet de consulter la géoc je sais pas
  3344. 2:15:15de de faire de la géolocalisation et
  3345. 2:15:17cetera. Donc j'ai des tout mais tout ça
  3346. 2:15:19ce qui est intéressant c'est que tout ça
  3347. 2:15:21je n'ai pas besoin de développer tout
  3348. 2:15:22ça. C'est que maintenant avec MCP il y a
  3349. 2:15:26des des milliers de tools qui sont déjà
  3350. 2:15:29développés ben votre agent il peut en
  3351. 2:15:32profiter euh librement. Par exemple ici
  3352. 2:15:35le système de fichier, c'est un tool.
  3353. 2:15:38D'ailleurs, dans les démonstrations que
  3354. 2:15:39que je vais vous faire la prochaine
  3355. 2:15:41fois, je vais vous montrer comment
  3356. 2:15:42utiliser le système de fichier.
  3357. 2:15:43C'est-à-dire, c'est comme si vous allez
  3358. 2:15:45chatter avec votre agent, vous lui dites
  3359. 2:15:47par exemple, je voudrais savoir combien
  3360. 2:15:50de fichiers que j'ai dans le bureau.
  3361. 2:15:52Voyez donc vous pass posez la question à
  3362. 2:15:54chat petit, vous lui dites combien de
  3363. 2:15:58fichiers que j'ai dans le bureau de de
  3364. 2:16:00ma machine enfin le bureau de votre
  3365. 2:16:02ordinateur c'est pas le bureau
  3366. 2:16:04de et bien avec les solutions agentiques
  3367. 2:16:08par exemple si vous utilisez cloud par
  3368. 2:16:10exemple que c'est c'est l'un des outils
  3369. 2:16:13desktop qui qui sont basés sur un agent
  3370. 2:16:16et ben tout simplement quand vous lui
  3371. 2:16:19dites combien de fichiers que j'ai dans
  3372. 2:16:20dans et ben il sait très bien que
  3373. 2:16:23l'agent il sait qu'il dispose d'un tool
  3374. 2:16:25qui s'appelle file system et ben il
  3375. 2:16:27appelle ce file system il va lui dire
  3376. 2:16:29fais appel à cette fonction va vers le
  3377. 2:16:31bureau, il va et cetera, il va lui
  3378. 2:16:33donner l'information il lui donne et
  3379. 2:16:34après il va vous dire vo ça et après
  3380. 2:16:37vous lui dites "Supprime-moi les tous
  3381. 2:16:38les fichiers ou là je sais pas
  3382. 2:16:40ajoute-moi un fichier ou là euh et
  3383. 2:16:42cetera et cetera." Donc c'est-à-dire euh
  3384. 2:16:45voilà tout ce que vous avez dans votre
  3385. 2:16:46ordinateur, vous pouvez finalement le le
  3386. 2:16:49l'intelligence peut en profiter euh via
  3387. 2:16:53le les tools. Mais tout ça c'est grâce à
  3388. 2:16:56à ce protocole MCP. Donc ça c'est
  3389. 2:16:59quelque chose que qui qui est
  3390. 2:17:01intéressant à étudier en détail. Donc
  3391. 2:17:04dans la suite des séminaires que je vais
  3392. 2:17:06faire, je vais à chaque fois rentrer sur
  3393. 2:17:08euh des parties de cela.
  3394. 2:17:11Alors ici donc ça c'est j'avais déjà
  3395. 2:17:13fait un webinaire dans lequel j'ai
  3396. 2:17:14développé un un modèle d'application
  3397. 2:17:16comme
  3398. 2:17:18celui-là. Donc je vais juste peut-être
  3399. 2:17:20faire la démo de celui-là et après je je
  3400. 2:17:23on laissera le reste après.
  3401. 2:17:26L'application elle est là. J'ai j'ai
  3402. 2:17:28fait un exemple
  3403. 2:17:30ici. Je vais
  3404. 2:17:34l'arrêter. Je vais la lancer.
  3405. 2:17:45Alors bref, c'est cette démonstration
  3406. 2:17:47que je vais vous faire, c'est à peu près
  3407. 2:17:48ça. Donc j'ai une application euh une
  3408. 2:17:50application avec un frontend que que
  3409. 2:17:52j'ai développé. Et bien je ça me ça
  3410. 2:17:55permet il utilise un agent frontend dans
  3411. 2:17:59lequel je fais une connexion vers GPT40
  3412. 2:18:02o real time pour communiquer avec la
  3413. 2:18:05voix parce qu'en fait ici donc je vais
  3414. 2:18:08l'utilisateur l'utilisateur ici il va
  3415. 2:18:14parler
  3416. 2:18:17alors cette situation là alors
  3417. 2:18:24ici c'est voilà c'est
  3418. 2:18:33ça vous me
  3419. 2:18:39suivez alors voyez donc c'est c'est un
  3420. 2:18:42modèle d'architecture que que que j'ai
  3421. 2:18:45moi-même développé et et dans laquelle
  3422. 2:18:48je vais utiliser Donc l'utilisateur, il
  3423. 2:18:51va poser des questions mais avec la
  3424. 2:18:52voix. C'estàd vous allez on va parler à
  3425. 2:18:54l'agent et c'est pour cela que je vais
  3426. 2:18:55utiliser un modèle de open qui est qui
  3427. 2:19:00est voilà qui supporte la voie et ben
  3428. 2:19:03tout simplement en utilisant une
  3429. 2:19:04connexion via RTC web
  3430. 2:19:06RTC. Et puis donc via je peux toujours à
  3431. 2:19:10chaque fois que je parle je vais vers
  3432. 2:19:11vers je communique directement avec un
  3433. 2:19:14LLM real time qui va me analyser ce que
  3434. 2:19:18je viens de dire. et de faire la
  3435. 2:19:21transcription en texte et après euh
  3436. 2:19:24c'est-à-dire qui va dire à l'agent
  3437. 2:19:26quelle est l'action à prendre. Et ben
  3438. 2:19:28donc l'agent qu'est-ce qu'il fait ?
  3439. 2:19:29envoie des requêtes selon la la l'action
  3440. 2:19:31optimale. Il envoie la la requête vers
  3441. 2:19:33l'application et l'application va
  3442. 2:19:36peut-être utiliser des des fonctions
  3443. 2:19:38pour accéder à la base de données pour
  3444. 2:19:40consulter des transactions. Par exemple
  3445. 2:19:43ici que que j'ai fait dans la base de
  3446. 2:19:45données. Ça c'est des tools. Euh aussi
  3447. 2:19:47j'ai un système rag dans lequel je vais
  3448. 2:19:50lui demander de charger des fichiers
  3449. 2:19:52PDF. Je vais les charger dans le la base
  3450. 2:19:55de
  3451. 2:19:56données. Une fois que je charge ces
  3452. 2:19:58fichiers dans la base de données
  3453. 2:20:00vectoriell euh et après je commence à
  3454. 2:20:03lui poser des questions. Je veux lui
  3455. 2:20:04dire par exemple des questions dans les
  3456. 2:20:06réponses se trouvent dans les fichiers
  3457. 2:20:08alors et cetera. Donc vous voyez donc ça
  3458. 2:20:10c'est c'est un exemple intéressant je
  3459. 2:20:12pense. Je vais esser démarrer donc je
  3460. 2:20:15vais je vais consulter
  3461. 2:20:18ça. Local host
  3462. 2:20:228580. Alors voilà l'interface c'est une
  3463. 2:20:25interface
  3464. 2:20:27basique. Alors ici donc je peux poser
  3465. 2:20:30des questions avec le texte mais ici
  3466. 2:20:31j'ai donc la la voix. Donc je vais
  3467. 2:20:34essayer donc de d'activer et je vais
  3468. 2:20:36commencer à parler.
  3469. 2:20:41Bonjour. Bonjour.
  3470. 2:20:46Bonjour. Pour comment puis-je vous aider
  3471. 2:20:48aujourd'hui ? Euh merci. Alors, est-ce
  3472. 2:20:51que est-ce que tu peux me donner la
  3473. 2:20:53liste des transactions
  3474. 2:20:59? La liste de toutes les transactions.
  3475. 2:21:04Voici la liste de toutes les
  3476. 2:21:05transactions.
  3477. 2:21:10Merci. Merci. Est-ce que tu peux me
  3478. 2:21:12présenter cette transaction sous forme
  3479. 2:21:14d'un tableau ?
  3480. 2:21:17Voici la liste des transactions
  3481. 2:21:19présentées sous forme de tableau.
  3482. 2:21:27Eh mai 2025. Très bien. Merci. Est-ce
  3483. 2:21:31que tu peux me me consulter la
  3484. 2:21:33transaction numéro 1
  3485. 2:21:39? Je je voudrais consulter la
  3486. 2:21:41transaction numéro
  3487. 2:21:451. Voici les détails de la transaction
  3488. 2:21:48numéro 1. ID de la transaction 1. Date
  3489. 2:21:53de la transaction 16 mai 2025. Merci.
  3490. 2:21:56Merci. Alors, je vois que le la
  3491. 2:21:58transaction, le statut de la transaction
  3492. 2:22:00est le mode pending, c'est-à-dire en
  3493. 2:22:02cours. Et moi, je voudrais mettre à jour
  3494. 2:22:05le statut de cette transaction en
  3495. 2:22:08executed. Est-ce que tu peux mettre à
  3496. 2:22:09jour le statut de la transaction
  3497. 2:22:16? Change-moi le statut de la transaction
  3498. 2:22:191 à l'état
  3499. 2:22:25executed. La transaction numéro 1 a été
  3500. 2:22:28mise à jour avec succès. Son statut est
  3501. 2:22:30désormais executed. Très bien. Merci.
  3502. 2:22:32Alors, est-ce que tu peux consulter
  3503. 2:22:33maintenant la transaction 1 numéro
  3504. 2:22:411, la transaction numéro 1.
  3505. 2:22:46Voici les détails de la transaction
  3506. 2:22:48numéro 1. ID de la transaction. Très
  3507. 2:22:51bien. Merci. Je vois que c'est son état
  3508. 2:22:53il est exécuté. Donc c'est c'est bon.
  3509. 2:22:55Alors, vous voyez donc ça c'est le c'est
  3510. 2:22:57juste ici. Donc je suis en train de lui
  3511. 2:22:59poser des questions sur ça, c'est-à-dire
  3512. 2:23:02euh je quand je parle, je je communique
  3513. 2:23:06avec bien sûr ça et après il répond, il
  3514. 2:23:10détermine l'action optimale. Il fait
  3515. 2:23:12appel la requête, je consulte un tool
  3516. 2:23:14qui permet d'aller vers la base de
  3517. 2:23:15données pour consulter des transactions.
  3518. 2:23:18Donc si tout se passe au niveau de de ma
  3519. 2:23:20base de données, alors maintenant je
  3520. 2:23:21vais commencer à poser des questions sur
  3521. 2:23:23je vais utiliser un système ARAC.
  3522. 2:23:28D'accord, je suis prêt à répondre à vos
  3523. 2:23:30questions. Allez-y, posez votre première
  3524. 2:23:33question sur le système lambda. OK,
  3525. 2:23:35merci. Alors, d'abord, est-ce que tu
  3526. 2:23:37peux me charger le premier fichier PDF
  3527. 2:23:40? Le CV. Le premier CV.
  3528. 2:23:48Très bien. Ça c'est le c'est le CV
  3529. 2:23:51numéro 1. Est-ce que tu peux me charger
  3530. 2:23:53le deuxème CV
  3531. 2:23:59? Charg. Voilà. Vous voyez donc ici
  3532. 2:24:03c'est des CV de des membres de l'équipe
  3533. 2:24:06de de de notre laboratoire. Euh tu peux
  3534. 2:24:10revenir au CV numéro
  3535. 2:24:151. D'accord. Souhaitez-vous que je vous
  3536. 2:24:18fournisse des informations spécifiques à
  3537. 2:24:20propos du CV numéro 1 ? Oui. Charge-moi
  3538. 2:24:22à nouveau le CV numéro
  3539. 2:24:311. Je je Voilà. Merci. Alors maintenant,
  3540. 2:24:35envoie-moi ce CV là, ce document- là euh
  3541. 2:24:37à la base de
  3542. 2:24:44données. Envoie-moi. Voilà.
  3543. 2:24:47Merci. Alors, vous voyez donc ici, il
  3544. 2:24:49est en train de de de faire cette
  3545. 2:24:53opération là du rag.
  3546. 2:24:56C'est-à-dire, c'est exactement ça.
  3547. 2:24:57C'estàd je prends il prend le fichier le
  3548. 2:25:00découp, ça devient des vecteurs et
  3549. 2:25:02j'enregistre dans la base de données. Ça
  3550. 2:25:04c'est l'opération
  3551. 2:25:10d'indexation. Exactement. L'indexation
  3552. 2:25:13consiste à convertir le contenu du
  3553. 2:25:15fichier PDF en vecteur pour pouvoir les
  3554. 2:25:18enregistrer. Merci. Alors donc la
  3555. 2:25:21l'opération est terminée. Alors
  3556. 2:25:22maintenant, je voudrais te poser des
  3557. 2:25:23questions sur le document chargé.
  3558. 2:25:26Est-ce que tu peux me donner le nom et
  3559. 2:25:27le prénom de cette personne
  3560. 2:25:32? Je voudrais le nom et le prénom de la
  3561. 2:25:36personne qui se trouve dans le document
  3562. 2:25:46chargé. Alors, est-ce que tu peux me
  3563. 2:25:48donner le nom et le prénom de la
  3564. 2:25:49personne dans le document chargé ?
  3565. 2:25:57Le nom et le prénom de la personne dans
  3566. 2:25:59le document chargé sont Mohamed Yussifi.
  3567. 2:26:02Merci. C'est bien. Alors maintenant,
  3568. 2:26:04est-ce que tu peux me donner la liste de
  3569. 2:26:06ces diplômes ?
  3570. 2:26:12Voici la liste des diplômes de Mohamed
  3571. 2:26:14Yusfiel que mentionné dans le document.
  3572. 2:26:17Doctorat d'État en informatique et
  3573. 2:26:19système parallèle et distribué faculté
  3574. 2:26:22des sciences de Rabat.
  3575. 2:26:24Merci. C'est c'est bien. Donc c'est
  3576. 2:26:27exactement Alors maintenant, je je
  3577. 2:26:29voudrais savoir est-ce que tu peux me
  3578. 2:26:31donner ce le H index son H
  3579. 2:26:46index. Merci. Alors, est-ce que tu peux
  3580. 2:26:50me donner
  3581. 2:26:51également allez le nombre de
  3582. 2:26:53publications et le nombre de citations ?
  3583. 2:27:00Le CV indique que Mohamed Yusfi a 132
  3584. 2:27:03documents publiés et 739 citations.
  3585. 2:27:07Alors, vous voyez donc ici euh ces
  3586. 2:27:09informations, ils sont pas dans le
  3587. 2:27:10texte, c'est une image. Donc ça c'est
  3588. 2:27:12une information euh capture Scopus qui
  3589. 2:27:16contiennent ces informations. Ils sont
  3590. 2:27:18pas dans le texte. Donc ce qui fait donc
  3591. 2:27:19ça c'est la notion de
  3592. 2:27:24multimodal. Alors est-ce que tu peux
  3593. 2:27:25m'afficher l'image d'où tu as trouvé
  3594. 2:27:27trouvé ces informations ?
  3595. 2:27:36Est-ce que tu peux me donner la la
  3596. 2:27:37source l'image source où tu as trouvé le
  3597. 2:27:40le H in Index et le nom de publication
  3598. 2:27:52? Voici les images sources du CV numéro
  3599. 2:27:551 où l'on peut trouver le H index, le
  3600. 2:27:58nombre de publications et le nombre de
  3601. 2:28:01citations. 90 débats de la publication,
  3602. 2:28:04689 documents publiés. Voilà. Donc ça
  3603. 2:28:07c'est l'image effectivement. Ça c'est la
  3604. 2:28:09capture. Donc vous voyez donc le système
  3605. 2:28:11rag, il a il a bien trouvé l'image.
  3606. 2:28:14Voilà les informations où est-ce qu'il
  3607. 2:28:16les a
  3608. 2:28:17cherché. Voilà.
  3609. 2:28:19Alors euh il y a aussi la photo
  3610. 2:28:22donc parce qu'il est il est il est lié
  3611. 2:28:24au contexte et cetera.
  3612. 2:28:28Alors donc euh ça c'est pour moi c'est
  3613. 2:28:30juste un exemple parce que ça c'est que
  3614. 2:28:34que j'ai j'ai développé personnellement
  3615. 2:28:35dans lequel j'ai essayé un petit peu de
  3616. 2:28:37monter tous ces systèmes là pour donner
  3617. 2:28:39à peu près euh on va dire une idée sur
  3618. 2:28:41ce que ce que ce que les les
  3619. 2:28:44applications d'entreprise peuvent
  3620. 2:28:46devenir maintenant c'estàd parce que ça
  3621. 2:28:49c'est une solution complètement basée
  3622. 2:28:51sur un agent et dans laquelle j'utilise
  3623. 2:28:54un multimodal.
  3624. 2:28:56Donc euh et forcément donc euh
  3625. 2:28:59euh mais dans cette dans cette versionlà
  3626. 2:29:02encore, je n'ai j'ai pas exploité le je
  3627. 2:29:05n'ai pas exploité euh MCP et je n'ai pas
  3628. 2:29:08exploité euh en fait toent parce que je
  3629. 2:29:11j'avais commencé à la développer avant
  3630. 2:29:13que ça paraisse et justement je suis en
  3631. 2:29:16train de de mettre en place une solution
  3632. 2:29:18sur qui va encore profiter de de MCP et
  3633. 2:29:22de agent to agent pour voir quelque
  3634. 2:29:24chose encore un peu plus distribué.
  3635. 2:29:26Euh voilà donc ça c'est le c'est juste
  3636. 2:29:29une démo. Merci merci de pour ces toutes
  3637. 2:29:33ces réponse.
  3638. 2:29:39Merci.
  3639. 2:29:42Euh monsieur s'il vous plaît s'il vous
  3640. 2:29:43plaît j'ai une question. Oui. Si tu peux
  3641. 2:29:46la poser à l'agent si tu veux.
  3642. 2:29:49Vas-y, monsieur. Oui. Oui. Oui.
  3643. 2:29:53Euh donc euh pour le fait de partager
  3644. 2:29:58euh Merci pour cette démonstration
  3645. 2:29:59complète et créative. Votre application
  3646. 2:30:02démontre bien comment les systèmes
  3647. 2:30:03d'intelligence artificielle comme celui
  3648. 2:30:05est-ce que est-ce que cela ne
  3649. 2:30:08c'est-à-dire est-ce que est-ce que les
  3650. 2:30:10agents il euh ou bien est-ce est-ce
  3651. 2:30:14qu'il y a un risque que l'agent et
  3652. 2:30:17l'élèm peut exploiter ses informations
  3653. 2:30:19d'une façon qui est abusive non ? Alors
  3654. 2:30:24donc si vous avez bien compris le donc
  3655. 2:30:26ce que j'ai dit d'abord le LLM le c'est
  3656. 2:30:30un
  3657. 2:30:31ll stateless on est bien d'accord donc
  3658. 2:30:35c'est-à-dire que le LLM quand vous lui
  3659. 2:30:37présentez une question dans laquelle il
  3660. 2:30:39y a le
  3661. 2:30:43contexte donc le style il est
  3662. 2:30:47là donc quand vous posez quand vous
  3663. 2:30:50posez la question à l'application
  3664. 2:30:53On on envoie la question et le contexte
  3665. 2:30:56au Llm. Le
  3666. 2:30:59ll bêtement prendre ça. Il ça devient
  3667. 2:31:02des vecteurs. Il va chercher qu'il sont
  3668. 2:31:03le il vous génère un contenu. Et quand
  3669. 2:31:05il veut génère le contenu, il garde rien
  3670. 2:31:08sur lui le LLM. Alors maintenant ce LLM
  3671. 2:31:12là mais par
  3672. 2:31:14contre la PI la PI avec laquelle vous
  3673. 2:31:17communiquez pour LLM oui il peut garder
  3674. 2:31:20ces informations, il peut les les
  3675. 2:31:21stocker. Alors ce qui fait que donc le
  3676. 2:31:24euh maintenant si vous avez par exemple
  3677. 2:31:26des données qui ne doivent pas sortir de
  3678. 2:31:28de du système d'information, il faudrait
  3679. 2:31:31que le LLM soit dans votre dans votre
  3680. 2:31:33entreprise. Donc c'est là vous allez
  3681. 2:31:35utiliser un LLM open source. Alors tout
  3682. 2:31:37ça desp lama mistral
  3683. 2:31:41euh bon Gemini c'est c'est c'est c'est
  3684. 2:31:44le cloud Open c'est du cloud euh cloud
  3685. 2:31:47c'est cloud c'est c'est du cloud mais
  3686. 2:31:50tout ça c'est des c'est des open sources
  3687. 2:31:52et dans ce cas-là euh donc il y a pas de
  3688. 2:31:56problème. Mais ce qui est sûr c'est sûr,
  3689. 2:32:00c'est que le donc il
  3690. 2:32:01faut c'est dire créer un compte soit sur
  3691. 2:32:05par exemple des psiques ou bien la main
  3692. 2:32:07ou bien autre. Ouais. Et ensuite payer
  3693. 2:32:09des charges comme ça
  3694. 2:32:11pour assurer plus de de fiabilité ou
  3695. 2:32:15bien de sécurité des de partage.
  3696. 2:32:17Oui. Ouai. Alors maintenant, c'est un
  3697. 2:32:20peu le c'est comme ça qu'on va profiter
  3698. 2:32:22de l'IA de du du présent et du
  3699. 2:32:26futur. Oh, ça c'est la réalité, hein.
  3700. 2:32:28Donc c'est-à-dire il y a beaucoup de
  3701. 2:32:30d'entreprises, toutes les entreprises
  3702. 2:32:32vont vouloir faire ce genre de choses
  3703. 2:32:34maintenant.
  3704. 2:32:35Alors maintenant après bien sûr il y a
  3705. 2:32:38les risques, il y a l'hallucination, il
  3706. 2:32:40y a le et donc maintenant c'est ça le il
  3707. 2:32:43y a les challenges, c'est pas des des
  3708. 2:32:45problèmes mais c'est des challenges
  3709. 2:32:46parce que c'est ça la recherche, c'est
  3710. 2:32:47qu' on avance mais quand on avance il y
  3711. 2:32:50a des challenges et ces challenges là,
  3712. 2:32:52il y a encore des solutions qui vont qui
  3713. 2:32:53vont apparaître. C'est comme ça qu'on
  3714. 2:32:57avance. C'est clair ?
  3715. 2:33:01Oui. D'accord. Merci monsieur.
  3716. 2:33:04Oui.
  3717. 2:33:07Alors, on va juste lui poser une
  3718. 2:33:09question pour voir s'il peut
  3719. 2:33:11haucer. Alors, bonjour.
  3720. 2:33:14Bonjour. Comment puis-je vous aider
  3721. 2:33:17aujourd'hui ? Est-ce que tu peux me dire
  3722. 2:33:18ce que je peux manger maintenant ?
  3723. 2:33:21Je n'ai pas le droit de vous répondre
  3724. 2:33:23car aucun contexte n'est fourni. Si vous
  3725. 2:33:25avez besoin de recommandations de repas
  3726. 2:33:28ou de conseils alimentaires, je vous
  3727. 2:33:30suggère de demander directement à un
  3728. 2:33:32nutritionniste. Merci. Donc vous voyez
  3729. 2:33:35ça c'est le c'est justement ça c'est
  3730. 2:33:36important parce que la solution
  3731. 2:33:39agentique que je crée, il ne doit pas me
  3732. 2:33:41donner des réponses sur des choses qu'il
  3733. 2:33:42connaît pas. Donc ce qui fait que dans
  3734. 2:33:44le prompt euh c'est ça c'est des
  3735. 2:33:46techniques qui se travaillent. Dans le
  3736. 2:33:48prompt, il faut ajouter ces petits
  3737. 2:33:49détails. Si si le contexte n'est pas
  3738. 2:33:52fourni, répond avec. Si vous voulez voir
  3739. 2:33:54la la phrase avec laquelle je n'ai pas
  3740. 2:33:57le droit de vous répondre et c'est il il
  3741. 2:34:00est c'est-à-dire c'est moi qui qui qui
  3742. 2:34:03doit donner cette cette information
  3743. 2:34:05là il devrait être
  3744. 2:34:10Merci c'est le la partie front
  3745. 2:34:15je n'ai pas le droit de vous répondre
  3746. 2:34:17car aucun contexte n'est fourni si vous
  3747. 2:34:20avez une question spécifique ou si vous
  3748. 2:34:22souhaitez
  3749. 2:34:24Alors de rien,
  3750. 2:34:27je suis là pour vous aider.
  3751. 2:34:30Merci.
  3752. 2:34:32De rien, n'hésitez pas si vous avez
  3753. 2:34:34d'autres questions.
  3754. 2:34:37Ça c'estte. Merci. Alors si aucune euh
  3755. 2:34:41contexte n'est fourni répond avec je
  3756. 2:34:43n'ai pas le droit. Donc vous voyez donc
  3757. 2:34:46tout ça c'est le c'est des informations
  3758. 2:34:48qui qu'on va retrouver dans le dans le
  3759. 2:34:50prompt.
  3760. 2:34:52Bon, alors je pense alors maintenant
  3761. 2:34:54juste pour les les framework les
  3762. 2:34:56framework multiaagent euh maintenant
  3763. 2:34:58aujourd'hui sont vraiment et ça
  3764. 2:34:59s'explose d'une manière incroyable euh
  3765. 2:35:02c'est que euh euh en fait dans ce cours
  3766. 2:35:05je vais utiliser le l'un des framework
  3767. 2:35:07qui sont que je vois qui sont très
  3768. 2:35:09importants, c'est Openny I agent SDK.
  3769. 2:35:12Donc avant il s'appelait Swarm mais
  3770. 2:35:15après il a été remis un peu. Donc ça
  3771. 2:35:17s'appelle désormais Open Agent SDK.
  3772. 2:35:20C'est l'un des des framework qui peuvent
  3773. 2:35:22être utilisés en production parce qu'il
  3774. 2:35:24faut faire attention parce qu'il y a
  3775. 2:35:25parfois des framework qui font des
  3776. 2:35:26choses mais quand vous passez en
  3777. 2:35:28production c'est pas vraiment euh Donc
  3778. 2:35:31ça c'est c'est ce qu'on va utiliser
  3779. 2:35:34avant ça. Il y a en parallèle il y a
  3780. 2:35:36crew link chain autogène pantique file
  3781. 2:35:42dat pronon et agent et cetera. Donc il
  3782. 2:35:46existe les tout ça c'est vraiment vous
  3783. 2:35:48allez voir c'est c'est pas compliqué,
  3784. 2:35:50c'est des choses que vous pouvez faire
  3785. 2:35:51facilement. Donc je pense la prochaine
  3786. 2:35:53fois donc on va parler de comment créer
  3787. 2:35:55ces agents et comment faire le prompt
  3788. 2:36:00engineering. Et donc aujourd'hui donc je
  3789. 2:36:03vais pas pouvoir parler de ça. Donc il
  3790. 2:36:05il y a un notebook que je vais vous
  3791. 2:36:07partager dans lequel vous allez voir
  3792. 2:36:10quels sont les livrias installés pour
  3793. 2:36:11faire le prompt
  3794. 2:36:13engineering. Comment communiquer avec
  3795. 2:36:15Openni ? Comment communiquer avec Lama
  3796. 2:36:19donc le modèle open source ? Comment
  3797. 2:36:21créer un prompte ? Euh voilà. Et après
  3798. 2:36:25un exemple de prompt. Ça c'est des c'est
  3799. 2:36:28des promptine de manière très simple.
  3800. 2:36:30Comment faire par
  3801. 2:36:31exemple tirer des sentiments à partir du
  3802. 2:36:34texte ? Par exemple, je lui donne par
  3803. 2:36:36exemple un texte et après il va me dire
  3804. 2:36:38par exemple dans le
  3805. 2:36:40texte le screen il est le sentiment il
  3806. 2:36:43est positif, le keyboard il est négatif
  3807. 2:36:46et le mousepad il est positif. Donc ça
  3808. 2:36:48c'est c'est la classification. c'est
  3809. 2:36:51c'est multilabel classification.
  3810. 2:36:55Alors après euh comment utiliser les
  3811. 2:36:57tokens et tout ça, nous allons voir
  3812. 2:37:00comment euh comment comment faire des
  3813. 2:37:03sentiments analysis, comment faire du
  3814. 2:37:05texte summarization à partir d'un texte,
  3815. 2:37:08comment extraire euh c'est des
  3816. 2:37:10informations euh ici par exemple, je
  3817. 2:37:13suis en train d'extraire le nom de de du
  3818. 2:37:17médecin euh plutôt le docteur
  3819. 2:37:19consultant, le le
  3820. 2:37:22le review rating, c'est-à-dire la la
  3821. 2:37:24note parce qu'en fait ça c'est on on
  3822. 2:37:27collecte de des commentaires de des
  3823. 2:37:30clients et on voudrait savoir,
  3824. 2:37:32c'est-à-dire la note qu'ils ont attribué
  3825. 2:37:34au médecin ou au service et cetera.
  3826. 2:37:37Alors tout ça c'est quelque chose que
  3827. 2:37:38qu'on peut extraire et ça c'est du texte
  3828. 2:37:42summarization. Donc je vois par exemple
  3829. 2:37:43pour le premier review, voilà les inform
  3830. 2:37:46toutes ces informations, ça je les ai
  3831. 2:37:48extraites à partir de
  3832. 2:37:51de de des modèles de
  3833. 2:37:54LLM. Donc ça c'est la la satisfaction et
  3834. 2:37:57tout ça. Et puis on va je vais terminer
  3835. 2:38:00la prochaine fois avec un modèle de
  3836. 2:38:02d'analyse de sentiments. Comme ça vous
  3837. 2:38:04allez voir comment faire une
  3838. 2:38:05classification mais en utilisant li
  3839. 2:38:08générative. Donc on va lire un dataset
  3840. 2:38:10qui contient beaucoup de de review.
  3841. 2:38:13Donc je pense qu'on va prendre un un un
  3842. 2:38:15un dataset qui contient les trucs de en
  3843. 2:38:19fait les review de Netflix. Donc il y a
  3844. 2:38:23un dataset qui est assez connu qui
  3845. 2:38:25contient beaucoup beaucoup de de data.
  3846. 2:38:28On va essayer donc d'analyser. On va
  3847. 2:38:30découper la même chose pour un exemple
  3848. 2:38:33et gold examples et les gold examples,
  3849. 2:38:36on va ici donc faire split pour
  3850. 2:38:38récupérer. Il y a une démarche à faire
  3851. 2:38:40pour pouvoir construire le prompt.
  3852. 2:38:43euh zero shot prompt f shot prompt et
  3853. 2:38:46puis surtout à la fin comment évaluer le
  3854. 2:38:48le le prompt. Et vous voyez donc pour ce
  3855. 2:38:51ce problème de
  3856. 2:38:52classification de sentiment analysis à
  3857. 2:38:56la fin avec un modèle comme GPT40 o je
  3858. 2:39:00suis à 100 %.
  3859. 2:39:04Alors quelque chose que si si vous
  3860. 2:39:06faites le même problème avec
  3861. 2:39:10avec les modèles classiques de
  3862. 2:39:12sentiment, c'est vraiment c'est c'est
  3863. 2:39:14très
  3864. 2:39:15loin. Et ça, on va tester avec zero shot
  3865. 2:39:18prompt, on va tester avec fu shot prompt
  3866. 2:39:21avec code prompt il y a pas mal de de
  3867. 2:39:24choses. Et après comment et bien sûr
  3868. 2:39:28après par la suite on va on va on va
  3869. 2:39:31regarder les agents. Alors comment créer
  3870. 2:39:33les agents ? comment la même chose. Donc
  3871. 2:39:36ça c'est c'est vraiment c'est c'est il y
  3872. 2:39:38a pas beaucoup de codes, c'est des
  3873. 2:39:40portions de code que vous pouvez
  3874. 2:39:42utiliser. Bah je j'en profite pour lui
  3875. 2:39:45demander de me répondre en arabe donc il
  3876. 2:39:46y a pas de problème. Donc vous voyez
  3877. 2:39:48donc les toutes les questions que j'ai
  3878. 2:39:50posé à l'agent tout à l'heure en
  3879. 2:39:51français, je j'aurais pu lui parler à
  3880. 2:39:54Darija. Donc je il va C'est-à-dire la
  3881. 2:39:58notion de langue ne pose plus de
  3882. 2:39:59problème parce que c'est toujours c'est
  3883. 2:40:01la sémantique qui marche. C'est pas la
  3884. 2:40:03langue. C'est pas la langue qui fait
  3885. 2:40:04parler les agents, c'est plutôt la
  3886. 2:40:07sémantique. Voilà. Donc je pense qu'on
  3887. 2:40:09va s'arrêter à ce niveau-là aujourd'hui.
  3888. 2:40:12Donc on a fait pas mal de choses. Je
  3889. 2:40:14vais quand même essayer de lui parler
  3890. 2:40:16chefou ce qui ce qu'il va me
  3891. 2:40:19dire. J'ai jamais essayé mais salam
  3892. 2:40:23alkoum. Salam
  3893. 2:40:28alkoumam. En quoi puis-je vous aider
  3894. 2:40:30aujourd'hui ?
  3895. 2:40:44CV CV la base de
  3896. 2:40:49données. Vous voyez ça
  3897. 2:40:52marche. Il est en train d'envoyer le CV
  3898. 2:40:55vers la base de données.
  3899. 2:40:59Oui, le processus d'envoi du CV vers la
  3900. 2:41:01base de données a commencé et est en
  3901. 2:41:03cours. Un peu de patience et je vous
  3902. 2:41:06tiendrai informé une fois que c'est
  3903. 2:41:07terminé.
  3904. 2:41:27fichier donc la base de données
  3905. 2:41:37je n'ai pas le droit de vous répondre
  3906. 2:41:39car
  3907. 2:41:40c'est normal parce que il faut juste
  3908. 2:41:43dire parce que les
  3909. 2:41:44les les promptes que j'ai écrit donc je
  3910. 2:41:46lui ai plein de de messages en français
  3911. 2:41:49donc je je conditionne toujours l'agent
  3912. 2:41:52mais en principe est-ce qu'on peut
  3913. 2:41:54est-ce qu'on peut essayer avec
  3914. 2:41:57je n'ai pas le droit de vous répondre
  3915. 2:41:59car aucun contexte n'est
  3916. 2:42:02fourni on va
  3917. 2:42:07essayer salam
  3918. 2:42:11alkoum je
  3919. 2:42:13que
  3920. 2:42:18je n'ai pas le droit de vous répondre
  3921. 2:42:20car aucun contexte n'est fourni.
  3922. 2:42:25Voilà.
  3923. 2:42:26Alors, il n'a pas le droit pour le mais
  3924. 2:42:28ça c'est à à
  3925. 2:42:31tester. Mais pour vous dire c'est ces
  3926. 2:42:34questions de la langue ne devrait jamais
  3927. 2:42:36poser de problème parce que c'est juste
  3928. 2:42:38question de c'est c'est des versions qui
  3929. 2:42:40arrivent qui arrivent qui arrivent mais
  3930. 2:42:41en tout cas ça devrait pas poser de
  3931. 2:42:45problème. Voilà donc je pense que
  3932. 2:42:47aujourd'hui on va s'arrêter à ce
  3933. 2:42:49niveau-là et la prochaine fois on aura
  3934. 2:42:51le l'occasion. Donc si bien sûr pour les
  3935. 2:42:54gens qui s'intéressent à cette
  3936. 2:42:56partie-là, donc je vous recommande de
  3937. 2:42:58peut-être de suivre la la suite euh des
  3938. 2:43:01des cours qui vont être faits et donc
  3939. 2:43:04euh mais bien sûr les gens qui qui n'ont
  3940. 2:43:07pas le temps et tout ça, donc vous
  3941. 2:43:08pouvez toujours suivre les
  3942. 2:43:09enregistrements seront partagés sur sur
  3943. 2:43:11Classroom et ça vous permet quand vous
  3944. 2:43:13aurez un peu plus de temps à consacrer à
  3945. 2:43:16ça. Donc je suis sûr que vous en aurez
  3946. 2:43:17besoin dans le futur.
  3947. 2:43:20Oui, inchallah. Merci beaucoup monsieur.
  3948. 2:43:22Voilà et bonne journée.
  3949. 2:43:25Merci beaucoup. Alors juste
  3950. 2:43:29juste weekend weekend
  3951. 2:43:34alors juste noublie pas weekend. Voilà,
  3952. 2:43:38vous n'oubliez pas de mettre de marquer
  3953. 2:43:40la présence dans votre
  3954. 2:43:42chat et n'oubliez pas que la semaine
  3955. 2:43:45prochaine, vous aurez vous aurez une
  3956. 2:43:47évaluation et à votre portée. Mais
  3957. 2:43:50n'oubliez pas aussi que il y a un projet
  3958. 2:43:51que je vous ai laissé dans Classroom euh
  3959. 2:43:55et ce projet là donc je vous laisserai
  3960. 2:43:57le le temps le c'est-à-dire la date dans
  3961. 2:43:59laquelle vous allez remettre remettre le
  3962. 2:44:02compte-rendu euh de ce projet-là. S'il
  3963. 2:44:05vous plaît, s'il vous plaît, monsieur.
  3964. 2:44:06Est-ce que c'est concerne le projet ?
  3965. 2:44:08Donc on va répondre directement sur le
  3966. 2:44:10notebook. Notebook. Oui, très bien. Vous
  3967. 2:44:14répondez directement sur notebook. Oui.
  3968. 2:44:17OK. Merci. Merci. Merci monsieur.
  3969. 2:44:21Merci monsieur.

About this transcript

This page contains the full transcript of Part 1- Generative AI and AI Agents by Professeur Mohamed YOUSSFI, generated from the public captions YouTube serves with the video. The transcript has 25,252 words across 3,969 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.