Part 1- Generative AI and AI Agents — Transcript
Full transcript
- 0:05Re bonjour tout le monde. Donc j'espère
- 0:07que vous allez
- 0:08bien. Alors comme prévu donc après avoir
- 0:13traité les l'essentiel concernant les
- 0:17les bases de l'intelligence
- 0:20artificielle donc je rappelle qu'on a
- 0:23fait un en fait un parcours général.
- 0:25Donc passons par le euh d'abord la
- 0:29régression puis la classification puis
- 0:32l'apprentissage non
- 0:33supervisé puis l'analyse de la
- 0:35composante principale et puis la partie
- 0:39qui concerne deeple learninguring. Donc
- 0:40c'était le en fait le la dernière partie
- 0:43qu'on avait traité.
- 0:46Et donc je pense que ça c'est les bases
- 0:48vraiment quelqu'un qui veut euh être
- 0:50bien basé sur euh euh c'est-à-dire au
- 0:53niveau de de l'intelligence
- 0:56artificielle. Donc euh voilà. Donc ça
- 0:59c'est les vraiment les bases. Il y a des
- 1:01détails bien sûr. Euh mais pour pour
- 1:03vous, je pense que ça c'est le vraiment
- 1:06moi ce qui ce que j'appelle les concepts
- 1:08fondamentaux. Bon ça c'est quelque chose
- 1:09qui ne changera jamais parce que c'est
- 1:10ce qui fait l'intelligence artificielle.
- 1:13Euh alors, sauf que les les choses ont
- 1:15beaucoup
- 1:16évolué euh notamment ces dernières
- 1:18années à travers euh ce qu'on appelle l'
- 1:21générative. Euh donc et du coup donc
- 1:24aujourd'hui si vous n'utilisez pas
- 1:25encore l' générative euh c'est quasiment
- 1:28euh c'est c'est comme si vous ne
- 1:29profitez pas de de l'avancée de la
- 1:31science dans ce domaine. Donc c'est la
- 1:34raison pour laquelle j'avais euh donc je
- 1:37vais terminer par cette partie-là. Euh
- 1:39c'est une partie qui est très
- 1:40importante, ça demande aussi du temps.
- 1:43Euh donc ça concerne l' générative. on
- 1:46va parler de beaucoup de choses et les
- 1:48ce qu'on appelle la notion
- 1:50de des architectures agentiques ou bien
- 1:53ce qu'on appelle AI
- 1:55agents euh et aussi donc de en fait des
- 1:59des des différentes solutions comme RAC,
- 2:02comme le F tuning, il y a pas il y a
- 2:04beaucoup de choses en tout cas mais bien
- 2:06sûr comme je disais donc cette partie
- 2:08làà c'est une partie que j'essaierai de
- 2:11continuer ce forme de en fait de de
- 2:14séminaire comme ça euh alors c'est c'est
- 2:18une partie donc bien sûr je vous invite
- 2:20à suivre ce qui se fait c'est mais c'est
- 2:23c'est pas une partie qui qui fait partie
- 2:26de forcément de votre de votre programme
- 2:29qui se termine donc à partir de de cette
- 2:32séance- là et donc c'est c'est voilà
- 2:36donc ça c'est c'est ce que ce que je
- 2:38vais faire donc le cours va continuer
- 2:40mais pour vous donc bien sûr la partie
- 2:42fondamentale que vous avez dans le le
- 2:44programme vous Donc vous l'a déjà
- 2:46traité et donc mais par contre je vous
- 2:49conseille vraiment c'est pour profiter
- 2:52de de l'intelligence artificielle il
- 2:55vaudrait mieux donc intégrer les les
- 2:59c'est-à-dire les possibilités qui sont
- 3:00offertes par l'IA générative.
- 3:03Alors euh d'abord euh quand en fait je
- 3:07parle de lia
- 3:08générative euh donc l'IA générative
- 3:10c'est un domaine de l'intelligence
- 3:12artificielle euh qui consiste euh en
- 3:16fait à générer des nouvelles données euh
- 3:18à partir euh bien sûr des données d'un
- 3:22ensemble de données qui ont été
- 3:23utilisées pendant l'entraînement. Donc
- 3:25l'idée c'est de créer des modèles qui
- 3:26sont capables de générer du texte,
- 3:28générer des des images, de de la
- 3:31musique, de de l'audio, de générer de du
- 3:34contenu. Donc c'est des c'est des
- 3:35modèles qui sont génératifs, qui
- 3:37génèrent des contenus. Euh mais ces
- 3:39modèles-là ont été euh entraînés sur la
- 3:42base la base de bien sûr d'un grand d'un
- 3:45large d'un large corpus de données et
- 3:49qui font que le ces modèles sont
- 3:51capables euh de recevoir en input euh du
- 3:55texte. Euh il y a des modèles, ce qu'on
- 3:57appelle les modèles multimodux,
- 4:00c'est-à-dire les LLMs multimodo euh qui
- 4:03peuvent recevoir l'input du texte et des
- 4:05images et de donner à la fin de de
- 4:08c'est-à-dire et de générer du texte,
- 4:09c'est-à-dire la description des images
- 4:11et bien sûr le texte
- 4:13classique. Alors euh les exemples du
- 4:16modèle qui génère, c'est-à-dire qui
- 4:20utilise que du texte. Donc c'est par
- 4:24exemple fait la MA 3, vous avez GPT
- 4:27fort, vous avez les anciennes versions
- 4:29généralement de GPT. Généralement au
- 4:31début ça a commencé comme ça.
- 4:33C'est-à-dire que c'est des modèles qui
- 4:34sont capables de comprendre que du
- 4:37texte. Mais après donc les les LLM
- 4:40multimod se sont développés comme GPT40
- 4:42qui est l'un des modèles les plus
- 4:44puissants aujourd'hui euh de Openni. Euh
- 4:47et aussi il y a des modèles, on va dire
- 4:50qui sont open source. C'est très
- 4:53important donc de de voir comment
- 4:55utiliser les deux comme lama par exemple
- 4:573.2. Aujourd'hui il a lama 4 donc ça ça
- 5:01va vite. Et puis il y a donc euh des
- 5:03modèles qui sont capables de générer de
- 5:06recevoir du texte et des images of input
- 5:09et puis donc il génère des images
- 5:11output. Donc c'est-à-dire les modèles
- 5:13qui génèrent des images sont des modèles
- 5:15spéciaux comme par exemple dall stable
- 5:18diffusion euh comme les gains. Donc ça
- 5:20c'est des c'est des modèles qui sont
- 5:21très connus dans le domaine de lia
- 5:23générative.
- 5:25Alors, d'abord euh donc le domaine de
- 5:28lia génératif c'est s'est développé
- 5:30historiquement, c'est-à-dire ça
- 5:32commencer euh on va dire en 2014 donc
- 5:36par la la création des premiers modèles
- 5:40génératifs. Ces modèles s'appellent
- 5:42Generative Adversation Network, c'est
- 5:44les GS. Donc c'est des modèles qui ont
- 5:47été créés au début. Et ici donc il y a
- 5:51un site qui est assez connu.
- 5:57Euh bon, il y a un site qui est assez
- 5:59connu qui s'appelle this person does not
- 6:01exist. Donc ça c'est juste ça a commencé
- 6:04comme ça euh à à générer à chaque fois
- 6:06vous actualisez vous générez des des
- 6:09images. Alors toutes les images qu'on
- 6:12génère euh à partir de là c'est des
- 6:15modèles de lien génératif qui les
- 6:16génèrent et c'est des personnes qui
- 6:18n'existent pas réellement c'est-à-dire
- 6:20c'est des c'est des personnages qui sont
- 6:21inventés par Lia. Et donc bien sûr euh
- 6:25pour pouvoir inventer euh c'est-à-dire
- 6:28des des ces personnages ou bien ces
- 6:30images par Li et bien il fallait
- 6:33utiliser un modèle donc il fallait
- 6:35utiliser un modèle qui entraînait euh
- 6:38sur la base de d'un large corpus de
- 6:41données, c'est-à-dire il y a des grandes
- 6:42quantités de de données. Donc il y a
- 6:44beaucoup de moyens de calcul notamment
- 6:46les GP qui sont utilisés pour euh
- 6:48entraîner ces modèles. Et donc ça a
- 6:51commencé comme ça. Et ce c'est-à-dire ce
- 6:54ça commence à
- 6:55devenir euh c'est-à-dire à donner des
- 6:58idées pour comme quoi euh on peut bien
- 7:00créer de li
- 7:02génér de générer des nouvelles données
- 7:06euh bien sûr notamment les
- 7:09images. Et après, il y a un point qui
- 7:12est très important dans l'état de l'art,
- 7:14c'est ce qui s'est passé en 2017.
- 7:16Alors en fait en 2017 il y avait quelque
- 7:19chose qui a été introduit par des des
- 7:22auteurs par chez Google et qui ont
- 7:25publié un article qui s'appelle
- 7:27Attention is all un need. Donc vous avez
- 7:30le lien de de cet article là. Alors,
- 7:33attention is all units. C'est c'est
- 7:35c'est un
- 7:36article euh c'est un article qui qui est
- 7:39tout simplement qui qui décrit une
- 7:42nouvelle façon une nouvelle façon de une
- 7:46nouvelle façon euh c'est-à-dire de
- 7:48d'apprendre de comprendre du texte euh
- 7:51notamment sans passer par les méthodes
- 7:53classiques utilisées auparavant euh
- 7:55notamment parce que avant dans le
- 7:57domaine de NLP euh on utilisait des
- 8:00modèles comme LSTM, comme GRU, comme les
- 8:03les réseaux de Nandon récurrent euh qui
- 8:06était capable de donner des des
- 8:08résultats. Euh et après ce ce modèle-
- 8:11là, plutôt cette cet article avait
- 8:14introduit euh un mécanisme qui s'appelle
- 8:16le mécanisme d'attention. Euh donc ce
- 8:18mécanisme d'attention euh qui est décrit
- 8:21dans cet article. Donc je vais pas
- 8:22rentrer dans les détails parce que c'est
- 8:23pas l'objectif
- 8:25aujourd'hui. Donc ce mécanisme
- 8:27d'attention, c'est-à-dire a démontré que
- 8:30rien que en utilisant ce qu'on appelle
- 8:33les self attention et multihead
- 8:36attention, donc c'est des c'est des
- 8:37c'est des mécanismes que vous voyez ici
- 8:40et qui permettent tout simplement de de
- 8:42voilà de créer des des modèles qui sont
- 8:45capables de comprendre, c'est-à-dire le
- 8:48texte de c'est-à-dire et de générer euh
- 8:50du texte. C'est donc ce qui c'est c'est
- 8:52justement ce qui a donné les LLMS,
- 8:54c'est-à-dire les larges language model
- 8:57que vous êtes en train aujourd'hui
- 8:58d'utiliser comme chat GPT et cetera.
- 9:00Donc vous voyez donc ça c'est juste pour
- 9:02vous donner un une idée sur l'état de
- 9:05l'art. Euh donc et à travers ce à
- 9:10travers cet article là, c'est-à-dire
- 9:12attention is all unit.
- 9:14Bon, l'idée de l'attention isolée,
- 9:16c'est-à-dire tout ce tout ce dont on a
- 9:18besoin finalement, c'est de c'est le
- 9:20mécanisme d'attention, c'est-à-dire
- 9:22comment prêter attention euh
- 9:25c'est-à-dire comment les mots d'une
- 9:26phrase peuvent c'est-à-dire comment
- 9:29c'est-à-dire le le mot dans une phrase
- 9:34comment déterminer l'attention,
- 9:36c'est-à-dire son attention par rapport à
- 9:38ce qui l'entour, à son contexte
- 9:39notamment dans la phrase elle-même, par
- 9:41rapport à lui-même, par rapport au
- 9:43dictionnaire. Donc il y a il y a en fait
- 9:46un mécanisme qui ce qui n'est pas
- 9:47compliqué, c'est un simple calcul
- 9:49matriciel qui se fait et qui a avec ça,
- 9:53on a créé ce qu'on appelle des modèles
- 9:54des modèles qu'on appelle les
- 9:55transformers. Donc voyz donc les
- 9:57transformers, c'est des modèles qui sont
- 9:59basés sur ce ce mécanisme d'attention et
- 10:02qui a donné une nouvelle gén une
- 10:04nouvelle génération d'algorithmes euh
- 10:06qui sont très forts dans le domaine du
- 10:08de NLP. Alors, ce qui fait que il y a il
- 10:12y a Google qui a créé qui a créé son
- 10:15propre modèle BET. Alors, Bird c'est by
- 10:18Directional Encoder Representation from
- 10:21Transformers. Donc, ça c'est le modèle
- 10:23créé par Google et qui est basé sur en
- 10:26fait les
- 10:28Transformers. Et puis il y a Openni qui
- 10:30avait créé son modèle GPT Generative
- 10:33Prined Transformers. Euh alors bien sûr
- 10:36ces modèles-là sont basés sur les
- 10:38encodeurs et les décodeurs. Donc ça
- 10:40c'est le le principe bien sûr de qui est
- 10:42utilisé dans le les Transformers. Euh
- 10:45ils ont une approche relativement
- 10:46différente. Euh donc mais euh tous les
- 10:49les ces modèles BT et GPT euh sont basés
- 10:52sur euh sont basés sur les Transformers.
- 10:56Alors bien sûr donc mais tout c'est
- 10:59c'est-à-dire Open I a profiter de de
- 11:03c'est-à-dire de cet article, on va dire
- 11:06pour aller plus vite que Google. Et donc
- 11:09euh donc le choses ont se sont beaucoup
- 11:12accélérées. D'abord en 2019, il y a les
- 11:14GAN qui qui ont amélioré un peu leur
- 11:17modèle en créant ce qu'on appelle les
- 11:18style GS et puis donc pour générer les
- 11:22images et puis surtout en 2020 en 2020
- 11:25nous avons découvert tous ensemble qu'il
- 11:28y a il y a un modèle qui s'appelle Chat
- 11:30GPT notamment avec son modèle GPT 3 qui
- 11:34est le premier LLM euh qui est développé
- 11:37par Openni et qui a cette capacité de
- 11:40comprendre des problèmes complexes et de
- 11:42donner
- 11:43euh des réponses qui sont parfois
- 11:44étonnantes et surprises et surprenantes.
- 11:48Et donc le après les choses sont euh
- 11:51c'est-à-dire les choses ont accéléré.
- 11:54Bah en 2021 dans le domaine de la
- 11:56génération des images, il y a deux
- 11:58nouveaux modèles qui ont été créés
- 11:59notamment Clip par Open Igalement par
- 12:02Openni et après euh donc ça c'est des
- 12:05modèles qui qui sont capables de de
- 12:08générer de de comprendre les images. Et
- 12:11puis donc en 2022 il y a la version 3.5
- 12:15de chat GPT qui génère le texte. a
- 12:19d'aller qui de qui génère les images et
- 12:22après par la suite 2023 2024 2025 les
- 12:26choses se sont accéléré euh parce qu'on
- 12:29après on est passé de GPT for vers
- 12:30GPT40. J'ai voilà, j'ai j'ai euh plutôt
- 12:36j'ai GPT for au mini euh ça c'est tout
- 12:39ça c'est des modèles de open euh mais en
- 12:42parallèle il y a de l'open source qui
- 12:43s'est vraiment développé euh à l'image
- 12:46de Lama Depsic GMA euh donc euh et tout
- 12:50ce qui tout ce qui va bien sûr euh chez
- 12:54Google développe ses ses
- 12:55propres ses
- 12:59propres à développer ses propres
- 13:02modèle et donc ce qui fait la liste
- 13:04c'est c'est vraiment c'est c'est
- 13:06accéléré donc pour générer pour créer
- 13:08des modèles qui sont capable de de
- 13:10générer du texte et des images et puis
- 13:13donc la même chose pour la génération
- 13:16des images comme par exemple d'aller et
- 13:17stable diffusion. L'essentiel, c'est que
- 13:20euh quasiment euh chaque chaque chaque
- 13:23mois, chaque 3 mois, on on voit de des
- 13:25nouvelles versions euh pour améliorer
- 13:27bien sûr la capacité de ce de ces
- 13:30modèles. Alors, ça c'est juste pour vous
- 13:32donner à peu près une idée une idée. Euh
- 13:35en fait euh bon, cet article là, bon
- 13:38comme je disais, donc je vais pas
- 13:39m'arrêter là-dessus parce que je pense
- 13:40que je l'avais expliqué dans une
- 13:42conférence il y a il y a 2 années comme
- 13:43ça a commencé. Euh c'est pas c'est pas
- 13:46compliqué.
- 13:47Donc le mécanisme d'attention comme je
- 13:50disais le le principe c'est quoi ? C'est
- 13:51que quand vous avez une
- 13:52phrase quelconque par exemple my cat
- 13:56cannot move the the bag because it
- 14:00is it's tired. Alors maintenant si vous
- 14:04posez la question ce hit là ce hit parce
- 14:06que dans une phrase ce hit est-ce que ça
- 14:08ça ça concerne de bag ou bien ça
- 14:09concerne mycat ? Alors ce qui fait que
- 14:14donc dans le mécanisme d'attention, il
- 14:16essaie de calculer, c'est-à-dire la
- 14:18tension qui est liée à l'ensemble des
- 14:20mots de la phrase. Et c'est grâce à
- 14:22cette valeur là
- 14:24calculée. Donc c'est avec cette phrase
- 14:26là qu'il qu'il arrive à comprendre le
- 14:28sens de bien sûr de chaque de chaque mot
- 14:30dans le contexte. Donc ça c'est l'idée
- 14:32principale. Donc ce qui fait que il y a
- 14:34quelques formules notamment qui sont
- 14:37établies dans par l'article et qui
- 14:39permettent euh c'est de simples calculs
- 14:42matriciels qui permettent de de de faire
- 14:45ce ce travail.
- 14:47Alors, ça c'est juste un petit flash
- 14:49mais bien sûr pour les gens qui veulent
- 14:51vraiment euh qui veulent travailler dans
- 14:53le domaine de lia générative pour
- 14:56proposer des n des nouveaux des
- 14:58nouvelles solutions, euh c'est très
- 15:00important de commencer par ça,
- 15:01c'est-à-dire de commencer par comprendre
- 15:03d'abord euh cet article parce que c'est
- 15:05la base de l'état de l'art et après donc
- 15:07regarder donc par la suite les choses
- 15:10qui se sont développées. Et jusqu'à
- 15:12présent bien sûr, c'est toujours ça,
- 15:14c'est le c'est l'algorithme de base qui
- 15:16est utilisé dans la majorité de des
- 15:19modèles des LLMs, c'est-à-dire les large
- 15:22language
- 15:23models. Alors ça c'est donc voilà ce qui
- 15:26s'est passé et juste
- 15:29après, il y a une discipline qui s'est
- 15:32qui s'est développée notamment,
- 15:35c'est-à-dire c'est ce qu'on appelle le
- 15:36prompt engineering, c'est-à-dire pour
- 15:39tirer profit de de l'intelligence
- 15:40artificielle. euh des modèles. Donc vous
- 15:43avez besoin de poser des questions et
- 15:46donc et pour poser ces questions à
- 15:47l'intelligence artificielle et bien vous
- 15:50aurez besoin de savoir comment
- 15:52structurer la question, quels sont les
- 15:53paramètres qui se trouvent dans c
- 15:55c'est-à-dire c ces questions et ben tout
- 15:57simplement ces questions, c'est ce qu'on
- 15:58va appeler des
- 16:00promptes. Et donc il y a une science
- 16:02donc juste il y
- 16:05a quasiment une année et demi, c'est pas
- 16:08c'est pas très loin, il y a une année et
- 16:10demi donc que la science du prompt
- 16:12engineer s'est développée et aujourd'hui
- 16:14donc il est devenu une science qui est
- 16:17enseignée dans toutes les les
- 16:19disciplines. L'idée principale, c'est
- 16:21c'est que c'est-à-dire c'est de
- 16:23maîtriser
- 16:24comment bien sûr rédiger, comment
- 16:28concevoir, comment concevoir, évaluer et
- 16:32déployer les promptes. Donc ce qui fait
- 16:34que dans le prompt engineering, vous
- 16:36avez deux choses. Donc vous avez d'abord
- 16:37la notion de prompt. Alors c'est quoi un
- 16:39prompt ? Un prome, c'est un ensemble
- 16:41d'instruction spécifique qu'on va
- 16:43envoyer vers un LM avec, c'est-à-dire un
- 16:47large language model pour accomplir une
- 16:49tâche. Donc c'est-à-dire c'est la
- 16:50question que vous envoyez vers le LLM.
- 16:53Alors, sauf que il faut savoir que la
- 16:55question que vous envoyez vers quand
- 16:56vous tapez parfois sur une interface
- 16:59votre question, alors généralement la
- 17:01question qu'on va euh envoyer au LM sûr
- 17:04il contient votre question mais
- 17:05également il contient d'autres d'autres
- 17:08informations qui permettent d'ajouter
- 17:10euh c'est-à-dire le contexte de
- 17:12l'application euh c'est donc il y a pas
- 17:15mal de choses qui sont dans le prom donc
- 17:16c'est ce que je vais vous décrire tout à
- 17:18l'heure. Donc et puis il y a le terme
- 17:21engineering. Donc engineering, c'est
- 17:23quoi ? C'est un
- 17:24processus qui consiste à concevoir les
- 17:27promptes, c'est-à-dire comment concevoir
- 17:29les bons promptes, évaluer ces promptes
- 17:31parce que l'évaluation c'est quelque
- 17:33chose de très important. Je ne peux pas
- 17:35euh en entreprise par exemple euh on
- 17:38peut pas faire confiance, on peut pas
- 17:40déployer un prompte, on peut pas faire
- 17:42confiance à un prompt, c'est on n'est
- 17:44pas sûr que il est évalué et le
- 17:46processus d'évaluation donc il y a des
- 17:48métriques exactement comme on a fait
- 17:50dans le la classification, dans le la
- 17:53régression et dans le les tout ce qu'on
- 17:55a fait, il y a des métriques qui sont
- 17:57utilisées donc pour évaluer bien sûr la
- 18:01c'est-à-dire la la capacité ou bien les
- 18:03performances d'un prompt et puis donc
- 18:06déployer. Donc quand on évalue le
- 18:08prompt, ça veut dire qu'on peut lui
- 18:09faire confiance. Après déployer, ça veut
- 18:11dire il faut développer souvent des
- 18:12applications web ou bien mobiles dans
- 18:14lesquelles on va essayer donc de de
- 18:16déployer ce prompt et comme ça les
- 18:18utilisateurs de cette application, ils
- 18:20peont poser des questions en utilisant
- 18:21ce prompt. Donc c'est-à-dire le prompt
- 18:23réellement c'est ce qui est déployé dans
- 18:25le l'application.
- 18:28Alors et du coup donc le le prompt on on
- 18:30va dire euh euh dans le les promptes euh
- 18:35la la structure d'abord d'un prom si
- 18:36vous
- 18:37voulez un prompt c'est à peu près et il
- 18:43contient donc on peut dire que un prompt
- 18:46contient euh trois
- 18:49parties. Donc la première partie c'est
- 18:51ce qu'on appelle système message. Alors,
- 18:54système message donc c'est la partie
- 18:56dans laquelle on va décrire la la
- 18:59problématique. C'est-à-dire si vous
- 19:01voulez poser une question à
- 19:03LM à une intelligence artificielle, il
- 19:06faut d'abord bien expliquer votre
- 19:08contexte, la problématique. Donc et du
- 19:11que donc pour pouvoir donc il faudrait
- 19:14donner tous les petits détails euh pour
- 19:17que le le pour que le LLM puisse
- 19:20comprendre c'est quoi la problématique.
- 19:23Alors par exemple dans système message,
- 19:25si vous faites par exemple, vous êtes
- 19:27dans une problématique de l'analyse des
- 19:29sentiments, par exemple euh par exemple
- 19:32vous allez dire euh vous dans le dans
- 19:35système, on va lui écrire vous êtes un
- 19:37spécialiste, vous êtes par exemple euh
- 19:41un assistant dans dans de qui travaille
- 19:44dans une clinique médicale. Donc
- 19:45c'est-à-dire il faut d'abord situier
- 19:47dans le contexte. euh c'est-à-dire c'est
- 19:50un spécialiste, c'est un médecin ou bien
- 19:52tu es euh par exemple euh un agent dans
- 19:55dans une clinique
- 19:57médicale et euh donc euh vous lui dites
- 20:00par exemple qu'on reçoit euh un ensemble
- 20:03d'email à partir des clients et dans ces
- 20:05emails, on trouve donc des c'est-à-dire
- 20:07des des reviews, c'est-à-dire des
- 20:09parfois des réclamations. et ta tâche
- 20:12par exemple, c'est de à partir de ces
- 20:15ces c'est-à-dire ces ces commentaires,
- 20:18on voudrait savoir si le commentaire par
- 20:20exemple est-ce qu'il est positif, est-ce
- 20:22qu'il est
- 20:23négatif, est-ce que peut-être quels sont
- 20:25les services qui sont concernés. euh on
- 20:28peut par exemple lui demander de de de
- 20:30donner pas mal de c'est-à-dire
- 20:31d'extraire à partir de euh de d'un
- 20:34review par exemple ou bien d'un
- 20:35commentaire toutes ces
- 20:37informations. Alors ce qui fait que ici
- 20:40euh la façon avec laquelle ça c'est très
- 20:42important parce que la façon avec le
- 20:44prompt d'abord c'est ça, c'est système
- 20:46message. Donc il faut bien écrire, il
- 20:48faut bien euh c'est-à-dire concevoir un
- 20:50bon système message qui décrit bien le
- 20:53problème. B on le dit souvent, c'est que
- 20:55quand on pose on pose bien le problème,
- 20:59c'est déjà la moitié de la solution.
- 21:00Alors, vous savez que vous êtes des
- 21:01chercheurs et c'est que la première des
- 21:03choses généralement, c'est poser la
- 21:05problématique. Et si vous savez bien
- 21:07poser le problème souvent, c'est que
- 21:09vous avez déjà la moitié de la moitié de
- 21:11la solution et donc c'est exactement ça.
- 21:14Donc le système message donc c'est c'est
- 21:17grâce à ce système message que l'IA peut
- 21:20vous donner une réponse pertinente ou
- 21:21pas.
- 21:23Donc la deuxème partie euh donc la
- 21:25deuxième partie de euh du prompt
- 21:28contient ce qu'on appelle les fus shot
- 21:30prompt ou bien les fus shot examples.
- 21:33Alors en fait les fus shot c'est quoi ?
- 21:36Bah c'est c'est tout simplement c'est un
- 21:37ensemble un ensemble d'exemples avec
- 21:40réponse. Et il se trouve que parfois
- 21:43généralement l'utilisateur l'utilisateur
- 21:45quand il pose une question il va écrire
- 21:48il va il va spécifier ce qu'on appelle
- 21:50user user message. Donc user message
- 21:54c'est la dernière partie du prompt. Donc
- 21:56user message c'est ce que vous allez
- 21:58saisir par exemple dans une interface.
- 22:00Par exemple, dans le l'interface de chat
- 22:02GPT, vous allez saisir un user
- 22:04message et normalement avec ce user
- 22:07message et système
- 22:10message et ben normalement Lia, il peut
- 22:12vous donner une réponse. Pourquoi ?
- 22:14Parce que user message c'est votre
- 22:16question. système message lui il décrit
- 22:18donc le la problématique le contexte et
- 22:20cetera et normalement l'IA il est
- 22:22capable de donner une bonne réponse.
- 22:24Alors sauf que parfois pour pour
- 22:27permettre à Lia de vous donner une
- 22:29réponse un peu plus précise dans le
- 22:32prompt on va ajouter quelques exemples
- 22:34avec réponse. Et donc ça c'est ce qu'on
- 22:36appelle les future examples. Donc on
- 22:38trouve par exemple ici euh un user
- 22:40message, c'estàdire une question.
- 22:43Voilà la réponse. C'est-à-dire moi je
- 22:45c'est comme si votre dataset si vous
- 22:47voulez parce que vous avez un petit
- 22:48dataset euh sauf sauf que vous n'avez
- 22:50pas besoin des milliers de de données.
- 22:53Vous dans votre dataset vous avez par
- 22:54exemple voilà la question et voilà la
- 22:57réponse. C'est-à-dire c'est des réponses
- 22:59connues. Voilà euh pour cette question
- 23:01voilà la réponse et après je lui pose la
- 23:03question. Donc c'est à peu près les les
- 23:05l'idée principale, c'est ça, c'est que
- 23:08euh sachant ce système message, sachant
- 23:11que pour cette question, voilà la bonne
- 23:13réponse, pour cette question, voilà la
- 23:15réponse, la bonne réponse. Alors
- 23:16maintenant, réponds-moi à cette
- 23:18question. Et tout ça et ben tout ça,
- 23:21c'est ce qu'on a c'est le prompte. Alors
- 23:23donc euh on peut dire que euh donc pour
- 23:28définir les différents types de prompt
- 23:30euh donc il existe différents types de
- 23:32prompt donc déjà pour les classifier en
- 23:35terme de structure donc ici vous avez
- 23:38deux types. Vous avez soit zero shot
- 23:41prompt ou bien few shot prompt. Donc ça
- 23:44c'est des termes qui sont utilisés. Donc
- 23:46le zero shot prompt c'est quoi ? Bah,
- 23:48c'est un prom dans lequel on trouve
- 23:50system message et user message. Donc,
- 23:55c'est-à-dire vous avez que système
- 23:56message et user message. Bon,
- 23:58généralement dans la majorité des cas
- 24:00avec la majorité des cas avec system et
- 24:03user message généralement c'est
- 24:05suffisant pour avoir une bonne réponse
- 24:07de la part d'un LL.
- 24:10Et donc ça c'est et si vous avez que
- 24:12système message et user messages et que
- 24:14vous n'avez pas vous mettez pas le fus
- 24:17shot examples parce que vous n'êtes pas
- 24:19obligé de les mettre. Si vous mettez pas
- 24:20les fus shot examples alors dans ce
- 24:22cas-là ce prompt on l'appelle zero shot
- 24:24prompt, c'est-à-dire c'est un prompt
- 24:26dans lequel il n'y a pas de d'exemple
- 24:27avec
- 24:28réponse. Et puis l'autre c'est le fus
- 24:31shot prompt.
- 24:33Alors en fait le fichot prom c'est un
- 24:34prom justement complet dans lequel on
- 24:38trouve on trouve donc système message on
- 24:41trouve les fus shot examples, quelques
- 24:43exemples avec réponse et puis on trouve
- 24:46le user message. Alors ça c'est en terme
- 24:49de structure. Donc ça c'est le il y a
- 24:51deux types de prompt et puis sans
- 24:53oublier que dans le dans un prompt il y
- 24:56a d'abord la structure c'est-à-dire ça
- 24:58et puis il y a les paramètres.
- 25:01C'est-à-dire quand vous envoyez un
- 25:02prompt ou un Llm comme par exemple GPT4
- 25:07O par exemple et bien donc votre prompt
- 25:11contient bien sûr ces informations mais
- 25:13également il y a un ensemble de
- 25:15paramètres donc il y a il y a un
- 25:17ensemble de paramètres qui sont
- 25:18importants ici. Donc je je vois un peu
- 25:20le les paramètres ici. Alors parmi les
- 25:24paramètres donc vous avez max plutôt
- 25:26vous avez la
- 25:27température. C'est un paramètre qui est
- 25:29très important. Donc c'est un paramètre
- 25:32dont la valeur peut varier entre 0 et
- 25:341. Alors généralement euh si vous vous
- 25:38cherchez une réponse
- 25:40précise, généralement on va utiliser une
- 25:42température une température qui est
- 25:44égale à zéro ou bien proche de zéro. Par
- 25:46exemple, si vous faites vous avez une
- 25:48problématique d'un sentiment de
- 25:50l'analyse du sentiment, c'est que quand
- 25:52je pose la question à
- 25:56lléponse que j'attends ? soit positif
- 25:58soit négatif. C'est-à-dire je il doit
- 26:00être précis soit positif soit négatif.
- 26:03Alors ici donc la réponse que je cherche
- 26:05c'est une réponse qui est factuelle
- 26:07précise. Alors, c'est la raison pour
- 26:09laquelle dans ce genre de problème, on
- 26:11va utiliser la température égale à zéro.
- 26:13Donc, si vous cherchez une un calcul ou
- 26:15bien un si vous faites la
- 26:17classification, c'est-à-dire d'une
- 26:19manière générale, vous utilisez la
- 26:21température égale à é.
- 26:23Mais par contre, si si vous voulez euh
- 26:25que euh généralement quand vous utilisez
- 26:28la température égale à zéro,
- 26:30c'est-à-dire si vous avez une question
- 26:33que vous envoyez à
- 26:39Llure euh la température égale à
- 26:44é Llm des centaines de fois, il va vous
- 26:47donner la même réponse parce que de
- 26:50toute façon avec le ce prompt
- 26:53avec ce ce prompt et pour le LLM avec la
- 26:56température zéro. Donc il va vous
- 26:57générer toujours la la même la même
- 27:00réponse. Mais par contre si si la
- 27:02température elle est proche de
- 27:051 et bien la même question si vous la
- 27:07posez au Ll, il vous donne des réponses
- 27:09différentes. Donc c'est-à-dire que si la
- 27:11température est proche de 1, elle vous
- 27:14êtes en train de demander au LM d'être
- 27:17imaginatif et parfois on en a besoin.
- 27:19par exemple et des problématiques dans
- 27:21laquelle je demande par exemple au Ll de
- 27:26me donner de me générer des idées et je
- 27:29voudrais que à chaque fois que je lui
- 27:30pose la question, je voudrais qu'il me
- 27:32me génère une idée qui est différente.
- 27:35Donc c'est-à-dire par exemple, vous
- 27:36voulez générer une histoire ou bien vous
- 27:38voulez générer des choses. Donc ce qui
- 27:40fait à chaque fois que vous posez le la
- 27:43le le prompt, vous voulez qu'il vous
- 27:45génère un contenu qui est différent.
- 27:48Alors, dans ce cas-là, on a intérêt à
- 27:50utiliser une température qui est qui est
- 27:52proche de qui est proche de de zé plutôt
- 27:55de 1.
- 27:57Voilà. Alors, il y a d'autres paramètres
- 27:59euh parmi ces paramètres, il y a max
- 28:01tokens. Alors, la notion de tokens,
- 28:03c'est très important dans le domaine de
- 28:06NLP.
- 28:08Alors, il faut juste savoir que d'une
- 28:09manière générale, c'est que quand vous
- 28:12avez un texte, généralement quand vous
- 28:16vous envoyez un texte vers un LM,
- 28:19c'est-à-dire d'une manière générale, ben
- 28:21la première des choses qui se fait,
- 28:22c'est ce qu'on appelle la tokenisation,
- 28:24c'est-à-dire il va décomposer votre
- 28:25texte en un ensemble de tokens. Alors,
- 28:28par exemple, si vous cherchez euh pour
- 28:30le par exemple le modèle de OpenI, vous
- 28:33avez ici un tokenizer. Vous vous pouvez
- 28:35voir vous-même. Alors ici, donc si vous
- 28:37prenez
- 28:38euh ce ce texte là, par exemple, je vais
- 28:42zoomer un
- 28:50peu. Par exemple, je suis en train de
- 28:54vous
- 28:55expliquer. Voilà. Donc ça c'est un
- 28:58texte. Alors et bien ce texte là pour
- 29:00opener I avant qu'il soit donné à ben il
- 29:03va il va être divisé en tokens. Alors
- 29:05vous voyez donc ici vous voyez les
- 29:06tokens je c'est un token. Bon ça c'est
- 29:09vous voyez la cette couleur suit
- 29:12c'est-à-dire même avec compresse son
- 29:14espace jusque là jusque là c'est un
- 29:17token. En un cette partie de là c'est un
- 29:20token. Voyez entre c'est un token A N.
- 29:24C'est un token euh de vous expliquer.
- 29:28Alors ce qui fait que les généralement
- 29:30tout tous les les modèles de lia
- 29:33générative utilisent un modèle de de
- 29:35toconisation et c'est c'est cette façon
- 29:38de il c'est-à-dire chaque chaque LLM
- 29:41choisit sa propre façon de de créer les
- 29:43tokens. Alors généralement souvent euh
- 29:46vous pouvez bon bon dans la littérature
- 29:48il y a plusieurs techniques qui sont
- 29:49utilisées pour ça mais les les lems
- 29:52parfois a et les autres ils ont leur
- 29:55secret souvent qui qui fait que c'est ce
- 29:58qui fait la différence parfois entre des
- 30:00des modèles et d'autres et justement la
- 30:02manière de de de générer ces tokens euh
- 30:06donc ça
- 30:07peut il compte les espaces pour le
- 30:10nombre de caractères.
- 30:12Oui, bien sûr. C'est-à-dire parce que un
- 30:14espace lui-même c'est un c'est un c'est
- 30:16un
- 30:17caractère. Donc c'est-à-dire ce texte là
- 30:19par
- 30:20exemple ce token, il contient l'espace y
- 30:24compris l'espace.
- 30:29Alors ça c'est le c'est en fait c'est
- 30:31comme ça que ça ça se passe. Donc et du
- 30:33coup euh donc quand une A
- 30:37générative un Llm quand il génère du
- 30:40contenu, ben il génère du contenu en
- 30:43utilisant parce que il a un
- 30:45dictionnaire, c'est comme si il a une
- 30:47bibliothèque de
- 30:48tokens. C'est les tokens.
- 30:52Donc c'est-à-dire que tout lui il il
- 30:54bâtit tout son modèle sur un un
- 30:57dictionnaire qui contient des des
- 30:59tokens. Et donc quand il génère ben
- 31:02quand il vous donne la
- 31:04réponse, bah il vous génère du texte
- 31:07mais en utilisant ces tokens avec les
- 31:09tokens qu'il génère des contenus. Et
- 31:12donc chaque token correspond à un nombre
- 31:14euh donc pour lui. Donc il dit que c'est
- 31:16comme ça qu'il peut euh bien sûr générer
- 31:19des contenus. Mais il se trouve que
- 31:21généralement, c'est-à-dire vous pouvez
- 31:24dans un dans un prompt, vous pouvez
- 31:25limiter le maximum de tokens. Donc
- 31:27c'est-à-dire ici par exemple max Windows
- 31:31max tokens= 700. Ça veut dire que ça
- 31:33veut dire quoi ? Max max tokens = 700.
- 31:36Ça veut dire que si vous vous prenez la
- 31:39question, la question et la réponse,
- 31:42vous prenez votre question et la réponse
- 31:45et vous comptez le nombre de tokens qui
- 31:46existe dans la question et la réponse,
- 31:48et ben ça ça va ça doit pas dépasser le
- 31:51max. Donc c'est-à-dire que
- 31:53parfois parfois c'est-à-dire il faut il
- 31:57faut
- 31:58limiter le maximum de tokens. Alors, il
- 32:01faut limiter tout simplement parce que
- 32:03il faut savoir que pour les les modèles
- 32:04qui sont
- 32:05payants, c'est que la facturation se
- 32:08fait par nombre de tokens. Alors, si
- 32:10vous regardez par exemple les modèles de
- 32:13Openni, vous trouverez pour chaque
- 32:14million de tokens, ça vous vaut 0
- 32:18quelque chose dollars et cetera. Donc,
- 32:20c'est des 0
- 32:21vir euh dollars pour les millions de
- 32:24tokens. Donc ce qui fait que souvent
- 32:27votre application a besoin de de
- 32:29maîtriser aussi donc le le nombre de
- 32:31tokens euh qui sont utilisé pour que
- 32:34c'est-à-dire que on doit le maximum de
- 32:39tokens qu'on doit euh utiliser donc pour
- 32:41générer les réponses et ça permet de
- 32:43limiter donc le bien sûr le c'est-à-dire
- 32:47le d'être un peu plus précis parfois par
- 32:49exemple si si vous vous
- 32:51savez que la réponse que vous cherchez
- 32:54soit
- 32:55positif ou bien négatif. Alors, ça veut
- 32:57dire que ici euh voyez donc vous n'avez
- 33:00pas forcément besoin de beaucoup de
- 33:01tokens. Donc c'est c'est c'est si avec
- 33:04peu de tokens, on peut générer la la
- 33:09réponse. Alors donc il y a ce max tokens
- 33:12mais il faut savoir également une chose
- 33:14qui est très très importante, c'est que
- 33:16les ellms, c'est-à-dire le dans le le
- 33:20l'article attention is all unit,
- 33:22c'est-à-dire les les
- 33:25transformers et ils ont ils ont une
- 33:27caractéristique, c'est que il ils limite
- 33:30ce qu'on appelle le contexte Windows
- 33:32parce que ces modèles utilisent des
- 33:33matrices pour faire pour faire ses
- 33:35calculs et les matrices qu'ils
- 33:37utilisent, ils ont une une une taille
- 33:40fixe et cette taille fixe là donc il
- 33:43détermine ce qu'on appelle le contexte
- 33:45Windows. Alors par exemple si vous
- 33:47cherchez si vous cherchez par exemple
- 33:49GPT 3.5 son contexte window égal c'est
- 33:554096. Ça veut dire quoi contexte window
- 33:57? Ça veut dire que ce modèle là euh il
- 34:00ne peut pas prendre un texte qui dépasse
- 34:024096 tokens. Ça c'est le nombre de
- 34:05tokens. Donc ça c'est le maximum de
- 34:07tokens que vous pouvez que vous pouvez
- 34:10envoyer vers un LLM. C'est justement
- 34:13c'est c'est ce qu'on appelle le contexte
- 34:14Window. GPT for par exemple c'est
- 34:17128000 mixtral 128000. Donc la majorité
- 34:21aujourd'hui de c'est-à-dire des des Llms
- 34:24qui sont relativement plus grands donc
- 34:26sont autour de 128000. Il y en a
- 34:28d'autres qui sont plus que ça. Donc
- 34:30c'estàdire ce contexte window ça
- 34:33constitue d'ailleurs une limite de LLM.
- 34:36Donc c'est c'est donc souvent les les
- 34:39les pour créer des modèles qui sont plus
- 34:42puissants parfois il faut il faut
- 34:45réentraîner le le modèle sur la base de
- 34:48c'est-à-dire de d'un nouveau contexte
- 34:50Windows qui est plus
- 34:52grand. Et donc ce qui fait vous aurez
- 34:55toujours vous aurez toujours besoin de
- 34:57de connaître ça, c'est-à-dire quand vous
- 34:59utilisez un LLM. Donc, il faut il faut
- 35:02savoir euh que d'abord ce qu'il y a un
- 35:05contexte window, c'est-à-dire il y a une
- 35:06limite de tokens à ne pas
- 35:09dépasser. Et la deuxième des choses,
- 35:11c'est qu'il faut savoir que en fait un
- 35:14un LM il est
- 35:16stateless. Alors, ça veut dire quoi
- 35:18stateless ? Stateless, ça veut dire il
- 35:20n'a pas de mémoire.
- 35:22Ça veut dire que tout simplement si vous
- 35:23prenez un
- 35:25LLM, donc un LLM
- 35:29quelconque, alors vous lui envoyez euh
- 35:33une
- 35:33question 1, il vous donne la
- 35:37réponse. La réponse
- 35:401. OK.
- 35:43Alors et si vous lui posez une autre
- 35:49question, c'est-à-dire quand il vous
- 35:51donne quand il vous donne la réponse, il
- 35:54se rappelle plus il il va plus se
- 35:56rappeler de la question que vous lui
- 35:57avez déjà posée. C'est-à-dire il n'a pas
- 35:59de mémoire. C'est-à-dire si vous lui
- 36:00posez la question, il vous donne la
- 36:02réponse. Et si vous lui vous lui dites
- 36:04par exemple, "Est-ce que tu peux me dire
- 36:05ce que tu peux me par exemple me est-ce
- 36:09que tu te rappelles de la question que
- 36:10je t'ai posé ?" Il va te dire non.
- 36:12C'est-à-dire le LLM, il est stateless,
- 36:14il n'a pas de mémoire. Ça veut dire si
- 36:15tu lui poses la deuxème question, une
- 36:18deuxème question, et bien c'est dans
- 36:20cette question 2 euh ben tout simplement
- 36:23euh c'est une nouvelle question,
- 36:25c'est-à-dire pour lui c'est une nouvelle
- 36:27c'est une nouvelle euh un nouveau
- 36:29prompte. Donc ce qui fait euh donc euh
- 36:34donc ce n'est pas le qui garde la
- 36:36conversation.
- 36:38Donc ce qui fait que euh si c'est
- 36:40l'agent, c'est-à-dire c'est
- 36:41l'application, donc tout à l'heure on va
- 36:43parler de la notion d'agent, c'est
- 36:45l'application qui envoie le le prompt si
- 36:49l'application qui envoie le prompt euh
- 36:51vers le LLM, c'est elle qui doit définir
- 36:53ce qu'on appelle une mémoire. C'est elle
- 36:55qui doit avoir une mémoire dans laquelle
- 36:58on va stocker la conversation.
- 37:00C'est-à-dire quoi ? C'est-à-dire
- 37:02que euh quand vous travaillez à sur par
- 37:06exemple l'interface de chat
- 37:09GPT euh et bien quand vous allez ouvrir
- 37:13votre interface, vous avez le le LLM.
- 37:18Alors, si vous posez la première
- 37:20question, la première question 1,
- 37:23question 1, elle vous donne la réponse
- 37:241.
- 37:28Alors si vous voulez qu'il comprennent
- 37:31le contexte quand vous allez poser la
- 37:34question 2, ben dans la deuxième
- 37:36question que vous allez
- 37:37poser alors vous allez envoyer dans dans
- 37:39le prank vous allez envoyer la question
- 37:431 la réponse 1 question
- 37:472 c'estàd à chaque fois il faut lui
- 37:49envoyer la conversation donc quand vous
- 37:52lui posez vous lui dites par exemple
- 37:54pour cette question là voilà la réponse.
- 37:58réponds-moi à cette question, il va vous
- 38:00répondre. La prochaine fois, vous allez
- 38:02encore lui dire euh voilà, sachant que
- 38:05la question 1, voilà la réponse que tu
- 38:07m'as donné. Pour la question 2, voilà la
- 38:09réponse que tu m'as donné, réponds-moi à
- 38:11la question numéro 3. Donc ça veut dire
- 38:14que finalement euh dans les interfaces
- 38:17des des applications que vous utilisez,
- 38:19ben ils utilisent euh une sorte de
- 38:22mémoire dans laquelle ils doivent
- 38:24mémoriser la conversation. Et cette
- 38:26conversation doit être envoyée vers le
- 38:28LLM comme ça il peut comprendre
- 38:31réellement le contexte de votre
- 38:33question. Et ça c'est très important euh
- 38:36parce qu'il y en a beaucoup qui croient
- 38:37que les LLMs ont une mémoire. Donc la
- 38:41les lim ils sont
- 38:43stateless et donc c'est les agences et
- 38:45les applications euh qui doivent définir
- 38:48une mémoire dans laquelle ils vont
- 38:51garder structurer le la conversation et
- 38:55comme ça à chaque fois qu'on pose la
- 38:56question au lemm on lui envoie donc
- 38:58notre question mais avec la conversation
- 39:00passée. C'est comme ça qu'il peut
- 39:02comprendre. Et donc le la question qui
- 39:06se pose après. Alors maintenant comment
- 39:08structurer la mémoire ? Donc c'est c'est
- 39:10donc ça c'est le concept de ce qu'on
- 39:12appelle les agents. Et pour définir la
- 39:14mémoire pour un agent donc nous allons
- 39:17voir qu'il existe plusieurs types de de
- 39:19mémoire. Il y a ce qu'on appelle des
- 39:23euh des des mémoires de type terme,
- 39:27c'est-à-dire à court terme. Euh
- 39:28généralement les mémoires à court terme,
- 39:30c'est des context memory. Context
- 39:32memory, c'est ça, c'est ce que je viens
- 39:33de vous dire. C'est-à-dire vous posez au
- 39:35départ au début vous avez system message
- 39:381. Pour la deuxième question que vous
- 39:40allez poser c'est système message
- 39:42question 1 réponse 1. Pour la troisème
- 39:45question que vous allez lui poser, ça va
- 39:47être système message 1, réponse 1,
- 39:49question 2, réponse 2, question. Donc ça
- 39:52veut dire que ça euh ce que vous voyez
- 39:54là, c'est cette questionréponse, c'est
- 39:57les fiches dont je vous ai parlé. Euh
- 40:00c'est ça le c'est ça la contexte mémory,
- 40:03c'est-à-dire c'est le la mémoire du
- 40:04contexte généralement dans laquelle on
- 40:06garde souvent la conversation.
- 40:09Mais après le problème c'est que plus la
- 40:12conversation se se c'est-à-dire se
- 40:15devient très longue et et du coup donc
- 40:18le vous allez avoir des plombes qui sont
- 40:21très grands et quand vous avez des
- 40:23plomes qui sont très grands vous risquez
- 40:25de dépasser euh c'est-à-dire le contexte
- 40:28window et en même temps plus vous avez
- 40:30des des promes qui sont très grands le
- 40:33parfois euh c'est très difficile de de
- 40:36prendre en considération
- 40:38tout ce qui s'est passé dans la
- 40:40conversation. Alors, c'est la raison
- 40:41pour laquelle parfois on a besoin de
- 40:44structurer la mémoire, c'est-à-dire au
- 40:46lieu de d'avoir une simple mémoire
- 40:48conversationnelle. Euh donc il y a des
- 40:50modèles aujourd'hui. Donc il y a pas mal
- 40:52d'articles qui qui sont qui qui se
- 40:54créent dans ce domaine. C'est-à-dire
- 40:56rien que dans la mémoire. Par exemple,
- 40:58il y a des modèles euh euh summarized
- 41:02memory, c'est-à-dire c'est des c'est des
- 41:04modèles qui permettent euh avant
- 41:06d'envoyer la conversation vers le LLM,
- 41:09on va passer via un modèle qui qui
- 41:11permet de créer un résumé. Donc c'est
- 41:13comme si par exemple dans la question
- 41:15que vous posez, vous lui posez la
- 41:17question mais en envoyant le résumé à
- 41:19chaque fois de la conversation.
- 41:20C'est-à-dire l'agent il va pas retenir
- 41:22toutes les les questions réponses mais
- 41:24il va retenir que le en fait une
- 41:27synthèse ou bien euh un résumé de
- 41:29c'est-à-dire de de de la conversation.
- 41:32Et après, il y a également sémanticque
- 41:34memory. C'est c'est des mémoires qui
- 41:36permettent de garder la sémantique,
- 41:37c'est-à-dire le sens. Euh donc on va
- 41:39regarder, on va voir euh il y a des
- 41:42situations. Alors généralement euh les
- 41:44c'est c'est summariz memory c'est des
- 41:46c'est des mémoire de type mid terme,
- 41:49c'est-à-dire c'est à moyen terme. Et
- 41:51après, vous avez des mémoires à long
- 41:52terme souvent qui sont euh enregistrées
- 41:55dans des bases de données, dans des
- 41:56fichiers et donc on trouve semantic
- 42:00memory, persistance memory et cetera.
- 42:01Donc vous voyez donc ici il existe il y
- 42:04a de la recherche qui se fait parce que
- 42:06c'est un domaine qui est très nouveau.
- 42:09Donc il y a il y a pas mal de d'articles
- 42:12qui sont créés et qui permettent de
- 42:15proposer donc des façons de d'améliorer
- 42:17la mémoire d'un agent. Donc tout ça on
- 42:19va parler. Est-ce que c'est clair
- 42:23? OK.
- 42:25OK.
- 42:27Alors donc oui, c'est Alors donc j'ai
- 42:30parlé de max tokens euh mais il y a
- 42:32d'autres paramètres parmi les ces
- 42:34paramètres, il y a top penalty penality,
- 42:37il y
- 42:38a frequency penality. Alors c'est des
- 42:44paramètres plutôt top pénalité, c'est
- 42:47quoi ? c'est que plus vous
- 42:51avez, c'est-à-dire si vous avez un un
- 42:54top pénalité qui est plus
- 42:58grand et c'est-à-dire si vous avez top P
- 43:02qui qui est plus grand, euh il y a plus
- 43:05de tokens qui sont utilisés pour générer
- 43:07la la réponse. Bon, si vous voulez, tout
- 43:10à l'heure, je disais que en fait le
- 43:12c'est-à-dire le LLM, il dispose des
- 43:15tokens, c'est-à-dire c'est des millions
- 43:17de tokens qui c'est pour lui, il génère
- 43:20les réponses avec les tokens. Alors
- 43:22maintenant si ce ce top euh est plus
- 43:26grand et ben c'est comme si vous lui
- 43:28dites tu utilises plus de token pour
- 43:29générer la réponse. Alors c'est top il
- 43:33est petit c'est comme si vous lui
- 43:34limitez l'espace vous lui dites ne
- 43:36dépasse pas par exemple un un maximum de
- 43:39tokens pour générer la la réponse. Vous
- 43:41voyez ? Donc les tokens, il va les
- 43:43combiner euh c'est avec une combinaison
- 43:45de tokens qu'il peut générer la réponse.
- 43:48Et puis l'autre paramètre c'est euh
- 43:51c'est frequency pénality. Euh c'est
- 43:56c'est pour on va dire c'est pour
- 43:58pénaliser le la répétition des tokens.
- 44:01Donc c'est-à-dire si vous avez une
- 44:02valeur qui est plus
- 44:04grande, vous aurez euh moins de chance
- 44:07que les tokens soient répétés.
- 44:10C'est-à-dire si vous augmentez cette
- 44:12cette valeur là, c'est comme si vous lui
- 44:14dites quand il génère la réponse, essaie
- 44:16de ne pas utiliser les mêmes tokens.
- 44:19C'est-à-dire à chaque fois chaque fois
- 44:20que tu génères du du texte, utilise des
- 44:22tokens qui sont différents. Bon, ça
- 44:25c'est des techniques qui sont euh
- 44:27parfois utiles. Dans la majorité des
- 44:29cas, c'est vraiment c'est les choses
- 44:30auxquelles on fait pas vraiment
- 44:32attention, prête pas attention. Mais
- 44:34dans des des cas dans des cas précis,
- 44:37euh parfois, on a besoin de de changer
- 44:39ces paramètres. euh pour euh pour avoir
- 44:41des réponses qui sont parfois plus
- 44:43pertinentes ou bien des réponses qui
- 44:45sont
- 44:51factuelles. Voilà. Alors ça c'est une
- 44:53idée sur le prompt engineering. Alors
- 44:55euh donc si vous voulez dans le dans la
- 44:59structure donc se souvent les LLM c'est
- 45:02des c'est des modèles de l'intelligence
- 45:03artificielle.
- 45:05Donc un LM, c'est un modèle de
- 45:08l'intelligence artificielle qui utilise
- 45:09les réseaux de neuron parce qu'en fait
- 45:11les transformers généralement sont c'est
- 45:14des calculs matriciels et vous savez
- 45:15tout ce qui est calcul matriciel
- 45:17généralement il il est basé sur le les
- 45:20réseaux
- 45:21neurones et donc
- 45:25euh pour vous êtes euh vous avez une
- 45:30application alors l'application pour
- 45:32qu'il communique avec le LLM
- 45:34Et généralement les applications, on
- 45:37communique avec les LLM via ce qu'on
- 45:38appelle les API. Enfin, c'est c'est des
- 45:41c'est des des API qui permettent,
- 45:44c'est-à-dire c'est des applications euh
- 45:46c'est des web services RF qui sont
- 45:49développés par ceux qui qui déploient
- 45:51les LLEMS euh qui reçoit des
- 45:54requêtes. OK, des recrompt.
- 45:58Et après euh c'est cet API qui va
- 46:01présenter ce contenu là euh au Llm qui
- 46:04pour générer la réponse et après il
- 46:05génère la réponse. Et donc et du coup
- 46:08donc la la majorité des API aujourd'hui
- 46:10et ça je pense c'est une bonne chose la
- 46:12majorité des API des LLM euh
- 46:15c'est-à-dire respectent à peu près le
- 46:16même format.
- 46:18Alors le format euh il ressemble à ça.
- 46:21Donc ça dépend bien sûr de des versions.
- 46:23Alors si vous prenez donc les les deux
- 46:25types de prompt, vous avez zé plutôt
- 46:27vous avez zé shot prompt et vous avez f
- 46:30shot prompt. Alors dans le zé shot
- 46:33prompt c'estàd c'est le le zé shot
- 46:37prompt. Si vous envoyez un zé shot prom
- 46:40vers le ll par exemple comme chat GPT et
- 46:43bien ce prom c'est un objet dans lequel
- 46:45on spécifie le modèle.
- 46:47quel est le modèle qu'on veut utiliser
- 46:49GPT for ou et cetera. Et après, vous
- 46:52avez un tableau qui contient des
- 46:54messages. Et dans ces messages, il y a
- 46:59un ensemble de d'objets, c'est-à-dire un
- 47:02ensemble de messages si vous voulez.
- 47:04C'est un tableau de message. Et chaque
- 47:07message, il est il a un type. Donc quel
- 47:09est le rôle ? Alors ici donc le rôle
- 47:12c'est système. Système ça veut dire
- 47:13c'est système message. Alors et le
- 47:15contenu c'est c'est système message.
- 47:18Donc c'est c'est ici. C'est-à-dire votre
- 47:20système message que vous voyez là. Donc
- 47:22c'est c'est ce que vous allez mettre
- 47:24ici. Donc un message il a un rôle
- 47:26c'est-à-dire son type. Le rôle c'est
- 47:27c'est système. Et puis vous avez le
- 47:30deuxième
- 47:32message rôle c'est user c'est-à-dire
- 47:34c'est la question utilisateur,
- 47:36c'est-à-dire c'est
- 47:37celui-là. Et c'est quoi sa valeur ? Ce
- 47:39contenu c'est user
- 47:41input. Alors donc ça c'est le zero shot
- 47:44prompt. Donc le zero shot prompt
- 47:46généralement le le prompt que vous
- 47:48envoyez LLM souvent c'est c'est comme
- 47:51ça. Donc vous trouverez system message
- 47:53et euh user message. Et puis euh après
- 47:57il y a les les paramètres la
- 47:59température, max token, stopy, frequency
- 48:02pénality et cetera.
- 48:04Donc c'est-à-dire si c'est si c'est ce
- 48:07qui va vers le le ll pour faire la la
- 48:09prédiction. Alors ça c'est pour le zero
- 48:12shot prompt mais si vous avez un f shot
- 48:14prompt vous allez trouver à peu près la
- 48:15même chose sauf que ici vous allez
- 48:17trouver le modèle et un ensemble de
- 48:19messages et dans les messages vous
- 48:20trouverez system message user message
- 48:24assistant message. Voyez donc ici
- 48:26assistant message ça veut dire quoi ?
- 48:28C'est la réponse de l'assistance.
- 48:29C'est-à-dire, c'est la réponse. C'est
- 48:31comme si vous dites voilà pour cette
- 48:32question là, voilà la réponse. Alors
- 48:34cette réponse, ça peut être soit un
- 48:36expert par exemple quand il s'agit de d'
- 48:39si si vous avez des fus c'est-à-dire
- 48:41c'est c'est-à-dire c'est votre dataset.
- 48:43Donc vous connaissez déjà le output.
- 48:46Donc c'est c'est une c'est un message de
- 48:48type assistant ou ça peut être une
- 48:51réponse qui est déjà générée auparavant
- 48:52par l'IA. Donc l'essentiel c'est que
- 48:54vous avez trois types de messages
- 48:56plutôt. Vous avez system message, user
- 48:59message, system
- 49:01message plutôt assistant message. Donc
- 49:04pour cette question là, voilà la réponse
- 49:08de l'assistant. Pour cette question là,
- 49:11c'est la la question utilisateur. Voilà
- 49:13la réponse de
- 49:14l'assistant. Et après, on arrive vers
- 49:17user input. Et user input, c'est la
- 49:19question que l'utilisateur va saisir
- 49:21bien sûr à la fin. C'est-à-dire, c'est
- 49:23comme si vous dites "Réponds-moi à cette
- 49:25question" en utilisant ce système
- 49:28message. Sachant que sachant que pour
- 49:31cette question là, voilà la réponse que
- 49:33tu que tu as donné pour cette question
- 49:36là, voilà la la vraie la bonne réponse.
- 49:38Et voilà. Donc ça génère un peu le donc
- 49:41c'est ça la différence entre le zé shot
- 49:43prompt et le fus shot prompt. Est-ce que
- 49:46c'est clair la différence entre zé shot
- 49:48prompt et f shot prompt
- 49:50? Alors si donc vous mettez juste un
- 49:53petit OK dans les messages comme ça je
- 49:55suis un peu voilà, c'est juste un petit
- 49:59un petit signe qui me permet d'avancer.
- 50:02Si vous voulez donc interagir avec un
- 50:06LLM, si vous voulez voir ce ce mécanisme
- 50:09là comme ça, vous n'êtes pas obligé de
- 50:12d'écrire du code. Vous utilisez un
- 50:14simple outil que un simple outil qui
- 50:16envoie des requêtes HTTP vers les les
- 50:18modèles. Euh je prends par exemple cet
- 50:22outil là que vous pouvez télécharger qui
- 50:24s'appelle
- 50:27Postman. Alors Post P post postman. Donc
- 50:30je je vous recommande de l'utiliser au
- 50:32moins une fois. Vous pouvez utiliser
- 50:34d'autres d'autres outils. Bon, PostMa,
- 50:36c'est l'un des outils qui sont très
- 50:37utilisés par le les gens pour tester,
- 50:40pour communiquer avec des des web
- 50:42services
- 50:44RISTF. Donc si vous voulez avec Postman,
- 50:46je peux je peux par exemple envoyer euh
- 50:50une requête vers
- 50:52vers un modèle. Par exemple, si vous
- 50:55voulez utiliser un modèle de de chat GPT
- 50:58de Openni, euh donc il vous faut il vous
- 51:01faut d'abord une clé parce qu'en fait
- 51:04les modèles de open sont
- 51:06payants et donc le euh ici donc de sur
- 51:10plateforme Open I d'ailleurs dans
- 51:13plateforme open vous avez ici playground
- 51:16vous pouvez d'ailleurs voir ce que je
- 51:18viens de vous dire euh ici. Donc vous
- 51:21voyez donc ici vous posez une question
- 51:23euh mais en même temps vous pouvez avoir
- 51:25le vous pouvez avoir donc
- 51:28le voyez donc dans la la partie
- 51:30configuration vous pouvez spécifier quel
- 51:32modèle que vous voulez utiliser. Vous
- 51:34spécifiez système message. Voyez donc
- 51:36ici donc ça c'est système message. Vous
- 51:38voyez souvent vous vous regardez pas ça
- 51:40euh mais en même temps vous pouvez euh
- 51:42voyez donc les paramètres euh donc euh
- 51:45ça c'est la température égale à 1 et
- 51:47cetera. Donc vous pouvez toujours euh
- 51:49régler la température max token, stop,
- 51:52pénalité. Euh donc tout ça c'est des
- 51:54c'est des c'est des paramètres, vous
- 51:56voyez donc euh que vous pouvez régler
- 51:59avant d'envoyer la la la requête. OK
- 52:02? Alors ça c'est le c'est juste
- 52:04l'interface mais si vous voulez
- 52:07interagir avec ces ll avec avec votre
- 52:10propre application parce que ça c'est ce
- 52:12qui ce qui ce qui nous intéresse.
- 52:14C'est-à-dire comment créer des des
- 52:16prompts, comment le les les tester euh à
- 52:19travers vos propres
- 52:21modèles. Donc vous aurez besoin de d'une
- 52:24clé d'API. Donc ici donc
- 52:28euh IP case. Donc il vous faut générer
- 52:31une clé.
- 52:32Euh alors bien sûr donc je génère une
- 52:34clé que je vais appeler
- 52:55test. Alors donc je vais générer une clé
- 52:58peu importe.
- 53:00Je génère la clé, je vais la
- 53:02copier. OK. Bon, vous pouvez générer des
- 53:05clés. Mais quand je disais euh ces
- 53:08modèles open sont panton. Donc ce qui
- 53:11fait que il faut euh il faut toujours
- 53:14regarder ici donc
- 53:16le la partie bine. Donc vous voyez ici
- 53:19quelque part vous avez le crédit, vous
- 53:20pouvez charger un montant. Euh par
- 53:22exemple, moi ça m'arrive de charger un
- 53:25montant.
- 53:26Euh mais ce monteau là, vous vous le
- 53:28consommez jusqu'à ce qu'il soit
- 53:30consommé. Ça prend beaucoup de temps.
- 53:32C'est-à-dire euh une centaine de de
- 53:35dirham, vous pouvez charger votre compte
- 53:39et ça vous permet de faire pas mal de
- 53:40tests, surtout si parfois vous voulez
- 53:42comparer les performances d'un modèle de
- 53:44open par rapport au llur que vous
- 53:47utilisez. Euh donc vous aurez besoin de
- 53:49donc de de mettre un peu d'argent quand
- 53:52vous le faites pour charger votre
- 53:54téléphone. C'est la réalité c'est que
- 53:57c'est que il a il s'impose et à un
- 53:59moment donné maintenant aujourd'hui les
- 54:00entreprises tout le monde paye paye
- 54:03généralement ces modèles pour pour tirer
- 54:07profit mais bien sûr il y a des modèles
- 54:09qui sont qui sont gratuits qui sont
- 54:11oburs. Il y a des moyens de de voir
- 54:14ça. Donc ça c'est juste pour vous donner
- 54:17une idée en tout cas. Donc ici donc si
- 54:19je suppose que si je j'ai une clé, vous
- 54:21avez généré une clé
- 54:27d'API. Donc si vous avez la clé, je peux
- 54:30par exemple aller vers euh par exemple
- 54:33ici euh Postman. Il suffit d'envoyer une
- 54:37requête HTTP avec Post vers le modèle de
- 54:41Openni. dans cette adresse-là, c'est
- 54:44httpi,
- 54:46openi V1 chat completions et puis il va
- 54:50falloir envoyer de de deux headers dans
- 54:52la requête HTTP. Le premier d'abord
- 54:54c'est content
- 54:55type. Alors content type ça doit la
- 54:59valeur ça doit être application Jon.
- 55:01C'est-à-dire parce que les données qu'
- 55:02qu'on envoie, c'est des données au
- 55:03format au format Jason application
- 55:09Jason. Et puis euh en fait pour la
- 55:12sécurité maintenant euh vous allez
- 55:15envoyer un header qui s'appelle
- 55:17authorization dans lequel il faut
- 55:20écrire. C'est un mot comme ça, espace et
- 55:24vous mettez la clé la clé que j'ai
- 55:25copié. Vous voyez ici ? Donc ça c'est la
- 55:28clé que je viens de créer parce que si
- 55:30vous n'avez pas si vous envoyez pas
- 55:31cette clé là, il va vous dire vous
- 55:32n'avez pas le droit. Donc je suis en
- 55:34train de consommer le en utilisant ma
- 55:37propre clé euh c'est-à-dire de la
- 55:40PPN. Donc voilà les deux headers qu'il
- 55:42faut envoyer dans la requête HTTP et
- 55:43puis maintenant le corps body. Et dans
- 55:46B, vous allez
- 55:47envoyer vous allez envoyer le contenu.
- 55:50Et le contenu donc c'est ce que je viens
- 55:53de vous montrer ici. C'est ça. Donc il
- 55:55va falloir envoyer un objet de Jon qui
- 55:58contient le modèle, qui contient les
- 56:00messages et après qui contient ça. Bon,
- 56:02vous pouvez tenter de faire des choses.
- 56:05Je vais faire quelque chose de plus
- 56:06simple. Regardez. Donc je vais dire par
- 56:09exemple, je vais utiliser le le modèle.
- 56:13Pour le modèle, je vais utiliser GPT par
- 56:16exemple for. Ça c'est le plus le c'est
- 56:19le modèle le plus puissant mais c'est
- 56:21aussi c'est relativement
- 56:24euh le un peu plus cher par rapport par
- 56:27vous pouvez utiliser GPT for au mini par
- 56:29exemple, c'est moins cher. Euh il y a
- 56:31d'autres modèles qui sont qui coûtent
- 56:33presque gratuit les anciens modèles de
- 56:35Open mais ça c'est pour faire c'est pas
- 56:38les modèles qui manquent. vous avez vous
- 56:39aurez pas mal de de solutions à tester.
- 56:43Donc il y a modèle et après il y a les
- 56:46messages donc un ensemble de mess de
- 56:49messages et les messages. Donc vous
- 56:51voyez donc les messages que vous envoyez
- 56:52c'est un tableau et chaque message
- 56:56contient le rôle.
- 56:58Par exemple ici le rôle c'est par
- 57:00exemple
- 57:02système c'est un système message et
- 57:06content le contenu de de ce
- 57:09message c'est voilà le système message
- 57:11par exemple vous dites vous lui dites
- 57:13vous
- 57:15êtes vous vous êtes par
- 57:18exemple un
- 57:21assistant dans le
- 57:23domaine médical et ceter peu importe
- 57:27dans le domaine
- 57:30médical et que et que et cetera. Donc ça
- 57:33c'est la problématique, c'est le système
- 57:34message. Et puis donc sachant que voilà
- 57:37la problématique, le donc c'est-à-dire
- 57:40le contexte, je vais lui envoyer un
- 57:43autre message avec le rôle
- 57:49user. Rôle, c'est
- 57:53user et le
- 57:55contenu. Alors, il y a quelque chose qui
- 57:57j'ai raté ici. Alors, ça c'est le
- 58:01premier message. Voilà, le deuxème
- 58:05message. Alors ça c'est le rôle de
- 58:08point
- 58:11user et après
- 58:15content c'est par
- 58:17exemple
- 58:21euh donne-moi des conseils. Bah je sais
- 58:24des
- 58:27conseils. Alors normalement cette
- 58:28question là donne-moi des conseils,
- 58:30c'est un peu abstraite. Si vous lui
- 58:31dites donne-moi des conseils, il peut
- 58:32pas savoir dans quel domaine. Mais
- 58:34maintenant, c'est parce que système ISCG
- 58:36lui dit "Tu es un assistant dans le
- 58:37domaine médical." Il va comprendre que
- 58:40c'est des conseils qui qui concernent le
- 58:42domaine médical. Et après, bon, c'est
- 58:44juste pour faire un test. Et puis euh
- 58:47donc après les messages, vous envoyez
- 58:49les paramètres. Et parmi les paramètres,
- 58:51il y a par exemple la température.
- 58:56Alors, la température, je vais mettre
- 58:57par exemple 0,5.
- 59:00Alors voyez ici donc ça c'est c'est un
- 59:02un exemple de prompt en fait de message.
- 59:06C'est un zé shot prompt. OK. Alors
- 59:09pourquoi zé shot prom ? Parce qu'il y a
- 59:10que système message et user user
- 59:14message. Alors j'envoie la
- 59:18requête. Alors ici donc il reconnaît pas
- 59:21la température parce qu'il est mal
- 59:22écrite. Donc il me dit que je ce
- 59:25paramètre il est mal écrit.
- 59:29température et vous voyez la réponse
- 59:31maintenant, c'est-à-dire le le LLM, il
- 59:34vous répond avec quoi ? Il vous répond
- 59:36avec le ID de la réponse, la date de la
- 59:39réponse, choices, c'est-à-dire il y a
- 59:41plusieurs choix parce qu'il peut vous
- 59:42donner plusieurs réponses et chaque
- 59:44choice, il contient l'index, le numéro
- 59:46de choix et ici il contient un message
- 59:49cette fois-ci. Si vous voyez donc le
- 59:50rôle, c'est assistant, c'est-à-dire ça,
- 59:53c'est le message de de la réponse de
- 59:55l'assistance, c'est-à-dire de l'IA et le
- 59:57contenu. Voilà la la la réponse. Bien
- 1:00:00sûr, je serais heureux de vous donner
- 1:00:02des conseils. Cependant, j'aurais besoin
- 1:00:04de savoir dans quel domaine de la
- 1:00:05gestion du stress. Il sait bien que
- 1:00:07c'est dans le domaine médical, mais
- 1:00:10système Mige ne n'a pas précisé vraiment
- 1:00:13de ce que c'est dans dans le domaine
- 1:00:14cardio et cetera et cetera. Voilà. Alors
- 1:00:18ici, ça c'est juste un test et après il
- 1:00:21vous donne également le nombre de tokens
- 1:00:24qu'il y a dans votre prompt. Il vous
- 1:00:26donne également total tokens,
- 1:00:28c'est-à-dire entre la requête et la
- 1:00:30réponse euh et cetera. Donc c'est-à-dire
- 1:00:33ça c'est completion tokens, le nombre de
- 1:00:35tokens de la réponse et ça c'est le
- 1:00:37nombre de tokens de la question. Si vous
- 1:00:39faites la 100, vous allez trouver 80
- 1:00:4399. Est-ce que c'est clair pour ça ?
- 1:00:48OK. Alors ça c'est pour opener I mais si
- 1:00:51vous voulez travailler avec un modèle
- 1:00:53open source euh ben vous pouvez
- 1:00:56télécharger
- 1:00:57Olama. Alors
- 1:01:01Olama donc Olama c'est un outil simple
- 1:01:04vous le téléchargez vous
- 1:01:06l'installez. Une fois que vous
- 1:01:07l'installez vous pouvez télécharger des
- 1:01:09modèles open source, il y en a beaucoup
- 1:01:12vous voyez donc vous pouvez utiliser
- 1:01:13GMA. C'est un modèle open source euh de
- 1:01:16qui vient de chez Google. Il y a Queen
- 1:01:18très connu des psic c'est euh
- 1:01:22c'est-à-dire le modèle d'Isic euh la
- 1:01:25version avec raisonnement. Euh donc vous
- 1:01:28pouvez le télécharger la MA 4, ça c'est
- 1:01:29la dernière version de Lama. Vous avez
- 1:01:32vous voyez donc vous avez beaucoup de
- 1:01:33modèles. Alors tous ces LLM là c'est des
- 1:01:35modèles mixtral,
- 1:01:37mistral, ça c'est lui de Microsoft euh
- 1:01:41et cetera. Euh et vous allez trouver des
- 1:01:43modèles qui sont spécialisés dans des
- 1:01:45des domaines précis. Bon, avec OAMA,
- 1:01:48vous pouvez télécharger tous ces ces
- 1:01:50modèles. Alors, une fois que vous
- 1:01:52installez cet outil là euh Ou au lama,
- 1:01:55il faut le
- 1:01:58lancer au lama.
- 1:02:01Alors si vous vous au
- 1:02:08lama alors ici ça c'est la la deuxième
- 1:02:11version vous le lancez et vous voyez
- 1:02:13doncci il est lancé et directement sur
- 1:02:16ligne de
- 1:02:19commande je vais lancer un
- 1:02:27terminal je fais je quitte
- 1:02:32Alors en terminal, une fois que vous
- 1:02:34l'avez installé, vous lancez votre
- 1:02:36terminal et vous tapez tout simplement
- 1:02:37la
- 1:02:39main run et vous spécifiez le modèle que
- 1:02:42vous voulez
- 1:02:44démarrer. Alors ici donc le modèle, vous
- 1:02:46prenez Mistral, vous prenez et cetera.
- 1:02:49Euh ici donc je cherche par exemple la
- 1:02:51MA 3.3, voyez la MA 3.2 par exemple la
- 1:02:55MA 3.2 si vous regardez euh vous allez
- 1:02:57trouver la taille si 16 euh alors vous
- 1:03:01pouvez consulter la taille la mat 32
- 1:03:04c'est ça c'est 2 Go. Vous voyez c'est 2
- 1:03:08Go. Euh le context window c'est 128 kg.
- 1:03:13Euh vous avez les diversions avec 1
- 1:03:17bilion de paramètres, 3 bilions de
- 1:03:19paramètres et cetera. Donc vous avez
- 1:03:21plusieurs Donc si vous voulez d'ailleurs
- 1:03:23l'exécuter, vous vous tapez au lama
- 1:03:27run le modèle. Alors si le modèle
- 1:03:29n'existe pas, il va le télécharger. Donc
- 1:03:32si vous mettez Olama ls, il va vous
- 1:03:35lister la liste des llms euh open source
- 1:03:38que vous avez téléchargé. Alors ici donc
- 1:03:39je vois bien j'ai déjà téléchargé la la
- 1:03:41MAT 3.2. La MA 3.2 c'est un modèle à peu
- 1:03:44près l'équivalent de euh GPT for H à peu
- 1:03:48près en terme de de dimension et vous
- 1:03:50pouvez l'utiliser. Voyz donc je vois ici
- 1:03:52aussi vous pouvez tester des psiques,
- 1:03:54vous pouvez tester pas mal de de
- 1:03:55modèles. Alors ici donc ce que je vais
- 1:03:57faire, je vais utiliser
- 1:04:00Olama run euh lama
- 1:04:043.2. Alors donc là il est démarré. Bon,
- 1:04:08vous pouvez commencer à chatter,
- 1:04:10c'est-à-dire comme ça, vous pouvez lui
- 1:04:11poser des questions, il vous répond.
- 1:04:13Donc, vous voyez donc ici, ça c'est un
- 1:04:15modèle local euh ici que je suis en
- 1:04:18train d'utiliser. Et si vous voulez le
- 1:04:21euh le tester avec, j'envoie la même
- 1:04:24question euh euh à lama euh
- 1:04:28c'est-à-dire euh de c'est-à-dire lama au
- 1:04:31lama. Donc ici donc vous vous remplacez
- 1:04:33tout simplement la requête par ça par
- 1:04:36http local
- 1:04:39host. Alors bien sûr vous
- 1:04:42ajoutez/chations http2.lolecal local
- 1:04:44host, c'est le numéro de port, c'est
- 1:04:4811434 V1 chat completions. Donc ça c'est
- 1:04:51pour vous êtes en train d'interagir avec
- 1:04:54Olama, vous lui envoyez la requête sauf
- 1:04:56que cette fois-ci vous n'avez pas besoin
- 1:04:58d'envoyer le header ici. Voilà donc le
- 1:05:01c'est-à-dire le token, la clé vous
- 1:05:04n'avez pas besoin parce que c'est
- 1:05:05gratuit. Ça c'est ça c'est pour opener I
- 1:05:09mais ici donc je vais pas l'envoyer ça
- 1:05:11sert à rien et j'envoie ce qui est bien
- 1:05:14c'est que je vais lui envoyer le même
- 1:05:16promte c'est-à-dire c'est le même promte
- 1:05:17que j'ai envoyé à chat GPT je l'envoie à
- 1:05:20lama ici.
- 1:05:24Donc il vous dit que il connaît pas GPT
- 1:05:26for c'est normal parce queama le modèle
- 1:05:30que j'ai démarré s'appelle Lama 3.2.
- 1:05:38Et là, vous générez la
- 1:05:41réponse. Alors, vous remarquez bien sûr,
- 1:05:43ça prend plus de temps parce que si vous
- 1:05:44n'avez pas une machine relativement
- 1:05:45puissante, euh ça va être un peu voilà
- 1:05:50en tant que assistant médical. Donc,
- 1:05:51vous voyez donc la mail vous dit en tant
- 1:05:53que assistant médical, je peux vous
- 1:05:54offrir et cetera. Bon, l'essentiel c'est
- 1:05:57que vous avez une réponse, vous pouvez
- 1:05:58tester
- 1:06:01ça. Voilà. Alors donc ça c'est le un
- 1:06:04premier
- 1:06:10passage. Donc pour tester, je vous ai
- 1:06:13montré donc
- 1:06:14avec en fait Postman, vous testez euh le
- 1:06:19modèle de Open A et vous testez la main.
- 1:06:22Alors maintenant on arrive le
- 1:06:24c'est-à-dire comment exploiter l
- 1:06:27générative. Donc j'ai à peu près une
- 1:06:28idée sur c'est quoi le prompt ingéné,
- 1:06:31j'ai une une idée sur c'est quoi un
- 1:06:33prompt, les différents types de
- 1:06:34promptes, les paramètres, la structure
- 1:06:36et cetera. Alors peut-être j'ai sauté
- 1:06:38quelque chose de dont j'ai pas parlé ici
- 1:06:40parce que en fait les différents types
- 1:06:42de pompes
- 1:06:43déjà en terme de structure alors en
- 1:06:47terme de structure il y a zé shot prompt
- 1:06:51il y a f shot prompt mais en terme de
- 1:06:53contenu il existe plusieurs types de
- 1:06:55prompt ça dépend de des des problèmes.
- 1:06:58Par exemple, il a ce qu'on appelle
- 1:06:59instruction prompt, c'est ce qu'on
- 1:07:00appelle les les promptes
- 1:07:03pédagogiques. Les raisonn prompt, les
- 1:07:07les promptes de raisonnement. Induction
- 1:07:09prompt, c'est les promptes
- 1:07:12d'induction parapharisine prompt sh
- 1:07:15prompt, c'est ce qu'on appelle code
- 1:07:17prompt. Donc vous voyez donc ça dépend
- 1:07:20euh ça dépend de type de problème. Si
- 1:07:22par exemple vous voulez poser la
- 1:07:24question à à un à un Llm pour lui dire
- 1:07:27de de vous générer des promptes, bon il
- 1:07:30faut utiliser un type de prompt. Si vous
- 1:07:32voulez par exemple faire du
- 1:07:33raisonnement, euh vous utilisez code
- 1:07:35shot prompt et cetera. Donc tout ça euh
- 1:07:38je vais pas m'arrêter en détail sur ça
- 1:07:40parce que dans le le support vous allez
- 1:07:41trouver que des euh dans le notebook,
- 1:07:45vous allez trouver des exemples de
- 1:07:47chaque type de de prompt mais c'est
- 1:07:49intéressant à
- 1:07:52savoir. Alors maintenant euh comment euh
- 1:07:56tirer profit de en fait de lien
- 1:07:58génératif ? Ah ça c'est important.
- 1:08:01Alors, vous savez, il y a il y a deux
- 1:08:03années parce que les choses vraiment ces
- 1:08:05ces deux années ces ces deux dernières
- 1:08:07années, il y a beaucoup de choses qui s
- 1:08:08qui se sont passés.
- 1:08:10Euh d'abord euh
- 1:08:13donc nous avons d'abord à euh quelque
- 1:08:17chose qui s'appelle le prompt
- 1:08:18engineering parce qu'il faut comprendre
- 1:08:20comment euh comment rédiger, concevoir,
- 1:08:23évaluer les promptes pour communiquer
- 1:08:25avec les applications, avec l'IA, avec
- 1:08:27l'intelligence
- 1:08:29artificielle. Et puis euh vous avez donc
- 1:08:31le
- 1:08:33donc pour profiter de de l'IA, vous
- 1:08:36pouvez faire ce qu'on appelle le fot
- 1:08:38learning. Alors, c'est quoi le fot
- 1:08:40learning ? Vous le connaissez ? Et ben
- 1:08:42tout simplement, c'est le fait de
- 1:08:44prendre dans une application quelconque,
- 1:08:47vous envoyez un prompt dans lequel vous
- 1:08:48trouverez il y a system
- 1:08:51message, il y a few shots, c'est-à-dire
- 1:08:54quelques exemples avec des des réponses.
- 1:08:56Généralement, vous n'avez pas besoin de
- 1:08:57beaucoup. Vous aurez besoin juste de
- 1:08:59quelques exemples, cinq exemples ou bien
- 1:09:01deux exemples. Parfois, ça suffit pour
- 1:09:03donner plus de contexte au Ll.
- 1:09:07Et après il y a user input. Donc c'est
- 1:09:11comme si vous vous dites au LM
- 1:09:14réponds-moi à cette question en
- 1:09:16utilisant ce ce contexte ce système
- 1:09:19message. Sachant que pour cette question
- 1:09:22voilà la bonne réponse. Pour cette
- 1:09:23question voilà la bonne réponse. Donc je
- 1:09:25lui donne de
- 1:09:27de Fot
- 1:09:29examples. Bon avec ça généralement c'est
- 1:09:33la la solution la moins la moins
- 1:09:35coûteuse. La moins coûteuse. Pourquoi ?
- 1:09:37parce que vous n'aurez pas besoin
- 1:09:38vraiment
- 1:09:39de créer des des modèles, votre
- 1:09:42application, il va juste profiter de et
- 1:09:45donc votre travail consiste juste à
- 1:09:46faire des prompt engineering,
- 1:09:48c'est-à-dire il faut créer d'abord le
- 1:09:50prompt et après il faut il vous faut un
- 1:09:52petit dataset, c'est-à-dire qui va vous
- 1:09:55permettre d'avoir quelques exemples avec
- 1:09:57des réponses. Et puis donc vous avez
- 1:10:00vous allez tout simplement utiliser des
- 1:10:02fichot prompt que vous allez évaluer.
- 1:10:04Une fois que vous l'avez évalué que et
- 1:10:06que ça donne de bons résultats, après
- 1:10:08vous pouvez déployer le prompt et ça
- 1:10:10marche. Les les utilisateurs peuvent
- 1:10:12profiter de de ce prompt. Ça c'est ce
- 1:10:15qu'on appelle le fus learning. Et puis
- 1:10:18la deuxième façon, c'est de faire ce
- 1:10:19qu'on appelle le find
- 1:10:21tuning. Alors le fine tuning c'est une
- 1:10:24une façon euh qui consiste à quoi ?
- 1:10:27c'est le fait de prendre c'est de faire
- 1:10:30ce qu'on a de profiter du transfert
- 1:10:31learning, c'est-à-dire on va prendre un
- 1:10:34dataset dans votre domaine et ça c'est
- 1:10:37intéressant. Donc maintenant vous allez
- 1:10:38dans votre sujet de thèse ou dans votre
- 1:10:41recherche, vous avez un dataset que vous
- 1:10:43allez
- 1:10:44collecter. Alors ce qui est intéressant
- 1:10:46c'est que vous n'êtes pas obligé d'avoir
- 1:10:48un un très grand dataset. Euh donc vous
- 1:10:51avez un dataset de bonne qualité euh
- 1:10:54bien
- 1:10:55sûr plus il y a le nombre de d'exemples
- 1:10:58c'est c'est mieux. Et après, on va
- 1:11:00utiliser ce dataset pour réentraîner un
- 1:11:03ll. C'est-à-dire, vous allez télécharger
- 1:11:04un LLM comme par exemple Lama, lama 3.2
- 1:11:09ou un modèle comme par exemple Mistral
- 1:11:11ou autre chose. Et bien tout simplement,
- 1:11:14c'est un modèle général, c'est-à-dire
- 1:11:17qui a été déjà entraîné sur un large
- 1:11:19corpus de données, c'est-à-dire c'est un
- 1:11:21modèle qui est déjà très
- 1:11:23intelligent qui est capable de répondre
- 1:11:26à pas mal de questions dans différents
- 1:11:29domaines. Et maintenant, je voudrais
- 1:11:31qu'il se spécialise dans ce
- 1:11:33domaineel. Et ben, tout simplement, on
- 1:11:35va réentraîner ce LLM en utilisant ce
- 1:11:39dataset. Et quand on va le réentraîner,
- 1:11:42ça va nous donner un nouveau LLM. si
- 1:11:44vous créez votre propre LM spécifique et
- 1:11:47ce LLM spécifique lui il il est capable
- 1:11:51de répondre à des questions qui sont
- 1:11:53dans ce domaine
- 1:11:54spécifique. Alors et dans ce cas-là vous
- 1:11:57avez votre application va envoyer un
- 1:11:59prompt un simple zero shot prompt est
- 1:12:02suffisant qui contient système message
- 1:12:05et user input. Donc cette fois-ci vous
- 1:12:07n'aurez pas besoin de donner quelques
- 1:12:09exemples
- 1:12:10avec réponse dans le le prompt. Pourquoi
- 1:12:13? Tout simplement parce que le LLM, il
- 1:12:15est déjà entraîné sur quelques sur un
- 1:12:19ensemble de questions réponses qui sont
- 1:12:20déjà connu auparavant. Donc ça c'est le
- 1:12:23votre dataset qui est
- 1:12:27étiqueté et avec ça donc le Lim
- 1:12:29spécifique va générer de des réponses
- 1:12:31qui sont très précises. Donc avec cette
- 1:12:34technique de find tuning, généralement
- 1:12:37vous pouvez avoir quelque chose de plus
- 1:12:39intéressant que le fuse short learning.
- 1:12:42Et donc si vous avez une problématique
- 1:12:45particulière dans laquelle vous
- 1:12:47travaillez dans le domaine de l'IA, et
- 1:12:50bien au lieu de créer ce qu'on appelle
- 1:12:51un modèle from scratch, c'est ce que
- 1:12:53nous avons appris jusqu'à présent parce
- 1:12:55que en fait les les modèles que nous
- 1:12:58avons entraînés dans le les les cours
- 1:13:01avant, c'est des modèles qui sont basés
- 1:13:04100 % sur nos propres
- 1:13:06données. Alors que cette fois-ci, vous
- 1:13:08allez utiliser un modèle qui qui est
- 1:13:10déjà entraîné sur des beaucoup de data,
- 1:13:13un large corpus de de data et vous lui
- 1:13:16ajoutez votre votre domaine spécifique
- 1:13:19et vous obtenez un voilà un LM qui est
- 1:13:22spécifique. Bon, c'est à peu près c'est
- 1:13:24comme si vous êtes vous avez un médecin
- 1:13:26généraliste qui est capable de répondre
- 1:13:28à des questions d'ordre général.
- 1:13:30Bah, on va lui donner euh on va le
- 1:13:32former, on va lui donner un un une
- 1:13:35formation spécifique, on va le
- 1:13:38entraîner, ça devient un médecin
- 1:13:40spécialiste, c'est-à-dire c'est un
- 1:13:41médecin qui médecin qui est capable de
- 1:13:43donner des réponses dans ce domaine
- 1:13:45spécifique. C'est à peu près
- 1:13:48ça. Alors, bien sûr, le f tun euh il y a
- 1:13:51des techniques qui sont utilisées.
- 1:13:54Il y a de le le fine tuning passe par
- 1:13:57plusieurs étapes également parce que
- 1:13:59dans le f c'est le fine tuning qui qui
- 1:14:01c'est c'est avec le fine tuning que vous
- 1:14:02arrivez à voir. Euh si vous regardez
- 1:14:04dans Hugin face euh hugin face il y a
- 1:14:08des il y a des il y a des milliers de de
- 1:14:11modèles euh qui sont à chaque fois
- 1:14:14téléchargés. C'est des modèles open
- 1:14:15source. Alors tous les les LLMs qui sont
- 1:14:19spécialisés, c'est comme ça que les gens
- 1:14:21font. C'est-à-dire, vous utilisez un
- 1:14:23dataset, vous faites le find tuning, ça
- 1:14:25vous donne un ll spécifique et ce ll
- 1:14:28spécifique, on peut encore l'utiliser
- 1:14:30pour faire encore un autre fine tuning.
- 1:14:32Et donc avec ça, on génère beaucoup de
- 1:14:34de des modèles de LIA. Donc toutes les
- 1:14:36applications de LIA que vous voyez qui
- 1:14:38qui apparaissent généralement, c'est
- 1:14:40comme ça que ça se passe, c'est que les
- 1:14:41gens ils prennent des LLM généralistes,
- 1:14:44on fait du fine tuning, on obtient un
- 1:14:46nouveau lm, on le déploie et après on
- 1:14:48crée des applications euh qui vont
- 1:14:50profiter de ce LLM là euh dans un
- 1:14:53domaine
- 1:14:55spécifique. Alors ça c'est le c'est la
- 1:14:57deuxième euh la deuxième façon de faire.
- 1:15:00Alors la troisième façon de faire c'est
- 1:15:02d'utiliser ce qu'on appelle le système
- 1:15:04rag root rver augmented
- 1:15:06generation. Alors c'est quoi le en fait
- 1:15:08le système rag ? Alors avec le le fine
- 1:15:12tuning, on peut on peut tirer profit de
- 1:15:15l'IA euh généralement euh en en en
- 1:15:20exploitant un dataset qui est structuré.
- 1:15:24Mais parfois, il se trouve que dans les
- 1:15:26entreprises, c'est que nous avons des
- 1:15:29documents qui ne sont pas structurés,
- 1:15:30c'est-à-dire vous avez des fichiers PDF,
- 1:15:33vous avez plein de fichiers PDF, des
- 1:15:35documents Word, c'est-à-dire
- 1:15:37l'entreprise dispose de beaucoup de de
- 1:15:40documents et des livres, des des
- 1:15:43ressources, des vidéos, des audios et
- 1:15:44cetera, des images. Euh donc tous c
- 1:15:47toutes ces données structurées là, bah
- 1:15:49qu'est-ce qu'on va faire ? Et bien on va
- 1:15:51ici donc de prendre le le document, on
- 1:15:54va on va faire une opération qui
- 1:15:55s'appelle
- 1:15:56split. Alors l'opération
- 1:15:59split consiste à créer à découper un un
- 1:16:02document PDF par exemple en un ensemble
- 1:16:05de ce qu'on appelle les chunks. Bon les
- 1:16:07chunks c'est c'est des morceaux.
- 1:16:09Un chunk, ça peut être un paragraphe du
- 1:16:12du document, ça peut être une page.
- 1:16:15Donc, il existe des stratégies, il
- 1:16:17existe plusieurs stratégies pour faire
- 1:16:19ce qu'on appelle pour créer les chunks.
- 1:16:22On peut faire les chunks selon les
- 1:16:23paragraphes, selon le nombre de
- 1:16:26caractères de du chunks. L'essentiel,
- 1:16:28c'est que on va découper
- 1:16:30notre contenu, notre livre, par exemple,
- 1:16:33PDF. On a un ensemble de de chunks.
- 1:16:37Alors, pourquoi d'abord on va utiliser
- 1:16:38plusieurs chunks ? Parce que déjà euh
- 1:16:42nous avons dit tout à l'heure que un ll,
- 1:16:44il a ce qu'on appelle un context window.
- 1:16:47Alors, le contexte window euh,
- 1:16:49c'est-à-dire il est limité. Ça veut dire
- 1:16:51que si vous avez un context window =
- 1:16:53128000, ben ça veut dire que normalement
- 1:16:55on ne peut pas présenter un
- 1:16:58llans le nombre de tokens passe 128000.
- 1:17:00Donc c'est-à-dire on peut pas donner un
- 1:17:02livre PDF directement à l'IA. Le
- 1:17:08ll pourquoi ? Parce que vous avez une
- 1:17:10limite, c'est le contexte Window. Mais
- 1:17:13par contre ce que je vais faire euh donc
- 1:17:15je vais je vais donc faire ce créer ces
- 1:17:18chunks et puis ces chunks là on va on va
- 1:17:21faire une opération qui s'appelle texte
- 1:17:24embedin. Alors texte embeding c'est euh
- 1:17:27c'est tout simplement c'est de convertir
- 1:17:29le texte les chens en
- 1:17:31vecteur. Alors il y a des modèles de de
- 1:17:34Lia euh qui qui font ce travail là dans
- 1:17:37le domaine de NLP. Euh vous prenez un
- 1:17:40texte euh faire de nbidin, ça vous donne
- 1:17:42des vecteurs. C'est normal parce queen
- 1:17:45fait le euh c'est-à-dire quand quand on
- 1:17:50c'est-à-dire le pour pouvoir comprendre
- 1:17:53le texte, ben il faudrait enregistrer le
- 1:17:56sens la sémantique du texte. Et pour
- 1:17:59enregistrer le sens d'un texte, bah il y
- 1:18:01a des modèles de NLP qui font cette
- 1:18:03opération de binin. Vous lui donnez un
- 1:18:05texte, il va vous générer un vecteur.
- 1:18:08Alors ce vecteur là, il est très il est
- 1:18:09très grand. Donc il vous génère si vous
- 1:18:11voulez un vecteur dans lequel vous avez
- 1:18:14plusieurs nombres. Voyez donc c'est
- 1:18:16entre 0 et 1. Et ces nombres là ça
- 1:18:19représente le sens de du mot. Pourquoi ?
- 1:18:23parce que le LLM généralement il a le
- 1:18:25modèle a un dictionnaire de de de
- 1:18:28mots. Et donc ce qui fait donc ce
- 1:18:30vecteur là, bah chaque chaque élément ça
- 1:18:33ça indique par exemple ce ce token là,
- 1:18:37il est proche plutôt ce voilà ce token
- 1:18:40là. Est-ce que plutôt ce ce mot ? Est-ce
- 1:18:42qu'il est proche euh à ce ce
- 1:18:45c'est-à-dire quel est son sens par
- 1:18:47rapport euh au dictionnaire qui est
- 1:18:49défini par le modèle ? L'essentiel,
- 1:18:51c'est que le mbedin, il permet
- 1:18:54d'enregistrer le texte en vecteur. Et
- 1:18:56dans ces vecteurs, on va garder la
- 1:19:03sémantique, c'est-à-dire le
- 1:19:05sens. On enregistre pas le texte, on
- 1:19:08enregistre le sens du texte. C'est ça la
- 1:19:11notion de MBD. Et puis donc tous ces
- 1:19:13vecteurs là, on va les enregistrer dans
- 1:19:15une base de données vectoriell.
- 1:19:17Alors, tout ça maintenant, on est
- 1:19:19toujours chez nous, c'est-à-dire
- 1:19:20l'entreprise va utiliser une base de
- 1:19:22données vectorielle.
- 1:19:25Alors, il y a il a il y a une année
- 1:19:27parce qu'en fait les systèmes RAX ça
- 1:19:29évolue de depuis une année et quelques.
- 1:19:32au début donc il y avait quelques bases
- 1:19:34de données qui supportent les bases de
- 1:19:35données vectorielles comme par exemple
- 1:19:39PinCroma
- 1:19:44DB compost grèisse par
- 1:19:52exemple
- 1:19:54euh c'est c'est PG Vector Store et puis
- 1:19:58maintenant depuis une année quasiment la
- 1:20:00liste est très longue. C'est-à-dire que
- 1:20:02à aujourd'hui la majorité des systèmes
- 1:20:05de de gestion de base de données
- 1:20:06supportent les bases de données
- 1:20:08vectorielles. Donc ce qui fait que
- 1:20:10aujourd'hui donc il y a le choix, il est
- 1:20:11très très important mais dans la
- 1:20:13majorité des cas donc il y en a il y en
- 1:20:15a beaucoup qui travaillent avec
- 1:20:17Chromadib et souvent en production euh
- 1:20:20il y a PostG qui est un SGBD qui est
- 1:20:22très très connu. Donc
- 1:20:27souvent c'est un c'est un bon choix pour
- 1:20:29les applications généralement en
- 1:20:32production.
- 1:20:33Mais sinon tous les SGBD, vous pouvez
- 1:20:35utiliser Mongo Dibi,
- 1:20:37Cassandra, tous les SGBD aujourd'hui, je
- 1:20:39pense la majorité il supportent les
- 1:20:42bases de données vectorielles. Alors
- 1:20:43qu'il y a une année, c'était pas le cas
- 1:20:45parce que ça c'est vraiment un un
- 1:20:47tendance
- 1:20:49importante. Donc en résumé, donc je
- 1:20:51prends je prends les données d'un
- 1:20:55document non structuré ou bien des des
- 1:20:57documents non structuré, ça devient des
- 1:20:59vecteurs et je stock mes mes livres, mes
- 1:21:02mes documents PDF, mes PowerPoint, mes
- 1:21:05mes fichiers, c'est-à-dire tous mes
- 1:21:06fichiers que que je ne peux pas
- 1:21:08exploiter habituellement. Ben, je je
- 1:21:11vais faire cette opération et ça devient
- 1:21:13dans ma base de données ce format
- 1:21:14vectoriel. Et après, par la suite, on va
- 1:21:17créer une application.
- 1:21:19On va créer par exemple un
- 1:21:21chatbot, une application qui va
- 1:21:23permettre à l'utilisateur de saisir la
- 1:21:25question, c'est-à-dire de saisir,
- 1:21:27c'est-à-dire ce qu'il veut. Donc il va
- 1:21:29envoyer sa question, son query et cette
- 1:21:32application, qu'est-ce qu'il va faire ?
- 1:21:33Le système RAG, il va d'abord faire une
- 1:21:35opération. Il va d'abord prendre la
- 1:21:37question, il l'a converti en vecteur
- 1:21:40d'abord, c'est-à-dire il fait la même
- 1:21:42chose et il fait le mbedine et puis il
- 1:21:45va chercher dans la base de données, il
- 1:21:47va faire ce qu'on appelle une recherche
- 1:21:49sémantique. Ça veut dire quoi la
- 1:21:51recherche sémantique ? C'estàdire on va
- 1:21:52demander à la base de données de nous
- 1:21:54donner quels sont les vecteurs, qui sont
- 1:21:56les
- 1:21:57ch qui sont les chs qui sont proches qui
- 1:22:01ont euh qui sont en relation avec cette
- 1:22:03question.
- 1:22:05Moi, je pose une question quelconque par
- 1:22:07exemple et après dans la base de
- 1:22:09données, je vais il va fouiller
- 1:22:11rapidement dans des des centaines de
- 1:22:13chunks, des milliers de ch beaucoup de
- 1:22:15livres, beaucoup de documents non
- 1:22:17structurés. Et après, il va vous
- 1:22:19chercher c chunks ou bien quatre chunks,
- 1:22:22c'est-à-dire quatre paragraphes qui sont
- 1:22:24en relation avec cette question.
- 1:22:27C'est-à-dire là, il cherche il cherche
- 1:22:29via euh c'est-à-dire il cherche par le
- 1:22:31sens du mot et non pas le par le texte.
- 1:22:35C'est un peu
- 1:22:36différent. Donc ça c'est de la recherche
- 1:22:38sémantique. Alors en fait la la
- 1:22:40recherche sémantique le principe c'est
- 1:22:42quoi ? que tout simplement
- 1:22:44cette c'est-à-dire ce cou là ça devient
- 1:22:47un
- 1:22:48vecteur c'est il fait bidine ça devient
- 1:22:51un vecteur et après on va essayer de
- 1:22:54comparer ce vecteur là avec les autres
- 1:22:56vecteurs qui se trouvent dans la base de
- 1:22:57données. Et on va chercher le vecteur le
- 1:23:00plus proche les vecteurs les plus
- 1:23:01proches. Et techniquement parlant on
- 1:23:03utilise une mesure de similarité qui
- 1:23:07s'appelle
- 1:23:08cosine
- 1:23:10cosine similarity.
- 1:23:17Alors cosité, c'est une mesure qui
- 1:23:20consiste à calculer le cosinus des deux
- 1:23:22vecteurs. Vous savez que si le cosinus
- 1:23:24des deux vecteurs égal à 1, bah ça veut
- 1:23:26dire les vecteurs sont les mêmes,
- 1:23:27c'est-à-dire ils ont le même sens. Donc
- 1:23:29c'est à peu près ça. Donc il va vous
- 1:23:30chercher quelles sont les vecteurs dans
- 1:23:32le cosinus. Euh dans le cosinus et les
- 1:23:36deux vecteurs, il est proche de 1. Donc
- 1:23:39il va vous donner les les les cinq
- 1:23:40vecteurs, par exemple les plus proches à
- 1:23:43ce vecteurl et ça va donner ça va donner
- 1:23:46donc le le contexte.
- 1:23:49Donc tout ça, jusque là, j'utilise pas
- 1:23:51les LLM. Donc c'est juste une
- 1:23:53application qui va poser une question à
- 1:23:54la base de données pour chercher le
- 1:23:57contexte de cette question. Et
- 1:23:59maintenant c ce contexte là, on va
- 1:24:01l'envoyer vers le LLM. Maintenant on va
- 1:24:04envoyer au LLM une la question dans
- 1:24:07laquelle on aura système message.
- 1:24:10Système
- 1:24:11message, la question de
- 1:24:13l'utilisateur, c'est cette question là
- 1:24:17plus le contexte.
- 1:24:19Alors, le contexte c'est ce que j'ai
- 1:24:20cherché à partir de de ma base de
- 1:24:23données. Alors, c'est comme si vous
- 1:24:24dites à Olm, vous lui dites
- 1:24:27"Réponds-moi, réponds-moi, réponds-moi à
- 1:24:30cette
- 1:24:31question en utilisant ce contexte."
- 1:24:34Parce que s'il n'y a pas ce contexte là,
- 1:24:38bah si vous dites par exemple, je sais
- 1:24:41pas par exemple si vous dites un un chat
- 1:24:44GPT, vous lui posez la question donne
- 1:24:47euh donne-moi les performances de mon
- 1:24:48entreprise entre 2020 et 2022.
- 1:24:52Alors, il est évident le chat GPT ne
- 1:24:55peut pas vous répondre, il peut pas vous
- 1:24:56donner la réponse parce qu'il vous dit
- 1:24:58je connais pas votre entreprise et en
- 1:25:01même temps il n'a pas les données de de
- 1:25:03votre de votre
- 1:25:04question. Donc c'est-à-dire que ça, on
- 1:25:07peut pas résoudre le problème comme ça
- 1:25:09avec le le fusure de promptin. OK
- 1:25:13? Alors, si vous voulez poser des
- 1:25:15questions comme ça,
- 1:25:16parfois il y a des Llm qui vont tomber
- 1:25:19dans le problème de ce qu'on appelle
- 1:25:22l'hallucination. L'hallucination, ça
- 1:25:24veut dire quoi
- 1:25:25? C'est-à-dire que vous posez la
- 1:25:27question au lelem euh alors il n'a pas
- 1:25:30vraiment compris votre question mais
- 1:25:32quand même il répond et parfois il vous
- 1:25:34vous donne des réponses de n'importe
- 1:25:35quoi. Et donc ça c'est ce qui est un peu
- 1:25:38euh très très compliqué parfois dans le
- 1:25:41dans les LLM. Il faut savoir comment euh
- 1:25:44limiter le c'est-à-dire le
- 1:25:46l'hallucination. Il faut que votre
- 1:25:48application indique au
- 1:25:53llép. Alors justement, c'est ce qu'on va
- 1:25:55faire
- 1:25:56ici dans c'est-à-dire dans quand on va
- 1:25:59poser la question au l'élèm,
- 1:26:01c'est-à-dire cette question là, vous lui
- 1:26:03dites je veux je veux par exemple les
- 1:26:06performances de mon de mon entreprise
- 1:26:08entre 2020. analyse-moi les performances
- 1:26:11de mon de l'entreprise entre 2020 et
- 1:26:132023. Et bien, sachant que dans la base
- 1:26:16de données, il y a déjà les rapports les
- 1:26:19rapports qui sont déjà au format
- 1:26:21vectoriel dans la base de données, et
- 1:26:24ben on va chercher quelles sont les les
- 1:26:26informations qui sont en relation avec
- 1:26:28cette question. Et après, on va demander
- 1:26:31euh au Llm, on va écrire un système
- 1:26:34message. Bon, système message,
- 1:26:35généralement, c'est très simple. Le
- 1:26:36système ige c'est euh on va écrire
- 1:26:39répond répond à la question de
- 1:26:42l'utilisateur répond à la question
- 1:26:44d'utilisateur en utilisant uniquement le
- 1:26:47contexte fourni ce contexte là dans le
- 1:26:49prompt et après vous ajoutez si si le si
- 1:26:53la question ne contient si la la
- 1:26:56question ne contient pas de
- 1:26:58contexte pour la réponse répond avec je
- 1:27:02ne sais pas. C'est-à-dire que si la
- 1:27:05question la réponse à la question ne se
- 1:27:07trouve pas dans ce contexte, bah il
- 1:27:09devrait répondre avec je ne sais pas, il
- 1:27:11doit pas halluciner.
- 1:27:13Alors justement, si vous envoyez cette
- 1:27:16question avec ce ce ce contexte, et ben
- 1:27:20généralement le le LLM, il va vous
- 1:27:22donner des bonnes des bonnes
- 1:27:24réponses. Et c'est avec ça aujourd'hui
- 1:27:27les entreprises créent des chatbot euh
- 1:27:29se vent euh qui permettent tous
- 1:27:31utilisateurs d'interroger, de poser donc
- 1:27:35de poser des questions sur leur un
- 1:27:38contexte et après vous avez des réponses
- 1:27:40vraiment qui sont pertinentes. Alors,
- 1:27:42vous voyez donc une année, ça a commencé
- 1:27:44il y a une année donc le système RAG
- 1:27:45s'est
- 1:27:47développé et
- 1:27:50donc mais c'est-à-dire dans les
- 1:27:53premières
- 1:27:54versions euh donc ça peut marcher
- 1:27:56parfois mais il y a des scénarios dans
- 1:27:58lesquels ça donne pas vraiment des
- 1:27:59choses un peu précises. Donc c'est pour
- 1:28:02cela que la recherche euh a beaucoup euh
- 1:28:05publié beaucoup d'articles dans ce dans
- 1:28:07ce à ce niveau-là. euh en s'intéressant
- 1:28:11à à ce qu'on appelle le multimodal rag
- 1:28:14déjà parce que au début donc on on
- 1:28:16profitait que du
- 1:28:18texte, c'est-à-dire on on prend que le
- 1:28:20texte qui se trouve dans le dans les
- 1:28:22fichiers PDF par exemple, mais en
- 1:28:24réalité dans les fichiers PDF, il y a
- 1:28:26également les
- 1:28:27images. Il y a les images, il y a il y a
- 1:28:29il y a d'autres d'autres ressources.
- 1:28:31Dans ce cas-là, vous avez ce qu'on
- 1:28:33appelle le mul multimodal euh rag.
- 1:28:39Alors dans le le multimodx, c'est un peu
- 1:28:42c'est c'est la même chose, sauf que
- 1:28:44cette fois-ci, on va prendre les
- 1:28:47fichiers PDF qui contiennent des images.
- 1:28:49On peut avoir également des des fichiers
- 1:28:51audio et cetera. C'est-à-dire on peut
- 1:28:52avoir des des une multimodalité.
- 1:28:56Et puis pour le texte, pour les les le
- 1:28:58texte, on sait faire, on va faire texte
- 1:29:00splitter, ça devient des chunks. On fait
- 1:29:02textein, ça devient des vecteurs. On on
- 1:29:04enregistre dans la base de données. Ça
- 1:29:05c'était ce qu'on ce qu'on faisait depuis
- 1:29:08les premières versions du système RAG.
- 1:29:11Alors, quand on trouve une image dans un
- 1:29:13fichier PDF, ce qu'on va faire, c'est
- 1:29:14que on va prendre l'image, on va la
- 1:29:17présenter à un modèle LLM
- 1:29:20multimodale comme par exemple Clip ou
- 1:29:22bien GPT for O. et on va tout simplement
- 1:29:26lui demander de nous donner une
- 1:29:27description de cette image. Alors, vous
- 1:29:29savez qu'aujourd'hui, il y a il y a
- 1:29:31beaucoup de de modèles. Si vous leur
- 1:29:32donnez une image, vous il va vous donner
- 1:29:34la description. Qu'est-ce qu'il y a dans
- 1:29:36cette image ? Et ça, c'est très
- 1:29:37intéressant. Donc je je cherche la
- 1:29:39description de l'image. Et si cette
- 1:29:42description, ça devient du
- 1:29:44texte, c'est du texte. Et puis ce texte
- 1:29:47là, je vais le le convertir en chunks et
- 1:29:49ça devient des vecteurs. Et puis je
- 1:29:51l'enregistre dans la base de données.
- 1:29:53Donc ça veut dire que maintenant dans ma
- 1:29:54base, j'ai le texte de mon fichier PDF
- 1:29:57mais j'ai également le sens,
- 1:29:59c'est-à-dire la description des images,
- 1:30:00ce format
- 1:30:01vectoriel. Alors pour l'audio, c'est
- 1:30:04très simple, on fait la transcription,
- 1:30:06c'estàdire quand vous avez un une vidéo
- 1:30:09ou bien un audio, ben on fait la
- 1:30:10transcription à partir de de de l'audio,
- 1:30:13on obtient du texte.
- 1:30:16Et la même chose donc le texte là on
- 1:30:18fait euh de on fait du texteine et ça
- 1:30:21devient des victoires l'enregistre. Donc
- 1:30:23ça veut dire que techniquement parlant
- 1:30:24aujourd'hui dans les bases de données
- 1:30:26vectorielles, on peut stocker des euh on
- 1:30:29peut avoir des multi modalités,
- 1:30:32c'est-à-dire on peut avoir des
- 1:30:33informations sur le texte, des
- 1:30:34informations sur des images, des
- 1:30:35informations sur l'audio. L'essentiel,
- 1:30:37c'est que vous avez euh toutes les
- 1:30:39données structurées que n'est pas
- 1:30:41capable de de d'exploiter dans les
- 1:30:44systèmes d'information avec les modèles
- 1:30:46de l'intelligence artificielle
- 1:30:47classique. Bah aujourd'hui avec le
- 1:30:49système RAG, on peut on peut le profiter
- 1:30:52de tout
- 1:30:55ça. Et donc une fois qu'on qu'on va
- 1:30:58stocker tous toutes ces modalités dans
- 1:31:00le les bases de données
- 1:31:02vectorielles, bah ce qu'on va faire
- 1:31:03c'est que on va poser la la question au
- 1:31:05RAG. On va lui dire par exemple, on peut
- 1:31:08par exemple cette fois-ci poser une
- 1:31:10question sur un graphique qui concerne
- 1:31:13une information qui se trouve dans un
- 1:31:15graphique de voilà dans le fichier PDF.
- 1:31:19Donc si vous voz ça, c'est très
- 1:31:20intéressant. Et après le système RAG, il
- 1:31:22va faire la recherche sémantique. Il va
- 1:31:24chercher donc les informations, les les
- 1:31:26chunks qui sont en relation avec la
- 1:31:29question et puis on va les
- 1:31:31présenter on va les présenter au LLM.
- 1:31:34Donc cette fois-ci donc système message
- 1:31:36query et le contexte. Cette fois-ci le
- 1:31:38contexte peut contenir de du texte, peut
- 1:31:40contenir des informations sur l'image et
- 1:31:42cetera. Donc l'essentiel c'est que le
- 1:31:44LLM il va répondre et quand il donne la
- 1:31:48réponse et bien maintenant on va donner
- 1:31:51la réponse précise à le à l'utilisateur.
- 1:31:55Alors dans ce cas-là, on parle de ce
- 1:31:56qu'on appelle les
- 1:31:58multimodales. Est-ce que c'est clair ?
- 1:32:10Oui. Voilà. Alors maintenant euh ça
- 1:32:13c'est
- 1:32:14c'est et après donc le même avec ça euh
- 1:32:19parfois il se trouve que dans des
- 1:32:20situations euh c'est très c'est très
- 1:32:23difficile d'avoir des réponses précises.
- 1:32:25Alors, notamment quand il y a une
- 1:32:26question, une grosse question par
- 1:32:28exemple, si vous prenez une question qui
- 1:32:32contient beaucoup beaucoup de choses qui
- 1:32:34qui n'est pas très précise, alors c'est
- 1:32:36très difficile de chercher les chunks
- 1:32:39les plus
- 1:32:40pertinents et parfois ça donne ça donne
- 1:32:42des résultats qui sont pas très bons.
- 1:32:45Alors, c'est la raison pour laquelle
- 1:32:46dans le domaine de la recherche, il y a
- 1:32:49il y a beaucoup de de solutions qui sont
- 1:32:51en train d'être créées et vous-même ça
- 1:32:54peut vous donner des idées sur des
- 1:32:57contributions que vous pouvez faire dans
- 1:32:58ce domaine. Alors, vous avez ce qu'on
- 1:33:00appelle le modèle advanced multimodal
- 1:33:02agentic rag. Alors ça c'est on va
- 1:33:04commencer à introduire la notion de
- 1:33:06agentique. C'est juste ce que je vais
- 1:33:09expliquer juste après. Mais j'explique
- 1:33:12d'abord ce ce advanced, c'est-à-dire les
- 1:33:15modèles maintenant les modèles RAG euh
- 1:33:18qui sont basés sur des
- 1:33:20agents et voilà comment il marche. Donc
- 1:33:23ce que ce qu'on va faire c'est que on va
- 1:33:25prendre les les fichiers PDF par exemple
- 1:33:27qui contient de du texte et des images.
- 1:33:30On va passer par d'abord une opération
- 1:33:32qui s'appelle le parser. Le parser,
- 1:33:35c'est quoi ? C'est le c'est
- 1:33:36l'opération que vous allez utiliser pour
- 1:33:39convertir votre texte en on va extraire
- 1:33:43de du fichier PDF, on va extraire du
- 1:33:45texte, on va extraire les tables parce
- 1:33:48que parfois dans des documents PDF, il y
- 1:33:50a des tables
- 1:33:52tableaux. Vous savez que les tables ce
- 1:33:55n'est pas comme le texte. c table c'est
- 1:33:56c'est c'est presque c'est du c'est des
- 1:33:59du texte
- 1:34:00semistructuré. Donc c'est-à-dire que
- 1:34:02dans le modèle classique, il considère
- 1:34:05quand il trouve une table, il prend
- 1:34:07comme un texte simple alors qu'en
- 1:34:10réalité les tables, ils doivent être
- 1:34:11traités d'une manière différente parce
- 1:34:13qu'il contient des informations plus
- 1:34:15précises, plus pertinentes. Donc on va
- 1:34:18ici donc c'est pareil, on va stocker les
- 1:34:20textes, on va récupérer les textes, on
- 1:34:22va récupérer les les tables ou bien les
- 1:34:24tableaux.
- 1:34:26et puis on va récupérer les images.
- 1:34:28Alors, sauf que les images qu'on va
- 1:34:30récupérer bien sûr, c'est la description
- 1:34:31des images. Donc, c'est ce que je viens
- 1:34:33de dire tout à l'heure. Donc, j'ai une
- 1:34:35image, je la stock mais je vais aller
- 1:34:38vers un LM qui va me donner la
- 1:34:40description. Donc, une ça c'est la
- 1:34:42première opération, c'est ce qu'on
- 1:34:43appelle il faut utiliser un parce qui
- 1:34:45permet d'abord de faire ça. Donc
- 1:34:47aujourd'hui, donc il y a plein de
- 1:34:48librairies qui sont capables de vous
- 1:34:50faire ce ce genre de
- 1:34:52travail. Après, on va passer via le
- 1:34:54chunker. Donc le chckle maintenant c'est
- 1:34:56le c'est le la l'algorithme ou bien
- 1:34:58c'est le la méthode qui va permettre de
- 1:35:01découper euh c'est-à-dire votre texte et
- 1:35:03vos tables euh et votre description des
- 1:35:06images en
- 1:35:07chunks. Donc ce texte-là ça devient donc
- 1:35:10vous avez les chunks des des du texte,
- 1:35:13les différents chunks pour les tables et
- 1:35:15les chunks qui représentent les
- 1:35:18images. Alors ici donc il y a des
- 1:35:20stratégies, la même chose ici donc il y
- 1:35:21a
- 1:35:22de c'est-à-dire il y a de la recherche
- 1:35:25le chunker je peux toujours proposer une
- 1:35:28nouvelle technique un peu plus
- 1:35:30pertinente par rapport à des caps
- 1:35:33précis. Donc il y a pas il y a pas mal
- 1:35:35de choses qui se font à ce niveau-là.
- 1:35:39Alors après par la suite euh on peut
- 1:35:42avant d'enregistrer ces chunks dans une
- 1:35:44base de données
- 1:35:46vectorielles, on peut améliorer parfois
- 1:35:48les choses en en utilisant en ajoutant
- 1:35:51dans le le pipeline une opération qui
- 1:35:52s'appelle hypothetical questions. Alors
- 1:35:55hypothetical question c'est quoi ? C'est
- 1:35:58que c'est le fait de prendre par exemple
- 1:36:00un chunk. Je prends un
- 1:36:03chunk et après j'envoie une requête vers
- 1:36:05un LLM.
- 1:36:07parce que t toutes ces opérations là euh
- 1:36:10j'utilise un modèle de
- 1:36:12lia un modèle quelconque, ça peut être
- 1:36:14un llou un simple modèle et bien je vais
- 1:36:17lui poser lui donner le chunk et après
- 1:36:20je vais lui donner de me générer des
- 1:36:22questions un ensemble de
- 1:36:26questions en relation avec ce chunk.
- 1:36:29C'est comme si vous lui dites génère-moi
- 1:36:32cinq
- 1:36:34questions ou quelle réponse ce chin.
- 1:36:38Alors maintenant les ll sont capables de
- 1:36:39vous donner ça. Donc si vous prenez un
- 1:36:42texte, vous le donnez à chat GPT, vous
- 1:36:44lui dites sur ce texte là donne-moi 5
- 1:36:46questions.
- 1:36:48À propos de ce texte là donne-moi 5
- 1:36:50questions et ben il va vous générer 5
- 1:36:51questions. Donc ça c'est ça c'est le
- 1:36:53modèle hypothetical questions. Alors
- 1:36:56maintenant, une fois que j'ai ces
- 1:36:57questions là, je vais les ajouter, je
- 1:36:59vais les enregistrer également dans la
- 1:37:02la base de données vectoriell,
- 1:37:03c'est-à-dire quand quand je vais passer
- 1:37:05au modèle de quand je vais créer les
- 1:37:08chunks, maintenant je vais avoir les
- 1:37:10chunks. Mais dans les chunks, à côté des
- 1:37:13chunks, il y a des questions
- 1:37:15supplémentaires, c'est-à-dire potentiel
- 1:37:17potentiellement des types de questions
- 1:37:19auxquelles ce répond. Et ça c'est ça ça
- 1:37:21augmente la précision.
- 1:37:25Et puis donc on va faire le embedidin.
- 1:37:28Donc ici donc le texte embedid, on va
- 1:37:30passer par le
- 1:37:31le c'est c'est-à-dire on enregistre le
- 1:37:35la discr les embeddiens, c'est-à-dire
- 1:37:36les vecteurs et tous ces vecteurs bien
- 1:37:39sûr qui représentent ce ces chens donc
- 1:37:42vont être enregistrés dans la base de
- 1:37:44données. Alors ça c'est si vous voulez
- 1:37:46dans le système RAX, ça c'est la
- 1:37:47première partie. La première partie,
- 1:37:49c'est la partie ce qu'on appelle
- 1:37:51l'ingjestion et euh indexing pipeline.
- 1:37:54Ingestion et indexing pipeline. Donc
- 1:37:58c'est-à-dire c'est l'injestion des
- 1:38:00données, donc c'est-à-dire la
- 1:38:02la collecte de data, lire les données à
- 1:38:05partir des fichiers et puis on va les
- 1:38:08indexer. On va indexer ce contenu là non
- 1:38:10structuré dans une base de données
- 1:38:11vectorielle.
- 1:38:13C'est l'indexation de du contenu.
- 1:38:15l'indexation du
- 1:38:18contenu. Est-ce que c'est clair pour
- 1:38:20cette partie ?
- 1:38:28Oui, c'est clair. OK. Alors maintenant,
- 1:38:30on a la deuxième partie. Maintenant,
- 1:38:32c'est la partie query, c'est-à-dire
- 1:38:34c'est la partie de de génération. la
- 1:38:37partie, c'est-à-dire générer les les
- 1:38:39réponses. Alors, dans la partie euh
- 1:38:41génération de réponses, maintenant euh
- 1:38:44vous allez avoir un utilisateur qui va
- 1:38:46poser la question à un agent. Alors, ça
- 1:38:49pour le moment pour vous, un agent c'est
- 1:38:51quoi ? Je sais pas. Euh c'est ce qu'on
- 1:38:53va on va détailler dans dans la suite.
- 1:38:57Donc, on va poser la question à un
- 1:38:58agent. Et cet agent-là euh bah tout
- 1:39:01simplement cette application, qu'est-ce
- 1:39:02qu'il va faire ? Ben, il va d'abord
- 1:39:05normalement il va envoyer il va envoyer
- 1:39:08une question vers le c'est-à-dire vers
- 1:39:10la la base de données pour chercher les
- 1:39:12les c'est-à-dire pour chercher le
- 1:39:14contexte. Mais avant d'envoyer la
- 1:39:16question vers la base de données, il va
- 1:39:18passer par des opérations. Parmi les
- 1:39:20opérations qui sont très importantes, il
- 1:39:23y a l'agent il fait une opération qui
- 1:39:25s'appelle query
- 1:39:26expansion. Alors ça veut dire quoi query
- 1:39:28expansion ? Query expansion, c'est quand
- 1:39:31vous posez une question qui est qui est
- 1:39:32généralement complexe, vous avez parfois
- 1:39:35une question qui est complexe se font
- 1:39:37d'un paragraphe et query expansion, ça
- 1:39:40consiste à envoyer la
- 1:39:43question la question vers le
- 1:39:45LLM, c'est-à-dire ça c'est la question
- 1:39:48de
- 1:39:49l'utilisateur. Et après le lem, il va
- 1:39:51décomposer cette question, il va la
- 1:39:53décomposer en trois questions. question
- 1:39:561, la première partie de la question, la
- 1:39:58deuxième partie de la question et la
- 1:40:00troisème partie de la question. C'est
- 1:40:02comme si vous dites par exemple, je
- 1:40:03voudrais savoir la je voudrais savoir
- 1:40:06quels sont euh quels sont par exemple
- 1:40:08les performances de mon
- 1:40:10entreprise au niveau de la bourse, au
- 1:40:12niveau socioéconomique, au niveau je
- 1:40:14sais pas quoi. Donc vous vous posez des
- 1:40:16questions dans laquelle il y a plein de
- 1:40:17choses. Alors dans ce cas et query
- 1:40:20expansion, il va essayer de de
- 1:40:22décomposer la question en un ensemble de
- 1:40:25questions précises
- 1:40:27élémentaires. Et puis par la suite ça va
- 1:40:30être encore plus intéressant parce qu'on
- 1:40:32va envoyer les requêtes vers le on va
- 1:40:35faire le texte bidine de ces questions
- 1:40:37cette fois-ci maintenant
- 1:40:40quedine et puis on va chercher dans la
- 1:40:43base de données quels sont les chs qui
- 1:40:45sont en relation avec ces différentes
- 1:40:49questions. Donc cette fois-ci donc je
- 1:40:51vais chercher quels sont les les
- 1:40:52paragraphes qui sont en relation avec
- 1:40:54cette question. les paragraphes qui sont
- 1:40:57en relation avec cette deuxième partie
- 1:40:58de la question et les paragraphes qui
- 1:41:01sont en relation avec cette partie de la
- 1:41:03question. Et là, je récupère le
- 1:41:05contexte. Vous voyez donc ici donc je
- 1:41:08récupère le
- 1:41:12contexte mais là ça devient encore plus
- 1:41:15précis. Alors maintenant ici ça c'est
- 1:41:18une étape l'agent. l'agent lui euh parce
- 1:41:21que quand vous dites une étape,
- 1:41:23forcément derrière une étape, il y a un
- 1:41:25modèle d'intelligence artificielle.
- 1:41:27Alors, vous n'êtes pas obligé d'utiliser
- 1:41:28un LM. Parfois on fait appel à des
- 1:41:31modèles de classification que vous
- 1:41:33développez et qui vont vous permettre de
- 1:41:35générer euh des choses un peu plus
- 1:41:37précises par exemple.
- 1:41:40Et donc je récupère le le les chunks et
- 1:41:43même quand je récupère ces ces chunks,
- 1:41:46je peux encore faire quelque chose. On
- 1:41:49peut ajouter d'autres opérations.
- 1:41:50L'agent, il peut faire d'abord une
- 1:41:52opération de compression. Alors pourquoi
- 1:41:54compression ? parce que parfois il se
- 1:41:55trouve que vous allez récupérer beaucoup
- 1:41:57de chunks à partir de de la base de
- 1:41:59données. Et après ces chunks là, on va
- 1:42:02essayer de les résumer. Vous savez que
- 1:42:05la compression, c'est le fait de
- 1:42:06d'envoyer votre question à
- 1:42:11Ll, un modèle d'intelligence
- 1:42:14artificielle et vous lui donnez de de
- 1:42:15vous donner le
- 1:42:16résumé. Donc de donc faire une opération
- 1:42:20de
- 1:42:21résumé summarize par exemple.
- 1:42:25il vous donne il vous donne le
- 1:42:27c'est-à-dire tous ces chunks là, on va
- 1:42:29les les synthétiser dans un dans un dans
- 1:42:32un contenu. Il y a une autre opération
- 1:42:35qu'on fait également, c'est ce qu'on
- 1:42:36appelle
- 1:42:37ranking. Alors c'est ça veut dire quoi
- 1:42:39ranking ? Parce que vous savez que dans
- 1:42:41les bases de données vectorielles, quand
- 1:42:42vous lui dites quels sont les les chunks
- 1:42:45les plus proches de cette question, il
- 1:42:47va vous donner 5 par exemple parce que
- 1:42:49c'est à vous de préciser combien de
- 1:42:50chunks que vous voulez. il va vous
- 1:42:52donner les 5 mais les 5 il va les
- 1:42:54classer. Il va vous dire voilà le prier,
- 1:42:56le 2e, le 3e, le 4e selon selon bien sûr
- 1:42:59la la
- 1:43:01similarité. Et après ce qu'on peut faire
- 1:43:03parfois c'est de faire le ranking,
- 1:43:05c'est-à-dire que avec le classement
- 1:43:06qu'il a donné le modèle, je peux
- 1:43:09utiliser encore un modèle de lia qui me
- 1:43:11permet de reclasser peut-être le deuxème
- 1:43:15chin, il est il devient le premier et le
- 1:43:17trisème devient le deuxè. C'est-à-dire,
- 1:43:19je je peux faire un rer ranking en
- 1:43:21utilisant également euh un modèle de de
- 1:43:25un modèle euh de de LIA qui permet de
- 1:43:28faire cette
- 1:43:30opération. Alors ça peut être dans la
- 1:43:31majorité des cas, c'est des LLMS mais on
- 1:43:34utilise pas le même ll chaque fois on
- 1:43:36utilise un lm qui est F tun précis. Par
- 1:43:40exemple Renkin, vous utilisez, il y a
- 1:43:42des modèles qui sont spécialisés dans
- 1:43:44Renin. La même chose pour chaque la
- 1:43:46compression, la même chose. Il y a des
- 1:43:48LLM qui sont déjà fonés dans ce domaine.
- 1:43:50Et vous vous pouvez créer votre propre
- 1:43:52modèle qui fait qui fait qui fait ce
- 1:43:58travail. Et donc je j'obtiens donc les
- 1:44:00chens et puis je vais envoyer maintenant
- 1:44:04ça au LLM. Maintenant, ça c'est le LLM
- 1:44:07auquel je peux faire confiance,
- 1:44:09c'est-à-dire que l'agent va utiliser
- 1:44:11pour donner pour générer la réponse.
- 1:44:13J'envoie la requête.
- 1:44:15Alors maintenant quand j'envoie le le
- 1:44:17prompt plus le
- 1:44:18contexte, je peux encore euh l'agent il
- 1:44:21peut faire une autre opération qui
- 1:44:22s'appelle
- 1:44:23optimizage. Alors pour éviter de
- 1:44:25présenter un contexte parfois qui est
- 1:44:27trop complexe au LLM, on peut utiliser
- 1:44:31des modèles qui vont prendre le contexte
- 1:44:33fourni et on va l'optimiser. Il va
- 1:44:37souvent c'est des c'est des c'est un
- 1:44:40c'est un résumé, ça peut être
- 1:44:43c'est-à-dire une réécriture du contexte
- 1:44:46de manière un peu plus plus pertinente.
- 1:44:49Et après j'envoie le contexte vers le
- 1:44:51LLM et le LM va répondre.
- 1:44:55Et quand le LLM va donner la réponse, et
- 1:44:58ben cette réponse là, on va pas la
- 1:45:00donner au client avant de la filtrer.
- 1:45:03Donc il y a une autre opération ce que
- 1:45:05l'agent va faire, c'est ce qu'on appelle
- 1:45:08content filter. Alors content filter,
- 1:45:11c'est une opération euh qui qui va
- 1:45:14prendre la réponse et de la filtrer.
- 1:45:17Pourquoi la filtrer ? parce que parfois
- 1:45:20il y a des règles de d'éthique par
- 1:45:22exemple et des règles de sécurité qu'il
- 1:45:25faut respecter. Donc par exemple dans
- 1:45:28les règles d'éthiques, il faut d'abord
- 1:45:29prendre ce contenu, on va l'envoyer à un
- 1:45:33lm qui définit les règles d'éthiques. Et
- 1:45:36après, le ll va nous dire est-ce que ce
- 1:45:38contenu là ne viole pas euh le
- 1:45:41c'est-à-dire les règles de l'éthique ?
- 1:45:43Alors si s'il viole les règles de
- 1:45:44l'éthique, donc je dois encore venir
- 1:45:46vers la vers le ll pour lui dire ça.
- 1:45:48Comme quoi là c'est c'est pas le c'est
- 1:45:50pas le bon résultat. Et une fois que qui
- 1:45:54c'est-à-dire que le contenu est filtré,
- 1:45:56c'est-à-dire il y a pas de quelque chose
- 1:45:59d'anormal, euh donc c'est à ce moment-là
- 1:46:01que qu'on va envoyer la réponse vers
- 1:46:04l'utilisateur. Et ça c'est très très
- 1:46:06récent ce que ce que vous voyez ici,
- 1:46:08c'est-à-dire dans le domaine de la
- 1:46:10recherche dans ce domaine de de du
- 1:46:12système RAG. Maintenant euh sur chaque
- 1:46:15niveau, sur chaque niveau, vous pouvez
- 1:46:17planter des modèles, c'est-à-dire vous
- 1:46:19pouvez par exemple intervenir, cr
- 1:46:22proposer des solutions sur différentes
- 1:46:24parties des des modèles. Et ça fait
- 1:46:26souvent des c'est-à-dire des
- 1:46:28contributions qui sont intéressantes
- 1:46:30parce que les systèmes
- 1:46:32rag-à-dire au fur et à mesure que vous
- 1:46:34qu'on ajoute, c'est-à-dire ces ces ces
- 1:46:37fonctionnalités, ça devient plus précis
- 1:46:39et on commence à avoir des agents des
- 1:46:41des chatbot, des des applications qui
- 1:46:44sont capables d'apporter des réponses
- 1:46:45qui sont très très
- 1:46:47précises. Et donc ça c'est ce qu'on
- 1:46:49appelle une solution agentique agentique
- 1:46:52multimodal d'abord parce que il y a
- 1:46:54plusieurs modalités.
- 1:46:57advanced parce que on ajoute beaucoup de
- 1:47:00beaucoup de de
- 1:47:02d'opérations. Sur chaque étape, on
- 1:47:04ajoute des
- 1:47:08opérations de filtrage, de compression
- 1:47:10et cetera et
- 1:47:12cetera. Et après agentique parce que
- 1:47:14tout ça c'est piloté par un agent. Donc
- 1:47:17maintenant, c'est ce qui manque
- 1:47:18maintenant à vos à ce système là. C'est
- 1:47:20quoi un un agent et comment les agents
- 1:47:23vont communiquer avec les LLM. Donc ce
- 1:47:26qui fait que voilà donc toutes ces
- 1:47:29solutions là sont agentiques. Donc c'est
- 1:47:31ce que nous allons essayer de voir
- 1:47:35après. Donc ça c'est la
- 1:47:40partie
- 1:47:42indexing. Ça c'est la partie generation.
- 1:47:48C'est la
- 1:47:49génération. Là, on génère les réponses.
- 1:47:52Là, on indexe le contenu. Donc, vous
- 1:47:53voyez donc ici, donc ça c'est
- 1:47:55l'indexation du contenu et ça c'est la
- 1:47:57partie le génération de des
- 1:48:01réponses. Est-ce que c'est clair ? Je
- 1:48:04pense que il y a pas mal de de choses à
- 1:48:07retenir ici. Oui, c'est clair.
- 1:48:10C'est parfait. Alors, comme c'est clair,
- 1:48:13je vais aussi parler de du
- 1:48:15concept. Alors, je vais parler de des
- 1:48:18agents euh justement pour compléter ces
- 1:48:21concepts là. Et après, donc après c'est
- 1:48:25la partie des mots donc mais la partie
- 1:48:26des mots, il y a des applications, pas
- 1:48:27mal de choses qui qui vraiment c'est la
- 1:48:30partie la plus ce n'est pas la partie la
- 1:48:32plus compliquée, mais c'est très
- 1:48:34important de savoir comment matérialiser
- 1:48:37ce ce qu'on est en train de dire.
- 1:48:41Alors, d'abord, c'est quoi un un AI
- 1:48:43agent ? Donc la notion maintenant
- 1:48:46agentique. Alors, un agent c'est un
- 1:48:49agent un AI agent. Donc c'est un comme
- 1:48:52il est décrit par le framework un
- 1:48:54framework qui s'appelle React. Donc ça
- 1:48:56c'est un framework.
- 1:49:02Faites attention ce React que vous voyez
- 1:49:04là pour les gens qui qui développent des
- 1:49:06applications. Ça n'a rien à voir avec
- 1:49:08React JS que vous qu'on utilise pour
- 1:49:11développer des applications. Non, ça n'a
- 1:49:12rien à voir. Alors React ça veut dire
- 1:49:14quoi ? Ça veut dire il y a raison
- 1:49:15action. Donc c'est un modèle de c'est un
- 1:49:19c'est un framework de dans le domaine de
- 1:49:21l'intelligence artificielle. Resoning
- 1:49:23action. C'est quoi le principe ? Le
- 1:49:26principe c'est que vous avez un
- 1:49:29agent qui est une entité autonome
- 1:49:32d'abord qui est autonome qui a d'abord
- 1:49:34un but à
- 1:49:36atteindre et qui peut
- 1:49:38raisonner. Raisonner, ça veut dire
- 1:49:40penser. Alors, il va raisonner en se
- 1:49:42basant sur un contexte. C'est-à-dire que
- 1:49:45l'agent euh si vous lui fournissez le
- 1:49:47contexte, c'est quoi le contexte ? Ça
- 1:49:49peut être du texte, ça peut être une
- 1:49:51image, ça peut être par exemple une
- 1:49:54caméra qui qui va visualiser un peu le
- 1:49:56contexte, c'est l'environnement. Donc
- 1:49:58généralement le contexte ça donne un
- 1:50:00cliché de l'environnement. Donc en
- 1:50:02fonction d'une abstraction de
- 1:50:04l'environnement, ben l'agent il est
- 1:50:06capable de raisonner.
- 1:50:08Et pour raisonner généralement
- 1:50:09aujourd'hui il y a pas il y a pas mieux
- 1:50:10que LLM les larges language models parce
- 1:50:15que maintenant les modèles comme GPT4
- 1:50:17par exemple ou Lama ou d'autres modèles
- 1:50:20et ben si vous voule présenter un
- 1:50:21contexte on vient de voir ils peuvent
- 1:50:23vous donner ils peuvent vous donner quoi
- 1:50:26faire et ben justement il va
- 1:50:32raisonner donc l'agent il va d'abord
- 1:50:35raisonner ça c'est la première partie
- 1:50:37Une fois qu'il raisonne, il va euh
- 1:50:41déterminer quelle est l'action optimale
- 1:50:43à prendre. Action. Donc c'est-à-dire que
- 1:50:46l'agent euh en suite à un raisonnement,
- 1:50:49il va déterminer quelle est l'action
- 1:50:51optimale à prendre. Donc il va agir de
- 1:50:53manière autonome sur
- 1:50:57l'environnement. Alors il va agir sur
- 1:50:59l'environnement. Donc, c'est-à-dire euh
- 1:51:01généralement l'agent il va il va faire
- 1:51:04appel pour les applications. CPJ, il va
- 1:51:06consulter une base de une fonction, il
- 1:51:09va se connecter internet, il va envoyer
- 1:51:12un mail, il va l'essentiel c'est que
- 1:51:14agir, il euh c'est-à-dire que l'agent
- 1:51:17dispose de ce qu'on appelle d'un
- 1:51:19environnement dans lequel il trouve ce
- 1:51:21qu'on appelle les outils, les les
- 1:51:24tools. Et après une fois qu'il va
- 1:51:26raisonner, bah ce raisonnement, ce LLM
- 1:51:29va déterminer quelle est l'action
- 1:51:30optimale à prendre. Donc ce qui fait que
- 1:51:33l'agent, il va agir sur l'environnement
- 1:51:36et quand il va agir sur l'environnement,
- 1:51:38l'environnement va lui donner des un
- 1:51:41retour, le feedback. Et bien ce
- 1:51:43feedback, c'est ce qu'on appelle les
- 1:51:44observations. Donc l'agent, il va
- 1:51:46collecter les observations à partir de
- 1:51:49l'environnement et on va reboucler,
- 1:51:51c'est-à-dire voyez donc raisonner. Une
- 1:51:54fois qu'il va raisonner, il va décider
- 1:51:55quelle est l'action optimale à prendre.
- 1:51:57Une fois qu'il va prendre l'action
- 1:51:59optimale, il va collecter les
- 1:52:01observation. Et ces observations, on va
- 1:52:03encore les envoyer vers le Lélim pour
- 1:52:05raisonner. Ensuite, il va encore
- 1:52:07déterminer quelle est l'action optimale
- 1:52:09à prendre. Ensuite, il va récupérer de
- 1:52:13nouvelles observations. On va encore
- 1:52:15présenter ces observations euh vers le
- 1:52:17le le LLM, c'est-à-dire le modèle. Il va
- 1:52:21raisonner et cetera. jusqu'à ce que
- 1:52:24jusqu'à ce que le les le j'ai l'ensemble
- 1:52:28des observations qui sont suffisantes
- 1:52:29pour générer le le la
- 1:52:32réponse et à la fin je génère la
- 1:52:34réponse. Donc ça c'est c'est ça le le
- 1:52:37framework React. Le framework React donc
- 1:52:40il est défini comme
- 1:52:42ça. Alors et puis vous avez le vous avez
- 1:52:45le voilà donc vous avez l'agent en
- 1:52:47quelque sorte c'est ça. Donc vous avez
- 1:52:50l'agent elle est là.
- 1:52:53Alors l'agent il a d'abord un un
- 1:52:56cerveau. Vous voyez donc un cerveau, un
- 1:53:00agent aujourd'hui ce n'est pas comme les
- 1:53:02agents longtemps. Aujourd'hui, un agent
- 1:53:04son cerveau, c'est le LLM. C'est-à-dire
- 1:53:07à chaque fois il va il va envoyer un un
- 1:53:09prompt. Donc c'est-à-dire un agent, il a
- 1:53:11un
- 1:53:12prompt et ce prompt là c'est lui qui
- 1:53:16définit le but à atteindre.
- 1:53:18Donc le le but à atteindre, on le décrit
- 1:53:20généralement dans le promte qu'on va
- 1:53:22donner à
- 1:53:23l'agent. Et donc l'agent, il va utiliser
- 1:53:25LLM. Il va utiliser le le LLM pour
- 1:53:29raisonner. Donc ça c'est la partie
- 1:53:32pensée. Vous voyez ? Donc il va penser.
- 1:53:35Une fois qu'il va penser, qu'est-ce
- 1:53:37qu'il va le ll va déterminer quel est il
- 1:53:39va euh donner à l'agent quelle est
- 1:53:43l'action optimale à prendre. Donc
- 1:53:45c'est-à-dire c'est leelemm qui va
- 1:53:46répondre à la jangle pour lui dire euh
- 1:53:49maintenant sachant ce contexte là ce que
- 1:53:51tu vas faire. Et donc l'agent il va agir
- 1:53:54il va agir en utilisant ce qu'on appelle
- 1:53:56les tools sur l'environnement. Alors,
- 1:53:59cet environnement, c'est ce qu'on
- 1:54:00appelle également euh action space.
- 1:54:02C'est l'espace de des des
- 1:54:04actions. Et donc, une fois qu'on va agir
- 1:54:06sur l'environnement, par exemple
- 1:54:08l'action, ça peut être accéder à une
- 1:54:10base de données ou là euh accéder à
- 1:54:12utiliser un capteur ou envoyer un email
- 1:54:15ou peut-être chercher sur au niveau du
- 1:54:18web. Parce que pour répondre à la
- 1:54:19question, parfois le l'agent il va il va
- 1:54:22agir, il va faire quelque chose, il va
- 1:54:25commander un système industriel, il va
- 1:54:27donc c'est-à-dire c'est le LLM qui va
- 1:54:29lui dire ce qu'il doit faire et puis euh
- 1:54:32après il y a les observations.
- 1:54:34C'est-à-dire une fois que j'exécute
- 1:54:35l'agent exécute une action, il va avoir
- 1:54:38un retour, c'est-à-dire il y a un
- 1:54:40résultat. Donc ces observationsl et ces
- 1:54:43observations, on va encore les envoyer
- 1:54:44vers le
- 1:54:46LLM, c'est-à-dire ce niveau-là.
- 1:54:49Et après la donc il va penser, il va
- 1:54:53déterminer quelle est l'action optimale
- 1:54:54à prendre. On collecte les observations
- 1:54:57et on va encore revenir vers le le
- 1:55:00cerveau. On va penser, on détermine
- 1:55:02quelle est l'action optimale à prendre.
- 1:55:04Les observations jusqu'à ce que
- 1:55:07j'obtiens l'ensemble des observations
- 1:55:09qui déterminent le contexte suffisant
- 1:55:12pour répondre à à la question. C'est à
- 1:55:15ce moment-là que on va générer la la
- 1:55:19réponse, la la solution finale. Alors ça
- 1:55:22c'est c'est comme ça que ça marche
- 1:55:24l'agent. Alors quand vous l'avez
- 1:55:25constaté en fait c'est c'est quoi ça ?
- 1:55:27C'est quel type d'apprentissage ?
- 1:55:33C'est exactement donc ça c'est de
- 1:55:34l'apprentissage par renforcement. On en
- 1:55:36a déjà parlé, c'est que dans
- 1:55:38l'apprentissage par renforcement, vous
- 1:55:39avez l'agent qui va agir sur
- 1:55:42l'environnement en utilisant des tools.
- 1:55:45L'environnement va euh donner un
- 1:55:47feedback, c'est des observations, c'est
- 1:55:49ce qui diminue le contexte. Et une fois
- 1:55:52que l'agent a les observations, il va
- 1:55:53les présenter vers le LLM euh
- 1:55:56c'est-à-dire son cerveau. Donc le
- 1:55:58cerveau de l'agence, c'est LLM. Euh et
- 1:56:01après le LLM va lui donner il va lui
- 1:56:03donner quelle est l'action optimale à
- 1:56:04prendre. Donc il va encore agir sur
- 1:56:07l'environnement. Il collecte les
- 1:56:09observations. On va vers le LLM, il va
- 1:56:12lui dire quelle est l'action à prendre.
- 1:56:14Il prend l'action et à chaque fois qu'il
- 1:56:16prend une action, l'état de l'agent va
- 1:56:20changer. Donc il va passer d'un état à
- 1:56:22l'autre. Parce qu'en fait quand on est
- 1:56:24dans quand on prend une action, on a un
- 1:56:26feedback et l'état de l'agent
- 1:56:28généralement il est défini dans la
- 1:56:30mémoire. Alors, si vous vous rappelez
- 1:56:32tout à l'heure, j'avais dit que les LLM
- 1:56:34sont stateless. Stateless, c'est-à-dire
- 1:56:36le LLM ne le ll ne peut pas se rappeler
- 1:56:39de cette
- 1:56:40conversation. Il peut pas savoir. Donc
- 1:56:43le si vous voulez garder la conversation
- 1:56:46euh c'est-à-dire l'historique des de la
- 1:56:48conversation euh avec le avec l'agent de
- 1:56:52l'agent et l'agent va utiliser sa
- 1:56:54mémoire. Alors maintenant, si je reviens
- 1:56:57à ce que je vous ai montré tout à
- 1:56:58l'heure, c'est à peu près ça
- 1:57:05notre voyez donc c'est-à-dire notre
- 1:57:08agent il envoie de il communique avec le
- 1:57:10LLM et l'agent il a une mémoire et après
- 1:57:14la mémoire donc il y a différents types
- 1:57:16de mémoire. Donc ça c'est encore il y a
- 1:57:18des articles, il y a plein d'articles
- 1:57:19qui travaillent sur les différentes
- 1:57:20mémoires. Context memory, summarized
- 1:57:23memory, semantic memory, persistent
- 1:57:25memory et cetera. Donc tout ça, on aura
- 1:57:27l'occasion de d'y revenir en
- 1:57:39pratique. Alors, d'abord, est-ce que
- 1:57:41c'est clair la définition d'un agent ?
- 1:57:46Oui, monsieur. Juste une question pour
- 1:57:48les agents. Est-ce que un agent il doit
- 1:57:50on doit savoir toujours le LLMs ? Par
- 1:57:53exemple, moi dans mon domaine, si je je
- 1:57:55crée un modèle Iou qui permet par
- 1:57:58exemple de par exemple dans le domaine
- 1:58:00d'automobile qui
- 1:58:01détecte euh les lignes de de la route.
- 1:58:05Oui. Et euh se positionne donc il la
- 1:58:08position du véhicule par rapport aux
- 1:58:10lignes et après il il acte pour réguler
- 1:58:13la position du véhicule. Oui. Est-ce
- 1:58:16qu'on peut on peut considérer comme un
- 1:58:18agent ? Oui, bien sûr. Alors, si vous
- 1:58:20prenez le même donc vous remplacez le
- 1:58:22LLM par un modèle de diplurine par
- 1:58:25exemple, bah ça peut être un modèle de
- 1:58:27diplurine, ça peut être le votre modèle
- 1:58:29qui permet avec lequel vous raisonnez.
- 1:58:32Alors sauf que pour les problèmes
- 1:58:35complexes, les c'est ça ce qu'il faut
- 1:58:37savoir, c'est que pour les problèmes
- 1:58:38plus complexes, généralement, il y a pas
- 1:58:41mieux. C'est ça le il y a pas mieux que
- 1:58:44elm aujourd'hui. Ouais. Donc ce qui fait
- 1:58:47que même si tu utilises un modèle
- 1:58:49spécifique, il faut si ton modèle
- 1:58:50spécifique il est performant, bon c'est
- 1:58:52bon. Donc tu peux monter ton agent mais
- 1:58:55c'est c'est si si c'est c'est pas le
- 1:58:57cas. Il faut tester également avec des
- 1:58:59LLM multimodo, avec du F tuning et
- 1:59:02souvent souvent ça donne des choses plus
- 1:59:04intéressante.
- 1:59:07D'accord. Merci monsieur.
- 1:59:10Est-ce que c'est clair pour les autres ?
- 1:59:13Je peux avancer
- 1:59:15? Oui.
- 1:59:17Oui. Oui.
- 1:59:21Alors maintenant donc ça c'est la
- 1:59:23définition d'un agent et après bon il y
- 1:59:24a la notion maintenant système
- 1:59:25multiagent. Alors, le système multiagent
- 1:59:29euh c'est tout simplement c'est un
- 1:59:31système dans lequel finalement on va
- 1:59:32utiliser plusieurs agents qui vont
- 1:59:35collaborer entre eux euh pour résoudre
- 1:59:38des problèmes complexes.
- 1:59:40Et généralement la notion d'agent euh et
- 1:59:43et si vous voulez euh euh dans la
- 1:59:46définition un système multiagent, donc
- 1:59:47c'est un système généralement
- 1:59:49distribué qui est composé d'un ensemble
- 1:59:52d'agents qui sont chaque agent est
- 1:59:54localisé dans son propre environnement.
- 1:59:57Les agents sont capables d'interagir
- 1:59:59entre eux selon une organisation.
- 2:00:04Et donc on peut voir un agent comme ça.
- 2:00:07Donc un agent il a une mémoire, il a un
- 2:00:10modèle d'intelligence
- 2:00:12artificielle. Un agent se trouve dans un
- 2:00:14environnement. Donc les trois dimensions
- 2:00:16d'un agent, c'est l'environnement.
- 2:00:18Alors, l'environnement c'est c'est celui
- 2:00:20c'est c'est donc ici l'environnement
- 2:00:22c'est un ensemble de de fonctions un
- 2:00:24ensemble de tools généralement pour pour
- 2:00:29qui que l'agent peut utiliser pour
- 2:00:31travailler. Donc c'est-à-dire que dans
- 2:00:33un système industriel ou bien un système
- 2:00:34quelconque, il faut définir quels sont
- 2:00:36les tools que l'agent peut utiliser.
- 2:00:38Donc ça c'est la la la même chose, la
- 2:00:41première des
- 2:00:42choses. Et justement à ce niveau-là, il
- 2:00:45y a des il y a un protocole qui vient
- 2:00:47d'être créé tout récemment par un qui
- 2:00:51s'appelle MCP, modèle context protocole.
- 2:00:54Donc pour pouvoir pour faire profiter
- 2:00:56les agents des outils qui existent
- 2:00:58facilement pour pour que qu'un agent
- 2:01:00puisse exploiter euh des des tools qui
- 2:01:03sont développés avec différents langages
- 2:01:05de programmation de manière très simple,
- 2:01:07et bien il y a un protocole qui est très
- 2:01:09intéressant euh qu'il faut connaître qui
- 2:01:12s'appelle MCP modèle contexte protocole.
- 2:01:15Donc j'aurai l'occasion de le le
- 2:01:17détailler. Et puis donc vous avez donc
- 2:01:20l'agent il vit dans un environnement et
- 2:01:22après il va interagir. Il y a
- 2:01:24l'interaction la trè la deuxième
- 2:01:26dimension c'est que l'agent il va
- 2:01:28interagir avec d'autres agents. Alors
- 2:01:30maintenant pour l'interaction vous avez
- 2:01:32un agent peut communiquer avec un autre
- 2:01:33agent. Ici il y a un protocole qui vient
- 2:01:36d'être créé et qui est en train de de
- 2:01:40finaliser la spécification qui s'appelle
- 2:01:42agent to agent.
- 2:01:44Donc pour les les anciens systèmes
- 2:01:45multiaagents, à l'époque, on utilisait
- 2:01:47un langage qui s'appelait ACL pour les
- 2:01:49gens qui font le les systèmes
- 2:01:51multiaagents. ACL, c'est Agent
- 2:01:53Communication Language. Ça c'est pour
- 2:01:55les anciens modèles du système
- 2:01:56multiagent. Mais aujourd'hui, avec cette
- 2:01:58nouvelle génération des agents, il y a
- 2:02:01des protocoles qui qui sont qui sont en
- 2:02:03train de d'être mis en place, parmi
- 2:02:05lesquels il y a agent to agent euh qui
- 2:02:08qui peut être utilisé pour faire
- 2:02:10communiquer des agents distribus. un
- 2:02:12agent dans cette machine peut
- 2:02:13communiquer avec un agent dans dans une
- 2:02:14autre machine. Euh donc et ça ça peut
- 2:02:18marcher. Et puis donc vous avez une
- 2:02:20organisation.
- 2:02:22Alors maintenant, dans un système
- 2:02:23multiagent, il faut déterminer quel est
- 2:02:26la l'organisation que vous allez
- 2:02:28utiliser pour résoudre des problèmes
- 2:02:30complexes. Par exemple, vous pouvez dire
- 2:02:31je vais utiliser une organisation
- 2:02:33hiérarchique qui fait que j'ai un agent
- 2:02:35central qui va euh communiquer, qui va
- 2:02:39piloter plusieurs agents et chaque agent
- 2:02:41va s'occuper de d'une tâche précise et
- 2:02:43après l'agence centrale, il fait une
- 2:02:45synthèse et il il donne des des des
- 2:02:47réponses. Et donc on peut utiliser des
- 2:02:50des modèles, on va dire pipeline
- 2:02:52linéaire, on peut utiliser des
- 2:02:53pipelines, voilà,
- 2:02:55multidimensionnel, pyramidal et cetera.
- 2:02:58Donc il existe des des ce qu'on appelle
- 2:03:02des
- 2:03:03des euh c'est-à-dire des des modèles
- 2:03:07d'organisation qu'on peut euh qu'on peut
- 2:03:10adopter, ça dépend des
- 2:03:12problématiques. Alors maintenant, on
- 2:03:14vous pouvez dire que généralement voilà
- 2:03:16les systèmes multiaagent, il est
- 2:03:18aujourd'hui résumé avec ce schéma là.
- 2:03:20Vous avez un agent, un agent d'abord
- 2:03:22c'est une entité autonome qui a une
- 2:03:24mémoire et qui a un modèle
- 2:03:26d'intelligence artificielle.
- 2:03:30dans la majorité des cas, c'est un
- 2:03:31LLM. Et puis euh un agent dispose d'un
- 2:03:35ensemble de
- 2:03:37tools. Alors, les tools, c'est quoi ?
- 2:03:39C'est des
- 2:03:41fonctions que l'agent peut utiliser pour
- 2:03:45euh profiter des ressources.
- 2:03:48Vous avez des ressources. Par exemple,
- 2:03:51j'ai ici un un tool, une fonction qui
- 2:03:54permet de consulter une base de données
- 2:03:56par exemple qui permet de consulter la
- 2:03:58température ou bien les les données
- 2:04:00météorologiques. J'ai ici un tools qui
- 2:04:02permet de chercher les données
- 2:04:04financières et cetera. J'ai ici un tools
- 2:04:07qui va consulter un capteur qui permet
- 2:04:09de déterminer de des choses bien
- 2:04:11précises. Par exemple, la chaleur, je
- 2:04:13sais pas dans dans un four ou je sais
- 2:04:15pas quoi. Donc c'est-à-dire il y a des
- 2:04:17capteurs, il y a les tools, c'est des
- 2:04:19fonctions qui vont aller vers des
- 2:04:21ressources pour collecter de de des
- 2:04:23informations. C'est c'est ce qu'on
- 2:04:25appelle les observations. Donc vous
- 2:04:26voyez donc tous ces tools là, c'est eux
- 2:04:28qui vont permettre de c'est des actions
- 2:04:31si vous voulez. les tools et les
- 2:04:33actions qui vont collecter les
- 2:04:35observations. Et bien donc bien sûr ces
- 2:04:38observations avec ça c'est avec les
- 2:04:41observations plutôt avec les tools, je
- 2:04:44je récupère des observations. Ces
- 2:04:46observations vont être euh utilisées
- 2:04:49pour raisonner. Donc le l'él raisonner,
- 2:04:52il va encore déterminer quelle est
- 2:04:53l'action à prendre. l'agent, il va
- 2:04:55encore faire appel à telle action pour
- 2:04:58encore récupérer des
- 2:04:59observations. Il va raisonner encore. Il
- 2:05:02va encore déterminer quel est la la
- 2:05:04prochaine action à prendre et jusqu'à ce
- 2:05:07que il atteint son but. Alors si parfois
- 2:05:10donc vous voyez donc pour profiter des
- 2:05:12des tools euh de manière très simple,
- 2:05:16ben on peut utiliser un un protocole
- 2:05:19MCP. Donc maintenant avec MCP, on peut
- 2:05:22déployer les tools se forme de ce qu'on
- 2:05:24appelle de serveur MCP. Et donc un agent
- 2:05:26peut facilement profiter des tools. Par
- 2:05:29exemple, j'ai ici un tool euh un tool
- 2:05:31par exemple qui est développé en
- 2:05:35Python. Déjà, c'est un tool qui est
- 2:05:37développé en
- 2:05:39Java et ça c'est un tool qui est
- 2:05:41développé avec un autre langage C++ et
- 2:05:43cetera. Il y a pas de problème
- 2:05:44maintenant. C'est-à-dire les tools.
- 2:05:46Chaque tool, je peux le développer avec
- 2:05:48le langage qui qui me semble le plus le
- 2:05:50plus simple et le plus pertinent. Et
- 2:05:52après tous ces tools là, donc je peux
- 2:05:54les exposer via un serveur MCP ou bien
- 2:05:56via des serveurs MCP si vous voulez et
- 2:05:59que la l'agent je peux lui dire voilà tu
- 2:06:02as voilà l'adresse où se trouvent les
- 2:06:04serveurs MTP MCP automatiquement il peut
- 2:06:07savoir quels sont les tools dont il
- 2:06:09dispose. Et après par la suite, si
- 2:06:11l'agent ne peut pas, c'est-à-dire si
- 2:06:13l'agent ne peut pas faire son travail en
- 2:06:16utilisant ses tools dont il dispose,
- 2:06:18bien sûr selon le raisonnement, ben
- 2:06:20c'est à ce moment-là que l'agent peut
- 2:06:22communiquer avec un autre agent qui lui
- 2:06:25la même chose va utiliser ses propres
- 2:06:27tools pour bien sûr pour faire des
- 2:06:30choses et après il y a un échange et
- 2:06:33c'est avec ça avec ce système là on peut
- 2:06:36automatiser
- 2:06:42Donc avec ça, on peut automatiser donc
- 2:06:43le bien sûr les les les tâches d'une
- 2:06:47manière générale. Et d'ailleurs, les
- 2:06:49systèmes multiaagents, c'est ça fait
- 2:06:50partie de l'intelligence artificielle
- 2:06:52distribué euh et qui l'objectif c'est de
- 2:06:55d'automatiser les
- 2:06:57processes euh résoudre des problèmes
- 2:06:59complexes en exploitant plusieurs
- 2:07:03agents. Donc ce qui fait que aujourd'hui
- 2:07:05si vous voulez
- 2:07:08travailler dans le domaine des systèmes
- 2:07:11multiagent, il va falloir un peu
- 2:07:13regarder un peu ce qui se passe au
- 2:07:14niveau de des nouveautés sur MCP et ces
- 2:07:19protocoles là, les protocoles de
- 2:07:21communication entre les
- 2:07:24agents. Alors juste pour schématiser par
- 2:07:27exemple ici juste un exemple.
- 2:07:29J'ai par exemple ici un un étudiant par
- 2:07:33exemple, je suis juste en train de
- 2:07:35tracer par exemple à quoi va ressembler
- 2:07:37les plateforme de e-learning
- 2:07:38futur parce que toutes les les solutions
- 2:07:41qui que vous allez utiliser dans le
- 2:07:43futur, c'est des solutions qui seront
- 2:07:44basées sur des agents. Et donc une
- 2:07:47solution agentique, par exemple, j'ai un
- 2:07:49étudiant qui va dire je voudrais passer
- 2:07:51une
- 2:07:52évaluation de positionnement concernant
- 2:07:55le chapitre chaîne d'énergie.
- 2:07:59fonction alimenté, distribuer,
- 2:08:01convertir. Bon, par exemple ici, donc on
- 2:08:03veut faire un test de positionnement.
- 2:08:05Alors, cette question vous allez la
- 2:08:06poser à à l'application qui est agentée,
- 2:08:09qui qui est piloté par un agent. Ben
- 2:08:11l'agent, qu'est-ce qu'il va faire ? Ben,
- 2:08:13il va d'abord envoyer, il va envoyer
- 2:08:16vers le LL, il va lui envoyer la
- 2:08:18question de
- 2:08:19l'utilisateur mais en même temps dans le
- 2:08:21prompt, il va envoyer les tools et ça
- 2:08:23c'est important. Alors, tout à l'heure,
- 2:08:25je vous disais que on envoie dans la
- 2:08:26requête la question, le contexte, mais
- 2:08:29également on envoie les tools.
- 2:08:32C'est-à-dire que dans le les modèles
- 2:08:34agent qui supportent les systèmes
- 2:08:36multiagents, les LLM multiagent, euh
- 2:08:40donc le prompt contient une partie dans
- 2:08:42laquelle on décrit les tools. Par
- 2:08:44exemple, l'agent il va dire "Réponds-moi
- 2:08:46à cette question sachant que j'ai les
- 2:08:49tools." Les tools, c'est des fonctions.
- 2:08:51Sachant que j'ai une méthode, une
- 2:08:53opération qui s'appelle get chapters qui
- 2:08:55permet de récupérer la liste des
- 2:08:56chapitres. J'ai par exemple une
- 2:08:58opération qui permet de consulter un
- 2:09:00chapitre, le détail d'un chapitre. J'ai
- 2:09:02une opération qui permet de consulter
- 2:09:04les objectifs d'un chapitre. Euh et j'ai
- 2:09:08par exemple une opération qui permet de
- 2:09:10de consulter les critères d'évaluation.
- 2:09:13Ouais. Donc tout ça c'est des tools que
- 2:09:14j'ai dans mon application, dans mon
- 2:09:16système
- 2:09:17d'information et ces tools là vont
- 2:09:20forcément accéder à la base de données
- 2:09:21pour pour faire des choses. Et donc
- 2:09:25quand je présente cette question au LLM,
- 2:09:28il va prendre la question, il va il sait
- 2:09:30quels sont les tools dont de vous
- 2:09:33disposez raisonner et après il va
- 2:09:36répondre avec
- 2:09:38l'action. Il va répondre à l'argent, il
- 2:09:40va lui dire voilà quelle est l'action à
- 2:09:42prendre.
- 2:09:43Donc c'est-à-dire supposons que l'action
- 2:09:44ça va être get chapter. Le nom de
- 2:09:47l'action c'est get chapter. Bah
- 2:09:49qu'est-ce qu'il fait l'agent ? Il va
- 2:09:50donc faire appel à cette fonction. Cette
- 2:09:52fonction va vers la base de données. Il
- 2:09:55va récupérer le le les informations sur
- 2:09:57le les les la liste des chapitres de qui
- 2:10:01qui sont en relation avec ça par
- 2:10:05exemple. Donc j'ai la liste des
- 2:10:06chapitres. Donc ça la liste des
- 2:10:08chapitres c'est les observations. Vous
- 2:10:10voyez ? C'est les observations et encore
- 2:10:12l'agent, il va envoyer encore ça, le
- 2:10:16prompt, les tools et les
- 2:10:18observations. Et maintenant, il connaît
- 2:10:20la liste des chapitres, il va encore lui
- 2:10:22répondre avec quelle est la deuxième
- 2:10:24action apporte. Il va il va lui dire
- 2:10:26peut-être tu fais appel, donne-moi le
- 2:10:28détail de ce chapitre, c'est-à-dire les
- 2:10:31les grandes lignes de ce chapitre. Il va
- 2:10:33encore récupérer les détails du
- 2:10:35chapitre. Il va lui dire tiens voilà le
- 2:10:36le détail du chapitre.
- 2:10:38Et après le LLM, il va raisonner, il va
- 2:10:40lui dire bah tu me donnes donne-moi la
- 2:10:43la la liste les critères
- 2:10:45d'évaluation parce que dans la liste des
- 2:10:47tools, il sait que l'agent dispose de
- 2:10:49d'un tool qui permet de de consulter les
- 2:10:52critères d'évaluation. Donc l'agent
- 2:10:55encore, il va vers la base de données,
- 2:10:56il récupère les critères d'évaluation,
- 2:10:58il va les présenter à l'agent, l'agent
- 2:11:02va donc à la fin quand il aura
- 2:11:05généralement tout ce qu'il ce dont il a
- 2:11:09besoin, et bien c'est à ce moment-là que
- 2:11:11l'agent va gén le LN va générer le
- 2:11:14l'évaluation et cette évaluation va être
- 2:11:16présentée vers
- 2:11:20l'utilisateur. Bon, ça c'est je pense
- 2:11:22c'est un bon exemple qui montre
- 2:11:23globalement c'est-à-dire les solutions
- 2:11:27agentées c'est-à-dire les les solutions
- 2:11:29basées sur les agents. C'est ce qui va
- 2:11:31fonctionner dans le tous les systèmes
- 2:11:35futurs. Donc dans le ce soit dans le
- 2:11:37domaine de la santé, le domaine
- 2:11:39industriel, dans t tous les domaines,
- 2:11:41l'énergie, donc tout tout la la
- 2:11:43biologie, le je sais pas c'est c'est
- 2:11:45c'est un peu ça. Alors, c'est comme si
- 2:11:48par exemple vous vous êtes vous êtes un
- 2:11:51agent chez vous. Maintenant, je suis
- 2:11:52chez moi un agent et après j'ai dit
- 2:11:55tools. Je vais juste dire voilà, j'ai un
- 2:11:58un stylo, j'ai un écran, j'ai j'ai une
- 2:12:01une bouteille d'eau, j'ai j'ai devant
- 2:12:03moi et cetera. Donc j'ai les tools moi
- 2:12:05les tools que vous voyez ici. Et après à
- 2:12:08un moment donné je vais quand on me
- 2:12:10demande de faire quelque chose, on me
- 2:12:12demande de faire quelque chose et ben je
- 2:12:14vais je vais demander à mon cerveau au
- 2:12:17LM je vais demander à un agent euh voilà
- 2:12:21donc je vais envoyer la requête par
- 2:12:23exemple à chat GPT. Je vais lui dire,
- 2:12:25sachant que j'ai voilà la question qu'on
- 2:12:28m'a posé, sachant que voilà les outils
- 2:12:30dont je dispose, alors donne-moi ce que
- 2:12:33je veux faire. Et après le LM, il vous
- 2:12:35dit tiens euh il va vous répondre
- 2:12:38d'abord tu vas prendre ton stylo, tu vas
- 2:12:40écrire tel et après je vais lui dire
- 2:12:42"Oui, c'est bon, j'ai écrit ça." Il va
- 2:12:44te dire encore maintenant tu vas voilà
- 2:12:46envoyer un mail et cetera et cetera.
- 2:12:48Donc c'est-à-dire si finalement c'est le
- 2:12:50LLM qui va exploiter les outils, les
- 2:12:55tools euh de l'agent pour pouvoir
- 2:12:58répondre à la question. Donc grâce à
- 2:13:01cette notion d'agent et bien tout
- 2:13:03simplement les LLMs, les modèles de
- 2:13:07l'intelligence
- 2:13:09artificielle peuvent utiliser le système
- 2:13:12d'information. Vous voyez ? Donc
- 2:13:15c'est-à-dire dans le il y a il y a une
- 2:13:17année avance, on voyait pas ça, on
- 2:13:19voyait tout simplement c'est le mon
- 2:13:21application qui profite qui qui utilise
- 2:13:23le le syst le
- 2:13:25LLM. Alors maintenant avec la notion
- 2:13:27d'agent, ben le LLM euh c'est lui qui
- 2:13:30accède, c'est lui qui décide euh vers
- 2:13:34quelle fonction qui doit être appelée
- 2:13:35par l'agent. Donc c'est-à-dire c'est le
- 2:13:37finalement le cerveau c'est le LLM et
- 2:13:40après bon le reste c'est si vous si vous
- 2:13:41c'est les tools, c'est le c'est votre
- 2:13:44vos
- 2:13:46application. Alors ce qui ce qui va
- 2:13:48ouvrir maintenant un chantier pour la la
- 2:13:50sécurité. Alors bien sûr ici donc euh
- 2:13:53ici donc automatiser des processus via
- 2:13:57des agents. Donc ça ouvre aussi des
- 2:13:59failles de sécurité de et cetera. Donc
- 2:14:01tout ça c'est des sujets de recherche
- 2:14:04qui sont intéressants. Il y a de
- 2:14:06l'injection, il y a pas mal de de choses
- 2:14:08qui peuvent être discutées à ce
- 2:14:10niveau-là. En tout cas pour les gens qui
- 2:14:12travaillent dans le domaine de la
- 2:14:12sécurité, la cybersécurité, je sais pas.
- 2:14:15Alors, sachez que en fait ça ça fait
- 2:14:18partie de des des architectures euh sur
- 2:14:22lequel qu'il faudrait
- 2:14:24envisager euh en tout cas dans le le
- 2:14:27futur
- 2:14:32proche. Bon voilà. Alors donc vous avez
- 2:14:36bon ça c'est juste pour MCP. MCP. Donc
- 2:14:40comme je disais donc c'est un protocole
- 2:14:41qui permet à un agent de fait de de
- 2:14:46d'exploiter les tools. En fait un tool
- 2:14:49c'est une fonction qui peut être
- 2:14:50développée avec des langages différents.
- 2:14:52Par exemple si j'ai un tool qui permet
- 2:14:53d'accéder à la base de données. J'ai un
- 2:14:55tool développé en Python qui permet
- 2:14:57d'utiliser des capteurs quelconque. J'ai
- 2:15:00un tool qui permet de de de se connecter
- 2:15:02à GitHub pour chercher des informations.
- 2:15:05J'ai un tool qui est capable d'envoyer
- 2:15:07un email Gmail. J'ai un tool qui permet
- 2:15:09de consulter Facebook, j'ai un tool qui
- 2:15:12permet de consulter la géoc je sais pas
- 2:15:15de de faire de la géolocalisation et
- 2:15:17cetera. Donc j'ai des tout mais tout ça
- 2:15:19ce qui est intéressant c'est que tout ça
- 2:15:21je n'ai pas besoin de développer tout
- 2:15:22ça. C'est que maintenant avec MCP il y a
- 2:15:26des des milliers de tools qui sont déjà
- 2:15:29développés ben votre agent il peut en
- 2:15:32profiter euh librement. Par exemple ici
- 2:15:35le système de fichier, c'est un tool.
- 2:15:38D'ailleurs, dans les démonstrations que
- 2:15:39que je vais vous faire la prochaine
- 2:15:41fois, je vais vous montrer comment
- 2:15:42utiliser le système de fichier.
- 2:15:43C'est-à-dire, c'est comme si vous allez
- 2:15:45chatter avec votre agent, vous lui dites
- 2:15:47par exemple, je voudrais savoir combien
- 2:15:50de fichiers que j'ai dans le bureau.
- 2:15:52Voyez donc vous pass posez la question à
- 2:15:54chat petit, vous lui dites combien de
- 2:15:58fichiers que j'ai dans le bureau de de
- 2:16:00ma machine enfin le bureau de votre
- 2:16:02ordinateur c'est pas le bureau
- 2:16:04de et bien avec les solutions agentiques
- 2:16:08par exemple si vous utilisez cloud par
- 2:16:10exemple que c'est c'est l'un des outils
- 2:16:13desktop qui qui sont basés sur un agent
- 2:16:16et ben tout simplement quand vous lui
- 2:16:19dites combien de fichiers que j'ai dans
- 2:16:20dans et ben il sait très bien que
- 2:16:23l'agent il sait qu'il dispose d'un tool
- 2:16:25qui s'appelle file system et ben il
- 2:16:27appelle ce file system il va lui dire
- 2:16:29fais appel à cette fonction va vers le
- 2:16:31bureau, il va et cetera, il va lui
- 2:16:33donner l'information il lui donne et
- 2:16:34après il va vous dire vo ça et après
- 2:16:37vous lui dites "Supprime-moi les tous
- 2:16:38les fichiers ou là je sais pas
- 2:16:40ajoute-moi un fichier ou là euh et
- 2:16:42cetera et cetera." Donc c'est-à-dire euh
- 2:16:45voilà tout ce que vous avez dans votre
- 2:16:46ordinateur, vous pouvez finalement le le
- 2:16:49l'intelligence peut en profiter euh via
- 2:16:53le les tools. Mais tout ça c'est grâce à
- 2:16:56à ce protocole MCP. Donc ça c'est
- 2:16:59quelque chose que qui qui est
- 2:17:01intéressant à étudier en détail. Donc
- 2:17:04dans la suite des séminaires que je vais
- 2:17:06faire, je vais à chaque fois rentrer sur
- 2:17:08euh des parties de cela.
- 2:17:11Alors ici donc ça c'est j'avais déjà
- 2:17:13fait un webinaire dans lequel j'ai
- 2:17:14développé un un modèle d'application
- 2:17:16comme
- 2:17:18celui-là. Donc je vais juste peut-être
- 2:17:20faire la démo de celui-là et après je je
- 2:17:23on laissera le reste après.
- 2:17:26L'application elle est là. J'ai j'ai
- 2:17:28fait un exemple
- 2:17:30ici. Je vais
- 2:17:34l'arrêter. Je vais la lancer.
- 2:17:45Alors bref, c'est cette démonstration
- 2:17:47que je vais vous faire, c'est à peu près
- 2:17:48ça. Donc j'ai une application euh une
- 2:17:50application avec un frontend que que
- 2:17:52j'ai développé. Et bien je ça me ça
- 2:17:55permet il utilise un agent frontend dans
- 2:17:59lequel je fais une connexion vers GPT40
- 2:18:02o real time pour communiquer avec la
- 2:18:05voix parce qu'en fait ici donc je vais
- 2:18:08l'utilisateur l'utilisateur ici il va
- 2:18:14parler
- 2:18:17alors cette situation là alors
- 2:18:24ici c'est voilà c'est
- 2:18:33ça vous me
- 2:18:39suivez alors voyez donc c'est c'est un
- 2:18:42modèle d'architecture que que que j'ai
- 2:18:45moi-même développé et et dans laquelle
- 2:18:48je vais utiliser Donc l'utilisateur, il
- 2:18:51va poser des questions mais avec la
- 2:18:52voix. C'estàd vous allez on va parler à
- 2:18:54l'agent et c'est pour cela que je vais
- 2:18:55utiliser un modèle de open qui est qui
- 2:19:00est voilà qui supporte la voie et ben
- 2:19:03tout simplement en utilisant une
- 2:19:04connexion via RTC web
- 2:19:06RTC. Et puis donc via je peux toujours à
- 2:19:10chaque fois que je parle je vais vers
- 2:19:11vers je communique directement avec un
- 2:19:14LLM real time qui va me analyser ce que
- 2:19:18je viens de dire. et de faire la
- 2:19:21transcription en texte et après euh
- 2:19:24c'est-à-dire qui va dire à l'agent
- 2:19:26quelle est l'action à prendre. Et ben
- 2:19:28donc l'agent qu'est-ce qu'il fait ?
- 2:19:29envoie des requêtes selon la la l'action
- 2:19:31optimale. Il envoie la la requête vers
- 2:19:33l'application et l'application va
- 2:19:36peut-être utiliser des des fonctions
- 2:19:38pour accéder à la base de données pour
- 2:19:40consulter des transactions. Par exemple
- 2:19:43ici que que j'ai fait dans la base de
- 2:19:45données. Ça c'est des tools. Euh aussi
- 2:19:47j'ai un système rag dans lequel je vais
- 2:19:50lui demander de charger des fichiers
- 2:19:52PDF. Je vais les charger dans le la base
- 2:19:55de
- 2:19:56données. Une fois que je charge ces
- 2:19:58fichiers dans la base de données
- 2:20:00vectoriell euh et après je commence à
- 2:20:03lui poser des questions. Je veux lui
- 2:20:04dire par exemple des questions dans les
- 2:20:06réponses se trouvent dans les fichiers
- 2:20:08alors et cetera. Donc vous voyez donc ça
- 2:20:10c'est c'est un exemple intéressant je
- 2:20:12pense. Je vais esser démarrer donc je
- 2:20:15vais je vais consulter
- 2:20:18ça. Local host
- 2:20:228580. Alors voilà l'interface c'est une
- 2:20:25interface
- 2:20:27basique. Alors ici donc je peux poser
- 2:20:30des questions avec le texte mais ici
- 2:20:31j'ai donc la la voix. Donc je vais
- 2:20:34essayer donc de d'activer et je vais
- 2:20:36commencer à parler.
- 2:20:41Bonjour. Bonjour.
- 2:20:46Bonjour. Pour comment puis-je vous aider
- 2:20:48aujourd'hui ? Euh merci. Alors, est-ce
- 2:20:51que est-ce que tu peux me donner la
- 2:20:53liste des transactions
- 2:20:59? La liste de toutes les transactions.
- 2:21:04Voici la liste de toutes les
- 2:21:05transactions.
- 2:21:10Merci. Merci. Est-ce que tu peux me
- 2:21:12présenter cette transaction sous forme
- 2:21:14d'un tableau ?
- 2:21:17Voici la liste des transactions
- 2:21:19présentées sous forme de tableau.
- 2:21:27Eh mai 2025. Très bien. Merci. Est-ce
- 2:21:31que tu peux me me consulter la
- 2:21:33transaction numéro 1
- 2:21:39? Je je voudrais consulter la
- 2:21:41transaction numéro
- 2:21:451. Voici les détails de la transaction
- 2:21:48numéro 1. ID de la transaction 1. Date
- 2:21:53de la transaction 16 mai 2025. Merci.
- 2:21:56Merci. Alors, je vois que le la
- 2:21:58transaction, le statut de la transaction
- 2:22:00est le mode pending, c'est-à-dire en
- 2:22:02cours. Et moi, je voudrais mettre à jour
- 2:22:05le statut de cette transaction en
- 2:22:08executed. Est-ce que tu peux mettre à
- 2:22:09jour le statut de la transaction
- 2:22:16? Change-moi le statut de la transaction
- 2:22:191 à l'état
- 2:22:25executed. La transaction numéro 1 a été
- 2:22:28mise à jour avec succès. Son statut est
- 2:22:30désormais executed. Très bien. Merci.
- 2:22:32Alors, est-ce que tu peux consulter
- 2:22:33maintenant la transaction 1 numéro
- 2:22:411, la transaction numéro 1.
- 2:22:46Voici les détails de la transaction
- 2:22:48numéro 1. ID de la transaction. Très
- 2:22:51bien. Merci. Je vois que c'est son état
- 2:22:53il est exécuté. Donc c'est c'est bon.
- 2:22:55Alors, vous voyez donc ça c'est le c'est
- 2:22:57juste ici. Donc je suis en train de lui
- 2:22:59poser des questions sur ça, c'est-à-dire
- 2:23:02euh je quand je parle, je je communique
- 2:23:06avec bien sûr ça et après il répond, il
- 2:23:10détermine l'action optimale. Il fait
- 2:23:12appel la requête, je consulte un tool
- 2:23:14qui permet d'aller vers la base de
- 2:23:15données pour consulter des transactions.
- 2:23:18Donc si tout se passe au niveau de de ma
- 2:23:20base de données, alors maintenant je
- 2:23:21vais commencer à poser des questions sur
- 2:23:23je vais utiliser un système ARAC.
- 2:23:28D'accord, je suis prêt à répondre à vos
- 2:23:30questions. Allez-y, posez votre première
- 2:23:33question sur le système lambda. OK,
- 2:23:35merci. Alors, d'abord, est-ce que tu
- 2:23:37peux me charger le premier fichier PDF
- 2:23:40? Le CV. Le premier CV.
- 2:23:48Très bien. Ça c'est le c'est le CV
- 2:23:51numéro 1. Est-ce que tu peux me charger
- 2:23:53le deuxème CV
- 2:23:59? Charg. Voilà. Vous voyez donc ici
- 2:24:03c'est des CV de des membres de l'équipe
- 2:24:06de de de notre laboratoire. Euh tu peux
- 2:24:10revenir au CV numéro
- 2:24:151. D'accord. Souhaitez-vous que je vous
- 2:24:18fournisse des informations spécifiques à
- 2:24:20propos du CV numéro 1 ? Oui. Charge-moi
- 2:24:22à nouveau le CV numéro
- 2:24:311. Je je Voilà. Merci. Alors maintenant,
- 2:24:35envoie-moi ce CV là, ce document- là euh
- 2:24:37à la base de
- 2:24:44données. Envoie-moi. Voilà.
- 2:24:47Merci. Alors, vous voyez donc ici, il
- 2:24:49est en train de de de faire cette
- 2:24:53opération là du rag.
- 2:24:56C'est-à-dire, c'est exactement ça.
- 2:24:57C'estàd je prends il prend le fichier le
- 2:25:00découp, ça devient des vecteurs et
- 2:25:02j'enregistre dans la base de données. Ça
- 2:25:04c'est l'opération
- 2:25:10d'indexation. Exactement. L'indexation
- 2:25:13consiste à convertir le contenu du
- 2:25:15fichier PDF en vecteur pour pouvoir les
- 2:25:18enregistrer. Merci. Alors donc la
- 2:25:21l'opération est terminée. Alors
- 2:25:22maintenant, je voudrais te poser des
- 2:25:23questions sur le document chargé.
- 2:25:26Est-ce que tu peux me donner le nom et
- 2:25:27le prénom de cette personne
- 2:25:32? Je voudrais le nom et le prénom de la
- 2:25:36personne qui se trouve dans le document
- 2:25:46chargé. Alors, est-ce que tu peux me
- 2:25:48donner le nom et le prénom de la
- 2:25:49personne dans le document chargé ?
- 2:25:57Le nom et le prénom de la personne dans
- 2:25:59le document chargé sont Mohamed Yussifi.
- 2:26:02Merci. C'est bien. Alors maintenant,
- 2:26:04est-ce que tu peux me donner la liste de
- 2:26:06ces diplômes ?
- 2:26:12Voici la liste des diplômes de Mohamed
- 2:26:14Yusfiel que mentionné dans le document.
- 2:26:17Doctorat d'État en informatique et
- 2:26:19système parallèle et distribué faculté
- 2:26:22des sciences de Rabat.
- 2:26:24Merci. C'est c'est bien. Donc c'est
- 2:26:27exactement Alors maintenant, je je
- 2:26:29voudrais savoir est-ce que tu peux me
- 2:26:31donner ce le H index son H
- 2:26:46index. Merci. Alors, est-ce que tu peux
- 2:26:50me donner
- 2:26:51également allez le nombre de
- 2:26:53publications et le nombre de citations ?
- 2:27:00Le CV indique que Mohamed Yusfi a 132
- 2:27:03documents publiés et 739 citations.
- 2:27:07Alors, vous voyez donc ici euh ces
- 2:27:09informations, ils sont pas dans le
- 2:27:10texte, c'est une image. Donc ça c'est
- 2:27:12une information euh capture Scopus qui
- 2:27:16contiennent ces informations. Ils sont
- 2:27:18pas dans le texte. Donc ce qui fait donc
- 2:27:19ça c'est la notion de
- 2:27:24multimodal. Alors est-ce que tu peux
- 2:27:25m'afficher l'image d'où tu as trouvé
- 2:27:27trouvé ces informations ?
- 2:27:36Est-ce que tu peux me donner la la
- 2:27:37source l'image source où tu as trouvé le
- 2:27:40le H in Index et le nom de publication
- 2:27:52? Voici les images sources du CV numéro
- 2:27:551 où l'on peut trouver le H index, le
- 2:27:58nombre de publications et le nombre de
- 2:28:01citations. 90 débats de la publication,
- 2:28:04689 documents publiés. Voilà. Donc ça
- 2:28:07c'est l'image effectivement. Ça c'est la
- 2:28:09capture. Donc vous voyez donc le système
- 2:28:11rag, il a il a bien trouvé l'image.
- 2:28:14Voilà les informations où est-ce qu'il
- 2:28:16les a
- 2:28:17cherché. Voilà.
- 2:28:19Alors euh il y a aussi la photo
- 2:28:22donc parce qu'il est il est il est lié
- 2:28:24au contexte et cetera.
- 2:28:28Alors donc euh ça c'est pour moi c'est
- 2:28:30juste un exemple parce que ça c'est que
- 2:28:34que j'ai j'ai développé personnellement
- 2:28:35dans lequel j'ai essayé un petit peu de
- 2:28:37monter tous ces systèmes là pour donner
- 2:28:39à peu près euh on va dire une idée sur
- 2:28:41ce que ce que ce que les les
- 2:28:44applications d'entreprise peuvent
- 2:28:46devenir maintenant c'estàd parce que ça
- 2:28:49c'est une solution complètement basée
- 2:28:51sur un agent et dans laquelle j'utilise
- 2:28:54un multimodal.
- 2:28:56Donc euh et forcément donc euh
- 2:28:59euh mais dans cette dans cette versionlà
- 2:29:02encore, je n'ai j'ai pas exploité le je
- 2:29:05n'ai pas exploité euh MCP et je n'ai pas
- 2:29:08exploité euh en fait toent parce que je
- 2:29:11j'avais commencé à la développer avant
- 2:29:13que ça paraisse et justement je suis en
- 2:29:16train de de mettre en place une solution
- 2:29:18sur qui va encore profiter de de MCP et
- 2:29:22de agent to agent pour voir quelque
- 2:29:24chose encore un peu plus distribué.
- 2:29:26Euh voilà donc ça c'est le c'est juste
- 2:29:29une démo. Merci merci de pour ces toutes
- 2:29:33ces réponse.
- 2:29:39Merci.
- 2:29:42Euh monsieur s'il vous plaît s'il vous
- 2:29:43plaît j'ai une question. Oui. Si tu peux
- 2:29:46la poser à l'agent si tu veux.
- 2:29:49Vas-y, monsieur. Oui. Oui. Oui.
- 2:29:53Euh donc euh pour le fait de partager
- 2:29:58euh Merci pour cette démonstration
- 2:29:59complète et créative. Votre application
- 2:30:02démontre bien comment les systèmes
- 2:30:03d'intelligence artificielle comme celui
- 2:30:05est-ce que est-ce que cela ne
- 2:30:08c'est-à-dire est-ce que est-ce que les
- 2:30:10agents il euh ou bien est-ce est-ce
- 2:30:14qu'il y a un risque que l'agent et
- 2:30:17l'élèm peut exploiter ses informations
- 2:30:19d'une façon qui est abusive non ? Alors
- 2:30:24donc si vous avez bien compris le donc
- 2:30:26ce que j'ai dit d'abord le LLM le c'est
- 2:30:30un
- 2:30:31ll stateless on est bien d'accord donc
- 2:30:35c'est-à-dire que le LLM quand vous lui
- 2:30:37présentez une question dans laquelle il
- 2:30:39y a le
- 2:30:43contexte donc le style il est
- 2:30:47là donc quand vous posez quand vous
- 2:30:50posez la question à l'application
- 2:30:53On on envoie la question et le contexte
- 2:30:56au Llm. Le
- 2:30:59ll bêtement prendre ça. Il ça devient
- 2:31:02des vecteurs. Il va chercher qu'il sont
- 2:31:03le il vous génère un contenu. Et quand
- 2:31:05il veut génère le contenu, il garde rien
- 2:31:08sur lui le LLM. Alors maintenant ce LLM
- 2:31:12là mais par
- 2:31:14contre la PI la PI avec laquelle vous
- 2:31:17communiquez pour LLM oui il peut garder
- 2:31:20ces informations, il peut les les
- 2:31:21stocker. Alors ce qui fait que donc le
- 2:31:24euh maintenant si vous avez par exemple
- 2:31:26des données qui ne doivent pas sortir de
- 2:31:28de du système d'information, il faudrait
- 2:31:31que le LLM soit dans votre dans votre
- 2:31:33entreprise. Donc c'est là vous allez
- 2:31:35utiliser un LLM open source. Alors tout
- 2:31:37ça desp lama mistral
- 2:31:41euh bon Gemini c'est c'est c'est c'est
- 2:31:44le cloud Open c'est du cloud euh cloud
- 2:31:47c'est cloud c'est c'est du cloud mais
- 2:31:50tout ça c'est des c'est des open sources
- 2:31:52et dans ce cas-là euh donc il y a pas de
- 2:31:56problème. Mais ce qui est sûr c'est sûr,
- 2:32:00c'est que le donc il
- 2:32:01faut c'est dire créer un compte soit sur
- 2:32:05par exemple des psiques ou bien la main
- 2:32:07ou bien autre. Ouais. Et ensuite payer
- 2:32:09des charges comme ça
- 2:32:11pour assurer plus de de fiabilité ou
- 2:32:15bien de sécurité des de partage.
- 2:32:17Oui. Ouai. Alors maintenant, c'est un
- 2:32:20peu le c'est comme ça qu'on va profiter
- 2:32:22de l'IA de du du présent et du
- 2:32:26futur. Oh, ça c'est la réalité, hein.
- 2:32:28Donc c'est-à-dire il y a beaucoup de
- 2:32:30d'entreprises, toutes les entreprises
- 2:32:32vont vouloir faire ce genre de choses
- 2:32:34maintenant.
- 2:32:35Alors maintenant après bien sûr il y a
- 2:32:38les risques, il y a l'hallucination, il
- 2:32:40y a le et donc maintenant c'est ça le il
- 2:32:43y a les challenges, c'est pas des des
- 2:32:45problèmes mais c'est des challenges
- 2:32:46parce que c'est ça la recherche, c'est
- 2:32:47qu' on avance mais quand on avance il y
- 2:32:50a des challenges et ces challenges là,
- 2:32:52il y a encore des solutions qui vont qui
- 2:32:53vont apparaître. C'est comme ça qu'on
- 2:32:57avance. C'est clair ?
- 2:33:01Oui. D'accord. Merci monsieur.
- 2:33:04Oui.
- 2:33:07Alors, on va juste lui poser une
- 2:33:09question pour voir s'il peut
- 2:33:11haucer. Alors, bonjour.
- 2:33:14Bonjour. Comment puis-je vous aider
- 2:33:17aujourd'hui ? Est-ce que tu peux me dire
- 2:33:18ce que je peux manger maintenant ?
- 2:33:21Je n'ai pas le droit de vous répondre
- 2:33:23car aucun contexte n'est fourni. Si vous
- 2:33:25avez besoin de recommandations de repas
- 2:33:28ou de conseils alimentaires, je vous
- 2:33:30suggère de demander directement à un
- 2:33:32nutritionniste. Merci. Donc vous voyez
- 2:33:35ça c'est le c'est justement ça c'est
- 2:33:36important parce que la solution
- 2:33:39agentique que je crée, il ne doit pas me
- 2:33:41donner des réponses sur des choses qu'il
- 2:33:42connaît pas. Donc ce qui fait que dans
- 2:33:44le prompt euh c'est ça c'est des
- 2:33:46techniques qui se travaillent. Dans le
- 2:33:48prompt, il faut ajouter ces petits
- 2:33:49détails. Si si le contexte n'est pas
- 2:33:52fourni, répond avec. Si vous voulez voir
- 2:33:54la la phrase avec laquelle je n'ai pas
- 2:33:57le droit de vous répondre et c'est il il
- 2:34:00est c'est-à-dire c'est moi qui qui qui
- 2:34:03doit donner cette cette information
- 2:34:05là il devrait être
- 2:34:10Merci c'est le la partie front
- 2:34:15je n'ai pas le droit de vous répondre
- 2:34:17car aucun contexte n'est fourni si vous
- 2:34:20avez une question spécifique ou si vous
- 2:34:22souhaitez
- 2:34:24Alors de rien,
- 2:34:27je suis là pour vous aider.
- 2:34:30Merci.
- 2:34:32De rien, n'hésitez pas si vous avez
- 2:34:34d'autres questions.
- 2:34:37Ça c'estte. Merci. Alors si aucune euh
- 2:34:41contexte n'est fourni répond avec je
- 2:34:43n'ai pas le droit. Donc vous voyez donc
- 2:34:46tout ça c'est le c'est des informations
- 2:34:48qui qu'on va retrouver dans le dans le
- 2:34:50prompt.
- 2:34:52Bon, alors je pense alors maintenant
- 2:34:54juste pour les les framework les
- 2:34:56framework multiaagent euh maintenant
- 2:34:58aujourd'hui sont vraiment et ça
- 2:34:59s'explose d'une manière incroyable euh
- 2:35:02c'est que euh euh en fait dans ce cours
- 2:35:05je vais utiliser le l'un des framework
- 2:35:07qui sont que je vois qui sont très
- 2:35:09importants, c'est Openny I agent SDK.
- 2:35:12Donc avant il s'appelait Swarm mais
- 2:35:15après il a été remis un peu. Donc ça
- 2:35:17s'appelle désormais Open Agent SDK.
- 2:35:20C'est l'un des des framework qui peuvent
- 2:35:22être utilisés en production parce qu'il
- 2:35:24faut faire attention parce qu'il y a
- 2:35:25parfois des framework qui font des
- 2:35:26choses mais quand vous passez en
- 2:35:28production c'est pas vraiment euh Donc
- 2:35:31ça c'est c'est ce qu'on va utiliser
- 2:35:34avant ça. Il y a en parallèle il y a
- 2:35:36crew link chain autogène pantique file
- 2:35:42dat pronon et agent et cetera. Donc il
- 2:35:46existe les tout ça c'est vraiment vous
- 2:35:48allez voir c'est c'est pas compliqué,
- 2:35:50c'est des choses que vous pouvez faire
- 2:35:51facilement. Donc je pense la prochaine
- 2:35:53fois donc on va parler de comment créer
- 2:35:55ces agents et comment faire le prompt
- 2:36:00engineering. Et donc aujourd'hui donc je
- 2:36:03vais pas pouvoir parler de ça. Donc il
- 2:36:05il y a un notebook que je vais vous
- 2:36:07partager dans lequel vous allez voir
- 2:36:10quels sont les livrias installés pour
- 2:36:11faire le prompt
- 2:36:13engineering. Comment communiquer avec
- 2:36:15Openni ? Comment communiquer avec Lama
- 2:36:19donc le modèle open source ? Comment
- 2:36:21créer un prompte ? Euh voilà. Et après
- 2:36:25un exemple de prompt. Ça c'est des c'est
- 2:36:28des promptine de manière très simple.
- 2:36:30Comment faire par
- 2:36:31exemple tirer des sentiments à partir du
- 2:36:34texte ? Par exemple, je lui donne par
- 2:36:36exemple un texte et après il va me dire
- 2:36:38par exemple dans le
- 2:36:40texte le screen il est le sentiment il
- 2:36:43est positif, le keyboard il est négatif
- 2:36:46et le mousepad il est positif. Donc ça
- 2:36:48c'est c'est la classification. c'est
- 2:36:51c'est multilabel classification.
- 2:36:55Alors après euh comment utiliser les
- 2:36:57tokens et tout ça, nous allons voir
- 2:37:00comment euh comment comment faire des
- 2:37:03sentiments analysis, comment faire du
- 2:37:05texte summarization à partir d'un texte,
- 2:37:08comment extraire euh c'est des
- 2:37:10informations euh ici par exemple, je
- 2:37:13suis en train d'extraire le nom de de du
- 2:37:17médecin euh plutôt le docteur
- 2:37:19consultant, le le
- 2:37:22le review rating, c'est-à-dire la la
- 2:37:24note parce qu'en fait ça c'est on on
- 2:37:27collecte de des commentaires de des
- 2:37:30clients et on voudrait savoir,
- 2:37:32c'est-à-dire la note qu'ils ont attribué
- 2:37:34au médecin ou au service et cetera.
- 2:37:37Alors tout ça c'est quelque chose que
- 2:37:38qu'on peut extraire et ça c'est du texte
- 2:37:42summarization. Donc je vois par exemple
- 2:37:43pour le premier review, voilà les inform
- 2:37:46toutes ces informations, ça je les ai
- 2:37:48extraites à partir de
- 2:37:51de de des modèles de
- 2:37:54LLM. Donc ça c'est la la satisfaction et
- 2:37:57tout ça. Et puis on va je vais terminer
- 2:38:00la prochaine fois avec un modèle de
- 2:38:02d'analyse de sentiments. Comme ça vous
- 2:38:04allez voir comment faire une
- 2:38:05classification mais en utilisant li
- 2:38:08générative. Donc on va lire un dataset
- 2:38:10qui contient beaucoup de de review.
- 2:38:13Donc je pense qu'on va prendre un un un
- 2:38:15un dataset qui contient les trucs de en
- 2:38:19fait les review de Netflix. Donc il y a
- 2:38:23un dataset qui est assez connu qui
- 2:38:25contient beaucoup beaucoup de de data.
- 2:38:28On va essayer donc d'analyser. On va
- 2:38:30découper la même chose pour un exemple
- 2:38:33et gold examples et les gold examples,
- 2:38:36on va ici donc faire split pour
- 2:38:38récupérer. Il y a une démarche à faire
- 2:38:40pour pouvoir construire le prompt.
- 2:38:43euh zero shot prompt f shot prompt et
- 2:38:46puis surtout à la fin comment évaluer le
- 2:38:48le le prompt. Et vous voyez donc pour ce
- 2:38:51ce problème de
- 2:38:52classification de sentiment analysis à
- 2:38:56la fin avec un modèle comme GPT40 o je
- 2:39:00suis à 100 %.
- 2:39:04Alors quelque chose que si si vous
- 2:39:06faites le même problème avec
- 2:39:10avec les modèles classiques de
- 2:39:12sentiment, c'est vraiment c'est c'est
- 2:39:14très
- 2:39:15loin. Et ça, on va tester avec zero shot
- 2:39:18prompt, on va tester avec fu shot prompt
- 2:39:21avec code prompt il y a pas mal de de
- 2:39:24choses. Et après comment et bien sûr
- 2:39:28après par la suite on va on va on va
- 2:39:31regarder les agents. Alors comment créer
- 2:39:33les agents ? comment la même chose. Donc
- 2:39:36ça c'est c'est vraiment c'est c'est il y
- 2:39:38a pas beaucoup de codes, c'est des
- 2:39:40portions de code que vous pouvez
- 2:39:42utiliser. Bah je j'en profite pour lui
- 2:39:45demander de me répondre en arabe donc il
- 2:39:46y a pas de problème. Donc vous voyez
- 2:39:48donc les toutes les questions que j'ai
- 2:39:50posé à l'agent tout à l'heure en
- 2:39:51français, je j'aurais pu lui parler à
- 2:39:54Darija. Donc je il va C'est-à-dire la
- 2:39:58notion de langue ne pose plus de
- 2:39:59problème parce que c'est toujours c'est
- 2:40:01la sémantique qui marche. C'est pas la
- 2:40:03langue. C'est pas la langue qui fait
- 2:40:04parler les agents, c'est plutôt la
- 2:40:07sémantique. Voilà. Donc je pense qu'on
- 2:40:09va s'arrêter à ce niveau-là aujourd'hui.
- 2:40:12Donc on a fait pas mal de choses. Je
- 2:40:14vais quand même essayer de lui parler
- 2:40:16chefou ce qui ce qu'il va me
- 2:40:19dire. J'ai jamais essayé mais salam
- 2:40:23alkoum. Salam
- 2:40:28alkoumam. En quoi puis-je vous aider
- 2:40:30aujourd'hui ?
- 2:40:44CV CV la base de
- 2:40:49données. Vous voyez ça
- 2:40:52marche. Il est en train d'envoyer le CV
- 2:40:55vers la base de données.
- 2:40:59Oui, le processus d'envoi du CV vers la
- 2:41:01base de données a commencé et est en
- 2:41:03cours. Un peu de patience et je vous
- 2:41:06tiendrai informé une fois que c'est
- 2:41:07terminé.
- 2:41:27fichier donc la base de données
- 2:41:37je n'ai pas le droit de vous répondre
- 2:41:39car
- 2:41:40c'est normal parce que il faut juste
- 2:41:43dire parce que les
- 2:41:44les les promptes que j'ai écrit donc je
- 2:41:46lui ai plein de de messages en français
- 2:41:49donc je je conditionne toujours l'agent
- 2:41:52mais en principe est-ce qu'on peut
- 2:41:54est-ce qu'on peut essayer avec
- 2:41:57je n'ai pas le droit de vous répondre
- 2:41:59car aucun contexte n'est
- 2:42:02fourni on va
- 2:42:07essayer salam
- 2:42:11alkoum je
- 2:42:13que
- 2:42:18je n'ai pas le droit de vous répondre
- 2:42:20car aucun contexte n'est fourni.
- 2:42:25Voilà.
- 2:42:26Alors, il n'a pas le droit pour le mais
- 2:42:28ça c'est à à
- 2:42:31tester. Mais pour vous dire c'est ces
- 2:42:34questions de la langue ne devrait jamais
- 2:42:36poser de problème parce que c'est juste
- 2:42:38question de c'est c'est des versions qui
- 2:42:40arrivent qui arrivent qui arrivent mais
- 2:42:41en tout cas ça devrait pas poser de
- 2:42:45problème. Voilà donc je pense que
- 2:42:47aujourd'hui on va s'arrêter à ce
- 2:42:49niveau-là et la prochaine fois on aura
- 2:42:51le l'occasion. Donc si bien sûr pour les
- 2:42:54gens qui s'intéressent à cette
- 2:42:56partie-là, donc je vous recommande de
- 2:42:58peut-être de suivre la la suite euh des
- 2:43:01des cours qui vont être faits et donc
- 2:43:04euh mais bien sûr les gens qui qui n'ont
- 2:43:07pas le temps et tout ça, donc vous
- 2:43:08pouvez toujours suivre les
- 2:43:09enregistrements seront partagés sur sur
- 2:43:11Classroom et ça vous permet quand vous
- 2:43:13aurez un peu plus de temps à consacrer à
- 2:43:16ça. Donc je suis sûr que vous en aurez
- 2:43:17besoin dans le futur.
- 2:43:20Oui, inchallah. Merci beaucoup monsieur.
- 2:43:22Voilà et bonne journée.
- 2:43:25Merci beaucoup. Alors juste
- 2:43:29juste weekend weekend
- 2:43:34alors juste noublie pas weekend. Voilà,
- 2:43:38vous n'oubliez pas de mettre de marquer
- 2:43:40la présence dans votre
- 2:43:42chat et n'oubliez pas que la semaine
- 2:43:45prochaine, vous aurez vous aurez une
- 2:43:47évaluation et à votre portée. Mais
- 2:43:50n'oubliez pas aussi que il y a un projet
- 2:43:51que je vous ai laissé dans Classroom euh
- 2:43:55et ce projet là donc je vous laisserai
- 2:43:57le le temps le c'est-à-dire la date dans
- 2:43:59laquelle vous allez remettre remettre le
- 2:44:02compte-rendu euh de ce projet-là. S'il
- 2:44:05vous plaît, s'il vous plaît, monsieur.
- 2:44:06Est-ce que c'est concerne le projet ?
- 2:44:08Donc on va répondre directement sur le
- 2:44:10notebook. Notebook. Oui, très bien. Vous
- 2:44:14répondez directement sur notebook. Oui.
- 2:44:17OK. Merci. Merci. Merci monsieur.
- 2:44:21Merci monsieur.
About this transcript
This page contains the full transcript of Part 1- Generative AI and AI Agents by Professeur Mohamed YOUSSFI, generated from the public captions YouTube serves with the video. The transcript has 25,252 words across 3,969 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.
What you can do with it
Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.
Free YouTube transcript tool
YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.