YT YouTube2Text

YouTube2Text → Transcripts → LLMs Don’t Have Memory — So How Do They Remember?

LLMs Don’t Have Memory — So How Do They Remember? — Transcript

by CampusX · 10,598 words · 1,336 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:00हाय गाइस, माय नेम इज नितेश एंड यू आर
0:01वेलकम टू माय YouTube चैनल। इस वीडियो में
0:04हम लोग जेन एआई का एक बहुत इंपॉर्टेंट
0:06टॉपिक कवर करने जा रहे हैं जिसका नाम है
0:07मेमोरी। अब मेमोरी क्या होता है शायद ये
0:10मुझे बताने की जरूरत नहीं है वो हम इस
0:12वीडियो में काफी डिटेल में कवर करेंगे
0:13एनीवेस। बट मैं आपको ये जरूर बताना
0:15चाहूंगा कि मेमोरी इज़ क्वाइट इंपॉर्टेंट।
0:17अगर आप जेनए AI एप्लीकेशंस बनाना चाहते
0:20हो। मेमोरी इज़ वन ऑफ दोज़ थिंग्स जिसके
0:22बिना कोई भी जेन AI एप्लीकेशन फंक्शन कर
0:24ही नहीं सकता। आप सोच के देखो आप कोई
0:27चार्ट डॉट बना रहे हो या फिर कोई एजेंट
0:28बना रहे हो। क्या वो मेमोरी के बिना
0:30फंक्शन कर सकता है? द आंसर इज़ नो। एंड दैट
0:33इज व्हाई इस टॉपिक को स्टडी करना खुद में
0:35एक बहुत इंपॉर्टेंट चीज है। सो मैंने ये
0:38डिसाइड किया है कि मैं आपको इस एक सिंगल
0:40वीडियो के थ्रू मेमोरी को एज अ फाउंडेशनल
0:43कांसेप्ट पढ़ाऊंगा। और ये वीडियो एक बार
0:45अगर आप देख लोगे तो उसके बाद आपको मेमोरी
0:48का एक बहुत डीप अंडरस्टैंडिंग हो जाएगा।
0:50और फिर आप मेमोरी को अपने जेएनएआई
0:53एप्लीकेशंस में बहुत आसानी से इंप्लीमेंट
0:55कर पाओगे। अब इस वीडियो में मैंने मेमोरी
0:58को एज अ फ्रेमवर्क एग्नोस्टिक कांसेप्ट
1:00पढ़ाया है। व्हिच बेसिकली मींस कि मैंने
1:02कोई एक सिंगल लाइब्रेरी पकड़ के आपको
1:04मेमोरी का कांसेप्ट नहीं पढ़ाया है।
1:06इंस्टेड मैंने आपको एक जनरल अंडरस्टैंडिंग
1:09देने के हिसाब से पूरा का पूरा वीडियो
1:11प्रिपेयर किया है। सेकंड एक और इंपॉर्टेंट
1:13चीज़ कि इस पर्टिकुलर वीडियो में मैंने एक
1:16इंटरेस्टिंग स्टाइल ऑफ टीचिंग इंप्लीमेंट
1:18किया है। सो मैं आपको एकदम फर्स्ट
1:21प्रिंसिपल से चीजें पढ़ाऊंगा। अह हम मेमोरी
1:23को ऐसे पढ़ेंगे एज़ इफ हम मेमोरी को इन्वेंट
1:26कर रहे हैं। ठीक है? तो, हम एक बेसिक
1:28प्रॉब्लम स्टेटमेंट उठाएंगे। उसके अराउंड
1:30सॉलशंस बिल्ड करते-करते हम वहां तक
1:33पहुंचेंगे जहां पर आज के जेएनएआई सिस्टम्स
1:36हैं ऑलरेडी इन टर्म्स ऑफ मेमोरी। ठीक है?
1:38तो, बहुत ही लुसिड आपको वीडियो लगेगा।
1:40आपको पूरे टाइम ऐसा लगेगा जैसे आप एक
1:42कहानी सुन रहे हो। बट बाय द एंड ऑफ द
1:44वीडियो, आपके पास एक बहुत डीप कांसेप्ट आ
1:47जाएगा जो आगे आपको हर तरह के जेनिए
1:49एप्लीकेशन बनाने में हेल्प कर सकता है।
1:51ठीक है? तो आई एम सुपर एक्साइटेड फॉर द
1:53वीडियो एंड आई रियली होप ये वीडियो आपको
1:55बहुत ज्यादा हेल्प करे। नाउ लेट्स स्टार्ट
1:58द वीडियो। अब अपने डिस्कशन की स्टार्ट हम
2:00लोग करते हैं एक बहुत ही सिंपल स्टेटमेंट
2:01से और वो सिंपल स्टेटमेंट मैंने यहां पे
2:03लिख रखा है। द स्टेटमेंट इज़ अ एलएलएम एट
2:07इनफेंस इज़ जस्ट अ पैरामीटराइज़्ड मैथ
2:09फंक्शन। एंड दिस इज़ दैट फंक्शन y = ftax.
2:14अब आई नो ये स्टेटमेंट और ये इक्वेशन देख
2:17के आपको थोड़ा सा एब्स्ट्रैक्ट फील हो रहा
2:19होगा। तो मैं एक काम करता हूं। तो मैं
2:20स्टेटमेंट को थोड़ा ब्रेक डाउन करता हूं।
2:22ठीक है? तो सबसे पहले ये समझते हैं कि
2:24पैरामीटराइज्ड मैथ फंक्शन क्या होता है?
2:27सो मैथमेटिक्स में पैरामीटराइज्ड मैथ
2:30फंक्शन एक ऐसा फंक्शन है जिसका आउटपुट
2:34सिर्फ और सिर्फ उसके इनपुट पे ना डिपेंड
2:37करके एडिशनली कुछ पैराटर्स पे भी डिपेंड
2:41करता है। फॉर एग्जांपल एक इक्वेशन है y =
2:44ax²।
2:46तो यहां पे y कैलकुलेट करने के लिए सिर्फ
2:48और सिर्फ x नहीं चाहिए। हमें साथ ही साथ a
2:51की भी वैल्यू चाहिए। ठीक है? अब x हमें
2:55यूजर प्रोवाइड कर रहा है। बट a कहीं और से
2:58आता है। कहां से आता है? ये समझने के लिए
3:00मैं आपको एक कंक्रीट एग्जांपल देता हूं।
3:02एग्जांपल है लीनियर रिग्रेशन का। सो
3:04लीनियर रिग्रेशन में आप क्या करते हो कि
3:06आपके पास इस तरीके से एक डेटा होता है। और
3:10आपका काम क्या करना होता है? आपका काम
3:12होता है इस डेटा के ऊपर बेस्ट फिट लाइन
3:15खोजने का। तो एसेंशियली आपको एक लीनियर
3:19रिग्रेशन मॉडल बिल्ड करना है और सिंस वो
3:21एक लाइन है तो उसका इक्वेशन आप पहले से
3:24बता सकते हो कि वो y = mx + b ही होगा।
3:28ठीक है? अब यहां पे जो m एंड b है ये आपके
3:31पैराटर्स हैं। और इन पैरामीटर्स की वैल्यू
3:34आपको कहां से मिलती है? डेटा के अंदर से।
3:37ये डेटा हमें बताता है कि m एज इन स्लोप
3:39कितना होना चाहिए? बेस्ट फिट लाइन का और
3:41बी हमें बताता है कि इंटरसेप्ट कितना होना
3:44चाहिए बेस्ट फिट लाइन का। तो आई होप यू
3:46गेट द आईडिया दैट अ पैरामीटराइज्ड मैथ
3:49फंक्शन इज़ अ स्पेशल काइंड ऑफ़ फंक्शन जहां
3:51पे आउटपुट कैलकुलेट करने के लिए इनपुट के
3:53अलावा कुछ पैराटर्स की वैल्यू लगती है। और
3:57उन पैरामीटर्स की वैल्यू आती कहां से है?
3:59एटलीस्ट इन मशीन लर्निंग डेटा से। जब आप
4:02ट्रेनिंग परफॉर्म करते हो डेटा के ऊपर।
4:05ठीक है? अब मैं क्या कर सकता हूं? तो मैं
4:07इसी पैरामीटराइज्ड लीनियर रिग्रेशन के
4:10इक्वेशन को इस फॉर्म में लिख सकता हूं। y
4:13= f x m b
4:18ये मेरा रिप्रेजेंटेशन हो गया। यही सेम
4:22रिप्रेजेंटेशन आपको यहां पे दिखाई दे रहा
4:24है। तो सिंस एलएलएम इज़ आल्सो अ मशीन
4:28लर्निंग मॉडल और यू कैन से अ डीप लर्निंग
4:30मॉडल। तो यहां पे भी बिल्कुल सेम सेटअप
4:32है। ये f के पीछे एक बहुत कॉम्प्लेक्स
4:35मैथमेटिकल फंक्शन छुपा हुआ है जिसके
4:38डिटेल्स में हमें जाने की जरूरत नहीं है।
4:40बट ये जो थीटा है दिस रिप्रेजेंट्स
4:42बिलियंस ऑफ पैराटर्स। जैसे लीनियर
4:47रिग्रेशन में सिर्फ दो पैरामीटर्स होते
4:49हैं। m एंड b यहां पर एलएलएम के अंदर
4:51बिलियंस ऑफ़ पैरामीटर्स होते हैं। इसीलिए
4:53बोला जाता है इट इज़ अ 70 बिलियन पैरामीटर
4:55मॉडल और अ 100 बिलियन पैरामीटर मॉडल। तो
4:58ये जो थीटा है ये उन बिलियंस ऑफ
5:00पैरामीटर्स को रिप्रेजेंट कर रहा है और
5:03उनकी वैल्यू को रिप्रेजेंट कर रहा है। ठीक
5:05है? तो आइडियली होप सबसे पहले आपको फर्स्ट
5:06चीज क्लियर हो गई कि एक पैरामीटराइज्ड मैथ
5:09फंक्शन क्या होता है। ठीक है? अब एक काम
5:11करते हैं क्विकली डिस्कस करते हैं अ इस
5:14इक्वेशन के तीनों इंपॉर्टेंट कंपोनेंट्स
5:16को व्हिच आर x, y एंड थीटा। तो थीटा हमने
5:21ऑलरेडी डिस्कस कर लिया दैट इट इज़ द वैल्यू
5:23ऑफ़ पैरामीटर्स। और यह एक सिंगल वैल्यू
5:26नहीं है। दिस इज लाइक बिलियंस ऑफ वैल्यूस।
5:29ठीक है? x क्या रिप्रेजेंट करता है? x
5:31रिप्रेजेंट्स द इनपुट टोकंस जो आप इनफेंस
5:35के टाइम पे एलएलएम के पास भेजते हो। ठीक
5:37है? इसको आप सिंपली इस पॉइंट पे प्र्प्ट
5:41भी बुला सकते हो। प्र्ट में जो भी आप
5:43भेजते हो वही इनपुट टोकन बनके एलएलएम के
5:46पास ऐज़ इनपुट जाता है। ठीक है? y क्या
5:49होता है? y इज़ योर आउटपुट टोकंस।
5:54मतलब जो इनपुट उसको मिला और जो थीटा
5:57वैल्यू उसके पास है इन दोनों के
5:58कॉम्बिनेशन से जो आउटपुट एलएलएम हमें देता
6:01है वो y है। अब यहां पे एक इंपॉर्टेंट चीज
6:05y डिपेंड्स ऑन बोथ थीटा एज वेल एज x। ठीक
6:10है? बट थीटा इज़ फिक्स्ड। इसकी वैल्यू
6:14ट्रेनिंग के टाइम पे डिसाइड हो गई है।
6:16इनफेंस में आप यहां पे कोई चेंज नहीं कर
6:18सकते। तो यहां पर यूजर का कोई भी कंट्रोल
6:21नहीं है। बट यूजर कैन चेंज एक्स। दिस इज
6:25नॉट फिक्स्ड। एंड दैट इज व्हाई आप जब
6:29प्र्प को चेंज करते हो तो आपको अलग आउटपुट
6:31देखने को मिलता है एलएलएम के पास से। ठीक
6:33है? तो ये एक सिंपल बट एक मैथमेटिकल
6:37ओवरव्यू हो गया कि एलएलएम इनफेंस के टाइम
6:39पे कैसे काम करते हैं। ठीक है? और ये जो
6:42ओवरव्यू है ये हमारे आगे के डिस्कशन के
6:45लिए एक फाउंडेशन का काम करेगा। अब यह तो
6:47आप समझ गए कि आप एक एलएलएम को इनफेंस के
6:50टाइम पर इस मैथमेटिकल इक्वेशन से
6:52रिप्रेजेंट कर सकते हो। अब मैं आपको इस
6:54मैथमेटिकल इक्वेशन का एक बहुत इंटरेस्टिंग
6:56प्रॉपर्टी बताता हूं। और वो प्रॉपर्टी ये
6:59है कि ये मैथमेटिकल फंक्शन स्टेटलेस होता
7:03है। अब आप सोचोगे स्टेटलेस का क्या मीनिंग
7:06है? तो यहां पे मैंने एक सिंपल डेफिनेशन
7:08ऐड किया है स्टेटलेस का। एक बार इसको पढ़ते
7:10हैं। यहां लिखा हुआ है अ सिस्टम इज
7:12स्टेटलेस इफ इट्स आउटपुट डिपेंड्स ओनली ऑन
7:16द करंट इनपुट एंड नॉट ऑन एनीथिंग दैट हैज़
7:20हैपेंड बिफोर। फॉर एग्जांपल अगर आप इस
7:23एलएलएम को यूज़ कर रहे हो। आप इसमें एक
7:26प्र्प्ट भेज रहे हो। तो आप बेसिकली कुछ इस
7:30तरह का काम कर रहे हो। आपने x1 बोल के
7:33इनपुट दिया। थीटा पहले से था। इन दोनों ने
7:37मिलकर के y1 प्रोड्यूस किया। फिर आप आए
7:41आपने एक सेकंड प्र्प दिया x2। थीटा अभी भी
7:46सेम था। इस बार आपको मिला y2। अब ये
7:50सिस्टम स्टेटलेस है। इसका ये मतलब है कि
7:53y2 कैलकुलेट करने में x2 का हाथ था। x1
7:58एंड y1 का कोई हाथ नहीं था। दिस इज़ द
8:01मीनिंग ऑफ बीइंग स्टेटलेस। ठीक है? सो आई
8:05रियली होप आपको ये बात समझ में आ गई और ये
8:07चीज मैं आपको प्रैक्टिकली भी दिखा सकता
8:09हूं। सो यहां पे देखो मैंने एक सिंपल सा
8:11कोड लिखा है जहां पे मैं ओपन एi का एलएलएम
8:14यूज़ कर रहा हूं। ठीक है? सो व्हाट आई एम
8:17डूइंग इज़ मैं इस एलएलएम को इनवोक कर रहा
8:20हूं विथ द हेल्प ऑफ दिस प्रम्प्ट। माय नेम
8:22इज़ नितीश। तो माय नेम इज़ नितीश इज़ माय X1।
8:27जैसे ही मैं रन करूंगा इस एलएलएम के खुद
8:29के पैराटर्स होंगे। तो इसके पैराटर्स और
8:31ये इनपुट मिलकर के हमें y1 देंगे।
8:36एंड दिस इज़ द y1। राइट? अब मैं क्या कर
8:39रहा हूं? फिर से सेम मैथमेटिकल फंक्शन को
8:41इनवोक कर रहा हूं। इस बार मेरा x है ये।
8:44व्हाट इज माय नेम? ये मेरा x2 हो गया। अभी
8:47भी एलएम के अंदर अपने पैराटर्स हैं। वो
8:49बिल्कुल सेम है। फिर से मैं जब कॉल करूंगा
8:51अब मुझे मिलेगा y2। और ये देखो ये क्या
8:54बोल रहा है। आई एम सॉरी। आई डू नॉट नो योर
8:57नेम। तो इससे क्लियरली प्रूव हो रहा है कि
9:00हमारा जो एलएलएम है वो स्टेटलेस है। पिछली
9:04बार हमने उसको कॉल करके उसको क्या इनपुट
9:07दिया था और उसने हमें क्या आउटपुट दिया था
9:09वो उसको याद नहीं है। हर अगला फंक्शन कॉल
9:12यूनिक है। इंडिपेंडेंट है। पिछले वाले से
9:15रिलेटेड नहीं है। दिस इज़ अ वेरीेंट
9:18रियलाइजेशन जो आपको इस मोमेंट पे अपने
9:21अंदर डालना है। ठीक है? तो दो चीजें अभी
9:24तक हमने सीखी। फर्स्ट हाउ टू रिप्रेजेंट अ
9:27एलएलएम अह एट इनफेंस इन अ मैथमेटिकल वे
9:31एंड सेकंड दैट पर्टिकुलर मैथमेटिकल
9:34इक्वेशन इज़ स्टेटलेस बाय नेचर। एलएलएम एट
9:37इनफरेंस इज़ स्टेटलेस बाय नेचर। अब बेस्ड
9:40ऑन अभी तक का डिस्कशन हम एक फैक्ट
9:42इस्टैब्लिश कर सकते हैं। फैक्ट यह है कि
9:45अगर एलएलएम्स इनफेंस के टाइम पर स्टेटलेस
9:48हैं तो इसका डायरेक्ट मीनिंग यह है कि
9:50एलएलएम्स डोंट हैव एनी इंट्रेंसिक मेमोरी।
9:54एज सिंपल एज दैट। एलएलएम्स पास्ट के
9:57कॉन्वर्सेशंस को याद नहीं रख सकते। तो
10:00उनके अंदर मेमोरी है ही नहीं।
10:03अब प्रॉब्लम यह है कि एक और इंपॉर्टेंट
10:06फैक्ट सरफेस पर आता है और वो इंपॉर्टेंट
10:09फैक्ट यह है कि शायद ही कोई दुनिया में
10:11ऐसा एप्लीकेशन होगा जेनएi का जिसको मेमोरी
10:14की जरूरत ना पड़ती हो। खुद सोच के देखो
10:17आपने एक चैटबॉट बनाया है बट वो चैटबॉट के
10:20अंदर मेमोरी का फीचर नहीं है। व्हिच
10:22बेसिकली मींस कि आपका एi पास्ट
10:24कॉन्वर्सेशन पास्ट कॉन्टेक्स्ट को बिल्कुल
10:27भी याद नहीं रख सकता। सोच के देखो उस ऐप
10:30का यूजर एक्सपीरियंस कैसा होगा। इट वुड बी
10:33हाईली फ्रस्ट्रेटिंग। आपको हर बार हर चीज
10:36नए से बतानी पड़ेगी। और वि मेमोरी चैट
10:41एप्लीकेशन बनाना पॉसिबल नहीं है। बिकॉज़
10:44अगर आप इस तरह का एक चैट एप्लीकेशन बनाने
10:46जाओगे तो प्रॉब्लम क्या होगी? मैं आपको
10:48दिखाता हूं। आपका चैट एप्लीकेशन कुछ ऐसा
10:50दिखाई देगा। सो जितनी बार यूजर एक मैसेज
10:54भेज रहा है बिहाइंड द सीन्स आप अपने बैक
10:56एंड में इस फंक्शन को कॉल कर रहे हो और x
11:00में आप यूजर के मैसेज को भेज रहे हो।
11:02राइट? और आपको पलट करके ये y मिल रहा है।
11:07राइट? अब यूजर ने अगला x भेजा। अब फिर से
11:12हमने इस फंक्शन को कॉल किया। बट इस फंक्शन
11:15कॉल के टाइम पे हमने यह पास्ट कॉन्वर्सेशन
11:17को कंसीडर ही नहीं किया। तो फिर प्रॉब्लम
11:20यही होगी कि आपका चैट बॉट हर बार
11:24क्वेश्चंस को बिल्कुल नए तरीके से लेगा
11:26विदाउट कंसीडरिंग द पास्ट कॉन्टेक्स्ट। तो
11:30पहला फैक्ट यह है कि एलएलएम्स के पास खुद
11:33की मेमोरी नहीं है। दूसरा फैक्ट यह है कि
11:35दुनिया का कोई भी जेनआई एप्लीकेशन उठा लो,
11:38कोई भी एजेंटिक एआई एप्लीकेशन उठा लो,
11:40बिना मेमोरी के फंक्शन कर ही नहीं सकता।
11:42तो एसेंशियली वी आर इन अ डेड लॉक। हम फंस
11:47चुके हैं। ठीक है? तो अब हमें क्या करना
11:50पड़ेगा? कुछ ना कुछ स्यूशन निकालना
11:52पड़ेगा। तो सॉल्यूशन कुछ ऐसा है और इसके
11:57लिए आई विल शो यू फैक्ट नंबर थ्री। फैक्ट
12:01नंबर थ्री यह है कि अगर एलएलएम्स का खुद
12:04का मेमोरी नहीं होता। बट हमें मेमोरी
12:07चाहिए। तो इट मींस कि हमें मेमोरी का फीचर
12:10एक्सटर्नली डेवलप करना पड़ेगा।
12:14बेसिकली एलएलएम को सेंटर पर रख के इसके
12:17अराउंड हमें एक ऐसा सिस्टम बिल्ड करना
12:20पड़ेगा जो मेमोरी की तरह एक्ट करे और यही
12:25हम नेक्स्ट करने जा रहे हैं इस वीडियो में
12:27हम फर्स्ट प्रिंसिपल से
12:31मेमोरी के कांसेप्ट को डेवलप करेंगे। हम
12:34एक ऐसा सिस्टम इन्वेंट करेंगे जिससे हम
12:37एलएलएम्स को मेमोरी का पावर दे पाएंगे। और
12:40ये पूरा डिस्कशन हम ऐसे करेंगे जैसे हमने
12:43ही मेमोरी को फर्स्ट टाइम इन्वेंट किया
12:45है। ठीक है? तो आई रियली होप अभी तक जो भी
12:47ये प्रिमाइस मैंने सेटअप किया इस वीडियो
12:49में वो आपको समझ में आ गया। एसेंशियली अभी
12:52तक हम व्हाई के ऊपर बात कर रहे थे। अब हम
12:55बात करेंगे व्हाट एंड हाउ के ऊपर। अब
12:57फर्स्ट प्रिंसिपल सॉल्यूशन डेवलप करने के
12:59पहले आपको दो इंपॉर्टेंट कांसेप्ट्स को
13:01समझना पड़ेगा। बात करते हैं पहले कांसेप्ट
13:04के बारे में। और उस कांसेप्ट को समझने के
13:06लिए पहले मैं आपसे एक क्वेश्चन पूछता हूं।
13:09क्वेश्चन बहुत सिंपल है। थोड़ी देर पहले
13:11मैंने आपको बताया था कि ये इक्वेशन
13:12रिप्रेजेंट करता है किसी भी एलएलएम को
13:14इनफेंस के टाइम पे और मैंने आपको बताया था
13:16कि यहां पे जो x है ये रिप्रेजेंट करता है
13:18आपके इनपुट टोकंस को जो आप एलएलएम के अंदर
13:21भेजते हो ड्यूरिंग प्रेडिक्शन। अब मेरा
13:24क्वेश्चन ये है कि यहां पर आप मैक्सिमम
13:28कितने टोकंस भेज सकते हो? इज देयर अ
13:32लिमिट? सो अगर आपने पहले कभी पढ़ा होगा
13:34एलएलएम्स के बारे में तो शायद आप इस
13:36क्वेश्चन को आंसर कर दोगे और आपको शायद
13:38पता होगा कि देयर इज अ कांसेप्ट कॉल्ड
13:41कॉन्टेक्स्ट विंडो। सो हर एलएलएम का एक
13:44कॉन्टेक्स्ट विंडो होता है। यहां पे मैंने
13:46इसका डेफिनेशन लिखा है। द डेफिनेशन इज़ दैट
13:49द कॉन्टेक्स्ट विंडो इज़ द अमाउंट ऑफ़
13:51टेक्स्ट एंड एलएलएम कैन रीड एंड रिमेंबर
13:54एट वन टाइम बिफोर आंसरिंग। सो एक बार
13:58एलएलएम अपना आंसर देने के पहले जितना
14:01टेक्स्ट प्रोसेस कर सकता है, रीड कर सकता
14:03है, याद रख सकता है, उसको हम कॉन्टेक्स्ट
14:06विंडो बुलाते हैं। अब अगर आपको
14:07कॉन्टेक्स्ट विंडो का कांसेप्ट एक एनालॉजी
14:10से समझना है तो एक अच्छा एनालॉजी होगा एक
14:13कैमरा। सो इस एनालॉजी में आप कैमरा को मान
14:17लो कि वो एलएलएम है। और उसका जो लेंस है
14:21वो है कॉन्टेक्स्ट विंडो।
14:24अब अगर आपका लेंस छोटा होगा तो आप अपने
14:28सामने जो सीन है उसका एक बहुत छोटा पार्ट
14:32कैप्चर कर पाओगे। राइट? बट अगर आपका लेंस
14:36बहुत बड़ा है तो उस सीन का आप एक बहुत
14:39बड़ा पोर्शन कैप्चर कर पाओगे। तो जो रोल
14:43लेंस कैमरा के लिए प्ले करता है बिल्कुल
14:46वही रोल कॉन्टेक्स्ट विंडो आपके एलएलएम के
14:49लिए प्ले करता है। जितना बड़ा कॉन्टेक्स्ट
14:51विंडो उतना ज्यादा टेक्स्ट प्रोसेस कर
14:54सकता है आपका एलएलएम बिफोर आंसरिंग द
14:57क्वेश्चन। आई होप आपको ये बात समझ में आ
14:59गई। अब आज के जो मॉडर्न एलएलएम्स हैं उनका
15:02कॉन्टेक्स्ट विंडो 128 के टोकंस के बराबर
15:07या उससे ज्यादा भी रहता है। देयर आर
15:09सर्टेन एलएलएम्स जैसे कि जेमिनाई मॉडल्स
15:11हैं उनका 1 मिलियन कॉन्टेक्स्ट विंडो है।
15:151 मिलियन टोकंस का कॉन्टेक्स्ट विंडो है।
15:17ठीक है? व्हिच बेसिकली मीन्स कि आप 128 के
15:21टोकंस वाले कॉन्टेक्स्ट विंडो में रफली
15:24200 पेजेस का पीडीएफ तक अपलोड कर सकते हो।
15:28आई होप आपको समझ में आ रहा है। अब आप सोच
15:30रहे होंगे कि मैंने सडनली से आपको
15:32कॉन्टेक्स्ट विंडो के बारे में क्यों
15:34पढ़ाया? उसका एक सिंपल रीजन है। मैं बस
15:37आपको यह बताना चाहता हूं कि यहां पर एक्स
15:39के अंदर यू कैन सेंड अ लॉट ऑफ टोकंस।
15:45और यह चीज हमें हेल्प करेगी मेमोरी बिल्ड
15:48करने में। द फैक्ट दैट वी कैन सेंड अ लॉट
15:51ऑफ टोकंस इन द इनपुट टोकंस इज अ वेरी
15:54वेरीेंट पावर दैट विल हेल्प अस इन द
15:56फ्यूचर। अब बात करते हैं दूसरे इंपॉर्टेंट
15:59कांसेप्ट के बारे में और इस कांसेप्ट का
16:01नाम है इनकॉन्टेक्स्ट लर्निंग। तो मैं
16:04आपको स्क्रैच से समझाता हूं इसका क्या
16:05मतलब है। सो जब आप किसी एलएलएम को ट्रेन
16:09करते हो तो आप उसको ह्यूज अमाउंट्स ऑफ
16:12डेटा प्रोवाइड करते हो। बेसिकली पूरे
16:14इंटरनेट का डेटा प्रोवाइड करते हो। और इस
16:17पूरे ट्रेनिंग प्रोसेस में क्या होता है
16:18कि ये जो एलएलएम है वो इस बहुत बड़े डेटा
16:21के अंदर पैटर्न्स खोजता है। नॉलेज गैदर
16:24करता है और वो नॉलेज वापस आकर के एलएलएम
16:28के पैराटर्स में स्टोर हो जाता है। दैट इज
16:32व्हाई हम इस नॉलेज को पैरामेट्रिक नॉलेज
16:34भी बुलाते हैं।
16:36एक बार जब मॉडल ट्रेन हो गया तो अब
16:38इनफरेंस के टाइम पे जब भी आप इस एलएलएम से
16:41कोई क्वेश्चन या प्रते हो तो वह प्र्प
16:45एक्चुअली जाकर के इस पैरामेट्रिक नॉलेज को
16:48सर्च करता है और पता करता है कि क्या इस
16:50क्वेश्चन का आंसर उसके पास है या नहीं।
16:53अगर है तो वो आंसर रिटर्न हो जाता है।
16:56राइट? बट जैसे-जैसे एलएलएम्स बड़े होते गए
17:00इन साइज इन ट्रेनिंग इन डेटा। तो लोगों ने
17:04एक इमरजेंट फिनोमिना ऑब्ज़र्व किया। और वो
17:07फिनोमिना ये था कि एलएलएम्स सिर्फ अपने
17:10पैरामेट्रिक नॉलेज को यूज़ नहीं करते हैं
17:13प्र्प को आंसर करने के लिए। बट समटाइ्स वो
17:16क्या कर सकते हैं कि प्र्प्ट के अंदर छुपे
17:18हुए डिटेल को भी यूज कर सकते हैं टू आंसर
17:21द क्वेश्चन। फॉर एग्जांपल आपने क्या किया?
17:25आपने एक पूरा का पूरा पीडीएफ उठाया जो कि
17:28100 पेजेस का था। ठीक है? और ये आपके
17:32कंपनी का प्राइवेट डाटा है। सो इस डेटा को
17:35एलएलएम ने पहले नहीं देखा। आपने इस पूरे
17:38पीडीएफ को उठा के प्र्प्ट में डाल दिया।
17:40और फिर आपने प्र्प्ट में इसी पीडीएफ से एक
17:43क्वेश्चन भी पूछ लिया और यह प्र्ट आपने
17:46एलएलएम के पास भेज दिया। अब ऑब्वियसली इस
17:50क्वेश्चन को आंसर करने का नॉलेज इस एलएलएम
17:53के पास नहीं है। इसके पैरामेट्रिक नॉलेज
17:55में नहीं है। बट एलएलएम क्या कर सकता है
17:58कि वो इस 100 पेजेस के पीडीएफ को रीड करके
18:02इस क्वेश्चन को आंसर कर सकता है। इसी को
18:04बोला जाता है इनकॉन्टेक्स्ट लर्निंग। यहां
18:07पर देखो लिखा हुआ है इनकॉन्टेक्स्ट
18:09लर्निंग इज एन इमर्जेंट एबिलिटी दैट अलाउस
18:11एन एलएलएम टू यूज़ इंफॉर्मेशनेशन एंड
18:13पैटर्न्स प्रेजेंट इन द प्र्प्ट इटसेल्फ
18:16इन एडिशन टू टू टू इट्स ट्रेंड
18:18पैरामेट्रिक नॉलेज टू जनरेट एन आंसर। ठीक
18:21है? सो जो डिफॉल्ट मोड था एलएलएम का आंसर
18:24करने का वो ये था कि वो अपने पैरामेट्रिक
18:26नॉलेज में जाकर के सर्च करेगा आंसर। बट
18:29अगर वो चाहे तो वो प्र्प्ट के अंदर छुपे
18:32नॉलेज को भी यूज कर सकता है टू जनरेट एन
18:34आंसर। इसी को हम बोलते हैं इन्टेक्स्ट
18:37लर्निंग। अब अगेन आपके दिमाग में आ रहा
18:39होगा कि मैंने क्यों आपको बताया
18:41इनकॉन्टेक्स्ट लर्निंग के बारे में। तो अब
18:44मैं नेक्स्ट बताता हूं कि कैसे ये जो
18:46दोनों कांसेप्ट्स मैंने आपको पढ़ाए
18:48कॉन्टेक्स्ट विंडो एंड इनकॉन्टेक्स्ट
18:50लर्निंग इन दोनों को यूज़ करके हम एक ऐसा
18:54सिस्टम बना सकते हैं जो एलएलएम के लिए
18:56मेमोरी का काम करेगा। सो सॉल्यूशन बहुत
18:58सिंपल सा है। हमारा प्लान यह है कि अब हम
19:01जब भी एलएलएम को इनवोक करेंगे, इस फंक्शन
19:05को कॉल करेंगे, तो हम इस x पे अभी तक का
19:10सारा का सारा कॉन्वर्सेशन कॉन्कटिनेट करके
19:12भेज देंगे। सो मेरा कहने का मतलब यह है कि
19:15अगर आप इस चार्ट को देखो तो इस चार्ट में
19:17हम दो बार इस फंक्शन को या एलएलएम को
19:20इनवोक कर रहे हैं। तो जब हमने फर्स्ट टाइम
19:22यह मैसेज देखा यूजर की तरफ से तो हम ये
19:27मैसेज करेंगे।
19:30हम डायरेक्टली x1 को भेज देंगे। बिकॉज़
19:32इसके पहले कोई चार्ट एक्सिस्ट नहीं करती।
19:35इससे हमें y1 मिल गया। अब यूजर ने x2
19:38पूछा। तो अब हम ये नहीं करेंगे। y2 = fta
19:43x2 इंस्टेड हम ये करेंगे y2 = fta
19:49कॉनकटिनेशन ऑफ x1 y1 x2 हम ये भेजेंगे
19:56आई होप आपको समझ में आ रहा है हमने क्या
19:58किया हमने बेसिकली इस टाइम पे एलएलएम को
20:03कॉल करते टाइम इसके पहले का पूरा का पूरा
20:06कॉन्वर्सेशन हिस्ट्री ही भेज दिया अब यहां
20:10यहां पे वो दोनों कांसेप्ट्स कैसे
20:11एप्लीकेबल है जो हमने अभी डिस्कस किए।
20:13पहला कांसेप्ट कॉन्टेक्स्ट विंडो का। हमने
20:16ये डिस्कस किया था कि कॉन्टेक्स्ट विंडो
20:18काफी बड़ा होता है। मतलब आप वहां पे काफी
20:20सारा टेक्स्ट भेज सकते हो। तो x1 y1 एंड
20:24x2 भेजने में कोई प्रॉब्लम नहीं होनी
20:26चाहिए। सेकंड हमने डिस्कस किया था
20:27कॉनंसेप्ट इन कॉन्टेक्स्ट लर्निंग का।
20:29व्हिच मींस कि एलएलएम x1 y1 को पढ़ के x2
20:34को आंसर करने की कोशिश कर सकता है। अगर
20:36उसके पैरामेट्रिक नॉलेज में ये आंसर नहीं
20:38है। सो हमने उससे पूछ लिया व्हाट इज माय
20:40नेम? ऑब्वियसली एलएलएम के पैरामेट्रिक
20:42नॉलेज में ये नॉलेज नहीं होगा कि यूजर का
20:44नाम क्या है। बट सिंस हमने कॉन्टेक्स्ट
20:47में x1 और y1 भेज दिया। तो यहां से वो रीड
20:50कर लेगा कि यूजर ने पहले मुझे अपना नाम
20:52नितेश बताया था और फिर वो y2 में
20:54ऑटोमेटिकली आपको बता देगा कि योर नेम इज़
20:57नितिश। एंड दिस इज द सिंपल एलगेंट
21:00सॉल्यूशन जो हमारे लिए मेमोरी का काम
21:03करेगा। सो एसेंशियली हम एलएलएम को कुछ याद
21:06रखने को नहीं बोल रहे हैं। हम बस उसके
21:08कॉन्टेक्स्ट विंडो में एक कंटिन्यूटी
21:10प्रोवाइड कर रहे हैं पूरा का पूरा
21:12कॉन्वर्सेशन पास करके एट एव्री पॉइंट ऑफ़
21:14टाइम। नाउ लेट मी डेमोंस्ट्रेट दिस
21:16सॉल्यूशन इन कोड। सो दिस इज़ द सेम कोड जो
21:18मैंने आपको थोड़ी देर पहले दिखाया था। अब
21:20देखो हम इस सेम चीज़ को कैसे इंप्लीमेंट
21:22करेंगे। सबसे पहले मैंने क्या किया है कि
21:24मैंने एक वेरिएबल ले लिया है बाय द नेम ऑफ
21:26मैसेजेस और इसको मैंने एक लिस्ट बना लिया
21:28है और लिस्ट के अंदर मैंने अपना x1 पहला
21:31प्रम्प्ट डाल दिया है माय नेम इज नितीश
21:33ठीक है तो हमने इसको रन किया अब मैं क्या
21:35कर रहा हूं एलएलएम को इनवोक कर रहा हूं और
21:38अंदर भेज रहा हूं मैसेजेस देखो हमारा
21:40एलएलएम क्या रिसोंड कर रहा है हमारा
21:42एलएलएम बोल रहा है नाइस टू मीट यू नितीश
21:44अब मैंने क्या किया कि ये जो एलएलएम का
21:46आउटपुट निकल के आया व्हिच इज y1 उसको मैं
21:49वापस मैसेजेस में ही अपेंड कर दे रहा हूं
21:51तो अब मेरा जो मैसेजेस है उस लिस्ट में दो
21:54मैसेजेस आ गए। पहला x1 दूसरा y1 अब देखो
21:58पिक्चर में आया x2 मेरे यूजर ने पूछा
22:00व्हाट इज माय नेम तो अब हमारा मैसेजेस
22:04वाला जो लिस्ट है उसमें तीन मैसेजेस आ गए
22:06कॉन्कटिनेशन हो गया x1 y1 x2 अब मैं इस
22:09मैसेज को भेज रहा हूं एलएलएम डॉट इनवोक
22:12में और ये देखो मेरा आउटपुट क्या है योर
22:14नेम इज नितीश सो बिल्कुल जो चीज हमने
22:17डिस्कस की थ्योरी में वही हमने कोड में
22:19इंप्लीमेंट किया सो एसेंशियली हम कर क्या
22:21रहे हैं इस पूरी चीज में कि हम मैसेजेस
22:24बोल के एक वेरिएबल लेके चल रहे हैं साथ
22:27में और हर अगला जो नया मैसेज पिक्चर में आ
22:29रहा है उस मैसेज को हम इस मैसेजेस वाले
22:32वेरिएबल में अपेंड करते जा रहे हैं। तो इन
22:35अ वे जो मैसेजेस वाला वेरिएबल है ये हमारे
22:38इस सिस्टम के लिए स्टेट का काम कर रहा है।
22:41पहले हमारा सिस्टम स्टेटलेस था बट बिकॉज़
22:43ऑफ़ दिस मैसेजेस वेरिएबल नाउ इट हैज़ बिकम
22:46स्टेटफुल। बिकॉज़ यह मैसेजेस स्टेट का काम
22:49कर रहा है। कई जगहों पर इस मैसेज को
22:51कॉन्वर्सेशन बफर भी बुलाया जाता है। बिकॉज़
22:54इसमें हम अपना पूरा कन्वर्सेशन हिस्ट्री
22:56लोड करते जा रहे हैं डायनेमिकली। और इन अ
22:59वे चीज एक मेमोरी की तरह काम कर रही है।
23:02है नहीं बट मेमोरी की तरह काम कर रही है।
23:05और मजेदार बात क्या है कि अगर मैं इस फाइल
23:08को रिस्टार्ट कर दूं
23:11तो क्या होगा कि अब वापस से मेरा जो
23:15एलएलएम है वो मुझे पहचानने से इंकार कर
23:17देगा। बिकॉज़ अब मैसेजेस में ये सारे
23:19मैसेजेस नहीं है। तो इन अ वे जो मेमोरी है
23:23यह टेंपरेरी भी है। दैट इज व्हाई इस
23:25मेमोरी को शॉर्ट टर्म मेमोरी बुलाया जाता
23:27है। एलएलएम्स के कॉन्टेक्स्ट में। तो आई
23:29रियली होप मैंने फर्स्ट प्रिंसिपल से आपके
23:31सामने जो शॉर्ट टर्म मेमोरी को
23:33इंट्रोड्यूस किया यह पूरी चीज आपको समझ
23:35में आ गई। अब शॉर्ट टर्म मेमोरी क्या होता
23:37है? ये तो आपको समझ में आ गया। अब एक बार
23:39ये डिस्कस करते हैं कि चैटबॉट्स में
23:41एग्जैक्टली शॉर्ट टर्म मेमोरी को
23:42इंप्लीमेंट कैसे किया जाता है? इसके लिए
23:44आपको एक बार स्ट्रक्चर समझना पड़ेगा।
23:46चैटबॉट्स कैसे काम करते हैं। सो कोई भी
23:48चैटबॉट आप उठा लो। चार्ट जेपीडी हो गया या
23:51जेमिनाई हो गया। इन चैट बॉट्स में
23:53कॉन्वर्सेशन का कांसेप्ट होता है।
23:56कॉन्वर्सेशन का सिंपल फंडा है वन सेशन विद
23:59द चैट बॉट। आपने चार्ट जीपीटी ओपन किया।
24:02एक टॉपिक के बारे में बात किया। काम हो
24:03गया। चार्ट जीपीटी बंद कर दिया। दैट इज वन
24:06कॉन्वर्सेशन। फिर अगले दिन आए चार्ट
24:08जीपीटी ओपन किया। एक दूसरी चीज के बारे
24:09में बात किया। बंद कर दिया। दैट इज़ सेकंड
24:12कॉन्वर्सेशन। वो सारे कॉन्वर्सेशंस आपको
24:14यहां पे दिखाई देते हैं। यू कैन सी दीज़ आर
24:17ऑल कॉन्वर्सेशंस जो मैंने चार जीपीटी के
24:20साथ किए हैं। ठीक है? अब शॉर्ट टर्म
24:23मेमोरी का फंडा क्या है? कि आप हर
24:25कॉन्वर्सेशन को एक शॉर्ट टर्म मेमोरी
24:28असाइन करते हो। बेसिकली आपका शॉर्ट टर्म
24:32मेमोरी इज कॉन्वर्सेशन स्कोप्ड। एक
24:35कॉन्वर्सेशन के बाहर आपका शॉर्ट टर्म
24:37मेमोरी एक्सिस्ट नहीं करता। हर
24:39कॉन्वर्सेशन का खुद का शॉर्ट टर्म मेमोरी
24:41है। ठीक है? सो मतलब अगर मैंने ये
24:44पर्टिकुलर कॉन्वर्सेशन ओपन कर रखा है और
24:46यहां पे हमारे चार्ट्स हैं। तो मैं सिर्फ
24:50इन्हीं चार्ट्स को अ कॉन्कटिनेट करता हूं
24:53मैसेज वाले वेरिएबल में। ठीक है? जैसे ही
24:57मैंने इस वाले कॉन्वर्सेशन को बंद करके इस
24:59वाले कॉन्वर्सेशन को स्टार्ट किया। तो
25:01मेरा जो मैसेज वेरिएबल था, यह पहले एंप्टी
25:04हो जाएगा। और एंप्टी होने के बाद इस नए
25:06वाले कॉन्वर्सेशन के सारे मैसेजेस यहां पे
25:08कॉन्कटिनेट हो के ऐड हो जाएंगे। दिस इज़
25:11हाउ यू इंप्लीमेंट शॉर्ट टर्म मेमोरी इन
25:13चैट बॉट्स। और ऐसा इसलिए किया जाता है
25:15बिकॉज़ आप एक सिंगल शॉर्ट टर्म मेमोरी नहीं
25:17रखना चाहोगे पूरे के पूरे अपने चैटबॉट के
25:20लिए। मान लो आपके पास 1000 कॉन्वर्सेशन है
25:24चैट जीपीडी के साथ और आपने एक सिंगल
25:27मैसेजेस वेरिएबल बना रखा है इन 1000 के
25:301000 कॉन्वर्सेशंस को होल्ड करने के लिए।
25:32फर्स्ट ऑफ़ ऑल दिस मैसेजेस वेरिएबल विल बी
25:35टू लॉन्ग
25:37और वो इनकोहेरेंट भी हो जाएगा। एलएलएम
25:40इतनी बड़ी चीज को देख के सही से आंसर नहीं
25:43दे पाएगा। दैट इज व्हाई आप क्या करते हो?
25:45आप एक लॉजिकल बाउंड्री क्रिएट कर लेते हो।
25:47वन कन्वर्सेशन इज वन बाउंड्री और उसके
25:49अंदर ही मेरा शॉर्ट टर्म मेमोरी एक्सिस्ट
25:51करता है। सो दैट इस पर्टिकुलर कन्वर्सेशन
25:53में क्या चल रहा है वो मुझे पता रहे।
25:55दूसरे कन्वर्सेशन से मेरा कोई मतलब नहीं
25:57है। ठीक है? अब यहां पे एक और टर्मिनोलॉजी
25:59वाली चीज मैं बता देता हूं। अह बहुत जगहों
26:01पे अह कॉन्वर्सेशन को थ्रेड बुलाया जाता
26:04है। सो दिस इज़ वन थ्रेड, दिस इज़ अनदर
26:07थ्रेड, दिस इज़ थर्ड थ्रेड। दीज़ आर ऑल
26:09थ्रेड्स। ठीक है? तो थ्रेड इज इक्वल टू
26:10कन्वर्सेशन। और इसीलिए कई जगहों पे आपको
26:13यह पढ़ने को मिलेगा दैट शॉर्ट टर्म मेमोरी
26:16इज़
26:18थ्रेड स्कोप्ड। मतलब एक शॉर्ट टर्म मेमोरी
26:21का जो स्कोप है वो एक सिंगल थ्रेड होता
26:24है। एक थ्रेड के बाहर शॉर्ट टर्म मेमोरी
26:26एग्ज़िस्ट नहीं करती। ठीक है? तो आई रियली
26:29होप आपको ये दोनों चीजें समझ में आ गई।
26:31फर्स्ट आपको ये समझ में आ गया कि शॉर्ट
26:33टर्म मेमोरी होती क्या है। इट इज़ जस्ट अ
26:34कॉन्वर्सेशन बफर। एंड सेकंड आप उसको
26:37इंप्लीमेंट कैसे करते हो विद इन अ
26:39कॉन्वर्सेशन। ठीक है? तो आई गेस यहां तक
26:42का पूरा का पूरा डिस्कशन क्लियर है। अब
26:44आपने दो चीजें समझ ली। शॉर्ट टर्म मेमोरी
26:46क्या होता है और शॉर्ट टर्म मेमोरी को
26:48इंप्लीमेंट कैसे किया जाता है चैट बॉक्स
26:50में। अब हम डिस्कस करेंगे कि शॉर्ट टर्म
26:52मेमोरी में क्या-क्या प्रॉब्लम्स हैं। तो
26:55सबसे पहली जो प्रॉब्लम है वो यह है कि
26:57शॉर्ट टर्म मेमोरी इज़ फ्रजाइल। फ्रजाइल का
27:00मतलब कि बहुत आसानी से इट कैन ब्रेक।
27:03मैंने आपको अभी जस्ट दिखाया कि कोड में
27:05शॉर्ट टर्म मेमोरी को इंप्लीमेंट करने का
27:07तरीका यह है कि हम मैसेजेस नाम से एक
27:09वेरिएबल बना रहे हैं और यहां पर हम पूरा
27:12का पूरा कॉन्वर्सेशन हिस्ट्री स्टोर करते
27:14जा रहे हैं। राइट? बट द प्रॉब्लम इज़ कि
27:17अगर कोड रिसेट हो जाता है या फिर सर्वर
27:21क्रैश हो जाता है तो यहां पे मैसेजेस
27:24वेरिएबल के अंदर जो भी है जितने भी पास्ट
27:26मैसेजेस हैं वो सब उड़ जाएंगे। व्हिच
27:29बेसिकली मींस कि हमारा पूरा कॉन्वर्सेशन
27:31टेक्स्ट कॉन्टेक्स्ट खत्म हो जाएगा। तो एक
27:33सिनेरियो इमेजिन करते हैं। मान लो आप इस
27:36पर्टिकुलर कॉन्वर्सेशन में बात कर रहे हो
27:38चैट जीपीटी के साथ और यहां पे हर नया
27:42मैसेज आप मैसेजेस वेरिएबल में ऐड करते जा
27:45रहे हो। ठीक है? और यह वाला कॉन्वर्सेशन
27:47सही से चल रहा है। बट सडनली से आपने सोचा
27:51कि अब मुझे एक नया कॉन्वर्सेशन स्टार्ट
27:53करना है। तो आप न्यू चैट पर गए। जैसे ही
27:57आप न्यू चैट पर गए तो यह विंडो ब्लैंक हो
27:59गया और साथ ही साथ मैसेजेस के अंदर जो भी
28:03कन्वर्सेशन था प्रीवियस वाले कन्वर्सेशन
28:05का वो रिमूव हो गया और अब आप इस न्यू
28:08चार्ट में बात करने लग गए। यहां पे आपने
28:10एक मैसेज भेजा एआई का मैसेज आया। आपने
28:12मैसेज भेजा एआई का मैसेज आया और ये सब फिर
28:14से आप मैसेजेस वेरिएबल में स्टोर करने लग
28:16गए। ठीक है? अब सडनली से आपको याद आया कि
28:19आपको प्रीवियस वाले चैट में कुछ देखना था।
28:22तो आपने यहां पर क्लिक किया। जैसे ही आपने
28:25यहां पर क्लिक किया, अब आपको क्या लगता है
28:27यहां पर क्या डिस्प्ले होगा? द आंसर इज
28:30नथिंग।
28:32बिकॉज़ आपने प्रीवियस कॉन्वर्सेशन को कहीं
28:35पे स्टोर नहीं किया था। तो वो पूरा का
28:38पूरा मेमोरी से हट गया। व्हिच बेसिकली
28:40मींस अब यहां पे आप जो भी नया मैसेज करोगे
28:42पुराने वाले कॉन्वर्सेशन में उसको चैट
28:45जीपीटी या आपका एलएम बिल्कुल नए तरीके से
28:48ट्रीट करेगा। पुराना इनेशन वो रिटेन नहीं
28:51कर पाया। ठीक है? तो दिस इज द बिगेस्ट
28:54प्रॉब्लम। अब सॉल्यूशन क्या है? सॉल्यूशन
28:56बहुत सिंपल है कि आप पर्सिस्टेंस का यूज़
28:59करो। मतलब आप
29:02शॉर्ट टर्म मेमोरी के साथ एक डेटाबेस को
29:04कनेक्ट कर दो। व्हिच बेसिकली मींस कि जब
29:08आप इस कॉन्वर्सेशन में बातचीत कर रहे हो
29:11और इस मैसेजेस वाले वेरिएबल में आपने सारे
29:14के सारे मैसेजेस को ऐड किया है। तो अब
29:17जैसे ही आप न्यू चैट पे जा रहे हो वहां
29:20जाने के पहले इस मैसेजेस के अंदर जो भी
29:22स्टर्ड है उसको एक डेटाबेस में स्टोर करते
29:25हुए जाओ। ठीक है? सो आप क्या करोगे? आप एक
29:29थ्रेड आईडी क्रिएट करोगे। मान लो थ्रेड
29:31आईडी हो गया वन। तो इस थ्रेड आईडी अगेंस्ट
29:34के इस थ्रेड आईडी वन के अगेंस्ट में जो भी
29:36मैसेजेस हैं वो सब आपने इस डेटाबेस में
29:39स्टोर कर लिए। अब आप गए न्यू चैट में यहां
29:42पे आपने एक नया कन्वर्सेशन स्टार्ट किया।
29:43फिर से इस मैसेजेस वाले वेरिएबल को
29:45पॉपुलेट किया। बातचीत होती जा रही है। अब
29:47आपने रियलाइज किया कि मुझे वापस पिछले
29:50वाले पे जाना है। तो फिर से पिछले वाले पे
29:52जाने के पहले आप क्या करोगे कि एक नया
29:54थ्रेड आईडी बनाओगे। मान लो थ्रेड आईडी टू।
29:57और इस थ्रेड आईडी टू के अगेंस्ट अभी न्यू
30:00चैट में जो भी मैसेजेस हैं उसको स्टोर कर
30:02दोगे इन योर डेटाबेस। अब आप वापस गए अपने
30:06पुराने वाले कॉन्वर्सेशन में और यहां पे
30:08अब क्या होगा कि आप सबसे पहले इस थ्रेड
30:10आईडी के अगेंस्ट जो भी मैसेजेस डेटाबेस
30:13में स्टर्ड हैं उनको वापस इस जगह पे लोड
30:15करोगे और फिर इस तरीके से आपका चैट लूज़
30:19नहीं होगा। आपका कॉन्टेक्स्ट लूज़ नहीं
30:21होगा। अब जब आप अगला क्वेश्चन पूछोगे तो
30:23वो कंटिन्यूटी में ऑपरेट करेगा। पिछला
30:25कॉन्टेक्स्ट को समझ के आंसर करेगा। तो दिस
30:27इज अ वेरीेंट थिंग दैट यू शुड अंडरस्टैंड।
30:30अब मजेदार चीज ये है कि ये पूरी चीज मैंने
30:32आपको ऑलरेडी बना के दिखा रखा है। अगर आप
30:34लैंग्राफ वाले प्लेलिस्ट में जाओगे वहां
30:36पे मैंने ये कैसे करना है ये दिखाया है।
30:38ठीक है?
30:43अब बात करते हैं सेकंड प्रॉब्लम की। सेकंड
30:45प्रॉब्लम है द कॉन्टेक्स्ट विंडो
30:47प्रॉब्लम। सो अगर आपको याद होगा थोड़ी देर
30:49पहले हमने डिस्कस किया था कि कॉन्टेक्स्ट
30:51विंडो क्या होता है? सो कॉन्टेक्स्ट विंडो
30:54इज़ बेसिकली द मैक्सिमम नंबर ऑफ टोकंस दैट
30:56अ एलएलएम कैन प्रोसेस व्हाइल जनरेटिंग एन
30:58आंसर। राइट? अब एक सिनेरियो इमेजिन करते
31:02हैं। मान लो आप एलएलएम के साथ एक
31:05कॉन्वर्सेशन कर रहे हो। और वो कॉन्वर्सेशन
31:09बहुत लंबा हो गया है। वि मींस इसमें बहुत
31:12सारे मैसेजेस आते जा रहे हैं। नए मैसेजेस
31:14आते जा रहे हैं। एलएलएम भी अपना बड़ा-बड़ा
31:16रिस्पांस भेज रहा है। आप भी नए क्वेश्चंस
31:18भेज रहे हो। तो ओवर टाइम क्या होगा कि इस
31:21कॉन्वर्सेशन में बहुत सारे मैसेजेस आ
31:24जाएंगे। और हम क्या कर रहे हैं कि हर अगला
31:27मैसेज एलएलएम को भेजते टाइम पुराना पूरा
31:30कॉन्वर्सेशन हिस्ट्री अटैच कर रहे हैं। तो
31:32यू कैन इमेजिन जो हमारा मैसेजेस वाला
31:35लिस्ट होगा वो कितना बड़ा हो सकता है। नाउ
31:39इमेजिन कि ये इतना बड़ा हो जाए कि जब हम
31:41इसको टोकनाइज करें मतलब इसको टोकंस में
31:44कन्वर्ट करें तो इसका टोकन साइज
31:47इस एलएलएम के कॉन्टेक्स्ट विंडो को एक्सीड
31:51कर जाए। इन दैट केस प्रॉब्लम क्या होगी कि
31:54सडनली से आपका जो एलएलएम है वो चीजों को
31:57समझना बंद कर देगा। ऐसा हो सकता है कि वो
32:00इन कोहेरेंट रिप्लाई दे या फिर हेलुसिनेट
32:03करने लग जाए। तो ये है कॉन्टेक्स्ट विंडो
32:05प्रॉब्लम जो एसटीएम के साथ होती है। शॉर्ट
32:07टर्म मेमोरी के साथ होती है। ठीक है? तो
32:09बेसिक आईडिया यही है कि यू हैव अ लॉन्ग
32:12रनिंग चार्ट और आप उस पूरे कन्वर्सेशन
32:15हिस्ट्री को बार-बार एलएलएम के पास भेज
32:17रहे हो। बट वो एक्यूमुलेट होते-होते बहुत
32:19बड़ी हो गई। अब सॉल्यूशन क्या है इस
32:21प्रॉब्लम का? सॉल्यूशन एक्चुअली मल्टीपल
32:24तरीके हैं। मैं आपको एक तरीका बताता हूं
32:26जो वाइडली यूज़ किया जाता है। सो दो अलग
32:29अप्रोचेस को साथ में मर्ज करके यूज़ किया
32:31जाता है। पहला अप्रोच है ट्रिमिंग।
32:33ट्रिमिंग में आप क्या करते हो कि आप
32:35डिसाइड कर लेते हो कि मैं सबसे रीसेंट n
32:39मैसेजेस ही
32:42भेजूंगा अपने एलएलएम के पास। जैसे आपने
32:44डिसाइड कर लिया कि रादर देन सेंडिंग द
32:46एंटायर कन्वर्सेशन व्हिच हैज़ लेट से 500
32:50मैसेजेस आई विल जस्ट सेंड द लास्ट 50
32:54मैसेजेस बिकॉज़ जो सबसे रीसेंट कॉन्टेक्स्ट
32:57है वो पिछले 50 मैसेजेस में ही है। पुराने
33:00500 मैसेजेस में जाके कोई फायदा नहीं है।
33:02ठीक है? तो इसको बोला जाता है ट्रिमिंग।
33:04तो यहां पे देखो हमने क्या किया है कि
33:05रादर देन सेंडिंग दिस एंटायर थिंग हमने
33:07सिर्फ सबसे रीसेंट वाले दो मैसेजेस को रखा
33:10है। बाकी सब हटा दिया। ठीक है? अब ये इतना
33:12ही हम भेजेंगे अपने एलएलएम के कॉन्टेक्स्ट
33:15विंडो में व्हाइल इनवोकिंग द एलएलएम
33:18फंक्शन। दिस इज वन अप्रोच। अब इस अप्रोच
33:21में प्रॉब्लम क्या है कि सिंस आपने पिछले
33:23सारे मैसेजेस हटा दिए तो हो सकता है कि आप
33:27यहां पे कुछ इंपॉर्टेंट बात या
33:29कॉन्टेक्स्ट मिस कर जाओ। तो इसी को और
33:32बेहतर करने का तरीका यह है कि आप जो
33:35मैसेजेस को हटा रहे हो उन मैसेजेस को एक
33:38दूसरे एलएलएम के पास भेजो और उसकी एक समरी
33:41जनरेट कर लो। जैसे कि ये देखो इस पूरे चैट
33:44का यहां पे हमने समरी जनरेट कर लिया।
33:46डिस्कस्ड प्रोजेक्ट एक्स टास्क व डेडलाइन
33:49z एंड फीचर डब्लू। और अब हम क्या करें कि
33:52सबसे रीसेंट वाले जो 50 मैसेजेस हैं वो तो
33:55भेजें ही साथ में उसके ऊपर एक समरी भी
33:58अटैच करके भेज दें। अब ऑब्वियसली ये समरी
34:01450 मैसेजेस के बराबर नहीं होगी बिकॉज़ इट
34:04इज अ समरी। तो ये जो पूरी चीज है सबसे
34:06रीसेंट वाले 50 मैसेज और पूरे 500 मैसेजेस
34:10का समरी ये सब मिलाकर के जो टोटल टोकन
34:13काउंट होगा वो ऑटोमेटिकली विद इन लिमिट आ
34:16जाएगा और विद इन लिमिट आने की वजह से फिर
34:18आपका एलएलएम दोबारा से कोहेरेंट रिस्पांस
34:21देने लग जाएगा। ठीक है? तो ये एक बहुत बड़ी
34:23प्रॉब्लम है और दिस इज़ द मोस्ट वाइडली
34:26एक्सेप्टेड सॉल्यूशन फॉर दिस प्रॉब्लम। अब
34:29बात करते हैं थर्ड और सबसे क्रिटिकल
34:31प्रॉब्लम की और वह प्रॉब्लम यह है कि
34:33शॉर्ट टर्म मेमोरी जो होती है वह थ्रेड
34:35स्कोप्ड होती है। अभी थोड़ी देर पहले हमने
34:38डिस्कस किया था कि कैसे हर सिंगल
34:41कॉन्वर्सेशन या फिर थ्रेड के लिए अपनी खुद
34:45की शॉर्ट टर्म मेमोरी होती है। और अगर आप
34:48एक कॉन्वर्सेशन से दूसरे कॉन्वर्सेशन पर
34:50स्विच करते हो तो आपकी शॉर्ट टर्म मेमोरी
34:52गायब हो जाती है और फिर नए कॉन्वर्सेशन के
34:55हिसाब से ढल जाती है। अब खुद में यह एक
34:58फीचर है जिसकी वजह से शॉर्ट टर्म मेमोरी
35:01इतना इंपॉर्टेंट है। इस फीचर की वजह से ही
35:03हम कॉन्वर्सेशंस को कंटिन्यू कर पाते हैं।
35:06बट थ्रेटस्कोप होना एक तरीके से नेगेटिव
35:10इंपैक्ट भी क्रिएट करता है। लेट मी
35:12एक्सप्लेन हाउ। सो, हम तीन पॉइंटर्स
35:14डिस्कस करेंगे। सबसे पहला पॉइंटर यह है कि
35:18शॉर्ट टर्म मेमोरी के थ्रेड स्कोप होने की
35:20वजह से कोई भी यूजर कंटिन्यूटी नहीं रह
35:23पाती बिटवीन कॉन्वर्सेशंस। मैं आपको एक
35:25सिंपल एग्जांपल देता हूं। मान लो मैं एक
35:28प्रोग्रामर हूं और मैं Python प्रेफर करता
35:31हूं ओवर एनी अदर लैंग्वेज। ठीक है? अब हुआ
35:36क्या कि मैंने एक सिंगल कॉन्वर्सेशन में
35:39एक एल्गोरिदम के बारे में पढ़ना शुरू किया
35:42और चैट जीपीटी या जो भी एलएलएम मैं यूज़ कर
35:45रहा हूं। उसने मुझे सारा का सारा जो कोड
35:47लिख के दिया वो जावा में लिख के दिया। और
35:50मैंने फिर एक्सप्लसिटली उसको बताया कि
35:52देखो मुझे जावा नहीं आता। आप मुझे Python
35:54में कोड करके दो। और इस कॉन्वर्सेशन में
35:57अब गोइंग फॉरवर्ड उसने पूरे टाइम मुझे
35:59Python में ही कोड करके दिखाया। बट अगेन
36:02जब मैं दो दिन बाद आया और एक नया
36:04कॉन्वर्सेशन स्टार्ट किया मैंने अराउंड अ
36:06डिफरेंट टॉपिक अगेन इन प्रोग्रामिंग। तो
36:09फिर से उसने मुझे जावास्क्रिप्ट या फिर
36:11जावा या फिर C++ का कोड एग्जांपल दिखाया।
36:14वो फिर से भूल गया कि मुझे Python आता है।
36:17बाकी लैंग्वेजेस नहीं आती। तो बेसिक
36:20आईडिया यह है कि सिंस शॉर्ट टर्म मेमोरी
36:23सिर्फ और सिर्फ एक कॉन्वर्सेशन के अंदर की
36:26चीजों को याद रखता है तो वो बाय डेफिनेशन
36:28यूजर प्रेफरेंसेस को याद नहीं रख सकता। वो
36:31मेरे हिसाब से चीजों को पर्सनलाइज़ नहीं कर
36:33सकता। ठीक है? दिस इज़ द फर्स्ट प्रॉब्लम।
36:36सेकंड प्रॉब्लम इज़ कि लर्निंग नेवर
36:39कंपाउंड्स ओवर टाइम। सो जो भी मेहनत
36:42मशक्कत मैं कर रहा हूं इस एलएलएम के साथ
36:44वो मुझे हर बार स्क्रैच से फिर से करनी
36:47पड़ेगी इन एव्री न्यू कन्वर्सेशन। फॉर
36:49एग्जांपल एक सिंगल
36:52कॉन्वर्सेशन चल रहा है मेरा जहां पे मैं
36:55सीक्वल क्वेरी लिखवाने में हेल्प ले रहा
36:57हूं एलएलएम की। मैंने उसको बोला कि देखो
37:00मुझे एक टेबल से टॉप फाइव कस्टमर्स
37:03एक्सट्रैक्ट करके दो। और उसने मुझे एक
37:05डिफिकल्ट सा सब क्वेरी लिख के दिया जिससे
37:09काम तो चल रहा है बट यह ऑप्टिमाइज्ड नहीं
37:12है। तो मैंने बोला कि देखो मुझे
37:14ऑप्टिमाइज्ड क्वेरी लिख के दो इंस्टेड ऑफ
37:16राइटिंग अ सब क्वेरी एक विंडो फंक्शन बना
37:19के दो। तो उसने मुझे विंडो फंक्शन बना के
37:22दिया। राइट? तो यू कैन सी मैं यहां पे
37:24काफी मेहनत कर रहा हूं। साथ में बैठ करके
37:27माथा लगा रहा हूं। राइट? बट अगेन दो दिन
37:30बाद जब मैंने एक दूसरा डेटा सेट उठाया या
37:33दूसरा टेबल उठाया वहां पर फिर से मेरा
37:36एलएलएम क्या कर रहा है? मुझे फिर से सब
37:37क्वेरी लिख के दे रहा है। तो वो मेरे
37:40हिसाब से कभी अडप्ट नहीं कर रहा है। उसकी
37:42लर्निंग कभी इवॉल्व नहीं कर रही मेरे साथ।
37:45वो पीछे छूट जा रहा है और मुझे हर बार
37:46उसको शुरू से हाथ पकड़ के सिखाना पड़ रहा
37:49है। ठीक है? दिस इज़ द सेकंड प्रॉब्लम।
37:51थर्ड प्रॉब्लम इज़ क्रॉस थ्रेड रीजनिंग इज़
37:54इंपॉसिबल। मैं कभी भी अपने एलएलएम से यह
37:58क्वेश्चन नहीं पूछ सकता हूं कि अच्छा हमने
38:00कल क्या बात की थी या फिर लास्ट जब हम इस
38:03तरह की प्रॉब्लम में फंसे थे तो क्या
38:04सॉल्यूशन निकला था? इस तरह के आंसर्स वो
38:07मुझे नहीं दे सकता बिकॉज़ मैंने पास्ट में
38:09कोई कन्वर्सेशन किया होगा बट अब मैं एक
38:11डिफरेंट कॉन्वर्सेशन में हूं। तो वो पास्ट
38:13वाला कॉन्वर्सेशन भूल चुका है बिकॉज़ इट इज़
38:15शॉर्ट टर्म मेमोरी। तो बेसिक आईडिया यह है
38:18कि जैसे ही मैं एक नया कॉन्वर्सेशन
38:21स्टार्ट करता हूं अपने एलएलएम के साथ तो
38:24मैं फिर से उस एलएलएम के लिए एक स्ट्रेंजर
38:27बन जाता हूं। दिस इज द बिगेस्ट प्रॉब्लम।
38:30मेरे हिसाब से मेरा एलएलएम पर्सनलाइज कर
38:33ही नहीं सकता। बिकॉज़ उसकी सारी मेमोरी एक
38:36बाउंड्री के अंदर बंद है। थ्रेड स्कोप्ड
38:39है, कॉन्वर्सेशन स्कोप्ड है। अब सोचो अगर
38:42मैं एक पर्सनल असिस्टेंट बनाना चाहता हूं।
38:45आई एम अ डेवलपर और मैं अपने यूजर के लिए
38:48एक पर्सनल असिस्टेंट बनाना चाहता हूं।
38:50पर्सनल असिस्टेंट की सबसे बड़ी खूबी क्या
38:52होती है कि वह अपने यूजर को इन एंड आउट
38:54समझता है। उसकी हर बारीकी जानता है और
38:57अपने यूजर के साथ वो इवॉल्व होता है। यह
39:01बाय डेफिनेशन ही पॉसिबल नहीं है शॉर्ट
39:03टर्म मेमोरी के साथ। बिकॉज़ आपके जो भी
39:06प्रेफरेंसेस हैं वो किसी एक सिंगल
39:07कॉन्वर्सेशन से तो आएंगे नहीं। किसी एक
39:10कन्वर्सेशन से एलएलएम को यह पता चलेगा कि
39:12आपको Python पसंद है। किसी एक कन्वर्सेशन
39:14से उसको यह पता चलेगा कि आप सॉफ्टवेयर
39:17डेवलपर हो। किसी एक कॉन्वर्सेशन से उसको
39:19पता चलेगा कि आपको सिंपल एक्सप्लेनेशन
39:21पसंद है। किसी एक कॉन्वर्सेशन से आपको पता
39:24उसको पता चलेगा कि आपको अ ट्रैवल करना
39:26पसंद है। तो अलग-अलग कॉन्वर्सेशन से यह
39:29छोटी-छोटी चीजें निकल करके एक पर्सनलाइज़्ड
39:33अ काइंड ऑफ़ प्रोफाइल क्रिएट करती हैं यूजर
39:36का। बट बाय डेफिनेशन सिर्फ सिंस एसटीएम इज
39:39लॉक्ड इनसाइड अ सिंगल कन्वर्सेशन यह जो
39:42पर्सनलाइजेशन वाला काम है यह पॉसिबल ही
39:45नहीं है। एंड दिस इज द बिगेस्ट ड्रॉबैक ऑफ
39:47शॉर्ट टर्म मेमोरी। आई रियली होप मैं आपको
39:50समझा पाया। यह पॉइंट समझना बहुतेंट है। अब
39:53प्रॉब्लम को तो हमने समझ लिया। अब बात
39:55करते हैं सॉल्यूशन की। सॉल्यूशन यह है कि
39:58हमें एक कंप्लीटली नए टाइप की मेमोरी
40:00चाहिए होगी। शॉर्ट टर्म मेमोरी से ये
40:03प्रॉब्लम सॉल्व नहीं हो सकती। हमें एक
40:05कंप्लीटली नई मेमोरी चाहिए जिसके अंदर दो
40:08इंपॉर्टेंट प्रॉपर्टीज हो। पहली प्रॉपर्टी
40:10तो यह होनी चाहिए कि यह जो नई मेमोरी है
40:13वो स्पेशल टाइप का इंफॉर्मेशन को स्टोर कर
40:16पाए लंबे टाइम तक। स्पेशल टाइप ऑफ
40:19इंफॉर्मेशन मतलब स्पेशल इंफॉर्मेशन मतलब
40:22ऐसा इंफॉर्मेशन जो एक सिंगल कॉन्वर्सेशन
40:25को सर्वाइव कर सकता है। मतलब उसकीेंस एक
40:27सिंगल कॉन्वर्सेशन से बाहर भी है। एक
40:30सिंगल सेशन से बाहर भी है। इनफैक्ट ऐसा हो
40:33सकता है कि यह इंफॉर्मेशन कई दिनों तक
40:35यूज़फुल रहे। मतलब आज एक सिंगल कॉन्वर्सेशन
40:38में मैंने इस इंफॉर्मेशन को इंट्रोड्यूस
40:40किया। बट इसकाेंस आगे कई दिनों तक रहेगा।
40:44जैसे लेट्स से आई एम राइटिंग अ बुक और
40:47ऑब्वियसली इस बुक को लिखने के प्रोसेस में
40:50मैं कई बार अपने चैटब से बात करूंगा और इस
40:54इंफॉर्मेशन काेंस तब तक है जब तक ये बुक
40:57मैं कंप्लीट नहीं कर लेता व्हिच कुड बी
40:59मंथ्स। ठीक है? तो हमारे पास जो ये नई
41:02मेमोरी आएगी उसके अंदर जो सबसे इंपॉर्टेंट
41:04प्रॉपर्टी होनी चाहिए वो ये है कि वो इस
41:06तरह का स्पेशल इनेशन को स्टोर कर पाए। ठीक
41:09है? आइडेंटिफाई कर पाए और स्टोर कर पाए।
41:11अब यहां पे किस तरह की चीजें होती हैं?
41:13किस तरह का इंफॉर्मेशन होता है? सबसेेंट
41:16इंफॉर्मेशन तो यह होता है कि हम यह
41:18आइडेंटिफाई करते हैं कि यूजर है कौन? इफ
41:20आई एम अ यूजर, नितीश इज अ यूजर, तो मेरे
41:23बारे में क्या इनेशन है जो मल्टीपल डेज तक
41:25जरूरी होगा? दैट आई एम अ मेल, आई एम
41:27इंडियन, आई एम अ यूबर, आई एम अ टीचर, आई
41:30टीच एआई। तो, इस तरह की चीजें हम
41:32आइडेंटिफाई कर पाए और उसको लॉन्ग टर्म तक
41:35स्टोर कर पाए। यह रिक्वायरमेंट होगी इस नई
41:37मेमोरी से। सेकंड हमें यह इंफॉर्मेशन
41:40स्टोर करना पड़ेगा कि यह जो पूरा सिस्टम
41:43है जो चैटबॉट है जो असिस्टेंट है यह हमारे
41:46यूजर के हिसाब से कैसे बिहेव करेगा। थर्ड
41:49इस मेमोरी के पास यह इंफॉर्मेशन होना
41:52चाहिए कि क्या चीजें हमारे यूजर के लिए
41:55काम करती हैं? क्या चीजें फेल कर जाती
41:57हैं। उसके पास यह इनेशन होना चाहिए कि
41:59पास्ट में किस तरह के डिसीजंस लिए गए थे।
42:02किस तरह का काम किया गया था। उसका आउटपुट
42:04क्या था? क्या प्रोसेससेस इंप्लीमेंट किए
42:06गए थे? यू गेट द आईडिया। यह टाइप का
42:08इंफॉर्मेशन हमें स्टोर करना है इस नई
42:11मेमोरी की हेल्प से। द सेकंड प्रॉपर्टी इज
42:14कि दिस न्यू मेमोरी हैज़ टू बी वेरी वेरी
42:17सेलेक्टिव। हम ब्लाइंडली सारा का सारा
42:20चार्ट उठा के इस मेमोरी में स्टोर नहीं
42:22करेंगे। हम हर कॉन्वर्सेशन में जाके जो
42:26सबसे इंपॉर्टेंट यूज़फुल पीसेस ऑफ इनेशन
42:29है, सिर्फ उसी को एक्सट्रैक्ट करेंगे और
42:31स्टोर करेंगे। हमें ऐसी चीजें चाहिए जो
42:34स्टेबल है, यूज़फुल है एंड रयूजेबल है फॉर
42:37अ लॉन्ग पीरियड ऑफ टाइम। बाकी सब चीजों को
42:40हम इग्नोर कर देंगे। तो हमें एक ऐसी नई
42:43मेमोरी चाहिए जिसके अंदर यह दो की
42:44प्रॉपर्टीज हो। और इस तरह की मेमोरी को
42:47एलएलएम के लैंग्वेज में लॉन्ग टर्म मेमोरी
42:50बोला जाता है। और उसका सिंपल रीज़न यह है
42:54कि शॉर्ट टर्म मेमोरी क्या था? शॉर्ट टर्म
42:56मेमोरी था जो एक सिंगल कॉन्वर्सेशन के
42:58अंदर एकिस्ट करता था। और कन्वर्सेशन के
43:00हटते ही वो डिस्ट्रॉय हो जाता था। बट यह
43:03ऐसी मेमोरी है जो कन्वर्सेशन के बाहर
43:06एग्जिस्ट कर रही है फॉर अ लॉन्ग पीरियड ऑफ़
43:08टाइम। दैट इज व्हाई वी कॉल दिस मेमोरी
43:11लॉन्ग टर्म मेमोरी। और अब गोइंग फॉरवर्ड
43:13इस वीडियो में जो हमारा सारा डिस्कशन होगा
43:15वो इस नई बट बहुतेंट मेमोरी के अराउंड
43:18होगा जिसको हम लॉन्ग टर्म मेमोरी बुला रहे
43:20हैं। सो अभी तक हमने लॉन्ग टर्म मेमोरी के
43:22बारे में यह जाना है कि यहां पर आप इस तरह
43:24की चीजें स्टोर करना चाहते हो जिसकाेंस एक
43:27सिंगल कॉन्वर्सेशन के बाहर भी होता है। बट
43:29अभी तक हम इसके डिटेल में नहीं गए। अब हम
43:31लोग एक बार समझेंगे कि व्हाट आर द की
43:34थिंग्स दैट यू स्टोर इनसाइड लॉन्ग टर्म
43:36मेमोरी। सो प्रिसाइज़ली देयर आर थ्री
43:39डिफरेंट टाइप्स ऑफ लॉन्ग टर्म मेमोरी। आप
43:40तीन अलग टाइप की चीजों को स्टोर करते हो
43:42लॉन्ग टर्म मेमोरी में। एक एक-एक करके हम
43:44उनको डिस्कस करते हैं। ठीक है? तो सबसे
43:46पहली चीज जो आप डिस्कस करते हो उसको हम
43:48बोलते हैं एपिसोडिक मेमोरी। एपिसोडिक
43:51मेमोरी सिंपली आपको ये बताता है कि पास्ट
43:53में क्या हुआ था। ठीक है? और यह जानने से
43:57आपका जो करंट कॉन्वर्सेशन है वो थोड़ा
43:59इंप्रूव हो जाता है। ठीक है? सो फॉर
44:02एग्जांपल
44:04लास्ट सेशन में यूजर ने एक पर्टिकुलर
44:06सॉल्यूशन को रिजेक्ट किया या फिर जो
44:08डिप्लॉयमेंट हमने ट्रिगर किया उसमें जो
44:10क्रेडेंशियल्स हमने डाले थे वो गलत है। या
44:13फिर पिछले सेशन में आपका ये सॉल्यूशन काम
44:16किया था। ये सॉल्यूशन काम नहीं किया था।
44:18इस तरह की चीजों को आप एपिसोडिक मेमोरी
44:20में स्टोर करते हो। फायदा क्या होता है
44:22इससे? इससे यह फायदा होता है कि आपके करंट
44:24कन्वर्सेशन में आप इस तरह के क्वेश्चंस को
44:26आंसर कर पाते हो। व्हाट डिड वी डू द लास्ट
44:29टाइम? हमने लास्ट टाइम क्या तरीका यूज़
44:31किया था? क्या यह पहले हो चुका है? क्या
44:34हम ये ये टेक्निक ऑलरेडी यूज़ कर चुके हैं?
44:36ये टाइप के क्वेश्चंस आपके एजेंट को पता
44:39होंगे। इनका आंसर उसको पता होगा जिसकी वजह
44:41से वो अपने करंट कॉन्वर्सेशन में थोड़ा
44:43बेटर तरीके से एक्ट कर पाता है। ठीक है?
44:45तो दिस इज़ एपिसोडिक मेमोरी। दिस इज़ द
44:47फर्स्ट काइंड ऑफ़ थिंग दैट यू स्टोर इनसाइड
44:49लॉन्ग टर्म मेमोरी। द सेकंड इज सिमेंटिक
44:52मेमोरी। यह सबसे कॉमन और सबसे इंपॉर्टेंट
44:55टाइप की लॉन्ग टर्म मेमोरी होती है। ये
44:57बेसिकली फैक्ट्स से मिलके बनी होती है।
45:00फैक्ट्स अबाउट द यूजर एंड द सिस्टम। ठीक
45:03है? सो एग्जांपल इज कि यूजर Python प्रेफर
45:07करता है या फिर यूजर एक सॉफ्टवेयर में
45:10बिगिनर है या फिर ये जो सिस्टम हम यूज़ कर
45:12रहे हैं उसमें पोस्ट ग्रे सीक्वल यूज़ हो
45:14रहा है। ये जो टिकट बुकिंग हम कर रहे हैं
45:17उसमें बजट कंस्ट्रेंट ₹10,000 का है। तो
45:19दीज़ आर ऑल फैक्ट्स अबाउट इदर द यूजर और द
45:23सिस्टम और द टास्क। ठीक है? तो यहां पर आप
45:26सिंपल अगर टर्म्स में बोला जाए तो आप यहां
45:29पे फैक्ट्स को स्टोर करते हो। व्हाट इज
45:31ट्रू अबाउट द सिस्टम एंड द यूजर। तो ये
45:34यूजर लेवल या फिर सिस्टम लेवल की मेमोरी
45:36होती है। लॉन्ग टर्म मेमोरी होती है। एंड
45:38द लास्ट वन इज़ प्रोसीजरल मेमोरी व्हिच
45:41बेसिकली मीन्स ये आपको बताती है हाउ टू डू
45:44थिंग्स। चीजों को करना कैसे है। तो यहां
45:46पे आप स्टोर करते हो स्ट्रेटजीस को, रूल्स
45:49को एंड लर्न बिहेवियर्स को। फॉर एग्जांपल
45:52थोड़ी देर पहले मैंने आपको बताया कि हमारा
45:54यूजर सीक्वल प्रॉब्लम्स को सॉल्व करने में
45:56सब क्वेरीज को अवॉइड करना चाहता है। ठीक
45:58है? या फिर अगर टूल x फेल करता है तो
46:01हमेशा टूल व ट्राई कर लेना या फिर जो करंट
46:04यूजर है उसको हमेशा स्टेप बाय स्टेप चीजों
46:06को समझाना अ प्रेफर्ड वर्क फ्लो फॉर टास्क
46:10z इज़ लेट्स से अ सम अदर थिंग और प्रेफर्ड
46:14वर्क फ्लो फॉर टास्क z इज़ समथिंग सम वर्क
46:17फ्लो ठीक है अ ये मेमोरी क्यों एक्सिस्ट
46:20करती है बिकॉज़ ये आपको बताती है या आपके
46:23एलएलएम को बताती है कि कौन सा तरीका सही
46:26है काम करने का दिस इज़ द क्वेश्चन दैट दिस
46:28दिस मेमोरी आंसर्स। ठीक है? तो ये काइंड
46:31ऑफ ओवरटाइ कंपाउंड होती है और दिस इज द
46:34मेमोरी जिसकी वजह से एक एजेंट ओवरटाइम
46:37आपको बेटर फील होने लगता है। आप उसके साथ
46:39कंफर्टेबल फील करने लगते हो या फिर आप
46:41उसके हिसाब से ढल जाते हो। तो ये भी एक
46:43बहुत इंपॉर्टेंट टाइप ऑफ मेमोरी है। तो
46:45कुल मिला के यही तीन टाइप की मेमोरीज़ को
46:48आप स्टोर करते हो लॉन्ग टर्म मेमोरी में।
46:50एपिसोडिक मेमोरी जो आपको पास्ट इवेंट्स के
46:52बारे में बताती है। सिमेंटिक मेमोरी जो
46:54आपको फैक्ट्स के बारे में बताती है। एंड
46:56प्रोसीजरल मेमोरी जो आपको चीजों को कैसे
46:58करना है फॉर अ पर्टिकुलर यूजर एंड सिस्टम
47:00वो बताती है। सो अब हमें पता चल गया कि
47:02लॉन्ग टर्म मेमोरी की जरूरत क्यों है?
47:04हमने ये स्टडी कर लिया कि लॉन्ग टर्म
47:06मेमोरी होती क्या है? और हमने ये भी
47:07डिस्कस कर लिया कि व्हाट आर द डिफरेंट
47:09टाइप्स ऑफ लॉन्ग टर्म मेमोरी। अब हम बात
47:11करेंगे ऑन अ वेरी हाई लेवल कि लॉन्ग टर्म
47:14मेमोरी एग्जैक्टली काम कैसे करती है? यह
47:16जो पूरा सिस्टम हम बिल्ड कर रहे हैं लॉन्ग
47:18टर्म मेमोरी के अराउंड वो काम कैसे करता
47:20है? ठीक है? तो यह जो पूरा का पूरा वर्क
47:23फ्लो है यह चार स्टेप्स में फंक्शन करता
47:25है। पहला स्टेप होता है क्रिएशन।
47:29दूसरा स्टेप होता है स्टोरेज।
47:32तीसरा स्टेप होता है रिट्रीवल और चौथा
47:34होता है इंजेक्शन।
47:37हम ये चारों स्टेप्स वन बाय वन डिस्कस
47:39करेंगे। सबसे पहले बात करते हैं स्टेप वन
47:41की जो कि है क्रिएशन या फिर आप इसको अपडेट
47:43स्टेप भी बोल सकते हो। सो होता क्या है कि
47:46आपका एक यूजर आया और वो आपके चैटबॉट से
47:50इंटरेक्ट कर रहा है इन अ पर्टिकुलर
47:52कन्वर्सेशन।
47:54अब इस कॉन्वर्सेशन के ड्यूरिंग आपको क्या
47:56करना है? एज अ सिस्टम आर्किटेक्ट सिस्टम
47:59प्लानर यू हैव टू अंडरस्टैंड कि इस
48:01कॉन्वर्सेशन के कौन से पीसेस लॉन्ग टर्म
48:03मेमोरी का पार्ट बन सकते हैं। बेसिकली इस
48:06स्टेप में जो मेन गोल है आपका वो यह है कि
48:09यू हैव टू फाइंड आउट इफ देयर इज़ एनीथिंग
48:12दैट हैज़ जस्ट हैपेंड वर्थ रिमेंबरिंग बियड
48:15दिस कॉन्वर्सेशन। जो भी बातचीत अभी हो रही
48:18है एआई और ह्यूमन के बीच में क्या इसमें
48:20से कुछ भी ऐसा है जो इस कॉन्वर्सेशन के
48:22बाहर सर्वाइव करना चाहिए? इस क्वेश्चन को
48:24आप आंसर करते हो। तो यहां पे आप क्या-क्या
48:26चीजें देखते हो? आप यूजर के मैसेजेस को
48:28चेक करते हो। आप मॉडल के रिस्पांस को भी
48:30चेक करते हो। आप इनफैक्ट अगर टूल बेस्ड
48:33सिस्टम्स बना के रखा है आपने एजेंट एक एआई
48:34सिस्टम बना रखा है तो टूल्स का जो आउटपुट
48:36है उसको भी आप चेक करते हो। और यहां पे ये
48:38चारप चीजें आप एग्जैक्टली परफॉर्म करते
48:40हो। सबसे पहले आप जो भी मैसेजेस एक्सचेंज
48:44हो रहे हैं उसके अंदर से मेमोरी
48:46कैंडिडेट्स एक्सट्रैक्ट करते हो। जैसे चैट
48:49करते-करते यूजर ने बोल दिया कि आई प्रेफर
48:52अ पython ओवर jवा। तो नाउ दिस इज अ मेमोरी
48:55कैंडिडेट। उसके बाद यू फिल्टर आउट नॉइज़।
48:58बहुत सारी और चीजें होती हैं उस मैसेज
49:00में। आप उसके अंदर से कोर फैक्ट या फिर जो
49:02भी कोर इनेशन है उसको एक्सट्रैक्ट करते
49:04हो। नॉइज़ को हटाते हो। स्टेप नंबर थ्री
49:07में आप स्कोप डिसाइड करते हो कि ये जो
49:09मेमोरी बनी है ये यूजर लेवल पे है या ऐप
49:12लेवल पे है या फिर एजेंट लेवल पे है। ये
49:14टैगिंग आपको करनी पड़ती है। उसके बाद
49:16फाइनली यू डिसाइड कि आपको एक नई मेमोरी
49:18बनानी है या फिर एकिस्टिंग मेमोरी को
49:21अपडेट करना है या फिर आप इसको इग्नोर कर
49:23सकते हो। ठीक है? तो ये होता है आपका
49:26स्टेप नंबर वन जहां पे ड्यूरिंग अ
49:28कन्वर्सेशन आपको यह डिसीजन मेकिंग करना है
49:30कि कोई पर्टिकुलर पीस ऑफ इंफॉर्मेशन लॉन्ग
49:33टर्म मेमोरी में जाना चाहिए या नहीं। ठीक
49:35है? इसके बाद आता है स्टेप नंबर टू। स्टेप
49:38नंबर टू है जब आपने डिसाइड कर लिया कि कोई
49:41पर्टिकुलर पीस ऑफ इंफॉर्मेशन आपको लॉन्ग
49:43टर्म मेमोरी में डालना है। उसको आपने
49:44प्रोसेस भी कर लिया। अब आपको उसको कहीं पे
49:46स्टोर करना पड़ेगा। स्टोर करने का सिंपल
49:48सा रीज़न है कि आपको उसको फ्यूचर में रीयूज़
49:51करना है। आप उसको लूज़ नहीं कर सकते। राइट?
49:54तो यहां पे आता है स्टोरेज पिक्चर में। सो
49:57स्टोरेज इज़ बेसिकली अ काइंड ऑफ़ स्टोर जहां
49:59पे आप लॉन्ग टर्म मेमोरी को स्टोर करते
50:01हो। ठीक है? स्टोरेज में बेसिकली दो
50:04फंक्शनंस आप परफॉर्म करते हो। पहला आप जो
50:07मेमोरी लेके आए हो स्टेप वन से उसको कोई
50:09ड्यूरेबल स्टोर में सेव करते हो। सेकंड आप
50:12उसके साथ आइडेंटिफायर्स एंड मेटाडेटा टैग
50:15करते हो। सो दैट फ्यूचर में उसका रिट्रीवल
50:17आसान हो जाए। और इस पूरे स्टेप का जो मेन
50:20पर्पस है वो ये है कि आप चाहते हो कि ये
50:23जो पर्टिकुलर पीस ऑफ़ मेमोरी है ये किसी भी
50:25तरह के रिस्ट्स या फिर क्रैशेस को सर्वाइव
50:27कर जाए। दैट्स द होल आईडिया। ठीक है? अब
50:30किस टाइप का मेमोरी स्टोर आप यूज करते हो
50:32ये डिपेंड करता है इस बात पे कि आप क्या
50:34चीज उसमें स्टोर करना चाहते हो। ठीक है?
50:36तो अलग-अलग ऑप्शंस हैं। आप चाहो तो एक
50:38रिलेशनल डेटाबेस में चीजों को स्टोर कर
50:40सकते हो। एक की वैल्यू स्टोर में कर सकते
50:42हो। आप चाहो तो लॉग में उसको काइंड ऑफ लॉक
50:45कर सकते हो। बेसिकली आप एक टेक्स्ट फाइल
50:46में उसको लॉक कर सकते हो। या फिर आप
50:48सिमेंैंटिक सर्च के लिए किसी वेक्टर
50:50डेटाबेस में भी उसको स्टोर कर सकते हो। तो
50:52देयर आर डिफरेंट-डिफरेंट ऑप्शंस डिपेंडिंग
50:54ऑन आप किस टाइप का मेमोरी स्टोर कर रहे
50:55हो। एपिसोडिक मेमोरी के लिए अलग है,
50:57प्रोसीजरल मेमोरी के लिए अलग है, सिमेंटिक
50:59मेमोरी के लिए अलग है। ठीक है? तो ये आ
51:01गया स्टेप टू। स्टेप वन में हमने मेमोरी
51:03को एक्सट्रैक्ट किया कन्वर्सेशन से। स्टेप
51:05टू में हमने उसको कहीं पे स्टोर कर लिया
51:06अलोंग विद द मेटा डेटा। अब आता है स्टेप
51:09थ्री। स्टेप थ्री में क्या हुआ कि हमारा
51:11यूजर एक नया चैट शुरू किया। एक नया
51:14कॉन्वर्सेशन शुरू किया। तो यहां पे क्या
51:17होता है कि व्हाइल डूइंग अ न्यू
51:19कन्वर्सेशन आपका स्टेप थ्री पिक्चर में
51:21आता है। दैट इज़ रिट्रीवल। सो होता क्या है
51:24कि जैसे-जैसे यूजर चैट करता है तो मॉडल
51:26रिप्लाई करने के पहले ये सोचता है कि क्या
51:29इस पर्टिकुलर क्वेश्चन को आंसर करने के
51:32लिए मुझे किसी टाइप की मेमोरी की जरूरत
51:34है? सो द एंटायर फोकस इज़ गिवेन द करंट
51:36सिचुएशन व्हाट शुड आई रिमेंबर राइट नाउ?
51:38ये आपके सिस्टम का फोकस होता है। ठीक है?
51:41रिट्रीवल में क्या-क्या चीजें होती हैं?
51:42सबसे पहले आप करंट यूजर इनपुट को देखते
51:44हो। फिर आप डिसाइड करते हो कि क्या आपको
51:46मेमोरी की जरूरत है या नहीं। अगर मेमोरी
51:49की जरूरत है तो फिर आप मेमोरी स्टोर को
51:51जाकर सर्च करते हो और सर्च करने के बाद आप
51:53एक स्मॉल रेलेवेंट सबसेट ऑफ द मेमोरी को
51:56एक्सट्रैक्ट करके लाते हो। आप ऐसा नहीं
51:58करते कि मेमोरी स्टोर में जो भी चीजें हैं
52:00सबको उठा के ले आओ। नहीं यू परफॉर्म अ
52:02सर्च एंड यू ब्रिंग रेलेवेंट पीसेस ऑफ
52:04इनेशन फ्रॉम द मेमोरी स्टोर। यहां पर जो
52:07इंपॉर्टेंट पॉइंट आपको याद रखना है वो ये
52:08है कि रिट्रीवल इज सेलेक्टिव नॉट
52:11एग्जॉस्टिव। आप सब कुछ उठा के नहीं ले आते
52:13शॉर्ट टर्म मेमोरी की तरह। बट यू डू
52:16सेलेक्टिव सर्च। ठीक है? तो ये हो गया
52:18स्टेप थ्री। अब आता है स्टेप फोर। स्टेप
52:20फोर इज़ इंजेक्शन। अब ये एक बहुतेंट चीज है
52:23जो आपको हमेशा याद रखनी है कि कभी भी आप
52:26लॉन्ग टर्म मेमोरी का डायरेक्ट इंटरेक्शन
52:28एलएलएम के साथ नहीं कराते। सो होता क्या
52:31है कि आप लॉन्ग टर्म मेमोरी में सर्च करते
52:33हो। सर्च करने से आपको रेलेवेंट
52:36इंफॉर्मेशन मिलता है। आप उस इंफॉर्मेशन को
52:39पुल करके लाते हो शॉर्ट टर्म मेमोरी में
52:41और फिर वो आपके कॉन्टेक्स्ट विंडो का
52:44पार्ट बनता है और उसके थ्रू एलएलएम तक
52:46पहुंचता है। सो ये एक बहुत इंपॉर्टेंट बात
52:48है कि डायरेक्टली लॉन्ग टर्म मेमोरी को आप
52:49यूज़ नहीं करते। लॉन्ग टर्म मेमोरी पहले
52:51शॉर्ट टर्म मेमोरी का पार्ट बनती है।
52:52कॉन्वर्सेशन बफर का पार्ट बनती है। सो
52:54आपने जो प्र्प्ट लिखा है यूजर ने उस
52:57प्र्प्ट में और एडिशनल चीजें ऐड की जाती
52:59है सिस्टम के द्वारा और फिर वो पूरी की
53:02पूरी चीज फिर भेजी जाती है मॉडल के पास।
53:04तो आई होप आपको ये पूरी चीज़ समझ में आ रही
53:05है। तो इंजेक्शन इज़ बेसिकली कि आप मेमोरी
53:09को रिट्रीव करके ला रहे हो और उसको शॉर्ट
53:10टर्म मेमोरी में डाल रहे हो। सो इट बिकम्स
53:12द पार्ट ऑफ़ द प्र्प्ट। द मॉडल सीज़ इट एज़
53:15जस्ट मोर टोकंस इनपुट टोकंस। ठीक है? तो
53:18ये चार स्टेप्स में आपका पूरा का पूरा
53:20लॉन्ग टर्म मेमोरी काम करता है। ऑब्वियसली
53:22इसमें बहुत सारी बारीकियां हैं। बहुत सारी
53:24चैलेंजिंग चीजें हैं। मैंने आपको एक बहुत
53:26हाई लेवल ओवरव्यू बताया व्हिच इज़ काइंड ऑफ़
53:28फ्रेमवर्क एग्नोस्टिक। अलग-अलग लाइब्रेरीज
53:30में अलग-अलग तरह का इंप्लीमेंटेशन आपको
53:31देखने को मिलेगा। पर मोटे-मोटे तौर पे दिस
53:34इज़ हाउ लॉन्ग टर्म मेमोरी वर्क्स। अब
53:36लॉन्ग टर्म मेमोरी के अराउंड यह पूरा
53:38सिस्टम बिल्ड करना यह जो पूरा वर्क फ्लो
53:40हमने डिस्कस किया यह बनाना थोड़ा
53:41चैलेंजिंग काम है। और अब मैं आपको बताता
53:43हूं कि व्हाट आर द की चैलेंजेस दैट यू विल
53:45फेस इफ यू आर ट्राइंग टू बिल्ड सच अ
53:47सिस्टम। सबसे पहला चैलेंज आप फेस करोगे
53:50मेमोरी को क्रिएट करने के प्रोसेस में।
53:53आपको यह फिगर आउट कर पाना कि कौन सी चीज
53:55को मुझे मेमोरी में कन्वर्ट करना है और
53:57कौन सी चीज को नहीं करना है। यह खुद में
54:00बहुत मुश्किल काम है। आपका यूजर नॉर्मल
54:02चैट कर रहा है। उसमें बहुत तरह का नॉइज़
54:04होता है। यह डिसीजन मेकिंग की क्या जो बात
54:06अभी कही जा रही है वो लॉन्ग टर्म मेमोरी
54:08का पार्ट होना चाहिए या नहीं? यह बहुत ही
54:10मुश्किल काम है। क्या ये जो बात हो रही है
54:13इसकाेंस आगे तक रहेगा या नहीं रहेगा? यह
54:15बहुत मुश्किल बात है। तो मेमोरी क्रिएशन
54:17इन इटसेल्फ इज अ वेरी वेरीरी चैलेंजिंग
54:19टास्क। सेकंड चैलेंजिंग टास्क है कि अगर
54:21आपने मेमोरी क्रिएट कर भी ली और उसको सही
54:23से स्टोर कर भी लिया तो रियल टाइम में एक
54:26कॉन्वर्सेशन के दौरान हाउ डू यू फिगर आउट
54:29कि उस पूरे के पूरे मेमोरी में पूरे के
54:31पूरे लॉन्ग टर्म मेमोरी से कौन सी चीजों
54:33को आपको एक्सट्रैक्ट करके लाना है सो दैट
54:35वो करंट कॉन्वर्सेशन को हेल्प करे यह खुद
54:38में एक बहुत चैलेंजिंग काम है। एंड द थर्ड
54:40चैलेंजिंग टास्क इज़ ऑर्केस्ट्रेटिंग दिस
54:42एंटायर सिस्टम। आप ऑलरेडी एक बहुत
54:45कॉम्प्लेक्स सा सिस्टम बना रहे हो। एक
54:46एजेंटेटिक एआई सिस्टम बना रहे हो। एक
54:48एजेंट एक चार्ट बॉट बना रहे हो और उसके
54:50ऊपर यह पूरा का पूरा मेमोरी का सिस्टम
54:52बिल्ड करना एक बहुत चैलेंजिंग टास्क हो
54:55जाता है। इसमें बहुत तरक आपको दिमाग लगाना
54:57पड़ेगा और इसका इंजीनियरिंग साइड भी बहुत
54:59मुश्किल है। बिकॉज़ आपको फिर मेमोरी
55:01स्टोर्स वगैरह को कनेक्ट करना है अपने
55:03सिस्टम से। सो इन इटसेल्फ बहुत सारे
55:05मूविंग पार्ट्स आ जाते हैं और इसको सही से
55:07चला पाना थोड़ा ट्रिकी हो जाता है। एंड
55:09दिस इज वेयर आपको थोड़ा अब हेल्प मिलने
55:12लगा है रिसेंटली। अ मार्केट में कुछ नई
55:15लाइब्रेरीज़ आ गई हैं। कुछ नए मैनेज सॉलशंस
55:18आ गए हैं जो आपके Jन AI या फिर एजेंटिक
55:22एआई एप्स के लिए मेमोरी लेयर का काम करते
55:26हैं। बेसिकली ये एप्स एंड लाइब्रेरीज क्या
55:29बोल रही हैं कि आप अपना एप्लीकेशन बनाने
55:32पे फोकस करो। ये जो पूरा लॉन्ग टर्म
55:34मेमोरी वाला सिस्टम आपको इंटीग्रेट करना
55:36है, इसका टेंशन आप हमारे ऊपर छोड़ दो। तो
55:39ये जो सारा का सारा काम है मेमोरी को
55:40क्रिएट करने का, उसको स्टोर करने का, उसको
55:42सही टाइम पर रिट्रीव करने का, ये हम आपको
55:44करके देंगे। आप सिंपली हमारे फंक्शनंस को
55:46कॉल कर लो। सो इसीलिए आपने शायद कुछ
55:48लाइब्रेरीज का नाम भी सुना होगा। मैं आपको
55:50दिखाता हूं। सो एक फेमस लाइब्रेरी है लैंग
55:53मेम बोल के। ये लैंग चेन फैमिली से आती है
55:56और इसको आप बहुत आसानी से इंटीग्रेट कर
55:58सकते हो लैंग ग्राफ के साथ वाइल मेकिंग
56:00एआई एजेंट्स। फिर एक और बहुत फेमस
56:04प्लेटफार्म है मेम ज़ीरो बोल के। यह भी
56:06रिसेंटली बहुत पॉपुलर हो रहा है और इसका
56:08भी बिल्कुल सेम काम है। यह आपके जेन एi
56:11एप्स के लिए मेमोरी लेयर का काम करता है।
56:14एंड द लास्ट वन इज सुपर मेमोरी। शायद आपने
56:16इसका नाम सुना भी होगा न्यूज़ में। इट्स
56:18बेसिकली द फाउंडर इज अ 15 ईयर ओल्ड इंडियन
56:21किड जिसने ये पूरा प्लेटफार्म बनाया है।
56:23एंड इट अगेन मैनेजेस योर लॉन्ग टर्म
56:26मेमोरी फॉर योर जेन एआई ऐप। तो इस तरह के
56:29मैनेज सॉलशंस मार्केट में आने लग गए हैं
56:31और इनकी फंडिंग वगैरह भी बहुत अच्छी चल
56:32रही है। तो ऐसा लग रहा है कि इन इटसेल्फ
56:34ये पर्टिकुलर जो फील्ड है मेमोरी अराउंड
56:37एलएलएम ये तेजी से ग्रो करेगी अगले एक-द
56:39सालों में। इनफैक्ट अगर हम पीछे मुड़ के
56:42देखें तो ये सारी की सारी प्रॉब्लम्स आ
56:44इसलिए रही है बिकॉज़ एलएलएम्स के अंदर खुद
56:47का डिफॉल्ट मेमोरी नहीं होता। खुद की
56:50इंट्रिंसिक मेमोरी नहीं होती है। तो अब
56:52धीरे-धीरे इस साइड में भी रिसर्च चल रहा
56:54है कि हम ऐसे एलएलएम्स बिल्ड करें जिसके
56:56अंदर खुद की मेमोरी हो। सो अगर आपने
56:58रिसेंटली ये Google के पेपर का नाम सुना
57:01होगा। Google रिसर्च पे पेपर आया है
57:03टाइटंस प्लस मिराज बोल के। तो दे आर
57:05ट्राइंग टू बिल्ड अ डिफरेंट काइंड ऑफ़
57:06ट्रांसफार्मर आर्किटेक्चर जिसके अंदर खुद
57:08की इंट्रिंसिक मेमोरी हो। सो दैट ये जो
57:11इतने सिस्टम्स की जरूरत पड़ रही है वो ना
57:13पड़े। सो इस पर्टिकुलर डोमेन में इस
57:16पर्टिकुलर फील्ड में फोकस एरिया में बहुत
57:17काम चल रहा है। एंड मोस्टली बिकॉज़ इट इज़
57:20वेरीेंट मेमोरी के बिना यू कैन नॉट बिल्ड
57:21जेनएi और एजेंट एआई एप्लीकेशनेशंस। सो
57:24यहां पर आपको थोड़ा सा अच्छे से चीजों को
57:26सीखना है। दैट इज व्हाई मैंने ये वीडियो
57:28बनाया। एक एक डेढ़ घंटे का ओवरव्यू आपको
57:30दिया मेमोरी के अराउंड। आई रियली होप यह
57:32जो पूरा का पूरा ओवरव्यू मैंने आपको दिया
57:34यह आपके लिए हेल्पफुल रहा। अगर आपको यह
57:36वीडियो पसंद आया तो प्लीज लाइक करना और
57:38अगर आपने इस चैनल को सब्सक्राइब नहीं किया
57:40है तो प्लीज डू सब्सक्राइब। मिलते हैं
57:42नेक्स्ट वीडियो में। बाय।

About this transcript

This page contains the full transcript of LLMs Don’t Have Memory — So How Do They Remember? by CampusX, generated from the public captions YouTube serves with the video. The transcript has 10,598 words across 1,336 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.