Карпатый Wiki Вместо RAG — Полный Obsidian Сетап Для Новичка — Transcript

Full transcript

1. 0:00Друзья, ну что, весь хайп от статьи Андрея  Карпатова про то, каким образом он строит
2. 0:04собственную Вики на базе LLM, постепенно  спадает. То есть все убежали дальше. Но,
3. 0:09как это часто бывает, когда спадает весь хайп,  остаются сугубо практические кейсы, их много,
4. 0:15они топовые, они реально приносят пользу, их можно  использовать на практике. И сегодня в этом видео
5. 0:20мы с вами посмотрим на эти кейсы, построим вручную  с самого нуля себе такую систему и ответим на
6. 0:25такие вопросы: а можно ли использовать эту систему  не просто для фана и для того, чтобы поиграться,
7. 0:30а для того, чтобы построить реально рабочие  системы, например, для своей компании, для своих
8. 0:36исследований, для других реально практических  кейсов. Итак, идея такова, то, как сейчас нейронки
9. 0:41работают с нашими документами, чаще всего это raг  подходы, то есть retrieval augmented generation,
10. 0:48заключается в следующем, что у нас есть какой-то  набор документов, которые мы сначала делим на
11. 0:55какое-то количество чанков, векторизуем эти чанки.  И каждый раз, когда мы с вами спрашиваем какой-то
12. 1:00вопрос у нейронки, она с помощью поиска подобия  отыскивает нужные релевантные чанки, возвращает их
13. 1:08себе как контекст и формирует нам ответ на основе  этого контекста, что работает довольно хорошо.
14. 1:14Андрей Карпаты предлагает альтернативный подход,  который называется Вики LLM. И он говорит, что
15. 1:20работать со сложной структурой документов можно  иначе, сохраняя вообще полный полный контекст. На
16. 1:27входе у нас могут быть те же самые документы, что  и в кейсе номер один. Но мы даём нашей нейронке
17. 1:34право анализировать эти документы поштучно и  находить важные смысловые точки в каждом из
18. 1:40них. После того, как такие точки найдены, нейронка  начинает связывать разные смысловые точки между
19. 1:46собой. Эти точки превращены в текстовые документы.  И в этих текстовых документах теперь содержатся
20. 1:51кросс-референсы, то есть кросс-ссылки,  которые связывают разные идеи между собой.
21. 1:56информация о том, какие уже содержатся документы,  в нашей системе попадает в специальный файл index.
22. 2:01То есть здесь проходится индексация, где  содержатся конкретные файлы, их описания,
23. 2:05очень краткие. И это приводит к магическим  результатам. Когда мы что-то спрашиваем у Лэмки,
24. 2:10lм начинается с изучения индекс-файла для  того, чтобы понять, какими сейчас знаниями
25. 2:14она обладает. С помощью этого файла она начинает  искать нужные релевантные тексты, которые помогут
26. 2:19ей ответить на наши вопросы. Но так как эти  тексты, файлы связаны с другими файлами,
27. 2:25о чём мы позаботились предварительно, lлмка  может пробежать рекурсивно по всем нужным файлам,
28. 2:30собрать полный полный контекст и вернуть  нам ответ на основе этого контекста,
29. 2:35который собран по разным файлам. Работает это  намного точнее, чем обычный ракподход. Конечно,
30. 2:40у этого есть свои отрицательные стороны, о которых  мы тоже сейчас поговорим. Друзья, только перед
31. 2:45тем, как мы с вами начнём строить нашу систему  и получать вот такие крутейшие результаты и
32. 2:51разгонять их вместе с неронкой, у меня для вас  три базовых просьбы. Обязательно подписывайтесь
33. 2:55на канал прямо сейчас, оставьте какой-нибудь  комментарий, оставьте лайк этому видео для того,
34. 3:00чтобы его увидело как можно больше людей. Погнали  дальше. А, стоп, ещё обязательно заскакивайте
35. 3:05в нашу прогруппу, проходите мастер-классы,  развивайтесь в искусственном интеллекте. Там
36. 3:09куча всего интересного. Погнали. Например, можно  ли использовать подобные вики для того, чтобы
37. 3:14интегрировать туда какие-нибудь рабочие чаты,  рабочие знания или для того, чтобы погружать туда
38. 3:21данные о ресрче и потом искать взаимопересечения и  важные инсайты среди таких знаний. Забегая вперёд,
39. 3:27скажу, что, конечно, можно. Это реально мощный  инструмент. Концепт того, о чём рассказывает
40. 3:32Андрей Карпаты, родился не на пустом месте, а  он родился на основе гипотетической системы,
41. 3:38которая описана Венером Бушем в эссе "Как мы  можем мыслить". И называется она Мемикс. Она была
42. 3:45опубликована в 1945 году, кстати, ссылку на неё я  положу в свою бесплатную Telegram-группу. Так вот,
43. 3:51тогда Буш описывал как электромеханическое  устройство, которое позволяет создавать автономную
44. 3:57базу знаний, снабжённую ассоциативными ссылками  и примечаниями, которые могут, в свою очередь,
45. 4:03быть переданы в другие такие же базы знаний.  Здесь очень интересно это всё почитать, но на
46. 4:09самом деле проблема, с которой столкнулся Пуш в то  время, как раз поддержка актуальности этой базы.
47. 4:16И сейчас развитие искусственного интеллекта очень  сильно бустит эти концепты, потому что мы на плечи
48. 4:21искусственного интеллекта как раз перекладываем  концептование, поддержку этой базы в актуальном
49. 4:27состоянии, то есть создание новых связей, очистка  от старых ненужных связей, актуализация всех
50. 4:35файлов в индексе, а на плегчах человека оставляем  работу с этими знаниями, получение их, поиск новых
51. 4:41взаимосвязей и мыслительная деятельность. Так  вот, о чём же там пишет Андрей Карпатый? Все
52. 4:46читают тот самый твит от Андрея Карпатова, который  набрал уже там 20 млн просмотров, а на самом деле
53. 4:51у него есть описанный концепт LLM wки, давайте  переведём его на русский язык, в котором объяснены
54. 4:56основные идеи, из которых следует почерпнуть  архитектуру того, что он предлагает для того,
55. 5:01чтобы использовать и адаптировать это для  себя с реально классным качеством. Кстати,
56. 5:06один из кейсов, который он подсвечивает,  как раз это бизнес-команда. Он говорит,
57. 5:10что можно строить внутренние веки, пополняемые  сообщениями, допустим, вашей внутренней переписке,
58. 5:15проектной документацией, звонками от клиентов,  с постоянной актуализацией и прочим, прочим,
59. 5:20прочим. Нам нужно с вами понять архитектуру. Это  самая простая часть, потому что про неё же много
60. 5:25кто поговорил. Она состоит из трёх базовых  вещей. Это всего лишь три каталога. Первый
61. 5:29каталог называется RО, то есть некоторые сырые  входящие данные. Второй каталог называется wik,
62. 5:36то есть это Markдаун или текстовые файлы, которые  создаёт сама ваша нейронка, то есть вы туда не
63. 5:41лезете. И третья, наверное, самая важная часть  - это схема с кем. Это, по сути, есть мозг вашей
64. 5:48системы, все инструкции. Если вы пользуетесь  Clкод или кодекс, то это аналог вашего файла
65. 5:54Cl MD либо Agents MD. То есть это инструкции,  которые каждый раз попадают в нейронку. когда
66. 6:03вы с ней коммуницируете, которые она воспринимает  как непреложную истину либо рулы. То есть, если мы
67. 6:09с вами представляем, что у нас подаётся на вход  какой-то документ либо обычный текст, то сначала
68. 6:14он попадает в папку ро в сырые данные. То есть  ваша базовая задача - положить его туда. Дальше
69. 6:21ваша лэмка, любая, которую вы используете, смотрит  на файл схема, читает все правила использования,
70. 6:28каким образом отрабатываются у нас новые файлы  в R. Обрабатывает этот файл и в соответствии с
71. 6:34этими правилами обогащает или изменяет папку  WiK. То есть она туда либо добавляет новые
72. 6:40файлы текстовые, либо апдейтит старые файлы. для  того, чтобы из этого файла извлечь все ключевые
73. 6:47составляющие точки, проставить коннекты между  ними, и если там лежат уже старые какие-то файлы
74. 6:54или кусочки знаний, коннекты проставляются и с  ними тоже между старыми новыми кусочками знаний. И
75. 7:01вот эта операция, которую мы только что обсудили,  называется injest или загрузка добавления новых
76. 7:08данных в вашу систему. Есть и вторая операция,  которая называется запрос или QU. QU представляет
77. 7:14из себя нечто другое. Qury уже не работает с  папкой RA. Qury работает с папочкой wik, где уже
78. 7:21лежат наши текстовые файлы и индекс MD. Икс MD -  это, по сути, файл индекса, где содержится список
79. 7:29всехвсех всех всех текстовых файлов, которые  создаёт лэмка, когда парсит все наши входящие
80. 7:36данные. То есть это, по сути, некоторое огромное  содержание, которое читает наша лэмка каждый раз,
81. 7:42когда мы у неё что-то спрашиваем. Есть ещё  одна операция, она называется Lint. По сути,
82. 7:47это операция очистки. Это термин, который приходит  из программирования. По сути, это периодическое
83. 7:53некоторое пробегание по файлам, которые у нас  есть, и очистка их от лишнего мусора. Допустим,
84. 7:59там могут быть какие-то дубликаты, либо могут быть  файлы, между которыми нету вот этих связей. Тогда
85. 8:04вся эта система будет работать на то, чтобы либо  проставить связи, либо удалить ненужные файлы,
86. 8:10либо смёрджить несколько файлов вместе. То есть  это такая постоянная самоочистка. И опять же по
87. 8:16методу Андрея Карпатова вся эта история заменяет  нам раг системы, но только на определённых
88. 8:23небольших объёмах. Потому что до тех пор, пока  система может помещать в свой контекст index MD
89. 8:28файл, где есть перечень всех-всех-всех файлов и их  описаний и их других методанных, неронка работает
90. 8:34намного точнее для того, чтобы мы могли ей  пользоваться и искать некоторые инсайты в данных,
91. 8:39которые мы с вами туда поместили. По сути, Андрей  говорит, что это удивительно хорошо работает, если
92. 8:44у вас есть порядка 100 источников, которые, по  сути, превращены в несколько сотен вики-страниц,
93. 8:51которые постоянно обновляются и приводятся в  соответствие с реальностью. Это не значит, что
94. 8:57если у вас больше 100 источников, то такая система  для вас не работает. Но это по сути означает,
95. 9:02что под каждый аспект вашего исследования  либо ваших каких-то рабочих процессов имеет
96. 9:07смысл создавать свою отдельную Wiки, которые  будут с изолированными контекстами, со своими
97. 9:12индекс-файлами, со своими wiки-страницами и в  который вы можете раскладывать сырые входящие
98. 9:17файлы в зависимости от их типа, не забывая оттуда  удалять, например, устаревшие файлы, сливать
99. 9:23несколько файлов в один и так далее. Ну что,  я подозреваю, это звучит довольно страшновато,
100. 9:28но это работает круто, это очень легко сетапиться.  Давайте вместе засетапим себе такую систему. Итак,
101. 9:34чтобы настроить такую систему, нам с вами  понадобится обсидиан. А сам Карпаты пользуется
102. 9:39Обсидиан, и он говорит про такую аналогию.  Представьте, что обсидиан - это ваш IDE,
103. 9:45то есть некоторая среда разработки. Сама лмка, то  есть нейронка, которая будет работать с файлами
104. 9:51внутри обсидиан - это, по сути, ну, скажем так,  разработчик. А вики, то есть вся система файлов,
105. 9:58которые как раз создаются с помощью нейронки -  это, по сути, ваш код, который пишется внутри
106. 10:06вашей IDE системы разработки. И самое классное,  что в этой системе вы по сути делаете именно то,
107. 10:12что так требуется делать от человека. Во-первых,  вы решаете, какие источники, какие данные попадают
108. 10:18как сырые данные в ваш обсидиан, то есть ваш  IDE. После этого вы общаетесь простыми командами
109. 10:24с нейронкой: "Отработай новый файлы" либо "Ответь  мне на вопрос". И вы, по сути, никогда не создаёте
110. 10:31вики файлы, то есть это всё делается нейронкой.  Ваша задача - активно участвовать в отсмотре того,
111. 10:36что делает нейронка, коммуницировать с ней и  ловить её, когда она делает что-то не то. То есть,
112. 10:41по сути, заниматься именно тем, что так требуется  от человека в работе с искусственным интеллектом.
113. 10:46Так как мы с вами уже поговорили про то, что по  сути под каждый топик имеет смысл создавать свою
114. 10:51Wiки, под каждый проект, можно так сказать.  А давайте с вами создадим новый каталог в
115. 10:56нашем Обсидиане, который называется Project One.  Кстати, если вы не знаете, что такое Obsдинanн,
116. 11:01это, скажем так, прекрасный инструмент для того,  чтобы менеджерить ваши все заметки в текстовом
117. 11:08виде и делать между ними кросс-референсы, то  есть взаимосвязи между текстовыми заметками.
118. 11:13Он позволяет визуализировать эту схему, поэтому  переходите вот на сайт obsidian.m и скачивайте
119. 11:19для своей операционной системы обсидиана.  Это абсолютно бесплатно. Вам не обязательно
120. 11:23пользоваться платной версией с синхронизацией в  облаке. Скачали. После этого вы увидите интерфейс
121. 11:28типа такого, в котором мы создаём новый проект. И  ещё мы создадим с вами две а папки, два каталога.
122. 11:34Один называется RО - это тот самый каталог,  куда у нас будут прилетать все наши исходные,
123. 11:40а, сырые данные, сырые файлы. Создадим ещё один  каталог, который будет называться Wiки. Сюда будут
124. 11:46падать все-всевсе файлы, которые наша нейронка  будет генерить из сырых файлов. В соответствии
125. 11:51с чем? В соответствии со схемой. Поэтому нам с  вами понадобится файл. Давайте мы же будем с вами
126. 11:58пользоваться ClДMD. Этот clД MD станет исходными  инструкциями для, по сути, любого нашего запроса
127. 12:04клодкод. Большой вопрос, что мы кладём в этот MD?  В этот MD мы кладём схему, схему работы, которая
128. 12:12будет объяснять неронки, что делать в зависимости  от запроса нашего с данными, которые мы сюда
129. 12:18помещаем. По сути, нам нужно неронки описать всё,  что мы прочитали в Вике Андрея Карпатова, для
130. 12:25того, чтобы она знала, как отрабатывать операцию  загрузки, запроса, линтования, то есть очистки. Вы
131. 12:30можете отдать прямо вот этот весь текст вашей  неронки и сказать: "Создай мне файл схема для
132. 12:35того, чтобы ты каждый раз понимала, что делать с  новыми файлами или как отвечать на мои вопросы,
133. 12:40когда я их задаю, и вам Неронка создаст какой-то  набор правил, которые вы потом сможете положить
134. 12:46в ваш файл clД MD." Я именно так и сделал. И я  создал себе файл Clod MD на базе того, что указано
135. 12:53в вике Андрея Карпатова. И по сути здесь именно  описаны всевсевсе нюансы для того, чтобы моя
136. 13:00нейронка знала, как работать с моей Вики. Здесь  описана структура, то есть та самая папочка R,
137. 13:05что это, что с ней делать. Папочка Виiки, которая  тут есть, Wiки index MD, который будет создаваться
138. 13:10автоматически, Wiки Log MD, который также будет  создаваться автоматически. Логирование, кстати,
139. 13:15это очень важный файл в этой системе, потому что  туда неронка будет записывать все сырые материалы,
140. 13:21которые она отработала, и будет, по сути, вести  хронологию того, что уже было сделано для того,
141. 13:25чтобы потом не дублицироваться. И как вы  видите, здесь прямо прописано всё равно то,
142. 13:29что соответствует нашей схеме. Injest workflow  - это как раз workflow добавления новых файлов.
143. 13:34Неронка будет знать, что тебе нужно посмотреть  сначала в роталог, потом это всё распарсить,
144. 13:40почитать, создать summory в папочке Вики, создать  сабстраницы для каждого из топиков, которые она
145. 13:46посчитает нужным. Ну, всё то, что мы с вами  обсудили, и в конце создать новую запись в нашем
146. 13:51логе. Дальше мы указываем формат страницы, который  нас устраивает, в котором обязательно прописываем,
147. 13:56что мы хотели бы там иметь ещё связи с другими  страницами и чтобы неронка для нас это сделала.
148. 14:02Дальше рулы. Дальше workflow, когда мы просим  ответить на наши вопросы. То есть неронка всегда
149. 14:07должна начинать с чтения файла indксMD, дальше  отрабатывать всё по схеме, дальше линтование,
150. 14:12периодическая очистка. Это можно автоматизировать,  либо можно просто раз в какое-то время, так как и
151. 14:17говорит неронки, сделай линт, сделай очистку  нашей системы. И и дальше очень важные рулы,
152. 14:23потому что когда ваша система начнёт расти, вы  будете замечать всякие артефакты. В зависимости
153. 14:28от того, какой вы неронкой пользуетесь, вы будете  прямо видеть, что в каких-то моментах что-то идёт
154. 14:33не так. Поэтому вот это очень важная секция. Сюда  прописываете, добавляете себе новые какие-то вещи,
155. 14:40новые инструкции для нейронки, чтобы избежать  тех или иных негативных последствий. Вы должны
156. 14:45понимать, что вот этот файл, он написан очень общ  как раз, чтобы отрабатывать по сути любой кейс,
157. 14:51любой нашch или топик, с которым мы работаем. Но  в этот файл вы можете вносить любые ваши изменения
158. 14:58под ваши конкретные кейсы для того, чтобы она  отрабатывала ваши конкретные задачи с необходимым
159. 15:03уровнем точности. Вот этот файл ClД MD, который  вы сможете скопировать и положить в ваш обсидиан,
160. 15:09я прикреплю в свою бесплатную Telegram-группу.  Ссылка на неё будет в описании. Забегайте туда,
161. 15:14скачивайте его, колодите и идите по моим шагам. А  если вы только развиваетесь в сфере искусственного
162. 15:19интеллекта, то обязательно залетайте в нашу  прогруппу. Там есть крутые мастер-классы по CLД,
163. 15:25по Антигравити, по N8N и огромное количество  проматериалов и Прочат. Ссылка на прогруппу
164. 15:31тоже у нас в описании, поэтому залетайте туда  обязательно и качайте себя в сфере искусственного
165. 15:37интеллекта. Мы с вами продолжаем. И по сути  этого уже достаточно для того, чтобы начать
166. 15:42тестировать нашу систему, потому что схема есть,  каталоги есть, и сейчас мы можем дать ей первые
167. 15:49сырые данные. Чтобы было удобно нам работать со  всей этой системой, я вам предлагаю нажать вот
168. 15:54эту шестерёнку, здесь выбрать пункт Community  Plugins. И обязательно себе поставьте плагин,
169. 16:00который называется терминал. Это позволяет  вам довольно удобно вызывать интегрированный
170. 16:04терминал прямо внутри вашего обсидиана. Вот у нас  здесь появляется кнопочка "Открыть терминал". Я
171. 16:09нажимаю эту кнопочку, нажимаю "Интегрированный  терминал". И вот мой терминал открылся прямо в
172. 16:14моей локальной директории, где я сейчас нахожусь.  Давайте перескочим в саму директорию Project. Всё,
173. 16:20мы видим, что мы сейчас уже находимся в  директории Project. И давайте вызовем наш
174. 16:24клод внутри этой директории. Вот у нас наш  клод-код, который готов начать отрабатывать
175. 16:29наши запросы в соответствии с тем, что написано в  каталоге Clod MD. Давайте в папочку положим наши
176. 16:36первые данные. Вы должны понимать, что вы можете  сюда класть что угодно. Вы можете класть пдфки,
177. 16:42а, Word-файлы, просто текстовые файлы, потому что  клод нативно умеет работать с этими форматами. У
178. 16:49него есть встроенные инструменты, чтобы с ними  работать. Если вы используете другую нейронку,
179. 16:53то все современные нейронки, которые работают в  рамках Command Line Interfей, по сути, тоже могут
180. 17:00работать с любыми типами файлов. Я вот создаю  себе новый файл untitle, прямо внутри папочки r. Я
181. 17:06подумал о том, что было бы круто рассмотреть этот  кейс на примере реального чата внутри компании,
182. 17:11допустим, который вы будете использовать как сырые  данные для вашего процесса. Вот, допустим, у меня
183. 17:17за неделю есть некоторый упрощённый чат в нашем  слаке. Соответственно, здесь несколько участников.
184. 17:24И вот у нас каждый день идёт дискуссия про AI,  про эволюцию рака, новое модели, каким образом
185. 17:31мы автоматизируем какие-то процессы, про open  source против API. Ну, то есть очень-очень разные
186. 17:37разговоры. Я осознаю, что здесь довольно много  золота, допустим, и я бы хотел какие-то инсайты
187. 17:43постоянно, чтобы у меня сортировались, сохранялись  в мою внутреннюю, а, вики для того, чтобы потом
188. 17:50я мог разгонять какие-то идеи на основе того,  о чём мы вообще общаемся с коллегами в рамках
189. 17:55нашей работы. Поэтому сейчас я могу вернуться  в свой clд-код и дать всего лишь одну команду.
190. 18:01Если вы уже забыли, то у нас есть файл CLДM MD,  который описывает, что делать нашей нейронке
191. 18:06в зависимости от того, что же мы её просим.  Соответственно, как вы помните, один из workflow,
192. 18:12который поддерживается или прописан в нашем файле  MD - это inest или внесение workflow. Поэтому
193. 18:19мы вернёмся в наш а clД-код. Итак, как говорим  inest new data. Отправляем запрос в наш clд-код.
194. 18:26И мы понимаем, что теперь, смотрите, наша неронка  знает, что именно означает injest. Она уже нашла
195. 18:33новый файл и начинает отрабатывать всё, что у  нас есть в нашем каталоге. R. Итак, смотрите,
196. 18:38обработка наших RО-файлов закончилась. И система  нам говорит, что я нашла источник. Всё верно.
197. 18:45Это чат за прошедшую неделю. И я выделила пять  интересных топиков, которые здесь обсуждаются.
198. 18:52Здесь мы обсуждаем графрак. Здесь есть  LLM gateway или контролирование бюджета,
199. 18:57который сливается на нейронки. Security AI, потому  что один из наших ботов был взломан. Таким образом
200. 19:04работают агентские Warflow, особенно в сочетании  с джирой, с лаком и конфлюенсом, и другие очень
201. 19:10интересные, классные топики, которые было бы  очень жалко терять, просто оставив их в чате.
202. 19:16И нейронка проинструктирована делать такую вещь.  Прежде чем вносить реальные изменения в нашу вики,
203. 19:22она должна спросить вопросы, то есть с нами  поразгонять истории, типа вот я делаю такое,
204. 19:27что ты про это думаешь? То есть на самом деле вот  сейчас происходит самое важное, что зависит как
205. 19:33раз от нас. Мы должны внимательно отсмотреть,  что она нашла, в каком-то виде, может быть,
206. 19:37её подкорректировать. То есть вовлекаться на этом  этапе довольно мощно, потому что после этого этапа
207. 19:43у нас уже будут внесены новые данные в Вики. И  после этого, скажем так, уже в некотором случае
208. 19:47это зафиксируется. Да, кстати, тут неронка,  ну, отвечает на английском. Вы, естественно,
209. 19:52можете прямо в рулах проинструктировать её  вот здесь, что отвечает только на русском,
210. 19:57потому что у нас здесь, а, весь clд MD э на  английском. Соответственно, неронка сама решает,
211. 20:02на каком языке вам отвечать. Но я тут говорю Ahad,  типа, погнали, не останавливайся. Как мы видим,
212. 20:08сейчас неронка работает над тем, чтобы создать нам  восемь страниц в вике и сразу заапдейтить indeк md
213. 20:15и l ind для нашего проекта. Итак, как мы видим,  наша нейронка закончила, и она создала целую
214. 20:22пачку файлов, включая index md и log md. Как мы  видим, теперь наша папочка wiки обогатилась всеми
215. 20:30этими файлами. Вот наш индекс MD. Обратите  внимание, что здесь прописаны источники,
216. 20:37которые были использованы, концепты, то есть все  концепты, которые были найдены, то есть все-всевсе
217. 20:42взаимосвязи, которые она посчитала важными и  вытащила из нашей дискуссии. Здесь есть лог,
218. 20:49то есть конкретно что было и когда сделано. Вот  сегодня это было сделано. И дальше у нас создались
219. 20:54файлы для каждого каждого топика, который она  посчитала нужными. То есть вот у нас LLM gateway
220. 20:59или cost control, то есть все нюансы, которые у  нас тут есть. То есть очень планомерно, полноценно
221. 21:05описала то, о чём мы говорили за эту неделю. Каким  теперь образом мы этим можем пользоваться? Давайте
222. 21:10очистим наш контекст. Соответственно, мы можем  как бы заново начать работать с нашей неронкой
223. 21:15в нашей сессии. Теперь я могу спросить очень  ожидаемую вещь. Я пишу, что это запрос quy.
224. 21:21Что будем делать с контролированием трат на  нейронки? Отправляю этот запрос в нейронку.
225. 21:26И она должна понять, что теперь это другой тип  запроса, что теперь требуется изучить Вики индекс,
226. 21:32что она и делает, обрати внимание на основе  того, что есть там, простроить все-всевсе связи
227. 21:38и начать нам отвечать на основе этих связей.  Полностью вся проблематика и решение команды.
228. 21:44У нас маркетинг за один день слил весь бюджет  Open AI, массово генерирую SEO статьи через
229. 21:49внутренний API без ограничений. решение lm  gateway семантический рутинг, то есть простые
230. 21:55задачи у нас автоматически должны будут уходить  на лаama ма 3,8 млрд параметров GPU компаний,
231. 22:01нулевой облачный расход. В облако идут только  сложные запросы. Потом лимит по пользователям,
232. 22:07то есть Light LLM tracked расходы на каждого  пользователя для высокообъёмных отделов вроде
233. 22:12маркетинга, более жёсткие лимиты и сканирование.  То есть мы блокируем отправку чувствительных
234. 22:17данных в облако. И самое интересное, с ростом  данных, если мы каждую неделю вносим новый чат,
235. 22:23всю нашу переписку в LLM, она структурируется,  она проставляет все-всевсе взаимосвязи, то каждый
236. 22:29раз наш диалог становится всё существеннее и  существеннее, всё точнее и точнее. И нейронка
237. 22:34каждый раз, так как она начинает отвечать  на основе чтения первоначального индексLM,
238. 22:40каждый раз обладает полнейшим контекстом о  том, что же происходит у нас с компанией в
239. 22:44соответствии с нашим чатом. Когда объём данных  у нас растёт, мы всегда можем отправить команду
240. 22:50lint, то есть некоторую самоочистку системы  запустить. И она знает, что эта команда означает,
241. 22:56читает файлы для того, чтобы лишний раз для аудита  перепроверить их и и дать нам лёгкий самари,
242. 23:02что же можно сейчас оптимизировать. Итак, аудит  у нас завершён. Результат, что противоречие у нас
243. 23:07пока не найдена. Ну, у нас довольно маленькая  Вики, но когда она у вас начинает расти, то
244. 23:12противоречия находятся довольно в больших объёмах.  Но смотрите, у нас есть несколько концептов, а
245. 23:19страниц для них нету. То есть, например, для QDRН  - это основная векторная база наша. Она упомянута,
246. 23:26но страницы для неё нету. И рекомендация есть  создать эту страницу, отсутствующие кросссы
247. 23:32ссылки, ну, и другие недочёты. И, соответственно,  он у нас спрашивает, что хочет, чтобы я всё это
248. 23:37поправил или что-то конкретное. Так ему и  скажем: Fix all. Пускай он фиксит нам всё,
249. 23:43что он нашёл. Итак, наши изменения готовы. Вот  проблемы. Вот что сделано. У нас было создано
250. 23:49две страницы. У нас добавлена внутренняя ссылка.  У нас добавлены помечания, расшифровка акронимов,
251. 23:55которые до этого были не расшифрованы. Вот мы  видим наши новые страницы, которые теперь тоже
252. 24:00попали в наш индекс. Смотрите, вот мы видим,  что наш индекс, который до этого не обладал
253. 24:05файлом Дран, получает этот файл с внутренней  ссылкой. Мы всегда можем перескочить на него,
254. 24:10просмотреть. И теперь самое сладкое и магическое,  когда мы переходим в режим просмотра Graph Viw,
255. 24:18мы можем наблюдать, как начинают создаваться  наши взаимосвязи и точки напряжения, либо точки
256. 24:25концентрации знаний. мы видим, как определяются  узлы, на которые нам необходимо обращать внимание
257. 24:30в нашей будущей работе. Итак, мы только что с вами  построили маленькую первоначальную версию этой
258. 24:35системы. И согласно тому, что пишет Андрей, а это  очень круто использовать в нескольких контекстах.
259. 24:43То есть это можно использовать для формирования  личных баз знаний, для исследовательской работы,
260. 24:49что очевидно, для чтения книг, для того, чтобы  все концепты и все пересечения взаимосвязи можно
261. 24:55было таким образом трекать, потом их разгонять  вместе с неронкой и крепче усваивать. Это очень
262. 25:01круто использовать для своего бизнеса, для  команды. Именно этот кейс мы с вами сегодня
263. 25:05посмотрели для конкурентного анализа. В общем,  во всех проектах, где вам важны пересечения,
264. 25:12важно иметь нейронку с богатым контекстом и  с быстрым доступом к нему, на этом мы с вами
265. 25:17завершаем видео. Обязательно оставляйте лайк,  коммент, подписывайтесь и до скорых встреч.