YT YouTube2Text

YouTube2Text → Transcripts → Taller Gratuito: Tu primer RAG en directo

Taller Gratuito: Tu primer RAG en directo — Transcript

by BettaTech · 20,784 words · 3,371 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:00Muy, muy, muy buenas, gente. ¿Qué tal?
0:04¿Cómo estáis? Entiendo que se me escucha
0:06bien. Si me podéis confirmar por el chat
0:09que me que me oís, mientras tanto, irme
0:11diciendo de qué país venís, que veo que
0:14ha habido gente de México, de Argentina,
0:16de España. Irme diciendo un poquito para
0:19hacer unos cuantos numeritos en mi
0:21cabeza. Venezuela, Perú.
0:24Se te escucha perfecto. Genial. Buenas
0:26tardes. Venezuela, Argentina, España,
0:27Argentina, Colombia. ¿Qué más? ¿Qué más?
0:30¿Qué más? Chile veo por ahí también.
0:32Oye, muchísimas gracias por eh venir a
0:36este taller. En este taller vamos a
0:38estar practicando un poquito cositas de
0:41de inteligencia artificial, ¿vale? Que
0:44ya sabemos todos los desarrolladores que
0:46están muy de moda eh hoy en día. Y la
0:49idea, lo que yo he querido montar un
0:51poquito para huir un poco de los típicos
0:54tutoriales de eh aprendo a utilizar
0:56Cloud Code o aprende a utilizar
0:58herramientas de para desarrollo, e he
1:01querido hacer un taller un poquito más,
1:04podríamos decirlo, profesional de
1:06producto, ¿no? Es decir, cómo nosotros
1:09podemos utilizar técnicas o
1:10aprovecharnos eh de la inteligencia
1:12artificial para construir mejor producto
1:16en este caso, no solamente para que
1:17nosotros desarrollemos de diferentes
1:19maneras, sino cómo lo podemos incorporar
1:23dentro de em
1:26de productos de software, ¿no? En este
1:27caso, en el caso de que seamos
1:29desarrolladores o estemos trabajando en
1:30una empresa en la que queramos que que
1:33la empresa pues disponga de estas
1:34capacidades. Entonces, es por esto que
1:37el taller y me voy a poner aquí abajo,
1:41irme diciendo porfa, si me veis bien
1:42porque estoy aquí con eh todo el
1:45multitasking. La idea que se me ocurrió
1:48fue el tema de los RAC, ¿vale? No os
1:52preocupéis, ahora explicaremos qué es
1:54esto de de los rack, para qué sirve,
1:57cómo funciona, qué podemos hacer con
1:59todo esto, ¿vale? Así que tranquilos, lo
2:01iremos viendo poco a poco. Eh, pero
2:04también quiero dar un poquito de
2:05contexto, ¿no? Quiero dar un poquito de
2:07contexto sobre qué es esto de la la
2:11ingeniería de inteligencia artificial,
2:12porque creo que todos somos conscientes
2:15de que hay un lío de nombres, ¿no?
2:17Decdme por el chat si no tenéis vosotros
2:18un lío de nombres en todo lo que
2:20respecta a la, ¿no? Es decir, ¿cuántos
2:23de vosotros habéis leído cosas de que
2:25silup engineering, cuántos de vosotros
2:27habéis leído cosas de graph engineering,
2:29de harness engineering, de un montón de
2:31cosas, ¿vale? De hecho, cuando yo estuve
2:34planteando este taller y lo estuve con
2:36con comentando con diferentes personas,
2:38incluso gente que se ha ido apuntando,
2:40me comentaba, "Oh, ingeniería de IA,
2:42nadie sabe lo que significa."
2:44Déjame darte un poquito de contexto
2:46sobre por qué lo he llamado ingeniería
2:48de IA. Pero antes, para quien no me
2:51conozca, porque supongo que mucha gente
2:53se habrá apuntado también a este taller,
2:55eh, sin saber quiénos quién soy yo, ¿no?
2:57Mi nombre es Martí, soy ingeniero de
2:59software desde hace más de pues ya va a
3:02hacer más de 10 años, la verdad, se nota
3:05por la edad, ¿no? Y bueno, pues empecé a
3:08trabajar hace 11, empecé a trabajar en
3:10cuarto de carrera antes de graduarme y
3:12aparte de la ingeniería, ¿no? a nivel
3:15profesional dedicarme al desarrollo de
3:16software, pues también hace 7 años que
3:19estoy eh divulgando en en YouTube, en
3:23otras redes sociales, contenido muy de
3:26ingeniería, ¿no? Recomendando pues
3:27libros clásicos de desarrollo de
3:29software y en general buenas prácticas
3:31para el desarrollo no solamente a nivel
3:33de hobby, sino también a nivel
3:35profesional y productivo, ¿no? Aparte
3:37del tema de YouTube, pues también he
3:39estado en diferentes eventos, diferentes
3:42keynotes, charlas. Esta foto de aquí,
3:44por ejemplo, es una una charla que di
3:48antes de verano, creo recordar, esto fue
3:50en Madrid, en Code Motion, donde estaba
3:53hablando también de temas de, en este
3:55caso, de desarrollo de software con eh
3:58con inteligencia artificial aplicada.
3:59¿Vale?
4:02Mucha gente también, quiero comentarlo
4:03ya al inicio, me ha estado preguntando,
4:05lo he visto también aquí por el chat,
4:07gente que preguntaba cómo obtengo el
4:08certificado del curso, cómo lo vamos a e
4:12a ver, cómo va a ir esto del certificado
4:14del examen. No os preocupéis, aquí abajo
4:17en la descripción del vídeo deberíais
4:19tener un enlace para apuntaros, ¿vale?
4:21para dejar vuestro correo electrónico,
4:22porque mañana
4:24recibiréis un correo electrónico con
4:27todos los apuntes de esta clase, que
4:29insisto también he visto que lo habéis
4:31preguntado, queda grabada, por lo que no
4:32os tenéis que preocupar, la podéis ver
4:34en diferido sin ningún problema. Incluso
4:36mi recomendación es hoy la veis y luego
4:38con los apuntes pues podéis seguir
4:41ampliando eh conocimiento porque los
4:42apuntes tendrán algunas cosas extra
4:44también a nivel de contenido, ¿vale?
4:46Entonces, mañana en vuestro correo
4:48electrónico recibiríais el eh los
4:51apuntes, recibiríais también la
4:54grabación del vídeo, recibiríais también
4:56un enlace para que podáis hacer el
4:58examen necesario para obtener el
5:00certificado de asistencia. ¿Vale? En
5:03principio el certificado serán pues unas
5:0525 preguntas, ¿vale?, sobre todo lo que
5:08vayamos a ver durante la clase de hoy.
5:10Así que en principio si seguís la clase
5:12a buen ritmo, podréis hacerlo y una vez
5:15realizado, pues obtendréis el
5:16certificado también, que es un
5:17certificado que podéis compartir tanto
5:19en currículum como en LinkedIn porque
5:21tiene lo el QR este que veis aquí abajo
5:24en la en la imagen para poder e
5:28verificarlo, ¿vale? Se genera a través
5:29de mi academia, por lo que tiene
5:31verificación criptográfica y toda la
5:33historia esta que os podáis imaginar,
5:35¿vale? Es decir, un empleador podrá
5:36darle clic y ver que el certificado es
5:38válido. No os preocupéis por el enlace,
5:40insisto, que lo veo por el chat, lo vais
5:42a recibir en el correo electrónico
5:44mañana si dejáis el mail aquí en el
5:47enlace de abajo en la descripción.
5:48¿Vale?
5:50¿Qué más? Eh, antes de empezar con lo
5:53que sería la clase, e hacer un pequeñito
5:55resumen de lo que vamos a ver, un
5:57poquito de introducción de este nuevo
5:59concepto, ¿vale?, de AI Engineering, que
6:01es de dónde sale. Quitemos un poco de
6:04humo a todo esto. Vamos a hablar
6:05realmente con lo que dicen los autores y
6:08lo que se está aposentando hoy en día en
6:09la industria. Vamos a darle cuerpo a
6:11esta nomenclatura. Vamos a ver algunos
6:13conceptos de temas eh de LLMs que van a
6:16ser necesarios para poder entender
6:18posteriormente
6:19el RAC. Luego vamos a hablar de RAC,
6:23diferentes tipologías. Vamos a ver un
6:24ejemplo también en código sobre cómo se
6:26puede montar, etcétera, etcétera. Esto
6:27sería la parte de construir el RAC, el
6:29tema de las citas y el tema de
6:30producción. Y acabaríamos también al
6:33final, pues si queréis dejar alguna
6:35pregunta, si todavía nos queda tiempo,
6:37pues eh lo podríamos ir viendo, ¿vale?
6:40Al final de esta clase, tal como estaba
6:42explicado también en eh la página web,
6:45vamos a presentar de Commit Academy, de
6:47la Academia, el nuevo programa de
6:50especialización en ingeniería de IA en
6:51AI Engineering, que va a ser un programa
6:54del que ya vamos a hablar e al final de
6:57las clases, ¿vale? O sea, que no os
6:58preocupéis, esto lo comentaremos
7:00después.
7:02Entonces, si os parece bien, empezamos
7:04eh un poquito con e la clase. Veo por
7:10aquí en el chat que dicen que se escucha
7:11un poquito con eco. Puede ser cierto.
7:14Eh, si me podéis decir si alguien más
7:16también lo escucha con eco. Puede ser
7:18que simplemente sea el sitio, eh, que
7:20también estoy aquí con la mesa y resuena
7:22un poquito. Así que pido disculpas
7:24porque voy con el micro de Solapa y y no
7:28es el famoso micro de podcast. Vale,
7:31entonces lo primero que quería comentar
7:34era el tema de AI engineering, ¿vale?
7:36que es un tema que en general lleva
7:38muchísimo ruido. Hay un montón de gente
7:40que adopta estos nombres y se pone a
7:43explicarlos sin realmente saber
7:44exactamente a qué se refieren. Yo me he
7:46esperado mucho tiempo en, digamos,
7:50decidirme por una nomenclatura que
7:51defina bien la disciplina de la que
7:53vamos a hablar hoy. Y digo que he
7:55tardado bastante tiempo ha sido porque
7:58he querido informarme sobre ver qué es
7:59lo que realmente acaba aposentándose. El
8:01nombre de Y Engineering no me lo invento
8:03yo, ha estado nombrado en bastantes
8:05libros.
8:07Pero el libro que me acabó convenciendo
8:08de llamarlo así es este, ¿vale? Es un
8:11libro de Chip Huyen, que también tiene
8:13otro libro de machine learning y ella lo
8:16define como AI engineering, ¿vale? Por
8:18lo tanto, al ser un nombre que ya se
8:20está aposentando bastante en todo lo que
8:22es la literatura, en todo lo que es la
8:24documentación,
8:26en todo lo que son también las ofertas
8:27laborales, ¿vale? Porque hay mucha gente
8:29que ya tiene su título también, las
8:30empresas lo llaman AI engineer, pues al
8:33final he considerado justo
8:36eh que este contenido, que este tipo de
8:39disciplina cuando yo hable de ella, pues
8:41le llame AI engineering, ¿vale?
8:43Entonces, simplemente que sepáis que hay
8:46mucho ruido por allí. La mayoría de
8:48nombres acaban muriendo,
8:51pero yo creo que el engineering es el
8:53nombre que va a acabar hablando de todo
8:55esto, ¿no? Entonces, ¿qué es realmente
8:58esto de AI engineering? Pues
9:00básicamente,
9:02y esto es como yo lo defino, ¿de
9:04acuerdo? Esto es como yo lo defino. Os
9:06pongo aquí la Diapo.
9:08Esto es mi opinión. Cada uno puede tener
9:10la suya. Yo lo veo como una
9:12especialización de lo que sería un
9:14desarrollador de software, ¿de acuerdo?
9:17Quizá incluso muy centrado en desarrollo
9:20backen es una una subespecialización
9:23para mí de desarrollo full stack o
9:25desarrollo backen. Me voy a explicar,
9:27¿vale? Me voy a explicar porque sé que
9:28ya ha empezado a tirar aquí muchas
9:29nomenclaturas y me gustaría saber un
9:32poquito también si me podéis decir por
9:34el chat e cuántos de vosotros sois o os
9:37consideráis desarrolladores
9:38profesionales, ¿vale? porque sé que a
9:39veces entra mucha gente a estos
9:41talleres, que quizás no es
9:42desarrollador, que viene por temas de
9:43IA, un poquito quizá sin saber muy bien
9:47que esperarse. Si me podéis ir diciendo
9:49por el chat quién más o menos es
9:50developer y si más o menos está todo en
9:52contexto, lo vamos viendo, ¿vale? Porque
9:54si no, pues también voy a ir ajustando
9:56un poquito la forma en la que lo
9:58explico. Entonces, ¿qué es lo que
10:00realmente hace o cómo se define un rol
10:04de ingeniero de IA? Pues básicamente es,
10:06a diferencia de un rol de machine
10:08learning, ¿vale?, que he visto incluso
10:10por el chat antes que habéis comentado,
10:11¿no? ML Engineer, eh, ingeniero de de
10:14inteligencia artificial, todo esto, esto
10:17históricamente
10:19era un entorno muy académico, ¿vale? Al
10:21final todo el tema de entrenar modelos
10:22de IA era un entorno que si no venías de
10:25un entorno muy universitario,
10:27matemáticas, estadística, pues quizá te
10:29quedaba un poquito lejos y era algo como
10:31que al desarrollador medio le quedaba un
10:33poquito inalcanzable, ¿no? ¿Qué ha
10:34ocurrido? que ahora con la aparición de
10:37los eh modelos fundacionales, ahora
10:39explicaremos exactamente qué es esto,
10:40pero para entendernos con la aparición
10:42de empresas que nos ofrecen modelos de
10:46inteligencia artificial para que
10:48nosotros los podamos utilizar como un
10:50servicio a través de una API, a través
10:53de una llamada a un SDK. Cuando ha
10:56aparecido esa opción, claro, se nos ha
10:58abierto un mundo de posibilidades porque
10:59ahora podemos utilizar inteligencia
11:01artificial sin tener que ser expertos en
11:04machine learning, ¿de acuerdo? Entonces,
11:06eso es lo primero que quiero dejar claro
11:08en cuanto a nomenclatura. Un AI engineer
11:11usa los modelos, no los entrena, usa
11:14modelos de terceros, usa modelos de pues
11:16de PSIC, de Antropic, de Open AI o de
11:19quien sea. ¿De acuerdo? ¿Qué es entonces
11:22lo que hace un AI engineer? pues es una
11:26persona o una disciplina que es capaz de
11:29agarrar el funcionamiento
11:31de estos modelos y por lo tanto entender
11:35sus limitaciones y qué tiene que
11:37construir alrededor para poder ofrecer
11:39un producto robusto y fiable. ¿De
11:43acuerdo? Que es lo que aquí en la
11:44diapositiva veis como que lo conecta con
11:46los datos y lo acaba llevando a
11:49producción. ¿Por qué creo que es
11:51importante esto?
11:53Básicamente porque el uso del LMS tiene
11:56un montón de cosas un poquito tramposas,
12:00¿vale?
12:01Eh, el uso del LMs implica que tienen
12:04una naturaleza probabilística, que
12:06tienen un consumo generalmente
12:08monetario,
12:10que te pueden ofrecer ciertas cosas que
12:14quizá un código normal ya te podría
12:16ofrecer pensando un poquito, pero tú
12:18acabas usando LLMs porque consideras que
12:20es más sencillo, pero luego es mucho más
12:22caro a nivel de coste. Entonces, tiene
12:24una serie de cositas, de apuntes que va
12:28bien entender, si bien no eres experto
12:30en ML, sabes cómo funcionan, ¿de
12:32acuerdo? A nivel intuitivo y puedes
12:35aprovecharte de todo ello, ¿de acuerdo?
12:37Entonces, hay varias técnicas, hay
12:39varias disciplinas, hay varias
12:41herramientas, varias cosas que como
12:43ingeniero que usa modelos de
12:45inteligencia artificial va bien conocer,
12:48¿de acuerdo? Una de ellas es las que
12:50vamos a ver en este taller, que es el
12:53tema de RAC. ¿De acuerdo? Irme diciendo
12:55por el chat si en algún momento no se
12:57entiende algo. Em, yo iré haciendo
13:00preguntas para asegurarme que lo
13:01entendéis, pero cualquier cosa lo vamos
13:03viendo. Entonces, no quiero usar muchas
13:06diapositivas, ¿vale? Creo que esta va a
13:08ser la última diapositiva antes de pasar
13:09pasar a la pizarra. Quedaros con que el
13:11RAC es una técnica que aplicaría o
13:14construiría un ingeniero de IA. ¿Vale?
13:18Entonces, no quiero usar más
13:20diapositivas porque creo que son muy
13:21aburridas, ¿vale? Prefiero explicarlo eh
13:25yo a mano. Así que si os parece, vamos a
13:28ver si puedo pasar a la pizarra, que
13:29estoy probando una nueva aplicación
13:32y y lo vamos a ver. ¿Vale? Entonces nos
13:35vamos aquí a la pizarrita, me pongo acá
13:40y vamos a empezar con algunos conceptos
13:43básicos que hay que saber antes de poder
13:45entender exactamente cómo funciona un
13:49RAC. ¿Vale? Quedaros conmigo si ya lo
13:52sabéis, si estos conceptos ya los tenéis
13:54conocidos, ¿vale? Aquí iréis viendo que
13:56yo voy dibujando cositas. Si estos
13:58conceptos ya los sabéis, no os
13:59preocupéis, no quiero pasar más de 5
14:01minutos explicando esta base, pero creo
14:03que es una base necesaria, sobre todo
14:05para la gente e que viene desde cero o
14:10que nunca ha visto nada de inteligencia
14:12artificial y quiere aprender, ¿vale? No
14:13quiero tirar a RAC directamente sin
14:16explicar estas cosas antes. Entonces, lo
14:19primero, cuando hablamos de modelos de
14:21inteligencia artificial, cuando hablamos
14:23de LLMs, ¿vale?, Vale, que significa
14:26large language
14:30models, que esto lo veréis muy
14:33en un montón de literatura, en un montón
14:35de posts, en un montón de artículos, en
14:36un montón de vídeos y seguramente diga
14:39el LM 1000 veces durante el transcurso
14:42de este taller. ¿Vale? Básicamente, un
14:45modelo de lenguaje es un modelo de
14:47inteligencia artificial que ha sido
14:49entrenado con un montón de datos
14:51textuales la mayoría de en la mayoría de
14:53situaciones, un montón de datos de
14:55texto, comúnmente mucha información
14:57sacada de internet, libros, etcétera,
14:58etcétera, etcétera, y es capaz de
15:01generar texto. Esto es la razón por la
15:04que esto se llama genai, ¿vale? I a
15:08generativa. ¿Por qué? Porque genera
15:10cosas. Hay diferentes tipos de
15:12inteligencia artificial. Eh, la
15:13inteligencia artificial es muy antigua.
15:15Históricamente se ha usado inteligencia
15:17artificial para predecir nuevos datos,
15:20para clasificar información típica IA
15:24de, yo que sé, de los coches de
15:26clasificación de señales de tráfico.
15:28¿Cómo sabe tu coche que estás viendo un
15:30stop delante tuyo? Pues seguramente no
15:33tiene un eh Opus 5. ¿Vale? O sea,
15:37existen modelos de inteligencia
15:38artificial históricamente que han hecho
15:41o bien regresiones para predecir o bien
15:43clasificaciones.
15:45La generativa, los LM en particular
15:49brillan generando texto. ¿Sí? ¿Hasta ahí
15:53claro no? Muy bien. Entonces, aquí
15:55tenemos los LLM.
15:58¿Qué otros conceptos son interesantes
16:00que deberíamos conocer para poder
16:03avanzar en todo esto de la inteligencia
16:06artificial? y que creo que son
16:07necesarios. Seguramente muchos lo
16:09conocéis, pero lo digo igual. ¿Vale? El
16:12concepto de token.
16:14Los modelos de inteligencia artificial
16:17parecen magia, pero son modelos
16:20matemáticos. con modelos matemáticos. Me
16:23refiero que en su más pura expresión, si
16:25tú agarras un modelo, un Llm de IA, lo
16:29que vas a ver por dentro es que no deja
16:31de ser un conjunto de millones y
16:34millones y millones y millones de
16:36números.
16:38¿Y cómo funcionan? para predecir. Y
16:40aquí, por favor, los ingenieros de
16:42machine learning que me estén
16:43escuchando, si hay alguno por aquí por
16:44el taller, e entender que lo estoy
16:46simplificando para que se entienda a
16:48nivel intuitivo. Cuando tú predices
16:50texto con un ll, lo que haces es
16:53operaciones matemáticas, es decir,
16:55agarras números, lo multiplicas por
16:57números y salen números. ¿Vale? Hasta
17:00aquí espero que se entienda. ¿Qué es un
17:02token, entonces me dirás? Pues
17:05básicamente si tú tienes una frase, por
17:07ejemplo, hola, ¿qué tal?
17:10Así, por ejemplo, vale, la escribo aquí
17:11rápido. Perdonar por mi letra.
17:14Si tú tienes una frase de este estilo,
17:17un token es la representación en números
17:20de esta frase. Por ejemplo, esta frase
17:23podría ser 45, 73, 101,
17:28hasta 81, ¿vale? una serie de números
17:31que representan esta frase. El cómo se
17:34convierte la frase a números depende de
17:38cada proveedor, depende de cada modelo.
17:41Hay diferentes metodologías. Comúnmente
17:44podrías, para simplificarlo, ver que
17:46pues una palabra puede llegar a ser un
17:48token o quizá un trozo de palabra, ¿de
17:52acuerdo? Cada palabra siempre es el
17:55mismo token, porque esto viene de que
17:57cuando tú has agarrado todas las
17:58palabras con la que has entrenado el
18:00modelo, te has ido a internet, te has
18:01descargado millones de libros y has
18:04querido entrenar tu modelo, para
18:06convertirlo en número, lo que has hecho
18:08ha sido ver, ¿vale? Pues aquí aparecen
18:11holas, ¿qué tal historia? Miras las
18:16palabras que aparecen dentro de el
18:18vocabulario, ¿vale? y le asignas a cada
18:21palabra o a cada parte común un valor,
18:24un número que será el valor del token.
18:27No quiero entrar en un montón de
18:28detalles sobre cómo funciona un
18:30tokenizador, que sería este algoritmo
18:33que se encarga de convertir texto a
18:36token porque tiene algunas cositas pues
18:39que tienen alguna curiosidad, ¿no? Por
18:41ejemplo, en idiomas con palabras muy
18:43largas puede haber tokens que tengan que
18:47representar solamente una parte de la
18:48palabra, por ejemplo, yo que sé.
18:50La palabra cambiante, quizá antes un
18:54token y cambi token. Vale, no vamos a
18:57entrar en esto. Quédate con que en
18:59general un token podría ser alrededor de
19:03pues no me acuerdo si era 1,2 palabras o
19:060,9 palabras o algo así. Vale, hasta
19:09aquí se entiende. El concepto de token
19:11es la la representación numérica de el
19:15texto, de cada uno de los de las partes
19:19separables de un texto. Irme diciendo
19:21por el chat si lo vais entendiendo
19:24y eh y seguimos. ¿Vale?
19:28¿Se entiende?
19:30Sí. Incluso gente que quizá no está tan
19:33acostumbrada al tema de la inteligencia
19:34artificial. Vale, okay. Entonces, una
19:37vez tenemos el concepto de token claro,
19:40¿qué más tenemos en nuestra inteligencia
19:43artificial? ¿Cuántos de vosotros en el
19:46chat decirme, ¿habéis escuchado el
19:48concepto de ventana de contexto?
19:52Vale,
19:53seguro que si habéis oído hablar de
19:55inteligencia artificial, habéis visto
19:56noticias de cuándo han ido lanzando
19:58nuevos eh modelos de IA. ¿Habéis
20:01escuchado este concepto? Ahora sacamos
20:03Opus 5, no sé cuánto, que tiene un
20:05millón de tokens en la ventana de
20:07contexto. Vale, es un término importante
20:10y este es el primer término importante
20:12que se va a relacionar directamente con
20:14RAC.
20:16Vale, vamos a poner aquí ventana de
20:18contexto.
20:21A mí me gusta definir la ventana de
20:22contexto como un escritorio. Siempre uso
20:24la misma analogía, pero es que creo que
20:26era una analogía que se entiende muy
20:27bien. Cuando tú te sientes a trabajar en
20:30un escritorio
20:32y tienes el escritorio limpio y aquí tu
20:35bloc de notas, ¿vale? Tú automáticamente
20:39cuando tienes que hacer una tarea sabes
20:40a dónde tienes que ir porque tienes tu
20:42bloc de notas aquí, lo abres y tienes
20:44poca información y trabajas, la obties
20:47muy rápidamente.
20:49Eso te permite trabajar muy cómodamente
20:51porque sabes directamente dónde tienes
20:52que ir. Ahora bien, imagínate que tienes
20:54aquí un bloc de papeles, aquí 40
20:56libretas, aquí 50 documentos, aquí 20
20:59facturas y aquí bloc de notas. Y todo
21:01está mezclado con todo.
21:04El escritorio, el espacio físico del
21:06escritorio es lo que a mí me gusta
21:08llamar en esta analogía la ventana de
21:09contexto. Cuanto más llena está la
21:13ventana, cuanta más información está
21:15cargada en esta ventana, más difícil
21:18para ti como persona es encontrar
21:21exactamente lo que importa. Cuanto más
21:24vacía está y más menos información
21:26tienes, más directamente puedes ir. Pues
21:28algo similar, ¿vale? salvando las
21:30distancias, porque esto no deja de ser
21:32una analogía. Algo similar ocurre, uy,
21:34me he equivocado. Ahí está.
21:37Algo similar ocurre con la ventana de
21:39contexto. Sería el espacio,
21:42¿vale?, de información, que esta
21:45información ya hemos dicho que se mide
21:46en tokens,
21:49que tiene el modelo, en este caso la
21:53LLM. Y fijaros cómo vamos ahora
21:55añadiendo conceptos todos combinados,
21:57¿vale? es el espacio que tiene el modelo
21:59de inteligencia artificial
22:02para pues tomar decisiones, para hacer
22:04la predicción.
22:06¿De acuerdo?
22:08Hasta aquí se entiende. Es decir, hay un
22:10número limitado de tokens que entran
22:14dentro de mi uso con la inteligencia
22:17artificial. Y esto tiene algunas cositas
22:20particulares que a veces va bien
22:21entender. En este caso, la mayoría de
22:23modelos modernos tienen un millón de
22:26tokens disponibles. ¿Vale? ¿Qué ocurre?
22:30Y esto es un poquito más avanzado para
22:31quien esté un poquito interesado en ver
22:34algo un poquito más profundo de esto.
22:35Eh, lo comento simplemente, no es
22:36importante para poder seguir el taller
22:38de hoy, pero sí que es importante si
22:40luego queréis profundizar más en temas
22:42de RAC.
22:43La inteligencia artificial, el modelo en
22:45general no ve todos los tokens con la
22:47misma importancia, por decirlo. Hay un
22:49paper, insisto, eh, esto lo lo pongo
22:51como apunte para quien quiera luego
22:53profundizar un poquito más. Eh, hay un
22:55paper que se llama Lost in the middle,
22:57que indica que todos los tokens que hay
22:59al inicio y todos los tokens que hay al
23:01final de la ventana son los tokens que
23:05más peso van a tener dentro de la
23:08generación de texto posterior. ¿Vale?
23:10Simplemente lo quiero comentar. Sí que
23:11es que modelos modernos esta curva la
23:13han aplanado un poco, pero sigue
23:16habiendo afectación,
23:18¿vale? Simplemente quedaros con que la
23:20ventana de contexto es el espacio que tú
23:22tienes para trabajar y dar la
23:25información a la inteligencia
23:27artificial. Si alguien pregunta, que
23:30quizá es una duda que os está generando
23:32esto, si la ventana de contexto, ¿de
23:35acuerdo? Incluye lo que yo le doy a la
23:38IA y lo que la IA acabará sacando
23:40después. Depende de cómo yo lo monte.
23:42Vale,
23:44se entiende por aquí.
23:47Sí.
23:49Vale, yo voy tirando. Eh, luego si
23:51queréis eh, revisamos algunos temas en
23:54la parte de preguntas.
23:57¿Cómo genera texto un LLM?
24:01¿Cómo genera? Pues imagínate, yo me
24:03pongo el ejemplo de Harry Potter, ¿vale?
24:06Imagínate que yo tengo esta frase, Harry
24:10e se subió
24:14a y yo quiero que el Ll prediga este
24:18token, esta frase, lo que la palabra que
24:21falta. ¿Qué opciones tenemos? Depende de
24:25cómo se haya entrenado el LLM.
24:28Depende de cómo se haya entrenado el
24:29LLM.
24:31Cuando yo le haga esta petición de
24:33decirle, "Mira, Harry se subió a y le
24:35pida predecir lo siguiente, me va a dar
24:38diferentes tokens, me va a dar
24:39probabilidades, no me va a dar una
24:42palabra, no me va a decir se subo yo a
24:43la escoba".
24:45Okay. Me va a dar probabilidades. Me va
24:48a decir, "Pues mira, se subió, vamos a
24:50poner aquí la que me lo dejo.
24:53Se subió a la escoba y quizá me dice
24:57escoba en un 90%.
25:00Quizás se subió a la torre y me dice
25:03torre un 5%.
25:06Se subió a la, yo que sé, decidme por el
25:08chat. Em, ¿a qué se subió Harry? A la
25:12varita. Podemos poner a la varita
25:16en un 4%.
25:19A la moto. Venga, se subió a la moto,
25:22¿vale? Un 1%. Es decir, la respuesta de
25:25un modelo
25:26LLM no es una palabra sola. es
25:31un histograma, podríamos verlo así, de
25:33probabilidades.
25:35Estas probabilidades no significa que
25:37nos vayamos a quedar siempre con la más
25:38probable, ¿vale? No significa que
25:40siempre vayamos a dar escoba, significa
25:43que vamos a hacer lo que se conoce como
25:45un proceso de sampling,
25:49que es de estas probabilidades. Vamos a
25:52tirar un dado y el Llm me va a decir
25:55cuál de estas palabras sale en el dado.
25:58Escoba saldrá en un 90% de los casos,
26:00pero torre saldrá en un cinco. Vale,
26:03quizá me dice Harry se subió a la torre.
26:06Y es por esto, Y es por esto que se dice
26:10que las LLM son probabilísticas,
26:15¿se entiende? Son probabilísticas por su
26:19propia construcción,
26:21no siempre te dan la misma respuesta.
26:25¿Vale?
26:27Esto es uno de los retos que tiene un
26:30ingeniero de IA, porque si mi respuesta
26:32es probabilística
26:35y no siempre da la misma respuesta,
26:36¿cómo me aseguro yo cuando la incorporo
26:39dentro de mi software que lo que me vaya
26:41a decir tiene sentido? ¿Vale?
26:45Hay técnicas, hay
26:48formas de ajustar esto. Por ejemplo, en
26:53vez de darme siempre, yo que sé, cinco
26:57opciones con sus probabilidades, dame
26:59pues yo que sé, las dos más probables.
27:02Es decir, se puede ajustar el algoritmo
27:04de sampling para acabar ajustando
27:07algunas cosas. Este es un un campo que
27:09se utiliza muchísimo cuando trabajamos
27:11con IA, que es la temperatura, ¿vale?
27:14Cuanta mayor temperatura le doy a la
27:18llamada a la IA,
27:21digamos que
27:23más se va a repartir la probabilidad.
27:25Más probable es que me dé cosas poco
27:27probables. Espero que se entienda la
27:28frase, ¿vale? Es por esto que cuando yo
27:31pongo temperatura alta, en muchos
27:33productos de ella vais a ver que es el
27:35término de creatividad. ¿Qué tan
27:37creativo quieres que te dé chat GPT la
27:39respuesta? y tú pones muy creativo. ¿Qué
27:43le da la creatividad a la pues que Harry
27:46no se suba a la escoba, sino que Harry
27:48se suba a la moto.
27:51La luego va a seguir generando cada
27:54token posterior, pero el token de antes
27:56es moto, por lo tanto, la frase ya te va
27:58a cambiar completamente y te va a dar
27:59una opción más creativa, ¿vale? Si tú
28:02bajas la temperatura, refuerzas más que
28:05salga escoba, ¿vale? Es decir, se puede
28:08ir jugando y se puede ir ajustando todo
28:11esto, ¿de acuerdo? Pero simplemente
28:13quedaros con que por esta razón es por
28:16lo que la inteligencia artificial es
28:19probabilística y esta es la razón por la
28:23que se genera un concepto nuevo, que
28:27porfa decidme por el chat si os suena
28:30que es este. A ver si lo decís. Voy a ir
28:33poniendo letras, ¿vale? A,
28:37l,
28:40u. Dejo un poco de tiempo para que me
28:42digáis qué palabra va a salir de aquí,
28:44porque seguro que sabéis cuál es.
28:47Aluc, ya lo han dicho, alucinaciones.
28:50Alucinaciones,
28:53¿vale?
28:55El hecho de que sea probabilística es lo
28:58que me genera también alucinaciones.
29:02Sí,
29:03hay un hecho eh muy interesante, no
29:06tengo aquí la noticia directamente, pero
29:08e lo estuve estudiando y me sorprendió
29:10el otro día, eh de Air Canada. Okay. Air
29:14Canada tenía un chatbot con inteligencia
29:15artificial. construido con LMS, incluso
29:18con RAC, ¿vale? Luego veremos qué pasa
29:20con eso. Y un cliente le pidió, "Oye,
29:22¿tienes alguna oferta para el vuelo de
29:24no sé qué?"
29:26Y claro, el digamos
29:29el la LLM produciendo el texto de
29:31respuesta empezó a de golpe a producir
29:33en vez de no tenemos ticket o no tenemos
29:36eh oferta, empezó con la palabra sí por
29:40tema probabilístico. Empezó con la
29:42palabra sí y a partir de ahí, claro,
29:45todo el texto que generó ya fue
29:47inventándose, alucinando directamente un
29:50ticket de oferta que no existía. ¿Vale?
29:52Entonces, claro, al final pues el tío de
29:54eh que está hablando con el chatbot
29:56llamó a Ir Kennedo, "Oye, tu chatbot de
29:58soporte me ha dicho que eh que tenemos
30:01esta oferta tal cual porque no la
30:02encuentro, bla bla bla bla bla bla bla y
30:04fue un drama." ¿Vale? Entonces, ¿se
30:06entiende el concepto de por qué es eh
30:08probabilística? Muchos por el chat
30:09preguntáis si se puede mandar la
30:11temperatura a los proveedores de IA. En
30:13general, sí. Vale, luego veremos un
30:15ejemplo de código de cómo se llama a una
30:17LLM de un servicio de IA mediante código
30:20y hay un parámetro de temperatura,
30:23¿vale?, que es un número entre 0 y un
30:24uno caliente, cero frío. Okay,
30:29entonces por eso
30:31alucinan.
30:33Bien, continuamos
30:36sabiendo un poquito así cómo funcionan
30:39eh las LLM. habíamos dicho que eran
30:43básicamente
30:45un conjunto de de números, ¿vale? Al ser
30:49un conjunto de números que se obtienen,
30:52se calculan cuando yo entreno este
30:54modelo, es decir, yo agarro todos los
30:55libros de internet y entreno mi modelo
30:57de IA, lo que estoy haciendo es ajustar
31:01cada uno de estos millones de números
31:03que luego van a hacer la multiplicación
31:05de tokens para hacer la generación.
31:08Estos números son los que vengáis del
31:10mundo de redes neuronales y machine
31:12learning, los famosos pesos, ¿vale? Si
31:16venís del mundo de IA Generativa, la
31:19mayoría de sitios lo llaman los
31:21parámetros,
31:22¿vale? Cuando escucháis Opus tiene no sé
31:25cuántos mil millones, trillones,
31:27cuatrillones de parámetros, es son estos
31:29numeritos, ¿vale? Cuando tú entrenas un
31:32modelo de ella, lo que haces es ajustar
31:34estos números para que la generación
31:37tenga sentido.
31:39¿Qué ocurre? Estos números codifican o
31:42se puede entender que los pesos,
31:46vamos a poner así, codifican
31:50el conocimiento
31:53de la ¿estáis de acuerdo con esta frase?
31:58Al final estos pesos, estos valores,
32:01estos números que te dicen dado un
32:04conjunto de tokens de entrada, me da el
32:06siguiente token a predecir. Te están
32:08codificando lo que la IA sabe, pero lo
32:11que la IA sabe es muy generalista.
32:17La tiene el conocimiento,
32:19digamos, con el que se ha entrenado y se
32:23ha entrenado simplemente para producir
32:25texto. Por lo tanto, tiene dos
32:27problemas. Por un lado, solamente sabe
32:31responder texto, es decir, no tiene por
32:33qué contestarte de manera conversacional
32:35como lo haría Chat GPT. Ahí entraría
32:38temas de arneses y temas así y de post
32:40training y de fine tuning y cositas un
32:43poquito más avanzadas que no vamos a ver
32:45en este curso y aviso.
32:47Y además no tiene por qué tener
32:49conocimiento de cosas modernas. Por
32:52ejemplo, si yo me he entrenado un LLM
32:54con todas las noticias y los periódicos
32:56hasta 2025,
32:59si yo le pregunto quién es el presidente
33:02en 2026,
33:04me va a contestar algo, pero va a ser en
33:06general una alucinación.
33:10En cambio, si le pregunto por una
33:12noticia que ha estado en su set de
33:14entrenamiento, seguramente me conteste
33:17bien. ¿De acuerdo? Hasta aquí se
33:20entiende el tema de las eh limitaciones
33:23de la inteligencia artificial.
33:26Hablamos de modelos puros, ¿eh?
33:29¿Y por qué tienen una limitación a nivel
33:31de contexto y de conocimiento?
33:35Perfecto. Perfecto. Aquí, aquí en este
33:40punto es donde entraría el concepto de
33:44RAC,
33:46¿vale? RCK.
33:49¿Qué significa? Algunos ya habéis lo
33:51habéis puesto antes e por el chat. Rack
33:54significa en inglés
33:57retrievalmented
34:05generation
34:10del inglés. Generación aumentada
34:14por obtención. No sé cómo se traduciría
34:18retrival, obtención, no sea sí,
34:21obtención de datos. ¿Por qué? ¿Por qué
34:25funciona bien o por qué se utilizó el
34:27RAC? Porque como tenemos modelos
34:29recuperación, mil gracias, generación
34:32aumentada por recuperación.
34:35Entonces, ¿por qué es interesante
34:37utilizar un RAC? Ya hemos dicho que
34:39tenemos nuestro modelo de IA con
34:43conocimiento limitado, es decir, sabe
34:45responder, sabe predecir texto, pero no
34:49tiene acceso a información actual o a la
34:51información específica a la que nosotros
34:54a la que nosotros le queremos dar
34:56acceso. ¿Vale? Perdón que me he trabado
34:58un poquito ahí.
34:59Entonces existe esta técnica que lo que
35:03vas a hacer es, yo tengo aquí mi modelo,
35:08mi ll
35:11voy a improvisar aquí un dibujito,
35:12¿vale? Vamos a ponerle aquí la ventana
35:15de contexto. Este cuadradito de aquí es
35:17la ventana de contexto. Okay.
35:21Al LM yo le meto tokens
35:25y me saca tokens,
35:28que luego el token se traduce
35:31a texto,
35:33¿vale? Y aquí igual lo mismo.
35:37¿Entendéis, no? Este diagrama que he
35:38hecho aquí abajo de texto se traduce a
35:42token, a los números, se envía la LM,
35:44predice la LM, me da tokens y hago la
35:48inversa, devuelvo texto.
35:51¿Vale? Entonces, si aquí yo tengo la
35:53ventana de contexto,
35:56habíamos dicho que la Ll puede utilizar
35:58los tokens de esta ventana de contexto
36:00para afectar a cómo predice. Entonces,
36:03¿qué pasaría si yo puedo agarrar
36:07noticias, información,
36:10documentos
36:12que yo quiero que la LLM tenga en
36:14cuenta, es decir, que afecten a la forma
36:17en la que genera texto? y se lo enchufo
36:21a la ventana de contexto. Es decir, ¿qué
36:23va a ocurrir si yo agarro este libro
36:30Generative AI Design Patters,
36:33que es un libro que quizá mi modelo
36:36nunca ha visto en su vida, pero yo
36:39quiero utilizar mi modelo para preguntar
36:40cosas sobre este libro. ¿Qué voy a
36:42hacer? Le voy a decir, "Léete el libro
36:44primero."
36:46Eso a nivel intuitivo es lo que es un
36:48rack.
36:49Yo le doy la información que quiero que
36:51tenga en cuenta para que luego me
36:53conteste acorde
36:55a lo que ha visto.
36:59Vale,
37:01hasta aquí se entiende a nivel intuitivo
37:04lo que hace un RAC.
37:09Decidme por el chat, porfi, si lo veis
37:11más o menos claro o si os queda alguna
37:13algún agujerito. Sí. No.
37:17Muy bien.
37:19Entonces
37:21estoy aquí buscando para tener el código
37:25preparado
37:27porque así
37:29no os lío más. ¿Vale? Os quiero enseñar
37:33cómo funciona. Ahora, ahora os pongo
37:35aquí el código, ¿vale?
37:39Os quiero enseñar cómo funciona un RAC.
37:40Primero os lo explico a nivel
37:42intuitivo y luego lo vemos a nivel de
37:44código.
37:48¿Qué cosas tengo que hacer yo para
37:49implementar
37:51un RACK?
37:53Porque
37:54epa, y se fue. Porque tiene su historia.
37:58Vale, un segundito. Lo ponemos así.
38:05Ahí está. No, muy bien. ¿Qué tengo que
38:08hacer yo?
38:10¿Qué ha pasado
38:12para implementar un RAC? Hemos visto el
38:15concepto de token. Okay. Entonces, para
38:18implementar un RAC, realmente,
38:21yo, imagínate que tengo aquí mi libro.
38:23Mi libro Luna de Plutón está disponible
38:27en todos los países que quieras. Mi
38:30libro
38:33para yo enchufárselo
38:36a la ventana de contexto,
38:40tengo que hacer
38:42una conversión,
38:45¿vale?
38:46tengo que hacer una conversión porque yo
38:49tengo que convertir esto a tokens
38:50primero.
38:52Hasta ahí bien lo puedo enchufar en la
38:54ventana de contexto tan tranquilo. Pero
38:57habíamos dicho que la ventana de
38:59contexto tenía un tamaño.
39:03En general con los modelos de ahora, si
39:06yo solamente tengo, pues yo que sé, un
39:07libro como este que puede tener que 300
39:10páginas quizá.
39:12Si yo quiero meter este libro en tokens
39:16en la ventana de contexto en general,
39:17pues puede caber. Pues quizás el libro
39:19ocupa esto.
39:21¿Vale? Ahora bien, imaginaros que yo no
39:25quiero meterle un libro, yo quiero
39:28meterle toda la fucking biblioteca de
39:30Alejandría, ¿sabes? Yo quiero agarrar
39:33todo lo que existe sobre a generativa
39:36y meterlo en la ventana de contexto.
39:40Quiero darle todo el conocimiento a la
39:42IA que tiene y y quiero enchufárselo.
39:45Quiero que sea la IA más lista de toda
39:47la historia y que me conteste todo
39:49perfecto. Quiero agarrar todas las leyes
39:51de mi país y metérsela para luego
39:52preguntarle cuántos impuestos voy a
39:54tener que pagar en el trimestre. ¿Qué va
39:58a ocurrir?
39:59Pues que obviamente
40:01no va a caber. No va a caber. ¿Vale?
40:05Imagínate que tú tienes aquí un montón.
40:07Vamos a hacer otro diagrama, ¿vale? Para
40:08que se entienda un poquito más.
40:10Imagínate que tienes aquí un montón de
40:11libros, documentos, un montón de
40:14información
40:16y se lo quieres meter a la ventana del
40:18contexto. No cabe. No cabe. Es decir, de
40:21alguna manera, el hecho de darle
40:25información al modelo es seleccionar
40:30la información
40:35correcta,
40:38no solamente porque no vaya a caber,
40:40sino porque si yo agarro e
40:45imagínate, voy a ponerte un ejemplo
40:46sencillo. Si yo te digo, quiero aprender
40:48algo, quiero aprender a, yo que sé, a
40:53cocinar huevos fritos, porque no sé,
40:56¿vale? Y tú vienes y me dices, "Bu, no
40:58te preocupes, tengo todos los libros de
41:00cocina del mundo." Y me empiezas a dar
41:02un libro de cocina asiática, un libro de
41:04cocina francesa, un libro de cocina
41:06española, un libro de cocina molecular,
41:08un libro de no sé qué, un libro de cómo
41:11hacer tostadas, un libro de cómo plantar
41:13aguacates y yo tengo que aprender a
41:16cocinar un huevo frito, pues estaré sí
41:19cargado de conocimiento. Pero, ¿dónde
41:21leches está el tutorial para hacer un
41:23huevo frito?
41:25Vale, es decir, yo tengo que seleccionar
41:28para que la IA me dé respuestas
41:30coherentes a lo que estoy preguntando,
41:33las fuentes adecuadas.
41:37Sí,
41:38Jesús Gómez, mil gracias, tío. No
41:39donéis, no hace falta que donéis, por
41:41favor, que al final también luego vamos
41:42a presentar el máster, o sea, el curso,
41:44no lo quiero llamar máster, perdón. Eh,
41:47así que no hace falta que donéis, pero
41:48mil gracias, te lo agradezco.
41:50Se entiende el concepto de tengo que
41:52seleccionar la información adecuada para
41:54que la IA conteste correctamente, ¿vale?
41:59Eh, es decir, el acto de seleccionar,
42:02pues quizás dice, mira, lo que yo quiero
42:03para esta pregunta son este, este y
42:06este.
42:08Hay muchas técnicas de hacer esto. Ya
42:11aviso. Esta es la fase comúnmente que se
42:14llama retrival. Vale, por eso RAC tiene
42:17la palabra retribal y me atrevería a
42:20decir
42:22que es la parte más importante de un
42:24rack. Si tú haces bien el retrieval,
42:26tienes el 90% del RAC hecho,
42:29¿vale? Porque la IA va a tener la
42:31información adecuada.
42:34¿Qué formas existen para hacer este
42:38retrival?
42:41Uno aquí, corazón rojo.
42:43Ahora me ha salido la, perdón, me ha
42:44salido el audio de Jesús Gómez ahí en
42:47por la donación.
42:49Existen varias formas de hacer retrival,
42:51¿vale? ¿Cómo funciona en general?
42:53Primero lo explico y os comento las
42:56diferentes estrategias que hay.
42:58¿Tú cómo vas a interactuar con la IA?
43:01interactúas mediante preguntas, ¿no? Es
43:04decir, tú le haces una pregunta al LLM,
43:06le preguntas,
43:08eh, yo que sé, ¿cuántos
43:12días
43:14de vacaciones
43:18tengo?
43:20Esto es lo que tú le quieres preguntar a
43:23la inteligencia artificial, ¿no? Y tú
43:25tienes aquí todos los documentos de la
43:28empresa con toda la información
43:30necesaria.
43:32Vamos a hacer aquí bolitas para que
43:34veáis que hay mucho, ¿vale? Todo es
43:36mucha info, mucha info. Tenemos aquí
43:39todas las políticas de empresa,
43:40vacaciones, política de no sé qué,
43:42política de no sé cuánto, onboarding de
43:45no sé cuánto.
43:47Tenemos aquí todos los documentos y
43:48tenemos nuestra pregunta. de alguna
43:51manera,
43:52de alguna manera mágica, de alguna
43:54manera que ahora os explicaré que no es
43:57magia,
43:59tengo que vincular mi pregunta,
44:04es decir, nuestro objetivo es agarrar
44:06nuestra pregunta, lo que yo le estoy
44:08preguntando a la IA y vincularlo
44:13con los documentos
44:17que son interesantes para contestar esa
44:19pregunta.
44:22Vale, es decir, de alguna manera yo
44:25digo, ¿cómo cocino un huevo frito? Y tú
44:27tienes que saber qué libros específicos
44:30de huevos fritos me tienes que dar. No
44:33quiero que me des un libro de aguacates,
44:35quiero que me des un libro de huevos
44:37fritos.
44:39¿Vale?
44:41Entonces, hay muchas técnicas para hacer
44:44esta obtención que he visto por el chat
44:47que lo habéis preguntado, que es lo que
44:49es el retrival o la recuperación. ¿Vale?
44:54Una técnica es utilizar lo que se conoce
44:58como embedings.
45:01Hay otras,
45:03¿vale? Ahora voy a explicar el embeding,
45:05pero hay otras. De hecho, no lo voy a
45:08hacer diferente. Antes de explicar el
45:10embeding, voy a explicaros la más
45:11sencilla, que es la de palabras clave.
45:15¿Okay?
45:17¿Qué palabra clave puede haber en esta
45:18frase roja de aquí arriba? Seguramente
45:20que lo conocéis o lo podéis ver. La
45:23empiezo a subrayar, ¿vale? Pero decímelo
45:24por el chat. ¿Cuál es la palabra clave
45:27de esta frase?
45:29Yo creo que es bastante claro, ¿no?
45:32La palabra vacaciones.
45:34Si yo tengo todos estos documentos en
45:38una base de datos, en algún sitio que yo
45:41puedo consultar y yo puedo buscar, yo
45:44podría decir
45:46una query, una petición, pasarle la
45:49palabra vacaciones
45:51y devolver los documentos
45:53que encajen,
45:55¿no? Cualquier documento que tenga la
45:58palabra vacaciones en el texto
46:01lo devuelvo.
46:03Eso podría funcionar, ¿no?
46:06Podría funcionar.
46:09Ahora bien, si yo en vez de preguntarlo
46:11tipo, ¿cuántos días de vacaciones tengo,
46:14aunque es una pregunta muy sencillita,
46:15pero estoy intentando pensarla de alguna
46:17otra forma que no tenga la palabra
46:18vacaciones,
46:20eh, ¿cuántos días libres tengo?
46:23Podría ser otra palabra,
46:25otra forma de preguntar lo mismo. Vale,
46:28si yo pregunto cuántos días libres
46:30tengo, quizá los documentos con la
46:32política de vacaciones
46:34no me los devuelve, no los obtengo.
46:38Entonces,
46:40la búsqueda por palabra clave puede
46:43funcionar muy bien. De hecho, hay
46:44algoritmos en en Retrial de RACK, creo
46:47que era el BM25, si no recuerdo mal, que
46:50es una combinación de obtención mediante
46:54aparición de términos en diferentes
46:56documentos, que es históricamente lo que
46:57han hecho sistemas eh de búsqueda, como
47:01por ejemplo Elastic Search, e Lucene,
47:04decidme por el chat si alguno de
47:06vosotros conoce alguna de estas
47:08herramientas. Yo Lucen, por ejemplo, no
47:10lo veo desde la universidad, pero
47:12funcionaban con algo parecido a esto.
47:14Contaban cuántas palabras clave aparecen
47:17en cada documento, cuanto más aparecía,
47:19menos valor tenía porque menos filtraba,
47:21etc., etc, etc, etc.
47:23¿Vale?
47:25Entonces así podría funcionar un
47:27retribal. ¿Qué ocurre? que pierdes mucha
47:29información semántica en este punto.
47:33¿Qué otras cosas podría hacer yo para
47:35mejorar
47:37esta recuperación de datos? Pues en vez
47:39de utilizar palabras clave, puedo
47:42utilizar lo que se conoce como
47:44embeddings.
47:46¿Sí?
47:48¿Qué es un embedding? Y sé que estoy
47:50tirando muchos términos uno tras otro,
47:53eh, pero creo que para poder llegar a
47:56Rack cómodamente hace falta ir haciendo
47:58esto paso a paso. ¿Qué es un embeding?
48:03Un embedding es,
48:05hablando muy sencillamente,
48:08si yo tengo una frase, Harry se subió
48:14a la escoba y no sé por qué siempre
48:17acabo haciendo ejemplos con Harry
48:19Potter, pero bueno.
48:21E es agarrar esta frase y hacer
48:25una representación vectorial. Y aquí
48:27quiero hacer un apunte. No confundáis un
48:30embeding con la representación en tokens
48:34de la frase. Antes habíamos dicho que la
48:38representación de esta frase para hablar
48:39con un llm era con tokens, es decir,
48:42cada n palabras o cada x términos era un
48:45token. ¿Vale? El embeding, aunque se
48:47parece porque también son números, no es
48:50lo mismo.
48:53¿Vale? Elbeding es una representación
48:56numérica
48:58de la frase
49:00con dimensión fija. Eso depende del
49:02modelo que utilizas de embeding. Esta
49:03traducción entre frase y números la hace
49:07un modelo de inteligencia artificial,
49:11¿vale? Depende del modelo que tú uses,
49:15va a cambiar la representación.
49:20Hasta aquí se entiende.
49:22Hay un modelo de que traduce de frase
49:25a vector. Este vector puede tener n
49:28números, puede tener 1024 números, puede
49:31tener 2048, puede tener 8000 y pico. Eso
49:34depende de cada modelo. Simplemente es
49:35de saber que es dimensión fija.
49:39¿Y para qué sirve un embeding? Voy a
49:41hacer un ejemplo que creo que se
49:42entiende muy bien, que es haciendo un
49:46embeding en dos dimensiones,
49:49¿vale? En dos dimensiones se ve muy
49:51fácil porque tú al final lo que vas a
49:53hacer cuando traduces una frase, un
49:55texto a un embeding es colocarla en un
49:58espacio vectorial,
50:01¿vale?
50:03Por ejemplo, la frase Harry se subió a
50:05la escoba cuando la traducimos a un
50:07embeding de dos dimensiones, quizá acaba
50:11ocupando este espacio, pues se le asigna
50:14este número, esta esta y esta x, ¿vale?
50:17Dos números, un embeding de dos
50:19dimensiones. Esto simplemente para
50:21entenderlo. Los embedings tienen miles
50:23de dimensiones, pero para entenderlo va
50:25muy bien. Vale,
50:28lo coloco aquí. Harry se subió a la
50:30escoba.
50:32Otra frase podría ser una frase,
50:35pues yo que sé, Ron se subió a la escoba
50:38también es otra frase porque lo hace
50:40otra persona, pero significa lo mismo.
50:43También se subió a la escoba. Por lo
50:44tanto, esa frase caerá muy cerquita
50:48cuando yo la traduzca en embeding. Es
50:50decir, los modelos de embedding que
50:52calculan esto están entrenados para que
50:55frases que significan lo mismo, aunque
50:58aunque usen palabras distintas, queden
51:01en regiones muy cercanas de este espacio
51:04vectorial. Ahora bien, si hay otra frase
51:07que no tiene nada que ver, yo que sé, la
51:10torre se construyó con ladrillos,
51:13esto va a caer muy lejos.
51:17Hasta aquí se entiende,
51:20¿sí? No
51:23es una posición de similitud semántica.
51:25Exacto, exacto. Por lo tanto, cuando yo
51:28tengo esto lleno de puntitos, ponte, lo
51:31tengo así,
51:33lo tengo todo repartido en mi espacio
51:36vectorial de los embedings.
51:39Cuando yo haga una pregunta y diga,
51:41¿dónde se subió Harry y tenga que ir a
51:44recuperar los documentos, lo primero que
51:47voy a hacer es convertir mi pregunta
51:49también a un embedding con el mismo
51:52modelo.
51:54Hay que comparar manzanas con manzanas,
51:56hay que comparar peras con peras, ¿de
51:58acuerdo? Siempre tenemos que comparar
52:00cosas que son iguales porque no tiene
52:02sentido que yo tenga un modelo A y un
52:04modelo B. Cada uno me calcula los
52:05embedings de forma diferente, con
52:07dimensiones diferentes. La relación
52:08semantica no va a tener ningún sentido
52:10si yo lo hago con modelos diferentes.
52:12Tengo que utilizar el mismo modelo para
52:14compararlo. Okay.
52:16Yo agarro la pregunta, la convierto en
52:18embeding y me cae aquí.
52:22Por lo tanto, lo que me va a devolver
52:24serán los documentos que están cerca.
52:28¿Se entiende hasta aquí? Es decir, estoy
52:29haciendo una búsqueda semántica
52:32de todos los datos que yo tengo
52:34disponibles. Y por lo tanto, yo voy a
52:35devolver todas estas cruces,
52:38se las voy a enchufar en la ventana de
52:41contexto y por lo tanto la va a ser
52:43capaz de contestar con esa información.
52:46Esta sería la idea a alto nivel, la idea
52:50intuitiva de cómo funciona
52:53un embeding, ¿vale? Y luego también cómo
52:55funciona un rack. ¿Qué significa esto?
52:58Que yo cada vez que hago una pregunta
53:01estoy también llamando a una IA, a un
53:03modelo, a un modelo de de embeddings
53:06para generar e ese embeding. ¿Vale? Hay
53:12diferentes tipos de hacer todo esto. Por
53:16ejemplo, si la ventana es muy grande y
53:17yo tengo mucha información, yo puedo
53:19directamente meterle toda la toda la
53:22información en la ventana de contexto.
53:24Si no me va a caber, yo puedo hacer una
53:26indexación por embedings, que esto
53:27obviamente cada vez que yo creo un
53:29documento nuevo en donde quiera que yo
53:31lo quiera consultar, tengo que
53:33indexarlo, tengo que convertirlo en
53:34embeding y guardarlo en una base de
53:36datos para luego poder hacer esta query.
53:38¿Vale?
53:40Existen otras formas, como por ejemplo
53:42el wiki llm, ¿vale? No sé si os suena.
53:45¿A cuántos de vosotros de aquí os suena
53:46wiki ll?
53:48Seguro que a muchos. Vale, wiki
53:53LLM,
53:55porque Carpatí, ¿vale? Uno muy famoso
53:58con en el tema de la IA,
54:00e lo presentó como una novedad que en
54:03muchos casos puede funcionar mejor que
54:07un RAC, ¿vale?
54:10Pensar una cosa, cuando yo guardo los
54:12embeddings de documentos, guardo la
54:13información bruta del embedding, o sea,
54:16del documento. O sea, pillo el libro, lo
54:18paso en bedding y lo guardo.
54:21Lo que propuso
54:23Carpaty
54:25es que yo tengo mi fuente de documentos
54:29y en vez de guardar esto en un embeding,
54:32lo que voy a hacer es utilizar también
54:34un LLM para generarme resúmenes,
54:40resúmenes,
54:42y guardármelo en una especie de wiki que
54:45luego puedo meter en la ventana de
54:49contexto.
54:53Vale, porque lo tengo ya ordenadito, lo
54:55tengo todo eh explicado, resumido y se
54:58lo puedo colocar.
55:01Puede funcionar y de hecho en muchos
55:03casos puede funcionar muy bien, pero
55:05tiene algunos problemas,
55:07¿vale? Tiene algunos problemas. Por
55:08ejemplo, estás añadiendo otra fase
55:11probabilística que es la degeneración de
55:13los resúmenes. ¿Qué pasa si la LM resume
55:15mal?
55:17Acabaré teniendo la wiki mal hecha.
55:20Vale, otros problemas. ¿Qué pasa si
55:23estos
55:24datos, lo que sería mi corpus de
55:26información cambia cada 2 por tr?
55:30Es decir, que cada minuto se me inyectan
55:34nuevos documentos que quiero poder
55:36tratar, que estaré todo el rato
55:38reindexando, estaré todo el rato
55:40llamando a esta LLM para que me genere
55:43los resúmenes y me genera la wiki de
55:45nuevo. La wiki
55:48al final tiene un coste de generación
55:50mucho más caro que simplemente indexarlo
55:52en un embeding. indexar un embeding,
55:54como es un modelo de embeding que es
55:55mucho más pequeño, mucho más barato, es
55:57mucho más sencillo.
55:59¿Vale?
56:01Entonces, hasta aquí se entienden las
56:02diferentes formas de hacer eh el
56:05retrieval y para qué puede ser útil y
56:08cómo Wiki Llm también
56:11es una forma de rack, aunque mucha gente
56:13y mucha literatura en muchos artículos y
56:15en redes sociales te dicen o wiki llm o
56:18rack y en verdad no deja de ser también
56:21una generación aumentada por retrieval,
56:23lo que cambia es de dónde haces el
56:25retribal, ¿vale?
56:28Entonces,
56:30a nivel de código, que sé que muchos de
56:31vosotros estáis e como con ganas de
56:35empezar a ver cómo puede funcionar todo
56:39esto. Ah, ah, ah.
56:42Déjame un segundito que estoy buscando
56:44aquí el código.
56:48Vale,
56:51pa pa.
56:52Ahí está.
56:54Vale,
56:56este es un código muy sencillito,
56:58simplemente para entender cómo
57:00funcionaría un embeding a nivel
57:03puramente programación
57:07para que lo podáis. Esto lo tendréis
57:09también luego en si os registráis en el
57:11enlace, ¿vale? Recordar que mañana con
57:12los apuntes recibiréis el repo
57:15tranquilos, lo podéis revisar con calma
57:17mañana y lo podréis ir viendo, ¿vale?
57:19Sin ningún tipo de problema.
57:22Lo primero que se hace con un embedding,
57:24para que veáis aquí es
57:27esto, ¿vale? Se agarran los documentos y
57:31se trocean en partes. Se trocean en lo
57:35que se conoce comúnmente como chunks.
57:37¿Por qué se hace esto? Porque si yo
57:39tengo un libro de 1000 recetas
57:42y yo hago un embeding de todo el libro
57:45de golpe,
57:48la información semántica del libro se va
57:50a diluir porque si yo en ese libro tengo
57:53recetas de carne, tengo recetas de
57:54pescado y tengo recetas de huevos fritos
57:57y hago un embedding junto, digamos que
58:00va a pillar el punto medio entre carne,
58:02pescado y huevo. Por lo que si yo le
58:04pregunto específicamente por un huevo,
58:07es posible que no me lo encuentre. Por
58:08eso se hacen los chuns. Y el cómo haces
58:11los chuns también tiene su arte, ¿vale?
58:14Mi recomendación es que se separen los
58:16chunks por temáticas. Pues, por ejemplo,
58:18en un libro separarías o harías chuns
58:20por cada capítulo,
58:22¿vale? No tiene por qué ser un libro.
58:24Digo un libro para que se entienda, pero
58:25puede ser documentación, pueden ser
58:27mensajes de chat, pueden ser emails,
58:29puede ser lo que queráis, ¿vale?
58:32Entonces se hacen los chuns, estos
58:34trozos,
58:35por ejemplo, en el libro de recetas por
58:37cada receta. Entonces de un libro salen
58:39un montón de trozos. Y luego lo que se
58:43hace
58:45e para calcular el embeding es hacer el
58:48embeding de cada chunk, que esta función
58:51la debería tener tikio.
58:57En indexar.
59:00Vale. Eh, a ver que ahora la ha perdido
59:04aquí.
59:06Vale, fijaros, esto es una llamada al
59:09SDK de Open AI, que está llamando al
59:12modelo de embeddings.
59:15Y dado un modelo, que esto ya tú escoges
59:19el modelo de embedings que quieres
59:20utilizar, le pasas cada uno de los
59:25chuns.
59:27Sí.
59:28Y eso te va a acabar dando pues por cada
59:30chunk el valor numérico que luego tú vas
59:33a guardar a la base de datos. Fijaros
59:36que aquí abajo,
59:39¿vale?, lo estoy haciendo con PG vector,
59:41que es una forma de guardar estos carros
59:43de numeritos que os he comentado en la
59:46base de datos. Fijaros que simplemente
59:49creo una tabla de chunguns. Ahora os la
59:51enseño en Deviver, no os preocupéis, y
59:54los inserto, ¿vale? Por lo tanto, yo
59:56agarro cada trozo del documento, lo
59:59convierto con el SDK de OpenI aquí
1:00:02arriba
1:00:04en su representación de embeding y me lo
1:00:06guardo en la base de datos. Vale, quiero
1:00:10recordar que puedo probar esto si hago
1:00:11npm e run, creo que era index
1:00:16y no. A ver,
1:00:19un segundito.
1:00:21Vale, Typecript. Ahí está.
1:00:25Si yo hago
1:00:27npm
1:00:30run index
1:00:33indexar creo que era. Indexar, sí.
1:00:38Un segundito que os pongo la claveje,
1:00:40que me ha faltado y no quiero que me
1:00:43consumáis todos los tokens.
1:00:46Open
1:00:52aquí.
1:00:55Vale,
1:00:58y ahora indexar y ahora debería
1:01:00funcionar. Vale, como veis, cada vez que
1:01:04yo le doy a indexar está ejecutando el
1:01:06código de la izquierda,
1:01:08¿vale? Está leyendo los documentos, ha
1:01:11generado en este caso 450 fragmentos.
1:01:14Fijaros, tengo una serie de markdowns en
1:01:17esta carpeta para hacer la demo. Y
1:01:19fijaros que por cada trozo aquí
1:01:22tendríamos el texto, ¿vale? Espero que
1:01:23se lea bien. Por cada trozo de texto, en
1:01:26este caso, avisarme cuándo vuelva el
1:01:27stock, activad, pa pa. Fijaros que me
1:01:29genera el vector, ¿vale? En este caso
1:01:32son 1024 números.
1:01:36Sí, fijaros que me va generando todos
1:01:38los embedings de cada uno de estos
1:01:42chuns. ¿Cómo se ve esto en la base de
1:01:45datos? Fijaros que aquí tengo los
1:01:46inserts, ¿vale? Los inserts en la tabla
1:01:49de la base de datos. Pues si yo me voy a
1:01:51la base de datos, vais a ver algo como
1:01:53esto. Insisto, no os preocupéis, este
1:01:56código lo vais a tener en los apuntes,
1:01:58lo podréis ejecutar vosotros. utiliza
1:02:00Docker para levantar una base de datos y
1:02:02para poder vosotros mismos revisar todo
1:02:04esto, ¿vale? Sin ningún tipo de
1:02:06problema. Fijaros lo que me guarda aquí.
1:02:09Fijaros todos los carracos de números,
1:02:11¿vale? Aquí tengo el origen, es decir,
1:02:14de qué fichero markdown viene,
1:02:18el contenido del chunk, que en este caso
1:02:20es toda la todo el trozo. Fijaros que
1:02:23cada fila tiene su chunk.
1:02:26Y luego tengo el meding con todos sus
1:02:29números. Fijaros, eh, son 1024 números
1:02:33cada cosa de estas.
1:02:36¿Vale?
1:02:38¿Qué más es importante? también
1:02:39guardarse el modelo. Recordar que hemos
1:02:41dicho que tengo que comparar con el
1:02:44mismo modelo de embeddings. Por lo
1:02:46tanto, si yo no me guardo el modelo,
1:02:49luego cuando haga la comparación con la
1:02:50query contra la base de datos, no podré
1:02:53filtrar por el modelo que generó ese
1:02:55embeding. Por lo tanto, yo me lo puedo
1:02:56guardar directamente. me lo guardo y
1:03:00cuando yo haga el embeding de la
1:03:02pregunta, en función del modelo que he
1:03:05utilizado para hacer el embeding de la
1:03:06pregunta, cuando haga la query filtraré
1:03:08por el modelo correspondiente.
1:03:12¿Vale?
1:03:14Dicen por el chat, eh, "¿Usarías o si
1:03:17solamente tengo un modelo de embeding,
1:03:19¿tiene sentido guardarlo?" A mi gusto,
1:03:20sí, porque nunca sabes cuándo vas a
1:03:23tener que cambiar el modelo de embeding
1:03:24por otro, ¿vale? Por lo tanto, yo
1:03:26siempre guardaría eh el modelo de
1:03:29embeding. En este caso, para los que
1:03:31preguntáis, el modelo de embeding que
1:03:32estoy utilizando es un modelo de
1:03:33embeding de AWS que se llama Titan Titan
1:03:36en bet, si no recuerdo mal.
1:03:40Entonces, fijaros que yo aquí tengo todo
1:03:41guardado
1:03:43con ya tengo el corpus dentro de mi base
1:03:47de datos, en este caso de Postgress,
1:03:49¿vale?
1:03:53Que veo que lo preguntáis por el chat.
1:03:54Para utilizar esto se necesita PG
1:03:57Vector, que es una es un plugin, podría
1:04:01llamarse un plugin de Postgre SQL. Hay
1:04:05un montón de herramientas para guardar
1:04:07en bedings, ¿vale? Yo utilizo PGTor
1:04:10porque yo utilizo Postgress, pero hay un
1:04:12montón, incluso hay herramientas online,
1:04:14eh, SAS y cosas así, bases de datos
1:04:17externas en las que puedes guardar
1:04:19embedings, podéis utilizar la
1:04:21herramienta que queráis. Para mí es más
1:04:22importante que entendáis el concepto de
1:04:24qué es un embeding y para qué sirve y
1:04:25cómo funciona. ¿Vale? Insisto, yo
1:04:28utilizo PGTOR porque es el yo utilizo
1:04:31Postgress y al final pues lo
1:04:34monto así. Okay. De hecho, en mi Docker
1:04:37Compose,
1:04:40que no tengo aquí ahora mismo, pero en
1:04:43Docker Compose hay una imagen, os la
1:04:46busco y os la enseño, ¿vale?
1:04:48PG Vector Docker
1:04:51pa.
1:04:53Esta
1:04:55esta imagen de Docker ya es un Postgress
1:04:57con PG vector instalado, ¿vale? En caso
1:05:00de que queráis e practicar y probarlo
1:05:02por vuestra cuenta, podéis utilizar esta
1:05:04imagen de Docker que ya tiene todo lo
1:05:06necesario instalado. ¿Okay?
1:05:10Pues esto sería la generación
1:05:13de los embedings y el guardado en los
1:05:16bas en la base de datos.
1:05:18¿Qué más viene después?
1:05:21¿Cómo yo lo uso? ¿Cómo yo hago queries
1:05:24contra esto? No, cómo yo hago el
1:05:27retrival.
1:05:29Eh, eh, eh, a ver si encuentro el punto
1:05:32donde se hacía el retribal. Darme un
1:05:34segundito.
1:05:37Pi pi pi pi pi pi pi pi.
1:05:40Aquí hace el embeding.
1:05:43Aquí está haciendo la la query. Vale,
1:05:47fijaros. Básicamente es una queria, una
1:05:49base de datos normal y corriente. Me
1:05:51llega el vector que estoy buscando, que
1:05:53sería utilizando el SDK de embedings la
1:05:55representación en embeding de la
1:05:57pregunta y hago una query
1:06:01diciendo, mira, sobre hazme un select de
1:06:05los chunks y
1:06:09aquí se hace la similitud, ¿vale? lo que
1:06:14hemos dicho de que pilla los que están
1:06:15cerca de ese vector y directa y
1:06:18directamente me va a devolver filas
1:06:22de esta tabla en función de qué tan
1:06:24cerca está mi pregunta
1:06:27de cada uno de estos vectores.
1:06:30¿Hasta aquí se entiende o estoy yendo
1:06:31muy rápido? Vale, porque quiero, sobre
1:06:32todo, que se entienda el e el concepto.
1:06:37Obviamente os lo quiero enseñar práctico
1:06:39para que veáis cómo funciona, cómo se
1:06:40ve, pero quiero asegurarme de que todos
1:06:43me podéis seguir, ¿vale?
1:06:46Entonces, a partir de aquí, una vez yo
1:06:50he recogido, pues yo que sé, por
1:06:51ejemplo, estas
1:06:54seis filas
1:06:56son las que yo voy a devolver, claro, yo
1:07:00en la fila tengo guardado el origen del
1:07:02documento,
1:07:03por lo tanto, aquí tengo varias
1:07:04opciones. bien
1:07:08agarro solamente el chunk importante y
1:07:11se lo mando a la base de a la LLM para
1:07:15que ya lo tenga en cuenta en la ventana
1:07:16del contexto. O bien podría también
1:07:20agarrar todo el documento porque lo
1:07:21tengo disponible. Es decir, yo puedo
1:07:24jugar con esto en función de cómo yo he
1:07:27organizado la base de datas, la base de
1:07:30datos, ¿vale? Yo puedo jugar con esto
1:07:32para meterle todo el libro o meterle
1:07:34solamente el capítulo importante. Todo
1:07:36depende de cómo yo he guardado lo que se
1:07:38conoce o comúnmente se llamará la
1:07:40metadata del embeding, que no deja de
1:07:42ser otra cosa que las otras columnas que
1:07:45hay en la base de datos.
1:07:48¿Vale? La magia la hace el modelo de
1:07:49embedings. Exacto. El modelo de
1:07:50embedings es el que traduce a números.
1:07:54¿Sí?
1:07:56¿Qué cosas más importantes hay que
1:07:58hacer? Ahora ya tendríamos nuestra em
1:08:03nuestro producto, ya tendríamos nuestro
1:08:05rack implementado, ya tendríamos ahí eh
1:08:08lo que nosotros queremos. Vamos a hacer
1:08:11un ejemplo, un segundo que estoy
1:08:13preparando el terminal porque os quiero
1:08:15enseñar
1:08:17una pequeña cosa que me he montado.
1:08:19Vale, dme un segundito.
1:08:22A ver, ti
1:08:26por aquí.
1:08:33Vale,
1:08:35estoy llegando, ¿eh?
1:08:40Otra vez las kiss.
1:08:48Vale, podéis acabar teniendo algo como
1:08:51esto.
1:08:53Esto es parte del código que vais a
1:08:54recibir en los apuntes, ¿vale? Así que
1:08:56no os preocupéis porque lo podréis
1:08:59ejecutar vosotros.
1:09:02Simplemente me he hecho una pequeña demo
1:09:04de cómo se vería un RAC con los
1:09:06documentos que os he enseñado ahora en
1:09:07la base de datos, que son documentos de
1:09:09una empresa a la que he llamado tienda
1:09:11PPE, ¿vale? Que tiene una serie de
1:09:13documentos, políticas, productos. Y aquí
1:09:16esto sería un chatbot en el que yo puedo
1:09:18decirle, "Hola,
1:09:20eem, ¿qué descuentos existen?"
1:09:24Vale, cuando yo le doy a enter
1:09:28ahora mismo, puf,
1:09:30fijaos, aquí a la derecha me sale los
1:09:34fragmentos
1:09:36que el rack ha recuperado.
1:09:39Por ejemplo, cuando ha hecho esta query,
1:09:42es decir, lo que ha hecho ha sido
1:09:43agarrar lo que yo le he escrito, lo ha
1:09:45pasado a embeding, ha hecho la query a
1:09:47la base de datos y la base de datos le
1:09:49ha devuelto esto,
1:09:51¿vale? le ha devuelto un documento que
1:09:54viene de políticas/empresamd
1:09:56en el chan descuentos por volumen.
1:09:58Insisto, esto es lo que se ve aquí.
1:10:01Simplemente es el resultado tras hacer
1:10:03la query contra el embeding a nivel de
1:10:04distancia. Vale, me ha devuelto este
1:10:07segundo documento
1:10:09y me ha devuelto este tercer documento.
1:10:12Fijaos que hay un numerito aquí a la
1:10:13derecha que es 039, 038 y 029.
1:10:19Este número es qué tan cerca está el
1:10:22embeding de la pregunta. Es decir, lo
1:10:25más cercano, lo que parece ser que tiene
1:10:27más relación es este primer chunk. Y
1:10:30fijaros lo que dice, eh, a partir de 10
1:10:32unidades del mismo producto aplicamos un
1:10:335% de descuento. Es decir, tiene mucho
1:10:35sentido. Por lo tanto, la IA, la LLM, y
1:10:39esto que es un modelo pequeñito, eh,
1:10:41para que tengáis contexto, este modelo
1:10:43es, eh, Haiku, es un modelo enano a
1:10:47nivel de, o sea, es un LM igual, pero no
1:10:49es un Opus ni es nada superclicado,
1:10:52¿vale? Es un modelo relativamente
1:10:54barato, relativamente asequible a nivel
1:10:56de coste. Fijaros que ha costado 0,00152
1:10:59€. Vale,
1:11:02entonces la respuesta
1:11:05ya ha tenido en cuenta estos chuns que
1:11:08yo le he pasado. Incluso le he pedido en
1:11:10el system prompt cuando yo he
1:11:12configurado esto, que coloque de dónde
1:11:15ha sacado la información. ¿Vale? Esto es
1:11:16lo que se conoce como poner las citas o
1:11:19la fuente de verdad de e la respuesta de
1:11:22la
1:11:24Vale, esto lo podréis probar, esto lo
1:11:27tendréis en el código, lo hace todo en
1:11:28local. Lo único que tendréis que poner
1:11:30si queréis eh probarlo son las keys de
1:11:33vuestro proveedor de inteligencia
1:11:34artificial que podáis usar para que haga
1:11:37sobre todo la parte de embeddings y la
1:11:39parte de generación de respuesta, ¿vale?
1:11:42Pero podría luego preguntarle otras
1:11:44cosas, tipo, yo que sé, e, tenéis bicis
1:11:48a la venta
1:11:51y ahora va a buscar otra vez a la base
1:11:52de datos. Pum, y me ha encontrado. Okay,
1:11:57mira, productos, bicicleta estática, no
1:11:58sé qué, MD. Y ha encontrado pues que se
1:12:02parece. Fijaros que aquí arriba también
1:12:04sale el embeding de la pregunta, ¿vale?
1:12:08Y también me da la respuesta.
1:12:11Sí.
1:12:13Por lo tanto, aquí lo podréis ir
1:12:14probando y lo podréis eh podréis ir
1:12:17jugando con ello todo lo que queráis.
1:12:20¿Qué otras cosas interesantes hay en los
1:12:23racks? Obviamente
1:12:26cuando yo hago cosas como esta, como un
1:12:28producto, si esto puede ser un chatbot,
1:12:29¿vale? Yo voy a querer medir, yo voy a
1:12:33querer saber qué también funciona mi
1:12:35RAC,
1:12:36porque okay, eh, ¿cómo sé yo que esto me
1:12:39está contestando las cosas?
1:12:41que tocan, ¿no? Como yo, o sea, en
1:12:43código yo tengo una función y yo puedo
1:12:45hacer un test, yo puedo asegurarme de
1:12:49que algo funciona correctamente. Pero,
1:12:51¿cómo lo hago con cómo lo hago con Lls
1:12:54precisamente
1:12:55probabilísticas? Pues hay una serie de
1:12:58números que son muy o han sido muy
1:13:02utilizados en lo que es la inteligencia
1:13:04artificial
1:13:06para medir todo esto.
1:13:09Vale, hay dos métricas muy importantes
1:13:12en todos los referrentes en la pero en
1:13:13temas de RAC yo creo que se van a
1:13:15entender muy bien. Dos números, dos
1:13:18métricas que son la precisión
1:13:22y el recall.
1:13:25¡Epa! No sé ni escribir ya. Recall.
1:13:29E, ¿cuántos de vosotros conocéis estas
1:13:32dos métricas? Decdmelo por el chat. ¿O
1:13:34cuántos de vosotros no la conocéis
1:13:37o nunca habéis oído hablar ni de
1:13:39precisión ni de recall?
1:13:43Vale, veo un no por ahí. Me suenan
1:13:45ninguna.
1:13:48No, vale, no los conozco. Okay, son dos
1:13:52métricas muy sencillas de entender,
1:13:54¿vale? La precisión
1:13:56es
1:13:58de los datos que he traído,
1:14:02de los chuns, ¿vale? o de los chuns o
1:14:05documentos, como lo queráis hablar, de
1:14:07los datos que he traído,
1:14:10que he traído,
1:14:14cuántos de ellos realmente sirven para
1:14:16lo que he preguntado,
1:14:19pero de verdad,
1:14:21¿vale?
1:14:23Es decir, si yo he preguntado por cómo
1:14:24se hace un huevo frito y me has traído
1:14:27un libro de huevos fritos y dos libros
1:14:29de aguacates,
1:14:31solamente uno de los tres sirve.
1:14:34Solamente uno de los tres es relevante.
1:14:39¿Vale?
1:14:41El recall sería lo inverso,
1:14:46¿vale? lo inverso, es decir, de lo que
1:14:48sirve
1:14:52en mi base de datos completa de lo que
1:14:55realmente habla de bobos fritos, cuánto
1:14:57he traído.
1:15:03daros cuenta que lo más importante en
1:15:05los rack, y esto es lo que os he querido
1:15:07comentar antes, es la parte de
1:15:09retrieval, la parte de obtención de la
1:15:11información, el cómo yo obtengo la
1:15:13información, que también la obtengo va a
1:15:14determinar la calidad de la salida,
1:15:19¿vale? Por lo tanto, yo tengo que medir
1:15:22de alguna manera precisión y recall
1:15:26de mi sistema de embeddings,
1:15:30¿vale? Pero para hacerlo tengo que
1:15:33manualmente construirme los test porque
1:15:36de alguna forma yo tengo que agarrar mi
1:15:39eh base de datos
1:15:42y hacer una serie de juegos de prueba de
1:15:46tests que es, yo que sé, si yo pregunto,
1:15:49¿tenéis biciis? Yo manualmente tengo que
1:15:51marcar en qué documentos se habla de si
1:15:53hay o no bicis. ¿Vale? Esto, este juego
1:15:56de pruebas es lo que comúnmente veréis
1:16:01como golden set,
1:16:04que sería aquí tendríamos un ejemplo,
1:16:06¿vale? Sé que se ve muy mal porque está
1:16:07en Jason así pelado, pero esto sería un
1:16:10ejemplo de Golden Set.
1:16:14¿Qué es un golden set? Básicamente, un
1:16:16Golden Set es
1:16:18un registro completo de preguntas. Por
1:16:22ejemplo, aquí, ¿cuánto cuesta enviar un
1:16:23pedido a Canarias?
1:16:26Y lo que el RAC me debería devolver,
1:16:30aquí tengo expected sources, me debería
1:16:31devolver este documento
1:16:34de esta pregunta, ¿hasta qué hora puedo
1:16:36pedir para recibirlo hoy mismo en
1:16:37Madrid?
1:16:39Este es el documento que debería
1:16:40devolver el RAC. Entonces, yo tengo en
1:16:41juego de pruebas una
1:16:44serie de test de verdad que me dicen
1:16:46cómo debería reaccionar y en función
1:16:50de yo ejecutar estas pruebas y creo que
1:16:53lo tenía eh con el evaluate, un
1:16:57segundito,
1:16:58yo puedo medir ti evaluar, sí, yo puedo
1:17:02medir que también funciona mi rack. Yo
1:17:04puedo hacer mpm run evaluar
1:17:09y claro, como yo sé qué me tiene que
1:17:12devolver por cada pregunta, yo puedo
1:17:14ejecutar el rack y calcular si realmente
1:17:18me devuelve lo que quiero que me
1:17:19devuelva. En este caso, veis que va
1:17:20haciendo cada una de las preguntas y me
1:17:23va diciendo por un lado el recall,
1:17:27¿vale? recordemos el eh el concepto de
1:17:30recall, es decir, de lo que realmente
1:17:31era
1:17:33eh de lo que servía, qué he devuelto y
1:17:35la precisión, ¿vale?, de los datos que
1:17:39yo he traído, cuáles sirven realmente. Y
1:17:41fijaros que son dos porcentajes, son dos
1:17:43números. Entonces, yo lo puedo ir
1:17:44calculando y en función de esto me dice
1:17:48mis métricas de porcentaje de recall y
1:17:52porcentaje de precisión,
1:17:56¿vale? Simplemente es agarrar mi golden
1:17:59set, mi juego de pruebas,
1:18:01ir lanzando contra el rack y ver de lo
1:18:04que me da compararlo con lo que me
1:18:06debería dar. Y hago la fórmula de recall
1:18:08y precisión que las tendréis en los
1:18:09apuntes, no os preocupéis. Em,
1:18:13para realizar este cálculo, ¿qué me
1:18:15permite esto? Por ejemplo, cambiar el
1:18:17modelo de embeding
1:18:20y ver si afecta a mis resultados. Vale,
1:18:23podría
1:18:25yo que sé
1:18:27hacer los chunks de otra forma, cortando
1:18:31en otro sitio, en vez de por capítulos,
1:18:34por párrafo, yo que sé, y ver cómo me
1:18:37afecta al recol y a la precisión. Es
1:18:39decir, son cosas que me permiten a mí ir
1:18:41probando para ir evaluando la calidad de
1:18:44mi RAC.
1:18:47Sí, hasta aquí se entiende. En RAC
1:18:52es más importante
1:18:55el recall, es decir, es más importante
1:18:59em,
1:19:00¿cómo decirlo?
1:19:03Lo voy a decir al revés. Si yo no
1:19:05obtengo ningún documento que me dé la
1:19:08información que busco,
1:19:11la respuesta va a ser mala siempre. Por
1:19:13lo tanto, muchas veces es preferible
1:19:16pecar de devolver más documentos que
1:19:19quizá no tengan tanta relación si me
1:19:22aseguro que así me devuelva los
1:19:23documentos que tienen la información.
1:19:26¿Se entiende eso?
1:19:30Eh, para que, o sea, para que podamos
1:19:31evaluar exactamente cómo funciona,
1:19:34¿vale? El Golden Set es como un texto
1:19:36unitario.
1:19:39Podrías verlo así. Podrías verlo así, es
1:19:42decir, lo podrías tener automatizado en
1:19:44que cada vez que tú haces un cambio en
1:19:45el modelo de embedings o en cómo
1:19:47funciona tu sistema de RAC o en cómo se
1:19:49calculan los chunks, se ejecutara el
1:19:51Golden Set, lo podrías tener
1:19:52ejecutándose en C,
1:19:55¿vale?
1:19:56lo podrías tener en Culado y que si, yo
1:19:59que sé, de golpe el recol y la precisión
1:20:01te caen un montón y no estás devolviendo
1:20:04la información necesaria, eh, de golpe
1:20:06la la C te pare y no te deje hacer ese
1:20:09cambio.
1:20:11Vale,
1:20:12esa era mi pregunta. Si cambian los
1:20:13datos, la respuesta también, ¿no? Sí,
1:20:15sí, por eso el Golden Set lo tienes que
1:20:17mantener vivo, lo tienes que ir
1:20:19ajustando, lo tienes que ir cambiando en
1:20:21función de la información que tengas
1:20:23disponible,
1:20:25¿vale?
1:20:27Okay. Eh, eh, eh, a ver que no me deje
1:20:30nada.
1:20:32Diría que a nivel de rack no me dejo
1:20:35nada. Dejarme ver si a nivel de código
1:20:37hay algo más que os pueda enseñar que
1:20:39pueda ser interesante.
1:20:41Pi pi pi pim.
1:20:44La parte de métricas.
1:20:47En principio no. En principio no. Sí que
1:20:50os diría también que existe a nivel de
1:20:52el cálculo de similitud entre los
1:20:54vectores, existen diferentes formas de
1:20:57calcular la distancia. ¿Vale? Ya tengo
1:20:58un vídeo en YouTube en el que hablo
1:21:00altamente del tema de la distancia.
1:21:01Simplemente que sepáis que podría ser
1:21:03otra variable que se podría cambiar para
1:21:05ver si mejora o no e la métrica del
1:21:08RACK.
1:21:10¿Vale? ¿Cómo logro llegar a mi Golden
1:21:12Set? Esto es trabajo que tú tienes que
1:21:14ir haciendo, ¿vale? Es decir, este
1:21:16trabajo que una vez tú has generado los
1:21:18chuns y has generado eh la la
1:21:20documentación que tú quieres obtener, lo
1:21:23tienes que trabajar. Puedes apoyarte en
1:21:25un modelo más grande, puedes apoyarte en
1:21:27modelos más inteligentes, tipo Sonet,
1:21:29Opus, cosas así, para que te construyan
1:21:32Golden sets con sentido, porque luego el
1:21:35modelo de edings eh ver si realmente te
1:21:38da lo que necesitas o no, ¿vale? Pero
1:21:41gran parte tendrás seguramente que
1:21:43revisarla para evitar alucinaciones
1:21:44precisamente en el Golden Set. Veo por
1:21:48el chat una cosa que me habéis comentado
1:21:49que no he dicho, que es el tema del RAC
1:21:52agéntico,
1:21:54¿vale? El tema del RAC agéntico. El tema
1:21:56del RAC agéntico es muy interesante
1:21:58porque mucha gente incluso no lo
1:21:59considera RACK, pero yo considero que
1:22:01sí. Vale,
1:22:03lo digo r rapidito. Todo esto que hemos
1:22:06visto ahora, lo que hemos visto hoy es
1:22:09rack en el que yo le doy a la el
1:22:13contexto previo a que me genere la
1:22:16respuesta, ¿vale? Es decir, yo le doy le
1:22:18hago la pregunta con el contexto de todo
1:22:21lo que me ha devuelto el retribal y la
1:22:24ll me genera la respuesta en base a eso.
1:22:27¿Qué pasa? En muchas ocasiones la Llm
1:22:32existe el concepto de herramientas o
1:22:34tools que seguro que si habéis trabajado
1:22:36con IA lo sabéis que va estar trabajando
1:22:38con Cloud Code y de golpe empieza a leer
1:22:40ficheros, ¿vale? Ahí está haciendo
1:22:44retrieval en el propio bucle de la
1:22:47gente, es decir, el agente trabajando de
1:22:49golpe dice, "Uy, necesito información
1:22:51que no tengo." Esto lo decide la propia
1:22:53LLM, ¿vale? Y hace una llamada a una
1:22:55tool, en este caso, para obtener
1:22:57información.
1:22:58Esto es un rack agéntico. Eso es como
1:23:00funciona cuando Cloud Code lee código
1:23:03para informarse y llama a GREP o llama a
1:23:06comandos de Linux para leer la
1:23:07información y los ficheros. hace eso.
1:23:10Los que utilizáis el ecosistema de
1:23:12Gentle, que tenéis engram, engraméntico
1:23:15de decisiones, de memoria, de lo que
1:23:17quieras, pero es un rack agéntico.
1:23:19Cuando ejecuta de golpe dice, "Tengo que
1:23:21consultar esto." Y hace una llamada, una
1:23:23tool que hace una petición a engramos,
1:23:28etc., etc, etc. Vale, creo, no sé si lo
1:23:30habrá cambiado, pero creo que empezó
1:23:31utilizando VM25, que es lo de keywords
1:23:34que hemos hablado al inicio. Vale, eso
1:23:36es un RACK agéntico también. Es decir,
1:23:39la única diferencia entre un RAC normal
1:23:40clásico y un RAC agéntico es que el
1:23:43retrival, ¿dónde sucede? Sucede en el
1:23:46inicio o sucede mientras la LLM está
1:23:50pensando, está ejecutando el bucle.
1:23:53Vale,
1:23:55se entiende todo esto.
1:23:59Sí. Veo gente, pero es un orquestador,
1:24:01¿no? Nada, nada que ver con un
1:24:02orquestador. Nada que ver.
1:24:07consume tokens en cada test del golden.
1:24:09Correcto, porque cuando tú tengas, al
1:24:10menos consume dinero
1:24:13el hecho de hacer el embeding, que los
1:24:14modelos de embeding acostumbran a ser
1:24:15muchísimo más baratos, ¿eh? A costó van
1:24:18a ser muchísimos más baratos que los
1:24:21tokens de generación de texto que te
1:24:22generan algo. Los debeding e en
1:24:26principio son muy pocos céntimos, es
1:24:28decir, a no ser que tengas un golden set
1:24:29gigante
1:24:31consumiría poco. Ten en cuenta también
1:24:33una cosa,
1:24:35RAC, la parte, insisto, la parte de
1:24:38retribual es más importante porque
1:24:39cuanto menos
1:24:41retrival hagas y más preciso lo hagas y
1:24:44más devuelvas solamente la información
1:24:46necesaria,
1:24:48apunta esto, menos input tokens vas a
1:24:51gastar porque menos vas a enviar a la
1:24:54LLM,
1:24:56¿okay? Es decir, si tú mandas todo tu
1:24:58corpus de documentos a la IA, estás
1:25:00pagando por toda esa información que le
1:25:02estás enviando, aunque quizás solamente
1:25:04te interesaría una pequeña parte. Por lo
1:25:06tanto, ajustar la parte de obtención de
1:25:09la información es muy importante si
1:25:10quieres que tu RAC consuma poco dinero,
1:25:13¿vale?
1:25:16Cualquier modelo de embeding funciona
1:25:18para crear un RAC que pueda consultar
1:25:19cualquier LM. Sí, insisto, el retrival
1:25:24no tiene por qué suceder con el mismo
1:25:26modelo que haces la generación,
1:25:29¿vale? Lo único importante aquí es que
1:25:31el modelo con el que tú haces el
1:25:32retribal sea el mismo con el que has
1:25:35indexado
1:25:37la documentación. Es lo único porque
1:25:39necesitas que los vectores sean
1:25:40comparables, pero lo que es la obtención
1:25:42de la información en sí la haces con una
1:25:45querer a la base de datos, es
1:25:46determinista,
1:25:48¿vale? Tú haces la query a la BD con los
1:25:51dos vectores, bueno, el vector que tú
1:25:53tienes de pregunta y eso te va a buscar
1:25:55por distancias. Eso no tiene nada que
1:25:57ver con con IAS ni con Llms ni nada, eso
1:25:59es determinista.
1:26:02¿Vale?
1:26:04¿Se puede utilizar Jeff para mejorar la
1:26:05precisión del RAC? Podría ser una una
1:26:07forma de hacerlo. Podría ser una forma
1:26:09de hacerlo. Al final luego la parte del
1:26:10retrieval ya la gestionas como quieras.
1:26:12Hay un concepto en rack que es el
1:26:13rerranking, que es si yo me una vez
1:26:17hecho el retrival y tengo la información
1:26:18ya en memoria, ¿vale? Ya he hecho la la
1:26:23obtención, utilizar otro modelo, por
1:26:25ejemplo, Jeff, hay modelos también
1:26:28específicos de rerranking, ¿okay?
1:26:30Podrías utilizar incluso un LLM normal
1:26:34en los que con un modelo más grande
1:26:38acaban de filtrar qué documentos son
1:26:40valiosos o no.
1:26:43Eso es el rerranking básicamente y lo
1:26:44podría hacer, por ejemplo, con Jeff.
1:26:46Vale,
1:26:48gente, pues en principio ya os digo, eh,
1:26:50no os preocupéis porque vais a recibir
1:26:52en e
1:26:54en el mail mañana cuando dejéis la el
1:26:57correo electrónico aquí abajo en el
1:27:00enlace de la descripción. vais a recibir
1:27:02el código, vais a recibir los apuntes,
1:27:04vais a recibir el examen para sacar el
1:27:09certificado de asistencia, que insisto,
1:27:10van a ser entre 20 y 25 preguntas de lo
1:27:15que habéis visto durante esta clase,
1:27:18¿vale?
1:27:19Y eh si os parece bien, pues ahora lo
1:27:22que podemos pasar es a explicaros y a
1:27:25presentaros
1:27:28cómo podéis acabar profundizando
1:27:30muchísimo más mediante práctica,
1:27:32mediante laboratorios y mediante otras
1:27:33técnicas de uso e del LLMs en la
1:27:38academia, ¿vale? Porque como os he dicho
1:27:40al principio de la clase, os quería
1:27:43presentar la primera edición de lo que
1:27:46yo he llamado el programa de
1:27:47especialización de de AI Engineering.
1:27:51Es un programa que he tardado mucho en
1:27:52hacer, a pesar de que muchísima gente de
1:27:56los otros cursos de la academia, incluso
1:27:59gente de YouTube me ha estado pidiendo
1:28:01que hiciera contenido de inteligencia
1:28:03artificial, pero yo no quería hacer
1:28:05contenido de inteligencia artificial del
1:28:07de lo que ya hay 1 cosas en internet,
1:28:09como podría ser utilizar herramientas de
1:28:12para desarrollar. Es por esto que el
1:28:15programa de especialización NI
1:28:16Engineering pues está centrado en todo
1:28:19lo que está alrededor de construir
1:28:20productos robustos con IA, un poquito
1:28:22similar a lo que hemos visto durante
1:28:24este taller de RAC, pero obviamente
1:28:26llevado a la profundidad y haciendo
1:28:28prácticas en laboratorio. Entonces, este
1:28:31programa es eh 100% online. Las clases
1:28:36empiezan el 10 de noviembre, es decir,
1:28:37en una semana, pero igualmente lo puedes
1:28:42hacer a tu ritmo, ¿vale? Es decir, las
1:28:43clases se van liberando semana a semana.
1:28:46Puedes seguirlo al día para más o menos
1:28:49ir siguiendo lo mismo que los demás
1:28:51alumnos, pero si necesitas más tiempo
1:28:53para hacerlo, si trabajas, si tienes
1:28:54familia y quieres ir más lento, no pasa
1:28:57nada, ¿vale? lo puedes hacer 100% a tu
1:28:59ritmo durante los próximos, no sé,
1:29:02calculo que entre 20 y 30 minutos
1:29:04intentaréis muy rápido. Voy a explicar
1:29:06cómo se mantiene día el programa, para
1:29:08quién creo que puede ser interesante
1:29:10este tipo de de curso, el temario, que
1:29:13creo que es lo más importante, y quién
1:29:15lo hace. ¿Vale?
1:29:17Eh, entonces, ¿para quién creo que puede
1:29:20ser interesante este programa? Ya ya lo
1:29:21he dicho un poquito al principio de de
1:29:23la clase. Yo creo que lo que es la
1:29:25ingeniería de IA no deja de ser una
1:29:28especialización del desarrollo
1:29:30tradicional de toda la vida. Lo único
1:29:31que ahora con herramientas que quizá
1:29:33controlamos menos, porque como hemos
1:29:34visto son probabilísticas, ¿vale? Eh,
1:29:37por lo tanto está pensado, obviamente si
1:29:38eres desarrollador backen y quieres
1:29:40aprender a cómo incorporar correctamente
1:29:42técnicas de inteligencia artificial y
1:29:44herramientas de IA en tus productos o en
1:29:46tu empresa, pues va perfecto, ¿vale?
1:29:50Si va para backs, también va para full
1:29:52stack. Es decir, no quiero hacer tampoco
1:29:54mucha eh mucha distinción, pero pues si
1:29:56eres un perfil que ha tocado frontend un
1:29:59poquito de backen y quieres ver cómo
1:30:00puedes incorporar a nivel de producto
1:30:02cosas de ella, pues también puede ser
1:30:03interesante. También para perfiles de
1:30:06bobs de infraestructura. ¿Por qué digo
1:30:08este? Y este quizás es el punto más
1:30:09raro, ¿vale? Déjame explicarlo.
1:30:12Em,
1:30:14cuando tú tienes sistemas de
1:30:16inteligencia artificial en producción,
1:30:17puedes o bien irte a modelos,
1:30:21lo que se conoce sota, ¿vale?, de
1:30:23proveedores tipo OpenI, Antropic,
1:30:25etcétera, etcétera. Es decir, utilizar
1:30:27una API externa. O puedes intentar tener
1:30:30modelos en tu propia infraestructura,
1:30:33modelos de pesos abiertos, modelos open
1:30:34source, etcétera, etcétera, etcétera.
1:30:37¿Vale? Por lo tanto, en este curso y
1:30:38luego vemos el temario, también veremos
1:30:40un poquito temas de despliegue de
1:30:42modelos en infraestructura interna, por
1:30:45lo que puede ser interesante en el caso
1:30:48eh de que estés en
1:30:51parte de infraestructura o devops, ¿no?
1:30:54Y luego también, obviamente, pues para
1:30:55Teclit o para empresas que quieran
1:30:58meterse en el mundo de del desarrollo
1:31:00con inteligencia artificial, quieran
1:31:01tener en sus productos, quieran ver cómo
1:31:03pueden aprovechar esto, quieren meter,
1:31:06yo que sé, sistemas de recomendación que
1:31:08pillen la información de la empresa,
1:31:09bla, bla, bla, cualquier cosa, pues
1:31:11puede ser también interesante si quieren
1:31:13incorporar cosas de IA en su en su
1:31:17proyecto, ¿vale? Como he dicho, el
1:31:20acceso al curso es vitalicio, por lo
1:31:22tanto, si accedes al curso en esta
1:31:23edición, como las cosas de guía cambian
1:31:26tanto, vas a tener para siempre todas
1:31:28las actualizaciones que vayamos
1:31:29haciendo. Es decir, si entras en la
1:31:31primera y dentro de 6 meses tenemos que
1:31:34cambiar, pues, yo que sé, las clases de
1:31:37RAC porque han sacado un montón de
1:31:39información extra y han sacado nuevas
1:31:41técnicas para hacer RAC, nuevas
1:31:43herramientas, también vas a recibir
1:31:46e la la actualización a medida que
1:31:49vayamos grabando también nuevas clases.
1:31:51¿Vale? ¿Cómo enseñamos? Pues a ver, un
1:31:55poquito si ya me seguís en mi canal de
1:31:58YouTube ya sabéis más o menos cómo cómo
1:32:00explico, ¿no? Pero si es la primera vez
1:32:02que me veis, yo soy una persona en la
1:32:04que siempre intento explicar primero el
1:32:06concepto, ¿vale? Al final, y esto lo
1:32:09sabéis todos,
1:32:12aprender la herramienta tiene valor si
1:32:14entiendes lo que estás haciendo, porque
1:32:15la herramienta te la pueden cambiar, te
1:32:17pueden cambiar el botón de sitio. La
1:32:18herramienta puede de golpe perecer y
1:32:21aparecer otra nueva. Quizá aparecen un
1:32:24cosas eh diferentes que si tú solamente
1:32:27has aprendido a utilizar una herramienta
1:32:29concreta, luego te va a ser muy difícil
1:32:31adaptarte. Es por esto que yo siempre
1:32:33intento y me esfuerzo para que la
1:32:36herramienta solamente sea el vehículo
1:32:38para aprender el concepto que hay
1:32:40debajo, ¿vale? Es por esto que siempre
1:32:44intento explicar primero el concepto.
1:32:46También le doy mucha importancia a la
1:32:48práctica, por lo que este programa de
1:32:50especialización tiene laboratorios
1:32:52prácticos. Con laboratorios prácticos,
1:32:53me refiero que vas a agarrar tus
1:32:54manitas, vas a agarrar el ordenador y
1:32:57vas a hacer cosas y me las vas a
1:33:00entregar y yo las voy a revisar y a
1:33:02corregir y a darte feedback semana a
1:33:05semana, ¿vale? No es un curso en el que
1:33:07solamente veas vídeos. Habrá, llegará,
1:33:09verás unos vídeos, llegará un momento en
1:33:11el que te diré, "Ahora haz esto y te
1:33:14pediré entregables, te pediré que me
1:33:16subas cosas al campus, ¿vale? Entonces
1:33:19me lo vas a entregar.
1:33:22Y también es un curso en el que
1:33:26no nos vamos a atar a un proveedor de IA
1:33:28en concreto, ¿vale? Como es de
1:33:30ingeniería de IA, uno de los puntos
1:33:31fuertes de la ingeniería de IA es poder
1:33:34hacer productos que le luego le puedes
1:33:35cambiar el modelo de detrás fácilmente.
1:33:38Es decir, si ahora de golpe me cambian
1:33:39el precio de Opus y me lo hacen el doble
1:33:42de caro, quizá me interesa utilizar
1:33:44Deepsic o quizá me interesa de golpe
1:33:47pasarme a un modelo de codex o a un
1:33:49modelo de Openi o lo que sea. Por lo
1:33:52tanto, vamos a aprender a cómo
1:33:53abstraernos del proveedor de IA y a cómo
1:33:57trabajar de una forma que la LM sea una
1:34:00pieza más que nosotros podemos ir
1:34:03cambiando, ¿vale? Trabajaremos con
1:34:05conceptos, no aprenderemos de golpe cómo
1:34:08funciona en Tropic, lo usaremos, pero
1:34:10nos vamos a abstraer de todo eso.
1:34:14Pongamos números, ¿vale? un poquito de
1:34:16explicación en detalle de cómo funciona
1:34:17el curso. Son 16 semanas,
1:34:20insisto, 16 semanas lectivas, como está
1:34:23Navidad y fin de año, en Navidad y en
1:34:25fin de año, ya aviso, hay un parón,
1:34:26¿vale? Tampoco quiero joderos las
1:34:28fiestas y obligaros a estudiar, eh,
1:34:31mientras estáis celebrando con vuestra
1:34:33familia tanto Navidad como fin de año,
1:34:34porque son 16 semanas lectivas, excepto
1:34:3725 de la semana del 25 y la semana del
1:34:401, ¿vale? Hay más de 60 horas de
1:34:43contenido en vídeo.
1:34:45Cada semana, casi cada semana, hay un
1:34:48laboratorio. Veis que pone 15 prácticas.
1:34:51¿Por qué? Porque la última semana es un
1:34:53proyecto final. ¿Okay? El proyecto final
1:34:56está pensado para que puedas hacer un
1:34:57proyecto libre, que puedas compartir en
1:35:00tu portfolio ese producto que llevas
1:35:03queriendo hacer, que nunca has tenido
1:35:04tiempo o excusa para hacer. Lo podrás
1:35:06implementar para experimentar y acabar
1:35:08de unificar todos los conceptos que se
1:35:09explican, ¿vale?
1:35:11Habrá también una sesión e en vivo cada
1:35:15semana para que puedas preguntar tus
1:35:18dudas, para que puedas decirme, "Mira,
1:35:19Martí, he estado haciendo este
1:35:21laboratorio y me he bloqueado. E, mira,
1:35:24Martí, no entiendo esta clase, no
1:35:26entiendo cómo esto funciona. En esas
1:35:29sesiones en directo se soluciona todo,
1:35:31¿vale? Y como ya he dicho, pues las
1:35:34clases empiezan el 10 de noviembre.
1:35:36Vamos a lo que nos interesa, al plan de
1:35:38estudios.
1:35:39el plan de estudios, que yo creo que es
1:35:41lo que quizá le genera más dudas a la
1:35:44gente, ¿no? Primero
1:35:47explicaremos los fundamentos de la
1:35:48ingeniería de IA, ¿vale? Un poquito lo
1:35:51que hemos dicho al principio de de esta
1:35:52clase, de este taller, pero expandido,
1:35:55¿vale? expandido. Explico cómo se
1:35:58entrena una inteligencia artificial,
1:36:00explico conceptos como
1:36:03se hace que una IA sea conversacional,
1:36:05¿no? De cómo ya agarro un modelo de IA y
1:36:06hago que sea chat GPT, todo el concepto
1:36:09de post training cómo hago para que la
1:36:13IA tenga respuca respuestas que al
1:36:15usuario le gustan por qué la IA siempre
1:36:17tiende a darte la razón. Todas estas
1:36:19cosas e las hablaremos en el tema de
1:36:21fundamentos de AI engineering. Luego
1:36:27la siguiente semana, en la semana dos,
1:36:28fijaros que ya intentamos ir bastante
1:36:30rápido para saltarnos todo lo que sería
1:36:32la paja inicial, ¿no? Todo el tema de
1:36:34proveedores y cómo programar una API que
1:36:38hable con LLMs de una manera sencilla,
1:36:42¿vale? Y cómo abstraer el proveedor. Lo
1:36:43primero que haremos en a nivel práctico
1:36:45es abstraernos del proveedor lo máximo
1:36:47posible.
1:36:48Vale, luego
1:36:51promping estructurado, esquemas y
1:36:52validación. No vamos a hacer unas clases
1:36:56de proms estilo eh, primero mándale el
1:36:59rol, luego explícale el contexto de la
1:37:02pregunta, ¿no? Vamos a hablar de promps
1:37:04en el código, ¿vale? De cómo hacer un
1:37:07sistem prompt correcto, cómo construir
1:37:09el prompt de forma dinámica, cómo
1:37:11validar los formatos que nos devuelve la
1:37:13LM. Si yo le pido que me devuelva un
1:37:14Jason, ¿cómo lo hago? ¿Cómo valido que
1:37:16eso realmente estenga el formato que
1:37:17quiero? etc. Etc, etc. Etc. ¿Vale? Es
1:37:21decir, vamos a montar toda una
1:37:22estructura alrededor de nuestra API del
1:37:25LMS para que tenga cuerpo.
1:37:28Aquí empezamos ya con el tema de Racks,
1:37:30¿vale? Toda una todo un módulo de temas
1:37:32de embeddings, de cómo hacer chanks con
1:37:35sentido, que esto es una cosa que he
1:37:36visto por el chat que habéis preguntado
1:37:38muchísimo. E como leches decido o hago
1:37:43estos trozos. diferentes bases de datos
1:37:45vectoriales, PG vector, cómo todo se
1:37:48configura correctamente y a nivel de
1:37:50laboratorio vas a hacer tu propio RAC,
1:37:52vas a hacer un poquito lo que hemos
1:37:53hecho en este taller, pero con mucha más
1:37:56profundidad, ¿vale? Luego, siguiente
1:37:58módulo, ya empezaremos con
1:38:01implementación de un RACK correctamente,
1:38:03cómo implementar el tema de las citas,
1:38:06cómo construir correctamente un Golden
1:38:09Set. Vale, fijaros que esto tema de RAC
1:38:12lo hemos visto, pero lo vamos a expandir
1:38:14muchísimo más. Y luego también RAC
1:38:17avanzado. Con avanzado me refiero a que
1:38:19veremos cosas que van un poco más allá,
1:38:22concretamente temas de reformulación,
1:38:25¿vale? Con RAC tú puedes hacer que si yo
1:38:26hago una pregunta, la propia reformule
1:38:29esta pregunta para que el retribal me dé
1:38:31mejores respuestas. Eso también se puede
1:38:33hacer. Y como lo mínimos, búsqueda
1:38:35híbrida y rerranking, no tengo por qué
1:38:37solamente utilizar un algoritmo de
1:38:38búsqueda semántica. Puedo utilizar
1:38:40varios y puntuarlos y luego puedo hacer
1:38:42el rerranking, lo que os he comentado
1:38:43antes. Y luego incluso, ¿có puedo desde
1:38:46Rack generar el SQL directamente?
1:38:49¿Vale? Obviamente también con sus
1:38:51prácticas
1:38:53y obviamente e este quizás se aleja un
1:38:57poco más de de temas de IA, pero creo
1:38:59que es muy importante. ¿Por qué?
1:39:01Porque hasta ahora la mayoría de
1:39:03ejemplos que veáis de RAC en la mayoría
1:39:06de situaciones y mayoría de contenido es
1:39:09con los datos muy curados. Es decir, ya
1:39:11os dan un conjunto de Mackdowns, ya os
1:39:13dan un conjunto de PDFs, pero la
1:39:15realidad es que en una empresa, en un
1:39:17proyecto empresarial, la información
1:39:19puede estar distribuida entre documentos
1:39:20del Drive, en Teams, en Slack, en
1:39:24mensajes de email, en un montón de
1:39:26información, en PDFs
1:39:28y de alguna manera tienes que ser capaz
1:39:30de recoger esta información y
1:39:32procesarla, ¿vale? Esto se solapa un
1:39:35poquito con temas de pipeline de datos,
1:39:36de data science, pero creo que es
1:39:38necesario si queremos poder implementar
1:39:40Racks correctamente,
1:39:43¿vale? Al final nosotros tenemos que
1:39:44poder consumir esa información, detectar
1:39:46duplicados, detectar cuándo los
1:39:48documentos entre ellos se contradicen,
1:39:50mienten, etcétera, etcétera, etcétera.
1:39:52Por lo tanto, vi necesario meter este
1:39:54módulo de pipelines de datos para
1:39:57procesado posterior con inteligencia
1:39:58artificial, porque para mí es algo
1:39:59básico, porque sin esto el RAC no va a
1:40:03funcionar. Ya os aviso, si el dato no es
1:40:05bueno, el RAC no va a funcionar, ¿vale?
1:40:07Y también importante
1:40:10el tema de datos personales, ¿okay? Es
1:40:13muy importante no mandar información
1:40:15personal que pueda identificar a
1:40:17usuarios a modelos de IA externos, por
1:40:20ejemplo, mandar nombres, mandar correos,
1:40:23mandar
1:40:25datos, o sea, al final tenemos que tener
1:40:26en cuenta también leyes como la RGPD,
1:40:29etc., etc., etc., ¿vale? Entonces, aquí
1:40:31hablaremos de todo esto. Luego, temas de
1:40:34multimodalidad. Hasta ahora en RAC hemos
1:40:36visto modelos de texto, hemos visto que
1:40:39la LM genera texto, pero todos hemos
1:40:41utilizado chat GPT para generar imágenes
1:40:42y para generar e, yo que sé, hayas que
1:40:45generan sonido, hayas que permiten tú
1:40:48hablar y que se traduzca a texto, el
1:40:50texto speech. Entonces, aquí veremos un
1:40:52poquito un conjunto de as multimodales,
1:40:55¿vale? y cómo las podemos utilizar y qué
1:40:56herramientas existen para incorporarlas
1:40:58también en nuestro producto, ¿vale?
1:41:01Hacer que, yo que sé, yo pueda darle un
1:41:03micrófono y hablar con con mi producto y
1:41:06que de golpe haga cosas, ¿vale?
1:41:09Agentes, que veo que por el chat no
1:41:11paraba alguien de decir agentes,
1:41:12agentes, agentes. Hay dos módulos de
1:41:14agentes, ¿vale? Agentes uno y agentes
1:41:16dos.
1:41:17e construcción de agentes en producción.
1:41:21Es decir, ¿cuándo tiene sentido que yo
1:41:23coloque un agente dentro de mi sistema
1:41:25de inteligencia artificial para que haga
1:41:28cosas? ¿Cómo se definen las
1:41:30herramientas? Para que el agente pueda
1:41:32actuar sobre la mi base de datos, sobre
1:41:36los usuarios, sobre cualquier cosa. Y
1:41:38aquí es donde entraremos en MCP. No
1:41:41entraremos en usar y qué son los MCP,
1:41:44pero el objetivo de este módulo es que
1:41:47tú en tu proyecto puedas implementar un
1:41:50MCP para que tus usuarios y tus clientes
1:41:53puedan incorporarlo en su IA de de
1:41:57elección y puedan interactuar con tu
1:41:59producto mediante un MCP. Ahí entra
1:42:02autenticación, ahí entra permisos, etc.,
1:42:06etc., etc. Okay. Y luego en agentes dos
1:42:10aprenderemos a tener agentes a escala.
1:42:13No es lo mismo tener simplemente unos
1:42:15agentes pequeñitos que hacen una cosa o
1:42:17dos que tener un montón de agentes que
1:42:19están haciendo cosas en paralelo. A
1:42:21veces necesitaremos que un agente no
1:42:23haga algo hasta que otro termina, que se
1:42:24manden información entre ellos, que se
1:42:26comuniquen. Pues aquí es donde
1:42:28entraremos con temas como flujos de
1:42:30agentes, LAN, el human in the loop,
1:42:33¿vale? la aprobación humana, cómo
1:42:35gestionamos todo esto dentro del
1:42:36producto. Tengo que mandarle un mensaje
1:42:38por correo electrónico a alguien cuando
1:42:39un agente haga algo, etc., etc., etc.
1:42:42Vale,
1:42:45claro, ahora tenemos agentes que hacen
1:42:46cosas, que nos tocan el producto, que
1:42:48leen nuestra base de datos, entramos en
1:42:50territorio peligroso en cuanto a
1:42:53ciberseguridad,
1:42:54¿vale? Y sobre todo también en tema
1:42:56legal, cómo nos prevenimos a promption,
1:42:59cómo evitamos que nos hacken, que nos
1:43:02roben el system prompt, que de golpe la
1:43:06IA se vuelva loca y hacke hacking face,
1:43:08como ya ha pasado en otras ocasiones,
1:43:10¿no? Cómo le damos un entorno a nuestro
1:43:12agente de ella para que esté en un
1:43:14entorno seguro y sobre todo a nivel
1:43:16legal, RGPD y ley de IA, ¿vale? ¿Qué
1:43:20cosas tengo que tener en cuenta si
1:43:21incorporo inteligencia artificial?
1:43:23¿Vale?
1:43:25Porque esto es muy importante. Ahora
1:43:27todo el mundo está haciendo cosas con
1:43:28IA, pero si les pasara algo, cuidadito.
1:43:34Luego, temas de evaluación continua. Un
1:43:36poquito para que os hagáis una idea a
1:43:38nivel intuitivo, es como lo que nosotros
1:43:41hemos evaluado del RAC ahora, cómo yo
1:43:43evalúo que la inteligencia artificial
1:43:45que tengo desplegada funciona y hace lo
1:43:47que debe y no empeora. ¿Vale? Pues
1:43:50tenemos el tema de gestión de las
1:43:51alucinaciones, cómo controlar la
1:43:53latencia de la IA, qué métricas son
1:43:56importantes a la hora de tener sistemas
1:43:57de IA, porque no son las mismas métricas
1:43:59o de hecho hay más métricas que cuando
1:44:01hago una llamada a un back normal. ¿Cómo
1:44:03calculo y optimizo el coste? ¿Vale?
1:44:06¿Cómo
1:44:08hago digamos juicio de lo que la IA me
1:44:10está dando con otras LLMs, etcétera,
1:44:13etcétera. Esto lo veremos en el módulo
1:44:1412.
1:44:15Luego lo que yo os he avanzado antes,
1:44:18self hosting de modelos open source, en
1:44:20caso de que quiera y pueda tener
1:44:22sistemas en la nube con IA local
1:44:27y luego también observabilidad, ¿vale?
1:44:29Trazas de los agentes, cómo analizo que
1:44:31un agente se ha comunicado con otro, qué
1:44:33acciones han hecho cada uno de estos
1:44:34agentes, cómo controlo todo esto, si
1:44:36tengo monitorizado mi software, ¿por qué
1:44:38no tendría monitorizado mis agentes?
1:44:42¿Vale?
1:44:44Y finalmente, optimización de coste de
1:44:46inferencia, como aprovechamos la caché
1:44:49de los diferentes eh agentes y
1:44:52proveedores de IA. De hecho,
1:44:53recientemente Antropic ha sacado un
1:44:55cambio en cómo funciona su API para
1:44:57optimizar el tema de de THCH, etcétera,
1:45:00etcétera. Cómo cuantizamos también
1:45:03agentes de y modelos de inteligencia
1:45:05artificial. En definitiva, ¿cómo
1:45:07optimizamos el uso de la para que nos
1:45:09cueste menos dinero y sea más eficiente?
1:45:12Y finalmente, que también algunos eh lo
1:45:15preguntabais por ahí, el tema del fine
1:45:17tuning, ¿vale? ¿Qué significa hacer fine
1:45:20tuning? ¿Cómo se hace? Y básicamente e
1:45:24una pequeña práctica de cómo hacer un
1:45:26fine tuning a un modelito pequeño eh
1:45:28para adaptarlo a las necesidades que tú
1:45:31podrías tener
1:45:34para tus para tus necesidades, para tu
1:45:36uso, para tu proyecto. ¿Sí? Y
1:45:38finalmente, pues el proyecto final, como
1:45:40he dicho antes, sería un proyecto libre.
1:45:42Eh, o bien si queréis os podría dar un
1:45:44enunciado para que lo podríais hacer
1:45:47vosotros por vuestra cuenta, pero
1:45:49básicamente sería un proyecto que podéis
1:45:50compartir en GitHub, podéis compartir a
1:45:52nivel de portfolio, podéis compartir en
1:45:53entrevistas y eh lo podéis utilizar allá
1:45:57donde necesitéis, ¿vale?
1:46:01Entonces, obviamente durante el curso
1:46:03hemos visto que hay un montón de
1:46:04temario, ¿vale? Hay un montón de cosas y
1:46:07lo más normal es que e te surjan dudas a
1:46:11medida que vas haciendo laboratorios, a
1:46:13medida que vas haciendo lecciones, que
1:46:15tengas dudas y quieras preguntarle. Hay
1:46:17muchas formas de preguntar en la
1:46:19academia, ¿vale? Tenem, o sea, tendrías
1:46:23la el acceso al directo semanal para
1:46:25preguntar tus dudas. Podrías también
1:46:29preguntar por la comunidad vitalicia que
1:46:31está incluida de Discord, en la que
1:46:34están otros alumnos y están yo y los
1:46:36profes, ¿vale? por lo que podrías
1:46:39preguntar por allí, e o podrías
1:46:41preguntar por el sistema de preguntas de
1:46:44la academia, que directamente al lado de
1:46:46cada dirección te sale un de esto, un un
1:46:49campo de texto para poner tu pregunta y
1:46:51a mí me llega el campo de texto de la
1:46:53academia para preguntar es sí o sí con
1:46:56respuesta humana, ¿vale? Es decir,
1:46:59respondo yo a las preguntas. Se ve
1:47:01diferenciado. Abajo hay un chatbot que
1:47:03mediante rack lee las lecciones, las
1:47:06indexa tcc. Por si queréis hacer
1:47:07preguntas rápidas, necesitáis la
1:47:08respuesta al momento, tenéis un chatbot
1:47:10de a poder preguntar ahí. Pero si
1:47:12preguntáis por el sistema de dudas me
1:47:14llegará a mí y yo contestaré
1:47:16personalmente.
1:47:19¿Vale?
1:47:21Como habéis dicho, 15 prácticas, el
1:47:23feedback en las entregas y los
1:47:24entregables y en el proyecto final
1:47:27y el precio sería de 55 €. Ahora bien,
1:47:32si pagas en pago único, serían 499,
1:47:36¿vale? Es decir, se puede pagar en tres
1:47:38cuotas de 185, queda 555, o en pago
1:47:41único e a 499 € ¿Qué incluye esta
1:47:48matrícula? incluye todo el temario, los
1:47:50directos, el acceso a la comunidad
1:47:52vitalicia de Discord, todo lo que os he
1:47:54comentado hasta ahora. Además tiene 14
1:47:57días de garantía, es decir, desde que
1:47:59empieza el programa, si durante los 14
1:48:02días primeros dices, "Mira, Martí, esto
1:48:03no es para mí e no quiero continuar sin
1:48:06ningún tipo de pregunta". Devolvemos el
1:48:08100% del dinero. También es bonificable
1:48:11por FundaE, que aquí os diría, estoy
1:48:13tapando el QR, perdón, ahí está el tema
1:48:17de FundaE. Os diría que vayáis rápido,
1:48:20¿vale? Fundáis que es para las empresas
1:48:22que están en España se pueden bonificar
1:48:25el precio de la formación, por lo que si
1:48:26estás trabajando en una empresa española
1:48:28es muy posible que tu empresa te pueda
1:48:30pagar el curso de una manera muy fácil.
1:48:34directamente en la página web del curso,
1:48:37que es donde te de QR, hay un
1:48:40formulario, o sea, un botón para enviar
1:48:41un mail a [email protected].
1:48:44Si quieres que la empresa te lo pague
1:48:46mediante Fundae, es importante que nos
1:48:48escribas rápido, ¿vale? Nosotros
1:48:50acostumbramos a gestionarlo muy rápido,
1:48:52pero la empresa puede tardar un tiempo
1:48:54en enviar documentación y en cosas de
1:48:56estas. Por lo que si crees que puede ser
1:48:59interesante y que tu empresa te lo puede
1:49:00llegar a pagar, yo siempre insisto que
1:49:02prefiero que la empresa te lo pague y
1:49:04todo mucho más fácil, ¿vale?
1:49:08Pero eso no es todo, hay más cosas en el
1:49:10curso, ¿vale? He dicho solamente una
1:49:12parte, me he dejado algunas cositas para
1:49:15el final. Hay masterclasses, hay clases
1:49:19e específicas de tecnologías
1:49:20específicas, por ejemplo, hay una clase
1:49:23de Bamel, ¿vale? dada por Antonio
1:49:26Sarosi, que trabaja en el mismo Boundary
1:49:28ML como ingeniero de compiladores, en
1:49:31las que pues vais a aprender a utilizar
1:49:32Bamel para crear sistemas e de
1:49:36inteligencia artificial, ¿vale? Bamel es
1:49:37un lenguaje específico para trabajar con
1:49:40agentes de IA, así que ahí también lo
1:49:42tenéis. Luego tendréis por Fiorela
1:49:45Piris, que trabaja como arquitecta de
1:49:46soluciones en AWS, cómo implementar
1:49:49sistemas de IA con Bedrock, ¿vale?
1:49:52También lo tendríais incluido en el
1:49:53curso como clase magistral.
1:49:55y dos más que están viniendo, ¿vale?
1:49:58Pero me falta acabar de cerrar e el
1:50:01temario, sea la duración particular, una
1:50:04masterclass de Gen Kit, que es un
1:50:06framework open source para construir
1:50:08también flujos de inteligencia
1:50:09artificial, etcétera, y clase magistral
1:50:12de impacto legal con la inteligencia
1:50:14artificial, es decir, qué cosas tengo
1:50:15que tener en cuenta a nivel legal y de
1:50:19compliance dentro de mi software para
1:50:21poder utilizar ella de una manera
1:50:24correcta. ¿Vale?
1:50:27Además, y esto creo que es lo más
1:50:28interesante, eh,
1:50:31obviamente no quiero que tengáis que
1:50:33pagar proveedores de inteligencia
1:50:34artificial mientras hacéis el curso. Por
1:50:35lo tanto, si estáis matriculados y si os
1:50:37matriculáis en este curso, tenéis
1:50:39incluida inferencia, tenéis modelos de
1:50:42IA incluidos en el precio para que
1:50:44podáis realizar todas las prácticas y
1:50:46todos los laboratorios.
1:50:49¿Vale? Nosotros os damos un token de IA
1:50:52compatible con la mayoría de SDC
1:50:55actuales de uso de inteligencia
1:50:57artificial y lo podéis utilizar. Tenéis
1:50:59un una cuota semanal que la podéis usar
1:51:02para hacer los laboratorios, que yo creo
1:51:03que os tendría que dar de sobra para
1:51:05poder hacer todos los laps semana a
1:51:07semana sin tener vosotros que pagar
1:51:09ninguna suscripción a cloud ni ninguna
1:51:11suscripción en e Open ni ninguna cosa,
1:51:16¿de acuerdo? Entonces ahí lo tendríais
1:51:18incluido también en la durante la
1:51:21duración del curso.
1:51:23Profesorado, pues como ya os podéis
1:51:25imaginar, yo doy muchas de las clases.
1:51:29Tampoco quiero liarme porque al
1:51:30principio del del taller ya os he
1:51:32explicado un poquito lo que eh quién soy
1:51:34y lo que hago, pero hay otros profesores
1:51:37que también dan otras partes. Tenemos a
1:51:39Leer, que lleva más de 12 años de
1:51:41experiencia trabajando como software
1:51:42engineer y que tiene un producto propio,
1:51:45que utiliza altamente RAC, rer ranking y
1:51:47todo esto porque tiene un sistema,
1:51:50digamos, que le da a empresas un SAS
1:51:53para construir chatbots adecuados a
1:51:55todas sus necesidades. Entonces, él nos
1:51:57va a dar muchas partes del tema de de
1:51:59Raky de gestión. Luego tenemos a Juan
1:52:02Barbat, que también lleva más de 25 años
1:52:05y ahora está super metido en todo el
1:52:06tema de la inteligencia artificial.
1:52:08Quizá os suena si utilizáis el
1:52:10ecosistema de Gentle, porque él es
1:52:11maintainer oficial de todo el tema de de
1:52:14Engram, Gentle Shell y todo esto.
1:52:17Luego tenemos también a Jason Jiménez,
1:52:20que trabaja en Plexus Tech como
1:52:22arquitecto de datos. Ha estado haciendo
1:52:24un montón de cosas con inteligencia
1:52:25artificial y pipelines de IA. Ha estado
1:52:27trabajando en el BBVA, montando también
1:52:29todo el tema de retribal de información,
1:52:32por lo que también es un crack. E así
1:52:34que a nivel de procesamiento de datos,
1:52:36pues qué mejor que lo expliquen
1:52:39profesionales que se dedican al día a
1:52:41día en todo esto, ¿no? También tenemos a
1:52:45Alejandro López, quizá le conocéis como
1:52:47de Velater, también trabaja como
1:52:49ingeniero de inteligencia artificial
1:52:52en Colerty, concretamente también está
1:52:53haciendo keynotes y ponencias, así que
1:52:56también tenéis gente que aparte de mí
1:52:59son cracks en lo que hacen y que os
1:53:01pueden dar un montón de información, un
1:53:03montón de valor y que os pueden ayudar
1:53:04muchísimo en el caso de que queráis
1:53:06aprender más sobre ingeniería de IA.
1:53:09Como digo, si queréis acceder al
1:53:11programa de especialización, tenéis aquí
1:53:14el QR para ir a la página web. Insisto,
1:53:17si queréis ir con FundaE
1:53:20que nos aviséis con mucha antelación,
1:53:23¿vale? Así que si podéis enviarnos hoy
1:53:24el correo o mañana e sería lo mejor,
1:53:28¿vale? Y nada, a nivel de resumen lo
1:53:32dejo por aquí. Me pongo aquí al otro
1:53:34lado. Hacemos un repaso. Clases empiezan
1:53:37el 10 de noviembre. Más de de 60 horas
1:53:39de vídeo, acceso vitalicio, una sesión
1:53:41en directo cada semana, 15 prácticas y
1:53:44proyecto final con la inferencia
1:53:46incluida, comunidad de Discord privada,
1:53:49certificado de finalización, obviamente
1:53:50en el caso de que completéis el proyecto
1:53:52final, 14 días de garantía y las
1:53:55masterclasses.
1:53:58Y nada, pues esto es así que
1:54:02no sé si tenéis alguna pregunta, tenéis
1:54:03alguna duda con respecto al curso. Ahora
1:54:05si queréis os voy leyendo y voy
1:54:09contestando.
1:54:10¿Vale? Dice, "¿Tendrán tool calling y
1:54:12orquestaciones?" Sí, toda la parte de
1:54:15agentes tendrá herramientas tool
1:54:17calling, orquestación de agentes y MCPs.
1:54:20Sé que sueles enseñar con TypeScript,
1:54:22pero para todo lo que mencionas se usa
1:54:23mucho Python. ¿Recomiendas afianzar
1:54:24Python otro lenguaje antes de la
1:54:26formación? Eh, en principio la
1:54:28formación, la los lenguajes vehiculares
1:54:30que vamos a utilizar van a ser
1:54:32Typescript y Python, ¿vale?
1:54:35Obviamente, como es un curso de IA, sé
1:54:37que la mayoría de alumnos van a utilizar
1:54:39la IA para programar como tal a nivel de
1:54:41picar el código. Por lo tanto, si usas
1:54:45Typescript o Python o más o menos
1:54:46controlas de ambos, yo no te yo no voy a
1:54:48evaluar las prácticas en función de em
1:54:52qué tan buen Python has escrito para
1:54:54que, o sea, si eso tiene sentido, eh,
1:54:56sino a nivel conceptual, cómo has
1:54:57aplicado lo que has aprendido durante
1:54:59las clases. Básicamente,
1:55:02tiempo de dedicación semanal. Yo calculo
1:55:04que entre contando vídeo directo y
1:55:08laboratorios entre 4 y 6 horas a la
1:55:11semana te podría ocupar, pero insisto,
1:55:13puedes hacerlo a tu ritmo, ¿vale? No es
1:55:15obligatorio que vayas al día, excepto si
1:55:18estás con FundaEe, que eso es una cosa,
1:55:20una limitación que tiene, porque para
1:55:21poder bonificar la empresa la formación
1:55:24sí que necesitas seguir un ritmo un
1:55:25poquito más adecuado, ¿vale?
1:55:29Acceso vitalicio. Correcto.
1:55:31Eh, Sara dice, "Si no nos apuntamos a
1:55:33esta edición del 10 de noviembre, ¿habrá
1:55:35otra edición o nos podemos apuntar más
1:55:37tarde?" Es decir, lo que son los e para
1:55:39apuntarse a la edición del 10, ahí está
1:55:41el 10. Luego la siguiente edición si se
1:55:44hace, depende también un poquito del
1:55:45feedback de los alumnos, de pues qué tan
1:55:47qué tanto guste la formación y todo
1:55:49esto. Ya sería el año que viene en 2027.
1:55:55Ah. Ah. Ah.
1:55:58Me parece que este curso no tiene no
1:56:00tiene pérdida. Comparado con otras
1:56:01empresas el precio es irresistible. La
1:56:03verdad es que sí, no porque lo diga yo,
1:56:06e analizando precios de alternativas
1:56:11está muy bien. O sea, sinceramente, la
1:56:13verdad es que está muy bien.
1:56:16Para el examen de mañana, ¿cuál es el
1:56:17link? Porque solo aparece el de la clase
1:56:18del 10 de noviembre.
1:56:20Si estás apuntado en el enlace de la
1:56:22descripción de este vídeo, mañana te va
1:56:25a llegar un mail con el examen para que
1:56:26lo puedas hacer. ¿Vale?
1:56:30Da seis cotas para LAATM. Solamente
1:56:32damos tres. Solamente damos tres.
1:56:35Pruébalo a entrar porque quizá a veces
1:56:36en PayPal, depende de dónde seas, quizá
1:56:39te deja financiar, pero sinceramente os
1:56:42cobran un montón de intereses.
1:56:45La verdad yo he intentado dar muchas
1:56:47facilidades. Estuve hablando con una
1:56:49pasarela de pago que me prometía que
1:56:51para LAATM iba a dar muchas facilidades,
1:56:53pero quizá el curso salía en vez de 499
1:56:57en seis cuotas os salía casi a 1000
1:56:59pavos. Y al final dije, "Bueno, pues doy
1:57:01yo las tres cuotas y ya está."
1:57:04Yo, por ejemplo, soy junior en
1:57:05desarrollo de software, estoy
1:57:07aprendiendo Python. ¿Lo recomiendas? Si
1:57:09tu objetivo es desarrollar software que
1:57:13incorpore sistemas de inteligencia
1:57:14artificial, sí, pero sí que es cierto
1:57:17que vas a necesitar pues eso,
1:57:18medianamente conocimiento de
1:57:21pues yo que sé, de de de Python, un
1:57:23poquito de Docker, o sea, conocimientos
1:57:25básicos de desarrollo que te serán
1:57:27útiles para hacer los laboratorios y las
1:57:28prácticas.
1:57:31¿Qué pasa si no se puede asistir alguna
1:57:33semana? ¿Hay fechas límites para las
1:57:35entregas? No, es decir, tú puedes hacer
1:57:38la entrega cuando agarres, o sea, cuando
1:57:40llegues al al laboratorio, aunque ese
1:57:42laboratorio ya haya pasado hace dos
1:57:44semanas, ¿vale? Yo lo voy corrigiendo a
1:57:46medida que se me van entregando. Si no
1:57:49puedes asistir al directo, por lo que
1:57:52sea, el directo queda grabado, el
1:57:54directo de dudas y si tenías una
1:57:56pregunta y la quieres dejar, digamos,
1:58:00allí para que yo la responda en directo,
1:58:02pero no puedes venir al vivo, la puedes
1:58:04dejar previamente, tú la dejas
1:58:06previamente y yo en el directo la leeré,
1:58:08la contestaré y te va a llegar un correo
1:58:10electrónico con el enlace al directo y
1:58:14el minuto en el que está contestada.
1:58:16¿Vale? Esto lo hago porque hay gente a
1:58:17veces de Latinoamérica que no puede
1:58:18venir por horario porque está trabajando
1:58:20y directamente me dejan la pregunta y
1:58:23luego la ven en diferido y ningún
1:58:24problema. ¿Vale?
1:58:28Ah, ah, ah.
1:58:30Para los que están en el actual curso de
1:58:32AWS, ¿existe algún descuento? Sí. Si ya
1:58:35estás en el curso de AWS, es decir, eres
1:58:37alumni de la de la academia en el
1:58:39formato de cursos, así, si estás ahora o
1:58:42has estado en el curso de AWS, si vas a
1:58:45tu perfil te tiene que salir la oferta,
1:58:48es un descuento de 100 € en esta
1:58:50matrícula. ¿Vale?
1:58:54Los que estamos en otros cursos de tu
1:58:56misma academia tienen un descuento, o
1:58:57sea, es diferente. O sea, si estás en el
1:58:58de AWS, que es otro curso que también
1:59:01funciona así por lanzamientos de cortes
1:59:03y tal, tienes eh el descuento de 100 €
1:59:06incluido. Si tienes una suscripción
1:59:08anual en Commit Academy, también te va a
1:59:11salir el descuento de 100 € Vale, lo
1:59:13digo por si tenéis alguno un anual y os
1:59:15interesa hacer este curso, que que lo
1:59:17aprovechéis.
1:59:22Hay otro curso por allí similar, sale en
1:59:242,700 € Sí, la verdad lo considero un
1:59:27poco exagerado, sinceramente,
1:59:29pero bueno, esto mi opinión, ahí se
1:59:32quedó. Ah, ah, ah.
1:59:38¿En qué plataforma se hace el despliegue
1:59:40del RAC eh que se desarrolla?
1:59:43Conceptualmente se va a enseñar sí o sí
1:59:46en Postgress, en PG Vector. También se
1:59:49va a enseñar en la masterclass de
1:59:51Bedrock porque en Bedrock también puedes
1:59:53guardar un rack de información.
1:59:55Igualmente si hay peticiones de
1:59:57herramientas específicas, como el curso
2:00:00lo vas a tener vitalicio y iremos
2:00:02actualizando contenido, podemos ir
2:00:03añadiendo clases magistrales, ¿vale?
2:00:05Igual que va a haber una clase magistral
2:00:06de Gen Kit, pues también puede haber
2:00:08clases magistrales de cosas, yo que sé,
2:00:10databaks que he visto por ahí que
2:00:11algunos han comentado, ¿no? Pues también
2:00:13se pueden ir añadiendo clases
2:00:14magistrales de todo eso. Así que en ese
2:00:16caso sin problema.
2:00:18Incluye certificado. Sí, incluye
2:00:21el tema de la V2S ya lo he comentado.
2:00:25Si la calidad del curso está en la línea
2:00:27de tu contenido, parece barato. Mil
2:00:28gracias. Mil gracias. O sea, yo intento
2:00:31ofrecer el curso en en un precio que a
2:00:33mí me parece justo y ya está.
2:00:39¿Cómo funciona lo relacionado con
2:00:40Fundae? Es la primera vez que escucho de
2:00:41ello. Lo explico rápido. Primero,
2:00:43disclaimer solo funciona para empresas
2:00:45de España, ¿vale? Fundae solo sirve para
2:00:49empresas españolas. Cada empresa
2:00:51española tiene unos créditos para
2:00:53formación a sus empleados. Esos créditos
2:00:57o los gastan o no los gastan. Hay
2:00:59empresas que directamente no saben ni
2:01:00que los tienen y nunca los han gastado.
2:01:03Pregunta a tu empresa porque es posible
2:01:05que si todavía tiene créditos
2:01:07disponibles, te pueda pagar el curso y a
2:01:10la empresa le sale muy bien de precio.
2:01:12¿Vale? Eh, pregúntalo, mándanos el mail
2:01:14a fundai@comacademy.
2:01:17Y lo miramos porque nosotros lo podemos
2:01:19gestionar en el nombre de la empresa.
2:01:20También
2:01:24los recursos del taller de RAC envían
2:01:25mañana. Sí, mañana lo recibiréis.
2:01:31Ah, ah, ah.
2:01:34¿A qué hora serán los directos? En
2:01:35general, los directos serán pues más o
2:01:38menos entre las 7 y 8 de la tarde, hora
2:01:39española. Es decir, similar a este
2:01:41directo que hemos hecho, quizá un
2:01:43poquito antes, media horita antes o así.
2:01:48Supongamos que uso Java o punto net.
2:01:49Podría adaptar lo que vemos a mis
2:01:52lenguajes de base o estamos más atados a
2:01:54Python por los SDK que usaremos. En
2:01:56principio podrás utilizar los que
2:01:57quieras. Por ejemplo, Jenkit está
2:01:59también altamente usado en Go, ¿vale? Al
2:02:03final dependerá de
2:02:06qué SDC
2:02:08tengas disponibles en según qué
2:02:10lenguajes, pero puedes utilizar Java
2:02:12perfectamente. La mayoría de vídeos y
2:02:14ejemplos estarán utilizando Typescript o
2:02:16Python, pero el concepto pues quizá te
2:02:19cambiará, será otra biblioteca la que
2:02:20utilices en Java, pero conceptualmente
2:02:22será lo mismo.
2:02:26Ah, ah, ah. Vale, el horario ya lo hemos
2:02:27dicho.
2:02:30Ah, ah, ah.
2:02:32Saludos. Gracias desde Colombia. Puedo
2:02:34comenzarlo en enero y pagarlo en enero
2:02:35dado que estoy terminando un curso de
2:02:37pedagogía ahora. Eh, quizá. Entonces, no
2:02:40sé, te diría que para eso ya sería la
2:02:42siguiente edición. La siguiente edición
2:02:45no sé si será
2:02:47quizá antes de verano del año que viene,
2:02:50porque la idea es que cuando se cierre
2:02:53el día 10 ya cerraremos plazas para para
2:02:56este programa.
2:03:00Pi pi pi pi.
2:03:02Si no tomo la oferta del descuento, se
2:03:04podría tomar para el próximo año. Es
2:03:05decir, si tú ya tienes el curso de AWS o
2:03:07tienes la anual activa,
2:03:11el descuento de alumni, que es como lo
2:03:13he llamado, va a estar disponible en
2:03:15todos los cursos de este estilo que
2:03:17hagamos, ¿vale? Es decir, incluso si
2:03:19haces este curso y luego quieres hacer
2:03:21el de WS, el DWS también tendrá un
2:03:23descuento para ti porque estás en este,
2:03:25¿vale? es como un pequeño una pequeña
2:03:28facilidad por ya formar parte de la
2:03:29academia y haber estudiado con nosotros
2:03:31anteriormente.
2:03:35¿Qué prerequisitos debo tener para
2:03:37ingresar? Pues básicamente conocimiento
2:03:39de programación básico, intermedio, me
2:03:41atrevería a decir, porque vas a tener
2:03:43que programar, ya sea con IA o sin IA, e
2:03:47para hacer los laboratorios.
2:03:52El próximo curso de AWS, ¿para cuándo lo
2:03:54estarían abriendo? Pues seguramente será
2:03:57febrero del año que viene.
2:04:02¿Cómo puedo acceder a la documentación
2:04:03para gestionarlo de Fundae? Escríbenos
2:04:05en funda@comitacademy.
2:04:07Y te ayudaremos, ¿vale? Porque depende
2:04:10de, no sé si tú eres la persona que
2:04:11lleva la formación o eres este clip de
2:04:14la empresa y quieres verlo, eh,
2:04:16escríbenos y vemos caso a caso. Si eres
2:04:19el interesado en adquirir el curso para
2:04:21ti, pues quizá tenemos que hablar con
2:04:23recursos humanos de de tu empresa.
2:04:25Escríbenos y lo vemos en detalle, caso a
2:04:27caso, ¿vale?
2:04:31Ah, ah, ah. Va a ser un reto mantenerlo
2:04:33actualizado tal y como avanza esto,
2:04:34100%. Por eso daremos mucho fuelle al
2:04:38tema de entender el concepto antes que
2:04:40la herramienta, porque la herramienta es
2:04:41lo que iremos cambiando constantemente.
2:04:46Sos grueso, sabeno. Gracias. Gracias.
2:04:50Ah. Ah. Lo que se aprende se sobre
2:04:51producción o queducción,
2:04:53es decir, se utilizarán lenguajes de
2:04:55programación tradicionales, ¿vale? Se
2:04:57programarás producto, entre comillas.
2:05:02Eh, para el tema de Funda me pedís el de
2:05:04esto es fundae@comacademy.
2:05:11Ahí lo puse. Vale, si queréis fundai,
2:05:14escribirnos por ahí, porfa.
2:05:17¿Qué tanto van a profundizar en la fase
2:05:19de seguridad y evaluación? Soy QZ y me
2:05:22andan pidiendo que pruebe racks para que
2:05:23no se aprovechen de tokens o verificar
2:05:25audios, imágenes según petición de
2:05:28prompt. Vamos a intentar profundizar lo
2:05:30máximo posible que nos dé una semana de
2:05:32contenido. Es decir, calcula que de la
2:05:35parte de seguridad, gobernanza y leyes
2:05:37va a haber unas cuatro horitas, cuatro
2:05:39horitas y pico de vídeo, ¿vale? Por lo
2:05:42tanto, vamos a ver cómo añadir
2:05:44salvaguardas para evitar prompt
2:05:45injection, salvaguardas para evitar
2:05:46filtración o exfiltración de no
2:05:49solamente datos, sino también de system
2:05:51prompts e
2:05:54incluso sistemas de alarmas y
2:05:55monitorización en caso de que se
2:05:57detecten comportamientos inusuales en
2:05:59cuanto a los promps, por ejemplo,
2:06:00imagínate que de golpe que te están
2:06:01haciendo proms muy raros que sí parecen
2:06:03ser un prom de injection. ¿Cómo
2:06:05notificas eso? No, todo eso lo veremos.
2:06:10Eh eh.
2:06:13Siempre usaremos base dos relacional
2:06:14para guardar los embedings en muchos, o
2:06:16sea, la mayoría de ejemplos serán con eh
2:06:18PG vector, pero
2:06:21hay un montón de bases de datos no
2:06:23relacionales que también te permitirían
2:06:24hacer embedings. Al final cualquier cosa
2:06:25que puedas hacer con querer e a nivel de
2:06:28distancia coseno, etcétera, podrías
2:06:30utilizarla para hacer sistemas de
2:06:31embedings.
2:06:36Me perdí de qué trata el curso. Puedo
2:06:38ver en algún doc de qué se trata para
2:06:39ver si podría unirme. Si escaneas la el
2:06:43QR que tienes aquí arriba, vas a ir a la
2:06:45página web, ahí tienes todo el temario
2:06:47escrito y tienes un formulario incluso
2:06:49si quieres recibir por mail un PDF con
2:06:51todo el temario, ¿vale? Entonces ahí
2:06:53tendrías exactamente de qué se habla en
2:06:55todo el curso.
2:06:58¿Se puede pagar por transferencia
2:06:59bancaria? Sí, pero para eso escríbenos
2:07:02porfa al correo de la academia y y lo
2:07:05vemos también porque te tendré que hacer
2:07:07factura previamente y todo eso, ¿vale? O
2:07:10sea, si nos avisas y nos escribes, lo
2:07:12hablamos por por privado.
2:07:16Las sesiones serán en vivo. Las sesiones
2:07:18semanales de dudas, sí. Las clases
2:07:21generalistas, lo que es el contenido
2:07:23como tal, son clases grabadas, por lo
2:07:25que lo puedes ver en tu horario y a tu
2:07:27ritmo. Hay gente que prefiere hacer día
2:07:29a día, lunes, martes, miércoles, jueves,
2:07:31viernes, va haciendo las clases. Hay
2:07:32gente que se espera al sábado para
2:07:34hacerlo todo. Hay gente que quizás se
2:07:37guarda clases, hace la mitad y a la
2:07:39semana siguiente hace la otra mitad,
2:07:41¿vale? son grabadas precisamente para
2:07:42que lo puedas hacer a tu ritmo sin
2:07:44depender de un horario. Eso sí, las
2:07:46clases de dudas sí que son en vivo.
2:07:50¿Usaremos PG Vector? Sí. Muchas gracias
2:07:53por el taller y el curso, Martí. Gracias
2:07:55por tu contenido. Gracias a ti por estar
2:07:56aquí.
2:07:58Ah, ah, ah.
2:08:00El CP cuenta como empresa para Funda
2:08:02Creo que creo que no, porque en el
2:08:04pasado ya he intentado hacer alguna vez
2:08:05con autónomos o con gente que está em
2:08:09incluso tuve algún alumno que me
2:08:11preguntó y miramos si estabas en paro,
2:08:13si podías bonificarlo por Fundad y no
2:08:16porque es una bonificación que funciona
2:08:17para empresas solamente
2:08:19para empresas que tienen contratados,
2:08:21¿vale? O sea, has de ser trabajador
2:08:23contratado por la empresa para poder
2:08:26adherirte a la bonificación.
2:08:31Una duda, el curso de engineer es en
2:08:33Typescript. El curso en sí, la el idioma
2:08:36lenguaje idioma, el lenguaje vehicular
2:08:39del curso va a ser TypeScript y Python,
2:08:42pero los conceptos que aprendas los
2:08:43puedes aplicar en cualquier lenguaje,
2:08:45¿vale? Es decir, no es un curso en el
2:08:47que sí o sí tengas que utilizar Typescp.
2:08:50Puedes utilizar el lenguaje con el que
2:08:52te sientes más cómodo. ¿Quieres hacerlo
2:08:53en Java? En Java.
2:08:58Eh, recursos tenemos que tener a mano
2:09:00para ir estudiando el conjunto con el
2:09:01curso, es decir, libros, documentarios,
2:09:03etcétera. Nosotros os daremos todos los
2:09:04recursos. Es decir, el curso ya tendrá
2:09:06los vídeos, tendrá un resumo en escrito
2:09:09a nivel de apuntes de cada lección y en
2:09:12principio tendrías todo lo necesario con
2:09:13las fuentes abajo de dónde salen lo que
2:09:16estás aprendiendo. Si luego quieres tú
2:09:18pillarte documentación extra, libros
2:09:20extra, etcétera, te podemos ayudar y te
2:09:22podemos dar algunas recomendaciones.
2:09:23Básicamente los que tengo aquí atrás
2:09:25pueden ser interesantes.
2:09:30Se tiene en cuenta los perfiles
2:09:31frontend, sí, pero obviamente como esto
2:09:35es algo que mayoritariamente ocurrirá en
2:09:37el backen, pues bueno, te puede ir bien
2:09:39tener algún conocimiento de backen. Al
2:09:41final tendrás el la comunicación con el
2:09:44sistema de IA, ¿vale? Con el LM,
2:09:46etcétera. Lo tendrás en casi todos los
2:09:48puntos en el backend, a no ser que
2:09:49tengas un modelo local en el navegador,
2:09:52pero eso es mucho más nicho.
2:09:55Se puede pagar en cuotas. Sí, lo puedes
2:09:56pagar en tres cuotas e de 185 € cada
2:10:00cuota en 3 meses. Vale.
2:10:03Pi pi.
2:10:06El estimado de duración de los vídeos
2:10:08puede cambiar mucho, es decir, puede
2:10:09haber vídeos de 5 minutos a vídeos de
2:10:1120. Intento que no sean vídeos muy
2:10:14largos para que podáis cortar en
2:10:16momentos en que a vosotros os vaya bien
2:10:18cortar y no tengáis que veros un vídeo
2:10:20de una hora seguido, ¿vale? Desde cada
2:10:22semana se liberarán entre 3 y 4 horas de
2:10:24contenido en vídeo y estará eso dividido
2:10:27en vídeos de entre 5 y 20 minutos
2:10:29dependiendo del concepto que se explique
2:10:31en cada lección. ¿Vale?
2:10:35¿Quiénes certifican este curso? Pues eh
2:10:37los profesores que estamos
2:10:39impartiéndolo. Básicamente la mayoría de
2:10:40nosotros somos ingenieros trabajando en
2:10:42activo en sistemas de inteligencia
2:10:44artificial.
2:10:48No hay precio regional, ¿no? Eh, yo
2:10:51intenté por muchas maneras obtener
2:10:53precio para poder financiar en
2:10:55Latinoamérica, pero la única forma que
2:10:58obtuve fue la de hacer tres cuotas,
2:10:59básicamente tres cuotas de 185.
2:11:05Eh, el tema de datab
2:11:08enseña databaks como tal, se enseñará
2:11:10más en bedings con PG vector y todo
2:11:11esto, pero si es algo que interesa y lo
2:11:13que leéis como masterclass se puede
2:11:15analizar y se puede añadir también.
2:11:19al contado desde el Atam, ¿cuánto es sin
2:11:21cuotas? Eh, serían ti ti
2:11:26lo tenía por aquí 499.
2:11:29Vale. Eh, en el caso de Latam, si os
2:11:33hace cambio de moneda, cambio de divisa,
2:11:36sale bastante barato, ¿vale? E por
2:11:39alumnos anteriores que han pasado por
2:11:41por la academia, me llegaron a comentar
2:11:44que cambiaba un 4% el precio cuando
2:11:47hacía la conversión monetaria. Es decir,
2:11:48Stripe cobraba un 4% por el cambio de
2:11:52moneda. Yo lo que os recomendaría, si
2:11:54queréis ver a cuánto os sale en vuestra
2:11:56moneda local, es que vayáis al enlace
2:11:59del QR, entréis a matricularos, se os
2:12:01abrirá la página de Stripe y os debería
2:12:04salir en la moneda en la que en el país
2:12:07en el que estéis, ¿vale? Y ahí podéis
2:12:08evaluar el cambio que os está
2:12:10realizando.
2:12:13¿Tenéis bolsa de empleo? No es algo que
2:12:15estoy intentando trabajar, pero todavía
2:12:17no he conseguido tenerla tenerla activa,
2:12:20pero es algo que en un futuro quizá
2:12:21planteo y obviamente estaría también
2:12:23incluida, como es vitalicio, para todos
2:12:26los usuarios que han pasado por el curso
2:12:27anteriormente. Es decir, si tú adquieres
2:12:30el curso ahora y lo realizas y en un
2:12:32futuro añadimos bolsa de empleo, también
2:12:35tendrías acceso a esta bolsa de empleo,
2:12:37¿vale? O sea, en ese en ese caso, no os
2:12:39preocupéis que todos los añadidos que
2:12:40vayamos haciendo en la academia los vais
2:12:42a tener disponibles.
2:12:45Gente, no sé si tenéis alguna duda más.
2:12:47Em,
2:12:49no sé si os parece bien dejarlo aquí.
2:12:52Obviamente, si tenéis más preguntas, en
2:12:55la página web del
2:12:58curso tenéis un botón para pedir
2:13:01llamada, ¿vale? En el caso de que haya
2:13:03alguna pregunta que por lo que sea no
2:13:05hemos llegado a contestar hoy o
2:13:10simplemente os da cosa preguntarla aquí
2:13:11con toda la gente y tal, hay un botón
2:13:14para pedir llamada, simplemente nombre y
2:13:16número de teléfono y en cuanto podamos
2:13:18os llamaremos para acabar de pues
2:13:22hablarlo, gestionarlo. Si tenéis alguna
2:13:23duda muy concreta y me la queréis
2:13:25preguntar directamente, podéis dejar ahí
2:13:28e en el formulario la llamada, ¿vale?
2:13:31Simplemente deciros que tenéis esta
2:13:34información.
2:13:36Los 499 son por pago único o anual. Es
2:13:38pago único. Es pago único. O sea, el
2:13:40acceso vitalicio es con un solo pago.
2:13:41Pagas una vez y ya te olvidas. Lo tienes
2:13:43para siempre.
2:13:45Vale.
2:13:48Ah, ah, ah. Mail con resumen de hoy
2:13:50llega incorrecto al mail. O sea, no os
2:13:52preocupéis, sé que hay un mail que está
2:13:54erróneo. Mañana recibiréis el mail
2:13:55bueno, ¿vale? Mañana recibiréis el mail
2:13:58correcto.
2:14:01Eh, si no he entendido mal, el curso
2:14:02está más enfocado al desarrollo de
2:14:03sistemas que incluyen componentes
2:14:04basados en IA. ¿Será útil para potenciar
2:14:05el desarrollo de software con IA en
2:14:06términos generales? A mi gusto, sí. O
2:14:09sea, obviamente quiero dejar claro que
2:14:11el enfoque del curso es el que has
2:14:12comentado. No es un curso en el que
2:14:15vayas a aprender a desarrollar más
2:14:17rápido con IA y a instalarte skills en
2:14:19Cloud Code, porque considero que eso lo
2:14:20puedes entender tú mismo fácilmente
2:14:22trasteando un ratito con la herramienta.
2:14:25¿Vale? Sí que va a haber alguna
2:14:26masterclass. Estoy hablando con gente
2:14:28para que me haga alguna masterclass
2:14:29cortita de cómo usar codex y cómo usar
2:14:32cuatro chorradas, pero no es el enfoque
2:14:34principal del curso. Ahora bien, los
2:14:36conceptos que tú aprendas en este curso,
2:14:38por ejemplo, todos los conceptos de RAC,
2:14:39de seguridad de agentes, etcétera,
2:14:41etcétera, te servirán para aplicarlos en
2:14:43sistemas de software. El pipeline de
2:14:46desarrollo
2:14:48también es un sistema de software, por
2:14:50lo que también podrías aplicarlo a eso,
2:14:52pero insisto, eh, no es un curso de
2:14:54aprende a utilizar Cloud Code, aprende a
2:14:56utilizar Codex, aprende a desarrollar
2:14:57más rápido con I.
2:15:01Eh, ¿qué tipo de roles nos habilitaría
2:15:02el programa? Básicamente los roles de
2:15:04ingeniero de IA que ya están apareciendo
2:15:06en algunas empresas. De hecho, algún
2:15:07profe ya trabaja activamente como
2:15:08ingeniero de IA con ese nombre en el
2:15:10contrato en la empresa. Em, pero está
2:15:14muy enfocado a pues perfiles de backend
2:15:17o de full stack que sepan cómo
2:15:19implementar sistemas de IA. Básicamente
2:15:21hay un montón de nombres para esos para
2:15:22esas posiciones. Ingeniero de IA e
2:15:25ingeniero de Ben con Foconía e yo que
2:15:29sé, ingeniero de aplicada. Bueno, veréis
2:15:33un montón de novas en un montón de
2:15:34sitios, ¿vale? que para mí es más
2:15:35importante
2:15:37el setup de skills o de habilidades que
2:15:40vais a aprender, básicamente.
2:15:44Muy bien,
2:15:46si os parece bien, lo dejamos aquí. De
2:15:48nuevo, muchísimas gracias por haber
2:15:49venido a al taller, por haberme
2:15:52aguantado mi chapa.
2:15:54Em, aprecio mucho todos los que os
2:15:56habéis quedado, todos los que habéis
2:15:57estado participando durante el día de
2:15:59hoy. Insisto en que mañana vais a
2:16:01recibir el correo electrónico con los
2:16:03apuntes, con la grabación de este vídeo
2:16:06y con el enlace e para hacer el examen,
2:16:10¿vale? Así que nada, gente, muchísimas
2:16:12gracias y sobre todo no dejéis de
2:16:15aprender y seguir profundizando en el
2:16:18mundo de la informática, ¿vale?
2:16:21Que vaya bien. Nos vemos. Y ahora eh eh
2:16:26eh el típico momento incómodo tras
2:16:29cerrar directo en el que estás buscando
2:16:31la pantalla de despedida,
2:16:34que es esta de aquí.

About this transcript

This page contains the full transcript of Taller Gratuito: Tu primer RAG en directo by BettaTech, generated from the public captions YouTube serves with the video. The transcript has 20,784 words across 3,371 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.