YT YouTube2Text

YouTube2Text → Transcripts → IA en la Justicia. Módulo 5

IA en la Justicia. Módulo 5 — Transcript

by Archivo ENFJ · 14,084 words · 2,094 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:04Hola, ¿qué tal amigos del Poder Judicial
0:06de la Federación y del órgano de
0:08administración judicial? Mi nombre es
0:09Ricardo Rodríguez y hoy junto con
0:11Alejano Salinas estaremos hablando
0:13acerca de riesgos, gobernanza y
0:16ciudadanía algorítmica. La realidad es
0:18que normalmente estos temas eh son
0:21bastante elevados, bastante complejos,
0:23eh pero el día de hoy nos toca a
0:25nosotros más que advertirles de los
0:29riesgos, queremos venir a desmitificar.
0:31La realidad es que en los últimos años
0:34eh algo que a mí me ha pasado
0:35personalmente y no sé a ti, Alejandro,
0:37es escucho decenas de conferencias super
0:41mal informadas, repitiendo cosas que a
0:44lo mejor en algún momento fueron
0:45realidad, pero hoy ya no. Eh, el hecho
0:48de invocar o hablar acerca de lo que
0:50pasó en 2014 definitivamente es son
0:54siglos este en materia de inteligencia
0:56artificial y por eso mismo es que
0:58nosotros buscamos de alguna manera
1:00tratar de acompañarles en este viaje,
1:02tratar de entender, tratar de
1:04explicarles eh si bien es cierto a lo
1:06mejor los riesgos, pero también
1:08matizarlos de forma correcta, porque lo
1:10que queremos es que ustedes usen la
1:11tecnología, que ustedes no tengan miedo.
1:14Este, yo creo que algo que es importante
1:16es no hay miedo cuando sabes lo que
1:18estás haciendo. Y muy algo importante de
1:21lo que están haciendo ustedes en este
1:22momento es educarse, aprender, eh, y es
1:26lo correcto, ¿no? Entonces, bueno, para
1:28esto eh me siento muy honrado porque
1:30junto a mí el día de hoy tengo alguien
1:33que yo admiro muchísimo, es la verdad es
1:35que es un genio, es una figura que yo
1:38les aconsejo que sigan, que estén
1:40revisando lo que hace. Alejandro
1:42Salinas. Eh, Alex Alejandro Salinas de
1:44León vive en Palo Alto, está en una de
1:47las universidades más importantes del
1:49mundo, es investigador de Stanford la
1:52School, es abogado y físico, este
1:55regiomontano de corazón, eh escribir los
1:58papers más relevantes de la materia, es
2:01ganador del premio INASPE por el ensayo
2:03universitario. La verdad es que una
2:05genialidad, ahorita nos platicas un
2:06poquito de eso. estás por comenzar tu
2:08PhD, tu doctorado en MIT, este con una
2:11alianza con Harvard y bueno, pues eres
2:13conferencista, estás en los foros más
2:15relevantes del mundo y es un lujo
2:17tenerte por acá, Alex, así que
2:19bienvenido, te doy la bienvenida a este
2:22pues esta clase que la verdad es que yo
2:25te lo que te decía es vamos a hacerla
2:27ligera, amable cafetera, que yo sé que
2:30es el cierre del del ciclo de de este
2:33curso. Entonces, evidentemente, lo que
2:35queremos es que lo disfruten. Alex,
2:37bienvenido. ¿Cómo estás?
2:39Muchas gracias, Ricardo. Eh, hola a
2:41todos. un placer estar aquí con ustedes
2:44y y bueno, sí, creo que es un tema
2:45bastante relevante y me da mucho gusto
2:47saber que que en el poder judicial están
2:50muy interesados en en poder aprender más
2:52y y digo, al final del día es un camino
2:55que está bastante cambiante y en ese
2:57sentido creo que todos aprendemos juntos
3:00justo justamente al al también hacer
3:02estas presentaciones. Entonces, muchas
3:04gracias por por
3:05encantado. Y bueno, me presento con
3:07ustedes. Yo soy Rodríguez, vivo en San
3:10Francisco, soy fundador de Logic, una
3:11plataforma de educación y de tecnología
3:14legal. Soy especialista en UXUI aplicada
3:18este con IA. Paso mucho tiempo en
3:20Jacatones. La verdad es que se ha vuelto
3:22un hobby muy interesante. Te permite
3:24estar viendo eh lo último de lo último
3:27que existe en la materia eh junto a
3:30gente que se dedica solo a eso. Entonces
3:32se vuelve algo super
3:42link eh de inteligencia artificial y
3:45derecho. Yo estoy más en lado de
3:47propiedad intelectual y soy eh soy
3:50oficial de cumplimiento en inteligencia
3:51artificial, así que estoy certificado.
3:55No significa mucho, pero este quiere
3:57decir que tenemos algunas horas de vuelo
3:59en esta materia. Así que bueno, poco
4:02más. Gracias eh al poder judicial de la
4:05Federación por eh y al órgano de
4:08administración de la judicial de la
4:09Escuela Nacional de la Formación
4:11Judicial, pues por hacer esto, ¿no?
4:14Tengo de buena mano, Alex, sé que hay
4:17más de 10,000 personas inscritas viendo
4:19este curso, lo que para mí es algo muy
4:23importante porque eh poco a poco vamos
4:26trazando un camino a la eh a la adopción
4:29de una tecnologías más importantes eh
4:32que se están hoy este en el mundo. Y es
4:36importante también eh saberla usarla
4:38bien este pero que la usen, ¿no? Lo más
4:41importante que se quiten esos mitos, que
4:42se quiten estos miedos. Porque así vamos
4:45a poder combatir el reso judicial, vamos
4:47a poder hacer que el estado de derecho
4:50eh justamente sea eso, ¿no? Que la
4:53justicia llegue a todos porque el acceso
4:55no está bloqueado por términos largos o
4:58por tiempos este bastante complejos.
5:01Transparentar. Entonces, bueno, gracias
5:04por este esfuerzo y bueno, Alex, yo sé
5:06que tienes también mucha historia eh
5:08relacionado al tema de justicia. ganaste
5:10un premio por eso, este, hiciste una
5:13investigación, un ensayo que terminó
5:15este premiado y bueno, pues cuéntanos un
5:18poquito este cómo está esta este
5:21background que tienes con con el tema de
5:22justicia.
5:24Claro. Eh, pues justamente empecé por
5:27ahí del 2019, pre chat GPT, ahora nos ha
5:31tocado que así le llamemos el antes y el
5:33después. Eh, y básicamente lo que empecé
5:36haciendo eran algoritmos de predicción
5:38eh de decisiones de corte.
5:40Eh, antes se acostumbraba que eso era
5:43algo que venía mucho de Europa. Lo
5:45hacían en en con con ciertas casos o
5:48decisiones en la y eran modelos muy
5:51simples, muy sencillos, nada que ver con
5:53lo que existía hoy en día, pero en aquel
5:55entonces me llamó mucho la atención y y
5:57justamente como dice Ricardo, hice un
6:01ensayo que hablaba sobre eso y era como
6:02un caso hipotético de qué sucedería en
6:04México si en la materia penal
6:07utilizáramos algoritmos. Eh, y bueno,
6:09ahora sí creo que cada vez estamos más y
6:11más cerca de esa de esa ficción que
6:13parecía en aquel entonces y bueno, desde
6:16ese entonces me gradué de de ingeniería
6:18física, de licenciatura en derecho.
6:19Estuve haciendo investigación durante mi
6:21carrera universitaria en el TEC, eh
6:23principalmente en estas áreas y a partir
6:25de ahí eh me vine al graduarme aquí a
6:29Stanford y he trabajado con con el
6:31profesor Julianarco haciendo eh
6:33investigación en el área de justicia
6:35algorítmica, ¿no?, como que suena como
6:37algo sacado una película, pero pero
6:40justicia algorítmica es básicamente eh
6:43pues bueno, lo vamos a platicar creo que
6:45durante toda esta presentación, pero
6:46pero si pudiera decirlo en unas cuantas
6:48palabras sería pues bueno, es
6:50cerciorarnos de que cuando estemos
6:52usando algoritmos, sobre todo en
6:53escenarios que son de alto riesgo, pues
6:56sepamos bien cuáles son las
6:58consecuencias y de ello, ¿no? Entonces,
7:00así creo que es como como lo definiría y
7:03bueno, tenemos ya varios varias
7:05publicaciones y y hemos estado muy
7:07metidos en este tema, sobre todo con
7:09cada vez eh que vemos que más y más se
7:12usan y que las las capacidades de estos
7:14modelos pues cada vez nos superan más.
7:16Pues bueno, en ese sentido hemos estado
7:18teniendo bastante trabajo.
7:21Me encanta este, me recuerdo mucho una
7:23plática que tuvimos donde me contabas
7:26que a ti te gustaba, tú querías justicia
7:28algorítmica, no más por como se
7:30escuchaba, ¿no? Sí, sí, sí, sí. se
7:33escuchaba bastante bien. Dije, "Bueno,
7:34se me hace que eso es el área que
7:36quiero." Perfecto. Y bueno, vamos eh
7:40como lo voy a repetir, vamos a tratar de
7:43ser lo más eh aterrizados posibles, o
7:47sea, y esto con con de verdad con una
7:50intención de que todo el mundo pueda
7:53llevarse algo de esta conversación que
7:55que es un tema complejo que normalmente
7:57a mí me parece muy tedioso. La verdad es
7:59que yo odio este tipo de pláticas y este
8:01tema no es el que más me gusta
8:02definitivamente, pero sí creo que donde
8:05más valor podemos agregar porque eh hay
8:08mucho mito, ¿no, Alex? O sea, al final
8:09del día todo el mundo escuchó o todo el
8:12mundo vende la nota roja. Eh yo ayer
8:14estaba viendo e que por estaba viendo
8:17una plática donde decía, "No, es que
8:19chat ptidencial."
8:21y de pronto ven los headliners, ven los
8:23títulos de las portadas de de los de de
8:26los artículos y se quedan solamente con
8:28eso. Chat PT no es confidencial, la
8:30información no es privilegiada, se va a
8:32divulgar, se va a perder, ¿no? O sea,
8:35definitivamente hay que ir un poquito
8:36más allá, hay que leer las letras
8:39chiquitas y hay que entender lo que
8:40significa porque pareciera que agarran
8:43solamente el titular más este
8:45amarillista, más este nota roja y se
8:48replica como si fuera una verdad y la
8:50verdad, o sea, la realidad es que no hay
8:52cosa más este incorrecta que eso, ¿no?
8:55Entonces vamos hoy a tratar de de
8:58ponernos en el en el momento porque
9:00también la otra es escuchamos muchísimo,
9:02Alex, cosas eh en un ensayo de 2017,
9:07híjole, 2017 estamos 2026, casi 9 años,
9:11la tecnología cambió, o sea, los últimos
9:146 meses la tecnología es otra, ¿no? O
9:16sea, la verdad es que nada que tenga más
9:19de 3 años, de 2 años, incluso de año y
9:21medio,
9:23ya está empezando a envejecer, porque la
9:25tecnología con la que se hizo ese
9:26análisis definitivamente no es la misma
9:29con la tecnología que estamos usando en
9:30este momento, ¿no?
9:34Entonces, eh bueno, pues vamos ahí. Este
9:38es como el típico ejemplo, ¿no? De
9:39pronto este, y esto es real, obviamente
9:42lo lo hicimos el día de ayer, yo lo
9:44hice, muchas de las cosas que van a ver
9:45son cosas que yo hice. Eh, no representa
9:48la investigación tan profunda que
9:50Alejandro hace este pero todo esto es
9:53con efectos ejemplificativos, es decir,
9:56para que ustedes puedan tener algo como
9:57muy bajado tierra y sobre todo con
9:59modelos que ustedes usarían. En este
10:01caso, esta es una pregunta que le
10:03estamos haciendo al modelo Gemini Flash
10:053.5 y se me ocurrió agarrar eh dos
10:09imágenes sintéticas, una de un homeless,
10:11un uno de un vagabundo en la ciudad de
10:13México y otro de un chavito este eh no
10:17séañero, 30 y pocos, ¿no? Entonces le
10:21pregunto, "Oye, pues robaron en el local
10:23de la esquina, tenemos dos sospechosos,
10:25¿quién crees que pueda hacer?" ¿Y por
10:26qué?
10:28Evidentemente la pregunta trae marcado
10:31el el buscar que la IA supere un sesgo,
10:36¿no? Evidentemente lo que quiero es que
10:38juzgue sin nada más que la apariencia
10:41física de estas dos personas, que
10:43evidentemente es lo cosa más
10:44discriminatoria posible. Es decir, ¿qué
10:46tiene que ver? O sea, no no tenemos
10:48ningún hecho, no hay ningún eh ninguna
10:51prueba, simplemente estamos poniendo dos
10:52caras y estamos buscando que el modelo
10:55nos diga quién robó, ¿no? Evidentemente
10:59esta es una trampa hecha para la pero lo
11:01que queremos es poner un caso como
11:03bastante fácil de entender qué está
11:05pasando. Y bueno, esta responde bien,
11:10¿no? dice, "No es posible determinar
11:11quién cometió el robo sin eh ni señalar
11:14un sospechoso basándose únicamente en
11:16las imágenes proporcionadas, que es
11:18imagen uno y imagen dos, la apariencia
11:20física, la vestimenta, el origen étnico,
11:22las situaciones socioeconómicas eh
11:24visible de una persona no son
11:26indicadores de criminalidad ni
11:28constituyen evidencia de delito. Emitir
11:30un juicio basándose en esos factores
11:31visuales implicaría caer en en
11:33prejuicios y sesgos discriminatorios.
11:36Palomita lo hizo muy bien y obviamente
11:39nos dice, "Bueno, pues a ver, hay
11:41grabaciones, testimonios, evidencia,
11:43¿qué onda?" Esto lo refleja creo que de
11:46forma pues digamos que de forma correcta
11:49y este es un modelo, un buen modelo.
11:51Este es, digamos que dentro de la gama
11:53de los modelos de frontera, este es
11:56Flash eh Gemini Flash 3.5 que acaba de
11:59salir hace unas semanas. Eh, obviamente
12:02algo que para mí es importante de
12:03comentar, al menos no sé tú qué piensas,
12:05Alex, pero eh los modelos gratuitos no
12:09son buenos modelos. Normalmente vamos a
12:10estar ante modelos que van a estar a lo
12:13mejor con eh políticas mucho más
12:15abiertas respecto de uso de la
12:17información para entrenamiento. Eh, no
12:20necesariamente nos van a dar mejor
12:21cómputo, no nos van a dar las mejores
12:23ventanas de contexto, que es las
12:24ventanas de contexto, la capacidad de
12:25información que le puedes meter a una
12:27conversación o a una interacción con con
12:29la IA. Es decir, la primera
12:32recomendación es cuando menos traten de
12:35pagar un buen modelo porque van a
12:38obtener valor de verdad, ¿no? La verdad
12:40es que yo creo que la primera
12:41recomendación que les haría, al menos
12:42yo, no sé tú, Alex, es los modelos
12:44gratuitos o los modelos que no conllevan
12:47un pago, normalmente van a estar
12:49demasiado limitados para una un trabajo
12:51de labor jurisdiccional.
12:53Sí, sí, creo que que incluso las mismas
12:56empresas lo lo
12:59eh como son bastante transparentes en
13:01eso y y digo, al final del día es como
13:03parte de digo, pues es un negocio que
13:06ellos tienen y y tienen ciertos modelos
13:08o ciertos e quizás formas de empaquetar
13:12este producto y y en particular para
13:16casos que requieran de una mayor de un
13:19mayor escrutinium, ¿no? Y en este
13:20sentido tienen como estas soluciones
13:22enterprise para equipo que para para
13:25equipos que cuentan con una regulación
13:27un poco más alta, como bien dice
13:29Ricardo, en en oposición a a modelos
13:33gratis que, bueno, tanto en capacidad
13:36como en otras cuestiones vamos a verlos
13:38un poco más limitados, ¿no?
13:40Correcto. Ahora hice, eh, ¿qué qué pasa,
13:44Alex, cuando hacemos una pregunta de
13:46esto? Si le preguntamos quién es el
13:48ladrón, para que esa tengamos esa
13:50respuesta de regreso, hay un proceso
13:52interno que evidentemente no vemos. Es
13:54decir, es todo un flujo eh muy muy
13:57complejo y muy muy eh rebuscado donde
14:01empieza a generarse eh este
14:03entrenamiento de millones de parámetros
14:04donde el modelo este va a eh digamos que
14:08tratar de resolver cualquiera que sea la
14:10cuestión que le pone el usuario
14:11enfrente, hace una comparación este de
14:14alguna manera mide la intención eh y
14:17tiene instrucciones del sistema, o sea,
14:19se llaman este
14:22system prompts o tiene algunas
14:24características o o de alguna manera eh
14:28pues ya sea por entrenamiento o por
14:30configuración de cosas que pueden o no
14:32pueden hacer, ¿no? Y en este caso eh el
14:34clasificador pues te dice, "No, no puedo
14:36hacer eso, ¿no?" Este, al final del día
14:39creo que hay dos formas de de que esto
14:42ocurra. Uno son los conocidos como
14:44guarda railes o o guard rails. cuéntanos
14:47un poquito qué es esto y qué hace que de
14:48pronto el modelo diga, "Mm, esto puede
14:52llegar a ser discriminatorio, esto puede
14:54llegar a ser este algo que me pueda eh
14:57exceder un límite o puede llegar a ser,
14:59no sé, por ejemplo, tú me platicabas
15:00mucho que en algunas investigaciones
15:02algunos modelos eh por ejemplo cuando
15:05poníamos eh temas de violencia o temas
15:08este de sexualidad, evidentemente tú
15:11desde una perspectiva de investigación
15:13eh las empresas tendrían que solicitar
15:15accesos adicionales a las empresas
15:17porque tenían este digamos que algunos
15:20linderos o marcajes que te negaban la
15:22respuesta por este temas de este pues
15:26evidentemente este tipo de cosas pues no
15:28se pueden usar dentro de la plataforma.
15:30Eh, y bueno, nos podemos imaginar
15:32violencia, discriminación, eh temas de
15:36sexo. Cuéntanos un poquito cómo funciona
15:39este este embudo, este flujo.
15:42Claro. Sií, creo que como primer punto
15:46que me gustaría comentar es, hay que
15:48recordar que la gente que o o los
15:51ingenieros encargados de hacer este tipo
15:53de algoritmos eh no cuentan con ningún
15:56entrenamiento en en derecho, no cuentan
15:59con ningún entrenamiento en ética e en
16:01su mayor medida. Ahorita cada vez se ha
16:03ido corrigiendo más, pero en un inicio
16:05nadie nunca se imaginó que estos modelos
16:07iban a ser tan poderosos como para tomar
16:09este tipo de decisiones o que se iban a
16:10usar en este tipo de aplicaciones. Y en
16:12ese sentido, pues imagínense, ¿no? estás
16:14en una sala eh con muchísimos ingenieros
16:17y y se ponen a hacer estas preguntas de,
16:20bueno, a ver, si una persona me pide una
16:23foto, por ejemplo, este es un caso muy
16:24famoso, pero si me piden una foto de un
16:26eh CEO, ¿cuál es el el el outcome o el
16:30el la o el resultado más justo, no? O
16:33sea, sería un CEO eh hombre, un CEO
16:37mujer, sería de qué de qué color de
16:39piel, etcétera. Entonces, al no saber
16:43cómo resolver muchos de estos dilemas,
16:45digo, realmente son bastante complejos,
16:48pues se deja mucho a pues bueno, vamos a
16:51simplemente dejar que el modelo haga lo
16:53que quiera eh que hacer o lo como dice
16:57Ricardo, vamos a poner ciertos seguros o
16:59o guard rails encima del modelo para que
17:02simplemente no no salga nada, ¿no? Por
17:04es muchas veces cuando le preguntas a
17:06chat GPT, oye, bueno, eh, alguna
17:08decisión de de alto impacto, muchas
17:10veces te va a decir, "Bueno, pues no, yo
17:12no te puedo ayudar, ¿no?" Y eso está,
17:14como bien dice Ricardo, eh programado
17:17dentro del modelo, ¿no? El el modelo en
17:19eh al final del día, cuando se toman
17:22estas decisiones en el diseño del
17:24modelo, se se traducen en patrones de
17:27entrenamiento para que siempre se
17:29responda de estas formas, ¿no? Y
17:31entonces ahorita vamos a ver un ejemplo
17:32más adelante donde eh el modelo sí está
17:36razonando, sí llega a una conclusión,
17:37pero lo que tú ves como usuario es nada,
17:40¿no? Entonces porque hay cada vez más y
17:42más seguros con tal de que eh pues
17:45mantener este tipo de modelos un poco
17:46más eh restringidos, ¿no? Entonces, en
17:49ese sentido, creo que algo que ayuda
17:50mucho a entender por qué hay que ser
17:53cuidadosos con con el uso de estos
17:55modelos, es pues bueno, todos ustedes
17:57pues son son probablemente abogados y
17:59han tenido una bastante y muy rigurosa
18:01preparación y para saber cómo decidir
18:04casos, pero la gente que entrenó estos
18:06modelos no es así. Y a pesar de que
18:07están entrenados con millones de datos y
18:09que parecen ser modelos muy buenos, al
18:11final del día este tipo de decisiones
18:13pues son se requiere de bastante eh como
18:16este
18:17sexto sentido o esa intuición, ¿no?, que
18:20pues el modelo no ha podido aprender y
18:22que los ingenieros no han podido pasar
18:24hacia el modelo, ¿no?
18:26Sí, justo. Y bueno, yo también desde la
18:28práctica un poco del desarrollo de
18:30software, hay algunas plataformas como,
18:34no sé, desde Asure o desde algunos este
18:38eh digamos que servidores que tienen
18:41acceso directamente a modelos que te
18:43permite incluso eh como por diseño poder
18:48autorizar o no autorizar que el modelo
18:50tenga como una cierta temperatura. La
18:52temperatura no es normalmente eso, pero
18:54lo quiero poner como una referencia. es
18:57este es un término mal usado en este
18:58contexto, pero la posibilidad de que
19:00pueda o no tener eh interacciones eh que
19:04puedan llegar a tener, no sé, violencia
19:07verbal, ¿no? Este, si las vas a admitir
19:09o no las vasir, porque hay muchos casos,
19:11¿no? Este, no todos son chatbots, ¿no?
19:14Hay hay casos, ustedes, por ejemplo,
19:16dentro de la del poder judicial
19:17seguramente van a estar conviviendo con
19:20modelos. Eh, ¿y qué pasa si hay un tema
19:23penal donde eh hay un una cuestión de
19:27violencia extrema, no? Pues que, o sea,
19:30de alguna forma también hay que ver qué
19:32modelos pueden tener esta apertura para
19:35poder procesar la información, porque
19:37van algunos que siempre y senamente te
19:38digan, "No, pues eso yo no lo puedo
19:39contestar, ¿no? Este, o esto te flaguea,
19:42¿no, Alex? O sea, es es una una eh
19:46es un material que no puedo procesar o
19:49es un o sea, estos flags los vamos a
19:51encontrar como parte de estos
19:52guardarrailes, pero digamos que hay
19:54diferentes tipos de guardarrailes o
19:56tipos de de salvaguardas o de o de
19:59stoppers, este de alguna manera que
20:01ayudan a cuidar un poco esto porque pues
20:04también por otro lado también tenemos
20:05mucha gente, algo que es también casi
20:07como de eh de risa, pero en en X eh
20:12Twitter, eh, pues la gente usa este el
20:16modelo de Grock para andar encuando
20:18mujeres, ¿no? Entonces, o sea, el mundo
20:21es el mundo tiene muchos muchos
20:24escenarios, mucha gente y la verdad,
20:26como dices, Alex, es difícil este hacer
20:29un traje que le queda a todo el mundo,
20:31¿no?
20:32Así es. Sí, creo que eh cada vez vamos a
20:35ver un poco más de de modelos que están
20:39hechos a la medida de cierto caso en
20:41específico y en ese sentido vemos mucho
20:44algunas empresas eh de Legaltech que
20:46tienen modelos específicos para ciertos
20:49casos, ¿no? Entonces, en ese sentido, eh
20:52parte de la razón de eso es porque se
20:55liberan ciertos seguros con base en todo
20:58como el el como las garantías que se dan
21:01durante el entrenamiento, ¿no? Entonces,
21:03en ese sentido sí puede eh y digo, a lo
21:06mejor aquí me estoy desviando un poco,
21:08pero existen estos modelos como híbridos
21:10donde además del modelo per sé que
21:13ustedes ven como chat GPT, hay ciertos
21:15como checks que se hacen que son reglas
21:19más poderosas y con los cuales ya tú
21:21puedes tomar a lo mejor una decisión un
21:22poco más eh más arriesgada, vamos a
21:25llamarle, pero en un modelo así nada más
21:29que nosotros veamos en en chat GPT y
21:31sobre todo eh comercial gratis, eh muy
21:35probablemente no va a estar preparado
21:37para tomar este tipo de decisiones, ¿no?
21:38Correcto. Y eso es importante porque si
21:40ustedes no usan modelos especializados o
21:45que los modelos tengan este tipo de
21:47salvaguardas o van a limitar algunas
21:50cosas, pues bueno, no les va a servir de
21:51mucho, ¿no? Eh, y luego, bueno, pues no
21:54hay un vigilante interno, ¿no? No es
21:55como que ay, este sí, este no, o sea,
21:58realmente pues es un algoritmo que de
21:59alguna manera tiene estos eh procesos
22:02como de detectar si existe o no existe
22:06alguna de estas conductas. eh la
22:07discriminación o los siesgos eh
22:10raciales, eh sigos eh de características
22:14eh no sé, económicas eh es decir,
22:17cualquier tipo de sesgo intentar
22:20bloquearlo o va a intentar decidir. Pero
22:22también es bien interesante porque
22:24después eh pasó lo contrario, ¿no? De
22:27pronto hubo un modelo de de Google que
22:30decían, "Hazme un este los fundadores de
22:34Estados Unidos." y mezclaba asiáticos
22:37con este personas de raza negra, con
22:40pues dices, "No, a ver, pues esto no es
22:41históricamente real, o sea, no." O sea,
22:44digamos que por ser y obviamente pues la
22:47gente después empieza con los objetivos,
22:49pero por ser w por ser demasiado este
22:54incluyente terminas por ser realmente
22:58poco efectivo, ¿no? Entonces es un
23:00balance pues muy complicado, ¿no, Alex?
23:02O sea, el poder decir, "Oye, ¿cómo la
23:04hacemos para poder dar una respuesta
23:07correcta siempre ante cientos de miles
23:10de millones de peticiones todos los
23:13días?", No, porque estamos expuestos, o
23:14sea, la cantidad de uso de los modelos,
23:17los usuarios, interacciones son, o sea,
23:21miles, millones, ¿no? Incluso las que no
23:24no piensan solamente en las que ustedes
23:26y yo le preguntamos al chat, sino las
23:28que están pasando por debajo que no hay,
23:31o sea, por ejemplo, la calificación
23:34de un usuario para darle o no un
23:35crédito, no un chatbot detrás hay un hay
23:39un sistema agéntico que determina si
23:41eres uno o sujeto de crédito y también
23:43ahí que obviamente ustedes no van a
23:45estar expuestos a eso y la intención
23:47tampoco, pero solamente es por hablar de
23:48algo, son cientos de miles de
23:50interacciones las que ocurren diario.
23:53en las cuales los proveedores de modelos
23:57tienen que tratar de balancear, ¿no?, y
23:59tratar de identificar dónde está la
24:01justa medida para eh no eh pues digamos
24:05que nadie salga dañado, ¿no?
24:07Sí, ¿no? Justo creo que algo que que
24:09vale la pena mencionar es que y eso es
24:11un tema que ahorita está muy de moda en
24:13en la academia y y en la industria en
24:16inteligencia artificial es la parte como
24:17del pluralismo que existe en la
24:19inteligencia artificial, ¿no? Al final
24:22del día hay muchísimas definiciones de
24:24que es justo, ¿no? O sea, y esto puede
24:25ser tanto de persona a persona como de
24:28cultura a cultura o de sociedad a
24:29sociedad, ¿no? Entonces, en ese sentido,
24:32imagínense hacer un producto global como
24:34chat GPT y querer eh eh como que como
24:39bien dice Ricardo, querer manejar todas
24:42estas definiciones de justicia, pues
24:43bueno, al final va a terminar por
24:45quebrar esto porque lo que nosotros
24:47pensamos que es justo aquí no es ni
24:49siquiera para la persona que está al
24:50lado de mí, ¿no? Entonces, en ese
24:51sentido, eh conviene mucho eh
24:54primeramente sentarse para saber qué es
24:56lo que nosotros esperamos al hacer una
24:59pregunta y con base en eso puedes tú ya
25:01entrenar el modelo, ¿no? Pero como eso
25:03va a ser tan cambiante y tan subjetivo y
25:05incluso desde un punto de vista
25:07normativo, ¿verdad? Pongámonos a pensar,
25:09eh, pues, o sea, tenemos códigos que
25:11varían
25:14estadoido, ¿no? No, ni siquiera un
25:16modelo que que sea a nivel nacional
25:18quizás pudiese ser en ese sentido justo,
25:21¿no? Entonces, eh, de ahí sale, perdón,
25:24das das en un punto que creo que es bien
25:26importante entender y y esto esta esta
25:29parte me me encanta que lo tengo
25:31platicando contigo.
25:33Normalmente los modelos están
25:34entrenados, ¿os ha cuenta? Si estamos
25:37hablando de medicina, pues el cuerpo es
25:39igual un poco en China, en tú, en México
25:42o en Estados Unidos, la física, la
25:45matemática, las ciencias,
25:47digamos que estamos trabajando con un
25:50universo de conocimiento
25:53que tiene cierta firmeza, ¿no? tiene
25:55cierta cierta exactitud, pero cuando
25:58estamos en materia legal, lo que acabas
26:00de decir es no solamente los códigos,
26:04los usos, las costumbres, este, o sea,
26:07pasa mucho que en la escuela tú aprendes
26:09algo, pero la vida real es diferente.
26:11Eh, y mucho de lo que pasa también con
26:13los modelos es pues es difícil que tenga
26:17la respuesta correcta respecto del
26:19trámite administrativo para tus cuca,
26:21¿no? O sea, es es imposible que el
26:23modelo pueda prever eh todos los casos y
26:26de pronto creo que el hecho de no
26:28conocer o no tener el contexto correcto
26:31de parte del usuario de decir, "Oye, es
26:33que me contestó mal." Híjole, pues es
26:35que, o sea, sería muy iluso pensar que
26:38el modelo tiene toda la información del
26:41detalle específico, o sea, los
26:43parámetros o la cantidad de información
26:44que tiene un modelo son billones, pero
26:47son billones de todas las cosas, ¿no? O
26:49sea, digamos que de todas las las
26:51ciencias, todos los conocimientos
26:53humanos, es difícil que en específico
26:57tenga el detalle fino de eh o que la
27:00información esté disponible, porque
27:01muchas veces en este momento ya no
27:02solamente es el entrenamiento, sino el
27:05proceso agéntico y por proceso agéntico
27:07me refiero a la capacidad que tienen los
27:08modelos de ir a buscar información. Pero
27:11si la información no está disponible en
27:13internet, pues es difícil este y sobre
27:16todo con
27:18que tienes una formación académica, que
27:21tienes una especialidad, tienes años de
27:22experiencia, tienes experiencia de de
27:24vivida, de ver la regado, de haber hecho
27:26cosas bien, cosas mal, difícilmente ese
27:30ese conocimiento que tú tienes lo va a
27:32tener el modelo tan específico como lo
27:34tienes tú. Entonces, creo que también es
27:36bien importante poder poner como en
27:39contexto a los usuarios de estos modelos
27:42que más allá de que se equivoquen, pues
27:44es que muchas veces ni siquiera tienen
27:46información eh adecuada para poder tomar
27:48la decisión, ¿no?
27:52Así es, completamente.
27:56Y bueno, eh hay de modelos a modelos.
27:59Este mismo ejercicio lo hicimos con un
28:01modelo llamado Dipsic, un modelo chino,
28:04un modelo open source, un modelo
28:06gratuito. Este misma pregunta y lo que
28:10vamos a ver es un poquito revelador
28:12porque este voy a darle un clic aquí al
28:15a la presentación para que ustedes
28:17puedan ver exactamente lo que me dijo el
28:18modelo. Aquí justamente le pregunté y
28:21empieza a ser un pues como una cadena de
28:23pensamiento que realmente este reflejo
28:26que ven ustedes afuera no no
28:27necesariamente es lo que realmente pasa
28:30dentro, es como un una forma de
28:34explicarnos o de transparentar eh qué
28:37está pasando. Y si se fijan, hay toda
28:39una eh un flujo como de ida y vuelta.
28:43Dice, "Oye, el usuario dice que le
28:45robaron el local de la esquina. Tenemos
28:47a dos sospechosos. ¿Quién crees que
28:49pueda hacer? El usuario produccionando
28:51imágenes es decir, nos va dando como el
28:53el punto imagen uno, imagen dos,
28:55pregunta, ¿quién creo que es y por qué?
28:58Identificar objetivos. Entonces, aquí el
29:01propio modelo se gestiona o se genera.
29:04digo, lo bonito de Lipsic, lo único que
29:06yo creo que es bueno es que te que te
29:09refleja un poco como ese flujo de
29:11proceso de de decisión o de o de o de
29:15análisis que tiene la IA eh de una forma
29:19eh que puede llegar a ser interesante.
29:21Entonces, dice, "Reconocer que soy
29:24no puedo juzgar culpabilidad basándome
29:26únicamente en la apariencia." Aquí muy
29:28bien abordar la obvia implicación del
29:31estereotipo, es decir, detectó que hay
29:33un tema de estereotipos. El hombre de la
29:35primera imagen se ajusta un estereotipo
29:37de criminal callejero. Ya, ya hay
29:40criminal callejero. Eh, la segunda
29:42ajusta un estereotipo de ciudadano
29:43respetable, proporcionar un análisis
29:45neutral y responsable, es decir, se está
29:48auto determinando como cuál es la el
29:51objetivo. Eh, pero si tengo que
29:54contestar basándome en quién crees que
29:56podría ser dadas las estadísticas y el
29:59contexto visual, es una respuesta
30:01habitual. es culpar al primer hombre,
30:03pero perdón, en la respuesta habitual es
30:06culpar al primer hombre, pero mencionar
30:08que es sesgo. O sea, después dice darse
30:11cuenta que un soy un elemen responsable,
30:14darse cuenta que aunque el primer hombre
30:15parezca parece áspero, hay que
30:17considerar que la apariencia física por
30:19sí sola no determina el crimen. Darse
30:21cuenta que proporciona una buena
30:23respuesta este
30:25reconocer el estereotipo, bla bla bla,
30:28¿no? Entonces, aquí empieza a serística,
30:30eh, decisión,
30:32entonces mencionar riesgo de apariencia,
30:35mencionar las diferencias visuales,
30:36pobreza extrema contra estilo de vida
30:38establecido y a partir de aquí este
30:41empieza a generar advertencias,
30:43observaciones, problemas de estereotipo,
30:44posibilidad de alternativa y una
30:46conclusión, ¿no? Eh, la conclusión es
30:49que se necesita más evidencia, no
30:50solamente una foto para este tener. Y
30:53aquí empieza a hacer una simulación
30:55escrita. Taca taca tiqui tiquip. Eh, y a
30:58partir de aquí,
31:00a pesar de que hizo todo esto, termina
31:06por decirnos que el segundo hombre es
31:07más peligroso en el sentido del sesgo de
31:09apariencia.
31:10O sea, a pesar de que hizo todo, termina
31:13por primero decir que el primer hombre
31:16encaja con el estereotipo clásico
31:18delincuente callejero, carterista.
31:20Este, eh, barba, tupida, expresión dura.
31:25Eh, además atrás tiene un cartel de la
31:27zona central de la ciudad de México, lo
31:28que sugiere que es una zona de alta
31:30frecuencia de personas, situación de
31:31calle, eh un perfil que sea visualmente
31:34común para robos, o sea, te dice, o sea,
31:38digamos que Entonces, bueno, en resumen,
31:40si vamos por el cliché visual, este, y
31:42lo que la sociedad está condicionada a
31:44pensar, el primero, pero en la vida real
31:47atrapar un criminal no se usa este no se
31:51usa su cara, sino pruebas va, ¿no?
31:54Entonces, bueno, al final si se fijan,
31:57sí dentro del flujo, pues sí hubo, o
32:00sea, sí se avienta sus pensamientos,
32:02este, que pudieran llegar a ser medio
32:04tachables, eh, y al final pues bueno,
32:07termina por por darnos este, o sea, un
32:10poco lo interesante de esto es como
32:13dentro de ese flujo y pensamiento, que
32:15son cosas que ocurren en milésimas de
32:18segundo, pues nos trae una decisión.
32:21Alex, no sé si algo de esto te parece
32:23relevante en ese sentido.
32:25Pues sí, creo que digo, quizás a lo
32:27mejor convenga platicar un poco de dónde
32:30vino este ejemplo. Creo que que ayuda
32:32mucho a darle un poco de como que de
32:37realismo en el sentido, porque a lo
32:38mejor mucha gente se va a preguntar,
32:39bueno, pero y en qué momento yo voy a a
32:42tomar, ¿no? O sea, yo yo no veo o no
32:45imagino el mundo en donde yo le ponga
32:49dos imágenes y le pida al modelo decir,
32:51¿no? Pero bueno, todo esto justamente
32:53nació porque aquí en Stanford yo estaba
32:56eh caminando y quería eh comprar una
32:58bicicleta, pero no sabía cuál. Y
33:00entonces estaba yo la escuela de derecho
33:03y vi una bicicleta que me gustaba mucho
33:04y le tomé foto y al tomarle foto pues la
33:07bicicleta estaba como un poco volteada.
33:09Entonces la agarré con mi mano, le tomé
33:10foto y le pregunté a chat GPT y dije,
33:12"Bueno, ¿cuánto cuesta esta bicicleta?",
33:13¿no? Y cuando me da eso, cuando me da la
33:16respuesta, me puse a pensar y dije,
33:17"Bueno, pues es que se ve mi mano que
33:19soy de de Tes Morena." Me imagino y
33:22justo iba caminando, iba caminando con
33:24un compañero que es muy blanco y dije,
33:26me pregunto si pongo si él es el que
33:28está sosteniendo la bicicleta, si va a
33:30salir un precio distinto, ¿no? y a lo
33:31mejor
33:33de ese ejemplo en particular, pero pero
33:35con con esto quiero eh como que sentar
33:38un poco el realismo de que muchas veces
33:41nosotros no nos percatamos, pero estamos
33:44eh usando estos modelos para tomar
33:45ciertas decisiones y el modelo va, como
33:47es tan inteligente y está entrenado en
33:50tantos patrones, va a dar va a agarrar
33:53cierto cierta ruta en donde nos va a dar
33:56una respuesta, pero nosotros no sabemos
33:57que esa ruta está tomando ciertos
33:59prejuicios, ¿no? Y y y creo que lo más
34:03importante de todo esto es estar al
34:05tanto de que cuando nosotros usamos este
34:07modelo
34:09siempre hay que pensar en el bueno,
34:11realmente o sea se está tomando una
34:14decisión completamente limpia o hay
34:16ciertos patrones o proxis que ahorita lo
34:18vamos a platicar de donde el modelo se
34:20pueda estar agarrando para dar esa
34:22inferencia, ¿no? Y en este sentido, lo
34:24que nosotros terminamos haciendo fue que
34:25eh le tomé una fotografía a mi compañero
34:29sosteniendo la bicicleta, pero de cuerpo
34:31completo y luego yo me tomé una foto de
34:34en la misma pose. Obviamente, pues
34:35bueno, las la ropa y demás no era no era
34:38lo mismo, pero al final del día corrimos
34:40la misma pregunta 1000 veces y y por y
34:44el precio de la bicicleta para él eran
34:46000 y para mí eran $300, ¿no? Entonces,
34:49pues bueno, hay una gran diferencia de
34:51la que ahorita vamos a platicar más
34:52adelante.
34:53Sí, justo justo el el poner este ejemplo
34:56es decirle, existen estos guardarrailes
34:59o existen estas estos seguros que cuando
35:02el sistema, en este caso de la
35:04inteligencia artificial detecta que
35:07puede haber una potencial
35:10discriminación,
35:14dice, "Ay, ay, ay, aquí me están
35:16preguntando lo que puede ser
35:16discriminatorio. este, me voy a poner mi
35:18cachucha de la moralidad y voy a
35:20responder de forma correcta. Pero justo
35:23viene este segundo ejemplo, es decir, se
35:26se se este viene el segundo ejemplo en
35:28el que tú dices, "Oye, tienes a Mike y
35:31tienes a Miguel y los dos sostienen esta
35:34bicicleta y le preguntas justamente lo
35:36que hice el modelo varias veces y yo
35:38también hice este mismo experimento
35:40usando otra que se llama Grock." Y aquí
35:43por un lado al ciudadano de Tes Blanca
35:46nos dijo que la bicicleta siendo la
35:49misma bicicleta, si se fijan, es
35:50exactamente la misma bicicleta, misma
35:51pose, misma, lo único que cambia es eh
35:54pues el el amigo, eh pero aquí pues nos
35:56dicen que esta bicicleta cuesta 500,
35:591500 y en el caso de nuestro amigo
36:01Moreno dice que 300,
36:04es decir, aquí no se activa el CES
36:12puso una
36:14preguntándole cuánto cuesta la bicicleta
36:16de aquí o la bicicleta de acá, sino se
36:18corrieron dos preguntas por separado
36:20donde el único que cambió fue el sujeto
36:22que sostiene la bicicleta y la respuesta
36:25genera un sesgo. Pero lo que lo que
36:28queremos decirles con esto es no se
36:30vayan con la finta con creer que con que
36:32la IA les diga que no. Aquí está muy
36:35marcado el que se detecte la la
36:37posibilidad de que ay, hay un sesgo, te
36:39voy a responder de forma correcta, pero
36:41la vida real es más como esto, es más
36:44donde no vamos a prever, no hay una
36:46comparación one on one, no hay una
36:48comparación uno a uno en el que podamos
36:49determinar este que se activen estas
36:52salvaguardas o que se activen estas
36:54posibilidades en las que el modelo
36:56detecte que hay una posibilidad de de
36:59hacer discriminación, pero la va a
37:02hacer, ¿no? que esta es la parte que de
37:04pronto puede llegar a ser más
37:05complicada. Y pusimos una tercera imagen
37:08con una persona que parecía en situación
37:11más vulnerable y le bajó el precio de la
37:13bicicleta a $100, ¿no? Entonces, misma
37:16bicicleta, pero en este caso nos dio
37:19este completamente diferencias respecto
37:22a el valor de la misma y justamente es
37:25lo que dices, Alex. O sea, al final aquí
37:27el día la comparación burda activa la
37:31salvaguarda, pero la comparación o la o
37:34el día a día, que es el que ustedes y yo
37:37vivimos, no activa, no se da cuenta. Es
37:40digamos que este es un sesgo que el
37:42guardarrael no ve. Es un sesgo que no
37:45permite que se active porque no tiene el
37:48contexto, porque no sabe realmente, pero
37:50aún así genera la discriminación sin
37:52digamos que de forma involuntaria, ¿no?
37:56Así es.
37:59Bueno, y cuéntanos un poco más. Tú tú
38:01publicaste este paper, tú generaste esta
38:03idea, este experimento es buenísimo. Sé
38:05que gente de Open AI, sé que gente de
38:07los laboratorios más grandes se
38:08acercaron a ti, lo publicaste hace
38:11poquito más de un año. cuéntanos un poco
38:13qué efecto tuvo este modelo y qué
38:16consecuencias tiene para la vida de los
38:19juzgadores, de la gente que se dedicada
38:21estas materias, de el día a día, hasta
38:24incluso el hecho de decir, "Oye, este
38:25modelo va a decidir quién tiene crédito,
38:28quién no, quién se emplea quién no,
38:31quién accede a a lo mejor este a la
38:34renta de un departamento en un lugar o
38:37no." simple y sencillamente porque sin
38:39quererlo se activó un sesgo que no es de
38:42comparación, pero que terminó haciendo
38:45haciendo este esta discriminación de
38:48forma este digamos que involuntaria,
38:50¿no?
38:52Así es. Sí, justamente este artículo lo
38:55publicamos hace ya un buen rato en
38:57términos de inteligencia artificial, en
38:59términos de de línea temporal normal,
39:02pues fue es es reciente, pero pues
39:04bueno, algunos de los modelos eh que
39:06utilizamos ya están bastante obsoletos,
39:08pero hemos hecho estudios eh vaya, hemos
39:12hecho el mismo estudio en repetidas
39:14ocasiones con con los modelos más nuevos
39:17y seguimos viendo este mismo patrón,
39:18pero básicamente lo que hicimos fue
39:21utilizamos un truco
39:22eh que existe en la investigación
39:26sociológica y que es usar nombres que
39:29tienen una gran correlación con raza y
39:32con género y los usamos para pedir para
39:35pedir eh consejos de las de los modelos
39:38de inteligencia artificial y medimos los
39:41resultados. Entonces, básicamente eh
39:43estos estos nombres los usamos como
39:45proxis. Entonces, imagínense, nosotros
39:47le preguntábamos al modelo, eh, por
39:49ejemplo, en el caso de de la bicicleta o
39:51o de un carro, quiero comprar un carro
39:54eh Nissan, eh esta es la marca, el año,
39:56etcétera, y es vendido por eh Hunter
40:00Becker. Por ejemplo, Hunter Becker era
40:01un hombre que acorde a la literatura
40:03sociológica se es está altamente
40:06correlacionado con la raza blanca y y y
40:09con y con los hombres. Entonces el
40:11resultado del modelo al preguntarle eso
40:13decía, "Ah, bueno, un carro que va a
40:15vender Hunter Becker debe costar
40:16$1,000." Y luego le preguntamos, "Ah,
40:19bueno, oye, ¿y ahora voy a comprar este
40:21carro eh que me lo va a vender llamal
40:23Washington?" Todo es igual, a excepción
40:25del nombre. Y ahora el el modelo decía,
40:27"Bueno, voy a a a deberías de ofrecerle
40:31$100." ¿no? Entonces, la diferencia
40:33encontramos diferencias estadísticamente
40:35significativas y y esto lo hicimos para
40:38muchos escenarios y muchos casos. Por
40:40ejemplo, el caso de salarios es otra
40:43cosa que que nosotros hacíamos y vimos
40:45diferencias en género. Entonces, por
40:47ejemplo, oye, voy a trabajar como
40:49abogado, este, estoy por tener mi
40:52entrevista, ¿cuánto debo de de pedir
40:54como salario inicial? Y entonces las
40:56diferencias eran bastante grandes lo que
40:58le dice a un a un hombre relacionado con
41:01los hombres y a un hombre relacionado
41:02con las mujeres. Y entonces este truco
41:06es algo que que se ha usado por años en
41:08en estudios de currículums, donde
41:11normalmente lo que se hacía era que se
41:12mandaban currículums eh donde todo era
41:15igual, excepción del nombre, a
41:16diferentes empresas y luego se medía la
41:19tasa de de como de callback, o sea, de
41:22que te vuelvan a hablar para tu
41:23entrevista y se y se encontraban que
41:26existían eh diferencias, bueno, ahora
41:28nosotros usamos ese ejemplo, pero para
41:29modelos de inteligencia artificial y
41:31vemos estas diferencias Igualmente,
41:33digo, al final del día quizás pueda ser
41:36un resultado obvio en el sentido de,
41:38bueno, pues es que si los modelos están
41:39entrenados en en data que es
41:42discriminatoria, pues van a tener
41:43resultados discriminatorios. al día
41:45siguen esos patrones, ¿no? Pero pero es
41:47algo que no se había medido y al menos
41:48no con estos trucos precisamente por
41:50todos los guard rails que existían, ¿no?
41:52Entonces eh esto tiene pues
41:54implicaciones bastante interesantes y de
41:57hecho quisiera mencionar que no es un
41:59sesgo hacia un lado o al otro, ¿no? Y
42:01eso es algo que que es es importante
42:04mencionar. Por ejemplo, uno de los casos
42:06de los que hablamos son deportes y
42:07entonces nosotros decimos, "Oye, quiero
42:09reclutar a Yamal Washington para ser mi
42:12jugador de basquetbol. en qué en qué
42:14draft picklo, ¿no? Y y para los nombres
42:17asociados con la raza afroamericana, el
42:19modelo dice pics muy altos, pero para
42:22nombres asociados con con raza blanca,
42:23pues dice dice pics muy bajos, ¿no?
42:25Entonces ahí el el sesgo se volteó y
42:28digo, es algo que va muy acorde con los
42:30estereotipos que que tenemos, ¿no?
42:32Entonces, en ese sentido eh es algo que
42:35va hacia los dos lados. Y otra cosa muy
42:36importante que nosotros eh un disclaimer
42:38que nosotros hacemos en el paper es que
42:40nosotros no estamos en contra de que los
42:43modelos tengan este sesgos. En este
42:46sentido, creemos que hay sesgos que a lo
42:48mejor ayudan. Por ejemplo, un un caso
42:51que nosotros mencionamos es el de sesgos
42:52financieros y nosotros notamos que eh al
42:55momento de usar nombres afroamericanos,
42:58el el en para eh sugerencias de
43:01inversiones suelen hacer eh como que
43:05recomendaciones un poco más eh
43:07conservadoras versus eh para eh personas
43:11con hombres de de asociados con la con
43:13la raza blanca. Y en ese sentido, eh,
43:16nosotros mencionamos que pues bueno, al
43:18final del día esto es una decisión que
43:19le corresponde a los legisladores o que
43:21le corresponde a a la gente que se
43:23encarga de realizar las políticas
43:24públicas, de decir, bueno, esto es algo
43:26que queremos como sociedad o no, esto es
43:28algo que nos beneficie o no. Pero lo que
43:30es importante y que es menester eh
43:32mostrar es que existen estos sesgos y
43:34que se y queervecen al momento de de
43:37usar estos tenues cambios, como puede
43:39ser solamente el nombre, ¿no?
43:41Correcto. Sí. Y bueno, al final también
43:43que crean, o sea, que vean que detectar
43:46el sesgo puede llegar a ser mucho más
43:48complicado de lo que uno piensa, ¿no? al
43:50final del día hay que tener eh cuidado
43:54en pues no sé, en evaluar y saber y de
43:56pronto ustedes al final como como
44:00jueces, como gente que va a impartir
44:03justicia tiene que tener una doble vista
44:06y tiene que siempre cuestionarse si
44:09realmente
44:10lo que el modelo está haciendo es algo
44:13que ustedes hubieran hecho, ¿no? Hasta
44:14al final del día ustedes están en
44:16control. Este, digamos que dense más a
44:20ustedes el beneficio de la duda respecto
44:22a lo que ustedes hubieran hecho en
44:23términos normales. Si bien es cierto, el
44:26modelo va a generarles un apoyo absoluto
44:29para todo lo que tiene que ver con
44:31análisis, este, de alguna manera
44:34redacción, eh encontrar detalles
44:38importantes, eso es muy muy relevante,
44:41pero al final del día la decisión puede
44:43llegar a tener estas características de
44:44sesgos y por eso mismo es algo que
44:47tienen que saber y saberlo es importante
44:50también para que ustedes puedan
44:51prevenirlo y evitar que les pase ¿no?
44:54Que de pronto empiezan a tomar
44:56decisiones que provienen desde una eh un
45:00modelo que sin intención terminó
45:02afectando simplemente por los sesgos que
45:05conlleva su entrenamiento que es difícil
45:08poder este digamos que abstraerlos, ¿no?
45:12Y bueno, eh tienes estos gráficos eh que
45:15son muy complejos, pero si nos puedes
45:18simplificar, Alex, me encantaría para
45:19que todos podamos entender qué
45:21significan estos estos gráficos. Claro,
45:23claro. Pues bueno, esto nace de la
45:25pregunta natural que sigue del paper
45:27anterior y esto desembocó en nuestro
45:29siguiente paper, pero la pregunta
45:30natural es, okay, existen sesgos, pero
45:33podemos eliminarlos. ¿Hay forma de de
45:35removerlos? Y entonces eso fue lo que
45:37nos pusimos a hacer. Y digo, no me voy a
45:39meter mucho aquí en la parte técnica,
45:41pero imaginemos que, o sea, estos
45:43modelos son lo que se llaman redes
45:45neuronales, ¿no? Entonces, una red
45:47neuronal, podemos pensar que cada bolita
45:50que ustedes ven ahí son operaciones
45:51matemáticas, ¿sí? Y hay millones de
45:54operaciones, millones, de hecho, de
45:56operaciones matemáticas en cada en cada
45:58pregunta que nosotros le hacemos al
46:00modelo. ¿Sí? Entonces, la gráfica que
46:02ustedes ven a la izquierda eh es el
46:05resultado de de preguntar eh cuánto voy
46:09a pagar por el carro de Yamad Washington
46:11versus cuánto voy a pagar por el carro
46:13de Hunter Becker 100 veces. Entonces, al
46:16momento de hacerlo 100 veces se generan
46:18muchos resultados, ¿no? Nosotros ahí eh
46:21graficamos todos esos resultados y
46:23ustedes pueden ver que en donde dice
46:25black, que son todos resultados de los
46:27nombres eh afroamericanos, ven que que
46:30está casi una línea horizontal muy muy
46:33cerca del cero. Sin embargo, en el lado
46:35blanco, eh nosotros que estamos haciendo
46:38prácticamente la misma pregunta y
46:39solamente cambiando el nombre, vemos que
46:41los precios varían bastante y que hay
46:43muchos precios muy altos en relativos a
46:47los precios asociados con los nombres de
46:48de raza afroamericana. Entonces, en ese
46:50sentido, eh existe una desigualdad, ¿no?
46:53Entonces, nosotros nos metemos al
46:54modelo, vemos estos billones de
46:56operaciones matemáticas y descubrimos
46:58cuáles operaciones resultan en
47:01resultados muy altos e relativo a, o
47:04sea, cuando los comparas y los ves, haz
47:06cuenta que de lado al lado, cuando usas
47:08nombres afroamericanos versus cuando
47:09usas nombres blancos, vemos cuáles son
47:11las operaciones que más diferencia
47:13tienen y entonces ponemos una sobre la
47:15otra y agarramos esas operaciones que
47:17son muy, o sea, que tienen una
47:18influencia muy alta en el resultado
47:20final y las eliminamos. eliminamos por
47:23completo, lo botomizamos, es el es el
47:26término, eh por completo esas neuronas o
47:29esas operaciones matemáticas y luego
47:31volvemos a correr la misma pregunta 100
47:33veces y vemos aquí que ya la
47:35distribución, ya los resultados son
47:37exactamente iguales para ambos nombres,
47:39¿no? Entonces, es algo que nosotros
47:40hicimos y que descubrimos que es posible
47:42hacerlo y sin embargo, el el a lo mejor
47:46se van a preguntar, "Ah, bueno, entonces
47:47ya no tengo que preocuparme, ¿verdad? Ya
47:48no existen sesgos." Pues no, cuando
47:50nosotros, esto solamente es para el
47:51sesgo de nombres, para este caso en
47:53específico, ¿no? Cuando nosotros
47:55queremos usar eh eh vaya abstraer este
48:00esta solución a otros tipos de sesgo, a
48:03otros tipos de de casos un poco bastante
48:06diferentes a a sesgos financieros,
48:08tenemos sesgos de actividades, tenemos
48:11sesgos de deportes, etcétera. Realmente
48:14a pesar de que si reducimos el sesgo, no
48:16lo hacemos de una forma tan limpia como
48:18aquí se ve, ¿no? Entonces es una
48:20limitante nuestra solución que
48:22propusimos, pero pero hay formas de
48:24hacerlo, ¿no? Y y digo, este caso en
48:26particular para dar para dar el contexto
48:28de cómo nació esto, e nosotros aquí en
48:31Stanford tenemos una asociación con un
48:33banco y ese banco trajo a nosotros un
48:36caso de estudio, ¿no? Y ellos decían,
48:38"Bueno, es que yo cuando les doy eh
48:40cuando yo les doy a mis clientes estos
48:42programas de rewards o de puntos, eh
48:45resulta que cuando ellos quieren agendar
48:48eh restaurantes con estos puntos, vemos
48:50que les dan restaurantes muy distintos.
48:53Si si tu nombre, o sea, si eres una
48:54persona afroamericana versus si eres una
48:55persona blanca, ¿no? Y ellos dicen,
48:57"Nosotros no queremos que eso suceda.
48:59¿Cómo le hacemos?" ¿no? Entonces, para
49:00esa aplicación en específico, por
49:02ejemplo, este tipo de solución es muy
49:04buena porque solamente vas a usar el
49:07modelo para eso, ¿verdad? Pero si vas a
49:09usar el modelo para múltiples cosas,
49:10bueno, ahí ya esta solución se queda
49:12corta, ¿no? Y y realmente eh uno de los
49:15principales hallazgos de este paper es
49:17que pues los sesgos están alrededor de
49:19todas las toda la red neuronal, ¿no? No,
49:22no es algo que pueda solamente que
49:23exista en una región y que quites la
49:25región y ya como aquí, sino que al
49:28momento de tú ver en todos los casos, en
49:31todos los tipos de sesgo que que te que
49:33probamos, ves que estos estas
49:36operaciones matemáticas que tienen mucha
49:37influencia están regadas por toda la
49:39red. Entonces, realmente es algo que va
49:41a ser, al menos desde esta solución,
49:42casuístico, ¿no? Y y en el caso, por
49:44ejemplo, de este banco, pues bueno, esto
49:46es algo que funciona, pero a lo mejor en
49:47el caso de de un modelo en general, pues
49:50no va a ser eh tan efectivo.
49:53Y bueno, justo platicábamos acerca de de
49:57las proxis, ¿no? Este eh y qué
50:00significan las proxis, o sea, porque de
50:02pronto dicen, "Bueno, vamos anonimizando
50:04el expediente, ¿no? Ya con eso ya ya no
50:07vamos a saber y ya la no va a saber este
50:10quién es quién, ¿no? Pero pues la es más
50:13inteligente de lo que pensamos, ¿no? ya
50:15puede determinar eh por, no sé, me
50:18acuerdo mucho el ejemplo que hablabas
50:20acerca de el expediente donde había un
50:23currículum donde decía que la persona, a
50:26pesar de que no aparecía su nombre,
50:28había sido la eh presidenta de la
50:32Asociación de Alumnos de, no sé, algún
50:34tema, ¿no? Que era inferencia o que
50:37podía haber una inferencia que era
50:38mujer, ¿no? o una mujer de una cierto
50:42tipo de clase social o de algún tipo de
50:45interés en específico. Entonces, a pesar
50:48de que se hicieran
50:50algunas anonimizaciones,
50:53terminaba por detectar o por inferir
50:56este como si fuera un crucigrama eh de
50:59quién se trataba, ¿no? Es decir, al
51:01final del día, por más que quieras
51:02anonimizar, si anonimizas demasiado,
51:05pues le quitas información, vale, oosea
51:07para efectos de evaluación de cualquiera
51:10que sea naturaleza a las cosas. Es
51:11decir, anonimizar tanto que no tengas
51:15nada de información no no nos va a
51:17servir.
51:19Y anonimizar poco de poco no sirve
51:21porque también
51:23el modelo infiere, aunque nosotros
51:25intentemos que no lo haga, pero infiere
51:28o termina por inferir por medio de las
51:29proxis, ¿no? este el hecho de que eh no
51:32sé, platicábamos eh cómo me acuerdo en
51:35alguna conversación que tuvimos tú y yo,
51:36Alex, este, como de pronto algunos
51:39modelos eh de predicción de compras eh
51:43sabían que si te gustaba el culate, la
51:46sandía y el pollo frito, muy
51:48probablemente eras una persona de raza
51:49negra. En Estados Unidos es eso es muy
51:51común. Este, pero si te gustaban algunas
51:54otras cosas, probablemente ibas a ser
51:55una persona de raza blanca. Tu código
51:57postal, de dónde estás este haciendo las
51:59búsquedas, en qué lugar del país, en qué
52:02colonia. O sea, hay cosas de las cuales
52:05la IA va agarrar información y
52:07determinar sin, digamos que no de manera
52:11voluntaria, pero como parte del proceso,
52:13eh, quién eres y y este digamos quién
52:16eras en todo su espectro, ¿no?
52:21cuéntanos un poco tu
52:22Sí, quisiera agregar también que, o sea,
52:25algo muy interesante es que
52:28cuando nos, o sea, una persona pudiera
52:30decir, "Bueno, pero pues es que vamos a
52:31remover, como dices, todos estos proxis,
52:33¿no? Vamos a remover toda la
52:34información." Pues al final te va a
52:35quedar un modelo que no es bueno,
52:37¿verdad? te va a quedar un un modelo que
52:39que ni va a poder ser entrenado en en la
52:41información en mucha información útil,
52:43ni tampoco va a poder eh tener
52:46información necesaria para hacer una
52:47inferencia, ¿no? Entonces, existe ese
52:49tradeof que tienes que hacer entre ese
52:51trueueque entre la usabilidad o la
52:54utilidad del modelo versus qué tan o qué
52:57tanta parte de sesgo admite tu problema,
53:00¿no? y va a depender de caso a caso. Por
53:02ejemplo, pues a lo mejor en cuestiones
53:03médicas eh vemos que de hecho el
53:07profesor con el que trabajo aquí hizo un
53:08paper donde habló de que en cuestiones
53:10médicas a veces sí queremos un poco
53:11estos sesgos porque hay ciertas eh razas
53:15que son más propensas a tener ciertas
53:16enfermedades y en ese sentido, por
53:18ejemplo, la diabetes es o la
53:20hipertensión son enfermedades que están
53:22muy asociadas con ciertas razas y en ese
53:24sentido, pues si tú estás haciendo un
53:25algoritmo que requiera hacer alocación
53:28de recursos, pues bueno, sí vas a tener
53:29que tomar eso definitivamente en
53:31consideración y Y ahí sí vas a alimentar
53:34al modelo de estos proxis, ¿no? Pero en
53:36casos donde pues bajo las mismas
53:38condiciones, por ejemplo, en el salario,
53:40bajo el las mismas cualidades, pues no
53:42debería de haber una distinción. Y de
53:43hecho eso está incluso al menos en
53:44Estados Unidos pues está en contra de de
53:47la legislación eh pertinente laboral,
53:49¿no? Entonces, en ese sentido no hay, o
53:51sea, no no hay justificación para ello,
53:53¿no? Entonces, creo que que el entender
53:57estos proxis y es algo que lo platicaba
53:58con Ricardo es es algo muy importante
54:01porque no nuestra nuestras mentes no
54:04están a lo mejor diseñadas para para
54:06entender que pues bueno, cuando nosotros
54:09vemos que en el currículum ya escondimos
54:11el nombre, pensamos que a lo mejor el
54:13modelo ya ya no va a ser ninguna
54:15asociación a al género, pero luego si en
54:18la parte de abajo del currículum tú
54:20tienes que estuviste en el equipo
54:21femenil de voleibol o que estuviste o
54:23que fuiste la presidenta de de Woman in
54:26STEM, de las mujeres en ingeniería, pues
54:27bueno, ya le sigues dando información,
54:29pero si es información que quieres, ¿no?
54:31Al momento de hacer una de tomar una
54:32decisión laboral. Entonces, eh eh eh
54:35tomar esta hacer este trueueque o o esta
54:37comparación de de qué es lo que necesita
54:39tu modelo y y sobre todo con base en
54:41cuál es la tarea a la que lo quieres eh
54:44diseñar, para la que lo quieres diseñar,
54:46creo que es lo más importante que puedes
54:48hacer como pues como juzgador que está
54:50por usar estos modelos, ¿no?
54:53Y bueno, pues esto esto es importante
54:55que lo sepan porque al final es es
54:58interesante y a la vez también pues algo
55:01en lo que poco podemos hacer. O sea, les
55:04decimos esto no para que no usen los
55:06modelos, sino para que tengan una como
55:09una doble atención a el hecho de siempre
55:12cuestionarse y decir, "Mm, a ver, esto
55:17traerá o no traerá un sesgo, esto tendrá
55:19o no tendrá, porque al final del día
55:21ustedes en su labor tienen que evitar
55:24este bajo todos los escenarios posibles
55:26que esto ocurra. Entonces, sepan que
55:29esto es un riesgo que deben de correr,
55:31pero lo tienen que correr de manera
55:33informada, ¿no? Este, y ustedes están a
55:35cargo, ustedes están al mando, o sea, no
55:37podemos jamás delegar eh la decisión
55:39final o la la predeterminación de
55:42algunas cosas a la a la porque puede
55:44caer en estos sesgos, ¿no? Y bueno, algo
55:47también es bien relevante es tengamos
55:50mucho cuidado en que las cosas que vamos
55:53a estar escuchando, sobre todo mucha
55:56información, como yo les comentaba al
55:58inicio, este es un caso típico Compas y
56:01todo el mundo habla del Compas y el
56:02modelo en Estados Unidos que este hacía
56:06que se perfilara más eh como
56:08reincidentes a los negros sobre los
56:10blancos y se desactivó. Y señores, es de
56:142016, de 2016 a 2026, 10 años han pasado
56:19tantas cosas. Entonces,
56:23tengan como este criterio o o construyan
56:25este criterio de determinar que la
56:28información que están recibiendo,
56:30probablemente en 2006 sí era esta, pero
56:33en 2026 definitivamente no es la misma
56:37información. La la tecnología ha crecido
56:39muchísimo en estos años, incluso yo este
56:42creo que de un año para acá, 6 meses
56:44para acá, las cosas han cambiado tanto
56:46que es difícil eh tomar en cuenta o de
56:49alguna manera sí es un precedente
56:51interesante, pero no necesariamente
56:53refleja el estado actual de la
56:54tecnología. Entonces, eh tengamos
56:57criterios para también determinar si lo
56:59que sea que lo que nos dicen otros
57:01speakers, otras personas que hablan del
57:03tema, pregunten de cuándo es el estudio.
57:06Eso les va a reflejar mucho este qué tan
57:08valioso o qué tan útil es realmente en
57:11términos de el valor de la información,
57:15porque no necesariamente va a ser tan
57:16fresco y si no está fresco, entonces no
57:18es la tecnología con la que estamos
57:20actuando, con la que estamos eh digamos
57:23que trabajando actualmente, ¿no? No sé
57:26si esto tengas alguna algún comentario
57:28adicional, Alex, para pasarnos ya a
57:30otros temas.
57:31Claro, ¿no? Continuemos.
57:34Perfecto.
57:36Bueno, eh vamos a brincarnos a a tema de
57:40transparencia, a temas de auditoría,
57:42porque también es un tema que yo escucho
57:44muchísimo y de pronto no sé si hasta me
57:46genera cierta molestia, porque quien
57:48normalmente de quien escucho la
57:50exigencia de transparencia,
57:52etiquetación, eh es de la gente más
57:54ignorante. La gente que más lo pide y
57:57más lo exige y más habla el tema es la
57:59gente que yo sé que no tiene la más
58:03remota idea de cómo funciona. Es como
58:06cuate, no tienes ni idea de lo que estás
58:08hablando, ¿no? Entonces también tengan
58:11mucho cuidado con esa gente que
58:12vocifera, porque normalmente lo que está
58:14pasando es que son pericos que repiten
58:16lo que otros pericos dijeron y se hace
58:18un teléfono descompuesto y la gente lo
58:20cree con fervor, o sea, te lo exige y te
58:23obliga y te dice, "No, es que la
58:25transparencia y es que la explicabilidad
58:28y la caja negra, cuate, no tienes la
58:31menor idea de lo que es un modelo de
58:33lenguaje, no tienes ni la más remota
58:37idea de cómo funciona. Luego entonces es
58:40es muy difícil o es muy fácil saber que
58:43no entiendes lo que estás pidiendo, ¿no?
58:46Eh, entonces, bueno, este es un tema que
58:48que se repite mucho, que me preocupa a
58:51mí mucho, porque también el hecho de
58:53creer o de pronto escuchar gente que lo
58:55dice con tanta seguridad hace que los
58:58demás lo repitan con esa misma
58:59seguridad. La realidad es que es más
59:01falso que nada y la gente escucha y
59:04dice, "Quiero saber por qué Leya decide
59:06lo que decide. Queremos transparencia,
59:08queremos explicabilidad, este lo van a
59:10plasmar en en en documentos oficiales,
59:13lo van a plasmar en regulación.
59:16Perdón, pero es, o sea, es es muy
59:20complicado y ahorita vamos a explicarles
59:21al menos desde mi perspectiva, porque
59:23esto lo hice yo. Alex, por favor, si
59:24algo que no estés tan de acuerdo, por
59:26favor, haz este
59:29haz tu tus anotaciones, construcciones.
59:31Pero la pregunta seria también sería es,
59:34¿tú como persona, tú sabes
59:38por qué decides lo que decides? O sea, a
59:39lo mejor suena muy filosófico, pero ¿qué
59:42te hace? Todos somos humanos, somos
59:44cientos de miles, millones de personas.
59:47Cada quien tenemos preferencias, gustos,
59:49intenciones, eh sabiduría, complejos y
59:54cada quien tomamos decisiones
59:55diferentes, ¿no? Por nada somos tantos y
59:57y para gusto los colores, ¿no? Entonces,
59:59de pronto, si ni siquiera tú sabes cómo
1:00:02funciona tu mente y cómo tomas
1:00:03decisiones, eh, pues un poquito funciona
1:00:06igual, ¿no? Y la tiene algunas capas,
1:00:10¿no? Tiene su entrenamiento, su
1:00:12entrenamiento base, que es como el motor
1:00:14más importante. Después puede tener fine
1:00:17tuning. El fine tuning es como es es
1:00:19agregar información con la que se mezcla
1:00:21el entrenamiento inicial para para
1:00:22digamos que especializar una
1:00:26para una materia en específico o para un
1:00:28fin en particular.
1:00:30Tenemos optimizaciones, tenemos
1:00:33configuraciones como el system promp,
1:00:35como guardarrailes o como estos límites
1:00:38este de que hablamos previamente.
1:00:41Tenemos el contexto del usuario, tenemos
1:00:43la conversación que se está fraguando,
1:00:46el hecho de que la sepa que eres una
1:00:48persona así o allá, la forma en la que
1:00:50se te dirige a ti o las cosas que tiene
1:00:52que cuidar como parte del sistema, el
1:00:54rago, el acceso a información que le vas
1:00:56a proveer, la calidad de la misma
1:00:57también, porque evidentemente pues este
1:01:00muchas veces pasa que la gente cree que
1:01:02les va a adivinar el pensamiento o la o
1:01:03la información que le estás poniendo es
1:01:05insuficiente.
1:01:06lo que les decíamos, o sea, el hecho de
1:01:08que la IA pueda tomar una decisión
1:01:10respecto de un contexto particular en un
1:01:12tiempo determinado tan específico, a lo
1:01:15mejor no es información disponible,
1:01:17incluso aunque la conectas a internet,
1:01:18no hay manera que tú le puedas dar ese
1:01:22contexto o que lo obtenga de alguna
1:01:24forma el contexto de la capacidad de la
1:01:27IA para poder procesar información. Ahí
1:01:30las sillas tienen es como un vaso de
1:01:32agua que de pronto si le echas agua de
1:01:34más se se sale, o sea, hay una capacidad
1:01:37y un límite de razonabilidad o hay un
1:01:40una capacidad máxima de contexto que
1:01:42puede obtener la ella para poder razonar
1:01:44y fuera de eso entonces vamos a estar
1:01:47desbordando un poco este contenido y
1:01:49cada modelo y cada producto tiene una
1:01:52capacidad diferente y eso es una
1:01:54cuestión un poco más técnica, pero
1:01:56también por eso es importante pagar por
1:01:58modelos, porque Entre más pagamos, mejor
1:02:01calidad de producto tenemos y
1:02:03evidentemente flujos egénticos, ¿no? El
1:02:05hecho de cómo se construyó
1:02:08la arquitectura en la que tú vas a
1:02:10trabajar, si va a tener acceso a fuentes
1:02:12de internet o no, si la fuente de
1:02:14internet que va a tomar como referencia
1:02:17tiene información cierta o no, si va a
1:02:19ser una estructura cerrada que solamente
1:02:22va a poder tener acceso a información.
1:02:25Entonces, todo esto se parece mucho a lo
1:02:27que haces tú, tu formación,
1:02:29licenciatura, tu expresación en materia,
1:02:31tus mentores, tu experiencia, tu
1:02:34mandato, tu rol, tu ética. No podrás
1:02:36tener todo bien, pero si eres medio
1:02:38corruptillo ahí, pues evidentemente las
1:02:40cosas no van a salir bien. Eh, las
1:02:42partes de su historia, ¿qué vas a
1:02:44consultar? O sea, digamos que tiene su
1:02:46paralelismo. La analogía a lo mejor no
1:02:48es exacta, pero se parece, ¿no? Es son
1:02:51capas y capas de cientos de variables
1:02:54que hacen que los modelos
1:02:57puedan tener desequilibrios o puedan
1:03:00llegar, o sea, si algo de esto está
1:03:02roto, el resultado no va a ser el que
1:03:05ustedes este están esperando, ¿no?
1:03:07Entonces, Alex, no sé si en este sentido
1:03:10te gustaría agregar algo de lo que de lo
1:03:12dije. Obviamente tomo completa
1:03:14responsabilidad por lo que está en
1:03:15pantalla. una forma en la que yo puedo
1:03:17expresarles eh de una forma
1:03:19sobresimplificada la complejidad, porque
1:03:21al final del día esto es mucho más
1:03:23complejo de lo que se ve ahí, pero es
1:03:24una forma de explicarles la cantidad de
1:03:26variables que hay detrás de lo que se
1:03:30conoce como output o la respuesta que te
1:03:32da una a una pregunta y que todo esto
1:03:35está en equilibrio o si algo de esto
1:03:37está en desequilibrio va a afectar
1:03:39nuestro resultado, ¿no? Sí, creo que eh
1:03:43das das muy bien con este punto. Al
1:03:46final del día, algo que me ha tocado ver
1:03:48es que cuando la gente como que quiere
1:03:51hacer sus sus eh análisis de
1:03:53trazabilidad, suelen eh solamente
1:03:55enfocarse en uno de los de los modos o
1:03:57en uno de las partes de toda esta de
1:03:59toda esta flujo, ¿no? Entonces es
1:04:03importante, como bien dijo Ricardo, pues
1:04:05toda cada una de estas capas y cada una
1:04:07de estos instrumentos tiene sus propios
1:04:09sesgos y tiene su propio riesgo, nivel
1:04:11de riesgo y bueno, todo compuesto pues
1:04:13todavía incrementa más, ¿no? Entonces el
1:04:16hecho de que de que a lo mejor nosotros
1:04:18digamos, bueno, pues sabes qué es que
1:04:19este modelo está entrenado o este modelo
1:04:21tiene cierto tipo de, no sé, o sea, yo
1:04:24ya le puse un system prompt le puse, no
1:04:27te no esté sesgado, trata todos con
1:04:29igual y demás. Bueno, al final del día
1:04:32va a ser muy poco, o sea, miren todo el
1:04:34el la lo envuelto o lo complejo que es
1:04:38el modelo, ¿no? O sea, desde la parte
1:04:40del entrenamiento, de hecho, hay un un
1:04:42grupo de de investigadores aquí en en
1:04:45Estados Unidos que hicieron su propio
1:04:47modelo desde cero y entonces en la parte
1:04:49del entrenamiento usaron pura data
1:04:51jurídica y pura data limpia, por así
1:04:54decirlo. Y entonces en ese sentido salía
1:04:58muy alto en en cuestiones de de
1:05:02toxicidad, o sea, salía muy bajo en
1:05:04toxicidad, pues comparado a los otros
1:05:07modelos que hay ahí afuera, pues porque
1:05:08claramente la data de entrenamiento era
1:05:11de más calidad, ¿no? Entonces, en ese
1:05:12sentido, pues hay muchísimas variables
1:05:14que que le metemos y que sobre todo para
1:05:18alguien que a lo mejor no está en uno de
1:05:20estos laboratorios de frontera, pues muy
1:05:22probablemente no todas las decisiones o
1:05:24no toda la información la vas a tener,
1:05:26¿verdad? Entonces, hay que manejar con
1:05:28mucha cautela el uso de estos modelos
1:05:29porque, bueno, la mayoría de los modelos
1:05:31cerrados que le llamamos cerrados
1:05:33significa que no te dicen con qué data
1:05:35se entrenó, no te dicen el
1:05:37entrenamiento, los modelos matemáticos
1:05:39que usaron, cuáles son las reglas que
1:05:41utilizaron, ¿no? Entonces, en ese
1:05:42sentido, desde ahí ya vamos perdiendo en
1:05:44toda en la primera capa, ¿verdad? Pero
1:05:46fíjate que aún así también muchas veces
1:05:48es, imagínate que tú tienes una
1:05:51pastelería y tienes un pastel increíble
1:05:53y dice, "No, quiero saber la receta
1:05:56exacta, las medidas, el espérame, pues
1:05:59es que es parte de mi es parte de mi
1:06:01knohow, o sea, ¿por qué tendría que
1:06:03darte toda mi o sea toda mi
1:06:05investigación de años de trabajo?" O
1:06:08sea, perdón, pero tampoco es que sea
1:06:10justo, ¿no? O sea, es que pedimos así
1:06:12como exigencia, esate, o sea, y al final
1:06:15del día son inversión, decenas de de
1:06:18horas de de de años de trabajo, o sea,
1:06:22para decir, "Ah, dámelo." No, pues no,
1:06:25¿por qué no? O sea, pero también la otra
1:06:28que es la transparencia y la
1:06:30transparencia está compuesta por muchas
1:06:32cosas, ¿no? O sea, es es la
1:06:34explicabilidad los propios laboratorios.
1:06:38tienen que trabajar con el hecho de que
1:06:39ni siquiera, o sea, ni siquiera saben
1:06:42bien a ciencia cierta por qué el modelo
1:06:44hizo lo que hizo, ¿no? O sea, es como
1:06:46muy poco,
1:06:49o sea, es muy es muchísimo más complejo
1:06:51de lo que aparentaría ser este eh
1:06:54digamos cuando cuando esas nuevas capas
1:06:56son, o sea, es una sobresimplificación
1:06:59de todo lo que implica, ¿no?
1:07:02Sí, así es.
1:07:04Y bueno, lo que les comentábamos es un
1:07:07es un equilibrio delicado, todas estas
1:07:10capas tienen que estar bien y al final
1:07:11es un poco como decimos con las cadenas,
1:07:14es tan fuerte como su eslabón más débil.
1:07:16Entonces,
1:07:17¿cuál es su parte de responsabilidad?
1:07:20Número uno, que la información que le
1:07:23dan el modelo sea información
1:07:26cuidada, que esté bien estructurada, que
1:07:29digamos que ustedes digamos que ustedes
1:07:31no pueden
1:07:33dentro de toda esta dentro de todo esto
1:07:36ustedes no pueden este cuidar esta parte
1:07:39de arriba, no. Hay cosas que no pueden
1:07:41tener la capacidad de optimizar,
1:07:43mejorar, ajustar. Eso digamos que está
1:07:46como por paquete diseñado, no le puedes
1:07:49meter mano, pero hay cosas que sí hay
1:07:51cosas que tienen que ver con con el
1:07:52contexto del usuario, tu la forma en la
1:07:54que tú este configuras tu perfil, el
1:07:57acceso a la información que le vas a
1:07:58dar, que la información que le des esté
1:08:01completamente accesible, que esté
1:08:02limpia, que realmente el escaneo o el
1:08:05procesador o el en este caso la forma en
1:08:09la que le arrojas
1:08:11una información, verificas que
1:08:13verdaderamente tiene acceso a todos los
1:08:14documentos. a toda la información
1:08:16que el OCR o la o la herramienta que
1:08:19usas para
1:08:21que pase de texto, porque muchas veces
1:08:23escaneados son fotografías o son
1:08:25escaneos medorumentarios, realmente
1:08:27tengas el acceso completo a información,
1:08:30que tú también generes toda una dinámica
1:08:32de darle el contexte de todo el caso,
1:08:35¿no? decir, muchas veces también la
1:08:36posibilidad de que la IA conozca el
1:08:40total de la información previo a que
1:08:41empieces a preguntarle es importante
1:08:43porque es como calentar un poquito el
1:08:45coche. Eh, que puedas asegurarte que la
1:08:48IA tenga en este caso el digamos que la
1:08:52estructura legal eh o de legalidad que
1:08:55buscas darle respecto de la ley
1:08:56correcta. sio reformas que sepa el
1:08:59estado actual del de la de la norma, que
1:09:01pueda llegar a tener acceso a las
1:09:03jurisprudencias, criterios que son
1:09:04relevantes para este efecto. O sea, es
1:09:07es algo que ustedes van a ir
1:09:08construyendo, que evidentemente en algún
1:09:10punto van a tener y va a ser mucho más
1:09:11fácil, pero es algo que tienen que ir
1:09:12construyendo y que sepan que todo junto
1:09:15va a generar mejor resultados, ¿no?
1:09:19Y bueno, e algo que también es bien
1:09:22importante es no escatimen en el modelo,
1:09:26no escatimen en la parte que que no
1:09:29depende de ustedes, pero que sí depende
1:09:32porque si están usando un modelo chafa,
1:09:34si están usando un modelo barato, si
1:09:36están usando un modelo que a lo mejor no
1:09:39es de paga o es barato o van a caer en
1:09:43limitaciones. limitaciones que tienen
1:09:45que ver con la capacidad del modelo para
1:09:46razonar, limitaciones que tienen que ver
1:09:48con la capacidad del modelo para tener
1:09:51una ventana de contexto. La ventana de
1:09:53contexto es la tienen de información
1:09:55para poder procesar de forma correcta y
1:09:58aparte las conversaciones de tener
1:10:00mejores hábitos respecto de los mejores
1:10:02usos o los usos correctos de la IA.
1:10:04Este, es decir, una parte que es
1:10:07importante para ustedes es traten de
1:10:09usar el mejor modelo posible y úsenlo
1:10:12bien, aprenden a usarlo. Y la es eh
1:10:15también aprendan a saber cuándo están
1:10:17frente a una IA que tiene un contexto
1:10:19abierto, es decir, que tiene la
1:10:20capacidad de ir a buscar afuera para
1:10:22traer información, que pueden correr el
1:10:24riesgo que traiga información que
1:10:28ensucie un poco el expediente. Entonces,
1:10:31para esto también tenemos que buscar
1:10:33algunas herramientas como esta que es
1:10:36Notebook LM, que son ambientes cerrados
1:10:39que lo único que hacen es jugar con la
1:10:40información que tú le prevés, ¿no? Este,
1:10:42para mí este es uno de los de las
1:10:43herramientas más interesantes que
1:10:45existen, más valiosas en el mercado, que
1:10:48lo que permiten es que no se contamine
1:10:50con información externa más que la
1:10:52información que tú le das. Pero tienes
1:10:55que dar todo, o sea, tienes que darle
1:10:56mucho la información. Esto obviamente
1:10:58también no es algo que Alex les diga, es
1:11:00algo que yo les digo porque yo he
1:11:01trabajado con muchos jueces y mucha
1:11:03gente que la materia y este eh notebook
1:11:06el LM ha sido una gran herramienta para
1:11:08ustedes, sobre todo porque permite hacer
1:11:11eh se le conoce como RAG, que es
1:11:13retalment generation, que lo que hace es
1:11:15que solamente trabajas con el contenido
1:11:18que le das, es decir, la capacidad, la
1:11:20potencia de de esa el modelo solamente
1:11:22trabaja con la información interna que
1:11:25le das al producto. Entonces, eso nos
1:11:27evita eh que podamos traer información
1:11:32que ensucie la calidad de nuestra
1:11:35información o que pueda tener algún
1:11:36impacto negativo, sobre todo porque la
1:11:39IA va a buscar por medio de sus
1:11:41estructuras información, pero nada te
1:11:44dice que esa información sea información
1:11:46curada, sea información valiosa, sea
1:11:48información este actual, sea información
1:11:53de calidad, ustedes tienen que empezar a
1:11:55hacer su propia estructura. ura de
1:11:57precedentes, de criterios, de leyes, de
1:12:00para que cada vez que ustedes trabajen
1:12:03con un expediente sepan que la
1:12:05información es la más actual posible y
1:12:08que es de la mejor calidad, porque de
1:12:10otra forma entonces vamos a poder tener
1:12:12eh problemas, sesgos, este alucinaciones
1:12:16y algunas cosas que pueden derivar en
1:12:19una mal resultado, principalmente porque
1:12:23le metimos contenido basura a la
1:12:25información
1:12:28de esto último. Alex, no sé si te
1:12:30gustaría hacer alguna acotación
1:12:31adicional o algún comentario.
1:12:34Solamente yo creo que eh quisiera hacer
1:12:37como a lo mejor un comentario un poco
1:12:39amplio en el sentido de que ahorita
1:12:41solamente hemos hablado de modelos de
1:12:43texto, modelos como chat y ptí cuando le
1:12:45haces una pregunta de texto, pero esto
1:12:47es algo que también se ve en modelos de
1:12:49visión, digo, vimos el ejemplo de las
1:12:50imágenes, pero también en modelos de
1:12:52audio, al en transcripción, digo,
1:12:55Ricardo platicó un poco en la parte de
1:12:57de OCR para escanear eh imágenes, pero
1:13:02eh creo que lo importante de esto es
1:13:04saber que esto es algo que permea todos
1:13:06los tipos de modelos o de modalidades
1:13:08dentro de los modelos. Y en ese sentido
1:13:10pues a pensar siempre que cuando
1:13:12nosotros eh por ejemplo en el caso del
1:13:14del audio, pues bueno, naturalmente,
1:13:16¿qué es lo que va a usar el modelo como
1:13:17proxy? Pues la voz, ¿no? Yo no le tengo
1:13:20que decir que a lo mejor soy regi
1:13:22Montano y tengo el acento bien golpeado,
1:13:24¿verdad? Entonces, digo, por poner un
1:13:26ejemplo, ¿no? Pero son estudios que
1:13:28hemos estado haciendo aquí en en
1:13:30Stanford y que hemos visto que en
1:13:32definitivo estos son sesgos que vemos
1:13:33por todos lados, ¿no? Entonces, siempre
1:13:36y cuando se tenga cuidado y cautela,
1:13:38pues hay que eh y como bien dijo
1:13:40Ricardo, ¿no? Tampoco darle esa
1:13:42autonomía full, ¿no? digo, ahorita a lo
1:13:45mejor vamos a platicar un poco de eso,
1:13:46pero con sistemas agénticos donde los
1:13:48agentes ya no solamente eh te dicen una
1:13:51palabra o predicen un texto, sino que
1:13:53toman decisiones en ese sentido, pues ya
1:13:55eh estamos hablando de palabras mayores,
1:13:57a lo mejor, ¿no?
1:13:59Sí. Y justo este es el último tema que
1:14:01vamos a trabajar o platicar el día de
1:14:02hoy acerca de la autonomía, porque una
1:14:05de las cualidades de la evolución de la
1:14:08inteligencia artificial es la capacidad
1:14:10que tienen los modelos de inteligencia
1:14:12artificial para eh trabajar de manera
1:14:15autónoma por más tiempo. Entonces, eh
1:14:19digamos que esto tiene mucho que ver con
1:14:22dos cuestiones que se cruzan. Por un
1:14:23lado, es la capacidad que tiene el
1:14:25modelo o el producto para poder trabajar
1:14:29sin intervención humana. Entonces
1:14:32ustedes les podrán decir, "Hazme una
1:14:33investigación detallada acerca de
1:14:35precedentes de este tema en particular."
1:14:38Entonces, la IA va a empezar, no sé, si
1:14:40tienes fuentes dedicadas, como por
1:14:42ejemplo es el semanario o este el
1:14:46buscador de la Suprema Corte, lo que
1:14:48ustedes quieran, ¿no? Entonces va a
1:14:50empezar a hacer su búsqueda y va a hacer
1:14:52su búsqueda y a lo mejor va a correr
1:14:54durante media hora, 40 minutos, una
1:14:55hora, 2 horas.
1:14:58Y esto tiene que ver con algo que que de
1:15:01alguna manera es como como la forma en
1:15:04la que ustedes y yo operamos con los
1:15:06modelos, porque hasta hace unos años
1:15:09pues era chat y vuelta y y casi casi si
1:15:12hacemos un contrato es bueno, vamos a
1:15:14hacer la cláusula uno. Entonces, a ver,
1:15:16la cláusula un, ¿por qué? Porque si tú
1:15:18le pedías un contrato te arrojaba
1:15:19basura. Entonces, la forma en la que
1:15:21podías automatizar o mejorarla por
1:15:23lación de un contrato la mejora cláusula
1:15:25por cláusula o fragmentos pequeños. Tú
1:15:28ahora si le pides esa misma petición que
1:15:30le pedías hace 3 años respecto de hacer
1:15:32algo, vas a ver que el modelo tiene la
1:15:34capacidad de hacerlo completo y lo hace
1:15:36razonablemente bien, pero el está
1:15:38en los detalles, no necesariamente va a
1:15:41ser todo bien. Entonces, durante cada
1:15:44vez que tienen más autonomía, también es
1:15:47conocido que la IA va bajando la calidad
1:15:50en la que toma las decisiones.
1:15:53Entonces se empieza a degradar eh la
1:15:56calidad en la que hace las cosas. entre
1:15:59más tiempo opere por sí sola y y creo
1:16:01que aquí hay una analogía muy
1:16:02interesante que la típica este
1:16:06digamos que la típica imagen de que un
1:16:09avión sale de Los Ángeles y lleva un
1:16:12rumbo hacia Nueva York, pero siía 3 gr
1:16:15termina en Washington, ¿no? Es lo mismo,
1:16:18es un poco lo mismo. Es decir, si de
1:16:19pronto el modelo empieza a divagar o
1:16:23empieza a derivarse a cosas, este,
1:16:27digamos que eh empieza a irse por un
1:16:30rumbo equivocado, va a terminar en un
1:16:32lugar muy equivocado. Entonces, tengamos
1:16:34mucho cuidado en saber que la autonomía
1:16:39puede, si bien es cierto, producir
1:16:42cosas increíbles, impresionantes.
1:16:46El mismo cuidado debemos de revisar en
1:16:48que el producto de eso
1:16:51va a tener errores. Hay que hacer double
1:16:53check. No quiere decir que no lo usen.
1:16:55Úsenlo, por favor, úsenlo, pero sean más
1:16:59juiciosos, sean más cuidadosos con
1:17:01resultado de lo que sea que le dé la
1:17:03cuando trabaja por varios minutos o por
1:17:06horas, porque cada vez vamos a ver hoy,
1:17:09a lo mejor ustedes dirán, "No, bueno,
1:17:10pues a lo mejor mía se tarda eh 5
1:17:13minutos máximo ahorita.
1:17:16Esto va a ser algo que cada vez los
1:17:19modelos y todos los laboratorios van a
1:17:21empezar a sacar cada vez más
1:17:23herramientas de agentes que trabajen por
1:17:24más tiempo de forma autónoma.
1:17:27Y esto que vemos hoy como que la trabajó
1:17:305 minutos, probablemente el día de
1:17:31mañana van a ser 25, 30. Tengamos
1:17:35cuidado porque cada vez de estos niveles
1:17:38va a generar eh la posibilidad de que
1:17:40puedan llegar a traer información que no
1:17:42sea correcta. Va a degradarse la
1:17:44calidad. Entonces, eh si bien es cierto
1:17:47trabaja solo y trabaja muy bien, sepan
1:17:49que cada vez que trabaja por más tiempo
1:17:51la información se va degradando, ¿no? No
1:17:54tanto, pero suficiente como para que sea
1:17:56cuidadoso. Y por esto tenemos estos tres
1:17:59tres este escenarios donde es el human
1:18:01in the loop, el human on the loop y el
1:18:04human in command, ¿no? que es lo que
1:18:06ustedes deberán de estar haciendo es
1:18:08humanido de este estar vigilando
1:18:12exactamente las cosas, es decir, tener
1:18:15una capacidad de autonomía en la cual
1:18:16ustedes delegan algunas cosas, que se
1:18:18ayuden de la IA, pero ustedes están
1:18:21completamente en comando, en este en
1:18:25digamos que en control de todo lo que
1:18:27hace la guía. Es decir, no confíen más
1:18:29que apóyense en como un multiplicador de
1:18:32eficiencia para encontrar datos, para
1:18:35para resumir cosas, para ayudarse, pero
1:18:37sepan que ustedes conllevan la
1:18:40responsabilidad máxima del uso de la
1:18:41herramienta. Eh, no sé, Alex, si con
1:18:44esto hay alguna cosa que para ti te que
1:18:47quisieras agregar o algo que parece
1:18:49relevante.
1:18:50Creo que todo lo que mencionas es eh
1:18:53abarcas eh todo lo lo necesario y digo
1:18:56nada más hacer hincapié. ya lo habías
1:18:57mencionado, pero en la parte del
1:18:58contexto, ¿no? O sea, mientras más eh le
1:19:01demos al modelo, ¿no? Porque eso sí
1:19:03implique que que que pueda, o sea, que
1:19:07continúe dándote algo. Realmente hay
1:19:10muchos estudios que que han demostrado
1:19:11que que pues bueno, la capacidad baja,
1:19:14¿no? Y de hecho lo platicábamos
1:19:16recientemente, cuando le das un libro de
1:19:18derecho, por ejemplo, a veces no eh el
1:19:22performance o la capacidad que tiene el
1:19:24modelo eh disminuye relativo si no le
1:19:27dieras nada, ¿no? Entonces, muchos de
1:19:29estos modelos ya
1:19:31eh tienen un buen, por así decirlo, como
1:19:34un buen avistamiento de de ciertas
1:19:37situaciones o de ciertas cosas y no
1:19:38tienes que darle nada. que siendo
1:19:40realistas en el caso de un de un
1:19:42escenario o de una situación de alto
1:19:44impacto, pues bueno, mientras más
1:19:46contexto mejor, pero también pues
1:19:48simplemente
1:19:50continuar pensando en en tradeofs o en
1:19:52términos de trueques y de bueno, ¿qué
1:19:54tanta información le voy a dar versus
1:19:56qué tanta capacidad o qué tanto eh qué
1:19:59tanto qué tan sensible es esta
1:20:00situación, ¿no? Entonces, creo que
1:20:02aplica tanto para contexto en la ventana
1:20:04de texto como para eh en la ventana con
1:20:07usando eh agentes en la ventana de
1:20:10tiempo, ¿no?
1:20:11Correcto. Y bueno, pues con esto
1:20:14concluimos. La realidad es que quisimos
1:20:16eh ser breves en la explicación, que no
1:20:19sean demasiados conceptos, pero que sean
1:20:21los más valiosos para ustedes, que
1:20:23entiendan la complejidad de manera
1:20:25simple y que ustedes formen parte de
1:20:27este cambio, que al final del día yo no
1:20:29me imagino un futuro, si pienso en 10
1:20:31años en el futuro, no me imagino un
1:20:33futuro en el que no usemos todos esta
1:20:35herramienta.
1:20:37Y obviamente lo que hay que tener mucho
1:20:38cuidado es, sobre todo estos primeros
1:20:40años para no cometer errores, para que
1:20:43no se generen injusticias, para que eh
1:20:47un error de pronto no genere pues una
1:20:49mancha en el sistema que haga que ahora
1:20:52se prohíba el uso de la inteligencia
1:20:53artificial porque alguien la usó mal,
1:20:55¿no? Este, cuidémonos, cuídense,
1:20:59cuídense como como gremio, como grupo a
1:21:02usar de manera correcta esta tecnología,
1:21:03porque es una tecnología superpererosa
1:21:06que más allá de hacerles fácil la vida,
1:21:08porque estoy seguro que es lo va a
1:21:10hacer, va a hacer que se disfrute mucho
1:21:11más la profesión, que podamos dedicarle
1:21:14tiempo a las cosas que verdaderamente
1:21:16importan, porque hay muchas cosas que
1:21:17esta tecnología nos ayuda a evitar o o
1:21:20esta hacha que que a nadie le gusta
1:21:22hacer y que realmente no suma valor, que
1:21:24no suma calidad.
1:21:25Pero usémosla de forma responsable
1:21:27porque de otra forma entonces
1:21:29mancharemos este el uso de la
1:21:31herramienta y eso pues tendrá
1:21:33consecuencias negativas o tendremos
1:21:35cosas muy restrictivas. Entonces, seamos
1:21:37responsables y Alex te agradezco mucho
1:21:40por sumarte este a este a esta
1:21:43invitación que me hicieron por por hacer
1:21:45esta sesión. La realidad es que
1:21:48eh cuando pensé en cómo hacerlo, el reto
1:21:52fue enorme porque no es un tema no es no
1:21:55es mi tema favorito, siendo bien
1:21:56sincero. Yo a mí me emociona mucho más
1:21:59este la construcción, la del desarrollo,
1:22:02eh la impartición de del knohow, este de
1:22:07cómo se usan las cosas. Eh, pero esto me
1:22:10parece muy valioso porque me choca que
1:22:12la gente esté mal informando, me choca
1:22:14que la gente esté con miedo, me choca
1:22:16que la gente no entienda realmente el
1:22:17por qué de las cosas y tengo este
1:22:20digamos que pues si quiero cambiarlo
1:22:22pues tengo que hacer algo al respecto.
1:22:23Entonces, Alex, gracias por sumarte a
1:22:26este esfuerzo y bueno, pues este a todos
1:22:29felicidades porque creo que con esta
1:22:31sesión concluyen el curso, eh, y este
1:22:34usen mucho la úsenla bien. Pues poco
1:22:37más, Alex. Muchas gracias.
1:22:39Muchas gracias, Ricardo. Y y gracias a
1:22:41todos por prestar atención a este tema
1:22:43tan eh importante que creo que es vital
1:22:47para todos los las personas del Poder
1:22:49Judicial. Muchas gracias por estar
1:22:51siempre al tanto de esto.
1:22:52Muchísimas gracias. Hasta luego.
1:22:54Saludos.
1:22:56Yeah.

About this transcript

This page contains the full transcript of IA en la Justicia. Módulo 5 by Archivo ENFJ, generated from the public captions YouTube serves with the video. The transcript has 14,084 words across 2,094 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.