IA en la Justicia. Módulo 1. Lección 3 — Transcript

Full transcript

1. 0:02Lo primero que tienes que saber es que
2. 0:04los grandes modelos de lenguaje no
3. 0:05procesan palabras, procesan tokens. Y un
4. 0:09token es un fragmento de texto. Puede
5. 0:12ser una palabra completa, puede ser
6. 0:14parte de una palabra, puede ser un signo
7. 0:16de puntuación. Incluso la palabra
8. 0:19constitución podría procesarse como dos
9. 0:22o tres tokens. La letra A es un token.
10. 0:26El punto final de esta oración podría
11. 0:28ser un token.
12. 0:30Entonces, ¿por qué importa esto? Porque
13. 0:33la capacidad de un modelo se mide en
14. 0:35tokens, no en palabras ni en páginas.
15. 0:39Cuando escuchas hablar de un modelo con
16. 0:40una ventana de contexto de 100,000
17. 0:43tokens, eso significa que puede procesar
18. 0:46simultáneamente
19. 0:48del orden de 70,000 a 75,000 palabras en
20. 0:51español. un expediente completo, varios
21. 0:54contratos, una demanda y todos sus
22. 0:57anexos.
23. 0:59Esa ventana de contexto es todo lo que
24. 1:01el modelo recuerda durante una
25. 1:02conversación. Lo que está dentro de la
26. 1:05ventana lo tiene presente, lo que quedó
27. 1:07fuera no existe para el modelo.
28. 1:11Ahora viene la parte que más sorprende a
29. 1:13las personas cuando lo escuchan por
30. 1:15primera vez.
31. 1:16Lo que hacen estos modelos en el nivel
32. 1:19más fundamental es predecir cuál es el
33. 1:21siguiente token más probable dado todo
34. 1:24lo que vino antes. Así de simple y así
35. 1:28de poderoso.
36. 1:32Cuando le haces una pregunta a un modelo
37. 1:34de lenguaje, el modelo no piensa la
38. 1:37respuesta en el sentido en que nosotros
39. 1:38lo hacemos. lo que hace es generar token
40. 1:41por token, donde cada token es el más
41. 1:44probable dado el contexto previo. La
42. 1:47respuesta completa es el resultado de
43. 1:49miles de esas predicciones encadenadas.
44. 1:52El mecanismo de atención, que es la
45. 1:54innovación central de la arquitectura
46. 1:56Transformer, permite que al predecir
47. 1:59cada token, el modelo considere la
48. 2:02relevancia de todo lo que está en la
49. 2:04ventana de contexto. ¿Qué partes del
50. 2:07texto importan más para esta predicción?
51. 2:09específica, lo que es análogo a cómo un
52. 2:12lector experto no lee con igual atención
53. 2:15cada palabra de un archivo, sabe qué
54. 2:18buscar y en dónde.
55. 2:22Y a continuación viene algo que toda
56. 2:25persona que usa estas herramientas
57. 2:26necesita entender con claridad.
58. 2:29Los modelos de lenguaje alucinan.
59. 2:33Alucinar en el vocabulario de la IA
60. 2:36significa generar información que suena
61. 2:39completamente plausible y está
62. 2:41presentada con total confianza, pero es
63. 2:44falsa.
64. 2:46Casos que no existen, citas que nadie
65. 2:48escribió, estadísticas inventadas,
66. 2:51fechas incorrectas.
67. 2:54¿Por qué pasa esto? Bueno, porque el
68. 2:56modelo no tiene acceso a la verdad,
69. 2:59tiene acceso a patrones estadísticos en
70. 3:02su corpus de entrenamiento. Está
71. 3:05optimizado para generar texto plausible,
72. 3:08no texto verdadero. La diferencia entre
73. 3:11estas dos cosas es enorme.
74. 3:14La analogía que más me ayuda a
75. 3:16explicarlo es la siguiente. Imagina un
76. 3:19perito que testifica con absoluta
77. 3:20seguridad en un juicio. Cada afirmación
78. 3:24la hace con convicción, con el tono de
79. 3:26alguien que sabe, pero construyó todo su
80. 3:29dictamen interpolando entre precedentes
81. 3:32que recuerda vagamente sin acceso a los
82. 3:34hechos reales del caso que está
83. 3:36analizando.
84. 3:38Esto es exactamente lo que hace un
85. 3:39modelo de lenguaje cuando alucina. No
86. 3:42miente en el sentido de que sepa la
87. 3:44verdad y la oculte, sino que genera lo
88. 3:47que estadísticamente es más probable sin
89. 3:50ningún mecanismo para verificar si es
90. 3:52verdad.
91. 3:54Y esto tiene una consecuencia práctica
92. 3:56inmediata.
93. 3:58Nunca cites jurisprudencia, doctrina o
94. 4:01datos estadísticos que te haya
95. 4:02proporcionado un gran modelo de lenguaje
96. 4:05sin verificarlos con una fuente primaria
97. 4:08sin excepción.
98. 4:13Y hablando sobre búsqueda de
99. 4:14jurisprudencia y citas, un modelo de
100. 4:17lenguaje genera texto nuevo. Cuando le
101. 4:20preguntas sobre una tesis aislada, el
102. 4:22modelo no la busca en ninguna base de
103. 4:24datos. Genera una respuesta que
104. 4:27estadísticamente parece una respuesta
105. 4:29sobre tesis aisladas.
106. 4:31Si esa tesis existe y aparecía en su
107. 4:34corpus de entrenamiento, la respuesta
108. 4:36podría ser correcta. Si no puede
109. 4:40inventar algo que suena igual de
110. 4:42convincente.
111. 4:43Algunos modelos tienen herramientas de
112. 4:46búsqueda integradas que les permiten
113. 4:48consultar fuentes externas antes de
114. 4:50responder. Esto cambia el cálculo de
115. 4:53confiabilidad para este tipo de
116. 4:54preguntas, pero es necesario saber si el
117. 4:57modelo que estás usando tiene esa
118. 4:59capacidad habilitada y para qué
119. 5:01preguntas las usa.
120. 5:05Los modelos de lenguaje son el tipo de
121. 5:07inteligencia artificial generativa que
122. 5:09más relevancia tiene para el trabajo
123. 5:11jurídico cotidiano. Pero no son los
124. 5:14únicos. Existen modelos que generan
125. 5:16imágenes a partir de texto, modelos que
126. 5:19generan audio y voz sintéticas y modelos
127. 5:22que generan video e incluso modelos
128. 5:26multimodales que combinan varias de
129. 5:28estas capacidades.
130. 5:30Para el ámbito jurídico, esto genera
131. 5:32desafíos específicos que ya están
132. 5:34llegando a los tribunales.
133. 5:36¿Cómo podemos autenticar un documento
134. 5:38cuando las firmas pueden generarse por
135. 5:40inteligencia artificial?
136. 5:42¿Cómo se valora una grabación de audio
137. 5:45como prueba cuando la voz puede ser
138. 5:47sintetizada?
139. 5:49¿Cómo se establece la cadena de custodia
140. 5:51de un video cuando los deep fake son
141. 5:53prácticamente indistinguibles del video
142. 5:56auténtico?
143. 5:58Estas preguntas no son hipotéticas, son
144. 6:01casos reales que ya están siendo
145. 6:02resueltos o intentándose ser resueltos
146. 6:05en sistemas jurídicos de todo el mundo.