IA en la Justicia. Módulo 1. Lección 6 — Transcript

Full transcript

1. 0:01Ahora hablemos de los límites reales de
2. 0:03los sistemas de inteligencia artificial.
3. 0:06No los límites hipotéticos de un futuro
4. 0:08lejano, sino los límites que existen hoy
5. 0:11y que afectan a las herramientas que ya
6. 0:13estás usando o que vas a usar muy
7. 0:15pronto.
8. 0:17El primer límite es conceptual y es el
9. 0:20más profundo. Los sistemas de
10. 0:21aprendizaje automático correlacionan,
11. 0:24pero no razonan causalmente.
12. 0:27¿Qué significa esto? que el sistema
13. 0:30puede identificar que dos variables
14. 0:32aparecen juntas en los datos, pero no
15. 0:34puede determinar si una causa la otra,
16. 0:37si la otra causa la primera o si ambas
17. 0:40son causadas por un tercer factor que no
18. 0:42está en los datos.
19. 0:44Para el análisis jurídico, esto es un
20. 0:46problema serio, porque buena parte del
21. 0:48razonamiento jurídico depende de
22. 0:50establecer causalidad,
23. 0:52la relación entre un acto y sus
24. 0:54consecuencias, la cadena entre una
25. 0:56omisión y un daño, el nexo causal en
26. 0:59responsabilidad civil.
27. 1:02Un sistema que correlaciona puede
28. 1:04ayudarte a identificar patrones que
29. 1:06merecen investigación,
30. 1:08pero no puede decirte si esos patrones
31. 1:11tienen relación causal.
32. 1:13Esa determinación requiere un
33. 1:15razonamiento jurídico que el sistema no
34. 1:18tiene.
35. 1:21El segundo límite ya lo mencionábamos en
36. 1:23la lección anterior, pero merece
37. 1:25desarrollarse un poco más. Los modelos
38. 1:28de lenguaje no tienen acceso a ninguna
39. 1:30fuente de verdad. Su conocimiento es la
40. 1:34distribución estadística de un corpus
41. 1:36con una fecha de corte.
42. 1:38Cuando generan texto, están generando lo
43. 1:41que es estadísticamente más probable
44. 1:43dado ese corpus, no lo que es verdad.
45. 1:47Las implicaciones prácticas son
46. 1:48directas.
47. 1:50al respecto de legislación y
48. 1:52jurisprudencia, pues estas pueden haber
49. 1:54cambiado desde la fecha de corte del
50. 1:56modelo y el modelo no lo sabe.
51. 1:59Al respecto de datos estadísticos, el
52. 2:02modelo puede citar cifras que aparecían
53. 2:04en su corpus, aunque estén
54. 2:05desactualizadas o sean de fuentes no
55. 2:07verificadas.
56. 2:09Y en cuanto a referencias
57. 2:11bibliográficas, puede generar citas de
58. 2:13artículos o libros que nunca existieron,
59. 2:16con título, autor y año que suenan
60. 2:19perfectamente plausibles.
61. 2:21Este último punto es particularmente
62. 2:24importante. Los modelos de lenguaje son
63. 2:26capaces de generar referencias
64. 2:29bibliográficas completamente inventadas
65. 2:32con una confianza que no tiene ningún
66. 2:34marcador visible de incertidumbre. El
67. 2:36texto fluye igual como si la referencia
68. 2:39fuera real. Y de hecho hay un caso real
69. 2:43que ilustra perfectamente lo que acabo
70. 2:45de decir.
71. 2:47En 2023, un abogado en Nueva York
72. 2:49presentó ante un tribunal federal un
73. 2:52escrito que citaba varios precedentes en
74. 2:54apoyo a su argumento. El abogado había
75. 2:57utilizado Chat GPT para ayudarse en su
76. 2:59investigación.
77. 3:01Cuando la contraparte intentó verificar
78. 3:03los casos citados, no pudo encontrarlos.
79. 3:06El tribunal requirió al abogado que
80. 3:08demostrara que existían y no pudo. Los
81. 3:12casos eran inventados.
82. 3:14Chat GPT los había generado porque
83. 3:16estadísticamente era lo más probable.
84. 3:19Dado la pregunta que le hicieron,
85. 3:22el juez impuso una multa de $5,000 a los
86. 3:26abogados responsables y a su despacho.
87. 3:29El razonamiento fue claro. El abogado
88. 3:32tenía la obligación de verificar las
89. 3:34fuentes que citaba, independientemente
90. 3:36de la herramienta que hubiera usado para
91. 3:38encontrarlas. La herramienta no tenía
92. 3:41responsabilidad profesional, el abogado
93. 3:44sí. Este caso se conoce como Mata contra
94. 3:48Bianca.
95. 3:49Te recomiendo leer la resolución
96. 3:51completa. Está disponible de forma
97. 3:53pública. No porque sea un caso
98. 3:55jurídicamente complejo, sino porque el
99. 3:58razonamiento del juez sobre la
100. 3:59responsabilidad del abogado es
101. 4:01exactamente el razonamiento que debes
102. 4:04aplicar cada vez que uses estas
103. 4:06herramientas.
104. 4:08Y no creas que el caso Mata contra
105. 4:10Avianca fue un hecho aislado. Desde
106. 4:13entonces, los casos de abogados y
107. 4:15operadores jurídicos descubiertos
108. 4:17citando jurisprudencia inventada por una
109. 4:20inteligencia artificial no han dejado de
110. 4:22aumentar en todo el mundo. Hay
111. 4:25investigadores que llevan un registro
112. 4:26público de estas resoluciones y la curva
113. 4:29no deja lugar a dudas. De un puñado de
114. 4:32casos al año se pasó en cuestión de
115. 4:35meses a varios por semana. y luego a
116. 4:38varios por día en jurisdicciones de todo
117. 4:40el planeta. Los tribunales han
118. 4:43respondido con multas, con reportes a
119. 4:45los colegios y órganos disciplinarios
120. 4:48y en algunos casos con la revocación de
121. 4:50los permisos para litigar. Lo importante
122. 4:53para ti no es la cifra exacta, qué
123. 4:56cambia cada semana, sino la tendencia.
124. 4:59Esto le está pasando a profesionales
125. 5:01reales con consecuencias reales y le
126. 5:04pasa con más frecuencia cada mes que
127. 5:06pasa. La advertencia que acabas de
128. 5:09escuchar no es teórica. Un tercer límite
129. 5:12es un poco más operativo pero importante
130. 5:15y hay que hacer una distinción fina aquí
131. 5:18porque podría ser fácil confundirse.
132. 5:20El modelo de lenguaje en sí, los
133. 5:23parámetros, la arquitectura no tiene
134. 5:25memoria.
135. 5:26No aprende de tus conversaciones ni
136. 5:28guarda nada entre una sesión y otra. A
137. 5:31ese nivel, cada vez que el modelo genera
138. 5:33una respuesta, parte solo de lo que
139. 5:36tiene en su ventana de contexto en ese
140. 5:38momento.
141. 5:40Pero las herramientas que usas no son el
142. 5:42modelo a secas, son productos
143. 5:44construidos alrededor del modelo. Y hoy
144. 5:47las principales como Chat GPT, Cloud o
145. 5:50Gemini incorporan una función de memoria
146. 5:53que sí persiste entre sesiones y que en
147. 5:56varias de ellas viene activada por
148. 5:58defecto. Lo que hacen es guardar notas
149. 6:01sobre ti y sobre tus conversaciones
150. 6:02anteriores y volver a inyectarlas en el
151. 6:05contexto de cada nueva sesión. El modelo
152. 6:08sigue sin recordar nada por sí mismo. Es
153. 6:10el sistema a su alrededor lo que
154. 6:12recuerda por él. Y esto tiene
155. 6:15consecuencias prácticas. Si trabajas en
156. 6:18un asunto complejo durante varios días
157. 6:20utilizando un asistente de inteligencia
158. 6:21artificial, necesitas reconstruir el
159. 6:24contexto relevante al inicio de cada
160. 6:26sesión. No puedes asumir continuidad
161. 6:29donde no la hay. Pero esa memoria
162. 6:32persistente cuando está activada trae
163. 6:35consigo un riesgo de confidencialidad
164. 6:37que no puedes ignorar.
165. 6:39Si la herramienta guarda automáticamente
166. 6:41lo que le pasas, los datos de un
167. 6:43expediente que escribiste hoy pueden
168. 6:46reaparecer fuera de tu controlo
169. 6:50al asesorar a otra persona. Antes de
170. 6:53usar cualquiera de estas herramientas
171. 6:54con información sensible, necesitas
172. 6:57saber algunas cosas. Por ejemplo, si la
173. 6:59memoria está activada, se puede
174. 7:01desactivar o usar en un modo temporal.
175. 7:04Saber cómo hacerlo es parte de tu deber
176. 7:06de cuidado.
177. 7:10Cuarto límite y quizás el más sutil,
178. 7:12pero muy relevante para el trabajo
179. 7:14judicial es que los modelos de lenguaje
180. 7:17no entienden la cultura institucional,
181. 7:20la dinámica de un tribunal específico o
182. 7:22la historia de una relación entre las
183. 7:24partes, las consideraciones tácticas de
184. 7:26una negociación o el peso que tiene un
185. 7:29precedente en un contexto jurisdiccional
186. 7:31particular.
187. 7:34pueden generar texto que suena
188. 7:35jurídicamente correcto, pero correcto en
189. 7:39abstracto y adecuado son dos cosas
190. 7:42distintas. Lo que funciona ante un
191. 7:44tribunal puede ser un error ante otro.
192. 7:47Lo que era la estrategia acertada el mes
193. 7:49pasado puede no serlo hoy. El modelo no
194. 7:52percibe esa diferencia porque no conoce
195. 7:55ni el tribunal, ni el momento, ni a las
196. 7:57partes.
197. 7:59Esa diferencia entre lo jurídicamente
198. 8:01correcto en abstracto y lo
199. 8:03estratégicamente adecuado en concreto es
200. 8:06exactamente donde se encuentra el valor
201. 8:09del criterio profesional que no puede
202. 8:11delegarse.
203. 8:13Y finalmente, el último límite que
204. 8:16quiero mencionar es el más importante de
205. 8:18todos y es el que no tiene ninguna
206. 8:21excepción técnica posible.
207. 8:24La responsabilidad profesional no se
208. 8:26puede delegar a un sistema de
209. 8:28inteligencia artificial.
210. 8:31El modelo no está asociado a un colegio
211. 8:33profesional,
212. 8:35no tiene una cédula que perder, no puede
213. 8:38ser sancionado, no puede ser demandado,
214. 8:41no puede ser responsable en ningún
215. 8:43sentido jurídico relevante, pero tú sí.
216. 8:47La persona que asesora, que firma, que
217. 8:49litiga, que resuelve, asume la
218. 8:51responsabilidad del resultado
219. 8:53independientemente de qué herramientas
220. 8:55usó para llegar a él.
221. 8:58Esto no quiere decir que no puedas usar
222. 9:00estas herramientas. Significa que cuando
223. 9:03las uses lo haces con la conciencia de
224. 9:05que el resultado final es tuyo, que
225. 9:08tienes la obligación de verificar lo que
226. 9:10no puedes asumir como cierto y que la
227. 9:12calidad de tu criterio profesional es lo
228. 9:15que diferencia el uso responsable del
229. 9:18irresponsable.
230. 9:20En la siguiente y última lección del
231. 9:22módulo vamos a revisar los cinco mitos
232. 9:25más peligrosos sobre la inteligencia
233. 9:27artificial para los profesionales del
234. 9:29derecho.