IA en la Justicia. Módulo 1. Lección 7 — Transcript

Full transcript

1. 0:00Llegamos finalmente a la última lección
2. 0:03del módulo y voy a cerrar con algo muy
3. 0:05concreto.
4. 0:06A lo largo de este módulo hemos
5. 0:08construido el vocabulario y el marco
6. 0:10conceptual para entender la inteligencia
7. 0:12artificial. Ahora quiero hacer algo
8. 0:15diferente.
9. 0:17Identificar los cinco malentendidos que
10. 0:19más daño hacen cuando circulan entre
11. 0:21profesionales del derecho.
12. 0:24Ojo, no son los únicos mitos, pero son
13. 0:27los más peligrosos porque tienen
14. 0:28consecuencias prácticas directas y
15. 0:31porque suelen circular con mucha
16. 0:32confianza entre personas que nunca se
17. 0:34han detenido a verificarlos.
18. 0:37Vamos por uno.
19. 0:40Uno, la inteligencia artificial es
20. 0:42objetiva porque es matemática.
21. 0:45Esto es probablemente el más extendido y
22. 0:48el más peligroso. El argumento suena
23. 0:51lógico. Los números no mienten, las
24. 0:53matemáticas son neutrales. Por lo tanto,
25. 0:56un sistema que opera con matemáticas es
26. 0:58objetivo.
27. 1:00El problema es que el sistema no opera
28. 1:02en el vacío, opera sobre datos y esos
29. 1:05datos no son neutrales. Son el registro
30. 1:08de un mundo con desigualdades
31. 1:09históricas, con discriminaciones
32. 1:11estructurales y con sesgos sistemáticos.
33. 1:15Un sistema de predicción de riesgo
34. 1:17crediticio entrenado con datos
35. 1:19históricos de acceso al crédito va a
36. 1:21aprender que ciertos grupos son peores
37. 1:24pagadores, no porque lo sean, sino
38. 1:27porque históricamente se les negó
39. 1:28crédito con más frecuencia y por lo
40. 1:31tanto tienen menos historial crediticio
41. 1:33positivo. El sistema aprende la
42. 1:36discriminación histórica y la convierte
43. 1:39en predicción.
44. 1:42La objetividad estadística de un sistema
45. 1:44puede coexistir perfectamente con
46. 1:47discriminación estructural. Estos no son
47. 1:50conceptos contradictorios y confundirlos
48. 1:53es un error con consecuencias reales
49. 1:55para las personas que esos sistemas
50. 1:57afectan.
51. 1:58Para el análisis jurídico, cuando
52. 2:00evalúes un sistema de inteligencia
53. 2:02artificial, la pregunta no es si las
54. 2:05matemáticas son correctas. La pregunta
55. 2:08es si los datos sobre los que opera
56. 2:11reflejan de manera adecuada la realidad
57. 2:14que el sistema pretende capturar.
58. 2:17Mito número dos. Si lo dice la IA es
59. 2:21verdad.
60. 2:22Ya lo mencionamos en las lecciones
61. 2:24anteriores, pero vale la pena nombrarlo
62. 2:26como mito explícitamente.
63. 2:29Los modelos de lenguaje están
64. 2:30optimizados para generar texto fluido y
65. 2:33convincente, no para generar texto
66. 2:36verdadero. La calidad narrativa de una
67. 2:38respuesta no tiene ninguna correlación
68. 2:41con su exactitud factual.
69. 2:43Esto tiene una característica que lo
70. 2:45hace especialmente problemático. El
71. 2:48modelo presenta la información correcta
72. 2:50y la incorrecta con exactamente el mismo
73. 2:53tono de confianza.
74. 2:56La regla práctica es simple. Cualquier
75. 2:59afirmación factual específica que
76. 3:01obtengas de un modelo de lenguaje, ya
77. 3:03sea jurisprudencia, legislación,
78. 3:06estadísticas, referencias bibliográficas
79. 3:08o cualquier otro tipo de información,
80. 3:10necesita verificación en una fuente
81. 3:13primaria antes de usarla
82. 3:15profesionalmente, sin excepción y sin
83. 3:17importar qué tan confiado suene el
84. 3:20modelo. Esta verificación no es un
85. 3:23trámite burocrático, es parte de la
86. 3:25obligación profesional que tienes como
87. 3:27abogado o servidor público.
88. 3:31Mito tres, la IA va a reemplazar a los
89. 3:33abogados.
90. 3:35Este mito circula en dos versiones
91. 3:37opuestas. La versión apocalíptica dice
92. 3:41que la inteligencia artificial va a
93. 3:43dejar a los abogados sin trabajo en
94. 3:45pocos años. La versión tranquilizadora
95. 3:48dice que los abogados son
96. 3:50irreemplazables y la IA no es una
97. 3:52amenaza real.
98. 3:54Las dos están equivocadas.
99. 3:57La versión correcta es masada. La
100. 4:00inteligencia artificial sí va a
101. 4:02automatizar tareas específicas y
102. 4:05repetitivas que hoy realizan abogados y
103. 4:07servidores judiciales.
104. 4:10Eso va a cambiar la distribución del
105. 4:11trabajo, va a eliminar ciertos perfiles
106. 4:14y va a crear otros. No es apocalíptico,
107. 4:17pero tampoco es trivial.
108. 4:20Entonces, ¿qué tareas corren más riesgos
109. 4:22de automatización?
110. 4:24Las que son de alto volumen, baja
111. 4:26variación y criterio estandarizable.
112. 4:29Revisión de documentos rutinarios,
113. 4:31redacción de formatos estándar,
114. 4:33clasificación inicial de solicitudes,
115. 4:36verificación de datos y qué tareas son
116. 4:39más difíciles de automatizar.
117. 4:41Las que requieren juicio contextual,
118. 4:43interpretación de situaciones no
119. 4:45previstas, ejercicio de la
120. 4:47discrecionalidad,
121. 4:48manejo de la relación con el cliente,
122. 4:51razonamiento ético, argumentación
123. 4:53estratégica original.
124. 4:57El mensaje real no es tranquilizador ni
125. 4:59alarmante, es este. Los profesionales
126. 5:02que entiendan estas herramientas, que
127. 5:04sepan cuándo usarlas y cuándo no y que
128. 5:07mantengan un criterio que la herramienta
129. 5:09no puede replicar, van a ser más
130. 5:11valiosos, no menos. Los que ignoren la
131. 5:14tecnología o los que confíen en ella sin
132. 5:17criterio van a estar en una posición más
133. 5:19difícil.
134. 5:21Mito cuatro. La caja negra es
135. 5:24inevitable.
136. 5:26Este mito tiene consecuencias directas
137. 5:28para la gobernanza y para el derecho de
138. 5:30impugnación.
139. 5:32La idea es que los sistemas de
140. 5:33inteligencia artificial son por
141. 5:35naturaleza inexplicables,
142. 5:38por lo que nadie puede entender por qué
143. 5:39llegaron a una conclusión y que eso es
144. 5:42una característica técnica inmutable.
145. 5:46Y es parcialmente verdad, pero la parte
146. 5:48que se omite es importante. Existen
147. 5:51técnicas de inteligencia artificial
148. 5:53explicable que en inglés se abreavían
149. 5:55XAI, que permiten generar aproximaciones
150. 5:59comprensibles de por qué un modelo llegó
151. 6:01a una decisión. Métodos como Shap o Lime
152. 6:05pueden identificar qué variables
153. 6:07tuvieron más peso en una predicción
154. 6:09específica.
155. 6:10No es una explicación perfecta, pero es
156. 6:13una explicación auditable.
157. 6:15Más importante, la opacidad de muchos
158. 6:18sistemas no es una necesidad técnica, es
159. 6:21una elección de diseño o de negocio. Un
160. 6:24sistema puede construirse con más o
161. 6:26menos transparencia. La decisión de no
162. 6:28hacerlo transparente es una decisión que
163. 6:30alguien tomó. Para el ejercicio del
164. 6:33derecho, esto significa que cuando un
165. 6:35sistema de IA toma una decisión que
166. 6:37afecta a derechos de personas, la
167. 6:40respuesta el algoritmo le decidió y no
168. 6:43podemos explicar por qué.
169. 6:45No es jurídicamente aceptable.
170. 6:47La opacidad puede y debe ser
171. 6:49cuestionable.
172. 6:52Mito número cinco. La inteligencia
173. 6:54artificial aprende sola y se actualiza
174. 6:56constantemente.
175. 6:58Existe la idea de que los sistemas de
176. 6:59inteligencia artificial están en
177. 7:01aprendizaje continuo y que cada
178. 7:03interacción los mejora, por eso siempre
179. 7:05están al día.
180. 7:07Hay que separar dos afirmaciones que
181. 7:09este mito mezcla porque no son lo mismo.
182. 7:13Una es que la inteligencia artificial
183. 7:15aprende sola y que cada conversación la
184. 7:17mejora. Esto es falso para la mayoría de
185. 7:20los sistemas desplegados.
186. 7:22La otra es que está siempre al día. Eso
187. 7:25ya no es categóricamente falso y
188. 7:28conviene entender por qué.
189. 7:30Los modelos tienen una fecha de corte de
190. 7:32entrenamiento. Una vez desplegados, no
191. 7:36aprenden de las interacciones de los
192. 7:37usuarios, a menos que hayan sido
193. 7:40diseñados específicamente para hacerlo y
194. 7:43se hayan implementado mecanismos para
195. 7:45eso. Lo que ves como adaptación del
196. 7:48modelo durante una conversación no es
197. 7:51aprendizaje nuevo. El modelo simplemente
198. 7:54está usando lo que le dijiste en esa
199. 7:56misma sesión que vive en su ventana de
200. 7:59contexto para condicionar sus
201. 8:01respuestas. Cuando la conversación
202. 8:03termina, ese contexto se pierde y los
203. 8:06parámetros del modelo siguen siendo
204. 8:08exactamente los mismos que antes de
205. 8:09hablar contigo. La parte de estar al día
206. 8:13es distinta. El modelo base por sí solo
207. 8:16no conoce nada posterior a su fecha de
208. 8:18corte, pero como mencionamos antes,
209. 8:21muchas herramientas hoy añaden búsqueda
210. 8:23en fuentes externas, como esa función
211. 8:26que puede estar activa.
212. 8:28Así pues, el sistema puede consultar
213. 8:30información actual y traerla a la
214. 8:33respuesta. Eso no significa que el
215. 8:35modelo se haya actualizado, sus
216. 8:38parámetros siguen congelados, sino que
217. 8:40el producto a su alrededor le acercó
218. 8:43datos frescos para que esa consulta
219. 8:45pudiera ser actualizada.
220. 8:48Por eso necesitas saber si la
221. 8:49herramienta que usas tiene esa búsqueda
222. 8:52y para qué preguntas la activa.
223. 8:55Para el uso profesional, la consecuencia
224. 8:57práctica es la que ya mencionamos.
225. 8:59Siempre verifica la fecha de corte,
226. 9:02siempre valida información sensible al
227. 9:04tiempo en fuente primaria y no asumas
228. 9:06que el modelo tiene información
229. 9:08actualizada, a menos que puedas
230. 9:10confirmarlo. M.