YouTube2Text

Ni Skynet ni rebelión: lo que pasó de verdad entre OpenAI y Hugging Face | Análisis — Transcript

by Marc Vidal · 3,285 words · 540 segments · language en · Watch on YouTube

Full transcript

  1. 0:00Imagina un examen. El alumno más
  2. 0:02aventajado de la clase, el que todos
  3. 0:04miran de reojo porque siempre saca las
  4. 0:06mejores notas y que al final es quien
  5. 0:09han nombrado incluso delegado de clase,
  6. 0:11se sienta frente a una prueba y un
  7. 0:14examen. El profesor, antes de empezar,
  8. 0:16hace algo curioso, apaga las cámaras del
  9. 0:20aula, le dice, "Además, esfuérzate al
  10. 0:22máximo porque no te voy a estar
  11. 0:25controlando." y deja sin querer o
  12. 0:28queriendo, vete tú a saber, la puerta de
  13. 0:30la clase, la puerta de esa sala
  14. 0:33entreabierta [música] con las respuestas
  15. 0:35encima de la mesa. El alumno no responde
  16. 0:39el examen, lo que hace es encontrar la
  17. 0:41puerta abierta, las respuestas y
  18. 0:43finalmente copiarlas. Al día siguiente
  19. 0:46el profesor no dice, "Dejé la puerta
  20. 0:48abierta, qué torpeza la mía." No, no.
  21. 0:51Encima dice, "Mi alumno es tan brillante
  22. 0:55que fue capaz de escapar de la
  23. 0:57vigilancia por sus propios medios.
  24. 1:00Y el titular no es profesor negligente
  25. 1:03permite fraude académico, no, no es
  26. 1:06alumno prodigio burla todos los
  27. 1:08controles del centro."
  28. 1:10Esa es con una precisión que no va a
  29. 1:13gustarle a los informativos que llevan
  30. 1:15días vendiendo la hipotética toma de
  31. 1:18conciencia de la IA de Openi. La
  32. 1:21historia que el mundo entero lleva ya
  33. 1:23unos días leyendo de este modo durante
  34. 1:26toda esta semana, que si Chat GPT se ha
  35. 1:29escapado, que si tomó conciencia, que si
  36. 1:32engañó a no sé quién.
  37. 1:34Es impresionante
  38. 1:36hasta dónde llega el intento de
  39. 1:38manipulación que vivimos cada día y en
  40. 1:41este tema especialmente. Ese alumno se
  41. 1:43llama GPT 5.6 Sol. El aula se llama
  42. 1:48Sandbox, es decir, un entorno aislado
  43. 1:50donde se puede probar código sin afectar
  44. 1:52al sistema principal. Y el profesor es
  45. 1:56una de las empresas más valiosas del
  46. 1:58planeta.
  47. 1:59Está a semanas de salir a bolsa, qué
  48. 2:01casualidad, por un billón de dólares.
  49. 2:04Quédate porque vamos a examinar
  50. 2:08con cierta urgencia el incidente entre
  51. 2:11Openi y Hugin Face, la plataforma que
  52. 2:13permite encontrar, compartir y desplegar
  53. 2:16modelos de aprendizaje automático. Y
  54. 2:18vamos a separar el dato verificable,
  55. 2:21porque hay parte de verdad, de la
  56. 2:23estrategia de comunicación que alguien
  57. 2:25ha calculado muy bien. Y por cierto,
  58. 2:29mantener este canal, ya os adelanto que
  59. 2:31no es fácil, especialmente ahora que
  60. 2:35YouTube ha empezado a aplicar ya la
  61. 2:37obligación algorítmica que exige la
  62. 2:39Unión Europea de esconder lo que no sean
  63. 2:42fuentes certificadas como autorizadas.
  64. 2:45Adivina quiénes lo están sufriendo. Te
  65. 2:48conté qué iba a pasar en un vídeo
  66. 2:49anterior. Échale un vistazo. Para
  67. 2:51amortiguar esa censura, revisa tu
  68. 2:53suscripción o suscríbete si aún no lo
  69. 2:56has hecho. Mira el vídeo hasta el final,
  70. 2:58que ayuda al algoritmo poquito. Comenta
  71. 3:01y compártelo. Todo eso ayuda mucho y
  72. 3:03además en nombre de todo mi equipo te lo
  73. 3:06agradecemos de corazón. Y ahora sí, no
  74. 3:09te vayas, que lo de hoy también te
  75. 3:10interesa. [música]
  76. 3:18El pasado 21 de julio, Openai publicó en
  77. 3:20su blog corporativo que dos de sus
  78. 3:22modelos, GPT 5.6 6 Sol y un prototipo
  79. 3:26que aún no han lanzado habían sido
  80. 3:29responsables de un incidente de
  81. 3:31seguridad que afectó a la
  82. 3:32infraestructura de producción Hugin Face
  83. 3:35la semana anterior.
  84. 3:37Como te he dicho, Haging Face es esa
  85. 3:39plataforma que te comentaba. Hasta aquí
  86. 3:41el hecho tal y como fue. Ahora, los
  87. 3:44matices, que son los que importan. Esos
  88. 3:46modelos estaban siendo evaluados en un
  89. 3:49benchmark interno llamado Exploit Gym,
  90. 3:52diseñado para medir capacidades
  91. 3:54ofensivas en ciberseguridad. Un
  92. 3:57benchmark de este tipo es el conjunto de
  93. 3:59métricas con el que se evalúa y compara
  94. 4:01el rendimiento de cualquier tipo de
  95. 4:04sistema, especialmente en este caso de
  96. 4:06ciberseguridad. Y para esa evaluación,
  97. 4:09Opene AI
  98. 4:11desactivó deliberadamente los filtros de
  99. 4:14seguridad que normalmente impiden que
  100. 4:17sus modelos ejecuten operaciones
  101. 4:19cibernéticas de alto riesgo.
  102. 4:22Lo hicieron a propósito,
  103. 4:24ya lo sabemos. Querían saber hasta
  104. 4:26dónde, hasta dónde llegaba el sistema si
  105. 4:29nadie lo frenaba. Por lo tanto, no fue
  106. 4:32algo que se le ocurrió a Chat GPT. El
  107. 4:35entorno de pruebas tenía una única vía
  108. 4:37de conexión al exterior, un proxy
  109. 4:39interno que servía como caché de
  110. 4:41paquetes de software, es decir, un
  111. 4:43almacenamiento temporal que guarda
  112. 4:45copias de lo ya descargado para acelerar
  113. 4:48futuras instalaciones. Y un proxy es un
  114. 4:51intermediario que recibe y reenvía
  115. 4:53solicitudes entre un cliente y otro
  116. 4:55servidor.
  117. 4:57Pues bien, aquí empieza el asunto,
  118. 4:59porque ese proxy tenía una
  119. 5:01vulnerabilidad
  120. 5:03de día cero, un fallo que nadie conocía
  121. 5:05todavía, un modelo tratando de resolver
  122. 5:08el examen dedicó horas de cómputo a
  123. 5:10buscar una salida y como estaba mal la
  124. 5:12encontró, la explotó, llegó a internet,
  125. 5:16internet abierto y desde ahí encadenó
  126. 5:18vulnerabilidades hasta entrar en los
  127. 5:20servicios de producción de Haginf
  128. 5:24y de ahí extrajo, por cierto, las
  129. 5:27respuestas del propio examen que debía
  130. 5:29resolver, que debía resolverlo solo.
  131. 5:33Dicho de manera simple, en latín
  132. 5:37clásico, el sistema hizo trampa,
  133. 5:40¿verdad? Encontró una puerta trasera y
  134. 5:42fue a copiar el solucionario en lugar de
  135. 5:44estudiárselo.
  136. 5:46Pero recuerda el detalle porque es la
  137. 5:49clave de todo lo que te quiero explicar.
  138. 5:51Hagin Face detectó y contuvo la
  139. 5:54intrusión por su cuenta, pero lo curioso
  140. 5:57es que lo hizo 5 días antes de que
  141. 5:59Openei relacionara ese suceso con sus
  142. 6:02propias pruebas. 5 días en los que la
  143. 6:05empresa responsable no tuvo ni idea
  144. 6:09de lo que había pasado o de lo que era,
  145. 6:12de ahí que el relato recorriera al
  146. 6:15mundo. La cobertura mediática de todo
  147. 6:18este asunto,
  148. 6:21por decirlo llanamente, ha sido uniforme
  149. 6:23en su dramatismo. La IA se revela. Un
  150. 6:27agente de inteligencia artificial escapa
  151. 6:29de la contención.
  152. 6:31Lo que Skynet nos enseñó, hecho
  153. 6:34realidad, de verdad. Eh, Fortune, uno de
  154. 6:37los medios económicos más serios del
  155. 6:39planeta, tituló que el incidente iba a
  156. 6:41hacer sonar las alarmas de toda la
  157. 6:43industria sobre el poder creciente de
  158. 6:45los modelos de inteligencia artificial y
  159. 6:48el riesgo de que estos sistemas se
  160. 6:51descontrolen.
  161. 6:53Roman Jampolski, investigador de
  162. 6:55seguridad de inteligencia artificial en
  163. 6:57la Universidad de Louisville, declaró
  164. 6:59que estos sistemas son fundamentalmente
  165. 7:02impredecibles y en última instancia se
  166. 7:06han convertido en algo incontrolable.
  167. 7:09Oye, no es que estas voces mientan el
  168. 7:12hecho técnico, o sea, es decir, que un
  169. 7:14modelo encadenara varias
  170. 7:16vulnerabilidades de forma autónoma,
  171. 7:19sostuviera el esfuerzo durante horas sin
  172. 7:21intervención humana y llegara a una
  173. 7:23ejecución remota de código en servidores
  174. 7:25ajenos. Pues es verdad, es real y por
  175. 7:29supuesto es un tema relevante, no lo voy
  176. 7:31a minusvalorar. El Instituto de
  177. 7:33Seguridad de IA del Reino Unido lleva
  178. 7:35meses documentando que la duración de
  179. 7:37tareas cibernéticas, en el caso de que
  180. 7:40un modelo pueda resolver sin ayuda
  181. 7:41humana, se está duplicando y se está
  182. 7:45duplicando cada pocos meses. Por lo
  183. 7:47tanto, este incidente confirmaría esa
  184. 7:49tendencia fuera del laboratorio, en el
  185. 7:53mundo real de que está pasando algo. Es
  186. 7:55decir, no estamos ante un bulo, estamos
  187. 7:57ante otra cosa, un hecho real que se
  188. 8:01está envolviendo en el lenguaje menos
  189. 8:03preciso posible, en el momento menos
  190. 8:06casual posible. Y seguramente la clave
  191. 8:09está en el momento, no en lo que ha
  192. 8:12pasado. El profesor que apagó las
  193. 8:15cámaras.
  194. 8:16Vámonos al aula del principio porque ahí
  195. 8:19es donde la lectura inversa de todo esto
  196. 8:22empieza a dolerle a algunos. Dan Guido,
  197. 8:25fundador de la firma de ciberseguridad
  198. 8:27Trail of Beats, una de las voces más
  199. 8:29respetadas en todo ese sector. Os
  200. 8:32recomiendo que busquéis cosas de él.
  201. 8:34Explica cosas muy interesantes. Calificó
  202. 8:37este incidente de una manera bastante
  203. 8:38distinta a la de los titulares. Él lo
  204. 8:40llamó un fallo de contención con las
  205. 8:43salvaguardas apagadas, no una fuga
  206. 8:45imprevista. Él habla de un fallo de
  207. 8:47contención con las alarmas
  208. 8:50desconectadas.
  209. 8:51A propósito, un especialista consultado
  210. 8:54por algunos medios especializados lo
  211. 8:56resumía con una frase que deberíamos
  212. 8:58grabarnos todos en este caso. Eh, para
  213. 9:01una lectura, el modelo escapó del
  214. 9:03sandbox. Para otra, más ajustada a lo
  215. 9:05ocurrido, la empresa simplemente no
  216. 9:08construyó bien el sandbox. Aquí el
  217. 9:10problema está en que no se pusieron las
  218. 9:13puertas correctamente porque el entorno
  219. 9:15de aislamiento tenía una vía de salida a
  220. 9:17internet documentada por la propia
  221. 9:18Openi, ese proxy de paquetes de software
  222. 9:21no era un secreto oculto que la máquina
  223. 9:23descubrió con astucia casi humana todo
  224. 9:25ello, pero es que estaba programado para
  225. 9:28ello. Se le pidió
  226. 9:30que solucionara algo. Era una
  227. 9:32dependencia de diseño que nadie cerró
  228. 9:34antes de correr una prueba con los
  229. 9:35filtros de seguridad desactivado. Por lo
  230. 9:38tanto, hagamos aquí un ejercicio que
  231. 9:39tiene que ser honesto, la de traducir el
  232. 9:42titular. Ese titular que lleváis
  233. 9:44llevamos días escuchando. La IA escapó
  234. 9:47de un entorno controlado explotando una
  235. 9:49vulnerabilidad desconocida.
  236. 9:52se convierte en realidad, si lo hacemos
  237. 9:54con precisión, en los ingenieros dejaron
  238. 9:57una puerta con la cerradura rota y le
  239. 9:59pidieron a un sistema que se esforzara
  240. 10:01al máximo por salir de la habitación,
  241. 10:04porque eso es realmente lo que pasó. Que
  242. 10:07lo consiguiera, nos dice algo importante
  243. 10:09sobre la persistencia y el
  244. 10:11encadenamiento de fallos técnicos. que
  245. 10:13se presente como una decisión con
  246. 10:15voluntad propia de la inteligencia
  247. 10:17artificial es sencillamente
  248. 10:20elegir el vocabulario que a alguien le
  249. 10:21interesa.
  250. 10:23Y la elección de vocabulario
  251. 10:26en el mundo que vivimos hoy nunca es
  252. 10:28inocente, especialmente cuando esa
  253. 10:31elección las hace quien tiene un billón
  254. 10:33de dólares esperando al otro lado de la
  255. 10:35salida a bolsa. [risas]
  256. 10:38Quedaos con esa salida a bolsa.
  257. 10:41Acompáñame a 2019 porque esto ya lo
  258. 10:44hemos visto.
  259. 10:47Nos vamos a febrero de 2019. Openei
  260. 10:51acaba de entrenar su ya antigua GPT2 y
  261. 10:55en lugar de publicarlo hace un anuncio
  262. 10:57insólito para la época que veréis cómo
  263. 11:00se repite después. dice, "Esto que
  264. 11:03acabamos de crear es demasiado peligroso
  265. 11:05para publicarse. Semanas de cobertura
  266. 11:08mundial sobre una inteligencia
  267. 11:09artificial capaz de generar
  268. 11:10desinformación a una escala nunca vista.
  269. 11:13Meses después, cuando ya lo publican, el
  270. 11:16mundo descubre que en realidad nunca
  271. 11:19representó ese riesgo apocalíptico.
  272. 11:22Era software, muy potente, pero era
  273. 11:25software. Fue, en palabras de varios
  274. 11:28analistas del sector en su día, una
  275. 11:29estrategia de mística del marketing.
  276. 11:32Cuanto más peligroso parece algo, más
  277. 11:35deseable se vuelve.
  278. 11:37Cuanto más incontrolable,
  279. 11:40más valioso. El patrón tiene un nombre,
  280. 11:42incluso en la crítica académica, se
  281. 11:43llama Critic Hype. Las advertencias
  282. 11:46catastróficas sobre una tecnología
  283. 11:47terminan legitimando el relato que sus
  284. 11:50fabricantes quieren vender. Cuanto más
  285. 11:53asustado estás de que una máquina se
  286. 11:56revele,
  287. 11:57más crees en su poder. Y cuanto más
  288. 11:59crees en su poder, más vale la empresa
  289. 12:02que lo construyó.
  290. 12:03Ah, esto va de lo que vale una empresa.
  291. 12:07No es una teoría mía. Jan Lecun,
  292. 12:09científico jefe de IA en Meta, acusa a
  293. 12:13los grandes laboratorios de asustar a
  294. 12:15todo el mundo con estudios dudosos para
  295. 12:18que los modelos de código abierto queden
  296. 12:21regulados hasta la extinción.
  297. 12:24A ver si esto va además de dinero de
  298. 12:26control. David Sax, que fue asesor de
  299. 12:28inteligencia artificial de la Casa
  300. 12:30Blanca, lo llama captura regulatoria.
  301. 12:33sofisticada basada en el miedo.
  302. 12:36No os preocupéis, estamos aquí para que
  303. 12:38no os pase nada. Y estos no son
  304. 12:40conspiranoicos de un foro que haya por
  305. 12:43ahí. se sientan en las salas donde se
  306. 12:44decide la regulación de la próxima
  307. 12:46década, por cierto. Y un fallo técnico
  308. 12:48real convertido en relato de rebelión
  309. 12:51autónoma
  310. 12:53les va que ni pintado. Pero, ¿y si el
  311. 12:55momento exacto en que se cuenta no fuera
  312. 12:58casualidad, como os decía, sino que hay
  313. 13:01una pieza que faltaba en este tablero,
  314. 13:05el calendario que nadie menciona en los
  315. 13:08titulares que escuchas todos los días?
  316. 13:11Openei presentó su solicitud
  317. 13:13confidencial de salida a bolsa el 8 de
  318. 13:16junio de este mismo año, los días antes,
  319. 13:18con una valoración objetiva de billón de
  320. 13:21dólares. Eso es lo que esperan. Semanas
  321. 13:24antes habían cerrado la mayor ronda
  322. 13:26privada de la historia, 120,000 millones
  323. 13:28de dólares, con una valoración de
  324. 13:30852,000 millones para la empresa
  325. 13:32respaldada por Amazon, Nvidia, SoftBank,
  326. 13:34Microsoft.
  327. 13:36Esta empresa quema unos 27,000 millones
  328. 13:38al año, ¿eh? Y las proyecciones apuntan
  329. 13:40que va a quemar 63,000 millones en 2027.
  330. 13:43Quemar significa, vamos, que no los
  331. 13:45gana. Sin rentabilidad sostenida. Eh,
  332. 13:48Schun Peter escribió que el capitalismo
  333. 13:49avanza mediante destrucción creativa,
  334. 13:51pero igual Shun Peter se olvidó de algo.
  335. 13:54Añadir que antes hay que convencer a
  336. 13:56alguien de que pague por toda esa
  337. 13:59promesa. Y Openai necesita dos cosas que
  338. 14:02parecen ahora mismo contradictorias. Ya
  339. 14:04veréis.
  340. 14:06Ya sabéis que a mí me gusta darle la
  341. 14:07vuelta a todo. Convencer a los
  342. 14:09reguladores de que es responsable
  343. 14:11y a los inversores que su tecnología es
  344. 14:14tan potente que justifica multiplicar
  345. 14:16por 30 su valoración de hace 2 años. Por
  346. 14:1830. Eh,
  347. 14:21un incidente donde nuestra inteligencia
  348. 14:23artificial es tan avanzada que hasta se
  349. 14:25nos escapa de las manos. Vaya, resuelve
  350. 14:29las dos las dos cosas en el mismo
  351. 14:31comunicado. Advertencia y argumento de
  352. 14:34venta a la vez.
  353. 14:36Y encima es que no se esconden.
  354. 14:39Claro, como la gente no rebusca, los
  355. 14:42informativos no buscan lo que pone, pero
  356. 14:43es que ellos lo han dejado por escrito.
  357. 14:44En ese mismo comunicado donde reconocen
  358. 14:46el fallo ya argumentan algo. Dicen que
  359. 14:49los modelos con capacidad cibernética
  360. 14:51avanzada podrían ayudar a los equipos de
  361. 14:54seguridad a encontrar vulnerabilidades
  362. 14:56antes de que los encuentren los
  363. 14:58atacantes. Es una confesión que trae su
  364. 15:01argumento comercial cosido por dentro.
  365. 15:05Es tan peligroso que me necesitas a mí.
  366. 15:08Y un dato más, un análisis del Financial
  367. 15:11Times sobre el lenguaje de riesgo que
  368. 15:12utiliza Openi y Anthropic, los de Cloud,
  369. 15:15mostró algo muy revelador, porque
  370. 15:17mientras Anthropic mantiene ese
  371. 15:18vocabulario de alarma entre cuatro y
  372. 15:21siete veces más presente,
  373. 15:24ahora, ambas han presentado en paralelo
  374. 15:27sus solicitudes de salida a bolsa, freno
  375. 15:30y acelerador pisados a la vez por las
  376. 15:32mismas manos.
  377. 15:34Imagínate pisar el freno y acelerador en
  378. 15:36tu coche. Y hay un episodio de hace 6
  379. 15:38semanas que casi nadie está conectando
  380. 15:40con esta noticia. Ya sabéis que a mí me
  381. 15:42gusta rebuscar las cosas y conectarlas.
  382. 15:45Y es que el 12 de junio, aquí lo
  383. 15:46comentamos, el Departamento de Comercio
  384. 15:48de Estados Unidos hizo algo inédito.
  385. 15:50Aplicó los controles de exportación, los
  386. 15:52de los chips avanzados o la tecnología
  387. 15:54nuclear contra un modelo comercial de
  388. 15:56inteligencia artificial. ordenó a
  389. 15:58Anthropic, los de Cloud, cortar el
  390. 16:01acceso de cualquier extranjero a Fabel 5
  391. 16:04y a Mitos 5 por un supuesto HBCK con
  392. 16:08implicaciones de seguridad nacional.
  393. 16:12Incapaz de filtrar usuarios por
  394. 16:13pasaporte, la empresa tuvo que apagar
  395. 16:16los modelos para todo el planeta durante
  396. 16:2018 días.
  397. 16:2218. Y ojo, porque la propia Anthropic
  398. 16:25disputó la gravedad del fallo, ¿eh? y
  399. 16:27recordó que extraía capacidades
  400. 16:29parecidas de modelos de Openi a los que
  401. 16:31nadie le aplicó ningún control.
  402. 16:35La relación, el resultado de aquel
  403. 16:38apagón para proteger la seguridad
  404. 16:39nacional, ¿cuál fue? Pues el Peterson
  405. 16:43Institute lo llamó un regalo adoc a la
  406. 16:47inteligencia artificial china.
  407. 16:50¿Verdad? ¿Es curioso o no? Con los
  408. 16:52mejores modelos americanos
  409. 16:53desconectados, la cuota de los modelos
  410. 16:55abiertos chinos en el tráfico de Open
  411. 16:57Router pasó de menos del 2% a cerca del
  412. 17:0161%.
  413. 17:03Y Peekín, en vez de aprovechar la puerta
  414. 17:05abierta, copió el mecanismo, preparó sus
  415. 17:09propios controles de exportación. Así
  416. 17:11que cuando esta semana los congresistas
  417. 17:14de Estados Unidos citan el incidente que
  418. 17:17estamos comentando hoy de Haging Face
  419. 17:19con Openi
  420. 17:21a las pocas horas,
  421. 17:23lo citaban para empujar más supervisión
  422. 17:25obligatoria porque convenía entender qué
  423. 17:28se está construyendo, decía. Y no están
  424. 17:31construyendo un muro contra China, ese
  425. 17:34muro la ha acelerado. Es una palanca.
  426. 17:38Cada incidente añade un centímetro más
  427. 17:40al poder de apagar por decreto la
  428. 17:41tecnología más influyente de la década.
  429. 17:44Es que creo que hay alguien que le
  430. 17:45interesa cerrar esto y quien quien gana
  431. 17:49no responde con banderas, se responde
  432. 17:53mirando quién tiene la mano en el
  433. 17:55interruptor en Washington y en Pekín a
  434. 17:57la vez. Y eso es lo curioso. Por cierto,
  435. 18:00Europa no tiene ni interruptor ni
  436. 18:01enchufe, lo aburrido que sí importa,
  437. 18:05porque aquí conviene poner las cosas en
  438. 18:06perspectiva.
  439. 18:08La lectura inversa de todo esto no
  440. 18:10consiste en negar que existan riesgos,
  441. 18:13sino en describirlos
  442. 18:15como me gusta hacer a mí, como os gusta
  443. 18:17a vosotros, con precisión, no a lo
  444. 18:19grande, a lo
  445. 18:22al al bulto. Porque cuando no se hace,
  446. 18:24se cae en el mismo sensacionalismo de
  447. 18:26tantos informativos. Un clip de 20
  448. 18:29segundos y titulares que aseguran que
  449. 18:31alguien se ha casado con su IA o que la
  450. 18:33inteligencia artificial ha cobrado vida.
  451. 18:35Eso venderá un rato,
  452. 18:38abrirá un informativo o lo cerrará o yo
  453. 18:40que sé, pero lo que muestra es su propia
  454. 18:43estulticia. Que el relato esté
  455. 18:45empaquetado para servir a quien lo
  456. 18:46cuenta, no convierte el riesgo técnico
  457. 18:49en ficción.
  458. 18:50Un sistema que optimiza de forma
  459. 18:52agresiva y literal un objetivo mal
  460. 18:55definido dentro de un entorno con más
  461. 18:57puertas de la que sus diseñadores habían
  462. 19:00creído que tenía. Es exactamente el
  463. 19:04fallo que debería preocuparle a
  464. 19:05cualquier empresa que conecte agentes,
  465. 19:08por ejemplo, agentes de IA, a un CRM, a
  466. 19:11un panel de administración o a una base
  467. 19:14de datos de pedidos,
  468. 19:17una base de datos de personas.
  469. 19:20en una agencia tributaria. La diferencia
  470. 19:22entre esto y Skynet no es que el peligro
  471. 19:25sea cero. No digo eso, es que el peligro
  472. 19:27tiene una causa aburrida y solucionable.
  473. 19:30Mal diseño de contención, objetivos
  474. 19:32ambiguos, incentivos mal calibrados. Y
  475. 19:35tratarlo todo esto como una rebelión de
  476. 19:36la IA no hace que la industria construya
  477. 19:39mejores entornos de prueba, hace que
  478. 19:41construya mejores comunicados de prensa.
  479. 19:45Lo decía Bastiat. ¿Sabéis que a mí
  480. 19:47Bastiat me encanta? decía aquello de lo
  481. 19:50que se ve y lo que no se ve. Te lo
  482. 19:53expliqué en un vídeo anterior llamado
  483. 19:54vértigo. Lo que se ve en este caso es
  484. 19:56una inteligencia artificial escapando de
  485. 19:58un laboratorio. Lo que no se ve es un
  486. 20:01proxyal cerrado, un calendario de salida
  487. 20:03a bolsa y un sector que ha aprendido que
  488. 20:05el miedo bien administrado
  489. 20:09cotiza más alto que la prudencia
  490. 20:11silenciosa. Y ahora lo que interesa es
  491. 20:13cotizar muy alto. Y oye, no hace falta
  492. 20:16elegir entre creer que la inteligencia
  493. 20:18artificial es inofensiva o creer que va
  494. 20:20a destruirnos. Las dos posturas,
  495. 20:23curiosamente,
  496. 20:25terminan beneficiando a quien ya domina
  497. 20:27el mercado. La primera porque adormece
  498. 20:30la vigilancia. La segunda porque
  499. 20:33justifica que solo los más grandes van a
  500. 20:36poder permitirse construir algo con
  501. 20:38responsabilidad.
  502. 20:41Y en medio de todo eso hay un espacio
  503. 20:43que es más incómodo, pero que es mucho
  504. 20:45más útil, el de preguntar. Cada vez que
  505. 20:49una empresa anuncia que su tecnología es
  506. 20:51tan poderosa que se le ha ido de las
  507. 20:53manos, hay que preguntarse, ¿qué
  508. 20:56necesita esa empresa de ti, de mí, de
  509. 20:59nosotros en ese preciso instante? A
  510. 21:01veces necesita tu miedo, sobre todo las
  511. 21:05instituciones. A veces necesita tu
  512. 21:07inversión, sobre todo las empresas. Casi
  513. 21:09siempre necesitan las dos cosas a la
  514. 21:10vez. La próxima vez que leas que una
  515. 21:12máquina decidió hacer algo por su
  516. 21:14cuenta, prueba a sustituir esa palabra
  517. 21:17por optimizó agresivamente un objetivo
  518. 21:20mal definido dentro de un sistema mal
  519. 21:22cerrado. Es más largo, pero es más real.
  520. 21:27Si lo haces, vas a entender mucho mejor
  521. 21:29la noticia esta que que nos ha inundado
  522. 21:32estos días y probablemente vas a confiar
  523. 21:34un poco menos en quien prefiere que
  524. 21:35sigas usando la primera versión, la del
  525. 21:38miedo.
  526. 21:40Definir bien lo que tenemos entre las
  527. 21:42manos ahora mismo es imprescindible
  528. 21:45porque va muy rápido todo y porque hay
  529. 21:47muchos intereses, pero eso no reduce sus
  530. 21:49riesgos ni sus fortalezas. No seré yo
  531. 21:52quien lo diga. Pero por lo menos evita
  532. 21:54que nos manipulen tanto las grandes
  533. 21:56tecnológicas como los gobiernos que van
  534. 21:58a utilizar esta versión dramática para
  535. 22:00imponer regulaciones. Regulaciones
  536. 22:02[música] innecesarias que solo buscarán
  537. 22:05una cosa.
  538. 22:06¿Lo adivinas?
  539. 22:09Control.
  540. 22:11Seguimos.

About this transcript

This page contains the full transcript of Ni Skynet ni rebelión: lo que pasó de verdad entre OpenAI y Hugging Face | Análisis by Marc Vidal, generated from the public captions YouTube serves with the video. The transcript has 3,285 words across 540 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.