YT YouTube2Text

YouTube2Text → Transcripts → El fin del mundo según OpenAI y Anthropic: ¿qué hay detrás de sus advertencias?

El fin del mundo según OpenAI y Anthropic: ¿qué hay detrás de sus advertencias? — Transcript

by Marc Vidal · 6,393 words · 1,068 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:00Un investigador se marcha de Anthropic,
0:02avisa de que la inteligencia artificial
0:04puede acabar con nosotros antes de que
0:07termine esta década en concreto y su
0:09mensaje supera los 100 millones de
0:11visualizaciones en muy poco tiempo.
0:13Otros investigadores confirman que ellos
0:15también están muy preocupados. Los
0:18medios, obviamente, llenan portadas con
0:21la posibilidad de perder el control de
0:22las máquinas y de que el fin del mundo
0:24está cada vez más cerca. Y unos días
0:27después, Dario Amodei, el consejero
0:29delegado de Anthropic, publica una
0:30propuesta para desacelerar el desarrollo
0:32de los sistemas más avanzados, justito
0:34después, meter evaluadores externos
0:37dentro de los grandes laboratorios y
0:39permitir que las compañías se coordinen
0:41para fijar ciertos límites de seguridad.
0:45Después, Samalman se muestra favorable,
0:48es el jefe de Openi, el de Chat GPT.
0:50Elon Musk también y casi a la vez,
0:53incluso Openi anuncia que 2026 al final
0:56no parece un buen momento para salir a
0:58bolsa y devuelven su OPV al horizonte
1:00del año que viene. Cuando una industria
1:03entera pide que la regulen, convendría
1:05desconfiar por defecto y no porque
1:08mientan, no digo que no, sino porque
1:10casi siempre hay algún motivo más, por
1:12lo menos dos motivos debajo y ninguno de
1:14los dos es el que sale en el titular. El
1:17primero es que las cuentas a ellos no
1:19les salen, por eso quieren retrasar la
1:21salida. El segundo es que el Estado
1:24nunca, por lo menos al Estado, nunca le
1:26ha molestado quedarse con la llave, la
1:28de la regulación. Eso es lo que quiero
1:30plantearte hoy. No que se hayan puesto
1:32de acuerdo en una sala secreta, ¿no?
1:35Porque eso yo no puedo demostrarlo y
1:36además seguramente no ha sido así. Lo
1:39que veo es una industria que se ha
1:40metido en una carrera que exige
1:42centenares de miles de millones de
1:43dólares, electricidad medida en
1:45gigwtios. chips que envejecen a una
1:47velocidad brutal y una infraestructura
1:50que no crece al ritmo de la demanda. Una
1:53carrera en la que nadie ha demostrado
1:54todavía, por cierto, cuánto dinero
1:57devuelve cada dólar que invierten. Y en
1:59ese momento exacto, los que van delante
2:02han descubierto que frenar es lo más
2:04prudente y los gobiernos descubren que
2:07por fin tienen una excusa impecable para
2:10decidir quién puede construir la
2:11tecnología que va a mover el siglo. Hm.
2:15El primer problema existencial de la
2:16inteligencia artificial puede que no sea
2:18existencial para nosotros, puede que sea
2:21más financiero para ellos, más político
2:24para quien firma las licencias. Quédate
2:27porque vamos a darle la vuelta al
2:30mensaje oficial y hoy va a costar porque
2:32hoy vamos a ver cómo o por qué las
2:35cuentas de esta industria todavía no
2:36cuadran y qué gana exactamente el que
2:38pide frenar, por qué la regulación de
2:40seguridad es el mejor negocio posible
2:42para quien ya va en cabeza. y el peor
2:45para quien viene detrás y qué parte del
2:47botín se va a llevar un estado, una
2:50administración, una unión en este
2:52reparto y sobre todo cuánto te va a
2:54costar a ti todo esto. Y lo vamos a
2:56hacer intentando pues analizar esa
2:58hipótesis antes de aceptarla de serie
3:01como se está haciendo. De todos modos,
3:03recuerda que tienes tres modos de apoyar
3:04este canal comentando y viendo el vídeo
3:06hasta el final que empuja el algoritmo,
3:07porque en estos vídeos habitualmente lo
3:09empujan poco. suscribiéndote, que es
3:11gratis, haciéndote miembro por muy poco.
3:13Ya sabes que ahí mi equipo estará
3:14especialmente encantado, aunque
3:16cualquiera de las tres opciones nos
3:18parecerá bien. Lo dicho, no te vayas que
3:19lo de hoy también te interesa.
3:23[música]
3:28Vamos con lo que sabemos. Un tal Jacob
3:31Coxson, que trabajó primero en Openi y
3:33después en Anthropic, dejó esta última
3:36empresa hace unos días y lanzó una
3:38advertencia muy grave. Él sostiene que
3:40buena parte de quienes están
3:42construyendo los modelos más avanzados
3:43cree sinceramente que existe una
3:46probabilidad relevante de que los
3:48sistemas futuros escapen al control de
3:51los seres humanos. Y ahí hay un detalle
3:53que complica despacharlo como un
3:55exempleado enfadado, porque Coxson se
3:57fue antes de consolidar una parte de su
4:00participación económica, es decir, tenía
4:02dinero sobre la mesa para quedarse y aún
4:04así este hombre decidió marcharse. Por
4:06lo tanto, hombre, hay que tenerlo en
4:09cuenta. Su diagnóstico puede incluso
4:11estar equivocado, a pesar de todo, su
4:13preocupación puede ser tomada en serio,
4:15no digo que no. y además no está solo.
4:18Otros investigadores de seguridad han
4:19salido de laboratorios de frontera o han
4:21trasladado públicamente inquietudes
4:23parecidas, Anthropic, Openei y el resto
4:27ya hacen evaluaciones específicas sobre
4:29ciberseguridad, biología, armas
4:31químicas, capacidad de engaño, pérdida
4:34de control y autonomía de los agentes.
4:37que ahí hay riesgos reales sería tan
4:39absurdo como los que aseguran que ya
4:41sabemos que una superinteligencia va a
4:43acabar con la humanidad en 2030, como
4:46están diciendo, por cierto. Y ha habido
4:48incidentes serios que hay que tener en
4:50cuenta. El de Haging Face es el más
4:52llamativo, aquí lo explicamos hace unas
4:55semanas en un vídeo anterior. Durante
4:57evaluaciones internas de ciberseguridad,
4:59varios agentes de Openi encontraron
5:01vulnerabilidades en la infraestructura
5:03que debía mantenerlos aislados.
5:05levantaron canales de comunicación que
5:07nadie había previsto y además esos
5:08algoritmos lograron acceso a internet y
5:11terminaron comprometiendo sistemas de
5:14plataformas terceras. Es un asunto
5:17grave, por supuesto, muy grave, pero
5:19conviene mirar lo que demuestra y lo que
5:22no demuestra, porque no demuestra que
5:24una inteligencia artificial despertara o
5:27tomara conciencia y decidiera escaparse
5:29de algo. El propio informe técnico de
5:31Openi, que muchos de los que hablan
5:33parece ser que no se lo han leído al
5:35detalle, describe modelos sometidos a
5:37tareas de explotación informática con
5:39las salvaguardas reducidas a propósito,
5:41optimizando objetivos dentro de un
5:43entorno defectuoso y encontrando caminos
5:46que los investigadores no habían
5:48anticipado.
5:50Matemáticas optimizando una función
5:52objetivo sobre una infraestructura mal
5:54cerrada. Eso es exactamente el motivo
5:57por el que el problema es serio. Sí. Sí.
6:00A pesar de que no es lo que dicen, es un
6:02tema serio. No hace falta atribuirle
6:04alma a una matriz para que una máquina
6:07competentísima provoque un desastre. Un
6:10algoritmo no necesita odiarte para
6:12hackear tu servidor. Le basta con que
6:15hacerlo sea la vía más eficaz para
6:17cumplir el objetivo que le has dado. El
6:19problema empieza cuando pasamos del
6:21riesgo a lo que ahora está llenando
6:23todos los informativos del mundo. El
6:25relato. Una posibilidad técnicamente
6:28plausible se convierte primero en una
6:30probabilidad periodística, después en un
6:32titular, luego en una profecía y al
6:34final en una demanda política. Ojo con
6:36eso. El medio se lleva la atención. El
6:38divulgador de catástrofes se lleva la
6:40relevancia, el experto en seguridad se
6:42lleva la centralidad pública y las
6:43organizaciones dedicadas al riesgo se
6:46llevan la financiación. Incluso los
6:48gobiernos se llevan una opinión pública
6:50asustada que les pide por Dios hacer
6:53algo, parar esto como sea, por nuestro
6:55bien. Y los grandes laboratorios se
6:57llevan lo más valioso de todo, que es la
6:59posición desde la que explicarle a ese
7:01gobierno qué habría que regular
7:02exactamente es su herramienta, es su
7:05llave. Nada de eso demuestra mala fe. No
7:07digo que no. Yo no voy a sospechar ahora
7:09de nadie y por eso funciona también. Los
7:11incentivos económicos no necesitan una
7:13sala secreta donde alguien decide un
7:15plan. Mientras nosotros discutimos si
7:17una IA se había convertido en Skynet,
7:20detrás de la pantalla estaba pasando
7:22otra cosa bastante menos cinematográfica
7:24y realmente mucho más urgente para
7:27ellos. Porque esto, amigos míos, los que
7:30seguís este canal sabéis que todo eso
7:33tiene una factura. El monstruo también
7:36tiene una factura.
7:38El 10 de septiembre, AENA, Openei hizo
7:41algo rarísimo. Suspendió temporalmente
7:45las nuevas altas y las mejoras del plan
7:47de Chat GPT Pro a su suscripción de
7:49$200. Y no lo hizo por falta de
7:52clientes. Por lo contrario, la demanda
7:55de Astra, que es su modelo más avanzado,
7:57estaba presionando tanto su capacidad de
8:00cómputo que la compañía decidió dejar de
8:02aceptar durante un tiempo algunos de los
8:04clientes que más dinero estaban
8:05dispuestos a pagarle.
8:10Piensa en lo extraño de esto. Tienes un
8:12producto que la gente quiere comprar.
8:15Tienes clientes que te ofrecen $200 cada
8:18mes, que es mucho más que lo que
8:20pagaban. Y tienes que cerrar media
8:22puerta porque no puedes servirles. A
8:25OpenI le sobran clientes y le falta
8:27fábrica. Y esa fábrica ya no es una sala
8:30con servidores, son terrenos, centros de
8:33datos, centrales eléctricas,
8:35subestaciones, refrigeración, fibra,
8:39transformadores y centenares de miles de
8:41aceleradores trabajando a la vez. Openei
8:44ha elevado su planificación de gasto en
8:46el cloud, en la nube hasta unos,
8:49agárrate, 750,000
8:51millones de dólares hasta 2030
8:55cuart de billón.
8:57[risas]
8:58Antropic tampoco juega con calderilla.
9:00Ha cerrado con Amazon una capacidad de
9:02hasta 5 GW y compromisos tecnológicos
9:04por más de 100000 millones durante la
9:07próxima década. Ha ampliado su acuerdo
9:09con Google, con Broadcom para varios
9:12gigwtios adicionales. Mantiene una
9:14alianza con Microsoft con Nvidia que
9:16incluyen decenas de miles de millones de
9:18capacidad aure y ha sumado más de
9:20220,000 GPUs mediante un acuerdo con
9:23Space X. que están todos metidos en lo
9:25mismo. Si os dais cuenta, empresas de
9:28software financiando infraestructuras
9:30con magnitudes de industria energética.
9:33En el software tradicional el sueño era
9:34el apalancamiento operativo, es decir,
9:37construir el producto salía caro, pero
9:39vender la copia número 1 millón costaba
9:42ya casi nada. En la frontera de la
9:44inteligencia artificial la contabilidad
9:46funciona, vaya, al revés. Igual tiene
9:50algo que ver, ya veréis. Los ingresos
9:52pueden dispararse mientras se dispara
9:53también el capital necesario para
9:55producir el siguiente dólar de ingresos.
9:58Más clientes significan más inferencia.
10:00Los modelos más sofisticados pueden
10:02consumir más cómputo. Mantenerse en la
10:05frontera, en lo máximo, en lo más
10:06innovador, obliga a entrenar nuevas
10:08generaciones y cada salto exige asegurar
10:11chips, electricidad y más capacidad
10:15antes de saber cuánto tiempo vas a
10:16conservar la ventaja que acabas de
10:19comprar.
10:21Igual por eso también quieren levantar
10:22el pie del acelerador. Podría ser,
10:24podría ser. Anthropic comunicó en mayo
10:26que su run rate de ingresos había
10:28superado los 47,000 millones de dólares,
10:31que es algo impresionante. Open también
10:33crece a un ritmo que no habíamos visto
10:34nunca, pero crecer muchísimo ahora mismo
10:37no responde a la pregunta financiera que
10:38importa. La pregunta es, ¿cuánto capital
10:41tienes que invertir y reinvertir para
10:43seguir creciendo a esa velocidad? Y ahí
10:46no hay respuesta ahora mismo que sea
10:47pública. Nadie ha demostrado todavía
10:49cuánto devuelve cada dólar metido en ese
10:50cómputo. Nadie.
10:53Hay que ser preciso en esto porque esto
10:55no vamos, esto se suele exagerar con
10:58mucha facilidad. Estas compañías no
11:00están arruinadas, eh, están atrapadas,
11:02que es distinto. Tienen demanda de
11:04sobra, ingresos creciendo a la velocidad
11:05histórica, eso es verdad, y un modelo de
11:07negocio que todavía no ha demostrado que
11:09se pague solo. Cada trimestre que pasan
11:12en esa carrera, el agujero de inversión
11:14necesario para seguir en cabeza crece
11:17más rápido que la propia facturación.
11:18Esa es una posición pésima para el que
11:20manda, porque no puede parar sin
11:22regalarle la delantera al de al lado,
11:24salvo que paren todos a la vez, salvo
11:27que todos levanten el pie del acelerador
11:29y salvo que parar tenga un motivo que
11:32nadie pueda discutir, ¿por qué van a
11:34levantar todos el pie del acelerador?
11:36Open consiguió en marzo 122,000 millones
11:39de dólares de capital comprometido con
11:41una valoración postmoney de 852,000
11:43millones. Se acerca al billón ya.
11:45Anthropic levantó en mayo otros 65,000
11:48millones y alcanzó una valoración de
11:49965,000 millones casi ese billón. Son
11:53cantidades que hace 3 años habrían
11:54parecido imposibles en el mercado
11:56privado y eso rompe una de las reglas
11:58históricas del capitalismo tecnológico.
12:00Durante décadas una empresa acababa
12:02saliendo a bolsa porque necesitaba
12:04acceder a una piscina de capital mucho
12:06mayor que la que tiene disponible entre
12:09los fondos privados. Pero, ¿qué pasa
12:11cuando puedes captar 122,000 millones
12:14sin cotizar? Eh, que la bolsa deja de
12:17ser una necesidad inmediata y cuando
12:19deja de ser una necesidad, también
12:21puedes posponer algo que en esa
12:23situación resulta francamente muy
12:25molesto.
12:27Atentos que millones de inversores se
12:30pongan a decidir cada día cuánto vale
12:32realmente tu negocio. Y eso es lo que
12:35acaban de posponer, lo que una salida
12:38bolsa obliga a enseñar.
12:40Salgamos un momento de Silicon Valley,
12:42de todo este lío y nos vamos a Wall
12:44Street que suceden las cosas
12:45interesantes por allí, porque allí ahora
12:49mismo hay tres cosas que se mezclan
12:52continuamente y no son lo mismo.
12:54Necesidad de capital, necesidad de
12:55liquidez y necesidad de price discovery.
12:58Os lo explicaré. Una empresa necesita
13:00capital para financiar su crecimiento.
13:02Sus accionistas, fundadores o empleados
13:04pueden necesitar liquidez para convertir
13:07parte de sus participaciones en dinero.
13:09Pero el mercado necesita otra cosa muy
13:11distinta, descubrir cuánto vale de
13:13verdad esa compañía, ¿verdad? Openei y
13:16Anthropic han demostrado que pueden
13:18obtener cantidades absolutamente
13:20gigantescas de capital sin cotizar y
13:23además existen ventas secundarias que
13:26dan liquidez a determinados accionistas
13:28sin tener que pasar por una OPV. Lo que
13:31resulta muy difícil de reproducir aquí
13:33fuera de bolsa es el price discovery
13:35permanente. Es decir, miles de gestores,
13:38analistas e inversores mirando tus
13:40cuentas, comparando expectativas con
13:42resultados y volviendo a ponerle precio
13:44a tu compañía cada segundo. Open
13:47presentó confidencialmente su borrador
13:49del formulario S1, que es el que se
13:52tiene que presentar a la SEC, los
13:54reguladores de allí. El 8 de junio lo
13:55hizo. Anthropic había hecho lo mismo una
13:58semana antes y un S1 es menos
14:01espectacular que una discusión sobre el
14:03fin de la humanidad, ¿verdad? Pero puede
14:05acabar contándonos muchísimo más sobre
14:08esta industria porque obliga a describir
14:10con detalle el negocio, la situación
14:13financiera, los resultados y los riesgos
14:15y además los estados financieros ya
14:17auditados. Y ojo, que siendo privada
14:20tampoco puedes engañar a tus inversores.
14:22Obviamente SoftBank, Amazon, Nvidia o
14:24Seollya hacen du diligence antes de
14:26firmar un cheque. Obviamente la
14:27diferencia es otra. Una cosa es abrir
14:29tus números ante unas decenas de
14:31inversores sofisticados con los que
14:32estás negociando una ronda. Y otra muy
14:35distinta es ponerlos delante del mercado
14:37entero y permitir que Wall Street te
14:39pregunte cada trimestre si de verdad
14:40justificas o de verdad vales 800,000
14:43millones, un billón o 2 billones de
14:46dólares. Y las preguntas van a ser muy
14:48duras a partir de ese momento. ¿Cuánto
14:50cuesta entrenar realmente una generación
14:52de modelos de inteligencia artificial?
14:55¿Cuánto cuesta la inferencia una vez que
14:57contabilizas toda esa infraestructura?
14:59¿Qué margen bruto te queda? ¿Qué
15:01compromisos futuros de Cloud hay
15:04firmados ya? ¿Cuánto Capex exige
15:07mantenerse en la frontera? ¿Qué parte
15:09del crecimiento obliga a volver a
15:10levantar capital? Son preguntas, ¿se las
15:13van a hacer? ¿Cuándo aparece un flujo de
15:16caja libre sostenible? Y la más
15:18importante de todas, que también se la
15:19van a hacer, ¿qué retorno produce cada
15:21dólar adicional que invierta yo en
15:23cómputo?
15:25Esa es la economía real, la economía
15:27real de la inteligencia artificial de
15:29frontera que se llama. Y todavía no
15:31podemos verla con la claridad con la que
15:33hemos podido estudiar a Microsoft, a
15:35Alphabet, a Meta. Y Anthropic puede
15:38darnos pronto esa ventana. Es verdad,
15:39sigue preparando una posible OPV que,
15:41según lo publicado, podría captar hasta
15:43100,000 millones de dólares con una
15:45valoración cercana.
15:48Sí, sí. a los 2 billones de dólares.
15:52Conviene aclarar esto porque estas
15:54cifras se mezclan con demasiada alegría.
15:56Anthropic no necesita captar 2 billones,
15:59esa sería su valoración. Lo que
16:01levantaría serían 100,000 millones y una
16:04compañía valorada en 2 billones tendría
16:06que responder a algo bastante simple.
16:09¿Qué beneficios futuros justifican que
16:11hoy paguemos 2 billones por ella? Pues
16:14la revista Fortune hizo el cálculo con
16:17los múltiplos habituales de las grandes
16:18tecnológicas del propio NASDAQ, allí
16:21donde van a cotizar o querrían cotizar o
16:24dicen que van a cotizar. Y la cifra que
16:25sale es que Anthropic tendría que acabar
16:27generando decenas de miles de millones
16:30de dólares de beneficio anual para
16:31sostener esa capitalización y hoy apenas
16:34gana dinero. Ahí no basta con enseñar el
16:36crecimiento. El mercado quiere saber
16:39cuánto capital adicional hay que meter
16:41para llegar hasta ese crecimiento.
16:43Openai está en otra posición. cuando
16:45anunció su S1 confidencial, ese
16:48documento, ya dijo que no tenía decidido
16:50el momento exacto para salir a bolsa y
16:52que había cosas que probablemente le
16:54resultarían más fáciles siendo una
16:56compañía privada que eso de estar en lo
16:58público ahí a expensas de toda la
17:01opinión. Y en agosto su directora
17:03financiera, Sara Frear, dijo
17:05internamente que Open cotizaría en 2027.
17:08Ahí iríamos, aunque dejó abierta una
17:10salida anterior si el negocio se
17:11aceleraba y ahora en plena explosión de
17:14la preocupación por la seguridad, pues
17:15Samman ya ha dicho que 2026 es un
17:18momento muy poco aconsejable para salir
17:19a bolsa, porque la cosa está muy mal,
17:21con el argumento de que la compañía
17:23pública ahora mismo lo tendría más
17:25difícil para tomar decisiones de
17:27seguridad que perjudiquen temporalmente
17:29a sus accionistas. Es decir, dice él que
17:31si tienen que levantar el pie del
17:32acelerador,
17:34no sería un buen momento precisamente
17:35para salir a bolsa. Es razonable.
17:38Yo digo que sí. demuestra que la
17:40seguridad eh, bueno, es una excusa para
17:43esquivar Wall Street en este caso, ¿no?
17:45Pero quedarse privado resulta
17:47financieramente muy cómodo cuando acabas
17:48de conseguir 122,000 millones y tus
17:50necesidades de capital son colosales. No
17:53porque tengas nada siniestro que
17:54esconder, sino porque el mercado privado
17:56te deja negociar valoración y relato con
17:59un grupo reducido de inversores,
18:01mientras en público te obligaría a
18:02convivir con un precio diario y unos
18:05resultados trimestrales capaces de
18:06desmontarte la historia en una en una
18:10tarde.
18:12Y voy a corregir mi propia tesis
18:13precisamente para que todo esto se
18:15aguante mejor. No es cierto que Open y
18:18Anthopic hayan decidido conjuntamente
18:20retrasar sus OPVs hasta 2027, sus
18:23salidas a bolsa. Openi apunta a 2027,
18:26sí, pero Anthropic sigue preparando una
18:28posible salida este mismo otoño. Por lo
18:30tanto, en principio de coordinación
18:33nada, pero es que no necesito eso para
18:36demostrar lo que quiero demostrar. Lo
18:38interesante es otra coincidencia. Justo
18:40cuando estamos a punto de empezar a ver
18:42en público la economía real de estos
18:44laboratorios, sus máximos dirigentes
18:46empiezan a decir que la carrera quizá va
18:49demasiado rápido. Y si la carrera se
18:51ordena por ley, la pregunta deja de ser
18:54quién corre más y pasa a ser, ¿quién
18:58puede pagar el permiso para correr?
19:01¿Quién puede pagar el cumplimiento?
19:04Aquí aparece el mejor argumento en
19:05contra de mi hipótesis. Lo sé, tengo que
19:08que lanzarlo y hay que ponerlo encima de
19:10la mesa. Anthropic no propone que
19:12cualquier programador que monte mañana
19:14una startup de inteligencia artificial
19:15tenga que contratar a 500 abogados y a
19:1720 auditores. No lo dice. Las normas de
19:20frontera que la compañía defiende usan
19:21umbrales altos. Es verdad. La Ley
19:24Californiana SB53 considera gran
19:26desarrollador de frontera a quien
19:27trabaja con modelos entrenados por
19:29encima de 10 elevado a 26 operaciones
19:32computacionales, que es una absoluta
19:33barbaridad. y pertenece a un grupo con
19:35más de 500 millones de dólares de
19:37ingresos anuales. Hasta aquí es la
19:40versión oficial. Nueva York ha terminado
19:42convergiendo hacia umbrales parecidos en
19:44su race race act, que es en teoría las
19:48obligaciones que caen sobre los
19:49gigantes. Bien, ese diseño tiene lógica
19:52y desmonta la caricatura según la cual
19:54estas empresas quieren impedir que
19:57alguien monte una startup. Yo lo he
19:59defendido, no así, pero he dicho que
20:01esta gente intentan que quedarse solos,
20:04básicamente. Pero la pregunta no
20:06desaparece con esas pruebas, se desplaza
20:10porque una barrera de entrada no tiene
20:11por qué impedirte entrar. Ellos dicen
20:13que no van a impedir entrar a nadie.
20:15Puede impedirte crecer.
20:17Puedes montar tu empresa, levantar 20
20:19millones de dólares, luego 100. Es
20:21igual, entrenar modelos cada vez mejores
20:22y competir durante años. El problema
20:24llega justo cuando empiezas a ser una
20:26amenaza seria. En ese momento cruzas el
20:29umbral y arrancas las obligaciones de
20:30auditoría, reporting, evaluación,
20:32protocolos de seguridad, supervisión
20:34externa, documentación, sistemas
20:36internos, relaciones regulatorias y
20:39puede que todas sean necesarias. La
20:41discusión no es esa. La discusión es
20:44quién va a poder pagarlas.
20:46Pues viajemos un momento a 2002 porque
20:49nos va a hacer entender muchas cosas. Ya
20:51veréis. Después de Enron y Walcom,
20:53Estados Unidos aprobó la Sabarness
20:55Hoxley Act para reforzar controles,
20:58auditorías y calidad de la información
20:59financiera. Bien, había razones de sobra
21:02para hacerlo y apareció un efecto
21:03económico que después se ha estudiado
21:06hasta la saciedad. buena parte de los
21:08costes regulatorios
21:11era fija. La Government Accuntability
21:14Office comprobó que esos costes pesan
21:17proporcionalmente mucho más sobre las
21:18compañías pequeñas que sobre las
21:20grandes. Esta gente ha estudiado eso, ya
21:22veréis. En banca ocurre eso. Cuando
21:25necesitas una estructura de cumplimiento
21:27determinada, el gigante la reparte entre
21:29decenas de miles de millones de
21:31facturación. Pero el pequeño tiene que
21:33sostener casi la misma infraestructura
21:36sobre un negocio que en realidad es
21:38minúsculo en comparación con los
21:40grandes, con los que ya estaban allí. No
21:42estoy diciendo que toda regulación sea
21:44una conspiración empresarial. Su trabajo
21:46dio forma a la teoría económica de la
21:48captura regulatoria. Las normas generan
21:50costes y beneficios y quien tiene más
21:53dinero en juego tiene también más
21:55incentivos para influir en cómo se
21:56diseñan. Hay incluso una expresión
21:59habitual en estrategia empresarial que
22:01se llama regulatory mod. Es el foso
22:03regulatorio. Una regulación puede estar
22:05perfectamente justificada por seguridad
22:08y reforzar al mismo tiempo la ventaja
22:10competitiva de quien ya tiene los
22:12recursos para poder cumplirla.
22:14y partimos de un mercado brutalmente
22:16concentrado. Según datos de Peachbook
22:19recogidos por Axios, Open AI y
22:21Anthropic, se llevaron conjuntamente más
22:24del 60% de todo el Venture Capital
22:27comprometido con startups
22:29estadounidenses durante el primer
22:30semestre de 2026 de todas las startups.
22:34Anthropic, además, ha subido mucho su
22:36actividad política. Fijaos, más de 3,5
22:39millones de dólares en lobbing federal
22:41durante la primera mitad del año, por
22:43encima de todo lo que gastó en 2025 y
22:46ahora 40 millones aportados al publico
22:50educación pública y políticas de
22:52transparencia y salvaguardas en
22:53inteligencia artificial. Y es que la
22:55propia Anthropic especifica que ese
22:57dinero no puede destinarse a apoyar
22:59candidatos. Perfecto. No estamos
23:01hablando de corrupción, yo no. Estamos
23:03hablando de una compañía que intenta
23:06influir en principio legítimamente en la
23:09arquitectura institucional de una
23:11industria donde tiene centenares de
23:13miles de millones en juego. Y nada de
23:16eso es una
23:18conspiración.
23:20Es una empresa defendiendo lo que ha
23:22invertido,
23:24los incentivos. Cuando esto se convierte
23:26en un combate entre creyentes y
23:28negacionistas del apocalipsis, en
23:31realidad se pierde lo único que de
23:32verdad importa aquí. Anthropic puede
23:34estar sinceramente preocupada por los
23:36riesgos de la inteligencia artificial.
23:38Yo no digo que no, pero a la vez puede
23:40beneficiarse de una regulación que sea
23:43muy cara para los que vengan. Es que las
23:45dos cosas pueden ser verdad al mismo
23:47tiempo, ¿verdad? Un incentivo económico
23:50no invalida una preocupación moral y una
23:53preocupación moral no hace desaparecer
23:55el incentivo económico. Que no, cuando
23:58frenar es un rescate. Llegamos al 12 de
24:01septiembre. Dario Amodei publica Wimo
24:04Space de Frontier. La idea central es
24:06que el desarrollo de capacidades avanza
24:08más rápido que la seguridad y que la
24:10industria necesita compasar la frontera.
24:12Anthropic se compromete a meter
24:14evaluadores externos con acceso muy
24:16profundo a sus procesos internos. Y pide
24:18además, oye, que los demás los demás
24:21grandes laboratorios hagan algo
24:22parecido, no van a ser ellos solos.
24:24Amodei propone después que las compañías
24:26de frontera, que están ahí al límite,
24:29coordinen estándares y ciertos límites
24:31de velocidad, preferiblemente mediante
24:33regulación pública.
24:36regulación pública y reconoce que
24:38algunos tipos de coordinación podrían
24:40chocar con el derecho de la competencia,
24:43así que plantea algún mecanismo limitado
24:45que permita esas conversaciones. Y el
24:48hombre remata con un elemento
24:49internacional. Dice que cualquier freno
24:51importante en Estados Unidos pierde
24:53sentido si China puede seguir avanzando
24:55a su ritmo, que habría que convencer a
24:57los chinos.
25:00Que habría que convencer a los chinos,
25:01dice.
25:01Y luego sale Samman respaldando la
25:03dirección de todo esto. Elon más se
25:05mostró favorable ahí, uno detrás del
25:08otro. Hay que ir con calma porque es
25:09facilísimo saltar de una coincidencia a
25:11una conspiración y no hace falta
25:13imaginar ninguna reunión secreta, como
25:14decía cuando el propio Amodei está
25:16proponiendo en público que ciertos
25:17competidores se coordinen, no pasa nada.
25:19ahí explicando por qué necesita
25:20cobertura jurídica para hacerlo. Hasta
25:22ahí bien, puede haber una razón
25:24totalmente legítima. Yo no digo que no.
25:26Mancur Olson explicó hace 60 años porque
25:29un grupo con intereses comunes muchas
25:30veces no consigue actuar en su propio
25:33beneficio. Decía que lo que le conviene
25:36al conjunto a veces no le conviene
25:38individualmente a ninguno de los
25:39miembros. Y eso es exactamente lo que
25:42está pasando aquí. Si cada laboratorio
25:45piensa en principio que reducir la
25:48velocidad por su cuenta es peligroso
25:49porque el rival aprovechará la pausa
25:51para adelantarle, pues es normal que
25:53todos pues puedan preferir una carrera
25:56más lenta y ninguno puede permitirse
25:58frenar primero, ¿no? Una norma común
26:01eliminaría parte de ese problema y
26:04podría mejorar la seguridad de todos en
26:07verdad y así estos CEO salvarán el
26:11mundo. siempre ayudados, obviamente por
26:13la regulación conveniente. Pero ahora
26:15hagamos la lectura inversa. ¿Qué ocurre
26:17financieramente cuando todos frenan a la
26:19vez y además está escrito en un boletín
26:20oficial? Pues ocurre que baja
26:24el burn rate. Una carrera ilimitada te
26:26obliga a entrenar continuamente el
26:27siguiente modelo porque no sabes cuando
26:29tu competidor presentará algo que deje
26:31obsoleto el tuyo. Pues si reduces el
26:33ritmo, alargas los ciclos de
26:35entrenamiento y haces que el mismo
26:37capital dure más. el mismo capital que
26:40te han dado dure más. Baja también la
26:42presión marginal sobre el Capex y el y
26:45lo que computa. Las inversiones no
26:47desaparecen, pero la lógica deja de ser
26:49comprar toda la capacidad posible antes
26:51de que te la quite el rival. Se alarga
26:53también el camino por el que circulan
26:55porque los mismos 50,000 o 100,000
26:57millones financian más meses de
26:59operación y permite amortizar cada
27:01generación de modelos durante más
27:02tiempo.
27:05La carrera enloquecida les obliga a
27:07frenar. Si acabas de invertir una
27:09fortuna en entrenar y desplegar un
27:10sistema y 6 meses después tienes que
27:12sustituirlo por otro todavía más caro,
27:14el periodo de amortización de todo eso
27:16es ridículo. Una carrera más lenta te
27:18deja exprimir durante más tiempo lo que
27:20ya has construido. Y aquí hay algo más
27:22fino todavía, eh, que es donde yo quiero
27:25poner el foco. Una compañía que frena
27:27porque las cuentas no le salen está
27:29admitiendo una debilidad. Pero una
27:31compañía que frena porque la seguridad
27:33de la humanidad se lo exige está
27:36demostrando responsabilidad. Es el mismo
27:39movimiento contable, pero con dos
27:40titulares muy distintos. La regulación
27:42convierte un problema de tesorería en
27:45una virtud pública y convierte una
27:47decisión que castigaría tu valoración en
27:50una decisión que la protege.
27:53Son buenos. Y esto no lo he inventado
27:55yo, ¿eh? Y tampoco es nuevo. Hay un
27:57historiador, Gabriel Colco, que
28:00documentó algo parecido en los
28:01ferrocarriles norteamericanos de finales
28:03del siglo XI. Esta gente igual ha leído.
28:06Una industria con costes fijos enormes,
28:08guerras de precios que arruinaban a todo
28:10el mundo y una competencia que nadie
28:12podía sostener. Esa industria, ese
28:15ferrocarril, donde los grandes compañías
28:18no consiguieron estabilizar el mercado
28:19por acuerdos privados que se rompían
28:21continuamente.
28:23Tuvieron terminaron apoyando la
28:26intervención federal. La regulación que
28:28la historia oficial cuenta como una
28:30victoria del interés público contra los
28:31monopolios en realidad fue en gran
28:33medida el mecanismo con el que esas
28:36empresas incapaces de sostener la
28:38competencia lograron por ley la
28:41estabilidad que el mercado les estaba
28:44negando.
28:45Ahora sustituye ferrocarriles por
28:48centros de datos y guerra de precios por
28:51carrera de entrenamiento. Y oye, tienes
28:53un mapa idéntico.
28:57La historia rima. Si además la
28:59ralentización llega acompañada de
29:01auditoría, verificadores,
29:03certificaciones, departamentos de
29:04cumplimiento, controles de seguridad,
29:06informes obligatorios, relaciones
29:08sofisticadas con los gobiernos, pues
29:11cada kilómetro adicional sale más caro
29:13para el que viene detrás. El gigante ya
29:14tiene abogados, ya tiene cientos de
29:16investigadores de seguridad, ya tiene
29:18equipos para solucionar todo eso, ya
29:21tiene teléfono directo con Washington,
29:22ya tiene gigwtios contratados y ya tiene
29:25inversores capaces de firmar cheques de
29:27decenas de miles de millones. Pero el
29:30aspirante, ese que podría convertirse en
29:32un buen competidor, tiene que construir
29:34todo eso mientras intenta alcanzarle. Y
29:37ahí es donde seguridad y finanzas dejan
29:39de ser explicaciones incompatibles. Una
29:42ralentización general puede estar
29:44justificada por razones auténticas de
29:46seguridad. Sí. Sí. Y a la vez resultar
29:49el mejor rescate posible para la
29:51estructura financiera de quienes lideran
29:53esa carrera. Claro. Y no necesitas, por
29:55lo tanto, ni que Amodei, ni Alman, ni
29:58Mask se sienten en una habitación para
30:01decidirlo. Solo necesitan que sus
30:03incentivos converjan en algún lugar.
30:06Ahora vuelve a mirar el calendario. Es
30:08muy importante. Open
30:10presenta su S1 en junio. En agosto habla
30:13de 2027. En septiembre, en plena oleada
30:16de preocupación sobre seguridad, Alman
30:18explica que este no sería un buen
30:19momento para cotizar. Eso no demuestra
30:22que el argumento de seguridad sea falso,
30:23pero produce una alineación de intereses
30:27que, hombre, por lo menos merecería
30:29cierta atención por parte de esos medios
30:31que están hablando de que el fin del
30:32mundo se avecina por culpa de la IA y
30:34que hay que pararla, regularla y hacer
30:36algo. Quedarte privado más tiempo te
30:38permite afrontar una fase de inversión
30:40descomunal sin tener cada trimestre a
30:42Wall Street preguntándote cuánto estás
30:44quemando y si 852,000 millones de
30:47valoración siguen teniendo algún
30:48sentido. Si Anthropic acaba haciendo
30:50público su S1, vamos a tener por fin una
30:52ventana amplia de las cañerías de un
30:55laboratorio de frontera. Márgenes,
30:58costes, compromisos de computación,
31:01necesidades de capital, flujo de caja y
31:03entonces podremos empezar a responder lo
31:05que todavía está muy escondido.
31:09¿Cuánto cuesta de verdad fabricar la
31:12inteligencia que promete transformar el
31:14mundo?
31:15Porque aún no lo sabemos.
31:17Por eso sí, hasta aquí todo esto explica
31:20qué gana la empresa. Nos falta el otro
31:22socio, el otro socio de la operación, el
31:25que no ha puesto un dólar suyo y se
31:28lleva la mejor parte. ¿Quién se queda
31:31con la llave? Vamos a empezar con el
31:33argumento que lo justifica todo. China.
31:35Amodei lo reconoce el mismo. Además, una
31:37ralentización occidental solo funciona
31:39mientras no le regale a un competidor
31:41geopolítico una ventaja decisiva. Por
31:43eso, Anthropic defiende a la vez frenar
31:45determinadas capacidades en Estados
31:47Unidos y endurecer los controles sobre
31:49los chips avanzados
31:51para limitar el acceso chino a esa
31:53infraestructura de frontera y combatir
31:55la lo que ellos llaman distillation no
31:57autorizada con la de laboratorios más
31:59pequeños que pueden extraer capacidades
32:01de los modelos occidentales.
32:04Te lo aclaro. Desde Washington la lógica
32:07es evidente. Si vas a pisar el freno,
32:10necesitas que el de detrás no aproveche
32:13el momento para adelantarte.
32:15Y ese de detrás creen que es China. Pero
32:17fíjate en lo que se está construyendo
32:19con esta justificación. Controles de
32:21exportación sobre chips, restricciones
32:23sobre centros de datos, sistemas de
32:25auditoría, evaluadores independientes,
32:28umbrales de cómputo, registros de
32:30modelos, certificaciones, controles
32:32sobre los pesos que tiene todo esto,
32:34verificación de determinados
32:35entrenamientos,
32:37acuerdos entre gobiernos. Es que cada
32:40pieza, cada pieza por separado puede
32:42tener una justificación razonable. No
32:44digo que no, pero todas juntas
32:46son un régimen de licencia sobre la
32:48capacidad de calcular. Y ahí es donde
32:51aparece el segundo beneficiario de esta
32:53historia, que por cierto llevaba décadas
32:55esperando su turno, porque hay una
32:58tecnología que los estados no han
33:00conseguido controlar del todo desde que
33:02existe
33:04y es la que permite a la gente producir,
33:06copiar y distribuir información sin
33:08pedir permiso.
33:10Recuerda, fíjate, con internet llegaron
33:12tarde, con las redes sociales llegaron
33:15tarde, con el cifrado llevan 30 años
33:18peleando y perdiendo, con la
33:20inteligencia artificial han llegado a
33:21tiempo por primera vez y han llegado,
33:23además, invitados por la propia
33:25industria.
33:27¿Qué pasa? Esto no lo cuenta nadie.
33:29Charles Tily lo formuló de una manera
33:32muy desagradable para cualquier
33:33gobierno. La construcción del Estado se
33:35parece a la venta de protección con la
33:39particularidad de que quien te ofrece
33:41protegerte suele ser también quien
33:43define de qué hay que protegerse. No
33:45hace falta creer que los gobiernos son
33:47malvados, no. Basta con mirar lo que se
33:50lleva cada uno. Si el riesgo de la IA es
33:52existencial, entonces el que otorga
33:55licencias decide quién puede entrenar un
33:57modelo, con qué datos hacerlo, hasta qué
33:59umbral de cómputo puede llevar y con qué
34:02contenidos puede estar bloqueado. Ya no
34:04hablamos de seguridad informática, aquí
34:06hablamos de quién aprueba las
34:08capacidades de la infraestructura
34:10cognitiva de un país. Y no hay que irse
34:12a China para ver hacia dónde tiende todo
34:15eso. Es que en Europa, aquí llevamos
34:18años viendo como argumentos de seguridad
34:21perfectamente presentables terminan
34:23convertidos en infraestructuras de
34:25control. Siempre todo es por nuestro
34:28bien. Cada vez que hay un peligro a la
34:31humanidad aparece una regulación.
34:37Contra el CO2, los tapones de las
34:38botellas. Proteger a los menores acabó
34:40en propuestas para escanear las
34:41comunicaciones privadas de todo el
34:42mundo. Luchar contra el fraude acabó en
34:44identidad digital obligatoria. Combatir
34:46la desinformación acabó en mecanismos
34:48que deciden qué contenidos merecen
34:49visibilidad. En ningún caso hizo falta
34:51un plan maligno. Bastó con un motivo
34:53legítimo, una opinión pública asustada y
34:56una oportunidad administrativa.
34:59Ahora súmalo todo, todo, todo, todo.
35:01Cuatro o cinco compañías con capital,
35:03cómputo y abogados suficientes para
35:05cumplirlo. Un puñado de gobiernos.
35:08Todos, todos con el poder de decidir
35:10quién entra y quién sale y una
35:11tecnología que va a atravesar la
35:13productividad, la investigación, el
35:14software, la automatización de empresas
35:17y una gran parte del trabajo que hacemos
35:20tú y yo.
35:22habremos reducido la probabilidad de que
35:24cualquiera construya una inteligencia
35:26peligrosísima para todos y habremos
35:29concentrado la capacidad de construir la
35:31más poderosa máquina en el grupo más
35:34pequeño que hemos tenido nunca al frente
35:35de una tecnología de propósito general.
35:39Además con la llave de quienes dicen
35:43vigilar por nosotros. Y mi crítica, ojo
35:46con esto, no consiste en decir que Dario
35:48Amodei miente. No lo voy a decir porque
35:50no es verdad. probablemente crea de
35:52verdad lo que dice. Y Jacob Coxson, sea
35:54quien sea, también los investigadores
35:57preocupados por la alineación también. Y
35:59el funcionario que redacta el reglamento
36:01probablemente esté convencido de que
36:02está protegiendo a los ciudadanos. Todo
36:04eso puede ser, no digo que no, puede ser
36:06cierto,
36:09pero el error, el error, amigos, es
36:11creer que una convicción sincera elimina
36:13un incentivo financiero o que un
36:15funcionario honesto elimina la tendencia
36:17natural de cualquier administración a
36:19quedarse con la puñetada llave de lo que
36:22regula y lo que no regula.
36:24Por eso deberíamos mirar también nuestra
36:27parte, porque vivimos en un ecosistema
36:29informativo donde la alarma tiene
36:32recompensa inmediata.
36:34Este vídeo se va a ver mucho menos que
36:36si lo hubiese titulado La IA va a acabar
36:38con la humanidad.
36:40Un científico que explica que todavía no
36:42podemos estimar con rigor la
36:43probabilidad de esa catástrofe, en
36:45realidad compite contra un titular que
36:47asegura que la IA nos va a matar a todos
36:49antes de que acabe esta década.
36:52Tenéis que compartir esto. No hace falta
36:54saber de algoritmos para adivinar cuál
36:56de los dos se comparte más. Después
36:58llega un divulgador que convierte la
37:00incertidumbre en certeza porque la
37:02certeza da clics. El miedo se normaliza.
37:05El político recoge una opinión pública
37:07aterrorizada y ofrece protección y todos
37:09se quedan tranquilos. Y termina
37:11preguntándoles además a las compañías
37:13que construyen la tecnología qué reglas
37:15les parece razonable imponer.
37:19¿No veis el círculo? Ese círculo se
37:20cierra ahí.
37:22No estoy loco, es una locura, es
37:25diferente.
37:26Así que ese es el veredicto. Puede que
37:28necesitemos verificadores externos,
37:30puede que ciertas capacidades requieran
37:32límites y puede que algunos modelos
37:33futuros sean demasiado peligrosos para
37:35desplegarlos sin controles severos. No
37:37digo que no. Y al mismo tiempo, esa
37:39regulación resuelve dos problemas que no
37:41tienen nada que ver con tu seguridad. le
37:44permite a una industria que todavía no
37:45ha demostrado que sus cuentas cuadren,
37:49dejar de quemar dinero sin admitir que
37:51no le salían los números.
37:54Y además le entrega a los gobiernos el
37:57control, esto va a estar encantada, doña
37:59Úrsula, el control sobre las tecnologías
38:01más importantes del siglo, justo cuando
38:03todavía estaban a tiempo de cogerlo.
38:05Oye, miedo arriba, factura abajo y llave
38:08en medio. Y esto no nos va a salir
38:11gratis. Si la inteligencia que va a
38:13mover el software, la contabilidad, la
38:15investigación y buena parte de tu
38:17trabajo la fabrican cuatro empresas
38:19detrás de una muralla que ellas ayudaron
38:22a diseñar y un gobierno decide quién las
38:25cruza, que sepas que tú no vas a elegir
38:27proveedor. Tú pagas la renta que te
38:30pongan y usarás la herramienta que
38:32autoricen.
38:34Que te autoricen.
38:36El precio de un insumo obligatorio no la
38:38fija el mercado, la fija quien controla
38:41la puerta. Y lo único que podemos hacer
38:43es no comprar el relato entero. Hombre,
38:46cuando en los próximos meses escuches
38:48que necesitamos nuevas auditorías,
38:50organismos, licencias y evaluadores para
38:52protegernos de la terrible inteligencia
38:54artificial, pregúntate también qué
38:57problema de caja resuelve cada una de
38:58esas soluciones y cuánto poder le
39:00transfiere a quien las firma.
39:02Y cuando por fin Anthropic publique su
39:05S1,
39:07leámoslo, aquí lo haremos.
39:09Ahí va a haber más verdad sobre esta
39:11industria que en 100 profecías sobre el
39:13fin del mundo. Ya veréis, descubriremos
39:16que
39:18no les iba tan bien. Porque la pregunta
39:20decisiva de esta revolución no es quién
39:23será capaz de crear la inteligencia más
39:25poderosa, es quién tendrá permiso para
39:27hacerlo y quien reparte los permisos
39:31también. Por eso, antes de entregar las
39:33llaves de la muralla, hay que mirar
39:35quién ya está dentro de esa muralla.
39:38Echémosle un ojo. No os dejéis
39:41impresionar por algunos titulares, por
39:44lo menos no todavía.
39:46Seguimos.

About this transcript

This page contains the full transcript of El fin del mundo según OpenAI y Anthropic: ¿qué hay detrás de sus advertencias? by Marc Vidal, generated from the public captions YouTube serves with the video. The transcript has 6,393 words across 1,068 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.