LA IA YA TIENE MARCA DE AGUA — Transcript

Full transcript

1. 0:00Abre tu editor, mira lo último que te ha escrito  la inteligencia artificial. Ese código lleva una
2. 0:04firma dentro que tú no ves. Desde el martes 11 de  agosto, Antrobit firma lo que sale de cloud, texto
3. 0:10y código. También por la API, también en Cloud  Cod. Los modelos que lancen a partir del 2 de
4. 0:15agosto salen firmados de fábrica. Los que ya están  en la calle tienen hasta el 2 de diciembre y no se
5. 0:20anuncia ningún botón para quitarlo. Van a nivel de  modelo, así que no hay producto ni superficie por
6. 0:25la que poder escaparse. Lo hace por el artículo 50  del Reglamento Europeo de Inteligencia Artificial,
7. 0:30el cual obliga a marcar desde el 2 de agosto y  llega a multas de 15 millones de euros o el 3%
8. 0:36de la facturación mundial, pero lo va a aplicar  en el mundo entero. Y aquí empieza el problema,
9. 0:41porque el código no es prosa, lo midió la  Universidad Nacional de Seú con la marca puesta.
10. 0:46El acierto en generación de código baja del  33% al 25. Antropid no ha publicado ni un dato,
11. 0:53ni tasa de detención, ni falsos positivos,  ni impacto en el código, ni una cifra de
12. 0:58todo el documento y Decor tampoco hay. Nadie  puede leer esa marca, ni tú, ni tu empresa,
13. 1:03ni el que revisa tu Pool request. Hoy te voy  a enseñar cómo se marca un texto por dentro,
14. 1:08palabra por palabra. ¿Y por qué eso que en una  novela no se nota, en una función te la rompe? Y
15. 1:14además Open AI lo tiene desde hace más de 2 años  terminado funcionando con un 99,9% de eficacia y
16. 1:21decidió no sacarlo. Hoy vas a oír por qué y no es  la razón que dieron en público. Las universidades
17. 1:27de Maryland y Harvard han demostrado que se puede  [ __ ] un texto escrito por una persona y engañar
18. 1:31a un detector para que lo señale como generado  por IA. La fiabilidad se desploma al 1.3%.
19. 1:37Esos detectores no dejan escapar culpables, los  fabrican. Y Stanford usó redacciones de exámenes
20. 1:43de idioma inglés escritas por personas que no  tienen el inglés como lengua materna. El 61%
21. 1:49salieron marcadas como inteligencia artificial  con nativos solo el 5%. Mientras tanto, Twitch
22. 1:54ha apuntado a todos sus usuarios a ser parte  de entrenamiento de la IA de Amazon. directos,
23. 1:59clips y chaps activados por defecto. En el Mate  Back Google de 2026 se presentaron los Pixel
24. 2:0511. El Pro XL sube 100 € El plegable no llega a  España y lo interesante estaba en el relot. Todo
25. 2:12va de etiquetas, de quién las pone, quién puede  leerlas y quién no se molesta en mirarlas. Y hoy
26. 2:17responderemos a una pregunta. Si la marca se borra  traduciendo el texto y encima no la puede leer
27. 2:22nadie, ¿para qué la están poniendo? Soy Carlos  Caballero y esto es Top 10 Noticias. Vamos al lío.
28. 2:32Abre tu editor, mira lo último que te ha escrito  la inteligencia artificial. Ese código lleva una
29. 2:32firma dentro que tú no ves. Desde el martes 11  de agosto, Anthropic firma lo que sale de Claude,
30. 2:32texto y código. También por la API, también en  Claude Code. Los modelos que lancen a partir del
31. 2:322 de agosto salen firmados de fábrica. Los que ya  están en la calle tienen hasta el 2 de diciembre,
32. 2:32y no se anuncia ningún botón para quitarlo.  Va a nivel de modelo, así que no hay producto
33. 2:32ni superficie por la que poder escaparse. Lo  hace por el artículo 50 del Reglamento europeo
34. 2:33de inteligencia artificial, el cual obliga a  marcar desde el 2 de agosto y llega a multas
35. 2:33de 15 millones de euros o el 3% de la facturación  mundial, pero lo va a aplicar en el mundo entero.
36. 2:33Y aquí empieza el problema, porque el código no  es prosa. Lo midió la Universidad Nacional de Seúl
37. 2:33con la marca puesta: el acierto en generación  de código baja del 33% al 25. Anthropic no ha
38. 2:33publicado ni un dato: ni tasa de detección,  ni falsos positivos, ni impacto en el código,
39. 2:33ni una cifra en todo el documento. Y detector  tampoco hay. Nadie puede leer esa marca,
40. 2:33ni tú, ni tu empresa, ni el que revisa tu pull  request. Hoy te voy a enseñar cómo se marca un
41. 2:33texto por dentro, palabra por palabra. ¿Y  por qué eso que en una novela no se nota,
42. 2:33en una función te la rompe? Y además, OpenAI  lo tiene desde hace más de 2 años, terminado,
43. 2:33funcionando, con un 99,9% de eficacia, y decidió  no sacarlo. Hoy vas a oír por qué, y no es la
44. 2:33razón que dieron en público. Las universidades  de Maryland y Harvard han demostrado que se puede
45. 2:34coger un texto escrito por una persona y engañar  a un detector para que lo señale como generado
46. 2:34por IA. La fiabilidad se desploma al 1,3%.  Esos detectores no dejan escapar culpables,
47. 2:34los fabrican. Y Stanford usó redacciones de  exámenes de idioma inglés escritas por personas
48. 2:34que no tienen el inglés como lengua materna.  El 61% salieron marcadas como inteligencia
49. 2:34artificial; con nativos, solo el 5%. Mientras  tanto, Twitch ha apuntado a todos sus usuarios
50. 2:34a ser parte del entrenamiento de la IA de Amazon:  directos, clips y chats, activados por defecto. En
51. 2:34el Made by Google de 2026 se presentaron  los Pixel 11. El Pro XL sube 100 euros,
52. 2:34el plegable no llega a España, y lo interesante  estaba en el reloj. Todo va de etiquetas:
53. 2:34de quién las pone, quién puede leerlas y quién no  se molesta en mirarlas. Y hoy responderemos a una
54. 2:34pregunta. Si la marca se borra traduciendo  el texto y encima no la puede leer nadie,
55. 2:34¿para qué la están poniendo? Soy Carlos Caballero  y esto es DotTech Noticias. Vamos al lío.
56. 2:35Vamos con la historia. El martes 11 de agosto  de 2026, Anthropic publicó un artículo en su
57. 2:40centro de ayuda titulado "Cómo Claude marca el  contenido generado por inteligencia artificial",
58. 2:45y dice que Claude va a marcar lo que escribe.  Son dos sistemas distintos y conviene separarlos.
59. 2:51Para los ficheros usan C2PA. Es un estándar  abierto que mete dentro del propio archivo
60. 2:58un historial firmado criptográficamente: qué  programa lo generó, con qué modelo, cuándo,
61. 3:02y qué se le ha hecho después. Si luego lo recortas  en Photoshop, ese recorte también se apunta. No es
62. 3:07nuevo y no es de Anthropic. Detrás están Adobe,  Microsoft, Intel, Sony, la BBC, Amazon, Google,
63. 3:14Meta y la propia OpenAI. Y ya está en la  calle. La primera cámara del mundo que lo
64. 3:18llevó de fábrica fue la Leica M11-P, a finales  de 2023. Hoy lo tienen nueve modelos de Sony,
65. 3:25varios de Canon, y el Pixel 10 lo trae activado  por defecto. Nikon lo activó en la Z6 III y tuvo
66. 3:32que suspender el servicio cuando le encontraron  una vulnerabilidad. Y ese es su problema de fondo:
67. 3:36son metadatos, van pegados por fuera. Haces  una captura de pantalla y desaparece el 100%
68. 3:42del rastro. Por eso el texto va directamente  por otro camino. En el texto, la marca va
69. 3:47dentro del propio texto. Lo describen  así: una marca de agua imperceptible en
70. 3:52el texto mismo, no la verás y no cambia el  significado, la calidad ni la legibilidad.
71. 3:57Tres cosas que casi nadie está contando ahora  mismo. La primera: no es opcional. No hay botón,
72. 4:04no hay ajuste, no hay casilla. Va  a nivel de modelo, no de producto,
73. 4:08así que no hay ninguna superficie por la que poder  escaparse. La segunda: no es solo para Europa.
74. 4:14El marcado se va a aplicar a las salidas de los  modelos compatibles allí donde se ofrezca Claude,
75. 4:19es decir, en todo el mundo. Los modelos de  Anthropic lanzados a partir del 2 de agosto
76. 4:24salen marcados desde el primer día. Los que ya  estaban en la calle, no; esos están en curso,
77. 4:30y dice la empresa que se acogen al periodo  transitorio, que en principio será a partir
78. 4:35del 2 de diciembre. El motivo es europeo, la  aplicación es global, porque montar dos sistemas,
79. 4:40uno marcado para Europa y otro limpio para el  resto, sale más caro que montar uno. Así que
80. 4:46si estás en Bogotá, en Ciudad de México o en  Málaga, tienes la misma marca que un alemán.
81. 4:51Y la tercera, que es la que va directamente  contigo: entra la API y entra Claude Code.
82. 4:57La lista completa: la plataforma de la API,  Claude, Claude Code, Claude Cowork y Claude Tag,
83. 5:03más los despliegues en Amazon Web Services,  Google Cloud y Microsoft Foundry. Si llamas a la
84. 5:08API pensando que te devuelve texto en  crudo, no: te devuelve texto firmado.
85. 5:12Y si le pides a Claude Code que te escriba  una función, esa función va a salir marcada.
86. 5:18Y vamos a verlo con un ejemplo, paso a paso. Un  modelo de lenguaje no escribe frases, escribe la
87. 5:23siguiente palabra, una y otra vez. Y en cada paso,  lo que tiene delante no es una palabra, es una
88. 5:29lista de candidatas, cada una con su probabilidad.  Supón que va escribiendo "mis frutas tropicales
89. 5:34favoritas son el mango y". ¿Qué tienes delante?  Plátano, con un 20% de probabilidad. Papaya,
90. 5:39con un 15. Piña, con un 12. Y detrás, todas las  demás repartiéndose el resto. Ahora entra la marca
91. 5:46de agua. Una clave secreta parte esa lista en  dos: la mitad de las palabras quedan premiadas y
92. 5:51la otra mitad no. Y el modelo, siempre que pueda  hacerlo sin estropear la frase, tira de una de
93. 5:56las premiadas. Fíjate que aquí no se pierde nada.  Si en vez de plátano dice papaya, la frase sigue
94. 6:02siendo correcta y sigue significando lo mismo.  Tú no notas nada. Pero el que tenga la clave sí,
95. 6:08porque cuenta cuántas veces salió una palabra  premiada a lo largo de 1.000 decisiones seguidas.
96. 6:13Y si el número está muy por encima de lo que  daría el azar, sabe que ese texto lo escribió
97. 6:18una máquina. Eso es la marca de agua. No es un  sello escondido, es una desviación estadística.
98. 6:24Ahora hay que explicar lo que son los logits.  Cuando el modelo termina de procesar tu frase,
99. 6:29lo último que produce no son palabras, es una  lista de números, uno por cada palabra de su
100. 6:35vocabulario. Y ese vocabulario son decenas de  miles de entradas. Esos números son los logits,
101. 6:41puntuaciones en bruto. Y digo en bruto porque  todavía no son probabilidades como tales;
102. 6:46pueden ser incluso negativos, no suman  uno, no significan nada por separado,
103. 6:51solo importan comparándolos entre ellos. Para  convertirlos en probabilidades se les aplica una
104. 6:56función que se suele llamar softmax, que hace dos  cosas: los vuelve todos positivos y los normaliza
105. 7:03para que sumen uno. Y ahí es cuando plátano pasa  a ser un 20%. Además, piénsalo, que podría ser
106. 7:10como un escrutinio electoral. Los logits son los  votos en bruto, la probabilidad es el porcentaje,
107. 7:16y la palabra que sale escrita es el escaño como  tal. Pues bien, el método clásico de marca de agua
108. 7:22actúa antes del escrutinio. A las palabras  premiadas les suman unos votos. No muchos,
109. 7:28los justos para que ganen cuando la cosa está  reñida. Y eso, pues, cambia el resultado. Y ese es
110. 7:34exactamente el problema en el código: cuando solo  hay una palabra que compila, esos votos de más se
111. 7:40los estás dando a lo que no compila. O peor: estás  rompiendo el código a cambio de meter una marca.
112. 7:48Y ahora, el concepto matemático que explica  por qué esto funciona en prosa y va a fallar en
113. 7:53código. La entropía es un concepto que aparece  en física, en matemáticas y en teoría de la
114. 7:58información. Y aquí lo vamos a usar en el sentido  de Shannon. La entropía mide la incertidumbre que
115. 8:04hay en una distribución de probabilidad. Si toda  la probabilidad se concentra en una sola opción,
116. 8:09la entropía vale cero: no hay nada que decidir.  Cuanto más repartida está entre muchas opciones
117. 8:16parecidas, más alta es, y se mide en bits. Un  bit de entropía equivale a elegir entre dos
118. 8:22opciones igual de probables. Es decir, cuántos  caminos distintos puede tomar la frase en el
119. 8:28siguiente paso. Si yo digo "cumpleaños feliz,  cumpleaños...", tú ya sabes la palabra que
120. 8:33viene. Entropía cero. Pero si digo "ayer me  compré un...", ahí caben mil cosas. Entropía
121. 8:39alta. Y la marca de agua solo tiene sitio cuando  hay entropía. Necesita varias opciones válidas
122. 8:45entre las que poder elegir. Si solo hay una,  no hay nada que sesgar, no podemos diferenciar.
123. 8:51Y el código. El código es de entropía baja, y no  por accidente: es de entropía baja porque nosotros
124. 8:57lo hacemos así a propósito, lo hemos construido  así durante años. El código vive de la repetición.
125. 9:03Patrones de diseño, convenciones de nombrado,  plantillas, código repetitivo, andamiaje,
126. 9:08frameworks. Un bucle for se escribe igual en  todas partes. Un getter se escribe igual. Un
127. 9:14singleton se escribe igual en Java que en tu  proyecto. Y lo hacemos así precisamente para
128. 9:19que otro humano lo pueda reconocer de un vistazo.  Esa repetición, que en ingeniería es una virtud,
129. 9:25en teoría de la información es entropía  baja. Y encima hay posiciones donde no
130. 9:29es que haya pocas opciones, es que  hay una: un paréntesis que cierra,
131. 9:34un tipo que tiene que coincidir, un nombre de  variable que ya declaraste tres líneas antes.
132. 9:39Así que aquí pasan dos cosas, y la segunda es más  interesante que la primera, pero empezamos por
133. 9:44la primera. La primera es que se rompe. Si empujas  al modelo hacia la palabra premiada cuando solo
134. 9:49hay una que compila, no le estás poniendo una  firma ni una marca, le estás metiendo un error.
135. 9:55Y la otra, que es la realmente interesante, es que  se homogeneiza. Porque la marca no elige al azar,
136. 10:02sesga siempre hacia las mismas opciones. Y si  en cada punto hay tres nombres válidos para una
137. 10:07variable y el modelo tira siempre del premiado,  acabas con un modelo que escribe siempre el
138. 10:12mismo código. Que eso, dicho así, no tiene por  qué ser malo. Al contrario: un equipo con sus
139. 10:18guías de estilo y su linter llevan años intentando  exactamente eso, que todo el mundo escriba igual.
140. 10:25Un modelo que siempre resuelve lo mismo de  la misma forma es un modelo más predecible,
141. 10:30más determinista, y en producción eso vale dinero.  La cuestión es que nadie lo ha decidido. Sale de
142. 10:36rebote, de un mecanismo que se puso para otra  cosa, y nadie ha medido si lo que se sale de
143. 10:42tu guía de estilo es una manía de una persona o  una manía del generador de números aleatorios.
144. 10:48¿Y cuánto se rompe? Pues está medido. El trabajo  se llama "¿Quién escribió este código? Marcas de
145. 10:54agua para generación de código". Y lo importante:  no lo probaron con un modelo cualquiera, lo
146. 10:59probaron con StarCoder, que es un modelo abierto  especializado en generar código. Es decir, el
147. 11:04escenario favorable. Lo midieron sobre tres bancos  de pruebas. El primero se llama HumanEval, lo hizo
148. 11:09OpenAI, y son 164 problemas de programación  escritos a mano, de un nivel de entrevista
149. 11:14técnica. El segundo se llama MBPP, problemas de  programación mayormente básicos; lo hizo Google
150. 11:20Research en 2021 y son 974 ejercicios de un nivel  de principiante, es decir, manipular cadenas,
151. 11:28recorrer listas, operaciones matemáticas. Y lo que  miden es esto exactamente: de cada 100 problemas,
152. 11:33en cuántos el modelo escribe código correcto a la  primera, sin segundas oportunidades. Ese modelo,
153. 11:39sin marca de agua, resolvía 33 problemas de cada  100 en HumanEval; con la marca puesta, 29. En MBPP
154. 11:47baja de 38 a 34. Ese 29 es con la marca calibrada  floja, a propósito, para que la calidad caiga
155. 11:54poco, y una marca floja casi no se detecta: en  MBPP, a esa fuerza, el detector va poco mejor que
156. 12:01una moneda. Cuando la ponen a una fuerza que sí  se puede leer, HumanEval baja de 33 a 25, y MBPP,
157. 12:09de 38 a 24. Uno de cada tres problemas que antes  salían bien, ahora salen mal, solo por marcarlo. Y
158. 12:16tiene solución conocida: el mismo trabajo propone  marcar únicamente donde hay entropía y saltarse
159. 12:22las posiciones donde solo hay una opción válida.  Con eso recuperan casi todo: de 29 suben a 32,
160. 12:28de los 33 originales. Así que se puede hacer bien,  y se sabe cómo hacerlo desde hace al menos 2 años.
161. 12:34Esas cifras no las ha dado Anthropic. Son del  método clásico, el de partir el vocabulario
162. 12:39en premiadas y no premiadas y empujar los  logits hacia un lado. Ese método distorsiona
163. 12:45la distribución del modelo por diseño, y por  eso rompe el código. Pero es que hay otra forma
164. 12:51de hacerlo, y la publicó Google en Nature en  octubre de 2024. El trabajo se llama "Marcado
165. 12:56de agua escalable para identificar salidas de  modelos de lenguaje". SynthID no toca los votos,
166. 13:03deja el escrutinio intacto. Lo que hace  es organizar un torneo. Y funciona así:
167. 13:08con una clave secreta y las cuatro palabras  anteriores del texto, se genera una función
168. 13:13que le da a cada palabra candidata un cero o un  uno. Es azar, pero azar reproducible: con la misma
169. 13:20clave y el mismo contexto siempre sale lo mismo,  y eso es lo que permite comprobarlo después.
170. 13:26Y ahí empieza el torneo. Las candidatas se  emparejan de dos en dos. Gana la que lleva
171. 13:31el uno. Si las dos llevan lo mismo, moneda al  aire. Los ganadores se vuelven a emparejar,
172. 13:37pero ahora con otra función y otra clave. Y  otra vez, y otra vez, y otra vez. 30 rondas,
173. 13:4230 funciones distintas. La que sobrevive es la  palabra que sale escrita. Y esa es la descripción
174. 13:47matemática, no lo que ejecuta la máquina. Un  torneo de 30 rondas necesitaría más de 1.000
175. 13:53millones de participantes por cada palabra. Pero  lo que hace el código es resolver el torneo entero
176. 13:58con una única fórmula. En vez de sortear 1.000  millones de candidatas y ponerlas a competir,
177. 14:03reajusta directamente las probabilidades de todo  el vocabulario 30 veces seguidas y saca una sola
178. 14:09palabra. Mismo resultado, misma distribución  exacta, pero en lugar de coste exponencial
179. 14:14cuesta 30 multiplicaciones. Google lo mide: el  impacto en velocidad es de medio punto porcentual.
180. 14:20¿Y cómo se detecta? Pues esto es lo que  es realmente elegante. El detector no
181. 14:25necesita el modelo, ni tu pregunta,  ni nada. Solo el texto y las claves.
182. 14:30Recalcula todos esos ceros y unos mirando la  media. Si el texto lo escribió una persona,
183. 14:35o cualquier otro modelo, la media sale  0,5. Puro azar. Si pasó por el torneo,
184. 14:41las ganadoras arrastran unos de más y  la media sube. Con eso solo ya funciona.
185. 14:46Y con la puntuación bayesiana, la que  sabe cuánta señal cabía en cada ronda,
186. 14:51detecta el 85% de los textos con un 1% de falsos  positivos, frente al 73 del mejor método anterior.
187. 15:00Ahora, sobre eso de que la marca no distorsiona  el texto, conviene entender qué significa
188. 15:05exactamente, porque es menos de lo que parece.  Lo que está demostrado es esto: si repitieras el
189. 15:11proceso con todas las claves secretas posibles,  una detrás de otra, y sacaras la media de
190. 15:16todas esas veces, cada palabra saldría con la  probabilidad exacta que le tocaba. Ni una más
191. 15:22ni una menos. El problema es que tú no usas todas  las claves, usas una. Es como un dado trucado que,
192. 15:28si pruebas todos los trucajes posibles y haces la  media, da resultados perfectamente equilibrados.
193. 15:33Pero tú no juegas con todos los trucajes, juegas  con uno, y con ese dado no está equilibrado. Con
194. 15:39una clave fija, cada palabra sale sesgada, y la  siguiente también, y todas van sesgadas en la
195. 15:44misma dirección, porque comparten la misma clave.  Así que el texto que recibes no es el que habrías
196. 15:50recibido sin marcar. Es otro. Probablemente  igual de bueno, pero otro. Y esto no lo digo yo,
197. 15:57lo dicen los propios autores. Ellos llaman a lo  que han demostrado la versión más débil de la
198. 16:03propiedad. La versión fuerte sería garantizar que  el texto entero, y no cada palabra por separado,
199. 16:09tiene la misma probabilidad de salir. Y eso  no lo demuestran. Que la calidad no baje no
200. 16:14lo demuestra el teorema; lo demuestran 20 millones  de respuestas de Gemini comparadas en producción,
201. 16:20con una diferencia en satisfacción de los  usuarios de una centésima de punto porcentual.
202. 16:25Así que, resumiendo, hay una  forma de marcar que rompe el
203. 16:28código y una forma que no. La primera  es fácil; la segunda está publicada,
204. 16:33revisada por pares y funcionando en Gemini desde  2024. ¿Y cuál usa Anthropic? No lo sabemos,
205. 16:40no lo han dicho. No digo que su marca te degrade  el código; digo que existen las dos maneras,
206. 16:45que una está medida y la otra también, y  que ellos no han enseñado cuál han elegido.
207. 16:51Segunda cosa, y esta toca a cualquiera, programe  o no: la marca no distingue entre escribir un
208. 16:56texto y corregir una coma. La gente usa  a menudo Claude para corregir, traducir,
209. 17:02resumir o convertir archivos, y la salida puede  llevar una marca de Claude aunque las ideas,
210. 17:08el texto o los datos vinieran de otra  fuente. Escribes algo que es tuyo,
211. 17:13entero. Se lo pasas para que le quite las  erratas, y te lo devuelve marcado como
212. 17:18procesado por Claude. La misma señal que  si lo hubiera escrito la máquina de cero.
213. 17:22Y la tercera, la gorda. De Anthropic no existe  ningún detector. Ni público, ni restringido,
214. 17:29ni con lista de espera. Lo único que hay es  una frase en el documento: "Compartiremos
215. 17:34detalles sobre los mecanismos de detección en una  próxima documentación técnica". Sin fecha. Thariq
216. 17:40Shihipar, del equipo de Claude Code, lo amplió  esta semana en X: "Esto es parte de trabajar con
217. 17:45el Reglamento europeo de IA. Otros laboratorios  están añadiendo marcado parecido. Es difícil
218. 17:50identificar texto generado por IA y esto le da  a la gente mejores herramientas para hacerlo.
219. 17:56También vamos a sacar una API de detección de  texto que podrás usar tú mismo". Y esto suena
220. 18:01bien, pero no existe. Han desplegado el emisor sin  el receptor. Hay una marca, está dentro del texto,
221. 18:08está ya, y nadie fuera de Anthropic puede leerla.  Ni tú, ni tu empresa, ni el que revisa tu código.
222. 18:14¿Y los demás? Porque el reglamento les obliga  por igual. Y vamos uno por uno. El 31 de julio,
223. 18:21la Comisión Europea publicó la lista de  firmantes del Código de Transparencia:
224. 18:25unas 190 organizaciones; 82 firmaron la sección  de proveedores de sistemas de inteligencia
225. 18:30artificial generativa. Anthropic firmó, y es el  que más lejos ha llegado: marca texto y código,
226. 18:36en todos sus productos, en todo el mundo. Google  firmó. Tiene SynthID, el del torneo que acabamos
227. 18:42de ver. Marca texto de verdad, pero solo  en la aplicación y en la web de Gemini,
228. 18:46no en su API. Y su detector sigue restringido, con  lista de espera; de momento solo lo están probando
229. 18:52periodistas y profesionales de medios. OpenAI  firmó. Tiene Content Credentials para imágenes y
230. 18:58un verificador público que funciona hoy: le subes  una foto o un audio y te dice si lleva firma. Meta
231. 19:05firmó. Su trabajo público está en C2PA para imagen  y en etiquetar deepfakes; de marcado de texto,
232. 19:11nada anunciado. Y xAI, la de Musk, no aparece en  la lista. Ni firmó ni consta que lo rechazara.
233. 19:17Simplemente no está. Total: firman seis,  marcan texto dos, y comprobarlo no lo deja
234. 19:23ninguno. Detector público de texto en toda la  industria, ninguno. Y con eso encima de la mesa,
235. 19:30la pregunta es inevitable: si no dan ninguna cifra  y nadie lo puede comprobar, ¿esto para qué sirve?
236. 19:36Pues para responder a eso hay que volver 2 años  atrás en el tiempo. El 4 de agosto de 2024,
237. 19:42el Wall Street Journal publicó un reportaje  titulado "Existe una herramienta para pillar
238. 19:46a estudiantes copiando con ChatGPT. OpenAI no la  ha lanzado". Y contaba, con documentos internos de
239. 19:53la empresa delante, que OpenAI tenía su marca  de agua para texto terminada, funcionando,
240. 19:58con un 99,9% de eficacia cuando hay suficiente  texto generado. La tenía lista desde hacía
241. 20:03aproximadamente un año, y llevaba unos 2 años  discutiéndola por dentro. Y decidió no sacarla.
242. 20:09Y de ahí salen dos frases. Una está escrita en  un documento interno; la otra se la suelta al
243. 20:14periódico una persona conocedora del proyecto.  La primera dice que la empresa ya no tiene forma
244. 20:20de defender que no marca el texto, ahora que  sabe que marcarlo no empeora las respuestas.
245. 20:26Según ellos, todo va bien. O sea: sabemos que  funciona, sabemos que no estropea el producto y
246. 20:32ya no tenemos excusa. Eso lo escribieron ellos,  para ellos, sin pensar que iba a salir de ahí,
247. 20:38en un memo interno. Y la otra, cuando le  preguntan en qué punto está el proyecto,
248. 20:43la respuesta es "es solo cuestión de  pulsar un botón". 2 años sin pulsarlo.
249. 20:48Y ahora viene una normativa europea. ¿Y  por qué? Pues esto es muy interesante,
250. 20:51porque no hacía falta ni la filtración: lo  publicó la propia OpenAI ese mismo día en
251. 20:56su web. El artículo se llama "Entendiendo el  origen de lo que vemos y oímos en internet",
252. 21:01es del 7 de mayo de 2024, y el 4 de agosto le  añadieron una actualización con un apartado
253. 21:07titulado "Marca de agua en texto". Y sigue ahí;  el enlace, en la descripción. Dan dos razones. La
254. 21:14primera es técnica. Dicen que la marca aguanta  bien la manipulación local, la paráfrasis por
255. 21:19ejemplo, pero aguanta mal lo que ellos llaman  manipulación globalizada. Y ponen tres ejemplos:
256. 21:25pasar el texto por un traductor, reescribirlo  con otro modelo generativo, o pedirle al modelo
257. 21:30que meta un carácter especial entre cada dos  palabras y luego borrarlo. Y la segunda razón,
258. 21:35y es literal: "podría estigmatizar el  uso de la inteligencia artificial como
259. 21:40herramienta útil de escritura para  los hablantes no nativos de inglés".
260. 21:44La razón de verdad está en dos encuestas que  OpenAI hizo en abril de 2023. La primera se la
261. 21:50hicieron al público general, en varios países,  para saber si la gente quería una herramienta así.
262. 21:55Y salió que sí, por un margen de 4 a 1. La segunda  se la hicieron a sus propios usuarios de ChatGPT,
263. 22:01y ahí las cifras cambian radicalmente. El 69%  pensaba que una tecnología para detectar copias
264. 22:08acabaría provocando acusaciones falsas, y casi el  30% dijo que usaría menos ChatGPT si OpenAI ponía
265. 22:15marca de agua y un competidor no. Y ahí está el  cálculo. El público lo pide 4 a 1, los clientes se
266. 22:22van en un 30%, y el que decide es el que factura,  es el que paga. De estas dos encuestas no hay ni
267. 22:29informe, ni metodología, ni número de encuestados.  Son documentos internos que vio el periódico.
268. 22:35El 2 de agosto entró en aplicación el artículo 50  del Reglamento europeo de inteligencia artificial.
269. 22:40Obliga a marcar el texto en un formato legible por  máquina. Las multas llegan hasta 15 millones de
270. 22:46euros o el 3% de la facturación mundial, lo que  sea mayor. Los sistemas que ya estaban en el
271. 22:51mercado antes del 2 de agosto tienen hasta el 2  de diciembre de 2026 para cumplir. Pero hay dos
272. 22:55cosas más. La primera: ese mismo artículo 50 dice  que la obligación de marcar no se aplica cuando
273. 23:01los sistemas desempeñan, y cito, "una función  de apoyo a la edición estándar", o cuando "no
274. 23:08alteran sustancialmente los datos de entrada  facilitados por el responsable del despliegue
275. 23:13o su semántica". ¿Dónde está la línea? Porque  eso es clave. La Comisión Europea publicó las
276. 23:18directrices finales el 20 de julio de este año, y  el test no es cuánto texto ha tocado la máquina;
277. 23:25el test es si el significado que sale es el  significado que entró. Y vamos a verlo con casos
278. 23:30concretos. Un corrector ortográfico y gramatical,  tipo Grammarly, no hay que marcarlo: es el ejemplo
279. 23:36de manual de lo que queda fuera. Corregirle las  faltas a un texto que has escrito tú, tampoco,
280. 23:42mismo caso. Pero reescribir un correo tuyo para  que suene más formal es zona gris, y probablemente
281. 23:48tampoco, porque cambias el registro, no el  mensaje. Pero si de "más formal" pasas a añadir
282. 23:54un párrafo con argumentos que tú no habías puesto,  entonces sí. Escribir ese correo entero a partir
283. 24:00de tres puntos que le das tú, hay que marcarlo:  ahí no hay edición, hay generación. El sistema no
284. 24:06altera tus datos de entrada, los sustituye.  Reestructurar un trabajo de arriba abajo,
285. 24:11o resumirlo, hay que marcarlo. Las directrices lo  dicen expresamente: las reescrituras sustantivas
286. 24:18y los resúmenes no entran en la exención. O sea,  que corregir una tilde no cambia lo que dijiste;
287. 24:24resumir sí; y escribir desde cero no tiene "lo que  dijiste" con lo que comparar. Con lo cual, aquello
288. 24:31que veíamos antes, le pasas tu texto a Claude para  que te quite las erratas y te lo devuelve marcado,
289. 24:38es exactamente el caso que Europa deja fuera.  Pues Anthropic lo marca igual. Marca por
290. 24:44encima de lo que Europa le está exigiendo, y lo  justifica invocando a Europa. Y la segunda cosa,
291. 24:49que es buena: pues fíjate en lo que dice la  propia ley sobre si esto es técnicamente posible.
292. 24:54Dice que los proveedores velarán por que sus  soluciones técnicas sean eficaces, interoperables,
293. 25:01sólidas y fiables, y cito textualmente, "en  la medida en que sea técnicamente viable,
294. 25:06teniendo en cuenta el estado actual de la  técnica generalmente reconocido". Bruselas te
295. 25:11obliga a marcar y en la misma frase admite que  igual la tecnología no da, que no es posible.
296. 25:17Y oye, una cosa rápida. Todo esto que te  estoy contando, las fechas, las cifras,
297. 25:20las citas literales del documento, me  lleva muchísimas horas de verificación,
298. 25:24una por una. Si te aporta y quieres que esto siga  siendo así, puedes hacerte miembro en la bóveda,
299. 25:29aquí en YouTube. A cambio, pues te doy el dosier  completo de cada semana. Pero no lo veas así;
300. 25:34velo más como un mecenazgo, para  que sigamos aquí semana a semana.
301. 25:37Si no puedes o no quieres, no  pasa nada. Así que seguimos.
302. 25:42Porque mientras se discute si la marca aguanta,  si se borra y si alguien podrá leerla algún día,
303. 25:47hay algo que ya está pasando y no es un  problema de laboratorio. Como marcas no hay,
304. 25:52y la que hay no la puede leer nadie, lo que se  está usando en su lugar son detectores. Programas
305. 25:57que miran un texto y adivinan desde fuera. Y  el día que uno de esos programas se equivoca,
306. 26:02deja de ser un debate técnico y se convierte en  el problema de una persona con nombre y apellidos.
307. 26:08El 28 de enero de 2026, un tribunal de Nueva  York dictó una sentencia que no ha tenido casi
308. 26:13eco y creo que debería. Un estudiante de  la Universidad de Adelphi, en Long Island,
309. 26:18entregó un trabajo de historia. Turnitin, el  programa antiplagio más extendido del mundo,
310. 26:23le puso un 100% de texto generado por inteligencia  artificial. 100%. Y la universidad lo declaró
311. 26:30culpable, basándose simplemente en ese número.  Él pasó el trabajo por otros dos detectores,
312. 26:35el de Grammarly y zeroGPT. Los dos dijeron cero.  Y por tanto denunció. La jueza anuló la falta,
313. 26:42ordenó borrar el expediente y rescindir  la sanción, y escribió que la acusación
314. 26:46y su denegación carecían de base válida  y estaban, cito, "desprovistas de razón".
315. 26:52Ahora bien, ¿por qué le pasó esto? Pues  vamos a Stanford, 2023. El trabajo se llama
316. 26:57"Los detectores de GPT están sesgados contra los  que no escriben en inglés como lengua materna".
317. 27:02Cogen siete detectores comerciales, de  los que están usando las universidades,
318. 27:05y les dan 91 redacciones del examen TOEFL, el  de nivel de inglés, publicadas antes de 2020,
319. 27:12o sea, antes de que existiera ChatGPT, escritas  por personas. Pues 61,22% de falsos positivos.
320. 27:18Seis de cada 10 redacciones humanas señaladas como  escritas por una máquina. Y hay más: 18 de esas 91
321. 27:24fueron marcadas por los siete detectores a la vez,  por unanimidad, y 89 de 91 por al menos uno. ¿Y
322. 27:30cuánto sale con redacciones de estadounidenses,  los que son nativos? 5,19. Es decir, del 61 al
323. 27:375. Lo mejor es lo que hicieron después. Cogieron  esas mismas redacciones del TOEFL y le pidieron a
324. 27:42ChatGPT, literalmente, que mejorase la elección  de palabras para que sonara más nativo. Los
325. 27:47falsos positivos cayeron del 61 al 11. Y luego lo  hicieron al revés: cogieron las redacciones de los
326. 27:53nativos y le pidieron a ChatGPT que simplificase  el vocabulario, como si lo hubiera escrito alguien
327. 27:57no nativo. Los falsos positivos subieron del 5  al 56. ¿Y qué significa eso? Que esos detectores
328. 28:04no buscan si escribió una máquina, buscan si el  texto es predecible. La medida técnica se llama
329. 28:09perplejidad, y los propios autores lo explican  así: cuánto se sorprende un modelo de lenguaje
330. 28:14al intentar adivinar la siguiente palabra de  la frase. Y una persona que está aprendiendo un
331. 28:19idioma usa menos palabras, construcciones más  simples, estructuras más repetitivas. Escribe
332. 28:24de forma más predecible, mecánicamente. Así  que el detector la confunde con una máquina.
333. 28:30¿Pero hoy pasaría lo mismo? Porque todo eso  que os acabo de contar es de 2023 y las cosas
334. 28:35han cambiado. El 29 de junio de este año, 2026, la  Vrije Universiteit Brussel publicó una evaluación
335. 28:42de cuatro detectores actuales: GPTZero, Pangram,  Copyleaks y Turnitin. 160 documentos. Y los textos
336. 28:49humanos son trabajos de estudiantes de posgrado  no nativos de inglés, escritos antes de 2019,
337. 28:55con lo cual no hay contaminación posible tampoco.  Falsos positivos: cero. En los cuatro. Ninguno.
338. 29:01Y hay un segundo trabajo, de la Universidad  Carolina de Praga y la Universidad de Oslo,
339. 29:05presentado este año en el congreso europeo  de lingüística computacional. Pasaron un
340. 29:08detector comercial actual por esas mismas 91  redacciones del estudio de Stanford. Los falsos
341. 29:13positivos bajan del 61 de media al 23,1.  Así que el sesgo se ha reducido muchísimo,
342. 29:19la herramienta funciona mejor, eso es verdad.  Pero hay que decir las cosas como son:
343. 29:24en ese mismo trabajo, ese mismo detector,  con las redacciones de los nativos,
344. 29:28falla cero veces. Cero frente a 23. El  sesgo se ha reducido, no ha desaparecido.
345. 29:34El problema se ha dado la vuelta, porque en el  estudio de Bruselas también metieron texto puro
346. 29:38de máquina, generado con lo más avanzado que  había cuando montaron el experimento. En ese
347. 29:42momento era GPT-4o, en su modo de investigación  profunda. Turnitin no acertó ni uno: al 100% de
348. 29:47los textos de máquina les puso entre 0 y un 20%.  GPTZero y Copyleaks tampoco detectaron ni un
349. 29:52solo texto con confianza; como mucho llegaron a la  franja de dudas, la del 20 al 40%, en tres de cada
350. 29:5910 y en uno de cada cuatro. Solo funcionó uno,  Pangram, con un 65% de acierto estricto. Es decir,
351. 30:06los detectores han dejado de acusar a inocentes  porque han dejado de detectar. Han pasado de
352. 30:11injustos a inútiles, y nadie ha avisado a las  universidades, que siguen pagando las licencias.
353. 30:17Pero falta una pieza más, y es la que cierra el  círculo. Hay un estudio presentado el año pasado
354. 30:29en la conferencia de ética en inteligencia  artificial de la AAAI y la ACM. Se llama
355. 30:33"Autopreferencia de la inteligencia artificial en  la contratación algorítmica". 2.245 currículums
356. 30:40reales, escritos por personas. Nueve modelos  haciendo de seleccionador. Y lo que sale es que,
357. 30:46cuando quien criba currículums es un modelo de  lenguaje, ese modelo prefiere los textos escritos
358. 30:51por sí mismo entre dos tercios y más del 80% de  las veces. Un candidato que usa el mismo modelo
359. 30:58que el evaluador tiene entre un 23 y un 60% más  de posibilidades de pasar el filtro, frente a otro
360. 31:05igual de cualificado que lo escribió a mano.  Es decir, te marcan por usar la inteligencia
361. 31:10artificial, y el filtro que decide si te llaman  a la entrevista te descarta por no usarla.
362. 31:16Y aquí os paso ya la pelota, porque es  que creo que esto da para mucho debate
363. 31:20y hay muchos estudios. ¿Vosotros la usáis?  ¿Para qué? Para corregir, para redactar,
364. 31:26para programar. Y si mañana se demostrase que la  usáis, ¿dejaríais de usarla? ¿Os parece justo?
365. 31:31Y ahora que sabemos que la etiqueta la  pone quien quiere y la lee quien puede,
366. 31:36vámonos directos a las ráfagas.
367. 31:38La Policía Nacional detuvo el 11 de agosto  en Murcia a un hombre que sacaba certificados
368. 31:42digitales a nombre de otras personas. El  método: un deepfake en tiempo real para
369. 31:46pasar la videoidentificación, la que te pide  mover la cabeza y enseñar el DNI. Le pillaron
370. 31:51porque su cara real apareció en pantalla  durante un segundo. Y no era solo la cara:
371. 31:56tenía montado un sistema de iluminación casero  para simular los hologramas del documento delante
372. 32:00de la cámara. Con eso engañaba a la comprobación  de que el DNI que enseñas es físico y no una
373. 32:05fotocopia. 38 intentos hizo, más de 30 personas  afectadas. El vídeo generado iba ligeramente
374. 32:10por detrás del movimiento real. En un momento del  proceso se cayó, y ahí apareció la cara auténtica.
375. 32:16Twitch anunció que el contenido de la plataforma  se usa para entrenar los modelos de inteligencia
376. 32:20artificial de Amazon. Fue el miércoles 12 de  agosto. Directos, clips, momentos destacados,
377. 32:25y el texto y las imágenes de tu canal.  Incluso el chat. Hay una casilla para salirse:
378. 32:30está en Ajustes, en Seguridad y privacidad, del  todo abajo. Y viene activada. "Si fuera opcional,
379. 32:35nadie lo activaría". Esa frase la ha  dicho el jefe de producto de Twitch.
380. 32:38Google presentó los Pixel 11 el 12  de agosto, en Nueva York. Y en Europa
381. 32:42suben 100 euros toda la gama; en Estados  Unidos el precio no sube. El plegable,
382. 32:46el Pixel 11 Pro Fold, en Europa solo  se venderá en Francia. De lo demás:
383. 32:50chip nuevo, cámaras mejores. Los que lo han  probado dicen que va igual que el modelo
384. 32:54del año pasado. Pero lo que de verdad importa  estaba en el reloj. Se llama Health Guardian,
385. 32:58y lo que hace es estimar tu tensión arterial sin  manguito, midiendo el pulso y tus patrones de
386. 33:03movimiento de forma pasiva, durante todo el mes,  sin que tú hagas nada. Y hay una segunda función
387. 33:08que analiza semanas de datos fisiológicos  para seguir tu resistencia a la insulina.
388. 33:12Esta semana ha hecho 30 años el navegador  que ganó la guerra: Internet Explorer 3,
389. 33:17publicado el 13 de agosto de 1996. Y lo traigo  por una cosa: fue el primer navegador comercial
390. 33:23que soportó hojas de estilo, CSS, lo que hoy da  forma absolutamente a todas las páginas que ves.
391. 33:28Con un detalle maravilloso: realmente CSS todavía  no era un estándar. La primera especificación del
392. 33:34consorcio de la web se publicó el 17 de diciembre  de ese mismo año, 4 meses después. Es decir,
393. 33:39que Microsoft implementó un estándar que aún no  existía. Y le salió a medias: los colores y las
394. 33:45fuentes funcionaban, los márgenes internos no,  los bordes tampoco. Los que escribieron CSS lo
395. 33:50resumieron así: soporta bien casi todo lo de  color y texto, pero no implementa gran parte
396. 33:55del modelo de cajas. 30 años después, ese modelo  de cajas es lo primero que aprende cualquiera que
397. 34:00se pone a hacer webs. Y CSS es la vara con la  que se mide a todos los navegadores del mundo.
398. 34:05Si te ha gustado el vídeo, ya sabes: dale  like, suscríbete y compártelo con quien creas
399. 34:10que necesita oír esto. Soy Carlos Caballero  y esto ha sido DotTech Noticias. Hasta luego.