Newsletter "Sin Tiempo para Escribir" de Carrero.es

Si no puedes ver bien esta newsletter haz click aquí "Sin Tiempo para Escribir" El newsletter de David Carrero Nuclear, renovables e IA: el problema no es producir energía, sino tenerla cuando hace falta Tue, 25 Aug 2026 05:00:00 +0000 Llevo bastante tiempo escribiendo sobre centros de datos, cloud e inteligencia artificial y cada vez tengo más clara una cosa: hablamos muchísimo de GPU/NPU/TPU, modelos, refrigeración, refrigeración líquida y nuevos centros de datos, pero bastante menos de aquello que permite que todo funcione. La electricidad. Y cuanto más crece la inteligencia artificial, menos sentido me parece que tenga plantear el debate energético como una competición entre nuclear y renovables. No creo que la pregunta sea cuál de las dos debe ganar. La pregunta importante es otra: ¿cómo vamos a garantizar toda la electricidad que necesitaremos, cuando la necesitemos y a un precio razonable? Porque un centro de datos necesita electricidad las 24 horas, pero también un hospital, una fábrica, una vivienda, un tren, una red de telecomunicaciones o una ciudad. La Inteligencia Artificial simplemente está haciendo mucho más visible un problema que ya estaba delante de nosotros. Las claves de energía, nuclear e IA en 20 segundos Los centros de datos podrían consumir alrededor de 945 TWh anuales en 2030, más del doble que en 2024. Solar y eólica crecerán con fuerza, pero su producción depende de las condiciones meteorológicas. El mundo mantiene más de 400 reactores nucleares en funcionamiento y construye decenas más. España conserva siete reactores y acaba de prolongar Almaraz hasta 2030. El reto será combinar generación, almacenamiento y redes para garantizar electricidad disponible cuando exista demanda. Estamos entrando en la era de la electricidad Hay algo que va mucho más allá de ChatGPT, Claude, Mistral o de los nuevos centros de datos. La Agencia Internacional de la Energía (AIE) espera que el consumo mundial de electricidad crezca una media del 3,6 % anual entre 2026 y 2030. En 2025 el planeta consumió aproximadamente 28.200 TWh y para 2030 podríamos alcanzar los 33.600 TWh. Y la Inteligencia Artificial es solo una parte. La que quizás más energía podrá demandar. Estamos electrificando vehículos, climatización, procesos industriales y otras actividades que antes dependían directamente de combustibles fósiles. Al mismo tiempo queremos fabricar más semiconductores, desarrollar nuevas industrias y construir centros de datos cada vez mayores. La propia AIE habla ya de una nueva “era de la electricidad”. Los centros de datos son especialmente interesantes porque concentran enormes cantidades de consumo en ubicaciones concretas. La AIE estima que su demanda mundial podría superar los 945 TWh en 2030, más del doble que actualmente. Estados Unidos y China concentrarán buena parte de ese crecimiento. Eso cambia bastante las reglas del juego. Se puede tener dinero para comprar 100.000 GPU y disponer del terreno para construir un centro de datos, pero si la red eléctrica no puede entregar 500 MW donde hacen falta, todo lo demás sirve de poco. Cada vez estoy más convencido de que la próxima gran limitación de la IA puede no estar en los chips, sino en los megavatios. Las renovables son imprescindibles, pero el sol y el viento no obedecen a la demanda España tiene una posición privilegiada en energía renovable. Tenemos sol, viento, territorio y una industria que durante años ha adquirido experiencia construyendo grandes proyectos renovables. Sería absurdo no aprovecharlo. Y las cifras mundiales van precisamente en esa dirección. La AIE espera que las renovables crezcan alrededor de un 8 % anual hasta 2030. Solo la solar fotovoltaica podría añadir más de 600 TWh de generación cada año durante este periodo. Pero existe una diferencia que a veces desaparece de la conversación: capacidad instalada no significa electricidad disponible permanentemente. Un panel solar produce cuando existe radiación suficiente. Un aerogenerador depende del viento. No es una crítica a esas tecnologías. Es simplemente su naturaleza. El problema aparece cuando la demanda no coincide con la producción. Podemos tener una enorme capacidad fotovoltaica instalada y necesitar electricidad a las diez de la noche. Podemos tener miles de aerogeneradores y atravesar varios días con una producción eólica mucho menor de lo esperado. Y la demanda sigue ahí. Por eso necesitamos almacenamiento, centrales hidroeléctricas, bombeo, mejores interconexiones, gestión de demanda y redes eléctricas mucho más potentes. Pero también necesitamos generación firme. Y ahí vuelve inevitablemente la conversación sobre la energía nuclear. Más de 400 reactores funcionando y otros 77 en construcción A veces en España se tiene la sensación de que la energía nuclear pertenece al pasado. Cuando se mira el mapa mundial la imagen es bastante diferente. Los últimos datos del Organismo Internacional de Energía Atómica (OIEA) contabilizan 417 reactores nucleares en operación en 31 países, con aproximadamente 380 GW de capacidad instalada. Otros 77 reactores se encuentran en construcción. Estados Unidos continúa siendo la mayor potencia nuclear mundial, con 94 reactores operativos. Francia operó 57 durante 2025 y obtuvo aproximadamente el 68 % de su electricidad de esta fuente. China tenía 58 reactores que produjeron electricidad durante 2025 y está protagonizando buena parte de la expansión mundial. La AIE espera que la generación nuclear mundial siga aumentando hasta 2030, con China aportando aproximadamente el 40 % del crecimiento previsto. Japón está recuperando reactores y otros países asiáticos están construyendo nuevas centrales. Mientras tanto, las grandes tecnológicas también han empezado a mirar hacia esta fuente. Microsoft ha respaldado mediante un contrato eléctrico a largo plazo la recuperación de 835 MW de capacidad nuclear en Pensilvania. Google trabaja con Kairos Power para desplegar reactores avanzados y Meta ha cerrado varios acuerdos relacionados con capacidad nuclear existente y futura. No creo que Microsoft, Google o Meta se hayan convertido repentinamente en activistas nucleares. Necesitan electricidad. Mucha. Y necesitan saber que estará disponible. Nuclear sí, pero con una condición que no admite discusión: seguridad Defender que la nuclear forme parte de la combinación energética no significa ignorar sus problemas. Una central nuclear exige niveles extraordinariamente altos de seguridad durante su diseño, construcción, funcionamiento, mantenimiento y posterior desmantelamiento. Y así debe ser. Chernóbil y Fukushima forman parte de la historia de esta tecnología y sería absurdo hablar de energía nuclear intentando esconder sus accidentes. Precisamente por las consecuencias potenciales de un fallo grave, la seguridad nuclear tiene que estar por encima de las necesidades económicas, industriales o tecnológicas. Prolongar la vida de una central tampoco debería ser una decisión política tomada simplemente porque necesitamos más electricidad. Tiene que existir una evaluación técnica independiente que determine que puede continuar funcionando con seguridad. Una central nuclear con 40 años no tiene que cerrarse automáticamente porque haya alcanzado una fecha determinada, pero tampoco debería continuar funcionando simplemente porque resulte conveniente. Debe hacerlo si técnicamente es seguro. Ese matiz me parece esencial. España decidió caminar hacia el cierre mientras otros países miraban en otra dirección Y aquí llegamos a España. Nuestro país mantiene siete reactores nucleares operativos, que en 2025 aportaron aproximadamente el 18,9 % de la electricidad nacional, según los datos del OIEA. Durante los últimos años España había establecido una dirección bastante clara: cierre progresivo del parque nuclear entre 2027 y 2035. Mientras tanto el contexto internacional ha ido cambiando. China construye reactores. Estados Unidos intenta conservar y recuperar capacidad. Japón ha reactivado instalaciones. Francia mantiene la nuclear como una pieza central de su sistema eléctrico. Otros países están estudiando pequeños reactores modulares (SMR). La AIE resume bastante bien el cambio: la energía nuclear está recuperando importancia estratégica en numerosas economías avanzadas, entre otras cosas mediante extensiones de vida de reactores existentes. España parecía remar en dirección contraria. Pero este mismo agosto hemos visto un movimiento interesante. El Gobierno ha autorizado que Almaraz I y II continúen funcionando hasta el 8 de junio de 2030. La ampliación es de 31 meses para una unidad y 19 para la otra. Y me parece especialmente interesante leer los argumentos utilizados por el propio Ministerio para la Transición Ecológica. Habla de incertidumbre en los mercados energéticos internacionales, dependencia del gas, posibles picos de precios y seguridad de suministro. Al mismo tiempo insiste en continuar desplegando renovables y almacenamiento. Es decir, estamos empezando a hablar precisamente de lo que deberíamos haber hablado desde el principio. No de nuclear o renovables. De nuclear y renovables, junto con almacenamiento, redes e interconexiones. Por ahora el Gobierno mantiene 2035 como fecha para el cierre completo del parque nuclear español. Quizá sea la decisión correcta. Quizá dentro de unos años descubramos que fue demasiado pronto. El tiempo lo dirá. Pero creo que sería razonable que las decisiones futuras dependiesen más de la situación tecnológica, energética y de seguridad que exista entonces que de calendarios establecidos muchos años antes. El problema tampoco son solamente los centros de datos Hay además algo que me preocupa de cómo estamos enfocando esta discusión. Resultaría muy sencillo convertir los centros de datos en culpables del crecimiento del consumo eléctrico. “Estamos gastando toda la electricidad en inteligencia artificial”. No creo que esa sea una lectura correcta. Si Europa quiere electrificar el transporte, descarbonizar la industria, fabricar más dentro de sus fronteras, desarrollar inteligencia artificial, atraer centros de datos y reducir su dependencia energética exterior, necesitará mucha más electricidad. La solución no debería ser impedir que aparezca nueva demanda. Debería ser aumentar la oferta y mejorar las infraestructuras. Y hacerlo de forma sostenible. La propia AIE calcula que las renovables cubrirán aproximadamente la mitad del crecimiento mundial de electricidad destinada a centros de datos hasta 2035. La nuclear también aumentará su aportación y, lamentablemente desde el punto de vista de las emisiones, el gas continuará teniendo bastante peso. En Europa la combinación puede ser especialmente interesante: la AIE estima que renovables y nuclear podrían proporcionar conjuntamente el 85 % de la electricidad consumida por los centros de datos europeos en 2030. Quizá ahí tengamos una pista. No necesitamos elegir una única tecnología capaz de resolver todos nuestros problemas energéticos. Necesitamos mucha solar donde tenga sentido. Mucha eólica. Hidráulica y bombeo. Baterías. Redes eléctricas reforzadas. Mejores interconexiones europeas. Gestión inteligente de la demanda. Y probablemente también nuclear mientras pueda operar con seguridad y resulte necesaria para garantizar el sistema. Porque la transición energética no debería medirse solamente por cuántos GW instalamos. También debería medirse por nuestra capacidad para encender la luz, una fábrica, un hospital o un centro de datos cualquier día del año y a cualquier hora, haga sol, llueva, sople el viento o no. Ese es para mí el verdadero debate energético que está poniendo encima de la mesa la inteligencia artificial. Preguntas frecuentes ¿Cuántos reactores nucleares hay actualmente en el mundo? El OIEA contabiliza 417 reactores en operación en 31 países, con cerca de 380 GW de potencia instalada. Además, registra 77 reactores en construcción. ¿Cuántas centrales nucleares funcionan en España? España cuenta con siete reactores nucleares operativos. En 2025 produjeron alrededor del 18,9 % de la electricidad del país. ¿España ha cancelado el cierre de sus centrales nucleares? No. El Gobierno ha ampliado la autorización de explotación de Almaraz I y II hasta junio de 2030, pero mantiene actualmente 2035 como fecha de cierre completo del parque nuclear. ¿Las renovables pueden alimentar los centros de datos de IA? Sí y tendrán un peso creciente. El desafío está en combinar su producción variable con almacenamiento, redes, interconexiones y fuentes de generación gestionables que permitan garantizar el suministro durante las 24 horas. Fuentes: Agencia Internacional de la Energía (AIE), Energy and AI y Electricity 2026. Organismo Internacional de Energía Atómica (OIEA), Power Reactor Information System (PRIS). Ministerio para la Transición Ecológica y el Reto Demográfico, renovación de la autorización de explotación de Almaraz, 14/08/2026. España amplía la vida de Almaraz hasta 2030 ante la incertidumbre energética. Gráfico de centrales nucleares activas creado a partir de datos de OIEA.    Leer en Carrero.es Recibes este boletín porque te has suscrito en Carrero.es Darme de baja | Modificar mis datos

Newsletter "Sin Tiempo para Escribir" de Carrero.es

Si no puedes ver bien esta newsletter haz click aquí "Sin Tiempo para Escribir" El newsletter de David Carrero Marcas de agua para la IA: quizá estamos intentando identificar lo equivocado Tue, 18 Aug 2026 05:52:00 +0000 Durante años hemos dedicado bastante tecnología a borrar rastros de los archivos que circulan por Internet. Quitamos metadatos de las fotografías para proteger la privacidad, limpiamos documentos antes de enviarlos, recomprimimos imágenes, eliminamos información EXIF y hemos desarrollado herramientas capaces de reconstruir contenido digital hasta hacer desaparecer señales que parecían difíciles de borrar. Ahora llega la inteligencia artificial generativa y queremos hacer justo lo contrario: llenar sus contenidos de marcas invisibles para poder reconocerlos después. La intención tiene sentido. Lo que no tengo tan claro es que estemos haciendo la pregunta correcta. Las claves de las marcas de agua de la IA en 30 segundos Anthropic ha empezado a incorporar marcas legibles por máquina en los nuevos modelos Claude para adaptarse, entre otras razones, a las obligaciones europeas de transparencia. La propia compañía reconoce que detectar una marca no demuestra que Claude sea el autor original del contenido. Una edición profunda, traducción o paráfrasis puede hacer desaparecer la señal. Estudios académicos ya han demostrado que algunas marcas invisibles en imágenes pueden neutralizarse regenerando parte del contenido con otra IA. A largo plazo puede resultar más útil acreditar procedencia y responsabilidad humana que intentar detectar todo lo artificial. La paradoja me parece interesante porque resume bastante bien el momento tecnológico en el que estamos. Queremos saber qué ha hecho una inteligencia artificial justo cuando las máquinas están adquiriendo la capacidad de transformar casi cualquier objeto digital conservando aquello que realmente nos importa de él. Una fotografía puede regenerarse. Un texto puede reescribirse. Una voz puede sintetizarse de nuevo. Un vídeo puede editarse o recrearse. Un documento puede pasar por varios modelos antes de llegar a su destinatario. La pregunta es cuánto puede sobrevivir una marca cuando el contenido que la transporta deja de ser algo estático. Claude empieza a marcar sus textos, pero Anthropic reconoce los límites El caso que ha vuelto a poner este debate encima de la mesa es Claude. Anthropic ha firmado el Código de Prácticas de la Unión Europea relacionado con el artículo 50(2) del Reglamento de Inteligencia Artificial (AI Act) y ha explicado cómo pretende aplicar las obligaciones de transparencia a sus modelos. Los modelos Claude lanzados en la Unión Europea desde el 2 de agosto de 2026 incorporan marcado legible por máquina desde su lanzamiento. La compañía también trabaja para extenderlo a modelos anteriores durante el periodo transitorio. Hay dos tecnologías diferentes. Para el texto, Claude introduce una marca invisible dentro de la propia generación. Anthropic asegura que no modifica el significado, la calidad ni la legibilidad y que puede acompañar al contenido cuando se copia y pega. En determinados archivos, como PNG, JPG o SVG, utiliza además metadatos de procedencia firmados siguiendo C2PA, el estándar abierto de la Coalition for Content Provenance and Authenticity. Hasta aquí todo parece razonable. El problema aparece unas líneas más abajo en la propia documentación de Anthropic. La compañía advierte de que encontrar una marca de Claude no confirma por sí mismo la procedencia completa del contenido. Claude puede haberse limitado a corregir, traducir, resumir o convertir un documento cuyo contenido original procedía de una persona. Y también reconoce el problema contrario: no encontrar la marca tampoco demuestra que Claude no haya intervenido. Una edición intensa, una paráfrasis, una traducción, la mezcla con otros textos o incluso disponer de un fragmento demasiado corto pueden hacer que la señal deje de ser detectable. En los archivos, convertir el formato, volver a guardarlos o realizar una captura de pantalla puede eliminar determinados metadatos. Es decir: marca detectada ≠ contenido creado por Inteligencia Artificial. Y: marca no detectada ≠ contenido creado por un humano. No lo digo como crítica a Anthropic. De hecho, me parece positivo que sea la propia empresa quien explique claramente estas limitaciones. El problema aparece cuando fuera del laboratorio convertimos una señal técnica en una respuesta absoluta. Europa obliga a marcar, pero tampoco dice que la marca sea una máquina de la verdad Hay otro matiz importante. Anthropic no se ha levantado una mañana pensando que sería divertido dejar una firma invisible en cada respuesta de Claude. Existe detrás una nueva obligación regulatoria europea. El artículo 50 del AI Act establece que los proveedores de sistemas que generen contenido sintético de audio, imagen, vídeo o texto deben procurar que sus resultados estén marcados en un formato legible por máquina y puedan detectarse como generados o manipulados artificialmente. Pero la propia norma introduce algo bastante sensato: exige que esas soluciones sean efectivas, interoperables, robustas y fiables hasta donde sea técnicamente posible, teniendo en cuenta las características del contenido y el estado de la técnica. Además, el artículo contempla una excepción cuando la Inteligencia Artificial desempeña una función auxiliar de edición estándar o no altera sustancialmente los datos introducidos o su significado. La Comisión Europea también ha aclarado recientemente que la obligación de marcado del proveedor y la obligación de informar al público no son exactamente lo mismo. En determinados casos no basta con esconder una señal técnica dentro del contenido: la información debe resultar comprensible para la persona que lo recibe. Esto es importante porque ayuda a colocar las marcas de agua donde probablemente deben estar. Son una herramienta de transparencia y procedencia. No necesariamente un detector universal de inteligencia artificial. Google lleva tiempo demostrando que marcar texto sí es técnicamente posible Tampoco sería correcto concluir que las marcas no sirven para nada. Google DeepMind lleva años trabajando con SynthID y en 2024 publicó en Nature los resultados de SynthID-Text, una técnica que introduce la señal modificando el propio proceso de selección de tokens del modelo. En lugar de añadir un texto oculto al final del documento, la señal queda distribuida estadísticamente entre las decisiones que toma el modelo mientras escribe. El experimento es relevante por su escala. Google evaluó SynthID-Text en producción sobre casi 20 millones de respuestas de Gemini y los investigadores afirmaron que las pruebas no mostraron una pérdida apreciable de calidad. El sistema permitió detectar el marcado sin necesidad de ejecutar nuevamente el modelo que había generado el contenido. Así que sí: técnicamente podemos marcar texto generado por una Inteligencia Artificial. La cuestión interesante viene después. ¿Durante cuánto tiempo podemos seguir detectándolo? Porque Internet no funciona como una vitrina en la que colocamos un documento y nadie vuelve a tocarlo. Los contenidos viajan. El problema es que ahora tenemos máquinas extraordinariamente buenas transformando contenido Aquí es donde creo que cambia completamente el juego. Hasta hace relativamente poco eliminar una marca resistente podía requerir conocer cómo estaba construida, degradar considerablemente el archivo o desarrollar un ataque específicamente diseñado contra ella. La IA generativa introduce otra posibilidad: no hace falta borrar exactamente la marca si podemos volver a generar el contenido. Un texto de 2.000 palabras puede convertirse en otro texto de 2.000 palabras que diga prácticamente lo mismo utilizando otras palabras, estructuras y construcciones. Una imagen puede mantener a la persona, el objeto o la escena principal mientras cambia partes del fondo. Una grabación puede transcribirse y sintetizarse nuevamente. Ya no siempre atacamos la marca. A veces simplemente fabricamos otra representación del mismo contenido. Y eso es bastante más difícil de resolver. Un trabajo teórico publicado por investigadores de Harvard, MIT, Georgetown y otras instituciones analizó precisamente la posibilidad de construir marcas realmente resistentes para modelos generativos. Su conclusión es incómoda: bajo determinadas hipótesis razonables, una marca fuerte que no pueda eliminarse sin degradar sustancialmente la calidad resulta imposible. Los investigadores demostraron además ataques contra tres esquemas de marcas de agua para grandes modelos de lenguaje. No significa que cualquier marca pueda eliminarse trivialmente ni que todos los sistemas actuales estén derrotados. Significa que existe un problema de fondo. Cuanto mejor sea una máquina reinterpretando un contenido sin destruir su utilidad, más complicado será obligar a que una determinada señal permanezca pegada a él para siempre. Y con las imágenes ya sabemos que no es solamente teoría La investigación con imágenes ofrece ejemplos todavía más fáciles de visualizar. En 2023 un grupo de investigadores demostró que determinadas marcas invisibles a nivel de píxel podían atacarse mediante modelos generativos. El método introducía ruido para alterar la señal y posteriormente reconstruía la imagen utilizando modelos generativos. Los experimentos mostraron vulnerabilidades en cuatro esquemas diferentes. Otro trabajo publicado en mayo de 2025 llevó la idea bastante más lejos. Investigadores del International Computer Science Institute, Arizona State University, Lawrence Berkeley National Laboratory y la Universidad de California en Berkeley presentaron SemanticRegen. El concepto me parece especialmente interesante. SemanticRegen no intenta conservar matemáticamente todos los píxeles de una imagen. Intenta conservar lo que nosotros consideramos importante de ella. Primero un modelo de visión describe el contenido. Después otro sistema identifica y segmenta los objetos principales. Finalmente un modelo generativo reconstruye determinadas partes del fondo manteniendo los elementos relevantes. Los autores probaron el método con más de 1.000 prompts sobre cuatro sistemas de marcas: TreeRing, StegaStamp, StableSig y DWT/DCT. SemanticRegen logró superar el criterio de eliminación establecido para TreeRing y redujo la precisión de las otras marcas mientras mantenía una elevada similitud en las zonas visualmente importantes. Aquí aparece para mí una de las grandes ironías de todo este asunto. Estamos utilizando inteligencia artificial para crear contenido, tecnología para marcarlo como artificial y nuevamente inteligencia artificial para reconstruirlo sin conservar necesariamente esa marca. No parece una batalla con un final sencillo. Ya hemos creado herramientas para borrar rastros digitales durante décadas Además hay algo que resulta casi cómico si uno lleva suficientes años en Internet. Durante mucho tiempo hemos recomendado exactamente lo contrario. Eliminar EXIF de las fotografías antes de publicarlas podía proteger información privada. Limpiar metadatos de documentos evitaba revelar autores, rutas internas, nombres de usuario o información sobre el software utilizado. Las plataformas sociales recomprimen fotografías. Los gestores documentales transforman formatos. Los editores vuelven a guardar archivos. Los CMS procesan imágenes automáticamente. Los sistemas de mensajería crean versiones nuevas. Muchas de estas operaciones son perfectamente legítimas y algunas incluso deseables desde el punto de vista de la privacidad y la seguridad. Ahora queremos que determinados metadatos sobrevivan a toda esa cadena. No es imposible, pero existe una tensión evidente. Ya ha aparecido incluso un proyecto abierto denominado watermarks-remover que agrupa mecanismos para limpiar distintos rastros asociados a contenidos digitales, desde caracteres Unicode y metadatos hasta técnicas de reescritura destinadas a alterar señales estadísticas. Sus propios desarrolladores advierten de que estas últimas son de mejor esfuerzo y no permiten certificar que desaparezca la marca oficial de un proveedor. No hace falta utilizar ninguna de esas herramientas para entender la dinámica. Cada sistema de marcado crea inmediatamente un incentivo para investigar cómo eliminarlo. Y ahora ambas partes tienen IA. El verdadero problema empieza cuando queremos decidir qué es humano Aquí es donde personalmente tengo más dudas. Supongamos que escribo este artículo desde cero y después utilizo Claude para corregir cinco erratas. ¿Es contenido humano? Yo diría que sí. Supongamos que le pido mejorar dos párrafos porque no terminan de convencerme. ¿Sigue siendo humano? Probablemente. ¿Y si utilizo la Inteligencia Artificial para encontrar fuentes pero las leo y compruebo personalmente? ¿Y si genero una estructura inicial? ¿Y si escribo el 70 % y la Inteligencia Artificial completa el resto? ¿Y si ocurre al revés, la Inteligencia Artificial genera un borrador y después paso dos horas haciendo cambios personalmente? ¿En qué porcentaje exacto deja algo de ser humano? No creo que exista una respuesta técnica satisfactoria porque quizá la pregunta esté mal planteada. Estamos intentando dividir el mundo en dos categorías: humano / IA. Pero el mundo hacia el que vamos probablemente se parecerá mucho más a esto: humano + IA + humano + otra IA + software tradicional + revisión humana + publicación. Dentro de pocos años quizá LibreOffice, Word, Gmail/Outlook/Thunderbird, Photoshop, nuestro IDE, el navegador, el móvil y el sistema operativo incorporen agentes trabajando permanentemente alrededor de nosotros. De hecho estoy seguro que tendremos agentes con inteligencias artificiales que podrás correr 100% en local, y este será un paso clave para nuestra privacidad y no se si libertad. Encontrar un documento profesional en el que ninguna inteligencia artificial haya intervenido podría terminar siendo más raro que encontrar uno que haya pasado por alguna. ¿Qué valor tendrá entonces detectar que «una Inteligencia Artificial tocó este archivo»? Quizá bastante poco. Puede que acabemos marcando a los humanos Por eso llevo unos días dándole vueltas a la posibilidad contraria. Igual estamos intentando marcar el lado equivocado. Ahora queremos conseguir esto: «Este contenido ha sido generado por una IA». Pero quizá dentro de unos años lo valioso sea poder demostrar: «Este contenido procede de esta persona». Con nombre y apellidos, totalmente identificable en el mundo real. Parece una diferencia semántica, pero tecnológicamente cambia bastante el problema. Ya no estaríamos intentando detectar estadísticamente algo desconocido. Estaríamos verificando una identidad y una cadena de procedencia. Una cámara podría firmar criptográficamente una fotografía en el momento de capturarla. Un periodista podría firmar determinadas versiones de un artículo. Una universidad podría certificar que un examen se realizó en unas condiciones determinadas. Un investigador podría acreditar cuándo creó un documento y cómo fue evolucionando. Una empresa podría registrar quién generó, revisó y finalmente aprobó un informe. No demostraríamos que cualquier contenido sin esa certificación ha sido creado por inteligencia artificial. Eso sería otro error. Demostraríamos algo mucho más limitado, pero también mucho más sólido: conocemos el origen de este contenido. C2PA puede ser más interesante por esto que por detectar IA C2PA apunta precisamente hacia esa idea de procedencia. El estándar no está diseñado simplemente para colocar una etiqueta de «IA» sobre una fotografía. Permite almacenar afirmaciones sobre cómo se creó un activo, qué transformaciones recibió y qué actores participaron en ellas, agrupándolas en manifiestos firmados digitalmente. Su especificación habla explícitamente de información criptográficamente verificable y de mantener un historial de procedencia a medida que el contenido se transforma. Esto me parece bastante más interesante que la eterna pregunta de si un detector cree que un texto tiene un 83 % de probabilidades de haber sido generado por una máquina. No pregunta: «¿Esto parece humano?» Pregunta: «¿Qué sabemos realmente sobre el origen de esto?» La diferencia es enorme. Por supuesto tampoco resuelve mágicamente el problema. Una persona podría firmar un contenido generado íntegramente por una Inteligencia Artificial. Una cámara podría fotografiar una pantalla. Una identidad podría verse comprometida. Una cadena de procedencia puede romperse cuando una plataforma elimina la información asociada. La criptografía puede demostrar que determinados datos no han sido modificados desde que fueron firmados. No puede demostrar que la persona que pulsa el botón haya tenido una idea. Pero al menos estamos trasladando el problema desde una inferencia estadística sobre el contenido hacia una cadena verificable de hechos. Y eso parece un terreno bastante más sólido. Quizá la pregunta no sea quién escribió cada palabra Hay otro cambio que creo que terminará llegando. Probablemente dejaremos de obsesionarnos con quién escribió literalmente cada palabra y empezaremos a preguntar quién responde por lo publicado. Esto ya ocurre en muchos ámbitos. Un directivo no escribe necesariamente cada línea de un informe que firma. Un investigador trabaja con colaboradores y herramientas. Un periodista utiliza editores, correctores, bases de datos y fuentes. Un programador no ha escrito personalmente todas las líneas de las librerías que utiliza. La inteligencia artificial añade una herramienta extraordinariamente capaz a esa cadena, pero no elimina necesariamente la responsabilidad humana. En un medio de comunicación importa quién verifica una información y quién asume la responsabilidad editorial. En una empresa importa quién aprueba una decisión. En una universidad importa qué capacidad concreta del estudiante se está evaluando. En software importa quién revisa y despliega el código. Eso nos lleva a una cuestión bastante más incómoda que detectar marcas de agua. Quizá el problema real no sea saber si hubo una Inteligencia Artificial. Quizá sea saber si hubo un humano responsable. Y eso no se detecta analizando tokens. Podemos acabar construyendo un Internet al revés Hay un escenario que me parece perfectamente posible. Dentro de unos años la mayor parte del contenido digital tendrá algún grado de participación de inteligencia artificial. Textos. Fotografías. Vídeos. Código. Presentaciones. Correos electrónicos. Traducciones. Informes. Entonces detectar «contenido que ha pasado por IA» será parecido a detectar hoy un documento que ha pasado por un procesador de textos. No aportará demasiado. Lo escaso será otra cosa. Contenido con una procedencia verificable. Una fotografía de la que podamos acreditar cuándo y con qué dispositivo fue capturada. Un documento cuya cadena de modificaciones conozcamos. Un vídeo firmado desde su origen. Un artículo asociado a una identidad y a una responsabilidad editorial. Puede que terminemos construyendo algo parecido a una prueba de humanidad, aunque seguramente no deberíamos llamarla así porque nunca será absoluta. No certificaremos que algo no contiene IA. Certificaremos que en determinados puntos del proceso hubo personas identificadas que participaron y asumieron responsabilidad. Y curiosamente puede que eso sea bastante más sencillo que intentar perseguir todas las máquinas. No creo que las marcas de agua sean inútiles Después de todo esto sería fácil llegar a una conclusión demasiado simple: las marcas de agua no sirven. No creo que sea así. Pueden aportar señales útiles. Pueden ayudar a los proveedores a cumplir obligaciones de transparencia. Pueden servir en investigaciones. Pueden permitir identificar determinados contenidos cuando la marca permanece intacta. Pueden dificultar usos masivos poco sofisticados. Y combinadas con sistemas de procedencia, firmas digitales y otras señales pueden formar parte de mecanismos bastante útiles. El error sería pedirles algo que probablemente nunca podrán ofrecernos: una frontera perfecta entre lo humano y lo artificial. Esa frontera ya está desapareciendo. Anthropic reconoce que una marca detectada no prueba que Claude sea el autor y que una marca ausente tampoco demuestra que Claude no haya intervenido. La investigación académica lleva años mostrando la dificultad de construir marcas resistentes a adversarios capaces de transformar el contenido. Y las propias herramientas generativas hacen que esas transformaciones sean cada vez más fáciles. Quizá estamos dando algunos palos de ciego porque todavía intentamos resolver con etiquetas binarias un cambio mucho más profundo. Durante años Internet nos enseñó a borrar nuestros rastros digitales. Ahora queremos que las máquinas dejen rastros imposibles de borrar. Y justo cuando empezamos a conseguirlo hemos inventado máquinas capaces de rehacer prácticamente cualquier contenido. Puede que la solución no consista en perseguir eternamente lo artificial. Puede que acabemos haciendo justo lo contrario: dar más valor a aquello cuyo origen podemos acreditar. No «esto no lo hizo una IA». Algo bastante más útil: «Sabemos quién está detrás de esto». Y, sobre todo: «Sabemos quién responde por ello». Preguntas frecuentes ¿Qué marca de agua está incorporando Anthropic a Claude? Anthropic utiliza una marca invisible integrada en el texto generado por los modelos compatibles y metadatos de procedencia firmados para determinados archivos. La compañía indica que las marcas se aplican a nivel de modelo y que está preparando mecanismos para que terceros puedan detectarlas. ¿Una marca de Claude demuestra que el texto fue escrito por inteligencia artificial? No. Anthropic explica expresamente que una marca indica que el contenido puede haber sido procesado por Claude, pero el original podría proceder de una persona y haberse utilizado el modelo únicamente para corregir, traducir, resumir o transformar el documento. ¿Pueden desaparecer las marcas de agua de la IA? Depende del sistema. Anthropic reconoce que una edición profunda, paráfrasis, traducción o mezcla con otros textos puede impedir detectar su marca. La investigación académica también ha demostrado ataques contra diferentes esquemas de marcas de agua en texto e imágenes. ¿Tiene más sentido certificar contenido humano que detectar contenido de IA? Es una posibilidad a medida que humanos e IA trabajen cada vez más mezclados. Los sistemas de procedencia como C2PA no certifican que un contenido sea «100 % humano», pero permiten registrar información verificable sobre su origen, transformaciones y participantes, que puede resultar más útil que una clasificación binaria entre humano e IA. Fuentes: Anthropic, How Claude marks AI-generated content Comisión Europea, obligaciones de transparencia del artículo 50 del AI Act Noticias. AI: AI Act: las nuevas reglas que cambiarán cómo empresas y creadores usan la inteligencia artificial AI Act Service Desk de la Comisión Europea, artículo 50 EUR-Lex, Reglamento (UE) 2024/1689 de Inteligencia Artificial C2PA, especificación de Content Credentials y procedencia digital Nature, Scalable watermarking for identifying large language model outputs (SynthID-Text) Zhang et al., Watermarks in the Sand: Impossibility of Strong Watermarking for Generative Models Zhao et al., Invisible Image Watermarks Are Provably Removable Using Generative AI Tallam et al., Removing Watermarks with Partial Regeneration using Semantic Information, 2025. La entrada Marcas de agua para la IA: quizá estamos intentando identificar lo equivocado aparece primero en Carrero.    Leer en Carrero.es Recibes este boletín porque te has suscrito en Carrero.es Darme de baja | Modificar mis datos

Newsletter "Sin Tiempo para Escribir" de Carrero.es

Si no puedes ver bien esta newsletter haz click aquí "Sin Tiempo para Escribir" El newsletter de David Carrero ¿Quién conservará el conocimiento cuando los libros desaparezcan? Tue, 11 Aug 2026 05:04:00 +0000 Hay noticias que apenas ocupan unos minutos en la actualidad tecnológica, pero que esconden preguntas mucho más profundas de lo que parece. Hace tiempo ya trascendió que Anthropic, la empresa detrás de Claude, llevaba tiempo comprando enormes cantidades de libros físicos para digitalizarlos mediante escaneado industrial y utilizarlos para entrenar sus modelos de inteligencia artificial. El proceso era sencillo: adquirir los libros, cortar el lomo, escanear todas sus páginas y «reciclar el papel». El objetivo no era crear una biblioteca digital para consulta pública. Era transformar esos libros en datos. La noticia puede interpretarse como un episodio más dentro de la carrera por construir modelos de IA cada vez más potentes. Sin embargo, cuanto más pienso en ello, más convencido estoy de que estamos asistiendo al nacimiento de un problema mucho mayor. Quizá dentro de unos años recordemos este momento como el instante en que empezamos a sustituir bibliotecas por algoritmos. No me preocupa que una inteligencia artificial aprenda de los libros. Me preocupa que, en algunos casos, esos libros puedan dejar de existir. Y que el conocimiento de estos pueda «ser moldeado» por empresas a su antojo alejándose de la realidad del mismo. Durante siglos, preservar significaba multiplicar las copias La historia del conocimiento siempre ha sido una lucha contra el olvido. Las grandes bibliotecas nacieron porque una única copia nunca era suficiente. Los monasterios medievales copiaban manuscritos durante generaciones. Más tarde llegó la imprenta y permitió que una misma obra existiera en cientos o miles de ejemplares repartidos por distintos países. Si una biblioteca ardía, otra conservaba el mismo libro. Si un gobierno prohibía una obra, siempre podía sobrevivir escondida en otro lugar. Incluso Internet reforzó esa idea. Digitalizar significaba preservar. Proyectos como Google Books, Internet Archive o las bibliotecas nacionales emprendieron campañas masivas de digitalización con un objetivo claro: evitar que el conocimiento desapareciera aunque el soporte físico terminara deteriorándose. Pero la inteligencia artificial ha introducido un incentivo completamente distinto. Ahora el libro no se digitaliza necesariamente para ser leído dentro de veinte o cincuenta años. Se digitaliza para alimentar un modelo estadístico. Una vez extraída la información, el objeto físico pierde prácticamente todo su valor. Y ahí es donde empiezan mis dudas. Porque una inteligencia artificial no conserva un libro. Lo consume. No todo está digitalizado. Ni mucho menos. Existe la sensación de que cualquier libro puede encontrarse en PDF, ePub o en alguna biblioteca digital. La realidad está muy lejos de eso. Miles de publicaciones técnicas, manuales especializados, tesis universitarias, libros autoeditados, revistas científicas antiguas, documentos industriales o pequeñas tiradas editoriales siguen existiendo únicamente en papel. Muchos nunca han sido digitalizados. Otros apenas sobreviven en unas pocas bibliotecas o en colecciones privadas. Ahora imaginemos un escenario que ya no parece tan improbable. Una empresa decide recorrer librerías de segunda mano, ferias del libro antiguo, colecciones privadas o incluso bibliotecas que venden fondos duplicados. Está dispuesta a pagar bastante más que cualquier coleccionista porque el objetivo no es revender esos ejemplares, sino alimentar una inteligencia artificial propia. Compra el libro. Lo escanea. Lo destruye. Desde un punto de vista legal puede que todo sea perfectamente válido. Si la adquisición es legítima y el marco jurídico lo permite, no habría mucho que discutir. Pero culturalmente las consecuencias son muy distintas. Porque algunos de esos libros podrían dejar de existir físicamente para siempre. La realidad es que ya está pasando, casos documentados de pedidos de libros antiguos o rarezas desde cualquier parte del mundo para pagar pocos euros por el ejemplar y unos portes desorbitados desde una empresa con sede en otro país, normalmente Estados Unidos de América. Por ejemplo mira esta publicación de Instagram sobre el tema. Una Inteligencia Artificial no es una biblioteca Aquí creo que existe una confusión importante. Muchas personas hablan de estos procesos como si digitalizar un libro para entrenar una Inteligencia Artificial fuera equivalente a conservarlo. No lo es. Una biblioteca conserva el texto completo, las ilustraciones, la maquetación, las anotaciones, las distintas ediciones e incluso el contexto histórico de la obra. Permite volver a consultarla dentro de cien años exactamente igual que hoy. Una inteligencia artificial funciona de otra manera. No almacena el libro para que podamos recuperarlo cuando queramos. Aprende patrones estadísticos a partir de millones de textos. El contenido original desaparece dentro de un modelo matemático imposible de recorrer como si fuera una biblioteca tradicional. Eso significa que podremos preguntarle por una idea, un concepto o un autor. Pero quizá nunca podamos volver a leer exactamente el libro del que aprendió esa respuesta. Y tampoco verificar si la respuesta coincide realmente con la fuente original. El problema no es la tecnología. Es quién controla la memoria. No soy especialmente nostálgico del papel. Llevo décadas disfrutando de libros electrónicos (aunque el 90% lo leo en papel), documentación digital y herramientas online. Gran parte de mi trabajo gira precisamente alrededor de la transformación digital. Pero una cosa es digitalizar el conocimiento. Y otra muy distinta concentrarlo. Si el conocimiento termina residiendo únicamente dentro de modelos privados propiedad de unas pocas compañías, empezamos a depender de ellas para acceder a buena parte de nuestra memoria colectiva. No hace falta imaginar conspiraciones. Basta con pensar en algo mucho más cotidiano. ¿Qué ocurre si una empresa decide que determinados contenidos ya no forman parte del entrenamiento de sus futuros modelos? ¿Qué sucede si un cambio legislativo obliga a eliminar determinadas obras de los conjuntos de entrenamiento? ¿Quién comprobará qué libros estaban presentes antes y cuáles han desaparecido después? Con una biblioteca siempre existe la posibilidad de volver al original. Con un modelo de inteligencia artificial esa posibilidad desaparece. El valor del papel no está solo en el contenido Hay otro aspecto que solemos olvidar. Los libros físicos también cuentan una historia por sí mismos. Los historiadores comparan distintas ediciones para descubrir censuras, modificaciones, errores de impresión o cambios introducidos por los propios autores. Un simple prólogo añadido años después puede modificar completamente la interpretación de una obra. Eso forma parte del patrimonio cultural. Una inteligencia artificial no distingue entre la primera edición, la tercera revisión o una versión censurada si todas terminan convertidas en simples datos durante el entrenamiento. El soporte también contiene información. Y destruirlo implica perder parte de ella. Europa tampoco debería ignorar este debate Hay otro elemento que me preocupa especialmente. Mientras las grandes empresas tecnológicas concentran cada vez más conocimiento para entrenar sus modelos, en Europa avanzan regulaciones como el AI Act y propuestas como ChatControl, impulsadas con objetivos legítimos como reducir riesgos, proteger a los menores o mejorar la seguridad digital. El problema no está necesariamente en la intención. Está en la acumulación de poder. Por un lado, un pequeño número de compañías controla modelos capaces de responder prácticamente cualquier pregunta. Por otro, los gobiernos incrementan progresivamente su capacidad para regular qué puede hacerse con esos sistemas y bajo qué condiciones. No digo que estemos ante un escenario de censura, que posiblemente si que lo estemos. Digo que deberíamos preocuparnos por evitar que llegue a ser posible. Aun no es tarde, o quizás sí. Porque la mejor garantía para la libertad siempre ha sido que el conocimiento permanezca distribuido, verificable y accesible para cualquiera. Quizá el verdadero debate acaba de empezar La inteligencia artificial va a seguir aprendiendo de libros. Y probablemente sea positivo que lo haga. Sería absurdo renunciar al enorme patrimonio escrito de la humanidad para desarrollar mejores herramientas. Lo que me cuesta aceptar es la idea de que algunos de esos libros puedan desaparecer para siempre porque su única utilidad pase a ser alimentar un modelo privado. Durante siglos hemos luchado por conservar el conocimiento frente a incendios, guerras, censuras y el paso del tiempo. Ahora corremos el riesgo de hacerlo desaparecer nosotros mismos, convencidos de que basta con que una inteligencia artificial lo recuerde. Quizá dentro de veinte años podamos preguntar a una IA cualquier cosa y obtener una respuesta brillante en cuestión de segundos. Lo que ya no tengo tan claro es si podremos comprobar de dónde salió esa respuesta. O si el libro que la inspiró seguirá existiendo. Porque preservar un libro no consiste únicamente en guardar la información que contiene. También significa conservar la posibilidad de leerlo, interpretarlo, discutirlo y compararlo con otras versiones. En el momento en que el conocimiento deja de estar repartido entre millones de libros y pasa a residir únicamente en la memoria de unas pocas inteligencias artificiales privadas, ya no estamos hablando solo de tecnología. Estamos hablando de quién custodiará la memoria de nuestra civilización durante las próximas décadas. Y esa, probablemente, es una conversación que aún no hemos empezado a tener. La entrada ¿Quién conservará el conocimiento cuando los libros desaparezcan? aparece primero en Carrero.    Leer en Carrero.es Recibes este boletín porque te has suscrito en Carrero.es Darme de baja | Modificar mis datos