Hay noticias que apenas ocupan unos minutos en la actualidad tecnológica, pero que esconden preguntas mucho más profundas de lo que parece. Hace tiempo ya trascendió que Anthropic, la empresa detrás de Claude, llevaba tiempo comprando enormes cantidades de libros físicos para digitalizarlos mediante escaneado industrial y utilizarlos para entrenar sus modelos de inteligencia artificial. El proceso era sencillo: adquirir los libros, cortar el lomo, escanear todas sus páginas y «reciclar el papel». El objetivo no era crear una biblioteca digital para consulta pública. Era transformar esos libros en datos.
La noticia puede interpretarse como un episodio más dentro de la carrera por construir modelos de IA cada vez más potentes. Sin embargo, cuanto más pienso en ello, más convencido estoy de que estamos asistiendo al nacimiento de un problema mucho mayor. Quizá dentro de unos años recordemos este momento como el instante en que empezamos a sustituir bibliotecas por algoritmos.
No me preocupa que una inteligencia artificial aprenda de los libros. Me preocupa que, en algunos casos, esos libros puedan dejar de existir. Y que el conocimiento de estos pueda «ser moldeado» por empresas a su antojo alejándose de la realidad del mismo.
Durante siglos, preservar significaba multiplicar las copias
La historia del conocimiento siempre ha sido una lucha contra el olvido.
Las grandes bibliotecas nacieron porque una única copia nunca era suficiente. Los monasterios medievales copiaban manuscritos durante generaciones. Más tarde llegó la imprenta y permitió que una misma obra existiera en cientos o miles de ejemplares repartidos por distintos países. Si una biblioteca ardía, otra conservaba el mismo libro. Si un gobierno prohibía una obra, siempre podía sobrevivir escondida en otro lugar.
Incluso Internet reforzó esa idea. Digitalizar significaba preservar. Proyectos como Google Books, Internet Archive o las bibliotecas nacionales emprendieron campañas masivas de digitalización con un objetivo claro: evitar que el conocimiento desapareciera aunque el soporte físico terminara deteriorándose.
Pero la inteligencia artificial ha introducido un incentivo completamente distinto.
Ahora el libro no se digitaliza necesariamente para ser leído dentro de veinte o cincuenta años. Se digitaliza para alimentar un modelo estadístico. Una vez extraída la información, el objeto físico pierde prácticamente todo su valor.
Y ahí es donde empiezan mis dudas.
Porque una inteligencia artificial no conserva un libro.
Lo consume.
No todo está digitalizado. Ni mucho menos.
Existe la sensación de que cualquier libro puede encontrarse en PDF, ePub o en alguna biblioteca digital.
La realidad está muy lejos de eso.
Miles de publicaciones técnicas, manuales especializados, tesis universitarias, libros autoeditados, revistas científicas antiguas, documentos industriales o pequeñas tiradas editoriales siguen existiendo únicamente en papel. Muchos nunca han sido digitalizados. Otros apenas sobreviven en unas pocas bibliotecas o en colecciones privadas.
Ahora imaginemos un escenario que ya no parece tan improbable.
Una empresa decide recorrer librerías de segunda mano, ferias del libro antiguo, colecciones privadas o incluso bibliotecas que venden fondos duplicados. Está dispuesta a pagar bastante más que cualquier coleccionista porque el objetivo no es revender esos ejemplares, sino alimentar una inteligencia artificial propia.
Compra el libro.
Lo escanea.
Lo destruye.
Desde un punto de vista legal puede que todo sea perfectamente válido. Si la adquisición es legítima y el marco jurídico lo permite, no habría mucho que discutir.
Pero culturalmente las consecuencias son muy distintas.
Porque algunos de esos libros podrían dejar de existir físicamente para siempre.
La realidad es que ya está pasando, casos documentados de pedidos de libros antiguos o rarezas desde cualquier parte del mundo para pagar pocos euros por el ejemplar y unos portes desorbitados desde una empresa con sede en otro país, normalmente Estados Unidos de América. Por ejemplo mira esta publicación de Instagram sobre el tema.
Una Inteligencia Artificial no es una biblioteca
Aquí creo que existe una confusión importante.
Muchas personas hablan de estos procesos como si digitalizar un libro para entrenar una Inteligencia Artificial fuera equivalente a conservarlo.
No lo es.
Una biblioteca conserva el texto completo, las ilustraciones, la maquetación, las anotaciones, las distintas ediciones e incluso el contexto histórico de la obra. Permite volver a consultarla dentro de cien años exactamente igual que hoy.
Una inteligencia artificial funciona de otra manera.
No almacena el libro para que podamos recuperarlo cuando queramos. Aprende patrones estadísticos a partir de millones de textos. El contenido original desaparece dentro de un modelo matemático imposible de recorrer como si fuera una biblioteca tradicional.
Eso significa que podremos preguntarle por una idea, un concepto o un autor.
Pero quizá nunca podamos volver a leer exactamente el libro del que aprendió esa respuesta.
Y tampoco verificar si la respuesta coincide realmente con la fuente original.
El problema no es la tecnología. Es quién controla la memoria.
No soy especialmente nostálgico del papel.
Llevo décadas disfrutando de libros electrónicos (aunque el 90% lo leo en papel), documentación digital y herramientas online. Gran parte de mi trabajo gira precisamente alrededor de la transformación digital.
Pero una cosa es digitalizar el conocimiento.
Y otra muy distinta concentrarlo.
Si el conocimiento termina residiendo únicamente dentro de modelos privados propiedad de unas pocas compañías, empezamos a depender de ellas para acceder a buena parte de nuestra memoria colectiva.
No hace falta imaginar conspiraciones.
Basta con pensar en algo mucho más cotidiano.
¿Qué ocurre si una empresa decide que determinados contenidos ya no forman parte del entrenamiento de sus futuros modelos?
¿Qué sucede si un cambio legislativo obliga a eliminar determinadas obras de los conjuntos de entrenamiento?
¿Quién comprobará qué libros estaban presentes antes y cuáles han desaparecido después?
Con una biblioteca siempre existe la posibilidad de volver al original.
Con un modelo de inteligencia artificial esa posibilidad desaparece.
El valor del papel no está solo en el contenido
Hay otro aspecto que solemos olvidar.
Los libros físicos también cuentan una historia por sí mismos.
Los historiadores comparan distintas ediciones para descubrir censuras, modificaciones, errores de impresión o cambios introducidos por los propios autores. Un simple prólogo añadido años después puede modificar completamente la interpretación de una obra.
Eso forma parte del patrimonio cultural.
Una inteligencia artificial no distingue entre la primera edición, la tercera revisión o una versión censurada si todas terminan convertidas en simples datos durante el entrenamiento.
El soporte también contiene información.
Y destruirlo implica perder parte de ella.
Europa tampoco debería ignorar este debate
Hay otro elemento que me preocupa especialmente.
Mientras las grandes empresas tecnológicas concentran cada vez más conocimiento para entrenar sus modelos, en Europa avanzan regulaciones como el AI Act y propuestas como ChatControl, impulsadas con objetivos legítimos como reducir riesgos, proteger a los menores o mejorar la seguridad digital.
El problema no está necesariamente en la intención.
Está en la acumulación de poder.
Por un lado, un pequeño número de compañías controla modelos capaces de responder prácticamente cualquier pregunta. Por otro, los gobiernos incrementan progresivamente su capacidad para regular qué puede hacerse con esos sistemas y bajo qué condiciones.
No digo que estemos ante un escenario de censura, que posiblemente si que lo estemos.
Digo que deberíamos preocuparnos por evitar que llegue a ser posible. Aun no es tarde, o quizás sí.
Porque la mejor garantía para la libertad siempre ha sido que el conocimiento permanezca distribuido, verificable y accesible para cualquiera.
Quizá el verdadero debate acaba de empezar
La inteligencia artificial va a seguir aprendiendo de libros. Y probablemente sea positivo que lo haga. Sería absurdo renunciar al enorme patrimonio escrito de la humanidad para desarrollar mejores herramientas.
Lo que me cuesta aceptar es la idea de que algunos de esos libros puedan desaparecer para siempre porque su única utilidad pase a ser alimentar un modelo privado.
Durante siglos hemos luchado por conservar el conocimiento frente a incendios, guerras, censuras y el paso del tiempo.
Ahora corremos el riesgo de hacerlo desaparecer nosotros mismos, convencidos de que basta con que una inteligencia artificial lo recuerde.
Quizá dentro de veinte años podamos preguntar a una IA cualquier cosa y obtener una respuesta brillante en cuestión de segundos.
Lo que ya no tengo tan claro es si podremos comprobar de dónde salió esa respuesta.
O si el libro que la inspiró seguirá existiendo.
Porque preservar un libro no consiste únicamente en guardar la información que contiene.
También significa conservar la posibilidad de leerlo, interpretarlo, discutirlo y compararlo con otras versiones.
En el momento en que el conocimiento deja de estar repartido entre millones de libros y pasa a residir únicamente en la memoria de unas pocas inteligencias artificiales privadas, ya no estamos hablando solo de tecnología.
Estamos hablando de quién custodiará la memoria de nuestra civilización durante las próximas décadas.
Y esa, probablemente, es una conversación que aún no hemos empezado a tener.
La entrada ¿Quién conservará el conocimiento cuando los libros desaparezcan? aparece primero en Carrero.
No hay comentarios:
Publicar un comentario