Imagina desplazarte por la sección de espiritualidad de Amazon buscando un libro sobre rituales wiccanos o filosofía hindú, solo para descubrir que la gran mayoría de lo que hay en la estantería virtual puede que nunca haya sido tocado por un escritor humano. Ese es el inquietante panorama que presenta un nuevo estudio sobre libros religiosos escritos por IA, que descubrió que el texto generado por máquinas se ha apoderado silenciosamente de una enorme parte de la edición religiosa y espiritual en la plataforma.
La investigación, publicada esta semana por la firma de detección de IA Originality.ai, tomó una muestra de más de 2.000 títulos publicados recientemente en 14 categorías de religiones y creencias que se venden en Amazon. La conclusión: casi dos de cada tres libros probablemente fueron escritos por inteligencia artificial en lugar de por una persona.
Summary
Conclusiones clave
- Originality.ai marcó 1.272 de 2.034 libros religiosos analizados en Amazon — 63% — como probablemente escritos por IA.
- La categoría de brujería registró el porcentaje más alto con un 78%, con el hinduismo alcanzando el 76% y el taoísmo el 74%.
- Los investigadores señalaron que el 53% de las afirmaciones verificables en libros de brujería eran potencialmente falsas.
- Amazon se basa en un sistema de honor para que los autores revelen por sí mismos si su obra está escrita por IA, sin datos públicos sobre cuántos lo hacen realmente.
- Amazon ha confirmado que compra libros físicos a través de canales comerciales para escanear sus páginas y utilizarlas como datos de entrenamiento de IA.
La mayoría de los libros religiosos en Amazon probablemente están escritos por IA
Las cifras de este estudio son llamativas por sí solas: el 63% de los libros religiosos muestreados obtuvo una puntuación lo suficientemente alta en el modelo de detección de Originality.ai como para ser clasificado como probablemente escrito por una máquina. No se trata de un resultado marginal enterrado en un rincón de nicho de la tienda: representa el resultado mayoritario en toda una categoría comercial que abarca múltiples religiones del mundo.
Estudio y metodología de Originality.ai
El autor del informe, Michael Fraiman, dijo que su equipo analizó descripciones de libros, biografías de autores y muestras de texto de cada título, pasándolas por un modelo de puntuación. Cualquier cosa que obtuviera una puntuación de 50 o más se clasificaba como «Probablemente IA». De los 2.034 libros revisados, 1.272 superaron ese umbral.
Fraiman fue cuidadoso al presentar los hallazgos como probabilidad y no como prueba. «No afirmamos con certeza que los libros estén definitivamente escritos por IA», dijo a Decrypt. «Nuestro modelo determina la probabilidad de que algo haya sido escrito por IA con un cierto grado de certeza». Añadió que los investigadores verificaron manualmente una muestra de los títulos marcados, afirmando que el equipo ya puede «distinguir entre contenido probablemente escrito por IA y contenido escrito por humanos» en esta etapa de su trabajo.
Tasas de autoría de IA en las distintas categorías religiosas
No todas las tradiciones de fe se vieron afectadas por igual. La categoría de brujería —extraída de los listados de Wicca, Brujería y Paganismo de Amazon— encabezó la lista con un 78%, abarcando títulos sobre cristales curativos, remedios herbales y limpieza de energía negativa. Fraiman sugirió que el atractivo para las editoriales es evidente: estos libros pueden prometer soluciones para la salud mental o la «desintoxicación» sin necesidad de cumplir ningún estándar científico.
El hinduismo le siguió con un 76%, y el taoísmo alcanzó el 74%. El sijismo, el budismo, el islam, el catolicismo, el protestantismo, el cristianismo ortodoxo y el judaísmo se situaron en algún punto intermedio. El mormonismo registró un 42%, el ateísmo un 40% y el satanismo un 22%, el porcentaje más bajo de las categorías estudiadas. Los investigadores advirtieron que los tamaños de muestra variaban considerablemente entre categorías, lo que limita hasta qué punto se pueden comparar directamente los porcentajes entre sí.
Retos de verificación y falsos positivos en la detección de IA
Una alta puntuación de detección de IA no significa automáticamente que un libro sea engañoso, pero en la categoría de brujería, el estudio encontró una preocupante superposición entre ambos factores. Los investigadores señalaron que el 53% de las afirmaciones verificables en títulos de brujería eran potencialmente falsas, lo que genera preocupación sobre lectores que recurren a orientación espiritual generada por IA para consejos de salud o bienestar que nadie ha verificado.
Limitaciones de las herramientas de detección de escritura por IA
Herramientas de detección como el modelo de Originality.ai están diseñadas para estimar probabilidades, no para emitir un veredicto. Esa distinción es importante, porque la tecnología de detección de IA, como categoría, tiene un historial de inconsistencia. El propio planteamiento de Fraiman —que el modelo ofrece «un grado de certeza» en lugar de una prueba definitiva— refleja un reconocimiento generalizado en la industria de que ningún detector garantiza actualmente la precisión.
Ejemplos de resultados contradictorios en la detección de IA
La falta de fiabilidad de los detectores de IA no es hipotética. En octubre de 2024, una prueba de cuatro herramientas distintas que analizaban la Declaración de Independencia de Estados Unidos produjo veredictos radicalmente diferentes: ZeroGPT la calificó como 97,93% generada por IA, QuillBot la consideró completamente escrita por humanos y GPTZero le asignó un 89% de probabilidad de autoría humana: tres herramientas, tres respuestas contradictorias sobre el mismo documento del siglo XVIII.
Las consecuencias se volvieron más serias en marzo, cuando la Corte Suprema de Colombia rechazó una presentación legal después de que un detector la marcara como generada por IA. En un giro irónico, cuando un abogado posteriormente pasó la propia sentencia del tribunal por el mismo detector, esta fue calificada como 93% generada por IA. Ese episodio subraya por qué tratar las puntuaciones de detección como pruebas listas para el tribunal sigue siendo jurídicamente cuestionable.
El papel de Amazon y las cuestiones éticas en el contenido y el entrenamiento de IA
Amazon se encuentra en el centro de dos controversias separadas pero relacionadas: cómo controla los libros escritos por IA que se venden en su mercado y cómo obtiene texto en bruto para entrenar sus propios modelos de IA. Ninguna de estas prácticas cuenta actualmente con mucha transparencia pública.
El sistema de honor de Amazon para la divulgación de contenido de IA
Según Fraiman, «Amazon es consciente de lo común que es el contenido escrito por IA en su plataforma y utiliza el sistema de honor para que los autores se identifiquen a sí mismos como autores de obras escritas por IA.» Originality.ai no compartió sus hallazgos con Amazon antes de la publicación, y Fraiman señaló claramente: «No tenemos datos sobre cuántos autores realmente lo revelan». Amazon no respondió de inmediato a la solicitud de comentarios de Decrypt.
Esto es importante porque la auto-divulgación sin verificación deja una amplia brecha entre lo que se exige técnicamente y lo que ocurre en la práctica. Si la proporción de libros religiosos escritos por IA realmente se acerca a dos tercios, un sistema basado puramente en el honor puede estar detectando solo una fracción.
Uso de libros físicos para el entrenamiento de IA y preocupaciones éticas
Por otra parte, el apetito de Amazon por los datos de entrenamiento ha generado escrutinio sobre cómo maneja los libros físicos. Una investigación rastreó un envío de libros raros a una instalación de Amazon en Las Vegas, donde los trabajadores cortaban las encuadernaciones de los libros y escaneaban las páginas para incorporarlas a conjuntos de datos de entrenamiento de IA.
Amazon confirmó que «compra libros a través de canales comerciales para ayudar a desarrollar y mejorar los productos y servicios que nuestros clientes utilizan», aunque la declaración de la empresa no llegó a confirmar específicamente el entrenamiento de IA.
En conjunto, estos dos hilos apuntan a la misma tensión subyacente. Por un lado, el texto generado por IA está inundando categorías como la edición religiosa con contenido que no ha sido verificado y que, en algunos casos, contiene afirmaciones falsas. Por otro, el material en bruto utilizado para construir esos mismos sistemas de IA proviene de libros físicos que se destruyen con una rendición de cuentas pública limitada. Ni el sistema de auto-divulgación de Amazon para los vendedores ni su cadena de suministro de libros para datos de entrenamiento ofrecen actualmente mucha visibilidad sobre la escala, lo que deja a lectores, autores y libreros dependiendo en gran medida de investigaciones externas para entender qué está ocurriendo realmente detrás del escaparate.
Preguntas frecuentes
¿Qué tan fiable es la detección de libros religiosos escritos por IA en Amazon?
Originality.ai utiliza un sistema de puntuación que indica probabilidad más que certeza. Los investigadores advierten que los resultados apuntan a una probable autoría por IA, no a una prueba definitiva.
¿Qué categoría de libros religiosos tuvo la mayor proporción de libros probablemente escritos por IA?
La categoría de brujería tuvo la tasa más alta, con el 78% de los títulos muestreados marcados como probablemente escritos por IA.
¿Qué preocupaciones éticas plantea el uso que hace Amazon de libros físicos para el entrenamiento de IA?
Amazon compra y escanea libros físicos, a veces raros, para el entrenamiento de IA y luego los desecha, lo que plantea preocupaciones éticas sobre la destrucción del material de origen y la falta de consentimiento explícito de los autores.
¿Exige Amazon que los autores revelen si sus libros están escritos por IA?
Amazon utiliza un sistema de honor en el que los autores se autoidentifican si el contenido está escrito por IA, pero no hay datos públicos sobre cuántos lo revelan realmente.
{«@context»:»https://schema.org»,»@type»:»FAQPage»,»mainEntity»:[{«@type»:»Question»,»name»:»¿Qué tan fiable es la detección de libros religiosos escritos por IA en Amazon?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Originality.ai utiliza un sistema de puntuación que indica probabilidad más que certeza. Los investigadores advierten que los resultados apuntan a una probable autoría por IA, no a una prueba definitiva.»}},{«@type»:»Question»,»name»:»¿Qué categoría de libros religiosos tuvo la mayor proporción de libros probablemente escritos por IA?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»La categoría de brujería tuvo la tasa más alta, con el 78% de los títulos muestreados marcados como probablemente escritos por IA.»}},{«@type»:»Question»,»name»:»¿Qué preocupaciones éticas plantea el uso que hace Amazon de libros físicos para el entrenamiento de IA?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Amazon compra y escanea libros físicos, a veces raros, para el entrenamiento de IA y luego los desecha, lo que plantea preocupaciones éticas sobre la destrucción del material de origen y la falta de consentimiento explícito de los autores.»}},{«@type»:»Question»,»name»:»¿Exige Amazon que los autores revelen si sus libros están escritos por IA?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Amazon utiliza un sistema de honor en el que los autores se autoidentifican si el contenido está escrito por IA, pero no hay datos públicos sobre cuántos lo revelan realmente.»}}]}
Artículo producido con la ayuda de inteligencia artificial y revisado por el equipo editorial.
