La Artificial Superintelligence (ASI) Alliance ha lanzado una nueva serie de debates que promete redefinir la relación entre la humanidad y la inteligencia artificial.
El proyecto, titulado The Ten Reckonings of AGI, se abre con un acalorado debate entre dos de las voces más autorizadas del sector: Dr Ben Goertzel, CEO de SingularityNET, y James Barrat, autor del libro “Our Final Invention”. El primer episodio, “The Reckoning of Purpose”, aborda la pregunta crucial: ¿la humanidad todavía es capaz de controlar la tecnología que está creando?
Índice
El arma de doble filo de la tecnología AI
James Barrat lanza una advertencia clara:
“La tecnología se utiliza como arma para matar a nuestros semejantes”.
Según Barrat, la historia enseña que cada innovación tecnológica es inevitablemente explotada también para fines destructivos. Un ejemplo reciente y dramático es el uso de sistemas de inteligencia artificial en conflictos armados, como ocurrió en Gaza, donde la AI fue empleada para fines letales.
Barrat subraya la necesidad urgente de regulación y gobernanza para evitar que la inteligencia artificial sea manipulada por los gobiernos con fines dañinos.
La visión de Ben Goertzel: descentralización y moral superior
A esta visión pesimista, Dr Ben Goertzel contrapone un enfoque más optimista y radical. Goertzel sostiene que una IA abierta, descentralizada y democrática podría resultar más moral en comparación con los líderes de las grandes potencias mundiales:
“Estoy más preocupado por las máquinas asesinas de narrow AI controladas por los seres humanos que dirigen nuestros principales países, que por una AGI autónoma y reflexiva”.
Según él, desarrollar una AGI (Artificial General Intelligence) orientada al bienestar humano ofrece mayores posibilidades de progreso en comparación con una posición de espera.
El dilema ético: podemos, pero ¿deberíamos?
El corazón del debate gira en torno a una pregunta ética fundamental:
“Solo porque podemos construir una AGI, ¿deberíamos hacerlo?”
Barrat insiste en que cada nueva tecnología inevitablemente se militariza, mientras que Goertzel responde que una AGI diseñada para el bien común podría ayudar a la humanidad a encontrar nuevos propósitos y significados, estimulando la creatividad y la investigación científica.
Goertzel ve en la transición histórica hacia la AGI una oportunidad para resolver problemas globales como el hambre y las enfermedades, pero también para liberar al hombre de la fatiga del trabajo, abriendo el camino a nuevas formas de realización personal.
Barrat, en cambio, advierte:
“Cuando la AGI llegue y todos estemos desempleados, ¿qué haremos? Si se introduce un ingreso básico universal y se paga a todos por no hacer nada, se corre el riesgo de tener una sociedad de personas infelices y sin propósito”.
El futuro del trabajo y el sentido de la vida
El debate se traslada entonces al futuro del trabajo y al sentido de la existencia en un mundo dominado por la automatización. Barrat teme que la liberación del trabajo pueda traducirse en una pérdida de autonomía, responsabilidad y propósito. Goertzel, en cambio, invita a no temer el cambio:
“Estamos en una fase de transición, como en cada gran cambio de la historia humana. Cuando las AGI eliminen la necesidad de trabajar y sean más inteligentes que nosotros, el verdadero problema no será el desempleo, sino el tipo de desarrollo que elegiremos para estas tecnologías”.
El objetivo de ASI Alliance: una IA abierta, ética y democrática
A través de la serie The Ten Reckonings of AGI, la ASI Alliance – una red global y descentralizada de pioneros de la IA y del Web3 que incluye SingularityNET, Fetch.ai y CUDOS – quiere llevar estos temas al centro del debate público. La alianza se compromete a promover un desarrollo de la inteligencia artificial que sea abierto, ético y democrático, lejos del control exclusivo de las grandes empresas tecnológicas y los gobiernos.
LOS DIEZ JUICIOS DE AGI son diez preguntas críticas, sin respuesta, que darán forma al futuro de la humanidad y nuestra relación con la inteligencia artificial, desde la IA estrecha hasta la Inteligencia General Artificial (AGI) a nivel humano y la Superinteligencia.
— SingularityNET (@SingularityNET) 6 de junio de 2025
Esta iniciativa se basa en nuestro… pic.twitter.com/JBVhhKF8op
La ASI Alliance también se beneficia de una infraestructura económica común a través del token FET, que facilita la coordinación descentralizada entre sus miembros y apoya la visión de una IA realmente compartida.
¿Quién es Ben Goertzel?
Dr Ben Goertzel es una de las figuras más polifacéticas y visionarias en el campo de la inteligencia artificial. Fundador de la SingularityNET Foundation, la OpenCog Foundation y la AGI Society, Goertzel también ha trabajado como Científico Jefe en Hanson Robotics, contribuyendo al desarrollo de los célebres robots Sophia y Grace.
Con más de 25 libros y 150 publicaciones científicas en su haber, Goertzel es reconocido como una de las voces más radicales e independientes en el panorama global de la IA.
Un debate abierto sobre el futuro de la humanidad
La serie The Ten Reckonings of AGI representa una oportunidad única para reflexionar sobre las cuestiones morales, sociales y existenciales que la inteligencia artificial plantea. El enfrentamiento entre Goertzel y Barrat destaca la complejidad de las decisiones que esperan a la humanidad: por un lado, el riesgo de un uso destructivo de la tecnología; por otro, la esperanza de que una IA democrática pueda ayudar a construir un futuro mejor.
La pregunta sigue abierta: ¿seremos capaces de guiar la inteligencia artificial hacia el bien común, o seremos superados por ella? La respuesta dependerá de las decisiones que tomemos hoy, del coraje para enfrentar los desafíos y de la capacidad de imaginar un futuro en el que tecnología y humanidad puedan realmente convivir.
Para profundizar en el debate, es posible ver el primer episodio “The Reckoning of Purpose” promovido por la ASI Alliance, que invita a todos a participar en esta conversación global sobre el destino de la inteligencia artificial.




