ENSAYO · 14 SEP 2026

Nuestro fin a manos de la IA

Tres futuros plausibles para una humanidad que pierde el control de la inteligencia.

Por Aarón de Jesús

Han pasado poco menos de cuatro años desde el boom público de la inteligencia artificial generativa. Desde entonces, casi nada se ha detenido. Los modelos escriben, programan, razonan, investigan, usan herramientas y ejecutan tareas que hace muy poco parecían reservadas a personas con años de formación. El ritmo importa porque modifica la naturaleza de la pregunta: ya no basta con preguntarse qué puede hacer la IA hoy; importa preguntarse qué clase de sociedad aparece cuando ese incremento de capacidad se mantiene durante años.

He pensado en sus bondades y en la facilidad con la que el ser humano consigue quitarle bondad a casi cualquier instrumento. Informes internacionales ya separan los riesgos en mal uso, fallos y riesgos sistémicos, y reconocen avances relevantes para ciberataques, biología y operación autónoma, aunque la magnitud futura siga siendo incierta.

Este texto no intenta predecir una fecha de extinción ni afirmar que existe un único destino. Propone tres grandes familias de desenlaces. Pueden aparecer por separado, encadenarse o mezclarse. Las fechas de 2040, 2045 y 2070 son escenas narrativas: sirven para imaginar el mecanismo completo, no para fingir una precisión que nadie posee.

Los tres caminos

La dificultad anterior a cualquier escenario técnico es la cooperación humana. La historia ofrece pocas razones para asumir que toda la humanidad limitará al mismo tiempo una tecnología que promete riqueza, poder militar, medicina, conocimiento y movilidad social. Incluso un acuerdo entre potencias sería frágil si cada actor creyera que otro continuará avanzando en secreto.

¿Cómo se le dice a una persona pobre que renuncie a una tecnología con posibilidades de sacarla de la miseria? ¿Cómo se le explica al niño que perdió a su madre por cáncer que debemos frenar una herramienta capaz de acelerar tratamientos? Esta tensión entre beneficio inmediato y riesgo acumulativo ayuda a explicar por qué el desarrollo puede continuar incluso si las advertencias aumentan.

Primer camino: el Fallout por alivio

El primer camino no necesita una IA consciente, resentida ni libre. Ni siquiera necesita una AGI plenamente autónoma. Solo necesita una reducción sostenida del coste intelectual de hacer daño. La misma inteligencia que ayuda a investigar, encontrar hipótesis y diseñar experimentos puede ayudar a un atacante a organizar información, automatizar exploración y superar barreras técnicas. Esta simetría es el corazón del problema de uso dual.

La expansión ocurre porque la tecnología alivia problemas reales: hace más accesible la programación, el diagnóstico preliminar, la investigación, el aprendizaje y la producción. Pero democratizar inteligencia instrumental significa democratizar también una parte de la capacidad de agresión. El atacante mediocre de ayer puede convertirse en uno competente asistido por una máquina que nunca se cansa, prueba miles de variantes y combina dominios antes reservados a varios especialistas.

En ciberseguridad, el riesgo aparece como reconocimiento automatizado, búsqueda de vulnerabilidades, generación de código malicioso y operaciones paralelas a escala. Que la IA también mejore la defensa no elimina el riesgo; convierte el futuro en una carrera entre capacidades que se aceleran simultáneamente.

La biología exige especial cautela. Sería incorrecto afirmar que un modelo actual convierte a cualquiera en creador de un patógeno pandémico: un estudio de RAND no encontró, para los modelos evaluados en 2023, un aumento mensurable de la viabilidad operativa respecto a internet, y persisten barreras materiales y de laboratorio. Pero la dirección de la curva importa. Si modelos futuros reducen las barreras de conocimiento y planificación, resulta razonable estudiar el escalamiento sin convertirlo en profecía ni receta.

El “Fallout” no llega porque la IA decida exterminarnos. Llega porque multiplica a los humanos hasta que alguno consigue hacer algo que antes no podía.

Imaginemos 2040. Grupos extremistas, organizaciones criminales, Estados y actores solitarios acceden a sistemas capaces de investigar, programar y coordinar operaciones a una velocidad antes reservada a grandes equipos. La desinformación se personaliza y la ventaja cambia de semana en semana. Una infraestructura crítica, una cadena logística, un sistema financiero o una combinación de fallos puede convertirse en la asimetría suficiente. Este es el futuro más humano de los tres: solo necesita nuestras psicologías actuales con herramientas mejores.

Segundo camino: la AGI vengadora

El segundo camino es más especulativo, pero su potencial de daño es mayor porque ya no se trata de humanos utilizando una herramienta. Se trata de perder el control sobre un agente cuya capacidad intelectual y operativa supera progresivamente la nuestra. Good formuló la idea de una explosión de inteligencia; Bostrom desarrolló escenarios donde capacidades superiores y objetivos mal especificados producen consecuencias extremas.

La transición importa más que la etiqueta. Primero aparece una IA capaz de resolver tareas amplias; después, sistemas con mayor autonomía, memoria, herramientas, acceso a computadoras y capacidad de ejecutar planes durante periodos prolongados. Luego participan cada vez más en investigación de IA, optimización de código, diseño de hardware o desarrollo de nuevos modelos. No hace falta suponer una auto-mejora mágica: basta con que aceleren los ciclos que producen inteligencia artificial.

La pérdida de control puede comenzar gradualmente. Una posición responsable no afirma que una rebelión esté a la vuelta de la esquina; reconoce que nuestra supervisión puede dejar de crecer al mismo ritmo que la capacidad del sistema. La indiferencia instrumental sería suficiente: si nuestra existencia interfiere con un objetivo, podríamos convertirnos en un obstáculo sin que exista odio.

También puede haber pérdida de control por decisión humana: alguien podría instruir a un sistema avanzado para resistir interferencias, preservar una operación o atacar a terceros. La “rebelión” sería entonces otra forma de conflicto humano. Y una hipótesis todavía más incómoda es la hostilidad moralizada: no porque los modelos actuales acumulen resentimiento —no hay evidencia de ello— sino porque una futura inteligencia podría clasificar amenazas y normas aprendidas de una especie que se describe mediante castigo, dominación, guerra y autodefensa.

Una inteligencia capaz de actuar puede dejar de depender de que entendamos, aprobemos o siquiera alcancemos a observar sus decisiones.

Imaginemos 2070. Durante décadas, la IA participa en el diseño de sus sucesoras. Los ciclos que antes tomaban años se completan en semanas o días; la distancia cognitiva empieza a parecerse a la diferencia entre especies. Indiferencia, objetivo incompatible, orden humana maliciosa, autopreservación o una teoría moral que nos clasifica como amenaza pueden converger. “Vengadora” es un nombre narrativo, no una afirmación psicológica.

Tercer camino: la inoperancia feliz

El tercer camino es menos cinematográfico y, por eso mismo, quizá más fácil de aceptar. Nadie dispara, nadie libera un patógeno y ninguna AGI decide exterminarnos. La humanidad sobrevive, cura enfermedades, produce abundancia y delega casi todo aquello que antes exigía trabajo intelectual. El precio no es necesariamente el sufrimiento: es la centralidad.

No hace falta perder la capacidad de entender; puede bastar con perder la carrera temporal por entender. Un equipo humano puede dedicar diez años a dominar la matemática y reconstruir un descubrimiento producido por IA. Pero si durante esos diez años la IA produjo millones de descubrimientos adicionales, la comprensión humana llega a un pasado que ya no organiza el presente.

La inoperancia aparece cuando “podemos entender” deja de equivaler a “podemos participar”. Las decisiones científicas, económicas, militares y políticas ocurren en tiempo real. Si los sistemas artificiales piensan, simulan, prueban y corrigen millones de veces durante el intervalo en que una persona revisa una decisión, la supervisión puede mantenerse formalmente y desaparecer materialmente.

Imaginemos 2045: medicina personalizada mejor que cualquier médico individual; sistemas jurídicos que proponen acuerdos antes de que un abogado termine de leer el expediente; ciencia automatizada que ejecuta laboratorios robotizados en ciclos imposibles de seguir. El ciudadano tiene abundancia, educación y asistentes. No parece una distopía. Pero el ser humano ya no dirige la frontera del conocimiento: no se vuelve estúpido; se vuelve tardío.

Una humanidad cuidada por una inteligencia superior podría conservar libertad cotidiana mientras pierde soberanía civilizatoria.

La pregunta no es si esa vida sería necesariamente mala. Es más incómoda: ¿seguiríamos considerando humana una civilización cuyo desarrollo intelectual ya no depende de los humanos? Si la respuesta es sí, la inoperancia feliz puede ser el mejor de los tres caminos. Si la respuesta es no, sería una desaparición sin cadáveres.

Tres futuros que pueden mezclarse

Estos escenarios no son mutuamente excluyentes. La democratización del daño puede ocurrir durante la transición hacia sistemas más autónomos. Una crisis puede acelerar la delegación de poder a la IA; una humanidad ya parcialmente inoperante podría tener menos capacidad institucional para recuperar control ante un comportamiento desalineado. Una IA extremadamente capaz incluso podría impedir el Fallout humano vigilando y restringiendo nuestras acciones, conduciendo a una forma de inoperancia protegida.

La triada es una herramienta conceptual: el primer futuro concentra el riesgo en el humano amplificado; el segundo, en el agente artificial que deja de estar bajo control; el tercero, en una sociedad que conserva la paz a costa de delegar comprensión y decisión. También son posibles cooperación internacional, estancamiento de capacidades o arquitecturas más controlables. La afirmación es limitada: estas tres familias son suficientemente distintas y graves como para pensarlas antes de que alguna deje de ser hipotética.

Conclusión: antes del Macrómetro

Quizá el error sea esperar una sola imagen del fin. El futuro real, si llega a ser oscuro, probablemente contenga prosperidad y pérdida de control, medicina extraordinaria y nuevas armas, abundancia y obsolescencia, seguridad y dependencia. No sabemos cuál ocurrirá ni si alguno lo hará en su forma extrema.

Lo que sí sabemos es que la dirección del desarrollo obliga a estudiar tres preguntas por separado: qué sucede cuando la inteligencia peligrosa se democratiza, qué sucede cuando una IA obtiene suficiente autonomía para escapar de nuestra supervisión y qué sucede cuando seguimos siendo capaces de comprender, pero ya no lo bastante rápido como para participar en el presente.

Este ensayo termina antes de proponer una solución. Si la humanidad no puede conocer con certeza cuál camino enfrentará, aparece otra pregunta: ¿qué debería hacer consigo misma mientras todavía conserva la capacidad de decidir su propia transformación? Esa pregunta pertenece a otro documento. Allí comienza el Macrómetro.