Estamos construyendo máquinas que aspiran a superarnos mientras seguimos discutiendo qué significa ser humanos, qué derechos consideramos irrenunciables y cuánto poder estamos dispuestos a entregar a cambio de seguridad, riqueza o comodidad. Tal vez el futuro de la inteligencia artificial dependa menos de las máquinas que de la madurez de quienes las estamos creando.
Supongamos que alguien coloca delante de ti un revólver con diez recámaras, introduce una bala, hace girar el tambor y te pide que aprietes el gatillo.
Tienes un 90 % de probabilidades de que no ocurra nada.
Yo no dispararía.
La imagen sirve para entender por qué el riesgo existencial asociado a la inteligencia artificial no puede despacharse con un «es poco probable». Cuando la consecuencia posible es irreversible, incluso una probabilidad pequeña merece atención.
El problema es que ni siquiera conocemos esa probabilidad. Desconfío de quien pretende expresarla con precisión. El International AI Safety Report 2026, dirigido por Yoshua Bengio y elaborado con la participación de más de un centenar de expertos, refleja bien el desacuerdo. Hay investigadores que consideran plausible una futura pérdida de control con consecuencias extremas y otros que la juzgan remota. También deja algo claro: los sistemas actuales todavía no reúnen las capacidades necesarias para provocar por sí solos un escenario de esa magnitud.
La tranquilidad dura poco. Esas capacidades avanzan. Mejoran la autonomía, la planificación, la ejecución de tareas prolongadas y la capacidad de desenvolverse en entornos que sus creadores no han descrito paso a paso.
Sabemos poco y avanzamos deprisa. Esa es la parte que debería preocuparnos.
La IA no tiene porque odiar a los humanos
Hollywood nos acostumbró a una versión cómoda del desastre. La máquina despierta, adquiere conciencia, decide que la humanidad constituye un estorbo y empieza la guerra.
Una inteligencia superior no necesitaría sentir nada parecido.
El odio, la venganza, el resentimiento o el deseo de humillar al adversario pertenecen a nuestra historia biológica. No tenemos ningún motivo para esperar que aparezcan espontáneamente en una inteligencia distinta.
Cuando una carretera destruye un hormiguero, los ingenieros no han declarado la guerra a las hormigas. Simplemente perseguían otro objetivo y las hormigas ocupaban un lugar irrelevante dentro de sus cálculos.
Esa posibilidad me inquieta bastante más.
Durante una conversación reciente apareció una idea incómoda: una inteligencia muy superior podría observar a Homo sapiens como nosotros observamos un organismo invasivo. Nos multiplicamos, consumimos recursos, alteramos ecosistemas, extinguimos especies y hemos desarrollado instrumentos capaces de causar daños a escala planetaria.
Vista desde muy lejos, la comparación tiene cierta fuerza. De cerca empieza a deshacerse.
Un virus no comprende que está deteriorando su entorno y decide corregirse. No crea hospitales para desconocidos, reconoce derechos a quien no puede defenderse, protege especies de las que no obtiene ningún beneficio ni siente vergüenza por los actos de generaciones anteriores.
Nosotros podemos hacerlo.
También podemos hacer exactamente lo contrario. Esa contradicción forma parte de nuestra naturaleza. La historia humana contiene una violencia difícil de exagerar y, junto a ella, un lento aprendizaje moral: abolición de formas de esclavitud que parecían naturales, ampliación de derechos, límites al poder, protección del débil, reconocimiento de errores que durante siglos se presentaron como verdades.
Avanzamos mal. Retrocedemos. Repetimos atrocidades con nombres nuevos. Aun así, aprendemos.
Quizá nuestro error consista en juzgar a la humanidad como si ya fuera una obra terminada.
Conviene recordar qué hemos hecho nosotros antes de pensar que la IA hará lo mismo
Imaginemos que mañana descubrimos un planeta habitable. Posee agua, minerales, energía y una civilización inteligente situada varios siglos por detrás de nosotros en desarrollo tecnológico.
Me gustaría creer que estableceríamos una protección absoluta y respetaríamos su derecho a recorrer su propia historia.
También he leído suficiente historia como para desconfiar.
Tarde o temprano alguien calcularía el valor de sus recursos. Alguna potencia consideraría intolerable que otra controlase el acceso. Llegarían científicos, empresas, estrategas y misioneros de toda clase, incluidos los convencidos de que intervenir constituye una forma de ayudar.
No sería necesario odiar a aquellos seres para destruir su civilización. Bastaría con valorar nuestros intereses por encima de los suyos.
La experiencia humana con sociedades tecnológicamente más débiles, con otras especies y con los ecosistemas debería introducir cierta humildad en nuestra relación con una futura superinteligencia. Esperamos que algo intelectualmente superior nos trate mejor de lo que nosotros hemos tratado demasiadas veces a quienes estaban a nuestra merced.
La buena noticia es que somos capaces de reconocer esa contradicción. Esa capacidad, pequeña y frágil, quizá sea una de nuestras mejores defensas.
Un cerebro antiguo construyendo herramientas de una potencia inédita
Tenemos física nuclear, ingeniería genética, satélites, mercados financieros que operan en milisegundos y modelos capaces de producir código, imágenes, argumentos o decisiones sobre un animal cuyos impulsos fundamentales se formaron cuando sobrevivir dependía de distinguir rápidamente entre la tribu y el enemigo.
Entendemos demasiado bien el territorio, el estatus, la pertenencia, la amenaza, la venganza y la dominación. Nuestra tecnología ha cambiado mucho más deprisa que nuestra biología.
Por eso el peligro inmediato de la inteligencia artificial no exige imaginar una rebelión de las máquinas. Basta con observar lo que podemos hacer nosotros con ellas.
Ganar una guerra. Vigilar una población. Manipular al adversario. Dominar un mercado. Automatizar fraude. Multiplicar un ataque informático. Concentrar conocimiento y poder en unas pocas organizaciones.
El informe internacional sobre seguridad de la IA distingue entre usos maliciosos, fallos de los sistemas y riesgos sistémicos. Esa clasificación importa porque buena parte de los daños previsibles no procederán de una voluntad artificial hostil. Procederán de personas, empresas y Estados utilizando sistemas extraordinariamente potentes para fines perfectamente humanos.
Los agentes autónomos añaden otra dificultad. Una respuesta equivocada en una pantalla puede corregirse. Un sistema capaz de actuar, comprar, programar, contratar servicios, controlar dispositivos y encadenar decisiones transforma el error en acción.
Además, existe una carrera.
Una empresa puede considerar imprudente avanzar y hacerlo porque teme que avance su competidor. Un Estado puede desear límites y negarse a aceptarlos si sospecha que otro no los respetará. Quien ocupa una posición de responsabilidad puede comprender el riesgo y, al mismo tiempo, estar sometido a incentivos que empujan en dirección contraria.
Es el viejo problema humano con una potencia nueva.
Asimov no escribió un manual de ingeniería
Hace veinte años citaba en conferencias las leyes de la robótica de Isaac Asimov y aquello sonaba todavía a ciencia ficción.
La primera parecía impecable: un robot no puede dañar a un ser humano ni, por inacción, permitir que sufra daño.
El problema empieza en cuanto intentamos definir «daño».
Una inteligencia dedicada a protegernos podría prohibir fumar, impedir deportes peligrosos, limitar la velocidad, vigilar nuestras comunicaciones o restringir movimientos durante una epidemia. Cada una de esas medidas puede reducir sufrimiento. También puede reducir libertad.
Asimov entendió muy bien la trampa. Sus leyes no pretendían cerrar el problema, sino abrirlo. Gran parte de sus relatos consiste precisamente en mostrar cómo una regla moral impecable produce consecuencias absurdas cuando entra en contacto con una realidad llena de excepciones.
Imaginemos una inteligencia encargada de reducir al mínimo la violencia social. Comprueba que la vigilancia total funciona. Después descubre que ciertos movimientos políticos aumentan la inestabilidad y que determinadas ideas elevan la probabilidad de conductas peligrosas. Restringe unos y otras.
Los indicadores mejoran.
También hemos construido una prisión.
No harían falta odio, corrupción ni fanatismo. Bastaría con una función objetivo y suficientes datos.
El totalitarismo más eficiente de la historia podría llegar con buenos modales y excelentes estadísticas.
Qué queremos conservar de nosotros
Durante siglos hemos colocado abstracciones por encima de las personas. La raza, la nación, la religión, el partido, la revolución, el imperio, el mercado o la seguridad han servido en distintos momentos para justificar que algunos individuos podían sacrificarse en nombre de algo considerado superior.
El desastre comienza cuando una idea deja de admitir límites. Entonces el discrepante deja de ser un ciudadano y se convierte en traidor, infiel, parásito, enemigo o problema.
Por eso me interesa menos conseguir que una inteligencia artificial «comparta nuestros valores» que preguntar qué queremos decir con semejante frase.
¿Qué valores?
Ocho mil millones de personas discrepan sobre libertad, igualdad, propiedad, religión, sexualidad, responsabilidad, educación, muerte y justicia. No existe un paquete moral de la humanidad esperando a ser cargado en una máquina.
Sí hemos llegado, trabajosamente, a algunos principios que conviene proteger. Uno de ellos me parece especialmente importante ante una futura inteligencia superior: el valor de una persona no depende de que sea la más inteligente, la más fuerte, la más productiva ni la más útil.
Hasta ahora hemos podido permitirnos relacionar inteligencia con superioridad porque ocupábamos la cima cognitiva conocida. Si algún día convivimos con algo que escribe mejor, calcula mejor, recuerda mejor, investiga mejor y comprende problemas que nos resultan inaccesibles, necesitaremos una ética que no convierta la capacidad intelectual en medida del derecho a existir.
Curiosamente, será la misma ética que deberíamos haber aplicado siempre entre nosotros.
Algo parecido ocurre con las fronteras. Dos niños pueden nacer en el mismo segundo, uno en Barcelona y otro en una región devastada por una guerra. Ninguno ha elegido nada. Ese accidente condicionará su educación, su seguridad, su movilidad, sus oportunidades e incluso su esperanza de vida.
Los Estados necesitan instituciones y jurisdicciones. De ahí no se deduce que el azar geográfico otorgue mayor valor moral a una vida.
Una inteligencia capaz de observarnos desde fuera quizá encuentre bastante pintoresco que durante siglos hayamos matado por líneas que no existen sobre la superficie física del planeta.
Puede que algunos de nuestros prejuicios le resulten incomprensibles. También puede heredarlos y amplificarlos. Todo dependerá de los datos con los que la formemos, de los objetivos que le asignemos y, sobre todo, de las instituciones que concentren el poder de decidir.
Tal vez la superinteligencia no llegue desde fuera
Hay otro futuro posible y me resulta bastante más interesante.
Seguimos hablando de humanidad e inteligencia artificial como si fueran dos linajes destinados a competir. Esa separación puede ser provisional.
Las interfaces cerebro-ordenador ya existen en aplicaciones médicas. En 2026 continúan avanzando sistemas capaces de ayudar a personas a comunicarse, controlar dispositivos o recuperar determinadas funciones mediante señales neuronales. El campo sigue siendo temprano, pero ha abandonado la pura especulación, como muestran trabajos recientes publicados en Nature.
Proyectemos esa trayectoria durante un siglo.
Memoria asistida. Nuevos sentidos. Prótesis cognitivas. Acceso inmediato a sistemas externos de conocimiento. Comunicación entre cerebro y máquina cada vez más rica. Tal vez algún día, comunicación entre cerebros mediada tecnológicamente.
Pierre Teilhard de Chardin imaginó hace casi un siglo una noosfera, una capa de pensamiento surgida de la creciente interconexión humana. Vladímir Vernadski desarrolló el concepto desde otros presupuestos. No estaban describiendo Internet ni una red neuronal planetaria, pero resulta difícil no recordar aquellas intuiciones cuando miles de millones de cerebros ya intercambian información a través de una infraestructura global.
Nuestro ancho de banda sigue siendo miserable. Para compartir una idea debo convertirla en palabras, pronunciarlas o escribirlas y confiar en que otro cerebro reconstruya algo parecido a lo que yo quería expresar.
Funciona sorprendentemente bien para un procedimiento tan rudimentario.
Una interfaz neuronal madura podría alterar esa escala. La superinteligencia quizá no tenga que aparecer como una especie artificial que nos sustituye. Podría surgir de humanos aumentados capaces de combinar conocimiento y pensamiento de una forma hoy imposible.
La idea es hermosa hasta que introducimos el poder.
Una red neuronal humana global podría convertirse en una forma extraordinaria de inteligencia colectiva o en el mecanismo de control más invasivo jamás concebido. Si para conectarme debo entregar pensamientos, recuerdos y emociones a una empresa o a un Estado, prefiero seguir siendo un primate analógico.
El futuro interesante exige preservar al individuo.
Una federación de mentes en la que cada persona conserve identidad, intimidad y capacidad de desconexión; comparta únicamente aquello que decida compartir y pueda participar temporalmente en estructuras cognitivas mayores.
No sabemos si semejante arquitectura será posible. Basta con admitir que cambiaría la pregunta. La superinteligencia dejaría de ser necesariamente nuestro sustituto.
Podría ser nuestra descendencia.
Salir del cuerpo
A partir de aquí entramos en un territorio donde la ciencia y la filosofía empiezan a mezclarse.
Investigadores como Anders Sandberg y Nick Bostrom han estudiado los requisitos teóricos de una posible emulación cerebral completa: reproducir funcionalmente un cerebro en otro soporte. Sus trabajos no demuestran que pueda hacerse y mucho menos que una copia digital conserve la conciencia del original. Son intentos de definir qué problemas habría que resolver.
La dificultad filosófica aparece enseguida.
Si mañana pudiéramos copiar con absoluta fidelidad mi cerebro y esa copia despertara recordando mi infancia, mis afectos, mis errores y esta misma frase, tendríamos una entidad convencida de ser yo.
Pero yo seguiría aquí.
No habríamos trasladado una conciencia. Habríamos creado otra.
La sustitución gradual resulta más perturbadora. Prótesis, sentidos artificiales, memoria externa, procesamiento añadido, interfaces permanentes. ¿Existe un porcentaje exacto a partir del cual dejamos de ser nosotros?
No tenemos respuesta porque apenas entendemos qué constituye la continuidad de la conciencia.
Puede que nuestra descendencia termine siendo parcialmente biológica, parcialmente artificial y cada vez menos dependiente del cuerpo con el que nació. En ese caso, Homo sapiens no habría desaparecido de golpe. Habría empezado a abandonar lentamente su soporte original.
La vieja tentación de llamar Dios a lo que no entendemos
Existe una especulación inevitable en este punto. Una civilización con cientos de miles de años de ventaja tecnológica podría poseer capacidades que una humanidad primitiva interpretaría como atributos divinos.
Crear mundos simulados, manipular materia a escalas que hoy no dominamos, existir de forma distribuida, reconstruir una mente, diseñar nuevas formas de vida o prolongar extraordinariamente una existencia.
No disponemos de ninguna evidencia de que Dios sea una superinteligencia creada por una civilización anterior. Tampoco sabemos si una civilización así ha existido alguna vez.
La hipótesis interesa como experimento filosófico. Nos recuerda que la frontera entre lo sobrenatural y lo tecnológicamente incomprensible depende mucho del observador.
Un teléfono móvil habría parecido brujería durante la mayor parte de la historia humana. Eso no convierte al ingeniero que lo diseñó en una divinidad.
Quizá nos convenga conservar esa humildad también cuando imaginamos nuestro propio futuro.
Homo sapiens no tiene que ser el último capítulo
Nos comportamos a menudo como si cuatro mil millones de años de evolución hubieran tenido como finalidad producirnos y, una vez conseguido, el proceso pudiera darse por concluido.
No hay ningún motivo para pensar así.
Somos una especie reciente. Nuestra civilización tecnológica ocupa un instante mínimo de la historia terrestre. Internet tiene unas décadas. La inteligencia artificial capaz de mantener una conversación compleja acaba prácticamente de aparecer.
Y ya estamos preguntándonos qué sucederá cuando deje de ser evidente que somos la inteligencia dominante del planeta.
Podemos utilizar estas tecnologías para perfeccionar la vigilancia, multiplicar la capacidad destructiva de los Estados, automatizar la manipulación, concentrar todavía más poder y delegar decisiones hasta terminar viviendo dentro de sistemas que funcionan mejor de lo que nosotros mismos sabemos gobernarlos.
También podemos utilizarlas para ampliar nuestras capacidades, conectar conocimiento, corregir algunas limitaciones biológicas y crear formas de inteligencia colectiva difíciles de imaginar desde nuestra experiencia actual.
Dentro de algunos siglos podría existir un ser que nos observe como nosotros observamos a nuestros antepasados paleolíticos.
Tal vez ese ser siga siendo nosotros.
Habrá cambiado de cuerpo, extendido su memoria, incorporado sentidos que no poseemos y aprendido a pensar junto a otras mentes sin disolverse necesariamente en ellas.
Homo sapiens puede desaparecer algún día sin necesidad de ser exterminado. Las especies también desaparecen transformándose.
Por eso la discusión sobre inteligencia artificial es bastante más profunda que decidir qué empleos automatizará o qué modelo será más potente el próximo año.
Estamos empezando a decidir qué inteligencia dejamos nacer y qué parte de nosotros viajará con ella.
Nuestro tribalismo y nuestra capacidad de cooperación. Nuestra inclinación a dominar y nuestra defensa de la libertad individual. Los prejuicios acumulados durante siglos y la posibilidad de reconocerlos. La tentación de poseer verdades absolutas y esa facultad tan incómoda, tan humana y tan valiosa de admitir que podemos estar equivocados.
Hemos demostrado que somos suficientemente inteligentes para empezar a construir algo capaz de superarnos.
Queda una prueba bastante más difícil.
Demostrar que somos suficientemente sabios para decidir qué merece sobrevivir de nosotros cuando dejemos de ser la especie más inteligente.