¿Puede la Inteligencia Artificial acabar con el ser humano?

Investigadores de OpenAI y Anthropic alertan del riesgo de perder el control sobre futuras superinteligencias.

¿Puede la Inteligencia Artificial llegar a ser tan avanzada que el ser humano pierda su control? La pregunta, hasta hace poco asociada principalmente a la ciencia ficción, ha irrumpido esta semana en el debate internacional después de que varios investigadores que trabajan o han trabajado en algunas de las compañías más importantes del sector hayan advertido públicamente sobre ese riesgo.

El detonante ha sido Jacob Coxon, investigador británico de 27 años que ha trabajado en OpenAI y Anthropic. Coxon abandonó esta última compañía y aseguró que muchas de las personas que están desarrollando los modelos más avanzados creen que existe un riesgo real de que una futura IA pueda provocar una catástrofe para la humanidad antes de que termine esta década.

Su preocupación se centra en la denominada "mejora recursiva": que los sistemas de IA lleguen a participar cada vez más en el desarrollo de nuevas inteligencias artificiales, acelerando sus propias capacidades hasta alcanzar un punto en el que resulte difícil comprender o controlar su comportamiento.

Los propios investigadores muestran su preocupación

Coxon no está solo. Evan Hubinger, responsable de investigación sobre alineamiento en Anthropic, ha estimado en más de un 10% la posibilidad de que la IA provoque la extinción humana durante la próxima década. Samuel Marks, también investigador de la compañía, ha advertido igualmente de que quienes desarrollan estos sistemas contemplan escenarios extremadamente graves.

Las advertencias han llegado incluso a la dirección de las grandes empresas. Dario Amodei, CEO de Anthropic, ha pedido este mismo sábado que la industria reduzca el ritmo de desarrollo de los modelos más potentes para disponer de más tiempo para evaluar sus riesgos y reforzar los controles externos.

En julio, 1.386 trabajadores vinculados al desarrollo de IA firmaron además un manifiesto reclamando mecanismos de supervisión y cooperación internacional ante la posibilidad de que la tecnología avance más rápidamente que la capacidad humana para controlarla.

Pero estas opiniones están lejos de constituir un consenso científico. Coxon no ha aportado pruebas de que los modelos actuales puedan replicarse autónomamente por Internet ni de que exista actualmente una superinteligencia capaz de escapar al control humano. Otros especialistas consideran que las advertencias sobre la extinción son especulativas y que los riesgos inmediatos están más relacionados con la ciberseguridad, el fraude, la desinformación o el uso malicioso de la tecnología.

Entre el apocalipsis y un mundo sin trabajo

En el extremo opuesto aparecen quienes imaginan que la misma tecnología podría conducir a una etapa de enorme prosperidad. Elon Musk ha pronosticado en distintas ocasiones que el desarrollo conjunto de la inteligencia artificial y la robótica podría hacer que trabajar termine siendo opcional, al asumir las máquinas buena parte de la producción de bienes y servicios.

La realidad actual está todavía muy lejos tanto de ese escenario como del apocalipsis tecnológico. La IA está acelerando investigaciones científicas, desarrollando nuevas herramientas y aumentando su capacidad para programar y razonar, pero sigue dependiendo de infraestructuras y decisiones humanas.

La cuestión, por tanto, no es si una inteligencia artificial puede hoy acabar con la humanidad, porque no existe evidencia de que tenga esa capacidad. El debate está en qué podría ocurrir si los sistemas futuros alcanzan niveles de autonomía y capacidad muy superiores a los actuales y si las medidas de seguridad avanzarán tan rápidamente como la propia tecnología. Esa incertidumbre explica que algunos de quienes mejor conocen su desarrollo estén reclamando ahora que se establezcan límites antes de descubrir hasta dónde puede llegar.