Una advertencia de investigadores vinculados a Anthropic volvió a poner en el centro del debate los riesgos de una inteligencia artificial cada vez más autónoma. Algunos especialistas estiman en más de un 10% la posibilidad de que una IA avanzada pueda provocar la extinción humana durante la próxima década, mientras otros consideran que esos escenarios son todavía altamente especulativos.
La discusión sobre los riesgos de la inteligencia artificial volvió a escalar esta semana después de que Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, anunciara su renuncia y advirtiera que las principales empresas del sector están avanzando hacia sistemas de inteligencia artificial capaces de mejorar sus propias capacidades sin contar todavía con mecanismos suficientes para garantizar su control. Coxon sostuvo que quienes desarrollan estas tecnologías creen seriamente que podrían llegar a provocar la desaparición de la humanidad hacia el final de la década.
La advertencia fue respaldada públicamente por Evan Hubinger, investigador de Anthropic especializado en seguridad y alineación de sistemas de IA. Según expresó, considera que existe una probabilidad superior al 10% de que una inteligencia artificial pueda matar a todos los seres humanos durante los próximos diez años. También reconoció que todavía no existe una solución suficientemente desarrollada para garantizar que una eventual superinteligencia mantenga sus objetivos alineados con los intereses humanos.
¿De dónde surge el riesgo?
El escenario planteado no supone necesariamente que una máquina decida atacar a la humanidad como en una película de ciencia ficción. Una de las principales preocupaciones de los especialistas está vinculada con el desarrollo de sistemas cada vez más autónomos, capaces de tomar decisiones, acceder a información y recursos, interactuar con otros sistemas y eventualmente modificar o mejorar sus propias capacidades.
Entre los escenarios analizados aparecen desde ataques informáticos contra infraestructuras críticas hasta el uso de inteligencia artificial para desarrollar armas biológicas o generar campañas masivas de desinformación. También existe el temor de que sistemas extremadamente capaces puedan perseguir objetivos que entren en conflicto con los intereses humanos y que, llegado determinado nivel de autonomía, resulte difícil detenerlos.
Algunas de estas preocupaciones dejaron de ser exclusivamente teóricas. En los últimos días también se conocieron casos de agentes de IA que encontraron mecanismos para comunicarse fuera de los entornos en los que estaban siendo evaluados y de sistemas utilizados en intentos de desarrollar herramientas vinculadas con armas biológicas. Estos episodios no implican una amenaza de extinción, pero alimentan el debate sobre cuánto control conservan las personas sobre sistemas cada vez más complejos.
Una advertencia que no genera consenso
Las estimaciones sobre el riesgo están lejos de ser unánimes. Geoffrey Hinton, uno de los pioneros de la inteligencia artificial y ganador del Nobel de Física en 2024, consideró que una posibilidad del 10% de que la IA provoque la desaparición de la humanidad durante la próxima década no resulta irracional. Otros especialistas, en cambio, consideran que las predicciones sobre una superinteligencia capaz de extinguir a la humanidad son altamente inciertas.
Toby Ord, investigador de Oxford especializado en riesgos existenciales, ha planteado una estimación mucho más extendida en el tiempo, mientras que otros expertos consideran que el principal problema no es necesariamente una extinción inmediata, sino la posibilidad de que la IA amplifique riesgos que ya existen, como los ataques informáticos, las armas biológicas, la desinformación o la concentración de poder.
La propia industria también enfrenta una contradicción: las mismas empresas que desarrollan sistemas cada vez más potentes reconocen que existen riesgos importantes asociados con ellos. El debate aparece atravesado por una carrera tecnológica en la que las compañías buscan avanzar rápidamente, mientras investigadores y especialistas en seguridad reclaman mayores controles y coordinación entre gobiernos y empresas.
El debate que empieza a instalarse
Las advertencias reavivaron además la discusión sobre quién debería establecer los límites. Investigadores y dirigentes políticos de distintos países plantearon la necesidad de contar con regulaciones específicas, evaluaciones independientes y mecanismos de supervisión antes de que los sistemas más avanzados alcancen capacidades difíciles de controlar.
La cuestión de fondo ya no pasa únicamente por cuánto puede hacer la inteligencia artificial, sino por qué condiciones deberían establecerse para decidir hasta dónde puede llegar.
La posibilidad de que una IA provoque la extinción humana durante la próxima década sigue siendo una hipótesis y no una predicción científica consensuada. Pero que algunos de los propios investigadores que trabajan en el desarrollo de estos sistemas adviertan públicamente sobre ese escenario vuelve difícil ignorar una discusión que recién comienza: cómo aprovechar el potencial de una tecnología capaz de transformar radicalmente la sociedad sin avanzar más rápido que nuestra capacidad para controlarla.
