Evan Hubinger es investigador de Anthropic, una de las compañías estadounidenses que lidera la carrera de la inteligencia artificial, y ha confirmado las predicciones más inquietantes en torno al desarrollo acelerado de la Inteligencia Artificial: «Hay más de un 10% de probabilidades de que la inteligencia artificial acabe con toda la humanidad en la próxima década».
Hubinger es una autoridad en este ámbito porque es el máximo responsable de alineación en Anthropic, el equipo encargado de trabajar en modelos seguros y fiables. Y su señalamiento en la red social X fue publicado después de que otro investigador de la misma empresa, Jacob Coxon, anunció su salida de la industria ante preocupaciones de que los grandes laboratorios están inmersos en una carrera hacia sistemas cada vez más poderosos sin haber resuelto todavía cómo mantenerlos bajo control.
Coxon, que anteriormente trabajó en OpenAI, advirtió que ninguna de las dos empresas están actuando de manera responsable y acusa a ambas de «jugar con nuestras vidas».
Hubinger dio la razón a su colega. «Sinceramente creemos que la IA podría matar a todos los humanos» y sostiene que el peligro de los modelos actuales es bajo, y comparte que su verdadera preocupación reside en la llegada de una superinteligencia mediante la mejora recursiva del propio sistema, cuando la IA se mejora a sí misma para crear un modelo superior; un proceso que, según advierte, avanza con mayor rapidez de la prevista.
También a finales de julio un grupo de más de 1,300 empleados de compañías como OpenAI, Anthropic, Meta o Google firmaron una declaración en la que reclamaban mecanismos internacionales para frenar el desarrollo de la IA en caso de que los sistemas comienzan a mostrar capacidades difíciles de controlar. Entre las medidas planteadas figuran pausas temporales en la mejora de los modelos y acuerdos entre laboratorios para ralentizar la carrera.
La ONU también ha hecho llamados claros a que haya límites en materia de Inteligencia Artificial. El máximo responsable de derechos humanos de este organismo, Volker Türk, advirtió que esta tecnología revolucionaria podría convertirse en un «riesgo existencial para la humanidad» si no se toman medidas.
De acuerdo con un comunicado publicado por la ONU, sin normas vinculantes, supervisión independiente y límites claros, la tecnología podría volverse incontrolable.
Türk planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos e instó a los países que albergan tecnologías de IA y a los implicados en sus cadenas de suministro a trabajar juntos para establecer límites claros.
Además señaló que «Un puñado de hombres tiene un poder casi ilimitado sobre la IA», señaló, refiriéndose a la creciente concentración del poder tecnológico y a las enormes cantidades de datos que se recopilan y procesan.
También expresó su preocupación por el uso de la IA en la guerra, especialmente por el desarrollo de armas capaces de tomar decisiones letales sin intervención humana. Türk dijo estar «horrorizado» por los informes sobre drones totalmente autónomos que, presuntamente, fueron desplegados por Rusia y mataron a tres ucranianos el mes pasado. Ucrania también ha probado este tipo de armas, según los informes.
