Los CEOs de OpenAI y Anthropic advirtieron al Consejo de Seguridad de la ONU sobre los riesgos y beneficios de la inteligencia artificial (IA), y solicitaron frenar su desarrollo para evitar que un solo actor controle esta tecnología.
Riesgos y potenciales de la inteligencia artificial
Sam Altman, director general de OpenAI, explicó que la IA puede marcar un nuevo Renacimiento en creatividad y descubrimiento o desencadenar una Revolución Industrial caracterizada por el caos. Destacó que, al igual que en el Renacimiento, la IA puede ampliar los límites de lo posible en nuestra época.
Altman enfatizó que la IA debe estar al servicio de las personas, evitando que la sociedad se convierta en autómata. «La historia continua del progreso humano no trata sobre herramientas que reemplazan la capacidad de acción humana, sino sobre cómo las herramientas adecuadas potencian las capacidades de las personas», afirmó.
El CEO de OpenAI rechazó el catastrofismo, considerándolo una «trampa» que no ayuda a enfrentar los desafíos actuales.
Preocupaciones sobre el uso indebido y la pérdida de control
Dario Amodei, CEO de Anthropic, dividió los riesgos en dos grandes categorías: el uso indebido de la IA, como terrorismo o creación de armas biológicas, y la pérdida de control sobre estos sistemas.
Subrayó que estos temas tienen alcance global y deben ser prioridad para el Consejo de Seguridad. Amodei propuso un desarrollo consciente que permita avanzar en la tecnología a un ritmo que garantice la seguridad para todos los actores del sector.
Propuestas para regulación y seguridad
El líder de Anthropic instó a empresas, gobiernos y al Consejo de Seguridad de la ONU a comprometerse en tres niveles: integrar evaluadores externos, establecer estándares industriales y fijar normas internacionales para todos los países.
«Este es el asunto de seguridad global más importante al que se enfrenta el mundo hoy en día», afirmó Amodei, haciendo un llamado a dejar de lado diferencias para enfrentar la oportunidad y amenaza que representa la IA.
Durante la reunión, António Guterres, secretario general de la ONU, destacó que el peligro no está en la tecnología en sí, sino en su uso sin rendición de cuentas. «Las decisiones de vida o muerte jamás deben confiarse a las máquinas. Los robots asesinos no deben tener cabida en nuestro futuro», sentenció.
