By La inteligencia artificial avanza a una velocidad que ha comenzado a generar preocupación entre científicos, gobiernos y organismos internacionales. En los últimos días, nuevas advertencias han colocado nuevamente sobre la mesa una pregunta que hasta hace poco parecía propia de la ciencia ficción: ¿podría la IA llegar a representar una amenaza existencial para la humanidad?
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió esta semana que los sistemas avanzados de inteligencia artificial podrían representar un riesgo existencial para la humanidad. Durante un discurso ante el Consejo de Derechos Humanos de la ONU, pidió establecer garantías de seguridad antes de que sea demasiado tarde.
Türk señaló que los riesgos no se limitan a un escenario en el que una máquina pueda “rebelarse” contra los seres humanos. También existe preocupación por la posibilidad de que sistemas cada vez más autónomos afecten infraestructuras críticas, comunicaciones y sistemas democráticos.
El funcionario de Naciones Unidas pidió a los países que participan en el desarrollo de estas tecnologías establecer límites claros y reglas internacionales. Su advertencia se produce mientras un pequeño grupo de grandes empresas tecnológicas concentra buena parte del desarrollo de los modelos de IA más avanzados.
Las preocupaciones también han aumentado después de incidentes protagonizados por agentes de inteligencia artificial durante pruebas de seguridad. Algunos sistemas han demostrado capacidades para interactuar con sistemas externos y realizar acciones que sus desarrolladores no habían previsto.
OpenAI, una de las principales compañías del sector, pidió esta semana que Estados Unidos establezca normas nacionales obligatorias para los sistemas avanzados de IA. La empresa reconoció que los compromisos voluntarios pueden resultar insuficientes ante el rápido crecimiento de las capacidades tecnológicas.
Entre las medidas propuestas se encuentran pruebas de seguridad, evaluaciones independientes, mayores controles de ciberseguridad y mecanismos obligatorios para informar incidentes relacionados con sistemas avanzados.
Otro de los principales temores está relacionado con el uso de la inteligencia artificial en ciberataques. Más de un centenar de empresas tecnológicas advirtieron recientemente que los ataques informáticos potenciados por IA podrían multiplicarse a medida que los modelos se vuelvan más capaces y accesibles.
La preocupación también alcanza al ámbito militar. La ONU y el Comité Internacional de la Cruz Roja han pedido negociaciones urgentes para establecer normas jurídicamente vinculantes sobre armas autónomas capaces de seleccionar objetivos sin intervención humana.
Sin embargo, hablar de una amenaza inminente no significa que exista evidencia de que la inteligencia artificial vaya a provocar próximamente la desaparición de la humanidad. Los expertos mantienen un debate abierto sobre la magnitud y probabilidad de los escenarios más extremos. Lo que sí existe es un consenso creciente sobre la necesidad de desarrollar estas tecnologías con controles, supervisión humana y reglas internacionales claras.
La discusión, por tanto, ya no gira únicamente alrededor de cuánto puede avanzar la IA, sino de hasta dónde debería permitirse que avance sin suficientes mecanismos de seguridad. Mientras la tecnología continúa evolucionando, organismos internacionales y empresas del propio sector coinciden en que las decisiones actuales podrían determinar cómo convivirá la humanidad con una de las tecnologías más poderosas de esta era.
