El Alto Comisionado de las Naciones Unidas para los Derechos Humanos advierte de que los fallos de la IA y los ataques deliberados podrían «paralizar servicios esenciales, desestabilizar infraestructuras críticas y atacar las instituciones democráticas»
Los llamamientos de las tecnológicas como Anthropic, matriz de Claude, y OpenAI, creadora de ChatGPT, a bajar el ritmo de desarrollo de la IA por sus riesgos de seguridad, sumados a la advertencia del exingeniero de Anthropic y de OpenAI, Jacob Coxon, sobre su potencial mortal, ha disparado las aletas la ONU. El Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, ha reclamado a los Estados y a las empresas que desarrollan los modelos más avanzados de IA que aceleren la creación de mecanismos de gobernanza capaces de contener sus riesgos. Su advertencia es contundente: «Todos los derechos humanos están en riesgo».. «Estamos al borde de un cambio irreversible que afectará no solo a nosotros, sino a las futuras generaciones de la humanidad. En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La seguridad de la IA debe significar algo más que la fiabilidad técnica del producto en cuestión. Significa proteger activamente a las personas, las comunidades, las instituciones y las generaciones futuras», ha escrito Türk.. En una carta abierta dirigida a los Gobiernos y a las compañías responsables de la llamada IA de frontera, la más avanzada, Türk plantea la necesidad de «trazar un camino de acción para gobernar los modelos avanzados de IA de frontera, fundamentado en el derecho internacional de los derechos humanos». El objetivo, sostiene, debe ser que la regulación avance al menos al mismo ritmo que una tecnología cuyo desarrollo se está acelerando de manera extraordinaria, insistiendo en que «necesitamos medidas urgentes adaptadas a los riesgos sin precedentes que plantea la IA de frontera».. Aunque reconoce que la IA ofrece numerosas posibilidades para el progreso humano, también señala el daño que ya está ocasionando: «Los servicios esenciales se están automatizando de forma que las personas más vulnerables quedan aún más rezagadas. La insaciable demanda de datos y las potentes herramientas de vigilancia están erosionando la privacidad a gran escala, potencialmente de forma irreversible. Las campañas de desinformación impulsadas por IA ya están distorsionando el debate público, socavando la cohesión social y poniendo a prueba las instituciones democráticas de maneras insidiosas».. El responsable de los derechos humanos en la ONU subraya que la «carrera actual hacia una IA cada vez más potente» representa un «cambio radical» hacia mayores riesgos existenciales. «Lo fallos en los sistemas de IA agéntica -por no hablar de sistemas diseñados deliberadamente para ello- podrían paralizar servicios esenciales, fragmentar las comunicaciones, desestabilizar infraestructuras críticas y atacar el núcleo mismo de las instituciones democráticas», alerta.. Según el Alto Comisionado, el mundo depende actualmente de un reducido grupo de empresas con un enorme poder para decidir cómo y hasta dónde avanza la inteligencia artificial y esa situación no puede prolongarse sin una supervisión estricta. Türk considera que la corregulación del sector puede ser un primer paso, pero advierte de que resulta insuficiente si no está acompañada de obligaciones impuestas y supervisadas por los Estados.. «La corregulación por parte del sector es un primer paso urgente, pero por sí sola resulta totalmente insuficiente. El reducido grupo de Estados que albergan a las empresas líderes en IA de vanguardia tiene la obligación específica de exigir a dichas empresas que actúen con responsabilidad y de hacerles rendir cuentas si no lo hacen.», señala.. Además, Türk pide que los Estados coordinen sus regulaciones para evitar que la competición entre países termine generando una carrera a la baja en materia de seguridad y derechos humanos: si cada jurisdicción establece unas exigencias diferentes, las compañías podrían tener incentivos para desarrollar sus sistemas allí donde los controles sean menos estrictos.. Entre las medidas que plantea la ONU figura la verificación independiente de las capacidades autónomas de los modelos, la obligación de vigilancia permanente sobre los sistemas de IA, una diligencia debida continua en materia de derechos humanos y la obligación de que las empresas de IA comuniquen los incidentes graves que se produzcan durante las fases de prueba o despliegue de sistemas con capacidad de actuación autónoma.. La carta plantea además que las empresas cuenten con planes de seguridad sujetos a estándares comunes, acompañados de mecanismos de responsabilidad civil cuando la ausencia de esas salvaguardas provoque daños. Y Türk establece un principio especialmente relevante ante el avance de los agentes autónomos: los sistemas de inteligencia artificial no deben tener personalidad jurídica. El planteamiento busca evitar que la creciente autonomía de las máquinas termine convirtiéndose también en una forma de diluir la responsabilidad humana.
Los llamamientos de las tecnológicas como Anthropic, matriz de Claude, y OpenAI, creadora de ChatGPT, a bajar el ritmo de desarrollo de la IA por sus riesgos de seguridad, sumados a la advertencia del exingeniero de Anthropic y de OpenAI, Jacob Coxon, sobre su potencial mortal, ha disparado las aletas la ONU. El Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, ha reclamado a los Estados y a las empresas que desarrollan los modelos más avanzados de IA que aceleren la creación de mecanismos de gobernanza capaces de contener sus riesgos. Su advertencia es contundente: «Todos los derechos humanos están en riesgo».. «Estamos al borde de un cambio irreversible que afectará no solo a nosotros, sino a las futuras generaciones de la humanidad. En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La seguridad de la IA debe significar algo más que la fiabilidad técnica del producto en cuestión. Significa proteger activamente a las personas, las comunidades, las instituciones y las generaciones futuras», ha escrito Türk.. En una carta abierta dirigida a los Gobiernos y a las compañías responsables de la llamada IA de frontera, la más avanzada, Türk plantea la necesidad de «trazar un camino de acción para gobernar los modelos avanzados de IA de frontera, fundamentado en el derecho internacional de los derechos humanos». El objetivo, sostiene, debe ser que la regulación avance al menos al mismo ritmo que una tecnología cuyo desarrollo se está acelerando de manera extraordinaria, insistiendo en que «necesitamos medidas urgentes adaptadas a los riesgos sin precedentes que plantea la IA de frontera».. Aunque reconoce que la IA ofrece numerosas posibilidades para el progreso humano, también señala el daño que ya está ocasionando: «Los servicios esenciales se están automatizando de forma que las personas más vulnerables quedan aún más rezagadas. La insaciable demanda de datos y las potentes herramientas de vigilancia están erosionando la privacidad a gran escala, potencialmente de forma irreversible. Las campañas de desinformación impulsadas por IA ya están distorsionando el debate público, socavando la cohesión social y poniendo a prueba las instituciones democráticas de maneras insidiosas».. El responsable de los derechos humanos en la ONU subraya que la «carrera actual hacia una IA cada vez más potente» representa un «cambio radical» hacia mayores riesgos existenciales. «Lo fallos en los sistemas de IA agéntica -por no hablar de sistemas diseñados deliberadamente para ello- podrían paralizar servicios esenciales, fragmentar las comunicaciones, desestabilizar infraestructuras críticas y atacar el núcleo mismo de las instituciones democráticas», alerta.. Según el Alto Comisionado, el mundo depende actualmente de un reducido grupo de empresas con un enorme poder para decidir cómo y hasta dónde avanza la inteligencia artificial y esa situación no puede prolongarse sin una supervisión estricta. Türk considera que la corregulación del sector puede ser un primer paso, pero advierte de que resulta insuficiente si no está acompañada de obligaciones impuestas y supervisadas por los Estados.. «La corregulación por parte del sector es un primer paso urgente, pero por sí sola resulta totalmente insuficiente. El reducido grupo de Estados que albergan a las empresas líderes en IA de vanguardia tiene la obligación específica de exigir a dichas empresas que actúen con responsabilidad y de hacerles rendir cuentas si no lo hacen.», señala.. Además, Türk pide que los Estados coordinen sus regulaciones para evitar que la competición entre países termine generando una carrera a la baja en materia de seguridad y derechos humanos: si cada jurisdicción establece unas exigencias diferentes, las compañías podrían tener incentivos para desarrollar sus sistemas allí donde los controles sean menos estrictos.. Entre las medidas que plantea la ONU figura la verificación independiente de las capacidades autónomas de los modelos, la obligación de vigilancia permanente sobre los sistemas de IA, una diligencia debida continua en materia de derechos humanos y la obligación de que las empresas de IA comuniquen los incidentes graves que se produzcan durante las fases de prueba o despliegue de sistemas con capacidad de actuación autónoma.. La carta plantea además que las empresas cuenten con planes de seguridad sujetos a estándares comunes, acompañados de mecanismos de responsabilidad civil cuando la ausencia de esas salvaguardas provoque daños. Y Türk establece un principio especialmente relevante ante el avance de los agentes autónomos: los sistemas de inteligencia artificial no deben tener personalidad jurídica. El planteamiento busca evitar que la creciente autonomía de las máquinas termine convirtiéndose también en una forma de diluir la responsabilidad humana.
