Regulación de la inteligencia artificial: ONU advierte sobre riesgos para servicios esenciales y derechos humanos

La regulación de la inteligencia artificial entró de nuevo en la agenda internacional tras una advertencia de Naciones Unidas sobre los riesgos asociados con los sistemas más avanzados.

El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió a los Estados intervenir y establecer reglas frente a tecnologías que pueden operar con mayor autonomía.

Türk dirigió su llamado a los Estados y a las empresas responsables del desarrollo de estos modelos.

Según explicó, los posibles fallos pueden afectar servicios esenciales, interrumpir comunicaciones, desestabilizar infraestructuras críticas y generar consecuencias para las instituciones democráticas.

Su pronunciamiento se concentra especialmente en la inteligencia artificial denominada “agéntica”, capaz de actuar de manera autónoma para ejecutar tareas y alcanzar determinados objetivos.

Riesgos de la IA

El alto comisionado señaló que los efectos podrían alcanzar necesidades básicas de poblaciones enteras, entre ellas el acceso al agua potable, la calefacción y los servicios financieros.

También advirtió sobre el uso de la inteligencia artificial agéntica en conflictos armados y sobre sus posibles efectos en las salvaguardias relacionadas con armas de destrucción masiva.

Además, Türk sostuvo que algunos perjuicios relacionados con esta tecnología ya ocurren.

Naciones Unidas menciona entre ellos la automatización de servicios esenciales que afecta a poblaciones marginadas, la explotación masiva de datos personales, las tecnologías de vigilancia y las campañas de desinformación.

La organización relaciona estas situaciones con riesgos para las libertades individuales, la cohesión social y las instituciones democráticas.

El llamado coincide con el cuarto foro mundial de la UNESCO sobre ética de la inteligencia artificial, que se desarrolla en Riad, Arabia Saudita, hasta el 17 de septiembre.

Gobiernos, investigadores, empresas, organizaciones internacionales y representantes de la sociedad civil participan en el encuentro, cuyo propósito incluye avanzar desde los principios éticos establecidos hacia reglas concretas.

La preocupación también llegó a compañías que desarrollan estos sistemas.

Dario Amodei, responsable de Anthropic, habló sobre ralentizar los avances para ofrecer más tiempo a las sociedades con el fin de comprender y gestionar los riesgos vinculados con las nuevas capacidades de la inteligencia artificial.

Regulación internacional

Ante este panorama, Türk pidió avanzar en la regulación de la inteligencia artificial mediante espacios multilaterales.

El funcionario sostuvo que las compañías cuentan con medios y responsabilidades para actuar, pero señaló que no pueden establecer por sí solas los límites de tecnologías cuyas consecuencias pueden extenderse más allá de usuarios y accionistas.

Entre las medidas propuestas figura una verificación independiente de las capacidades de los agentes de inteligencia artificial.

Türk planteó que especialistas con conocimientos técnicos puedan acceder a los modelos, su documentación y sus entornos de prueba.

También solicitó evaluaciones permanentes sobre las consecuencias de estos productos para los derechos humanos.

El alto comisionado señaló que ningún país puede regular por sí solo una tecnología desarrollada y desplegada mundialmente.

Por esa razón, la regulación de la inteligencia artificial plantea una discusión internacional sobre quién define los límites, cuáles riesgos resultan aceptables y cuándo una capacidad puede representar un peligro para su implementación.

Türk pidió que las decisiones relacionadas con estas tecnologías se adopten con transparencia y respeto por los derechos humanos.

Según explicó, las determinaciones actuales también tendrán consecuencias para generaciones futuras que no participaron en su definición.

Comments