spot_img

RECIENTES

¿Necesita la inteligencia artificial un organismo regulador de la ONU?

Los avances aterradoramente rápidos de la inteligencia artificial (IA) han disparado la pregunta: ¿tiene la ONU un papel para vigilarla y regularla?

Citando un informe del Centro para la Seguridad de la IA,  el 30 de mayo un grupo de más de 350 líderes destacados de la industria de la IA advirtió que la inteligencia artificial plantea un nuevo y creciente peligro para la humanidad «y debe ser considerada un riesgo social al mismo nivel que las pandemias y las guerras nucleares».

En un comunicado publicado en su página web, los fundadores de OpenAI, Greg Brockman e Ilya Sutskever, junto con su director ejecutivo, Sam Altman, afirman que, para regular los riesgos de los sistemas de IA, debería existir «un organismo de control internacional, similar a la Agencia Internacional de la Energía Atómica (una agencia de la ONU con sede en Viena) que promueve los usos pacíficos de la energía nuclear».

OpenAI es una empresa dedicada a investigar, crear y testar tecnologías de IA. Es la desarrolladora de ChatGPT, un sistema de inteligencia artificial generativa, que aumentan su capacidad de entender el lenguaje humano y que además pueden establecer relaciones personalizadas con el usuario.

“Ante la posibilidad de un riesgo existencial, no podemos limitarnos a reaccionar», advirtieron en una declaración conjunta al finalizar mayo.

La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco), que acogió a más de 40 ministros en una innovadora reunión en línea el 26 de mayo, dijo que menos de 10 % de las escuelas y universidades siguen directrices formales sobre el uso de herramientas de inteligencia artificial muy populares, como el chabot ChatGPT.

Anwarul Chowdhury, ex secretario general adjunto y alto representante de las Naciones Unidas, dijo a IPS que el secretario general de la ONU, António Guterres, en su informe titulado Nuestra Agenda Común (OCA, en inglés), publicado en septiembre de 2021, ya prometió «trabajar con los Estados miembros para establecer una plataforma de emergencia para responder a crisis globales complejas».

La plataforma no sería un nuevo organismo o institución permanente. Se activaría automáticamente en crisis de escala y magnitud suficientes, independientemente del tipo o la naturaleza de la crisis de que se trate.

La IA es, sin duda, una de esas «crisis globales complejas» y ya es hora de que Guterres comparta formalmente sus ideas sobre cómo planea abordar el desafío, dijo Chowdhury, fundador del Movimiento Global para la Cultura de Paz.

Consideró que será demasiado tarde para que la Cumbre del Futuro, convocada por el secretario general para septiembre de 2024, debata un régimen regulador mundial de la IA bajo la autoridad de la ONU. En ese plazo, argumentó, la tecnología de la IA se habrá afianzado de tal forma que ya no será posible una gobernanza mundial.

Robert Whitfield, presidente de One World Trust y del Grupo de Trabajo de Transición sobre la IA, dijo a IPS que la cuestión de la ONU y la IA es que esta ne necesita desesperadamente una gobernanza mundial y la ONU es el hogar natural de esa gobernanza.

En la actualidad, señaló, la ONU está preparando un Pacto Digital Mundial que se aprobará en septiembre de 2024 y que debería incluir la Inteligencia Artificial.

“Pero en realidad, la ONU apenas está en el punto de partida de la gobernanza de la IA, mientras que el Consejo de Europa, donde me encuentro en este momento, está muy metido en su negociación de una Convención Marco para la IA”, dijo Whitfield, que también preside el Movimiento Federalista Mundial,  en que participan ciudadanos y organizaciones.

También lento en su reacción a la explosión de los chatbots se muestra el Consejo de Europa, que se  limita a alertar sobre los derechos humanos, la democracia y el Estado de derecho, aunque se trate de cuestiones tal alcance que impactan en el futuro de la humanidad.

Puede leer aquí la versión en inglés de este artículo.

La participación en los Tratados del Consejo de Europa es mucho más amplia que la de la Unión Europea, con 46 Estados signatarios, pero no tiene un alcance verdaderamente mundial, y cabe esperar que cualquier acuerdo de la ONU tenga una base más amplia.

“La principal ventaja de la ONU es que trataría de incluir a todos los países, incluidos Rusia y China, posiblemente el país con el sector de la inteligencia artificial más fuerte del mundo», afirmó Whitfield.

Se puede prever, por tanto, un proceso en dos fases:

  • Un acuerdo internacional inicial en el seno del Consejo de Europa que surja en primer lugar, tras la finalización de la Ley de IA de la UE, que el bloque de 27 países.
  • Y una Convención Marco Mundial obre Inteligencia Artificial de la ONU que se desarrolle más tarde, quizá tras la creación de un foro de múltiples partes interesadas sobre la gobernanza de la IA.  Esa Convención podría incluir la creación de una agencia equivalente al Organismo Internacional de la Energía Atómica, tal y como han solicitado recientemente los grandes expertos.

Andreas Bummel, director ejecutivo de Democracia Sin Fronteras, dijo a IPS que «la gobernanza de la ONU en materia de AI debería ir más allá de los mecanismos intergubernamentales habituales y otorgar a los representantes elegidos por los ciudadanos un papel clave a través de un órgano parlamentario mundial”.

El alcance de una asamblea parlamentaria de este tipo podría ampliarse a otras cuestiones y reforzar el carácter inclusivo y representativo de la ONU no solo en el ámbito de la IA, añadió.

Mientras la IA generativa reconfigura el debate mundial sobre el impacto de la inteligencia artificial, la Unión Internacional de Telecomunicaciones (UIT), organismo especializado de las Naciones Unidas para las tecnologías de la información y la comunicación, acogerá la Cumbre Mundial 2023 «IA for Good (IA para el bien)» los días 6 y 7 de julio en Ginebra.

Según la UIT, el encuentro de dos días mostrará la IA y la tecnología robótica como parte de un diálogo global sobre cómo la inteligencia artificial y la robótica pueden servir como fuerzas del bien y apoyar los Objetivos de Desarrollo Sostenible (ODS) establecidos por la comunidad internacional dentro de la ONU.

La cumbre acogerá la primera conferencia de prensa sobre robots de las Naciones Unidas, con una sesión de preguntas y respuestas con periodistas registrados. En total, se expondrán más de 40 robots especializados en tareas humanitarias y de desarrollo, junto con eventos con ejecutivos de la industria, funcionarios gubernamentales y líderes de opinión sobre IA y tecnología.

Mientras tanto, un grupo de expertos en derechos humanos nombrados por la ONU advierte de que los programas espías y de desinformación basados en IA van en aumento, por lo que urge regular este ámbito.

En una declaración del 2 de junio, los expertos afirmaron que las tecnologías emergentes, incluidos los sistemas de vigilancia biométrica basados en inteligencia artificial, se utilizan cada vez más «en contextos sensibles», sin el conocimiento o consentimiento de las personas.

“Se necesitan líneas rojas reglamentarias estrictas y contundentes para las tecnologías que pretenden reconocer las emociones o el género», afirmaron los expertos, entre ellos Fionnuala N. Aolkin, relatora especial sobre la promoción y protección de los derechos humanos en la lucha contra el terrorismo.

Los expertos, nombrados por el Consejo de Derechos Humanos de la ONU, condenaron el ya «alarmante» uso e impacto de los programas espía y las tecnologías de vigilancia en el trabajo de los defensores de los derechos humanos y los periodistas, «a menudo bajo el pretexto de la seguridad nacional y las medidas antiterroristas».

También han pedido que se regule el vertiginoso desarrollo de la inteligencia artificial generativa con los chabots, que está permitiendo la producción masiva de contenidos falsos en línea que difunden la desinformación y la incitación al odio.

T: MF / ED: EG

Foto portada: El tiempo corre aceleradamente para regular la inteligencia artificial y en particular los chatbots y la pregunta es si la ONU debe tener un papel destacado en esa regulación. Imagen: UIT

Latest Posts

spot_imgspot_img
spot_imgspot_img
spot_imgspot_img
spot_imgspot_img
spot_imgspot_img
spot_imgspot_img
spot_imgspot_img
spot_imgspot_img
spot_imgspot_img
spot_imgspot_img
spot_img
Contáctanos ahora