Las empresas crean IA con una temeraria indiferencia hacia los derechos humanos: ONU

Las empresas crean IA con una temeraria indiferencia hacia los derechos humanos: ONU

António Guterres, Secretario General de la Organización de las Naciones Unidas (ONU), advirtió que el desarrollo de la inteligencia artificial (IA) está a cargo de empresas tecnológicas que “buscan beneficios con una temeraria indiferencia hacia los derechos humanos”. Durante su participación en Davos, en el marco del Foro Económico Mundial, afirmó que bajo estas condiciones la tecnología está acrecentando la brecha digital en el mundo.

El máximo responsable de la ONU acusó que las compañías desarrolladoras de sistemas como ChatGPT, Copilot o Bard tienen pocas consideraciones sobre la privacidad de los individuos y el impacto social que sus sofisticados sistemas pueden provocar. “Cada nueva mejora de la IA generativa incrementa el riesgo de graves consecuencias involuntarias”. Señaló que el avance de estos algoritmos sin límites representa una de las “amenazas existenciales” más preocupantes.

Las declaraciones de Guterres se alinean con las conclusiones del informe anual sobre riesgos globales presentado por el Fondo Monetario Internacional. El organismo financiero mundial alertó que, sin marcos regulatorios adecuados, la IA será una amenaza a largo plazo a medida que se incorpore a otras actividades económicas, sociales y políticas. Determinó que la tecnología tiene el potencial para incrementar la desigualdad.

El líder de la ONU no desestimó las posibilidades que las herramientas de IA tienen para establecer condiciones de desarrollo sostenible. Fijar directrices de gobernanza conjuntas y mundiales es prioritario. “Necesitamos urgentemente que los gobiernos trabajen junto a las compañías tecnológicas para crear redes de gestión de riesgo para el actual desarrollo de la IA, unas redes que controlen y supervisen futuros daños”, apuntó.

Exigió trabajar en iniciativas para garantizar que los países menos desarrollados puedan acceder a esta tecnología y beneficiarse. Anticipó que, de lo contrario, la brecha digital se extenderá a niveles sin control.

Una red que responde a las preocupaciones de la ONU

El Ministerio de Asuntos Exteriores suizo y las escuelas politécnicas de Lausana y Zúrich, en colaboración con varios socios, presentaron en Davos la Red Internacional de Computación e Inteligencia Artificial (ICAIN, por sus siglas en inglés). Se trata de una iniciativa que contempla el desarrollo de sistemas de IA en función de las necesidades, condiciones e infraestructura de los países emergentes.

Pretende favorecer proyectos de investigación internacionales con principios alineados a las recomendaciones de la ONU para conseguir el desarrollo sostenible. El objetivo final es reducir la desigualdad de oportunidades a través de la democratización del acceso a la supercomputación, las infraestructuras de datos y software.

Alexandre Fasel, secretario del Ministerio de Asuntos Exteriores suizo, aseguró que las capacidades para desarrollar modelos de IA generativa están en manos de pocas empresas privadas que ignoran las características culturales o lingüísticas de los países menos favorecidos. La ICAIN adopta un enfoque ascendente en el que los investigadores podrán presentar sus iniciativas para recibir recursos tecnológicos y económicos para desarrollarlas.

La red dio a conocer su primer proyecto piloto. En colaboración con Data Science Africa, una organización sin fines de lucro, está creando un sistema basado en inteligencia artificial para optimizar las prácticas de agricultura y lograr que esta actividad económica sea más resiliente al cambio climático. Las reglas de gobernanza y los procesos de coordinación para asegurar el financiamiento de la iniciativa quedarán implementadas en 2025.

Nadie sabe qué pasará con la IA

Sam Altman, CEO de OpenAI, argumentó que la inteligencia artificial es capaz alinearse a toda clase de valores para contribuir al desarrollo social. No obstante, admitió que aún no está claro quién define estos principios, cuáles son y qué límites deben considerarse. Afirmó que ante la incertidumbre, la rápida expansión de los sistemas de IA ha producido ansiedad en la sociedad.

En su participación en Davos sostuvo que “este es el caso con todas las nuevas grandes revoluciones tecnológicas. Me gusta que la gente esté nerviosa. Creo que no tener precaución, no sentir la gravedad de lo que está en juego, sería muy malo”.

En octubre del año pasado, la ONU anunció la creación de un Consejo Consultivo que se enfocará en “analizar y promover recomendaciones para la gobernanza internacional de la inteligencia artificial. La junta está conformada por 38 expertos de gobierno, integrantes de la industria y académicos originarios de 33 países.

En aquel momento, Guterres explicó que la IA podría impulsar un progreso extraordinario para la humanidad. Desde predecir y abordar crisis, hasta implementar programas de salud pública y servicios educativos, podría ampliar y amplificar el trabajo de los gobiernos, la sociedad civil y las Naciones Unidas en todos los ámbitos.

Este escenario solo es posible si se reconocen y abordan los riesgos asociados al potencial de sistemas inteligentes cada vez más avanzados. “Sin entrar en una serie de escenarios apocalípticos, ya está claro que el uso malintencionado de la IA podría socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia”, sentenció el líder de la ONU.

Fuente: https://es.wired.com/

Otras Fuentes

Escribir Comentario

<