Para una ética de la inteligencia artificial

Tendencias 26 de noviembre de 2021
La UNESCO presentó ayer una guía para establecer parámetros sobre el desarrollo de la inteligencia artificial.
C95490D7-9765-45D2-98E8-8853868D1623

La UNESCO presentó ayer la primera guía mundial sobre la ética de la inteligencia artificial, para enmarcar los potenciales riesgos de las tecnologías y establecer principios comunes de los países miembros para la construcción de infraestructura jurídica. 

El primer pronunciamiento de la organización sobre inteligencia artificial se produjo dos años después del escándalo que protagonizó Facebook y Cambridge Analytica.

Ahora, UNESCO publicó con acuerdo de los países miembros una guía que contempla los principios que deben inspirar el desarrollo de tecnologías controvertidas como el reconocimiento facial o los algoritmos de redes socialesy aborda también temas menos polémicos, como el potencial efecto de los sistemas de recomendación sobre la diversidad cultural o lingüística.

“Este texto establece por primera vez un marco normativo mundial para el uso de la inteligencia artificial. Se basa para ello en tres pilares: el respeto de los derechos humanos, el Estado de Derecho y la lucha contra la discriminación”, explica Audrey Azoulay, directora general de la Unesco.

En la redacción del documento, que se inició a principios de 2020 han participado grupos de expertos formados por representantes de Google, Facebook, Microsoft, las Universidades de Stanford y Nueva York, la Academia China de Ciencia y Tecnología.

Entre las claves de la recién adoptada recomendación se encuentra la acotación de principios básicos que atañen al desarrollo de algunas de las tecnologías más cuestionadas del momento, como los sistemas de reconocimiento facial.
De acuerdo con el documento adoptado por la Unesco, que cuenta con países como China entre sus integrantes, estos sistemas “no deberían ser utilizados con fines de vigilancia masiva o rendición de cuentas sociales”. En el caso de las armas autónomas, la subdirectora general de Ciencias Sociales y Humanas de la Unesco, Gabriela Ramos, explica en un comunicado que, aunque no se hace referencia explícita a los drones de uso militar ni al armamento autónomo letal, la recomendación establece normas básicas como el que “las decisiones de vida o muerte no deben ser tomadas por sistemas de inteligencia artificial” y se especifica que en estos escenarios “la última palabra debe ser humana”.

La recomendación también aborda escenarios menos extremos pero igualmente relevantes, como el potencial efecto de los sistemas de recomendación que emplean las plataformas de streaming como Netflix o Spotify en la diversidad cultural y lingüística. Un reciente informede la Unión Europea señalaba que los criterios que emplean estos modelos para ofrecer nuevos contenidos “no son transparentes ni auditables” y probablemente basan sus decisiones en factores económicos que benefician a las plataformas. “Los artistas locales o los contenidos creativos y culturales infrarrepresentados son menos proclives a aparecer en las recomendaciones de estos sistemas si sus trabajos o espectáculos son insuficientemente lucrativos”, señala el informe.

En este contexto, la recién estrenada guía hace un llamamiento a los países para que trabajen mejor comprensión y evaluación tanto de los efectos positivos como de los potencialmente perjudiciales de los sistemas de recomendación.

banner pag web (4)

Te puede interesar