Evitar la discriminación y proteger la diversidad: los retos de la Inteligencia Artificial

Es innegable que la inteligencia artificial (IA) ha llegado para quedarse. Los avances tecnológicos en esta materia han significado importantes beneficios para las sociedades contemporáneas, más aún tras la pandemia. La inteligencia artificial cambiará nuestras vidas al mejorar la asistencia sanitaria (por ejemplo, haciendo diagnóstico más preciso, permitiendo una mejor prevención de las enfermedades), aumentando la eficiencia de la agricultura, contribuyendo a la mitigación y adaptación al cambio climático, mejorando la eficiencia de los sistemas de producción mediante el mantenimiento predictivo, aumentando la seguridad de la ciudadanía y de muchas otras maneras que sólo podemos empezar a imaginar. Al mismo tiempo, la IA conlleva una serie de riesgos potenciales, como la toma de decisiones opacas, la discriminación por razón de género, la intrusión en nuestra vida privada o su utilización con fines delictivos.

Ante este rápido crecimiento y utilización de la tecnología de IA, la Comisión de Cultura y Educación de la Unión Europea afirma que es necesario contar con un marco ético claro para que los algoritmos protejan la diversidad cultural y lingüística de la UE y no hagan lo contrario. Se espera que la Comisión proponga un marco legislativo para la IA de confianza en abril de 2021, como seguimiento de su Libro Blanco sobre la Inteligencia Artificial. Dicho documento afirma que Europa puede combinar sus fortalezas tecnológicas e industriales con una infraestructura digital de alta calidad y un marco normativo basado en la tecnología y sus valores fundamentales para convertirse en un líder mundial en la innovación en la economía de los datos y en el desarrollo de la inteligencia artificial.

Sobre esta base, el Libro explica que se puede desarrollar un ecosistema de IA que aporte los beneficios de la tecnología a toda la sociedad y la economía europeas para: en primer lugar, que los ciudadanos obtengan nuevos beneficios, por ejemplo, una mejor atención sanitaria, menos averías de maquinaria doméstica, sistemas de transporte más seguros y limpios, mejores servicios públicos; en segundo lugar, para el desarrollo empresarial, por ejemplo una nueva generación de productos y servicios en áreas donde Europa es especialmente fuerte (maquinaria, transporte, ciberseguridad, agricultura, economía verde y la economía circular, etc.) y para los servicios de interés público, por ejemplo, reduciendo los costes de la prestación de servicios (transporte, educación, energía y gestión de residuos), mejorando la sostenibilidad de los productos. Por último, para dotar a las autoridades policiales de las herramientas adecuadas para garantizar la seguridad de la ciudadanía con las debidas garantías de respeto a sus derechos y libertades.

El uso de las tecnologías de inteligencia artificial (IA) en la educación, la cultura y el sector audiovisual podría tener un impacto en "la columna vertebral de los derechos y valores fundamentales de nuestra sociedad", afirmó la Comisión de Cultura y Educación de la UE en una resolución aprobada el pasado martes 16 de marzo, por 25 votos a favor, ninguno en contra y 4 abstenciones. En este sentido los eurodiputados piden que se regulen todas las tecnologías de IA y se formen para proteger la no discriminación, la igualdad de género y el pluralismo, así como la diversidad cultural y lingüística.

Uno de los puntos centrales que destacaron los representantes europeos fue la necesidad de regular los algoritmos de los medios de comunicación para proteger la diversidad. En este sentido, para evitar que las recomendaciones de contenidos basadas en algoritmos, especialmente en los servicios de streaming de vídeo y música, afecten negativamente a la diversidad cultural y lingüística de la UE, los eurodiputados pidieron que se desarrollen indicadores específicos para medir la diversidad y garantizar que se promueven las obras europeas.

Sobre este aspecto, la Comisión afirma que se debe establecer un marco ético claro sobre cómo se utilizan las tecnologías de IA en los medios de comunicación de la UE para garantizar que las personas tengan acceso a contenidos cultural y lingüísticamente diversos. Este marco también debe abordar el mal uso de la IA para difundir noticias falsas y desinformación, añaden. Por otro lado, las y los eurodiputados instan a evitar el uso de datos sesgados que reflejen la desigualdad de género o la discriminación ya existente a la hora de entrenar a la IA. En su lugar, deben desarrollarse conjuntos de datos inclusivos y éticos, con la ayuda de las partes interesadas y la sociedad civil, para ser utilizados durante el proceso de "aprendizaje profundo".

A medida que la tecnología digital se convierte en una parte cada vez más central de nuestra vida cotidiana, debemos poder confiar en ella. Un dato no menor es que el crecimiento económico sostenible actual y futuro de Europa y el bienestar de la sociedad en su conjunto se basan cada vez más en el valor creado por los datos. La IA es una de las aplicaciones más importantes de la economía de los datos. En la actualidad, la mayoría de los datos están relacionados con los consumidores y se almacenan y procesan en una infraestructura central basada en la nube.  Es por esto que, lograr tener marcos regulatorios para una IA confiable y ética resulta de vital importancia.

Los eurodiputados subrayaron, por último, que los profesores deben poder corregir siempre las decisiones tomadas por la IA, como la evaluación final de los alumnos. Al mismo tiempo, destacan la necesidad de formar a los profesores y advierten que nunca deben ser sustituidos por las tecnologías de IA, especialmente en la educación infantil. Al respecto, Sabine Verheyen, Miembro del parlamento europeo desde 2009, afirmó que: “Hemos luchado durante décadas para establecer nuestros valores de inclusión, no discriminación, multilingüismo y diversidad cultural, que nuestros ciudadanos consideran parte esencial de la identidad europea. Estos valores también deben reflejarse en el mundo online, donde los algoritmos y las aplicaciones de IA se utilizan cada vez más. El desarrollo de sistemas de datos de calidad e inclusivos para su uso en el aprendizaje profundo es vital, al igual que un marco ético claro que garantice el acceso a contenidos cultural y lingüísticamente diversos”.

¡Comparte este contenido en redes!

Síguenos

Síguenos en Twitter Síguenos en Facebook
Top