Mientras leemos estas líneas, algoritmos están decidiendo qué contenido vemos en redes sociales, si nos aprueban un crédito bancario, cuánto pagamos por un seguro de auto...Pero cuando estos sistemas comienzan a tomar decisiones que afectan al futuro de nuestro planeta, surge una pregunta urgente: ¿quién está al volante?
La revolución de las máquinas
Hoy en día, cualquier sistema, sector e industria es un candidato potencial de contar con diferentes técnicas de IA: en la gestión de redes eléctricas nacionales (seamos buenos y no pensemos en el día D- el “apagón”), optimización de rutas, análisis de patrones para el estudio del comportamiento, de modelos de negocio y acciones climáticos entre otros. En Wall Street, los algoritmos ejecutan el 70% de las transacciones bursátiles, sí, estáis leyendo bien, moviendo billones de dólares en microsegundos y potencialmente desestabilizando mercados enteros si hay una decisión errónea. Pero no estamos aquí para que cunda el pánico, ni mucho menos. Se habla de la revolución de las máquinas, rescatando el concepto de la revolución industrial cuando el trabajo manual fue sustituido a gran escala por las máquinas para entender el contexto de la importancia de la tecnología en la celeridad actual de procesos, industrias y mercados.
La tecnología avanza a velocidad exponencial, pero nuestros marcos regulatorios lo hacen a paso de tortuga. La mayoría de las leyes que rigen la toma de decisiones automatizada fueron escritas en una era anterior a la IA generativa, cuando los algoritmos eran herramientas predecibles y lineales. Lo que hace pensar en un vacío regulatorio que favorezca acciones poco éticas.
El Reglamento de IA de la Unión Europea, que entró en vigor en 2024, clasifica los sistemas según su nivel de riesgo e impone obligaciones específicas para aplicaciones de "alto riesgo". Sin embargo, su enfoque es principalmente reactivo y las definiciones técnicas se están quedando obsoletas.
Estados Unidos navega entre la innovación y el control: La administración estadounidense ha optado por un enfoque más fragmentado, con órdenes ejecutivas que establecen principios generales, pero dejan la implementación específica a agencias individuales. El resultado es un mosaico de regulaciones que varía según el sector y el estado.
Los países en desarrollo, donde la IA podría tener el mayor impacto transformador en temas como agricultura y gestión de recursos naturales, carecen tanto de la capacidad técnica para entender estos sistemas como del poder político para influir en su desarrollo, con lo que se está dibujando un mapa de diferentes velocidades a nivel digital y tecnológico desde el punto de vista regulatorio, político y económico, dando a lugar a un escenario de sálvese quien pueda y liderando este cambio el que sea más fuerte, el nuevo primo de “Zumosol”.
Los nuevos “guardianes” de la galaxia
En este vacío regulatorio, han emergido actores inesperados que se han erigido como los nuevos "guardianes" de la galaxia o de la gobernanza algorítmica. ¿Quiénes son estos guardianes? En sentido metafórico podríamos definirlos como: “Dícese de aquellos, ya sean organizaciones públicas o privadas, en las que recae (ya sean presentados como protagonistas voluntarios o designados por terceros) la protección y evolución tecnológica como si se tratara del Santo Grial. En esta definición encajan:
La autorregulación por parte de la industria tecnológica conlleva riesgos significativos ya que los incentivos comerciales no siempre están alineados con el interés público. Además, la complejidad técnica de estos sistemas crea una barrera de conocimiento que permite a los desarrolladores justificar decisiones controvertidas bajo el velo de la "optimización algorítmica" o la "complejidad del machine learning".
Hacia una gobernanza algorítmica
La solución no puede ser puramente nacional. Los sistemas de IA requieren marcos de gobernanza que trasciendan fronteras. Para llegar a ello necesitamos tres pilares fundamentales:
Estamos en un momento histórico. Las próximas decisiones sobre cómo gobernamos la IA determinarán si estas tecnologías serán herramientas para construir un futuro más sostenible y equitativo, o si se convertirán en fuerzas incontrolables que amplifiquen las desigualdades existentes.
Artículos relacionados:
-Cómo transformar con IA proyectos de sostenibilidad en éxitos escalables, Sandra Asenjo
- El rol de la inteligencia artificial en la formación de una conciencia global, Sergio Ramírez
- Inteligencia Artificial para la preservación de la biodiversidad, José Ruiz Rojas
- Gobernanza de datos en la era digital: retos éticos y sociales, María Arribas
- El impacto de la inteligencia artificial en la gestión de residuos y reciclaje, Sergio Ramirez
- Algoritmos Verdes: Hacia una computación eficiente y sostenible, María Arribas
- Evaluación de proveedores con IA: Construir relaciones éticas y transparentes, María Arribas
