No cabe duda de que la pandemia ha contribuido a acelerar la presencia de lo digital en nuestras vidas. Suena el despertador y lo primero que haces es activar los datos de tu teléfono móvil. Miras las redes sociales. A continuación, revisas todos los mensajes de whatsapp que no pudiste leer el día anterior. Olvidaste hacer la compra de la semana y lo haces online. Mientras, recibes ofertas de productos de plataformas digitales. O sugerencias de sitios que visitar o libros que leer en función de tus parámetros de búsqueda en internet. Y, así, podríamos continuar narrando un día cualquiera en nuestras vidas. Hablando de cómo estamos hiperconectados a la vida virtual y, en consecuencia, entregados a unos nuevos sistemas de inteligencia artificial y algoritmos que se sin darnos cuenta se han insertado ya en lo más profundo y cotidiano de nuestras vidas.
Esta hiperconexión virtual -o desconexión de la vida real- nos ha embarcado en un nuevo cambio de paradigma, hacia un capitalismo de los datos y la vigilancia (recomiendo al respecto la lectura del libro de Shoshana Zuboff, La era del capitalismo de la vigilancia), que no solo está transformando el entramado de la sociedad y el modo en el que nos relacionamos los seres humanos, sino que también, en determinados contextos y circunstancias, está agravando o, cuando menos, no está contribuyendo a resolver las desigualdades sociales y económicas sistémicas desde hace décadas.
Mucha gente piensa que todos los avances tecnológicos son buenos. No lo pongo en duda; puede que lo sean, si el fin, los medios y, sobre todo, su aplicación, se basan en la ética y la humanidad. Pero no siempre es así. Es por todos sabido el poder de los algoritmos para la manipulación masiva, especialmente a través de redes sociales. Para crear una realidad totalmente personalizada y sesgar nuestras opiniones, polarizando y crispando. Para reproducir patrones discriminatorios —sobre todo, sexistas y racistas—, agudizando la discriminación y disgregación. Para automatizar procesos y delegar decisiones en sectores como el financiero, los seguros, la energía o la salud, que en ocasiones excluyen injustamente a personas de estos servicios y suministros «básicos». O para realizar evaluaciones de riesgo de carácter predictivo en procesos judiciales, que a veces han generado situaciones de discriminación racial. (Algo más he escrito sobre ello, que puedes leer aquí o escuchar aquí).
Por ello, es necesario que empecemos a hablar de una «justicia algorítmica», como una prolongación de la justicia social en el nuevo mundo que vivimos. Que permita proteger los derechos humanos con las mismas garantías independientemente de si se producen offline u online. Con la que nos aseguremos que nadie se queda atrás en el acceso a los avances tecnológicos. Que promueva una civilidad digital.
Aún con buenas intenciones, si no sabemos hacia dónde vamos, ¿cómo vamos a saber cuál es el camino correcto para que la tecnología sea una aliada para lograr la justicia social? El tiempo (y la razón) nos lo dirá.
