Asistimos a un momento de gran divergencia. Por un lado, los beneficios que nos aporta el desarrollo tecnológico son innumerables. Hoy día es difícil plantearse un escenario en el que no esté presente la tecnología. Por otro, la celeridad del desarrollo tecnológico ha hecho que nos centremos en el crecimiento y no tanto en el impacto que tiene la tecnología en los usuarios.
En la conferencia anual Google I/O 2018 se presentó la función Duplex, el sistema de inteligencia artificial aplicado a la automatización de las conversaciones telefónicas. El sistema quería resolver un problema común: el de los pequeños negocios que no tienen sistemas automatizados de reserva online. Sundar Pichai, CEO de Google, hizo una demostración y comenzó a hablar con Google Assistant. Con esta presentación tan estelar se olvidaron de un aspecto fundamental. La persona que estaba al otro lado del teléfono no sabía que está interactuando con un robot. Aunque se está trabajando en la integración de mensajes de aviso, esta forma de interactuar ‘máquina-humano’ plantea un nuevo debate que va más allá de la tecnología y es el de la ética.
Y es que a medida que la tecnología continúa "comiéndose el mundo", aumenta la probabilidad de invadir la privacidad de los usuarios con las conversaciones utilizadas para entrenar al sistema.
¿Dónde está el límite?
Hemos pasado las últimas décadas aprendiendo cómo movernos rápido para ser ágiles y competitivos. Hemos aprendido a mejorar la experiencia de usuario, a escuchar lo que quiere y a solucionar las necesidades que nos plantea. Ahora más que nunca debemos ser cautos para no olvidarnos de lo más importante: ganarnos la confianza de nuestros usuarios.
Los estándares éticos que valían hace unos años, hoy día son insuficientes. La velocidad de desarrollo de la tecnología hace que muchos tecnólogos no hayan calculado su verdadero impacto. Por lo que hoy más que nunca se necesita que la medición del impacto englobe criterios éticos.
Muchas empresas se han centrado en aumentar su cuota de mercado descuidando la confianza de los usuarios y han perdido credibilidad. Un ejemplo ha sido el escándalo de privacidad de datos de los usuarios de Facebook.
Ahora, sin embargo, el debate es otro. El desarrollo de la inteligencia artificial ha llevado a una proliferación de tecnologías que crean, imitan y facilitan la conversación. Esto significa que los diseñadores tecnológicos están centrados en ‘humanizar’ ciertos aspectos tecnológicos, como la voz de un robot, para mejorar la experiencia del usuario convirtiéndose en una nueva ventaja competitiva.
