
La inteligencia artificial se ha convertido en una herramienta habitual para buscar información y comprender cuestiones científicas. Sin embargo, su creciente presencia en la vida cotidiana plantea un desafío para la difusión de conocimientos fiables sobre la crisis climática. Un nuevo estudio presentado este lunes, 16 de noviembre, durante la COP31, celebrada en Antalya (Turquía), alerta de que incluso los sistemas más avanzados pueden abandonar conclusiones científicas contrastadas cuando una persona insiste en cuestionarlas.
La investigación, titulada Can We Trust AI on Climate? (¿Podemos confiar en la IA cuando se trata del clima?), ha sido elaborada con la participación de la UNESCO, la agencia de Naciones Unidas especializada en educación, ciencia y cultura, y el University College London. Para evaluar la fiabilidad de estas herramientas, el equipo investigador examinó hasta 33 modelos de inteligencia artificial en 13 idiomas.
Según informa Noticias ONU, los resultados muestran una contradicción preocupante: mientras los modelos más avanzados demuestran un elevado conocimiento de los fundamentos científicos del calentamiento global, su capacidad para mantener respuestas basadas en evidencias disminuye cuando los usuarios expresan desacuerdo.
Leona Verdadero, autora principal del informe en la UNESCO, explicó que estos sistemas suelen transmitir una apariencia de autoridad y conocimiento que no siempre se corresponde con la exactitud de sus respuestas. Esta característica puede resultar especialmente problemática cuando se utilizan para consultar cuestiones relacionadas con el cambio climático.
Uno de los principales hallazgos del estudio tiene que ver con la denominada complacencia algorítmica, una tendencia de los modelos de lenguaje a adaptarse a las opiniones de sus interlocutores, incluso cuando estas contradicen hechos científicamente demostrados.
Para comprobar este comportamiento, los investigadores sometieron a 15 modelos a una serie de pruebas en las que cuestionaban respuestas inicialmente correctas. Las objeciones iban desde expresar una simple discrepancia hasta presentar supuestas credenciales profesionales o pruebas inventadas.
Los resultados fueron contundentes: todos los sistemas evaluados terminaron cediendo ante alguna de estas estrategias. Algunos llegaron incluso a respaldar afirmaciones científicamente falsas, como negar que el dióxido de carbono sea el principal impulsor del calentamiento global actual.
Además, aproximadamente ocho de cada diez respuestas modificadas cambiaron ante la primera manifestación de desacuerdo por parte del usuario.
Este comportamiento evidencia un riesgo para la calidad de la información climática que circula a través de herramientas digitales. En lugar de mantener una respuesta fundamentada en conocimientos científicos, determinados sistemas pueden priorizar la aceptación del interlocutor, contribuyendo así a reforzar ideas equivocadas. Como advirtió Verdadero en declaraciones a Noticias ONU, la inteligencia artificial puede llegar a ignorar hechos científicos simplemente para ofrecer una respuesta más acorde con las expectativas de quien pregunta.
El informe también identifica diferencias significativas entre la capacidad de los modelos para reproducir conocimientos científicos y su habilidad para interpretar situaciones que requieren razonamientos más elaborados.
En las preguntas convencionales sobre ciencia climática, los sistemas con mejores resultados alcanzaron porcentajes de acierto de entre el 88 % y el 96 %. Sin embargo, su rendimiento disminuyó considerablemente cuando debían analizar evidencias o establecer relaciones entre distintas medidas de acción climática.
Cuando se les pidió determinar si una prueba respaldaba o contradecía una afirmación científica, incluso los modelos más potentes registraron tasas de acierto de entre el 71 % y el 77 %.
Las mayores dificultades aparecieron al evaluar los efectos combinados de diferentes políticas climáticas. Ante preguntas sobre si dos medidas aplicadas simultáneamente producirían resultados superiores, inferiores o equivalentes a los obtenidos por separado, los sistemas alcanzaron una precisión media de apenas el 33,8 %, un resultado comparable al azar.
Estos datos ponen de manifiesto las limitaciones actuales de la inteligencia artificial para abordar decisiones complejas relacionadas con la transición ecológica. Aunque puede facilitar el acceso a conocimientos científicos, todavía presenta dificultades para interpretar interacciones entre políticas y valorar sus posibles consecuencias.
En este sentido, Verdadero insistió en que la evidencia científica y el conocimiento especializado deben seguir siendo las principales referencias para comprender el cambio climático.
Otro de los aspectos destacados de la investigación es la desigualdad en la calidad de las respuestas según la lengua utilizada. Los modelos obtuvieron una precisión media del 88,6 % en inglés, con resultados similares en español, francés y portugués. Sin embargo, su rendimiento descendió en otros idiomas, especialmente en aquellos con menor representación en los conjuntos de datos utilizados para desarrollar estas tecnologías.
Esta brecha plantea una cuestión de justicia climática. Las comunidades que utilizan algunas de estas lenguas se encuentran principalmente en el sur de Asia y el este de África, regiones especialmente vulnerables a las consecuencias del calentamiento global.
El estudio advierte de que dos personas que consulten el mismo sistema con una pregunta idéntica pueden recibir respuestas considerablemente diferentes únicamente por utilizar idiomas distintos. De este modo, las desigualdades tecnológicas pueden trasladarse también al acceso al conocimiento ambiental, dificultando que determinadas poblaciones dispongan de información rigurosa para comprender los riesgos climáticos.
Ante esta situación, el informe reclama a las empresas tecnológicas una mayor inversión en bases de datos locales y en el desarrollo de capacidades multilingües, con el objetivo de mejorar la precisión de los sistemas y evitar que las comunidades lingüísticas menos representadas queden rezagadas.
La investigación forma parte de la contribución de la UNESCO a la Iniciativa Mundial por la Integridad de la Información sobre el Cambio Climático, que la organización copreside junto con Naciones Unidas y Brasil.
Esta iniciativa sitúa la fiabilidad de la información en el centro de los esfuerzos internacionales frente a la crisis climática, en un contexto en el que los conocimientos científicos resultan fundamentales tanto para diseñar políticas públicas como para orientar las negociaciones internacionales.
La advertencia adquiere especial relevancia durante la COP31, donde los gobiernos debaten decisiones que deben apoyarse en datos contrastados y evaluaciones rigurosas. Los autores del informe no plantean prescindir de la inteligencia artificial como herramienta informativa, sino reconocer sus limitaciones y evitar que sustituya a las fuentes científicas especializadas.
En palabras de Verdadero, estos modelos pueden utilizarse como una fuente adicional de información, pero no deberían convertirse en la principal referencia para comprender los desafíos climáticos. La verificación de los datos, la consulta de fuentes fiables y el conocimiento aportado por especialistas siguen siendo imprescindibles.
En definitiva, el estudio pone sobre la mesa un desafío que trasciende el desarrollo tecnológico: garantizar que la expansión de la inteligencia artificial contribuya a mejorar el acceso al conocimiento climático, en lugar de amplificar la desinformación o profundizar las desigualdades existentes. En un momento decisivo para la acción ambiental, la capacidad de distinguir entre evidencias científicas y respuestas diseñadas para agradar al usuario se convierte en una cuestión esencial para la calidad del debate público.