Peligros de la subjetividad en la IA

Poco antes de terminar el año escolar, con estudiantes de primaria y secundaria, realizamos un experimento: pedirle a la inteligencia artificial (IA) más popular que corrigiera textos ficcionales que los estudiantes habían desarrollado como parte del curso de escritura creativa que imparto.

Se determinó que, a esta IA, se le solicitaría solo algo específico: el corregir ortográfica y gramaticalmente los textos, dejando en claro que no modificara la historia ni interviniera de ninguna otra manera.
El resultado dejó extrañados a todos, incluso a mí, pues, cuando se revisaron los textos, se pudo notar que, a pesar de la solicitud expresa a la IA de que no hiciera cambios, esta había obviado nuestras indicaciones e intervino en los textos, llegando, en algunas ocasiones, a cambiar los finales.

La IA parecía rechazar los contenidos tristes o que implicasen alguna clase de desgracia o autoperjuicio para los personajes. Casi todos los resultados fueron versiones edulcoradas de sus cuentos fuente, por lo que no terminaron de gustarles a sus creadores, quienes se dieron cuenta de que una máquina nunca podrá reemplazar su propia imaginación, pero, además, les hizo notar algo en lo que no habían reflexionado: que existía una escala de valores y moral insertados en el software de esa IA, había subjetividad, la cual, además, buscaba imponer en base a sus revisiones, lo que limitaba tajantemente las posibilidades de aprovechar de esa herramienta, pues no se puede confiar en su objetividad, y, además, abría una peligrosa puerta respecto al futuro de la información y los contenidos, de la comunicación.

Cada época tiene sus propios mecanismos para vehicular la verdad: lo verosímil. Durante el siglo XIX fue el naturalismo evolucionista, por lo que las teorías racistas sobre la humanidad eran asumidas como ciertas. El siglo XX trajo el auge de la antropología y el entendimiento del “otro” como mecanismo de verosimilitud. El siglo XXI, en medio del imparable desarrollo de la Era Digital, encuentra en las tecnologías, principalmente en las TIC, su canal comunicador de la verdad.

Hoy todos consultan internet para informarse: todo tipo de contenido está al alcance de un clic. Esto ha permitido que se dé el boom de las noticias falsas, las que no son exclusivas de esta época (las vimos con claridad y en grandes cantidades gracias a la propaganda Nazi durante la Segunda Guerra Mundial), pero sí se han masificado en tanto que cualquier persona con una computadora y acceso a internet es capaz de crear contenidos y compartirlos con el mundo entero, de comunicar.

La introducción de la IA en nuestras vidas cotidianas, que rápidamente se ha posicionado como una de las herramientas más masivas de creación de contenidos, ha llevado a pensar a gran parte de la población que esta tecnología, que funciona en base a algoritmos, es infalible, lo que claramente es falso.
Cada día es más común que las personas realicen consultas de todo tipo en las plataformas de IA, pronto lo harán para averiguar sobre las noticias, enterarse de la coyuntura, llegar a conclusiones… algo peligroso si la información filtrada por la herramienta tiene criterios determinados.

Es cierto que siempre estamos expuestos a la subjetividad de quien comunica, sin embargo, en estos tiempos de inteligencia artificial, la comunicación (los contenidos en general) se han vinculado con lógicas comerciales y de consumo (algoritmos, bigdata), que fomentan que solo tengamos acceso a lo que disfrutamos o con lo que estamos de acuerdo, creando una sociedad cada vez más polarizada e incapaz de llegar a acuerdos mínimos.

El problema de considerar como verdad lo que produce la IA, que ha sido programada desde una subjetividad, es que, indirectamente, es una herramienta que refuerza de forma mucho más agresiva los mecanismos de propaganda, por lo que tenderá a fortalecer el condicionamiento de las personas basándose en sus gustos y preferencias, según la IA a la que se consulte.

Mira más contenidos siguiéndonos en Facebook, Twitter, Instagram, TikTok y únete a nuestro grupo de Telegram para recibir las noticias del momento.