Protección de los Derechos Humanos en la era de la IA

En el vasto panorama de la tecnología, el ChatGPT es como un puente tangible hacia la inteligencia artificial (IA), específicamente en su variante generativa (IAG).

Esta rama de la IA se concentra en generar contenido original a partir de datos preexistentes, gracias al aprendizaje profundo o “deep learning”, que permite a la IA identificar patrones basados en una gran cantidad de información.

Lo cierto es que IA no es cosa nueva pero sí la más llamativa y por ello el mundo habla de ella pero aquí los legisladores prefieren hablar de otra cosa.

La IA es una herramienta. Al igual que el martillo puede servir para construir o dañar. Su uso dependerá de quien empuñe su mango. Y en la primera línea de discusión se encuentra la protección de datos sensibles.

Mientras el potencial de la innovación tecnológica brilla con luz propia, no debemos deslumbrarnos y prestar atención a las áreas menos visibles, como las aplicaciones de reconocimiento facial.

Recientemente, el Parlamento Europeo aprobó la Ley de Inteligencia Artificial, un hito que garantiza la seguridad y el respeto de los derechos fundamentales, al tiempo que impulsa la innovación. O al menos eso promete.

Este reglamento, fruto de negociaciones con los Estados miembros, respaldado por una amplia mayoría en la Eurocámara, establece un equilibrio crucial. Su objetivo principal es salvaguardar los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental ante los riesgos inherentes a la IA de alto impacto, al tiempo que fomenta la innovación y posiciona a Europa como líder en el sector.

En este sentido, el reglamento establece prohibiciones claras y necesarias. Se prohíben aplicaciones de IA que amenacen los derechos ciudadanos, como el uso de categorización biométrica basada en datos sensibles o la recopilación indiscriminada de imágenes faciales para la creación de bases de datos de reconocimiento facial sin conocimiento de las personas.

Además, se veta el reconocimiento de emociones en entornos laborales y educativos, los sistemas de puntuación ciudadana, la predicción policial basada únicamente en perfiles individuales, así como cualquier forma de manipulación del comportamiento humano o explotación de vulnerabilidades.

Este veto sobre este tipo de aplicaciones de la IA coloca el derecho de las personas por encima de las necesidades de control y vigilancia, pero además busca evitar que la inteligencia artificial sea alimentada y aprenda sobre la base de sesgos humanos.

Es esencial reconocer que mientras Europa avanza en este debate crucial, en otras partes del mundo el diálogo apenas comienza y en el Perú poco interés despierta entre los parlamentarios. La protección de los derechos humanos en la era de la IA es un desafío global que requiere atención y acción concertada, la cual debe evitar asfixiar a las empresas tecnológicas con normativas innecesarias.

La innovación y el progreso tecnológico deben ir de la mano con el respeto irrestricto a la dignidad y los derechos de cada individuo.

Mira más contenidos siguiéndonos en Facebook, X, Instagram, TikTok y únete a nuestro grupo de Telegram para recibir las noticias del momento.