La Inteligencia Artificial ha dejado de ser una tecnología circunscrita al ámbito científico para convertirse en una herramienta que ya interviene en la economía, la información, el empleo y las relaciones sociales. Sobre sus posibilidades, pero también sobre los riesgos que entraña su desarrollo y utilización, ha reflexionado este jueves Cristina Aranda Gutiérrez en Huesca, durante la conferencia La inteligencia artificial a examen: progreso, poder y responsabilidad, organizada por el Club de Opinión Lucas Mallada en la sede de Caja Rural de Aragón.
La experta ha advertido de que el avance de la IA no puede desligarse de cuestiones como los sesgos algorítmicos, la desinformación, la ciberseguridad, la propiedad intelectual o la dependencia de las grandes compañías tecnológicas. Frente a estos riesgos, ha defendido el pensamiento crítico, la supervisión humana, la soberanía sobre los datos y el desarrollo de soluciones adaptadas a las necesidades de cada organización. Al mismo tiempo, ha reivindicado el potencial de esta tecnología para afrontar problemas sociales, desde la detección de la dislexia hasta la prevención de conductas suicidas.
El presidente de la entidad anfitriona, Fernando Palacín, ha introducido el acto y ha recordado el currículum de la ponente oscense.. Doctora en Lingüística Teórica y Aplicada, consultora de innovación, cofundadora de Mujeres Tech, consejera y autora del libro Vidas Futuras, Aranda ha planteado su intervención como un recorrido desde la transformación en el acceso al conocimiento hasta los dilemas que suscita una tecnología cuyo alcance supera ya el ámbito estrictamente empresarial.
Aranda ha explicado que la relación con el conocimiento ha evolucionado desde la consulta de enciclopedias y bibliotecas hasta los buscadores basados en palabras clave y, finalmente, las actuales plataformas conversacionales. A su juicio, el desarrollo contemporáneo de la inteligencia artificial responde a la convergencia de distintos elementos tecnológicos, entre ellos el hardware, el Internet de las Cosas y el Big Data.
En este contexto, ha destacado que el 80 % de los datos generados son lingüísticos, desde documentación legal y licitaciones hasta normativas publicadas en boletines oficiales. Esa enorme cantidad de información permite desarrollar aplicaciones en ámbitos muy diversos. Como ejemplos, ha citado el uso de datos del Catastro y del Registro de la Propiedad en el sector inmobiliario o la posibilidad de predecir la generación de residuos en Tenerife atendiendo a la procedencia de los turistas.
La automatización, ha defendido, no tiene por qué traducirse necesariamente en destrucción de empleo. Aranda ha puesto como referencia la estrategia de IKEA, que optó por capacitar a sus trabajadores ante los procesos de automatización en lugar de plantear despidos masivos.
UNA INTELIGENCIA QUE NO ES HUMANA
Aranda ha situado el origen conceptual de la inteligencia artificial en la Conferencia de Dartmouth de 1956 y ha distinguido entre los diferentes niveles de desarrollo que se manejan habitualmente. La denominada IA estrecha está diseñada para tareas concretas, mientras que la inteligencia artificial general aludiría a sistemas indistinguibles de una persona y la superinteligencia permanece, según ha explicado, en el terreno de la especulación.
Frente a la tendencia a atribuir capacidades humanas a las máquinas, la ponente ha subrayado aquello de lo que carecen: cuerpo, emociones, subjetividad, conciencia, intuición, juicio moral y verdadera creatividad, entre otras cualidades.
También ha abordado el denominado prompt engineering y ha propuesto estructurar las instrucciones mediante las cinco W: rol, contexto, audiencia, formato y tono. Al mismo tiempo, ha advertido de la necesidad de anonimizar los datos confidenciales antes de introducirlos en plataformas públicas.
Una demostración práctica ante los asistentes ha servido para explicar uno de los problemas centrales de los sistemas de inteligencia artificial. Al solicitar la generación de una imagen de una familia en los Pirineos de Huesca, el resultado reproducía por defecto una representación tradicional, con sus integrantes de raza blanca, jóvenes y progenitores heterosexuales, además de guapos y aspecto de felicidad. Para Aranda, el ejercicio evidencia los sesgos incorporados a los modelos a partir de los datos con los que han sido entrenados.
La cuestión de los sesgos algorítmicos ha ocupado una parte relevante de la conferencia. Aranda ha explicado que niños y niñas pueden formular exactamente la misma pregunta a una herramienta de inteligencia artificial y recibir respuestas diferentes cuando se trata, por ejemplo, del salario que deberían solicitar. En el ejemplo expuesto, a ella se le sugerían entre 30.000 y 32.000 euros, mientras que a él se le situaba entre 39.000 y 41.000 euros.
La misma problemática puede aparecer en otros ámbitos, como la salud mental o los procesos de selección laboral. Si los modelos se entrenan con datos que contienen las brechas existentes en la sociedad, ha señalado, pueden reproducirlas. En este sentido, ha mencionado que la Agencia Española de Inteligencia Artificial (AESIA) va a comenzar a auditar sistemas de preselección de currículos por los sesgos que presentan.
Entre las medidas para reducirlos, ha planteado equilibrar los datos utilizados en el entrenamiento o programar los algoritmos para que determinadas características personales, como nombre, género o edad, no condicionen los resultados.
"La IA llegó a etiquetar a personas negras como gorilas"
La diversidad en los equipos que desarrollan estas tecnologías constituye, asimismo, una cuestión relevante. Aranda ha recordado el conocido caso de Google Photos, que "llegó a etiquetar a personas negras como gorilas", como ejemplo de las consecuencias que puede tener la ausencia de diversidad en el diseño y desarrollo de sistemas de reconocimiento facial.
FAKE NEWUS Y DEMOCRACIA
La inteligencia artificial también puede convertirse en una herramienta capaz de amplificar la desinformación y afectar al funcionamiento de las democracias. Aranda ha relacionado este riesgo con el escándalo de Cambridge Analytica y la utilización de datos en el entorno de Meta durante el Brexit.
La ponente ha señalado que, días después de la votación, entre los términos más buscados en Google desde Reino Unido figuraban preguntas como "¿qué es el Brexit?" y "¿qué es la Unión Europea?". El episodio le ha servido para plantear hasta qué punto la manipulación de información y datos puede condicionar la capacidad de decisión de los ciudadanos.
La cuestión ética se extiende, a su juicio, a las decisiones económicas y a los intereses que pueden quedar ocultos detrás de determinados movimientos empresariales. Aranda ha utilizado como ejemplo una situación protagonizada, según su exposición, por el CEO de Pfizer para plantear una pregunta más amplia: "¿Eso es ético?"
DEPENDENCIA DE LAS GRANDES COMPAÑÍAS
Otro de los grandes dilemas planteados durante la conferencia ha sido la dependencia de las grandes compañías tecnológicas y el coste que puede alcanzar el uso de sus servicios. Aranda ha advertido de que las empresas deben preguntarse qué ocurriría si el precio de las herramientas en la nube aumentara de manera drástica.
Ante esa posibilidad, ha contrapuesto dos caminos: asumir una dependencia creciente de las grandes plataformas o desarrollar conocimiento y recurrir a soluciones de código abierto y sistemas locales.
En este ámbito ha introducido el concepto de Small Language Models (SLM), modelos de lenguaje de menor tamaño que pueden adaptarse a necesidades concretas. Una empresa especializada en un sector determinado, ha explicado, "no necesita necesariamente pagar por el acceso a todo el conocimiento" disponible en los grandes modelos. Puede desarrollar un sistema propio, local y securizado, adaptado a sus necesidades.
La cuestión de la soberanía tecnológica adquiere especial importancia, según su planteamiento, cuando se manejan datos sensibles. Entre las recomendaciones dirigidas a empresas y autónomos ha incluido "inventariar todos los sistemas de IA que utilizan, auditar los posibles sesgos, exigir que los datos estén alojados dentro de Europa y garantizar siempre la supervisión humana".
PROPIEDAD INTELECTUAL
La expansión de la inteligencia artificial abre también un complejo debate sobre la propiedad intelectual. Aranda ha recomendado, en este ámbito, seguir las aportaciones de Julio Gonzalo, catedrático de IA en la UNED, ante las discusiones existentes sobre el uso de obras protegidas para entrenar modelos.
Durante su intervención ha mencionado las denuncias contra empresas como Anthropic por la utilización masiva de libros para entrenar modelos sin remunerar a sus autores, así como las posiciones expresadas por el compositor Max Richter en defensa de los creadores.
La oscense ha cuestionado de este modo un sistema en el que la inteligencia artificial puede aprovechar conocimiento procedente de tesis doctorales y otras fuentes "sin que necesariamente exista reconocimiento o remuneración para quienes lo generaron". A su juicio, la respuesta jurídica a estas prácticas plantea todavía un debate de fondo sobre cómo proteger el conocimiento y la creación.
DISTINGUIR LA VERDAD
Ante la proliferación de contenidos generados artificialmente, Aranda ha situado el pensamiento crítico y la verificación como herramientas esenciales. También ha explicado que en la UNED se ha desarrollado una herramienta bajo licencia Creative Commons destinada a detectar citas y referencias falsas generadas mediante IA.
Su recomendación pasa por cuestionar y comprobar la información antes de aceptarla. A la necesidad de desarrollar critical thinking (pensamiento crítico) ha añadido otro concepto: critical ignoring, entendido como la capacidad de ignorar la sobreinformación.
La alfabetización tecnológica, por tanto, no consiste únicamente en aprender a utilizar nuevas herramientas, sino también en saber cuándo no utilizarlas, qué información proporcionarles y cómo valorar críticamente sus respuestas.
Los riesgos tecnológicos no se limitan a la desinformación. Aranda ha advertido asimismo sobre la ciberseguridad y la vulnerabilidad de infraestructuras esenciales, en un escenario en el que los ataques pueden afectar a distintos países europeos.
La dependencia tecnológica puede tener consecuencias que trasciendan a las propias empresas. Un ataque contra infraestructuras energéticas, ha explicado, "podría terminar afectando incluso a la capacidad de producir determinados alimentos".
Para ilustrar la necesidad de anticiparse a los fallos, ha recordado el caso de Netflix y el denominado Chaos Monkey, una herramienta concebida para provocar fallos deliberadamente en los sistemas y comprobar así su capacidad de resistencia.
Aranda también ha llamado la atención sobre las consecuencias cognitivas del uso intensivo de estas herramientas. Entre ellas ha situado la rendición cognitiva, la pérdida de determinadas habilidades y el denominado Shadow AI: el empleo no regulado de herramientas personales de inteligencia artificial con datos pertenecientes a una empresa.
La tecnología, ha defendido, no debería conducir a una renuncia progresiva a las capacidades humanas. Por ello ha reivindicado el valor del pensamiento analógico, el aburrimiento, el humor, la empatía y la cooperación multidisciplinar.
También ha advertido del elevado consumo energético asociado al entrenamiento de los grandes modelos y ha recordado, a través de una referencia a la investigadora Nuria Oliver, el papel singular del lenguaje como rasgo diferenciador del ser humano.
Frente a una visión exclusivamente negativa, la conferencia ha mostrado igualmente aplicaciones de la inteligencia artificial orientadas al impacto social.
Entre ellas, Aranda ha citado Change Dyslexia, impulsado por Luz Rello, con juegos personalizados destinados a la detección y tratamiento temprano de la dislexia. También ha mencionado el proyecto desarrollado por Ana Freire para detectar conductas suicidas mediante el análisis del lenguaje en redes sociales, una iniciativa que, según ha explicado, permitió incrementar en un 60 % las llamadas al Teléfono de la Esperanza y propició protocolos de alerta temprana entre TikTok y la Policía Nacional.
La conclusión de la ponente no pasa, por tanto, por rechazar la inteligencia artificial, sino por decidir cómo se desarrolla, quién controla sus herramientas y con qué criterios se utilizan. El progreso tecnológico, ha planteado, no puede desligarse de la responsabilidad, la ética y la capacidad de las personas para conservar el control sobre las decisiones que afectan a su vida.