Te invitamos a ver este vídeo sobre las limitaciones de la IA.
LAS IAS NO SON INTELIGENTES
A pesar de su capacidad para dialogar y para aparentar conocimiento, las IAs conversacionales no entienden el lenguaje humano.
Las IAs han sido entrenadas con grandes cantidades de datos que les han permitido reconocer los patrones del lenguaje, es decir, qué combinaciones de palabras son más probables estadísticamente en determinadas situaciones.
Gracias a esto, las IAs pueden mantener conversaciones coherentes con los humanos, pero sin ninguna comprensión real de lo que dicen ni lo que les decimos.
Como consecuencia de ello, en ocasiones las IAs devuelven resultados no esperados. Por eso cobra especial importancia cómo hablar con las IAs, los prompts.
Piensa en las IAs como calculadoras muy avanzadas. Una calculadora no piensa ni sabe matemáticas, pero si le introduces los datos de forma correcta te devolverá el resultado deseado.
La IA no es inteligente. Somos los humanos los que debemos usar nuestra inteligencia para sacar provecho a estas tecnologías.
LAS IAS NO SON FIABLES
Esta aleatoriedad en las respuestas que ofrecen las IAs provoca que, ocasionalmente, se inventen información falsa. Estas invenciones se conocen por el término de “alucinaciones”.
La siguiente imagen muestra parte de una respuesta que ChatGPT dio a una solicitud de información sobre la Estatua de Che Guevara en Oleiros. Aunque la contestación de ChatGPT parece coherente, incluye varios datos erróneos, que se han resaltado en color amarillo:
- Es falso que el escultor fuera José María Pérez Peridis (fue Juan Quintanilla Álvarez).
- Es falso que la escultura se encuentre en el Parque de As Brañas, está en una rotonda próxima al parque de Nirvana.
- Es falso que la estatua fuera inaugurada el 21 de octubre de 2008, fue inaugurada el 28 de junio del mismo año.
- Es falso que la obra represente a Che Guevara con el puño derecho levantado, ya que la estatua solo representa la cabeza del revolucionario.
Por ello, aunque la IA puede proporcionar información útil, siempre es importante verificar y contrastar la información obtenida con fuentes adicionales, especialmente si la queremos utilizar en un ámbito académico o profesional. Las propias IAs suelen advertir de esto:
LAS IAS TIENEN SESGOS
Otra limitación de las IAs es que pueden absorber los prejuicios de la sociedad que las ha creado. Las IAs son máquinas que han sido entrenadas con un gran volumen de datos hechos y seleccionados por personas. La mayoría de seres humanos tenemos prejuicios (clasismo, racismo, sexismo…) que nos llevan a cometer sesgos a la hora de seleccionar los datos con los que se entrenan a las máquinas, lo que acaba trasladando a las máquinas dichos sesgos.
Uno de los principales sesgos de estas herramientas es que han sido desarrolladas en EEUU y, por lo tanto, están orientadas principalmente al ámbito anglosajón, haciendo que cuanto mayor sea la distancia cultural con respecto a Estados Unidos, menos útiles resulten estas herramientas.
Si le pedimos a una IA de generación de imágenes que nos cree una imagen de un enfermero o de un profesor de guardería lo más probable es que represente a una mujer. Por el contrario, si le pedimos una imagen de un bombero o de un policía, lo más probable es que represente a un varón de raza blanca.
