Uno de los principales riesgos asociados al uso de la IA generativa tiene que ver con los derechos de autor, especialmente en relación con la producción artística.
En Estados Unidos, algunos artistas ya han presentado una demanda pública contra las empresas de tecnología responsables de las plataformas de IA generativa. Afirman que la tecnología realiza un collage moderno de sus obras, mientras que las empresas tecnológicas aseguran que utilizaron bases de datos públicas para entrenar su IA.
Otro problema asociado al uso de la IA generativa hace referencia a los deepfakes, una técnica basada en IA que reproduce rostros, gestos y voces de las personas para crear contenido falso. Por ejemplo, después del lanzamiento de una IA generativa capaz de crear audio, comenzaron a aparecer casos en los que se había utilizado la voz de artistas famosos para crear declaraciones falsas de carácter tendencioso.
Asociar tu creación con una tecnología capaz de crear cosas maliciosas puede ser arriesgado. Por eso es importante evaluar los riesgos de usar una determinada tecnología basada en datos, especialmente si aún se encuentra en una etapa muy incipiente de desarrollo.