Un dels principals riscos associats a l’ús de la IA generativa té a veure amb els drets d’autor/a, especialment en relació amb la producció artística.
Als Estats Units, alguns artistes ja han presentat una demanda pública contra les empreses de tecnologia responsables de les plataformes d’IA generativa. Afirmen que la tecnologia realitza un collage modern de les seues obres, mentre que les empreses tecnològiques asseguren que utilitzen bases de dades públiques per a entrenar la seua IA.
Un altre problema associat a l’ús de la IA generativa fa referència als deepfakes, una tècnica basada en IA que reprodueix rostres, gestos i veus de les persones per a crear contingut fals. Per exemple, després del llançament d’una IA generativa capaç de crear àudio, van començar a aparèixer casos en els quals s’havia utilitzat la veu d’artistes famosos per a crear declaracions falses de caràcter tendenciós.
Associar la teua creació amb una tecnologia capaç de crear coses malicioses pot ser arriscat. Per això és important avaluar els riscos d’usar una determinada tecnologia basada en dades, especialment si encara es troba en una etapa molt incipient de desenvolupament.