Inteligencia Artificial: Deepfakes

Inteligencia Artificial: Deepfakes

de Cayetano Juan Ortega Polo -
Número de respuestas: 2

Ante el avance imparable de los “Deepfakes” (con este concepto nos referimos a la posibilidad de modificar vídeos, imágenes o incluso la voz de una persona de forma hiperrealista) a raíz de que cada vez existen más aplicaciones que permiten su creación de manera sencilla, nos encontramos con un mayor incremento de riesgos para la sociedad, como el ciberacoso, la desinformación y manipulación, la creación de contenido sexual falso, suplantación de identidades, etc.
Muchos autores especializados sugieren que los “deepfakes” de voz son los más difícil de distinguir, advirtiendo que los humanos no logran identificar con precisión los mensajes falsos de audio.

- ¿Qué opináis sobre el tema? 
- ¿Qué opináis sobre las imágenes y vídeos manipulados?
- ¿Conocéis las consecuencias de compartir este material sin contrastar si es veraz?

Os animo a que expreséis vuestras opiniones. Os recomiendo leer el siguiente artículo:
Santos, E. (agosto de 2023). “Los ‘deepfakes’ de voz engañan incluso cuando se prepara a la gente para detectarlos”. El País

En respuesta a Cayetano Juan Ortega Polo

Inteligencia Artificial: Deepfakes

de Mireia Fernández Lorenzo -
En mi opinión, los "Deepfakes" pueden ser útiles en el mundo del entretenimiento, es decir, en el cine, los videojuegos... Sin embargo, también lo considero una herramienta muy peligrosa en nuestra sociedad, ya que provoca una gran distorsión e incertidumbre sobre la realidad en la que vivimos.

Considero que el contenido multimedia creado de esta forma conlleva un gran riesgo, ya que al ser tan realista, resulta complicado diferenciar la fantasía de la realidad. Además, utilizar la imagen de alguien o manipular ciertos contenidos pueden provocar una gran desinformación, desconfianza y posibles estafas (sobre todo en las personas más adultas que desconocen este tipo de herramientas).

Para finalizar, compartir dicho contenido sin contrastar si es veraz o no en fuentes confiables puede comportar graves consecuencias, puesto que se puede estar difundiendo información falsa y engañosa. Además, también se puede dañar la reputación de alguien. Por ello, es importante asegurarse siempre de que dicho material es cierto para evitar futuros conflictos.
En respuesta a Cayetano Juan Ortega Polo

Inteligencia Artificial: Deepfakes

de Cristian Mateo Ruiz -
Los "Deepfakes" muestran cómo los avances tecnológicos pueden ofrecernos nuevas posibilidades, pero también traer consigo problemas que debemos tener en cuenta. Aunque estas herramientas pueden tener usos positivos, también pueden utilizarse para manipular información y hacer creer a las personas cosas que nunca han sucedido. Además, cada vez resulta más difícil distinguir entre lo real y lo falso, lo que puede hacer que dudemos incluso de aquello que vemos en internet.

Uno de los aspectos que más me preocupa es el daño que pueden causar las imágenes, los vídeos y los audios manipulados, sobre todo cuando se utilizan para suplantar la identidad de alguien o perjudicar su reputación. Al fin y al cabo, estos contenidos pueden parecer reales y difundirse rápidamente por las redes sociales. De hecho, muchas veces compartimos publicaciones sin detenernos a comprobar si son ciertas y, sin darnos cuenta, podemos contribuir a difundir información falsa y perjudicar a otras personas. Por eso, creo que deberíamos pensar un poco más en las consecuencias de lo que compartimos.
 

Ante esta situación, creo que todos tenemos parte de responsabilidad en el uso que hacemos de internet, por lo que debemos comprobar la información antes de compartirla. Además, es importante recordar que lo que publicamos puede afectar a otras personas y que, por tanto, debemos actuar con sentido crítico y respeto. Así, si utilizamos la tecnología de forma responsable, podremos contribuir a que internet sea un espacio más seguro y fiable.