Pregúntele al Techspert: Cuidado con los Deepfakes

¿Ha visto alguna de las tantas imágenes o videos inventados de figuras públicas que circulan en las redes sociales? En caso afirmativo, entonces está familiarizado con los deepfakes. En este artículo, cubriremos qué son los deepfakes, su peligro, cómo evitar caer en la trampa y qué hacer si alguna vez es víctima de un ataque de deepfake.

¿Qué son los deepfakes?

El término deepfake, o ultrafalso, se deriva de “Deep learning”, un subconjunto de métodos de aprendizaje automático basados en redes neuronales artificiales con aprendizaje de representación, y de la palabra “fake”, del inglés: “falso”.

Este término se acuñó por primera vez en noviembre de 2017, cuando deepfake, un usuario anónimo de Reddit (un sitio web de foros y noticias sociales), utilizó una tecnología de código abierto de intercambio de rostros que aprovechaba los algoritmos de inteligencia artificial existentes para crear y compartir videos falsos.

Desde entonces, la palabra deepfake se ha ampliado para incluir cualquier aplicación o software que pueda crear imágenes, sonidos o videos de personas realistas pero inventadas .

Crear un video deepfake en ese momento requería habilidades considerables y aplicaciones complejas. Ahora, en 2023, el mundo en constante evolución de la inteligencia artificial (IA) hace que los deepfakes sean más realistas y más fáciles de producir… y más peligrosos y extendidos.

Ejemplos de deepfakes

• ¿Y si el alunizaje hubiera salido mal? El Centro de Virtualidad Avanzada del MIT presenta una historia alternativa utilizando tecnología deepfake, mostrando su potencial para la desinformación. Míralo a continuación.

• En el siguiente video breve de YouTube, los deepfakes de Gayle King y Tom Hanks se utilizaron para promocionar productos que nunca respaldaron. Míralo a continuación.

El peligro de los deepfakes

La capacidad de fabricar videos y audios de cualquier individuo puede ser peligrosa y promover todo tipo de acciones poco éticas.

Estas son tres de las amenazas más importantes del deepfake:

• Desinformación: como en los ejemplos anteriores, las personas usan tecnología deepfake para crear videos o audio de personas que hacen o dicen cosas que en realidad nunca hicieron o dijeron.  Eso puede influir en la opinión pública y crear confusión sobre cuestiones importantes.
• Cuestiones de privacidad y consentimiento: los responsables a menudo infringen la privacidad de las víctimas al fabricar contenido que utilizan maliciosamente para chantajear, acosar o difamar a las personas o robar sus identidades.
• Riesgos de seguridad: los delincuentes pueden utilizar tecnología deepfake para hacerse pasar por personas en videollamadas o crear contenido fraudulento para engañar a los sistemas de seguridad. En 2019, el primer gran ataque deepfake ocurrió cuando el director ejecutivo de una empresa de energía con sede en el Reino Unido escuchó por teléfono mientras su jefe, el líder de la empresa matriz alemana de la empresa, ordenaba la transferencia de 220 000 euros (~$235,000) a un proveedor en Hungría. La voz parecía legítima y el director ejecutivo se dejó engañar. Puede leer más sobre este delito cibernético en este artículo del Wall Street Journal.

¿Cómo evitar caer en los deepfakes?

En el mundo actual, debemos recordar no creer todo lo que vemos en línea, especialmente en las redes sociales. La mejor manera de evitar caer en los deepfakes es recibir noticias de medios de comunicación confiables. Si encuentra un video de interés periodístico en línea, debería poder encontrar diferentes fuentes de noticias que cubran la misma historia. De lo contrario, sería mejor tomar ese video con cautela.

¿Qué debo hacer si soy víctima de deepfake?

La tecnología avanza más rápido que la legislación que debería existir para proteger a las personas contra su uso indebido. Si es víctima de un ataque deepfake, a continuación puede ver qué puede hacer:

• Recopile pruebas documentándolo todo, desde la captura de pantalla del abuso hasta su comunicación con los administradores de la plataforma para eliminarlo.
• Marque o denuncie el deepfake y alerte a los administradores o moderadores de la plataforma.
• Póngase en contacto con profesionales jurídicos para explorar vías civiles o penales. Es posible reclamar justicia bajo leyes que definen delitos relacionados, como extorsión, acoso, difamación, etc.
• Hable al respecto y no dude en solicitar asistencia médica si tiene problemas para afrontarlo.

¿Qué hacer a continuación?

Consulte el siguiente recurso de Senior Planet que puede ayudarle a evitar caer en información falsa:

• ¿Es eso IA? – en viernes el 31 de mayo a las 11:00am (hora del este)

Su turno

¿Qué opina sobre los peligros que plantean los deepfakes? Comparta sus pensamientos (o remedios) en los comentarios.

 

Techspert Jonathan es especialista en productos y relaciones con la comunidad digital de Senior Planet y ex entrenador en tecnología de Senior Planet San Antonio. También es desarrollador de iOS con experiencia en sistemas de información y seguridad cibernética.

 

¿Tiene alguna pregunta técnica que presta a confusión? Envíe sus preguntas técnicas a Techspert Jonathan usando ESTE FORMULARIO. Responderá una pregunta de los lectores al mes.