¿Compartes fotos de tus hijos? Quizás no después de ver este anuncio deepfake

Una nueva campaña publicitaria de vídeo generada por IA que acumula millones de visitas en las redes sociales puede hacer que muchos padres reconsideren qué información comparten públicamente sobre sus hijos.

El vídeo de Deutsche Telekom utiliza la última tecnología de inteligencia artificial para envejecer virtualmente a una niña de 9 años a la que llaman Ella, interpretada por un actor, para ilustrar cómo la huella digital de un niño puede potencialmente usarse indebidamente para dañar sus vidas.

"Sé que para ti estas imágenes son sólo recuerdos, pero para otros son datos", le dice Ella, generada por IA, a la pareja que interpreta a sus padres en un experimento social organizado. "Y para mí, tal vez el comienzo de un futuro horrible".

Se describe que los padres de Ella en el video, también interpretados por actores, publican a menudo sobre su vida en línea, compartiendo momentos despreocupados sin ser conscientes del daño potencial que podría causarle en el futuro.

Si bien el video es falso, algunos expertos dicen que su mensaje de advertencia es muy real.

"Una vez que una imagen se comparte en línea, puede ser difícil controlar dónde termina", explicó la Dra. Rebecca Portnoff, directora de ciencia de datos de Thorn, una organización sin fines de lucro que lucha contra la propagación del abuso sexual infantil en línea, en una entrevista con ABC. Noticias.

La campaña documenta los diversos peligros potenciales de compartir demasiado los datos de sus hijos, desde el acoso en línea hasta el robo de identidad y la creación de material de abuso sexual infantil, o CSAM.

"Los malos actores utilizan una variedad de tecnologías y servicios de manipulación de contenido para alterar fotos y videos benignos, generalmente de la cuenta de un niño en las redes sociales o en la web abierta, para sexualizar este contenido", agregó Portnoff.

Si bien estos peligros han sido documentados en el pasado, los riesgos se ven exacerbados por el aumento y la accesibilidad cada vez mayores de la IA. Junto con una gran cantidad de datos disponibles públicamente, esto les está dando a los delincuentes más contenido con el que trabajar.

"Compartir" es un término que a veces se utiliza para referirse a los padres que comparten contenido sobre sus hijos en línea. Es una manera fácil y accesible para que los padres se conecten entre sí, explicaron los expertos del Boston Children's Digital Wellness Lab que han estudiado los impactos potenciales del sharenting.

Esos expertos destacaron una estimación de Barclays Bank de que para 2030, 7,4 millones de incidentes de fraude de identidad por año podrían estar relacionados con padres que comparten demasiada información personal en línea.

Como se ilustra en la campaña de Deutsche Telekom, la IA generativa permite crear réplicas creíbles de la imagen de su hijo, desde la voz hasta la figura.

La campaña también detalla cómo los algoritmos de inteligencia artificial pueden identificar y recopilar automáticamente imágenes de niños, y cómo luego pueden usarse para crear perfiles de niños que pueden usarse con fines publicitarios o incluso crear contenido pornográfico.

Expertos como Portnoff dicen que la IA está facilitando a los depredadores la creación de material realista a partir de imágenes disponibles públicamente o la creación de material completamente nuevo.

Al mismo tiempo, organizaciones como Thorn también han desarrollado algoritmos de aprendizaje automático para crear herramientas que detecten, eliminen y notifiquen CSAM.

"A medida que el mundo de las redes sociales continúa evolucionando, los padres pueden esforzarse por lograr un equilibrio entre conectarse con amigos y familiares y respetar a los niños como individuos que tendrán que lidiar con las consecuencias de una vida vivida en línea", instaron los expertos de Boston Children's Digital. Laboratorio de bienestar.

En cuanto a cómo los padres podrían lograr ese equilibrio, compartir fotos y contenido solo en álbumes privados con familiares y amigos y no públicamente es una forma de compartir mientras se salvaguarda la privacidad de su hijo y se minimizan los riesgos.

Portnoff también hizo algunas sugerencias sobre cómo las familias pueden educar a los niños sobre la seguridad en línea.

"Los padres pueden hablar temprano y con frecuencia con sus hijos sobre la seguridad en línea y fomentar un ambiente abierto y libre de juicios en el hogar. Pueden trabajar para comprender las aplicaciones, las redes sociales y los servicios en línea que utilizan sus hijos, así como los controles de privacidad que existen. disponibles, y luego utilizar esos controles de privacidad", dijo. "Es importante educar a los niños sobre la seguridad en línea, incluyendo por qué es importante evitar compartir datos personales y... la permanencia de lo que se comparte en línea".