A finales de junio pasado, la máxima autoridad política del departamento de Santa Cruz —quien está, abusivamente, privada de libertad— emitió un cuestionable mensaje a través de sus redes sociales con su voz recreada por la Inteligencia Artificial (IA). Hace un par de días, circuló un tercer video de un prófugo de la justicia —acusado de narcotraficante—, que también usó la IA para emitir un mensaje a sus perseguidores.
En el primer caso, por tratarse de cuentas oficiales —donde además el emisor, así lo advierte al inicio—, tenemos la certeza de que el mensaje corresponde a quien lo emite. En el segundo caso, no hay ninguna posibilidad de afirmar ni asegurar su procedencia o autenticidad.
=> Recibir por Whatsapp las noticias destacadas
El gran público, receptor de estas emisiones audiovisuales, sin todavía entender los alcances de la nueva tecnología de clonación de voz, cree casi todo lo que ve y escucha; y, por lo tanto, es fácil sujeto de manipulación, engaño, trampa o fraude. Lo del gobernador me pareció una equivocación porque abre la peligrosa posibilidad de que otros, usando estos mismos recursos y herramientas (AI Voice Cloning), puedan generar discursos y situaciones contrarias a los intereses de una autoridad electa por el pueblo.
AI Voice Cloning es un deepfake de clonación de voz que analiza y replica la voz humana. Es decir, clona literalmente la voz de cualquiera y luego la replica diciendo el texto o guión que se le ordene. Lo único que se requiere son breves muestras de la voz humana que se desea replicar y la IA la “aprende” al instante. Con algunos ajustes y configuraciones se logra el tono vocal exacto que se está buscando. Con la misma dicción, modulación, entonación y pronunciación se puede hacer decir, a cualquier persona, lo que uno quiera y no habrá posibilidades de que alguien note diferencias. Con viejos mensajes o grabaciones, se puede llegar al extremo de resucitar las voces de los muertos: crear audios de personas fallecidas haciéndoles decir, con una “autenticidad” irrebatible, lo que nunca dijeron.
Los deepfakes son una combinación de deep learning (aprendizaje profundo) y fake (falso). Reproducen videos, imágenes o audios manipulados mediante algoritmos de IA para crear contenidos convincentes y aparentemente genuinos, pero falsos. En esta aterradora primera ola disruptiva, todo lo que se escucha o se ve podría ponerse en duda o cuestión. Los deepfakes engañan al público y socavan la confianza en la información porque pueden imitar todo con una sorprendente precisión. Reconfiguran la realidad a través de la tecnología.
Estas nuevas técnicas permiten “poner palabras en tu boca”, alterar y superponer rostros y acciones en videos, creando resultados persuasivos y embusteros. Los deepfakes representan una doble cara de la innovación tecnológica: son herramientas altamente creativas y con grandes potencialidades en su uso; pero, también plantean desafíos significativos en términos de veracidad, seguridad, suplantación de identidad y aspectos éticos y legales.
Será necesario educar a la sociedad sobre cómo identificar y combatir estas manipulaciones y encontrar el sano equilibrio entre la libertad creativa y la responsabilidad social. En esta era, donde no todo es lo que parece, la realidad y la ficción bailan un tango digital.
Alfonso Cortez es Comunicador Social