⍟ Me dan pánico los deepfakes

Estoy viendo la temporada actual de The Morning Show. Como ya comenté, ésta temporada tiene la IA como un elemento principal en sus tramas (es algo que se ve claro desde los primeros momentos, y vamos por el segundo capítulo y ya se han venido cositas).

Seguro que hace poco os habéis cruzado con vídeos en Instagram doblados automáticamente. No es un doblaje que se nota que es un doblaje, eso es algo con lo que puedo vivir. Es un doblaje que imita el timbre y tono de voz con respecto al original, y que incluso altera el movimiento de los labios de la persona para que parezca que de verdad está hablando ese idioma. Eso me da escalofríos, porque si se puede hacer eso significa que esa misma pieza de software puede crear un vídeo haciendo que una persona diga cualquier cosa, y que parezca real. Cada vez más real.

No soy un neoludita. O, mejor dicho, no creía ser un neoludita, pero es algo que en esta época del año y en este momento del siglo XXI me estoy replanteando, la verdad. Para nosotros como civilización la prueba fotográfica o videográfica tenía cierta presunción de veracidad, y eso queda totalmente desdibujado ya, porque ahora todos herramientas de software que son capaces de crear imágenes y vídeos que cada vez son más indistinguibles de los tomados en la realidad. Y se puede hacer mucho, mucho daño con estas herramientas.

No hablo de casos de deep state como ciertos deep fakes que circularon al inicio de la guerra en Ucrania (y que seguro siguen haciéndolo, solo que ya no llegan las noticias). Hablo de casos más cercanos al de los menores que usaban herramientas para simular el desnudo de sus compañeras. Y, con las herramientas que generan voz y vídeo, no puedo sino sentir todavía más miedo y sigo sin saber qué podemos hacer para mitigar los daños que estas cosas puedan hacer.

“No soy un neoludita”. A lo mejor soy un poco más neoludita de lo que yo pensaba.