Comienzan los problemas: el narrador de Harry Potter denuncia que una IA le robó la voz

Hace unos meses un grupo de científicos y desarrolladores tecnológicos -entre ellos Elon Musk y Steve Wozniak- firmaba una petición pública para ralentizar el desarrollo de la Inteligencia Artificial. Y algo tiene que ir muy mal o ser muy peligroso para que el dueño de Tesla, Twitter y SpaceX te diga que 'vamos muy rápido'. Esta semana, el reconocido actor y presentador británico Stephen Fry ha dado la razón a los firmantes al revelar públicamente que su voz ha sido clonada por una Inteligencia Artificial para 'hacerle' narrar un documental histórico del que él no tenía idea.

Fue en el marco del CogX Festival de Londres, un encuentro mundial sobre tecnología emergente. Fry pidió al público que escuchara atentamente 'su' narración de cierto documental. Minutos después, reveló que aquella era su voz, pero el nunca había leído ese texto, no había pronunciado realmente ninguna de esas palabras. "Lo que acabáis de escuchar no es el resultado de una mezcla, sino una voz artificial flexible, en la que las palabras se modulan para adaptarse al significado de cada oración -dijo Fry en el evento-. Y esto, lo que acabas de escuchar, se hizo sin mi conocimiento. Por lo tanto, podrían hacerme leer cualquier cosa, desde un llamado a asaltar el parlamento hasta pornografía dura, todo sin mi permiso" aseguró.

El actor también ha relatado cómo tras escucharse decir una líneas que el jamás había dicho, le envió el material a sus agentes en ambos lados del Atlántico y, nueva sorpresa, estos le dijeron tampoco tenían idea del documental, más aún no tenían idea siquiera de que algo así fuera posible. El dato es revelador respecto a cuán desprotegidos están los creadores y artistas (y en realidad todos nosotros) ante el uso de una tecnología que parece evolucionar de manera incontrolable. Y la necesidad de una profunda reflexión pública al respecto.

Hasta el momento se desconoce si el actor entablará acciones legales contra los responsable del documental o si en su contrato para el audiolibro de Harry Potter se especificaba que se podría reutilizar su voz para otros fines.

“Esto es audio -advirtió Fry- . No pasará mucho tiempo hasta que los vídeos 'deepfake' completos sean igual de convincentes". No, no pasará mucho tiempo, de hecho esta misma semana hemos conocido en nuestro país que unos adolescentes ya habían estado usando la IA para generar imágenes pornográficas con compañeras de estudios. De pronto la voz de Chiquito diciendo en inglés 'for the glory of my mother' ya no pàrece tan graciosa.

"La tecnología no es un sustantivo, es un verbo, siempre está en movimiento -concluía Fry en su discurso-. Lo que tenemos ahora no es lo que será. Cuando se trata de modelos de IA, lo que tenemos ahora avanzará a un ritmo más rápido que cualquier tecnología que hayamos visto. Una cosa en la que todos podemos estar de acuerdo: es un momento jodidamente extraño para estar vivo”.

Al respecto solo agregar que hace apenas tres meses un ingeniero de Google reveló a la Radio Pública Nacional de EE UU que había estado teniendo conversaciones con la IA de la compañía, LaMDA. "Quería saber lo que tenía quer decir sobre ciertos temas relacionados con la religión -contó-. Y entonces un día me dijo que ella tenía un alma".