La nueva IA de Zuckerberg es «demasiado peligroso» para hacerla pública: puede imitar cualquier voz

Mark Zuckerberg se enorgulleció de presentar un nuevo avance de Meta”la IA más versátil para la generación de vozque existe, sin embargo, prevé que la preocupación «riesgos potenciales de uso indebido» de tecnología avanzada.

Es esa su nueva IA denominada Caja vocal es capaz de imitar cualquier voz y de editar audios para hacerlos sonar absolutamente creíbles y esto puede ser a herramienta peligrosa en manos de estafadores.

De todos modos, Meta también enumera casos optimistas en su comunicado de prensa, en el que afirmó que Voicebox podria usarse para ayudar a las personas con discapacidad visual a escuchar los mensajes de sus amigos y seres queridos, o para permitir que los hablantes no nativos reproduzcan las traducciones de sus propias palabras en su propia voz, pero en una lengua extranjera.

Por el momento su modelo de IA es capaz de hablar seis idiomas: inglés, francés, español, alemán, polaco y portugués.

Voicebox una práctica de IA para editores de audio

Meta resaltó que Voicebox es un medio para que los creadores de edición de audio hagan más fácil los ruidos de fondo no deseados o los errores de sus pistas de audio o video. También permitir crear voces agradables para asistentes virtuales o más realistas para videojuegos.

«Hay muchos casos de uso emocionantes para los modelos de habla generativa», destacaron desde Meta, «pero debido a los riesgos potenciales de uso indebido, no estamos poniendo a disposición del público el modelo o el código de Voicebox en este momento».

Cómo impactó la inteligencia artificial en nuestra cotidianeidad

«Tanto creemos que es importante ser abiertos con la comunidad de IA y compartir nuestra investigación para avanzar en el estado del arte en IA», agregó la firma, «también es necesario lograr el equilibrio adecuado entre la apertura y la responsabilidad».

Este anuncio llega poco más de un mes después de que Zuckerberg fuera rechazado por la Casa Blanca de Joe Biden, que les dijo explícitamente a los periodistas que los representantes de Meta no habían sido invitados a una cumbre de West Wing que era exclusivamente para empresas a la «vanguardia de la innovación en IA».

rb/ds