OpenAI anunció el desarrollo de Voice Engine, un modelo de inteligencia artificial capaz de clonar voces humanas con sonidos emotivos y realistas a partir de una muestra de tan solo 15 segundos. Sin embargo, la empresa ha decidido no lanzar esta tecnología al público general debido a los riesgos potenciales que conlleva su uso, especialmente en un contexto electoral.
Los creadores de ChatGPT, la plataforma asociada, enfatizan los peligros asociados con la generación de discursos que imiten voces humanas, particularmente durante un año electoral. Aunque Voice Engine ofrece diversas posibilidades, desde la traducción de contenido manteniendo el acento nativo hasta la ayuda a personas con dificultades de comunicación verbal, OpenAI ha optado por un enfoque cauteloso en su difusión.
Por el momento, solo algunas empresas selectas tienen acceso a esta tecnología, incluyendo Age of Learning, HeyGen, Dimagi, Livox y Lifespan. OpenAI ha establecido estrictas políticas de uso para estas empresas, que incluyen obtener consentimiento antes de usar la voz de alguien y garantizar que los usuarios sean conscientes de que están interactuando con voces sintéticas.
A pesar de las medidas de seguridad implementadas, persisten preocupaciones sobre el potencial abuso de las voces sintéticas generadas por IA. Con casos ya documentados de llamadas automáticas con voces clonadas de políticos como el presidente Joe Biden, y el riesgo de que los estafadores utilicen estas voces para acceder a cuentas bancarias que utilizan autenticación de voz, OpenAI reconoce la necesidad de una supervisión cuidadosa y una regulación adecuada en el uso de esta tecnología.
