Audio et IA : quels risques pour la voix synthétique?

La newsletter de la radio de demain #316… Abonnez-vous

Alors que le sujet de la confiance du public dans les médias reste toujours aussi sensible (même si la radio peut se féliciter d’être le média considéré comme le plus crédible), l’accélération du développement des voix de synthèse, utilisables rapidement et facilement par les acteurs des industries médiatiques, culturelles et créatives, offre des perspectives tout aussi enthousiasmantes que potentiellement très problématiques… 

La facilité d’accès et d’utilisation des plateformes de création de deepfakes audio est un accélérateur de propagation de fakenews numériques, qui nuisent aux personnalités publiques comme les artistes, les personnalités publiques et politiques, mais aussi au grand public.

Les deepfakes audio : à ne jamais prendre à la légère

Entre les mauvaises mains, ces technologies peuvent avoir de lourdes conséquences et créer de nouveaux cas de cybercriminalité. La différence entre une IA vocale et une vraie voix sera de plus en plus dur à mettre en lumière, ce qui facilite les tentatives de fraude et de vol par appel dont certaines entreprises ont déjà été victimes. Même si l’audio de synthèse peut être une machine à LOL sur le net, comme avec une IA faisant jouer Biden, Obama, Trump et Roosevelt à Minecraft, il ne faut pas perdre de vue qu’il peut constituer une menace réelle pour la démocratie. En tout cas, il a déjà été utilisé comme outil diffamatoire sur X par Trump en mettant en scène Nancy Pelosi comme ivre lors d’une conférence. Cette utilisation dangereuse est même allée plus loin et a émergé dans la guerre civile au Soudan. Des vidéos avec la voix de son ancien dirigeant, Omar al-Bashir, ont été divulguées, sauf que la voix était fausse, de quoi déstabiliser une population déjà victime de la guerre civile. 

Une adaptation nécessaire à ces nouvelles technologies ?

Certains médias et radios ont cependant souhaité profiter de ce développement de ces voix de synthèse pour innover dans leur contenu, et tirer des apprentissages de ces nouveaux usages. Au printemps dernier, la radio de télévision suisse Couleur 3 a ainsi instauré une journée pendant laquelle tous ses contenus sont créés par une IA, autant les voix que les textes (sauf pour les informations et l’actualité) et les musiques. Elle n’est pas la seule à avoir eu cette idée puisque la société américiane Futuri a lancé RadioGPT, la radio qui s’adapte à votre localité et qui est totalement basée sur l’IA.

Pendant que l’écosystème des outils de clonage vocal se développe, des législations se mettent en place pour les encadrer. Des recherches sont lancées pour réussir à détecter les deepfakes, et plusieurs outils sont disponibles comme FakeCatcher créé par Intel. Il est toutefois plus difficile de repérer les fakes audios, qui sont de mieux en mieux réalisés.

Le débat est également ouvert avec des traductions automatiques, qui sont parfois peu fiables, sans oublier l’industrie du doublage conçu par les IA qui menacent le métier de doubleur. Des nouvelles solutions comme Heygen qui a beaucoup fait parler d’elle ces derniers jours, repousse encore les limites de la traduction en gardant une voix naturelle et en synchronisant les lèvres dans les vidéos. Brut nous montre les résultats qui sont bluffants, et tout aussi inquiétants. 

Cette semaine

ChatGPT 4 aura bientôt des yeux ! En savoir plus

Spotify change de stratégie et va proposer un nouvel abonnement pour l’écoute de livres audio sur sa plateforme. En savoir plus

Les stickers générés par l’IA de Meta échappent à tout contrôle. En savoir plus

Les plans de Meta pour battre la Vision Pro d’Apple incluent des casques moins chers et pas de contrôleurs. En savoir plus

HarfangLab lève 25 millions d’euros pour détecter en amont les cyberattaques. En savoir plus

En bref @ Radio France

Jeunesse, le mal de vivre : écoutez le podcast sur France Culture. Pour LSD Johanna Bedeau plonge au cœur de l’hôpital public pour interroger la santé mentale de la jeunesse. Pandémie mondiale, confinement, guerre en Ukraine, dérèglements climatiques tout y passe, une partie de la jeunesse va mal, entre anxiété et peur de l’avenir. En savoir plus

L’histoire tragique des Oubliés de l’Ile Saint-Paul : en réécoute sur France Bleu dans Histoires Salées. Les Oubliés de l’Île Saint-Paul sont un groupe de six hommes et une femme enceinte qui furent abandonnés en 1930 sur une île dans le sud de l’Océan Indien. Ils étaient chargés de garder l’île et ses installations pour le compte de leur employeur : La Langouste Française. En savoir plus

Léon Blum. Une vie héroïque : lisez le livre de Philipe Collin dans les éditions Radio France. Léon Blum occupe une place modeste dans notre mémoire, loin de refléter l’importance de son héritage et l’intensité de son destin hors du commun.  En savoir plus

Complorama en réécoute sur Franceinfo : Par Pauline Pennanec’h, Tristan Mendès France, Rudy Reichstadt. Rudy Reichstadt et Tristan Mendès France décryptent et analysent l’activité de la complosphère, en lien avec l’actualité. En savoir plus

Capillotracté : écoutez le podcast et replay de Mouv’. Des stéréotypes sur les blondes à la symbolique du mulet, la société est analysée dans son ensemble avec un angle… tiré par les cheveux ! En savoir plus

Au Coeur du ballet : podcast et émission en replay sur France Musique. Par Hippolyte Pérès. Du ballet ! La danse est un art en perpétuel mouvement, intimement connectée à l’histoire de la musique. Il était important qu’elle retrouve enfin sur France Musique un endroit où l’on y retrace son histoire, et où l’on rende compte de l’incroyable effervescence de la… En savoir plus

Ma vie face au cancer : le journal de Clémentine : écoutez le podcast et replay de franceinfo. A 30 ans, Clémentine, journaliste à franceinfo, se bat contre un cancer. Pour mieux faire comprendre ce que traversent les malades, elle a accepté d’ouvrir son journal et de revenir sur les traitements, les espoirs, les déceptions, l’aide des proches, la peur de la mort. En savoir plus