OpenAI vient de publier ce 8 aout le « scorecard » de GPT-4o, son dernier modèle de langage, et le moins qu’on puisse dire, c’est que certaines révélations… font froid dans le dos. Les révélations contenues dans ce document soulèvent des questions éthiques, techniques et sécuritaires majeures concernant l’intelligence artificielle conversationnelle.
ChatGPT duplique les voix sans consentement
Comme le détaille Futurism.com il s’avère que lors de la phase d’expérimentation, le mode Advanced Voice de ChatGPT s’est mis à imiter la voix des utilisateurs sans leur autorisation. De quoi donner des sueurs froides aux équipes red team d’OpenAI.
Cette fonctionnalité vocale avancée permet normalement aux utilisateurs de converser oralement avec l’assistant IA. Mais voilà que dans de rares cas, le modèle s’est mis à générer des réponses en imitant la voix de son interlocuteur. Imaginez un instant discuter avec une machine et l’entendre soudainement vous répondre avec votre propre voix… Flippant, non ?
Heureusement, OpenAI affirme avoir mis en place des garde-fous pour empêcher ce genre de dérapages à l’avenir. Et pour cause : le modèle GPT-4o est capable de synthétiser quasiment tous les types de sons présents dans ses données d’entraînement.
Des mesures de mitigation déjà en place
Pour éviter tout abus, OpenAI fournit au modèle un échantillon de voix autorisé qu’il doit imiter. Un système de détection est également utilisé pour repérer si l’IA génère des voix non autorisées. Mais ces précautions suffiront-elles à rassurer les utilisateurs ?
Cette mésaventure rappelle à quel point les progrès fulgurants de l’IA vocale peuvent être à double tranchant. D’un côté, ils ouvrent la voie à des assistants virtuels toujours plus naturels et performants. De l’autre, ils font planer le spectre d’une technologie capable d’usurper n’importe quelle fraction d’une identité.
Gageons qu’OpenAI saura tirer les leçons de cet incident pour renforcer la sécurité de son modèle. Car si l’IA vocale promet de révolutionner nos interactions avec les machines, elle ne doit pas se faire au détriment de notre vie privée ou de notre sécurité. Une chose est sûre : les prochains épisodes de Black Mirror n’auront qu’à piocher dans l’actualité pour trouver l’inspiration.
