Burt Reynolds of Judy Garland iets laten voorlezen? Het kan weldra
AI Straks kun je artikels of hele
boeken laten voorlezen door James Dean of Judy Garland. Of toch door hun met generatieve AI tot leven gewekte stem. Deepfake-stemmen worden steeds beter en zijn ook steeds gemakkelijker te maken. Op basis van bestaande audio-opnamen – een paar minuten kunnen volstaan – kan een AI-stem worden gemaakt die je dan elke tekst kunt laten zeggen. ElevenLabs, een van de koplopers op dat gebied, heeft daar een nieuwe toepassing voor gevonden. Het heeft akkoorden gesloten met de nabestaanden van de acteurs Burt Reynolds, James Dean, Judy Garland en Sir Laurence Olivier.
Dankzij die akkoorden mag ElevenLabs de stemmen van die overleden beroemdheden aanbieden als voorleesstem in zijn nieuwe app, ElevenLabs Reader.
In een persbericht laat ElevenLabs Liza Minelli, de dochter van Garland, aan het woord. “Het is spannend dat de stem van onze moeder beschikbaar wordt voor miljoenen mensen die van haar houden”, zegt ze.
In mei veroorzaakte OpenAI controverse door de nieuwe GPT4o-chatbot te laten spreken met een stem die, volgens velen, sterk lijkt op die van Scarlett Johansson. Volgens OpenAI was de gelijkenis toeval, maar Johansson zelf heeft met juridische stappen gedreigd en OpenAI zal de stem niet meer aanbieden. Problematisch voor OpenAI is dat het bedrijf geprobeerd had tot een akkoord te komen met Johansson om haar stem te gebruiken, in ruil voor een vergoeding. Maar Johansson weigerde. Rapper Drake kreeg in april de rechthebbenden van Tupac Shakur over zich heen toen hij, zonder toestemming, een deepfake van diens stem gebruikte in het nummer ‘Taylor made freestyle’.
ElevenLabs probeert het dus op een andere manier, door tot een akkoord te komen met de nabestaanden. Dat gebeurde via het Hollywoodbedrijf CMG Worldwide, dat de rechten van de vier overleden sterren beheert. De akkoorden beperken ook het gebruik van de stemmen: de nep-Garland of -Reynoldsmagwelwordengebruiktom teksten voor te lezen aan een individuele gebruiker in de ElevenLabs Reader, maar niet om bijvoorbeeld podcasts of radio-uitzendingen voor een groter publiek te maken.
Deepfake van Biden
ElevenLabs is zelf ook omstreden. De stemtechnologie van het bedrijf is in januari gebruikt om een deepfake van de stem van Joe Biden te maken. Inwoners van New Hampshire kregen op hun voicemail een boodschap van nep-Biden die hen opriep om niet te gaan stemmen bij de Democratische voorverkiezingen. Iemand anders gebruikte
ElevenLabs om de stem van Emma Watson fragmenten uit Hitlers Mein Kampf te laten voorlezen. Gelijkaardig technologie is ook al gebruikt door oplichters om mensen te overtuigen om geld over te schrijven. Maar tegelijk gebruiken publicaties als Time de stemmen van ElevenLabs om artikels op hun websites voor te lezen.
Vorig jaar bereikte de acteursvakbond Sag-Aftra een akkoord met filmproducenten dat AI-versies van acteurs niet zonder hun toestemming kunnen worden gebruikt. Voor overleden acteurs moet met de rechthebbenden worden onderhandeld over een vergoeding.