Deze AI imiteerde perfect de stem van Joe Rogan en het is nogal griezelig
Als het gaat om kunstmatige intelligentie, denken we meestal aan zaken als automatisering, beeldmanipulatie, machine learning of zelfs gewoon sciencefiction. Meestal niet denk aan Joe Rogan Een bedrijf genaamd Dessa heeft echter kunstmatige intelligentie ontwikkeld die spraak met verrassende nauwkeurigheid en trouw kan nabootsen. En hun eerste onderwerp was Joe Rogan.
Het chimpanseehockeyteam van Joe Rogan
Toen Dessa haar nieuwe project aan de wereld onthulde, deden ze dat met een diepe nep van Joe Rogans stem. Een deepfake is een video-, beeld- of audio-opname die door kunstmatige intelligentie is gemanipuleerd om op iemand anders te lijken. Bijvoorbeeld, deze gif van Amy Adams als Nicolas Cage.
Deepfakes bestaan al een tijdje, maar kregen tot voor kort niet veel publieke aandacht. Ze werden meestal gebruikt voor onderzoek naar machine learning of Hollywood-projecten. Nu de technologie en ons begrip ervan groeit, zien we steeds vaker deepfakes.
hoeveel is david ortiz waard?
De nieuwe audio-deepfake van Joe Rogan is een uitstekend voorbeeld. Dessa heeft een video gemaakt van tekst-naar-stem Joe Rogan deepfakes, allemaal met een knipoog. De eerste deepfake op de video toont Joe Rogan die op overtuigende wijze een chimpansee-hockeyteam bespreekt.
'Vrienden, ik moet jullie allemaal iets nieuws vertellen. Ik heb besloten een hockeyteam te sponsoren dat volledig uit chimpansees bestaat. Ik ben het zat dat mensen me vertellen dat chimpansees niet in staat zijn om mensen in de sport te schoppen. Chimpansees zijn gewoon superieure atleten, en deze chimpansees hebben hard gewerkt ”, zegt de deepfake. En eerlijk gezegd is het een zeer overtuigende facsimile van Rogans stem.
In reactie op de deepfake, Rogan schreef op Instagram , 'Ik heb net geluisterd naar een AI-gegenereerde audio-opname waarin ik praat over chimpansee hockeyteams en het is angstaanjagend nauwkeurig. Op dit punt heb ik lang geleden genoeg inhoud achtergelaten dat ze me in principe alles konden laten zeggen wat ze willen, dus mijn positie is om mijn schouders op te halen en mijn hoofd te schudden met ontzag, en het gewoon te accepteren. De toekomst zal echt raar worden, kinderen. '
De implicaties van deepfake-technologie
Joe Rogan | Michael S. Schwartz / Getty Images
Naarmate deepfake-technologie verbetert, zal de samenleving moeten worstelen met de implicaties van het kunnen fabriceren van overtuigende spraak en video. Joe Rogans opmerking over de toekomst is meer waar dan ooit.
Dessa schreef over hun onthulling op Medium , 'Het is onwerkelijk voor onze ingenieurs om te kunnen zeggen dat ze op legitieme wijze een levensechte replica van Joe Rogans stem hebben gemaakt met behulp van AI. Om nog maar te zwijgen van het feit dat het model in staat zou zijn om een replica van iemands stem te produceren, op voorwaarde dat er voldoende gegevens beschikbaar zijn. Als AI-beoefenaars die real-world applicaties bouwen, zijn we ons vooral bewust van het feit dat we het moeten hebben over de implicaties hiervan. Omdat de maatschappelijke implicaties voor technologieën zoals spraaksynthese duidelijk enorm zijn. En de implicaties zullen voor iedereen gelden. Arme consumenten en rijke consumenten. Bedrijven en overheden. '
Dessa gaf ook enkele voorbeelden van voor- en nadelen van deepfake-technologie, en wat het kan helpen bereiken. Enkele nadelen waren onder meer spammers of fraudeurs die zich voordeden als een geliefde om gevoelige informatie op te halen, toegang te krijgen tot zwaarbeveiligde gebieden en politieke framing of propaganda.
heeft Mike Tomlin ooit profvoetbal gespeeld?
Voordelen zijn onder meer een verbeterde toegankelijkheid voor degenen die tekst-naar-spraak-tools gebruiken om te communiceren, bijvoorbeeld mensen met de ziekte van Lou Gherig. We zouden in de toekomst ook geautomatiseerde nasynchronisatie kunnen zien voor films of shows in andere talen.
Dessa voegde eraan toe: 'We doen niet alsof we alle antwoorden hebben over hoe we deze technologie ethisch kunnen opbouwen. Dat gezegd hebbende, denken we dat het de komende jaren onvermijdelijk zal worden gebouwd en in toenemende mate in onze wereld zal worden geïmplementeerd. Dus naast het vergroten van het bewustzijn en het erkennen van deze kwesties, willen we dit werk ook laten zien als een manier om een gesprek te beginnen over spraaksynthese dat moet worden gevoerd. '
Fanreacties op de deepfake van Joe Rogan
Bekijk dit bericht op Instagramop welk nba-team speelde Gary Payton in 2006?
Fanreacties varieerden van onder de indruk tot bezorgd. Een gebruiker op YouTube zei gekscherend: Dus je zegt dat we nu onze eigen JRE-podcasts kunnen genereren? De toekomst is wild, man. '
“Dit is eigenlijk gruwelijk…. je kunt zo gemakkelijk iemand opzetten ”, schreef een andere gebruiker.
Een Instagram-gebruiker grapte dat het helemaal geen deepfake was. Ze schreven: 'De waarheid is dat je vergat dat je hier gisteren echt over sprak op paddenstoelen en een hete microfoon pikte het op.'
Een gebruiker met een sombere kijk zei: “Hoe lang duurt het voordat het jouw werk beter doet dan jij?!?! Dat is het enge deel, wanneer de AI beter is in het voeren van onderhoudende gesprekken voor ons. '
