Het tijdperk van de synthetic media: fake of feit?

Synthetische versies van ons leven duiken steeds vaker op. Van digitale tweelingen tot gemanipuleerd DNA en nagemaakte hamburgers. Dankzij technologie kunnen we de werkelijkheid op steeds meer gebieden naar onze hand zetten. Binnenkort eet je misschien niet alleen kunstmatig vlees, maar consumeer je ook synthetische, door AI gegenereerde content. Misschien volg je een door AI gecreëerd personage op social media. Of projecteer jezelf in een virtueel klaslokaal. Deze technologie staat op het punt om alles te veranderen: hoe we werken, leren en content consumeren. Het zal dan ook grote impact hebben op de mediasector. Het decennium van Synthetic Media lijkt aangebroken.

Het idee dat we een nieuw tijdperk zijn binnengetreden, komt van futuroloog Amy Webb van het Future Today Institute. In het 2020 Tech Trends Report noemt ze synthetic media de belangrijkste ontwikkeling voor de komende tien jaar. “Elke sector zal de gevolgen ondervinden van dit synthetische decennium, dat nieuwe zakelijke kansen en strategische risico’s met zich meebrengt.” Webb krijgt veel bijval in verschillende andere rapporten. Onder meer in het Future Report van de Scandinavische uitgever Schibsted. Daarin worden synthetische media ook als belangrijke trend aangeduid. Het staat ook bovenaan het trendlijstje van Amerikaanse durfinvesteerders als Betaworks.

Mijlpaal

2017 was een mijlpaal voor synthetic media. Vice maakte melding van de opkomst van nep-pornovideo’s met bekende ‘mainstream’ actrices. Met algoritmen waren hun gezichten op de lichamen van porno-actrices ‘geplakt’. Een ander beroemd voorbeeld uit 2017 is ook de fake-video van Barack Obama (zie hieronder).

Niet lang daarna werd de term “deep fake” bedacht. Er kwam meteen een discussie op gang over de schadelijke gevolgen van door AI gegenereerde content. Die discussie is nog lang niet beslecht. De roep om maatregelen klinkt steeds luider. “Nu de technologie om media te vervalsen nog in de kinderschoenen staat, moeten we snel bepalen hoe die mag worden gebruikt”, waarschuwt desinformatie-expert Nina Schick. Het Rathenau Instituut kwam onlangs met een manifest met richtlijnen voor de inrichting van de digitale samenleving. “Diverse publieke waarden zijn in het geding, waaronder privacy, autonomie, waarachtigheid en gezondheid”, zegt Rathenau.

Deepfakes

Synthetic media zijn synoniem geworden voor deepfakes. Als gevolg daarvan realiseren we ons misschien niet het volle potentieel van deze technologie. Dat positieve verhaal komt nog te weinig aan bod. Synthetic media zullen de manier veranderen waarop we media produceren en consumeren. Dat heeft een schaduwkant die om alertheid vraagt. Maar AI kan ook een bijdrage leveren aan de democratisering van creativiteit en meer ruimte maken voor experimenten.

Met AI zullen individuen in staat zijn om content van hoge kwaliteit te produceren met een minimaal budget. Potentiële toepassingen zijn onder meer het herstellen van fouten in podcasts of video’s door het tekstscript te bewerken.

Video’s

Synthesia gaat nog een stap verder. Die Amerikaanse AI-startup stelt bedrijven in staat video’s in meerdere talen te maken voor bijvoorbeeld personeelsopleidingen. Ze hoeven alleen een script in te voeren en een presentator te selecteren.

Unreal Engine maakt het creëren van synthetische personen nog makkelijker. Het bedrijf gaf onlangs een sneak preview van z’n ‘Metahuman Creator’. Daarmee is heel snel en zonder technische kennis een nieuwe digitale mens te maken. Die is vrijwel niet van echt te onderscheiden. Metahuman Creator weet zelfs deepfake-detectiesoftware om de tuin te leiden.

Avatars

Door AI gegenereerde avatars hebben ook buiten de wereld van beroemdheden interessante toepassingen. De HBO-documentaire Welcome to Chechnya, over de vervolging van homoseksuelen in Rusland, maakte gebruik van synthetic media. Met deepfake-technologie konden de gezichten van geïnterviewden worden vervangen door die van acteurs. Zo kon de identiteit van de geïnterviewden worden beschermd.

Het genereren van teksten en dialoog is belangrijke toepassing van synthetic media. Er komen steeds meer applicaties die realistische en accurate conversatie mogelijk maken. AI chatbots rukken op. Van eenvoudige bots, die een gepersonaliseerd gesprek kunnen voeren, tot een virtuele dubbelgangers die in de dienstverlening kunnen worden ingezet.

Ook de commercie heeft synthetic media ontdekt. Bij die toepassingen gaat het onder meer om virtuele assistenten, fotomodellen en chatbots . Er is sprake van een ware golf van virtuele wezens, onder wie de computer gegenereerde Instagram-influencer Lil Miquela, de virtuele Colonel Sanders van KFC en Shudu, het eerste digitale supermodel.

Landschap

Het is sowieso opvallend dat veel ‘synthetic mediabedrijven’ actief zijn op het gebied van spraak en avatars. Volgens de Synthetic Media Landscape 2020 van Samsung is ruim 40% van de onderzochte 172 bedrijven in een van die gebieden gespecialiseerd (zie de graphic hieronder).

Als we naar de technologie achter synthetic media kijken, zien we dat de laatste jaren veel vooruitgang is geboekt. Daarbij gaat het onder meer om deep learning en vorderingen in beeld- en spraakherkenning. Tegelijkertijd is ook de GAN-technologie – waarop synthetic media meestal is gebaseerd – sterk verbeterd. Dit alles heeft ertoe geleid dat de kwaliteit van synthetic media enorm is verhoogd. Binnenkort zijn dit soort door computers gegenereerde media misschien wel niet meer te onderscheiden van traditionele media.

Automatisering

Toepassingen in de mediasector lijken voorlopig vooral te liggen op het terrein van automatisering. Daarbij gaat het onder meer om automatisch toevoegen van ondertiteling en metadata en text-to-speech applicaties. Maar AI kan ook een rol spelen bij het automatiseren van routineklussen als weerberichten, sport en financieel nieuws. In de hedendaagse newsroom is sommige verslaggeving behoorlijk saai en rechtlijnig. De mens maakt daar weinig verschil. Het weerbericht is daar een goed voorbeeld van. De BBC onderzocht hoe synthetic media de berichtgeving over het weer zouden kunnen verbeteren. Met best een aardig resultaat (zie video hieronder).

Schaalbaar

Het gebruik van AI voor het bewerken van video’s neemt toe. Met deze technologie kunnen bestaande video’s worden gepersonaliseerd of naadloos vertaald. Zo kunnen mediabedrijven content schaalbaar maken en in verschillende talen distribueren. AI-nasynchronisatie kan een video vertalen in elke taal, zonder de kwaliteit van de video aan te tasten. Dat is natuurlijk ook interessant voor bedrijven die met klanten willen communiceren. Kijk bijvoorbeeld eens naar onderstaande video van het bedrijf Synthesia.

Ook synthetische spraak is de laatste jaren sterk verbeterd. Toch lijkt er nog geen productieklare spraaksynthese te zijn van dezelfde kwaliteit als die van een professionele voice-over of commentaarstem. Op dit moment wordt spraaksynthesetechnologie nog vooral gebruikt voor virtuele assistenten als Google Assistent, Alexa en Siri. Met name in games en audioboeken, rukt synthetische spraak op. Het wordt ook – mondjesmaat nog – ingezet in de nieuwsvoorziening. De Hilversumse startup XS2RADIO deed een pilot voor de regionale zender NH Radio. XS2RADIO verzorgt nu een geautomatiseerde voice-over voor Shownieuws (Talpa Network).

Doelgroepen

Synthetic media kunnen een krachtige technologie zijn voor mediabedrijven die hun inhoud en aanbod willen aanpassen aan verschillende doelgroepen. Wat in het verleden vele uren werk zou vergen, kan met AI in seconden worden gedaan. Daarnaast is deze technologie een sterke tool om werkprocessen efficiënter en goedkoper te maken. In een sector waar verdienmodellen onder druk staan, is dat goed nieuws.

Synthetic media heeft al z’n intrede gedaan in ons leven. Maar niet alle onderdelen van dit ecosysteem bewegen zich in hetzelfde tempo. Hier en daar heeft synthetic media al een plaats veroverd bij het grote publiek. Zoals op social media. Maar de technologie die eraan ten grondslag ligt, is het onderzoeksstadium nog maar net ontgroeid. Bedrijven zoeken nog naar concrete zakelijke toepassingen. Die waardevolle gebruiksmogelijkheden zijn er, maar de ethische vraagstukken ook. Daarom zou het goed zijn als er spelregels komen, zoals het Rathenau Instituut bepleit. Ook voor het inzetten van door AI gegenereerde content in de media. Zodat we ook in de toekomst fake en feiten van elkaar kunnen blijven onderscheiden.