Highlights MediaTalk- AI in Media: IBM ‘behind the curtains’

Is Artificial Intelligence een soort magische technologie die alles kan oplossen? Volgens Eduardo Barbaro, AI principal bij IBM, is dat niet zo. Er komt veel kijken bij het ontwikkelen van goede AI-toepassingen en er gaan nog vaak dingen mis. In de MediaTalk van 11 mei, vertelde hij hierover en gaf ons een kijkje in de keuken bij IBM.

Goede data zijn cruciaal

AI is een logische combinatie tussen statistieken, wiskunde, visualisatie, datatechnologie en computerwetenschappen. Waar deze termen lang geleden als losse elementen gezien werden, kwam men er na verloop van tijd achter dat je ze gezamenlijk nodig hebt voor maken van machines die de menselijke intelligentie kunnen nabootsen.

Om dit te kunnen nabootsen maken AI-systemen gebruik van verschillende soorten data. Onze mobiele apparaten geven tegenwoordig een aardig inkijkje in onze gewoontes en leefstijlen. De aanbevelingen die jij krijgt van Netflix, zijn bijvoorbeeld gebaseerd op je kijkgedrag, de genres die je leuk vindt, maar ook op het tijdstip waarop je het liefste kijkt en hoe vaak je op de pauzeknop drukt. Op basis van eerdere data die het AI-systeem aan elkaar koppelt, kan de perfecte aanbeveling gedaan worden.

Goede data zijn dus cruciaal voor het doen van de juiste aanbevelingen. Hoe meer goede data je een model geeft, hoe beter deze zich zal ontwikkelen en in staat zal zijn betere beslissingen te nemen. Eduardo benadrukt: “Een model kan alleen zo goed zijn als de data waarmee het is gevoed.” Maar hoe bepaal je wat goede data is?

Menselijk ingrijpen

Een computer kan verbanden zien in data terwijl die er helemaal niet zijn. Neem bijvoorbeeld het aantal mensen wat verdronken is door de jaren heen, tegenover het aantal films waar acteur Nicolas Cage in heeft gespeeld. In een jaar waarin het verdronken aantal mensen afneemt, zie je ook een dipje in de filmcarrière van Cage. Stijgt het aantal verdronken mensen, dan verschijnt Cage ineens in meer films. Hoewel de getallen wel degelijk verband houden met elkaar, is er geen enkel causaal verband tussen deze gebeurtenissen. Wij kunnen dat logisch redeneren, maar een computer is niet in staat om die nuance te zien. In dit geval is menselijke inmenging dus noodzakelijk.

Vooroordelen door AI

Volgens Eduardo is het belangrijk om bij de ontwikkeling van AI, rekening te houden met het waarborgen van de veiligheid, beveiliging en ethiek. Bij IBM ligt de focus op vijf gebieden:

• Value-alignment: AI-modellen moeten dezelfde normen en waarden toepassen in hun keuzes als wij mensen zouden doen;
• Explainability: Er moet logica zitten achter de beslissingen die een AI-model maakt, of aanbevelingen die het doet;
• User data rights: Mensen moeten het recht hebben om hun data in te kunnen zien en daarover te beslissen;
• Accountability: Een computer kan nooit verantwoordelijk gehouden worden voor bepaalde acties;
• Fairness: AI-modellen mogen geen vooroordelen hebben en neutraal zijn in hun oordeel.

Op het gebied van vooroordelen gaat er nog een hoop mis. Neem een AI-systeem uit Australië waarbij je een paspoort foto kon uploaden. Mensen met een Aziatische achtergrond kregen continu de melding dat hun foto niet goed was: ze zouden hun ogen dicht hebben. Hierbij ontbrak er dus informatie in het AI-model over andere etniciteiten.

Of neem een fout in Google Translate die inmiddels is hersteld: in de Finse taal is er geen onderscheid tussen hij en zij. Haalde je een stukje tekst door Google Translate, dan baseerde het AI-model de vertaling op vooroordelen. Zinnen waar de woorden ‘baas’ en ‘astronaut’ in voorkwamen werden automatisch gekoppeld aan de mannelijke vorm, Hij. Woorden als ‘schoonmaken’ en ‘voor de kinderen zorgen’ werden gezien als vrouwelijk en gekoppeld aan Zij. Als AI-beoefenaar heb je dus een verantwoordelijkheid om ervoor te zorgen dat dit soort fouten niet gemaakt worden.

De toekomst van AI

Volgens Eduardo wordt Artificial Intelligence vaak te veel gehypet, waardoor mensen er een verkeerd beeld van krijgen. AI is niet de oplossing voor alles maar, mits het goed wordt gebruikt, kan het ons leven wel een stuk gemakkelijker maken. IBM heeft voor tennistoernooi Wimbledon een ‘AI highlights system’ ontwikkeld. Het legt de hoogtepunten vast van meerdere wedstrijden die tegelijkertijd gespeeld worden. Uiteindelijk rolt er twee minuten na de wedstrijd een geautomatiseerde samenvatting uit.

Maar AI kan ook een maatschappelijke impact hebben. IBM werkt al sinds 2012 aan de ‘IBM Debater’, een AI-model waar je als mens mee kunt debatteren. Deze ‘Debater’ kan je helpen om overtuigende argumenten te bedenken en zou besluitvormers in staat kunnen stellen om beter geïnformeerde beslissingen te nemen.

Voorlopig kunnen deze AI-systemen nog niet zonder mensen. Eduardo: “Mooie dingen komen niet van een computer, het wordt pas goed als mensen zich ermee gaan bemoeien.”

How normal am I?

Ben je benieuwd hoe een AI-model jouw gezicht beoordeelt? Doe dan de test: How normal am I? Luister ook naar het commentaar, dan hoor je welke data er allemaal van je bewaard kan worden…