De Master Sprak over ChatGPT en Responsible AI
Ruim 120 geïnteresseerden vulden vrijdag 14 april de collegezaal tijdens het kennis- en netwerkevent ‘De Master Spreekt…’. Niet verwonderlijk, ChatGPT en Responsible AI waar het tijdens deze inspiratiesessie allemaal om draait, zijn hot. Voor spreker Paul Verhaar was het even wennen: ‘Normaal zitten er bij mijn colleges over taalmodellen maar elf mensen in de zaal.’
Guido Ongena, associate lector bij lectoraat Procesinnovatie & Informatiesystemen, gaat tijdens zijn inleiding in op de groei van het aantal deeltijdopleidingen en masters bij de HU. Met partners die de casuïstiek uit hun organisatie de klas in brengen, leveren zij een belangrijke bijdrage aan ‘een leven lang leren’. De Master of Informatics in Applied Data Science, met studenten tussen de 25 en 63 jaar, is daar een mooi voorbeeld van. Na de introductie neemt Paul Verhaar, docent bij de mastermodule Data Science for Business en Practice Lead Data Science bij Ordina, de zaal in sneltreinvaart mee in de ontwikkeling van de grote taalmodellen. ‘Taalmodellen bestaan al heel lang, maar het is bizar hoe hard het nu gaat. ChatGPT is een disruptie à la Instagram en Spotify.’
Transformer
‘Aan alle taalmodellen ligt een transformer – in feite een deep learning netwerk – ten grondslag. Als wij een tekst lezen werken we veel met onze periferie, vanuit onze ooghoeken kijken we voor- en achteruit. Mede hierdoor kunnen wij de referenties in tekst goed oplossen. Dat ook een taalmodel hier een notie van heeft – het snapt de context en hoe woorden aan elkaar linken – is de gigantische revolutie waar we nu mee te maken hebben.’
Human in the loop
‘Bij ChatGPT hebben we een ‘human in the loop’: in de trainingsfase geven mensen input op het model, het model leert daarop en geeft vervolgens een antwoord. Daarvan kunnen wij aangeven of het al dan niet klopt waarna ChatGPT het antwoord kan aanpassen. Wat ChatGPT zo vet maakt, is die extra mogelijkheid van interactie. Ik gebruik het zelf bijvoorbeeld als inspiratietool als ik vastloop bij het schrijven van een songtekst. Als ik de uitkomst te ‘donker’ vind, kan ik ChatGPT vragen het iets ‘luchtiger’ te maken. Of er auteursrechten op zo’n gegenereerde tekst rusten, is nog een ongoing discussie. Want wie is de auteur? Nog een waarschuwing: Binnen AI is sprake van een gold rush, er wordt waanzinnig veel geld mee verdiend. Maar de meeste mensen weten niet wat ze doen. Daarom: doe je due diligence, zorg dat je kennis hebt van het domein waarvoor je AI inzet.’
Waar gaan we heen?
‘Het wordt multimodaal: tekst in – tekst uit, tekst in – beeld uit, tekst in – video uit. En ChatGPT kan samenwerken met plug-ins als Klarna, Expedia, etc. Daar ligt nu de business waarde en de kracht van ChatGPT. En taalmodellen worden steeds kleiner waardoor ze niet voorbehouden zijn aan bedrijven in Silicon Valley. Dit zorgt er in de toekomst voor dat je niet meer betaalt met je data, geen dure API hoeft te kopen en je ze op je eigen computer kunt draaien waardoor je ze veel makkelijk kunt hertrainen en domein specifiek kunt maken. Dat betekent een enorme stap richting de democratisering van taalmodellen.’
Marieke Peeters, senior onderzoeker bij het lectoraat Artificial Intelligence en oprichter van Mooncake AI, gaat vervolgens in op verantwoorde AI. ’Ik zie een AI-systeem als een stagiair. Als je die vraagt een presentatie voor je te maken zonder verdere kaders te geven, krijg je iets waar je waarschijnlijk niks aan hebt. Hoe nauwkeuriger je de opdracht – de prompts in AI-jargon – omschrijft, hoe groter de kans dat je iets krijgt waar je wat mee kunt. Dat geldt ook voor een AI-systeem. Maar waar je bij een stagiair vaak al veel informatie hebt over achtergrond, studie en dergelijke, hebben we dat bij AI-systemen nog niet.’
Bias
‘Het is moeilijk om met een AI-systeem als MidJourney een goede afbeelding te genereren. Het resultaat wordt gebiast door de data waarmee het is gevoed. Fire fighters, artsen en prime ministers zijn bijvoorbeeld allemaal man en wit. AI laat het bestaande patroon zien, de menselijke bias. Met goede prompts kun je discriminatie in potentie verminderen en de bias compenseren. En natuurlijk ook door zorgvuldig te kijken naar de data die je erin stopt en het model te tweaken.’
Samenwerking mens-AI
‘Voor 2022 bestond de mens-AI samenwerking voornamelijk uit robots die een bepaalde taak uitvoeren met gebruikers die specifiek op de samenwerking waren getraind. Zoals een chirurg met een operatierobot. Sinds 2022 zijn er systemen als ChatGPT die iedereen gewoon kan gebruiken. Wat dat bijvoorbeeld voor de veiligheid betekent is nu nog niet duidelijk. Ik denk dat we in de toekomst op het verantwoorde gebruik van deze systemen getraind moeten worden. Het is daarnaast interessant om bij de beoordeling van een AI-systeem niet alleen te kijken naar hoe het zelf presteert, maar ook naar hoe het samenwerkt met teamleden. Bij een team moet je inzicht hebben in je eigen kennis en die van de andere teamleden. Er moeten dus ook evaluatiecriteria van de teamprestatie worden vastgesteld waarbij de AI-toepassing als teamlid wordt gezien.‘
Last but not least: de gezellige netwerkborrel
Tijdens de afsluiting geeft Guido Ongena aan dat het in de toekomst draait om de vraag hoe wij omgaan met de snelle ontwikkelingen rondom Responsible AI. Verbieden, zoals in Italië met ChatGPT gebeurt, is in ieder geval niet de oplossing. Na deze woorden haasten de deelnemers zich en masse naar de borrel. Oude bekenden praten bij en nieuwe connecties worden gelegd. Al met al was het een zeer geslaagd (netwerk)evenement waarvan iedereen geïnspireerd huiswaarts keert.
Paul Verhaar & Marieke Peeters