The Human Machine: een levende simulatie van deblack box
Presentator: Remko van der Pluijm & Arjen Kolk
Organisatie: Hogeschool Rotterdam
Doelgroep: VO; MBO; HBO
Onderwerp: The Human Machine: een levende simulatie van deblack box
De kracht van (generatieve) AI is steeds groter aan het worden. Daar komt iedere student mee in aanraking en elke student gebruikt deze wel. Tegelijkertijd komt er een steeds grotere kloof tussen het begrip van studenten hoe zij resultaten krijgen die zij als geloofwaardig achten en het begrip van hoe de AI tot dit concept komt.
Deze workshop laat een methode zien waardoor het tastbaarder wordt wat een AI-model precies doet door het proces van de AI in kleine stapjes inzichtelijk te maken en henzelf hierin een rol te laten spelen. Studenten krijgen hierin een specifieke rol (omzetten naar verwerkbare tokens, analyseren van tokens op basis van wegingen, samenvoegen van wegingen en het komen tot een output) en zien letterlijk wat een specifieke rol aan kennis heeft over de input.
Met behulp van reflectievragen achteraf worden studenten gevraagd om na te denken over wat een AI nu eigenlijk wel ‘weet’ en eigenlijk niet ‘weet’. Hiervoor maken we gebruik van het Chinese Room gedachte-experiment van Searle, waarin gevraagd wordt of de Chinese Room Chinees begrijpt wanneer er alleen een persoon zit met een woordenboek en grammatica die alleen maar regeltjes opvolgt. Ook bespreken we hoe de studenten dit ervaren en hoe deze workshop hen helpt begrip te krijgen van de werking van de AI.
Wat neem je mee?