Highlight Delft 2024
Prompt-engineering voor GPT-4 en andere taalmodellen
Developer Kris maakt de tourguide voor HighLight Delft 2024. In dit artikel legt hij uit hoe hij vanuit Sping AI inzet, én deelt zes tips waarmee je dit zelf de beste prompts geeft aan een taalmodel.
AI Tourguide
Highlight Delft is hét innovatieve kunst- en en technologie festival van Delft. Aan de hand van kunst, wetenschap en techniek geeft Highlight Delft de toekomst vorm voor het brede publiek. Tijdens het festival ontdek je drie avonden lang een bijzondere blik op de toekomst. Een bijzondere samensmelting van wetenschap, innovatie en creativiteit die Sping op het lijf geschreven staat. Sping sponsort het festival met een tourguide dat gebruik maakt van kunstmatige intelligentie.
"Highlight Delft is een fantastische gelegenheid om te experimenteren. Het technologische festival loopt namelijk voor op de toekomst; kunstenaars laten dingen zien die nu nog niet bestaan, maar in de toekomst wel mogelijk zijn."
Jan Gerard Snip Directeur/oprichter Sping
Large Language Models
Large Language Models (LLM) zijn modellen die het eerstvolgende logische woord voorspellen. Die zijn daar zo goed in geworden dat je ook vragen kan stellen aan het taalmodel. En in de meeste gevallen geeft het correct antwoord. Daardoor kun je met een taalmodel praten zoals met een chatbot. Het bekendste voorbeeld hiervan is natuurlijk Chat-GPT.
Hoe werkt een taalmodel?
Voor de chatbot van Highlight Delft gebruikt Kris GPT-4; de techniek achter Chat-GPT. GPT-4 is een taalmodel gemaakt door OpenAI. GPT-4 is makkelijk te ‘programmeren’ door de chatbot instructies te geven. Deze instructies noem je prompts. Voor Highlight Delft vertelt Kris GPT-4 bijvoorbeeld dat de chatbot een virtuele tourguide is, vragen moet beantwoorden van bezoekers en dat wanneer hij het antwoord niet weet hij dit eerlijk moet toegeven.
Je programmeert de chatbot dus door opdrachten te geven. Deze informatie stuurt het taalmodel naar de server van OpenAI en zij runnen het taalmodel. Dit model voorspelt vervolgens woord voor woord de uitkomst en hieruit volgt informatieve tekst. De chatbot integreer je met een API op je eigen website. Onderaan dit artikel deelt Kris zijn tips voor goede prompts.
Een intelligente chatbot voor Highlight Delft
Het idee van Kris is om deze techniek op de website van Highlight Delft te gebruiken. Highlight Delft staat ervoor om nieuwe technologie te combineren met kunst. Een taalmodel is een heel toegankelijke manier om mensen te laten zien en ervaren wat er nu technisch mogelijk is. Kris maakt voor ieder kunstwerk op Highlight Delft een chatbot. Deze chatbots zijn via een QR-code te bereiken. En die QR-codes kun je scannen bij de verschillende kunstwerken op het festival.
Kunst en technologie zijn soms erg abstract en diepgaand en roepen veel verschillende vragen bij mensen op. Daarom is het interessant dat bezoekers zelf vragen stellen aan de chatbot, in plaats van een standaard informatiebordje te lezen. Zo vraag je de chatbot bijvoorbeeld: “Waarom knippert er een blauw licht bij dit kunstwerk?”. Kris en Highlight Delft voeden het taalmodel met informatie over de kunstwerken en daarnaast gebruikt het informatie op internet. En daarmee beantwoordt de artificial intelligent tourguide alle vragen over de kunstwerken op Highlight Delft.
Benieuwd wat voor antwoord de Highlight Delft chatbot op een vraag zou geven?
Vraag: Wie is Sophia Bulgakova? En wat voor kunstwerk heeft ze?
Antwoord:
Sophia Bulgakova is een interdisciplinaire kunstenaar, geboren in 1997 in Odesa, Oekraïne, die momenteel woont en werkt in Den Haag. Ze heeft een achtergrond in ArtScience en haar werk bevindt zich op het snijvlak tussen kunst, technologie en maatschappij. Bulgakova legt zich toe op het verkennen van de relatie tussen licht, perceptie en verbeelding. Ze gebruikt verschillende zintuiglijke ingangen in haar installaties en performances om de waarneming van toeschouwers te beïnvloeden en nieuwe mogelijkheden te verkennen.
Een van haar opmerkelijke kunstwerken is "YOU ARE SOURCE PROJECTION AND REFLECTION" uit 2019, een projectiegebaseerde installatie die de begrippen van fysieke ruimte en non-lineaire leesbaarheid in beweging onderzoekt. Deze installatie creëert een oneindigheid aan mogelijke composities waarbij de verbeelding van de toeschouwer centraal staat. Het publiek wordt uitgenodigd om de ruimte individueel te verkennen door zich onder te dompelen in een omgeving van samenvloeiende woordenwolken, waarbij transparante schermen worden gebruikt om te navigeren. Het project werd ontwikkeld in samenwerking met het Summer Sessions Network for Talent Development, Metamedia Association en V2_ Lab for Unstable Media.
Zou u meer willen weten over haar artistieke aanpak, technieken of specifieke werken?
Een andere interessante toepassing van een taalmodel is om bij te houden welke vragen bezoekers stellen. Al die vragen slaat het taalmodel op in een logboek. Dit geeft inzicht in de interesses van bezoekers en geeft het festival veel feedback.
Nieuwe toepassing van technologie
De technologie achter deze taalmodellen bestaat pas een jaar. Er zijn al verschillende toepassingen, maar als persoonlijke tourguide heeft Sping dit niet eerder gezien. Het is dus een echte innovatie en we zien veel potentie voor andere festivals, musea en culturele evenementen. Kris bouwt dit nu voor Highlight Delft en dragen daarmee bij aan de missie van het festival om mensen technologie te laten ervaren. En tegelijkertijd is het voor Sping een test voor een eventuele bredere toepassing van deze technologie.
Kris betrekt ook zijn collega’s bij deze nieuwe techniek. We testen intern bijvoorbeeld een nieuwe manier van applicaties bouwen met behulp van taalmodellen. Dit project voor Highlight Delft is daarmee ook een experiment voor ons; zowel wat betreft de nieuwe techniek, als de nieuwe toepassing van AI.
"We moeten echter niet blindelings vertrouwen op de informatie van een taalmodel. Het gevaar van een taalmodel is dat niet alles wat het zegt inhoudelijk correct is. Net als dat niet alles wat op internet staat waar is, moeten mensen leren dat niet alles wat Chat-GPT of een ander taalmodel zegt waar hoeft te zijn. Het taalmodel is namelijk heel goed in overtuigende teksten schrijven, zelfs als deze het antwoord niet weet."
Kris van Melis Ontwikkelaar Tourguide HighLight Delft 2024
6 tips voor prompt engineering
Wil je zelf aan de slag met GPT-4 of een ander taalmodel? Bij het gebruik van een taalmodel is het allerbelangrijkste om de juiste opdrachten - ook wel: prompts - te geven. Kris deelt een aantal van zijn tips voor de beste prompts:
1. Geef je taalmodel een rol
Voor Highlight Delft vertelt Kris GPT-4 dus dat de chatbot een tourguide is. Maar wil jij een assistent die helpt bij het opstellen van teksten? Vertel de chatbot dan dat het een tekstschrijver is. Geef een duidelijke voorstelling van de functie, rol en doel van de chatbot en ga daarna pas je vragen stellen. Bijvoorbeeld dat je een creatief verhaal wilt over het gevaar van taalmodellen. Om GPT-4 beter te sturen geef je zelf de titel van het artikel en de onderwerpen van de alinea’s mee.
2. Splits je opdrachten op
Een taalmodel is in principe heel goed in meerdere opdrachten tegelijk uitvoeren. Bijvoorbeeld: schrijf een samenvatting en vertel welke bronnen je hebt gebruikt. Maar als je te veel opdrachten geeft, dan gaat het fouten maken. Een oplossing hiervoor is het taalmodel te vragen welke stappen nodig zijn om een opdracht uit te voeren. Bijvoorbeeld: beschrijf de stappen die nodig zijn om een samenvatting met bronverwijzing te maken van alle kunstwerken van Highlight Delft. Het taalmodel geeft je een stappenplan en vervolgens laat je het taalmodel zelf stap voor stap de opdracht doen.
3. Geef je taalmodel een persoonlijkheid
Een persoonlijkheid is natuurlijk leuk. Maar het helpt mensen ook te begrijpen dat je chatbot een foutje kan maken. Fouten maken is immers menselijk, terwijl we denken dat computers geen fouten maken. Maar foutieve informatie komt helaas nog vaak voor bij taalmodellen. Als je chatbot zegt ‘Hallo mijn naam is Sara en ik doe mijn best om jouw vragen te beantwoorden, maar ik maak weleens een foutje’, dan hebben mensen daar meer begrip voor.
4. Vertel je chatbot eerlijk te zijn als ‘ie het antwoord niet weet
Het klinkt erg simpel, maar als je het taalmodel vertelt dat het aan moet geven wanneer het niet zeker is van een antwoord, dan doet deze dat ook. Zo verklein je de kans op foutieve informatie.
5. Lever een bestand met extra informatie aan
Maak je een chatbot voor een evenement als Highlight Delft en wil je dat deze ook algemene vragen beantwoordt? Bijvoorbeeld ‘Waar zijn de toiletten?’. Grote kans dat deze informatie niet op internet staat. Voor dit soort informatie kun je zelf een bestand bijvoegen in GPT-4.
6. Suggereer vragen voor je gebruikers
Door voorbeeldvragen aan te leveren voor je gebruikers maak je duidelijk hoe zij de chatbot kunnen gebruiken. Dit laat bijvoorbeeld ook al zien dat zij vragen moeten stellen, in plaats van zoekwoorden invoeren zoals je bij Google doet.
Ben je benieuwd naar de techniek achter de AI-tourguide chatbot?
Met deze tips kom je vast al een heel eind bij het inrichten van jouw eigen chatbot op basis van GPT-4. Heb je toch nog vragen of laat je het liever aan Kris en zijn collega’s over? Neem vrijblijvend contact met ons op.
Kunnen we met je meedenken?
Jan Gerard Snip - Founder