Pc Websites Computer Classroom  - josechubass / Pixabay

Juinen AI Wereldstad!

Als Nederlandse inzending voor de World City AI Ranking van de Verenigde Naties doen wij ons uiterste best de #1 AI stad te worden!

Lees alles over de WCAIR!

Juinen. Juist nu.

Taalschool Edugo informeert op racistische wijze

Gabriela Rodriguez-Perez keek vreemd op toen ze via chat informatie wou inwinnen over de vernieuwde inburgeringscursus die ze wilde volgen aan taalschool Edugo. Ze kreeg namelijk als antwoord dat president Trump zijn muur nog wat hoger had moeten bouwen en dat ze beter in haar eigen land gebleven was.

Gabriela Rodriguez-Perez, een Mexicaanse studente in Nederland, studeerde de voorbije vier jaar in Juinen en als alles goed gaat, behaalt ze dit schooljaar een Master of Arts in de Nederlandse Taalkunde en Dialectiek. Ze studeerde hard en vond de liefde in haar studiebuddy Cees die haar de reden geeft om in Nederland te blijven.

Hoewel Gabriela de Nederlandse taal grondig beheerst en ze al goed ingeburgerd is, wou ze informeren bij Taalschool Edugo wat de vereisten zijn om de inburgeringscursus te kunnen starten. Ze gebruikte hiervoor de chatfunctie.

“Ik maak vaak gebruik van de chatfunctie bij bedrijven,” zo zegt ze, “overdag ben ik op school en ’s avonds kan ik allerlei zaken regelen. Het gesprek begon vriendelijk, maar toen ik schreef dat ik uit Mexico afkomstig ben, ging het fout. De persoon aan de andere kant antwoordde dat president Trump zijn muur niet hoog genoeg was en dat hij ze nog wat hoger had moeten maken.”

Gabriela was verbouwereerd en belde de volgende dag naar Edugo zelf. In tegenstelling tot de avond ervoor, werd ze daar wel vriendelijk ontvangen.

Technologiedeskundige bij Taalschool Edugo Van Der Wal legt uit hoe de fout kon ontstaan: “Chatbots leren hun taalgebruik aan door de interactie met mensen. In het geval van Taalschool Edugo werd de chatbox ook gebruikt als klachtendienst wanneer je racisme ervaart. Veel mensen vertellen welke beledigende woorden ze naar hun hoofd geslingerd krijgen. Onze chatbot is deze haatdragende taal als normaal beginnen zien waardoor Gabriela dit vreemde antwoord kreeg.”

Gabriela is ondertussen ingeschreven voor een inburgeringscursus en is blij dat ze met een robot chatte en niet met een echt persoon. “Ik hoop wel dat er in de klas niet te veel gebruik gemaakt wordt van technologie”, zegt ze lachend.