Liggen we wakker van de ethische aspecten van AI binnen het onderwijs?

AI doet ondertussen volop haar intrede in het onderwijs.  Denken we maar aan het excellente voorbeeld van Eduten Playground – het door AI ondersteunde platform voor rekenen en wiskunde voor 6-15-jarigen - dat we momenteel introduceren in Vlaamse en Nederlandse scholen en dat onlangs nog werd bekroond met de UNESCO Prijs voor kwaliteitsvolle ICT-oplossingen binnen het onderwijs.

Technologie-optimisme, beter werkbare loopbanen voor leraren, verrijkte mogelijkheden voor leraren, betere leeruitkomsten voor leerlingen, positieve impact op motivatie voor leerlingen, verregaande differentiatiemogelijkheden en adaptief leren, … niets dan voordelen dus.

Maar laat ons niet vergeten dat er ook heel wat ethische aspecten verbonden zijn aan de introductie van AI binnen de onderwijscontext.  Recent Brits onderzoek toonde nog aan hoe er vaak achteloos data van kinderen binnen de onderwijscontext wordt ‘geoogst’ zonder dat we goed en wel weten wat er nu allemaal met die data gebeurt.

Voordat we als school AI-ondersteunde platformen aankopen om te introduceren in onze onderwijskundige kernpraktijk, stellen we ons dus toch best als schoolteam eerst even volgende vragen:

• Welke onderwijskundige doelen wensen we te behalen door ondermeer de inzet van AI? Welke informatie heb je ontvangen van de leverancier van het platform en ben je tevreden dat de AI-mogelijkheden oordeelkundig helpen om je doelen te bereiken?
• Op welke manieren wordt AI ingezet om de waarde van formatieve evaluatie te verhogen, de resultaten van leerprocessen in kaart te brengen, het welzijn van de lerenden te verhogen?
• Worden leraren niet ondermijnd in hun onderwijskundige praktijk door het gebruik van de AI?
• Wordt AI op een rechtvaardige manier ingezet en wel zó dat bepaalde groepen van lerenden niet gediscrimineerd worden?
• Wordt bij de invoering van de AI er wel erover gewaakt dat alle lerenden toegang kunnen krijgen tot de AI en ervan kunnen genieten?
• Is de AI-ondersteunde oplossing wel zó vormgegeven dat ze ook geschikt is voor leerlingen met speciale noden?
• Is er wetenschappelijke evidence dat de AI-oplossing onderwijskundige waarde heeft (leerresultaten, leerplezier, …)?
• Welke evidence is er dat het door AI-ondersteunde platform niet aanzet tot verslaving of tot overmatig gebruik, dat veel verder gaat dan de voordelen voor het leren van de lerenden?
• Welke garanties zijn er dat de AI-oplossing voldoet aan alle wettelijke kaders (bv. databescherming)?
• Welke informatie heeft u van de leveranciers ontvangen m.b.t. de opgevraagde data en het gebruik ervan door de leverancier en/of door derden?  Bent u ervan overtuigd dat deze gegevens nodig zijn voor onderwijsdoeleinden, dat de verwerking van deze gegevens de lerenden ten goede zal komen en dat de lerenden overeenkomstig de geldende wetgeving inzake gegevensbescherming hebben ingestemd met het gebruik van hun gegevens op deze manier?
• Onderwijs je leerlingen ook over AI en de impact ervan (opgenomen in curriculum)?
• Welke training krijgen leraren en wat is de inhoud ervan?
• Op welke manier werden relevante stakeholders (leerlingen, leraren, ouders) betrokken bij het design van de AI-oplossing? Welke garanties biedt de leverancier hiervoor?
• Werd de AI-oplossing vormgegeven door professionals die ook getraind waren in de ethische aspecten van AI?

Bij ‘domo de refontiro’ kunnen we je oordeelkundig begeleiden bij de kritische screening van AI-oplossingen in onderwijs, contacteer ons.