Relationele vaardigheden van kinderen zijn een inspiratiebron voor de ontwikkeling van mensgerichte Kunstmatige of Artificiële Intelligentie (AI). Maar kinderen worden nog te weinig betrokken bij de publieke dialoog over AI-systemen. DesignLab van de Universiteit Twente in Enschede en kinderrechtenorganisatie KidsRights in Amsterdam deden daarom onderzoek dat zij volledig richtten op kinderen en jongeren.

Onderzoek

374 kinderen in de leeftijd tussen de 4 en 16 jaar – de meeste deelnemende kinderen waren tussen de 6 en 13 jaar – deden mee aan dit onderzoek. Dat levert nieuwe, interessante inzichten op die van groot belang zijn voor de ontwikkeling van AI-systemen, stellen de onderzoekers.

Zo vroegen de onderzoekers de kinderen naar positieve en negatieve ervaringen met AI-systemen in hun dagelijks leven, zoals het overnemen van diverse maatschappelijke rollen. Op de vraag of kinderen geholpen willen worden door een robotverkoper in winkels antwoordt 55,3 procent van wel en 41 procent van niet. De meerderheid denkt dat robots hier beter presteren dan mensen.

Op de vraag of een politieagent een robot mag zijn is 54,8 procent tegen en 41,5 procent voor. De groep die tegen is denkt dat robotagenten hun veiligheid kunnen bedreigen. Een robothuisarts vinden de meeste kinderen een slecht idee: 61,3%, ten opzichte van 35,3% die dat wel willen. ‘Ik zou me veiliger voelen bij een normaal mens als huisarts’, reageert een 11-jarige jongen.

‘Kan een robot je vriendje zijn?’

Kinderen geven aan menselijke eigenschappen en waarden belangrijk te vinden en dat deze niet verloren mogen gaan in de ontwikkeling van AI-systemen. AI moet in dienst staan van de mens, die menselijke check is belangrijk voor ze. Zo zien kinderen AI wel zitten als oplossing voor een maatschappelijk relevant probleem, bijvoorbeeld een robot die kinderen helpt met dyslexie. Maar een robot wordt niet als vriend gezien, met name door het gemis van menselijke geletterdheid, troost, humor en empathie.

‘Als een robot gemaakt is om mijn vriend te zijn, zou hij alleen van mij leren. Hoe kan ik dan weten hoe ik anderen gelukkig maak of wat verdriet is? Hoe kan ik leren en mij aanpassen, als ik alleen van een robotvriend leer wat ik aan het doen ben?’, reageert een 8-jarig meisje.

Waarden van kinderen

Gedachten van kinderen vertaald in ethische en sociale waarden:
1. Menselijke geletterdheid – ‘Robots missen menselijke eigenschappen’
2. Emotionele intelligentie – ‘Robots hebben geen emoties’
3. Liefde en vriendelijkheid – ‘Robots geven geen liefde’
4. Authenticiteit – ‘Robots hebben geen eigen mening’
5. Menselijke zorg en bescherming – ‘Robots kunnen niet troosten’
6. Autonomie – ‘Robots mogen niet de wereld overnemen’
7. AI in dienstbaarheid – ‘Robots moeten mij helpen’
8. Uitbundigheid – ‘Robots moeten met mij kunnen spelen’

Ethische beperkingen AI

Kinderen ondervragen naar hun bewustzijn van en ideeën over AI is cruciaal in de ontwikkeling naar meer mensgerichte AI-systemen en voor de discussie wat het betekent mensgericht te zijn, stellen de onderzoekers. Hoofdonderzoeker Karolina La Fors van DesignLab: ‘De ontwikkelingen op het gebied van AI gaan zo snel, dat we niet moeten vergeten ook naar de ethische beperkingen te kijken en wat het betekent voor kinderen. Kinderen dragen ethische standaarden aan waar volwassenen niet aan denken.’

‘Kinderen zijn kwetsbaar’

KidsRights-voorzitter Marc Dullaert roept de Nederlandse overheid op kinderen en jongeren te betrekken bij het opstellen van ethische normen voor mensgerichte AI: ‘Nu lijkt alles wat technisch mogelijk is ons te overkomen, ook de schadelijke effecten. Kinderen en jongeren zijn hierbij uiterst kwetsbaar. We moeten ze daarom beschermen en betrekken en ons door hen laten inspireren. Met dit onderzoek lezen kinderen en jongeren de overheid de les.’

Bron: KidsRights