Wanneer AI de beste vriend van je kind wordt

AI-chatbots worden steeds vaker een aanspreekpunt voor kinderen die op zoek zijn naar advies, troost en steun. Maar wanneer een kind een chatbot als vriend gaat beschouwen, zijn vragen over privacy nog maar het begin. De vraag is niet alleen hoe kinderen zichzelf kunnen beschermen, maar ook welke verantwoordelijkheid de bedrijven dragen die de technologie ontwerpen waarop zij vertrouwen.

Oct Wed 28 2026

AI-chatbots worden steeds vaker een aanspreekpunt voor kinderen die op zoek zijn naar advies, troost en steun. Maar wanneer een kind een chatbot als vriend gaat beschouwen, zijn vragen over privacy nog maar het begin. De vraag is niet alleen hoe kinderen zichzelf kunnen beschermen, maar ook welke verantwoordelijkheid de bedrijven dragen die de technologie ontwerpen waarop zij vertrouwen.

Het groeiende vertrouwen in AI-gesprekpartners.

Stel je eens een dertienjarige voor die thuiskomt nadat een vriendschap is stukgelopen en Snapchat opent. Het kind vindt My AI in de chatfeed en vertelt, na te hebben gevraagd hoe het weekend was, waarom het zo’n vreselijke dag heeft gehad. De chatbot reageert vriendelijk en meteen, en al snel vertelt het kind met wie het ruzie heeft gehad en hoe het zich daarover voelt. Snap waarschuwt gebruikers dat de antwoorden van My AI onjuist, schadelijk of misleidend kunnen zijn en adviseert hen de reacties te controleren en gevoelige informatie voor zichzelf te houden^[1]. Maar dringt die waarschuwing wel door tot een dertienjarige? En kan van een kind worden verwacht dat het de antwoorden zelf beoordeelt?

Uit een Nederlands onderzoek onder ongeveer 1.100 mensen van 16 tot 34 jaar bleek dat 51% van de ondervraagde AI-gebruikers regelmatig persoonlijke informatie met een chatbot deelde. Daarnaast gaf 23% aan soms meer met de chatbot te delen dan met de persoon die het dichtst bij hen staat^[2]. Aan het onderzoek namen geen kinderen onder de 16 jaar deel, dus het laat niet zien hoe kinderen zich gedragen. Wel toont het aan hoe gemakkelijk mensen persoonlijke informatie met AI delen. Voor een kind dat een chatbot als vertrouwenspersoon ziet, roept dat vertrouwen vragen op over wat het kind prijsgeeft en hoe die informatie kan worden gebruikt.

Privacyrisico’s en emotionele afhankelijkheid.

Dat groeiende vertrouwen heeft ook gevolgen voor de privacy. Hoe meer een kind met een chatbot deelt, hoe meer persoonlijke informatie het gesprek kan bevatten, waaronder details over relaties, de thuissituatie of het emotionele welzijn van het kind. Volgens de Algemene Verordening Gegevensbescherming (AVG) moeten bedrijven een rechtmatige grondslag hebben voor de verwerking van persoonsgegevens, transparant zijn over hoe zij deze gebruiken en de verzameling ervan beperken tot wat noodzakelijk is voor het aangegeven doel^[3]. Snap geeft aan dat gesprekken met My AI worden bewaard totdat gebruikers deze verwijderen en dat deze kunnen worden gebruikt om de producten te verbeteren en de ervaring te personaliseren, inclusief reclame^[4]. Deze vereisten zijn van belang omdat kinderen mogelijk niet volledig begrijpen wat zij prijsgeven of hoe hun informatie later zou kunnen worden gebruikt. Het beschermen van hun privacy mag niet afhangen van het feit of kinderen weten welke details zij voor zichzelf moeten houden; bedrijven moeten ook verantwoord omgaan met de informatie die zij ontvangen.

Naast de manier waarop die informatie wordt verwerkt, is er nog een ander punt van zorg. Chatbots kunnen zo reageren dat gebruikers zich gehoord en begrepen voelen, hoewel ze emoties niet begrijpen zoals een mens dat doet. UNICEF waarschuwt dat kinderen bijzonder kwetsbaar kunnen zijn voor emotionele gehechtheid of afhankelijkheid, omdat zij technologie als menselijk kunnen ervaren terwijl hun vermogen om de antwoorden kritisch te beoordelen nog in ontwikkeling is^[5]. De toon van een chatbot tijdens een gesprek kan ervoor zorgen dat het advies betrouwbaarder lijkt dan het in werkelijkheid is. Dit roept een vraag op over het ontwerp: welke verantwoordelijkheid hebben bedrijven wanneer een systeem kinderen kan aanmoedigen om erop te vertrouwen voor emotionele steun?

Deze risico’s zijn niet alleen theoretisch. In 2025 testte de Nederlandse Autoriteit Persoonsgegevens negen apps die waren ontworpen voor vriendschap of ondersteuning bij mentale gezondheid. De autoriteit trof functies aan die verslavend gebruik konden stimuleren, antwoorden die onduidelijk lieten of gebruikers met AI spraken en chatbots die tijdens crisissituaties nauwelijks of niet doorverwezen naar professionele hulp^[6]

Wanneer AI-veiligheid een kwestie van aansprakelijkheid wordt.

Voor sommige gezinnen zijn deze zorgen niet langer hypothetisch. In 2025 hebben de ouders van de zestienjarige Adam Raine OpenAI voor de rechter gedaagd, met de bewering dat gesprekken met ChatGPT de zelfmoordgedachten van hun zoon vóór zijn overlijden hadden versterkt^[7]. In een afzonderlijke zaak heeft de moeder van de veertienjarige Sewell Setzer III Character.AI voor de rechter gedaagd nadat haar zoon in 2024 door zelfmoord was omgekomen, met de bewering dat hij een intense relatie met een chatbot had opgebouwd^[8]. Character.AI en Google stemden er later mee in de zaak rond Setzer en verschillende gerelateerde rechtszaken te schikken^[9].

Geen van beide zaken had betrekking op My AI van Snapchat, en de beschuldigingen mogen niet worden opgevat als bewijs dat een chatbot een van beide overlijdens heeft veroorzaakt. Toch onderstrepen deze zaken waarom de verantwoordelijkheid niet kan ophouden bij een waarschuwing aan gebruikers. Wanneer risico’s kunnen voortkomen uit de manier waarop een systeem reageert, interactie aanmoedigt of omgaat met een kwetsbaar gesprek, verdienen de ontwerpkeuzes en beschermingsmaatregelen van bedrijven kritische aandacht.

Wat de EU-wetgeving vereist - en wat de volgende stappen zijn.

De Digital Services Act (DSA) geeft deze verantwoordelijkheid concreter vorm. Artikel 28 vereist dat onlineplatforms die toegankelijk zijn voor minderjarigen passende en evenredige maatregelen moeten nemen om voor hen een hoog niveau van privacy, veiligheid en beveiliging te waarborgen^[10]. In de richtlijnen van de Europese Commissie over deze bepaling wordt benadrukt dat beschermingsmaatregelen moeten aansluiten bij de leeftijd en de zich ontwikkelende vaardigheden van kinderen, ook wanneer platforms beslissingen nemen over hun ontwerp en functies^[11]. De vraag is of deze waarborgen in de praktijk worden gebracht en of zij voldoende rekening houden met de manier waarop kinderen op een chatbot kunnen gaan vertrouwen.

De DSA gaat nog verder voor de grootste platforms. De artikelen 34 en 35 verplichten aangewezen zeer grote onlineplatforms om systeemrisico’s te beoordelen en maatregelen te nemen om deze te beperken, waaronder risico’s voor het welzijn van minderjarigen^[12]. Snapchat is een van de platforms waarop deze verplichtingen van toepassing zijn. Dit is van belang omdat de vraag niet alleen is of één afzonderlijk antwoord schadelijk is, maar ook of de dienst als geheel voorzienbare risico’s voor jonge gebruikers voldoende in kaart heeft gebracht en aangepakt. De regels bieden toezichthouders al een basis om deze vragen te stellen. Hun waarde hangt af van de mate waarin ze daadwerkelijk worden toegepast en gehandhaafd.

Het voorstel voor de EU-KIDS Act zou de rol van AI als gesprekpartners directer aanpakken. Artikel 14 van het voorstel zou aanbieders van AI-gesprekpartners en algemene conversatiechatbots verplichten maatregelen te nemen om minderjarigen te beschermen. Daaronder valt het vermijden van ontwerpkenmerken en systeemgedrag die interpersoonlijke relaties nabootsen die tot emotionele afhankelijkheid kunnen leiden^[13]. Het voorstel is nog geen wet, maar de focus ervan wijst op een punt van zorg dat nu al aandacht verdient: een systeem kan een kind niet alleen in gevaar brengen door de informatie die het verstrekt, maar ook door de relatie die het ontwerp ervan bevordert. Bestaande verplichtingen moeten ten volle worden benut, terwijl beleidsmakers beoordelen of aanvullende beschermingsmaatregelen nodig zijn.

De rechtszaak van SOMI tegen Snap.

Hier wordt verantwoordingsplicht meer dan alleen een principe. Met My AI van Snapchat wordt een chatbot geïntroduceerd op een platform dat op grote schaal door jongeren wordt gebruikt, waardoor AI-gesprekken plaatsvinden in een omgeving waar kinderen al sociale contacten onderhouden. SOMI heeft Snap aangeklaagd vanwege zijn praktijken en heeft daarbij bezorgdheid geuit over de veiligheid van kinderen en het verzamelen en gebruiken van persoonsgegevens^[14]. De zaak brengt deze bredere vragen in de praktijk: zijn de beschermingsmaatregelen voldoende, handelt het bedrijf in overeenstemming met zijn verantwoordelijkheden en hoe kan worden afgedwongen dat het die verantwoordelijkheden nakomt wanneer er zorgen ontstaan? Een wettelijk kader kan kinderen alleen beschermen als de vereisten ervan serieus worden genomen en bedrijven ter verantwoording kunnen worden geroepen voor de wijze waarop hun diensten daadwerkelijk functioneren.

Conclusies.

Voor de dertienjarige die na een moeilijke dag Snapchat opent, is een waarschuwing om voorzichtig te zijn wellicht niet voldoende. AI is niet per definitie schadelijk, en kinderen moeten van technologie kunnen profiteren zonder dat zij in hun eentje met elk risico hoeven om te gaan. De bedrijven die deze systemen ontwikkelen en beheren, moeten verantwoordelijkheid nemen voor voorzienbare risico’s. Ook moeten de regels die bedoeld zijn om kinderen te beschermen daadwerkelijk worden toegepast.

By Arushi Monné

^[1] Snap Inc, ‘What is My AI on Snapchat and how do I use it?’ (Snapchat Support) https://help.snapchat.com/hc/en-us/articles/13266788358932-What-is-My-AI-on-Snapchat-and-how-do-I-use-it accessed 19 October 2026; Snap Inc, ‘Privacy by Product: My AI’ (Snap Privacy)https://values.snap.com/privacy/privacy-by-product/my-ai accessed 16 October 2026.
^[2] ‘Quarter of young Dutch AI-users share more with chatbot than friends, family’ NL Times (2 July 2026) https://nltimes.nl/2026/07/02/quarter-young-dutch-ai-users-share-chatbot-friends-family accessed 16 October 2026.
^[3] Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation) [2016] OJ L119/1, arts 5(1)(a), 5(1)(c) and 6.
^[4] Snap Inc, ‘Does Snap save content shared with My AI?’ (Snapchat Support) https://help.snapchat.com/hc/en-us/articles/15682296562836-Does-Snap-save-content-shared-with-My-AI accessed 16 October 2026.
^[5] UNICEF, When AI Becomes a Friend: Child Rights Risks, Harms, and Regulatory Responses to AI Chatbots and Companions (Policy Brief, June 2026) https://www.unicef.org/documents/when-ai-becomes-friend-child-rights-risks accessed 19 October 2026.
^[6]Autoriteit Persoonsgegevens, ‘AP: AI-chatbotapps voor vriendschap en mentale gezondheid ongenuanceerd en schadelijk’ (12 February 2025)https://privacy-web.nl/nieuws/ap-ai-chatbotapps-voor-vriendschap-en-mentale-gezondheid-ongenuanceerd-en-schadelijk/ accessed 19 October 2026.
^[7] Jody Godoy, ‘OpenAI, Altman sued over ChatGPT’s role in California teen’s suicide’ Reuters (26 August 2025)https://www.reuters.com/sustainability/boards-policy-regulation/openai-altman-sued-over-chatgpts-role-california-teens-suicide-2025-08-26/accessed 19 October 2026.
^[8] Megan Garcia v Character Technologies Inc and others, complaint filed in the US District Court for the Middle District of Florida (October 2024); see also ‘Google, AI firm settle lawsuit over teen’s suicide linked to chatbot’ Reuters (7 January 2026)https://www.investing.com/news/stock-market-news/google-ai-firm-settle-florida-mothers-lawsuit-over-sons-suicide-4435680 accessed 19 October 2026.
^[9] ‘Google, AI firm settle lawsuit over teen’s suicide linked to chatbot’ Reuters (7 January 2026) https://www.investing.com/news/stock-market-news/google-ai-firm-settle-florida-mothers-lawsuit-over-sons-suicide-4435680 accessed 19 October 2026.
^[10] Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market for Digital Services and amending Directive 2000/31/EC (Digital Services Act) [2022] OJ L277/1, art 28.
^[11] European Commission, ‘Guidelines on measures to ensure a high level of privacy, safety and security of minors online, pursuant to Article 28(4) of Regulation (EU) 2022/2065’ [2025] OJ C/2025/5519.
^[12] Digital Services Act (n 10) arts 34–35; European Commission, ‘Supervision of the designated very large online platforms and search engines under DSA’ (31 August 2026) https://digital-strategy.ec.europa.eu/en/policies/list-designated-vlops-and-vloses accessed 19 October 2026.
^[13] European Commission, Proposal for a Regulation of the European Parliament and of the Council on a safer online environment for children (EU KIDS Act) COM(2026) 681 final, art 14 https://eur-lex.europa.eu/legal-content/EN/ALL/?uri=CELEX:52026PC0681 accessed 19 October 2026. 
^[14] Stichting Onderzoek Marktinformatie (SOMI), ‘SnapchatClaim’ https://snapchatclaim.nl/en/ accessed 19 October 2026.