In het Verenigd Koninkrijk is de discussie over de verantwoordelijkheid van sociale media volledig opgelaaid nu is gebleken dat bepaalde platforms een belangrijke rol hebben gespeeld bij de dood van de 14-jarige Molly Russell. Zij maakte in 2017 een einde aan haar leven nadat ze op Instagram en Pinterest ontelbaar veel berichten had gelezen over depressie en zelfdoding.
Het overlijden van de 14-jarige Molly uit de Britse plaats Harrow (bij Londen) kwam in 2017 internationaal in het nieuws. De vader van het meisje, Ian Russell, deed vlak na het drama een emotionele omroep aan socialmediaplatforms met de vraag of zij in de toekomst meer willen doen om schadelijke inhoud van hun platforms te weren. Hij was ervan overtuigd dat foto’s en video’s van zelfverminking op onder andere Instagram en Pinterest een belangrijke rol hebben gespeeld in haar keuze om uit het leven te stappen.
Getto van de online wereld
Volgens Russell kwam zijn dochter door al het speuren naar informatie in een soort fuik terecht, waarin zij voortdurend aan schokkende content werd blootgesteld die niet voor minderjarigen bedoeld is. “Als je daar eenmaal aan bent overgeleverd, zorgt het algoritme ervoor dat je er niet aan kunt ontsnappen en steeds meer van dit soort content te zien krijgt.”
Russell omschreef de fuik als het ‘getto van de online wereld’. “Het is tijd om onze onschuldige jonge mensen te beschermen in plaats van sociale mediaplatforms geld te laten verdienen aan de ellende van kinderen”, vertelt hij aan de BBC. “Als dit krankzinnige spoor van levenszuigende inhoud veilig was, zou mijn dochter Molly waarschijnlijk nog in leven zijn. Het wordt tijd dat de giftige bedrijfscultuur in het hart van ‘s werelds grootste socialemediaplatform verandert.”
Duizenden berichten
De gerechtelijk lijkschouwer in Londen stelde een onderzoek in naar de dood van het meisje en kwam deze week inderdaad tot de conclusie dat de ‘negatieve effecten van online berichten’ een rol van betekenis hebben gespeeld. “Molly leed al aan een depressieve aandoening en was door haar leeftijd kwetsbaar”, stelt lijkschouwer Andrew Walker. “Het ligt voor de hand dat ze negatief werd beïnvloed door het materiaal dat ze te zien kreeg en dat het aanzienlijk heeft bijgedragen aan haar overlijden. De platforms normaliseerden haar toestand en concentreerden zich op een beperkt en irrationeel beeld zonder enig tegenwicht van normaliteit.”
Van de laatste fase in haar leven maakte de Britse krant ‘The Guardian’ een uitgebreide reconstructie. Daaruit is gebleken dat Molly in het laatste half jaar voor haar dood ruim 16.000 Instagramposts te zien kreeg. Daarvan gingen er 2100 over depressie en zelfdoding. Op Pinterest, een soort online catalogus vol met afbeeldingen, had het meisje een pagina aangemaakt met honderden foto’s die gingen over haar worsteling met depressie.
Eenvoudiger opsporen en blokkeren
In februari 2019 beloofde Instagram dat het zogeheten sensivity screens zou invoeren om de inhoud van zelfdodingberichten eenvoudiger op te sporen en te blokkeren. Dat gebeurde rond de periode dat een 16-jarig meisje uit Maleisië zelfmoord pleegde nadat ze een poll met de vraag ‘dood of leven’ op Instagram had geplaatst.
“Erg belangrijk, help me kiezen D/L”, stond er bij het bericht. 69 procent van de mensen die stemden kozen voor ‘dood’. De Maleisische minister van Jeugd en Sport reageerde geschokt en vond dat een nationale discussie nodig was. “Ik maak me oprecht zorgen om de geestelijke gezondheid van onze jeugd.”
Prins William
Eerder deze week pleitte prins William via Twitter voor de onlineveiligheid van kinderen. “Geen enkele ouder zou ooit moeten meemaken wat Ian Russell en zijn familie hebben meegemaakt”, schrijft de zoon van koning Charles. “Ze zijn zo ongelooflijk moedig geweest. Onlineveiligheid voor onze kinderen en jongeren moet een voorwaarde zijn, geen bijzaak.”
De prins ontmoette Ian Russell in 2019 in London, schrijft de BBC. Toen William de vader vroeg of socialmediaplatformen zoals Instagram genoeg actie ondernemen om een veilige omgeving te creëren voor kinderen, antwoordde Ian dat Instagram volgens hem “een stuk meer kan doen”. Prins William heeft de laatste jaren openlijk verteld over zijn eigen mentale gezondheid en probeert anderen te stimuleren dat ook te doen.
De vader van Molly gaf gehoor aan die oproep en probeert zijn eigen drama nu om te bouwen tot iets positiefs. “Hoe duister alles soms ook lijkt, er is altijd hoop”, vertelt hij aan de BBC. “En als je worstelt, ga praten met iemand die je vertrouwt, of met één van die fantastische hulporganisaties, in plaats van online berichten op te zoeken die schadelijk kunnen zijn. Hou je sterk, doe wat je kunt voor een lang leven.”
Fouten erkend
Meta, het moederbedrijf van Instagram, heeft intussen fouten erkend en belooft in de toekomst beterschap. “Het bedrijf zet zich in om ervoor te zorgen dat Instagram een positieve ervaring is voor iedereen, met name voor tieners.” Pinterest-directeur Judson Hoffman erkent dat er “inhoud was die verwijderd had moeten worden en dat dat niet is gebeurd”.
Volgens Michelle Donelan, staatssecretaris voor de media, toont het onderzoek van de lijkschouwer aan dat socialmediaplatforms “er niet in slagen het welzijn van kinderen op de eerste plaats te zetten”. “We zijn het aan Molly’s familie verplicht om alles te doen wat in onze macht ligt om te voorkomen dat dit anderen overkomt. Onze online veiligheidswet is het antwoord en hierdoor zullen we de volledige kracht van de wet gebruiken om ervoor te zorgen dat socialemediabedrijven jonge mensen beschermen van afschuwelijk pro-zelfmoord materiaal.”
