Roblox och Discord under eld för barnsäkerhetsbrister

Två av internets största lekplatser, Roblox och Discord, är officiellt i hetluften när det gäller barnsäkerhet - och det ser ut som att det kan bli rörigt.

Statliga tjänstemän i Florida och New Jersey inleder allvarliga utredningar om hur dessa plattformar skyddar (eller misslyckas med att skydda) sina unga användare. Roblox, som har vansinniga 85 miljoner dagliga spelare, och Discord, med 200 miljoner månatliga användare, står nu inför juridiskt tryck för att förklara hur de faktiskt håller barnen säkra, inte bara lovar att de gör det.

"Florida Attorney General James Uthmeier har stämt Roblox Corp. för information om hur det marknadsför till barn och dess politik mot rovdjur."

Fokus ligger på om Roblox gör tillräckligt för att förhindra interaktioner mellan barn och potentiella rovdjur. Enligt Uthmeiers kontor vill de ha kvitton: modereringspolicy, hur åldersverifiering fungerar (eller inte) och hur lätt det är för barn att undvika föräldrakontroll.

Roblox svarade och sa:

"Vi har för avsikt att samarbeta med justitieministeriet och ser fram emot att dela med oss av allt arbete Roblox gör för att hålla användarna säkra."

Bra PR-uttalande, men den allmänna opinionen surrar redan - och inte på ett bra sätt.

Bild: Discord

Discord-problem

Om Roblox blir hett, kan Discord stå ännu närmare elden.

New Jersey Attorney General Matthew Platkin stämde just Discord rakt upp och anklagade företaget för att vilseleda familjer om hur säker dess app egentligen är. Stämningen hävdar att Discord utlovade skyddsfunktioner som meddelandefilter men inte levererade. Barnen utsattes fortfarande för fruktansvärda saker - vi pratar om sexuellt övergreppsmaterial för barn, våldsamt innehåll och till och med terrorrelaterad media.

"Discord vilseledde användare och föräldrar genom att överdriva sina säkerhetsfunktioner och misslyckades med att skanna meddelanden även mellan vänner", står det i stämningsansökan.

Oj, oj.

Ännu mer fördömande är att stämningen säger att Discord inte korrekt tillämpar sin egen minimiåldersregel (förmodligen 13+), vilket gör det superlätt för yngre barn att slinka igenom sprickorna.

Discords officiella svar? Ganska defensivt:

"Med tanke på vårt engagemang med justitieministerns kontor är vi förvånade över tillkännagivandet att New Jersey har lämnat in en åtgärd mot Discord idag."

Översättning: "Vänta, stämmer ni oss? Vi trodde att vi var bra?"

Varför blåser det upp nu!?

Båda plattformarna har försökt fixa saker, åtminstone på papper.

Roblox hävdar att de rullade ut 40 säkerhetsuppdateringar bara under 2024, inklusive en stor i november som blockerar barn under 13 år från att komma in i sociala utrymmen som virtuella klubbar. Discord, å sin sida, lät sin VD Jason Citron vittna inför kongressen förra året om barnsäkerhet - precis som företaget förbereder sig för en eventuell börsintroduktion.

Men för många människor (och många föräldrar) känns det som för lite, för sent.

Bloombergs Businessweek rapporterade förra sommaren att Roblox hade allvarliga problem med att hålla rovdjur borta från sin plattform. Sedan 2018 har amerikansk polis arresterat över två dussin individer som anklagas för att ha grooming eller missbrukat offer som de träffade via Roblox. Och insiders säger att problemet är enormt, delvis på grund av den stora skalan på dessa plattformar.

"Anställda på Roblox beskrev bredden på utmaningen att övervaka företagets enorma användarbas."

I grund och botten, även med alla AI, mods och rapporteringssystem på plats, glider dåliga aktörer fortfarande igenom.

"Roblox, Discord i morgon"

Både Roblox och Discord stirrar ner allvarliga juridiska problem, och allmänhetens förtroende är definitivt på linjen.

Om Roblox inte kan visa att dess system är vattentäta riskerar det mer reglering (och arga föräldrar som drar ut sina barn). För Discord kan stämningen inte bara försena börsintroduktionen utan också skada dess rykte precis när det försöker expandera bortom spelcirklar till en bredare social plattform.

Det finns också den större frågan om ansvarsskyldighet. Hur ansvarsfulla bör plattformar vara när de fungerar mer som lekplatser än traditionella sociala nätverk? Och hur realistiskt är det att fullt ut övervaka utrymmen med hundratals miljoner användare?

De här fallen kan skapa viktiga prejudikat för hur appar hanterar barns säkerhet framöver, inte bara för Roblox och Discord, utan för hela internet.

Det här handlar inte bara om två företag som hamnar i trubbel. Det handlar om vem som är ansvarig när virtuella lekplatser blir farliga.