Inuti Roblox säkerhetsdrama efter en spänd VD-intervju

Den senaste ROBLOX CEO Interview har drivit länge simmande tvivel om plattformens säkerhetskultur i full vy. Roblox har varit under granskning i flera år, men siffrorna har hårdnat uppmärksamheten. Företaget räknar nu cirka 150 miljoner dagliga aktiva användare, många av dem barn, och registrerade en tidigare intern siffra på mer än 13,000 XNUMX rapporterade fall av utnyttjande av barn under ett enda år.

I The New York Times teknikpodcast Hard Fork fick Roblox medgrundare och vd David Baszucki en direkt fråga om rovdjur som riktar in sig på barn i tjänsten. Hans beslut att beskriva det problemet som "en möjlighet" landade med ovanlig kraft, eftersom det inte kom isolerat utan mot bakgrund av stämningar, modereringsmisslyckanden och politiska strider som redan har sträckt föräldrarnas förtroende till det yttersta.

Tre amerikanska stater - Louisiana, Kentucky och Texas - har lämnat in stämningar som hävdar att Roblox inte har gjort tillräckligt för att skydda minderåriga. I mer än 20 ytterligare fall i federal domstol hävdas att plattformen möjliggjort sexuellt utnyttjande. Samtidigt har Roblox rullat ut AI-driven åldersuppskattning och breddat chattbegränsningar och sedan visat dessa verktyg som bevis på att de ligger före den bredare branschen.

Hard Fork-värdarna Casey Newton och Kevin Roose inramade sina frågor i det sammanhanget. När Newton frågade hur han tänkte på "problemet med rovdjur på Roblox", svarade Baszucki:

"Vi ser det inte nödvändigtvis bara som ett problem, utan också som en möjlighet. Hur gör vi det möjligt för unga människor att bygga, kommunicera och umgås tillsammans? Hur bygger vi framtidens kommunikation på samma gång?" - David Baszucki.

Resten av svaret gjorde det tydligt att han menade en möjlighet att innovera inom moderering och kommunikationsdesign. Formuleringen gjorde dock att en av de mörkaste realiteterna på alla barnplattformar förvandlades till en tillväxtutmaning. För kritiker förstärkte det en misstanke om att Roblox ledning ser säkerhet som ett annat tekniskt problem att optimera snarare än en hård gräns som kan begränsa vad ett företag ska göra.

Under hela ROBLOX CEO Interview fortsatte Baszucki att återvända till skala som både förklaring och sköld. Han noterade att Roblox användare loggar cirka 11 miljarder timmar per månad och pekade på Steal a Brainrot, ett succéspel som nådde 25 miljoner samtidiga spelare under sommaren, som bevis på vad plattformens infrastruktur kan stödja. På frågan om rovdjur har funnit det lätt att kringgå filter avböjde han att svara direkt och sa istället:

"Det är en av de viktigaste sakerna vi gör, att försöka hålla kvar människor på vår plattform... vi försöker alltid ligga steget före." - David Baszucki.

När Newton följde upp och frågade rakt ut om han trodde att Roblox hade ett rovdjursproblem, erkände Baszucki inte förutsättningen.

"Jag tycker att vi gör ett otroligt jobb med att innovera i förhållande till antalet personer på vår plattform och timmarna, när vi verkligen lutar oss in i framtiden för hur det här kommer att fungera." - David Baszucki.

Utbytet utkristalliserade spänningen. På ena sidan ett företag som har ägnat nästan två decennier åt att bygga verktyg för användargenererade spel och communities och som nu lutar sig tungt mot AI-filtrering och åldersuppskattning för att hantera risker. På den andra sidan finns en växande skara föräldrar, tillsynsmyndigheter, kreatörer och intresseorganisationer som menar att den grundläggande frågan förblir obesvarad: räcker det här och vem får bestämma?

Den frågan har skärpts av fall utanför podcasten. Roblox förbjöd nyligen YouTuber Schlep, en skapare som byggde en stor publik genom att iscensätta "rovdjursjakt" -operationer i Roblox-utrymmen. Hans videor, som han hävdar har lett till flera arresteringar, togs bort och hans konto stängdes enligt Roblox regler mot medborgargarden. Anhängare har samlats bakom hashtaggen #freeschlep och hävdar att hans arbete belyste misslyckanden i företagets egna system. För dem lät det som en felaktig tolkning av ögonblicket att höra verkställande direktören kalla rovdjurskrisen en "möjlighet" dagar efter att ha avbrutit en av de mest synliga, om kontroversiella, vakthundarna.

Juridiskt tryck bygger också. Law By Mike, en populär YouTuber och praktiserande advokat, har offentligt signalerat planer på att driva rättsliga åtgärder mot Roblox över påstådda luckor i barnskyddet. Hans engagemang är viktigt eftersom han sträcker sig över två världar: han förstår mekaniken för plattformsstyrning och talar till samma publik av föräldrar och tonåringar som behandlar Roblox som en social allmänning. Tillsammans med de statliga och federala rättegångarna breddar hans tryck den front som Roblox måste försvara sin rekord på.

Inuti Hard Fork-intervjun försökte Baszucki flytta ramen från krishantering till långsiktig arkitektur. Han beskrev det nya systemet för åldersuppskattning i ansiktet - en videoselfie som används för att bedöma en användares ålder innan de tillåter dem att chatta - som ytterligare en signal i en stack som också inkluderar beteendedata och självrapporterad ålder.

"Vi gör redan en hel del saker: Vi har mycket, mycket bra textfilter, det finns ingen bilddelning, vi gör en massa övervakning. Men om vi lägger till ytterligare en signal kan det verkligen hjälpa oss att fatta bra beslut." - David Baszucki.

Han hävdade att plattformen historiskt sett har bytt viss tillväxt mot säkerhet genom att kraftigt filtrera text, och åberopade det gamla memet om Roblox-chatt som kollapsade till "hashtag, hashtag, hashtag" när förbjudna ord blockerades. Med AI kan filtren bli mer precisa och motståndskraftiga mot fientliga taktiker, som att användare försöker koda in kontaktuppgifter genom kodade fraser.

Podcasten, som produceras som en del av The New York Times Podcast-portfölj, stannade inte länge i det tekniska spåret. Roose tog upp en rapport från 2024 från Hindenburg Research som anklagade Roblox för att "äventyra barns säkerhet för att rapportera tillväxt till investerare" och pekade på minskade utgifter för förtroende och säkerhet. Baszucki avskedade företaget med ett skratt. "Kul. Låt oss fortsätta på den här vägen", sa han och konstaterade att Hindenburg sedan dess gått i konkurs och menade att övergången till AI-granskningssystem är likvärdig med att gå från handbyggda bilar till ett löpande band. Poängen, föreslog han, var inte att skära hörn utan att använda bättre verktyg.

Den betoningen på AI sätter Roblox i en bekant kategori. Sociala nätverk tillbringade en stor del av 2010-talet med att lova att automatiserade system skulle rensa upp missbruk och felinformation i stor skala, bara för att upptäcka hårda gränser för vad maskininlärning kan bedöma på ett tillförlitligt sätt. Roose och Newton påminde Baszucki om den historien. Han svarade genom att insistera på att Roblox interna mätvärden visar att filtrering och upptäckt förbättras när nya modeller distribueras, och att plattformens "häpnadsväckande" skala gör den typen av automatisering inte bara effektiv utan nödvändig.

Även inom spel är Roblox modereringsställning under belastning. Intressegrupper som Women In Games, Out Making Games och BAME in Games publicerade nyligen ett öppet brev där de kritiserade företagets utkast till skapanderegler kring "känsliga frågor". "Roblox nyligen föreslagna riktlinjer för skapare gällande 'känsliga frågor' utgör ett steg bakåt för både kreativt uttryck och social rättvisa", hävdade brevet och varnade för att behandling av ämnen som jämställdhet, reproduktiva rättigheter och rasjämlikhet som valfria eller riskabla "känsliga" zoner riskerar att begrava berättelser som är viktiga för unga spelare. - Women In Games, Out Making Games och BAME in Games.

Den kritiken fokuserar inte på rovdjur eller ålderskontroller, men den handlar om samma underliggande problem: vem som sätter gränserna för vad unga användare kan se och diskutera, och vems bekvämlighet dessa beslut tjänar.

Hard Fork-konversationen flyttade så småningom till Polymarket, en kryptovalutabaserad prediktionsplattform som Baszucki berömde som en kraftfull informationssignal. När Roose frågade, halvt skämtsamt, om han någonsin skulle sätta en förutsägelsemarknad inuti Roblox själv, svarade Baszucki jakande och erkände sedan den juridiska komplexiteten. Han svarade på frågan om det skulle vara en "hemsk idé" att göra förutsägelsemarknader till ett spel för barn:

"Jag tycker faktiskt att det är en lysande idé om det kan göras på ett pedagogiskt sätt som är lagligt... bara ett spel som heter Dress to Impress Predictor, där det inte är som att försöka få barnens pengar eller något liknande. Jag skulle vara ett stort fan av det." - David Baszucki.

För ett företag som redan granskas för hur det behandlar minderåriga kommer idén att bygga en spelifierad förutsägelsemotor i Roblox, även utan direkta ekonomiska insatser, att vara svår att skilja från bredare debatter om lootlådor, spelmekanik och digitalt tvång.

På flera punkter noterade Newton att konversationen kändes spänd. Baszucki insisterade på att han inte var frustrerad, bara förvånad över att fokus låg på säkerhet snarare än lättare branschämnen, och beskrev upprepade gånger Roblox position som en "situation med stort ansvar" som också är en "otrolig möjlighet". Han avvisade bilden av en verkställande direktör som tillbringar sina dagar med att titta över axeln och hävdade att företaget har varit förebyggande när det gäller säkerhet "från dag 1" och till och med stoppat tillväxten under de första veckorna för att bygga grundläggande modereringsverktyg.

Det förtroendet genomfördes till slutet av ROBLOX CEO Interview, när Roose ställde en personlig fråga: om Roblox skulle vara tillräckligt säkert när hans egen unga son bad om att spela det. Baszucki gick längre än ett enkelt ja.

"Roblox är en fantastisk plattform just nu för ditt barn", sa han och erbjöd sig att visa interna mätvärden under sekretess om det behövs och tillade att föräldrar förblir "den ultimata ansvarsdomaren." - David Baszucki.

Svaret fångar företagets hållning i miniatyr. Roblox positionerar sig som redan före kurvan, redan säkrare än många kamrater, och använder redan verktyg som andra så småningom kommer att anta. Den olösta frågan är om denna självbedömning matchar erfarenheterna från familjer som har sett grooming- eller exploateringsfall komma fram från plattformen, eller av skapare och förespråkare som säger att deras egna varningar borstades åt sidan tills stämningar och rubriker tvingade fram ett svar.

Inget av detta raderar vad Roblox har byggt. Plattformen har en underhållande roll i den bredare onlinespelsekonomin: den är både en kreativ verktygslåda och ett massivt socialt nav där barn lär sig hur onlinegemenskaper fungerar, på gott och ont. Hard Fork-episoden visar hur bräcklig den positionen kan vara när förtroendet vacklar. Baszuckis kommentarer introducerade inte nya fakta om Roblox säkerhetssystem, men de avslöjade hur företagets ledning rankar sina prioriteringar. Innovation, skala och långsiktig plattformsvision sitter i mitten; tydlig bekräftelse av skada sitter närmare kanten.

Läs också, Roblox överträffar 100 miljoner dagliga aktiva användare, en milstolpe som understryker hur snabbt plattformens publik har vuxit och varför varje beslut om säkerhet, moderering och policy nu har konsekvenser långt bortom en enda ROBLOX VD-intervju.