Discord ontbannt ongeveer 200 gebruikers die getroffen zijn door een bug die grid-gebaseerde afbeeldingen als schadelijke inhoud herkende

Ongeveer 200 Discord-accounts zijn hersteld na een bug die ertoe leidde dat gebruikers permanent werden geschorst van de berichtendienst omdat grid-gebaseerde afbeeldingen ten onrechte werden gedetecteerd als bevattend schadelijk materiaal. In het weekend werd gemeld dat een kwetsbaarheid in de AI-moderatietools van Discord ertoe leidde dat de dienst vierkante rasterafbeeldingen onterecht als CSAM bevatte.

"Onze systemen markeren inhoud door deze te vergelijken met bekend schadelijk materiaal. Dit soort gelijkenismatching kan valse positieven opleveren, daarom beoordeelt een lid van ons Trust & Safety-team altijd gemarkeerde inhoud voordat er actie wordt ondernomen," legde Discord uit in een thread op Twitter/X. Er werd gezegd dat de primaire focus van gemarkeerde inhoud is om uploads te pauzeren, in plaats van een gebruiker volledig te verbannen.

De bug veroorzaakte de bans, en de accounts die door de bug werden getroffen zijn beoordeeld en hersteld. Discord onthult dat sinds mei van dit jaar meer dan 8.000 accounts door de bug zijn getroffen, maar allemaal zijn ze weer gedeblokkeerd.

"We weten dat dat geen bevredigende verklaring is als dit jouw account was, en we hadden dit eerder moeten opmerken. We werken aan betere waarborgen zodat dit niet stilletjes opnieuw kan gebeuren, en breder gezien, om ervoor te zorgen dat onze veiligheidssystemen mensen die niets verkeerd hebben gedaan niet straffen," schreef Discord.

Dus, als je had gewacht om je Minecraft-inventaris vol diamanten te laten zien, maar niet door de bug verbannen wilde worden, lijkt het erop dat de patroonherkenningsfuncties van Discord zijn verfijnd om onterechte bans te voorkomen.