Afbeeldingsbron: Getty
Invoering
Videogames zijn getransformeerd in enorme digitale netwerken die miljarden mensen over de hele wereld met elkaar verbinden. Deze snelle expansie brengt echter een zorgwekkende realiteit met zich mee. Terroristische organisaties en extremistische groeperingen maken geleidelijk gebruik van spelplatforms om goedgelovige individuen in de val te lokken door online spelplatforms te misbruiken en geografische barrières te omzeilen om jongeren wereldwijd te betrekken.
Wereldwijd is het online gamen aanzienlijk gestegen als gevolg van de COVID-19-pandemie. Deze mondiale distributie benadrukt de wijdverbreide aantrekkingskracht en groei over de continenten heen, en onderstreept daarmee een robuuste mondiale gamingcultuur. Ook India is getuige geweest van een explosieve groei in de sector, aangedreven door goedkope smartphones, lage datakosten en sociale verschuivingen tijdens de COVID-19-pandemie.
Terroristische organisaties en extremistische groeperingen maken geleidelijk gebruik van spelplatforms om goedgelovige individuen in de val te lokken door online spelplatforms te misbruiken en geografische barrières te omzeilen om jongeren wereldwijd te betrekken.
Dit artikel duikt in de donkere kant van het bloeiende digitale landschap en onderzoekt hoe extremistische groepen gamingplatforms exploiteren om hun invloed te verspreiden en spelers te radicaliseren. Het onderzoekt de methoden die deze groepen gebruiken, zoals het veranderen van de inhoud van games, het azen op onervaren spelers en het manipuleren van sociale kenmerken om gesloten radicale kringen binnen games te creëren. Het bespreekt ook hoe deze strategieën in het algemeen een afspiegeling zijn van online technieken voor het targeten van jongeren voor het verspreiden van radicale ideologieën. Ten slotte biedt het artikel strategieën voor game-ontwikkelaars om deze problemen aan te pakken, en zo bij te dragen aan de veiligheid en privacy van gebruikers.
Stijgend aantal online gamers
Figuur 1: Mondiale verdeling van gamers per regio (in miljoen)
Bron: Eerdere gegevens
De verwachting is dat de Indiase gamingsector tegen FY25 met 20 procent zal groeien tot een geschatte INR 253 miljard, wat het snelgroeiende gaminglandschap van het land onderstreept. Alleen al in 2023 had India ongeveer 100.000 mensen in dienst, en tegen 2025 zullen dit er naar verwachting 250.000 zijn. Een rapport van Thornton Bharat en de E-Gaming Federation, Bewakers van veilig spelen: ethisch gamen voor een levendig Bharatbenadrukt dat India het op een na grootste gebruikersbestand heeft, alleen overtroffen door China, waardoor het land wordt gepositioneerd als een gaming-grootmacht. Het downloaden van mobiele games in India is gestegen naar 9,66 miljard in 2023, tegen 5,2 miljard in 2022, met populaire games als Ludo Koning En Gratis vuur Max bijdragen aan deze ongekende groei.
Figuur 2: Vergelijking van online gamers en marktinkomsten (US$) in China, India en de Verenigde Staten
Bron: Staatsman
Extremistische activiteiten op spelplatforms
Terroristische organisaties en extremisten maken steeds meer gebruik van spelplatforms om te rekruteren en te radicaliseren. Een veel voorkomende tactiek is het aanpassen van in-game-items, zoals karakterskins, omgevingen of verhaallijnen, om extremistische waarden te weerspiegelen. Volgens het Global Project Against Hate and Extremism zijn extremistisch gemodificeerde games zoals Counter-Strike: mondiaal offensief (CS: GO) introduceren blanke nationalistische insignes of extreemrechtse extremistische verhalen, waardoor een omgeving ontstaat waarin spelers deze overtuigingen passief kunnen tegenkomen of zelfs overnemen. Spelletjes zoals Plichtsroep hebben ook aangepaste modificaties (wijzigingen) met politieke of nationalistische ondertoon gezien door terreurgroepen zoals de Islamitische Staat, waardoor radicale ideologieën normaal lijken door frequente blootstelling.
Spelletjes zoals Plichtsroep hebben ook aangepaste modificaties (wijzigingen) gezien met een politieke of nationalistische ondertoon door terreurgroepen zoals de Islamitische Staat, waardoor radicale ideologieën normaal lijken door frequente blootstelling.
Deze meeslepende spellen zijn effectief omdat ze spelers gedurende langere perioden boeien, waardoor er mogelijkheden worden gecreëerd voor extremisten om gemeenschappen te bevorderen die spelers in de loop van de tijd heimelijk hersenspoelen. Daarnaast zijn er virtual reality (VR)-games zoals VRChatdie realtime en gepersonaliseerde interacties mogelijk maken, bieden extremisten een kans om jonge, kwetsbare spelers te rekruteren door hen te betrekken in aangepaste omgevingen die bepaalde ideologieën bevorderen.
Mobilisatie en training
Sommige games dienen als oefenterrein waar extremisten gevechts- of coördinatietactieken simuleren, waarbij ze in-game-omgevingen gebruiken om aanvallen te oefenen of strategieën te verfijnen. Spellen zoals bijvoorbeeld Arma 3 En Ontsnappen van Tarkov zijn virtuele oefenterreinen geworden waar gebruikers tactische opdrachten in realistische omgevingen kunnen simuleren. Deze spellen, die worden geprezen om hun hoge mate van realisme, zijn vooral favoriet bij groepen die militante denkbeelden willen bijbrengen. Extremisten gebruiken deze spellen om tactieken en rollenspelscenario’s uit situaties uit de echte wereld te oefenen.
Financiële fraude en cyberpesten
Extremisten hebben ook de in-game valutasystemen en itemmarktplaatsen uitgebuit voor het witwassen van geld en frauduleuze transacties. In Counter-Strike: mondiaal offensiefZo wordt de wapenhuidmarktplaats sporadisch gebruikt voor illegale handel, en in sommige gevallen hebben deze voorwerpen gediend als dekmantel voor witwasactiviteiten. Bovendien richten terroristische organisaties zoals Al Qassam Brigades, Hamas, Al Qaeda, ISIS en Hezbollah zich op spelers voor cyberfraude, propaganda en training zoals schietoefeningen en oorlog. Deze omgeving wordt vervolgens gebruikt om kwetsbare individuen van zich te vervreemden en hen in extremistische groepen te trekken waar ze een gevoel van bescherming en verbondenheid kunnen voelen.
Extremisten hebben ook de in-game valutasystemen en itemmarktplaatsen uitgebuit voor het witwassen van geld en frauduleuze transacties.
Uitdagingen bij het tegengaan van bedreigingen op gamingplatforms
Een belangrijke uitdaging bij het bestrijden van extremisme op gamingplatforms ligt in de hoeveelheid inhoud die in deze digitale omgevingen wordt gecreëerd en gedeeld. Spelletjes zoals Roblox En GTA V bieden enorme sandbox-omgevingen waar gebruikers vrijelijk inhoud kunnen wijzigen, waardoor het moeilijk wordt voor ontwikkelaars om alle activiteiten in realtime te volgen. Op kunstmatige intelligentie gebaseerde detectiesystemen worden voortdurend ontwikkeld om extremistische inhoud te herkennen. Toch worden deze technologieën beperkt door de snelle evolutie van extremistische tactieken en beperkingen op het gebied van privacy en gegevenstoegang.
Bovendien hebben gamingbedrijven vaak meer specifieke middelen nodig om extremisme aan te pakken, waarbij sommige zich meer richten op het genereren van inkomsten in games dan op de veiligheid van de gemeenschap. Extremistische groeperingen maken misbruik van deze kloof, wetende dat real-time moderatie vaak te weinig middelen heeft of niet effectief is bij het opsporen van geheime radicaliseringstactieken.
Oplossingen voor game-ontwikkelaars
Overheden en gamingbedrijven werken eraan om de toenemende dreiging van extremisme in gaming aan te pakken door middel van verschillende regelgevende maatregelen en proactieve strategieën. In 2021 lanceerde het Amerikaanse ministerie van Binnenlandse Veiligheid een taskforce die zich toelegt op samenwerking met technologiebedrijven om extremistische activiteiten op gamingplatforms te identificeren en te rapporteren. De Indiase informatietechnologieregels uit 2021 schrijven voor dat platforms illegale inhoud, inclusief extremisme, moeten volgen en rapporteren. Dat gezegd hebbende, biedt de enorme schaal van mobiel gamen unieke handhavingsuitdagingen voor Indië. In Europa vereist de Digital Services Act van de Europese Unie (EU), die in 2022 werd aangenomen, dat online platforms risicobeoordelingen uitvoeren en contentmoderatie implementeren. Niettemin kan de handhaving van deze normen van lidstaat tot lidstaat verschillen. Ondertussen zijn Zuidoost-Aziatische landen zoals Singapore en Indonesië begonnen met het implementeren van regelgeving voor digitale inhoud. Toch richten deze zich vaak op cyberveiligheid in plaats van op directe bestrijding van extremisme, waardoor er enkele lacunes in de regelgeving ontstaan waar extremisten misbruik van kunnen maken.
In 2021 lanceerde het Amerikaanse ministerie van Binnenlandse Veiligheid een taskforce die zich toelegt op samenwerking met technologiebedrijven om extremistische activiteiten op gamingplatforms te identificeren en te rapporteren.
Voortbouwend op deze overheidsinspanningen kunnen gamingbedrijven aanvullende maatregelen nemen om veiligere en veerkrachtigere gaminggemeenschappen te creëren.
- Effectieve contentmoderatie blijft een cruciale prioriteit, waarbij ontwikkelaars geavanceerde kunstmatige intelligentie-algoritmen (AI) gebruiken in combinatie met menselijk toezicht om extremistisch materiaal te detecteren en te verwijderen. Het regelmatig updaten van deze algoritmen is essentieel, omdat extremisten hun methoden vaak aanpassen.
- Het vaststellen en communiceren van gemeenschapsnormen die extremisme en haatzaaiende uitlatingen expliciet verbieden, vergroot de veiligheid verder; ontwikkelaars moeten moderators ook voortdurend trainen om evoluerend extremistisch gedrag te herkennen en aan te pakken.
- Samenwerking met experts op het gebied van terrorismebestrijding kan ontwikkelaars helpen op de hoogte te blijven van opkomende bedreigingen, waardoor ze hun moderatiepraktijken kunnen verfijnen om nieuwe risico’s effectief aan te pakken.
- Het voorlichten van spelers over de tekenen van radicalisering, in samenwerking met docenten en anti-extremismeorganisaties, voorziet hen van de kennis om extremistische invloeden te weerstaan en draagt bij aan een waakzame gemeenschap.
- Ten slotte zorgt het aanbieden van toegankelijke rapportagetools ervoor dat spelers gemakkelijk extremistische inhoud kunnen melden, waardoor een proactieve en krachtige spelomgeving wordt bevorderd.
Deze gecombineerde regelgevende maatregelen en door de industrie aangestuurde strategieën kunnen een gaming-ecosysteem creëren dat spelers beschermt, extremistische invloeden verzacht en de gaminggemeenschap in staat stelt actief weerstand te bieden aan de verspreiding van schadelijke inhoud.
Het aanbieden van toegankelijke rapportagetools zorgt ervoor dat spelers gemakkelijk extremistische inhoud kunnen melden, waardoor een proactieve en krachtige spelomgeving wordt bevorderd.
Conclusie
Videogames zijn geëvolueerd tot sociaal verbonden platforms, die extremisten nu uitbuiten om spelers te rekruteren en te radicaliseren. Door gebruik te maken van de meeslepende omgevingen en anonimiteit van gaming, indoctrineren extremistische groepen op subtiele wijze kwetsbare individuen wereldwijd. Deze dreiging vraagt om dringende actie in het gaming-ecosysteem. Ontwikkelaars moeten de moderatiesystemen versterken, AI-detectietools inzetten en samenwerken met experts op het gebied van terrorismebestrijding. Beleidsmakers moeten regelgeving opstellen om platforms verantwoordelijk te houden, terwijl de gaminggemeenschap waakzaam blijft en verdachte activiteiten meldt.
Het behouden van gaming als een positieve ruimte vereist collectieve waakzaamheid, innovatieve gematigdheid en krachtige anti-uitbuitingsmaatregelen. Door nauwe samenwerking tussen bedrijven, overheden en veiligheidsexperts kan gamen een veilige en boeiende omgeving blijven, vrij van extremistische invloeden.
Soumya Awasthi is een Fellow bij het Center for Security, Strategy and Technology van de Observer Research Foundation
De hierboven weergegeven standpunten behoren toe aan de auteur(s). ORF-onderzoek en -analyses nu beschikbaar op Telegram! Klik hier voor toegang tot onze samengestelde inhoud: blogs, longforms en interviews.
