Binnen een Facebook-botfarm die meer dan 200.000 politieke berichten per maand plaatst

Het botprobleem

Facebook heeft, net als de meeste andere sociale netwerken, een botprobleem.

Vanuit het perspectief van Facebook kunnen bots niet te onderscheiden zijn van legitieme gebruikers. Deze geautomatiseerde programma's kunnen worden gebruikt om zonder toestemming de persoonlijke informatie van gebruikers te verzamelen, beïnvloedingscampagnes te verzinnen, heimelijk agenda's te pushen, desinformatie te verspreiden en oplichting overtuigender te maken.

Terwijl geautomatiseerde systemen opvallendere botactiviteiten kunnen detecteren, kunnen geavanceerdere bots menselijke input zo nauwkeurig nabootsen dat Facebook moeite kan hebben om het verschil te zien.

Als gevolg van het feit dat het er niet in slaagt bots op zijn platform te stoppen, lijkt het erop dat Facebook dat in plaats daarvan probeert normaliseer het idee dat bots slechts een deel van het leven zijn op het internet. Bots zullen niet snel worden gestopt.

Binnen in de botboerderij

Comparitech-onderzoekers, onder leiding van Bob Diachenko, kwamen onlangs een Facebook-botfarm tegen die op een onbeveiligde server werd gehost. We hebben de botfarm gevonden als onderdeel van onze routinescans voor kwetsbare databases op internet. Zonder dat authenticatie nodig was om toegang te krijgen tot de botfarm, hebben we een kijkje onder de motorkap genomen om te zien hoe het werkt.

De botboerderij die we vonden, werd gebruikt om te creëren en te beheren13.775 unieke Facebook-accounts. Ze postten elk gemiddeld 15 keer per maandeen totaal van 206.625 berichtenvan deze ene boerderij in een bepaalde maand. Houd er rekening mee dat er nieuwe bots worden gemaakt door botfarms en voortdurend worden verwijderd door de moderatiesystemen van Facebook, dus de totale cijfers kunnen van maand tot maand behoorlijk variëren. Het eerste bericht van deze accounts is in oktober 2020 gemaakt.

Onderzoekers zeggenFacebook blokkeerde slechts één op de tienvan de botaccounts van de boerderij op het moment van publicatie.

De andere accounts zijn actief, zie hieronder voor een screenshot gemaakt op 10 mei en laat zien dat een bericht 17 uur geleden is geplaatst:

Deze bots lijken te worden gebruikt voor politieke manipulatie. Ze plaatsen provocerende en verdeeldheid zaaiende politieke inhoud om legitieme Facebook-gebruikers aan te zetten. Elk account ziet er op het eerste gezicht uit als een echt persoon, compleet met een profielfoto en vriendenlijst (waarschijnlijk bestaande uit andere bots). Om hun bereik te vergroten en ervoor te zorgen dat ze niet alleen op elkaars tijdlijnen posten, sluiten de bots zich aan bij specifieke Facebook-groepen waar de kans groter is dat hun berichten door legitieme gebruikers worden gezien en besproken.

Ongeveer 50 procent van de berichten ging over politieke onderwerpen. Nieuwsincidenten en pandemie-gerelateerde berichten waren ook gebruikelijk.

‘Trump’ was het meest gebruikte trefwoord in botposts, gevolgd door ‘Biden’. Enkele specifieke gebeurtenissen die worden besproken zijn onder meer de Amerikaanse presidentsverkiezingen van 2020, bosbranden in Californië, protesten in Wit-Rusland, Amerikaanse grensbeperkingen, de COVID-19-pandemie en een recente schietpartij in San Antonio.

De meeste botaccounts waren geregistreerd met tijdelijke telefoonnummers en @mail.ru-e-mailadressen. Omdat er geen autorisatie nodig was om toegang te krijgen tot de backend van de botfarm, konden Comparitech-onderzoekers voor elk botaccount gebruikersnaam- en wachtwoordparen verzamelen.

Comparitech rapporteerde de botaccounts aan Facebook, maar heeft op het moment van publicatie nog geen reactie ontvangen.

Selenium werd gebruikt om menselijke input te imiteren

Een belangrijk hulpmiddel dat door de botfarm wordt gebruikt om menselijk gedrag te imiteren, heet Selenium.

Selenium is een multifunctionele toolset die in dit geval de activiteit van een echte gebruiker simuleert. Bots die via Selenium worden bestuurd, kunnen webpagina's openen en navigeren in een normale webbrowser, op knoppen en links klikken, tekst invoeren en afbeeldingen uploaden. De bots die we ontdekten, plaatsten berichten met tekst en afbeeldingen, plaatsten artikelen van nieuwsmedia opnieuw en sloten zich aan bij populaire groepen in verschillende categorieën (muziek, tv-programma's, films, enz.).

Selenium kan worden gebruikt om een ​​leger bots te besturen, hen de opdracht te geven zich bij groepen aan te sluiten en berichten te maken. Onderzoekers ontdekten dat botsessies een reeks user-agents kunnen emuleren, van iPhones tot Chrome-browsers, zodat de eigenaar de indruk kan wekken dat verkeer afkomstig is van een breed scala aan apparaten. Selenium kan via proxy's worden gebruikt, waardoor bots hun bron verder kunnen maskeren. Selenium kan zelfs worden ingesteld om een ​​vertraging tussen klikken toe te voegen, zodat het niet lijkt alsof het sneller door pagina's navigeert dan een normaal mens. Onderzoekers zeggen dat zelfs enkele van de meest geavanceerde botdetectietechnieken geen onderscheid kunnen maken tussen een mens en Selenium.

Wat onduidelijk blijft, is waar de bots hun informatie en afbeeldingen vandaan halen. Onderzoekers konden geen crawlers vinden die de door bots geplaatste afbeeldingen verzamelen, dus we gaan ervan uit dat de aanvallers de inhoud uit een privébron verzamelen.

Hoewel deze specifieke botfarm niet goed beveiligd was, zijn de meeste ervan veel moeilijker te vinden en toegankelijk voor ongeautoriseerde gebruikers.

Waarom bots?

Dus wat is het doel van al deze botlandbouw? Ze kunnen voor verschillende doeleinden worden gebruikt. Degene die de botfarm beheert, kan deze voor eigen doeleinden gebruiken of tegen betaling aan derden verhuren.

Bots spelen een grote rol in beïnvloedingscampagnes. Door de staat gesponsorde invloedscampagnes uit Rusland kregen veel aandacht tijdens de laatste twee Amerikaanse presidentsverkiezingen. Ze hebben waarschijnlijk botboerderijen zoals deze gebruikt om desinformatie te verspreiden en Facebook-gebruikers aan te zetten.

Bots kunnen worden gebruikt om het waargenomen enthousiasme van het publiek voor een bepaalde zaak, persoon, product of standpunt kunstmatig op te blazen. Astroturf maskeert bijvoorbeeld de echte sponsors van een boodschap, zodat het lijkt alsof deze afkomstig is van en wordt ondersteund door deelnemers aan de basis. Als mensen denken dat bots mensen zijn, zullen ze eerder geloven dat de boodschap steun onder de bevolking heeft.

In dezelfde geest kunnen bots worden gebruikt om het aantal abonnees of volgers kunstmatig te vergroten. De botfarm die we onderzochten, had geabonneerde accounts op bepaalde groepen. Voor echte gebruikers lijkt een pagina of groep met 1000 leden legitiemer dan een pagina met een tiental leden. Dit kan worden gebruikt om slachtoffers te lokken voor een of andere vorm van oplichting.

Ten slotte, hoewel het minst waarschijnlijk, is dat Facebook misbruik maakt van bots om zijn eigen gebruikersaantallen en gebruikersactiviteit te vergroten, misschien om belanghebbenden tevreden te stellen die kwartaal-op-kwartaal gebruikersgroei eisen.

Houd er rekening mee dat bots niet noodzakelijk kwaadaardig zijnallevan de tijd. Ze kunnen worden geconfigureerd om goedaardige inhoud te posten totdat de beheerder van de botfarm besluit ze in een aanval te bewapenen.