Hvis Facebook håndterer vildledende 'BL' netværk, fungerer det ikke

Siden oktober 2019 har Snopes fulgt aktiviteterne i et digitalt medieudtag kaldet “The BL” - forkortelse for “The Beauty of Life” - som har en eksplicit pro-Trump redaktionel strategi. Som vi har vist på flere måder mange undersøgelser , dette outlet forkaster Facebooks servicevilkår stort set uden konsekvenser. På tidspunktet for denne rapportering er BL i færd med at opbygge og vedligeholde et labyrintisk netværk af Facebook-pro-Trump-grupper administreret af falske profiler for kunstigt at sprede sin rækkevidde - aktivitet, der ser ud til at være et lærebogeksempel på, hvordan man overtræder ' koordineret uautentisk opførsel ”regler Facebook påstande de håndhæver.

Skønt BL opretholder en New York Forretningsadresse ogdet er redaktion inkluderer flere amerikanske baserede medarbejdere, afsætningsmuligheden som helhed er bogstaveligt talt den engelsksprogede udgave af Epoch Times Vietnam , og meget af BL's uautentiske opførsel ser ud til at stamme fra Vietnam. Facebooks manglende evne til at afsløre og imødegå ondsindede udenlandske aktører, som det russiske internetforskningsagentur (IRA) eller de 'makedonske teenagere', der tjente på falske nyheder fra Trump, var en central svigtende ifølge Facebook i op til præsidentvalget i 2016 ifølge flere efterretningsbureauer. Facebook fastholder, at de tager denne form for trussel alvorligt, da deres platform forbereder sig på fremtidige valg.

Facebooks handlinger mod The BL - et afsætningsmarked, som vi har demonstreret, skaber falske amerikanske profiler fra udlandet for at skubbe amerikansk politisk indhold - ser dog ud til at være minimale. Mens 282 af de 315 BL-relaterede profiler vi identificeret da falsk ser ud til at være fjernet efter vores rapport fra november 2019, synes Facebook ikke at have truffet nogen bredere handling mod medierne som helhed eller mod de fleste Facebook-grupper oprettet af denne falske aktivitet. Facebook reagerede ikke på vores anmodning om afklaring om dets tilsyneladende handling mod The BLs falske profiler, så vi har ingen idé om Facebook eller dets automatiserede systemer er ansvarlige for fjernelsen af ​​disse profiler.



Facebooks svar på Snopes 'rapportering om BL

I vores rapport fra november 2019 identificerede Snopes 315 falske profiler bruges til at administrere 176 grupper eller sider med pro-Trump navne. Det primære eller eneste formål med disse grupper var (og er) at dele links til BL. Som en del af denne rapportering spurgte vi Facebook, om denne adfærd udgjorde koordineret uautentisk adfærd, som Facebook selv definerer som 'grupper af sider eller mennesker, der arbejder [sammen] for at vildlede andre om, hvem de er, eller hvad de laver' og inkluderer eksplicit brugen af ​​falske profiler eller handlinger, der 'kunstigt øger indholdets popularitet.' 'Som altid,' fortalte de os i november, 'vil vi handle, hvis vi finder en krænkende aktivitet.'

Virksomheden hævder at annoncere for sådanne fjernelser, når de opstår. På en pressekonference i november 2019, Facebook fortalte journalister , 'Når vi udsætter [koordineret uautentisk opførsel], annoncerer vi det offentligt, og vi fjerner det fra platformen.' På grund af handlinger fra enten automatiserede systemer eller direkte indgriben fra Facebook findes der ikke længere 280 falske profiler, vi identificerede på Facebook, men hvis Facebook fjernede de falske profiler, der er knyttet til BL, tager de ikke æren for den handling. Og desværre har vi i det mindste identificeret 400 plus falske profiler der er oprettet og brugt af BL siden vores sidste rapport:

[Database - Resterende og nye falske profiler, grupper og sider tilknyttet BL ]

Disse profiler, som nu gøre brug af kunstigt genererede ansigter som deres profilbilleder, har hurtigt erstattet dem, Facebook eller dets automatiserede systemer muligvis har fjernet. Ligesom deres faldne kammerater før dem fortsætter disse konti det travle arbejde med at engagere sig i og promovere indhold i BLs 'pro-Trump' Facebook-grupper. Mens disse tal kan virke små i forhold til 7,7 millioner falske profiler Facebook hævder at fjerne på en given dag, disse falske profiler er rettet mod at udvide et publikum, som vi vurderer, indeholder allerede over 28 millioner (stort set reelle) tilhængere.

Desuden synes sletning eller fjernelse af falske profiler - hvem der er ansvarlig for det - ikke at afskrække BL's brug af koordineret uautentisk opførsel. Ikke alene følger Facebooks fjernelse trit med BL's produktion af nye falske profiler, men grupperne oprettet af og med støtte fra disse falske profiler forbliver uberørt af Facebook. Vores Rapport fra november identificeret 103 BL-associerede Facebook-grupper , men kun én ser ud til at være fjernet. Denne tilstand er delvist muliggjort af et smuthul, der er ansat af BL: Hver gang BL opretter en gruppe, tildeler de næsten altid mindst en rigtig BL-medarbejder (ofte meningsspaltist Matt Tullar ) eller en af ​​The BL's verificerede medier eller Facebook-sider med stor tilhænger til den som moderator ud over de falske profiler.

Tullars involvering i gruppeskabelsesordningen har været mest påviselig i tilfælde, hvor alle falske profiladministratorer i en BL-oprettet gruppe blev fjernet fra Facebook. I disse tilfælde blev Tullar afsløret som den eneste administrator af en gruppe - som det var tilfældet den 22. november 2019 i gruppen 'Vi står med præsident Trump KAG 2020!' efter sletningen af ​​falske administratorkonti, 'Josephson Magnolia,' 'Amy Justus,' 'Rodgers James,' 'Paul Young,' og flere andre. Den følgende dag blev syv nye administratorprofiler tilføjet til gruppen i en periode, hvor Tullar var den eneste person, der var autoriseret til at gøre det:

Det betyder, at selvom alle de falske profiler blev fjernet - et resultat, der synes usandsynligt i betragtning af Facebooks tilsyneladende manglende evne til at opdage dem i første omgang - ville BL stadig have adgang til de grupper, de oprettede, enten via deres Facebook-side eller deres medarbejder . For eksempel, medmindre Facebook sletter Tullars konto eller fjerner brandede, Facebook-verificerede BL-sider, forbliver Facebook-grupperne i hjertet af ordningen tilgængelige for BL, og disse grupper kan derefter genudfyldes med flere falske profiler. For at give en fornemmelse af omfanget af denne operation, leverer vi følgende video, som viser, hvor mange (stort set) falske profiler, der sluttede sig til BL-associeret gruppe “Amerikanere for præsident Trump” i 2019 mellem 5. december og 10. december:

Hvorfor sletter Facebook ikke de grupper, der blev oprettet af de utvivlsomt falske profiler fra BL? Dette er et af de mange spørgsmål, vi stillede til Facebook, som ikke har svaret på vores forespørgsel.

En international operation, der uautentisk fremmer amerikansk politisk indhold

BL er en genmærket, engelsksproget udgave af Epoch Times Vietnam, der går under navnet DKN.tv (Đại Kỷ Nguyên oversættes til 'Epoch Times.') Følge offentliggørelsen af ​​vores første historie , en server, vi identificerede som brugt af The BL, men registreret til 'Epoch Times Vietnam' ændret dens DNS-registrering til 'The Beauty of Life [tidligere kendt som] Epoch Times Vietnam.' Hvis du besøger DKN.tv, et vietnamesisk websted og vælger den engelske udgave, sendes du til TheBL.com:

I vores oprindelige rapport dokumenterede vi flere links mellem BL og den bredere Falun Gong medieimperium det inkluderer The Epoch Times. Epoch Times-udgiver Stephen Gregory bestred imidlertid denne rapportering. Vi kontaktede Trung Vu, The BL's formand til afklaring om hans virksomheds sociale medieadfærd og dets bånd til andre Epoch Media Group-ejendomme, men vi har ikke modtaget svar. Tilbage i oktober 2019 fortalte en uidentificeret medarbejder hos BL via e-mail, at 'BL har INGEN forbindelse til The Epoch Times.'

Vores drøftelser med Epoch Times 'udgiver antyder ikke desto mindre en forbindelse mellem Epoch Times Vietnam. Gregory hævdede i løbet af flere e-mails, der bestred forbindelser mellem BL og The Epoch Times, som et forsvar, at Epoch Times Vietnam faktisk er uafhængig af det bredere Epoch Times netværk af publikationer. ”Siden omkring oktober 2018 har Epoch Times Vietnam ikke været en del af Epoch Media Group, moderselskabet til The Epoch Times,” fortalte Gregory os via e-mail.

Legitimiteten af ​​dette argument til side er denne vietnamesiske sammenhæng afgørende i lyset af BL's bredere Facebook-aktiviteter, der primært består af Facebook-grupper befolket med falske amerikanske profiler med oprindelse i Vietnam. Begge BL og DKN.tv er amerikanske virksomheder fra et selskabsregistreringsmæssigt synspunkt, men de er internationale i både redaktionelt omfang og arbejdsstyrke - hvoraf en stor del set fra et socialt medie synspunkt er beliggende i Vietnam.

BL kan være et amerikansk-registreret, amerikansk-styret medieudtag, men meget af den adfærd, der tjener til gavn for BL - i det mindste på Facebook - viser stærke ligheder med aktivitet, der ville blive klassificeret som uautentisk i kraft af sin efterligning af amerikanere af potentielt udenlandske aktører. Dette punkt er afgørende: At efterligne amerikanere fra udlandet, selvom det ikke er målet for BL specifikt, er hvordan udenlandske aktører generelt påvirker amerikansk politik og præsidentvalg.

Et åbenlyst politisk eksempel på denne form for Facebook-overtrædelse ville være det Kreml-støttede Internet Research Agency (IRA), en del af den russiske indsats for at blande sig i det amerikanske præsidentvalg i 2016. Et andet velkendt eksempel er “ Makedoniske teenagere ”Der kørte pro-Trump falske nyhedswebsteder i op til samme valg. I sidstnævnte tilfælde var motivationen imidlertid økonomisk, ikke politisk. Indholdet på The BL er eksplicit pro-Trump i sin redaktionelle strategi, og den bredere Falun Gong-bevægelse bag Epoch Times publikationer er efter sigende fuldt investeret i Trump formandskab. Betyder det, at målet med adfærden er politisk, eller er motivet et økonomisk, der er designet til at tiltrække et større publikum til Epoch Times?

”Det er ikke i sagens natur klart, hvorfor et vietnamesisk medieselskab ville bruge indsats og ressourcer på at fremme pro-Trump propaganda i USA,” Joshua Tucker , en professor i politik og datavidenskab ved NYU og medstifter og meddirektør for NYU Social Media and Political Participation (SMaPP) laboratorium, fortalte os via e-mail. ”Occams barbermaskine vil antyde, at enten (a) der er et profitmotiv her, eller (b) de gør dette på vegne af en anden, der betaler dem for at gøre det. Fraværende yderligere bevis har jeg ingen idé om, hvilken af ​​disse forklaringer der er mere sandsynlige for at være korrekte, men jeg finder dem begge mere troværdige end tanken om, at dette firma har en grundlæggende interesse i amerikansk politik. ”

Tucker, der længe har argumenteret for, at en lige så stor trussel aktiveret af sociale medieplatforme er indenlandske aktører, der bruger de samme værktøjer, der stammer fra udenlandske spillere i 2016, fortalte os, at ”det største spørgsmål at stille er, hvad Facebook ville gøre, hvis dette helt blev kørt ud af en indenlandsk operation, for det vil helt sikkert ske under 2020-kampagnen. ” I oktober 2019 reporter Judd Legum dokumenteret lignende gruppebaserede Facebook-opførsel af den konservative, amerikansk-baserede publikation Daily Wire. Til dato har Facebook heller ikke behandlet denne situation.

Clemson University professor i kommunikation Darren Linvill, hvis forskning i online-misinformation har informeret adskillige amerikanske efterretnings- og sikkerhedsagenturer betragter BL stort set som en økonomisk motiveret agent. I modsætning til de falske amerikanske profiler oprettet af russere, som han beskrev som meget realistisk , Linvill betragter BLs bestræbelser på at skabe falske amerikanere som en 'slipshod-operation.' Via e-mail forklarede han, at “disse falske konti er simpelthen til astroturfing formål og deres opgave er at ... få indholdet til at se ægte ud i modsætning til den konto ”, der deler indholdet. At de ikke er meget overbevisende er næppe et problem, argumenterede han, for 'for et enkelt formål kan du være slipshod og stadig være effektiv.'

Uanset hvilken specifik type af koordineret uautentisk adfærd BL praktiserer - udenlandsk eller indenlandsk, politisk eller økonomisk - er Facebooks svar på det uforeneligt med deres egne offentlige udsagn, der erklærer en forpligtelse til at udrydde sådant misbrug.

Er Facebook ligeglad med koordineret uautentisk adfærd?

Ifølge de personer, der har ansvaret for at håndhæve integriteten på platformen, hævder Facebook, at emnet for indholdet er irrelevant i deres arbejde med koordineret uautentisk opførsel. I stedet hævder Facebook, at platformen fokuserer på de ondsindede aktørers opførsel, uanset om deres indhold er fremmed eller indenlandsk, eller hvis de er økonomiske eller politisk motiverede. I en Facebook på november 2019 tryk på opkald med titlen 'Hvordan Facebook har forberedt sig på den generelle valg i Storbritannien i 2019', Facebook-sikkerhedschef Nathaniel Gleicher gjorde dette kriterium eksplicit:

Når vi tager skridt til at fjerne nogen på grund af vildledende adfærd, ser vi ikke på, vi gennemgår ikke, og vi overvejer ikke det indhold, som de deler. Det vi fokuserer på er det faktum, at de bedrager eller vildleder brugerne gennem deres handlinger. For eksempel ved hjælp af netværk af falske konti til at skjule, hvem de er, og skjule, hvem der står bag operationen .

BL praktiserer utvivlsomt det ene eksempel, der udtrykkeligt er angivet i Gleichers beskrivelse: 'netværk af falske konti.' Elementer i dette netværk af konti koordinerer med hinanden for at vildlede brugerne til at tænke BL's pro-Trump politiske grupper er spontane udtryk for patriotisme og kører ikke, som det faktisk er tilfældet, udelukkende til fordel for en enkelt medieplatform. Oprettelsen af ​​grupper gennem falske profiler gøres klart for at 'skjule hvem der står bag operationen.'

Alligevel udgør Facebooks handlinger mod dette dokumenterede misbrug tilsyneladende sletning af en brøkdel af de falske profiler, der er forbundet med BL. I den samme pressekaldelse vedrørende handlinger, som Facebook har truffet som forberedelse til valget i Storbritannien i 2019, Gleicher sagde ”Vi ved, at dårlige skuespillere bruger falske konti som en måde at maskere deres identitet og påføre vores platforme skade på. Derfor har vi bygget et automatiseret system til at finde og fjerne disse falske konti. ”

Disse 'systemer', argumenterede Gleicher, 'blokerer millioner af falske konti hver dag, ofte inden for få minutter efter oprettelsen.' Men et december 2019 NATO's Strategic Communication Center of Excellence undersøgelse af Facebook, Instagram, Twitter og YouTube fandt det tre uger efter at forskerne havde købt falske profiler på hver af disse platforme, forblev 95% live.

I sit forsvar kan Facebook måske hævde, at et medieudtag, ganske vist få har hørt om, er et mindre problem sammenlignet med større trusler på platformen. Men denne undskyldning vil også betyde, at de handlinger Facebook har truffet mod uautentisk opførsel og udråbt til pressen i sin nyhedsrum, også er ubetydelige. Ved vores seneste optælling omfattede det bredere BL Facebook-netværk 67 plus sider, 131 plus grupper og 400 plus falske konti.

Et kig på nylige operationer foretaget af Facebooks interne efterforskere viser, at omfanget af BL's aktivitet overskygger det af de foranstaltninger, som Facebook offentligt har tilbudt som bevis for deres effektive svar på denne aktivitet:

30. oktober 2019 : I dag fjernede vi 35 Facebook-konti, 53 sider, [og] syv grupper ... der stammer fra Rusland og fokuserede på Madagaskar, Den Centralafrikanske Republik, Mozambique, Den Demokratiske Republik Congo, Elfenbenskysten og Cameroun.

20. september 2019 : I dag fjernede vi 65 Facebook-konti ... involveret i koordineret uautentisk adfærd som en del af et indenlandsk-fokuseret netværk i Spanien.

16. september 2019 : Vi fjernede 76 konti, 120 Facebook-sider, [og] en gruppe ... for at engagere sig i indenrigsfokuseret koordineret uautentisk opførsel i Irak.

21. august 2019 : I dag fjernede vi 89 Facebook-konti, 107 Facebook-sider, [og] 15 Facebook-grupper ... for at engagere sig i koordineret uautentisk opførsel, der stammer fra Myanmar.

Men mere bredt viser BL som en casestudie, at Facebooks svar på koordineret uautentisk adfærd - blot sletning af profiler, sider og lejlighedsvis grupper - er ineffektiv, hvis den ikke kombineres med stærkere sanktioner for den enhed, der drager fordel af denne adfærd. BL som et medieudtag, som har betalt Facebook mindst en halv million dollars i reklamepenge ser ud til ikke at have lidt direkte følger for dets handlinger. Faktisk ser det ud til, at Facebook ikke har truffet nogen handling mod nogen af ​​de faktiske menneskelige profiler, der er knyttet til BL-medarbejdere, og afsætningsmulighederne fortsætter med at deltage i og drage fordel af misbrug, mens alle dets brandede Facebook-sider forbliver verificeret af Facebook.

'Vi bygger øget gennemsigtighed på vores platform,' sagde Gleicher i november, 'så offentligheden sammen med open source-forskere og journalister selv kan finde og udsætte mere dårlig opførsel.' Denne erklæring er irrelevant, hvis Facebook ikke griber ind over for de gerningsmænd, der er identificeret ved deres såkaldte 'øget gennemsigtighed.'

Vi opdaterer vores historie, hvis Facebook reagerer på vores forespørgsler.