Facebook Papers: Největší „průšvih“ sociální sítě odhalil i podněcování občanské války

V pátek začalo konsorcium 17 amerických médií zveřejňovat sérii zpráv a článků, jíž se dohromady říká Facebook Papers; zakládají se na sbírce stovek firemních dokumentů, které vynesla whistleblowerka Frances Haugenová. Napřed je poskytla úřadu pro burzovní dohled a v redigované podobě i Kongresu a také deníku Wall Street Journal. K němu se nyní přidávají další média, analyzovat desetitisíce stránek dá pořádnou práci.

Haugenová upozorňuje na různá pochybení i záměrné kroky managementu Facebooku, jež mají dalekosáhlé důsledky po celém světě – od rozmachu mentální anorexie u mladých dívek po šíření fake news a konspiračních teorií pravicových populistů až třeba k usnadňování otrokářství a rozdmýchávání vášní, jež vedly k občanské válce v Etiopii.

Vynášení špíny z Facebooku? Těš se na urážky a vleklé soudy, varují kolegové - whistlebloweři

Problémy má i Whatsapp a Instagram

Nejde jen o samotnou síť Facebook, ale i další projekty stejnojmenné firmy: obrázkovou sociální síť Instagram a aplikaci pro zprávy WhatsApp.

Haugenová začátkem října vypovídala před podvýborem amerického Senátu a v pondělí i před britskými poslanci. Další šetření probíhá, některé země i Evropská komise chystají nejrůznější opatření, jak technologické giganty lépe kontrolovat. Prosadit takové zákony však bude složité, není snadné najít hranice mezi odpovědností sociálních sítí a svobodou projevu.

Facebook přispěl k radikalizaci na americké pravici a k organizaci násilných protestů, které eskalovaly do útoku na Kapitol, sídlo Kongresu, 6. ledna 2021. „Víme, že to bylo organizované online. Zablokovali jsme QAnon, Proud Boys, Stop the Steal, cokoliv, kde se hovořilo o možném násilí,“ komentovala pár dní po násilí Sheryl Sandbergová, po Zuckerbergovi nejvyšší manažerka firmy Facebook.

„Naše opatření nejsou nikdy dokonalá, takže si jsem jistá, že něco na Facebooku pořád bylo. Ale myslím, že se tyto události organizovaly hlavně na platformách, které nemají naše kapacity zastavovat nenávist, nemají naše standardy, nemají naši transparentnost,“ dodala.

Dokumenty odhalují: Facebook nenasadil všechny síly

Facebook skutečně před nepokoji, které se dopředu očekávaly, brzdil příspěvky porušující pravidla. Nyní však interní dokumenty vynesené z firmy ukazují, že FB nenasadil všechny prostředky, co mohl.

„V té době bylo velmi obtížné rozlišit, zda pozorujeme koordinované úsilí neuznat volby, nebo jde o svobodu projevu uživatelů, kteří byli zmatení a vystrašení a zasluhovali naši empatii,“ stojí v analýze, kterou po 6. lednu zpracovali experti Facebooku pro interní potřeby firmy.

„Na každého uživatele jsme hleděli jako na jednotlivce, ne jako na soudržné hnutí, a tak jsme jednotlivé skupiny a stránky blokovali, až když překročily práh porušování pravidel. Jednotlivé příspěvky a komentáře většinou pravidla neporušovaly, byť je obklopovala nenávist, násilí a dezinformace,“ uvádí dále analýza. Dohromady se však dezinformace (nejen) na Facebooku nabalovaly, vášně v sociální bublině narůstaly – a výsledkem byl vpád do Kapitolu a pět mrtvých.

Jenže to si experti Facebooku uvědomili až pozdě. Přesto to firma ani pak nepřiznala. „Facebook klamal investory a veřejnost o své roli v šíření dezinformací a násilného extremismu v souvislosti s volbami 2020 a nepokoji 6. ledna,“ uvedla Haugenová.

Firma se hájí: Účelový výběr dokumentů se snahou uškodit

„Odpovědnost za násilí 6. ledna leží na těch, kteří zaútočili na náš Kapitol a kteří je nabádali. My jsme podnikli kroky, abychom omezili příspěvky usilující o delegitimaci voleb, včetně pauzy na politické inzeráty a odstranění původní skupiny #StopTheSteal,“ odmítá Haugenovou mluvčí Facebooku Andy Stone pro CNN. Firma se hájí, že whistleblowerka vyzobala jen ty dokumenty, které mají uškodit.

Co byl Parler? Sociální síť Trumpových fanatiků smazaly Amazon a Apple z internetové mapy

Frances Haugenová vypovídala o škodlivosti Facebooku v americkém senátu. | Reuters

Jenže Haugenová zdaleka není sama. Brzy s podobnými obviněními přišel (anonymně) další ze zaměstnanců Facebooku, k úřadům podal místopřísežné prohlášení o tom, jak firma dává přednost růstu a zisku před odpovědností. Washington Post mohl do prohlášení nahlédnout.

Facebook podle něj sehrál výraznou roli už před předchozími prezidentskými volbami, v nichž roku 2016 vyhrál Donald Trump. Tehdy se řešily kontroverze, že se do nich přes Facebook vměšovalo i Rusko.

Děti proti konspiračním teoriím: Jak ochránit rodiče před dezinformacemi na internetu

„Pár zákonodárců to na*ere, ale za pár týdnů se přesunou k něčemu jinému. My zatím tiskneme prachy a jsme v pohodě,“ prohlásil k tomu podle whistleblowera Tucker Bounds z komunikačního oddělení Facebooku (nyní viceprezident komunikací).

„Abych byl tázán na údajný rozhovor mezi čtyřma očima před čtyřmi lety s anonymní osobou, bez jiného zdroje než tohoto prázdného nařčení, to se mi stalo poprvé,“ reagoval teď Bounds na dotaz Washington Postu. „Je to pod úroveň Washington Postu, zakládat celou zprávu na jediném zdroji bez jakéhokoli potvrzení,“ dodala mluvčí Facebooku Erin McPikeová.

Nicméně takových zdrojů o situaci ve firmě obecně je podstatně víc. „Cítím se, jako bych měla na rukou krev,“ svěřila se pro CNN Sophie Zhangová, jež se skoro tři roky ve Facebooku věnovala datovému výzkumu. Už na jaře upozornila, že zbytku světa, respektive jiným jazykům, se nevěnuje zdaleka tolik zdrojů jako USA a angličtině, pokud jde o různá opatření proti lžím a dalším nebezpečným projevům.

„Zaměstnanci Facebooku, s nimiž jsem pracovala v oddělení integrity, byli hluboce oddaní, tvrdě dřeli, jenže měli jen malou podporu,“ tweeetovala Zhangová. „Má kritika cílí na vedení, kvůli němuž tam nebylo dost zaměstnanců a podpory.“

As I've always said, the FB employees I worked with in integrity and I3 were deeply dedicated civic servants who worked too much with far too little support. They should be honored - my criticism is reserved for the leadership who ensured they were understaffed and undersupported https://t.co/hXUEaBPn4B

— Sophie Zhang（张学菲） (@szhang_ds) October 25, 2021

Snad nejhorším příkladem nedostatečné moderace a kontroly diskuzí na sociálních sítích je Etiopie, kde etnické tlaky přerostly ve skutečnou občanskou válku. A to experti Facebooku své šéfy varovali, že debaty přerůstají únosnou mez. „Skutečně se bojím, že v příštích pěti, deseti, dvaceti letech zemře ohromná spousta lidí kvůli rozhodnutím i podfinancování ve Facebooku,“ uvedla Haugenová.

Popularita Facebooku v Etiopii rostla v časech převratných politických a společenských změn. Abiy Ahmed se roku 2018 stal premiérem a spustil dalekosáhlé reformy, včetně rušení omezení médií či propouštění tisíců politických vězňů. Jak ale Etiopané začali Facebook používat k veřejným debatám, rozmohlo se na něm i zneužívání ze strany různých aktérů  - včetně politiků a milicí – kteří podněcovali diskriminaci a násilí.

Podobnou roli sehrála sociální v Barmě, kde vláda čelí dokonce z genocidy menšiny Rohingů; za nezvládnutí tamní situace se Facebook omluvil, selhání v Etiopii zatím spíš nepřipouští.

Boje v Etiopii, říjen 2021. | ČTK / AP / Uncredited

Šest lidí na pět jazyků a zemi se 120 miliony obyvatel

V zemi se skoro 120 miliony obyvatel a pěti oficiálními jazyky (a plejádou dalších regionálních) kontrolovalo závadnost příspěvků na Facebooku na plný úvazek šest lidí – vesměs z partnerských organizací, sama firma Facebook nechce být „arbitrem pravdy“.

„Viděl jsem spoustu nenávistných projevů, rozhodně to rozdmýchává etnické násilí v Etiopii,“ svěřil se pro CNN jeden z kontrolorů, Amanuel Neguede, jenž sleduje potenciálně nebezpečné příspěvky v angličtině a amharštině. „Kdykoliv dojde k velké ofenzivě, třeba jako se děje na severu, vidíme spoustu fotek z konfliktů v jiných zemích, které se objevují v zavádějícím kontextu,“ udává příklad dezinformací.

Nedostatek lidí

Kvůli nedostatku profesionálů po nenávistných projevech pátrají i dobrovolníci. „Chudí lidé dělají špinavou práci za jednu z nejbohatších firem světa,“ stýská si jedna z nich, Berhan Tayeová. A vedle živých kontrolorů chyběly v nejpoužívanějších etiopských jazycích i programy, které těmto lidem mají pomáhat.

Podle Haugenové představitelé Facebooku sledují, kterak v jaké zemi rostou vášně, ale krotit je začínají až příliš pozdě: „Nechávají teplotu v těch zemích stoupat a stoupat, až začne hrnec přetékat.“ Je to přímo strategie, řešit závadné diskuze, až když přerostou do krize, uvedla Haugenová.

Negativní emoce

Čím vášnivější diskuze, tím totiž u Facebooku uživatelé tráví víc času. A tak všeobecně algoritmy sociální sítě zajišťují, aby se každému ukazovaly zejména příspěvky, které v něm vzbudí emoce a přimějí ho reagovat, diskutovat, lajkovat… Bohužel se dlouho ukazuje, že negativní záležitosti takto publikum poutají lépe.

Facebook od roku 2016 investoval celkem 13 miliard dolarů (288 miliard korun) do hlídání takových záležitostí. „Na bezpečnosti pracuje 40 tisíc lidí, včetně 15 tisíc lidí ve dvou desítkách zemí, kteří kontrolují obsah ve více než 70 jazycích,“ uvádí mluvčí firmy. Pro srovnání, tato suma za pět let nedosahuje ani poloviny zisku za jeden rok (29 miliard dolarů v roce 2020). Nedostává se navíc zdaleka na každou řeč: Rozhraní Facebooku je ve více než 110 jazycích a diskutovat se dá v každém dalším, pokud ho počítač či chytrý telefon podporuje.

Už roky se Facebook snažil potlačovat otroctví a obchod s lidmi – „pracují v soukromých domácnostech skrze sílu, podvod, nátlak či klam,“ zformuloval to interní dokument firmy citovaný CNN.

Vedle služebných pro boháče šlo také o prostituci. Například v září 2019 zaměstnanec Facebooku na interní stránce vyvěsil report z vyšetřování nadnárodní sítě obchodníku s lidmi. S pomocí stovky falešných profilů na Facebooku a Instagramu rekrutovali oběti z různých zemí, prokazatelně dovezli do Dubaje nejméně dvacet žen a nuceně je tam zaměstnali v „masážních salónech“ – nelegálních nevěstincích. Logistiku koordinovali pomocí zpráv přes facebookový Messenger a WhatsApp.

Inzerce od otrokářů

Vyšetřování také ukázalo, že firma za inzerci od těchto zločinců, kteří lákali klienty, utržila 152 tisíc dolarů (3,4 miliony korun). I další firemní šetření ukázalo, že sociální sítě a aplikace pro zprávy využívají obchodníci s lidmi. „Propagují oběti na prodej, dohadují si koupě, prodeje a další poplatky,“ upozorňovalo šetření.

A další report z února 2021 uvedl, že pašeráci lidí spoléhají hlavně na soukromé zprávy, které nelze tak snadno sledovat a kontrolovat jako stránky či diskusní skupiny. Dosavadní úsilí firmy bylo prý jen dobrým začátkem, zbývá spousta práce.

Zvrat v obvinění prince Andrewa ze zneužití nezletilé: Konec vyšetřování!

Už dřív si těchto obchodů s lidmi na sociálních sítích všimli novináři. „Na ulicích Kuvajtu tyto ženy neuvidíte. Jsou za zavřenými dveřmi, zbavené svých základních práv, nemohou odejít a může je koupit ten, kdo dá nejvíc,“ psala BBC v říjnu 2019. „Ale vezměte si chytrý telefon a můžete si procházet tisíce jejich fotek, filtrovat je podle rasy a koupit je za pár tisíc dolarů.“

Část těchto obchodů probíhala na speciálních aplikacích, část ale na obyčejném Instagramu. Až když BBC provozovatele sociální sítě upozornila, najednou 703 profilů ze sítě zmizelo.

iPhone bez Facebooku?

Firma Apple Facebooku coby vlastníku Instagramu pak vyhrožovala, že přestane uživatelům iPhonů jejich aplikace nabízet, pokud bude dál podezření, že je využívají novodobí otrokáři.

Nynější úniky dokumentů však ukazují další drsnou pravdu: „Věděl Facebook o tom problému před vyšetřováním BBC a nátlaku Applu?“ ptal se interní report. „Ano,“ hned si také odpověděl. Jenže prý příspěvky otrokářů neporušovaly pravidla Facebooku.

A i když obchod s lidmi měla zakazovat už dřívější pravidla a roku 2019 byla ještě zpřísněna, CNN i teď na Instagramu takové inzeráty našla. „Našim cílem je odradit lidi od vyhledávání takových obsahů. Nadále to ladíme, přidáváme k nim odkazy na užitečné zdroje a odborné organizace,“ slibuje mluvčí Stone.

Cílem Haugenové není Facebook zlikvidovat, ale napravit. Jak říká, sama by se tam třeba i ráda vrátila. Jak se podle ní ukazuje, vedení moc zájem zlepšit se nemá. Musí tak přijít nátlak zvenku – ať už od firem, díky jejichž inzerci sociální síť vydělává tak astronomické sumy, nebo od zákonodárců. „Věřím, že to může být lepší,“ tweetovala Haugenová. „Spolu dokážeme vytvořit sociální sítě, které z nás vezmou to nejlepší. Problémy vyřešíme společně, ne sami.“