Komentár Jeffa Orlowského (The Guardian)

Keď si ľudia predstavujú technológiu, ktorá predbehne spoločnosť, mnohým napadne Terminátor a dokonalí roboti. Alebo Veľký brat v románe 1984 Georga Orwella, symbol všemocného útlaku zvonka. Obchodný model, ktorý mení spôsob, akým myslíme, konáme a žijeme svoje životy však vedie k dystopii.

Ale s najväčšou pravdepodobnosťou nás dystopická technológia silno nevyzbrojí. Namiesto toho sa nechtiac podrobíme diablovmu vyjednávaniu - voľne obchodujeme s našimi podvedomými preferenciami, so svojou sociálnou súdržnosťou za okamžité spojenie a s pravdou za to, čo chceme počuť.

Ako to potvrdzujú bývalí zasvätenci v službách Google, Twitter, Facebook, Instagram a YouTube, v novom dokumente The Social Dilemma sa to už skutočne deje. Už žijeme vo verzii Brave New World od Aldous Huxley. Podľa Huxleyho vízie nie je potrebný žiadny Veľký brat, ktorý by pripravil ľudí o autonómiu, vyspelosť a históriu. Videl to tak, že ľudia si obľúbia svoj útlak, budú zbožňovať technológie, ktoré narušia ich schopnosti myslieť.

Naše platformy sociálnych médií sú poháňané obchodným modelom založeným na dohľade, ktorý je navrhnutý tak, aby za každú cenu ťažil, manipuloval a extrahoval naše ľudské skúsenosti, čo spôsobilo rozpad nášho informačného ekosystému a spoločného pocitu pravdy na celom svete. Tento extrakčný obchodný model nie je postavený pre nás, ale je postavený tak, aby nás využil.

Tretina dospelých Američanov a takmer polovica osôb vo veku 18-29 rokov, hovoria, že sú on-line "takmer neustále." Ale sme nešťastní. Ako sa naše online pripojenie zvyšuje, majú úzkosť, depresia a samovražedné pokusy , a to najmä medzi mladými ľuďmi, vzrastajúcu tendenciu.

Sociálne médiá tiež vykoľajujú produktívny verejný diskurz. Interné memorandum pre vyšších riadiacich pracovníkov na Facebooku v roku 2018 do veľkej miery ignorované : „Naše algoritmy využívajú príťažlivosť ľudského mozgu k rozporuplnosti.“ Algoritmy ponechané nezačiarknuté, budú používateľov kŕmiť „čoraz rozporuplnejším obsahom v snahe získať pozornosť používateľov a zvýšiť čas na platforme“.

V roku 2014 Pew Research Center zistilo, že antipatia v Amerike je „hlbšia a rozsiahlejšia ako kedykoľvek predtým za posledné dve desaťročia“. Za posledných šesť rokov sociálne médiá tieto nálady iba prehĺbili. V roku 2019 77% republikánov a 72% demokratov uviedlo, že voliči v oboch stranách „nielenže nesúhlasia s plánmi a politikami, ale nemôžu sa zhodnúť ani na základných faktoch“.

Tristan Harris, bývalý pracovník spoločnosti Google a spoluzakladateľ Centra pre humánne technológie , v magazíne The Social Dilemma poukazuje na to, že oveľa skôr, ako technológia premôže ľudské sily, prekoná ľudské slabosti. Sofistikované algoritmy sa učia naše emočné zraniteľnosti a zákerne ich využívajú na zisk.

Prieskumom takmer všetkých našich online aktivít môžu platformy sociálnych médií predpovedať naše emócie a správanie. Využívajú tieto poznatky a predávajú nás uchádzačom o reklamu. Následne sa stali jednými z najbohatších spoločností v histórii sveta.

Používateľom sa však nepredáva iba pár topánok. Schopnosti zamerania týchto platforiem dávajú každému, kto má motiváciu, silu a presnosť, aby nás lacno a fenomenálne ľahko ovplyvnili. Dezinformačné kampane boli citované vo viac ako 70 krajinách a od roku 2017 do roku 2019 sa zdvojnásobili.

Informátorka Sophie Zhang prezradila, aký závažný je problém na platforme Facebooku. Facebook v poslednej dobe váľa celý rad aktualizácií zmierniť politickú dezinformácie v nadchádzajúcich prezidentských voľbách v USA, vrátane baru na politickej reklamy jeden týždeň pred dňom volieb, ale tieto opatrenia sú príliš málo, príliš neskoro, a to nerieši základný problém ich vykorisťovateľský obchodný model.

„Sociálna dilema“ je základný problém našej doby, ktorý stojí v pozadí mnohých ďalších spoločenských konfliktov, ktoré si vyžadujú nápravu kompromisu a spoločného porozumenia. Ak sa dve strany budú neustále živiť úvahami o svojich už existujúcich ideológiách a protichodných názoroch, nikdy nebudeme schopní stavať mosty a uzdravovať výzvy, ktoré trápia ľudstvo.

Existuje však nádej. V pokračovaní  Terminatora sa Arnold Schwarzenegger vracia ako dobrý človek. "Kto ťa poslal?" Pýta sa John Connor. Terminátor odpovedá: „Áno. Za tridsaťpäť rokov si ma preprogramoval tak, aby som bol tvojím ochrancom. “

Ak chýba cestovanie v čase, je potrebné do riešenia začleniť prácu a hlasy oddaných aktivistov, organizácií, vedcov a tých, ktorí zažili škodu vykorisťovateľskou technológiou, ktorá zosilňuje systémový útlak a nerovnosť. Nemôžeme sa spoliehať na to, že ľudia, ktorí problém vytvorili, sú tí, ktorí ho vyriešia. A týmto spoločnostiam nebudem dôverovať, kým nezmenia svoj obchodný model tak, aby slúžili nám, verejnosti. Ľudia vytvorili túto technológiu a my ju môžeme - a máme za to zodpovednosť - zmeniť.

Jeff Orlowski je režisérom dokumentu The Social Dilemma