A 2020-ban készült dokumentumfilm három síkon zajlik. Megszólalnak benne egyrészt a legnagyobb techcégek (Google, Facebook, Instagram, Twitter, Uber, stb.) korábbi vezető munkatársai. Elmondják, hogy sokáig azt hitték, az emberi és társadalmi jót szolgálják, de egy ponton rájöttek: e cégek érdekeit kiszolgálva, a technológia nyújtotta előnyökre koncentrálva és a következményekkel nem törődve, gyakorlatilag veszélybe sodorták a világot, hiszen aktívan részt vettek egy olyan világméretű kísérletben, amelyből az emberiség – szembekerülve a mesterséges intelligenciával – nem tud jól kijönni. A legtöbb megszólaló félve ugyan, de lelkiismeretükre hallgatva végül rávették magukat, hogy meséljenek arról, hogyan is működnek ezek a techcégek, és mi mindenre képes a rendszer, amit még ők maguk is csak nagyjából értenek, a felhasználók pedig elképzelni sem tudnak.
A beszélgetések között (melyek során időnként werkfilmszerűen bemutatják, ahogy a megszólalót felkészítik a kamera előtti szereplésre – azt az érzetet keltve, mintha mi is ott lennénk a forgatáson), gyakran történnek képbevágások a valós világ olyan eseményeiről, amelyek mind összekapcsolhatók az online tér működésével (például szélsőséges vélemények, utcai zavargások, terrorizmus). A harmadik szál pedig egy játékfilmszerű történet egy átlagos család életéről, melyben a három gyermek életén keresztül konkrétan is végig nézhetjük, mit okoz a tech ipar: a legidősebb, 18 év körüli lány tüntetően offline módon él, könyveket olvas kütyük helyett és erre bíztatja testvéreit is. A 16 év körüli fiú nyitott arra, hogy ne kerüljön teljesen a cybervilág hatása alá (például édesanyja javaslatára egy hétig megpróbálja letenni a telefont) – az ő esetében a film zseniálisan mutatja be a közösségi tér algoritmusainak működtetését, hogyan veszik rá a fiút a folyamatos telefonhasználatra és hogyan érik el viselkedésének, sőt személyiségének megváltozását. Végül látjuk azt is, milyen (torzító és önbecsülést romboló) hatással bír az online világ a 11 év körüli kislányra.
A film legütősebb részeit a techcégek volt munkatársainak vallomásai jelentik. A leggyakoribb szereplő, aki rendszeresen tart előadásokat a közösségi háló veszélyeiről, és egy alapítványt is létrehozott erre a célra, Tristan Harris (korábban Google felsővezető). Elmondása szerint most azon dolgozik, hogy felmérje, hogyan lehetne a tech ipart belülről megváltoztatni. (Ahogy korábban írtam róla, a Cybercsapda szerzője is többek között ezen munkálkodik a tech iparban jártas szakemberek és etikus hackerek bevonásával.) Tristan szerint bár az emberiség korábban is többször „lépett szintet”, például az újságok, majd a tévé megjelenésével, de olyan még nem volt, hogy 50 ember (designer) munkája, döntése kétmilliárd embert képes legyen befolyásolni; s miközben az emberi agy gyakorlatilag nem változott, a számítógépek és a mesterséges intelligencia adatfeldolgozása elképesztő és számunkra felfoghatatlan mértékben növekedett. Az előadó felvetette ennek súlyos morális felelősségét. Még Google alkalmazottént készített erről egy prezentációt, ami kisebb forradalmat váltott ki a cégen belül, eljutott az alapítóig is, de aztán mégsem történt semmi.
Két másik gyakran felbukkanó szereplő, Tim Kendall (korábban Facebook felsővezető) és Roger McNamee (kockázati tőkés, korai Facebook befektető) arról beszélnek, hogy a techcég üzleti modelljének lényege verseny az emberi figyelemért. Így a Szilícium-völgy immár nem termékekkel, hanem magukkal a felhasználókkal kereskedik: „Ha nem fizetsz a termékért, te magad leszel a termék”. Tim később a függőségek kapcsán elmeséli azt is, hogy bár maga is ebben a világban dolgozott, mégsem volt képes kontrollálni magát, és két gyermeke mellett, otthon is állandóan a világhálón lógott.
Justin Rosenstein (korábban Facebook és Google alkalmazott) és Sandy Parakilas (korábban Facebook és Uber menedzser) elmagyarázzák, hogyan okoz az online tér lassú, szinte észrevehetetlen, de egyértelmű és gyakorlatilag szinte visszafordíthatatlan változást a szokásainkban, gondolkodásunkban, viselkedésünkben. Az ott megjelenő reklámok sikerességének kulcsa a kiszámíthatóság, így az erre épülő üzleti modell lényege, hogy az emberi aggyal szinte felfoghatatlan mennyiségű, a felhasználók viselkedésének megfigyeléséből létrehozott adatból az algoritmusok képesek befolyásolni és ezáltal megjósolni jövőbeli viselkedésünket, döntéseinket, fogyasztási és kapcsolattartási szokásainkat. Minél több a rólunk gyűjtött adat, annál pontosabb lesz a rólunk kialakított modell. Ennek a „globális generációt” építő és működtető kultúrának a lényege és értelme maga a manipuláció – hangzik el többször a filmben. Ennek fényében válik érthetővé a nagyon egyszerű és plasztikus hasonlat a bűvészekhez és illuzionistákhoz, akik az emberiség történelmében talán legkorábban értették meg és használták fel (illetve ki) az emberi agy és a tudattalan működését. Ahogy a bűvész eléri, hogy azt a kártyát húzd, amit ő akar, épp úgy éri el a Facebook is, hogy azt az információt és terméket fogyaszd, amit ő akar. Elhangzik, hogy a Stanford Egyetem diákjai évekig tanulták azt, hogyan kell a meggyőzés művészetét beépíteni a technológiába, hogyan tegyék azt még meggyőzőbbé, például a nyerőgépek működéséhez hasonlatos úgynevezett szakaszos megerősítéssel.
Chamath Palihapitiya (korábbi Facebook felsővezető) így fogalmazott: mivel a techcégek fő célja érthetően a profit növelése, alapstratégiájukká vált az emberi elme feltörése, „hackelése”, maga az emberiség pedig a folyamatos kísérletezés zombi alanyává válik. Sean Parker (korábbi Facebook elnök) arra hívta fel a figyelmet, hogy minden új termék, például akár a bicikli megjelenése is megváltoztathatja az életvitelünket, szokásainkat, de az internetnek, minden eddigi új termékekkel szemben, immár saját céljai vannak. Csak két iparág van, amely az ügyfeleit felhasználóknak nevezi: az illegális drogok ipara és a szoftveripar – figyelmeztet. Anna Lembke (a Stanford Egyetem függőségeket kutató pszichiátere) továbbmegy és kimondja: a közösségi média drog. Hajlamossá tesz a függőségre, elérve, hogy újra és újra át akarjuk élni. Ijesztő számok hangzanak el a tinédzserek körében a közösségi média felfutásával párhuzamos depressziós, szorongási tünetek elterjedéséről: 2011–2013 körül az önkárosító magatartás az 15-19 évesek körében 62%-kal, a 10-14 évesek között 189%-kal nőtt 2009 óta, az öngyilkosságok száma pedig az idősebb tinik körében 70%-kal, a fiatalabbak körében 151%-kal nőtt az évszázad első feléhez, vagyis 2001–2010-hez képest, és közben folyamatosan csökkennek a valós világban zajló interakciók: randizások, jogosítványszerzés, stb. Elhangzik: míg korábban a felnőttek meg tudták védeni gyermekeiket a veszélyektől, azok mára teljesen védtelenné váltak az úgynevezett „digitális cumival” szemben, és nemhogy nekik, még a felnőtteknek sincs esélyük harcolni az immár az egész világot mozgató mesterséges intelligencia ellen. Az erre a célra felhasznált számítógépek ezrei révén az algoritmusok immár kódba ágyazott önálló véleményekké váltak, és szinte önálló tudattal rendelkeznek.
A beszélgetések során magyarázatot kapunk nemcsak az egyén, a család és a kisebb közösség szétesésére, hanem a teljes társadalom polarizációjára, a szélsőséges vélemények felerősödésére a különböző társadalmi és politikai kérdések terén, az álhírek kontrollálatlan terjedésére (elhangzik, hogy a Twitteren hatszor gyorsabban terjednek az álhírek, mint a valósak) és arra is, hogy a technológia immár képes destabilizálni az egyes országokat, és ezáltal akár az egész világot is. Ugyanakkor elhangzik az is, hogy a technológia nem önmagában veszélyes, hanem azért, amire az emberiség használja, s mert a legrosszabbat hozza ki belőlünk. Tehát nem azzal, hanem a tech iparral, annak üzleti modelljével van baj: az csak a cégek érdekeit védi, a felhasználókét egyáltalán nem. Viszont nagy kérdés, hogy ezt a folyamatot vissza lehet-e fordítani; avagy másképp fogalmazva: hogyan ébredj fel és törj ki a mátrixból, ha az sem tudod, hogy benne vagy?
Cikkajánló: Rajtunk múlik, hogy „digitális árvákká” válnak, vagy sem!
Annak ellenére, hogy a film végén a megszólaltatott szakemberek erős félelmeket fogalmaznak meg (rövid távon polgárháború, 20 éven belül a civilizáció elpusztulása, a demokrácia lerombolása, a világgazdaság tönkretétele), a dokumentumfilm mégsem válik katasztrófafilmmé, hanem majdhogynem pozitív üzenetekkel zárul: mivel a technológia emberi döntéseken alapul, csak mi, emberek vagyunk képesek azt megváltoztatni is, és mivel mi hoztuk létre, morális felelősségünk a korrekció. Az immár rendszerszintű problémára tehát rendszerszintű válasz kell, és mivel társadalmunk jövője azon múlik, a techcégek leállnak-e ezzel az üzleti modellel, ezért társadalmi nyomást kell rájuk gyakorolni, hogy megtegyék. Emellett elhangzik néhány megfontolásra érdemes javaslat is, amivel egyéni, családi szinten is felvehetjük a harcot:
- töröljük az összes applikációtól származó azonnali értesítésünket;
- a Youtube videók nézése és a hírek olvasása soha ne algoritmus ajánlás, hanem saját döntés alapján történjen;
- járjunk utána a megosztani tervezett információnak, hallgassunk meg többféle véleményt, és vezessünk be három családi szabályt: ne engedjük be a hálószobába a mobileszközöket, ne engedjük a közösségi média használatát gyermekeink 14-16 éves koráig és a kamasz gyermekeinkkel megbeszélve közösen döntsünk a napi kütyühasználati időtartamról.
Nincs okunk kétségbe vonni a filmbeli szakemberek állításainak súlyosságát, hiszen egészen közelről ismerik az online tér sajátosságait és az azt irányító techcégek működési elveit. Bátorság kellett ahhoz, hogy kiálljanak és beszéljenek róla. Üdvözlendő, ahogy a további lépések is, mint például Tristan Harris alapítványa és előadásai. A techcégek üzleti modelljének megváltoztatására irányuló társadalmi nyomást létre kell hozni, és ennek el- és beindításához éppen ezekre a szakemberekre van szükség: egyrészt arra, hogy a tájékoztatásaik révén a felhasználók felismerjék az emberiséget minden (egyéni, párkapcsolati, családi és társadalmi) szinten szétbomlasztó online veszélyeket, cybercsapdákat; másrészt arra, hogy a társadalmi összefogás élére állva tegyenek is ellene – ezért tartom nagyon fontos könyvnek a Cybercsapdát és ezt a dokumentumfilmet is. Újságíróként felelősségem ezekről tudni és írni, hogy minél több olvasóhoz elérjenek. Szülőként pedig felelősségem az olvasottakat, hallottakat megismertetni a gyerekeimmel és elbeszélgetni velük – ahányszor csak szükséges. A film előnye a könyvhöz képest, hogy a kamaszok is megnézhetik, így a veszélyekről nemcsak szüleiktől hallanak, hanem a legközvetlenebb forrásból, kicsit sokkoló, ugyanakkor érthető és emészthető formában. A film hatásosságát bizonyítja, hogy 12 éves fiunk első reakciója az volt: megköszönte, hogy nincs okostelefonja és kérte, a számítógépét újra kódoljuk le, mint korábban tettük.
Antal-Ferencz Ildikó
*
*
Fotók: medium.com, mymovieguide.tv (vezető képhez használt fotók forrásai)
Phillip Black képe a Pixabay -en.
