Každým dňom sa stáva zjavnejším, že budúcnosť už nastala. Žijeme ju práve teraz. Už od dôb industriálnej revolúcie sa zdá byť samozrejmejším fakt, že osudom ľudstva je do nejakej miery splynúť s technológiu. Zdá sa, že iná možnosť ani nie je.
Doteraz bola však táto myšlienka iba ideou sci-fi románov. Lietajúce autá, kyborgovia, bezhraničná komunikácia, efektívny a rýchly transport nielen v rámci našej planéty, rozplynutie národných a informačných hraníc. Všetky tieto koncepty boli známe už dávno. Chýbal technologický pokrok.
“Ako veľmi chceme vpustiť technológiu do našich každodenných životov?” Táto otázka by sa mnohým mohla zdať divná. Zdá sa byť samozrejmým faktom, že akýkoľvek pohyb je krokom do správneho smeru – obzvlášť pokiaľ sa bavíme o technológii. Existujú však aj názory, že tieto exponenciálne pokroky sa v konečnom dôsledku stanú pre nás “Veľkým filtrom” kvôli tomu ako ľudstvo sme ovládli svoje prostredie skôr ako sme ovládli samých seba.
Vo svojej práci budem vysvetľovať, prečo si myslím že sa za súčasného stavu rútime k dystopickej budúcnosti. Začnem menovaním konkrétnych problémov, následne sa pokúsim nájsť zdroj týchto problémov a v poslednej časti vymenujem možné riešenia procesov, ktoré tieto problémy zapríčiňujú.
ČASŤ 1: Problémy spoločnosti, spôsobené informačnými technológiami a AI
Business model, ktorý naháňal Timovi Cookovi strach
V roku 2014 prekvapil generálny riaditeľ firmy Apple mnohých otvoreným listom pre zákazníkov, v ktorom vysvetľoval dôležitosť ochrany osobných údajov. V liste okrem iného zabŕdol do jedného zo svojich konkurentov označením jeho biznis modelu ako “strašidelný”.
“Vy ste produktom,” vysvetľoval.
Toto bolo jadro listu:
“Pred niekoľkými rokmi si používatelia internetových služieb začali uvedomovať, že keď je online služba bezplatná, nie ste jej zákazníkom. Vy ste produkt. V spoločnosti Apple však veríme, že skvelý zákaznícky zážitok by nemal ísť na úkor vášho súkromia.
Náš obchodný model je veľmi jednoduchý: Predávame skvelé produkty. Nevytvárame profil na základe obsahu vašich e-mailov alebo zvykov pri prehliadaní webu, aby sme ich predávali inzerentom. Informácie, ktoré ukladáte na svojom iPhone alebo v iCloude, „nespeňažujeme“. A nečítame vaše e-maily ani správy, aby sme vám poskytli informácie. Náš softvér a služby sú navrhnuté tak, aby vylepšovali naše zariadenia. Prosté a jednoduché.”
Dnes už nie je tajomstvom, akou mocou a kapitálom disponujú technologické firmy (ďalej len “tech firmy”). Od vytvárania závislosti na dopamíne (Tik-Tok algoritmus), cez špionáž (tak, ako vysvetľoval T. Cook) až po ovplyvňovanie legislatívy a výsledkov volieb (kauza Cambridge Analytica, 2016 ) sa každým ďalším odkrytím “fiaskom” zdá, že sú tieto zdroje zneužívané na úkor “používateľov” s cieľom finančného zisku.
Nižšie by som chcel vymenovať zopar faktov, ktoré poukazujú na to, ako veľmi sme odovzdali korporáciam a vládam svoje súkromie:
- Malá dodávateľská spoločnosť v USA dokáže nájsť a sledovať 15 miliárd áut denne v ktorejkoľvek krajine. Tieto údaje sú zabalené do služby a ponúkané vláde USA.
- V roku 2013, whistleblower Edward Snowden publikoval tajné vládne dokumenty, ktoré odhaľujú, ako tajné služby môžu pod záštitou teroristickej hrozby sledovať kohokoľvek elektroniku bez súdneho príkazu. Z týchto dát následne vytvoria váš profil a model “spôsobu života”.
- Podľa zistení whistleblowera Dr. Roberta Epsteina, ak používate internet aspoň desaťročie, Google o vás zhromaždil už zhruba 3 milióny strán informácii.
- Facebook zbiera a ukladá vašu aktivitu na internete mimo Facebooku vždy keď navštívite stránku, do ktorej je vložený “like button”.
- Google priznal, že v 2010 pri projekte Street View autá tejto spoločnosti kopírovali dáta vrátane e-mailov a hesiel z wifi sieti.
Je zjavné akou vzácnou komoditou sú naše dáta a naša pozornosť. Ak by si väčšina z nás nebola ochotná napísať na čelo svoju ulicu, poschodie a číslo dverí, prečo poskytujeme týmto spoločnostiam informácie o nás a našom súkromí?
Čínsky Sociálny kreditný systém
Už je to takmer desaťročie, čo začala Čína pracovať na totalitnom systéme manažovania obyvateľstva, ktorý delí ľudí do skupín s rôznymi právami na základe ich “hodnotenia”.
Reč je o Čínskom Sociálnom kreditnom systéme, ktorý sa začal testovať už v roku 2014 v rôznych častiach krajiny. Cieľom tohto systému je absolútna kontrola nad obyvateľstvom prostredníctvom kamier a umelej inteligencie. V skratke: ak občan počúva, jeho skóre v centralizovanej databáze ide hore, ak nie, skóre ide druhým smerom. Táto centralizovaná databáza je prepojená s každou oblasťou života, čo vláde umožňuje zakázať neposlušným obyvateľom takmer všetko.
Zopár vecí, ktoré vám znížia Sociálny kredit (ďalej len SK):
- prechádzanie cesty mimo prechodu pre chodcov
- hranie počítačových hier
- negatívne vyjadrenia o vláde na internete
- doučovanie ľudí bez licencie
Príklady vecí, ktoré vám zvýšia SK:
- poskytnutie pomoci susedovi
- nahlásenie porušenia pravidiel iného spoluobčana
- prihlásenie potomka do armády
- zhliadnutie určitých vládnych videi
Tresty, ktoré vás môžu postihnúť za prinízky SK:
- pomalý internet
- vyššie ceny za tovary a služby
- nižšia kvalita zdravotnej starostlivosti
- zákaz cestovania hromadnou dopravou
Problémom systému, ako je tento je, že jeho cieľom nie je zlepšiť kvalitu ľudstva ako celok, namiesto toho sústredí moc v rukách menšiny, ktorá s tými zdrojmi môže nakladať podľa vlastného, potenciálne egoistického uváženia.
Život v “informačnej simulácii”
Minulý rok si Elon Musk užil niekoľko vĺn spravodajského cyklu keď priznal, že je podľa neho možné, že žijeme v simulácii (Matrixe). Táto myšlienka vôbec nie je nová. Nájsť ju dokážeme v náboženstve, kinematografii, filozofii a po novom, aj v technologickom sektore.
Aj George Orwell, autor ikonického dystopického románu k tejto téme mal čo povedať:
“Realita existuje iba v ľudskej mysli a nikde inde.”
Ak sa človek ponorí do tohto filozofického smeru rýchlo zistí, že bez ohľadu na to, či sa bavíme o technologickej simulácii, alebo o niečom abstraktnejšom ako simulácia mysle, v konečnom dôsledku sa vždy dopracujeme k rovnakému koreňu, a to že realita je vo svojej podstate úplne subjektívna a všetko celý vesmír sa vlastne deje vnútri nás.
Ako teda zistíme, čo je pravda a čo lož? V spojení s Fake News a dezinformáciami sa často pripisuje spispovateľovi Markovi Twainovi citát, o ktorom ironikdy nikde neexistuje dôkaz, že ho naozaj vyslovil. Aj tak by som ho ale rád použil pre potreby tejto práce:
“Je ľahšie oklamať ľudí ako presvedčiť ich, že boli oklamaní”
S podobnými citátmi by sme mohli pokračovať ešte dlho. Snažím sa týmto poukázať na fakt, že rovnako ako neurónova sieť sa aj my ľudia učíme na základe vstupných parametrov. Ak sú tieto vstupy nízkej kvality, tak aj naše chápanie sveta bude skreslené. Preto je múdre dávať pozor na to, komu dovoľujeme tvoriť našu realitu.
Nižšie uvádzam dokázateľné príklady toho, že informačné technológie majú silu tvoriť, resp. skresľovať realitu a k tomuto cieľu sa často vedome využívajú:
- V roku 2016 neobjektívne výsledky vyhľadávania generované Googlom pravdepodobne ovplyvnili nerozhodnutých voličov spôsobom, ktorý získal 2,6 až 10,2 milióna hlasov pre Hillary Clintonovú.
- V roku 2019 boli takmer všetky najväčšie kresťanské stránky na Facebooku prevádzkované zahraničnými trolími farmami.
- V roku 2017 bolo zverejnené video zhromaždenia zamestnancov firmy YouTube, stále aktuálna generálna riaditeľka platformy vysvetľuje ako je odporúčací algoritmus navrhnutý tak, posilňoval “dobrý” obsah a potláčal “zlý” obsah.
- V roku 2018 uniklo video vedúcich pracovníkov spoločnosti Google, kde tvrdia, že „modifikovanie ľudského správania“ v spôsob, ktorý „odráža hodnoty firmy Google“, je dobrý nápad.
Skutočnosť, na ktorú poukazujú tieto zistenia sa zdá byť, že naozajstnou simuláciou v ktorej žijeme je informačná simulácia, ktorá nám skresľuje realitu podobne ako krivé zrkadlo v posilňovni.
ČASŤ 2.1: Prečo nevidíme, že sme obeťami zneužívania?
V spravodajskej žurnalistike je objektivita veľmi známym, no často ignorovaným konceptom. Je tomu tak preto, lebo skutočnú objektivitu ťažko docieliť. Táto skutočnosť sa jednoducho pochopiť, keď si uvedomíme, že logika je aj navzdory jej imidžu veľmi subjektívna. Dve myšlienky môžu znieť úplne logicky, no navzájom si protirečiť. Práve v žurnalistike sa to deje často, keď sa v nej nachádza viac názorov, ako faktov.
Podobný princíp využívajú aj manipulátori, keď svojmu sebeckému a narcistickému správaniu pripisujú logický a zdanlivo morálny dôvod. Tejto taktike sa hovorí tzv. “gaslighting” a často ju ťažko odhaliť, bez pozorného sledovania skutkov človeka.
Ak teda vieme o tom, že takéto taktiky existujú, a videli sme už viakrát tendenciu veľkých korporácií a vlád túžbu po moci a kontrole, je na mieste predpokladať, že k zneužívaniu dochádza.
ČASŤ 2.2: Prečo nás naši lídri zneužívajú?
V hinduizme sa často opakuje myšlienka, že jednou z najväčších ťarch ľudstva je to, že sme otrokmi svojej mysle. Hinduisti tvrdia, že v skutočnosti je myseľ a telo iba nástrojom nášho vedomia rovnako ako auto a telefón je nástrojom človeka v našom chápaní. Z toho dôvodu je nutné za pomoci rôznych cvičení získať odstup od tejto identifikácie s telom a mysľou, čo spôsobí okrem iného aj oslobodenie sa od našich negatívnych impulzov.
Podobnú paralelu s identifikovaním sa s rôznymi vecami môžeme vidieť aj v našom “vyspelom” západnom svete. Filmy ako Fight Club alebo Vlk z Wall Street nám ukazujú ako veci ktoré vlastníme a myšlienky ktorým veríme nám neslúžia ako nástroje pre pokrok ale namiesto toho sú našimi pánmi a častokrát spôsobujú utrpenie. Zdá sa že dnes viac ako kedykoľvek predtým platí, že sme to čo vlastníme.
Dôvodom tohto stavu môže podľa indického mystika Sadhguru byť nepomer medzi rýchlosťou vývinu nástrojov ktoré používame a nás ako bytostí. My sa skrátka zlepšujeme oveľa pomalšie ako naše technológie. Z plamienku sa stal požiar.
Problém ega a mysle postihuje nielen obyčajných ľudí ale samozrejme aj našich lídrov, politikov, priekopnikov, atď… Preto sa zdá byť dôležité riešiť ho čím skôr.
“Keď prežívaš všetko ako súčasť seba, potreba morálnosti zaniká.”
- Sadhguru
ČASŤ 3: Ako vyriešiť etické problémy?
Pri hľadaní riešenia na otázku etiky v akomkoľvek odbore sa stretávame s podobným problémom ako v medicíne – chceme liečiť symptómy alebo príčinu. Obe smery ponúkajú svoju vlastnú sadu riešení.
Liečenia Symptómov
Vybrať sa prvou cestou je rovnako ako v medicíne populárnejším riešením. Niekto by ale mohol argumentovať že aj keď symptóm zmizne, problém ostane a skôr či neskôr sa začne prejavovať na iných miestach. Zdá sa to ale byť rýchlym riešením na najnaliehavejšie problémy.
Obľúbenou metódou v tomto smere je rozširovanie ruky vlády. Zákon zakazujúci určitú činnosť na trhu môže pomôcť. Aktuálne príklady môžeme vidieť napríklad v súvislosti s retailovým gigantom Amazonom, ktorý je zdá sa každý deň “obeťou” ďalšieho obvinenia zo zlého zaobchádzania so zamestnancami. V dôsledku týchto zlých podmienok na pracovisku vznikajú zamestnanecké odbory vyžadujúce lepšie platobné podmienky, viac benefitov v oblasti zdravotníctva a menej špehovania na pracovisku.
Ďalším príkladom z praxe je prebiehajúca debata ohľadom osobných údajov, kde sa za posledné roky podarilo dosiahnuť významné výsledky do takej miery, že začínajú ovplyvňovať ceny akcií technologických firiem. Podľa aktuálne platných zákonov o GDPR, by ste pri vstupe na akúkoľvek webstránku mali mať možnosť nastaviť spôsob, akým web zbiera vaše údaje. V niektorých štátoch vlády dokonca nariadili, aby zamietnutie zberu súborov cookies bolo rovnako ľahké ako ich povolenie.
Liečenie príčiny
Príčina nášho aktuálneho stavu a smerovania bezpochyby spočíva v kultúre a vzdelaní. Debaty na túto tému môžu ľahko skĺznuť na ezoterické a náboženské chodníčky.
Zdá sa, že žijeme v dobe davovej psychózy, kde začína byť čoraz ťažšie spochybňovanie autority. Prednosť pred vnútorným poznaním má intelekt, ktorý ako som už vysvetľoval vyzerá byť subjektívny, tým pádom jednoznačne omylný. Viacero historikov sa zhoduje, že stav západnej kultúry sa podobá na posledné roky rozpadu rímskej ríše, kedy materializmus, hedonizmus, posadnutosť sexom a sexualitou boli taktiež veľmi rozšírené.
Konkrétnu príčinu všetkých týchto symptómov by sme mohli nájsť v školstve, ktoré je zamerané na cvičenie pamäte namiesto rozvoja osobnosti a hodnôt. Z tade následne vznikajú symptómy – autority, ktoré obdivujeme, hodnoty, ktoré uznávame, zástupcovia, ktorých volíme, jedlo, ktoré jeme…
Kritici radi ukazujú prstom na kapitalizmus, politikov, náboženstvo, konšpirátorov. Toto všetko sú však iba symptómy nedostatočne rozvinutého ľudského potenciálu. Samozrejme, že sme hlúpi keď sme nikdy nezažili dôležitosť vzdelania. Samozrejme, že nám vládnu nekompetentní a nepoctiví, keď my sami sme takí.
Na naozajstné vyliečenie príčiny nášho stavu potrebujeme všetci začať od seba, čo je jednou z najťažších úloh práve kvôli rigidnému egu a sebeckosti, ktoré nám náš nedostatok poznania a vzdelania spôsobil.
Literatúra
- Robert Epstein, PH.D., 2022 – Google’s Triple Threat. Dostupné na internete: https://files.constantcontact.com/996c7b64801/d6cc3468-d15e-45f2-9d7a-23c6a1f2a313.pdf
- Steve Kovach, 2014 – Apple’s Tim Cook Takes a Swipe at Google’s Business Model. Dostupné na internete: https://www.inc.com/business-insider/tim-cook-attacks-google.html
- Joseph Cox, 2021 – Cars Have Your Location. This Spy Firm Wants to Sell It to the U.S. Military. Dostupné na internete: https://www.vice.com/en/article/k7adn9/car-location-data-telematics-us-military-ulysses-group
- Ewen Macaskill a Gabriek Dance, 2013 – NSA files: Decoded. Dostupné na internete: https://www.theguardian.com/world/interactive/2013/nov/01/snowden-nsa-files-surveillance-revelations-decoded#section/1
- Tyler Huckabee, 2021 – In 2019, Almost All of Facebook’s Top Christian Pages Were Run By Foreign Troll Farms. Dostupné na internete: https://relevantmagazine.com/culture/tech-gaming/almost-all-of-facebooks-top-christian-pages-are-run-by-foreign-troll-farms/
- Pravidlá ochrany používateľských údajov firmy Facebook – What information does Facebook get when I visit a site with the Like button? Dostupné na internete: https://www.facebook.com/help/186325668085084
- Vanessa Allen, 2010 – Google finally admits that its Street View cars DID take emails and passwords from computers. Dostupné na internete: https://www.dailymail.co.uk/sciencetech/article-1323310/Google-admits-Street-View-cars-DID-emails-passwords-computers.html
- Robert Epstein, PH.D., 2022 – Youtube’s CEO admits during company meeting their algorithm favors “good content”. Video dostupné na internete: https://vimeo.com/354354050
- Robert Epstein, PH.D., 2018 – Google’s selfish ledger transcript. Dostupné na internete: https://aibrt.org/downloads/GOOGLE-Selfish_Ledger-TRANSCRIPT.pdf
- Sarah DiGiulio, 2018 – What is gaslighting? And how do you know if it’s happening to you? Dostupné na internete: https://www.nbcnews.com/better/health/what-gaslighting-how-do-you-know-if-it-s-happening-ncna890866
- Sadhguru, 2012 – Going Beyond Morality. Dostupné na internete: https://isha.sadhguru.org/us/en/wisdom/article/going-beyond-morality
- Sadhguru, 2018. Vnútorné Inžinierstvo, 2018. 280 s. ISBN: 9788081114625