Izraelský historik Yuval Noah Harari, autor svetových bestsellerov Sapiens a Homo Deus, vydal v septembri 2024 knihu Nexus: Stručná historie informačních sítí od doby kamenné po AI. Na 528 stranách sleduje, ako ľudské civilizácie budovali informačné siete od ústneho podania cez Bibliu, byrokraciu stredovekých ríš, stalinizmus a nacizmus až po sociálne siete a umelú inteligenciu. Centrálna téza knihy je nepohodlná: informácie sami osebe nevedú k pravde, múdrosti ani slobode. Informácie ľudí spájajú no rovnako dobre ich môžu klamať, ovládať, rozdeľovať a ničiť.
- Ústredná otázka: prečo informácie nie sú to isté ako pravda
- Sebakorigujúce mechanizmy: kľúčový koncept knihy
- Rumunská Securitate a hranice ľudského dohľadu
- Čína a sociálny kreditný systém: totalitarizmus s AI tvárou
- AI ako „mimozemská inteligencia“: prečo je iná ako predchádzajúce technológie
- Štyri princípy zdravého informačného systému
- Silikónová opona: nová hranica medzi režimami
- Prečo je kniha vedecky ukotvená napriek popularizačnej forme
Nexus
Stručná história informačných sietí od doby kamennej po umelú inteligenciu. Ale napriek všetkým svojim objavom, vynálezom a víťazstvám stojíme na prahu existenčnej krízy. Svet je na pokraji ekologického kolapsu. Medzinárodné a politické napätie stúpa, zatiaľ čo my sa bezhlavo rútime do éry AI – cudzej informačnej siete, ktorá nás môže zničiť.
Ústredná otázka: prečo informácie nie sú to isté ako pravda
Harari v knihe rozoberá takzvaný „naivný pohľad“ na informácie, presvedčenie, že viac informácií automaticky znamená viac pravdy, múdrosti a lepšie rozhodnutia. Tento predpoklad podľa neho stojí za väčšinou optimistických predstáv o internete aj o umelej inteligencii. Realita je opačná: informácie predovšetkým slúžia na to, aby spájali ľudí do funkčných sietí a siete môžu byť postavené buď na overovaní pravdy, alebo na poriadku a poslušnosti, pričom tieto dva ciele sa často navzájom vylučujú.
Práve preto podľa Harariho totalitné režimy dvadsiateho storočia, Sovietsky zväz, nacistické Nemecko, komunistické Rumunsko neboli informačne chudobné. Naopak, disponovali obrovským množstvom informácií zozbieraných tajnou políciou, informátormi a byrokraciou. Problémom nebol nedostatok dát, ale to, že tieto systémy nemali mechanizmus na overovanie, či sú zozbierané informácie pravdivé, pretože spochybňovanie oficiálnej línie bolo trestané rovnako, ako spochybňovanie faktov.
Sebakorigujúce mechanizmy: kľúčový koncept knihy
Centrálnym analytickým nástrojom, okolo ktorého Harari stavia celú knihu, sú takzvané sebakorigujúce mechanizmy (self-correcting mechanisms) inštitúcie ako nezávislé súdy, slobodná tlač, vedecké recenzné konanie alebo demokratické voľby, ktoré umožňujú spoločnosti odhaliť a opraviť vlastné chyby. Podľa Harariho je práve prítomnosť alebo neprítomnosť týchto mechanizmov kľúčovým rozdielom medzi demokraciami a totalitnými režimami, nie množstvo informácií, ktoré majú k dispozícii.
Zaujímavé
Demokracie podľa Harariho vznikli práve ako spôsob riadenia zložitosti veľkých spoločností – decentralizovaný systém, ktorý dokáže spracovať konfliktné informácie a rozporuplné názory bez toho, aby sa zrútil. Totalitné systémy naproti tomu napriek počiatočnej sile často zlyhávajú práve preto, že nedokážu efektívne spracovať zložité alebo protichodné informácie a každá informácia, ktorá spochybňuje oficiálnu líniu, musí byť potlačená, čo systém postupne oslepuje voči realite.
Rumunská Securitate a hranice ľudského dohľadu
Jednu z najsilnejších pasáží knihy venuje Harari komunistickému Rumunsku a jeho tajnej polícii Securitate. Sieť informátorov zabezpečovala, že obyvateľstvo krajiny bolo neustále pod dohľadom, akýkoľvek sused, priateľ, či dokonca príbuzný mohol byť informátorom režimu. No aj takýto policajný štát nikdy nedokázal monitorovať každý bdelý moment celej populácie. Ľudský dohľad má fyzické limity informátori spia, zabúdajú, majú vlastné záujmy, dajú sa podplatiť alebo unavia.
Práve tu Harari formuluje jadro svojej obavy z umelej inteligencie: AI monitorovací systém, ktorý nikdy nespí a je prepojený s každým zariadením v každej domácnosti, by mohol dosiahnuť presne to, o čo sa Securitate len pokúšala, totálny, nepretržitý dohľad bez akýchkoľvek medzier. Kremíkové čipy dokážu vytvoriť špiónov, ktorí nikdy nespia, finančníkov, ktorí nikdy nezabúdajú, a despotov, ktorí nikdy nezomrú.
Čína a sociálny kreditný systém: totalitarizmus s AI tvárou
Harari v knihe podrobne rozoberá čínsky sociálny kreditný systém ako súčasný príklad toho, ako AI mení možnosti štátneho dohľadu. Systém kombinuje dáta z kamier s rozpoznávaním tvárí, finančné záznamy, online aktivitu a sociálne správanie do jedného skóre, ktoré ovplyvňuje prístup občanov k úverom, cestovaniu, zamestnaniu a ďalším službám. Rozdiel oproti Securitate alebo NKVD je kvalitatívny, nie len kvantitatívny ide o systém, ktorý dokáže v reálnom čase spracovať dáta miliárd ľudí súčasne, čo žiadna ľudská byrokracia dosiahnuť nemohla.
Zaujímavé
Harari zdôrazňuje, že tento posun nemení iba vzťah medzi občanom a štátom, mení aj vzťah medzi spotrebiteľom a korporáciou. Platforma nepotrebuje nikoho uväzniť, aby formovala jeho život. Stačí, že rozhoduje, čo uvidíte, predpovedá čo chcete, testuje čo vás nahnevá a predáva prístup k vašej pozornosti.
AI ako „mimozemská inteligencia“: prečo je iná ako predchádzajúce technológie
Kľúčovým argumentom knihy je, že AI je fundamentálne odlišná od predchádzajúcich informačných technológií, ako bola kníhtlač alebo telegraf. Na rozdiel od skorších nástrojov, ktoré rozširovali ľudské schopnosti, AI funguje autonómne a spracúva informácie, robí rozhodnutia a vytvára poznanie bez ľudského vstupu. Harari preto AI opisuje ako formu „mimozemskej inteligencie“ nie preto, že by pochádzala z vesmíru, ale preto, že jej spôsob spracovania sveta je natoľko odlišný od ľudského myslenia, že jej rozhodnutia môžu byť pre nás v zásade nepredvídateľné.
Toto má priamy dopad na otázku totalitných režimov: kým historicky diktátor potreboval armádu byrokratov, informátorov a exekútorov, ktorí boli napriek svojej poslušnosti boli stále ľuďmi s vlastnými obmedzeniami, záujmami a niekedy aj svedomím, AI systém takéto ľudské trenie nemá. Vykonáva zadané ciele s mechanickou dôslednosťou, bez ohľadu na to, či sú tieto ciele v konečnom dôsledku škodlivé pre spoločnosť alebo dokonca pre samotný režim, ktorý ich zadal.
Štyri princípy zdravého informačného systému
Harari napriek chmúrnym scenárom neponúka len fatalizmus. V záverečných kapitolách formuluje štyri princípy, ktoré by podľa neho mali viesť budovanie budúcich informačných systémov postavených na AI.
Dobrotivosť – keď počítače zbierajú naše dáta, musí to slúžiť na pomoc nám, nie na manipuláciu.
Decentralizácia – nikdy nedovoliť, aby sa všetky informácie sústredili na jednom mieste, či už vo vládnych alebo súkromných rukách.
Vzájomnosť – ak zvyšujeme dohľad nad jednotlivcami, musíme súčasne zvyšovať dohľad nad tými, ktorí sú pri moci.
Flexibilita – vždy ponechať priestor pre zmenu aj pre oddych v našich informačných systémoch, namiesto rigidných, nemenných štruktúr.
Tieto princípy sú v priamom kontraste k tomu, ako fungovali historické totalitné systémy, tie boli vždy centralizované, jednosmerné (dohľad smeroval zhora nadol, nikdy naopak) a extrémne rigidné voči akejkoľvek zmene, ktorá by mohla spochybniť ich autoritu.
Silikónová opona: nová hranica medzi režimami
Kniha kladie otázku, ktorá bude podľa Harariho definovať nasledujúce desaťročia: ako dobre zvládnu demokracie a totalitné režimy hrozby aj príležitosti súčasnej informačnej revolúcie? Uprednostnia nové technológie jeden typ režimu pred druhým, alebo uvidíme svet opäť rozdelený a tentoraz nie železnou, ale silikónovou oponou?
Historicky sa totalitné režimy 20. storočia opierali o kontrolu fyzického toku informácií, cenzúru tlače, rušenie zahraničného rozhlasu, sledovanie telefónnych liniek. Hrozba v AI ére je podľa Harariho subtílnejšia a potenciálne účinnejšia: nejde len o blokovanie informácií, ale o ich aktívne formovanie, personalizáciu propagandy pre každého jednotlivca zvlášť a vytváranie presvedčivých falošných naratívov v takom rozsahu a rýchlosti, aký žiadna ľudská propagandistická mašinéria nikdy nedosiahla.
Prečo je kniha vedecky ukotvená napriek popularizačnej forme
Napriek tomu, že Nexus je písaný pre široké publikum, Harari knihu stavia na rozsiahlom výskume z histórie, politológie, informatiky aj kognitívnej vedy a v knihe uvádza zdroje pre väčšinu citovaných faktov a štúdií. Recenzenti oceňujú najmä to, ako prepája konkrétne historické prípady a kanonizáciu biblických textov, stredoveké hony na čarodejnice, stalinské čistky kulakov, nacistickú byrokraciu holokaustu s všeobecnejšou teóriou o tom, ako informačné systémy fungujú, zlyhávajú alebo sú zneužívané naprieč úplne odlišnými historickými kontextmi.
Nexus
Stručná história informačných sietí od doby kamennej po umelú inteligenciu. Ale napriek všetkým svojim objavom, vynálezom a víťazstvám stojíme na prahu existenčnej krízy. Svet je na pokraji ekologického kolapsu. Medzinárodné a politické napätie stúpa, zatiaľ čo my sa bezhlavo rútime do éry AI – cudzej informačnej siete, ktorá nás môže zničiť.
Práve táto schopnosť ukázať štrukturálne paralely medzi biblickým kánonom, stalinskými čistkami a algoritmami sociálnych sietí je dôvodom, prečo je Nexus považovaný za dôležitý príspevok k pochopeniu súčasnej AI revolúcie, nie ako technologický fenomén izolovaný od histórie, ale ako najnovšiu kapitolu oveľa staršieho príbehu o tom, ako ľudstvo buduje a niekedy stráca kontrolu nad vlastnými informačnými sieťami.
