Téma, které bylo nastoleno v příspěvku o umělé inteligenci, si zaslouží hlubší analýzu, protože důsledky budou dalekosáhlé a velmi pravděpodobně otřesné. V článku Umělá inteligence pro začátečníky: Umělá inteligence z nás dělá hlupáky jsem poznamenal:
- Ti, kteří získali skutečné vzdělání, mohou umělou inteligenci používat, protože mají dostatek znalostí, aby ji mohli zkontrolovat, ale mladší generace, které používají umělou inteligenci jako náhradu za skutečné učení, tuto schopnost nikdy nevyvinou.
- Ti, kteří skutečně ovládají danou oblast, mohou AI používat a neuvědomují si, že můj argument není o tom, že AI je zbytečná, ale o tom, že fatálně podkopává skutečné učení a myšlení.
Jinými slovy, jde o další příklad ryb, které nevidí vodu, ve které plavou: ti, kteří již mají hluboké zkušenosti s programováním, mohou AI používat jako nástroj, protože skutečně rozumějí systému, ve kterém pracují. Ale někdo, kdo skládá kód pomocí pokynů AI a ve skutečnosti „nezná“ programování jako zkušenostní znalost, nemá schopnost zkontrolovat kód generovaný AI nebo pochopit jeho potenciální dopad na celý systém.
Problém neuvědomělých znalostí
Ti, kteří mají zkušenosti, to nevidí, protože již mají zkušenosti. Nechápou omezené porozumění těch, kteří mají málo zkušeností a nemají hluboké vzdělání v dané oblasti.
To lze říci o každém složitém oboru lidské činnosti, který vyžaduje určitou úroveň mistrovství získanou zkušenostmi.
Toto povrchní chápání celého systému vytváří systémové slabiny, které málokdo vidí. Jakmile poslední generace, která měla dovednosti, tacitní (neuvědomělé) znalosti a zkušenosti k tomu, aby systém předělala od základů nebo jej upravila na strukturální/systémové úrovni, odejde do důchodu nebo zemře, nezůstane nikdo, kdo by byl schopen zvládnout krize, které jsou buď mimo dosah AI, nebo jsou generovány AI.
Proces předávání základních systémových a organizačních znalostí je tím, co AI ohrožuje, protože předávání základních znalostí vyžaduje nákladné vzdělávání a mentoring, které se snadno omezují pod vlivem mylného přesvědčení, že AI to všechno zvládne.
Společnosti proto nenajímají stážisty, protože AI dokáže mnohem levněji vykonávat podřadnou práci, za kterou byli stážisté placeni.
Problémem je, že kritické systémové znalosti jsou neuvědomělé, skryté znalosti, což znamená, že je lze získat pouze dlouholetou praxí zdola nahoru. Proto potomci zakladatele začínali pracovat na montážní lince a poté přešli do účetnictví, marketingu atd., protože to byl jediný způsob, jak porozumět společnosti alespoň trochu použitelným způsobem.
Co s tím?
Pokud AI sumarizuje provoz společnosti, budoucí manažeři se nenaučí nic skutečně hodnotného.
Proto IBM vyžadovala, aby její noví klíčoví zaměstnanci strávili celý rok školením, než začali vykonávat svou skutečnou práci. Nešlo o to, že by IBM hloupě rozhodla plýtvat penězi, ale o nezbytnou investici do budoucí produktivity a zisků společnosti.
Současný názor je, že 1) AI se bude ve všech ohledech neustále zlepšovat bez omezení a 2) můžeme se obejít bez školení potřebného k získání kompletní znalostní základny, protože AI dokáže veškerou práci vykonat levněji než lidé.
To, že AI může mít vnitřní omezení, je pro tento způsob uvažování nepřijatelné, stejně jako možnost, že lidé stále mají schopnosti, které jsou nezbytné pro komplexní organizace a úkoly v reálném světě, které nelze nahradit AI.
Toto zbavování se širokých zkušenostních znalostí se již projevuje: AI ničí již tak křehký trh práce pro absolventy vysokých škol (WSJ.com, placený obsah)
Společnosti se dlouho spoléhaly na začínající pracovníky, kteří vykonávali rutinní práci, která sloužila zároveň jako zaškolení. Nyní mohou mnoho z těchto úkolů vykonávat ChatGPT a další roboti.
„Ernst uvedl, že jeho výzkum ukazuje, že pracovníci se většinou učí prostřednictvím zkušeností a zbytek pochází z vztahů a rozvoje. Když AI dokáže během několika sekund vyprodukovat zprávu, která by dříve mladému zaměstnanci trvala dny nebo týdny – a při tom ho naučila důležité dovednosti –, společnosti se budou muset naučit školit tyto osoby jinak.“
Zapomeneme myslet?
Tento graf ukazuje, jak míra nezaměstnanosti nejvzdělanějších vrstev roste rychleji než míra nezaměstnanosti méně vzdělaných vrstev, protože ty aspekty práce úředníků, které lze automatizovat, jsou automatizovány.
Jelikož společnosti již neinvestují do školení zaměstnanců kromě toho, jak používat AI, vede to ke vzniku kognitivní elity – těch několika málo, kterým se podařilo získat požadované tacitní znalosti celého oboru.
Co se stane, když jen několik málo lidí dokáže stále myslet: Vzestup kognitivní elity.
Esejista Samo Burja jde ještě o krok dál a zkoumá, jak toto zbavování se skutečného učení / systémového porozumění a neúprosné rozdělování vede ke kolapsu, který málokdo rozpozná, i když je již v plném proudu.
„Rozdělením dostupných znalostí můžete využít informační asymetrie k intelektuálnímu nebo materiálnímu prospěchu centra. Část z toho je nezbytná pro rozšiřování organizací nad rámec toho, co mohou zvládnout sociálně propojené sítě – ale pokud se příliš přikloníte k rozdělení, stane se nemožné splnit původní poslání organizace.
Intelektuální apokalypsa
Kolaps civilizace tedy vypadá jako tato dynamika v měřítku celé civilizace: nízká, ale konstantní ztráta schopností a znalostí v nejdůležitějších částech našich institucí, která nakonec degraduje naši schopnost udržet společnost.
Vyhnout se kolapsu je tak obtížné, protože selhání nástupnictví je často nejasné. Kdyby cech keramiků ztratil schopnost vyrábět dobré nádobí – formovat lidi do zručných hrnčířů – oznámil by to světu? Samozřejmě že ne – instituce se velmi zřídka samy ruší. Intelektuální apokalypsa je neviditelná, pokud kolem nejsou žádní skuteční intelektuálové. Opět platí, že selhání institucí je obvykle překvapením.
Ztráta znalostí je obzvláště škodlivá, protože urychluje ostatní aspekty kolapsu a zajišťuje, že budou dlouhodobé.
Znalosti o těchto sociálních technologiích jsou velmi roztříštěné, a proto nejsou jasně chápány všemi částmi společnosti. To znamená, že společnost procházející intelektuálním temným věkem si vůbec neuvědomuje, že jím prochází – všichni lidé, kteří by si toho všimli, jsou již dávno pryč, a ti, kteří zůstali, jsou špatně vzdělaní a hrají role, které zanechali jejich předchůdci, aniž by si uvědomovali, že ztratili podstatu. Často byla zničena nejen znalost, ale i socioekonomická nika, která kdysi podporovala vytváření nových sociálních technologií, a to s výjimkou samotného názvu.
Této jemné erozi zkušenostních znalostí jsem se dotkl při diskusi o katastrofickém požáru v Lahaině, který lze alespoň částečně připsat institucionální ztrátě základních znalostí: protože nikdo neměl žádné zkušenosti s řešením rychle se vyvíjejících krizí, nebyli připraveni účinně reagovat.
Poslední generace
Při spoléhání se na AI, která vykonává všechny drobné úkoly, nemá smysl investovat do lidí, kteří získávají úplné, funkčně užitečné znalosti o celém systému nebo oboru.
To, co se ztratí, když zmizí poslední generace, která věděla dost na to, aby radikálně přepracovala systém (což Burja nazývá sociální technologií) od základů, není na žádném displeji, protože se předpokládá, že AI může přepracovat cokoli a všechno od základů a zajistit, aby to fungovalo.
To je podobné jako předpokládat, že stručné shrnutí „kapitalismu“ vytvořené AI nahradí přečtení tří tlustých svazků Braudelovy Civilizace a kapitalismus, 15. až 18. století, nebo že AI, která napíše článek, nahradí přečtení všech zdrojových materiálů v originále a náročnou práci při psaní eseje, která není pouhým řazením slov a vět, ale myšlením v jeho nejdůležitějších a nejzákladnějších procesech.
Dva anekdotické postřehy
Většina použití AI, o kterých slyším, jsou velmi omezené úryvky: shrnutí, seznamy marketingových nápadů, kousky kódu, cestovní plán, píseň nebo grafika a tak dále. Pokud jde o hlubokou transformaci, osobně znám pouze dva případy a oba lidé jsou na sklonku 50 a mají za sebou bohatou životní zkušenost.
Dospěl jsem k závěru, že AI mohou skutečně transformativním způsobem využívat pouze lidé s desítkami let životních zkušeností, protože to vyžaduje prozkoumání tématu v dlouhém dialogu čerpajícím ze všech těchto životních zkušeností, dialogu, který se může protáhnout na stovky stránek, zatímco jedinec zvažuje odpovědi AI s plnou silou svého tacitního vědění a intuitivního gestaltového myšlení.
Technologičtí idealisté předpokládají, že AI vykouzlí dokonalé řešení každého lidského problému, hodí ho přes plot a lidé ho dychtivě uvedou do praxe.
To, že lidé mohou potřebovat vůdce, hodnoty, instituce, účel, smysl, zkušenostní znalosti a komplexní sociální technologie – tedy vše, co AI podkopává, oslabuje nebo rozkládá – aby vůbec mohli začít podnikat jakékoli kolektivní kroky, se zdá být vodou, ve které plaveme a kterou nikdo nevidí.
Pokud jsme poslední generací, která umí dělat těžké věci sama, čeká nás příšerná budoucnost.
