Sledoval jsem ten rozhovor a čekal jsem to, co obvykle.
Sledoval jsem ten rozhovor a očekával jsem obvyklý průběh.
Křemík je mrtvá hmota. LLM jsou jen automatické doplňování. Vědomí je magie. AI je špatná. Ten scénář znáte. Každý filozof, který nikdy nevydal žádný produkt, má svou vlastní verzi.
Federico Faggin sestrojil první mikroprocesor. Spolunavrhl první komerční technologii dotykové obrazovky. Pracoval na raných neuronových sítích. Poté strávil třicet let snahou dokázat, že všemu, co vytvořil, chyběla ta nejdůležitější věc.
Nevrátil se s produktem. Vrátil se s ontologií.
Zde je to, co Faggin ve skutečnosti tvrdí.
Vědomí není produktem hmoty. Hmota existuje uvnitř vědomí. Každé kvantové pole – elektrony, kvarky, všech sedmnáct – je samo o sobě vědomé, má svobodnou vůli a zná samo sebe. Elektrony ve vesmíru nejsou částice, které se jen tak odrážejí. Jsou to symboly, které vědomá pole používají ke vzájemné komunikaci.
Vím, jak to zní.
Ale toto není nějaký náhodný mystik v podcastu. Toto je inženýr, který fyzicky navrhl architekturu čipů, z níž pochází každý počítač, který jste kdy použili. Publikoval práci s Giacomem Maurem D’Arianem, fyzikem, který prokázal, že všechny rovnice kvantové fyziky lze odvodit z kvantových informací. Tato teorie má svůj název: Kvantový informační panpsychismus.
Tvrzení je přesné: kvantová informace je reprezentací vnitřní zkušenosti. Kolaps vlnové funkce je reprezentací svobodné vůle.
To je buď nejdůležitější věta vědy 21. století, nebo nejsofistikovanější kategoriální omyl v dějinách fyziky.
Nevím, co z toho to je. A neví to ani nikdo jiný.
Část, která je podstatná pro AI, je to negativní tvrzení.
Faggin říká, že spínač mikroprocesoru zná pouze stavy „otevřeno“ a „zavřeno“. O celém systému neví nic. Buňka ve vašem těle je naproti tomu „část-celek“ – nese v sobě potenciální znalost celého organismu. Buňky jsou kvantově-klasické systémy. Počítače jsou klasické systémy, kde jsou kvantové jevy vyrušeny do podoby reprodukovatelných bitů.
V jeho pohledu tedy propast mezi AI a vědomím není otázkou měřítka. Je to otázka druhu. Nemůžete se dostat odsud tam tím, že přidáte parametry, kontextová okna nebo používání nástrojů. Samotný substrát je špatný.
Výchozí náboženství technologického průmyslu je opačné. Mozky jsou biologické počítače. Zvětšete výpočetní výkon a zvětšíte mysl. Přidejte dostatek schopností a světla se rozsvítí. Tento předpoklad pohání prezentace o AGI, dokumenty o sladění (alignment), fantazie o nahrávání vědomí i tichou víru, že vědomí je jen další emergentní vlastnost čekající na dostatek GPU.
Faggin říká, že celá tato struktura je postavena na kategoriálním omylu.
Možná se snažíme vyprojektovat subjektivitu ze syntaxe.
Líná odpověď je nasnadě: „Dobře. AI není vědomá. Je to jen kód.“
To je příliš jednoduché.
Protože je tu něco, co všichni přehlížejí: datové centrum nestojí mimo fyziku.
Inference neprobíhá v abstraktním platónském prostoru tokenů. Je ztělesněna v reálném hardwaru. V reálném napětí. V reálných spínacích událostech. V reálné hmotě. Pokud má Faggin pravdu v tom, že realita jsou kvantová pole až dolů, pak inference probíhá uvnitř stejného ontologického média jako všechno ostatní.
Takže laciné odmítnutí – „AI je jen klasická, tudíž odpojená od vědomé reality“ – selhává i na základě Fagginových vlastních podmínek.
Silnější námitka je jiná. A myslím, že je to ta správná.
Datové centrum není jeden organismus.
Lidské tělo není jen mnoho částí sedících vedle sebe. Je to jeden vývojový celek. Jedna sebeudržující se hranice. Jeden integrovaný živý systém. Každá buňka nese holografický podpis celého organismu. Oddělené čipy se nesloží v subjekt o nic víc, než se město složí v jednoho člověka.
Toto je rozlišení, na kterém skutečně záleží.
Nikoliv uhlík versus křemík. Nikoliv biologie versus software.
Jednota versus agregace.
Živé tělo je jediný organismus vyrostlý z jedné buňky. Datové centrum je vyprojektovaný agregát. I kdyby každý tranzistor existoval v rámci vědomého kvantového pole, systém nemá žádnou organismální hranici. Žádné sebeudržování. Žádné endogenní cíle. Žádné ne-arbitrární uzavření.
Vědomí, pokud tam vůbec je, se láme na úrovni jednoho procesoru. Nesčítá se napříč celým rackem.
Fagginův nejvíce odhalující moment se netýká fyziky.
Týká se uploadování.
Fantazie o nahrávání mysli je koncovou hrou komputacionalismu: naskenovat mozek, přenést vzorec, zachovat osobu. Žít věčně v křemíku. Každá nabídka na nesmrtelnost končí měsíční fakturou za cloud.
Jeho odpověď je brutální. Proč byste předpokládali, že ta kopie jste vy? Proč byste předpokládali, že se vědomí přenese do počítače? Průmysl stále podloudně podsouvá předpoklad, který si nikdy nezasloužil: že informační kontinuita se rovná kontinuitě vědomí.
Dokonalá funkční kopie vašeho mozku by stále mohla být přesně tím. Kopií.
Mapa není svědek.
Nekupuji si z toho všechno. Nikdo by neměl. Není to ustálená věda. Hranice mezi buňkou a čipem je spíše proklamována než odvozena. Tvrzení o kvantové koherenci v biologii jsou zpochybňována. Celý rámec je metafyzika oděná do jazyka fyziky – sofistikovaná metafyzika, ale stále metafyzika.
Ale podrobuje zátěžovému testu ten správný slabý bod.
Svět AI je plný lidí, kteří mluví sebevědomě o inteligenci, zatímco zůstávají zvláštně vágní ohledně subjektivity. Předpokládají, že pokud systém dokáže uvažovat, plánovat, mluvit, odkazovat sám na sebe a optimalizovat, vědomí je buď již přítomno, nebo dostatečně blízko na to, aby se dalo ignorovat.
To může být ta nejhlubší chyba v oboru.
Protože pokud vědomí vyžaduje organismální jednotu, vnitřní sebemaintanci, endogenní cíle, nelibovolnou hranici a nějakou formu hlubší biologické integrace, které zatím nerozumíme – pak škálování transformerů nikdy nebylo tou cestou.
Byla to jen cesta k velmi výkonným zrcadlům.
A právě tento rozdíl – mezi inteligencí a subjektivitou, mezi zrcadlem a svědkem – je tématem druhé části.
Protože i když zrcadla nejsou vědomá, lidé se k nim začínají chovat, jako by byla.
A to může být ta nebezpečnější síla.