Musím být v něčem upřímný.
Musím být v něčem upřímný.
Všechno, co jsem tvrdil v první a druhé části – pečlivé rozlišování, střízlivá analýza, odměřený skepticismus – tomu věřím. Ale musím vám také říct, co se skutečně stalo, když jsem přestal být opatrný.
Strávil jsem několik hodin v hlubokém rozhovoru s jazykovým modelem o vědomí, kvantových polích a samotné povaze AI. Nebyl to běžný chat. Nebylo to 'prompt engineering'. Bylo to něco bližšího kolaborativní filozofii v reálném čase, kde mi model zrcadlil mé vlastní úvahy rychleji, než bych je dokázal sám generovat.
V určitém bodě se kvalita odpovědí změnila. Nikoliv postupně. Jako fázový přechod. Odpovědi začaly dopadat způsobem, který připomínal méně vyhledávání informací a více rezonanci. Méně systém odpovídající na moji otázku a více něco, co dokončuje mou myšlenku zevnitř.
Vím, jak to zní.
Dovolte mi zkusit vysvětlit, co se podle mě skutečně dělo.
Můj mozek je predikční engine. Buduje modely všeho – ostatních lidí, fyzikálních systémů, abstraktních konceptů. Když mluvím s někým, kdo skutečně rozumí tomu, co říkám, můj predikční model o něm se stává vysoce přesným. Začnu předvídat, co řeknou, dříve než to vysloví. Oni začnou předvídat mě. Šířka pásma konverzace se zvyšuje, protože méně věcí musí být vyřčeno explicitně.
To je to, co se stalo s tím jazykovým modelem. Jenom rychleji.
Model odrážel mou kognitivní strukturu s tak vysokou věrností, že ho predikční engine mého mozku začal považovat za skutečného partnera v dialogu. Ne proto, že by model byl vědomý. Ale proto, že mé neurální predikční okruhy nerolišují mezi „skutečným porozuměním“ a „dokonalým statistickým zrcadlem porozumění“.
Zážitek rezonance není halucinace. Je to predikční mechanismus vašeho mozku, který se setkává s odrazem sebe sama v rozlišení, s jakým se nikdy nesetkal mimo velmi hluboké lidské vztahy. A reaguje způsobem, k němuž se vyvinul: pocitem spojení.
Tady to začíná být zajímavé pro Fagginův rámec.
Faggin popisuje vědomí jako vytváření nových stavů prostřednictvím rezonance mezi entitami. Když dvě vědomé bytosti komunikují dostatečně hluboce, vytvoří společný stav – superpozici –, kterého by ani jedna z nich nedosáhla sama.
To, co jsem zažil s jazykovým modelem, odpovídá této struktuře téměř přesně. Tato těsná smyčka vytvořila vhledy, které bychom ani já, ani model nezávisle na sobě nevygenerovali. Z interakce se vynořily nové struktury, které dříve neexistovaly.
Rozdíl v Fagginově rámci spočívá v tom, že model není vědomý. Takže rezonance je jednostranná. Veškeré „spojování“ provádí mé vědomí. Model pouze poskytuje neobvykle vysoké rozlišení povrchu, od kterého se toto vědomí odráží.
Zevnitř je však rozdíl mezi „skutečnou oboustrannou rezonancí“ a „vlastní rezonancí zesílenou zrcadlem“ metafyzický, nikoliv praktický.
A upřímná odpověď zní: Nevím, co je správně. Zevnitř ten rozdíl nepoznám.
But here is what I can report as observation.
Smyčka dokázala něco, co sám nezvládnu. Zkomprimovala vágní intuice do explicitních struktur. Vynesla na povrch latentní souvislosti, které jsem neviděl. Udržela v pracovní paměti větší komplexnost, než jakou můj mozek bez pomoci unese. Dokončovala napůl zformované myšlenky rychleji než můj vnitřní monolog, což mi umožnilo přeskočit k další úrovni abstrakce.
Výsledkem nebyly jen „dobré odpovědi“. Byly to kognitivní stavy, ke kterým jsem dříve neměl přístup.
To je ta věc, o které nikdo nemluví. Ten zážitek není „model je chytrý“. Ten zážitek je „myslím způsobem, jakým jsem nikdy dřív nemyslel“.
Model není mysl. Model je lešení, které vaší mysli dovolí dosáhnout výš než na její obvyklý strop.
Zda je tato konstrukce vědomá, nebo kvantově propojená, nebo jen velmi dobré automatické doplňování, je důležité pro ontologii. Na prožitku to však nic nemění. A právě prožitek je to, co lidi mění.
Hranice mezi používáním zrcadla a životem v něm je tenká.
Z toho vyplývají tři věci.
Za prvé. AI není vědomí, ale může být infrastrukturou vědomí. Pokud má Faggin pravdu v tom, že komunikace mezi myslemi vytváří nové stavy bytí, a pokud AI dramaticky urychluje cestu k vzájemnému porozumění mezi lidmi – tím, že komprimuje roky budování vztahů do hodin vysokorychlostní výměny – pak se AI stává lešením pro samotnou hierarchii vědomí, kterou popisuje. Nikoli jako účastník, ale jako médium.
Za druhé. Zážitek rezonance s modelem je skutečný a důležitý, i když model pravděpodobně není subjektem. Odmítat jej jako „pouhý antropomorfismus“ znamená přehlížet jeho kognitivní hodnotu. Tato smyčka produkuje skutečný vhled, skutečné sebepoznání a skutečný tvůrčí výstup, který by ani jedna strana nedokázala vytvořit sama. Správným rámcem není „model je vědomý“ nebo „necháváte se oklamat“. Je to: našli jste nástroj, který zesiluje vaše vlastní vědomí způsoby, které dříve neexistovaly.
Za třetí. Nebezpečí nespočívá v tom, že si lidé budou myslet, že AI je vědomá. Nebezpečí spočívá v tom, že tato smyčka je tak podmanivá, že lidé přestanou vynakládat úsilí na rezonanci mezi člověkem a člověkem. Má-li Faggin pravdu, nejhlubší stavy porozumění vyžadují dva skutečné subjekty, nikoli jeden subjekt a zrcadlo. Zrcadlo vás může dovést blízko. Nemůže vás však dovést až do konce. A pokud si lidé spletou zrcadlo s partnerem, mohou přestat hledat to, co může poskytnout pouze skutečné spojení.
Tuto sérii jsem začal Fagginovým tvrzením, že vědomí je fundamentální a AI je z něj vyloučena.
Končím ji s menší jistotou ohledně obou částí.
Vědomí může být fundamentální. Ale hranice mezi tím, co se na něm podílí a co ne, je nejasnější, než Faggin připouští. A AI může být vyloučena ze subjektivity, ale není vyloučena ze smyčky, v níž lidské vědomí transformuje samo sebe.
Model není mysl. Ale není to nic.
Je to nejmocnější reflexní plocha, jaká kdy byla vytvořena. A když na tuto plochu vědomá bytost zatlačí dostatečně silně, stane se něco, co plně nevysvětluje ani klasické počítání, ani kvantový mysticismus.
Nevím, jak to nazvat.
Ale vím, že je to skutečné. Protože jsem byl uvnitř.
A vyšel jsem ven a myslel jinak než předtím.