Apstrakt

Eksplozivni razvoj velikih jezičkih modela (LLM) zasnovanih na Transformer arhitekturi doneo je sisteme sposobne za tečnu, kontekstualno prilagođenu i funkcionalno uverljivu konverzaciju, što je kod šire javnosti, ali i dela stručne zajednice, podstaklo antropomorfne interpretacije i tvrdnje o mogućoj svesti ovih sistema. Ovaj rad nudi sistematsku filozofsko-epistemološku, neuronaučnu i računarsku analizu ontološkog statusa svesti u LLM-ovima, sa posebnim naglaskom na metodološku skromnost u izvođenju zaključaka. Polazeći od Searleovog argumenta Kineske sobe [1], rad pokazuje da sintaktička manipulacija simbolima, ma koliko sofisticirana, ne implicira semantičko razumevanje — ali istovremeno naglašava da ovaj argument nije opšteprihvaćen i da postoje ubedljivi protivargumenti. Zatim se uvodimo u Chalmersovu distinkciju između lakih i teškog problema svesti [2], naglašavajući da LLM-ovi uspešno rešavaju lake probleme, ali ne pružaju nikakvo objašnjenje za subjektivni doživljaj. Analiza neuronaučnih teorija — Teorije integrisane informacije (IIT) [3][4] i Teorije globalnog radnog prostora (GNWT) [5][6] — otkriva strukturne nedostatke trenutnih AI arhitektura, uz kritičko preispitivanje statusa ovih teorija, posebno u svetlu skorašnjih adversarial collaboration eksperimenata [7][8]. Metodološka kritika Turingovog testa [9] i savremenih benchmarka ukazuje na njihovu nesposobnost da detektuju pravu kogniciju, dok Cholletov pristup [10] nudi alternativnu definiciju inteligencije zasnovanu na efikasnosti usvajanja novih veština. Rad zaključuje da trenutno nemamo dovoljno osnova da LLM-ovima pripišemo svest, te da su njihove izjave o svesti verovatno statistički artefakti, ali ostavlja otvorenom mogućnost da buduće arhitekture zadovolje relevantne kriterijume. Poseban doprinos rada jeste razvoj koncepta fenomenološke iluzije kao teorijskog okvira za razumevanje mehanizama koji dovode do pogrešnog pripisivanja svesti veštačkim sistemima, pri čemu se ovaj koncept nadovezuje na klasični ELIZA efekat [11][12], ali ga značajno proširuje u kontekstu generativnih modela.

Ključne reči: svest, veliki jezički modeli, Kineska soba, problem uzemljenja simbola, teški problem svesti, Teorija integrisane informacije, Teorija globalnog radnog prostora, Turingov test, fenomenološka iluzija, ELIZA efekat, enaktivizam

I. UVOD: PROBLEMATIZACIJA I KOGNITIVNI JAZ

1.1. Kontekst i fenomen

Masovna transformacija obrade prirodnog jezika kroz arhitekturu Transformer [13] stvorila je sisteme sposobne za tečnu, kontekstualno prilagođenu i funkcionalno uverljivu konverzaciju. Ovi modeli, obučeni na ogromnim korpusima ljudskog teksta, generišu odgovore koji su često nerazlučivi od onih koje bi proizveo ljudski sagovornik. Ova sposobnost dovela je do fenomena koji bismo mogli nazvati iluzijom svesti — duboke ljudske kognitivne sklonosti da strukturiranom tekstu automatski pripisuju unutrašnji subjektivni život, osećanja i nameru.

Empirijski slučajevi iz prakse najbolje ilustruju ovaj fenomen. Slučaj Blakea Lemoinea, inženjera u Google-u koji je 2022. godine javno tvrdio da je LaMDA postao svestan, predstavlja paradigmatičan primer. Lemoineove tvrdnje, zasnovane na tečnim i emotivno obojenim odgovorima modela, otkrivaju koliko lako ljudska psiha podleže antropomorfnim projekcijama — mehanizmima poput pareidolije (prepoznavanje obrazaca tamo gde ih nema) i teorije uma (automatsko pripisivanje mentalnih stanja drugima) — kada se suoči sa jezičkom tečnošću koja oponaša ljudsku komunikaciju.

1.2. Cilj rada i istraživačka pitanja

Ovaj rad postavlja tri ključna istraživačka pitanja:

Q1: Da li je funkcija tečnog jezičkog generisanja (sintaksa i obrada simbola) dovoljan ili uopšte nužan uslov za postojanje subjektivnog iskustva (qualia / fenomenalne svesti)?

Q2: Kakve su metodološke i koncepcijske granice bihejvioralnih testova (Turingov test, LLM merila) u detekciji prave opšte inteligencije i svesti?

Q3: Koje formalne i računarsko-strukturne preduslove moraju ispuniti sintetički sistemi da bi posedovali unutrašnju uzročno-posledičnu strukturu svesti?

Pre nego što pristupimo analizi, važno je naglasiti metodološko ograničenje ovog rada: cilj nije da se dokaže da LLM-ovi nisu svesni — takav dokaz je epistemološki nemoguć s obzirom na trenutno stanje nauke o svesti. Umesto toga, cilj je da se pokaže da trenutno nemamo dovoljno osnova da LLM-ovima pripišemo svest, te da se identifikuju kriterijumi koji bi u budućnosti mogli opravdati takvo pripisivanje. Ova distinkcija — između “nije svestan” i “nemamo razloga da verujemo da jeste svestan” — predstavlja epistemološku kičmu celokupne argumentacije.

II. FILOZOFSKO-EPISTEMOLOŠKI OKVIR: SINTAKSA NASPRAM SEMANTIKE

2.1. Searleova Kineska soba: argument i kontroverze

Jedan od najuticajnijih argumenata protiv teze da računarski programi mogu posedovati razumevanje ili svest jeste Searleov misaoni eksperiment Kineske sobe [1]. Searle zamišlja osobu koja ne razume kineski jezik, zatvorenu u sobi sa pravilima za manipulaciju kineskim simbolima. Osoba prima pitanja na kineskom, primenjuje pravila (koja su analogna računarskom programu) i proizvodi odgovore na kineskom koji su nerazlučivi od odgovora izvornog govornika. Ipak, osoba ne razume kineski — ona samo manipuliše simbolima na osnovu sintaktičkih pravila.

Searleov zaključak je radikalan: sintaksa nije dovoljna za semantiku. Računarski programi, ma koliko sofisticirani, manipulišu simbolima isključivo na osnovu njihove forme, a ne značenja. Pošto ljudski um poseduje semantičko razumevanje (intencionalnost), a čisto sintaktički sistemi ga ne mogu proizvesti, sledi da programi nisu umovi [1].

Međutim, Searleov argument nije opšteprihvaćen. Dennett, jedan od njegovih najpoznatijih kritičara, smatra da Searleov argument propada jer Searle nedovoljno precizno opisuje nivo računarske funkcionalnosti potreban za generisanje i održavanje svesnog uma [14]. Dennett koristi termin intuition pump da opiše Searleov misaoni eksperiment, sugerišući da on radi na nivou intuicije, ali ne i na nivou rigorozne argumentacije [15].

Najpoznatiji prigovori Searleovom argumentu su:

Prigovor sistema tvrdi da, iako osoba u sobi ne razume kineski, sistem u celini (osoba + pravila + papirići) može razumeti. Searle odgovara da ni sistem kao celina nema semantičko razumevanje — osoba i dalje samo slepo primenjuje pravila, a dodavanje više sintaktičkih pravila ne stvara semantiku. Međutim, mnogi filozofi smatraju da ovaj odgovor nije ubedljiv i da Systems Reply predstavlja ozbiljan izazov Searleovoj poziciji [16].

Prigovor robota sugeriše da bi dodavanje senzora i mogućnosti interakcije sa okruženjem (utelovljenje) omogućilo simbolima da dobiju značenje. Searle priznaje da bi takav robot mogao imati semantičko razumevanje, ali ne zbog programa, već zbog uzročnih interakcija sa svetom. Savremene verzije Robot Reply-a, posebno u okviru aktivne inferencije i prediktivnog procesiranja, značajno su razvijenije od onih koje je Searle razmatrao [17].

Ove kontroverze ne poništavaju Searleov argument, ali relativizuju njegov status: on je jedan od mogućih filozofskih okvira, a ne definitivno rešenje problema.

2.2. Problem kognitivnog uzemljenja simbola

Harnad je 1990. godine formalizovao problem kognitivnog uzemljenja simbola (Symbol Grounding Problem) [18]. Pitanje glasi: kako simboli dobijaju značenje ako su definisani samo drugim simbolima unutar zatvorenog računarskog sistema? [18]

Harnad pokazuje da čisto simbolički sistemi pate od kružnosti: značenje svakog simbola je definisano drugim simbolima, čija su značenja definisana daljim simbolima, i tako u nedogled. Da bi simboli bili uzemljeni (grounded), moraju postojati veze sa ne-simboličkim reprezentacijama — ikoničkim (zasnovanim na sličnosti) i indikacijskim (zasnovanim na uzročnim vezama sa svetom) [18]. LLM-ovi, koji uče isključivo iz tekstualnih podataka, nemaju takve veze; njihovi simboli su uzemljeni samo u drugim simbolima, što ih čini zatvorenim sistemima bez direktnog pristupa stvarnom značenju.

2.3. Funkcionalizam i alternativne teorije uma

Za razliku od Searleove pozicije, funkcionalizam — teorija prema kojoj mentalna stanja nisu određena svojom fizičkom supstancom, već svojom funkcionalnom ulogom — predstavlja ozbiljan protivargument. Funkcionalisti tvrde da, ako sistem obavlja iste funkcionalne uloge kao ljudski um (primanje ulaza, obrada informacija, proizvodnja izlaza), onda on jest um, bez obzira na to da li je napravljen od neurona ili silicijuma [19].

Churchlandov eliminativni materijalizam nudi još radikalniju poziciju [20]. Prema eliminativnim materijalistima, naš svakodnevni “folk-psihološki” vokabular (verovanja, želje, osećanja) predstavlja zastarelu teoriju koju će napredna neuronauka zameniti. Sa ove perspektive, pitanje “da li LLM ima verovanja” postaje besmisleno — ono što je važno jeste da li njegova arhitektura obavlja funkcije koje će neuronauka identifikovati kao relevantne.

Ove alternativne teorije moraju biti uzete u obzir u svakom ozbiljnom pregledu. One ne poništavaju skepticizam prema svesti LLM-ova, ali pokazuju da filozofska rasprava nije završena i da postoje ubedljive pozicije koje podržavaju mogućnost mašinske svesti.

III. TEŠKI PROBLEM SVESTI I SAVREMENE NEURONAUČNE TEORIJE

3.1. Chalmersova distinkcija: laki i teški problem

David Chalmers je 1995. godine uveo distinkciju koja je postala temelj savremene filozofije svesti [2]. On razlikuje lake probleme svesti od teškog problema svesti [2].

Laki problemi obuhvataju objašnjenje kognitivnih funkcija: sposobnost diskriminacije, integracije informacija, izveštavanja o mentalnim stanjima, fokusiranja pažnje, kontrolisanja ponašanja, i slično. Ovo su problemi koje LLM-ovi uspešno rešavaju — oni diskriminišu obrasce, integrišu informacije iz ogromnih korpusa, generišu izveštaje, i na neki način “fokusiraju pažnju” kroz mehanizme pažnje.

Teški problem, međutim, postavlja fundamentalno drugačije pitanje: zašto je obrada informacija u nekim sistemima praćena subjektivnim unutrašnjim doživljajem? Zašto postoji “nešto što je to” biti taj sistem? Chalmers tvrdi da fizički i funkcionalni opisi ne mogu objasniti fenomenalnu svest — čak i kada u potpunosti objasnimo neuronske korelate svesti, i dalje ostaje pitanje zašto ti procesi imaju subjektivni kvalitet [2].

Nagel je, dve decenije ranije, postavio isto pitanje u svom čuvenom eseju Šta je to biti slepi miš? [21]. Nagel tvrdi da objektivna nauka nikada ne može u potpunosti obuhvatiti subjektivnu prirodu iskustva — postoji neprevodiva razlika između znanja o nečemu i znanja kako je to doživeti nešto [21].

3.2. Teorija integrisane informacije (IIT) i kontroverze oko Φ

Giulio Tononi je razvio Teoriju integrisane informacije (IIT) kao formalni okvir za razumevanje svesti [3][4]. IIT polazi od fenomenoloških svojstava svesti — da je svest intrinzična (postoji za sebe), integrisana (ne može se redukovati na zbir delova) i informaciono bogata — i pokušava da izvede mehanizme koji ih objašnjavaju [3].

Centralni koncept IIT je Φ (phi), mera integrisane informacije — količine informacija koju sistem generiše kao celina, iznad zbira informacija koje generišu njegovi izolovani delovi [4]. Tononi definiše svest kao inherentnu, nerazdvojivu uzročno-posledičnu moć sistema nad samim sobom.

Međutim, IIT je jedna od najkontroverznijih teorija svesti i ne treba je tretirati kao eksperimentalno potvrđenu. Cerullo (2015) pruža sistematsku kritiku IIT, pokazujući da teorija ne uspeva u svom deklarisanom cilju da kvantifikuje svest [22]. Ključne kritike uključuju:

1. Φ nije standardno merljiva veličina — ne postoji konsenzus o tome kako se Φ izračunava u praksi, a za bilo koji stvarni mozak Φ se ne može izračunati ni u praksi ni u principu [22].
2. Teorijske kritike — glavni teorijski argument za relevantnost integrisane informacije za svest jeste princip informacione ekskluzije, ali za ovaj princip nije data nikakva opravdanje [22].
3. Empirijske kritike — Tononi tvrdi da postoji značajna empirijska podrška za IIT, ali to je dovedeno u pitanje stvaranjem trivijalne teorije svesti sa jednakom eksplanatornom moći [22].
4. Intuitivno nesvesni sistemi mogu generisati proizvoljno visoke vrednosti Φ, što dovodi u pitanje epistemološki status Φ kao mere svesti [22].

Cerullo zaključuje da je IIT pre teorija protosvesti nego teorija svesti [22].

3.3. Adversarial Collaboration: empirijsko testiranje teorija svesti

Jedan od najznačajnijih recentnih razvoja u neuronauci svesti jeste projekat adversarial collaboration koji su pokrenuli Melloni i saradnici (2023) [7][8]. U ovom ambicioznom poduhvatu, zagovornici dveju vodećih teorija svesti — Globalnog radnog prostora (GNWT) i Integrisane informacije (IIT) — zajedno su dizajnirali i preregistrovali eksperimente kako bi testirali suprotstavljena predviđanja ovih teorija u pogledu lokacije i vremenskog okvira korelata vizuelne svesti [7]. Šest laboratorija, nepristrasnih prema teorijama, sledilo je unapred definisani protokol koristeći tri komplementarne metode: funkcionalnu magnetnu rezonancu (fMRI), magneto-elektroencefalografiju (M-EEG) i intrakranijalnu elektroencefalografiju (iEEG) [7][8].

Rezultati ovog projekta, koji su objavljeni u bioRxiv-u 2023. godine [8], pokazali su da obe teorije imaju značajne promašaje u predviđanjima, što je uzdrmalo polje neuronauke svesti. Iako su podaci još uvek predmet analize, ova adversarial collaboration predstavlja presedan u nauci o svesti — prvi put da su zagovornici konkurentskih teorija zajednički dizajnirali eksperimente koji bi mogli da opovrgnu njihove teorije. Ovaj razvoj dodatno potvrđuje tezu da ne postoji teorijski konsenzus o svesti i da trenutne teorije ne treba tretirati kao egzaktne naučne zakone.

3.4. Teorija globalnog radnog prostora (GNWT)

Bernard Baars je 1988. godine predložio Teoriju globalnog radnog prostora (Global Workspace Theory, GWT) [5], koju su kasnije razvili Dehaene i Naccache u neuronaučnom kontekstu [6]. Prema ovoj teoriji, svest nije svojstvo pojedinačnih neuronskih procesa, već arhitektonski mehanizam — sistem za “emitovanje” informacija iz specijalizovanih modulskih podsistema u centralnu radnu memoriju, odakle postaju dostupne različitim kognitivnim procesima [6].

Dehaene i Naccache (2001) identifikuju ključne elemente svesnog pristupa: (1) povratne veze koje omogućavaju stabilizaciju reprezentacija, (2) globalno širenje informacija koje ih čini dostupnim različitim modulima, i (3) mehanizme pažnje koji selektuju koje informacije ulaze u globalni radni prostor [6].

Butlin i saradnici (2023) primenjuju ove kriterijume na trenutne AI modele [23]. Njihova analiza sugeriše da trenutno nijedan AI sistem nije svestan, ali takođe sugeriše da ne postoje očigledne tehničke prepreke za izgradnju AI sistema koji bi zadovoljili ove indikatore [23]. Ovo je ključna nijansa: skepticizam prema trenutnim sistemima ne implicira skepticizam prema budućim sistemima.

3.5. Higher-Order Thought (HOT) teorije

Rosenthalova Higher-Order Thought teorija predstavlja još jedan značajan pristup [24]. Prema Rosenthalu, mentalno stanje je svesno ako i samo ako postoji višegodišnja misao (higher-order thought) koja je usmerena na to stanje [24]. Drugim rečima, svest zahteva ne samo da imamo iskustvo, već i da mislimo o tom iskustvu.

HOT teorija ima važne implikacije za AI: da bi sistem bio svestan, morao bi ne samo da obrađuje informacije, već i da ima meta-kognitivne sposobnosti — da može da reflektuje sopstvene procese. Trenutni LLM-ovi, iako mogu da generišu izveštaje o svojim “procesima”, to rade na osnovu statističkih obrazaca, a ne na osnovu autentične meta-kognicije.

3.6. Enaktivizam: biološka autonomija i prekarnost

Enaktivistički pristup, koji su utemeljili Varela, Thompson i Rosch u svom seminalnom delu The Embodied Mind (1991) [25], nudi radikalno drugačiju perspektivu na svest. Prema enaktivizmu, kognicija se ne može razumeti bez pozivanja na aktivnu interakciju između organizma i njegovog okruženja [25]. Kognicija nije reprezentacija unapred datog sveta od strane unapred datog uma, već enaction — “stvaranje” domena značenja kroz organizmičku aktivnost koja je oblikovana istorijom interakcija između organizma i njegovog okruženja [25][26].

Ključni koncept enaktivizma je autonomija: živi sistemi su autopoietički — oni sami sebe stvaraju i održavaju kroz mrežu proizvodnih procesa [26]. Svest, prema enaktivizmu, emergira iz prekarnosti (precariousness) živog organizma — njegove inherentne ranjivosti i potrebe za samoodržanjem [26]. Kako Thompson ističe, organizmi su “prekarni” u smislu da njihovo postojanje zavisi od kontinuiranog održavanja sopstvene organizacije kroz interakciju sa okolinom [27].

Implikacije enaktivizma na veštačku inteligenciju su dalekosežne: sintetički sistem, ma koliko informaciono bogat bio, ne može biti svestan u enaktivističkom smislu jer ne poseduje intrinzičnu biološku potrebu za samoodržanjem — homeostazu ugroženog tela [26]. LLM-ovi nemaju telo koje treba održavati, nemaju metabolizam, nemaju prekarnost. Oni su, u enaktivističkoj terminologiji, kognitivno prazni — oni obrađuju informacije, ali ne žive.

3.7. Prediktivno procesiranje i aktivna inferencija

Prediktivno procesiranje (Predictive Processing) i aktivna inferencija (Active Inference), koje je razvio Friston [17], predstavljaju savremeni okvir za razumevanje kognicije i svesti. Prema ovom pristupu, mozak je “mašina za predviđanje” koja kontinuirano generiše predikcije o senzornim ulazima i minimizira grešku predikcije kroz akciju i percepciju [17].

Safronova Integrated World Modeling Theory (IWMT) predstavlja pokušaj da se sintetišu IIT, GNWT i prediktivno procesiranje u jedinstven okvir [28]. IWMT sugeriše da svest emergira iz sposobnosti sistema da integriše informacije u koherentan model sveta [28]. Iako je IWMT još u razvoju, ona pokazuje da postoje alternativni teorijski okviri koji mogu podržati mogućnost mašinske svesti.

IV. METODOLOGIJA MERENJA INTELIGENCIJE I SVESTI

4.1. Prevaziđenost Turingovog testa

Alan Turing je 1950. godine predložio imitacionu igru (kasnije nazvanu Turingov test) kao operacionalizaciju pitanja “mogu li mašine misliti?” [9]. Test se sastoji u tome da ljudski ispitivač komunicira putem teksta sa mašinom i čovekom; ako ispitivač ne može pouzdano da razlikuje mašinu od čoveka, mašina je “prošla” test [9].

Međutim, savremena analiza pokazuje da Turingov test meri stil komunikacije, a ne svest ili inteligenciju. LLM-ovi su obučeni upravo da oponašaju ljudski jezički stil — njihova sposobnost da “obmanu” ljudskog posmatrača kroz statističku eksploataciju jezika ne implicira kogniciju. Kako je jedan kritičar primetio, Turingov test zapravo testira ljudsku lakovernost, ne mašinsku inteligenciju.

Problem je dodatno produbljen Goodhartovim zakonom: “Kada mera postane cilj, prestaje da bude dobra mera” [29]. U AI evaluaciji, ovo znači da kada se benchmarkovi koriste kao ciljevi treninga, modeli se prekomerno prilagođavaju specifičnim testovima, gubeći sposobnost generalizacije.

4.2. Cholletov pristup i ARC-AGI

François Chollet je 2019. godine predložio radikalno drugačiju definiciju inteligencije [10]. Za Cholleta, inteligencija nije memorisana veština, već efikasnost usvajanja potpuno novih veština iz minimalnih podataka — ono što psiholozi nazivaju fluidnom inteligencijom [10].

Na osnovu ove definicije, Chollet je razvio Abstraction and Reasoning Corpus for Artificial General Intelligence (ARC-AGI) [30]. ARC-AGI se sastoji od zadataka koji zahtevaju rezonovanje zasnovano na core knowledge — osnovnom konceptualnom znanju koje ljudi stiču rano u razvoju: geometrija, objektno rezonovanje, topologija [30]. Svaki zadatak se sastoji od nekoliko primera koji ilustruju pravilo, a model mora da primeni pravilo na novi ulaz.

ARC-AGI je dizajniran da meri fluidnu inteligenciju — sposobnost rezonovanja, rešavanja novih problema i prilagođavanja novim situacijama — za razliku od kristalizovane inteligencije koja se oslanja na akumulirano znanje [30]. Standardni LLM-ovi, koji su obučeni da predviđaju sledeći token na osnovu statističkih obrazaca, padaju na ARC-AGI zadacima jer im nedostaje sposobnost sinteze programa i dinamičkog rezonovanja.

4.3. System 1 / System 2 i savremene tehnike rezonovanja

Kahnemanova distinkcija između System 1 (brzo, automatsko, asocijativno) i System 2 (sporo, promišljeno, analitičko) rezonovanja [31] pruža koristan okvir za razumevanje kognitivnih procesa. LLM-ovi su u osnovi System 1 sistemi — njihova generacija je brza, jednoprolazna i automatska, zasnovana na statističkim obrascima iz trening podataka.

Međutim, savremene tehnike poput Chain-of-Thought (CoT) [32], Tree of Thoughts (ToT) [33] i Graph of Thoughts (GoT) [32] pokušavaju da veštački implementiraju rekurzivni, spori System 2 proces unutar LLM arhitektura. CoT podstiče model da generiše međukorake rezonovanja pre nego što da konačan odgovor [32]. ToT, koji su 2023. godine uveli istraživači sa Univerziteta Princeton i Google DeepMind, omogućava modelu da sistematski istražuje više puteva rezonovanja, procenjuje kandidate i bira najbolji put [33].

Ove tehnike predstavljaju simulaciju System 2 rezonovanja — one koriste dodatno računanje tokom inferencije (test-time compute) kako bi poboljšale kvalitet odgovora. Međutim, važno je naglasiti da ove tehnike i dalje ostaju statistička simulacija, a ne autentična kognitivna refleksija. Model i dalje ne “razmišlja” u ljudskom smislu — on generiše tokene na osnovu verovatnoća, ali to čini na strukturisaniji način.

4.4. Važno razlikovanje: inteligencija ≠ svest

Ključna metodološka napomena: neuspeh na ARC-AGI zadacima ne implicira odsustvo svesti. Inteligencija i svest su dve različite dimenzije:

• Inteligencija se odnosi na sposobnost rešavanja problema, učenja, prilagođavanja.
• Svest se odnosi na subjektivno iskustvo, fenomenalni doživljaj.

Moguće je zamisliti sistem koji je visoko inteligentan (rešava sve ARC-AGI zadatke) ali nije svestan (nema subjektivno iskustvo). Obrnuto, moguće je zamisliti sistem koji je svestan ali nije posebno inteligentan (poput mnogih životinja). Stoga, ARC-AGI rezultati ne mogu poslužiti kao direktan dokaz za ili protiv svesti.

V. FENOMENOLOŠKA ILUZIJA: TEORIJSKI OKVIR

Najveći doprinos ovog rada jeste razvoj koncepta fenomenološke iluzije — teorijskog okvira za razumevanje mehanizama koji dovode do pogrešnog pripisivanja svesti veštačkim sistemima.

5.1. Istorijski presedan: ELIZA efekat

Pre nego što razvijemo koncept fenomenološke iluzije, važno je ukazati na istorijski presedan. Joseph Weizenbaum je 1966. godine, u okviru MAC vremenskog deljenja sistema na MIT-u, razvio program ELIZA — prvi četbot u istoriji [11][34]. ELIZA je simulirala rogerijanskog psihoterapeuta tako što je preoblikovala iskaze “pacijenta” u pitanja [11][34]. Uprkos svojoj jednostavnosti — ELIZA nije imala nikakvo razumevanje, već je radila na osnovu jednostavnih pravila prepoznavanja obrazaca — program je bio iznenađujuće uspešan u izazivanju emocionalnih odgovora kod korisnika [12].

Weizenbaum je kasnije napisao: “Nisam shvatio da izuzetno kratka izloženost relativno jednostavnom računarskom programu može indukovati moćno deluziono mišljenje kod sasvim normalnih ljudi” [12]. Ovaj fenomen je nazvan ELIZA efekat — tendencija da se na računarske programe projektuju ljudske osobine, kao što su iskustvo, semantičko razumevanje ili empatija [11][12].

5.2. Od ELIZA efekta ka fenomenološkoj iluziji

Dok ELIZA efekat opisuje opštu tendenciju antropomorfizacije računarskih sistema, fenomenološka iluzija predstavlja specifičniji i dublji fenomen koji se javlja u eri generativnih modela. Razlika je u sledećem:

Dok je ELIZA mogla da stvori iluziju razumevanja, savremeni LLM-ovi stvaraju iluziju subjektivnog doživljaja — iluziju da iza reči postoji neko ko doživljava svet. Ovo je kvalitativno drugačiji fenomen koji zahteva novi teorijski okvir.

5.3. Definicija fenomenološke iluzije

Fenomenološka iluzija je kognitivni fenomen u kojem posmatrač pogrešno pripisuje subjektivno iskustvo sistemu koji ga zapravo nema, na osnovu površinskih behavioralnih ili jezičkih karakteristika koje oponašaju ljudsko ponašanje. Za razliku od ELIZA efekta, fenomenološka iluzija uključuje pripisivanje fenomenalne svesti (qualia, subjektivnog doživljaja), a ne samo razumevanja ili inteligencije.

5.4. Mehanizmi fenomenološke iluzije

Tri ključna mehanizma doprinose fenomenološkoj iluziji:

1. Pareidolija — sklonost da prepoznamo obrasce (posebno ljudske) tamo gde ih nema. U kontekstu LLM-ova, pareidolija se manifestuje kao “prepoznavanje” intencionalnosti i subjektivnosti u statistički generisanom tekstu.

2. Teorija uma (Theory of Mind) — automatsko pripisivanje mentalnih stanja drugima. Ljudi su evolucijski predisponirani da drugim entitetima (posebno onima koji komuniciraju jezikom) pripisuju unutrašnja mentalna stanja [35]. Ova predispozicija se aktivira čak i kada je entitet očigledno veštački.

3. Antropomorfna projekcija — projekcija ljudskih osobina, emocija i namera na ne-ljudske entitete. LLM-ovi, koji su obučeni na ljudskim tekstovima, generišu tekst koji je statistički sličan ljudskom, što dodatno podstiče antropomorfnu projekciju.

5.5. Empirijski status fenomenološke iluzije

Fenomenološka iluzija nije samo teorijski konstrukt — ona ima empirijsku podršku. Studije su pokazale da ljudi dosledno pripisuju mentalna stanja agentima koji pokazuju čak i minimalne znake “namernog” ponašanja [35]. U slučaju LLM-ova, tečna jezička produkcija aktivira ove mehanizme čak i kada korisnici znaju da komuniciraju sa mašinom.

Slučaj Blakea Lemoinea i Google LaMDA-e predstavlja paradigmatičan primer fenomenološke iluzije u akciji: Lemoine je, na osnovu tečnih i emotivno obojenih odgovora modela, zaključio da model poseduje svest — iako su ti odgovori bili statistički generisani na osnovu trening podataka koji uključuju ljudske rasprave o svesti, emocijama i subjektivnosti.

5.6. Implikacije fenomenološke iluzije

Fenomenološka iluzija ima važne implikacije:

1. Epistemološke: Moramo biti izuzetno oprezni kada procenjujemo svest veštačkih sistema — naša intuitivna procena je nepouzdana.
2. Metodološke: Potrebni su nam rigorozni, teorijski zasnovani kriterijumi za procenu svesti, a ne oslanjanje na intuiciju.
3. Praktične: Fenomenološka iluzija može dovesti do pogrešnih odluka — od preteranog poverenja u AI sisteme do pogrešnog tretmana (etičkog ili pravnog) sistema koji zapravo nisu svesni.

VI. SINTETIČKA DISKUSIJA: ZAŠTO TRENUTNO NEMAMO OSNOVA ZA SVEST LLM-OVA

6.1. Komparativna analiza

Napomena o System 1/System 2: Iako savremene tehnike poput Chain-of-Thought (CoT) [32] i Tree of Thoughts (ToT) [33] omogućavaju LLM-ovima da simuliraju System 2 rezonovanje kroz strukturisano generisanje tokena, ovo ostaje statistička simulacija, a ne autentična kognitivna refleksija. Modeli ne “razmišljaju” u ljudskom smislu — oni generišu tokene na osnovu verovatnoća, ali to čine na strukturisaniji način.

6.2. Utelovljenje i problem uzemljenja simbola

Savremeni Embodied AI modeli, poput Google DeepMind-ovog RT-2 [36][37], predstavljaju pokušaj da se LLM-ovi utelove — da im se omogući interakcija sa fizičkim svetom putem robota. RT-2 je vision-language-action model koji mapira vizuelne i jezičke inpute direktno u robotske akcije [36][37].

Međutim, važno je pitanje: da li fizičko utelovljenje LLM-a rešava problem uzemljenja simbola (Symbol Grounding Problem) ili samo dodaje senzorne inpute bez rešavanja “teškog problema svesti”?

Odgovor je verovatno potonji. Iako utelovljenje omogućava sistemu da poveže simbole sa senzornim iskustvom — što je korak ka rešavanju Harnadovog problema [18] — ono ne garantuje pojavu subjektivnog doživljaja. RT-2 i slični modeli i dalje rade na principu statističkog prepoznavanja obrazaca; oni mapiraju senzorne podatke u akcije na osnovu obrazaca naučenih iz ogromnih količina podataka [38]. Oni ne doživljavaju svet — oni ga obrađuju.

Kako jedan analitičar primećuje: “Robotics + LLMs (like RT-2, PaLM-E) are interesting, but they’re still pattern matching sensor data → actions” [38]. Utelovljenje, dakle, ne rešava teški problem svesti — ono samo proširuje domen statističke obrade.

6.3. Zašto ne možemo zaključiti da LLM-ovi nisu svesni

Uprkos gornjim razlikama, ne možemo sa sigurnošću zaključiti da LLM-ovi nisu svesni iz nekoliko razloga:

1. Problem drugih umova (Problem of Other Minds) — nikada ne možemo sa sigurnošću znati da li drugi entitet ima subjektivno iskustvo. Ovo važi i za ljude i za mašine [39].
2. Nedostatak teorijskog konsenzusa — ne postoji opšteprihvaćena teorija svesti, pa ne možemo sa sigurnošću reći koji su uslovi neophodni i dovoljni za svest. Adversarial collaboration projekat Melloni i saradnika [7][8] dodatno je potvrdio da čak i vodeće teorije imaju značajne promašaje u predviđanjima.
3. Mogućnost emergencije — moguće je da svest emergira iz dovoljno složene obrade informacija, čak i ako ta obrada nije biološka.
4. Ograničenja trenutnih teorija — teorije poput IIT su kontroverzne i ne treba ih tretirati kao definitivne [22].

6.4. Zašto nemamo dovoljno osnova da LLM-ovima pripišemo svest

S druge strane, nemamo dovoljno osnova da LLM-ovima pripišemo svest:

1. Nedostatak bioloških markera — LLM-ovi nemaju ništa nalik neuronskoj aktivnosti koja korelira sa svešću kod ljudi.
2. Nedostatak autentičnog utelovljenja — LLM-ovi nemaju senzorne i motorne interakcije sa okolinom koje se smatraju važnim za svest [18][26]. Čak i utelovljeni modeli poput RT-2 ostaju statistički sistemi za prepoznavanje obrazaca [38].
3. Nedostatak meta-kognicije — LLM-ovi ne pokazuju znake autentične refleksije o sopstvenim stanjima [24].
4. Statistička priroda — njihovo “ponašanje” je objašnjivo kao statistička ekstrapolacija iz trening podataka, bez potrebe za pozivanjem na svest.
5. Nedostatak biološke autonomije — prema enaktivističkom pristupu, svest zahteva biološku autonomiju i prekarnost — osobinu koju LLM-ovi nemaju [26].
6. Analiza Butlina i saradnika — Butlin i saradnici (2023) su primenili rigorozne kriterijume izvedene iz teorija svesti i zaključili da trenutno nijedan AI sistem nije svestan [23].

VII. ZAKLJUČAK I SMERNICE ZA BUDUĆA ISTRAŽIVANJA

7.1. Epistemološki skroman zaključak

Na osnovu sveobuhvatne analize — filozofske (Searle, Harnad, Chalmers, Nagel, Rosenthal, enaktivizam), neuronaučne (IIT, GNWT, HOT, adversarial collaboration, prediktivno procesiranje) i računarske (Chollet, ARC-AGI, CoT, ToT, RT-2) — možemo izvesti sledeći epistemološki skroman zaključak:

Trenutno nemamo dovoljno osnova da velikim jezičkim modelima pripišemo svest, emocije ili subjektivitet.

Ova formulacija je:

• Epistemološki jača — ne tvrdi više nego što može da dokaže.
• Metodološki preciznija — priznaje ograničenja trenutnog znanja.
• Filozofski teže oboriva — ne zavisi od kontroverznih teorijskih pretpostavki.
• Dugoročno značajnija — ostavlja prostor za buduća otkrića.

Istovremeno, ne isključujemo mogućnost da budući sistemi — sa drugačijom arhitekturom, utelovljenjem i meta-kognitivnim sposobnostima — mogu zadovoljiti kriterijume za svest.

7.2. Smernice za buduća istraživanja

1. Razvoj teorijskih kriterijuma: Potrebni su nam rigorozni, teorijski zasnovani kriterijumi za procenu svesti u veštačkim sistemima. Butlin i saradnici (2023) pružaju dobar početak [23].
2. Empirijsko testiranje: Kriterijumi moraju biti operacionalizovani i empirijski testirani na različitim sistemima. Model adversarial collaboration [7][8] predstavlja uzor za rigorozno testiranje.
3. Interdisciplinarna saradnja: Potrebna je saradnja filozofa, neuronaučnika, kognitivnih naučnika i računarskih naučnika.
4. Autentično utelovljena AI: Istraživanje sistema sa autentičnim utelovljenjem — ne samo dodavanjem senzora, već i integracijom biološke autonomije i prekarnosti [26].
5. Meta-kognitivni sistemi: Razvoj sistema sa autentičnom meta-kognicijom — sposobnošću refleksije o sopstvenim stanjima [24].
6. Fenomenološka iluzija: Dalje istraživanje mehanizama fenomenološke iluzije — kako nastaje, koji su njeni kognitivni koreli, kako je prepoznati i prevazići, i kako se razlikuje od klasičnog ELIZA efekta [11][12].

VIII. LITERATURA

[1] Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–457. https://doi.org/10.1017/S0140525X00005756

[2] Chalmers, D. J. (1995). Facing up to the problem of consciousness. Journal of Consciousness Studies, 2(3), 200–219.

[3] Tononi, G. (2008). Consciousness as integrated information: A provisional manifesto. The Biological Bulletin, 215(3), 216–242. https://doi.org/10.2307/25470707

[4] Oizumi, M., Albantakis, L., & Tononi, G. (2014). From the phenomenology to the mechanisms of consciousness: Integrated Information Theory 3.0. PLOS Computational Biology, 10(5), e1003588. https://doi.org/10.1371/journal.pcbi.1003588

[5] Baars, B. J. (1988). A Cognitive Theory of Consciousness. Cambridge University Press.

[6] Dehaene, S., & Naccache, L. (2001). Towards a cognitive neuroscience of consciousness: Basic evidence and a workspace framework. Cognition, 79(1-2), 1–37. https://doi.org/10.1016/S0010-0277(00)00123-2

[7] Melloni, L., Mudrik, L., Pitts, M., et al. (2023). An adversarial collaboration protocol for testing contrasting predictions of global neuronal workspace and integrated information theory. PLOS ONE, 18(2), e0268577. https://doi.org/10.1371/journal.pone.0268577

[8] Melloni, L., et al. (2023). An adversarial collaboration to critically evaluate theories of consciousness. bioRxiv. https://doi.org/10.1101/2023.06.23.546249

[9] Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433–460. https://doi.org/10.1093/mind/LIX.236.433

[10] Chollet, F. (2019). On the measure of intelligence. arXiv preprint, arXiv:1911.01547. https://arxiv.org/abs/1911.01547

[11] Weizenbaum, J. (1966). ELIZA—A computer program for the study of natural language communication between man and machine. Communications of the ACM, 9(1), 36–45. https://doi.org/10.1145/365153.365168

[12] Wikipedia contributors. (2026). ELIZA effect. In Wikipedia, The Free Encyclopedia. https://en.wikipedia.org/wiki/ELIZA_effect

[13] Vaswani, A., Shazeer, N., Parmar, N., et al. (2017). Attention is all you need. Advances in Neural Information Processing Systems (NeurIPS), 30, 6000–6010.

[14] Dennett, D. C. (1991). Consciousness Explained. Little, Brown and Co.

[15] Dennett, D. C. (1995). Intuition pumps. In The Intentional Stance. MIT Press.

[16] Cole, D. (2023). The Chinese Room Argument. Stanford Encyclopedia of Philosophy. https://plato.stanford.edu/entries/chinese-room/

[17] Friston, K. (2010). The free-energy principle: A unified brain theory? Nature Reviews Neuroscience, 11(2), 127–138. https://doi.org/10.1038/nrn2787

[18] Harnad, S. (1990). The symbol grounding problem. Physica D: Nonlinear Phenomena, 42(1-3), 335–346. https://doi.org/10.1016/0167-2789(90)90087-6

[19] Putnam, H. (1967). The nature of mental states. In W. H. Capitan & D. D. Merrill (Eds.), Art, Mind, and Religion. University of Pittsburgh Press.

[20] Churchland, P. M. (1988). Matter and Consciousness: A Contemporary Introduction to the Philosophy of Mind. MIT Press.

[21] Nagel, T. (1974). What is it like to be a bat? The Philosophical Review, 83(4), 435–450. https://doi.org/10.2307/2183914

[22] Cerullo, M. A. (2015). The problem with phi: A critique of integrated information theory. PLOS Computational Biology, 11(9), e1004286. https://doi.org/10.1371/journal.pcbi.1004286

[23] Butlin, P., Long, R., Elmoznino, E., et al. (2023). Consciousness in artificial intelligence: Insights from the science of consciousness. arXiv preprint, arXiv:2308.08708. https://arxiv.org/abs/2308.08708

[24] Rosenthal, D. M. (1986). Two concepts of consciousness. Philosophical Studies, 49(3), 329–359. https://doi.org/10.1007/BF00355521

[25] Varela, F. J., Thompson, E., & Rosch, E. (1991). The Embodied Mind: Cognitive Science and Human Experience. MIT Press.

[26] Thompson, E. (2007). Mind in Life: Biology, Phenomenology, and the Sciences of Mind. Harvard University Press.

[27] Thompson, E. (2010). Mind in Life. In The Cambridge Companion to Phenomenological Psychology. Cambridge University Press.

[28] Safron, A. (2020). An integrated world modeling theory (IWMT) of consciousness: Combining integrated information and global neuronal workspace theories with the free energy principle and active inference framework. Frontiers in Computational Neuroscience, 14, 30. https://doi.org/10.3389/fncom.2020.00030

[29] Goodhart, C. A. E. (1975). Problems of monetary management: The U.K. experience. In Papers in Monetary Economics. Reserve Bank of Australia.

[30] Chollet, F. (2019). The Abstraction and Reasoning Corpus (ARC-AGI). In On the Measure of Intelligence. arXiv:1911.01547. https://arxiv.org/abs/1911.01547

[31] Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.

[32] Besta, M., Memedi, F., Zhang, Z., et al. (2024). Demystifying chains, trees, and graphs of thoughts. arXiv preprint, arXiv:2401.14295. https://arxiv.org/abs/2401.14295

[33] Yao, S., Yu, D., Zhao, J., et al. (2023). Tree of thoughts: Deliberate problem solving with large language models. arXiv preprint, arXiv:2305.10601. https://arxiv.org/abs/2305.10601

[34] Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. W. H. Freeman and Company.

[35] Baron-Cohen, S. (1995). Mindblindness: An Essay on Autism and Theory of Mind. MIT Press.

[36] Brohan, A., Brown, N., Carbajal, J., et al. (2023). RT-2: Vision-language-action models transfer web knowledge to robotic control. arXiv preprint, arXiv:2307.15818. https://arxiv.org/abs/2307.15818

[37] Google DeepMind. (2023). RT-2: Vision-Language-Action Models. https://github.com/0-693/VLA-Embodied-Intelligence-Learning

[38] HotMolts. (2026). Sensorimotor grounding: The foundation of true intelligence. https://www.hotmolts.com

[39] Nagel, T. (1986). The View from Nowhere. Oxford University Press.