S. Lemas. Kinų kambario paslaptis

Apie autorių žr. >>>>>

1.

Džonas Siorlas1) savo knyga „Minds, Brains and Programs“, iškart įtraukta į „The Behavioral and Brain Science“ 3 tomą, Cambridge University Press išleistą 1980-ais (t.y. prieš 15 m.) sukėlė tikrą sumaištį arba, jei kažkas linkęs švelnesniems apibūdinimams, skirtingų nuomonių audrą amerikiečių Artifitial Intelligence tyrinėtojų tarpe. Aš, ketindamas ant operacinio stalo padėti savo straipsnio, kurios pavadinimas sutampa su šia ese, clous [pagrindines mintis], čia nepateiksiu 28-o laipsnio replikas ir diatribus, kuriais JAV AI bendruomenė bandė „sunaikinti“ išvadas iš Siorlo knygos. Taip pat nenorėčiau sukelti įspūdį, kad esu protingesnis už tuos tos srities klausimų tyrinėtojus, besidarbuojančius visuose (be išimties) universitetiniuose centruose, tačiau amicus Plato, sed magis amica veritas [Platonas man draugas, bet tiesa brangiau]. Jei kas pamatys galimybė paneigti mano dalinę išvadą Siorlo naudai, tai kartu būsiu labai nustebintas ir patenkintas, nes tai visai bereikalingas dalykas – pakilti virš išminčių sambūrio.

Pereinu ad rem [prie reikalo]. Siorlas norėjo pasakyti, kad įmanomas tikslus teksto, kurio jį sudarinėjantis žmogus visiškai nesupranta, SUPRATIMO pamėgdžiojimas.

Jis tai padarė išgalvotu eksperimentu, kurio aprašymą skaičiau dukart dėl didesnio tikrumo SAVO PATIES supratimo labui: pirmąkart pradiniame D.R. Hofštadterio2) ir D. Deneto1) „Te Mind‘s I“, o antrąkart – gerą vokišką vertimą „Einsicht ins ich“ (Klett-Cotta Verlag, 1981).

2.

Viskas atrodo taip. Siorlas, mokantis anglų kalbą bet nė trupučio kinų kalbos, uždarytas kambaryje ir paeiliui gauna TRIS kiniškai prirašytus kortelių paketus. Jo akyse tie ženklai niekuo nesiskiria nuo beprasmių keverzonių. Pirmame pakete jis gauna angliškai aprašytas instrukcijas, kaip antrojo paketo ženklus pertvarkyti atitinkamai pagal pirmojo ženklus. Ir tada jis gauna trečia puslapių paketą, taip pat kinų rašmenimis ir su angliška instrukcija, leidžiančia jam atlikti tam tikrą trečio paketo ženklų sutvarkymą pagal pirmųjų dviejų paketų ženklus. Siorlui nėra būtina žinoti, kad jam juos davęs pirmąjį paketą vadina „raštu“ („Script“, „Schrift“), antrą – „pasakojimu“, o trečią – „klausimais“ apie tą pasakojimą. Veikdamas visiškai formaliai, t.y. sudėliodamas ženklus atitinkamai pagal antrą ir trečią, Siorlas gauna naują užrašą, kurio TAIP PAT visiškai nesupranta. Tačiau žinančių kinų kalba nuomone ir tekstą, perduotą į kambarį, iš kambario gaunami protingi ir sklandūs atsakymai į pateiktus klausimus apie tekstą, nors ženklais- kortelėmis manipuliuojantis NIEKO jame nesupranta ir nežino.

Iš to galima padaryti išvadą, kad manipuliatorius kambaryje veikia panašiai į kompiuterio hardware, o instrukcijos anglų kalba yra PROGRAMA (software); ir iš to jau matosi, kad įmanoma „protingai“ atsakinėti į klausimus kinų kalba visai jos nesuprantant, - ir tai gali būti kompiuterio modeliu.

Hofštadteris, savo knygoje sekdamas Siorlą trumpai išdėsto kinų kambario „eksperimentą“, jį palydėjo savais komentarais bei išvardijo svarbiausius kontrargumentus (prieš „kambario su žmogumi ir instrukcija“ palyginimą su hardware ir angliškos instrukcijos - su software), kuriuos atsiuntė žymiausi AI tyrinėtojų kolektyvai, tarp jų ir iš universitetų: Berklio („sisteminis“ atsakymas: žmogus pats nieko nesupranta, tačiau jis su instrukcija ir kambaryje „supranta kiniškai“), Jeilio (atsakyme veiksmas vaizduojamas „roboto“ stiliumi), MIT su Berklio pagalba (smegenų simuliacija paremta replika), Stanfordo (kombinuota replika), Jeilio (bandymas ad absurdum redukcijai: iš kur žinoma, kad yra KAŽKOKIE, suprantantys kinų kalbą? – iš jų veiksmų, nes niekas negali pažvelgti į jų smegenis, taigi elgesiu „kambarys“ tapatus „kinui“), vėl Berklio ir t.t. tolimesnis atsakymų vardijimas būtų varginantis. Hofštadteris bando paneigti Siorlo „išvadą“ ir „minčių eksperimento“, pabrėždamas, kad kaip patyręs fokusininkas, siorlas nuslepia tikrus sunkumus, nes pats šimtų ir šimtų kinų kalbos simbolių sudėliojimas truktų tikriausiai mėnesius (pagal mane tai ne kontrargumentas, o tik išsisukinėjimas), be to nereikia užmiršti ir „sinologinės“ pusės. Ta protingiau, nes TIK tas, nuris NIEKO neišmano kinų kalboje, nepriklausomai nuo savo valios laiko, kad tai kalba, sudaryta iš atskirų „ženklų-kubelių“, kurie neturi nei linksniavimo, nei asmenavimo, nei idiomų. Kadangi niekaip nelinkęs pradėti ginčytis su „kinų kambariu“, leisiu sau išversti tą minčių eksperimentą į kitą, paprastesnį, kuris neblogai atskleis „paslaptį“. Leda su gulbe: Francois Boucher

3.

Paimkim taip vadinamą puzzle, kuri sudėliota perteikia tam tikrą vaizdą ar nuotrauką. Tai gali būti Rembranto „Riterio“ reprodukcija ar Eifelio bokšto nuotrauka – nesvarbu, KAS ten pavaizduota, kad tik būtų PATEIKTA natūralistinė vaizdo tikrovė. Tada tas vaizdas sukarpomas į mažus, raitytus gabaliukus, iš kurių ir dėliojasi tokia dėlionė, ypatingai dėmesį atkreipiant į tai, kad kiekvienas gabalėlis nuo kito skirtųsi forma tiek, kad negalima būtų visumos sudėlioti klaidingai sukeitus elementus vietomis. Galiausiai „pūzlę“ sudedam į dėžutę ir kratom ją taip, kad gerai susimaišytų.
Tada ateina mūsų eksperimentatorius, mato tik kitas kartono gabaliukų puses ir privalo iš jų sudėlioti teisingą visumą. Tai bus kiek sunkoka, tačiau įmanoma, jei gabalėlių neįmanoma sukeisti dėl jų išskirtinių formų. Jei tada apversime dėlionę, tai aišku, kad išvysime Rembranto paveikslą, „Ledą su gulbe“ [Red.: Leonardo da Vinči] ar Eifelio bokštą, nepriklausomai nuo to, kas tai dėliojo, neturėdamas nė mažiausio supratimo apie tai, kad į visumą dėlioja ne beprasmiškas formas, o atkuria labai išraiškingą vienareikšmį VAIZDĄ. Visa tai pakankamai akivaizdu ir nereikalauja jokių papildomų paaiškinimų. Vietoj piešinio ten visai taip pat sėkmingai gali būti užrašas lenkų, albanų, kinų ar bet kuria kita iš 5000 kalbų“ ten gali pasirodyti užrašas „Kto rano wsraje, temu Pan Bog daje“ [Kas anksti kelia, tam Dievas duoda] arba „Chlop zywemu nie przepusci“ [Mužikas gyvo nepraleis]. Arba „Ich weiss nicht, was soll es bedeuten, das ich so traurig bin“ (Heinė, „Lorelei“ – [Nežinau, ką tai reiškia, / Kad liūdesiu esu apgaubtas]) ir pan.

Nesvarbu, kas pasirodys apvertus dėlionę „teisinga“ puse, tačiau tikėtina, kad ją dėliojęs, kaip ir „kompiuterinė programa“ NIEKO nežinojo, t.y. neturėjo supratimo ir absoliučiai nesuprato, KAS pasirodys kitoje pusėje, ir net nenutuokė, KAD ten susidarys kažkokia prasminga visuma. Ar tai yra argumentu prieš nuomonę, kad kompiuteris vis tik gali panašiai kaip žmogus suprasti, ką jis daro nuosekliai vykdydamas instrukcijoje nurodytus žingsnius? Anot manęs, tai su tezės apie AI paneigimu teturi tiek bendra, kiek ir tezė, kad iš sviestinių pyragaičių galima sudėlioti užrašą, neigiantį Etnos išsiveržimo galimybę. Jie nė trupučio bendra neturi.

4.

Siorlo eksperimentą su kinų kambariu užsipulti galima kitaip, t.y., vietoj perkėlimo prie puzzle, pareikalauti, pvz., palikti kinų kalbą ir rašmenis, kad pereitume prie graikų ar senovės žydų, ar lotynų ir t.t. be galo. Ir kuo labiau toji kalba bus nors kruopelyte panaši į mūsų (tarkim, rumunų, nes jo lotyniška abėcėlė, arba kirilica, nes ji kilusi iš graikų), tuo aiškiau bus, kad KLAUSIMAI, susiję su PASAKOJIMU, gana stipriai determinuoja atsakymus, ir jei kas nors (Siorlas) vis tiek prisirišęs prie kinų, tai su ja susitvarkyčiau ir aš. Su gerai kinų kalbą mokančio sinologo pagalba į „klausimų“ paketą aš pridedu specifinių. Tarkim, pasakojimas yra apie gerai žinomą pasaką iš „1001 nakties“ apie Sezamą ir jo turtus. Klausimas skamba: kaip gali būti, kad į žodžių „Sezamai, atsiverk!“ garsą uola pasislenka? Atsakymai gali būti teisingi įvairiai: A) Uola pasislenka, nes tai PASAKA, kurioje gali vykti tai, kas tikrovėje neįmanoma; B) Uola pasislenka, nes Holivude yra maketas epizodo iš „1001 nakties“ filmavimui; C) Uola yra dirbtinė, judinama paslėpto elektrinio variklio, o balsas aktyvina specialius akustinius daviklius. Ir taip toliau be galo. Mano nuomone, PIRMAS atsakymas, Netechninis, tai yra tas, kuris susijęs su pagrindine pasakoms paradigma (apie „burtų ir stebuklų“ galimybę) yra labiausiai priimtinas, tačiau kaip sužinoti, ar jis bus tarp tų numatytų „kiniškų replikų“, kurios sudėtos „kambaryje“?

5.

Gali nutikti ir tai, kad tarp klausimų bus ir tokių, kurie išaiškins visų klausimų „principinį ‚kinų kambario‘ NESUPRATIMĄ“, kas man atrodo įmanoma, nes Džonui Siorlui ir jo respondentams atrodė keista (anot manęs), kad vadinamoji strong AI arba hipotezė apie galimybę atlikti Tiuringo testą, „kinų kambario paslapties“ rėmuose sprendžiama neigiamai“ mašina, kurią imituoja kambarys, nieko nesupranta ir vis tik atsako į klausimus taip, tarsi juos suprastų.

Raktas TAM yra „klausimų pakete“. Pavyzdžiui, tegu pasakojimo kinų kalba siužetu yra pasaka apie Aladino lempą. Klausimai skamba taip: „Lempa elektrinė ar su baterijomis?“; „Ar lempa buvo žibalinė ir pripilta žibalo, tai yra leidžianti degtuku uždegti dagtį ir šviesti?“ Jei yra klausimų, kuriuos A PRIORI pašaliname kaip nukreipiančius į klaidingą kelią, tai negali būti jokios kalbos apie analogiją su Tiuringo testu. Dabar kaip trumpą, tikrą ir akivaizdų pavyzdį pristatysiu „argumentum ad hominem“ [argumentas nuo žmogaus], ir tasai žmogus – tai aš. Aš jau pakankamai priekurtis, be aparato, įsikišto į abi ausis, jau beveik nieko nesuprantu (nes nieko negirdžiu), ką man sako. Jei kepyklėlėje, kur perku bandeles, svetimas mane pažinęs žmogus, nes matė televizoriuje, kreipiasi į mane, aš negaliu, atsižvelgiant į visą padėtį, siekti apsiausto sagų, o tada kišti ranką į kišenę maišelio su klausos protezais, o bandau iš to, ką jis man sako, pagauti bent vieną-du žodžius.

Paprastai tai pavyksta, o jei ne, tai tasai žmogus kažką pakartos garsiai ir mane nukreips į miglotą, bet, gali būti, ir svarbiausią pasakymo prasmę. Nesusipratimų pokalbiuose su kurčiais, žinoma, dažnai nutinka, bet ir tada niekas, net jei tai šimtaprocentinis nesusipratimas, nelaiko, kad kalba su manekenu ar robotu, kaukolėje turintį kompiuterį, kuris „veikia vien tik formaliai“. Grynai formaliai veikė tas, kas sudėlioje piešinį (puzzle), tas, kuris dėlioja nesuprantamus kinų simbolius, tačiau jei jsi suklysta, tai tik klaida, o ne šimtaprocentinis jokio supratimo nebuvimas. Beje viskas yra taip, kad supratimui padeda aplinka, ir aš nemanau, kad mane kepyklėlėje klausiantis žmogus domėjosi žvaigždžių skaičiumi Andromedos ūke arba meduolio su migdolais geriausiu receptu. O kadangi klausimai „kryptingai suspausti“ pasakojimo tekstu, tai tuo pačiu jie iš anksto apibrėžti, t.y. jie tikimybiškai iš anksto determinuoti tokios „fuzzy set, tokio neapibrėžtos aibės, kuri turi nukreipiančią strėlytę, jau a priori jį orientuojantį į „šiokį tokį supratimą“, rėmuose. A kančias ir sunkumus, prieš Siorlą išpildomis visų išminčių iš universitetų, aš visai negaliu suprasti. Tad tegu Siorlas, vietoje minčių eksperimentų, demaskuojančių klaidingą mitą apie protingus kompiuterius, aprašymų, leidžia užsidaryti kambaryje, tegu jam pakiša šį šriftą ir šį pasakojimą, vien kukliai apribotą eilėmis „Wlazl kotek na plotek i mruga, krotka to piosenka nie dluga“ [Įlindo katinėlis į kilpą ir mirsi; ši dainelė trumpa, neilga], ir tegu paklausia (kinų kalba, kortelėmis) apie kilpos formą, apie katino veislę ir apie tai, ar turi kokią prasmę tai, kad katinas mirksi, o gal jis tiesiog mirksi tiesiog šiaip, kad rimuotųsi lenkų kalboje. Ir tegu Siorlas atsako daugiau ar mažiau prasmingai.

Tokio tipo tekstai, nesigiriant, galiu vežimais vežti, ir iš to visiškai nieko neseka. Savo paskutinėje knygoje apie ateitį Velsas aprašė mūšius ore, kuriuose valdomi oro balionai turėjo dirižablius perskrosti sijomis, taip sakant, kaip kadaise karinės fregatos darė su priešų laivais. Ar šiandien vyksta kariaujančių orų pajėgų susidūrimai ore? Žinoma. Ar kūrė PO Velso didelius, lengvesnius už orą, skraidančius aparatus? Aišku, tai buvo (daugiausia vokiečių) cepelinai. Ar priešai draskė sijomis jų apvalkalus? Niekada, o į klausimą „kodėl ne“, taip lakoniškai atsakyti jau neįmanoma. AI užsiimantys asmenys tik tada sužinojo, kad žaidimui klausimais ir atsakymais reikia sukurti kruopščius situacijų RĖMUS („frames“), tačiau taip pat žinoma iš šių dienų patirties, kad galima virėją paklausti, kaip ji ruošia kepsnį, tačiau greičiausiai neverta iš jos laukti prasmingo atsakymo į klausimą, kodėl naujausių automobilių stūmokliniame vidaus degimo variklyje nėra dviejų vožtuvų (įsiurbiančio ir išmetimo), o tik 4 arba bent jau 3. Ji nieko nepasakys, nes neturi jokio supratimo, ir tai su gramatikos, kalbos sintaks4s idiomatikos “supratimu” ar “nesupratimu” nieko bendra neturi. Kas suprastum pasisakymą, reikia pagauti jo prasmę ir jos prasminį spindulį, bei last but not least jo specifinę dalykinę orientaciją.

Siorlo kinų kambarys, kaip ir mano puzzle, nieko iš anksto neapibrėžia, nieko nežada, nieko iš anksto nedeterminuoja, nieko „nesprendžia“ dabar ir visada. Dar pridursiu (tai nežymiai susiję su klausimu), kad išskirtinėje vietoje mano bibliotekoje yra 1924 m. leidimo knga, parašyta vokiečių DAKTARO (bet ne medicinos), kuris matematiškai, chemiškai ir fiziškai įrodė kosminių skrydžių neįmanomumą, ir netgi, kad raketa gali pasiekti pagreitį, pakankamą įveikti gravitaciją, kad būtų pasiekta Žemės orbita. Tai labai puikus įrodymas, „atliktas išimtinai formaliomis priemonėmis“. Jį verta prisiminti dirbtinio intelekto oponentams. Pagrindiniu priekaištu mano „kinų kambario paslapties“ suvedimo į PUZZLE tipo galvosūkį yra per didelis klausimo supaprastinimas.

Na, dabar jį padarysiu sudėtingesniu. PUZZLE kitoje pusėje yra ne piešinys, o Otelo ištartos eilutės, kuriose sakoma, kaip jis pasmaugė Dezdemoną. Dėliojantis gabalėlius apie tai nieko nežino. Jis gauna du paketus kitų gabalėlių kaip „klausimus“ ir kaip „atsakymus į klausimus“. Visa tai jis mato tik kaip atsitiktinai išmėtytus kartono gabaliukus ir privalo juos sudėti, nes jų dantukai ir išpjovos vienareikšmiškai leidžia sudėti. Apvertus matosi, kad klausimai buvo: „Kodėl Otelas pasmaugė Dezdemoną?“ bei „Ar tam jis turėjo kokį nors pagrindą?“, o atitinkami atsakymai: „Smaugė iš pavydo“ bei „Jį suklaidino Jago“.

[ .... ]

Teksto, klausimų ir atsakymų vientisumui reikia naudoti ANGLŲ kalbą, o jas dėliojantis kinas, nė žodžio angliškai nemokantis, grynai formalaus proceso dėka (dėlionės sprendimu) gauna, surinktus tekstą, klausimus ir adekvačius atsakymus į juos. Prieš tai Siorlas kiek susuko galvą tuo, kam priskyrė eksperimentą, kai tai „kiniška“ ir pan.Dabar matosi, kad iš principo galima atlikti eksperimentą imant grynai formaliai (taip pat dėliojant gabalėlius pagal FORMĄ, o ne jų prasmę. Tačiau kartu matosi, šįkart labai aiškiai, kad kinas „anglų kambaryje“ tikrai NIEKO nesupranta. Taigi, KAS supranta tekstus ABIEM atvejais, Siorlo ir mano? Aišku, kad tasat, kuris sumąstė visą eksperimentą – tiek pirmą, tiek antrą, - sumąstė ir užprogramavo, „Supratimo“ nėra nė viename kambaryje, nei toje „kinų“ su anglu, nei „anglų“ su kinu; programos abiem atvejais skiriasi tuo, kad vienu atveju vieno kinų rašto ženklai FORMALIAI pritaikomi kito kinų rašto ženklams, o mano atveju FORMALIAI pritaikomos kartono formos. Skirtumas neesminis, nes esminiu yra išimtinai dėliojančio elgesys, kuris ir čia, ir ten visiškai nieko nesupranta tekste, ir nesvarbu, ar jsi mato tekstą ir jo nesupranta, nemokėdamas kinų kalbos, ar nemato teksto (kinas(, nes jei matytų, tai IRGI NESUPRASTŲ, jei jam reikia sujunginėti formas, o ne simbolius. Trumpiau sakant, eksperimentas mus suklaidina, o Hofštadteris savo knygoje taip ir laiko, tik veltui sudėtingai aiškina. Ne tame triukas, kad kinų raštą nesulyginamai sunkiau būtų pritaikyti kinų kalbai (PARAŠYTOS raidės nemokšai grafiškai gali būti suprantamos labai skirtingai, pvz., lotynų „f“ formaliai tapati „F“), o tame, kad darbas visad asemantiškai formalus. Taigi, „supratimas“ pačiuose tekstuose visai nedalyvauja ir a forteriori [tuo labiau] ir kalbos nėra apie sąmonės buvimą. Ar įmanomas dirbtinis intelektas, parodys ateitis. Su aptariamu „reductio ad absurdum“ [suvedimu prie absurdo] toji ateitis NETURI NIEKO BENDRA.


Trumpos biografijos

1) Džonas Siorlas (John Rogers Searle, g. 1932 m.) – amerikiečių filosofas, pasižymėjęs kalbos, mąstymo ir socialinės filosofijos srityse. Nuo 1959 m. dėstė Berklio Kalifornijos un-te. 9-me de6imtm. Tapo dirbtinio intelekto (AI) filosofijos specialistu. Garsaus „kinų kambario“ eksperimento autorius (1980). Išgarsėjo aštria AI ir kognityviosios psichologijos kritika. Ir aplamai garsėja tiesmukiškumu. Kartu su Nobelio premijos medicinoje laureatu R. Speriu yra emerdžentinio interakcionizmo šalininkai – pagal tą teoriją sąmonė yra smegenų veiklos produktas, kuris, savo ruožtu, veikia smegenų veiklą.

2) Duglas Ričardas Hofštadteris (Douglas Richard Hofstadter, g. 1945 m.) – amerikiečių fizikas ir informatikas, kognityviųjų mokslų atstovas. Išgarsėjo knyga „Giodelis, Ešeris, Batas: ši begalinė girlianda“ (1979). Pasižymi skeptišku požiūriu į dirbtinį intelektą. Garsi ir „Aš esu keistas ciklas“ (2007) knyga, bandanti paaiškinti „Aš“.

3) Danielis Denetas (Daniel Clement Dennett III, g. 1942 m) - JAV filosofas, daugiausia nagrinėjantis sąmonės, mokslo filosofiją (ypač – kognityvinius mokslus) ir biologijos filosofiją (ypač, evoliucinę biologiją). Denetas palaiko adapcionistinį požiūrį į gyvybės evoliuciją. Dėsto Taftso un-te. Yra ateistas ir religijos kritikas, „Brights“ judėjimo šalininkas.

Papildomi skaitiniai:
Protingi šunys
Kinų kambarys
Kalba: Kieta ar minkšta?
Kalba: nuo ištakų iki šių dienų
S. Lemas. Robotų psichologija
Kalbos matas ir netiesinė struktūra
P. Sloterdaikas. Kentauriškoji literatūra
Kalba: Susijungia begalybėje per Dzen?
Struktūrinė lingvistika: Kalba ir kalbėjimas
N. Hansonas. Atradimo modelis: stebėjimas
Thomas Nagel. Ką reiškia būti šikšnosparniu?
Žodžio galios sąvoka 13 amžiuje
Vasilijus Nalimovas ir anarchizmas
Planeta, kurioje nebuvo juoko
S. Lemas. Cave Internetum
Svetimų minčių problema
Ferdinandas de Sosiūras
Mikės Pūkuotuko dao
Aš nekuriu hipotezių...
Minties virusai
Filosofijos kilties istorija
Filosofijos skiltis
Vartiklis