Biologi, bit-kastning og bred bevidsthed.


Claus Emmeche


(oprindelig trykt i:
Willy Thrysøe & Ole Fogh Kirkeby, red.: Krop, Intuition og Bevidsthed - en debatbog, Tiderne Skifter, København, 1992, s. 66-86.
- en debatbog om Tor Nørretranders 'Mærk Verden')


Jeg spurgte naboens hund om den havde læst Nørretranders bog, men den kiggede bare undrende på mig. Det var selvfølgelig også lidt af et spørgsmål, man siger jo at hunde hverken kan læse eller tale, men det forhindrede ikke hunden i at svare med en venlig logren med halen; trods alt en form for kommunikation. Forhindrer det så bevidsthed? Jeg går ud fra, at hunden var helt bevidst om, at jeg talte til den. Måske knap så bevidst om, hvad jeg sagde, men vi oplevede helt klart begge to den andens organisme som nærværende.

Bevidsthed er et vanskeligt ord. Det dækker jo så meget, og man kan være bevidst på så mange måder. Hvis Nørretranders havde interviewet ikke bare forskere og fodboldspillere, men også hunde, katte og aber, så havde 'Mærk Verden's idé om bevidsthed været mere nuanceret. Bevidsthedens biologi er jo nærmest fraværende i denne "beretning om bevidsthed". I stedet planter Nørretranders bevidstheden i fysikken. En sådan bevidsthed kan kun blive dæmonisk: Vi får beretningen om Maxwells dæmons fødsel, liv og overvindelse. Måske har bevidstheden slet ingen biologi, måske er den et rent kulturprodukt? - jf. bogens redegørelse for dens oprindelse som det 'tokamrede sind', en ret så sen opfindelse, der dukkede op lang tid efter menneskeartens fremkomst.

Nu er bevidstheden ikke det eneste problem i 'Mærk Verden', der handler om så meget andet. Min kommentar her går især på følgende: (1) Hænger beretningen sammen? (2) Forskellige former for bevidsthed og spørgsmålet om båndbredde. (3) Bevidsthedens biologi som problem. (4) Hvad er al den snak om 'bortkastning af information' godt for? (5) Og hvad koster beregning, rent fysisk? I modsætning til 'Mærk Verden' er artiklen her bygget op sådan, at det mere vanskelige stof kommer til sidst, og man kan godt stå af midtvejs med væsentlige pointer i behold!

Hænger det sammen?
Nørretranders beretter i de første dele af bogen om mange nydannelser indenfor fysik, informationsteori, computervidenskab og studiet af komplekse dynamiske systemer. Nogen har nok undret sig over hvad algoritmisk informationsteori og en fysisk teori som termodynamikken har med bevidsthed at gøre, men Nørretranders mener, at fysikkens og computervidenskabens nye teorier om information og beregning har dybe følger for vores forståelse af bevidsthedens hemmeligheder (s. 8; 260). Forbindelsen mellem beregningens fysik og bevidsthedens biologi er imidlertid langt fra entydig. Springet mellem nerver og sind er stort, især i de tilfælde hvor det ikke foregår i vores eget hovede, men skal foretages med videnskabens mellemkomst. Og det er jo dér, problemet ligger. Vi vil forstå forbindelsen videnskabeligt, i ét rationelt sprog, i én teori så at sige. Men kan man det? Der er uhyre lang vej igen før forskere fra neurovidenskab vil blive enige med sig selv og med folk fra andre videnskaber om, hvordan man skal oversætte fra beskrivelsen af sind til beskrivelsen af nerver, fra fx mit ønske hos bageren søndag morgen om to kanadiske teboller til specifikke mønstre af nerve-aktivitet i cortex, eller alternativt, til en beskrivelse i computer-termer i form af et 'gå til bager og køb brød-program'.

Nørretranders synes at mene, at bevidstheden som sådan er et kulturprodukt (kap. 12), dog legemliggjort og indbygget i hjernen (s. 278), hvor den fungerer som en maskine, der beregner eller bortkaster information (s. 164 ff), dog ikke på samme måde som datamaskiner (s. 113). Bevidstheden har altså nogle biologiske forudsætninger i form af krop, nervesystem og hjerne, men hvordan man skal forstå sammenhængen fortæller bogen ikke meget om. Giver den nye fysik svaret? Ikke just!

Den nye fysik og computervidenskab er selvfølgelig i sig selv spændende, og bogen er et sindsbillede på den fascination, som kendetegner disse nybrud og den naturfilosofiske eftertanke. Kaosteori har ændret vores opfattelse af den praktiske forudsigelighed af naturprocessers udvikling, og har dermed modereret den strikse tanke om nødvendighed, determinismen. Nyere informationsteori har ændret opfattelsen af, hvad tilfældighed er, eller rettere: hvad tilfældige tal er. Fundamentale resultater i logik og beregningsteori, som iøvrigt ikke alle er lige nye, har ændret tidligere opfattelser af forholdet mellem bevis og sandhed, og forholdet mellem matematik og logik. Man tror ikke længere på, at matematik kan reduceres til formel logik, for matematik beror på det, der vagt kaldes matematisk indsigt og intuition. Indenfor hvert af disse felter er der sket afgørende ting, men samtidig er en række spørgsmål stadig fundamentalt uafklarede, ligesom de enkelte teoriers indbyrdes forhold er uafklaret.

Det er derfor dristigt, men også problematisk, at Nørretranders søger at koble disse nybrud sammen med studiet af bevidsthed - eller, for nu at være mere præcis, det aspekt ved bevidstheden (båndbredden), som måles i Libets forsøg. Dette aspekt er nemlig ikke identisk med bevidstheden som sådan. Tendensen til sammenblanding mellem et bestemt træk af bevidstheden og 'hele bevidstheden' er symptomatisk. Tilsvarende gøres et bestemt træk ved beregning - metaforen om 'bortkastning af information' - til bogens almene forståelse af, hvad beregning er. 'Mærk Verden' er klart bedre til at formidle det fascinerende aspekt ved forskningen, dens 'wow-' og 'aha-oplevelser' end det lige så vigtige (men måske mere kedelige) kritiske (note 1) aspekt: At forskning er selvkritisk. At der ofte er uenighed. At mange problemer er åbne, uløste. At der er grænser for hvor direkte en fagvidenskabs begreber (fx en 'viljesakt' i et af Libets eksperimenter) kan omplantes til hverdagslivets forhold, og bruges til at beskrive den mangfoldige måde begrebet bruges på her.

Nørretranders ambition er at forbinde resultater fra forskellige naturvidenskabelige områder med erfaringer fra hverdagen og med almene livsfilosofiske spørgsmål, fx spørgsmålet om, hvad vi som mennesker skal bruge vores selv-bevidsthed til, og spørgsmålet om den fri vilje.(note 2) Det er svært, bl.a. fordi forskellige grene af videnskaben har teorier, som hviler på forskellige metafysiske antagelser om verdens indretning, som ikke altid er lige lette at forene. Desuden har vi som mennesker nogle bestemte intuitioner om os selv og vores dagligdags verden, som kan se meget anderledes ud end fx verden i fysisk eller i neurobiologisk forstand. Spørgsmålet er, om de forskellige opfattelser og erfaringer kan bringes på fælles fod, og om det er ønskeligt. Det mener jeg ikke altid det er.

Man bør bemærke sig, at der er tale om en særlig type naturvidenskabelig beskrivelse af verden, en fysisk beskrivelse, der har som udgangspunkt, at alt sker lovmæssigt til bestemte tidspunkter, forårsaget af rent fysiske størrelsers forudgående tilstand. Den søges så forenet med en opfattelse af os selv som væsener, der kan træffe frie valg, handle på baggrund af bevidste beslutninger, dvs. valg, der ikke er bundet af nogen anden lov end den, vi sætter for os selv og vores liv.(note 3) Det er det klassiske problem om 'den frie vilje', som jo bl.a. har betydning i moralske spørgsmål. Et væsentligt problem er da, at det sprog, hvori vi diskuterer om eksempelvis en morder handlede med fortsæt eller i effekt, er helt forskelligt fra det sprog, i hvilket vi diskuterer neurofysiologiske processer i hjernen. Denne forskel er en realitet, uanset hvad vi ellers overordnet filosofisk mener om verden. Vi kunne sagtens mene, at begge dele må foregå i samme verden, som ultimativt er bygget op af materielle bestanddele (eller quarks, eller materia prima, eller hvad vi nu måtte mene), uden at det egentligt løser problemet. Det er endnu ikke lykkedes at finde nogen form for 'oversættelse' her. Og det er først og fremmest klart, at der rent praktisk er tale om to vidt forskellige former for diskussion. Dette blot for at pege på, at ambitionen, som bogen stiller sig selv, 'at forene videnskaben med hverdagen' (s.8) løber ind i nogle gevaldige problemer.

Hvad siger biologien om det træk ved menneskers praktiske handlinger, der betegnes som den frie vilje? Ingenting, eller lige så meget forskelligt som der er forskellige biologer! Spørgsmålet har i mine øjne intet med hjernens biologi at gøre, og heller ikke meget med den 'bevidsthedens forsinkelse', som bogens kap.9 omhandler. Hvis fx en ven fortæller mig, at han valgte at påtage sig en sej opgave af egen fri vilje, så må jeg naturligvis acceptere og respektere forklaringen, og vil ikke komme nogen vegne med at tænke på hvordan dele af hans hjerne (eller i bogens terminologi: hans mig) allerede havde 'besluttet' sig før han blev bevidst om det. Så ville jeg begå noget af en kategorifejl, idet jeg ville forveksle kategorien 'lovmæssigheder i hjernen som kan beskrives neurobiologisk' med kategorien 'personlige beslutninger'. I den verden vi lever idag, på det nuværende stadie af den sociale, videnskabelige og teknologiske udvikling, er disse to kategorier praktisk taget totalt adskilt for så vidt angår vores logisk-praktiske sprogbrug. Vi kunne føre en metafysisk (og ret upraktisk) diskussion, og netop hævde, som visse neurofysiologer gør, at de to kategorier 'i virkeligheden' handler om det samme. Men bemærk to ting her: 1. I denne ret akademiske diskussion kan vi frit antage hvad som helst om personen, thi vi forholder os ikke moralsk til ham, men forholder os til ham udelukkende som genstand for en hypotetisk fremtidig neurofysiologisk forklaring. Det er omkostningsfrit at hævde, at han dybest set fri ingen fri vilje har. Dette gælder ikke for den praktiske diskussion om ansvar. 2. Dette udtryk, "i virkeligheden det samme" handler blot om en mulig lære om verdens indretning, dvs. en mulig ontologi, som vi blot hævder som faktisk gældende. Beviset herfor er et veksel, vi trækker på fremtiden.

At jeg accepterer vennens forklaring betyder jo ikke, at jeg ikke kan tvivle på den eller overveje, om der også er indgået et element af overtalelse fra andres side i forbindelse med hans valg, således at baggrunden for hans valg kan være en blanding af lyst, pligt og helt andre hensyn - men disse motiver og tilskyndelser ændrer intet ved, at det er hans valg, og hans egen forklaring på dette valg. Når vi i dagligsproget bruger begrebet fri vilje, eller tilsvarende, mindre metafysisk belastede udtryk, som peger på det samme forhold - nemlig den personlige frihed til at træffe valg, som ikke på forhånd er truffet af mine omgivelser eller bestemte dele af min hjerne som er mig ligeså fremmed som de apokryfe skrifter - ja, så respekterer vi normalt den moralske virkelighed og den livsverden, disse udtryk handler om. Her er der jo ikke tale om et forbud imod at hengive sig psykoanalytiske fortolkninger af andres adfærd, til dybe spekulationer over forholdet mellem sjæl og legeme, eller til særprægede visioner om muligheden af at forklare hele registret af sindstilstande ud fra detaljerede hændelsesforløb i nervesystemet (selv særprægede visioner kan jo være en drivkraft bag forskning). Blot man da er klar over, at man så befinder sig i en anden verden eller, som nogen ynder at sige det, en anden diskurs. En filosofisk, en videnskabelig eller en videnskabsfiktiv verden, der kun har meget spinkle tråde til den praktiske hverdag - den hverdag, hvor vi kan forholde os til og forpligte hinanden ved gensidige følelser, aftaler, overenskomster osv.

Deponeringen af den fri vilje i bogens konstruktion af et 'mig', der ligger udenfor det bevidste 'jeg's adgang, kan næppe siges at udgøre nogen tilfredsstillende løsning. 'Mærk Verden' er en bog, som ofte understreger teoriers altid begrænsede gyldighed, og som alligevel, ganske bagvendt, kommer til at overskride grænserne for det, man med rimelighed kan slutte om bevidsthed udfra en naturvidenskabelig tilgang. Eksempelvis slutte om dens 'båndbredde'.

Bevidsthedens båndbredde og bred bevidsthed.
Det spørgsmål, man må stille sig, er følgende: Når bevidstheden beskrives kvantitativt ved sin 'båndbredde', hvad er så forholdet mellem dens påståede smalhed (de 16 bit/sek.) og de kvalitative sider af bevidstheden, som slet ikke indfanges af begrebet om et antal bit pr. sekund i bevidstheden? Her er der to forhold, man må gøre sig klart:

1. Det kvantitative og det kvalitative aspekt af bevidsthed er uhyre vanskelige at forene. Bevidsthed har næsten pr. definition denne subjektive karakter, at den simpelthen skal opleves og erkendes 'indefra'. Kun indirekte og sekundært - via fortolkning af andre tegn, sprog, udtryk, signaler osv. - kan bevidstheden forstås som et objektivt, fællessprogligt, evt. målbart fænomen. Det er sagt af mange filosoffer, at bevidstheden er kendetegnet ved sin intentionalitet, dvs. sin rettethed imod noget (jf. intention = hensigt om ...). Det kan være et ønske om..., en forestilling om..., et begær efter..., en viden om..., en drøm om..., en fantasi om... og så videre. Dette væsentlige element af bevidstheden, det kvalitative, qualia, er så at sige i udgangspunktet utilgængeligt for naturvidenskabelige beskrivelser i streng forstand så vidt naturvidenskabens metoder netop tenderer mod det kvantitative, det gentagelige og det intersubjektivt objektiverbare: Det skal kunne måles, vejes og iagttages af enhver anden under veldefinerede betingelser. Men sådan er bevidstheden ikke. Det rammer enhver videnskabelig teori om bevidsthed, naturligvis også en biologisk. (Den fænomenologiske filosofi rammer det sådan set også, men det er dog en filosofi eller en teori om bl.a. selve dette forhold). Dette medfører i anden omgang en metodisk vanskelighed m.h.t. forsøg på (som i Libets tilfælde) at korrelere objektive tidsfastsættelser med et subjektivt oplevet tidspunkt, fordi man netop aldrig har nogen objektiv (intersubjektiv observerbar) primær adgang til den subjektive oplevelse, andet end i form af sekundære rapporter eller lignende.(note 4)

2.Fordi man indirekte kan måle et aspekt af bevidstheden (ved at måle på en adfærd, som afhænger af bevidste beslutninger) til en bestemt værdi, x antal bit/sekund, så siger denne båndbredde ikke nødvendigvis noget om det, vi kan kalde y: det antal bit/sekund, som vi i et neurobiologisk perspektiv kan antage som værende knyttet til dén 'neurale informationsbehandling', der svarer til bevidsthed. Antag at jeg læste afsnittet om Bajkalsøen i 'Mærk Verden', et fint lille afsnit, og at man ved at måle min læsehastighed kunne udregne en tilnærmet værdi for x som båndbredden af min bevidsthed (i 'Mærk Verden' kap.6 angives læsning som en af de mange måder, man kan undersøge bevidsthedens båndbredde på). Men hvordan skulle man nogensinde kunne bestemme y? - dvs. det antal bit/sekund som svarer til det neurale grundlag for alle de ting, jeg var bevidst om under læsningen; en tankerække i forbindelse med beskrivelsen af forureningsproblemerne, et indre billede af søens skønhed og dens Bajkal-sæler, en association til et landskab jeg har set på Island, osv.

I Nørretranders terminologi er alt dette ikke bevidst, men en del af migets sansning eller, som det også udtrykkes, dets 'simulation'. Men det er - for mig at se - en absurd måde at bruge begrebet bevidsthed på. Jeg er da bevidst, når jeg læser. Måske er associationsmønstrenes kæder ikke bevidste, måske kan jeg ikke forklare hvorfor jeg netop kom til at tænke på dette, og ikke et andet landskab osv., men selve landskabet står klart for mig i min bevidsthed. Jeg er ikke selv-bevidst for så vidt jeg er opslugt af teksten og glemmer mig selv, men der kan jo heldigvis være meget andet i bevidstheden end mine egne forestillinger om mig selv. Det kan kun være fordi bogen i kraft af sin særprægede sprogbrug overser bevidste oplevelser og deres kvalitative aspekter, at det giver mening at tro, at der er så lidt indhold i bevidstheden.

Selve udtrykket 'bevidsthedens båndbredde' leder én til at forveksle det målte x med y, som er den reelle båndbredde for bevidsthedens neurale grundlag. Det er som at ville måle et vandtårns indhold i liter vand ved størrelsen af den lille sprække, der pibler dråber frem af.

Pointen er dels, at bevidstheden har flere former, og dels, at fordi man kan måle den bevidste adfærd til x bit/sekund, så siger det ikke noget om de y bit/sekund, som var omfanget af dens egentlige indhold - for så vidt vi overhovedet går med på spøgen om at kvantificere. For det kan vi jo egentlig ikke hvad angår det intentionelle, det der virkelig betyder noget. Men bortset fra x, målet af den ydre adfærd, kan vi i princippet, men næppe i praksis, måle y, båndbredden over den del af nerveaktiviteten, som understøtter de bevidste indre billeder, tankerækker osv. At det er umuligt i praksis skyldes ikke alene, at hjernens kompleksitet og personens integritet sætter naturlige grænser for vores målemani, men også at vi mangler en teori om forholdet mellem nervecellernes babyloniske forvirring af aktivitet og den indre struktur af vores bevidste tanker. Uden en god teori herom kan vi fx ikke vide, hvor man skulle sætte grænsen mellem de centre i hjernen, som 'processerede tankebillederne', og de centre, som havde betydning for fx det ubevidste, førbevidstheden, den motoriske adfærd, etc. Det peger så på en tredje pointe, nemlig at der ikke er disse skarpe grænser, men at bevidstheden og kroppen på forskellig vis altid griper dybt ind i hinanden, så dybt, at nogle filosoffer vælger at tale om 'kroppens tanke' (jf. O.F. Kirkebys artikel).

Der er iøvrigt en tendens til, at bevidsthed i 'Mærk Verden's mere fænomenologiske beskrivelser af, hvordan jeget blokerer for migets fri udfoldelse, gøres til identisk med selv-bevidsthed. Måske endda selv-bevidstheden i en lidt forkrampet udgave, som altid vetoer sig selv og siger 'tro ikke du er noget' til sig selv, en Jantelovsagtig selvbevidsthed. Hermed overses andre former for bevidsthed. Man kan med fordel sondre mellem (a) det, at opleve noget bevidst, at have sin opmærksomhed rettet imod en genstand eller en anden organisme, og lade sine praktiske handlinger lede af denne bevidste opmærksomhed; (b) at tale, læse, eller lytte til sproglige meddelelser, eller føre en indre samtale, dvs. den diskursive bevidsthed; og (c) at være bevidst om sig selv som person eller aktør, dvs. for det første rent mentalt at kunne repræsentere sin egen organisme i forhold til omgivelserne (hvad en hund formentlig kan), og for det andet, på et højere niveau, at have et forhold til sig selv som person eller menneskeligt individ.

Man kan jo godt opleve noget uden at det er på sproglig form, men næppe omvendt: Taler eller læser man, oplever man også noget. Nogen gange vil alle former for bevidsthed foreligge i samme situation. Indenfor de enkelte former er der igen utallige måder at være bevidst på. Sidder jeg og glor ud af vinduet på byens tage kan jeg godt have 'tankerne i Bajkal', som man siger. Ser jeg pludselig en fugl, fanges min opmærkssomhed, og jeg prøver at se hvad det er for én. Silhouetten er en rovfugls, en falk? Men vingerne er vist mere butte. Den umiddelbare perception af fuglen glider umærkbart over i det kliniske blik hos en fugle-kigger, der leder efter bestemte træk i bevægelsen, farvetoner og skikkelse; iagttagelsen parres med en begrebslig afsøgning af den forhåndenværende viden om rovfugles flugtmønstre, farvevariationer, adfærd osv. Fuglen kaster sig et par etager nedad - uuuh - og afslutter med en næsten blæret manøvre ved at brede vingerne ud og svinge sig opad i en bue igen. Den er ret tæt på nu, flot, flot. Pludselig dukker selv-bevidstheden op, når jeg bliver klar over, at jeg har fortabt mig i rovfugle og skulle have været ude af døren for tre minutter siden. Fordømte tids-bevidsthed!

'Mærk Verden' drøfter ikke spørgsmålet om dyr har bevidsthed, men svaret må jo være et nej, hvis Nørretranders fastholder sit indsnævrede bevidsthedsbegreb (bevidsthed som noget i stil med en sproglig formidlet selv-bevidsthed). Hundeejere kommer nogen gange i clinch med folk, der ud fra en klassisk rationalistisk fordom mener, at dyr ikke kan være bevidste, fordi de ikke har sprog. Ofte slutter man endda, at de slet ikke kan tænke. Det mener jeg er en tvivlsom slutning.

Man sammenblander tingene. Dyr som fx hunde - og lad os gemme goplerne til en anden gang, dvs. 'højere dyr' - har ganske vist ikke den diskursive bevidsthed, som er knyttet til sprogevnen, men de har selvfølgelig oplevelsesevnen, de kan sanse, forstå, og handle udfra intentioner, ganske vist ikke sprogligt formidlede intentioner, men praktiske hensigter - som fx at fange et bytte. De har en praktisk bevidsthed, ligesom os. Som 'Mærk Verden' omtaler, så gør vi jo selv en masse ting, cykler, går med hunden gennem byen, vasker op osv., uden at det behøver at være sprogligt bevidst. Hvorfor så forlange, at dyr, hvis de overhovdet skal være bevidste, må gøre lignende praktiske ting ved hjælp af en sproglig bevidsthed? Forskellen består i, at vi med vores diskursive bevidsthed kan isolere bestemte hensigter fra bevidsthedens strøm, fokusere på dem, og artikulere dem i en direkte eller indre tale. Derfor kan vores oplevelsesmæssige og praktiske bevidsthed i realiteten være 'blandet op med' den diskursive. Det sproglige er naturligvis også uundværligt, når vi skal planlægge mere indviklede former for handling længe før udførelsen (fx institutionelle handlinger, som også forudsætter sproget). Men igen: At vores 'forudgående hensigter' i disse tilfælde forudsætter sprog, er ikke ensbetydende med, at 'hensigt i selve handlingen' skulle være fraværende hos dyr.(note 5)

Dyr har intentioner, hensigter, de sigter mod ..., og som sådan har de en basal form for bevidsthed, som de har til fælles med mennesker. Nogen dyr har endda en veludviklet evne til at fortolke andre organismers hensigter ('mind-reading', igen: det véd enhver som har eller har haft hund). Det er jo ganske praktisk for byttedyret, at det kan se om rovdyret er på rov eller blot er ved at bevæge sig fra et sted til et andet. - Hvad så med amøben? O.k., der er et problem her, for hvor langt ned i kompleksitet kan vi gå og stadig tale om bevidsthed? Jeg mener at det væsentlige er, at vi meningsfuldt kan tale om grader af bevidsthed, og at dyr med nervesystem har bevidsthed, mere eller mindre. Når vi iagttager de mere simple livsformer, går det intentionelle præg ved adfærden gradvist over i en mere enkel form for målrettethed og organisk funktionalitet i de enkle adfærdsvaner. Disse vaner kan vi nu, fx i bakterien, beskrive molekylærbiologisk som et indre og i sig selv komplekst kybernetisk kontrolsystem eller netværk af molekylære vekselvirkninger.(note 6) Her er vi vitterligt langt fra intentionalitet i menneskelig forstand.

Bevidsthed og neurobiologi
Som sagt er bevidsthedens biologi (hvis vi accepterer betegnelsen) så godt som fraværende i 'Mærk Verden'. Bogens informationsbegreb er næppe et godt redskab til at beskrive de neurale processer, ligesom det er uvist om disse processer overhovedet er af beregningsmæssig natur. Nu er det sådan, at der faktisk forskes i og teoretiseres over det neurobiologiske grundlag for bevidsthed. Når 'Mærk Verden' sætter erkendelse lig med 'bortkastet information', så ledes man måske til at tro, at erindring og hukommelse ikke er det væsentlige, men disse fænomener er imidlertid dybt nødvendige at inddrage i en neurobiologisk teori om bevidsthed. Der findes da også mange bestræbelser på at forstå hukommelsesfænomener indenfor såvel psykologi som neurologi.

En af de teorier, som har tiltrukket sig en del opmærksomhed i de senere år er udformet af Gerald E. Edelman, nobelpristager i medicin, og kaldes 'neural darwinisme' eller teorien om neuronal gruppeselektion.(note 7)Teorien er delvis en reaktion mod de fysiologiske studier som lægger al for meget energi i at prøve at forklare adfærd ud fra enkelte nervecellers aktivitet. Edelmann opererer med et begreb om 'neurale grupper', dvs. grupper af nerveceller, som knyttes særlig tæt sammen under individets fosterudvikling og efter fødslen i de første indlæringsfaser. Det sker igennem en proces, der minder om selektion, dvs. udvælgelse og konkurrence a la Darwin mellem forskellige grupper nerveceller, men altså kun: minder om - selve mekanismen er anderledes. Herved dannes der noget, som svarer til kort, og som udgør forskellige repertoirer af funktionelle signaler. De forskellige repertoirer kan, i løbet af udviklingen, så at sige hive hinanden op ved håret og danne højere niveauer af funktionelle arkitekturer i hjernen. De nævnte kort er meget dynamiske strukturer og Edelman gør op med forestillingen om hukommelse som en fast 'database' man blot skal addressere for at hente oplagret information; her bliver erindring tværtimod en stadig re-kategorisering. Intet er fast i erindringen. Dette er naturligvis meget løst skitseret her, men Edelmans teori er særdeles specifik, men langtfra accepteret af alle.

Han videreudvikler sin teori med specielt henblik på bevidsthed, i en ny bog fra 1989.(note 8) Her lægger Edelman ud med at gøre sig nogle overvejelser over, hvad man må forvente af en biologisk videnskabelig teori om bevidstheden - hvilket er interessant i relief til 'Mærk Verden': Den teoretiske analyse af bevidstheden må opnå fire hovdmål, siger Edelman, (1) at anvise eksplicitte neurale modeller, der forklarer hvordan bevidsthed kan opstå; (2) forholde disse modeller til bevidsthedens opståen i evolutionen og i individets egen udvikling; (3) forholde de neurale modeller til begrebsdannelse, hukommelse, og sprog; og (4) beskrive hvordan disse modeller testes imod kendte neurobiologiske data, i det mindste i form af tankeeksperimenter hvis ikke de kan udføres i konkrete levende organismer. Det er særdeles ambitiøse mål, og selvom Edelman ikke selv opfylder dem alle, er han dog kommet et stykke vej, og har tilført området væsentlige ideer. Der er således mere at hente her, hvis man ikke bare vil nøjes med at have en bevidsthed, men også vil at vide noget om dens neurobiologiske forudsætninger.

Metaforen 'bortkastning af information'
I præsentationen af de forskellige forsøg på at forene ny viden om stof, beregning og liv, tager Nørretranders en af de metaforer, som udspringer heraf til sit hjerte, og synes ofte at glemme de forbehold, der ligger i forudsætningerne for at kunne anvende den som teoretisk begreb. Denne centrale metafor, som må holde for utallige steder, er 'bortkastning af information': dvs. Erkendelse som Beregning som Bortkastning af information (s. 260). Aldrig har jeg læst en bog hvor der bortkastes så meget information - for meget, forekommer det mig: Computere gør det når de beregner, for beregning er simpelthen bortkastning af information (s. 49, 142f, 437), matematikere gør det når de manipulerer symboler, motervejsbyggere når de asfalterer terrænet (467), bevidstheden bortkaster information under tænkning og tale (164, 166, 303, 355), kroppen bortkaster information når den sanser (356), og selve livet bortkaster information som en baby der indtager mad og bortkaster bæ (421); arten bortkaster information under sin evolution (114 f); selv planeten Jorden, når den spreder varme ud i verdensrummet, bortkaster information (420). Man kunne blive ved; gæt selv hvad varens bytteværdi i et kapitalistisk samfund er et resultat af... (s. 484). Metaforens ukontrollerbare spredning gør én skeptisk overfor påstanden om, at netop bortkastning af information er erkendelse. For slet ikke at tale om bevidsthed: Hvis der 'bortkastes information' hver gang en fysisk proces forløber under dissipation af energi, hvad er så det særlige ved bevidsthed?

Nu ved jeg godt, at jeg er ved at forsimple Nørretranders' pointer til det umiskendelige, bogen rummer mange flere nuancer. På den anden side gør det ikke noget: Det skulle jo netop ifølge Tor være karakteristisk for viden: At oplysninger kastes bort, at svære ting efter lange redegørelser koges ned til korte informationsfattige stumper; så jo mere information, der er kastet bort, jo mere 'dybt' er resten. Men hvad nu hvis det er det forkerte, der kastes bort? - en naturlig indvending, som helt overses. Bogens 'dybeste' sandhed er: Erkendelse er nedkogt viden. Viden er information, der er kastet bort. Og information er det, der kan måles som uorden, entropi, dissiperet energi, varme. I sin yderste konsekvens siger bogen: Brænd mig, og bliv dét klogere! Det ligger mig meget fjernt at følge denne indirekte opfordring til bogbrænding. Noget må være gået helt galt. Hvad?

Der hvor det kikser - der, hvor reduktionen af viden til information og af information til entropi (eller uorden i fysisk forstand) sætter ind - er i Nørretranders' egen bortkastning af de forbehold, som ellers huskes i starten: At det tekniske begreb om information fra ingeniøren Claude Shannons matematiske teori er kvantitativt, ikke kvalitativt, og intet siger om de meningsfulde aspekter af informationen, dens karakter af information om ..., det, at den i heldigste fald har relevans, handler om noget, har en åben kontekst. Man får nærmest det indtryk at information er et stof, en substans der kan omregnes til entropi, energi eller masse. Den formelle lighed mellem Shannons berømte mål for informationsindholdet i kvantitativ forstand og termodynamikkens begreb om entropi er vanskelig at håndtere og netop kun formel; i løbet af fremstillingen bliver den taget for pålydende.(note 9)

'Mærk Verden'kunne have vundet større klarhed hvis den sondrede mere skarpt mellem teoretiske beskrivelser af konkrete materielle systemer (fysiske, biologiske osv.) og beskrivelser af formelle systemer, især kendt i matematik og logik. Eksempelvis er entropi netop et mål for energiens uorden eller spredning over frihedsgraderne i et fysisk system, mens det matematiske informationsbegreb kan anvendes på et utal af systemer og måler abstrakte bit (eller signaler eller 'hændelser'), uanset hvad deres fysiske pendant end er. Tilsvarende handler Gödels teorem om visse begrænsninger på bestemte formelle systemers udsagnskraft, ikke om teorier om den fysiske verden eller om erkendelse sådan i al almindelighed. Det er tvivlsomt at man her 'simpelt hen har fat i grænserne for al erkendelse' (s. 66) (jf. Hans Siggaard Jensens artikel).

Nørretranders er godt klar over, at Shannons begreb om information ikke har et hak med mening at gøre, hvorfor det heller ikke er noget godt mål for bevidsthed: Dén skal derimod måles ved det, der er 'kastet bort', og som han benævner eksformation. Eksformation skulle så være en eksplicit henvisning til alt det information, som er blevet kastet bort under en tankeproces, fx spørgsmålet og de følgeslutninger i et argument eller en tankerække, som ikke direkte kan ses i det svar, som gives. Eksformation bliver i bogen til et begreb for meningen, indholdet, alt det kvalitative, som det matematiske (ekstensionale) informationsbegreb jo netop ikke indfanger. Men det er tvivlsomt om begrebet eksformation så til gengæld gør dét - hvis der ikke er nogen mening i de enkelte informationsbit, hvordan skulle der så kunne være det i de bit, der er 'kastet bort'? Den simple spejlvending af det ekstensionale begreb om information til eksformation minder i betænkelig grad om det ligeså problematiske begreb om negentropi, som engang blev foreslået som et strukturelt mål for orden, men som blot var en spejlvending af entropi, det fysiske mål for uorden (en spejlvending som Nørretranders iøvrigt selv henviser til kritikken af, s. 62).

Om den fysiske pris på beregning.
Bort- eller bit-kastningsmetaforen kommer af spørgsmålet: "Hvad koster beregning, fysisk set?", eller "Hvad er de fysiske omkostninger ved informationsbehandling?", underforstået hvor billigt kan en regnemaskine køre, hvis det sker meget effektivt og energibesparende. Det kan lyde som et sært spørgsmål, men er ret fundamentalt, og spiller da også en stor rolle i fremstillingen. Det er jo sådan, at beregninger og i det hele taget behandling af information er processer, der har en fysisk side, dvs. de må være underlagt nogle fysiske lovmæssigheder. Computeren er jo ingen parapsykologisk maskine - der er ingen magi i beregning. Man kan fx ikke lave computere, som overfører bit mellem de enkelte komponenter hurtigere end lysets hastighed (selvom der ville være penge at tjene, hvis det var muligt). Lyshastigheden er således ét af de fysiske bånd på beregning.

Et andet bånd har en del at gøre med det forhold, at der populært sagt er grænser for hvor små man kan gøre sine bit, hvis de ikke skal drukne i baggrundsstøjen. Og dét har så, som bogen omtaler i kap.1 og 2, igen en del at gøre med Maxwells dæmon og Leo Szilard og Leon Brillouins arbejder, som også omtales. De påviste, at dæmonen, hvis den skal være fysisk eksisterende, ikke kan arbejde uden tab af et mindstemål af brugbar energi for hver bit information, den skal måle. Denne fysiske pris på bit-behandling er almen, og gælder også for datamaskiner, som jonglerer med bit. (Men man skal altså ned på uhyre 'små' bit, før dette betyder noget. I en almindelig bord-computer, vil energiforbruget og varmeproduktionen primært skyldes almindelig modstand i ledninger, gnidning fra de mekaniske komponenter, osv.).

Sagen er så den, at nogle fysikere fra IBMs forskningslaboratorier, Charles H. Bennett og Rolf Landauer har modificeret argumentationen. De mener således at have påvist, at en principiel årsag til energiforbrug og entropi-produktion under beregning er computerens sletning af bit i hukommelsen, før nye beregninger kan gennemføres. Sletning eller bortkastning af bit (svarende til spredning/dissipation af energi i form af varme), snarere end overførelse af bit mellem de enkelte komponenter (svarende til måling i Szilard og Brillouins argument), er den principielle energimæssigt begrænsende omkostning.(note 10) Noget lignende gælder, hævdes det af Bennett og Landauer, m.h.t. fysisk måling: Det, som skulle koste ved en måleproces er ikke 'kommunikationsaspektet' (overførelse af information), men sletningsaspektet: det at komme af med informationen igen, at nul-stille måleren, før en ny måling kan foretages. Disse resultater, som Nørretranders fascineres af, bygger bl.a. på nogle tankeeksperimenter med konstruktion af gnidningsfri såkaldt reversible computere; tankeeksperimenter som i sig selv kan diskuteres, og som heller ikke accepteres af alle fysikere.(note 11)

Menher havde det været naturligt for en beretning, der handler om forholdet mellem videnskab og virkelighed, at spørge de herrer Bennett og Landauer: Hvad er forholdet mellem de 'i princippet' argumenter, der gælder helt idealiserede systemer, og den fysiske og biologiske virkelighed? I bogen er afbildet en tænkt mekanisk indretning, der angives at kunne måle uden energiforbrug, fordi apparatet er reversibelt (s. 47). Men det gælder jo kun idealt: I virkelighedens verden, hvor der er gnidning og irreversibilitet, koster det faktisk noget (i form af dissipation af energi) at udføre målinger; mere end det gør i et rent tankeeksperiment. Det gælder også for kommunikation i levende væsener: Selv den billige bit-kopiering af DNA i levende celler, hvor det enkelte trin i den biokemiske proces kan foregå reversibelt, kræver et flow af lav-entropisk (ordnet) energi ind og højentropisk (uordnet) energi ud af cellen. Det kræver også en del kemisk energi at holde nervecellers kommunikation kørende - at overføre 'en bit' (hvordan den så ellers skal specificeres) til nabocellen. At overføre bit som bogstaver på papir er energetisk endnu dyrere: Jo højere niveauer vi beskriver, jo større bliver afstanden mellem informationseffektiviteten og den energetiske effektivitet. Når behandling af information i virkelige maskiner og organismer kræver forbrug af energi og øgning af den samlede entropi, er det altså ikke blot fordi informationen skal bortkastes. Hvilket Landauer iøvrigt også indrømmer.(note 12)

Deter således ganske uafklaret hvad de principielle fysiske begrænsninger på beregning fortæller os om, hvorledes processer, der 'beregner' eller bearbejder information opstår, udvikles eller virker i den levende natur - eksempelvis i en celle eller i det menneskelige nervesystem. Springet fra beregningens fysik til dens biologi eller til dens rene logik er stadigt stort, men det er ikke helt det billede, 'Mærk Verden' tegner. Det er jo speget, især når der kan rejses indvendinger imod de argumenter, der kun drejer sig om det fysiske. Sandsynligvis ville ingen fysiker drømme om at prøve at bygge en termodynamisk reversibel computer for at vise eksperimentelt, at beregning kan ske ved vilkårligt lille forbrug af brugbar energi pr. beregningstrin. Fysikken plages stadig af dæmoner!

Nørretranders beskriver også det ambitiøse projekt, som går ud på alment at beskrive fysiske processer i termer af information, og giver her indtryk af afgørende gennembrud og sejre. Det er nok mere rimeligt at tale om begyndende spekulationer. Diskussionen indenfor fysikken om det indbyrdes forhold mellem informationsteori, termodynamik (varmelære) og komplekse systemers dynamik er særdeles intrikat. Er fx informationsteori en mere basal teori end termodynamikken, så vi trygt kan 'udlede' dele af termodynamikken v.h.a. argumenter, der hviler på informationsteori? Eller er informationsteorien snarere et matematisk redskab, der kan bruges på et utal af områder, uden at der er tale om en egentlig fysisk teori af samme karakter som mekanik eller varmelære? Dette er totalt uafklaret.

Beregning er mere end bit-kastning
Selvom beregningsprocesser finder sted i fysiske systemer og koster energi, så kan de jo ikke udtømmende beskrives ved deres fysik eller som bortkastning af information. Beregning er netop en symbolsk proces, hvor symbolerne henviser til 'logiske atomer' eller tal, der jo som regel opfattes som knyttet til matematiske størrelser, dvs. noget begrebsligt. At maskiner kan beregne skyldes bl.a., at datamaskinen behandler syntaksen korrekt: dens fysiske processer udfører de strikse regneregler på en konsistent, sandhedsbevarende måde. Disse regler repræsenterer matematiske operationer, der er knyttet til abstrakte talteoretiske forestillinger. Der er altså mere i beregning end bortkastning af bit. Det interessante er reglernes form og hele den abstrakte struktur af processen. Når vi fx skriver 35 + 15 = 50 og 27 + 11 = 20, er der i begge tilfælde 'bortkastet information' for at nå et resultat (i al fald i den forstand at det samlede informationsindhold i bit af symbolerne på venstre side af lighedstegnet er større end højresidens), men dette faktum kan ikke fortælle os noget om den afgørende forskel på de to beregninger. Det interessante er ikke, at der kastes information væk, men hvordan den kastes væk, hvad der kastes væk, dvs. efter hvilke regler der regnes, og selve den teoretiske 'logik' som beregningsprocessen følger.

Vi kan ikke forstå en menneskelig eller mekanisk computer uden en forståelse af denne logik. Det gælder også selvom tænkningens regler psykologisk set viser sig at være forskellige fra den formelle logiks regler. Bortkastningsmetaforen kan pege på alt den information som sanses uden at nå bevidstheden, men har markante begrænsninger når det gælder om at forstå bevidsthedens former, dens kvalitative sider, og den ubevidste tænknings struktur.

Ganske vist refereres der kort til Alan Turing og hans idé om en universel beregningsmaskine (som datalogisk set udgør en teoretiske ramme for beregningsbegrebet). Men det bruges ikke til at formidle en indsigt i forskellen på det datalogiske og det fysiske beregningsbegreb - et for bogen helt centralt spørgsmål, som altså ikke engang rejses.(note 13)

Måske kan vi godt få en god fysisk teori om bit-kastning, dvs. om informationsprocessers fysiske forhold, uden at det siger noget om det logiske indhold, som er knyttet til beregninger. Denne logik er så at sige tallenes og beregningens form-side. Og hvad er så det? Eksempelvis det forhold, at et tal som pi (forholdet mellem en cirkels omkreds og diameter), er der ingen mennesker der har set, andet end som en tilnærmelse, i form af en decimalbrøk (3,14159...) som dog ikke er pi, men netop en tilnærmet værdi. Pi er det, matematikere kalder et irrationelt og et transcendentalt tal. Det er ikke fremkommet ved en masse bortkastning af information i den lange sekvens 3,15149263589793... Computeren kan altid kun angive en tilnærmet værdi af tallet, men man kan til gengæld skrive et program, dvs. en algoritme, der genererer den tilnærmede værdi med vilkårligt mange decimaler, dvs. præcis så mange man ønsker (dog ønsket indenfor rammerne af det fysisk mulige). Algoritmen er så at sige det matematiske pi-begrebs oversættelse til et datalogisk håndterbart udtryk for pi.

Vi har således tre aspekter af beregning:(note 14) Det fysiske beregningsbegreb, der handler om entropi-produktion ved bit-håndtering; det datalogiske beregningsbegreb, der handler om algoritmer og deres abstrakte egenskaber, og det matematiske beregningsbegreb, der omfatter det datalogiske, men derudover omhandler ting, som ikke kan udtrykkes ved en algoritme.

Teoretiske biologer har foreslået at betragte hjernens informationsbearbejdning og cellens genetiske information som en slags 'biologisk beregning'. Hvis dette skal have mening, må man være ret præcis m.h.t. hvilken form for 'beregning' man i så fald taler om. Men måske er 'biologisk beregning' blot en metafor for en helt selvstændig type processer, der foregår i det almindelige stofskifte - et enzyms genkendelse af et andet, cellernes optagelse af glucose? Jeg bliver pludselig helt sulten - jeg tror min mave mangler lidt information at beregne på.

Noter

1.Nørretranders skriver faktisk om uenigheder om tolkningen af Libets forsøg, og om grænserne for hvad man kan bevise formelt etc., så denne kritik gælder det indtryk bogen som helhed efterlader hos læseren. Ofte mangler en kritisk diskussion, og det er som om Nørretranders forføres af sin egen pen, som Frederik Stjernfelt bemærkede i sin anm. af 'Mærk Verden' i Information d. 8. nov. 1991. [tilbage til henvisningsstedet i hovedteksten]

2. Denne ambition skal måske ses i lyset af mediernes ændrede rolle i det, man har benævnt som den postmoderne tilstand, jf. Claus Emmeche & Hans Siggaard Jensen: "Nørretranders uberegnelige bevidsthed". Se også "Gödel og den maskinelle beregnelighed" essay til Informations Moderne Tider (bringes ca. en fredag i marts 1992).[tilbage til hovedteksten]

3. Hegel sagde det meget klart i sin Retsfilosofi: "Driften er i naturen, men at jeg sætter driften i dette jeg, afhænger af min vilje, som altså ikke kan påberåbe sig at driften ligger i naturen", her cit. efter Thyssen (1982), s. 5. [tilbage til hovedteksten]

4. Dette påpeges fx i Behavioral and Brain Sciences, vol.12, p.183 (1989). [tilbage til hovedteksten]

5. Filosoffen John Searle (1984, p. 65) skelner mellem 'prior intentions', dvs. intentioner som dannes før udførelse af handlingen, og 'intentions in action', som er de intentioner vi har, mens vi faktisk udfører handlingen. Tim Ingold (1988) påviser forvirringen omkring dyrs bevidsthed, og argumenterer for, at den praktiske bevidsthed hos dyr svarer til Searles 'intentions in action'. Iøvrigt nåede en filosof som Merleau-Ponty ad andre veje frem til, at den praktiske kropslige intentionalitet måtte være mere grundlæggende end den artikulerede 'tænkte' eller sproglige bevidstheds intentionalitet; han ville dog næppe begrunde det evolutionsbiologisk. [tilbage til hovedteksten]

6. Man kender ret nøje en række molekylære mekanismer, der er ansvarlige for bakteriers evne til at bevæge sig i retning af de næringsstoffer, de kan sanse (kemotaxi), jf. artiklerne i Cold Spring Harbor Symposia on Quantitative Biology, vol. 53, 1988. Betænker man disse organismers lidenhed og encellede natur er det ret forbløffende, som C.H. Berg udtrykker det (p.8 her): "One thing is quite clear: E.coli demands our admiration and respect." [tilbage til hovedteksten]

7. Edelman 1987. På dansk findes en kort introducerende omtale i Køppe 1990. [tilbage til hovedteksten]

8. Edelmann 1989, se den udførlige anmeldelse af Stephen W. Smoliar i tidskriftet Artificial Intelligence, vol. 52, pp.295-318, 1991.[tilbage til hovedteksten]

9 Om informationsbegrebets relation til det fysiske entropibegreb, se Emmeche 1990 afsnit 2.2.1.1.[tilbage]

10 Se evt. også Nørretranders: "Maxwells dæmon og 117 års glemsomhed", og "Den kølige computer", Weekendavisen s. 18, d.15. jan. og s.20, d.18. nov. 1988, og Søren Brunak 1987: Computerens fysik, speciale, Niels Bohr Institut, Kbh. Ideen om information som 'bortkastet varme' findes også i Brunak og Lautrup 1988.[tilbage til teksten]

11 Se Porod et al. 1984. Forfatterne retter en kritik imod Bennetts og Landauers tro på den faktiske mulighed af dissipationsfri beregning (dvs. beregning uden degradering af energiens kvalitet, uden spredning af energi i form af varme) ved at skelne mellem spørgsmålet om logisk reversibilitet og termodynamisk reversibilitet. Selv en logisk reversibel computer vil, hvis den skal realiseres, virke under termodynamisk ikke-ligevægt, og vil kræve dissipation, den vil altså være termodynamisk irreversibel. [tilbage til hovedteksten]

12 "The real limits are presumably related to cosmological questions. For example (...) the typical and inevitable deterioation processes which beset real machinery: oxidation, diffusion, evaporation, electromigration, irradiation by cosmic rays and alpha-particles." (Landauer 1988, p.784). Eller på dansk: Enhver fysisk computer slides! Den ideelle computer som arbejder i 'termodynamisk ligevægt' findes kun i fysikernes hoveder! [tilbage]

13 Og det køres hurtigt igennem med løse formuleringer (s. 79), der sammenblander Turing stop problemet med Church-Turing tesen. Turing stop problemet er problemet om der findes en algoritmisk procedure til at afgøre om en vilkårlig Turingmaskine fodret med et vilkårligt program stopper (det viste Turing at der ikke gør). Church-Turing tesen er derimod en tese om mulig ækvivalens mellem en række forskellige formuleringer af begrebet om algoritme (bl.a. Turings rekursive funktioner og Church' lambdakalkyle). Tesen er, at disse formalismer essentielt beskriver det samme, har samme ekstension, og at begrebet om en Turingmaskine faktisk definerer hvad vi matematisk mener med ord som algoritme eller 'mekanisk' procedure. Snarere end en hypotese er der altså tale om et definitionslignende forsøg på at eksplicitere en intuitiv matematisk idé om, hvad beregning og mekanisk beregnbarhed er, jfr. Mendelson 1990. [tilbage]

14 Se også diskussionen i Emmeche 1991, kapitlet 'Beregningens økologi'.[tilbage til hovedteksten]

Litteratur

Brunak, S. og B. Lautrup (1988): Neurale Netværk - computere med intuition. Munksgaard (NYSYN), København.

Edelman, G.M. (1987): Neural Darwinism. The theory of Neuronal Group Selection. Basic Books, New York.

Edelman, G.M. (1989): The Remembered Present: A Biological Theory of Consciousness. Basic Books, New York.

Emmeche, C. (1990): Det biologiske informationsbegreb. Forlaget Kimære, Århus.

Emmeche, C. (1991): Det levende spil. Biologisk form og kunstigt liv. Munksgaard (NYSYN), Kbh.

Ingold, T. (1988): "The animal in the study of humanity", pp. 84-99 in: Tim Ingold, ed.: What is an Animal?, Unwin Hyman, London.

Køppe, S. (1990): Virkelighedens Niveauer, Gyldendal, Kbh.

Landauer, R. (1988): "Dissipation and noise immunity in computation and communication", Nature vol. 335, pp.779-784.

Mendelson, E. (1990): "Second thoughts about Church's thesis and mathemaical proofs", The Journal of Philosophy vol. 87 (no.5), pp. 225-233.

Nørretranders, T. (1991): Mærk Verden. En Beretning om Bevidsthed. Gyldendal, Kbh.

Porod, W., R. O. Grondin, D. K. Ferry and G. Porod (1984): "Dissipation in computation", Physical Review Letters vol.52, no.3, pp. 232-235.

Searle, J. (1984): Minds, Brains and Science. BBC, London (Penguin-udg.: 1989).

Stjernfelt, F. (1991): "Jeg, mig, og vi to", Dagbladet Information, d. 8. nov., s.9.

Thyssen, O. (1982): Den anden natur. Vindrose, Kbh.

***