Kunstig intelligens

Titel: Kunstig intelligens.

Forfatter: Jakob Bakke.

Odense Universitet, filosofisk Institut.

Januar 1999.

Type: Skriftlig emneprøve.

Vejleder: Poul René Bertelsen.

Denne side er en del af Filosofiske essays.

Indledning

Hvis man skal pege på en ting der markerer det 20. århundrede, er computeren et godt bud. Den er udtryk for en af de største tekniske succerer i menneskehedens historie. Den er snart tilstede overalt, og dens betydning og kunnen er overvældende. Når man står over for en så fantastisk ting, bliver man let imponeret og spørger måske sig selv, om den er lige så fanastisk som mennesket, eller måske på et tidspunkt vil blive mere fantastisk end mennesket? Man spørger sig selv om den mon kan være intelligent og bevidst? Det skorter ikke på dommedags profetier centreret omkring computeren. Film som "Terminator" I og II, og bøger som Dan Simmons' roman serie om "Hyperion" samt Phillip K. Dicks "Do Androids Dream of Electrick Sheep" er udtryk som sådanne. Men er computere intelligente?

Nærværende skrift vil forsøge at yde et bidrag til denne diskution. Jeg har valgt at tage en række prominente positioner og argumenter for og imod klassisk kunstig intelligens op. Det drejer sig om Turing, Searle, Dennett samt scenario begrebet. Disse positioner vil blive undersøgt med henblik på at fastslå, om de kan siges at være argumenter for eller imod kunstig intelligens. Denne strategi kan ikke entydigt fastslå om computere kan være intelligente eller ej. Men hvis man kan vise at argumenterne for kunstig intelligens ikke er holdbare, og argumenterne imod er holdbare, har man i hvertfald sået tvivl om hvorvidt projektet er gennemførbart.

Følgende forhold skal nævnes: Da KI forskningen er delt i en klassisk og moderne skole, og en gennemgang af begge vil være for omfattende, koncentrerer denne opgave sig om den klassiske kunstige intelligens, og vil ikke berøre den moderne i nævneværdig grad. De steder i teksten, hvor jeg fremsætter min egen personlige mening, der måske ikke er helt underbygget af argumenter, vil det fremgå af ordene jeg eller mig.

Turing testen

Kan computere tænke? Med dette spørgsmål indleder A. M. Turing sin artikel "Computing Machinery and Intelligence". Der melder sig umiddelbart en række spørgsmål som f.eks. hvad er en maskine? Hvad er intelligens? Og kan vi afgøre om maskiner er intelligente. Det ville være muligt at svare på disse spørgsmål ved at lave en Gallup undersøgelse, for derved at finde ud af hvad et repræsentativ udsnit af befolkningen mener om emnet. Turing mener, med rette, at det ville være absurd. Hvis en sådan undersøgelse skulle have nogen faktuel værdi, ville det forudsætte at befolkningen altid havde den rigtige opfattelse (og så ender vi i en cirkularitet eller uendelig regres), eller også må folks opfattelse være konstituerende for verdens indretning.

For at komme ud over problemerne, foreslår Turing, at vi omdefinerer spørgsmålet fra "kan computere tænke?" til "kan en maskine simulere et menneskes svar på alle tænkelige spørgsmål?". Vi er hermed ude over problemet om hvad intelligens er. Vi går bare ud fra at mennesker er intelligente, og hvis computeren kan simulere menneskets svar, går vi ud fra at den også er intelligent.

Den maskine, hvis intellektuelle kapacitet vi skal undersøge, skal ifølge Turing være en digital computer. Spørgsmålet er nu hvordan vi kan afgøre om den digitale computer er intelligent? Til dette formål har Turing udtænkt den såkaldte Turing-test (han kalder den selv, beskedent nok, for 'imitation game'). Testen går i al sin enkelthed ud på, at personen C skal finde ud af om personen A eller personen B er en digital computer (C kunne også sættes til at finde ud af en lang række andre ting f.eks. om A eller B er en kvinde eller arbejdsløs o.s.v.). Hvis C ikke kan afgøre hvem af dem der er den digitale computer, er testen lykkedes d.v.s. vi kan ikke skelne menneske fra computer og må, ifølge Turing, vedgå at computeren kan tænke. Testen er selvfølgelig indrettet på en sådan måde, at C ikke på forhånd har noget kendskab til A og B. Person C kan heller ikke hverken se eller høre A og B, men al kommunikation personerne imellem foregår via neutral skrift dvs. beskeder skrevet på en skrivemaskine (i dag ville vi nok benytte lokal netværk og email). Der udover er der en række forbehold. F.eks. skal computeren "bevidst" gøre sig langsom hvis der kommer et kompliceret matematisk spørgsmål, og den skal i det hele taget narre C til at tro at den er et menneske.

Men hvad er det egentligt Turing testen viser? Lad os se på et eksempel(1). Person A er et menneske, mens person B er en dværgchimpanse, der er i stand til at kommunikere på et primitivt niveau v.h.a. tegnsprog og stavetavler. Mennesket gør sig nu dummere end det er, så det kommer på niveau med chimpansen. Person C er nu ikke i stand til af afgøre hvem der er menneske og hvem der er chimpanse. Hvis vi skal følge Turing testen må det betyde, at chimpansen er lige så intelligent som mennesket. Men er det rent faktisk det der er tilfældet? Nej, mennesket er mere intelligent end chimpansen, det kan vi bare ikke afgøre ud fra Turing testen. Eksemplet viser at der ikke nødvendigvis består et entydigt forhold mellem adfærd og intelligens/bevidsthed.

Turing skelner tilsyneladende heller ikke mellem hvad vi vil kalde interne og eksterne tilstande ved systemet. En intern tilstand er en tilstand systemet har i og for sig selv, hvorimod en ekstern tilstand er noget der bliver tillagt systemet. At Turing ikke opererer med denne distinktion, skyldes nok hans grundlæggende forudsætning, nemlig behaviorismen som vi definere som følger:

"... the claim is that talk about emotions and sensations and beliefs and desires is not talk about ghostly inner episodes, but is rather a shorthand way of talking about actual and potentiel patterens of behavior."(2)

Som det vil fremgå af nedenstående, er det netop en sådan behaviorisme Turing er nød til at forudsætte, for at kunne opretholde sin tese(3).

Lad os se på en at Turings eksempler for at belyse forholdet nærmere. Han diskuterer, hvorvidt en maskine kan "take us by suprise"(4) og forsætter med følgende eksempel:

"Machines take me by suprise with great frequency ... "I supose the voltage here ought to be the same as there: anyway let's assume it is". Naturally I an often wrong, and the result is a suprise for me, for by the time the eksperiment is done these assumptions have been forgotten. These admissions lay me open to lectures on the subject of my vicious ways, but do not throw any doubt on my credibility when I testify to the suprises I experience."(5)

Eksemplet skal angiveligt vise at computeren kan være kreativ. Hvis vi anvender førnævnte distinktion kan vi se at det ikke er tilfældet. Den interne tilstand ved computeren er uændret ved hele det forløb Turing beskriver. Der er overhovedet ikke sket nogen forandring i computeren. Den er som den hele tiden har været. Det er derfor ikke computeren i og for sig selv der er anledning til overraskelsen. Det ville kræve en intern ændring i systemet f.eks. udkast af en ny ide, planlægning o.s.v. Grunden til overraskelsen er der i mod at finde i Turing selv. Han har ikke tænkt sig tilstrækkeligt godt om, og derfor bliver han overrasket. Derefter tillægger han computeren egenskaben at kunne overraske, hvilket svare til en ekstern tilstand ved et system (retfærdigvis skal det siges, at Turing selv strejfer en indvending der minder om ovenstående, men han kommer ikke nærmere ind på den). Hvis Turing testen virkelig skal kunne vise om computeren (eller hvad der nu er tale om) er inteligent, kræver det sekundært at man tager højde for distinktionen mellem interne og eksterne tilstande og primært, at der består et entydigt forhold mellem adfærd og intelligens/bevidsthed. Som det fremgår af ovenstående er det langtfra sikkert.

En tredje mulighed er at adfærden er primær i forhold til bevidstheden. Qwen J. Flanagan er denne opfattelse. Han skriver:

"If you honestly insist that you are very happy but systematically fail to act as if you are, the heterophenomenological data will justly override your content claim, your sincerity notwithstanding. I can accept happiness is the state that springs to mind, and that its springing to mind provides you with a powerful intuitive motive for saying "I am happy". I can nevertheless deny that this is the state you are in."(6)

(heterophenomenological samt autophenomenological er begreber Flanagan har lånt fra Daniel Dennett. Det svare til 1. henholdsvis 3. person). Kan det nu også passe? Det Flanagan hævder er at hvis jeg føler mig jublende lykkelig, så er han fuldt ud berettiget til at hævde at jeg er møg sur. Lad os gøre brug af et lille tankeeksperiment(7). Jeg har indtager et medikament der skiller krop og bevidsthed, dvs. jeg har ikke længere kontrol over min krop, den gør hvad den vil. Jeg får nu en spand kogende vand ned af nakken. Min krop signalerer at jeg er glad, mens jeg føler intense smerter. En observatør vil nu være berettiget i at hævde, at jeg faktisk ikke er i en tilstand af smerter (vi antager at observatøren ikke har set begivenheden, ej heller kender brandsår på ryggen m.m.). Forekommer det ikke mere rimiligt at hævde, at ligegyldigt hvad min krop signaliserer kan man ikke benægte at jeg oplever smerte. Den er et bevidstheds immanent fænomen og giver sig dermed i sin totalitet for mig. Det er meningsløst at hævde at jeg har smerter og jeg har ikke smerter.

Ovenstående viser, at Turing testen ikke er særlig pålidelig, hvad angår blotlægning af intelligens og den kan derfor heller ikke anvendes som et argument for stærk KI.

Lad os nu gå over til en undersøgelse af begrundelses strukturen i Turing testen.

Som tidligere nævnt indleder Turing med spørgsmålet "kan computere tænke?", og omformulere det lidt senere til, "kan en maskine simulere et menneskes svar på alle tænkelige spørgsmål?". D.v.s hvis man svarer bekræftende på sidste spørgsmål, svarer man også bekræftende på det første spørgsmål. Det er dog kun muligt at svare således, givet en bestemt definition af intelligens, og et bestemt kriterium for hvornår noget er intelligent. Definitionen må, hvis testen skal give mening, lyden noget i retning af, "hvis systemet består testen er systemet intelligent". Kriteriet for intelligens må, hvis testen overhovedet skal kunne gennemføres, lyde noget i retning af "hvis systemet består testen er systemet intelligent". Som det ses, er definition og kriterium sammenfaldende, og Turing ender dermed i en ondartet cirkularitet. For at undgå dette kan Turing enten tage tyren ved hornene, eller undslippe mellem hornene(8). For at afgøre om den ene eller begge af de to muligheder er mulige, må vi se lidt på hvordan Turing er nået frem til sit kriterium for intelligens.

Traditionelt er der to måder hvorpå man kan afgøre om noget er undtryk for viden:

1) Man tager udgangspunkt i konkrete instanser af hvad der må betegnes som sikker viden, og opbygger der ud fra et videnskriterium. Et eksempel på en sådan fremgangsmåde er G. E. Moores commensense filosofi. Moore tager udgangspunkt i de såkaldte truismer, d.v.s. commensense antagelser som de facto er sande. Det er f.eks. at der findes andre bevidstheder og en bevidstheds uafhængig virkelighed. Alle andre antagelser skal så vægtes imod disse truismer. Hvis en filosofisk tese siger, at der ikke eksisterer en bevidsthedsuafhængig virkelighed, kan vi ud fra truismekriteriet se at denne tese må være forkert, den er altså ikke en sand begrundet antagelse(9).

Hvis vi skal gå fra konkret viden til videnskriterium i Turing testen, må vi tage udgangspunkt i en instans der med sikkerhed besidder intelligens og bevidsthed. Den eneste instans der lever op til disse krav er mennesket. Som vi husker fra gennemgange af Turing testen, var kriteriet for intelligens at computeren kunne efterligne menneskets adfærd. Turing tager altså udgangspunkt i mennesket, og opstiller ud fra menneskets måde at være på, et kriterium for intelligens. Turing går dermed fra konkret viden til et videnskriterium. Hvis dette kriterium skal være holdbart, kræver det (som tidligere nævnt) enten at der er 1:1 overensstemmelse mellem bevidsthed og adfærd, eller at adfærden er primær i forhold til det personlige perspektiv. Som det fremgår af ovenstående mener jeg begge antagelser er tvivlsomme. Under alle omstændigheder må Turing begrunde det ene eller begge forhold, og det gør han ikke, han nøjes med at postulere. Turing testen, eller rettere det testen skal vise, kan derfor ikke siges at være en sand begrundet antagelse, men kun en sand antagelse. Med andre ord ved Turing ikke om computere er intelligente, han tror de er intelligente.

2) Man tager udgangspunkt i et videnskriterium, og prøver derefter de forskellige instanser af antagelser på kriteriumet, for at se om de er udtryk for viden. Et eksempel på denne fremgangsmåde er Descartes. Hans kriterium for viden er evidens. Det vi indser som evident er sand viden. Hvis vi anvender denne fremgangsmåde på Turing testen, vil kriteriet for intelligens være det samme som hele tiden, computeren skal narre mennesket til at tro, at computeren er et menneske. For at finde ud af om konkrete antagelser er sande (om computeren faktisk er intelligent), må vi prøve dem på kriteriet, og det gør vi v.h.a. Turing testen. Men testen kan jo ikke, om jeg så må sige, hænge og svæve i den blå luft. Det må begrundes (og dermed er vi for så vidt tilbage i tidligere nævnte problematik).

Der findes de traditionelle tre veje til begrundelse(10). 1) Man ender i en uendelig regres. 2) Man ender i en cirkularitet. 3) Man når til en absolut begrundelse, d.v.s. en begrundelse der ikke skal begrundes i noget andet (f.eks. Descartes evidens).Som nævnt ender Turing i en cirkularitet, og den kan han kun undslippe ved enten at komme med en ny definition af intelligens, eller ved at ændre kriteriet for intelligens. Der gives selvfølgelig også en tredje mulighed. Kriteriet er det absolute grundlag og behøver ikke yderligere begrundelse. Det er simpelthen evident. Jeg skal ikke kunne udtage mig på vegne af den ærede læser, men det forekommer mig langtfra evident. Det er tværtimod et kriterium der fordrer yderligere begrundelse. Og så er vi fremme ved sagens kerne. Denne begrundelse må qua kriteriets art være behavioristisk, og jeg kan ikke se, hvordan man indenfor behavioriskiske rammer, kan opstille et kriterium der er radikalt anderledes end det Turing opstiller. Man kan dermed ikke undslippe den ondartede cirkularitet. Problemet er derfor ikke så meget selve Turing testen, som det hvori testen skal begrundes, nemlig behaviorismen.

Det kinesiske værelse

I 1980 fremsatte John Searle i artiklen "Mind, Brains and Programs" det såkaldte "Chinese Room Argument" hvis formål det var at vise, at computere ikke kan tænke og være intelligente i menneskelig forstand. Argumentet er faktisk ikke bare et argument, men et tankeeksperiment der rummer en række argumenter, primært af sprogfilosofisk og meningsteoretisk art. Tanke eksperimentet er inspireret af en gammel kinesisk fortælling om et talende værelse, der kunne svare på skriftlige spørgsmål. Man kunne nedskrive et spørgsmål, stikke det ind i værelser og få et skriftligt svar ud. Searle fremstiller i artiklen en modificeret udgave af historien.

Vi har et værelse med en sprække hvor igennem breve med spørgsmål kan puttes ind, og svar kan sendes ud. Alle spørgsmål og svar er på kinesisk. Inde i rummer er en person, f.eks. Searle, som ikke forstår et ord kinesisk og heller ikke kender de kinesiske tegn (bogstaver). Til gengæld taler og læser personen flydende (f.eks.) engelsk, og har til sin rådighed en, eller flere, bøger der rummer regler for manipulation af de kinesiske tegn, men som ikke forklare deres mening. Når et spørgsmål så kommer ind i rummet, vil (in casu) Searle slå op i regel bogen under de pågældende tegn, og ud fra de der angivende regler, sammensætte et nyt sæt af tegn som han sender ud af værelset. En sådan regel kunne lyde: hvis krussedolle står ved siden at krussedalle, så flyt krussedølle hen ved siden af krussedulle. Personerne uden for værelset har stillet et for dem meningsfuldt spørgsmål f.eks. "Kan du lide bananer", og fået et for dem meningsfuldt svar ud f.eks. "Ja jeg kan godt lide bananer". For disse personer forekommer det som om værelset forstår kinesisk, de vil måske ligefrem mene at værelset er intelligent og besidder bevidsthed. Personen inde i værelset der har leveret svaret forstår dog ingenting. For ham vil spørgsmålet "Kan du lide bananer" se ud som noget i retning af "#%¤"&%/#", altså en række meningsløse arabesker (symbolerne er for systemet ikke symboler. Et symbol er en meningsfuld enhed der repræsenterer noget andet. Da systemet ikke besidder intrinsisk intentionalitet kan symbolerne ikke fremstå som symboler, men kun som arabesker).

Tankeeksperimentets pointe er at symbolmanipulation, eller syntaks som det også, kaldes ikke automatisk medfører forståelse eller semantik. De eneste der i dette scenario forstår kinesisk er altså dem der stiller og læser spørgsmålene, og dem der har skrevet regel bogen, eller for at bruge computer terminologien har skrevet programmet. Da en computer ikke foretager sig andet end at manipulere symboler, følger heraf at computeren ikke har semantik, og da semantikken er en forudsætning for intelligens og bevidsthed i menneskelig forstand, kan computeren ikke være intelligent eller bevidst.

"Because the formal symbol manipulations by themselves don't have any intentionality: they are meningless; they aren't even symbol manipulations, since the symbols don't symbolize anything. In the jargon they have only a syntax but no semantics. Such intentionality as computers appear to have is solely in the minds of those who program them and those who use them, those who send in the input and who intrepret the output."(11)

Searle indføre her en distinktion mellem intrinsisk og ekstrinsisk intentionalitet, og i værket Intentionality en distinktion mellem intern og ekstern mening og egenskaber, der nok egner sig bedre til at illustrere forholdet.

Vi bruger et badekar som eksempel. Badekarret besidder en intern mening som er ganske uafhængig af en observatør. Det er f.eks. badekarret masse(12). Badekarret eksterne mening er det at være badekar. Det er en observatør afhængigt egenskab. Pointen er så at værelset ikke besidder intelligens, bevidsthed o.s.v. som en intern egenskab. Det er der i mod en egenskab observatøren tillægger værelset. Værelsets forståelse er ikke andet end hvad Daniel Dennett kalder "som-om" forståelse (vi vender tilbage til Dennett).

Argumentet munder ud i følgende tre antagelser:

1) Syntaks er ikke en tilstrækkelig betingelse for semantik. Formel symbolmanipulation er ikke engang en nødvendig betingelse for semantik(13).

2) Et computerprogram og digitale computere i almindelighed er essentielt karakteriseret ved syntaks.

3) Bevidstheden er essentielt karakteriseret ved semantik og intentionalitet. Disse to begreber er to sider af samme sag. Hos Husserl (groft sagt) konstituere bevidstheden genstanden, dvs. bevidstheden tilvejebringer de nødvendige (men ikke tilstrækkelige) betingelser for at genstanden kan foreligge for bevidstheden. Genstandskonstitutionen foregår ved at bevidstheden (noesis) syntetiserer sensorisk data (hyle) i overensstemmelse med visse a prioriske lovmæssigheder, således at det sensoriske data forenes som egenskaber ved samme genstand (noema). Husserl kalder under et denne analyse (som er langt mere kompliceret end ovenstående) for intentionalitetsanalysen. Uden intrinsisk intentionalitet ingen semantik (dette udelukker dog ikke at tanken/bevidstheden kan have en række formelle eller syntaktiske egenskaber).

Det er vigtigt at bemærke at værelset opfylder alle betingelser for at være en computer. Searle fungerer som CPU, manipulere symboler i overensstemmelse med et program, har adgang til input/output (postkassen) o.s.v. Hvis man vedgår 1) at værelset i en hvis forstand er en computer og 2) at værelset ikke forstår, tvinges man til 3) at vedgå at computere ikke forstår og dermed er den stærke KI undermineret. Det er derfor ikke særligt overraskende at tilhængere at stærk KI og kognitions forskere i almindelighed har rettet det tunge skyts mod Searles argument.

Kritikerne af argumentet angriber primært præmis to, værelsets forstår rent faktisk, det som Searle kalder for "system svaret", og sekundært præmis et, værelset er nok en digital computer med ikke et neuralt netværk og hermed er der mulighed for at stærk KI kan realiseres via neurale netværk.

Lad os se nærmere på et par indvendinger mod det kinesiske værelse. En indvending kunne gå på at værelset i og med det besidder sprog, det fører jo en samtale med folk udenfor, også må besidde semantik. For mig at se er det at vende Searles argument på hovedet. Sprog er ikke forudsætning for semantik. Det forholdet sig lige omvendt. Semantik er en forudsætning for sprog.

For at kunne artikulere sin erkendelse kræver det at man kan distangsere sig fra verden, dvs. sproget indebære en forholden sig til verden, og man kan kun forholde sig til noget hvis man har forståelse. Er det rimeligt at sige at et barn der kan et ord (f.eks. mor) har et sprog? Er det rimeligt at sige at et barn der kan tallene 2,3 og 13 kan tælle. Nej, begge dele forudsætter semantik. Det er derfor forkert at sige at værelset har sprog. Det forekommer kun som om det har sprog. Kritikken overser bl.a. distinktionen mellem det interne og eksterne. Et eksempel kan illustrere dette. Jeg taler ikke spansk, men en der gør, lærer mig nogle spanske sætninger uden at fortælle mig hvad de betyder. Jeg taler nu et begrænset, men flydende spansk (man kunne også antage at jeg havde en uendelig hukommelse og dermed beherskede hele det spanske sprog). Forstår jeg spansk? Nej, jeg fatter ikke et ord. Først i det øjeblik jeg begynder at forstå betydningen af ordene, kan man sige at jeg taler spansk ("har" det spanske sprog).

Den mest kendte og vedholdende indvending er "system svaret", der lyder som følger:

"They argue that it is the whole system, including the room, the basket full of symbols and the ledgers containing the programs and perhaps other items as well, taken as a totality, thats understand chinese."(14)

Argumentet synes at forudsætte en eller anden form for funktionalistisk emergens fænomen, og er uplausibelt af flere grunde. Vi vedgår at Searle ikke forstår kinesisk. Så giver vi ham et A4 ark i hånden som heller ingenting forstår, og pludselig ud af den blå luft opstår der forståelse i systemet som helhed, dvs. Searle plus A4 ark. Men hvor kommer den forståelse fra? Hvis vi vedgår at syntaks ikke er en tilstrækkelig betingelse for semantik, og at der ikke er andet end syntaks i systemets del elementer, hvordan kan semantikken så opstå? Systemet kan ikke komme fra syntaks til semantik. Den eneste måde effektivt at undslippe Searles indvending på er ved at antage at semantik er et syntaktisk immanent fænomen.

Paul Churchland og Tim Crane er eksempler på filosoffer der er tilhængere at et sådant synspunkt. Ifølge Churchland er det bare et spørgsmål om hastighed og kompleksitet. Så længe symbolmanipulationen er langsom er der ingen semantik, men når hastigheden bliver meget høj opstår semantikken. Jeg synes det er lidt svært at se hvordan hastigheden skal give anledning til at semantikken emergerer. Hvor hurtig skal CPU'en være? 300 mhz? 800 mhz? Eller og hvor komplekst, og hvorfor lige det tal? I øvrigt er det værd at bemærke at hjernen, mhz mæssigt set, arbejder meget langsomt. Den har dog ingen problemer med semantik.

Man kunne påpege at der mange andre steder findes noget i helheden som ikke er at genfinde i delene. Hvis der ligger et stykke stof, knapper og sytråd i en skuffe har ikke en skjorte, men sætter vi delene sammen har vi en skjorte. Egenskaben at være skjorte findes ikke blandt delene. Tilsvarende hvis jeg langer penge over disken i Bilka, og alle andre gør det samme alle mulige steder opstår der en nationaløkonomi. Der er umiddelbart to ting at indvende mod disse eksempler. 1) man kan betvivle om det at være skjorte er en egenskab, og om der faktisk emergerer en entitet ved navn økonomi, eller om man måske skulle antage en form for nominalisme. 2) eksemplerne falder så vidt jeg kan se ikke ind under distinktionen mellem syntaks og semantik. De er derfor ikke egentlige mod eksempler.

En tredje indvendig mod Searle er at finde hos Niels Ole Bernsen og Ib Ulbæk. Et af de aspekter ved Searle vi ikke har været inde på er hans biologiske naturalisme, det at intentionalitet, bevidsthed o.s.v. er knyttet til det biologiske fænomen hjernen. Bernsen og Ulbæk skriver:

"I stedet hævder han, at kunstigt intelligente systemer ikke kan producere mentale tilstande og intentionalitet, fordi de ikke er biologiske systemer ... Kun (funktionelt organiseret) organisk materiale såsom den menneskelige hjerne kan producere intentionalitet. Svagheden er at Searle simpelthen postulere."

Bernsen og Ulbæk har ret i at spørgsmålet om hvorvidt mentale fænomener er knyttet til organisk materiale eller kan opstå i uorganisk materiale er et empirisk spørgsmål som tiden må afgøre. Men kan Searle ikke andet end at postulere? Hvis vi betragter alle de organismer (eller entiteter, hvis man gerne vil have et mere neutralt udtryk) i verden som vi anser for at besidde en eller anden grad af bevidsthed, hvor mange af dem er så biologiske og hvor mange er ikke biologiske? Uden at have undersøgt alle organismer vil jeg hævde at de faktisk er biologiske alle sammen. Der er ikke eet eksempel på en ikke-biologisk entitet der besidder bevidsthed. Skulle hele livets evulotion være en tilfældighed? Kunne livet ligeså godt have taget sin begyndelse i en sten således at det var asfalten der var bevidst? Hvem er det egentlig der postulerer? Searle kan i det mindste henvise til utallige levende organismer. Bernsen og Ulbæk kan ikke henvise til noget som helst.

Intentionalitet

Som vi så er begrebet intentionalitet centralt for Searle, og vi så også at kun mennesker kan have intentionalitet. En effektiv måde at gendrive Searle på , og samtidig rehabilitere stærk KI, vil derfor være at angribe intentionaliteten, enten ved at hævde at maskiner også kan have intentionalitet, eller ved at hævde at intet heller ikke mennesker besidder intentionalitet, d.v.s. intentionalitet eksistere simpelthen ikke. Nogle af de filosoffer der er eksponent for det synspunkt er Daniel C. Dennett og Paul Churchland (jeg vil primært koncentrere mig om Dennett da Churchlands synspunkter er lidt outrerede).

Ifølge Dennett er intentionalitet altid "som-om" intentionalitet. Der er ikke tale om en ægte intentionalitet for det eksisterer jo ikke, men om en observatør afhængig intentionalitet. Den eneste måde vi kan afgøre om et system er intentionalt, er ved at se på adfærden, men vi kan ikke afgøre om der er rettethed "inde i hovedet" og der er derfor ingen grund til at antage at rettetheden findes. Når jeg ser et andet menneske forekommer det mig altså "som-om" hun har intentionalitet qua hendes adfærd. Churchland er endnu mere radikal. Han skriver direkte "... there simply is no such thing as intrinsic intentionality ..."(15). Searles indvending mod stærk KI falder hermed til jorden. Computeren (det kinesiske værelse) besidder kun "som-om" intentionalitet qua dens adfærd, og ikke ægte intentionalitet.

Dennett skelner mellem to typer intentionalitet (eller overbevisninger - belief) realisme og interpretationisme. Ifølge det første synspunkt er intentionaliteten et objektivt træk ved systemet (mennesket, dyret, maskinen) på samme måde som en person kan være inficeret med en virus. Det må altså være muligt at lokalisere intentionaliteten "inde i hovedet" på personen. Lokaliseringen må ske på det neuropsykologiske beskrivelsesniveau. Vi vil dermed være i stand til at afgøre hvilke overbevisninger en person har, alene ved at studere det neuropsykologiske niveau. Interpretationismen derimod mener at spørgsmålet om en person har en bestemt overbevisning er identisk med spørgsmål som "Har hun en god tøj smag", "Er hun umoralsk" o.s.v. Det er et spørgsmål om fortolkning og ikke et objektivt træk ved systemet. Som det ses udelukker de to opfattelser gensidigt hinanden. Dennett eget synspunkt som han kalder "the intentional stance" er en form for forening af de to nævnte synspunkter (i øvrigt må det bemærkes at Dennett tilsyneladende blander intentionalitet og ønsker m.m. sammen, hvilket måske skyldes at han primært bruger Brentanos intentionalitets begreb. En overbevisning er ikke intentionalitet lige så lidt som intentionalitet er en overbevisning. Intentionaliteten er der i mod et træk ved overbevisningen).

Dennett skelner mellem forskellige beskrivelsesniveauer til forudsigelse af adfærd (hvilket i og for sig er ukontroversielt) f.eks et fysisk niveau hvor beskrivelsen foregår på et atomart plan, et design niveau hvor det ved at have kendskab til systemets formål vil være muligt at forudse dets adfærd , samt et intentionalt niveau. På dette niveau går vi ud fra, at personen faktisk har overbevisninger og intentionalitet. Vi tillægger herefter systemet to egenskaber: 1) overbevisninger systemet bør have givet dets indretning og 2) overbevisninger som systemet mener er et gode for det givet dets indretning. F.eks bør en lampe ønske at have en pære i sin fatning og et gode for lampen kunne være at lyse. Vi kan altså med "the intentional strategy" som værktøj forudse lampens adfærd og ikke nok med det. Lampen besidder også ønsker og intentionalitet.

"... alle there is to being a true beliver is being a system whose behavior is relliably perdictable via the intentional strategy, and hence all there is to really and truly beliving that p (for any proposition p) is being an intentional system for which p occurs as a belief in the best (most predictive) interpretation"(16).

Vi ser altså at formålet med disse beskrivelsesniveauer er at forudse systemets adfærd, og at der ikke er mere i overbevisninger end denne forudsigelse.

Alt dette fortæller en hel del om Dennetts (og hans ligesindedes) indfaldsvinkel til filosofien. Den er gennemsyret af pragmatisme (og som sådan er han en del af en større amerikansk tradition der bunder i en hardcore scientisme. Alt hvad der eksisterer er det videnskaben fortæller os eksisterer. Derfor er det ligegyldigt om begreber som ønsker, intentionalitet o.l. har et ontologisk fundament. Dennett afviger dog lidt fra denne opfattelse idet han skelner mellem grader af eksistens). Det drejer sig ikke om hvorvidt et begreb som intentionalitet har et ontologisk korrelat, om folk "inde i hovedet" rent faktisk besidder intentionalitet. Begrebet intentionalitet primære funktion er at ordne vores erfaringer, og muliggøre at forklare systemers adfærd på et bestemt beskrivelses niveau, altså en form for instrumentalisme.

Det ville nu være relevant efter vi har fundet ud af, hvilke systemer der kan tillægges intentionalitet, at finde ud af hvilke systemer der har rigtig intentionalitet, men "... that would be a Sisyphean labor, or else would be terminatet by fiat"(17). Dennett mener tilsyneladende, at vi skal undersøge alle-mulige systemer hvilket er umuligt, og derfor kan vi ikke afgøre, hvad der har virkelig intentionalitet og hvad der har "som-om" intentionalitet. Og dog! "... there is an representation of the enviroment in - or implicit in - the organization of the system.". Og få linier senere. "... we endeavor to interpret some of its internel states or processes as internal representations"(18) Et system, f.eks en termostat har en indre repræsentation af verden via dens forbundethed med verden, men disse repræsentationer er kun en fortolkning, og systemet besidder også intentionalitet som for Dennett er "... just aboutness. Something exhibit intentionality if its competence is in some way about something else"(19). Da dette forhold gælder for alle systemer, er der ingen principiel forskel på et menneske og en termostat, men kun en faktisk. Menneskets indre repræsentation er mere kompleks end termostatens. Heraf følger:

"There is no magic moment in the transition from a simpel thermostat to a system that really has internal repræsentation of the world around it"(20).

Netop fordi der ikke er nogen principiel forskel systemer imellem er det ikke noget problem at tillægge både mennesker og computere intentionalitet, intelligens o.s.v. Dennett har hermed begrundet hvorfor han kan tillægge computere intelligens, men har har stadig ikke vist at de rent faktisk besidder intelligens, og tilmed har han indført suspekte antagelser om termostaters indre tilstande. Følgende passage hos Peter Kosso illustrere det meget godt:

"If there is some epistemic impediment such that we cannot know that nature really is as the special theory of relativity describes it, then the same impediment percludes our knowing that nature is not as described by the special theory of relativity."(21)

Dennett har ret i, at vi ikke kan slutte fra at systemet har som-om intentionalitet, til at det har ægte intentionalitet, men vi kan heller ikke slutte fra at det har som-om intentionalitet til at det ikke har ægte intentionalitet. Men det er ikke netop fordi Dennett har opgivet det ontologiske fundament at han nødes til at mene det? Hvis han som Searle opererede med er distinktion mellem syntaks og semantik eller blot indførte 1. persons synsvinklen ville det ikke være "a Sisphyan labor" idet de fleste systemer pr. definition ikke ville besidde intentionalitet. Og som Thomas Nagel siger "It is only Dennett's Procrustean conception of scientific objectivity that leads him to think otherwise"(22). Det er værd at bemærke, at Dennetts synspunkt medfører en streng objektivitet og han forsømmer da heller ikke lejligheden til at gøre opmærksom på at "the intentional strategy" er et objektivt faktum (det virker!).

Vi kan ud fra overstående diskussion lidt groft sagt opstille en række karakteristika for Dennetts synspunkt. 1) 3. person synsvinkel og kun 3. person 2) verifikationisme 3) scepticisme(23) 4) forsimplet intentionalitets opfattelse 5) manglende problematisering af begrebet repræsentation.

Ad1: Skulle være klar nok ud fra ovenstående fremstilling.

Ad2: Man kan undre sig over at Dennett systematisk undgår 1 person. Hvad skyldes det? Som Nagel påpeger skyldes det højest sandsynligt objektiviteten. Det som vi skal beskæftige os med er det der er objektivt, det der er intersubjektivt, det der kan verificeres. Dennett siger det ikke (mig bekendt) eksplicit, men det forekommer som om han i sin argumentation, får smuglet en form for verifikationisme i af bagdøren, og i den forstand hænger han stadig fast i den logiske positivisme. Helt galt går det når man slår op på side et i John Watsons "Behaviorism" hvor han definerer sit program (dækker både punkt 1 og 2):

"Behaviorism, on the other contrary, holds that the subject matter of human psykology is the behavior or activities of human being. Behaviorism claims that "consciousness" is neither a definable nor a usable concept; that it is merely another word for the "soul" of more ancient kind."

Watsons spøgelse huserer forsat i kognitions forskningens gemakker.

Ad3: Skepticisme hvad angår muligheden af at opnå kendskab andre bevidstheder. Det er med andre ord en lokal skepticisme. Dennett har hermed indført en distinktion mellem forskellige typer viden og hvor på beror denne distinktion? Her kniber det lidt med argumenterne. Og som jeg allerede har nævnt, kan man ikke udsige ret meget om verden fra en skeptisk position. Man kunne indvende at jeg blot trækker det fremmed psykiske problem frem af mølposen, og det er for så vidt rigtigt nok. Men man behøver jo ikke rende panden direkte ind i problemet, og det er hvad Dennett gør.

Ad4: Dennett mener som sagt at termostaten har en repræsentation af verden, via dens forbundethed med verden. Men hvordan kommer denne repræsentation lidt mere præcist i stand? Også her kniber det med detaljer.

Ad5: Intentionalitet er mere end bare "aboutness". Den mest detaljerede analyse af intentionalitet finde nok hos Husserl i værket "Ideen zu einer reinen Phänomenologie und phänomenologischen philosophi" fra 1913, hvor det bl.a. vises at intentionalitet er mere end et empirisk jegs rettethed mod et æbletræ. Det skal jeg ikke gå nærmere ind på her, men blot konstatere, at Dennetts intentionalitets opfattelse i bedste fald er betænkelig. Det er dog bedre end Churchland der mener at man slet ikke kan forklare intentionalitet, hvilket er direkte forkert(24).

Læseren vil måske bemærke at punkt 1-3 også kan anvendes på Turing. Grunden til at jeg ikke har opført disse punkter i Turing kapitlet, er at jeg foretrækker at bruge krudtet på en aktuel og nulevende filosof fremfor en dinosaur.

Hvilke konsekvenser har Dennetts instrumentalisme/verifikationisme/skepticisme for KI forskninger? På den ene side er den en fordel. KI forskeren behøver ikke tage stilling til alle de besværlige spørgsmål omkring intelligens, bevidsthed og intentionalitet, han behøver bare at se på adfærden. På den anden side kan KI forskeren ikke udtale sig om hvorvidt computeren virkelig besidder intelligens, da det vil være et udsagn af (regional)ontologisk art. Som Kosso skriver "The tenable skepitical position must be one of agnosticism."(25). Det forekommer som om Dennetts argumentere for en non-psykologisk KI, samtidig med at han er tilhænger af stærk KI.

Dennett hænger en stor del af sin argumentation op på adfærden, en problematik vi allerede har været inde på (og derfor vil undlade den her). Men roder sig ud i langt værre problemer, end dem der er nævnt under kritikken af behaviorismen. Lad os endnu en gang tage udgangspunkt i Searle.

Vi husker hans distinktion mellem intern og ekstern mening, samt hans distinktion mellem intrinsisk og ekstrinsisk intentionalitet. Vi bruger nu disse distinktioner på Dennetts synspunkt. Jeg (observatøren) fastslår, at computeren er intelligent. Intelligensen er ikke en del af computerens interne mening altså må den være ekstern. Den eksterne mening er observatør afhængig d.v.s. det er mig, der tillægger computeren egenskaben at være intelligent. Spørgsmålet er så hvordan jeg gør det? Det kan ikke være via den ekstrinsiske intentionalitet, da det ville kræve at en anden observatør observerede mig, og fortalte mig hvilken mening jeg tillægger computeren (og omvendt skal jeg fortælle ham hvilken mening han mener jeg tillægger computeren!). Tilbage bliver den intrinsiske intentionalitet. Det er altså via den intrinsiske intentionalitet jeg, Dennett og alle andre, kan fastslå at computeren er intelligent, og da Dennett har fastslået, at intrinsisk intentionalitet ikke eksisterer har han begået en performativ selvmodsigelse, han har negeret forudsætningen for at negere. Vi kan hermed se at det er fuldt ud muligt inden for rammerne at Searles argumentation at imødegå Dennetts kritik, og det er spørgsmålet om der overhovedet er tale om en real kritik af Searle eller om Dennett ikke skyder langt forbi målet.

Man kunne indvende at jeg i for høj grad går ind på Searles præmisser, så lad os derfor tage udgangspunkt i Dennetts præmis om at intentionalitet ikke er andet end "som-om" intentionalitet. Een ting karakterisere primært Dennetts kritik af Searle og det er at den netop er rettet mod Searle. Men skal vi følge Dennett er der ikke tale om en ægte rettethed, men kun om en "som-om" rettethed. Kritikken er ikke i streng forstand rettet mod Searle den er "som-om" rettet. I 3. person forekommer det "som-om" kritikken er rettet mod Searle. Dennett selv kender jo ikke kritikken før han har hørt hvad han selv siger, eller læst hvad han slev har skrevet. Principielt er der derfor ikke nogen forskel på om det er mig der læser en af Dennetts bøger, eller om det er Dennett selv. Vi er i den henseen ligeberettigede. Men kan Dennett overhovedet formulere sin kritik? Selve det at formulere sker vel inden for en intentional ramme, men hvis den ramme kun er "som-om" hvordan skulle man så kunne formulere noget? Hvordan skulle man kunne tænke hvis ikke tanken var rettet?

Konsekvensen af Dennetts synspunkter er at mennesket ikke er menneske i traditionel forstand, vi kan f.eks ikke tænke. Mennesket er direkte reducerbart til hjernen hvor der ikke forgår andet en arabesk manipulation. Men på den anden side løser det KI forskningens problem. Computeren skal ikke længere gøres til menneske, mennesket er allerede en computer.

Dennett opfattelse er som vi har set problematisk af flere grunde, og den må under alle omstændigheder betegnes som foreløbig, i og med han endnu har taget højde for 1. persons synsvinklen. I de her behandlede tekster, har han ikke leveret et reelt argument i mod den kinesiske værelse. Searles argumenter angående intentionalitet står stadig uanfægtet. Lad os slutte kapitlet med et citat af David Favrholdt:

"Problemet er ikke blot at forklare 'awareness'. Den, der vil reducere al tænkning og sprog til fysiske processer, eliminerer begreberne 'mening' og 'sandhed' og fratager sig derved muligheden for at hævde sandheden af sit synspunkt. Hvis tænkning blot er hjerneprocesser på linie med vandfald og tordenvejr, så har hverken tanker eller sætninger mening - så lidt som vandfald og tordenvejr har mening eller udsiger noget."(26)

Scenario begrebet

Problemet med at få computere til at håndterer dagligsprog, og alt hvad der falder herunder, f.eks. kontekst, tvetydighed og intonation, foruden indlæring af færdigheder, har kognitions forskningen søgt at løse via det såkaldte scenario begreb (eng. frame, da. evt. rammer).

Begrebet har en række erkendelsesteoretiske forudsætninger, som vi i det følgende vil se nærmere på. 1) Det må forudsættes, at erkendelsen er struktureret i overensstemmelse med den såkaldte prototypeteori. 2) Det må forudsættes, at alle sproglige og ikke-sproglige faktorer i erfaringen kan ekspliciteres, og vises, at de falder under bestemte almene regler eller processer.

Ad1: Prototypeteorien for erkendelse søger at imødegå de vanskeligheder, der er forbundet med at fastlægge de essentielle træk ved en genstand. Kendskabet til et begreb kan ikke stamme fra et kendskab til begrebets nødvendige og tilstrækkelige betingelser. I anvendelsen af dagligsproglige begreber, kan vi i langt de fleste tilfælde, ikke fastlægge begrebets essentielle træk. Menneskets kendskab til begreber og deres forgreninger, må derfor have anden oprindelse.

I følge prototypeteorien struktureres kendskabet til begreber:

"...i form af repræsentationer af prototypiske instanser, dvs. instanser af begreber som hest eller fugl, der kombinerer de mest typiske træk ved heste eller fugle."(27)

Teorien læner sig kraftigt op af Wittgensteins begreb om familielighed. Begreber er ikke monader uden vinduer, men har forgreninger og overlapper, og ligner andre begreber. En instans af et begreb, identificeres ifølge prototypeteorien, ved at instansen har familielighed med begrebets prototype. Teorien understøttes af eksperimenter der bl.a. er udført af Mervis og Rosch, og kan til dels simuleres i computer programmer af ACT* typen(28).

Hvilken erkendelsesteori forudsætter prototypeteorien? Der gives to muligheder: 1) empirisme. 2) rationalisme. Empirismen eksemplificeres smukt af John Locke. Ifølge Locke er bevidstheden en "tabula rasa". Bevidstheden er aldelse tom før den påvirkes af erfaringen. Erfaringen manifisterer sig som erkendelse, på samme måde som skrivemaskinen slår tegn på det blanke papir. D.v.s. både erkendelsens stof og form har deres oprindelse i erfaringen. Lockes efterfølger David Hume indså problemet med at etablerer, erkendelsen uden en strukturering af erfaringen. Da disse strukturer ikke kunne findes i en ikke eksisterende bevidsthed, måtte de være rent mekaniske. Det blev hos Hume til associations love, der som hægter og maller kan hæfte de enkelte indtryk sammen til en struktureret erfaring.

Overfor empirismen står rationalismen i dens forskellige afskygninger. Den nok mest prominente repræsentant for (en form for) rationalisme, er Kant. Han søgte erkendelsens mulighedsbetingelser, og fandt kategorierne, dvs. forstrukturere i den transcendentale subjektivitet, der er forudsætningen for erkendelse overhovedet. En moderne kantianer med relevans for kognitions forskningen er Noam Chomsky. Ifølge Chomsky må mennesket for at have sprog kompetence, have indkodet visse grammatiske strukturere, der opstiller rammerne for hvilke sprog der lader sig realiserer. D.v.s. sproget og erkendelsen beror ikke alene på erfaringen, men må forudsætte visse nødvendige træk ved ethvert erkendende subjekt.

Empirismen og rationalismen adskiller sig på en række områder, men for nærværende er kun en af betydning. Hvilke forhold lader sig erkende inden for rammerne af en empristisk henholdsvis rationalistisk erkendelsesteori? Empirismen er karakteriseret ved, ikke at kunne udtale sig om universelle og nødvendige forhold (jf. Humes berømte billardkugle eksempel), men kun om partikulære og kontingente forhold. Rationalismen kan derimod ikke udtale sig om kontingente og partikulære forhold, men kun om nødvendig og universelle.

Prototypeteorien er en empiristisk erkendelsesteori, da den primært koncentrerer sig om erfaringens indhold. De prototypiske instanser er repræsentationer, og ikke f.eks. medfødte ideer som hos Descartes. Verden, forstået som totaliteten af sansbare genstande, repræsenteres i bevidstheden (eller hjernen) via erfaringen (det er dog ikke helt klart, hvorvidt der er tale om en begrebs eller en begrundelses empirisme, eller en kombination). I de eksperimenter der er lavet, f.eks. ovennævnte Mervis og Rosch, undersøger man hvordan mennesket rent faktisk klassificerer begreber, men man spørger ikke til hvordan det er muligt for mennesket at klassificerer begreber. Mulighedsbetingelserne går man altså let hen over. Hvorfor vil fremgå af nedenstående.

Efter at have fastslået at prototypeteorien forudsætter en empiristisk erkendelsesteori, kan vi fastslå, hvilke forhold den kan udtale sig om. Som vi så ovenfor kan man ikke ligge empiri til grund for nødvendige forhold. Heraf følger, at prototypeteorien ikke kan udtale sig om nødvendige og universelle forhold. Teorien kan derfor ikke hævde, at den gælder med nødvendighed, ej heller at den gælder universelt. Der kunne gælde andre teorier for afrikanere og marsmænd.

En kedelig konsekvens ved empirismen som teori, er at den i følge sig selv, ikke er erkendelse. Erkendelsesteori og betingelser for erkendelse, synes at være af non-empirisk art. D.v.s. prototypeteorien kan ikke udtale sig om erkendelse. Heraf følger at prototypeteorien ikke kan være udtryk for erkendelse. Vi kan nu se, hvorfor empirismen og empriske undersøgelser, ikke undersøger mulighedsbetingelserne for erkendelse. Det er givet dens egne forudsætninger ikke muligt.

For at opstiller prototypeteorien må man forudsætte en eller anden form for rationalisme. Så længe vi antager, at programmet ikke er intelligent og bevidst, er det ikke noget problem. Mennesket besidder fornuft, intelligents o.s.v., og kan på rationalistisk grundlag, konstruerere programmer. Hvis programmet skal besidde intelligens i menneskelig forstand, skal rationalismen være en egenskab ved programmet, dvs. det må være istand til at udlede de overfor skitcerede forhold, herunder (dele af) betingelserne for dets egen erkendelse. Et eksempel på at programmet ikke besidder denne evne, er det såkaldte stoppeproblem.

Hvis man indgiver computeren en regel,der meget forenklet sagt, lyder noget i retning af: "Løs dette problem, og stop når du er færdig", vil computeren i visse tilfælde ikke stoppe. Standart eksemplet er (forholdet mellem en cirkels omkreds og diameter). er en uendelig brøk og computeren bliver aldrig færdig med at bergne den, medmindre den indser at brøken er uendelig og stopper. Sagen er den, at computeren ikke stopper, og derfor ikke har indset noget. Mennesket derimod har indset forholdende omkring.

Prototypenteorien må p.g.a. overfornævnte grunde forkastes. Og i og med den forkastes som forklaringsmodel for menneskelig erkendelse, kan den ikke bruges som grundlag for at skabe computer baseret "menneskelig" erkendelse.

Ad2: Som læseren måske har bemærket, består der en sammenhænge mellen punkt 1og 2. Hvis man skal opstille prototyper for erkendelse, handlinger, sprog m.m., må man kunne angive hvilke faktorer der hører under de forskellige typer. Dvs. at dagligsproget, begreberne og deres forgreninger, må kunne ekspliciteres. Hvis ikke mennesket er i stand til at eksplicitere reglerne, kan vi selvsagt ikke programmere dem ind i computeren. Forudsætningen for at computere kan være intelligente inden for rammerne af en klassisk kunstig intelligens, er altså at mennesket kan blotlægge sproget, og i anden omgang, vores interaktion med verden (i forbindelse med intelligente robotter o.l.). Det giver andledning til en række problemer centreret omkring begrebers kontekst og tvetydighed. Lad os betragte et eksempel.

Sproget (og her tænkes på naturlige sprog og ikke diverse kunst "sprog" som logiske sprog m.m. Sådanne sprog må uder alle omstændigheder introduceres via dagligsprogt) er i høj grad kontekst sensitive d.v.s. at det ikke er muligt at afgøre meningsindholdet af en sætning ud fra sætningen alene. Hvis jeg siger "dit gamle øg" hvad betyder det så? Hvis jeg var en græsk bjergbonde der ikke kunne få mit gamle æsel til at rokke sig ud af stedet, ville sætningen være møntet på æslet og betyde noget i retning af, "dit gamle dyr du dur ikke til noget mere". Men hvis jeg sad ved en gammel skrivemaskine, og den gik i stykker ville sætningen være møntet på skrivemaskinen, og betyde noget i retning af "dit gamle hakkebræt, jeg smider dig ud". Man kan derfor ikke afgøre hvad der menes med sætningen "dit gamle øg" uden at have kendskab til konteksten. Problemet er nu, hvordan konteksten afgrænses? Nu vil det måske nok være muligt at skrive et computerprogram der ville kunne afgøre om der, i nævnte eksempel, menes æsel eller skrivemaskine, men pointen er at vi aldrig kan vide hvad der bliver relevant for forståelsen at en sætning om lidt, og at vi (mennesket) ikke har nogen problemer med at skelne mellem flere forskellige kontekster og afgrænse dem. Tænk bare på et middagsselskab hvor man kan koncentrere sig om at spise, drikke, samtale med adskillige mennesker på en gang måske endda om forskellige emner o.m.a.. Ole Fogh Kierkeby skriver:

"Skal en situation, hvor to ægtefolk skændes i samme klasse af kontekst-typer, som en fjentlig diskussion i folketinget? Skal en voldtægtsscene rubriceres sammen med et rovmord? Skal en sadomasochistisk soveværelsesscene i samme bås som et slagsmål i en skolegård..."(29)

Hvordan afgrænser man de forskellige situationer fra hinanden? Hvad er kriteriet på skænderi i ægteskabet, og skænderi i Folketinget?

Det kunne nu indvendes, at der faktisk er konstrueret programmer, der kan udkaste nye begreber, uden menneskelig indgriben(30). At programmet er i stand til at udkaste nye begreber, løser dog ikke problemet med kontekstens afgrænsning. Begrebet vil stadig have en kontekst og tvetydighed samt forgreninger. Det er altså ikke nok at programmet kan udkaste nye begreber, det skal også kunne afgrænse dem, og så er vi tilbage i ovennævnte problematik (foruden Searles indvendinger).

Problemets kerne er det regel baserede system. Uagtet at programmer kan udkaste nye begreber, vil der stadig være visse logiske problemer ved regel baserede systemer. Fogh Kirkby igen:

"...vi må have regler i maskinen for hvornår hvilken typesituation skal affyres, og regler om disse regler. Det samme er tilfældet med registreringen af forskellen mellem en given typesituation og det forhold i virkeligheden den skal afbilde. Hvordan operatinaliseres dette forhold? Gennem regler for hvornår et forhold passer og hvornår dette ikke passer til et scenarium? Skal der ikke også være regler for disse regler?"(31)

Vi ender altså i en uendelig regres. Og det universelle metasystem der lægges op til i scenario begrebet, kan ikke gennemføres givet Gödels teoreme, der groft sagt siger at et konsistent formelt system vil indeholde uafgørbare sætninger(32). Der til kommer at computeren i enhver situation skal gennemløbe en uendelighed af mulige kontekster og frasortere den irrelevante og det ville tage uendeligt langt tid.

Som vi var inde på, synes scenario bregrebt at forudsætte en eksplicitering af den menneskelige erkendelse. Er der grund til at betvivle, at det er muligt? Det kan her være nyttigt at anvende Gilbert Ryles distinktion mellem "knowing how" og "knowing that". Jeg vil tillade mig at fordanske udtrykene og tale om "kunnen" og "viden". De fleste af os kan kører på cykel, men vi ved ikke hvordan man gør. D.v.s. vi færdes uden problemer i trafikken, og tænker sjældent over, hvad vi egentlig gør (kunnen). Hvis vi fik til opgave at eksplicitere vores færden i trafikken, ville vi derimod få prblemer (viden). Det ville reelt være den samlede færdseslov vi skulle nedskrive, foruden hvordan vi sidder, holder på cyklen, og træder i pedalerne o.s.v. Tilsvarende med alle andre forhold og situationer vi kan komme ud for. Det er med andre ord den samlede menneskelige tilværelse og vores omgang med verden der skal operationaliseres. Det ikke muligt. Martin Heidegger skriver:(33)

"Den Verweisungszusammenhang, der als Bedeutsamkeit die Weltlichkeit konstituiert, kann man formal im Sinne eines Relationssystem fassen. Nur ist zu beachten, daß dergleichen Formalisierung die Phänomene so weit nivellieren, daß der eigentliche phänomenale Gehalt verloren geht, zumal bei so "einfachen" Bezüge, wie sie die Bedeutsamkeit in sich birgt. Diese "Relationen" und "Relate" des Um-zu, des Um-willen, des Womit einer Bewandtnis widerstreben ihrem phänomenalen Gehalt nach jeder mathematischen Funktionalisierung..."

Age Jensen følger trop i "Information" d. 2-12-1998 s. 8:

"Når man helt selvfølgeligt diskuterer, om mennesket bare er et bundt neutroner[sic] eller om der egentlig er forskel på personlig bevidsthed og en computer, er det et ubevidst udtryk for foragt for vores hverdagsviden, som afspejles i vort sprog, dagligsproget. I dagligsproget er vi personer i konkrete, ikke videnskabelige kendsgerninger...Men rationelle teorier er begrænsede. De eksisterer kun i kraft af personer i konkrete situationer, der umuligt kan reduceres til noget rationelt."

Age Jensen taler ud fra en senere filosofiske udvikling end Heidegger, i det han i citatet sigter imod Zinkelnagel o.a., men det grundlæggende budskab er de enige om. Kognitions forskningen fokuserer næsten udelukkende på hjernen og logiske operationer i denne. Den fokuserer på formale strukturer m.m. Hvad der her overses, er menneskets handlende og brugende omgang med verden. Mennesket er essentielt "In-der-Welt-sein", og det er et ireducibelt faktum, der altså ikke lader sig formalisere. I hvertfald ikke uden tabet af enhver "Beduetsamkeit". Men det er netop det KI forskningen forsøger at gøre, samtidig med at den hævder at mening og forståelse o.l er bevaret. Det er for mig at se udtryk for naivitet.

Afsluttende bemærkning

Vi har set på en række argumenter for og imod klassisk kunstig intelligens. Vi har ligeledes set at argumenterne ikke er faldet ud til fordel for den klassiske kunstig intelligens.

I kapitel 1 så vi at Turing, ud fra sine præmisser og argumenter, ikke kan vide om computere er intelligente. Han må nøjes med at postulere og tro at de er intelligente. Turing testen er uegnet som argument for kunstig intelligens.

I kapitel 2 blev det vist at John Searles "Chinese Room Argument", på trods af forsøg på at gendrive det, stadig udgør et alvorligt problem for KI forskningen.

Der blev i kapitel 3 rettet en kritik af Dennets intentionalitets opfattelse. Det blev vist den er problematisk, og at Dennetts egne argumenter nøder ham til at indtage en agnostisk position, i forhold til spørgsmålet om kunstig intelligens.

Scenario begrebet blev behandlet i kapitel 4, og vi så at det er plaget af en række erkendelsesteoretiske problemer, samt lider af et suspekt syn på mennesket og den verden vi er en del af.

KI forskningens problem er at den har og må formulere sit program universelt. Der er tale om intelligens og bevidsthed som sådan. Som vi har set lader et sådan projekt sig næppe gennemfører. Tilgængæld kan KI bruges til mange konkrete ting, f.eks. til at bestemme fedt procenten på grise. Men det er jo ikke mere fantastisk end at en lommeregner, kan multiplicere to tal hurtigere end noget menneske.

Litteraturliste:

Værker:

Bernsen, Niels Ole og Ulbæk, Ib, Naturlig og kunstig intelligens - Introduktion til kognitions forskningen, Nyt Nordisk Forlag, 1992.

Dennett, Daniel C., Brainstorms - Philosophical Essays on Mind and Psychology, Penguin Books, 1997.

Dennett, Daniel C., Kinds og Minds - Towards an Understanding of Consciousness, Phoenix, 1996.

Dreyfus, Hubert, What Computers Can't do - The limits of Artificial Intelligence, Haper&Row, 1979.

Kirkeby, Ole Fogh, Kroppens tanke - Om kunstig intelligens, det umuliges kunst, Samfundsliteratur, 1988.

Penrose, Roger, Shadow of the Mind, Vintage, 1995.

Searle, John, Mind, Brains & Science, Penguin Books, 1991.

Searle, John, The Rediscovery of the Mind, MIT Press, 1995.

Artikler:

Churchland, Paul M. (ed.), (uddrag fra) A Neurocomputational Perspective, MIT Press, 1989, s. 23- 46

Dennett, Daniel C., "Intentional Systems", John Haugeland (red.), Minddesign, MIT Press, 1997.

Flanagan, Owen J., (uddrag fra) The Science of Mind, MIT Press, London, 1984, s. 174-247.

Minsky, Marvin, "A Framework for Representing Knowledge", John Haugeland (red.), Minddesign, MIT Press, 1997.

Nagel, Thomas, "Dennett: Consciousness Dissolved", Other Minds - Critical Essays 1969-1994, Oxford, Oxford University Press, 1995.

Nagel, Thomas, "Dennett: Content and Consciousness", Other Minds - Critical Essays 1969-1994, Oxford, Oxford University Press, 1995.

Nagel, Thomas, "How is it like to be a Bat", The Mind's I, Bantam Books, 1981.

Seager, William, "Verificationism, Scepticisme and Consciousness", Inquiry 36, s. 113-133.

Searle, John, "Mind, Brains & Programs", John Haugeland (red.), Minddesign, MIT Press, 1997

Turing, A.M., "Computing Machinery and intelligens", John Haugeland (red.), Minddesign, MIT Press, 1997

Baggrunds litteratur:

Bøgeskov, Jens, Falkenberg, Henrik (m.f.), Hjernen - fra neuron til bevidsthed, Nucleus, 1997.

Churchland, Paul, Matter and Consciousness, MIT Press, 1984.

Dreyfus & Dreyfus, Mind over Machine - The Power of Human Intuition and Expertise in the Era of the Computer, The Free Press, 1986.

Gade, Anders, Hjerneprocesser, Frydenlund, 1998.

Haugeland, John, Artificial Intelligence - The Very Idea, MIT Press, 1985.

Noter:

1. Eksemplet er en modificeret udgave af et eksempel i Ole Frehr, Intelligens og bevidsthed i digitale kredsløb, Filosofisk institut ved Odense Universitet, 1997, [privat kopi]

2. Paul Churchland, Matter and Consciousness, s. 23.

3. Turing har også en anden forudsætning nemlig den logiske positivisme som jeg dog ikke vil komme ind på.

4. A.M. Turing, Computing Machinery and intelligens, s. 46.

5. Op.cit. s. 47

6. Owen J. Flanagan, The Science of Mind, s. 196.

7. Grundet den intense diskussion ang. tankeeksperimentets erkendelsesteori på Odense Universitet, vil jeg understrege at eksemplet primært har et didaktisk sigte.

8. At tage tyren ved hornene er (in casu) at benægte rigtigheden at min kritik. At undslippe mellem hornene er at hævde at der findes andre muligheder ud over de af mig nævnte.

9. Traditionelt er viden en treledet struktur. Hvis S ved P forudsættes 1) S tror P 2) P er sand 3) S kan begrunde P. Hvis alle tre forudsætninger er opfyldt er der tale om en sand begrundet antagelse, hvis kun de to første forudsætninger er opfyldt er der tale om en sand antagelse.

10. Disse tre veje kaldes også Frie's trilemma, begrundelses trilemmaet eller Münchausens trilemma.

11. John Searle, Mind, Brains and Programs, s. 300-301.

12. Det er i denne forbindelse ligegyldigt at masse indenfor relativitetsteorien er en variabel størrelse. Variationen i masse en nemlig ligeledes observatør uafhængig.

13. Op.cit. s. 286.

14. John Searle, Mind, Brains and Science, s. 34.

15. Paul Churchland, A Neurocomputional Perspective, s. 44.

16. Daniel C. Dennett, True Belivers: The Intentional Strategy, s. 72.

17. Op.cit. 66.

18. Op.cit. 74.

19. Daniel Dennett, Kinds of Minds, s. 46-47.

20. Ibid.

21.Peter Kosso, Apperence and Reality, s. 102.

22. Thomas Nagel, Other Minds, s. 89.

23. William Seager, Verificationism, Scepticism and Consciousness.

24. Paul Churchland, A Neurocomputional Perspective, s. 44.

25. Peter Kosso, Apperence and Reality, s. 102.

26. David Favrholdt, Den Cartesiske fejl.

27. Bernsen, Niels Ole og Ulbæk, Ib, Naturlig og kunstig intelligens, s.64

28. Op.cit. s. 43-64.

29. Ole Fogh Kirkeby, Kroppens tanke, s. 134.

30. Paul Thagard, "The Emergence of Meaning: An Escape from Searle's Chineseroom", Behaviorism 14, 1986, s. 139-146.

31. Ole Fogh Kirkeby, Kroppens tanke, s. 138.

32. Ibid. samt Roger Penrose, Shadow of the Mind, s. 48-50 og især 64-126.

33. Martin Heidegger, "Sein und Zeit", s. 88, Max Niemeyer Verlag, 1993

erdana">12. Det er i denne forbindelse ligegyldigt at masse indenfor relativitetsteorien er en variabel størrelse. Variationen i masse en nemlig ligeledes observatør uafhængig.