Hva datamaskiner fremdeles ikke kan gjøre

Fredag 29. oktober har Lars Nyre og Bjørnar Tessem en helsides artikkel med tittelen «Kva datamaskiner kan gjere». Tittelen går direkte på en bok som kom ut i 1972 med tittelen What Computers Can’t Do, skrevet av filosofen Hubert Dreyfus. Hovedargumentet i boken er at datamaskiner, som ikke har noen kropp, ingen barndom og ikke er del av en kultur, aldri kan få menneskelignende intelligens.

I motsetning til datidens forskere på kunstig intelligens, som hevdet at Dreyfus ikke hadde greie på det han skrev om, hevder Nyre og Tessem at Dreyfus satte fingeren på viktige punkter, og at boken kan leses som en oppskrift på hva forskere innen området burde jobbe med. Men forskerne tok utfordringen, og det som ifølge Dreyfus var eksempler på hva datamaskiner ikke kan gjøre, er i dag i det store og hele inkludert i det datamaskiner kan gjøre. I så måte var Dreyfus’ kritikk fruktbar, selv om sluttresultatet altså viste at han tok feil.

Det er på sin plass med noen utfyllende kommentarer til denne fremstillingen. Hubert Dreyfus skrev sammen med sin yngre bror Stuart, som var professor i informatikk, noen år senere boken Mind over Machine (1986). De innleder med å hevde at vårt forhold til teknologi alltid har blitt komplisert av ønsketenkning, og fortsetter med å fortelle historien bak What Computers Can’t Do. Et av de viktige stedene for forskning på kunstig intelligens på 1950- og 60-tallet var Rand Corporation. Stuart Dreyfus var ansatt her, og i 1964 engasjerte de Hubert Dreyfus som konsulent. Året etter hadde han ferdigstilt en kritisk rapport med tittelen «Alchemy and Artificial Intelligence». Men lederne av prosjektet hevdet at rapporten var nonsens og ikke skulle publiseres. Den ble imidlertid publisert året etter, og ble den mest etterspurte rapporten i Rand Corporations historie. Den dannet grunnlaget for What Computers Can’t Do.

Hubert Dreyfus betraktet denne episoden som et eksempel på den uvitenskapelige holdningen som preget forskningsfeltet, hvor man nesten aldri innrømmet problemer og var lite mottakelig for kritikk. Jeg tror denne karakteristikken har noe for seg også i dag, og skyldes delvis en grunnleggende teknologisk fremskrittsoptimisme og delvis en tett kobling mellom forskning, teknologiutvikling og markedsføring.

Nyre og Tessem nevner noen av de nyvinningene som førte til at de problemene Dreyfus pekte på, angivelig er overvunnet. Det viktigste er innføringen av nevrale nettverk. De må ikke programmeres eksplisitt, men kan trenes opp gjennom eksempler. Nyre og Tessem påpeker at vi ikke alltid vet hvordan de er i stand til dette. Men de føyer til at det virker. De burde ha tilføyd at i mange tilfeller virker det ikke. Et berømt eksempel er systemet som var trent til å skille mellom fotografier av ulver og huskyer. Det var i stand til å skille korrekt i hele 90 prosent av tilfellene. Men så oppdaget man at på de fleste fotografiene av ulver var det snø, og det var denne som ble gjenkjent. De hadde altså laget en «snødetektor».

En av informasjonsteknologiens pionerer, Alan Turing, foreslo i sin tid en test som skulle kunne avgjøre om en datamaskin har menneskelignende intelligens. Testen er kjent som Turing-testen.

Det har i en årrekke vært en årlig konkurranse mellom datamaskiner (Loebner-prisen), der gullmedaljen skal gå til den maskinen som passerer Turing-testen. Men det har til nå ikke skjedd. Det oppsiktsvekkende er imidlertid at man har gitt opp dette målet, med den begrunnelse at det var helt urealistisk.

Forklaringen er at datamaskiner ikke forstår noe som helst. Som Hubert Dreyfus’ kollega i Berkeley, John Searle, påpekte, er datamaskiner syntaktiske maskiner. Derfor vil de heller ikke oppnå menneskelignende intelligens. Hubert Dreyfus’ argument mot kunstig intelligens er derfor fremdeles gyldig. Nyres og Tessems artikkel er et eksempel på at det fremdeles er ønsketenkning knyttet til teknologi.