Kategori: politisk alvor
Kunstig intelligens er som et mærkeligt højhus med mærkelige beboere.
30-05-2019
Systemer med kunstig intelligens kan have forskellig arkitektur. Der kan være få eller mange lag, og de matematiske eller statistiske formler kan variere. Ligesom højhuse kan have få eller mange etager, og i nogle højhuse er der kun velhavere, i andre kun mindrebemidlede.

Et kunstigt system ligner et højhus med etager fyldt med mærkelige beboere. De er kun matematikere eller statistikere. På hver etage sidder de i én lang række tæt ved siden af hinanden, men de taler ikke med hinanden. De taler kun med dem på etagen ovenover eller nedenunder. Øverst i huset kommer der tal ind. Det kan være et foto som skal behandles i et system med ansigtsgenkendelse. Fotoet skal være digitalt. Hvis input er et papirfoto, skal der tages et billede af det med et digitalt camera. Digitale billeder er i virkeligheden kun tal, pixels, små prikker eller punkter, hver med sit tal.

Det gælder alt, hvad algoritmer arbejder med, at det skal være tal. Hvis et program skal bedømme om hvilke ledige, som er i fare for at blive langtidsledige, skal alt om dem digitaliseres, dvs omsættes til tal.

Øverst i højhuset kommer der tal ind. I øverste etage sidder små matematikere, som kun har én formel i hoved. De kan ikke andet end bruge denne formel. De tal som kommer ind, bliver sat ind i formlen og beregnes til et resultat, som sendes videre til matematikerne på etagen nedenunder. De har den samme formel i hovedet. Måske er der vedhæftet en besked til modtageren; én får at vide:" Din beregning er meget vigtig", andre får beskedden:" Vi regner ikke helt med, hvad du siger." Modtagerne sætter input tallet ind i deres formel og beregner og sender resultatet til etagen nedenunder.

Sådan løber tal i et stort virvar ned gennem etagerne og gennem beboerne, og nederst ved hoveddøren kommer der nogle tal ud af brevsprækken. De mennesker, som står ved døren, oversætter tallene, så de kan forstås af mennesker. Hvis det var et foto, som kom ind, bliver tallene, som kommer ud oversat til et foto, som vi kan se.

Var det et foto af Lars Løkke, som kom ind, og systemet skulle finde ud af, hvad fotoet forestiller, ville tallene løbe ned gennem etagerne og i stueetagen ville beboerne ikke straks sende tallene ud af brevsprækken. De ville først gå ned i kælderen, i databasen. Kælderen består af mange skabe med skuffer, og i hver skuffe ligger nogle tal (eller et foto). Alt ligger i den pinligste orden i kælderen for at gøre det lettere at finde det man søger efter. Når der kommer nogle tal ned i kælderen, løber kældermesteren rundt og leder efter en skuffe, hvor der er de samme tal. Han finder hurtigt skuffen og stolt sender han besked op:" Jeg fandt tallene i skuffen med dette navn." Læg i øvrigt mærke til, at navnet også er tal. Det er disse tal, som smides ud gennem brevsprækken.

Menneskene som står spændt uden for døren, tager straks tallene og oversætter dem, så vi kan forstå dem. I dette tilfælde siger tallene:" Pia Kærsgård." Det var ikke godt. Det var helt forkert, siger menneskene. Vi ved, at vi puttede et foto af Lars Løkke ind, og nu siger systemet, at det er Pia Kærsgård. Menneskene råber ind ad brevsprækken:" Lav om på jeres tal. Vi sender de tal ind, som er rigtige og som viser Lars Løkke. "

Eller de sender snarere ind, hvor meget systemet tog fejl, forskellen mellem de rigtige tal og systemets forkerte tal.

I stueetagen ændrer matematikerne lidt på deres beregning og sender besked opad. De siger også:" Før antog I, at nogle beboere var mere vigtige end andre. Det må I ændre på og vælge nogle andre, som I lægger vægt på."

Menneskene prøver igen at putte Lars Løkke ind foroven. Efter en brøkdel af et sekund kommer svaret ud gennem brevsprækken. Svaret er iøvrigt altid formuleret i procent. Menneskene læser ivrigt, hvad der står:" Der er 10% chance for at inputtet er Pia Kærsgård, og der er 70% chance for, at det er Kristian Jensen." Menneskene er ikke helt tilfredse, men siger dog:" Nu går vi i den rigtige retning. Han er mand lige som Lars Løkke, og de mener måske det samme. Helt forskellige er de ikke."

Menneskene råber ind ad brevsprækken:" Nu skal I lave ganske lidt om." Sådan bliver menneskene ved med at bedømme systemets svar og ændre på beregningerne inde i systemet. Og endelig når de frem, at systemet siger:" Der er 5% chance for at det er Pia Kærsgård og der er 40% chance for, at det er Kristian Jensen, og der er 80% chance for, at det er Lars Løkke."

Nu udsender menneskene en pressemeddelelse:" Vores system virker. Det genkender et foto af Lars Løkke."

( Youtube video om hvordan neurale net virker).

Som det fremgår af sammenligningen tænker et digitalt system helt anderledes end mennesker. En ekspert i kunstig intelligens bruger et eksempel fra bankvæsenet. En kunde spørger:" Hvorfor fik jeg afslag på et lån?" Banken, som bruger kunstig intelligens til at vurdere kreditværdighed, siger:" Ok, vi spørger vores AI." Svaret er en utrolig lang statistisk analyse. De siger ikke:" Det er fordi du bor på Lolland. " Nej, intet af det ville give nogen mening. Banken siger:" Vi har målt dig på 2.517 punkter og nogle blev vægtet højere end andre. "

Citater fra "Will Artificial Intelligence Enhance or Hack Humanity?" i Wired.


Granted, we're dealing with neural networks these days that have millions of nodes and billions of connections. So explainability is actually tough. Presumably, the AI makes decisions in a radically different way than humans, then even if the AI explains its logic, the fear is it will make absolutely no sense to most humans.

And the bank says okay, we will ask our AI. And the AI gives this extremely long statistical analysis based not on one or two salient feature of my life, but on 2,517 different data points, which it took into account and gave different weights. And most of the data points to a human would seem completely irrelevant.


De, som taler begejstret om kunstig intelligens, siger, at disse systemer ligner vores hjerne og har neuroner ligesom vores hjerne. Jeg mener modsat, at AI ligner et mærkeligt højhus med mærkelige beboere, som ikke tænker.

Læs også Digitale systemer er imponerende dumme. og Kan kunstig intelligens være medmenneskelig?

se alle indlæg
cookies