Kategori: politisk alvor
Kunstig intelligens har ingen hjerneceller
22-07-2019
Forskere, videnskabsmænd og producenter beskriver systemer med kunstig intelligens som 'dybe neurale netværk' og forklarer det mekanisk og til bevidstløshed med, at strukturen i systemerne er inspireret af den menneskelige hjernes opbygning, underforstået: systemet ligner menneskets hjerne og tænker næsten lige så godt eller bedre. Strukturen i computer programmerne er ligesom i hjernen, hævdes det: neuroner sidder i lag og er i forbindelse med og sender signaler til hinanden. I programmerne sidder tusinder af neuroner i tusinder lag, som derfor også kaldes dybe eller skjulte, vel med bibetydningen uudgrundelige og magiske. ( se video på youtube om hvordan neurale net virker).

Forskellene mellem hjernen og de komplekse computer programmer er dog større end lighederne. I programmerne taler neuronerne kun med laget over eller under, ikke til siden med neuroner i samme lag. I hjernen sidder hjerneceller ikke i lag og der er ingen grænser for hvilke celler de kan tale med. Computer-industriens opfattelse af hjernen er firkantet og forsimplet, måske fordi den stammer fra den tidlige hjerneforskning.

I neurale netværk består aktiviteten i neuronerne af matematik og statistik og talberegninger. Det medfører, at et digitalt program ikke kan forklare, hvorfor det er nået til sit resultat, undtagen med en opremsning af de tal, som kom ud af de matematiske formler. Mon ikke aktiviteten i hjerneceller består i alt andet end tal. I hvert fald kan et menneske argumentere for, hvorfor han nåede til en afgørelse eller mening. En anden person kan argumentere for hvorfor han har en anden mening, og de to kan sammenligne deres argumenter og måske nå til et fælles resultat. Man kan ikke diskutere med et neuralt netværk, for det kan ikke argumentere for sit resultat. Netværket påstår, at tallene viser resultatet, og det må mennesker acceptere eller forkaste i blinde.

Det er i øvrigt et under, at menneskers hjerner ikke er ens. Hvert menneske har sin egen helt unikke hjerne. Selvfølgelig er der ligheder, men hjerner er, også fysisk, forskellige. Der er flere typer af neurale netværk, men inden for én type er de ens.

Computer-netværk er forskellige fra menneskers hjerner. Der er flere forskelle end ligneder. Vi må konkludere, at disse net ikke er smarte efterligninger af hjernen, men snarere falske og grove forvrængninger. Ser vi teknisk på koden, finder vi forklaringen.

Kan der virkelig være neuroner i et computer-program? I et objektorienteret kodesprog bruger man klasser til at skabe objekter. Lavtuddannede og lavtlønnede, almindelige programmører bruger mange tanker og megen tid på at finde de rette betegnelser for objekter. Det letter dem at kode, og det hjælper andre, som senere skal rette programmet. I et system til en købmandsbutik giver det sig selv: der er kunder og varer. Udvikleren skaber en klasse og med den skaber han objekter, kunder. Men enhver uden at kende til kodesprog og uden at tænke sig om, kan klart indse, at der ikke er kunder i købmandsbutikkens computer. Der er oplysninger og data om kunder.

I netværks industrien er der højt uddannede specialister, som får direktør lønninger. Jeg ved ikke hvor lang tid de har brugt før de bestemte sig til at kalde en klasse 'Neuron' og skabe objekter med den. Men betegnelsen er ikke velvalgt. Den antyder, at disse objekter er uudgrundelige, mystiske og magiske, ligesom hjerneceller. Virkeligheden er helt anderledes. I alle disse objekter er samme simple matematiske formel. Den rette betegnelse er netop 'Formel'. Og disse formler sidder ikke i lag, men i lister, og disse lister er ikke lag. Man kan ligså godt sige, at listerne i koden er ved siden af hinanden. Men det lyder mere fint at sige, at et netværk er dybt, end at sige, at det er bredt og flad som en overdimensioneret pandekage. I øvrigt når programmet kører i computeren, er der hverken oppe eller nede eller til siden. Enhver uden kendskab til kodesprog må kunne indse, at der ikke kan være neuroner i en maskine, ligesom der ikke kan være kunder. Der rette navn for 'neurale net' er 'formel net'. Og det har intet med Formel 1 at gøre, selv om alt i computeren foregår i rasende fart.

Digitale netværk kaldes også sorte bokse. Derinde er kun tal, og de giver ingen mening for os. En bank i USA, Zestfinance, som anvender digital teknologi til at vurdere en kundes kreditværdighed, indsamler 3000 oplysninger om kunden, måske også hvilken ugedag låneansøgningen blev indgivet. Det digitale program fodres med disse data og tallene løber ned gennem de hundredetusinde formler og beregnes og udkommer resultatet: hvor stor sandsynlighed der er for at kunden vil betale lånet tilbage. Måske har netværket, da det blev oplært, set et mønster, som vi aldrig ville opdage: kunder, som afleverer deres låneansøgning om mandagen, er 0, 75% mindre kreditværdige. Når en kunde bliver vurderet, er det også ud fra dette forhold og mange andre, som vi ville synes er helt irrelevante. Vores argumentation ville være, at der måske var det mønster, som det digitale system havde fundet, men det skal ikke anvendes, da én bestemt kunde ikke skal bedømmes på 0, 75% af de andre kunders opførsel. Problemet er at én af oplysningerne som systemet får om kunden påvirker mange tusinder af fomel objekterne. Alle oplysningerne om kunden blandes sammen i systemet og påvirker på hver sin måde tallene. Alt er sort, men én ting står klart: digitale netværk tænker ikke som os. De tænker ikke. De beregner. De blander alt sammen, skidt og kanel. Det er uforståeligt selv for højtuddannede specialister, hvordan en maskine kun med matematik, i mange tilfælde kan nå til et akkurat og rigtigt resultat og at det ville hjælpe fx en bank til at undgå tab. Det er lige så uforståeligt for de samme specialister, hvorfor deres maskiner i nogle - vi ved ikke hvor mange - tilfælde kan tage helt gruelig fejl.

Nogle videnskabsmænd har undersøgt det sidste ved systemer til billedgenkendelse. Forskerne fandt ud af at netværk kunne snydes, så de begik fejl. Et netværk kunne i 90% af tilfældene genkende fotoet af en kat. Forskerne dannede et lag med et mønster af sorte prikker, usynlig for det menneskelige øje. Det lagde de ovenpå et foto af en kat. Det ændrede intet på vores opfattelse af fotoet, men netværket kunne pludselig ikke genkende katten. Den så kun mønstret af sorte prikker. Forskerne kunne konstatere, at netværket ikke havde samme måde at se på, som vi har. Det brugte helt andre punkter i billedet til at genkende en genstand end vi gør.

Andre videnskabsmænd arbejdede videre på denne opdagelse og fandt ud af, at der på en elefant i et foto er en 'tekstur' dvs et særligt mønster af bittesmå sorte prikker, som vi ikke kan se. Det samme gælder for en kat i et foto. Forskerne byttede nu om på teksturen på de to: katten fik elefantens tekstur. Nu sagde netværket at et foto af en kat, var fotoet af en elefant. Det må vise, at digitalt systemer tænker helt anderledes end os.

Nogle eksperter har prøvet at klippe et foto fx af en kat i hundrede stykker og placere dem helt tilfældigt. Netværket kunne straks sige, at det var en kat. Disse eksperter var selvfølgelig meget begejstret og mente at det digitale system er 100% dygtigere end os. Men det kan vel vendes om: et netværk er 100% forskellig fra os. Kritikere af kunstig intelligens forklarer, at et computer-program ser stykvis. Er der en baby på et billede, ser programmet en baby-tå, en babys pupil, en baby mave osv. Spurgte man programmet, hvor babyen er i billedet, på moderens skød eller i vuggen, får vi intet svar.

Digitale netværk er sorte bokse og vi forstår ikke, hvordan de kan nå til fantastisk nøjagtige resultater eller afgørelser. Men det kan vel også vendes om: hvis vi ikke forstår disse netværk, forstår de heller ikke os og skal ikke bruges i personfølsomme forhold, i retsvæsen, i socialvæsen, bankvæsen osv.

Der er grund til at være imponeret over kunstig teknologi, men den er meget farlig, for når den tager fejl, er det helt uforståelige og katastrofale fejl. Et program fra IBM til kræftbehandling foreslog medicin til en patient som ville slå patienten ihjel. Et program, som skulle anbefale hvilke patienter som straks skulle indlægges, mente ikke, at det var nødvendigt med astma patienter, og for dem er i virkeligheden allermest nødvendigt. Man kan sige, at det er enkeltstående fejl. Men det ved vi ikke.

se alle indlæg
cookies