Kategori: menneske og computer
Citater og kommentarer til EU kommissionens hvidbog om kunstig intelligens.
24-02-2020
Jeg indrømmer, at jeg i det følgende fremhæver de negative sider ved AI. Men hvis FN's rapportør, Philip Alston, i sin rapport om fattigdom og de digitale velfærdsstater kan gøre det, må jeg i al ydmyghed også have lov til det. Han argumenterer med, at der er rigelig med folk, som taler om det positive ved AI.

De første 10 sider i EU's hvidbog er en salgstale for AI med alle de smarte ord, som techgiganterne bruger i deres promovering af deres produkter, eller snarere prototyper, som er testet i laboratoriet og endnu har vist deres nytte i den virkelige verden.

Nogle steder i hvidbogen viser, at forfatterne har den nyeste viden om AI, men hvorfor bruges intet sted i hvidbogen ordet 'hype' , dvs. at meget af det, som techgiganterne siger, er overdrevet og urealistisk og kun har til formål at tiltrække investeringer og at få virksomheder og stater til at købe og eksperimentere med den nye teknologi.
Artificial Intelligence is developing fast. It will change our lives by improving healthcare (e.g. making
diagnosis more precise, enabling better prevention of diseases), increasing the efficiency of farming,
contributing to climate change mitigation and adaptation, improving the efficiency of production
systems through predictive maintenance, increasing the security of Europeans, and in many other ways
that we can only begin to imagine.
De første linier i hvidbogen er kendetegnende for de første ti sider. "Kunstig intelligens er i voldsom udvikling." Det er rigtigt, at det er imponerende, hvad kunstig intelligens har opnået inden for spil, fx skak og Go og video games, men vi hører sjældent om AI produkter, som har vist deres nytte i den virkelige verden, i sundhedsvæsenet, socialvæsenet eller retsvæsenet. Kunstige programmer bruges i vidtstrakt omfang i virksomheder ved ansættelse af nye medarbejdere, men ingen virksomhed har undersøgt, hvor god AI er, dvs. hvor mange dygtige og værdifulde ansøgere, som AI fravælger Men Amazon måtte opgive et system, som de havde brugt mange penge og tid på at udvikle. Systemet viste sig ikke at fungere. "Kunstig intelligens er i voldsom udvikling." Når vi ser de få eksempler af implementeringer af kunstig teknologi i den virkelige verden, tegner der sig snarere et billede af voldsom fiasko.

Det er klart at både techgiganterne og mærkeligt nok også de fleste medier er optaget af at promovere AI og prise AI. På den baggrund er det tankevækkende, at der næsten ikke er artikler, som fortæller om, at AI duer i den virkelige verden, og aldrig at brugere fortæller om den store forskel og nytte, som techgiganterne påstår der er.

"Kunstig intelligens er i voldsom udvikling." Den første sætning i hvidbogen er voldsomt overdrevet og usand. Næste sætning er ikke bedre. AI vil ændre og forbedre vores liv på en lang række områder inden for sundhed, landbrug, klima forandringer, effektivitet i industrien, forøgelse af europæernes sikkerhed og på mange andre områder, som vi slet ikke kan forestille os. Det er tankevækkende, at der ikke står 'AI har ændret og har forbedret'. Der er tale om en fremtidsdrøm, som hvidbogen selv indrømmer vi intet ved om: vi kan ikke forestille os, hvordan AI vil påvirke os.

Der er kritiske forskere og eksperter, som forestiller sig, at AI ikke vil forbedre vores liv, men snarere - når AI bruges på mennesker - vil cementere uligheden i vores samfund og krænke alle menneskerettigheder.

Om sundhed: et system i USA viste sig at være voldsomt diskriminerende.

Landbrug: mon det bliver rige landmænd, som har råd til den nye teknologi, og jeg har ikke hørt landmænd, som der vel må nogle (få) af, som nu bruger kunstig teknologi og som beskriver lykken ved deres nye værktøjer.

Klima forandringer: AI har endnu ikke vist, at den kan foreslå nye veje til løsning af disse problemer, tværtimod - som hvidbogen senere påpeger - er der et klima problem ved AI selv, som bruger enorme og voldsomme mængder energi.

Effektivitet i industrien: det kan måske blive virkelighed, fx med robotter, selv om det er et spørgsmål hvor meget AI der er i dem.

Forøgelse af europæernes sikkerhed: det kan jeg ikke forestille mig. Mon ikke der her må være tale om Hækkerup Rasmus Montanus logik.

Hvis vi - som hvidbogen skriver - slet ikke kan forestille, hvor mange forbedringer AI vil bringe, må det modsatte vel også gælde: vi kan slet ikke forestille os, hvor stor skade AI kan udrette. Hvidbogen indrømmer, at der også er mulige risici, fordi ingen kan gennemskue, hvordan et kunstigt system når til en afgørelse, eller fordi det har vist sig på mange områder, både inden for sundhedsvæsenet og retsvæsenet, at kunstige programmer kan være voldsomt diskriminerende. Klart er det også at kunstig teknologi krænker vores privatliv.
As digital technology becomes an ever more central part of every aspect of people’s lives, people should be able to trust it.
Trustworthiness is also a prerequisite for its uptake.
Flere steder i hvidbogen betones nødvendigheden af, at europæerne skal være i stand til at have tillid til AI. Det er forudsætningen for at AI overhovedet kan bruges. Ironisk, at hvidbogens smarte usandheder ikke er befordrende for tillid. Formuleringen - at folk skal 'be able to trust' er uklar. Ønsker EU kommissionen at ændre europæernes holdning eller vil kommissionen ændre AI, så den bliver tillidsvækkende og troværdig. Det er den ikke nu, når den træffer afgørelser om mennesker. Over hele verden er der retssager og domme mod AI. Senest en dom i Holland, hvor et kunstigt system i det offentlige forbydes, fordi det krænker menneskerettighederne


It is essential that public administrations, hospitals, utility and transport services, financial supervisors, and other areas of public interest rapidly begin to deploy products and services that rely on AI in their activities.
( s. 9)
Hvidbogens anbefaling er uansvarlig, når den foreslår, at den nye teknologi så hurtigt som muligt skal anvendes i offentlig administration, hospitaler og andre områder af offentlig interesse. Det er uansvarligt eksperiment, som kun kan gå galt.

Et udsagn skal være ærligt, hvis det vil vække tillid hos modtageren. Desværre virker hvidbogen ikke ærlig, sober og afbalanceret. Det, som fremføres, er snarere progaganda. Hvidbogen er farvet af et alt for positivt syn på kunstig teknologi.

Det er tilgiveligt, at hvidbogen ikke henviser til den hollandske dom, som blev afsagt få dage får hvidbogen udkom. Det er uforståeligt, at hvidbogen ikke omtaler FN's rapport om fattigdom og de digitale velfærdsstater. Det er kritisabelt, at hvidbogen ikke nævner European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment adopted by the CEPEJ during its 31st Plenary meeting st (Strasbourg, 3-4 December 2018). Dette charter, som er vedtaget af Europa Parlamentet, beskriver mange risici ved kunstig teknologi i retsvæsenet.

(Indlægget her er en første kladde og der vil følge mere om rapportens sider 10-27)

Foreløbig nogle citater.

Der er et utal af artikler om AI bl.a. i sundhedsvæsenet, men meget få et bedømt af fagkolleger eller testet uden for laboratoriet. Teknologien er langtfra moden. Hvorfor vil EU kaste os hovedkuls ud i at bruge AI alle steder? Skal vi være forsøgsdyr?

EU kommissionen:

It is essential that public administrations, hospitals, utility and transport services, financial supervisors, and other areas of public interest rapidly begin to deploy products and services that rely on AI in their activities. A specific focus will be in the areas of healthcare and transport where technology is mature for large-scale deployment .

Fra artiklen *Key challenges for delivering clinical impact with artificial intelligence:(- https://bmcmedicine.biomedcentral.com/track/pdf/10.1186/s12916-019-1426-2 -)

Artificial intelligence (AI) research in healthcare is accelerating rapidly, with potential applications being demonstrated across various domains of medicine. However, there are currently limited examples of such techniques being successfully deployed into clinical practice. This article explores the main challenges and limitations of AI in healthcare, and considers the steps required to translate these potentially transformative technologies from research to clinical practice.



se alle indlæg
cookies