Kategori: menneske og computer
Et sammendrag af FN's rapport om fattigdom og den digitale velfærdsstat
05-11-2019
Her er et kort referat om hovedsynspunkterne i rapporten "Report of the Special rapporteur on extreme poverty and human rights" 11. october 2019

FN's rapport, som er skrevet af juraprofessor Philip Alston, nævner nogle af de lande, som bruger algoritmer, og hvilket formål algoritmerne bruges til: digital ID i Kenya , South Africa, Argentina, Bangladesh, Chile, Ireland, Jamaica, Malaysia, Philippines, the United States, India. De fleste lande bruger digital ID ved udbetaling af sociale ydelser. Landene United States, New Zealand, the United Kingdom, Denmark (er det ikke afskaffet i Danmark?) bruger algoritmer mod misrøgt af børn. Holland bruger et kunstigt system til kontrol af sociale ydelser. Det samme gør Australien. Der kunne efter min mening nævnes mange flere lande.

En oversigt over de lande i EU, som bruger automat-afgørelses systemer, kan findes i "Taking Stock of Automated Decision-Making in the EU" fra AlgorithmWatch

Regeringer promoverer digitaliseringen og digitale systemer med store ord om, at det er en uundgåelig nødvendighed, og at det kan gavne samfundet og borgerne. Rapporten nævner da også, at kunstig intelligens har et enormt potentiale og kan give mange fordele, hvis den bliver brugt rigtigt. Men den nuværende brug resulterer i, at fattige bliver kontrolleret, monitoreret, overvåget. De mest sårbare og fattigste i samfundet bliver ramt, chikaneret og straffet. Det er problematisk, fordi enkeltperson bedømmes på fællestræk med en gruppe af befolkningen. De slås over én kam. AI afgørelser træffes ud fra et gennemsnit og tager ikke højde for minoritets gruppers vilkår. I det hele taget er det forkert at beslutte fx en straf eller sanktion ud fra en forudsigelse af, om en person vil begå en overtrædelse. (Algoritmer virker på den måde: ud fra statistik forudsiges personers opførsel. ) Men det er forkert. Det er et brud på menneskerettighederne. Straf skal i sagens natur først ske efter, at person har begået en strafbar handling.

Regeringer har altfor stort fokus på sociale bedragere. Problemet er overdrevet. Så mange personer er der ikke, som snyder det offentlige, så det kan retfærdiggøre, at befolkningsgrupper bliver mistænkeliggjort. Det er ude af proportion. Og det er kritisabelt, at de fleste regeringer, som indfører digitalisering og algoritmer, gør det med urealistisk begejstring og iver uden at overveje farerne, fx om automat-afgørelses systemernes regler overholder landets love og menneskerettighederne.

Rapporten anbefaler, at regeringer ikke skal være så besat af bedrageri, besparelser, sanktioner og definitioner af effektivitet, som stammer fra markeds-ideologien. Regeringer skal i stedet fokusere på, hvordan velfærdsbudgetter, også med teknologiens hjælp, kan sikre en højere levestandard for de sårbare og de dårligt stillede.

Rapporten mener, at neoliberale økonomiske ideer er blandet ind i det som præsenteres af regeringer som moderne velfærdsreformer. Det er som om algoritmerne bliver en trojansk hest: skjult accepteres den neoliberale aversion mod velfærd og mod reguleringer. I stedet for at sikre, at alle i samfundet kan leve på en anstændig måde.

Det mest katastrofale er, at regeringerne ikke i forvejen gør sig bevidst, i hvor høj grad algoritmer kan begå katastrofale fejl, så borgere uretfærdigt og uden grund fratages deres rettigheder.

I 2015 i Ontario, Canada, blev det opdaget, at deres system, SAMS, havde begået 1.132 fejl, hvor udbetaling af sociale ydelser blev standset for borgere, til et beløb af 140 millioner dollars. Og udgifterne til systemet var 290 millioner dollars. Systemet medførte, at sagsbehandlere måtte bruge kneb og omgåelse af systemet for at sikre en fair behandling af borgerne, og at det skabte væsentligt ekstra arbejde for dem. Hvad var der sparet ved brugen af SAMS? Intet.

I Australien er kraftig diskussion om deres RoboDept, som kontrollerer udbetalingen af sociale ydelser. Flere retssager har på vist, at systemet begår skæbnesvangre fejl.

Det samme i Holland med deres system, SyRi.

Også i UK er der et eksempel på det.

I 2018 i Sverige var man tvunget til at tilbagerulle et komplekst digitalt system, som blev brugt af jobcentre, fordi 15 procent af systemets afgørelser var forkerte

Det er som regeringer i deres spareiver ikke overvejer, om systemerne kan være så fejlagtige, at de må skrottes. Det er der mange eksempler på. De enorme udgifter til indkøb og drift vil kun komme techgiganterne til gode.

Regeringernes ringe omtanke kan også vise sig i, at systemer, som er taget i brug, bliver dømt grundlovsstridige. Det er sket i Polen, hvor de måtte skrotte et system, som blev brugt til at bedømme langtidsledige. ( Det samme som finder sted i Danmark) Den polske højesteret dømte systemet ulovligt og mod grundloven. ( Mon det danske system også er grundlovstridigt) I rapporten er et link til dommen, men den er på polsk, og en oversættelse af Google Translate bliver som sædvanlig det rene vrøvl, hvilket også er et eksempel på at kunstig intelligens ikke duer.

Hovedanken i FN's rapport mod brugen af digitalt system er dog, at de bryder menneskerettighederne.

Den 24. september 2019 i FN's general forsamling advarede premiereministeren for UK mod digitaliseringen: der er risiko for overvågning døgnet rundt; automat-afgørelser er ikke til at stole på; det er vanskeligt at anke komputer-genererede beslutninger; det er ikke muligt at fremføre formildende omstændigheder over for en algoritme. Ministeren konkluderede, at det digitalt autoritære samfund er på vej til at blive en realitet.

Rapporten mener, at alt er vendt på hovedet i den digitale velfærdsstat: det er ikke længere statens ansvar at tage sig af de fattige og svage. Det er dem, som skal bevise sig værdige til hjælp. Ansvaret lægges over på borgerne, som ikke opfattes som rettighedshavere, men som ansøgere: de skal bede om hjælp og overbevise staten om, at de opfylder kriterierne for hjælp.

Det er et brud på menneskerettighederne, dels retten til social beskyttelse, dels retten til et liv i værdighed. Især det sidste er i fare i den digitale velfærdsstat, hvor der ikke er plads til værdier som værdighed, den enkeltes eget valg, selvrespekt, autonomi, selvbestemmelse, privat liv.

Rapporten konkluderer, at ingen endnu helt har forstået det fulde omfang af trusler fra digitaliseringen. Vi går som viljeløse zombier ind i en dystopisk, digital fremtid.

Det indrømmes et sted i rapporten, at den i høj grad fokuserer på udlemper og det negative ved digitalisering og kunstig intelligens, men begrunder det med, at der er rigelig med fortalere, og det modsatte synspunkt er alt lidt fremført.
se alle indlæg
cookies