Masę ludzi niesłusznie oskarżyli o oszustwa. Winny był algorytm

Nawet 200 000 gospodarstw domowych w Wielkiej Brytanii padło ofiarą niesłusznych oskarżeń o próbę wyłudzenia zasiłku mieszkaniowego. Zamieszanie spowodował błędny algorytm, który miał wyłapywać potencjalnych oszustów.

Błędny algorytm

Departament ds. Pracy i Emerytur (DWP) uruchomił setki tysięcy postępowań przeciwko rodzinom, podejrzewając je o próbę wyłudzenia zasiłku mieszkaniowego. Okazało się, że w ostatnich trzech latach aż dwie trzecie tych postępowań, czyli około 200 000, było bezpodstawnych. Powodem była awaria algorytmu, który miał wskazywać gospodarstwa domowe do weryfikacji.

Algorytm analizujący wnioski o zasiłek mieszkaniowy bierze pod uwagę kilka czynników:  wiek, płeć, liczbę dzieci i rodzaj umowy najmu. Jeśli system uzna wniosek za potencjalnie błędny lub sfałszowany, urzędnicy muszą przeprowadzić dodatkową weryfikację. Wymaga to kontaktu z wnioskodawcami w celu uzyskania od nich dowodów, co często bywa kłopotliwe i czasochłonne.

Technologia na bakier z prawami człowieka

Organizacja Big Brother Watch, analizująca dane na podstawie ustawy o dostępie do informacji publicznej, skrytykowała nadmierne poleganie DWP na nowych technologiach. Podkreślono, że algorytmy często marginalizują osoby już znajdujące się w trudnej sytuacji finansowej. Jak zauważono, technologia, zamiast pomagać, często staje się przeszkodą dla tych, którzy najbardziej jej potrzebują.

Kosztowne błędy

Błędnie działający algorytm spowodował, że tysiące brytyjskich gospodarstw domowych musiało przejść niepotrzebne weryfikacje. System oznaczył ich wnioski o zasiłek mieszkaniowy jako obarczone wysokim ryzykiem oszustwa. Koszty związane z ponowną oceną tych wniosków wyniosły aż 4,4 mln funtów.

Organizacja charytatywna Turn2us, która wspiera osoby korzystające ze świadczeń socjalnych, wzywa rząd do bliższej współpracy z użytkownikami systemu. W obliczu takich błędów automatyzacja powinna działać na korzyść ludzi, a nie przeciwko nim. Turn2us uważa, że rząd powinien zadbać o to, by technologie były bardziej przyjazne dla osób korzystających z pomocy społecznej, a nie stawiały przed nimi kolejną przeszkodę.