Nieudane przewidywanie popełniania przestępstw. System nękał ludzi
Filmowe patenty przeniesione do świata rzeczywistego mogą mijać się z fikcyjną skutecznością. Koncept przewidywania przestępstw znany m.in. z “Raportu Mniejszości” został wcielony w życie, ale nie zdał egzaminu.
Nastolatek w przeszłości ukradł rower elektryczny, przez co był pod nadzorem kuratora. Algorytm ulokował nieletniego w pierwszej piątce osób, które mogą popełnić kolejne przestępstwa w hrabstwie. Sztuczna inteligencja była tak upierdliwa, że regularnie wysyłała patrol do jego domu.
Półroczne dziennikarskie śledztwo opublikowane w “Tampa Bay Times” pokazuje, że to tylko jeden z wielu przypadków, w których cyfrowa wyrocznia popełniła błąd. Okazuje się, że system nie zmniejszył liczby przestępstw. Sprawił za to, że 21 rodzin w hrabstwie było regularnie nękanych przez policję, bo algorytm uznał ich członków za potencjalne niebezpieczeństwo.
Sprawdź: “Robocop” nadchodzi. Powstał inteligentny hełm policyjny
Sprawdź: “Robocop” nadchodzi. Powstał inteligentny hełm policyjny
Co ciekawe, im częściej siły porządkowe składały wizytę u danej osoby, tym według algorytmu wrastała szansa na popełnienie przez nią przestępstwa. Wszystko przez to, że policjanci aresztowali odwiedzanych pod każdym możliwym pretekstem, a informacja o tym trafiała do systemu.
Biuro Szeryfa w hrabstwie Pasco odniosło się do dziennikarskiego dochodzenia. W oficjalnym oświadczeniu wyjaśniono, że praktyka zwana predyktywnymi działaniami policyjnymi to normalne działanie służb porządkowych. Ale czego można oczekiwać od szeryfa. W końcu algorytm w filmie też dał plamę.
