Vă mai amintiți filmul SF Minority Report în care Tom Cruise, ajutat de niște mutanți cu inteligență supraomenească și de tehnica ultraperformantă, prinde criminali chiar înainte ca aceștia să apuce să comită vreo crimă, pe baza predicțiilor acelor mutanți? Noa, în America această practică devine din ce în ce mai mult o realitate a zilelor noastre!

Din ce în ce mai mulți judecători, dar și reprezentanții altor instituții de impunere a legii, folosesc programe de calculator, cum ar fi COMPAS realizat de compania Northpointe, care, în baza unor algoritmi, calculează gradul de probabilitate ca un inculpat sau un fost deținut proaspăt eliberat din pușcărie să comită vreo nouă infracțiune, iar în baza acestor calcule se stabilesc și pedepsele privative de libertate sau măsurile de limitare a unor drepturi cetățenești.

Teoretic, algoritmii dau așa-numite “punctaje de risc” pe baza antecedentelor penale sau comportamentului infractorilor în relația cu autoritățile, dar tocmai din această cauză s-a constatat că algoritmii “au tendința” să-i defavorizeze din acest punct de vedere pe membrii “minorităților-problemă”, ceea ce se consideră a fi discriminare etnică sau rasială.

Inițial, aceste programe de calculator au fost creeate pentru a le fi de ajutor gardienilor și administrației penitenciarelor, care pe baza algoritmilor își puteau face o idee despre potențialul pericol pe care îl reprezenta un deținut sau altul și, astfel, puteau să prevină eventuale incidente violente.

De la prima testare a unui asemenea software a trecut un sfert de secol, iar în zilele noastre sunt folosite pe scară din ce în ce mai largă în diferite domenii de law enforcement, nu doar în penitenciare.

Dar cel mai scary aspect în toată povestea asta este faptul că programele respective de calculator sunt protejate de secrete de serviciu de către companiile private care le creează, astfel că cei pedepsiți pe baza algoritmilor nici nu primesc vreo justificare a măsurilor ce se iau împotriva lor.

Așa a pățit recent și un anume Eric Loomis din statul Wisconsin, care s-a trezit cu o pedeapsă pe care a considerat-o exagerată după un incident în care a fost implicat pe o autostradă. El s-a adresat Curții Supreme de Justiție din statul în care trăiește, dar instanța i-a respins cererea de reducere a pedepsei, motivând că judecătorul care l-a condamnat nu s-a bazat exclusiv pe algoritmii COMPAS în stabilirea sentinței. Că așa a zis judecătorul.