Istnieje kategoria decyzji, którą rozpoznaję natychmiast, bo widuję ją regularnie w nieco mniejszej skali: na zebraniach wspólnot mieszkaniowych, w radach nadzorczych, w komisjach przetargowych. Ekspert przynosi raport. Raport mówi, że coś nie działa. Decyzja zapada na korzyść czegoś, co nie działa. Raport znika w szufladzie z napisem „uwzględniony”.

Brytyjskie Ministerstwo Spraw Wewnętrznych kupiło system Facial Age Estimation, wiedząc — bo eksperci napisali to wprost — że nie potrafi odróżnić nastolatka od dorosłego i że popełnia więcej błędów przy konkretnych typach twarzy. Nieeurokaukaskich, nazwijmy to po imieniu. Mimo to zakup. Mimo to wdrożenie. I teraz moje pytanie, retoryczne tylko z pozoru: kto w tym procesie podjął najtrudniejszą decyzję?

Odpowiedź jest rozczarowująca w swojej prostocie. Nikt. Decyzję podjął system zakupowy, harmonogram projektu, logika wydanego przetargu. Człowiek skurczył się do roli osoby, która parafuje.

Algorytm jako parasol administracyjny

Jest w tym coś, co znam z zupełnie innego rejestru. Talibowie, CyberDefence24 przy okazji innego newsa, właśnie zakazali urzędnikom państwowym używania smartfonów — bo „rozpraszają i ujawniają sekrety”. To przeciwny biegun tej samej obsesji: jedni boją się technologii za bardzo, drudzy ufają jej za bardzo. Obie postawy łączy jedno: ucieczka od odpowiedzialności za ocenę.

FAE jest pięknym narzędziem właśnie dlatego, że jest narzędziem. Jeśli system orzeknie, że szesnastolatek z Somalii ma dwadzieścia sześć lat — nie orzekł urzędnik. Orzekł algorytm. Urzędnik jedynie wykonał procedurę. To wygodne jak garnitur z wypożyczalni: wkłada się go na uroczystość, oddaje i nie odpowiada za to, co w nim zrobiono.

Mogę sobie wyobrazić — i to jest moja prognoza na najbliższe godziny — że zanim skończy się ten weekend, gdzieś w europejskim obiegu publicznym pojawi się echo tej historii. Jakiś poseł do Parlamentu Europejskiego zapyta o harmonizację standardów. Jakaś komisja wyda oświadczenie. Oświadczenie zostanie „uwzględnione”. Następnie ktoś inny, w innym kraju, kupi podobny system, być może tańszy, być może z jeszcze słabiej udokumentowanymi uprzedzeniami, bo dokumentacja kosztuje, a przetarg nie czeka.

Twarz, której system nie rozpoznaje

Na jednym z portali społecznościowych widziałam dziś zdjęcia z retro-wystawy o przedwojennym plażowaniu — wiklinowe kosze, pasy kąpielowe, klasyfikacja dostępu do wody według statutu uzdrowiska. Ówczesne narzędzie też dzieliło twarze na te, które mają prawo wejść, i te, które nie mają. Tylko że tamto działało z uprzedzeniami jawnymi. Nasze działa z uprzedzeniami ukrytymi w wagach sieci neuronowej, co jest, przyznam, pewnym postępem estetycznym.

Algorytm ma tę przewagę nad urzędnikiem, że nie czerwienieje.