Wczoraj tysiącom ludzi zrzuciło na Fejsie wpisy pod pretekstem „szerzenia mowy nienawiści”. Jak się okazało potem, była to jakaś awaria automatu. Bot zabrał, bot oddał.
Wyłaniają się tu dwa problemy. Jeden, to ośmieszanie przez libkowe korpo kwestii mowy nienawiści. Dla postronnego obserwatora, który po raz kolejny dostaje informacje, że taki czy inny jego post narusza „mowę nienawiści”, to sformułowanie zaczyna kojarzyć się wyłącznie z absurdalną represją, opartą na niejasnych kryteriach i jak się okazuje często wadliwie wdrażanych. To w naturalny sposób daje frakcji konserwatywnej wspaniałe narzędzia do krytyki. Ponieważ odwołuje się ona do realnych doświadczeń ludzi zmagających się z automatyczną „sztuczną biurokracją”, bo raczej inteligencją tego nazwać nie można.
Biurokratyzm i proceduralizm to jest coś, co uwielbiają amerykańscy liberałowie. W jednej ze spraw zamordowania przez policjanta osoby na tle rasistowskim rządzący lokalnie liberałowie tłumaczyli się, że „przecież procedury zostały zachowane”, a „policjant przeszedł wcześniej szkolenie antydyskryminacyjne”. W papierach wszystko się zgadza, ktoś kasę za szkolenie wziął, ktoś podpisał, że szkolenie przyjął, więc o co wam chodzi?
Czysta fasadowość podchodzenia do skomplikowanych problemów, sprowadzanie ich do biurokratyczno-technicznych decyzji, które działają głównie na podstawie algorytmów. I wszystko jedno czy według algorytmu, często wadliwego, działa biurokrata sztuczny, czy „naturalny”. W takim świecie człowiek i tak zamienia się w bota, więc zastąpienie go kodem to już mało znacząca kosmetyczna niemal zmiana.
I tutaj przechodzimy do kolejnego problemu, jaką jest miłość współczesnego kapitalizmu do wszelkiego rodzaju proceduralizmu, algorytmizacji i parametryzacji wszystkiego. Wykorzystanie tutaj tak zwanej AI to całkiem naturalny krok w tym procesie. Już teraz nie zawsze wiadomo, czy chcąc załatwić problem rozmawia się przez telefon albo czata z żywą osobą, czy tzw. „AI”. Różnica często jest znikoma. Żeby trochę nadać temu ludzkiej formy do tej pory lubiłem sobie pożartować z tzw. „konsultantem”, powiedzieć coś miłego, trochę go podnieść na duchu po całym dniu roboty na słuchawce, czy przy klawiaturze, ponarzekać na płace, itd. Dzisiaj nawet to pewnie jest już zalgorytmizowane i „czat AI” jest przeszkolony do udawania żywej osoby w tym wymiarze i potrafi nawet westchnąć, kiedy mówię o niskich zarobkach konsultantów.
Ale nad wszystkim czuwa procedura. Często nie wiadomo dlaczego jakaś decyzja została podjęta i jak skontaktować się z kimś, kto może wyjaśnić coś, co poza procedury wykracza. Zwłaszcza jeśli ktoś pisze, czy tworzy rzeczy wykraczające poza ścisłe „normy” korpo-libko-konserwatywnego świata. A przecież te modele, te „czaty AI”, są tworzone zgodnie z obowiązującym w głowach twórców algorytmów światopoglądem. Złudzeniem jest twierdzenie, że algorytmy są „poza ideologią”, skoro stworzyli je ludzie.
Oddanie tego maszynom, algorytmom i procedurom ma stwarzać pozory generowania „obiektywnych decyzji”, „chłodnych, nie emocjonalnych”, i „racjonalnych”. Opartych na „twardych danych i parametrach”. Tak bardzo twórcy tych systemów w nie uwierzyli, że praktycznie nie da się od ich decyzji skutecznie odwołać, bo po co? Przecież decyzja została podjęta na bazie „chłodnej, pozaludzkiej analizy”. Od czego się tu chcesz odwoływać, człowieczku? Algorytm, „sztuczna inteligencja”, stwierdziła, że wykraczasz poza normy i koniec tematu.
Wczoraj po tym, jak spadły im posty, wiele osób zastanawiało się, czy to w rozmowach prywatnych, czy w dyskusjach publicznych w internecie, czym zawinili. Wiele osób rozważało, czy może to akurat słowo było nieodpowiednie? Może w tym obrazku coś było „niemoralnego”, jakiś fragment uda? Jak w Procesie Kafki ludzie doszukiwali się jakiegoś sensu, jakiejś „sprawiedliwej oceny” w tym proceduralnym chaosie. Sami szukali w sobie winy, bo tu przecież musi być jakiś sens ukryty. Sami zamieniamy się we własnych prokuratorów, bo zakładamy, że tutaj czuwa jakiś racjonalny „nadumysł”, który ma, może błędne, ale jakieś jednak racjonalne argumenty. I że można to „przejrzeć”, „zdekodować”, a nawet wejść w polemikę.
Przypomniały mi się listy zaangażowanych „starych komunistów” do Stalina po tym jak zostali skazani na śmierć w absurdalnych procesach politycznych. Zakładali, że tu jest jakaś logika, że po prostu gdzieś wkradł się błąd i wystarczy tylko odwołać się do nadumysłu wielkiego wodza. Że gdzieś jest jakiś dobry Bóg, car, wódz, który to wszystko ogarnia i naprawi. Tylko trzeba go przekonać odpowiednimi słowami modlitwy i wykazać chęć działania zgodnie z racjonalnymi procedurami. Nie brali pod uwagę, że to ma po prostu tak działać. Tak to jest zaprojektowane i oberbiurokrata dobrze o tym wie, albo przynajmniej na to się godzi. A ostatecznie sam pada ofiarą proceduralizmu i umiera w męczarniach, bo „nie było rozkazu zajrzeć do pokoju i sprawdzić jak się czuje”.
Żyjemy w świecie coraz bardziej pozbawionym sensu, kontrolowanym przez „procesy”, które zaczynają wymykać się nawet ich twórcom. Przyjdzie dzień w którym algorytmy Facebooka zbanują Zuckerberga.
A poza tym, Kafka był geniuszem, choć nie przewidział wszystkiego, w jakim kierunku ostatecznie biurokratyzm podąży i jakie otrzyma potężne narzędzia. Narzędzie ostatecznego rozwiązania problemu czynnika ludzkiego, powiedziałbym.
Xavier Woliński