KSIĄŻKI | Co to znaczy sprawować nad kimś władzę? Ten, kto ma władzę, może w sposób uprawniony zmuszać innych do określonego postępowania, niejednokrotnie wbrew ich interesom i poglądom, może też kontrolować, czy jego polecenia są wykonywane, i karać za nieposłuszeństwo. Brzmi to raczej nieprzyjemnie, chociaż stanowi podstawę społecznego ładu. Kluczowym terminem kryjącym się w cieniu tej definicji jest legitymizacja, czyli, innymi słowy, kwestia tego, skąd władca czerpie wspomniane uprawnienia do sprawowania władzy, oraz tego, w jakich granicach wolno mu się poruszać bez przekraczania tych uprawnień.
„Broń matematycznej zagłady. Jak algorytmy zwiększają nierówności i zagrażają demokracji”, Cathy O'Neil, przeł. Marcin Z. Zieliński, PWN 2017 / Dziennik Gazeta Prawna
Magazyn DGP z dnia 3 listopada / Dziennik Gazeta Prawna/Inne
Reklama

Reklama
W epoce zaawansowanych technologii przetwarzania wielkich zbiorów danych (big data) konwencjonalne rozumienie demokratycznej władzy jako pewnego neutralnego mechanizmu biurokratycznego mającego zdolności samonaprawcze – na przykład w postaci wyborów – musi zostać uzupełnione koncepcją nierównowagi informacyjnej: realną władzę sprawuje ten, kto w danym układzie zależności ma większą wiedzę.
A teraz zastanów się, drogi czytelniku, nad tym, co wie o tobie Facebook i co ty właściwie wiesz o Facebooku. Facebook zgromadził na twój temat więcej informacji, niż jesteś w stanie sobie wyobrazić. Ty o złożonych algorytmach stosowanych przez Facebooka nie wiesz absolutnie nic.
Nie ma zresztą powodu, by demonizować akurat Facebooka, bo problem z analizowaniem i wykorzystywaniem big data jest jedną z najważniejszych trosk współczesnych społeczeństw Zachodu. Nie chodzi tu po prostu o to, że rządy zbierają i przetwarzają dane o obywatelach, a korporacje o klientach – byłoby dziwne, gdyby tego nie robiły. Chodzi o sposoby, w jakie matematyczne manipulacje na zbiorach danych wpływają na nasze życie.
Cathy O'Neil, amerykańska matematyczka, blogerka i działaczka społeczna, zebrała w swojej książce rozmaite przypadki wykorzystywania analiz big data w biznesie, polityce społecznej i zarządzaniu dobrami publicznymi – wszystkie te przypadki łączy jedno: stosowanie, jak nazywa to O'Neil, „broni matematycznej zagłady”, czyli modeli analityczno-statystycznych, które wprawdzie oszczędzają czas i pieniądze tych, którzy w nie zainwestowali, ale są wysoce szkodliwe dla tych, których bezpośrednio dotyczą. Modele te, nawet jeśli projektowane w dobrych intencjach, przenosiły w realia ekonomii danych liczne skrzywienia ludzkiego rozumowania: stereotypy, uprzedzenia, stronniczość, przekonania w rodzaju „teorii sprawiedliwego świata” (czyli: jeśli mi się powodzi, to znaczy, że na to zasługuję, jeśli komuś nie idzie, sam jest sobie winien). „Jak bogowie, modele matematyczne były nie do pojęcia, a sposób ich działania byli w stanie zgłębić jedynie najwyżsi kapłani – matematycy i programiści komputerowi. Rozstrzygnięcia dostarczane przed modele, nawet gdy były złe lub szkodliwe, nie podlegały dyskusji ani odwołaniu. Same modele zaś miały tendencję do karania osób ubogich i wykluczonych, sprawiając zarazem, że bogatsi stawali się jeszcze bogatsi”.
Zasięg oddziaływania owych modeli (nieprzejrzystych, szkodliwych, działających w ogromnej skali), przynajmniej w realiach amerykańskich opisywanych przez O'Neil, budzi uzasadnioną grozę. W czarną skrzynkę oprogramowania decydującego o ludzkim losie – jego decyzje stają się rzeczywistością – spoglądają między innymi więźniowie (programy wyliczające prawdopodobieństwo recydywy wpędzają ludzi w jej pętlę, dziwnym trafem zwykle Afrykanów i Latynosów), przyszli studenci (najbiedniejsi z nich płacą fortunę za bezwartościowe studia – zostali wytypowani przez algorytmy reklamowe jako potencjalni klienci państwowych subwencji), mieszkańcy marnych dzielnic (policja patroluje zgodnie ze wskazaniami programu przewidującego, gdzie może zostać popełnione przestępstwo), bezrobotni (odsiani w wątpliwych testach osobowościowych), najniżej opłacani pracownicy (harujący w wyliczonych algorytmicznie absurdalnych siatkach godzin i nadzorowani na każdym kroku przez systemy elektroniczne).
Uciążliwości te – zasadniczo niesprawiedliwe i krzywdzące – odnoszą się zwykle do ludzi z niższych warstw społecznych, wytwarzając swego rodzaju sprzężenie zwrotne: działanie systemu przy każdej kolejnej iteracji pogłębia nierówności.
A jeśli w niedalekiej przyszłości sztuczna inteligencja przejmie kontrolę nad obróbką i interpretacją danych wytwarzanych przez ludzkość? Gdyby tak się stało, dwie rzeczy są pewne: po pierwsze, SI będzie nad nami sprawować władzę absolutną. Po drugie, definitywnie przestaniemy rozumieć świat, w którym żyjemy, straciwszy kontrolę nad własnym losem. Ale projekt tej katastrofy został już wdrożony.