Zdrowy umysł w sieci algorytmów
W badaniu, w którym udział wzięło 3466 „cyfrowych tubylców”, czyli osób wychowujących się już w czasach powszechnego internetu, okazało się, że aż 96% z nich nie potrafiło sprawdzić wiarygodności strony internetowej i postów zamieszczanych w mediach społecznościowych.
Gerd Gigerenzer przytacza powyższy eksperyment w swej książce Zdrowy umysł w sieci algorytmów. To właśnie brak kompetencji cyfrowych postrzega jako jedno z istotniejszych zagrożeń współczesnego społeczeństwa, dużo większe niż sama sztuczna inteligencja i jej potencjalnie groźne zastosowanie. To jednak rozwojem SI jesteśmy straszeni na każdym kroku, codziennie trafiając na nagłówki wieszczące rychły koniec nauczycieli, pisarzy, artystów czy tłumaczy, których „już za moment” miałyby zastąpić algorytmy i samodzielnie myślące maszyny.
Urodzony w Niemczech psycholog poznawczy i historyk statystyki nie bagatelizuje rzecz jasna wyzwań stojących przed ludzkością, wkraczającą w kolejną rewolucję technologiczną, lecz stara się okiełznać zbiorowe lęki związane z AI, rozprawiając się z powielanymi w mediach mitami, a także wyjaśniając, czym tak naprawdę są maszynowe uczenie i algorytmy wykorzystywane w serwisach i aplikacjach. Publikacja Gigerenzera to cenny głos rozsądku w szumie informacyjnym, spotęgowanym przez głośne w ostatnich miesiącach doniesienia o możliwościach chatbotów w rodzaju ChatGPT czy programów generujących przy pomocy SI obrazy i filmy.
„Chodzi o to, by zdawać sobie sprawę z rzeczywistych możliwości AI i wiedzieć, co jest tylko chwytem marketingowym i artykułem techno-religijnej wiary. Chodzi także o to, żeby opanować zdolność kontrolowania urządzenia, a nie być przez nie kontrolowanym” – czytamy w książce, którą można chyba nazwać swego rodzaju poradnikiem. Autor zamieszcza w niej bowiem mnóstwo wskazówek i porad, jak zadbać o bezpieczeństwo danych osobowych czy uniknąć m.in. uzależnienia od smartfona.
Zdrowy umysł dotyczy jednocześnie sztucznej inteligencji, algorytmów – tego, w jaki sposób działają i jakie wiążą się z nimi zagrożenia, ale także przybliża działanie konkretnych aplikacji, programów, systemów informatycznych, które kształtują nasze zachowania w sieci i wpływają na podejmowane przez nas decyzje. Gigerenzer cały czas odnosi się do wyników doświadczeń prowadzonych przez różne zespoły badawcze na świecie, w tym – co szczególnie istotne i wzbogacające – do własnych osiągnięć i obserwacji. Naukowiec bierze pod lupę m.in. różne serwisy internetowe, które mamią użytkowników obietnicami, skutecznie przyciągając nowe osoby do platformy i stwarzając zagrożenie dla ich danych osobowych, a nierzadko i zdrowia psychiczno-fizycznego.
Największym atutem publikacji jest szeroki zakres przypadków, jakie omawia Gigerenzer oraz fakt, że czyni to niezwykle wnikliwie. Bezlitośnie rozprawia się z roztaczaną przez różne firmy i instytucje iluzją bezpieczeństwa, za którą schowany jest jedynie marketing. Tak było m.in. w przypadku systemów rozpoznawania twarzy, zainstalowanych na berlińskich dworcach kolejowych, po ataku terrorystycznym w 2016 roku. 80-procentowa skuteczność systemu i współczynnik fałszywych alarmów wynoszący 0,1% były powodem do dumy dla ministerstwa spraw wewnętrznych, jednak w Zdrowym umyśle autor obnaża, co faktycznie kryje się za tym wynikiem. Z pomocą matematyki dowodzi, że przy rozpowszechnieniu takiego systemu w całych Niemczech, gdzie dziennie przez dworce przewija się prawie 12 milionów pasażerów, tylko jednego dnia program błędnie identyfikowałby aż 12 tysięcy przechodniów jako podejrzanych. Mimo to, każdy z nich zmuszony byłby do potwierdzenia swojej tożsamości, przeszukania, a być może nawet do tymczasowego aresztu. Zasoby czasu i pieniędzy potrzebne na te wszystkie operacje byłyby nieopłacalne, a ostatecznie skutkowałyby obniżeniem bezpieczeństwa i komfortu obywateli.
W podobnie drobiazgowy sposób Gigerenzer rozprawia się z innymi przypadkami, w tym dotyczącymi serwisów randkowych, samochodów autonomicznych czy programów mających wykrywać nowotwory. Za każdym razem naukowiec wyjaśnia też, z czego mogą wynikać błędy w niektórych systemach, na które wpływają przeróżne czynniki, jak jakość danych wejściowych czy algorytmy, niekoniecznie właściwie dobrane do danego zadania.
„Liczby, małe czy duże, nie mówią. Liczby są jak dzieci – wymagają uwagi i odpowiedniego prowadzenia. Trzeba je zrozumieć” – wyjaśnia Niemiec i w tym samym rozdziale udowadnia, dlaczego nie powinniśmy pokładać ślepej nadziei w Big Data. „Analiza wielkich zbiorów danych prawdopodobnie da gorsze rezultaty w sytuacjach, które mogą się niespodziewanie zmienić i w których szukamy igły w ogromnym stogu danych” – na potwierdzenie tych słów otrzymujemy obszerną analizę przypadku dotyczącego algorytmu Google’a, który przez pewien czas pozwalał skutecznie prognozować ogniska choroby, jednak pod wpływem ilości zebranych danych zaczął wariować.
Gigerenzer nie stara się ani uciszyć naszych lęków, ani ich rozdmuchać. Badacz dostarcza wiedzę i ją porządkuje. To naprawdę cenna lektura, bo wydaje się być odosobnionym głosem w towarzyszącej nam wszystkim dezinformacji, gdzie z jednej strony straszeni jesteśmy przez media ryzykiem wymknięcia się sztucznej inteligencji spod ludzkiej kontroli i nadejściem Skynetu, a z drugiej oferuje się nam nierealistyczne scenariusze błyskawicznego rozwoju technologicznego, rodem z Jetsonów. Przy okazji obrywa się w Zdrowym umyśle niektórym popularnym intelektualistom, w tym Yuvalowi Noahowi Harariemu, który w swoich pracach – jak dowodzi Gigerenzer – zamieszcza niepoparte dowodami przesadne stwierdzenia dotyczące algorytmów, co zdaniem autora może przynosić szkodliwe konsekwencje.
W książce nie brakuje zdjęć, grafik i wykresów, niestety wszystkie są biało-czarne, co mocno wpływa na ich czytelność. W pewnym miejscu w opisie fotografii mamy wręcz wprost mowę o „wzorach barwnych”, jednak jedyne, co widzimy, to odcienie szarości, całkowicie nierozpoznawalne.
Warto zaglądać do przypisów, gdzie Gigerenzer wielokrotnie pozwala sobie rozwinąć jakąś myśl. Cieszy również bogata bibliografia oraz indeks na końcu pracy, ułatwiający nawigację.
Zdrowy umysł to świetna lektura dla wszystkich tych, którzy mogą czuć się zdezorientowani przez internetowe, clickbaitowe nagłówki i chcieliby zrozumieć, jak rzeczywiście algorytmy i sztuczna inteligencja kształtują nasze codzienne życie.
Weronika Cygan