Bezpłatny fragment - Człowiek w czasach algorytmów

Prolog: “Kod, który nas otacza”

Nie słyszymy go. Nie widzimy. A jednak jest wszędzie.

Steruje naszymi porankami, podpowiada, co zjeść na śniadanie, jakie buty kupić, z kim się spotkać. W milczeniu ustawia świat tak, byśmy klikali więcej, oglądali dłużej, kupowali chętniej.

Nazywamy to „algorytmami”, ale tak naprawdę to systemy zbudowane z milionów decyzji innych ludzi — programistów, inżynierów, analityków danych. Każdy z nich stworzył fragment rzeczywistości, którą dziś traktujemy jak naturalną.

A co, jeśli ta rzeczywistość nie jest neutralna? Co, jeśli zamiast wolnych wyborów podejmujemy te, które ktoś kiedyś zaprogramował dla nas, kierując się zyskiem, a nie naszym dobrem?

W tej książce wejdziemy w głąb świata, który z pozoru wydaje się technologią, a w rzeczywistości staje się niewidzialnym systemem wpływu.

Poznamy mechanizmy stojące za ekranem, psychologię, którą wykorzystują platformy, oraz ludzi, którzy wierzą, że można to zatrzymać — albo przynajmniej zrozumieć.

Bo jeśli XXI wiek ma swoje niewidzialne królestwo, jego królem jest kod.

Wstęp: Dlaczego ta książka powstała?

Przez tysiące lat ludzie wierzyli, że sami kształtują swoje życie. Decyzje były wynikiem tradycji, religii, kultury, a później nauki i zdrowego rozsądku. Ale nigdy wcześniej nie żyliśmy w świecie, w którym maszyny, algorytmy i sztuczna inteligencja miały tak ogromny wpływ na każdy nasz wybór.

Dziś niewidzialne systemy decydują o tym, co widzimy w internecie, jakie wiadomości trafiają na nasze ekrany, a nawet o tym, kogo spotkamy i w kim się zakochamy. Technologia, która miała być tylko narzędziem, stała się architektem rzeczywistości.

Nie piszę tej książki, by demonizować technologię. Sam korzystam z internetu, mediów społecznościowych, sztucznej inteligencji. Wierzę w postęp i w to, że odpowiednio używana technologia może pomagać ludziom.

Ale wierzę też, że świadomość daje wolność.

Jeżeli zrozumiemy, jak działają algorytmy, możemy odzyskać kontrolę nad własnym życiem. Możemy zdecydować, które narzędzia nam służą, a które zabierają nasz czas i energię.

Ta książka nie jest tylko o technologii. Jest o nas — o ludziach, którzy próbują zachować człowieczeństwo w świecie, gdzie coraz częściej to kod decyduje o tym, co jest ważne.

Część I: Algorytmy, które nami rządzą

Rozdział 1: Niewidzialne mechanizmy

Świat sterowany kodem:

Budzik w telefonie przerywa sen. Sięgasz po smartfona — w pierwszej sekundzie dnia wkraczasz w strefę, gdzie decyzje, które wydają się Twoje, już zostały zaplanowane przez kogoś lub coś.

Ekran rozświetla się powiadomieniami: nowe zdjęcie znajomego z wakacji, przypomnienie z kalendarza, reklama butów, które oglądałeś wczoraj wieczorem w sklepie internetowym. Wszystko w idealnej kolejności, zaprojektowane tak, aby Twoje palce nie mogły się oprzeć kolejnemu przesunięciu w dół.

Wydaje Ci się, że to tylko technologia. W rzeczywistości to świat sterowany kodem — miliony linii algorytmów analizują Twój czas, Twoje zainteresowania, Twoje emocje.

Pierwsze spojrzenie na ekran często determinuje cały nasz dzień. Widzisz złe wiadomości? Prawdopodobnie poczujesz niepokój. Widzisz śmieszne memy? Twoje samopoczucie na chwilę się poprawi. Ale to nie przypadek — algorytmy mediów społecznościowych wiedzą, jakie emocje najdłużej zatrzymują ludzi przy ekranie.

Na przykład Facebook od dawna analizuje, które treści wywołują najwięcej reakcji emocjonalnych — i to one są priorytetowo pokazywane w Twoim feedzie. W 2018 roku ujawniono, że negatywne emocje, takie jak gniew czy oburzenie, zwiększają zaangażowanie użytkowników nawet o 30–40%. To znaczy: im bardziej coś Cię irytuje, tym chętniej to zobaczysz.

Przyjrzyjmy się Twojemu typowemu dniu. Otwierasz YouTube — od razu pojawiają się rekomendacje. Jedno kliknięcie w film o zdrowym odżywianiu może uruchomić lawinę treści: kolejne filmy o diecie, treningach, a wkrótce… reklamy suplementów.

W tym samym czasie Spotify proponuje Ci nową playlistę „dopasowaną do nastroju”, a Google podsuwa wyniki wyszukiwania na podstawie poprzednich pytań, zanim jeszcze skończysz wpisywać słowo.

Zanim zdążysz pomyśleć, co naprawdę chcesz obejrzeć czy przeczytać, algorytmy już podjęły decyzję za Ciebie.

Najbardziej niepokojące jest to, że ta sieć niewidzialnych mechanizmów działa w tle, bez Twojej świadomej zgody. Nikt nie pyta Cię o pozwolenie, kiedy systemy analizują Twoje zachowania: ile sekund patrzyłeś na dane zdjęcie, które posty przewinąłeś, a przy których się zatrzymałeś.

Firmy technologiczne gromadzą setki takich sygnałów, by stworzyć psychologiczny profil użytkownika. Znają Twoje nawyki zakupowe, pory aktywności, a nawet momenty dnia, gdy jesteś najbardziej podatny na reklamy.

To jak niewidzialny architekt, który ustawia dla Ciebie meble w pokoju — i robi to tak sprytnie, że masz wrażenie, że sam podjąłeś wszystkie decyzje.

Świadomość tego mechanizmu to pierwszy krok, by zacząć odzyskiwać kontrolę. Bo jeśli nie wiesz, jak działa system, stajesz się jego produktem, nie użytkownikiem.

Nasz świat coraz bardziej przypomina szachownicę, na której ruchy wykonują nie ludzie, lecz algorytmy. A my — często nieświadomie — gramy w grę, której zasad nie znamy.

Czym jest algorytm?

Algorytm. Słowo brzmi skomplikowanie, jakby chodziło o tajemną wiedzę zarezerwowaną dla matematyków i programistów. A przecież w rzeczywistości algorytmy są wszędzie — nie tylko w komputerach.

Przepis na ciasto? To też algorytm: krok po kroku, składnik po składniku, dokładna instrukcja, jak dojść od surowych produktów do gotowego deseru.

Różnica polega na tym, że współczesne algorytmy komputerowe działają w skali, o której ludzki umysł nawet nie śnił. Miliony danych, tabele, wykresy, zachowania użytkowników — wszystko przetwarzane w ułamku sekundy, by podsunąć Ci tę jedną reklamę, ten jeden film, tę jedną wiadomość, która najpewniej Cię zainteresuje.

Pierwsze algorytmy, o których uczyliśmy się w szkołach, to były proste instrukcje:

— dodaj dwie liczby,

— posortuj dane w kolejności alfabetycznej,

— oblicz pierwiastek kwadratowy.

Dziś algorytmy sterują samochodami, które same jeżdżą, decydują o tym, komu bank przyzna kredyt, a nawet o tym, czy Twoje CV przejdzie przez rekrutację w dużej firmie.

To już nie są tylko przepisy. To systemy podejmowania decyzji.

Największy przełom nastąpił wtedy, gdy algorytmy zaczęły się… uczyć. Zamiast tworzyć sztywne instrukcje, programiści dali im możliwość analizowania danych i samodzielnego doskonalenia swoich decyzji.

Tak powstało uczenie maszynowe i sztuczna inteligencja — algorytmy, które nie tylko wykonują rozkazy, ale także odkrywają wzorce, których człowiek nigdy by nie zauważył.

Przykład? Algorytm w firmie Google w kilka tygodni nauczył się rozpoznawać koty na filmach z YouTube’a… bez ani jednego ludzkiego polecenia, po prostu analizując miliony obrazów.

Kiedyś decyzje o świecie podejmowali ludzie: politycy, dziennikarze, nauczyciele, eksperci. Dziś coraz więcej takich decyzji filtrują algorytmy.

Jeżeli system rekomendacji w serwisie informacyjnym uzna, że nie zobaczysz pewnych treści, to dla Ciebie… one po prostu nie istnieją.

W ten sposób matematyczne formuły zaczynają kształtować rzeczywistość społeczną. A my — nawet o tym nie wiemy.

Algorytm to nie tylko linijki kodu. To niewidzialna ręka, która decyduje o tym, co widzisz, czego nie widzisz, co kupujesz, kogo poznajesz.

I dopóki nie zrozumiemy, jak ta ręka działa, będziemy w świecie technologii bardziej obserwatorami niż uczestnikami.

Od danych do decyzji:

Wyobraź sobie, że codziennie zostawiasz po sobie ślady — cyfrowe okruchy chleba. To kliknięcia, lajki, wyszukiwania w Google, czas spędzony nad jednym filmem, a nawet moment, w którym przewijasz stronę szybciej, bo coś Cię znudziło.

Każdy taki ślad to dana. A algorytmy kochają dane.

Z nich budują obraz Ciebie — Twoich zainteresowań, nastrojów, poglądów, a czasem nawet lęków. A potem na podstawie tych danych podejmują decyzje: co Ci pokazać, co zasugerować, a co ukryć.

Im więcej danych o Tobie zbierze algorytm, tym lepiej potrafi Cię dopasować do określonej kategorii.

— Lubisz filmy o podróżach? Dostaniesz ich coraz więcej.

— Klikasz w artykuły o zdrowym stylu życia? Algorytm będzie Ci podsuwał kolejne porady.

— A jeśli raz obejrzysz wideo z teorią spiskową… cóż, jutro zobaczysz następną.

W ten sposób powstaje bańka informacyjna. System pokazuje Ci tylko te treści, które pasują do Twoich wcześniejszych wyborów. Coraz rzadziej widzisz coś, co mogłoby podważyć Twoje przekonania.

Efekt? Każdy z nas żyje w trochę innym świecie, skrojonym pod własne kliknięcia.

Bańka informacyjna ma jeszcze jeden efekt: tworzy tzw. echo chambers, czyli komory echa.

To miejsca, w których słyszysz głównie poglądy podobne do własnych. Jeżeli jesteś przekonany o czymś politycznie, algorytm podsunie Ci ludzi, którzy myślą tak samo. A to wzmacnia poczucie, że „wszyscy” się z Tobą zgadzają.

Problem w tym, że w prawdziwym świecie „wszyscy” to często tylko Twoja bańka.

Czasem nawet nie zauważamy, że algorytm już coś za nas wybrał. Netflix automatycznie odtwarza następny odcinek serialu. YouTube zaczyna kolejne wideo, zanim zdążysz podjąć decyzję. Sklep internetowy podsuwa promocję dokładnie w chwili, gdy jesteś zmęczony i skłonny do impulsywnego zakupu.

To decyzje podejmowane w tle. Niby masz kontrolę, ale w rzeczywistości ścieżka została dla Ciebie zaprojektowana krok po kroku.

Kiedyś to my szukaliśmy informacji. Teraz to informacje znajdują nas. A to oznacza, że ktoś — albo coś — decyduje, co widzimy, a co znika w cyfrowym mroku.

I właśnie dlatego zrozumienie, jak dane zmieniają się w decyzje, jest tak ważne. Bo jeśli tego nie wiemy, możemy przestać zauważać granicę między własnym wyborem a wyborem podpowiedzianym przez maszynę.

Dlaczego nie widzimy algorytmów:

Kiedyś każda technologia była widoczna.

Maszyna parowa syczała, drukarnia hałasowała, pierwsze komputery zajmowały całe pokoje i mrugały diodami. Można je było dotknąć, zobaczyć, poczuć ich moc.

Algorytmy są inne. One działają w ciszy.

Nie mają kształtu, nie wydają dźwięków, nie mają twarzy. Są kodem zapisanym w milionach linijek na serwerach oddalonych o tysiące kilometrów. Nie widzimy ich, bo nie zostały stworzone, by być widoczne.

Większość firm nie mówi dokładnie, jak działają ich algorytmy.

— Google nie zdradza szczegółów wyszukiwarki.

— Facebook nie ujawnia pełnych zasad swojego feedu.

— TikTok przez lata milczał na temat tego, jak wybiera filmy na stronę „Dla Ciebie”.

Dlaczego? Bo to tajemnica handlowa. A jednocześnie narzędzie władzy — im mniej wiemy, tym łatwiej jest sterować naszym zachowaniem.

Jest jeszcze jeden powód, dla którego nie widzimy algorytmów: nawet programiści nie zawsze rozumieją, jak działają.

Szczególnie w przypadku uczenia maszynowego algorytmy tworzą własne reguły, których nikt ręcznie nie zaprogramował.

To tzw. czarna skrzynka — podajemy dane, a system zwraca wynik. Ale to, co dzieje się w środku, jest często zbyt skomplikowane, by człowiek mógł to prześledzić krok po kroku.

To trochę tak, jakbyśmy podróżowali samolotem, w którym autopilot sam nauczył się latać… ale nie potrafimy sprawdzić, jak dokładnie to robi.

Algorytmy są jak iluzjoniści: działają najlepiej wtedy, gdy ich nie zauważasz.

— Nie pytają Cię, czy chcesz zobaczyć tę reklamę. Po prostu ją pokazują.

— Nie proszą o zgodę na ułożenie feedu. Robią to automatycznie.

— Nie mówią Ci, które wiadomości ukryły. Po prostu ich nie widzisz.

A skoro nie widzimy mechanizmu działania, łatwo zapomnieć, że ktoś lub coś podjęło decyzję w naszym imieniu.

Prawda jest taka, że często nam to nie przeszkadza. Wygoda jest zbyt kusząca. Lubimy, gdy Netflix podsuwa seriale, Spotify układa playlisty, a Google kończy nasze zdania w wyszukiwarce.

Ale za tę wygodę płacimy cenę: brakiem przejrzystości i utratą części kontroli nad tym, co do nas trafia.

Nie widzimy algorytmów, bo zostały zaprojektowane, by być niewidoczne. Działają w ciszy, w tle, w kodzie, którego nikt z nas nie ogląda na co dzień. A im mniej je widzimy, tym łatwiej wpływają na nasze życie — i nawet nie zdajemy sobie z tego sprawy.

Władza bez twarzy:

Kiedy myślimy o władzy, przed oczami stają nam królowie, prezydenci, generałowie. Ludzie z nazwiskami, twarzami, mundurami. Władza zawsze miała centrum: pałac, parlament, gabinet z ciężkimi drzwiami.

Tymczasem w XXI wieku najpotężniejsza władza często nie ma twarzy.

To władza algorytmów.

Nie wygrywają wyborów, nie wydają dekretów. A jednak decydują, co zobaczymy, jakie wiadomości nas poruszą, w co uwierzymy, a czasem nawet… na kogo zagłosujemy.

Można powiedzieć: przecież algorytmy tworzą ludzie. To oni piszą kod, ustawiają parametry, projektują platformy. I to prawda.

Problem w tym, że te systemy są tak skomplikowane i działają na taką skalę, że nikt nie ma pełnej kontroli.

— Inżynierowie w Google nie wiedzą dokładnie, jak działa cały ekosystem wyszukiwarki.

— Twórcy TikToka nie mogą przewidzieć wszystkich efektów działania swojego algorytmu rekomendacji.

— Nawet badacze AI ostrzegają, że systemy uczące się mogą tworzyć nieprzewidziane strategie osiągania celów.

To jakby ktoś zbudował wielką maszynę, która sama się rozwija — i nie zawsze robi to zgodnie z pierwotnym planem.

Kiedy prezydent wydaje rozkaz, wiemy, kto jest odpowiedzialny. Możemy go rozliczyć, krytykować, obalić.

A kogo rozliczymy, gdy algorytm Facebooka niechcący promuje fałszywe informacje? Albo gdy sztuczna inteligencja banku niesprawiedliwie odrzuci wniosek kredytowy?