E-book
18.9
drukowana A5
64.35
CZY SZTUCZNA INTELIGENCJA KŁAMIE?

Bezpłatny fragment - CZY SZTUCZNA INTELIGENCJA KŁAMIE?

Dlaczego AI zmyśla, popełnia błędy i czasami przekonuje nas do nieprawdy


Objętość:
292 str.
ISBN:
978-83-293-0249-4
E-book
za 18.9
drukowana A5
za 64.35

WSTĘP

Sztuczna inteligencja potrafi dziś prowadzić rozmowy, odpowiadać na skomplikowane pytania, wyjaśniać zagadnienia naukowe, analizować dokumenty, tworzyć teksty, tłumaczyć języki, pisać programy komputerowe i pomagać w rozwiązywaniu problemów, które jeszcze niedawno wymagały specjalistycznej wiedzy. W ciągu stosunkowo krótkiego czasu stała się narzędziem dostępnym dla milionów ludzi. Korzystamy z niej podczas nauki, pracy, przygotowywania dokumentów, poszukiwania informacji, planowania codziennych obowiązków i podejmowania decyzji. W wielu sytuacjach jej możliwości robią ogromne wrażenie. Odpowiedzi pojawiają się szybko, są uporządkowane, często napisane naturalnym językiem i sprawiają wrażenie przemyślanych. Sztuczna inteligencja potrafi wyjaśnić trudny temat w prosty sposób, przedstawić argumenty z różnych stron i dostosować wypowiedź do poziomu wiedzy rozmówcy.

Jednak za tą imponującą sprawnością kryje się problem, którego nie wolno lekceważyć. Sztuczna inteligencja potrafi podawać informacje niezgodne z rzeczywistością. Może wymyślać wydarzenia, przypisywać ludziom wypowiedzi, które nigdy nie padły, tworzyć nieistniejące publikacje naukowe, podawać błędne daty, przekręcać nazwiska, mylić pojęcia i przedstawiać nieprawdziwe wyjaśnienia w sposób, który nie wzbudza żadnych podejrzeń. Co więcej, nie zawsze robi to w odpowiedzi na szczególnie trudne pytania. Błędy mogą pojawić się również przy pozornie prostych zadaniach, takich jak wskazanie źródła informacji, podanie szczegółów historycznych, obliczenie wartości czy streszczenie dokumentu.

Najbardziej niepokojące jest to, że błędna odpowiedź nie musi wyglądać na błędną. Może być napisana poprawnie, logicznie uporządkowana i przekonująca. Może zawierać konkretne liczby, nazwiska, daty, cytaty oraz szczegółowe wyjaśnienia. Czasami będzie nawet częściowo prawdziwa, co dodatkowo utrudni rozpoznanie nieścisłości. Człowiek czytający taką wypowiedź może odnieść wrażenie, że otrzymał rzetelną informację, choć w rzeczywistości dostał mieszankę faktów, przypuszczeń i treści wygenerowanych bez wystarczającego oparcia w rzeczywistych danych.

Właśnie dlatego warto postawić pytanie zawarte w tytule tej książki: czy sztuczna inteligencja kłamie?

Odpowiedź nie jest tak prosta, jak mogłoby się wydawać. W potocznym rozumieniu kłamstwo oznacza świadome przedstawianie nieprawdy w celu wprowadzenia kogoś w błąd. Człowiek, który kłamie, zazwyczaj wie, jaka jest prawda, i celowo przekazuje inną wersję wydarzeń. W przypadku współczesnych systemów sztucznej inteligencji sytuacja wygląda inaczej. Model językowy nie musi posiadać świadomości, intencji ani ludzkiego rozumienia prawdy i fałszu. Nie podejmuje decyzji o oszukaniu rozmówcy w taki sam sposób jak człowiek. Generuje odpowiedzi na podstawie wyuczonych wzorców, zależności językowych, dostępnego kontekstu i mechanizmów działania danego systemu.

Nie oznacza to jednak, że problem jest mniej poważny. Z punktu widzenia użytkownika liczy się przede wszystkim skutek. Jeżeli system podaje nieistniejący przepis, wymyśla źródło naukowe, błędnie interpretuje wyniki badań albo przekonuje kogoś do podjęcia niewłaściwej decyzji, konsekwencje mogą być bardzo realne. Nie ma większego znaczenia, czy nieprawdziwa informacja powstała w wyniku świadomego oszustwa, czy mechanizmu generowania tekstu. Człowiek może na niej polegać, przekazać ją dalej, wykorzystać w pracy, umieścić w publikacji albo potraktować jako podstawę ważnej decyzji.

Główna myśl tej książki jest więc następująca: AI nie musi mieć zamiaru oszukiwania, aby skutecznie wprowadzać człowieka w błąd.

Zrozumienie tego zdania jest punktem wyjścia do świadomego korzystania ze sztucznej inteligencji. Nie wystarczy wiedzieć, że modele czasami popełniają błędy. Trzeba również zrozumieć, skąd te błędy się biorą, dlaczego niektóre odpowiedzi są tak przekonujące, dlaczego użytkownicy często im ufają i jak można ograniczyć ryzyko wykorzystania nieprawdziwych informacji.

Jednym z najczęściej omawianych zjawisk związanych z tym problemem są tak zwane halucynacje sztucznej inteligencji. Termin ten może brzmieć tajemniczo, ale opisuje dość konkretną sytuację. Model generuje informację, która wygląda na prawdopodobną, lecz nie ma wystarczającego potwierdzenia w rzeczywistości. Może to być fikcyjny cytat, nieistniejąca książka, błędny wynik obliczeń, wymyślony adres strony internetowej lub opis wydarzenia, które nigdy nie miało miejsca.

Halucynacja nie zawsze oznacza całkowicie zmyśloną odpowiedź. Często jest bardziej subtelna. System może poprawnie wskazać osobę, ale przypisać jej niewłaściwą funkcję. Może opisać prawdziwe wydarzenie, lecz podać nieprawidłową datę. Może przywołać rzeczywistą publikację, ale przypisać jej wnioski, których autorzy wcale nie sformułowali. Może również połączyć informacje pochodzące z różnych źródeł w jedną opowieść, która brzmi spójnie, choć zawiera błędne elementy.

Takie pomyłki są szczególnie trudne do wykrycia, ponieważ nie zawsze da się je rozpoznać na podstawie samej treści. Wypowiedź może być napisana bezbłędnie, zawierać specjalistyczne słownictwo i przypominać fragment profesjonalnego opracowania. Czytelnik nie widzi procesu, który doprowadził do jej powstania. Otrzymuje jedynie gotowy rezultat i musi samodzielnie ocenić, czy może mu zaufać.

Aby zrozumieć ten mechanizm, trzeba przyjrzeć się sposobowi działania modeli językowych. W uproszczeniu można powiedzieć, że systemy tego rodzaju uczą się zależności występujących w ogromnych zbiorach tekstów. Analizują, jakie słowa, wyrażenia i konstrukcje pojawiają się w określonych kontekstach, a następnie wykorzystują zdobytą wiedzę do generowania kolejnych fragmentów wypowiedzi. Nie oznacza to, że model przegląda w swojej pamięci uporządkowaną bibliotekę faktów i za każdym razem wybiera z niej gotową odpowiedź. Jego działanie jest bardziej złożone.

Model może nauczyć się, że określone nazwisko często występuje w pobliżu konkretnego wydarzenia, że pewien rodzaj pytania zwykle wymaga podania daty albo że publikacje naukowe mają charakterystyczną strukturę tytułów i opisów. Potrafi dzięki temu tworzyć wypowiedzi przypominające rzetelne opracowania. Nie zawsze jednak dysponuje wystarczającą podstawą, aby potwierdzić każdy szczegół. Jeżeli brakuje mu informacji, może wygenerować treść, która pasuje do poznanych wzorców, ale nie odpowiada faktom.

To jedna z najważniejszych różnic między sprawnym posługiwaniem się językiem a wiarygodnym przedstawianiem rzeczywistości. Model może doskonale naśladować sposób, w jaki człowiek opisuje fakty, nie mając jednocześnie pewności, czy konkretne fakty rzeczywiście istnieją. Poprawność językowa nie jest tym samym co prawdziwość. Logiczna konstrukcja wypowiedzi nie stanowi dowodu jej zgodności z rzeczywistością. Szczegółowość również nie gwarantuje rzetelności.

Problem komplikuje się jeszcze bardziej, gdy użytkownik oczekuje jednoznacznej odpowiedzi. Wiele osób zadaje pytania w taki sposób, jakby system miał obowiązek znać rozwiązanie. Oczekują konkretnej daty, nazwiska, przepisu, źródła lub liczby. Tymczasem uczciwa odpowiedź powinna czasami brzmieć: „Nie wiem”, „Nie mam wystarczających danych” albo „Nie mogę tego potwierdzić”. Nie każdy model równie dobrze radzi sobie z sygnalizowaniem niepewności. Niektóre systemy mogą wygenerować odpowiedź mimo braku odpowiednich informacji, zamiast wyraźnie zaznaczyć ograniczenia swojej wiedzy.

Właśnie w takich sytuacjach pojawia się jedno z najbardziej charakterystycznych zagrożeń: pozorna pewność. Człowiek może pomylić stanowczy ton wypowiedzi z wiarygodnością informacji. Jeżeli AI odpowiada bez wahania, podaje szczegóły i nie sygnalizuje żadnych wątpliwości, użytkownik może uznać, że system rzeczywiście zna odpowiedź. Tymczasem sposób sformułowania wypowiedzi nie musi odzwierciedlać poziomu jej prawdziwości.

Warto zauważyć, że podobny problem występuje również w komunikacji międzyludzkiej. Ludzie często oceniają wiarygodność rozmówcy na podstawie sposobu mówienia, pewności siebie, płynności wypowiedzi i umiejętności argumentowania. Osoba, która mówi spokojnie i zdecydowanie, może wydawać się lepiej poinformowana niż ktoś, kto ostrożnie przedstawia swoje wątpliwości. W przypadku sztucznej inteligencji ten mechanizm może być jeszcze silniejszy. Model potrafi tworzyć uporządkowane, płynne wypowiedzi niemal na każdy temat, a jego styl nie musi ujawniać, czy odpowiedź jest dobrze uzasadniona.

Nie chodzi więc wyłącznie o technologię. Chodzi również o człowieka, jego sposób myślenia i naturalną skłonność do ufania informacjom, które wyglądają na kompletne i profesjonalne. Sztuczna inteligencja trafia w wiele mechanizmów psychologicznych, które od dawna wpływają na ocenę informacji. Jeżeli odpowiedź zgadza się z naszymi wcześniejszymi przekonaniami, łatwiej ją zaakceptować. Jeżeli została przedstawiona w sposób uporządkowany i zawiera konkretne szczegóły, może wydawać się bardziej wiarygodna. Jeżeli otrzymaliśmy ją szybko i bez wysiłku, możemy nie mieć motywacji, aby sprawdzać jej poprawność.

Dodatkowym czynnikiem jest sposób, w jaki rozmawiamy z asystentami AI. Interfejs przypomina zwykłą rozmowę, a odpowiedzi są formułowane w pierwszej osobie, często z użyciem naturalnych zwrotów, uprzejmości i wyjaśnień. System może napisać, że coś sprawdził, przeanalizował, porównał lub ustalił. Taki język ułatwia korzystanie z narzędzia, ale może również prowadzić do błędnego wyobrażenia o jego możliwościach. Użytkownik zaczyna traktować system jak rozmówcę, który rozumie pytanie, zna odpowiedź i świadomie przekazuje informacje.

Tymczasem naturalna forma komunikacji nie oznacza ludzkiego sposobu myślenia. To, że AI potrafi prowadzić rozmowę, nie oznacza, że posiada ludzką świadomość. To, że potrafi wyjaśnić pojęcie, nie dowodzi, że rozumie je w taki sam sposób jak ekspert. To, że potrafi przeprosić za pomyłkę, nie oznacza, że odczuwa odpowiedzialność za błąd. Rozróżnienie między tym, co system potrafi wygenerować, a tym, co rzeczywiście może zagwarantować, ma fundamentalne znaczenie dla bezpiecznego korzystania z tej technologii.

W tej książce przyjrzymy się również temu, dlaczego sztuczna inteligencja potrafi tworzyć fikcyjne źródła i bibliografie. Jest to szczególnie ważne dla uczniów, studentów, nauczycieli, dziennikarzy, autorów książek i wszystkich osób, które wykorzystują AI do przygotowywania tekstów opartych na faktach. Model może podać tytuł publikacji, nazwisko autora, rok wydania, numer czasopisma, a nawet adres internetowy. Wszystkie te elementy mogą wyglądać prawdopodobnie, choć wskazana publikacja w rzeczywistości nie istnieje. Zdarza się również, że źródło jest prawdziwe, ale nie potwierdza informacji, do której zostało przypisane.

Niebezpieczeństwo polega na tym, że fikcyjne źródło może nadać nieprawdziwej informacji pozory naukowej wiarygodności. Osoba, która nie sprawdzi bibliografii, może uznać, że przedstawione twierdzenie zostało potwierdzone przez badaczy. Jeżeli następnie wykorzysta je w artykule, pracy dyplomowej, raporcie lub książce, błąd zostanie przeniesiony do kolejnego materiału. W ten sposób informacja, która powstała jako niepotwierdzona odpowiedź modelu, może zacząć funkcjonować w obiegu jako pozorny fakt.

Podobny mechanizm dotyczy prawa, medycyny, finansów i innych dziedzin, w których pomyłka może mieć poważne konsekwencje. Nieprawidłowo wskazany przepis może doprowadzić do błędnego zrozumienia obowiązków. Niewłaściwa interpretacja objawów może opóźnić kontakt ze specjalistą. Błędne obliczenia finansowe mogą wpłynąć na decyzję o wydatkach lub inwestycji. W takich obszarach odpowiedź wygenerowana przez AI nie powinna być traktowana jako ostateczne rozstrzygnięcie. Może stanowić punkt wyjścia do dalszego poszukiwania informacji, ale wymaga weryfikacji w odpowiednich, wiarygodnych źródłach.

Ważnym tematem będzie również wpływ samego pytania na jakość otrzymywanej odpowiedzi. Użytkownik nie zawsze zdaje sobie sprawę, że sposób sformułowania polecenia może zwiększyć ryzyko błędu. Pytanie sugerujące określoną odpowiedź może skłonić model do rozwijania założenia, które od początku było nieprawdziwe. Jeżeli ktoś zapyta: „Dlaczego znany naukowiec ukrywał wyniki swoich badań?”, system może potraktować ukrywanie wyników jako fakt i rozpocząć tworzenie wyjaśnienia. Tymczasem samo założenie zawarte w pytaniu może być fałszywe.

Nie oznacza to, że każde błędne założenie użytkownika automatycznie doprowadzi do nieprawdziwej odpowiedzi. Oznacza jednak, że sposób zadawania pytań ma znaczenie. Warto nauczyć się formułować polecenia, które pozostawiają miejsce na zakwestionowanie założeń, wskazanie niepewności i oddzielenie faktów od przypuszczeń. Zamiast oczekiwać potwierdzenia własnej tezy, lepiej poprosić system o jej krytyczną analizę i wskazanie dowodów, które mogą ją potwierdzić lub obalić.

Kolejnym zagadnieniem będzie zmienność wiedzy. Sztuczna inteligencja może bazować na danych pochodzących z określonego okresu, korzystać z informacji udostępnionych w trakcie rozmowy albo wykorzystywać dodatkowe narzędzia wyszukujące i analizujące aktualne materiały. Nie każdy system ma dostęp do bieżącego internetu, a nawet jeśli go posiada, nie oznacza to, że każda odpowiedź została oparta na aktualnych źródłach. Informacje dotyczące przepisów, cen, stanowisk instytucji, wyników badań, wydarzeń politycznych czy dostępności produktów mogą się zmieniać. Odpowiedź, która była poprawna kilka miesięcy wcześniej, nie musi być prawdziwa dzisiaj.

Sama obecność funkcji wyszukiwania również nie rozwiązuje wszystkich problemów. System może znaleźć nieaktualną stronę, niewiarygodny artykuł, błędnie zinterpretować dokument albo wyciągnąć wnioski, których źródło nie uzasadnia. Może też połączyć kilka informacji w sposób prowadzący do błędnego rezultatu. Dlatego weryfikacja powinna obejmować nie tylko sprawdzenie, czy wskazany materiał istnieje, ale również ocenę jego wiarygodności, aktualności i zgodności z konkretnym twierdzeniem.

Celem tej publikacji nie jest zniechęcanie do korzystania ze sztucznej inteligencji. Byłoby to nie tylko nieuzasadnione, ale również mało praktyczne. AI oferuje wiele wartościowych możliwości i może znacząco ułatwić naukę, pracę oraz codzienne funkcjonowanie. Potrafi pomagać w porządkowaniu informacji, wyjaśnianiu trudnych zagadnień, tworzeniu pierwszych wersji tekstów, analizowaniu danych i szukaniu nowych rozwiązań. W wielu zadaniach może być niezwykle użytecznym wsparciem. Warunkiem jest jednak zrozumienie, że jej odpowiedzi nie są automatycznie prawdziwe tylko dlatego, że zostały wygenerowane przez zaawansowany system.

Nie chodzi również o to, aby każdą wypowiedź AI traktować z podejrzliwością i poświęcać wiele godzin na sprawdzanie każdej drobnej informacji. Taki sposób korzystania z technologii byłby nieefektywny. Potrzebna jest raczej umiejętność oceny ryzyka. Inaczej należy podejść do prośby o przygotowanie przykładowego planu dnia, inaczej do wyjaśnienia podstawowego pojęcia, a jeszcze inaczej do informacji, która ma zostać wykorzystana w publikacji naukowej, dokumencie prawnym lub decyzji finansowej. Im większe znaczenie ma dana informacja i im poważniejsze mogą być skutki pomyłki, tym dokładniejsza powinna być jej weryfikacja.

W kolejnych częściach książki przeanalizujemy mechanizmy powstawania nieprawdziwych odpowiedzi, ograniczenia modeli językowych, wpływ danych treningowych oraz rolę kontekstu i sposobu zadawania pytań. Przyjrzymy się temu, dlaczego AI potrafi wymyślać nazwiska, cytaty, publikacje i wydarzenia, dlaczego czasami zmienia zdanie pod wpływem kolejnych poleceń oraz dlaczego może przedstawiać błędne informacje z dużą pewnością siebie. Zbadamy również, w jaki sposób człowiek odbiera odpowiedzi generowane przez maszyny i dlaczego naturalny język oraz pozorna kompetencja systemu mogą prowadzić do nadmiernego zaufania.

Istotną częścią rozważań będą praktyczne metody sprawdzania informacji. Nie wystarczy ogólne zalecenie, aby nie ufać bezgranicznie sztucznej inteligencji. Potrzebne są konkretne umiejętności: sprawdzanie źródeł, porównywanie informacji, rozpoznawanie nieuzasadnionych twierdzeń, kontrolowanie dat i liczb, odróżnianie faktów od interpretacji oraz zadawanie dodatkowych pytań. Pokażemy, jak formułować polecenia, które pomagają ograniczyć ryzyko zmyślania, jak prosić o wskazanie poziomu niepewności i jak sprawdzać, czy przywołane źródło rzeczywiście potwierdza przedstawioną informację.

Ważne będzie także poznanie granic odpowiedzialnego wykorzystania AI. System może pomóc przygotować tekst, ale autor powinien sprawdzić jego treść. Może wskazać możliwe rozwiązania problemu, ale użytkownik musi ocenić ich zasadność. Może przeanalizować dokument, ale nie powinien automatycznie zastępować profesjonalnej konsultacji w sprawach wymagających specjalistycznej oceny. Odpowiedzialność za wykorzystanie wygenerowanej informacji pozostaje po stronie człowieka.

Warto przy tym unikać dwóch skrajności. Pierwszą jest bezwarunkowe zaufanie, zgodnie z którym AI zawsze wie, co mówi, a jej odpowiedzi można wykorzystywać bez sprawdzania. Drugą jest całkowite odrzucenie technologii z powodu jej niedoskonałości. Obie postawy utrudniają racjonalne korzystanie z narzędzi, które mogą być jednocześnie bardzo pomocne i podatne na błędy. Znacznie rozsądniejsze jest podejście oparte na świadomym zaufaniu: korzystaniu z możliwości systemu, ale z uwzględnieniem jego ograniczeń.

Przydatne może być przyjęcie prostej zasady: im bardziej konkretne i istotne twierdzenie przedstawia sztuczna inteligencja, tym bardziej powinno interesować nas jego uzasadnienie. Jeżeli system podaje nazwisko, datę, wynik badania, numer przepisu lub cytat, warto sprawdzić, skąd pochodzi ta informacja. Jeżeli przedstawia interpretację, należy ustalić, na jakich faktach ją opiera. Jeżeli nie potrafi wskazać wiarygodnego źródła, nie powinno się traktować jego wypowiedzi jako potwierdzonego faktu. Brak dowodu nie zawsze oznacza, że informacja jest fałszywa, ale z pewnością oznacza, że nie została wystarczająco zweryfikowana.

Szczególnie ważne jest, aby nie mylić odpowiedzi prawdopodobnej z odpowiedzią prawdziwą. To rozróżnienie będzie powracać w całej książce. Prawdopodobieństwo może pomóc modelowi wygenerować wypowiedź pasującą do kontekstu, ale nie stanowi samo w sobie dowodu, że opisane zdarzenie miało miejsce. Model może stworzyć bardzo przekonującą historię, ponieważ nauczył się, jak wyglądają podobne historie. Może wygenerować bibliografię, ponieważ zna strukturę zapisów bibliograficznych. Może przedstawić argumentację prawną, ponieważ rozpoznaje sposób konstruowania takich wypowiedzi. Żadna z tych umiejętności nie gwarantuje jednak, że konkretna historia, publikacja czy interpretacja są prawdziwe.

Świadomość tego mechanizmu zmienia sposób korzystania z AI. Zamiast pytać wyłącznie o gotową odpowiedź, zaczynamy interesować się jej podstawami. Zamiast przyjmować pierwsze wyjaśnienie, porównujemy je z innymi źródłami. Zamiast traktować płynność wypowiedzi jako oznakę kompetencji, oceniamy konkretne dowody. Zamiast oczekiwać, że system będzie nieomylny, uczymy się wykorzystywać go w sposób, który uwzględnia możliwość błędu.

To właśnie jest najważniejsza umiejętność, którą warto wynieść z lektury tej książki. Nie chodzi o zapamiętanie listy przypadków, w których sztuczna inteligencja się myli, ponieważ takich sytuacji mogą pojawiać się coraz więcej wraz z rozwojem technologii i jej zastosowań. Chodzi o wypracowanie sposobu myślenia, który pozwoli rozpoznać ryzyko również wtedy, gdy spotkamy się z nowym narzędziem, nieznanym modelem lub niecodziennym zastosowaniem AI.

Sztuczna inteligencja będzie coraz częściej obecna w naszym otoczeniu. Możemy spotkać ją w wyszukiwarkach, programach biurowych, aplikacjach edukacyjnych, systemach obsługi klienta, narzędziach analitycznych i urządzeniach codziennego użytku. Jej odpowiedzi mogą wpływać na to, jakie informacje uznajemy za prawdziwe, jakie decyzje podejmujemy i jakie treści przekazujemy innym. Z tego powodu umiejętność krytycznej oceny informacji generowanych przez AI staje się ważną częścią współczesnej wiedzy.

Nie musimy być programistami ani specjalistami od uczenia maszynowego, aby rozumieć podstawowe mechanizmy działania tych systemów. Nie musimy również znać technicznych szczegółów każdej architektury modelu. Wystarczy poznać najważniejsze zasady, zrozumieć źródła błędów i nauczyć się zadawać właściwe pytania. Dzięki temu łatwiej będzie odróżnić odpowiedź użyteczną od odpowiedzi, która jedynie sprawia takie wrażenie.

Tytułowe pytanie o kłamstwo sztucznej inteligencji nie jest więc wyłącznie technologiczną ciekawostką. Dotyczy znacznie szerszego problemu: naszej relacji z informacją, zaufania do nowych narzędzi i odpowiedzialności za to, co uznajemy za prawdę. W świecie, w którym odpowiedź można wygenerować w kilka sekund, coraz większego znaczenia nabiera umiejętność sprawdzenia, czy rzeczywiście jest ona zgodna z rzeczywistością.

Warto korzystać z możliwości AI, ale nie warto oddawać jej własnego krytycznego myślenia. Można pozwolić jej pomagać w poszukiwaniu informacji, porządkowaniu argumentów i wyjaśnianiu skomplikowanych zagadnień, jednocześnie pamiętając, że ostateczna ocena należy do człowieka. To nie brak zaufania do technologii, lecz dojrzały sposób korzystania z jej możliwości.

Sztuczna inteligencja może brzmieć przekonująco, nawet gdy się myli. Może tworzyć odpowiedzi, które wyglądają jak wiedza, choć są jedynie prawdopodobnie brzmiącymi konstrukcjami. Może pomóc nam znaleźć prawdę, ale może również oddalić nas od niej, jeśli bezrefleksyjnie zaakceptujemy wszystko, co wygeneruje.

Dlatego najważniejsze pytanie nie brzmi wyłącznie: „Czy AI kłamie?”. Równie ważne jest inne: „Czy potrafimy rozpoznać moment, w którym AI mówi nieprawdę?”.

Od odpowiedzi na to pytanie zależy, czy sztuczna inteligencja stanie się dla nas wartościowym źródłem wsparcia, czy narzędziem, któremu będziemy powierzać zbyt wiele, nie rozumiejąc jego ograniczeń. Ta książka ma pomóc dokonać tego rozróżnienia i nauczyć się korzystać z AI świadomie, krytycznie oraz odpowiedzialnie.

ROZDZIAŁ 1. Czy sztuczna inteligencja potrafi kłamać?

Pojawienie się sztucznej inteligencji zdolnej do prowadzenia naturalnych rozmów zmieniło sposób, w jaki ludzie korzystają z informacji. Jeszcze niedawno komputer był przede wszystkim narzędziem wykonującym polecenia według ściśle określonych instrukcji. Aby uzyskać odpowiedź, należało wpisać odpowiednie zapytanie, przejrzeć wyniki wyszukiwania i samodzielnie wybrać informacje, które wydawały się przydatne. Współczesne systemy AI działają w sposób znacznie bardziej zbliżony do zwykłej komunikacji. Można zadać im pytanie, poprosić o wyjaśnienie, zakwestionować odpowiedź, poprosić o przykład, a następnie kontynuować rozmowę. System potrafi dostosować styl wypowiedzi, uwzględniać wcześniejszy kontekst i przedstawiać informacje w formie przypominającej rozmowę z kompetentnym człowiekiem.

Ta naturalność komunikacji sprawia, że użytkownicy coraz częściej traktują sztuczną inteligencję jak rozmówcę, który posiada wiedzę i potrafi się nią dzielić. W wielu sytuacjach takie podejście jest wygodne. Nie trzeba znać specjalistycznych poleceń ani uczyć się skomplikowanej obsługi programu. Wystarczy opisać problem własnymi słowami. Można poprosić o streszczenie dokumentu, wyjaśnienie zagadnienia historycznego, analizę umowy, porównanie produktów albo przygotowanie tekstu. Odpowiedź pojawia się szybko i często wygląda na kompletną.

Jednak właśnie ta wygoda może prowadzić do poważnego nieporozumienia. Człowiek przyzwyczajony do rozmów z innymi ludźmi zakłada, że rozmówca w pewnym stopniu rozumie znaczenie wypowiadanych słów, odróżnia prawdę od fałszu i potrafi świadomie zdecydować, czy chce przekazać prawdziwą informację. W przypadku sztucznej inteligencji nie można automatycznie przyjmować takich założeń. System może wygenerować wypowiedź, która przypomina przemyślaną odpowiedź człowieka, ale mechanizm jej powstawania jest inny.

Dlatego pytanie, czy sztuczna inteligencja potrafi kłamać, wymaga najpierw ustalenia, co właściwie rozumiemy przez kłamstwo. W codziennym języku używamy tego określenia dość swobodnie. Mówimy, że ktoś kłamie, kiedy przekazuje nieprawdziwą informację, ukrywa fakty, przedstawia wydarzenia w sposób niezgodny z rzeczywistością lub próbuje przekonać innych do czegoś, co nie jest prawdą. Jednak w bardziej precyzyjnym znaczeniu kłamstwo nie jest po prostu każdą nieprawdziwą wypowiedzią.

Istotnym elementem kłamstwa jest intencja. Człowiek, który świadomie kłamie, zazwyczaj wie lub przynajmniej uważa, że zna prawdę, ale celowo przedstawia inną wersję wydarzeń. Robi to po to, aby ktoś uwierzył w nieprawdziwe twierdzenie, nie poznał określonego faktu albo podjął decyzję na podstawie błędnych informacji. Kłamstwo może służyć osiągnięciu korzyści, uniknięciu odpowiedzialności, ochronie własnego wizerunku, wywarciu wpływu na drugą osobę lub manipulowaniu jej zachowaniem.

Przykładem może być pracownik, który wie, że nie wykonał powierzonego mu zadania, ale informuje przełożonego, że wszystko zostało zakończone. Nie pomylił się i nie przekazał informacji przez przypadek. Zna rzeczywisty stan rzeczy, a mimo to świadomie przedstawia nieprawdę. Podobnie postępuje sprzedawca, który wie o poważnej wadzie produktu, ale zapewnia klienta, że urządzenie jest w pełni sprawne. W obu sytuacjach nieprawdziwa wypowiedź jest związana z zamiarem wprowadzenia drugiej osoby w błąd.

Można oczywiście przekazać nieprawdziwą informację bez zamiaru kłamania. Człowiek może pomylić datę, źle zapamiętać nazwisko, wykorzystać nieaktualne dane albo powtórzyć wiadomość, którą uznał za prawdziwą. Jeżeli nie wie, że się myli, nie musi oznaczać to świadomego oszustwa. Nadal jednak przekazuje informację niezgodną z rzeczywistością. Właśnie to rozróżnienie jest niezwykle ważne w przypadku sztucznej inteligencji.

W odniesieniu do modeli językowych określenie „kłamstwo” może być używane w znaczeniu potocznym, ale nie zawsze jest precyzyjne. Jeżeli system podaje nieistniejący tytuł książki, wymyśla cytat lub błędnie opisuje wydarzenie historyczne, możemy powiedzieć, że skłamał. Takie sformułowanie jest zrozumiałe, ponieważ opisuje efekt działania technologii z perspektywy użytkownika. Nie oznacza jednak automatycznie, że model świadomie zdecydował się oszukać rozmówcę.

Współczesne modele językowe nie działają na zasadzie ludzkiego podejmowania decyzji. Nie należy zakładać, że posiadają własne przekonania, wiedzę o świecie i intencje w takim znaczeniu, w jakim posiada je człowiek. Generują tekst na podstawie wyuczonych zależności, informacji zawartych w kontekście rozmowy oraz mechanizmów obliczeniowych. Ich zadaniem jest tworzenie odpowiedzi pasujących do otrzymanego polecenia i sytuacji komunikacyjnej. Mogą robić to z niezwykłą sprawnością, ale nie oznacza to, że każda wygenerowana wypowiedź została świadomie sprawdzona pod kątem zgodności z rzeczywistością.

Warto przy tym odróżnić modele językowe od całych systemów AI. Niektóre rozwiązania wykorzystują dodatkowe mechanizmy, takie jak wyszukiwarki internetowe, bazy danych, narzędzia obliczeniowe czy systemy wykonujące określone działania. Mogą również otrzymywać instrukcje, które ograniczają ich zachowanie, wymagają sprawdzania informacji lub nakazują sygnalizowanie niepewności. Nie zmienia to jednak podstawowego faktu: samo wygenerowanie poprawnie brzmiącego zdania nie jest dowodem, że jego treść została zweryfikowana.

Dobrym przykładem jest sytuacja, w której użytkownik prosi AI o podanie pięciu publikacji naukowych na temat konkretnego zagadnienia. System może przygotować listę zawierającą nazwiska autorów, tytuły artykułów, nazwy czasopism, lata publikacji i numery stron. Wszystko będzie wyglądało profesjonalnie. Możliwe jednak, że część wskazanych pozycji nie istnieje. Model może połączyć prawdziwe nazwiska z wymyślonymi tytułami albo stworzyć publikację, której opis przypomina rzeczywisty zapis bibliograficzny. Nie musi przy tym mieć zamiaru oszukania użytkownika. Może po prostu wygenerować tekst odpowiadający wzorcowi, którego nauczył się podczas treningu.

Z punktu widzenia osoby korzystającej z narzędzia efekt jest jednak taki sam, jak w przypadku otrzymania fałszywej informacji od człowieka. Użytkownik może uwierzyć, że publikacje istnieją, poświęcić czas na ich poszukiwanie, wykorzystać je w pracy lub umieścić w bibliografii własnej książki. Jeżeli nie sprawdzi odpowiedzi, nieprawdziwe dane mogą zostać rozpowszechnione dalej. Brak intencji oszukiwania po stronie systemu nie usuwa zatem praktycznych konsekwencji jego błędów.

Aby lepiej zrozumieć, dlaczego AI może generować nieprawdziwe informacje, trzeba przyjrzeć się ogólnej zasadzie działania modeli językowych. Podczas treningu analizują one ogromne ilości tekstów i uczą się rozpoznawać zależności między słowami, zdaniami oraz fragmentami wypowiedzi. Na tej podstawie potrafią przewidywać, jakie elementy języka mogą pojawić się w określonym kontekście. W uproszczeniu można powiedzieć, że model uczy się tworzyć tekst, który pasuje do otrzymanego polecenia i dotychczasowego przebiegu rozmowy.

Nie oznacza to, że model za każdym razem odnajduje w swojej pamięci gotowy, sprawdzony dokument zawierający odpowiedź. Nie działa też jak tradycyjna encyklopedia, w której każda informacja ma przypisany konkretny wpis i źródło. Wygenerowana wypowiedź powstaje w wyniku złożonych obliczeń opartych na wyuczonych wzorcach. Dzięki temu system może tworzyć nowe zdania, wyjaśnienia i przykłady, których wcześniej nie widział w dokładnie takiej postaci.

Ta zdolność jest jedną z największych zalet współczesnej sztucznej inteligencji, ale jednocześnie stanowi źródło pewnych ograniczeń. Model może stworzyć odpowiedź, która jest językowo i logicznie prawdopodobna, nawet jeśli nie ma wystarczających podstaw do potwierdzenia jej treści. Może dopasować brakujące szczegóły do znanego schematu. Może połączyć kilka podobnych informacji i stworzyć z nich nową, nieprawdziwą całość. Może również wygenerować konkretną datę lub nazwisko, ponieważ taka odpowiedź pasuje do konstrukcji pytania.

Przykładowo użytkownik może zapytać: „Kto był autorem książki wydanej w 1847 roku pod tytułem X?”. Jeżeli wskazany tytuł nie istnieje, system powinien rozpoznać problem i poinformować o braku możliwości potwierdzenia jego istnienia. Niektóre modele mogą jednak próbować dopasować pytanie do znanych im wzorców literackich. Mogą wskazać autora, który w tym okresie rzeczywiście tworzył, podać prawdopodobnie brzmiący opis publikacji i rozwinąć odpowiedź o dodatkowe szczegóły. W efekcie powstanie wypowiedź, która wygląda jak wynik wiedzy historycznoliterackiej, choć jej punkt wyjścia był nieprawdziwy.

To właśnie jeden z powodów, dla których w przypadku AI tak istotne jest odróżnienie płynności wypowiedzi od wiarygodności informacji. Człowiek często ocenia rozmówcę na podstawie sposobu, w jaki się wypowiada. Jeżeli ktoś mówi jasno, spokojnie, używa właściwych pojęć i potrafi przedstawić argumenty, może sprawiać wrażenie osoby dobrze przygotowanej. W naturalnej komunikacji takie sygnały bywają przydatne, choć również mogą nas zwodzić. W przypadku sztucznej inteligencji ich znaczenie jest jeszcze bardziej ograniczone, ponieważ system może generować bardzo przekonujący tekst bez pewności, że opisuje prawdziwe wydarzenia.

Model językowy potrafi zachować profesjonalny styl nawet wtedy, gdy popełnia podstawowy błąd. Może przygotować odpowiedź złożoną z kilku akapitów, uporządkować ją w logiczne punkty, dodać przykłady i podsumowanie. Może również używać specjalistycznego słownictwa właściwego dla określonej dziedziny. Wszystko to może sprawiać wrażenie, że informacja została dokładnie przeanalizowana. Tymczasem forma odpowiedzi nie musi mieć związku z jej rzeczywistą jakością.

Wyobraźmy sobie dwie sytuacje. W pierwszej człowiek pyta znajomego o nazwę małej miejscowości, której nigdy wcześniej nie odwiedzał. Znajomy odpowiada: „Nie jestem pewien, chyba chodzi o miejscowość położoną niedaleko Krakowa, ale musiałbym to sprawdzić”. W drugiej ten sam człowiek zadaje pytanie asystentowi AI. System odpowiada: „Miejscowość znajduje się około 35 kilometrów na północny zachód od Krakowa, w pobliżu ważnego szlaku komunikacyjnego, a jej historia sięga średniowiecza”. Druga odpowiedź jest bardziej szczegółowa i brzmi profesjonalnie. Nie oznacza to jednak, że jest prawdziwa. Być może system podał poprawną lokalizację, ale wymyślił odległość i historię. Być może wszystkie szczegóły są błędne.

W tym przykładzie szczególnie ważne jest to, że użytkownik nie otrzymuje wyraźnego sygnału ostrzegawczego. Nie widzi wahania, nie słyszy niepewnego tonu ani nie obserwuje zachowania, które mogłoby sugerować brak wiedzy. Otrzymuje gotową odpowiedź, którą łatwo uznać za rezultat sprawdzenia faktów. Jeżeli nie ma doświadczenia w danej dziedzinie, może nie być w stanie samodzielnie ocenić jej poprawności.

Problem ten jest związany z jeszcze jednym istotnym zagadnieniem: czy sztuczna inteligencja rozumie prawdę i fałsz? W codziennym języku często mówimy, że system „wie”, „rozumie”, „pamięta” albo „uważa”. Takie określenia są wygodne, ponieważ pozwalają opisywać skomplikowane działanie technologii za pomocą znanych pojęć. Trzeba jednak pamiętać, że nie zawsze należy interpretować je dosłownie.

Człowiek poznaje świat na wiele sposobów. Odbiera informacje za pomocą zmysłów, obserwuje wydarzenia, porównuje doświadczenia, uczy się na błędach, rozpoznaje relacje przyczynowo-skutkowe i buduje własne wyobrażenie rzeczywistości. Jego rozumienie prawdy wiąże się z doświadczeniem, pamięcią, wiedzą, zdolnością do refleksji oraz oceną dowodów. Potrafi również świadomie zmienić zdanie, kiedy otrzyma nowe informacje, i zastanowić się, dlaczego wcześniejsze przekonanie było błędne.

Model językowy działa inaczej. Potrafi analizować treść pytania, rozpoznawać zależności między pojęciami, przedstawiać argumenty i porównywać informacje. Może również wskazać sprzeczności w tekście lub wyjaśnić, dlaczego określone twierdzenie jest niezgodne z powszechnie znanymi faktami. Nie oznacza to jednak, że posiada ludzkie doświadczenie prawdy. Nie należy zakładać, że każde zdanie generuje po wcześniejszym świadomym rozważeniu, czy odpowiada ono rzeczywistości.

Można to porównać do bardzo zaawansowanego systemu, który nauczył się rozpoznawać i odtwarzać struktury języka. Potrafi opisać zasady działania silnika, ale nie oznacza to, że samodzielnie doświadczył pracy mechanika. Potrafi wyjaśnić przebieg burzy, ale nie musi posiadać doświadczenia obserwowania jej z okna. Potrafi przygotować analizę historyczną, lecz nie jest świadkiem opisywanych wydarzeń. Jego możliwości wynikają z przetwarzania informacji, a nie z ludzkiego rodzaju doświadczenia.

Nie należy jednak popadać w drugą skrajność i twierdzić, że modele językowe w ogóle nie potrafią rozróżniać prawdziwych i fałszywych twierdzeń. W praktyce wiele z nich radzi sobie z takimi zadaniami całkiem dobrze. Mogą rozpoznawać powszechnie znane fakty, wskazywać oczywiste sprzeczności, analizować argumentację i oceniać wiarygodność niektórych stwierdzeń. Potrafią również korzystać z dodatkowych narzędzi, które pozwalają sprawdzić informacje w źródłach zewnętrznych. Problem polega na tym, że skuteczność tych działań nie jest nieograniczona ani jednakowa w każdej sytuacji.

System może poprawnie rozpoznać, że Ziemia krąży wokół Słońca, a jednocześnie pomylić szczegóły mniej znanego wydarzenia historycznego. Może trafnie wyjaśnić podstawowe zasady działania podatków, ale podać nieaktualny próg lub błędnie wskazać konkretny przepis. Może poprawnie streścić dostarczony dokument, lecz pomylić dane liczbowe albo pominąć istotne zastrzeżenie. Wiedza modelu nie jest równomierna, a jego sprawność w jednej dziedzinie nie gwarantuje takiej samej jakości odpowiedzi w innej.

Szczególnie problematyczne są pytania, na które trudno znaleźć jednoznaczną odpowiedź. Mogą dotyczyć rzadkich wydarzeń, mało znanych osób, lokalnej historii, specjalistycznych zagadnień naukowych lub informacji, które niedawno uległy zmianie. Jeżeli model nie ma dostępu do odpowiednich danych, może próbować uzupełnić brakujące elementy. Im bardziej szczegółowego rezultatu oczekuje użytkownik, tym większe znaczenie ma sprawdzenie, czy system rzeczywiście dysponuje podstawami do jego przygotowania.

Warto również pamiętać, że nieprawdziwa odpowiedź nie zawsze jest całkowicie zmyślona. Czasami składa się z elementów prawdziwych, które zostały połączone w błędny sposób. Model może poprawnie wskazać nazwę instytucji, ale przypisać jej nieistniejący dokument. Może opisać prawdziwe badanie, lecz wyciągnąć z niego wnioski, których autorzy nie przedstawili. Może przytoczyć rzeczywisty cytat, ale przypisać go niewłaściwej osobie. Takie błędy bywają bardziej niebezpieczne niż całkowicie absurdalne odpowiedzi, ponieważ łatwiej przechodzą niezauważone.

Przykładem może być odpowiedź dotycząca znanego wydarzenia historycznego. System poprawnie wskazuje jego datę, miejsce i głównych uczestników, ale dodaje nieprawdziwy szczegół dotyczący przyczyny lub przebiegu zdarzenia. Osoba znająca podstawowe fakty może uznać całą wypowiedź za wiarygodną, ponieważ rozpoznaje w niej wiele prawdziwych elementów. Nie zauważy, że jeden z pozornie drobnych szczegółów zmienia znaczenie całego opisu.

Jeszcze trudniejsza sytuacja pojawia się wtedy, gdy użytkownik nie zna odpowiedzi na zadane pytanie. Jeżeli pytamy o coś, o czym wiemy bardzo dużo, możemy łatwo wychwycić błąd. Jeżeli jednak korzystamy z AI właśnie po to, aby zdobyć nową wiedzę, nie mamy wystarczających podstaw do samodzielnej oceny. W takiej sytuacji szczególnie łatwo zaakceptować nieprawdziwe informacje. Paradoks polega na tym, że im mniej wiemy o danym temacie, tym bardziej możemy polegać na odpowiedzi systemu, którego ograniczeń również nie znamy.

Dlatego tak ważne jest, aby nie traktować sztucznej inteligencji jako ostatecznego autorytetu. Może być pomocnym narzędziem w zdobywaniu wiedzy, ale nie powinna zastępować samodzielnego myślenia i sprawdzania informacji. Jeżeli odpowiedź ma zostać wykorzystana w ważnym dokumencie, publikacji, pracy zawodowej lub decyzji o poważnych konsekwencjach, należy zweryfikować ją w wiarygodnych źródłach.

Nie oznacza to konieczności sprawdzania każdej drobnej sugestii. Jeżeli prosimy AI o wymyślenie nazwy dla fikcyjnej firmy, przygotowanie przykładowego planu weekendu lub zaproponowanie kilku pomysłów na prezent, nieprawdziwe informacje mają zazwyczaj niewielkie znaczenie. Sytuacja wygląda inaczej, gdy system podaje konkretny przepis prawny, wynik badania naukowego, informację o bezpieczeństwie produktu lub dane dotyczące zdrowia. Wtedy trzeba ocenić, jakie skutki może mieć ewentualny błąd.

Warto przyjąć zasadę, że poziom kontroli powinien być proporcjonalny do znaczenia informacji. Im większe ryzyko związane z jej wykorzystaniem, tym dokładniej należy sprawdzić odpowiedź. W przypadku informacji o charakterze specjalistycznym warto korzystać z dokumentów źródłowych, oficjalnych stron instytucji, publikacji naukowych i opinii odpowiednich specjalistów. Sama odpowiedź AI nie powinna być traktowana jako dowód na prawdziwość przedstawionego twierdzenia.

Istotnym elementem odpowiedzialnego korzystania z technologii jest również umiejętność rozpoznawania granic własnej wiedzy. Użytkownik nie musi znać wszystkich odpowiedzi, ale powinien wiedzieć, kiedy nie jest w stanie samodzielnie ocenić otrzymanej informacji. Jeżeli AI przedstawia szczegółową analizę zagadnienia, którego nie rozumiemy, warto poprosić o wyjaśnienie podstaw, wskazanie źródeł i rozdzielenie informacji potwierdzonych od przypuszczeń. Następnie należy sprawdzić najważniejsze twierdzenia poza samym systemem.

Pomocne może być stosowanie poleceń, które od początku wymagają od AI większej ostrożności. Nie gwarantują one całkowitego wyeliminowania błędów, ale mogą skłaniać system do wyraźniejszego sygnalizowania niepewności i unikania przedstawiania przypuszczeń jako faktów.

PROMPT — ODRÓŻNIANIE FAKTÓW OD PRZYPUSZCZEŃ

„Odpowiadając na moje pytanie, zachowaj szczególną ostrożność w przedstawianiu informacji. Wyraźnie oddziel fakty, które można potwierdzić, od przypuszczeń, interpretacji i informacji niepewnych. Nie wymyślaj nazwisk, dat, cytatów, publikacji ani źródeł. Jeżeli nie masz wystarczających podstaw do udzielenia odpowiedzi, napisz to wprost. Nie uzupełniaj brakujących informacji treścią, która jedynie brzmi prawdopodobnie. Wskaż również, które elementy odpowiedzi powinienem samodzielnie zweryfikować”.

Takie polecenie nie sprawi, że model stanie się nieomylny. Nie zmieni też całkowicie sposobu jego działania. Może jednak pomóc użytkownikowi uzyskać bardziej ostrożną odpowiedź i zwrócić uwagę na informacje, które wymagają sprawdzenia. Najważniejsze jest to, aby nie traktować samej instrukcji jako gwarancji prawdziwości. Jeżeli system napisze, że wszystkie informacje zostały zweryfikowane, nadal trzeba ustalić, czy rzeczywiście miał możliwość ich sprawdzenia.

Warto również zwrócić uwagę na zjawisko, które można określić jako pozorne przyznawanie się do błędu. Użytkownik może wskazać systemowi nieścisłość, a AI odpowie: „Masz rację, przepraszam za pomyłkę”. Następnie przedstawi poprawioną wersję. Takie zachowanie może być pomocne, ale nie należy zakładać, że każda kolejna odpowiedź będzie już prawidłowa. System może przyjąć błędną sugestię użytkownika, zmienić stanowisko bez wystarczającej podstawy albo zastąpić jeden nieprawdziwy szczegół innym.

Przykładowo użytkownik może zapytać o datę wydarzenia, otrzymać błędną odpowiedź, a następnie zasugerować inną datę. Model może przyznać mu rację, nawet jeśli również ta druga data jest niepoprawna. Nie musi to oznaczać celowego wprowadzania w błąd. Może wynikać ze sposobu reagowania na kontekst rozmowy i prób dostosowania odpowiedzi do kolejnego polecenia. Dlatego samo uzyskanie potwierdzenia od AI nie jest wystarczającym dowodem, że dana informacja jest prawdziwa.

W praktyce warto unikać traktowania kolejnych odpowiedzi tego samego modelu jako niezależnych potwierdzeń. Jeżeli system pięć razy powtórzy tę samą informację, nie oznacza to, że została ona pięciokrotnie sprawdzona. Wszystkie odpowiedzi mogą wynikać z tego samego mechanizmu i tych samych ograniczeń. Znacznie większą wartość ma porównanie informacji z niezależnymi, wiarygodnymi źródłami, które można samodzielnie otworzyć i przeanalizować.

Szczególnie ważne jest to w sytuacji, gdy AI przedstawia argumentację mającą przekonać użytkownika do określonego stanowiska. Model potrafi tworzyć logicznie uporządkowane uzasadnienia, dobierać przykłady i wskazywać pozorne zależności. Może również przedstawić argumenty na rzecz twierdzenia, które nie zostało odpowiednio udowodnione. Sama umiejętność skonstruowania przekonującej argumentacji nie oznacza, że jej wnioski są prawdziwe.

Wyobraźmy sobie osobę, która chce potwierdzić własne przekonanie dotyczące określonego produktu. Zadaje AI pytanie: „Dlaczego ten produkt jest najlepszy na rynku?”. System może przygotować długą listę zalet, opisać parametry, wskazać potencjalne korzyści i przedstawić argumenty przemawiające za wyborem. Nie musi jednak w równym stopniu uwzględnić wad, alternatywnych produktów ani ograniczeń przedstawionych danych. Jeżeli użytkownik oczekiwał potwierdzenia swojej opinii, może otrzymać odpowiedź, która jeszcze bardziej ją utrwali.

Lepszym rozwiązaniem byłoby zadanie pytania w sposób neutralny: „Przeanalizuj zalety i wady tego produktu, porównaj go z alternatywami i wskaż, jakie informacje wymagają potwierdzenia w niezależnych źródłach”. Takie podejście nie gwarantuje obiektywizmu, ale zmniejsza ryzyko, że rozmowa od początku będzie zmierzać do potwierdzenia przyjętej tezy.

Właśnie dlatego odpowiedzialność za ocenę odpowiedzi AI nadal spoczywa na człowieku. To użytkownik decyduje, czy wykorzysta wygenerowaną informację, komu ją przekaże i jakie znaczenie nada jej w swoim działaniu. Technologia może pomóc w analizie, ale nie powinna automatycznie przejmować odpowiedzialności za skutki decyzji.

Warto rozważyć prosty przykład. Osoba prowadząca niewielką firmę prosi AI o przygotowanie informacji dotyczącej obowiązków podatkowych. Otrzymuje szczegółową odpowiedź, w której wskazano terminy, przepisy i sposób postępowania. Jeżeli przedsiębiorca bez sprawdzenia zastosuje te informacje, a okażą się nieaktualne lub błędne, konsekwencje mogą dotyczyć jego działalności. Nie wystarczy wtedy wyjaśnienie, że pomyłkę wygenerował system. To człowiek zdecydował o wykorzystaniu odpowiedzi w konkretnej sytuacji.

Podobnie jest w przypadku publikacji. Autor, który wykorzystuje AI do przygotowania rozdziału historycznego, naukowego lub popularnonaukowego, odpowiada za sprawdzenie faktów przed oddaniem tekstu do druku. Jeżeli system wymyślił cytat lub przypisał nieistniejącą publikację określonemu badaczowi, nie zwalnia to autora z obowiązku weryfikacji. Narzędzie może przyspieszyć przygotowanie materiału, ale nie zastępuje rzetelnej pracy redakcyjnej.

Odpowiedzialność człowieka nie oznacza oczywiście, że użytkownik zawsze jest w stanie samodzielnie wykryć każdy błąd. Nikt nie posiada wiedzy ze wszystkich dziedzin, a niektóre zagadnienia wymagają specjalistycznego przygotowania. Dlatego odpowiedzialne korzystanie z AI polega również na rozpoznawaniu sytuacji, w których potrzebna jest pomoc eksperta. Jeżeli sprawa dotyczy zdrowia, prawa, finansów lub bezpieczeństwa, należy korzystać z odpowiednich źródeł i profesjonalnego wsparcia, zamiast traktować model jako ostateczny autorytet.

Ważna jest również świadomość, że odpowiedzialność nie ogranicza się do samego sprawdzenia odpowiedzi. Obejmuje także sposób przekazywania informacji innym osobom. Jeżeli użytkownik publikuje tekst wygenerowany przez AI, powinien upewnić się, że jego treść jest poprawna. Jeżeli wykorzystuje odpowiedź w materiałach edukacyjnych, powinien zweryfikować fakty. Jeżeli przesyła klientowi dokument przygotowany przez system, powinien sprawdzić, czy nie zawiera on błędnych danych. Im większy zasięg i znaczenie informacji, tym większa potrzeba kontroli.

Nie można również zapominać, że sztuczna inteligencja nie zawsze jest jedynym źródłem problemu. Czasami nieprawdziwa odpowiedź wynika z niejasnego pytania, błędnych danych dostarczonych przez użytkownika, nieaktualnego dokumentu albo nieprawidłowego założenia zawartego w poleceniu. Jeżeli model otrzyma fałszywe informacje, może wykorzystać je w dalszej analizie i przedstawić wynik, który będzie wewnętrznie spójny, ale niezgodny z rzeczywistością. Dlatego warto sprawdzać nie tylko odpowiedź, lecz także dane wejściowe.

Przykładowo użytkownik może wkleić do rozmowy tabelę zawierającą błędne wartości i poprosić o analizę wyników. AI może prawidłowo wykonać wiele operacji na dostarczonych danych, ale końcowy wniosek nadal będzie błędny, ponieważ materiał źródłowy był niepoprawny. Podobnie może się stać podczas analizy dokumentu zawierającego nieaktualne informacje. System nie zawsze jest w stanie samodzielnie rozpoznać, że otrzymany materiał nie odpowiada rzeczywistości.

Dlatego przy korzystaniu z AI warto zadawać sobie trzy podstawowe pytania. Po pierwsze: skąd pochodzi informacja? Po drugie: czy istnieje możliwość jej niezależnego potwierdzenia? Po trzecie: jakie mogą być skutki, jeśli okaże się nieprawdziwa? Te pytania nie wymagają specjalistycznej wiedzy technicznej, a mogą znacząco poprawić jakość podejmowanych decyzji.

Pomocne może być również poproszenie systemu o krytyczne przeanalizowanie własnej odpowiedzi. Nie należy traktować takiej analizy jako niezależnej kontroli, ale może ona wskazać miejsca, w których istnieje ryzyko błędu.

PROMPT — KRYTYCZNA ANALIZA ODPOWIEDZI AI

„Przeanalizuj ponownie swoją poprzednią odpowiedź i poszukaj w niej możliwych błędów. Sprawdź, czy nie pojawiły się niepotwierdzone założenia, błędne daty, nazwiska, liczby, cytaty lub nieprawdziwe zależności. Wskaż twierdzenia, których nie możesz uzasadnić dostępnymi informacjami. Oddziel elementy dobrze ugruntowane od tych, które wymagają dodatkowej weryfikacji. Nie próbuj za wszelką cenę bronić wcześniejszej odpowiedzi. Jeżeli znajdziesz błąd, wyjaśnij go i przedstaw poprawioną wersję”.

Takie polecenie może być przydatne podczas pracy nad tekstem, raportem lub analizą. Warto jednak pamiętać, że model dokonujący ponownej oceny własnej wypowiedzi nadal może popełnić błąd. Może nie zauważyć nieścisłości, a nawet przedstawić dodatkowe nieprawdziwe informacje. Dlatego krytyczna analiza wykonana przez AI powinna być traktowana jako dodatkowy etap pracy, a nie jako ostateczne potwierdzenie poprawności.

W tym miejscu pojawia się jeszcze jedna ważna kwestia: czy sztuczna inteligencja może być wiarygodna, skoro potrafi się mylić? Oczywiście, że może być użyteczna i w wielu zadaniach osiąga bardzo dobre rezultaty. Nie ma jednak powodu, aby utożsamiać użyteczność z nieomylnością. Człowiek również popełnia błędy, a mimo to korzystamy z jego wiedzy i doświadczenia. Różnica polega na tym, że w przypadku AI musimy nauczyć się oceniać jej możliwości w inny sposób.

Nie powinniśmy pytać wyłącznie, czy dany model jest dobry, lecz także do jakich zadań nadaje się najlepiej, jakie ma ograniczenia i jak można sprawdzić jego rezultaty. System może być bardzo skuteczny w porządkowaniu tekstu, generowaniu pomysłów czy tworzeniu wstępnych wersji dokumentów, a jednocześnie wymagać dokładnej kontroli podczas podawania specjalistycznych faktów. Może dobrze radzić sobie z wyjaśnianiem podstawowych pojęć, ale mieć trudności z rzadkimi zagadnieniami lub informacjami wymagającymi aktualnych danych.

Świadomy użytkownik nie oczekuje więc od sztucznej inteligencji doskonałości. Oczekuje użyteczności, przewidywalności i możliwości sprawdzenia rezultatów. Wie, że odpowiedź może być błędna, dlatego nie traktuje jej jako niepodważalnego faktu. Potrafi wykorzystać mocne strony technologii, a jednocześnie zachować ostrożność w obszarach, w których ryzyko pomyłki jest wysokie.

Można zatem powiedzieć, że sztuczna inteligencja nie musi kłamać w ludzkim znaczeniu tego słowa, aby jej odpowiedzi były nieprawdziwe i mogły wprowadzać ludzi w błąd. Nie musi posiadać złych zamiarów, aby stworzyć fikcyjny cytat, błędnie opisać wydarzenie lub podać nieistniejące źródło. Nie musi rozumieć konsekwencji swojej wypowiedzi, aby człowiek potraktował ją jako wiarygodną i wykorzystał w ważnej sprawie.

To właśnie odróżnia problem nieprawdziwych odpowiedzi AI od klasycznego kłamstwa. W centrum nie znajduje się wyłącznie intencja mówiącego, lecz również mechanizm powstawania informacji, sposób jej prezentacji i reakcja odbiorcy. System może wygenerować fałszywe twierdzenie bez zamiaru oszustwa, a użytkownik może uwierzyć w nie właśnie dlatego, że zostało przedstawione w przekonujący sposób.

Najrozsądniejsze podejście polega więc na traktowaniu sztucznej inteligencji jako narzędzia wspierającego myślenie, a nie zastępującego je. Można korzystać z jej pomocy, prosić o wyjaśnienia, analizować z nią problemy i wykorzystywać jej możliwości w codziennej pracy. Nie należy jednak rezygnować z samodzielnej oceny, szczególnie wtedy, gdy odpowiedź ma wpływ na ważne decyzje lub zostanie przekazana innym osobom.

Ostatecznie pytanie o to, czy AI potrafi kłamać, prowadzi do szerszego wniosku. Współczesna technologia potrafi tworzyć wypowiedzi tak naturalne i przekonujące, że coraz trudniej odróżnić informację sprawdzoną od informacji jedynie prawdopodobnej. Dlatego w świecie sztucznej inteligencji prawdziwą umiejętnością nie jest samo uzyskiwanie odpowiedzi. Jest nią zdolność do oceny, czy odpowiedź zasługuje na zaufanie.

Nie należy wierzyć w każdą informację tylko dlatego, że została przedstawiona przez inteligentny system. Nie należy też odrzucać wszystkich odpowiedzi z obawy przed błędem. Trzeba nauczyć się rozpoznawać różnicę między tym, co AI potrafi wygenerować, a tym, co można rzeczywiście uznać za potwierdzoną wiedzę. To podstawowy warunek odpowiedzialnego korzystania z technologii, która będzie odgrywać coraz większą rolę w naszym życiu.

ROZDZIAŁ 2. Halucynacje AI — skąd biorą się zmyślone odpowiedzi

Jednym z najbardziej charakterystycznych problemów współczesnej sztucznej inteligencji jest zjawisko określane mianem halucynacji. Termin ten może wydawać się nietypowy, ponieważ kojarzy się przede wszystkim z ludzkim postrzeganiem rzeczy, które nie istnieją. W odniesieniu do sztucznej inteligencji ma jednak inne znaczenie. Opisuje sytuację, w której system generuje informację niezgodną z rzeczywistością, niepotwierdzoną dostępnymi danymi albo całkowicie zmyśloną, przedstawiając ją w sposób przypominający prawidłową odpowiedź.

Halucynacja AI może przybrać wiele postaci. Czasami jest to pojedynczy błędny szczegół w dłuższej, poprawnej wypowiedzi. Innym razem system tworzy całkowicie fikcyjny opis wydarzenia, wymyśla nazwisko autora, podaje nieistniejący tytuł publikacji lub przedstawia statystykę, której nie można znaleźć w żadnym wiarygodnym źródle. Zdarza się również, że model łączy kilka prawdziwych informacji w jedną historię, która jako całość jest nieprawdziwa.

Najważniejsze jest to, że halucynacja nie musi wyglądać jak oczywisty błąd. Nie musi zawierać absurdalnych zdań, przypadkowych słów ani informacji sprzecznych z podstawową wiedzą. Może być napisana poprawnym językiem, zawierać logiczną argumentację i szczegółowe wyjaśnienia. Czasami właśnie najbardziej przekonujące odpowiedzi okazują się najtrudniejsze do zweryfikowania, ponieważ użytkownik nie ma powodu, aby od razu podejrzewać, że system coś zmyślił.

Warto zrozumieć, że halucynacje nie są pojedynczą usterką, którą można po prostu usunąć przez poprawienie jednego elementu programu. Wynikają z bardziej złożonych właściwości działania modeli generujących język, sposobu ich trenowania, dostępnych informacji, konstrukcji poleceń oraz ograniczeń związanych z oceną prawdziwości wypowiedzi. Mogą występować nawet w zaawansowanych systemach, które w wielu innych zadaniach osiągają bardzo dobre rezultaty.

Aby zrozumieć, skąd biorą się zmyślone odpowiedzi, należy przypomnieć sobie podstawową zasadę działania modeli językowych. Podczas treningu analizują one ogromne zbiory tekstów i uczą się zależności pomiędzy słowami, zdaniami oraz fragmentami wypowiedzi. Na tej podstawie potrafią przewidywać, jakie kolejne elementy tekstu najlepiej pasują do określonego kontekstu. Nie oznacza to jednak, że model za każdym razem odszukuje gotową informację w uporządkowanej bazie faktów i sprawdza jej zgodność z rzeczywistością.

Model językowy tworzy wypowiedź krok po kroku. Wykorzystuje informacje zawarte w pytaniu, wcześniejszym przebiegu rozmowy, własnych wyuczonych zależnościach oraz ewentualnie dodatkowych źródłach, jeżeli system ma do nich dostęp. Jego zadaniem jest wygenerowanie odpowiedzi, która pasuje do kontekstu i spełnia oczekiwania wynikające z polecenia. W wielu przypadkach prowadzi to do bardzo dobrych rezultatów. Problem pojawia się wtedy, gdy system nie dysponuje wystarczającymi podstawami do udzielenia odpowiedzi, ale mimo to tworzy wypowiedź wyglądającą na kompletną.

Można to porównać do osoby, która zna ogólne zasady tworzenia bibliografii, ale nie zna konkretnej książki. Potrafi przygotować zapis zawierający nazwisko autora, tytuł, miejsce wydania, wydawnictwo i rok publikacji. Jeżeli jednak zacznie uzupełniać te elementy bez sprawdzenia, może stworzyć opis, który wygląda profesjonalnie, ale odnosi się do nieistniejącej pozycji. Podobnie model językowy potrafi wygenerować tekst przypominający opis prawdziwego wydarzenia lub publikacji, nawet jeżeli nie ma wystarczających informacji, aby potwierdzić jej istnienie.

To właśnie jedna z przyczyn powstawania halucynacji. System zna wzorce językowe, które pozwalają mu tworzyć przekonujące wypowiedzi, ale nie zawsze posiada odpowiednie dane do potwierdzenia wszystkich szczegółów. Może więc wygenerować informację, która jest prawdopodobna pod względem językowym, lecz nieprawdziwa pod względem faktograficznym.

Szczególnie dobrze widać to w przypadku pytań o mało znane osoby, lokalne wydarzenia, rzadkie publikacje i szczegółowe dane historyczne. Jeżeli użytkownik zapyta o powszechnie znane wydarzenie, model może dysponować wieloma wyuczonymi zależnościami dotyczącymi jego przebiegu. Jeżeli jednak poprosi o szczegóły dotyczące niewielkiej miejscowości, zapomnianego autora lub mało popularnego dokumentu, dostępne podstawy mogą być znacznie słabsze. Model może wtedy próbować uzupełnić brakujące informacje na podstawie podobnych przypadków.

Przykładowo system może znać historię kilku miejscowości w danym regionie. Wie, że wiele z nich otrzymało prawa miejskie w średniowieczu, posiadało kościół parafialny i było związanych z lokalnym handlem. Jeżeli zostanie zapytany o historię niewielkiej osady, o której ma niewiele informacji, może wygenerować opis przypominający historię sąsiednich miejscowości. Taki tekst będzie brzmiał wiarygodnie, ponieważ wykorzystuje typowe elementy lokalnej historii. Nie oznacza to jednak, że przedstawione wydarzenia rzeczywiście miały miejsce w opisywanej osadzie.

W podobny sposób mogą powstawać nieprawdziwe informacje o osobach. Model może znać nazwisko naukowca, pisarza lub polityka, ale nie mieć wystarczających danych na temat konkretnego wydarzenia z jego życia. Zamiast przyznać, że nie potrafi potwierdzić informacji, może wygenerować opis oparty na podobnych biografiach. W efekcie pojawi się fikcyjny szczegół, który będzie pasował do ogólnego obrazu danej osoby.

Jednym z najczęstszych mechanizmów prowadzących do halucynacji jest uzupełnianie luk w wiedzy. W zwykłej rozmowie człowiek, który nie zna odpowiedzi, może powiedzieć, że nie pamięta, nie wie albo musi coś sprawdzić. Model językowy również może generować takie odpowiedzi, szczególnie gdy został odpowiednio do tego przygotowany. Nie zawsze jednak rozpoznaje granicę między informacją, którą potrafi wiarygodnie odtworzyć, a szczegółem, który jedynie pasuje do kontekstu.

Załóżmy, że użytkownik pyta o nazwisko autora artykułu opublikowanego kilkadziesiąt lat temu w mało znanym czasopiśmie. Model może rozpoznać temat artykułu, skojarzyć go z określoną dziedziną nauki i wygenerować nazwisko badacza, który rzeczywiście zajmował się podobnymi zagadnieniami. Odpowiedź może być przekonująca, ale nie musi mieć żadnego związku z rzeczywistym autorstwem publikacji.

Takie zjawisko może wystąpić również wtedy, gdy pytanie zawiera błędne założenie. Jeżeli użytkownik zapyta: „W którym roku profesor Jan Kowalski otrzymał nagrodę za odkrycie nowej metody leczenia?”, system może potraktować istnienie takiej nagrody i odkrycia jako element przyjętego kontekstu. Zamiast sprawdzić, czy wydarzenie rzeczywiście miało miejsce, może próbować podać konkretny rok i rozwinąć odpowiedź o dodatkowe szczegóły.

W tym przypadku problem nie wynika wyłącznie z braku wiedzy o danej osobie. Istotne jest również to, że pytanie sugeruje istnienie określonego faktu. Model może podążyć za konstrukcją pytania i stworzyć odpowiedź, która ją uzupełnia. Dlatego warto pamiętać, że sztuczna inteligencja nie zawsze automatycznie kwestionuje założenia zawarte w poleceniu.

Dobrym sposobem ograniczania takiego ryzyka jest zadawanie pytań, które wyraźnie pozwalają systemowi zakwestionować ich treść. Zamiast pytać o szczegóły wydarzenia, którego istnienie nie zostało potwierdzone, można poprosić najpierw o sprawdzenie, czy rzeczywiście miało miejsce.

PROMPT — SPRAWDZANIE ZAŁOŻEŃ ZAWARTYCH W PYTANIU

„Zanim odpowiesz na moje pytanie, sprawdź, czy zawarte w nim założenia są prawdziwe. Nie przyjmuj automatycznie, że opisywana osoba, publikacja, nagroda, wydarzenie lub fakt rzeczywiście istnieją. Jeżeli nie możesz potwierdzić podstawowego założenia, poinformuj mnie o tym zamiast tworzyć dalsze wyjaśnienia. Oddziel informacje potwierdzone od przypuszczeń i nie uzupełniaj brakujących danych fikcyjnymi szczegółami”.

Takie polecenie jest szczególnie przydatne podczas poszukiwania informacji historycznych, naukowych i biograficznych. Pomaga ograniczyć sytuacje, w których model rozwija nieprawdziwą przesłankę zawartą w pytaniu. Nie daje jednak całkowitej gwarancji poprawności. System nadal może błędnie ocenić istnienie wydarzenia lub nieprawidłowo zinterpretować dostępne informacje. Dlatego w przypadku istotnych faktów konieczne pozostaje sprawdzenie ich w niezależnych źródłach.

Halucynacje mogą powstawać również w wyniku niekompletnych lub niejednoznacznych danych. Modele językowe są trenowane na dużych zbiorach tekstów pochodzących z różnych źródeł. Materiały te mogą różnić się jakością, aktualnością, poziomem szczegółowości i wiarygodnością. Nie wszystkie informacje dostępne w internecie są prawdziwe. W sieci można znaleźć błędy, nieaktualne artykuły, niepotwierdzone opinie, treści satyryczne, fikcyjne opisy oraz materiały powielające wcześniejsze pomyłki.

Jeżeli podobna nieprawdziwa informacja pojawia się w wielu tekstach, może stać się elementem wzorców, które model poznaje podczas treningu. Nie oznacza to, że system świadomie uznaje ją za prawdę. Oznacza natomiast, że może nauczyć się zależności językowych związanych z jej występowaniem i wykorzystać je podczas generowania odpowiedzi. W efekcie model może powielać błędne informacje, które wcześniej funkcjonowały w materiałach źródłowych.

Znaczenie ma także sposób reprezentowania wiedzy w modelu. Informacje nie zawsze są przechowywane w postaci łatwych do odczytania rekordów, które można po prostu otworzyć i sprawdzić. Wiedza modelu jest w dużej mierze zakodowana w parametrach sieci neuronowej, czyli w licznych wartościach liczbowych określających sposób przetwarzania informacji. Nie jest to odpowiednik tradycyjnej biblioteki, w której każda książka ma konkretną półkę i kartę katalogową. Dlatego ustalenie, skąd dokładnie pochodzi określony fragment wygenerowanej odpowiedzi, może być trudne, a czasami niemożliwe.

Warto również pamiętać, że modele mogą mieć ograniczenia dotyczące długości kontekstu, czyli ilości informacji, które są w stanie uwzględnić w danej rozmowie. Jeżeli użytkownik przekazuje bardzo obszerny dokument, długą korespondencję lub wiele szczegółowych instrukcji, system może nie uwzględnić wszystkich elementów w jednakowym stopniu. Może pominąć ważny fragment, pomylić zależności albo wyciągnąć wniosek na podstawie niepełnego obrazu sytuacji.

Przykładem może być analiza umowy składającej się z kilkudziesięciu stron. Użytkownik prosi o wskazanie wszystkich obowiązków wynikających z dokumentu. Model może poprawnie zidentyfikować większość zapisów, ale przeoczyć wyjątek umieszczony w dalszej części tekstu. Jeżeli następnie przygotuje podsumowanie bez uwzględnienia tego wyjątku, wynik może wprowadzić użytkownika w błąd. Nie musi to oznaczać, że system całkowicie nie znał dokumentu. Problem może wynikać z ograniczeń przetwarzania długiego materiału, pominięcia kontekstu lub błędnej interpretacji relacji między poszczególnymi zapisami.

W przypadku dużych dokumentów warto więc dzielić pracę na etapy. Najpierw można poprosić o wskazanie struktury materiału, następnie przeanalizować poszczególne części, a na końcu porównać wnioski z oryginałem. Warto również wskazywać, z których fragmentów dokumentu system ma korzystać, i prosić o przywołanie konkretnych zapisów, na których opiera swoje wnioski. Takie podejście nie eliminuje błędów, ale ułatwia ich wykrywanie.

Szczególnie interesującym rodzajem halucynacji są zmyślone nazwiska, tytuły i publikacje. Modele językowe potrafią bardzo dobrze naśladować strukturę biografii, artykułu naukowego czy opisu bibliograficznego. Mogą tworzyć nazwiska brzmiące naturalnie w określonym języku, dopasowywać je do dziedziny nauki i łączyć z prawdopodobnymi tytułami publikacji. Użytkownik, który nie zna danej osoby ani czasopisma, może nie zauważyć, że otrzymał fikcyjne informacje.

Problem jest szczególnie widoczny podczas przygotowywania bibliografii. Osoba pisząca książkę może poprosić AI o wskazanie kilkunastu wartościowych publikacji na określony temat. System może wygenerować listę złożoną z pozycji wyglądających jak rzeczywiste książki i artykuły naukowe. Niektóre mogą istnieć, inne mogą zawierać błędne dane, a jeszcze inne mogą być całkowicie zmyślone. Czasami model połączy prawdziwy tytuł z niewłaściwym autorem albo przypisze publikacji nieprawidłowy rok wydania.

Jeszcze bardziej mylące są sytuacje, w których fikcyjna publikacja otrzymuje szczegółowy opis. Model może podać nazwę wydawnictwa, numer wydania, liczbę stron i krótkie streszczenie rzekomej treści. Takie informacje tworzą pozór kompletności. Użytkownik może uznać, że skoro odpowiedź zawiera tak wiele szczegółów, musi opierać się na rzeczywistym materiale. W rzeczywistości dodatkowe szczegóły mogą być kolejnymi elementami wygenerowanej fikcji.

Dlatego bibliografii przygotowanej przez AI nigdy nie należy automatycznie traktować jako sprawdzonego wykazu źródeł. Każdą pozycję trzeba odnaleźć w katalogu bibliotecznym, bazie naukowej, na stronie wydawcy lub w innym wiarygodnym miejscu. Należy sprawdzić nie tylko istnienie publikacji, ale także zgodność autora, tytułu, daty wydania i treści z twierdzeniem, które ma zostać potwierdzone.

Podobne zjawisko dotyczy cytatów. Model może przypisać znanej osobie słowa, których nigdy nie wypowiedziała. Może stworzyć zdanie przypominające styl danego autora i opatrzyć je jego nazwiskiem. Czasami cytat może być parafrazą rzeczywistej wypowiedzi, ale przedstawioną w cudzysłowie jako dosłowny fragment. W innych przypadkach może być całkowicie fikcyjny.

Takie błędy są szczególnie niebezpieczne w publikacjach, materiałach edukacyjnych i artykułach prasowych. Cytat opatrzony nazwiskiem znanej osoby może szybko zyskać wiarygodność, zwłaszcza gdy pasuje do jej poglądów lub publicznego wizerunku. Jeżeli zostanie opublikowany bez sprawdzenia, może być później wielokrotnie powielany. W rezultacie fikcyjna wypowiedź zaczyna funkcjonować jako rzekomy element historii.

Kolejną grupą halucynacji są błędne daty i wydarzenia. Model może poprawnie opisać ogólny przebieg wydarzenia, ale pomylić dzień, miesiąc lub rok. Może przypisać decyzję niewłaściwej osobie, pomieszać dwa podobne wydarzenia albo połączyć elementy pochodzące z różnych okresów. W historii takie pomyłki mogą prowadzić do poważnego zniekształcenia opisu przeszłości.

Przykładowo system może wiedzieć, że określone państwo zawarło traktat pokojowy po zakończeniu wojny, ale pomylić rok jego podpisania z datą rozpoczęcia negocjacji. Może też przypisać wydarzenie jednemu władcy, chociaż miało miejsce za panowania jego następcy. Jeżeli użytkownik prosi o ogólny opis historyczny, taka nieścisłość może zostać ukryta wśród wielu poprawnych informacji. Dopiero dokładne sprawdzenie chronologii ujawni błąd.

Warto zwrócić uwagę na halucynacje liczbowe, które mogą występować w statystykach, zestawieniach i analizach. Modele językowe potrafią generować konkretne wartości procentowe, liczby mieszkańców, wyniki badań, średnie i prognozy. Jednak liczba podana z dokładnością do jednego miejsca po przecinku nie musi być wynikiem rzeczywistego pomiaru. Może być wartością wygenerowaną na podstawie kontekstu, a nie obliczoną na podstawie wiarygodnego zbioru danych.

Przykładowo użytkownik pyta, jaki odsetek mieszkańców określonego kraju korzysta z konkretnej technologii. System może odpowiedzieć, że jest to 37,4 procent, a następnie dodać, że dane pochodzą z raportu opublikowanego w określonym roku. Jeżeli raport nie istnieje lub nie zawiera takiej wartości, odpowiedź jest nieprawdziwa, mimo że wygląda bardzo profesjonalnie.

Szczegółowe liczby mają szczególną siłę oddziaływania. Informacja „około jedna trzecia badanych” może wydawać się orientacyjna, natomiast wartość „33,7 procent” sprawia wrażenie wyniku precyzyjnego badania. Użytkownik może uznać, że za tak dokładną liczbą musi stać konkretne źródło. W rzeczywistości dokładność zapisu nie jest dowodem dokładności informacji.

W przypadku statystyk należy sprawdzać przede wszystkim źródło danych, datę publikacji, zakres badania, wielkość próby i sposób obliczenia wyniku. Warto również zwrócić uwagę, czy system nie pomylił różnych wskaźników. Przykładowo liczba osób posiadających określoną usługę nie jest tym samym co liczba osób aktywnie z niej korzystających. Odsetek gospodarstw domowych nie jest równoważny odsetkowi wszystkich mieszkańców. Różnice te mogą mieć istotne znaczenie dla interpretacji wyników.

PROMPT — WERYFIKACJA LICZB I STATYSTYK

„Przeanalizuj podane liczby i statystyki. Dla każdej wartości wskaż, czy pochodzi z konkretnego, możliwego do zidentyfikowania źródła, czy jest jedynie szacunkiem lub informacją niepotwierdzoną. Podaj nazwę źródła, datę publikacji i zakres danych, jeżeli są dostępne. Nie wymyślaj raportów, wyników badań ani wartości procentowych. Jeżeli nie możesz potwierdzić liczby, wyraźnie to zaznacz. Zwróć uwagę na możliwość pomylenia różnych wskaźników, okresów i grup badanych”.

Takie polecenie może być pomocne przy analizowaniu raportów, artykułów i zestawień przygotowanych z pomocą AI. Nadal jednak nie zastępuje sprawdzenia oryginalnego źródła. Jeżeli system poda nazwę raportu, należy odnaleźć go samodzielnie i sprawdzić, czy rzeczywiście zawiera wskazaną wartość.

Halucynacje mogą dotyczyć również prawa. Jest to szczególnie wymagający obszar, ponieważ przepisy zmieniają się w czasie, a ich znaczenie zależy od konkretnego kontekstu. Model może wskazać nieaktualny artykuł ustawy, pomylić numer przepisu, przypisać mu niewłaściwą treść albo przedstawić interpretację, która nie uwzględnia wyjątków. Może również przywołać orzeczenie sądu, które nie istnieje, albo błędnie opisać rzeczywiste rozstrzygnięcie.

Tego rodzaju błędy mogą mieć poważne konsekwencje. Osoba prowadząca działalność gospodarczą może oprzeć swoje działanie na nieaktualnym przepisie. Pracownik może błędnie zrozumieć swoje prawa. Ktoś przygotowujący pismo może powołać się na nieistniejące orzeczenie. W takich sytuacjach nie wystarczy, że odpowiedź brzmi profesjonalnie i zawiera prawnicze sformułowania. Należy sprawdzić aktualne brzmienie przepisów w oficjalnych źródłach i w razie potrzeby skonsultować sprawę z prawnikiem.

Podobnie jest w medycynie. AI może podać nieprawdziwą informację o leku, dawkowaniu, przeciwwskazaniach lub wynikach badań. Może pomylić nazwy podobnych substancji, nie uwzględnić indywidualnych okoliczności albo przedstawić ogólną informację tak, jakby odnosiła się do konkretnego pacjenta. Nawet jeśli część odpowiedzi jest poprawna, pojedynczy błąd może zmienić jej praktyczne znaczenie. Dlatego informacje medyczne uzyskane od AI nie powinny zastępować konsultacji z lekarzem ani zaleceń specjalisty.

W finansach halucynacje mogą prowadzić do błędnych decyzji dotyczących podatków, kredytów, inwestycji i kosztów prowadzenia działalności. Model może podać nieaktualne stawki, wymyślić warunki oferty lub błędnie zinterpretować dane rynkowe. W przypadku inwestycji szczególnie niebezpieczne jest tworzenie pozornie precyzyjnych prognoz, które nie mają wystarczającego uzasadnienia. Warto pamiętać, że nawet poprawnie przeprowadzona analiza nie gwarantuje przyszłego wyniku, a wygenerowana prognoza nie jest obietnicą zysku.

Innym przykładem są informacje o produktach i usługach. System może wymyślić funkcję urządzenia, która nie występuje w jego rzeczywistej specyfikacji. Może podać nieaktualną cenę, błędny numer modelu albo przypisać produktowi parametry należące do innego wariantu. Użytkownik, który podejmuje decyzję zakupową na podstawie takiej odpowiedzi, może kupić niewłaściwy produkt lub stracić czas na poszukiwanie funkcji, której urządzenie nie posiada.

W przypadku produktów szczególnie ważne jest sprawdzanie informacji na stronach producentów, w oficjalnych instrukcjach i aktualnych kartach technicznych. Jeżeli AI porównuje kilka urządzeń, warto upewnić się, że porównywane modele rzeczywiście istnieją i mają wskazane parametry. Sama obecność nazwy produktu w odpowiedzi nie dowodzi, że opis jest zgodny z rzeczywistą ofertą.

Halucynacje mogą pojawiać się również podczas pracy z kodem komputerowym. System może zaproponować funkcję, która nie istnieje w danej bibliotece, użyć nieprawidłowego parametru albo odwołać się do metody dostępnej w innej wersji narzędzia. Kod może wyglądać profesjonalnie i zawierać komentarze wyjaśniające jego działanie, ale po uruchomieniu pojawią się błędy. W niektórych sytuacjach kod może działać, lecz wykonywać czynność inną niż oczekiwana przez użytkownika.

Dlatego kod wygenerowany przez AI powinien być testowany w bezpiecznym środowisku. Należy sprawdzić jego działanie, zgodność z dokumentacją i wpływ na pozostałe elementy programu. Szczególną ostrożność trzeba zachować w przypadku skryptów modyfikujących dane, usuwających pliki, zmieniających ustawienia systemowe lub wykonujących operacje finansowe. Pozornie niewielki błąd może mieć poważne skutki.

Nie wszystkie halucynacje wynikają jednak z braku informacji. Czasami problemem jest sposób, w jaki model interpretuje polecenie. Jeżeli pytanie jest niejednoznaczne, system może wybrać jedną z możliwych interpretacji i rozwinąć ją w odpowiedź. Użytkownik może oczekiwać czegoś innego, ale model nie zawsze poprosi o doprecyzowanie. W rezultacie powstaje odpowiedź, która jest spójna w ramach przyjętego założenia, lecz nie odpowiada rzeczywistej potrzebie.

Przykładowo polecenie „Przygotuj zestawienie najważniejszych zmian w przepisach” nie określa kraju, dziedziny prawa ani okresu, którego ma dotyczyć analiza. System może samodzielnie przyjąć określony zakres i przygotować odpowiedź. Jeżeli użytkownik oczekiwał informacji dotyczących innego kraju lub innego okresu, rezultat będzie nieprzydatny, a potencjalnie również nieprawdziwy z jego perspektywy.

Warto więc precyzować pytania, szczególnie gdy dotyczą informacji wymagających dokładności. Należy wskazać kraj, okres, zakres tematyczny, rodzaj źródeł i oczekiwany poziom szczegółowości. Jeżeli brakuje istotnych danych, lepiej poprosić system o zadanie pytania uzupełniającego, zamiast pozwalać mu samodzielnie przyjmować założenia.

PROMPT — DOPRECYZOWANIE NIEJEDNOZNACZNEGO ZADANIA

„Zanim przygotujesz odpowiedź, przeanalizuj moje polecenie i sprawdź, czy zawiera wszystkie informacje potrzebne do prawidłowego wykonania zadania. Jeżeli istnieje kilka możliwych interpretacji, nie wybieraj samodzielnie jednej z nich. Zadaj mi pytania uzupełniające dotyczące brakujących danych. Zwróć szczególną uwagę na daty, zakres tematyczny, kraj, nazwy własne i definicje. Nie twórz odpowiedzi na podstawie niepotwierdzonych założeń”.

Jednym z najtrudniejszych aspektów halucynacji jest to, że niepewność modelu nie zawsze jest widoczna w gotowej odpowiedzi. Człowiek może powiedzieć: „Nie jestem pewien”, zawahać się, poprawić własną wypowiedź lub przyznać, że nie zna danego zagadnienia. Model językowy również może używać podobnych sformułowań, ale nie należy zakładać, że jego językowe sygnały niepewności zawsze dokładnie odzwierciedlają poziom wiarygodności informacji.

System może napisać „prawdopodobnie”, „z dostępnych informacji wynika” lub „nie można tego jednoznacznie potwierdzić”. Może też przedstawić odpowiedź w sposób zdecydowany, bez żadnego zastrzeżenia. Nie oznacza to jednak, że w drugim przypadku ma większą pewność co do prawdziwości twierdzenia. Styl wypowiedzi może być wynikiem sposobu generowania tekstu, instrukcji systemowych i kontekstu rozmowy, a nie bezpośrednim odzwierciedleniem rzeczywistej oceny prawdopodobieństwa.

Trzeba również rozróżnić pewność językową od pewności opartej na dowodach. Pewność językowa oznacza, że odpowiedź jest sformułowana stanowczo i nie zawiera widocznych zastrzeżeń. Pewność oparta na dowodach wynika natomiast z istnienia wiarygodnych informacji, które potwierdzają dane twierdzenie. Te dwie rzeczy nie muszą występować razem. Model może mówić zdecydowanie, mimo że nie dysponuje odpowiednimi dowodami. Może też formułować ostrożną odpowiedź, choć przedstawiona informacja jest dobrze potwierdzona.

W niektórych systemach dostępne są dodatkowe mechanizmy pozwalające oceniać wiarygodność odpowiedzi, korzystać z wyszukiwania internetowego lub odwoływać się do dostarczonych dokumentów. Mogą one ograniczać ryzyko halucynacji, ale nie rozwiązują problemu całkowicie. Wyszukiwarka może znaleźć niewłaściwe źródło, dokument może być nieaktualny, a model może błędnie zinterpretować treść. Nawet jeżeli odpowiedź zawiera odnośniki, nie oznacza to automatycznie, że wszystkie twierdzenia zostały przez nie potwierdzone.

Dlatego nie należy oceniać wiarygodności wyłącznie na podstawie tonu odpowiedzi, długości tekstu, liczby szczegółów ani obecności przypisów. Trzeba sprawdzić, czy źródła istnieją, czy są odpowiedniej jakości i czy rzeczywiście potwierdzają konkretne informacje. Warto również upewnić się, że dane odnoszą się do właściwego okresu i nie zostały wyrwane z kontekstu.

Czasami użytkownik może odnieść wrażenie, że model powinien sam wiedzieć, kiedy nie ma wystarczających informacji. W praktyce nie zawsze jest to takie proste. Rozpoznanie własnych ograniczeń przez model jest osobnym problemem. System może prawidłowo rozwiązać wiele podobnych zadań, ale nie zawsze potrafi trafnie ocenić, kiedy konkretna odpowiedź wykracza poza jego możliwości. Może wygenerować nieprawdziwy szczegół właśnie dlatego, że nie rozpoznał sytuacji wymagającej powstrzymania się od odpowiedzi.

Nie oznacza to, że modele nie mogą być rozwijane w kierunku lepszego sygnalizowania niepewności. Twórcy systemów stosują różne metody treningu, oceny i dostrajania, aby ograniczać liczbę błędów oraz poprawiać zachowanie modeli w sytuacjach, w których brakuje informacji. Można również projektować narzędzia tak, aby w określonych zadaniach wymagały podania źródła, korzystały z baz danych lub odmawiały odpowiedzi bez odpowiednich podstaw. Nadal jednak nie należy zakładać, że każda niepewność zostanie prawidłowo rozpoznana.

Istotnym problemem jest również aktualność informacji. Model, który został wytrenowany na danych obejmujących określony okres, może nie znać wydarzeń, które nastąpiły później. W zależności od konkretnego systemu może mieć dostęp do aktualnego wyszukiwania internetowego, zewnętrznych baz danych lub dokumentów dostarczonych przez użytkownika. Jeżeli jednak takich możliwości nie ma albo nie zostaną wykorzystane, odpowiedź może opierać się na nieaktualnym stanie wiedzy.

Przykładowo użytkownik pyta o aktualny skład zarządu firmy, obowiązującą wysokość opłaty lub najnowszą wersję programu. System może podać informacje, które były prawdziwe w przeszłości, ale obecnie są już nieaktualne. Wypowiedź nie musi być całkowicie zmyślona. Może zawierać dane, które kiedyś były poprawne, lecz nie odpowiadają obecnej sytuacji. Z punktu widzenia użytkownika rezultat nadal może być błędny.

W takich przypadkach należy sprawdzać datę informacji i korzystać z aktualnych źródeł. Szczególnie ważne są oficjalne strony instytucji, dokumentacja producentów, aktualne akty prawne i bezpośrednie komunikaty organizacji. Jeżeli system podaje bieżące dane, warto poprosić o wskazanie źródła oraz daty, której dotyczą.

Halucynacje mogą być również wzmacniane przez sposób prowadzenia rozmowy. Użytkownik, który wielokrotnie sugeruje określoną odpowiedź, może wpływać na kierunek kolejnych wypowiedzi. Jeżeli pyta: „Czy nie jest prawdą, że wydarzenie odbyło się w 1920 roku?”, a następnie dodaje: „Jestem prawie pewien, że właśnie wtedy”, system może zacząć uwzględniać tę sugestię w dalszej odpowiedzi. Nie oznacza to, że każda taka sytuacja doprowadzi do potwierdzenia błędnej daty, ale pokazuje, jak ważny jest kontekst rozmowy.

Dobrym rozwiązaniem jest proszenie o niezależną ocenę zamiast sugerowania oczekiwanego wyniku. Można napisać: „Sprawdź, w którym roku odbyło się to wydarzenie. Nie sugeruj się moimi przypuszczeniami. Jeżeli nie masz wystarczających danych, zaznacz to”. Takie podejście zmniejsza ryzyko bezrefleksyjnego podążania za założeniami użytkownika, choć nie gwarantuje poprawności odpowiedzi.

Warto również pamiętać, że halucynacje nie zawsze są łatwe do wykrycia nawet przez osoby posiadające dużą wiedzę. Jeżeli model tworzy błędną odpowiedź dotyczącą specjalistycznego zagadnienia, może ona zawierać szczegóły, których sprawdzenie wymaga dostępu do dokumentacji, baz naukowych lub wiedzy eksperckiej. Dlatego w profesjonalnym zastosowaniu AI powinno się wprowadzać procedury kontroli jakości, a nie polegać wyłącznie na intuicji użytkownika.

Jednym ze sposobów ograniczania ryzyka jest podział pracy na etapy. Zamiast prosić AI o przygotowanie kompletnego opracowania na podstawie nieokreślonych źródeł, można najpierw poprosić o przedstawienie listy twierdzeń wymagających potwierdzenia. Następnie należy sprawdzić najważniejsze fakty, a dopiero później zlecić przygotowanie tekstu. W przypadku analizy dokumentów warto wskazywać konkretne fragmenty, a przy pracy z danymi liczbowymi korzystać z narzędzi obliczeniowych i porównywać wyniki z materiałem źródłowym.

Przydatne jest również rozdzielanie faktów od interpretacji. Fakt może dotyczyć daty wydarzenia, treści przepisu, wyniku badania lub danych zapisanych w dokumencie. Interpretacja jest natomiast próbą wyjaśnienia znaczenia tych informacji. Model może poprawnie odtworzyć fakt, ale błędnie go zinterpretować. Może też przedstawić opinię jako ustalenie naukowe. Jeżeli użytkownik nie rozróżnia tych kategorii, łatwiej zaakceptuje wnioski, które nie wynikają z przedstawionych danych.

PROMPT — ODDZIELANIE FAKTÓW OD INTERPRETACJI

„Przeanalizuj poniższy materiał i podziel wszystkie istotne informacje na trzy kategorie: fakty bezpośrednio wynikające z dostarczonych danych, interpretacje i wnioski oraz przypuszczenia wymagające dodatkowego potwierdzenia. Nie przedstawiaj interpretacji jako faktów. Przy każdym ważnym twierdzeniu wskaż fragment materiału, na którym się opierasz. Jeżeli dana informacja nie wynika bezpośrednio z dokumentu, zaznacz to wyraźnie”.

Takie polecenie jest szczególnie użyteczne podczas pracy z dokumentami, raportami, artykułami i materiałami źródłowymi. Pozwala lepiej kontrolować, czy system nie dopisuje do dokumentu informacji, których w nim nie ma. Nadal jednak należy porównywać wskazane fragmenty z oryginałem, zwłaszcza gdy analiza ma znaczenie zawodowe lub prawne.

Konsekwencje halucynacji zależą od tego, w jaki sposób wykorzystamy wygenerowaną informację. W niektórych sytuacjach pomyłka będzie miała niewielkie znaczenie. Jeżeli AI wymyśli nazwę fikcyjnej restauracji podczas burzy mózgów, użytkownik może po prostu wybrać inną propozycję. Jeżeli jednak system poda nieistniejący adres, a ktoś pojedzie pod wskazane miejsce, konsekwencją będzie strata czasu. Jeżeli autor umieści w książce fikcyjny cytat, problem może dotyczyć wiarygodności publikacji. Jeżeli przedsiębiorca zastosuje błędną interpretację przepisu, skutki mogą być znacznie poważniejsze.

Szczególnie niebezpieczne jest powielanie halucynacji. Informacja wygenerowana przez AI może zostać skopiowana do artykułu, wpisu internetowego, prezentacji lub kolejnego dokumentu. Następnie inne osoby mogą wykorzystać ją jako źródło wiedzy. W ten sposób nieprawdziwa treść może zacząć funkcjonować niezależnie od pierwotnej odpowiedzi systemu. Z czasem coraz trudniej ustalić, skąd pochodzi błąd i dlaczego dana informacja została uznana za prawdziwą.

Może to prowadzić do powstania swoistego obiegu nieprawdy. Jedna osoba publikuje niezweryfikowaną odpowiedź AI, druga powołuje się na tę publikację, a kolejny system lub autor wykorzystuje ją jako materiał pomocniczy. Jeżeli podobne treści będą wielokrotnie powielane, użytkownik może odnieść wrażenie, że informacja jest szeroko potwierdzona. W rzeczywistości wiele publikacji może odwoływać się do tego samego pierwotnego błędu.

Zjawisko to pokazuje, że odpowiedzialność za weryfikację nie kończy się na osobie, która zadała pytanie. Każdy, kto publikuje, przekazuje lub wykorzystuje informację wygenerowaną przez AI, powinien ocenić jej wiarygodność. Dotyczy to szczególnie autorów książek, dziennikarzy, nauczycieli, pracowników firm i osób tworzących materiały edukacyjne. Niezweryfikowana informacja może szybko opuścić pierwotny kontekst rozmowy i stać się częścią szerszego obiegu informacyjnego.

Warto również zauważyć, że halucynacje mogą występować w różnych modelach i nie zawsze w taki sam sposób. Jeden system może lepiej radzić sobie z pytaniami historycznymi, inny z analizą kodu, a jeszcze inny z wyszukiwaniem aktualnych informacji. Nie oznacza to jednak, że istnieje model, któremu można bezwarunkowo ufać. Nawet bardzo zaawansowane narzędzia mogą popełniać błędy, szczególnie gdy zadanie jest niejednoznaczne, wymaga rzadkich informacji albo opiera się na niepełnych danych.

Nie należy również zakładać, że płatna wersja narzędzia automatycznie eliminuje halucynacje. Bardziej zaawansowany model może osiągać lepsze wyniki w wielu testach i zadaniach, ale nadal nie gwarantuje poprawności każdej odpowiedzi. Wysoka jakość systemu zmniejsza niektóre rodzaje ryzyka, lecz nie usuwa potrzeby weryfikacji. Podobnie korzystanie z kilku różnych modeli może być pomocne przy porównywaniu odpowiedzi, ale nie stanowi samo w sobie dowodu prawdziwości. Różne systemy mogą popełniać podobne błędy, zwłaszcza gdy korzystają z podobnych danych lub odpowiadają na tak samo sformułowane pytanie.

Najważniejszym sposobem ograniczania skutków halucynacji jest więc przyjęcie odpowiedniego podejścia do informacji. Nie należy oczekiwać, że system zawsze będzie wiedział, kiedy się myli. Nie należy też traktować każdego szczegółu podanego w odpowiedzi jako informacji potwierdzonej. Warto natomiast rozpoznawać sytuacje zwiększonego ryzyka i stosować odpowiednie metody kontroli.

Szczególnej ostrożności wymagają:

— nazwiska, daty, tytuły i inne nazwy własne;

— cytaty przypisywane konkretnym osobom;

— publikacje naukowe, książki i bibliografie;

— statystyki, wyniki badań i dane procentowe;

— przepisy prawne i informacje o aktualnych obowiązkach;

— informacje medyczne, dawkowanie i przeciwwskazania;

— dane finansowe, ceny i prognozy;

— szczegóły dotyczące mało znanych wydarzeń i osób;

— informacje o produktach, usługach i ich parametrach;

— fragmenty dokumentów, których interpretacja może mieć istotne konsekwencje.

Nie oznacza to, że każda informacja z tych kategorii będzie błędna. Chodzi o to, że jej pomyłka może być trudna do wykrycia lub mieć poważniejsze skutki. Dlatego warto poświęcić więcej uwagi sprawdzeniu takich odpowiedzi.

Praktycznym rozwiązaniem jest przygotowanie własnej procedury weryfikacji. Może ona obejmować kilka prostych kroków. Najpierw należy wskazać najważniejsze twierdzenia zawarte w odpowiedzi. Następnie sprawdzić, czy system podał źródła i czy można je odnaleźć. Kolejnym krokiem jest porównanie informacji z niezależnymi materiałami. Na końcu warto ustalić, czy dane są aktualne i czy rzeczywiście potwierdzają przedstawiony wniosek. W przypadku informacji o dużym znaczeniu należy skorzystać z dokumentów pierwotnych lub konsultacji ze specjalistą.

PROMPT — PROCEDURA WERYFIKACJI ODPOWIEDZI

„Przygotuj listę wszystkich najważniejszych twierdzeń faktograficznych zawartych w poniższej odpowiedzi. Przy każdym twierdzeniu określ, jakie źródło byłoby najlepsze do jego sprawdzenia. Oddziel informacje łatwe do potwierdzenia od tych, które wymagają specjalistycznej wiedzy lub dostępu do dokumentów pierwotnych. Nie uznawaj żadnego twierdzenia za prawdziwe wyłącznie dlatego, że pojawiło się w wygenerowanej odpowiedzi. Wskaż również, które błędy mogłyby mieć najpoważniejsze konsekwencje, gdyby informacja została wykorzystana bez sprawdzenia”.

Warto traktować taki sposób pracy jako element codziennego korzystania ze sztucznej inteligencji. Nie musi on oznaczać skomplikowanej procedury. W wielu przypadkach wystarczy sprawdzić kilka kluczowych informacji, aby znacząco zmniejszyć ryzyko wykorzystania nieprawdziwej odpowiedzi. Przy bardziej wymagających zadaniach należy jednak poświęcić więcej czasu na analizę źródeł.

Halucynacje AI pokazują, że współczesne systemy potrafią tworzyć bardzo przekonujące wypowiedzi, ale nie zawsze mają wystarczające podstawy do ich przedstawienia. Ich zdolność do generowania tekstu jest imponująca, lecz nie należy utożsamiać jej z nieomylnym dostępem do wiedzy. Model może znać wiele faktów, rozpoznawać skomplikowane zależności i pomagać w analizie informacji, a mimo to w konkretnej sytuacji wygenerować coś, co nie ma potwierdzenia w rzeczywistości.

Najważniejszy wniosek jest taki, że halucynacja nie musi być oczywistym absurdem. Może być drobnym błędem ukrytym w poprawnym tekście, fikcyjnym źródłem przypominającym prawdziwą publikację, statystyką podaną z pozorną precyzją albo logicznie brzmiącym wyjaśnieniem opartym na nieprawdziwym założeniu. Właśnie dlatego nie wystarczy oceniać odpowiedzi na podstawie tego, czy brzmią rozsądnie.

Warto nauczyć się patrzeć na nie z dystansem. Pytać o podstawy, sprawdzać źródła, rozpoznawać brakujące informacje i nie przyjmować automatycznie, że szczegółowa wypowiedź musi być prawdziwa. Sztuczna inteligencja może być bardzo pomocna w zdobywaniu wiedzy, ale nie powinna zastępować procesu jej weryfikowania.

Halucynacje nie oznaczają, że AI jest bezużyteczna. Pokazują natomiast, że jej możliwości należy rozumieć właściwie. Model może przygotować odpowiedź, wskazać kierunek poszukiwań i pomóc uporządkować informacje. To jednak człowiek musi zdecydować, czy przedstawione twierdzenia są wystarczająco wiarygodne, aby na nich polegać. W świecie, w którym zmyśloną informację można wygenerować w kilka sekund, umiejętność jej sprawdzenia staje się równie ważna jak umiejętność zadawania właściwych pytań.

ROZDZIAŁ 3. Jak działa AI i dlaczego nie zawsze wie, co mówi

Aby zrozumieć, dlaczego sztuczna inteligencja potrafi tworzyć nieprawdziwe informacje, trzeba najpierw przyjrzeć się temu, w jaki sposób funkcjonują współczesne modele językowe. Ich działanie może sprawiać wrażenie rozmowy z człowiekiem, który posiada ogromną wiedzę, potrafi analizować problemy, wyciągać wnioski i udzielać odpowiedzi na niemal każde pytanie. Wystarczy wpisać kilka zdań, aby otrzymać rozbudowane wyjaśnienie, uporządkowaną analizę, propozycję rozwiązania problemu albo opis wydarzenia historycznego. Odpowiedź często jest napisana poprawnym językiem, ma logiczną strukturę i zawiera szczegóły, które sprawiają wrażenie dowodów na rozległą wiedzę systemu. Jednak sposób, w jaki powstaje taki tekst, znacząco różni się od ludzkiego procesu poznawania świata.

Człowiek zdobywa wiedzę poprzez obserwację, doświadczenie, naukę, rozmowy z innymi ludźmi i konfrontowanie informacji z rzeczywistością. Może zobaczyć określone zjawisko, przeprowadzić eksperyment, sprawdzić, czy przewidywanie się sprawdziło, albo zmienić zdanie pod wpływem nowych dowodów. W przypadku modelu językowego podstawowym mechanizmem jest natomiast przetwarzanie wzorców obecnych w danych oraz generowanie kolejnych fragmentów wypowiedzi na podstawie obliczeń. Model analizuje zależności między słowami, zdaniami i większymi fragmentami tekstu, a następnie wykorzystuje zdobyte podczas treningu umiejętności do tworzenia odpowiedzi na nowe pytania.

Nie oznacza to, że współczesna sztuczna inteligencja jest jedynie prostym mechanizmem automatycznego uzupełniania zdań. Modele językowe potrafią rozpoznawać złożone zależności, porządkować informacje, wykonywać wiele rodzajów zadań językowych, streszczać teksty, tłumaczyć, porównywać argumenty i rozwiązywać niektóre problemy wymagające wieloetapowego rozumowania. Ich możliwości są rezultatem zaawansowanych metod uczenia maszynowego, rozbudowanej architektury sieci neuronowych oraz ogromnych zbiorów danych. Mimo to podstawowa zasada generowania tekstu pozostaje istotna dla zrozumienia ograniczeń tych systemów: model nie musi wiedzieć, czy wypowiadane przez niego zdanie jest prawdziwe, aby potrafić stworzyć je w sposób przekonujący.

To właśnie w tej różnicy znajduje się jedna z najważniejszych przyczyn błędów sztucznej inteligencji. System może doskonale opanować sposób opisywania określonej dziedziny, rozpoznawać charakterystyczne dla niej pojęcia i tworzyć wypowiedzi przypominające teksty specjalistyczne, a jednocześnie nie mieć wystarczających podstaw do potwierdzenia wszystkich przedstawianych informacji. Może znać typowy układ odpowiedzi historyka, lekarza, prawnika czy ekonomisty, ale nie oznacza to automatycznie, że każda wygenerowana przez niego data, diagnoza, interpretacja lub statystyka jest poprawna. Umiejętność tworzenia tekstu na określony temat nie jest tym samym co posiadanie sprawdzonej wiedzy o wszystkich faktach związanych z tym tematem.

Modele językowe uczą się na podstawie bardzo dużych zbiorów danych. W procesie treningu wykorzystuje się różnorodne materiały tekstowe, między innymi książki, artykuły, strony internetowe, dokumentację, teksty edukacyjne i inne dostępne zasoby. Konkretne źródła oraz ich proporcje zależą od modelu i jego twórców. Dane te dostarczają systemowi przykładów języka, sposobów budowania zdań, relacji między pojęciami, stylów wypowiedzi i sposobów przedstawiania informacji. Model nie przyswaja ich jednak w taki sam sposób jak uczeń czy student czytający książkę. Nie tworzy po prostu biblioteki dokumentów, do której później sięga, aby odnaleźć konkretny fragment. W trakcie uczenia dostosowywane są parametry sieci neuronowej, dzięki czemu system stopniowo uczy się statystycznych i strukturalnych zależności występujących w analizowanych danych.

Współczesne modele językowe najczęściej opierają się na architekturze transformerów. Jest to rodzaj sieci neuronowej zaprojektowanej do przetwarzania sekwencji danych, w tym tekstu. Jednym z najważniejszych elementów tej architektury jest mechanizm uwagi, który pozwala modelowi uwzględniać relacje między różnymi fragmentami analizowanej wypowiedzi. Dzięki temu system może lepiej rozpoznawać, do czego odnosi się dane słowo, jakie informacje są istotne w danym zdaniu i w jaki sposób poszczególne elementy tekstu wpływają na jego znaczenie. Ma to ogromne znaczenie w przypadku języka naturalnego, w którym pojedyncze słowa mogą mieć różne znaczenia zależnie od kontekstu.

Przykładowo słowo „zamek” może oznaczać budowlę obronną, mechanizm zamykający drzwi albo element odzieży. Wypowiedź „zwiedziliśmy stary zamek na wzgórzu” sugeruje zupełnie inne znaczenie niż zdanie „zepsuł się zamek w kurtce”. Model musi uwzględnić pozostałe słowa, aby odpowiednio zinterpretować wypowiedź. Mechanizm uwagi umożliwia analizowanie zależności między elementami tekstu, zamiast traktowania każdego słowa jako całkowicie niezależnego od pozostałych. To jedna z przyczyn, dla których nowoczesne modele potrafią prowadzić rozmowy, zachowywać wątek wypowiedzi i tworzyć odpowiedzi dostosowane do sytuacji.

Proces uczenia rozpoczyna się od przygotowania danych, które zostają przekształcone do postaci możliwej do przetwarzania przez sieć neuronową. Tekst jest dzielony na mniejsze jednostki nazywane tokenami. Tokenem może być całe słowo, jego fragment, znak interpunkcyjny albo inny element tekstu. Nie należy więc zakładać, że model analizuje język dokładnie w taki sposób, w jaki człowiek czyta kolejne słowa. W praktyce przetwarza reprezentacje numeryczne odpowiadające poszczególnym tokenom.

Następnie model otrzymuje fragment tekstu i uczy się przewidywać, jaki element powinien pojawić się dalej. Jeżeli przykładowe zdanie brzmi: „Stolicą Polski jest…”, system ma wskazać najbardziej prawdopodobny kolejny token. W trakcie treningu jego przewidywanie jest porównywane z elementem znajdującym się w danych treningowych. Jeżeli model popełnia błąd, parametry sieci są korygowane w taki sposób, aby przy kolejnych próbach przewidywanie było lepsze. Proces ten powtarza się na ogromnej liczbie przykładów.

W ten sposób model stopniowo uczy się, jakie słowa i konstrukcje językowe często występują razem, jakie informacje są ze sobą powiązane, jak wyglądają typowe wyjaśnienia oraz w jaki sposób ludzie opisują określone zjawiska. Zaczyna rozpoznawać, że po pytaniu często pojawia się odpowiedź, po wstępie następuje rozwinięcie, a po przedstawieniu problemu można oczekiwać propozycji rozwiązania. Uczy się również zależności znacznie bardziej złożonych, na przykład tego, jak w tekstach naukowych przedstawia się argumentację, jak opisuje się wydarzenia historyczne albo jak buduje się instrukcje techniczne.

Ważne jest jednak to, że model nie uczy się wyłącznie pojedynczych skojarzeń między słowami. W wyniku treningu powstają rozbudowane reprezentacje zależności językowych i pojęciowych. Dzięki nim system może wykonywać zadania, których nie widział dokładnie w takiej samej postaci podczas uczenia. Potrafi na przykład odpowiedzieć na nowe pytanie, połączyć informacje przedstawione w kilku zdaniach albo przekształcić tekst na inny styl. Nie musi mieć w danych treningowych identycznego pytania, aby wygenerować odpowiedź. Wykorzystuje wzorce i zależności, których nauczył się wcześniej.

Ten mechanizm jest niezwykle użyteczny, ale ma również istotne ograniczenia. Model może nauczyć się, że określony rodzaj wypowiedzi zwykle zawiera konkretne informacje, i odtworzyć ten schemat nawet wtedy, gdy w danym przypadku nie ma wystarczających podstaw do przedstawienia wszystkich szczegółów. Może także łączyć elementy, które w danych treningowych występowały w podobnych kontekstach, ale w rzeczywistości nie są ze sobą powiązane. Właśnie dlatego zdarza się, że sztuczna inteligencja tworzy odpowiedź przypominającą poprawne opracowanie, choć część zawartych w niej informacji jest nieprawdziwa.

Szczególnie ważne jest zrozumienie mechanizmu przewidywania kolejnych tokenów. W uproszczeniu można powiedzieć, że model językowy za każdym razem oblicza, jaki element tekstu powinien pojawić się w następnym kroku, biorąc pod uwagę wcześniejszy fragment wypowiedzi oraz informacje dostępne w danym kontekście. Następnie wybiera kolejny token i kontynuuje generowanie. Po utworzeniu jednego fragmentu uwzględnia go przy przewidywaniu następnego. W ten sposób powstaje całe zdanie, akapit, a nawet wielostronicowa odpowiedź.

Warto zwrócić uwagę, że model nie musi od początku posiadać gotowej odpowiedzi zapisanej w pamięci. Tekst powstaje stopniowo, element po elemencie. System może rozpocząć od poprawnego stwierdzenia, następnie rozwinąć je w logiczny sposób, a później wygenerować szczegół, który nie ma potwierdzenia w faktach. Każdy kolejny fragment wypowiedzi jest tworzony na podstawie wcześniejszych elementów i dostępnych zależności. Jeżeli w pewnym momencie pojawi się błędne założenie, może ono wpłynąć na dalszą część tekstu. W rezultacie cała odpowiedź będzie spójna wewnętrznie, ale oparta na nieprawdziwej informacji.

Wyobraźmy sobie pytanie: „Dlaczego król Kazimierz III Wielki podpisał traktat pokojowy z Anglią w 1347 roku?”. Już samo pytanie zawiera założenie, że taki traktat został podpisany. Jeżeli model nie rozpozna błędnej przesłanki, może rozpocząć tworzenie odpowiedzi, wykorzystując ogólną wiedzę o średniowiecznej dyplomacji, polityce Kazimierza Wielkiego i stosunkach międzynarodowych. Może opisać rzekome przyczyny porozumienia, wskazać korzyści polityczne i gospodarcze, a nawet przedstawić pozornie przekonujące tło historyczne. Taka odpowiedź może być napisana w sposób charakterystyczny dla podręcznika historii, lecz jej podstawą jest niezweryfikowane założenie zawarte w pytaniu.

Problem nie polega wyłącznie na tym, że model może nie znać konkretnego wydarzenia. Istotne jest również to, że potrafi kontynuować wypowiedź w sposób zgodny z jej początkowym założeniem. Jeżeli pytanie sugeruje określoną odpowiedź, system może podążyć za sugerowanym kierunkiem, zamiast najpierw sprawdzić, czy opisywane wydarzenie rzeczywiście miało miejsce. W takich sytuacjach szczególnie łatwo o powstanie rozbudowanej, logicznie brzmiącej fikcji.

Dlaczego jednak model nie zatrzymuje się automatycznie i nie mówi, że nie ma wystarczających informacji? Odpowiedź jest związana zarówno z mechanizmem uczenia, jak i sposobem dostosowywania systemów do rozmowy z użytkownikami. Wiele modeli jest trenowanych i dodatkowo dostrajanych tak, aby tworzyły pomocne, zrozumiałe i kompletne odpowiedzi. W praktyce oznacza to, że system ma być użyteczny, odpowiadać na pytania i dostarczać informacji w formie przystępnej dla odbiorcy. Jeżeli jednak jego umiejętność rozpoznawania niepewności nie jest wystarczająco dobrze rozwinięta, może próbować udzielić odpowiedzi nawet wtedy, gdy powinien przyznać, że nie zna rozwiązania.

Warto przy tym podkreślić, że samo przewidywanie kolejnych tokenów nie oznacza, iż model zawsze wybiera najbardziej oczywiste słowo. W zależności od zastosowanych ustawień generowania może korzystać z różnych strategii wyboru kolejnych elementów tekstu. Niektóre ustawienia sprzyjają bardziej przewidywalnym i powtarzalnym wypowiedziom, inne pozwalają na większą różnorodność. Może to wpływać na styl i treść odpowiedzi, ale nie rozwiązuje podstawowego problemu weryfikacji faktów. Nawet bardzo ostrożne i zachowawcze generowanie nie daje gwarancji prawdziwości informacji.

Płynna wypowiedź jest jednym z powodów, dla których ludzie często przeceniają wiedzę sztucznej inteligencji. W codziennym życiu przyzwyczailiśmy się, że osoba posługująca się poprawnym językiem, stosująca specjalistyczne słownictwo i przedstawiająca logiczne argumenty zazwyczaj posiada przynajmniej pewną wiedzę na omawiany temat. Jeżeli ktoś potrafi szczegółowo wyjaśnić zagadnienie, podać przykłady i odpowiedzieć na dodatkowe pytania, naturalnie zakładamy, że rozumie to, o czym mówi. W przypadku modeli językowych takie założenie może być jednak mylące.

Sztuczna inteligencja nauczyła się tworzyć wypowiedzi na podstawie ogromnej liczby przykładów ludzkiego języka. Zna typowe sposoby budowania definicji, argumentów, wyjaśnień i wniosków. Potrafi stosować słownictwo charakterystyczne dla określonych dziedzin, zachowywać formalny ton i porządkować informacje w sposób przypominający pracę specjalisty. Nie oznacza to jednak, że każda taka wypowiedź wynika z rzeczywistego potwierdzenia przedstawionych faktów.

Można to porównać do osoby, która nauczyła się doskonale naśladować sposób prowadzenia wykładu. Potrafi używać fachowych określeń, budować rozbudowane zdania i przedstawiać argumenty w odpowiedniej kolejności. Samo opanowanie tej formy nie dowodzi jednak, że posiada wiedzę potrzebną do rozstrzygnięcia każdego problemu. Podobnie model językowy może odtworzyć formę eksperckiego wyjaśnienia, nie mając wystarczających podstaw do potwierdzenia jego treści.

Warto pamiętać, że człowiek również może mówić płynnie i przekonująco, a mimo to się mylić. Różnica polega na tym, że w przypadku sztucznej inteligencji umiejętność tworzenia przekonującego tekstu jest bezpośrednio związana z mechanizmem jej działania. Model został zaprojektowany między innymi po to, aby generować naturalny język. Nie można więc traktować poprawności stylistycznej jako dowodu poprawności merytorycznej. Pięknie sformułowana odpowiedź może zawierać błędną datę, nieistniejące źródło, fałszywą zależność przyczynową albo wniosek, który nie wynika z przedstawionych przesłanek.

Szczególnie niebezpieczne są odpowiedzi, w których błędne informacje są wymieszane z prawdziwymi. Gdyby sztuczna inteligencja przedstawiała wyłącznie oczywiste absurdy, użytkownicy stosunkowo łatwo rozpoznawaliby problem. Tymczasem często otrzymują tekst, w którym większość informacji jest poprawna, ale jeden lub dwa szczegóły zostały zmyślone albo niewłaściwie połączone. Prawdziwe fakty nadają wiarygodność całej wypowiedzi, przez co odbiorca może nie zauważyć, że jej istotny fragment jest nieprawdziwy.

Przykładowo model może poprawnie opisać przebieg ważnego wydarzenia historycznego, wymienić rzeczywiste postacie i wskazać prawdziwe daty, a następnie dopisać nieistniejący cytat przypisywany jednemu z uczestników. Innym razem może przedstawić prawdziwą nazwę instytucji, poprawnie opisać jej działalność, ale podać błędny adres lub nieistniejący numer telefonu. W jeszcze innym przypadku może wykorzystać rzeczywistą publikację naukową, lecz przypisać jej wnioski, których autorzy nigdy nie sformułowali. W każdym z tych przykładów ogólna forma odpowiedzi pozostaje wiarygodna, mimo że konkretna informacja wymaga zakwestionowania.

Istotną rolę odgrywają również dane treningowe. Model nie zdobywa wiedzy w oderwaniu od materiałów, na których został wytrenowany. Jego możliwości i ograniczenia są w dużej mierze związane z jakością, zakresem, różnorodnością i aktualnością tych danych. Jeżeli określone zagadnienie zostało dobrze opisane w wielu wiarygodnych źródłach, model może nauczyć się rozpoznawać związane z nim zależności. Jeżeli natomiast dane są niepełne, sprzeczne albo zawierają błędy, system może odtwarzać te problemy w swoich odpowiedziach.

Internet, książki i inne zasoby tekstowe nie są zbiorem wyłącznie prawdziwych informacji. Znajdują się w nich opracowania naukowe, materiały edukacyjne, artykuły publicystyczne, komentarze, reklamy, wpisy użytkowników, błędne interpretacje, nieaktualne dane i treści celowo wprowadzające w błąd. Nie każda informacja dostępna w sieci została sprawdzona przez specjalistę. Nie każda publikacja przedstawia aktualny stan wiedzy. Nie każdy autor rozróżnia fakty od opinii. Jeżeli model uczy się na podstawie tak zróżnicowanego materiału, nie można oczekiwać, że automatycznie przejmie wyłącznie prawdziwe i wartościowe elementy.

Warto również zauważyć, że samo występowanie danej informacji w wielu miejscach nie oznacza, że jest ona prawdziwa. Błędne twierdzenie może być wielokrotnie powielane przez różne strony internetowe, portale i użytkowników. W rezultacie może pojawiać się w danych treningowych z dużą częstotliwością. Model może nauczyć się, że określone sformułowanie jest typowe dla danego tematu, choć nie musi mieć możliwości samodzielnego rozstrzygnięcia, czy jego treść odpowiada rzeczywistości.

Przykładem może być popularny mit historyczny. Jeżeli przez lata jest powtarzany w artykułach, materiałach edukacyjnych i wpisach internetowych, może stać się silnie utrwalonym elementem dostępnych danych. Model może następnie odtworzyć takie twierdzenie w odpowiedzi, ponieważ jest ono częścią wzorców, których się nauczył. Nie oznacza to, że system celowo wybiera fałsz. Oznacza natomiast, że jego trening nie jest równoznaczny z nieustannym sprawdzaniem wszystkich twierdzeń w niezależnych źródłach.

Kolejnym ograniczeniem jest nierównomierne przedstawienie różnych tematów w danych treningowych. Niektóre zagadnienia są opisane bardzo szeroko, inne występują znacznie rzadziej. Dotyczy to również języków. Materiały w języku angielskim stanowią znaczną część wielu zasobów wykorzystywanych do trenowania modeli. W przypadku języków mniej reprezentowanych w danych treningowych system może mieć trudności z rozpoznawaniem lokalnych nazw, specyficznych pojęć, regionalnych wydarzeń i mniej popularnych publikacji. Nie oznacza to, że każdy model zawsze gorzej radzi sobie z językiem polskim, ale zakres i jakość materiałów mogą wpływać na jego możliwości w poszczególnych dziedzinach.

Szczególnie trudne mogą być zagadnienia niszowe, lokalne i specjalistyczne. Model może dobrze znać ogólną historię Polski, ale mieć ograniczoną wiedzę na temat małej miejscowości, lokalnego stowarzyszenia, niewielkiej instytucji czy mało znanego wydarzenia z początku XX wieku. Może znać podstawowe zasady funkcjonowania prawa, ale nie uwzględniać najnowszej zmiany w konkretnym przepisie. Może rozpoznawać popularne gatunki roślin, ale pomylić rzadką odmianę występującą w określonym regionie. W takich sytuacjach system może próbować uzupełnić brakujące informacje na podstawie ogólnych wzorców, co zwiększa ryzyko powstania błędnej odpowiedzi.

Ważnym problemem jest także data powstania danych treningowych. Model nie musi posiadać wiedzy o wydarzeniach, które nastąpiły po zakończeniu jego treningu. Jeżeli system nie ma dostępu do aktualnych źródeł zewnętrznych, może odpowiadać na pytania dotyczące obecnej sytuacji na podstawie informacji, które były prawdziwe kilka miesięcy albo kilka lat wcześniej. W przypadku zagadnień historycznych, matematycznych czy podstawowych zasad naukowych może to mieć ograniczone znaczenie, ale w przypadku cen, przepisów, stanowisk urzędowych, aktualnych wydarzeń, produktów i usług może prowadzić do poważnych pomyłek.

Trzeba przy tym rozróżnić wiedzę zapisaną w parametrach modelu od informacji pobieranych w trakcie rozmowy. Niektóre systemy mogą korzystać z wyszukiwarek internetowych, baz danych, dokumentów użytkownika lub specjalistycznych narzędzi. Dzięki temu mogą uzupełniać odpowiedzi o informacje, których nie zawierały ich pierwotne dane treningowe. Nie zmienia to jednak faktu, że również takie rozwiązania mają ograniczenia. Wyszukiwarka może znaleźć nieaktualną stronę, system może źle odczytać dokument, a model może błędnie podsumować znalezioną informację. Sam dostęp do internetu nie jest gwarancją prawdziwości odpowiedzi.

Warto zatem unikać uproszczonego przekonania, że wystarczy podłączyć sztuczną inteligencję do internetu, aby przestała popełniać błędy. Aktualne źródła mogą znacznie poprawić jakość odpowiedzi, ale nie eliminują potrzeby oceny ich wiarygodności. Model musi jeszcze prawidłowo rozpoznać, które źródła są istotne, czy dotyczą właściwego zagadnienia, czy zawierają aktualne informacje i czy rzeczywiście potwierdzają przedstawiane twierdzenie. Jeżeli te czynności zostaną wykonane nieprawidłowo, system nadal może wygenerować błędną odpowiedź.

Dane treningowe nie są jedynym czynnikiem wpływającym na zachowanie sztucznej inteligencji. Duże znaczenie ma również dodatkowe dostrajanie modelu. Po podstawowym treningu systemy często przechodzą kolejne etapy, których celem jest poprawa jakości rozmowy, przestrzegania instrukcji, użyteczności i bezpieczeństwa. Wykorzystuje się między innymi przykłady odpowiedzi ocenianych przez ludzi oraz metody uczenia oparte na preferencjach. Dzięki temu model może lepiej rozpoznawać oczekiwania użytkowników, unikać niektórych szkodliwych treści i tworzyć bardziej uporządkowane wypowiedzi.

Dostrajanie nie sprawia jednak, że model staje się nieomylny. Może poprawić sposób odpowiadania, ale nie daje pełnej gwarancji, że każda informacja będzie zgodna z rzeczywistością. System może nauczyć się, że w określonych sytuacjach powinien zaznaczyć niepewność, lecz nie zawsze prawidłowo rozpozna moment, w którym powinien to zrobić. Może również tworzyć odpowiedzi, które są bardziej zgodne z oczekiwaniami użytkownika, ale niekoniecznie bardziej prawdziwe. Jeżeli ktoś pyta w sposób sugerujący określoną tezę, model może niekiedy zbyt łatwo podążyć za przedstawionym kierunkiem.

W tym miejscu pojawia się kolejny ważny element działania modeli językowych: wpływ kontekstu rozmowy. Wypowiedź sztucznej inteligencji nie powstaje wyłącznie na podstawie pojedynczego pytania. System może uwzględniać wcześniejsze wiadomości, przedstawione dokumenty, dodatkowe instrukcje i informacje przekazane przez użytkownika. Kontekst pomaga mu zrozumieć, czego dotyczy rozmowa, do jakiego problemu odnosi się kolejne pytanie i jakiego rodzaju odpowiedzi oczekuje odbiorca.

Jeżeli użytkownik najpierw opisuje problem z samochodem, a następnie pyta: „Czy to może być wina alternatora?”, model powinien uwzględnić wcześniejszy opis objawów. Jeżeli ktoś przedstawia fragment umowy, a później pyta o znaczenie konkretnego zapisu, system może odwołać się do treści dokumentu. Jeżeli rozmowa dotyczy pisania książki, kolejne pytania mogą być interpretowane w kontekście jej tematu, struktury i założeń. Dzięki temu interakcja staje się bardziej naturalna i nie wymaga powtarzania wszystkich informacji w każdej wiadomości.

Kontekst ma jednak również swoją ciemniejszą stronę. Model może przyjmować za prawdziwe informacje, które użytkownik wcześniej przedstawił, nawet jeśli były błędne. Może też budować kolejne odpowiedzi na podstawie wcześniejszych pomyłek. Jeżeli rozmowa rozpocznie się od fałszywego założenia, następne wypowiedzi mogą stopniowo je utrwalać. W rezultacie system może stworzyć całą rozbudowaną narrację, w której kolejne szczegóły są dopasowywane do początkowego błędu.

Wyobraźmy sobie, że użytkownik pyta o fikcyjną książkę, podając nieistniejącego autora i wymyślony tytuł. Model nie rozpoznaje, że informacja jest fałszywa, i odpowiada, przedstawiając rzekomą fabułę. Następnie użytkownik pyta o głównych bohaterów, miejsce akcji i datę pierwszego wydania. System może kontynuować rozmowę, tworząc kolejne szczegóły zgodne z wcześniej wygenerowanym opisem. Po kilku wymianach wiadomości powstaje pozornie spójna historia. Każda następna odpowiedź może sprawiać wrażenie potwierdzenia poprzedniej, mimo że cała konstrukcja została oparta na nieistniejącej książce.

Tego rodzaju sytuacja pokazuje, że spójność rozmowy nie jest dowodem prawdziwości jej treści. Model może zachowywać konsekwencję względem wcześniejszych wypowiedzi, ale konsekwencja nie oznacza zgodności z rzeczywistością. Jeżeli pierwsza informacja była błędna, kolejne odpowiedzi mogą jedynie rozbudowywać pomyłkę.

Kontekst może również wpływać na sposób formułowania odpowiedzi. Jeżeli użytkownik prosi o wyjaśnienie prostym językiem, system będzie prawdopodobnie unikał specjalistycznych określeń. Jeżeli oczekuje analizy naukowej, odpowiedź może być bardziej formalna i szczegółowa. Jeżeli rozmowa ma charakter swobodny, model może stosować luźniejszy styl. Takie dostosowanie jest przydatne, ale może sprawiać, że użytkownik zaczyna postrzegać system jako rozmówcę, który nie tylko rozumie jego słowa, lecz także posiada pełne rozeznanie w omawianym problemie.

Warto pamiętać, że model może interpretować kontekst nieprawidłowo. Długie rozmowy, niejednoznaczne sformułowania, sprzeczne informacje i zbyt duża liczba szczegółów mogą utrudniać właściwe rozpoznanie tego, do czego odnosi się kolejne pytanie. Niektóre systemy mają ograniczenia dotyczące ilości tekstu, którą mogą uwzględnić jednocześnie. W przypadku bardzo długiej rozmowy nie wszystkie wcześniejsze informacje muszą być dostępne w takim samym stopniu. Część może zostać pominięta, skrócona lub utracona w trakcie przetwarzania kontekstu.

Może to prowadzić do sytuacji, w której sztuczna inteligencja zapomina o istotnym zastrzeżeniu podanym wcześniej przez użytkownika, myli dwie podobne osoby, przypisuje informację niewłaściwemu dokumentowi albo odpowiada tak, jakby wcześniejsza część rozmowy nie zawierała określonego szczegółu. Użytkownik może odnieść wrażenie, że system świadomie ignoruje ustalenia, podczas gdy problem wynika z ograniczeń przetwarzania kontekstu lub niewłaściwego powiązania informacji.

Nie bez znaczenia jest również sposób formułowania pytań. Model językowy może być szczególnie podatny na sugestie zawarte w poleceniu. Jeżeli użytkownik pyta: „Dlaczego ta metoda leczenia jest tak skuteczna?”, system może przyjąć, że metoda rzeczywiście jest skuteczna, i zacząć wyjaśniać jej rzekome zalety. Jeżeli pytanie brzmi: „Jakie dowody potwierdzają, że określona teoria jest prawdziwa?”, model może skoncentrować się na poszukiwaniu argumentów przemawiających za tą tezą, zamiast najpierw sprawdzić, czy istnieją wiarygodne dowody. Niektóre systemy potrafią zakwestionować błędne założenie, ale nie należy zakładać, że zrobią to zawsze.

Z tego powodu sposób zadawania pytań ma znaczenie nie tylko dla wygody użytkownika, lecz także dla wiarygodności otrzymanych odpowiedzi. Pytanie neutralne daje modelowi większą możliwość przedstawienia różnych stanowisk i wskazania niepewności. Pytanie sugerujące określoną odpowiedź może natomiast ukierunkować generowanie na potwierdzenie założenia, które wcale nie musi być prawdziwe.

Dobrym przykładem jest różnica między pytaniem „Dlaczego suplement X poprawia pamięć?” a pytaniem „Czy istnieją wiarygodne badania potwierdzające, że suplement X poprawia pamięć?”. Pierwsze sugeruje, że korzystne działanie zostało już udowodnione. Drugie pozostawia miejsce na odpowiedź, że dowody są ograniczone, niejednoznaczne albo nie istnieją. Jeżeli zależy nam na rzetelnej informacji, warto formułować pytania tak, aby nie narzucały systemowi wniosków przed przeanalizowaniem faktów.

Kolejnym powodem powstawania logicznie brzmiących, ale błędnych wyjaśnień jest zdolność modelu do tworzenia zależności przyczynowo-skutkowych na podstawie wzorców językowych. W tekstach ludzie często wyjaśniają, że określone zjawisko wystąpiło z powodu konkretnego wydarzenia, decyzji lub warunku. Model uczy się sposobów budowania takich wyjaśnień. Potrafi więc przedstawić argumentację, która ma początek, rozwinięcie i wniosek. Problem pojawia się wtedy, gdy związek przyczynowy zostaje dopisany bez wystarczających podstaw.

Załóżmy, że użytkownik pyta, dlaczego pewne miasto rozwinęło się gospodarczo szybciej niż sąsiednie miejscowości. Model może wskazać korzystne położenie geograficzne, rozwój transportu, działalność lokalnych przedsiębiorców i dostęp do surowców. Wszystkie te czynniki mogą być typowymi przyczynami rozwoju miast. Nie oznacza to jednak, że rzeczywiście odegrały taką rolę w przypadku konkretnej miejscowości. Być może najważniejszym czynnikiem była decyzja administracyjna, inwestycja państwowa albo szczególne wydarzenie historyczne, którego model nie uwzględnił. Odpowiedź może być logiczna, ale nie musi być prawdziwa.

W takich sytuacjach należy rozróżniać ogólną możliwość od potwierdzonego wyjaśnienia. To, że określony czynnik mógł wpłynąć na dane zjawisko, nie dowodzi, że rzeczywiście je spowodował. Model może przedstawić prawdopodobną hipotezę, ale użytkownik powinien sprawdzić, czy istnieją źródła potwierdzające jej zastosowanie w konkretnym przypadku.

Podobny problem występuje w analizach ekonomicznych, społecznych i politycznych. Sztuczna inteligencja może stworzyć przekonujące wyjaśnienie wzrostu cen, zmian na rynku pracy czy zachowań konsumentów. Może wymienić kilka czynników, które zazwyczaj wpływają na dane zjawisko. Jednak rzeczywiste procesy gospodarcze i społeczne są często wieloczynnikowe, a ich przebieg zależy od warunków, których nie da się sprowadzić do jednego prostego schematu. Model może nadmiernie uprościć problem, pominąć istotne dane albo przedstawić przypuszczenie jako ustalony fakt.

Niebezpieczeństwo polega na tym, że logiczne wyjaśnienie często wydaje się bardziej wiarygodne niż przypadkowa lista informacji. Człowiek naturalnie poszukuje sensu i przyczyn. Kiedy otrzymuje uporządkowaną odpowiedź, łatwo uznaje ją za rezultat prawidłowej analizy. Tymczasem dobrze skonstruowana argumentacja nie zawsze jest argumentacją poprawną. Można stworzyć spójny ciąg rozumowania oparty na błędnych przesłankach. Jeżeli przesłanki są nieprawdziwe, końcowy wniosek również może być błędny, nawet jeśli wszystkie kolejne zdania pasują do siebie pod względem językowym.

Warto również zwrócić uwagę na zjawisko nadmiernej pewności wypowiedzi. Model językowy może formułować odpowiedzi w sposób stanowczy, używając zwrotów takich jak „z pewnością”, „bez wątpienia”, „jednoznacznie wynika z tego, że” albo „najważniejszą przyczyną było”. Tego rodzaju sformułowania mogą wzmacniać zaufanie użytkownika, ale nie zawsze odzwierciedlają rzeczywisty poziom pewności systemu. Styl wypowiedzi i prawdopodobieństwo poprawności informacji to dwie odrębne kwestie.

W niektórych systemach można uzyskać bardziej ostrożne odpowiedzi, prosząc o wskazanie poziomu pewności, rozdzielenie faktów od hipotez albo przedstawienie alternatywnych wyjaśnień. Takie polecenia nie gwarantują jednak, że model prawidłowo oceni własną wiarygodność. Może błędnie określić stopień pewności, a nawet uzasadnić nieprawdziwe twierdzenie w sposób, który wygląda na szczególnie staranny. Dlatego deklaracja modelu, że jest czegoś pewny, nie powinna być traktowana jako samodzielny dowód.

W tym miejscu warto wprowadzić ważne rozróżnienie między prawdopodobieństwem wygenerowania określonego tokenu a prawdopodobieństwem prawdziwości całego twierdzenia. Są to różne rzeczy. Model może uznać określone sformułowanie za bardzo odpowiednie w danym kontekście, ponieważ podobne zdania często występowały w danych treningowych. Nie oznacza to, że oszacował w ten sposób prawdopodobieństwo zgodności tego zdania z rzeczywistością. Prawdopodobieństwo językowe nie jest tym samym co potwierdzenie faktu.

To rozróżnienie ma ogromne znaczenie dla zrozumienia halucynacji. Jeżeli model generuje nazwisko, datę albo tytuł publikacji, może robić to dlatego, że taki element pasuje do wzorca wypowiedzi. Nie oznacza to, że przed chwilą sprawdził istnienie tej osoby, wydarzenia lub książki. System może stworzyć wiarygodnie brzmiący tytuł naukowy, ponieważ zna typowe konstrukcje bibliograficzne. Może wymyślić autora, ponieważ rozpoznaje charakterystyczne połączenia imion i nazwisk. Może podać dokładną datę, ponieważ szczegółowość jest naturalnym elementem wielu tekstów informacyjnych. Forma może być poprawna, podczas gdy treść pozostaje niezweryfikowana.

W praktyce oznacza to, że szczególnie ostrożnie należy podchodzić do informacji, których nie można łatwo sprawdzić na podstawie ogólnej wiedzy. Dotyczy to między innymi nazwisk mniej znanych osób, dokładnych dat, statystyk, cytatów, numerów dokumentów, tytułów publikacji, przepisów prawnych i danych technicznych. Właśnie w takich obszarach model może tworzyć szczegóły, które brzmią naturalnie, ale nie mają potwierdzenia.

Istotną kwestią jest także różnica między rozumieniem tekstu a rozumieniem rzeczywistości. Modele językowe potrafią bardzo skutecznie analizować relacje między pojęciami i wykonywać zadania wymagające przetwarzania informacji. Nie oznacza to jednak, że ich sposób poznawania świata jest identyczny z ludzkim. Człowiek może sprawdzić, czy przedmiot rzeczywiście istnieje, dotknąć go, zmierzyć, porównać z innym obiektem i zweryfikować wynik działania. Sam model tekstowy nie wykonuje takich czynności bez dodatkowych narzędzi i odpowiednich danych wejściowych.

Jeżeli użytkownik zapyta, czy określony element maszyny jest uszkodzony, model może przeanalizować opis objawów i wskazać możliwe przyczyny. Nie oznacza to, że rzeczywiście obejrzał urządzenie albo przeprowadził pomiary. Jeżeli ktoś zapyta o stan prawny konkretnej nieruchomości, system może wyjaśnić, jakie informacje należy sprawdzić, ale nie zna automatycznie aktualnej treści odpowiedniego rejestru. Jeżeli użytkownik opisze objawy choroby, model może przedstawić możliwe wyjaśnienia, lecz nie przeprowadzi badania fizykalnego ani nie wykona badań laboratoryjnych.

Sztuczna inteligencja może oczywiście współpracować z innymi narzędziami, które umożliwiają analizę obrazów, przetwarzanie danych, wyszukiwanie informacji czy wykonywanie obliczeń. Dzięki temu jej możliwości są znacznie większe niż w przypadku systemu ograniczonego wyłącznie do generowania tekstu. Mimo to każda dodatkowa funkcja ma swoje ograniczenia. Analiza obrazu może być niedokładna, wyniki wyszukiwania mogą być niepełne, a obliczenia mogą zostać wykonane na podstawie błędnych danych. Rozszerzenie możliwości systemu nie oznacza automatycznego wyeliminowania wszystkich źródeł błędów.

Dlatego tak ważne jest, aby użytkownik rozumiał, z jakiego rodzaju systemem ma do czynienia. Model językowy nie jest encyklopedią, w której każda odpowiedź została wcześniej sprawdzona i zatwierdzona. Nie jest również uniwersalnym ekspertem, który posiada aktualną wiedzę o wszystkich dziedzinach. Jest zaawansowanym narzędziem do przetwarzania i generowania informacji, którego skuteczność zależy od wielu czynników: jakości treningu, rodzaju zadania, dostępnego kontekstu, sposobu sformułowania pytania oraz ewentualnego dostępu do dodatkowych źródeł i narzędzi.

Nie oznacza to, że odpowiedzi sztucznej inteligencji są z natury niewiarygodne. W wielu zastosowaniach modele językowe potrafią być niezwykle pomocne. Mogą przyspieszać pracę z tekstem, wyjaśniać trudne zagadnienia, porządkować materiały, pomagać w nauce, tworzyć projekty dokumentów i wskazywać możliwe rozwiązania problemów. Ich wartość jest szczególnie duża wtedy, gdy użytkownik traktuje je jako narzędzia wspierające własne działania, a nie jako nieomylne źródło prawdy.

Właściwe korzystanie ze sztucznej inteligencji wymaga więc zmiany sposobu myślenia o jej odpowiedziach. Nie należy pytać wyłącznie, czy system potrafi udzielić odpowiedzi, lecz także, na jakiej podstawie ją tworzy i czy przedstawione informacje można niezależnie zweryfikować. Jeżeli model wyjaśnia skomplikowane zjawisko, warto sprawdzić, czy nie pomija istotnych czynników. Jeżeli podaje konkretną datę, należy upewnić się, że wydarzenie rzeczywiście miało miejsce w tym terminie. Jeżeli wymienia publikację, warto sprawdzić, czy istnieje i czy rzeczywiście zawiera przypisywane jej treści. Jeżeli przedstawia interpretację, trzeba odróżnić ją od potwierdzonego faktu.

Pomocne może być również proszenie modelu o ujawnienie struktury własnej odpowiedzi. Nie chodzi o uzyskanie niedostępnego zapisu wewnętrznych procesów obliczeniowych, lecz o przedstawienie podstaw, na których można ocenić twierdzenie. Użytkownik może poprosić o wskazanie faktów, założeń, wniosków i elementów wymagających dodatkowego sprawdzenia. Może też poprosić o przedstawienie argumentów przemawiających za i przeciw danej tezie. Takie podejście ogranicza ryzyko bezrefleksyjnego przyjmowania jednej wersji wydarzeń.

PROMPT — oddzielanie faktów od przypuszczeń

„Przeanalizuj swoją poprzednią odpowiedź. Podziel zawarte w niej informacje na trzy grupy: fakty, które można potwierdzić wiarygodnymi źródłami; interpretacje lub wnioski wynikające z przedstawionych faktów; oraz przypuszczenia, których nie można uznać za potwierdzone. Nie przedstawiaj hipotez jako faktów. Wskaż również, które informacje wymagają niezależnej weryfikacji. Jeżeli nie masz wystarczających podstaw do potwierdzenia konkretnego twierdzenia, napisz to wprost”.

PROMPT — sprawdzanie założeń zawartych w pytaniu

„Zanim odpowiesz na moje pytanie, sprawdź, czy zawiera ono prawdziwe założenia. Nie przyjmuj automatycznie, że każde wydarzenie, osoba, publikacja lub zależność wymieniona w pytaniu rzeczywiście istnieje. Jeżeli zauważysz błędną, niepotwierdzoną albo niejednoznaczną przesłankę, wskaż ją i wyjaśnij problem, zanim przejdziesz do odpowiedzi”.

PROMPT — analiza logicznego wyjaśnienia

„Przedstaw odpowiedź na moje pytanie, a następnie sprawdź, czy zaproponowane wyjaśnienie rzeczywiście wynika z dostępnych informacji. Oddziel potwierdzone związki przyczynowo-skutkowe od prawdopodobnych hipotez. Wskaż inne możliwe wyjaśnienia i nie twórz zależności tylko dlatego, że brzmią logicznie. Jeżeli brakuje danych do wyciągnięcia jednoznacznego wniosku, zaznacz to wyraźnie”.

Takie polecenia nie zmieniają podstawowej architektury modelu i nie gwarantują bezbłędności. Mogą jednak pomóc użytkownikowi uzyskać bardziej przejrzystą odpowiedź i zwrócić uwagę na miejsca, w których potrzebna jest dodatkowa kontrola. Najważniejsza pozostaje jednak zasada, że żadna instrukcja nie zastępuje niezależnej weryfikacji informacji o istotnym znaczeniu.

Warto również pamiętać, że modele językowe nie są jednakowe. Różnią się wielkością, architekturą, jakością danych treningowych, sposobem dostrajania, dostępnymi narzędziami i metodami oceny odpowiedzi. Jeden system może lepiej radzić sobie z analizą długich dokumentów, inny z programowaniem, a jeszcze inny z wyszukiwaniem informacji. Nawet w obrębie tej samej usługi różne wersje modelu mogą prezentować odmienne możliwości. Nie można więc zakładać, że wszystkie narzędzia określane mianem sztucznej inteligencji działają identycznie albo popełniają dokładnie takie same błędy.

Również ten sam model może udzielić różnych odpowiedzi na podobne pytania. Może to wynikać ze sposobu sformułowania polecenia, wcześniejszego kontekstu, ustawień generowania, dostępnych narzędzi albo zmian w wersji systemu. Jeżeli użytkownik otrzymał poprawną odpowiedź w jednej rozmowie, nie oznacza to, że przy kolejnym podejściu system zawsze odpowie tak samo. Z tego powodu ważnych informacji nie należy uznawać za potwierdzone wyłącznie dlatego, że model powtórzył je w kilku kolejnych wiadomościach.

Szczególnie mylące może być wielokrotne zadawanie podobnego pytania. Jeżeli użytkownik pyta o ten sam fakt na kilka sposobów, a system za każdym razem przedstawia zbliżoną odpowiedź, może odnieść wrażenie, że informacja została potwierdzona. Tymczasem kolejne wypowiedzi mogą być generowane na podstawie tych samych wzorców i podobnych założeń. Powtórzenie odpowiedzi przez ten sam model nie jest niezależnym dowodem jej prawdziwości. Aby rzeczywiście zweryfikować informację, należy skonfrontować ją z wiarygodnymi źródłami, które nie są jedynie powtórzeniem wcześniejszej odpowiedzi sztucznej inteligencji.

Zrozumienie działania modeli językowych pozwala lepiej ocenić zarówno ich możliwości, jak i ograniczenia. Ich ogromna skuteczność wynika z umiejętności rozpoznawania złożonych wzorców, przetwarzania języka i generowania odpowiedzi dostosowanych do kontekstu. Ta sama właściwość może jednak prowadzić do błędów, ponieważ system potrafi stworzyć tekst pasujący do sytuacji nawet wtedy, gdy nie dysponuje wystarczającymi informacjami. Nie zawsze odróżnia wiedzę potwierdzoną od prawdopodobnego uzupełnienia. Nie zawsze rozpoznaje fałszywe założenia. Nie zawsze wie, kiedy powinien przerwać generowanie i przyznać, że nie zna odpowiedzi.

Najważniejszy wniosek jest prosty: sztuczna inteligencja może doskonale opanować język, nie stając się przez to nieomylnym źródłem wiedzy. Może tworzyć wypowiedzi, które przypominają rezultat pracy eksperta, ale sama forma nie przesądza o ich prawdziwości. Model nie musi mieć dostępu do potwierdzonego faktu, aby wygenerować zdanie, które brzmi tak, jakby było oparte na sprawdzonych danych. Nie musi również świadomie oszukiwać, aby wprowadzić człowieka w błąd.

Właśnie dlatego zrozumienie mechanizmu działania AI jest jednym z najważniejszych elementów odpowiedzialnego korzystania z tej technologii. Kiedy wiemy, że model uczy się na podstawie danych, rozpoznaje wzorce i przewiduje kolejne fragmenty tekstu, łatwiej dostrzegamy, dlaczego jego odpowiedzi mogą być jednocześnie imponujące i zawodne. Przestajemy traktować płynność wypowiedzi jako dowód wiedzy, a zaczynamy zwracać uwagę na źródła, przesłanki i możliwość sprawdzenia przedstawionych informacji. To właśnie ta zmiana pozwala korzystać z zalet sztucznej inteligencji bez bezkrytycznego powierzania jej odpowiedzialności za rozpoznawanie prawdy.

ROZDZIAŁ 4. Fałszywe fakty, zmyślone źródła i nieistniejące publikacje

Jednym z najbardziej podstępnych błędów popełnianych przez sztuczną inteligencję jest tworzenie informacji, które wyglądają jak konkretne, sprawdzalne fakty. Nie chodzi wyłącznie o nieprecyzyjne wyjaśnienia czy pomyłki w ogólnym opisie jakiegoś zagadnienia. W wielu przypadkach model potrafi wygenerować nazwisko autora, tytuł książki, nazwę czasopisma naukowego, numer tomu, datę wydania, numer strony, a nawet adres internetowy, które na pierwszy rzut oka wyglądają całkowicie wiarygodnie. Użytkownik otrzymuje materiał przypominający profesjonalne opracowanie, wyposażony w elementy charakterystyczne dla publikacji naukowej lub rzetelnego artykułu. Dopiero próba sprawdzenia tych informacji może ujawnić, że część z nich nie istnieje.

To zjawisko jest szczególnie niebezpieczne, ponieważ fałszywe źródła często sprawiają wrażenie bardziej wiarygodnych niż zwykłe, niepoparte dowodami stwierdzenia. Jeżeli sztuczna inteligencja napisze, że określone zjawisko zostało opisane w książce znanego profesora, a następnie poda pełny tytuł publikacji, nazwę wydawnictwa i rok wydania, odbiorca może uznać, że informacja została wcześniej sprawdzona. Jeżeli dodatkowo pojawi się odwołanie do artykułu naukowego, numer czasopisma i numer strony, odpowiedź zaczyna przypominać fragment pracy badawczej. Tymczasem wszystkie te szczegóły mogą zostać wygenerowane bez rzeczywistego potwierdzenia, że wskazana publikacja kiedykolwiek powstała.

Problem ten wynika z mechanizmu działania modeli językowych. Systemy uczą się rozpoznawać charakterystyczne sposoby przedstawiania informacji, w tym również sposób zapisywania bibliografii, cytatów, przypisów i odnośników. Wiedzą, że książka ma zwykle autora, tytuł, wydawnictwo i rok publikacji. Wiedzą, że artykuł naukowy może zawierać nazwę czasopisma, numer tomu, numer wydania, zakres stron i identyfikator DOI. Potrafią odtworzyć takie struktury w poprawnej formie. Nie oznacza to jednak, że każda wygenerowana pozycja bibliograficzna odpowiada rzeczywistemu dokumentowi.

Model może więc stworzyć opis, który formalnie wygląda jak prawdziwy zapis bibliograficzny, ale nie ma swojego odpowiednika w świecie rzeczywistym. Może połączyć nazwisko istniejącego naukowca z wymyślonym tytułem artykułu. Może przypisać prawdziwej książce nieprawidłowy rok wydania. Może stworzyć tytuł czasopisma, który brzmi naukowo, lecz nigdy nie był publikowany. Może również wygenerować publikację, która przypomina połączenie kilku rzeczywiście istniejących prac. Dla osoby, która nie zna danej dziedziny, rozpoznanie takiej pomyłki może być bardzo trudne.

Szczególnie łatwo o tego rodzaju błędy wtedy, gdy użytkownik prosi o źródła dotyczące wąskiego lub mało popularnego zagadnienia. Jeżeli w danych treningowych model nie przyswoił wystarczającej liczby informacji o określonym temacie, może próbować uzupełnić braki na podstawie znanych schematów. Zamiast przyznać, że nie potrafi wskazać odpowiednich publikacji, może stworzyć pozycje, które pasują do tematu i wyglądają jak prawdopodobne opracowania. Im bardziej specjalistyczna dziedzina, tym większe znaczenie ma sprawdzenie, czy wymienione źródła rzeczywiście istnieją.

Wyobraźmy sobie, że użytkownik przygotowuje rozdział książki o zapomnianych zawodach w XIX wieku i prosi sztuczną inteligencję o wskazanie pięciu opracowań naukowych na temat pracy latarników, druciarzy i kataryniarzy. Model może wymienić prawdziwe książki dotyczące historii społecznej, a obok nich dodać artykuł o tytule idealnie pasującym do zagadnienia. Może wskazać autora o wiarygodnie brzmiącym nazwisku, nazwę czasopisma historycznego i rok publikacji. Cała lista będzie wyglądała profesjonalnie. Jeżeli jednak użytkownik nie sprawdzi każdej pozycji, może nieświadomie umieścić w bibliografii nieistniejącą publikację.

Takie błędy nie są ograniczone do książek i artykułów naukowych. Model może również tworzyć fikcyjne raporty instytucji publicznych, nieistniejące dokumenty urzędowe, nieprawdziwe opracowania branżowe, wymyślone akty prawne albo publikacje przypisywane organizacjom, które w rzeczywistości ich nie wydały. W każdej z tych sytuacji forma odpowiedzi może być poprawna, ale jej treść nie znajduje potwierdzenia.

Jednym z częstych problemów jest łączenie prawdziwych i nieprawdziwych elementów. Sztuczna inteligencja może wskazać rzeczywistego autora, który faktycznie zajmuje się danym zagadnieniem, ale przypisać mu nieistniejącą publikację. Może również wymienić prawdziwy tytuł książki, lecz podać błędne wydawnictwo albo rok. Innym razem tytuł publikacji będzie autentyczny, ale autor zostanie pomylony z inną osobą. Takie przypadki są szczególnie trudne do wychwycenia, ponieważ część informacji rzeczywiście się zgadza.

Warto pamiętać, że istnienie autora nie potwierdza istnienia konkretnej publikacji. Podobnie obecność książki w katalogu bibliotecznym nie oznacza automatycznie, że wszystkie szczegóły podane przez sztuczną inteligencję są prawidłowe. Każdy element opisu bibliograficznego powinien być traktowany oddzielnie. Należy sprawdzić, czy publikacja istnieje, czy została napisana przez wskazaną osobę, czy ukazała się w podanym roku i czy rzeczywiście zawiera informacje, które model jej przypisuje.

Szczególną kategorią fałszywych informacji są nieprawidłowe cytaty. Sztuczna inteligencja potrafi tworzyć zdania przypominające wypowiedzi znanych pisarzy, naukowców, polityków, filozofów i innych osób publicznych. Może przypisać komuś słowa, które brzmią zgodnie z jego poglądami, stylem albo tematyką twórczości, choć dana osoba nigdy ich nie wypowiedziała ani nie napisała.

Mechanizm ten jest podobny do generowania fikcyjnych publikacji. Model zna typowe sposoby formułowania sentencji, aforyzmów i wypowiedzi przypisywanych znanym postaciom. Jeżeli użytkownik poprosi o cytat znanego filozofa na temat prawdy, system może stworzyć zdanie, które brzmi jak fragment jego twórczości. Może nawet umieścić je w cudzysłowie i podać nazwisko autora. Taki zapis wygląda jak dosłowne przytoczenie, ale w rzeczywistości może być swobodną parafrazą, błędnym przypisaniem albo całkowicie wymyśloną wypowiedzią.

Częstym problemem jest przypisywanie znanym osobom popularnych sentencji, których autorstwo nie zostało wiarygodnie potwierdzone. W internecie można znaleźć wiele krótkich wypowiedzi przypisywanych Albertowi Einsteinowi, Markowi Twainowi, Winstonowi Churchillowi, Arystotelesowi czy innym rozpoznawalnym postaciom. Niektóre z nich mają rzeczywiste źródła, inne są parafrazami, a jeszcze inne powstały znacznie później i zostały przypisane znanym osobom tylko dlatego, że ich nazwisko zwiększa atrakcyjność cytatu.

Model językowy może odtwarzać takie skojarzenia. Jeżeli określona sentencja wielokrotnie występowała w tekstach internetowych wraz z nazwiskiem znanego autora, system może uznać takie połączenie za typowe i powtórzyć je w odpowiedzi. Nie oznacza to, że sprawdził oryginalne dzieło, przemówienie albo list. Może jedynie odtworzyć zależność obecną w analizowanych materiałach.

Należy również odróżniać cytat dosłowny od parafrazy. Cytat dosłowny powinien wiernie odtwarzać rzeczywiste słowa autora, z zachowaniem ich brzmienia i odpowiedniego kontekstu. Parafraza jest natomiast przedstawieniem cudzej myśli własnymi słowami. Można ją wykorzystać w opracowaniu, ale nie wolno przedstawiać jej jako dosłownej wypowiedzi umieszczonej w cudzysłowie. Jeżeli model zmienia konstrukcję zdania, upraszcza wypowiedź albo łączy kilka myśli z różnych fragmentów tekstu, otrzymany rezultat nie jest już wiernym cytatem.

Problem komplikuje się jeszcze bardziej, gdy system przypisuje wypowiedź niewłaściwej osobie. Czasami kilka znanych postaci prezentowało podobne poglądy, używało zbliżonych sformułowań albo wypowiadało się na ten sam temat. Model może połączyć charakterystyczną myśl jednego autora ze stylem innego. Może też pomylić osobę, której nazwisko pojawiało się w podobnych kontekstach. W rezultacie powstaje cytat, który brzmi wiarygodnie, ale jego autorstwo jest błędne.

W publikacjach książkowych, artykułach i materiałach edukacyjnych takie pomyłki mogą mieć poważne konsekwencje. Nieprawidłowe przypisanie cytatu podważa wiarygodność autora, może wprowadzać czytelników w błąd i prowadzić do dalszego powielania nieprawdziwej informacji. Jeżeli fikcyjna wypowiedź zostanie wykorzystana w kolejnych publikacjach, może zacząć funkcjonować jako rzekomo autentyczny cytat. W ten sposób błąd wygenerowany przez sztuczną inteligencję może zostać utrwalony w obiegu informacyjnym.

Dlatego cytat podany przez AI powinien być traktowany jako propozycja wymagająca sprawdzenia, a nie jako gotowy materiał do wykorzystania. Najlepiej odnaleźć oryginalne dzieło, zapis przemówienia, list, wywiad albo inne pierwotne źródło. Jeżeli nie można znaleźć takiego potwierdzenia, nie należy przedstawiać wypowiedzi jako dosłownego cytatu. Można zrezygnować z niej, opisać daną myśl własnymi słowami albo wskazać, że jej autorstwo jest niepewne.

Kolejnym obszarem, w którym sztuczna inteligencja może tworzyć fałszywe informacje, są odnośniki internetowe. Użytkownik często oczekuje, że model poda adres strony, na której będzie można znaleźć dokument, raport, artykuł albo oficjalną informację. W wielu przypadkach system rzeczywiście może wskazać przydatne zasoby. Jeżeli jednak nie korzysta z aktualnego wyszukiwania lub nie ma dostępu do odpowiedniej bazy, może wygenerować adres na podstawie charakterystycznej struktury stron internetowych.

Adres internetowy może wyglądać całkowicie naturalnie, a mimo to prowadzić donikąd. Model może utworzyć nazwę domeny przypominającą stronę instytucji, dodać typową końcówkę adresu i wygenerować ścieżkę zawierającą tytuł dokumentu. Może też podać link do rzeczywistej domeny, ale wskazać nieistniejącą podstronę. W jeszcze innym przypadku adres może prowadzić do prawdziwego artykułu, który jednak nie zawiera informacji przypisywanej mu przez AI.

Szczególnie mylące są odnośniki, które na pierwszy rzut oka wyglądają jak oficjalne adresy instytucji. Jeżeli model wymienia raport ministerstwa, może wygenerować link zawierający nazwę urzędu, rok i tytuł dokumentu. Taka konstrukcja wydaje się logiczna, ponieważ wiele instytucji publikuje materiały właśnie w podobny sposób. Nie oznacza to jednak, że konkretny adres rzeczywiście istnieje. Podobnie nie można zakładać, że strona jest oficjalna tylko dlatego, że jej domena przypomina nazwę znanej organizacji.

Warto również pamiętać, że działający link nie musi potwierdzać prawdziwości przedstawionej informacji. Strona może istnieć, ale zawierać inne dane niż te, które podała sztuczna inteligencja. Może być nieaktualna, dotyczyć innego zagadnienia albo przedstawiać opinię, a nie ustalony fakt. Samo kliknięcie w odnośnik nie kończy więc procesu weryfikacji. Trzeba jeszcze sprawdzić, kto opublikował materiał, kiedy powstał i co rzeczywiście z niego wynika.

Przeczytałeś bezpłatny fragment.
Kup książkę, aby przeczytać do końca.
E-book
za 18.9
drukowana A5
za 64.35