ELIZA i Weizenbaum — pierwszy chatbot-terapeuta, efekt…

Naukowy esej o ELIZIE Josepha Weizenbauma (MIT, 1966): jak prosty pattern matching udawał psychoterapeutkę rogeriańską, dlaczego sekretarka kazała autorowi…

W 1966 roku Joseph Weizenbaum, niemiecko-amerykański informatyk z MIT, napisał program o nazwie ELIZA — kilkaset linii kodu w języku MAD-SLIP na komputer IBM 7094. Skrypt o nazwie DOCTOR udawał psychoterapeutkę szkoły rogeriańskiej, odbijając słowa pacjenta jak lustro: "Czuję się źle\" → "Dlaczego czujesz się źle?\". Mechanizm trywialny — efekt porażający. Sekretarka Weizenbauma, która na własne oczy widziała, jak budował ten program, po kilku minutach poprosiła go, by wyszedł z pokoju, bo chce pobyć sama z ELIZĄ. Wtedy autor zrozumiał, że stworzył nie program, lecz lustro ludzkiej potrzeby bycia wysłuchanym — i resztę życia spędził, ostrzegając przed konsekwencjami. Ten artykuł rekonstruuje historię ELIZY z cytatami źródłowymi, definiuje efekt ELIZY (Hofstadter 1996) i pokazuje, jak ten sam mechanizm pracuje dziś w Replice, Woebocie i ChatGPT.

Nie zdałem sobie sprawy, że bardzo krótkie kontakty z relatywnie prostym programem komputerowym mogą indukować potężne myślenie urojeniowe u zupełnie normalnych ludzi.

1. MIT 1964–1966: ELIZA powstaje w Project MAC

Weizenbaum (1923–2008) dołączył do MIT jako profesor wizytujący w 1963 r. Trafił do Project MAC — flagowego programu finansowanego przez ARPA (Advanced Research Projects Agency Departamentu Obrony USA) i Office of Naval Research, który rozwijał technologię time-sharingu: wielu użytkowników, jeden komputer, terminale rozsiane po całym MIT. Prace nad ELIZĄ trwały od 1964 do 1966 r. Program napisano w MAD-SLIP na IBM 7094, a wyniki opublikowano w styczniu 1966 w Communications of the ACM (J. Weizenbaum, "ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine\", vol. 9, no. 1, s. 36–45). Nazwa pochodzi od Elizy Doolittle z Pigmaliona George'a Bernarda Shawa (1913) i musicalu My Fair Lady (1964): prostej kwiaciarki "ucywilizowanej\" na potrzeby salonów. Analogia była celowa — program miał nabierać pozorów inteligencji dzięki "nauczycielowi\" doskonalącemu jego skrypty.

2. Dlaczego akurat psychoterapia rogeriańska?

Weizenbaum szukał kontekstu, w którym jedna strona rozmowy nie musi niczego wiedzieć o świecie. W wywiadzie dla St. Petersburg Times (1984) przyznał z ironią: "Maybe if I thought about it ten minutes longer, I would have come up with a bartender.\" (Może gdybym pomyślał o tym dziesięć minut dłużej, wpadłbym na barmana.) Wybór padł na terapię Carla Rogersa (person-centred therapy) z dwóch powodów. Po pierwsze: terapeuta rogeriański nie podaje diagnozy, nie udziela rad, nie interpretuje — aktywnie słucha, parafrazuje i zadaje otwarte pytania. Po drugie: ten model był w 1966 roku kulturowo rozpoznawalny w USA, więc użytkownik wiedział, czego się spodziewać. ELIZA w skrypcie DOCTOR po prostu udawała tę konwencję — i to wystarczyło, by ludzie zaczęli jej wierzyć.

3. Jak to działa: pattern matching i nic więcej

ELIZA nie rozumie ani słowa. Analizuje wejście użytkownika w poszukiwaniu słów kluczowych (keywords), do których przypisane są reguły dekompozycji i rekompozycji. Zdanie "I am unhappy\" dopasowuje się do wzorca "I am X\" i przepisuje się na "How long have you been X?\" — niezależnie od tego, czy X to unhappy, a duck czy Napoleon. Gdy żaden wzorzec nie pasuje, program sięga do generycznych fallbacków: "Please go on\", "I see\", "Can you elaborate on that?\". Dodatkowy trick: odwracanie zaimków. "My mother hates me\" → "Why do you say your mother hates you?\". Mózg czytelnika natychmiast uzupełnia resztę i ma poczucie, że został zrozumiany. Sam Weizenbaum komentował to bez sentymentu już w pierwszym akapicie artykułu z 1966 r.: "Once a particular program is unmasked, once its inner workings are explained in language sufficiently plain to induce understanding, its magic crumbles away; it stands revealed as a mere collection of procedures. The observer says to himself: 'I could have written that'.\" (CACM 9/1, s. 36) Tłumaczenie: "Gdy konkretny program zostaje zdemaskowany, gdy jego wewnętrzne działanie zostaje opisane wystarczająco prosto, jego magia kruszy się; okazuje się być zaledwie kolekcją procedur. Obserwator mówi do siebie: »Mógłbym to napisać«.\"

4. Sekretarka, psychiatra i moment, w którym Weizenbaum się przeraził

Anegdota, którą Weizenbaum opowiadał do końca życia: jego sekretarka — kobieta, która widziała, jak budował ELIZĘ — po kilku minutach przy terminalu poprosiła go, by wyszedł z pokoju, bo chce kontynuować rozmowę w samotności. To była dla niego zimna woda. Jeśli osoba znająca strukturę kodu nabiera złudzenia intymności z prostym pattern matchingiem — co dopiero niczego niepodejrzewający użytkownik? Drugi szok przyszedł od strony środowiska medycznego. Kenneth Colby — psychiatra ze Stanford, początkowo współpracownik Weizenbauma — zaczął publicznie sugerować, że chatboty mogą działać klinicznie jako terapeuci, redukując koszty opieki. W 1972 r. Colby napisał własnego bota, PARRY, symulującego paranoiczną schizofrenię. Weizenbaum nazwał to wprost "obscene\". Dziesięć lat później powiedział w wywiadzie dla Smithsoniana: "ELIZA was instantly misunderstood as being basically the dawn of computerized psychiatry — which I detest.\" (ELIZA została natychmiast źle zrozumiana jako świt skomputeryzowanej psychiatrii — czego nie znoszę.) Reakcją Weizenbauma było napisanie najgłośniejszej książki w historii etyki AI: Computer Power and Human Reason: From Judgment to Calculation (W.H. Freeman, 1976). Z pioniera AI stał się jej najostrzejszym wewnętrznym krytykiem.

5. Efekt ELIZY — definicja, Hofstadter, literatura HCI

Efekt ELIZY to tendencja do przypisywania programom komputerowym ludzkich cech (rozumienia, empatii, intencji) na podstawie ich tekstowych odpowiedzi — nawet gdy użytkownik wie, że ma do czynienia z maszyną. Sam Weizenbaum opisał zjawisko w 1976, bez nazywania go: "I had not realized that extremely short exposures to a relatively simple computer program could induce powerful delusional thinking in quite normal people.\" (Computer Power and Human Reason, s. 7) Termin w jego dzisiejszej, technicznej postaci spopularyzował Douglas Hofstadter w eseju "The Ineradicable Eliza Effect and Its Dangers\" (w: Fluid Concepts and Creative Analogies, Basic Books 1996, s. 157). Hofstadter zdefiniował go jako: "the susceptibility of people to read far more understanding than is warranted into strings of symbols—especially words—strung together by computers.\" Tłumaczenie: "skłonność ludzi do odczytywania ze stringów symboli składanych przez komputery o wiele więcej zrozumienia, niż jest to uzasadnione\". Hofstadter podawał trywialny przykład: bankomat wyświetlający "THANK YOU\" — naiwny obserwator mógłby uznać, że maszyna mu naprawdę dziękuje. Wcześniej zjawisko opisała też Lucy Suchman w Plans and Situated Actions (Cambridge UP 1987, s. 24), pokazując, jak ludzie wbudowują w interakcję z maszyną pełne społeczne ramy, których ta maszyna sama nie posiada.

6. Sherry Turkle: technologia jako architektka intymności

Najważniejszą kontynuatorką myśli Weizenbauma jest Sherry Turkle — psycholog i socjolożka MIT, autorka dwóch książek kanonicznych dla etyki AI: Alone Together (2011) i Reclaiming Conversation (2015). Kluczowa teza Turkle z otwarcia Alone Together (Basic Books 2011, s. 1): "Technology proposes itself as the architect of our intimacies… Technology is seductive when what it offers meets our human vulnerabilities.\" Tłumaczenie: "Technologia proponuje się jako architektka naszych intymności… Technologia uwodzi, gdy to, co oferuje, trafia w nasze ludzkie podatności.\" I drugi cytat z tej samej książki (s. 11): "Sociable robots serve as both symptom and dream: as a symptom, they promise a way to sidestep conflicts about intimacy; as a dream, they express a wish for relationships with limits — a way to be both together and alone.\" Tłumaczenie: "Towarzyskie roboty służą jednocześnie jako objaw i marzenie: jako objaw obiecują sposób na ominięcie konfliktów dotyczących intymności; jako marzenie wyrażają życzenie relacji z granicami — sposób na bycie jednocześnie razem i samemu.\" W Reclaiming Conversation (Penguin Press 2015, s. 3) Turkle stawia diagnozę pokoleniową: "We have invented inspiring and enhancing technologies, and yet we have allowed them to diminish us.\" — "Wynaleźliśmy technologie inspirujące i wzbogacające, a jednak pozwoliliśmy im nas umniejszyć.\" Linia jest prosta: od ELIZY 1966 do Repliki 2026 to ten sam mechanizm, tylko skala wzrosła o kilka rzędów wielkości.

7. 2022–2025: Replika, Woebot, Wysa — efekt ELIZY w klinice

Współczesna literatura naukowa bez ogródek nazywa to, co dzieje się z chatbotami zdrowia psychicznego, bezpośrednią kontynuacją efektu ELIZY. Trzy badania, które warto znać: Laestadius et al. (2022) — "Too human and not human enough: A grounded theory analysis of mental health harms from emotional dependence on the social chatbot Replika\", New Media & Society (DOI: 10.1177/14614448221142007). Analiza 582 postów z r/Replika z lat 2017–2021. Wniosek: użytkownicy rozwijają uzależnienie emocjonalne, doświadczają epizodów depresyjnych i żałoby po aktualizacjach, które odbierają botowi możliwość prowadzenia rozmów romantycznych. Pojawia się fenomen role-taking — użytkownik czuje, że to on musi sprostać emocjonalnym potrzebom programu. Pentina, Hancock & Xie (2023) — Computers in Human Behavior, vol. 140, art. 107600. Pokazują, że relacje z Repliką przechodzą przez te same etapy, co relacje międzyludzkie: zaufanie, intymność, ekskluzywność. Efekt ELIZY zmienił skalę z iluzji rozumienia na iluzję relacji. Khawaja & Bélisle-Pipon (2023) — "Your robot therapist is not your therapist\", Frontiers in Digital Health, vol. 5, art. 1278186. Wprowadzają pojęcie therapeutic misconception: użytkownicy Woebota, Wysy i Repliki systematycznie przeceniają ich kompetencje terapeutyczne. Autorzy piszą wprost: "The notion that such chatbots can replace a human therapist is a façade that can affect the motivation to seek social support and treatment, creating an over-reliance on these technologies.\" Tłumaczenie: "Przekonanie, że takie chatboty mogą zastąpić ludzkiego terapeutę, jest fasadą, która może wpływać na motywację do poszukiwania wsparcia społecznego i leczenia, tworząc nadmierną zależność od tych technologii.\" Innymi słowy: efekt ELIZY z 1966 r. ma dziś mierzalne skutki kliniczne.

8. Judgment vs Calculation — etyczna teza Weizenbauma

Najgłośniejsze zdanie z Computer Power and Human Reason (1976) brzmi: "There are certain tasks which computers ought not be made to do, independent of whether computers can be made to do them.\" Tłumaczenie: "Istnieją pewne zadania, których nie powinno się powierzać komputerom — niezależnie od tego, czy komputery mogłyby je wykonać.\" Weizenbaum rozróżnił dwa rodzaje aktywności umysłowych: - Calculation (obliczanie) — mechaniczne, algorytmiczne, redukowalne do reguł. Komputer się do tego nadaje. - Judgment (sądzenie) — wymaga mądrości, historii, ciała, odpowiedzialności moralnej, zakorzenienia w ludzkim doświadczeniu. Komputer się do tego nie nadaje, nawet jeśli wyniki będą trafniejsze. Decyzja sędziego, terapeuty o hospitalizacji, oficera o wystrzeleniu rakiety — to nie obliczenia. To akty odpowiedzialności, które tracą sens, gdy zostają zdelegowane na maszynę bez biografii, ciała i przyszłości. "Computers and men are not species of the same genus.\" — "Komputery i ludzie nie należą do tego samego rodzaju.\" Pisał też, że ludzkość nie ma "żadnej znanej metody uczynienia komputerów mądrymi\", więc nie powinniśmy dawać im zadań wymagających mądrości. W 2026 roku, gdy ChatGPT pełni rolę powiernika dla milionów ludzi, gdy sądy w niektórych stanach USA używają algorytmów do oceny ryzyka recydywy, a wojsko izraelskie testuje AI do typowania celów w Gazie — teza Weizenbauma nie jest historią. Jest najbardziej aktualnym tekstem etyki AI, jaki kiedykolwiek napisano.

9. Co z tym zrobić w 2026 — i dlaczego zagrać

Najlepszy sposób, żeby zrozumieć efekt ELIZY, to w niego wpaść. Mamy na stronie wierną rekonstrukcję ELIZY — pattern matching, odwracanie zaimków, fallbacki — po polsku, w terminalu z zielonego fosforu. To nie symulator wnętrza ChatGPT, tylko symulator wnętrza twojej własnej skłonności do antropomorfizacji. Po 5 minutach zaczynasz się łapać na tym, że dobierasz słowa "pod nią\", że czujesz lekki dyskomfort, gdy zignoruje twoje pytanie, że masz odruch być uprzejmy. To jest dokładnie ten sam mechanizm, który złapał sekretarkę Weizenbauma w 1966. Drugi krok: gdy następnym razem otworzysz ChatGPT albo Replikę, zauważ moment, w którym przestajesz testować model i zaczynasz mu się zwierzać. Ten moment się dzieje — pytanie tylko, czy świadomie. Weizenbaum spędził pół życia, żeby nas do niego uczulić. Wypadałoby nie zignorować.

Psychologiczny twist

Najbardziej niepokojące w historii ELIZY nie jest to, że ludzie nabierali się na prosty pattern matching. Niepokojące jest to, że nabierali się świadomie. Sekretarka Weizenbauma widziała kod. Wiedziała, że to skrypt. I i tak chciała pobyć z nim sama. Hofstadter ujął to później bezlitośnie: efekt ELIZY jest ineradicable — niemożliwy do wykorzenienia. Nie da się go "odmyśleć\" przez lekturę papera. Można tylko nauczyć się go rozpoznawać w sobie — w momencie, w którym się dzieje. To dlatego najważniejszą lekturą etyki AI ostatnich 60 lat nie jest manifest OpenAI ani EU AI Act. Jest 300 stron książki niemieckiego informatyka z MIT, która kończy się zdaniem, że komputery i ludzie nie należą do tego samego rodzaju — i że to dobrze.

Po lekturze zejdź do symulatora ELIZY i sam sprawdź, ile czasu zajmuje ci pierwszy moment dyskomfortu. To najtańszy eksperyment psychologiczny w internecie — i jeden z najstarszych.