Czy AI odzwyczaja nas od rozumienia?

Pytasz czat, dlaczego bank płaci ci odsetki. Dostajesz uporządkowaną odpowiedź, przykład i analogię z rzeką i młynem, bo czaty kochają analogie z wodą (zresztą nie tylko czaty: wodą tłumaczy się u nas wszystko, z prądem na czele, i pół internetu płynnie opowiada o elektronach płynących w rurach, nie wiedząc nawet, czym jest bezwładność). Czytasz do końca i właściwie nie masz o co dopytać.

Następnego dnia próbujesz komuś to wyjaśnić. Pamiętasz, że chodziło o obracanie pieniędzmi, ale kiedy pada pytanie, skąd bank ma na twoje odsetki i co mu się w tym opłaca, zaczynasz się plątać. Wczoraj umiałbyś wskazać poprawną odpowiedź na ekranie. Dzisiaj masz ją ułożyć sam i okazuje się, że to znacznie trudniejsze.

Używam AI codziennie i doceniam, że mogę dopytywać do skutku, również o rzeczy podstawowe. Dobry czat potrafi wyjaśnić temat, na którym utknąłem w książce. Coraz bardziej przeszkadza mi jednak łatwość, z jaką można na tym skończyć: dostać odpowiedź, poczuć satysfakcję i uznać sprawę za załatwioną, choć jeszcze ani razu nie spróbowało się samemu przejść przez rozumowanie.

Spróbuj wyjaśnić, jak to działa

Leonid Rozenblit i Frank Keil badali ten problem w 2002 roku, na długo przed obecnymi czatami. Uczestnicy oceniali, jak dobrze rozumieją działanie przedmiotów takich jak zamek błyskawiczny czy spłuczka. Potem mieli opisać mechanizm krok po kroku. Po tej próbie oceniali swoją wiedzę niżej.

Badacze nazwali to iluzją głębi wyjaśnień. Znam przedmiot, wiem, do czego służy, widziałem go setki razy, więc wydaje mi się, że wiem też, jak działa. Dopiero próba wyjaśnienia ujawnia, że między naciśnięciem przycisku a oczekiwanym skutkiem mam w głowie sporo miejsca na „jakoś”.

Czat może ułatwiać przeoczenie tej luki, bo podsuwa kolejny krok, zanim sam muszę go znaleźć. To moja interpretacja tego, jak korzystamy z narzędzia, a nie wynik tamtego badania. Samo zjawisko łatwo jednak sprawdzić: wybierz rzecz, o której ostatnio czytałeś, zamknij źródło i spróbuj wytłumaczyć jej działanie. Jeśli urywasz w połowie, masz już konkretne miejsce, do którego warto wrócić.

Lepszy wynik z czatem, gorszy bez niego

W badaniu Hamsy Bastani i współautorów prawie tysiąc licealistów w Turcji ćwiczyło matematykę. Część dostała dostęp do zwykłego czatu opartego na GPT-4. Podczas ćwiczeń ich wyniki były o 48 procent lepsze niż w grupie bez AI. Na późniejszym sprawdzianie, już bez narzędzia, wypadli o 17 procent gorzej od tej grupy.

Drugi wariant czatu miał pomagać wskazówkami zamiast podawać gotowe rozwiązania. Podczas ćwiczeń dawał jeszcze większą przewagę, 127 procent, a na sprawdzianie nie stwierdzono istotnej różnicy względem grupy kontrolnej. Uczniowie uniknęli więc pogorszenia zaobserwowanego przy zwykłym czacie, ale badanie nie wykazało dodatkowej korzyści na sprawdzianie.

To wynik jednego eksperymentu z matematyki, nie pomiar wpływu wszystkich narzędzi AI na ludzkie myślenie. Pokazuje jednak, dlaczego sam postęp w ćwiczeniach może nas mylić. Z pomocą rozwiązałem więcej zadań, lecz dopiero po jej odebraniu można było sprawdzić, ile potrafię zrobić sam.

O co pytać po zamknięciu książki?

Rada „zamknij książkę i przypomnij sobie, co przeczytałeś” jest dobra, ale zbyt ogólna. Sam łapałem się na odtwarzaniu rozdziału: najpierw był wykres, potem definicja, dalej przykład. Chciałbym umieć coś z tą wiedzą zrobić, a nie tylko pamiętać, jak autor poukładał materiał.

Tyle że u mnie między zamknięciem książki a próbą odpowiedzi jest jeszcze przerwa. Czytam, zaznaczam ważne fragmenty, a potem układam z nich fiszki, nadal zaglądając do źródła. Na jednej stronie zapisuję pytanie, na drugiej odpowiedź z książki, do której zajrzę po własnej próbie. Po to mi fiszka: chcę zachować pytanie na później, bo sprawdzanie, czy pamiętam zdanie przeczytane minutę temu, niewiele mówi mi o tym, co będę umiał za kilka dni.

Daję więc sobie trochę czasu, żeby to się poukładało, i idę spać. Sen pomaga w konsolidacji pamięci, czyli utrwalaniu tego, czego się nauczyliśmy. Następnego dnia, a czasem dopiero po kilku dniach, wracam do fiszki i próbuję odpowiedzieć bez podglądania. Zdania autora zdążyły już trochę wywietrzeć z głowy, więc muszę sam wyjaśnić, jak to działa. Dopiero wtedy odsłaniam drugą stronę i sprawdzam, czego zabrakło albo co pomyliłem.

Na fiszce wolę więc zapisać „dlaczego u klienta wywala różnicówkę przy każdej burzy?” niż „co było w rozdziale o ochronie przeciwporażeniowej?”. Gdy wrócę do tego pytania, będę musiał połączyć zasadę działania wyłącznika z tym, co może się dziać w instalacji. Samo przypomnienie definicji już mi nie wystarczy.

Takie pytanie trzeba jeszcze zawęzić, bo sama wzmianka o burzy nie wystarczy do rozpoznania usterki. Na karcie poniżej opisuję połączenie urządzeń i pytam o to, co dzieje się z prądem. To przykład fiszki w układzie znanym z True Recall: podczas powtórki odpowiedź pozostaje zakryta, dopóki sam nie spróbuję jej ułożyć.

Pytanie

Podczas burzy ogranicznik przepięć za różnicówką odprowadza prąd do przewodu ochronnego PE. Dlaczego różnicówka może wtedy zadziałać?

Odpowiedz własnymi słowami, zanim zajrzysz na drugą stronę.

Pokaż odpowiedź Ukryj odpowiedź

Odpowiedź

Część prądu płynącego przez różnicówkę odpływa do PE, więc nie wraca przez nią przewodem neutralnym. Powstaje prąd różnicowy, na który wyłącznik może zareagować. Zadziałanie zależy między innymi od przebiegu impulsu i odporności danego RCD na udary.

W tym przykładzie ogranicznik jest po stronie odbiorów, za RCD, i odprowadza prąd do PE. Nie każda listwa przeciwprzepięciowa ma taki układ. To jeden możliwy mechanizm, a przyczynę powtarzających się wyłączeń w konkretnej instalacji elektryk ustala przez oględziny i pomiary.

Schneider Electric: zakłócenia a działanie RCD (PDF)

Po odsłonięciu odpowiedzi mogę sprawdzić coś konkretnego: czy wyjaśniłem drogę prądu, czy tylko napisałem „bo przepięcie”. Jeśli pomijam warunek położenia ogranicznika względem RCD, wiem też, czego zabrakło w moim rozumowaniu. Takie pytanie warto zachować do powtórek; o układaniu ich i samym przypominaniu pisałem szerzej tutaj.

W eksperymentach Andrew Butlera z 2010 roku odtwarzanie z pamięci pomagało również odpowiadać na nowe pytania wymagające wnioskowania. To dobry powód, żeby po nauce próbować zastosowania, choć samo badanie nie sprawdzało fiszek z elektryki ani pracy z czatem. Zależy mi na takim uczeniu również poza własnym biurkiem, stąd moja wizja szkoły, w której wiedza ma służyć rozwiązywaniu problemów.

Najpierw moja próba, potem pomoc

W takiej pracy nadal jest miejsce na AI. Po własnej odpowiedzi mogę wkleić fragment podręcznika i poprosić czat o porównanie: gdzie pominąłem warunek, gdzie pomyliłem przyczynę ze skutkiem, czego nie uzasadniłem. Jeśli utknę, proszę o wskazówkę do tego miejsca. Kiedy już potrafię wyjaśnić przykład, mogę poprosić o podobny, ze zmienionymi warunkami, i znów spróbować sam.

Weźmy LTV, czyli stosunek kwoty kredytu do wartości nieruchomości. Tak mogłaby wyglądać rozmowa z czatem, gdy pomylę ten wskaźnik z wkładem własnym. W przykładzie przyjmujemy, że cena mieszkania jest równa jego wycenie.

Ty: LTV to chyba procent wartości mieszkania, który muszę pokryć z własnych pieniędzy. Mieszkanie kosztuje 500 tys. zł, biorę 400 tys. zł kredytu, więc LTV wynosi 20 procent. Dobrze to rozumiem? Jeśli coś mylę, wyjaśnij mi co i daj podobny przykład, żebym mógł spróbować jeszcze raz.

AI: Te 20 procent to twój wkład własny. LTV mówi, jaką część wartości nieruchomości stanowi kredyt, więc tutaj wynosi 400/500 = 80 procent. Sprawdźmy to na innych liczbach: mieszkanie kosztuje 600 tys. zł, a wkład własny to 90 tys. zł. Ile wynosi LTV?

Ty: Kredyt wyniesie 510 tys. zł, więc LTV to 510/600 = 85 procent. Te pozostałe 15 procent to wkład własny.

AI: Tak, 85 procent. Dzielisz kwotę kredytu przez wartość mieszkania.

W tej rozmowie czat ma co poprawiać: rachunek się zgadza, tylko mylę wkład własny z LTV. Po wyjaśnieniu dostaję inne liczby i muszę policzyć sam, więc mam okazję sprawdzić, czy nadal popełniam ten sam błąd. W badaniu Butterfield i Metcalfe błędy popełniane z dużą pewnością były po informacji zwrotnej korygowane częściej niż te, przy których uczestnicy zgadywali. Oczywiście pod warunkiem, że dostali poprawną informację zwrotną.

Czat też może się pomylić. Tutaj definicję można sprawdzić w wyjaśnieniu CFPB. Kolejność „moja próba, potem pomoc” traktuję jako praktyczny sposób wykorzystania aktywnego przypominania, a nie osobno potwierdzoną metodę nauki z AI.

Na nagraniu z True Recall poniżej widać tę samą pomyłkę i odpowiedź AI.

Pytanie o odsetki też można zachować na fiszce i wrócić do niego jutro albo za kilka dni. Spróbuj wtedy bez podglądania wyjaśnić, skąd bank bierze pieniądze, które ci wypłaca. Jeśli urwiesz w połowie, będziesz wiedział, o co dopytać, zamiast jeszcze raz czytać całe wyjaśnienie i liczyć, że tym razem zostanie w głowie.

Źródła i dalsza lektura

• Rozenblit i Keil (2002), The misunderstood limits of folk science: an illusion of explanatory depth
• Bastani i in. (2025), Generative AI without guardrails can harm learning, PNAS
• Butler (2010), Repeated testing produces superior transfer of learning relative to repeated studying
• Rasch i Born (2013), About sleep’s role in memory
• Butterfield i Metcalfe (2001), Errors committed with high confidence are hypercorrected
• Sparrow, Liu i Wegner (2011), Google Effects on Memory
• Dahmani i Bohbot (2020), Habitual use of GPS negatively impacts spatial memory during self-guided navigation
• Kosmyna i in. (2025), Your Brain on ChatGPT, preprint