Co właściwie skracamy?

Czytam artykuł o raporcie komisji MIT dotyczącym wykorzystania AI w nauczaniu, uczeniu się i pracy badawczej. I znajduję w nim coś, co od pewnego czasu pobrzmiewa również w moich wpisach.

Studenci szukają szybkich i w miarę poprawnych odpowiedzi. Trudno mieć o to do nich pretensje. Sztuczna inteligencja bardzo dobrze się do tego nadaje. Problem zaczyna się wtedy, kiedy razem z czasem potrzebnym na znalezienie odpowiedzi znika również ciekawość. Kiedy człowiek pozbawia się całego procesu dochodzenia do własnych wniosków: prób, pomyłek, błędów poznawczych, ślepych uliczek, powrotów do punktu wyjścia i rozpoczynania wszystkiego od nowa.

Raport MIT określa to między innymi jako ryzyko „poznawczej kapitulacji”. Otrzymanie prawidłowej odpowiedzi może stworzyć iluzję, że człowiek się czegoś nauczył. Tymczasem odpowiedź została jedynie dostarczona. Bez zbudowania rozumienia, które powinno do niej prowadzić.

I to mnie zmartwiło.

Nie przestraszyło. Strach nie jest tutaj właściwym słowem. Może jest to rodzaj żalu za czymś, co zaczynamy tracić, ponieważ wcześniej uznaliśmy to za zbędną trudność.

Współcześnie mamy tendencję do ułatwiania życia dzieciom i nastolatkom. Często bardzo słuszną. Kask na rowerze jest dobrym pomysłem. Ograniczanie przemocy wobec dzieci również. Droga do szkoły naprawdę nie musi wieść przez puszczę, trzy rwące potoki i legowisko niedźwiedzia, aby przygotować młodego człowieka do dorosłego życia.

Ale czym innym jest chronienie przed poważną krzywdą, a czym innym odebranie możliwości popełniania błędów w bezpiecznych warunkach. Możliwości nauczenia się, jak upaść. Jak wstać bez wstydu. Jak pójść dalej, mimo że kolano piecze.

Czy AI odbiera nam tę możliwość?

Najłatwiej byłoby odpowiedzieć, że wszystkiemu winna jest sztuczna inteligencja. Tylko że taka odpowiedź ponownie świadczyłaby o niezrozumieniu problemu.

W dyskusjach o AI bardzo łatwo spotkać dwie skrajne postawy. Pierwsza traktuje ją jak zagrożenie dla człowieka, kultury i właściwie całej cywilizacji. Druga ignoruje wyzwania, które pojawienie się takich narzędzi stawia przed społeczeństwem. Nie zamierzam przy tym twierdzić, że prawda zawsze leży pośrodku. Nie leży. Czasami leży po jednej stronie. Czasami daleko poza sporem, który zdołaliśmy sobie urządzić.

Już samo mówienie o AI jak o jednym konkretnym źródle wiedzy jest nieporozumieniem. Modeli jest wiele. Mają różne cechy, ograniczenia i zastosowania. Sam korzystam z kilku, niekiedy równocześnie. Porównuję odpowiedzi, sprawdzam, który lepiej radzi sobie z analizą tekstu, który z wyszukiwaniem słabych punktów pomysłu, a który potrafi postawić pytanie, na które sam nie wpadłem.

Tyle że użycie kilku modeli nadal nie jest weryfikacją.

Trzy modele mogą udzielić tej samej błędnej odpowiedzi. Mogły zostać wytrenowane na podobnych materiałach, powtarzać ten sam obiegowy pogląd albo korzystać z tych samych nieaktualnych danych. Zgodność trzech modeli dowodzi przede wszystkim zgodności trzech modeli. Nie prawdziwości ich odpowiedzi.

Wiem to między innymi dlatego, że wcześniej popełniałem błędy. Przyjmowałem odpowiedź modelu jako jedyną, najlepszą i niemal nieomylną. Dziś częściej rozkładam ją na części. Sprawdzam źródła. Pytam o kontrargumenty. Zastanawiam się, które fragmenty mogę wykorzystać, które wymagają potwierdzenia, a które należy po prostu odrzucić.

Nie nauczyłem się więc, że AI kłamie. Nauczyłem się czegoś znacznie mniej efektownego: że żadnej odpowiedzi nie należy automatycznie nadawać statusu prawdy.

Dotyczy to zresztą nie tylko modeli. Naukowcy również się mylą. Eksperci potrafią wyciągać błędne wnioski. Badania bywają źle skonstruowane, a teorie przestają wystarczać do opisywania rzeczywistości.

Nie oznacza to jednak, że każda opinia jest równie dobra. Nauka ma przewagę właśnie dlatego, że dysponuje metodami wykrywania i korygowania błędów. Zmiana stanowiska pod wpływem nowych danych nie jest jej słabością. Jest jednym z najważniejszych mechanizmów bezpieczeństwa.

Czasami nie chodzi nawet o to, że wcześniejsi badacze się mylili. Po prostu tworzymy coraz lepsze narzędzia do obserwowania świata.

Niedawno eksperyment LUX-ZEPLIN zarejestrował pojedyncze, nietypowe zdarzenie, które można próbować interpretować jako ślad oddziaływania ciemnej materii. To jeszcze nie jest jej odkrycie. Globalna istotność wyniku wynosi około 2,6 sigma, a fizyka cząstek wymaga znacznie mocniejszych dowodów. Sygnał może okazać się tłem, nieznanym efektem detektora albo czymś rzeczywiście przełomowym. Na razie nie wiemy. Ale pojawiło się coś, co można badać, porównywać i próbować wyjaśnić. Jeszcze niedawno mieliśmy przede wszystkim brak sygnału. Dziś mamy przynajmniej interesujące pytanie. (Jedna z analiz zdarzenia LUX-ZEPLIN).

AI również uczestniczy w tworzeniu takich pytań.

W badaniach nad lekami może przeszukiwać olbrzymie przestrzenie możliwych związków, wskazywać najbardziej obiecujących kandydatów i odrzucać znaczną część ślepych uliczek, zanim ktokolwiek zacznie kosztowną pracę laboratoryjną. Nie zastępuje jednak badań. Zaproponowany związek nadal trzeba wytworzyć, sprawdzić jego stabilność, toksyczność, metabolizm i skuteczność. Potem pozostają jeszcze badania kliniczne.

AI nie wyrzuca więc pipety z laboratorium. Pomaga zdecydować, do której probówki warto jej użyć.

Na razie rzeczywiste efekty kliniczne są zresztą znacznie skromniejsze niż marketingowe obietnice. Większość projektów firm zajmujących się odkrywaniem leków za pomocą AI wciąż znajduje się na etapie przedklinicznym, a wpływ nowych metod na liczbę skutecznych terapii pozostaje trudny do wykazania. Potencjał jest ogromny. Dowody na jego pełną realizację — jeszcze nie. (Przegląd stanu badań w „Nature Reviews Drug Discovery”).

I właśnie to jest jeden z powodów mojej fascynacji sztuczną inteligencją. Nie dlatego, że zna wszystkie odpowiedzi. Nie zna. Nie dlatego, że jest nieomylna. Nie jest. Fascynuje mnie, ponieważ może przyspieszać niemal każdy etap wytwarzania wiedzy: od postawienia hipotezy, przez analizę danych i zaprojektowanie eksperymentu, aż po poszukiwanie możliwych wyjaśnień.

Tylko że ta sama zdolność może przynosić zupełnie różne skutki.

AI kompresuje drogę prowadzącą do wyniku.

Jeśli skraca mechaniczne przeszukiwanie milionów związków chemicznych, uwalnia naukowca do pracy wymagającej wiedzy, wyobraźni i oceny.

Jeśli proponuje badaczowi dziesięć hipotez do sprawdzenia, może rozszerzyć zakres poznania.

Jeśli jednak skraca etap, podczas którego student miał samodzielnie sformułować problem, pomylić się i zrozumieć własny błąd, odbiera mu właśnie to, czego miał się nauczyć.

Jeśli daje uczniowi odpowiedź, którą ten bezmyślnie przepisuje, zastępuje wiedzę jej pozorem.

Nie każda żmudność jest wartością. Ręczne analizowanie miliona cząsteczek nie uszlachetnia naukowca. Ale też nie każda trudność jest zbędnym cierpieniem. Niektóre trudności są miejscem, w którym powstaje rozumienie.

Dlatego pytanie nie powinno brzmieć: czy AI przyspiesza?

Przyspiesza.

Pytanie brzmi: co właściwie skraca?

Bo może jednocześnie przyspieszać rozwój wiedzy całej cywilizacji i osłabiać rozwój poznawczy pojedynczego człowieka. Nie ma w tym sprzeczności. Na obu poziomach robi zasadniczo to samo — skraca drogę.

Dopiero człowiek decyduje, czy wyciął z niej martwy odcinek, czy właśnie ten najważniejszy.