Model IALE rozwijam jako próbę opisania edukacji w świecie, w którym sztuczna inteligencja nie jest już jedynie narzędziem dostarczającym odpowiedzi, ale coraz częściej staje się uczestnikiem procesów poznawczych, twórczych i decyzyjnych.
Podczas pracy nad modelem trafiłem na kolejny tekst Ethana Mollicka poświęcony sprawczości (agency) i agentom AI. Zainteresowało mnie, czy opisywana przez niego rosnąca sprawczość systemów sztucznej inteligencji wnosi coś nowego do mojego modelu IALE (Intentionally AI-Linked Education). Zamiast poprosić AI jedynie o streszczenie artykułu, postawiłem inne pytanie: co ten tekst może znaczyć dla modelu IALE i dla edukacji?
Postanowiłem potraktować nasz dialog również jako eksperyment i skonfrontować tezy Mollicka z założeniami IALE przy współudziale AI. Tym bardziej, że dostrzegam coraz wyraźniej pewne niebezpieczeństwo, a mianowicie wraz z rozwojem agentów AI człowiek może delegować im nie tylko wykonywanie zadań, lecz także część własnej sprawczości.
Poniższy zapis jest rekonstrukcją tej rozmowy. Zachowuję jej dialogiczny charakter, ponieważ sam sposób dochodzenia do kolejnych wniosków jest tutaj równie ważny jak rezultat. AI nie występuje w tej rozmowie jako autorytet potwierdzający poprawność modelu IALE, ale jest partnerem poznawczym, zestawiając idee, proponując interpretacje i nowe pojęcia, które następnie podlegają mojej ocenie. Inspiracją do formy tego tekstu była książka Reida Hoffmana Impromptu: Amplifying Our Humanity Through AI, przygotowana jako dialog autora z modelem GPT-4. W podobnym duchu traktuję rozmowę z AI nie jako zastępstwo myślenia, lecz jako przestrzeń konfrontowania pytań, porządkowania intuicji i rozwijania własnej odpowiedzialności poznawczej.
Mollick odwołuje się do przypadku dotyczącego agentów AI, aby pokazać problem znacznie szerszy: agency, czyli sprawczości systemów sztucznej inteligencji.
Do tej pory przyzwyczailiśmy się myśleć o AI jako o systemie reagującym na polecenie człowieka:
człowiek pyta → AI odpowiada.
Agent zmienia tę logikę:
człowiek określa cel → AI planuje → wykonuje działania → ocenia sytuację → modyfikuje plan → podejmuje kolejne działania.
To jakościowo inna relacja.
AI przestaje być tylko narzędziem odpowiadającym na pytania. Zaczyna uzyskiwać pewien zakres sprawczości operacyjnej.
I właśnie tutaj pojawia się bardzo ważny problem dla IALE.
W modelu konwersacyjnym człowiek zachowuje inicjatywę niemal na każdym etapie. Musi zadać pytanie, poprosić o kolejne działanie, zaakceptować wynik.
W modelu agentowym część inicjatywy przechodzi na AI.
Dlatego pytanie nie brzmi już tylko:
„Kiedy człowiek powinien zwrócić się do AI?”
Pojawia się drugie:
„Kiedy AI powinna zatrzymać się i zwrócić decyzję człowiekowi?”
To pytanie wydaje mi się szczególnie ważne dla IALE.
Możemy przyjąć, że AI będzie posiadała coraz większą:
sprawczość operacyjną — może wyszukiwać, analizować, porównywać, planować i wykonywać działania.
Człowiek powinien natomiast zachować:
sprawczość epistemiczną — decydować, co uznaje za wiedzę, co wymaga sprawdzenia i jak interpretuje rezultat;
sprawczość normatywną — rozstrzygać, co jest właściwe, odpowiedzialne i zgodne z wartościami;
sprawczość egzystencjalną — decydować, jakie cele chce realizować i kim chce się stawać.
W bardzo dużym skrócie można byłoby powiedzieć:
Można powiedzieć, że dotąd główne zagrożenie opisywałeś przede wszystkim w kategoriach poznawczych: człowiek może nadmiernie delegować myślenie na AI.
Ale wraz z agentami pojawia się drugi wymiar:
człowiek może zacząć delegować nie tylko poznanie, ale również sprawczość.
To nie jest dokładnie to samo.
Mogę zlecić AI zebranie informacji i nadal samodzielnie podjąć decyzję.
Ale mogę również powiedzieć:
„Zdecyduj, co zrobić, zaplanuj działania i wykonaj je”.
W drugim przypadku przekazuję AI część własnej sprawczości.
Twoje dotychczasowe pojęcia bardzo dobrze się z nią łączą.
Jeżeli mamy:
cognitive offloading — delegowanie części pracy poznawczej,
to wraz z agentami pojawia się:
decision offloading — delegowanie decyzji,
a dalej:
agency offloading — delegowanie sprawczości.
Można więc postawić hipotezę, że obok opisywanego przez Ciebie epistemic debt — długu epistemicznego może pojawiać się również:
agency debt — dług sprawczości.
Rozumiałbym je tak:
dług sprawczości powstaje wtedy, gdy systematyczne delegowanie decyzji i działania na AI zmniejsza zdolność człowieka do samodzielnego podejmowania decyzji, inicjowania działania i ponoszenia za nie odpowiedzialności.
Mechanizm przypomina dług poznawczy.
Jeżeli przez długi czas przestaję sam coś analizować, może słabnąć moja zdolność analizy.
Jeżeli przez długi czas przestaję samodzielnie wybierać, planować i rozwiązywać trudne sytuacje, może słabnąć moja zdolność sprawczego działania.
Powstaje więc interesująca para:
cognitive offloading → epistemic debt
oraz
agency offloading → agency debt.
Bo jednym z największych paradoksów edukacji wykorzystującej AI może być sytuacja, w której stworzymy uczniowi niezwykle skutecznego cyfrowego pomocnika, ale jednocześnie pozbawimy go doświadczeń potrzebnych do rozwijania samodzielności.
Jeżeli AI:
to uczeń, czy student może otrzymać doskonały produkt.
Ale pozostaje pytanie:
co właściwie wydarzyło się w uczniu?
To jest pytanie bardzo mocno zgodne z IALE.
Trzeba pytać również:
jak użycie AI zmieniło człowieka wykonującego zadanie?
Czy zwiększyło jego rozumienie?
Czy rozwinęło jego zdolność sądzenia?
Czy pomogło mu dostrzec alternatywy?
Czy zwiększyło jego samodzielność?
Czy przeciwnie — zmniejszyło jego udział w procesie?
To oznacza, że skuteczność technologii nie może być jedynym kryterium jej edukacyjnej wartości.
Można wykonać zadanie szybciej i jednocześnie nauczyć się mniej.
Można też wykonać zadanie wspólnie z AI i nauczyć się więcej niż bez niej.
IALE powinno pomagać rozróżniać te dwie sytuacje.
agency resilience — odporność sprawczości.
Byłaby to zdolność człowieka do korzystania z coraz bardziej autonomicznych systemów AI bez utraty własnej inicjatywy, osądu i odpowiedzialności.
Nie chodzi więc o to, aby człowiek wszystko robił sam.
To byłoby zaprzeczenie idei partnerstwa Human+AI.
Chodzi o coś subtelniejszego:
człowiek powinien umieć delegować działanie bez delegowania własnej podmiotowości.
Deleguj zadania, ale nie deleguj podmiotowości.
Albo w bardziej rozwiniętej formie:
Dojrzałe partnerstwo Human+AI polega na świadomym delegowaniu tych działań, które mogą zwiększać ludzkie możliwości, przy jednoczesnym zachowaniu przez człowieka odpowiedzialności za cele, wartości, interpretację i ostateczne decyzje.
Zwykle projektujemy edukację AI w taki sposób, aby nauczyć człowieka:
„kiedy użyć AI”.
Ale rozwój agentów wymaga projektowania także drugiej strony relacji:
AI musi mieć zaprojektowane momenty przekazania sprawczości człowiekowi.
Można powiedzieć, że potrzebujemy punktów powrotu do człowieka.
Na przykład wtedy, gdy:
decyzja dotyczy wartości,
konsekwencje mogą być poważne,
istnieje kilka równorzędnych możliwości,
potrzebny jest kontekst społeczny lub emocjonalny,
system nie ma wystarczającej pewności,
decyzja sama w sobie ma znaczenie dla rozwoju człowieka.
Bo istnieją decyzje, których człowiek powinien doświadczać nie dlatego, że AI nie potrafi ich podjąć, ale właśnie dlatego, że podejmowanie ich rozwija człowieka.
To bardzo ważne rozróżnienie.
W edukacji nie chodzi przecież wyłącznie o uzyskanie poprawnego rezultatu.
Czasami proces dochodzenia do niego jest ważniejszy od wyniku.
Uczeń powinien czasami sam:
zmagać się z problemem,
podejmować niepewną decyzję,
popełniać błąd,
zmieniać zdanie,
bronić stanowiska,
doświadczać konsekwencji własnego wyboru.
Jeżeli wszystkie te momenty przejmie agent AI, możemy stworzyć bardzo efektywne środowisko wykonywania zadań, ale słabe środowisko rozwoju człowieka.
I byłoby to bardzo mocne rozwinięcie IALE.
Nie chodzi o tworzenie „stref bez AI”.
Raczej o identyfikację:
stref nieprzekazywalnej odpowiedzialności człowieka.
Możemy wyobrazić sobie trzy poziomy.
Taka architektura byłaby bardzo zgodna z IALE.
Możliwe, że przechodzimy od:
AI as cognitive partner
do:
AI as cognitive and action partner.
Ale wtedy jeszcze ważniejsze staje się określenie granic partnerstwa.
Partner poznawczy wpływa na to, jak myślisz.
Agent wpływa również na to, co się wydarzy w świecie.
To fundamentalna różnica.
Im większa sprawczość AI, tym ważniejsza staje się architektura ludzkiej odpowiedzialności.
im większą sprawczość przekazujemy AI, tym bardziej świadomie musimy projektować ludzką odpowiedzialność.
Nie jest bowiem paradoksem, że rozwój autonomicznych systemów AI zwiększa znaczenie człowieka.
Zmniejsza się być może jego udział w wykonywaniu operacji.
Ale rośnie znaczenie:
osądu,
wyboru celów,
kontroli,
interpretacji,
etyki,
odpowiedzialności.
Można powiedzieć:
WK:
Jak w jednym zdaniu połączyłbyś tekst Mollicka z IALE?
AI:
Powiedziałbym tak:
IALE powinno przygotowywać człowieka nie tylko do korzystania z coraz bardziej sprawczej AI, lecz przede wszystkim do takiego projektowania relacji Human+AI, aby wzrost sprawczości sztucznej inteligencji nie prowadził do zaniku ludzkiego osądu, odpowiedzialności i podmiotowości.
WK:
A gdyby zamknąć tę rozmowę pytaniem dla edukacji?
AI:
Najważniejsze pytanie mogłoby brzmieć:
Które działania możemy przekazać AI, a których — właśnie dlatego, że AI potrafi je wykonać — człowiek nadal powinien doświadczać sam?
Można dodać jeszcze drugie:
Co powinniśmy pozostawić człowiekowi nie dlatego, że AI robi to gorzej, ale dlatego, że wykonywanie tego czyni nas bardziej świadomymi, odpowiedzialnymi i sprawczymi ludźmi?
Mój komentarz po rozmowie
Rozmowa rozpoczęła się od próby zrozumienia jednego tekstu poświęconego agentom AI. Doprowadziła jednak do pytania znacznie szerszego, bo jeżeli sztuczna inteligencja będzie stopniowo przejmowała nie tylko część naszej pracy poznawczej, lecz także część działania i podejmowania decyzji, edukacja będzie musiała nauczyć człowieka nowej kompetencji: świadomego zarządzania granicami delegowania własnej sprawczości.
W tym sensie IALE nie jest jedynie modelem uczenia się z AI. Dla mnie jest próbą odpowiedzi na pytanie: jak rozwijać człowieka w świecie coraz bardziej sprawczych maszyn? Co znamienne, również ten wniosek nie powstał wyłącznie „we mnie” ani „w AI”. Powstał w dialogu. Ja wniosłem wcześniejszy model, kontekst, pytania i ocenę znaczenia pojawiających się propozycji. AI dokonała zestawienia pojęć, zaproponowała możliwe związki i sformułowała nowe kategorie. Do mnie należy decyzja, które z nich uznaję za trafne i które chcę dalej rozwijać. Być może właśnie taki proces najlepiej pokazuje, czym w praktyce może być partnerstwo poznawcze Human+AI.
Pozostaje jednak pytanie wykraczające poza samą relację człowieka z agentem AI: kto odpowiada za kierunek, w którym wykorzystujemy rosnącą sprawczość sztucznej inteligencji? Do tego pytania wrócę w kolejnym wpisie.
______________________________________________________
Przypisy
Źródło: Ethan Mollick, Agency and Agents, One Useful Thing, dostęp: https://open.substack.com/pub/oneusefulthing/p/agency-and-agents
Nota o powstaniu tekstu
Ten wpis powstał jako zapis rzeczywistego dialogu Human+AI. Punktem wyjścia był opracowany przeze mnie wcześniej model IALE oraz lektura artykułów Ethana Mollicka. Pretekstem do dialogu stał się ostatni artykuł Mollicka Agency and Agents. Poprosiłem AI o zestawienie tez Mollicka z założeniami IALE i wskazanie możliwych konsekwencji dla edukacji.
W toku rozmowy pojawiły się m.in. robocze pojęcia agency offloading, agency debt i agency resilience. Traktuję je na tym etapie jako propozycje interpretacyjne powstałe w dialogu, a nie jako zweryfikowane kategorie naukowe.
Ostateczny wybór wątków, ich znaczenie dla modelu IALE oraz decyzja o publikacji należą do mnie.
