W poprzednim wpisie rozmowa o agentach AI doprowadziła mnie do pytania o granice delegowania ludzkiej sprawczości. Był to przede wszystkim zapis procesu odkrywania tego, co pojawiło się w konfrontacji artykułu Ethana Mollicka z modelem IALE w dialogu z AI. Teraz chcę wykonać kolejny krok.
Dla mnie przejście od perspektywy Ethana Mollicka do myślenia Mo Gawdata, byłego Chief Business Officer Google X, jest z punktu widzenia edukacji niezwykle ważne, bo przesuwa uwagę z samych możliwości technologii na odpowiedzialność ludzi za sposoby jej wykorzystania w codziennej praktyce. Problem sprawczości AI staje się już nie tylko problemem technologicznym czy organizacyjnym, ale przede wszystkim problemem edukacyjnym i tym samym staje się dla nas wyzwaniem. Jeżeli rozwój AI zależy również od naszych dzisiejszych wyborów, edukacja powinna przygotowywać człowieka nie tylko do korzystania ze sztucznej inteligencji, lecz także do odpowiedzialnego współdecydowania o tym, jaką rolę pozwolimy jej odgrywać w naszym świecie.
Rozmowa z AI w poprzednim wpisie rozpoczęła się od próby zrozumienia tekstu Ethana Mollicka poświęconego agentom AI i doprowadziła do pytania dotyczącego modelu IALE i do tego, gdzie powinna przebiegać granica między sprawczością człowieka a sprawczością systemów AI?
To rozróżnienie wymaga precyzji, ponieważ sprawczość AI nie jest tym samym rodzajem sprawczości, który przypisujemy człowiekowi. Agent AI może otrzymać coraz większą sprawczość operacyjną: analizować sytuację, planować kolejne kroki, korzystać z narzędzi, podejmować działania i modyfikować sposób realizacji celu. Nie oznacza to jednak sprawczości ludzkiej, związanej z podmiotowością, świadomością wartości czy odpowiedzialnością moralną.
I właśnie tutaj pojawia się dla mnie ważna granica między tym, na co pozwalamy AI, a jakie działania i decyzje pozostawiamy sobie. Często rozmawiam o tym ze studentami podczas seminariów dyplomowych. Człowiek może delegować AI coraz więcej działań, ale nie powinien wraz z nimi delegować odpowiedzialności za cele, znaczenia, wartości, interpretację i ostateczne decyzje. Im większą sprawczość operacyjną uzyskuje AI, tym ważniejsze staje się zachowanie przez człowieka sprawczości epistemicznej i normatywnej, tj. zdolności do oceny tego, co uznaje za wiarygodne, do określania, co jest właściwe, oraz do ponoszenia odpowiedzialności za własne wybory.
Dostrzegam tu istotne przesunięcie w rozumieniu relacji Human+AI. Dotąd w IALE koncentrowałem się przede wszystkim na AI jako partnerze poznawczym. Rozwój agentów AI sprawia jednak, że trzeba myśleć szerzej: AI może stawać się także partnerem działania. Partner poznawczy wpływa na to, jak myślimy; agent może wpływać również na to, co rzeczywiście wydarza się w świecie. Problemem nie jest więc już tylko delegowanie części pracy poznawczej, ale również delegowanie decyzji i działania.
W tym miejscu model IALE zyskuje, moim zdaniem, dodatkowe zadanie. Nie powinien jedynie przygotowywać człowieka do skutecznego korzystania z AI. Powinien pomagać w świadomym projektowaniu granic delegowania sprawczości. Nie chodzi przy tym o tworzenie obszarów całkowicie wolnych od AI, lecz o rozpoznawanie sytuacji, w których decyzja powinna pozostać po stronie człowieka dlatego, że samo podejmowanie decyzji rozwija ludzki osąd, odpowiedzialność i naszą podmiotowość.
Prowadzi mnie to do zasady, którą chciałbym mocniej osadzić w IALE:
im większą sprawczość operacyjną powierzamy AI, tym bardziej świadomie musimy chronić i rozwijać sprawczość człowieka.
Perspektywę tę warto poszerzyć o głos Mo Gawdata. W swojej ostatniej książce o wymownym tytule: Przerażająco inteligentna. Przyszłość sztucznej inteligencji i jak możesz ocalić świat przesuwa punkt ciężkości z samej technologii na odpowiedzialność ludzi, którzy AI tworzą, kontrolują i wykorzystują. Zwraca uwagę na odpowiedzialność człowieka za wartości, cele i interesy, którym podporządkowujemy rozwój sztucznej inteligencji. W tym ujęciu pytanie o przyszłość sztucznej inteligencji jest zarazem pytaniem o nasze dzisiejsze wybory i o to, jaką rolę pozwolimy AI odgrywać w świecie.
Mollick i Gawdat zadają nam dziś dwa uzupełniające się pytania. Mollick pyta, gdzie powinna przebiegać granica delegowania sprawczości, a Gawdat, kto ponosi odpowiedzialność za kierunek, w którym tę sprawczość wykorzystujemy. Dla IALE pojawia się pytanie trzecie, pedagogiczne i dla mnie szczególnie ważne, jak przygotować uczniów i studentów, aby potrafili tę granicę rozpoznawać i odpowiedzialnie decydować o swoim miejscu w relacji z coraz bardziej sprawczą AI? W edukacji oznacza to pytanie o to, co AI może zrobić za nich, a czego nie powinniśmy jej oddawać, ponieważ właśnie zmaganie się z problemem, dokonywanie wyborów, popełnianie błędów, argumentowanie i ponoszenie odpowiedzialności kształtują człowieka. Pytanie to pojawiło się dużo wcześniej, gdy pojawił się powszechny dostęp do modeli generatywnych. Jednak dziś nabiera innego znaczenia.
Gawdat przekonuje, że przyszłość i rozwój AI zależy nie tylko od ich twórców, ale coraz bardziej od naszych dzisiejszych wyborów. Zadaniem edukacji staje się więc przygotowanie człowieka nie tylko do korzystania ze sztucznej inteligencji, lecz także do odpowiedzialnego współdecydowania o tym, jaką rolę pozwolimy jej odgrywać w naszym świecie. W tym sensie IALE przestaje być dla mnie jedynie modelem uczenia się z AI. Coraz bardziej staje się modelem projektowania asymetrycznego partnerstwa Human+AI. Widząc, jak AI zwiększa zakres swojego działania, to cały czas należy pamiętać, że to człowiek pozostaje podmiotem wyznaczającym cele, interpretującym znaczenia i ponoszącym odpowiedzialność. Ma to ogromne konsekwencje dla nas w przyszłości.
Ten wniosek nie powstał wyłącznie „we mnie” ani „w AI”, ale w dialogu. Ja wniosłem wcześniej rozwijany model IALE, kontekst, pytania i własne intuicje. Natomiast AI zestawiła pojęcia, zaproponowała możliwe związki i nowe kategorie. Ale to do mnie należała ich ocena, decyzja o ich przyjęciu oraz odpowiedzialność za dalszy rozwój modelu.
Być może właśnie ten proces najlepiej pokazuje, czym w praktyce może być partnerstwo poznawcze Human+AI: AI rozszerza przestrzeń możliwych interpretacji, ale nie przejmuje odpowiedzialności za to, którą z nich człowiek uzna za własną.
_______________________
Przypisy:
Mo Gawdat, Przerażająco inteligentna. Przyszłość sztucznej inteligencji i jak możesz ocalić świat, Wydawnictwo Centrum, Gdynia 2026.
Ethan Mollick, Agency and Agents, One Useful Thing, dostęp: https://open.substack.com/pub/oneusefulthing/p/agency-and-agents
