Problemy cywilizacji związane z rozwojem sztucznej inteligencji

Wirtualną rzeczywistość rozumiem tak, jak Mark Zuckerberg¹ - czyli jako rozszerzenie naszej rzeczywistości o kreacje komputerowe. W tej przestrzeni będziemy się komunikować nie tylko z innymi ludźmi, ale również z programami, które mogą wykorzystywać sztuczną inteligencję. To budzi wiele obaw. Będę jednak dowodził że większe zagrożenia dla społeczeństwa wynikają z samej wirtualizacji, niż z uwagi na zastosowanie w niej sztucznej inteligencji. Przedstawiona argumentacja sięga fundamentów informatyki². Dlatego początek tekstu ma charakter „techniczny”. Dalsze rozważania, to opis sytuacji z punktu widzenia humanisty funkcjonującego w świecie techniki.

Maszyny matematyczne

Dawniej komputery - nie bez przyczyny - nazywano maszynami matematycznymi. Modele obliczeniowe, zgodnie z którymi je zbudowano, zostały zaprojektowane przez matematyków. Najprostszym takim modelem obliczeniowym jest tabliczka mnożenia, z którą każdy z nas się zetknął. Jest to „pamięć”, przechowująca wyniki mnożenia dwóch liczb. Mając dwie liczby (od 1 do 10) możemy łatwo odczytać z tej pamięci wynik ich mnożenia.

Modelem obliczeniowym który dobrze opisuje działanie komputera jest system iteracyjny stworzony przez polskiego matematyka Zdzisława Pawlaka³. Jest to pamięć wraz z funkcją przejścia. Na poniższym schemacie dodano wejście i wyjście⁴, co sprawia, że model ten bardzo dobrze opisuje zasadę działania komputerów (funkcję przejścia możemy utożsamiać z procesorem):

Funkcja przejścia na podstawie bieżącego stanu pamięci, wylicza stan w kolejnej chwili (w następnym takcie zegara). Jeśli przyjmiemy, że pamięć jest podzielona na bity⁵, to funkcja przejścia staje się wyrażeniem logicznym (siecią logiczną).

Teoretycznie pamięć mogłaby zawierać wyniki wszystkich możliwych obliczeń, a funkcja przejścia jedynie odczyt tych wyników dla podanych parametrów. Jednak zbudowanie takiego komputera byłoby bardzo trudne. Dlatego zamiast gotowych wyników mamy w komputerze algorytmy je wyliczające. Analogicznie jak w przypadku tabliczki mnożenia: zamiast tworzyć większe tabliczki, stosuje się algorytm mnożenia pisemnego.

Pamięć pozwala na przechowywanie wyników w kolejnych krokach algorytmów, realizowanych przez funkcję przejścia. Pomimo tego, że obliczenia mogą zajmować dużo czasu, zawsze możemy przedstawić je jako złożenie wielu sieci logicznych (wynik kolejnej stanowi dane wejściowe dla następnej). Komputer można więc teoretycznie zredukować do złożonej sieci logicznej. Zastosowanie algorytmów redukuje tą złożoność (na rzecz złożoności obliczeń – czyli czasu potrzebnego na uzyskanie wyniku).

Natura sieci logicznej (a więc złożonego wyrażenia matematycznego) i natura maszyny cyfrowej są takie same. Mają one dwa podstawowe atrybuty: skończoność⁶ i determinizm. Cecha determinizmu zostanie w pewnym stopniu naruszona przez komputery kwantowe.

Komputery kwantowe

Element pamięci komputerów kwantowych (qbit) ma w trakcie obliczeń wartość nieokreśloną, którą ustalamy w chwili odczytu. Mamy więc brak determinizmu – przynajmniej na najniższym poziomie działania. Czy zatem będziemy mieli do czynienia z nowym modelem obliczeń? To wcale nie jest oczywiste. Komputer kwantowy nie zmieni zasady braku nieskończoności. Jego szybkość nie przekroczy granicy Bremermanna⁷ (czyli wiele zagadnień nadal nie zostanie rozwiązanych)⁸.

Natomiast brak determinizmu nie oznacza możliwości pojawienia się niespodziewanych informacji. Determinizm sprawia, że algorytm wraz z danymi na jakich ma być uruchomiony zawiera kompletną informację o wynikach. Te dwa zapisy są równoważne: ‘pole kwadratu o boku a=2 wynosi a*a’ oraz ‘pole kwadratu o boku 2 wynosi 4’. Komputery kwantowe raczej tego nie zmienią.

Użyteczne obliczenia wymagają teorii w której je zinterpretujemy. Te zaś mogą być formułowane tylko z użyciem matematyki. Także tworzone dla maszyn kwantowych programy i algorytmy będą formułowane w językach formalnych i mogą być traktowane jako twory matematyczne. Nadal więc tak interpretowana maszyna obliczeniowa redukuje się do logiki⁹.

Samoświadomość maszyn

W przypadku maszyn działających zgodnie z modelem maszyny iteracyjnej (a więc współczesnych komputerów) tezę, że mogą one uzyskać samoświadomość można sprowadzić do absurdu: do równoważnego twierdzenia że skomplikowana sieć logiczna (wyrażenie matematyczne) może uzyskać świadomość. Do tego dochodzą argumenty filozoficzne. Na przykład rozważania na temat natury czasu. Czas w komputerze jest digitalizowany, gdy tymczasem rzeczywisty czas – związany ze świadomością¹⁰ - jest czasem ciągłym.

Wydaje się, że są to bardzo silne argumenty przeciwko tak zwanej mocnej sztucznej inteligencji -czyli tezie że komputer może uzyskać świadomość.

W przypadku komputerów kwantowych ta argumentacja nieco traci na ostrości i przyjmuje charakter zdroworozsądkowy. Skoro nie budujemy maszyny o potencjalnej możliwości uzyskania świadomości, to dlaczego miałaby ta świadomość się pojawić¹¹? Oczywiście nie jest wykluczone budowanie hybryd (jak „robocop”). To jednak inne zagadnienie, niż samoświadomość maszyn¹².

Sztuczna inteligencja

Jeśli inteligencję wiążemy ze świadomością (z działaniem świadomym), to trudno mówić o inteligencji w przypadku tak zwanej „sztucznej inteligencji” (AI). Najczęściej tym określeniem (AI) opisuje się tak zwane „sieci neuronowe”. Są to bardzo złożone maszyny matematyczne, które przetwarzając olbrzymie ilości danych potrafią stworzyć funkcję dobrze opisującą strukturę tych danych. Wiele zbiorów danych można opisać - w pewnym przybliżeniu - przy użyciu regresji liniowej (zakładamy, że opisuje je funkcja liniowa). W przypadku sieci neuronowych możemy uzyskać złożoną funkcję, która opisze te dane dużo dokładniej. Zob. rysunek:

Jeśli mamy do czynienia ze zjawiskiem, które jest w jakimś stopniu przewidywalne (na przykład preferencje wyborcze) – to „sieć neuronowa” w oparciu o historyczne dane, dokona bardzo dobrej predykcji.

Prawdziwe niebezpieczeństwo

Jak należy więc odczytywać alarmistyczne teksty, w których straszą nas rozwojem sztucznej inteligencji¹³? Jeśli już powinniśmy się niepokoić – to ze zupełnie innych powodów, niż „bunt maszyn”. Przebywając w wirtualnym świecie pozostawiamy „cyfrowy ślad”, który może zostać zamieniony na parametry dla sieci neuronowych. Taka sieć może dużo lepiej przewidywać nasze działania, niż tradycyjne narzędzia (statystyka, drążenie danych). Te możliwości są wykorzystywane w biznesie¹⁴. Kontrowersje budzi ich wykorzystanie w działalności politycznej i marketingowej. Sieć neuronowa może bardzo dobrze przewidywać nasze działania, albo metody jakimi na te działania można wpływać.

Tego typu (realne) problemy nie są związane z rozwojem nowych technologii (wirtualnej rzeczywistości i sztucznej inteligencji). To są problemy naszej cywilizacji, a technologia jedynie je uwypukla. Można powiedzieć, że rozwój technologii wyprzedza konieczny rozwój społeczny¹⁵. Społeczeństwo nie przezwyciężyło fundamentalnych problemów, które w zestawieniu z technologią mogą rzeczywiście stanowić zagrożenie dla naszej wolności. Niniejszy tekst można odczytywać jako apel o dokonanie niezbędnych zmian (dotyczących przede wszystkim naszych postaw).

Technologia a postprawda

Rozwój informatyki skłania do rewizji wielu przekonań. To jednak (na razie) nie następuje. Trwanie błędnych przekonań i koncepcji jest możliwe, z powodu deprecjonowania postawy poszukiwania prawdy (także na uniwersytetach, których misją powinno być poszukiwanie prawdy).

Przez wieki uważano, że zdanie jest prawdziwe wtedy, kiedy mówi prawdę na temat rzeczywistości. Stosowanie takiej („klasycznej”) koncepcji prawdy w odniesieniu do wirtualnej rzeczywistości wydaje się problematyczne.

Jakie są alternatywy? Systemy informatyczne muszą być spójne (komputer działa zgodnie z regułami logiki). Gdyby przyjąć koherencyjną koncepcję prawdy ("prawdziwe jest to, co jest wewnętrznie spójne"), to w pewnym sensie wszystko, co zapisano w komputerze, byłoby prawdziwe.

Poprawka postmodernizmu (konstruktywizmu): gra pomiędzy konkurencyjnymi narracjami, aspirującymi do prawdziwego przedstawiania rzeczywistości, prowadzi do konsensusu, zgody profesjonalnego środowiska naukowego na nową interpretację prawdy (koncepcja konsensualno-koherencyjna). Nic dziwnego, że instytucje w których dominuje taki styl myślenia przestały być postrzegane jako skarbnice mądrości¹⁶.

Przykładem takich przekonań, które trwają pomimo związanych z nimi paradoksów, jest empiryzm. Według empirystów wszystko, co znajduje się w naszym umyśle, bierze się z doświadczenia zmysłowego. Jak w takim razie odróżnić abstrakcyjne wytwory wirtualnego świata od rzeczy? Idee powstają z wrażeń zmysłowych? Systemy komputerowe działają odwrotnie: materializują idee. W ten sposób mogą powstawać nowe obiekty wirtualnego świata. Obecnie można przynajmniej teoretycznie wskazać łańcuch logicznych powiązań z pierwotnymi ideami. W przypadku komputerów kwantowych nawet to może to być niemożliwe. Człowiek jest zdolny do transcendencji, co według empirystów jest niemożliwe. Gdyby człowiek był tylko „procesorem” przetwarzającym dane zmysłowe – należałoby uznać, że w tych danych zakodowane jest bogactwo naszego świata (łącznie z wytworami techniki).

Empiryzm był jednym z czynników kształtowania tak zwanego „naukowego światopoglądu”¹⁷.

Jeśli uznamy, że światopogląd obejmuje¹⁸ syntetyczny obraz całej rzeczywistości, oceny lub normy,

oraz odpowiedzi na pytania egzystencjalne, to nie ma i być nie może czegoś, co byłoby „naukowym światopoglądem”. Tymczasem wyznawców„światopoglądu naukowego” nie brakuje. Sądzą oni, że nauka dąży do pełnego objaśnienia świata. Wskutek cyfryzacji nietrudno sobie wyobrazić sytuację, w której cały dorobek naukowy znajdzie się w pamięci komputerów połączonych w globalną sieć. W tej sytuacji przekonanie o nieograniczonych horyzontach nauki zderzy się z twierdzeniem Goedla: można będzie w tym systemie sformułować sensowne pytania, na które nie będzie w nim odpowiedzi. Dopiero człowiek dzięki swojej zdolności do transcendencji może wykroczyć poza aktualną wiedzę i postawić nowe hipotezy lub sformułować nowe założenia – umożliwiając znalezienie rozwiązania.

Jeśli zechcemy porzucić błędne koncepcje i powrócić do klasycznie rozumianej prawdy, to jak rozwiązać problem wirtualnej rzeczywistości? Przecież słowo „wirtualny” pierwotnie oznaczało tyle, co „potencjalny” - mogący zaistnieć, ale realnie nie istniejący. Realnie istnieją rzeczy, a świat wirtualny to tylko komputerowa kreacja. Rozwiązanie problemu prezentuje poniższy schemat:

Przedstawiono na nim trzy postawy człowieka wobec wirtualnej rzeczywistości. Najbardziej skrajny przypadek (po prawej) – obrazuje immersję czyli całkowite pochłonięcie. Możemy to odczuć czytając pasjonującą książkę. Ta książka nas pochłania tak, że izolujemy się od rzeczywistego świata. Książka się kiedyś skończy. W świecie wirtualnym możemy przebywać ciągle. Jeśli zostaniemy pochłonięci przez wirtualną rzeczywistość, tracimy związek z naturą i kulturą. Nie mamy wówczas możliwości odwołać się do prawdy w klasycznie rozumianym sensie (pozostaje nam prawda koherencyjna). Utożsamiając się ze swoją cyfrową reprezentacją, narażamy się na uprzedmiotowienie. Możemy stać się łatwym celem manipulacji.

Jeżeli natomiast jesteśmy zwykłym użytkownikiem VR (ikona „ludzika” pośrodku), to teoretycznie możemy tą rzeczywistość opisać w jakimś metajęzyku. W tym momencie zastosowanie ma koncepcja prawdy Alfreda Tarskiego, która jest w pełni zgodna z koncepcją klasyczną. Czyli pozostajemy w prawdzie i jesteśmy w miarę odporni na manipulacje.

W stronę totalitaryzmu

Niebezpieczeństwem które wiąże się z postawą immersji wobec VR, jest porzucenie tak zwanych „wartości wyższych” – osiągnięć naszej cywilizacji. One nie ulegają w pełni cyfryzacji. Świat cyfrowy może wprawdzie przechowywać zapisy idei, ale tych idei nie tworzy (zapisy bez odbiorcy dotyczą „martwych” idei) . Idee pojawiają się w wirtualnej rzeczywistości dzięki twórcom i użytkownikom (wnoszą je do cyfrowego świata z zewnątrz). Jeżeli użytkownicy i twórcy utracą kontakt z rzeczywistością, porzucą prawdę o świecie, to wartości wyższe będą pozostaną pustym zapisem.

Takie wyjałowienie prowadzi do trzeciej fali totalitaryzmu. Pierwszy etap totalitaryzmu - typu sowieckiego - był związany z terrorem. Opis tego totalitaryzmu zawarty został w książce Orwella „1984”. Przeciwstawić mu można totalitaryzm związany z konsumpcjonizmem¹⁹. W tej chwili może nam grozić trzeci etap totalitaryzmu: ludzie teoretycznie wolni, mają prawie nieograniczony dostęp do świata kultury i nauki. Jednak z powodu porzucenia „busoli” prawdy nie są w stanie z tego korzystać. Mogą tu działać różne mechanizmy zniewalania. Na przykład:

• w mediach cyfrowych funkcjonuje mechanizm eliminacji: ludzie myślący wolą porzucić wirtualny świat, niż zmagać się z tyranią większości.

• grozi nam totalna kontrola (cenzura wprowadzana przez korporacje kontrolujące główne systemy).

• tresura „homofobów”, którą obecnie przechodzimy może zostać powtórzona w odniesieniu do robotów oraz sztucznych tworów wirtualnego świata.

Personalizm

W świecie wirtualnym mamy obiekty o różnym statusie ontologicznym. Wirtualne jedzenie nie zaspokoi głodu, ale transakcje zawarte w świecie wirtualnym mogą generować prawdziwe zyski albo prawdziwe koszty. Nie można określić jasnej granicy między rzeczywistością fizyczną i wirtualną. W tej sytuacji tylko personalizm pozwala na odrębne traktowanie bytów wirtualnych i człowieka. Personalizm można wywieść od Kanta, według którego nie można człowieka traktować przedmiotowo. W naszych działaniach człowiek zawsze powinien być podmiotem z uwagi na jego godność. Personalizm jest związany z chrześcijaństwem. Jan Paweł II pisał: „Należy koniecznie napiętnować istnienie mechanizmów [...], które chociaż są kierowane wolą ludzi, działają w sposób jakby automatyczny, umacniają stan bogactwa jednych i ubóstwa drugich”²⁰.

Cytat ten odnosi się do ekonomii. Pasuje jednak bardzo dobrze do oceny wirtualnej rzeczywistości. Papież piętnuje mechanizmy, które mimo że zostały stworzone przez człowieka, działają przeciwko ludzkości. Takie mechanizmy mogą bardzo się upowszechnić w wirtualnej rzeczywistości.

Dramatyczny wybór

Stoimy zatem przed naprawdę dramatycznym wyborem dla całej ludzkości. Musimy zdecydować czy nadal będziemy ulegać poglądom, które obecnie dominują, a które prowadzą do deprecjonowania wartości człowieka (chociażby poprzez uczłowieczanie maszyn i zwierząt). Alternatywą jest powrót do tradycyjnych wartości – pielęgnowanych przez społeczeństwa religijne.

Społeczeństwo takie kształtuje ludzi sumienia, a prawo chroni w nim wartości oraz czasem pomaga rozstrzygać spory. Społeczeństwo nowoczesne jest regulowane tylko przez prawo²¹.

To co ostatnio się dzieje na świecie, może nas skłaniać do refleksji. Na przykład: człowiek religijny inaczej postrzega wojnę Rosji z Ukrainą. Propaganda rosyjska nie byłaby tak skuteczna (przynajmniej w Rosji), gdyby nie wykorzystywała rzeczywistych wad społeczeństwa zachodu. To zakłamanie, ideologia LGBT oraz konsumpcjonistyczne zniewolenie jest amunicją dla Putina, który jej używa do utrzymania władzy i poparcia społecznego.

Poszukiwanie mądrości

Społeczeństwo tradycyjne (albo inaczej mówiąc: religijne) wytworzyło pewien kod kulturowy. Jego mądrość jest przekazywana poprzez mity. Rozwój technologiczny wymaga mądrości i dlatego warto sięgnąć po te stare mity.

Jednym z nich jest mit o wieży Babel. Z rozwojem technologii jest związany optymizm porównywalny z optymizmem budowniczych wieży Babel. W obu przypadkach mamy też oczekiwanie podporządkowania się ludzi wspólnej wizji rozwoju²².

Budowa Wieży Babel kończy się katastrofą. Może zatem każda idea rozwoju, która ma zjednoczyć wszystkich ludzi, ma wbudowane mechanizmy prowadzące do katastrofy? Jeżeli nie chcemy, aby rozwój naszej cywilizacji skończył się taką katastrofą, powinniśmy poświęcić troszeczkę czasu na refleksję nad tym, które zmiany związane z rozwojem technologii są akceptowalne.

Wnioski dla systemu edukacji

Wirtualizacja edukacji usprawnia przekazywanie wiedzy i umiejętności. Klasyczna edukacja zaczyna przegrywać z innymi metodami dostępu do wiedzy. Można wręcz twierdzić, że system edukacji, który w tej chwili mamy, jest nieadekwatny i przestarzały. Jeśli jednak edukacja wiąże się z przekazywanie fundamentalnych wartości i poszukiwaniem mądrości – to osobowe kontakty są niezbędne i edukacja klasyczna zyskuje naznaczeniu. Wirtualizacja bowiem nie ułatwia kształtowania osobowości i przekazywania wartości.

Wbrew pozorom – także rozwój techniki wymaga mądrości, bez której trudno dostrzec optymalne ścieżki rozwoju.

Potrzebne jest kształcenie osób szlachetnych, które byłyby zdolne do wykorzystania technologii dla rozwoju całej ludzkości.

Jerzy Wawro

20-04-2023

PS.

Tekst został przygotowany na konferencję, która odbyła się w PANS Przymyśl w dniu 20 kwietnia 2023. Zapis pełnej prezentacji można obejrzeć na youtube: https://www.youtube.com/watch?v=YrhP-5Q9fUg: 

---------------