Problemy cywilizacji związane z rozwojem sztucznej inteligencji

Wirtualną rzeczywistość rozumiem tak, jak Mark Zuckerberg1 - czyli jako rozszerzenie naszej rzeczywistości o kreacje komputerowe. W tej przestrzeni będziemy się komunikować nie tylko z innymi ludźmi, ale również z programami, które mogą wykorzystywać sztuczną inteligencję. To budzi wiele obaw. Będę jednak dowodził że większe zagrożenia dla społeczeństwa wynikają z samej wirtualizacji, niż z uwagi na zastosowanie w niej sztucznej inteligencji. Przedstawiona argumentacja sięga fundamentów informatyki2. Dlatego początek tekstu ma charakter „techniczny”. Dalsze rozważania, to opis sytuacji z punktu widzenia humanisty funkcjonującego w świecie techniki.

 

Maszyny matematyczne

 

Dawniej komputery - nie bez przyczyny - nazywano maszynami matematycznymi. Modele obliczeniowe, zgodnie z którymi je zbudowano, zostały zaprojektowane przez matematyków. Najprostszym takim modelem obliczeniowym jest tabliczka mnożenia, z którą każdy z nas się zetknął. Jest to „pamięć”, przechowująca wyniki mnożenia dwóch liczb. Mając dwie liczby (od 1 do 10) możemy łatwo odczytać z tej pamięci wynik ich mnożenia.

Read more: Problemy cywilizacji związane z rozwojem sztucznej inteligencji

Problemy wirtualnej rzeczywistości

Cyfrowy świat (wirtualną rzeczywistość), który możemy obecnie badać został zbudowany w oparciu o logikę. Jakby to dziwacznie nie brzmiało, wszystkie komputerowe obliczenia są równoważne z wyliczeniem wartości zbioru wyrażeń logicznych. Poza tym w odniesieniu do cyfrowego (wirtualnego) świata prawdziwe są następujące dwie tezy:

  1. Każde wyrażenie sformułowane w języku klasycznego rachunku zdań może zostać zaimplementowane w postaci układu cyfrowego badającego dla zadanych wartości zmiennych wynik tego wyrażenia.

  2. Dla każdego rozstrzygalnego problemu logicznego można zbudować algorytm i zaimplementować go w postaci programu komputerowego rozwiązującego ten problem.

W sytuacji niesamowitej ekspansji komputerów (może się wręcz wydawać, że nie ma przed nimi granic) pojawiają się fundamentalne pytania:

  1. Skoro cały cyfrowy świat sprowadza się do wyrażeń logicznych możliwych do automatycznego wyliczenia, to jakim cudem istnieją problemy nierozstrzygalne (i równoważny im problem stopu)?

  2. Wszystkie komputery można teoretycznie połączyć w jedną sieć działającą jak jeden super-komputer. Tymczasem wiemy, że w każdej ścisłej teorii można sformułować sensowne tezy, które nie są w niej rozstrzygalne. Możemy jednak rozszerzyć teorię tak, by pozwalała na rozstrzygnięcie każdej tezy. Czy to znaczy, że świat realny zawsze będzie bogatszy od świata cyfrowego?

  3. Komputery łączą się ze światem poprzez interfejsy wejścia, które mogą być niezdeterminowane i wyjścia, które dla danego stanu (w tym stanu wejścia) są zdeterminowane. Komputer działa więc tak jak wyobrażali sobie XIX wieczni materialiści działanie człowieka (nie ma w umyśle/pamięci niczego czego nie dostarczają zmysły/interfejsy wejściowe). Jednak znana nam rzeczywistość nie pasuje do tego modelu, gdyż dokonując pomiaru wpływamy na jego wynik. Ponadto posługując się metodami nauki potrafimy formułować tezy zanim rozstrzygnie je doświadczenie. W strukturze komputerów są natomiast zawarte wszystkie możliwe odpowiedzi, jakich potrafią one udzielić. Czy zatem komputery mogą się rozwijać wyłącznie dzięki interakcji z ludźmi?

  4. Skoro komputerom wystarcza klasyczny rachunek zdań, to jakie znaczenie mają bogatsze języki używane w logice? Czy to tylko dające się zredukować do rachunku zdań dialekty, czy też możliwe jest zapisywanie w nich bogatszych treści?

  5. Co sprawia, że traktujemy treści zawarte w pamięciach komputerów jako informację o świecie? Czy to my nadajemy sens uzyskiwanym treściom, czy też istnieją one obiektywnie?