Rzeczywistość będzie tylko nieprzyjemnym oderwaniem się od życia w wirtualnym świecie

Niedawno udzieliłem wywiadu czeskiemu portalowi elonx.cz, poświęconemu projektom Elona Muska. Wywiad przeprowadził Vlastimil Švancara, a rozmawialiśmy głównie o skutkach wprowadzenia technologii BMI (BCI), czyli interfejsów mózg-maszyna.

Wywiad można przeczytać tutaj, a dla tych, którzy nie znają języka czeskiego, poniżej dodaję polską wersję.

– Na czym Pan teraz pracuję? Może się wydawać, że czas pandemii dla pisarza nie jest taki zły – ludzie siedzą w domu, czytają książki. Pan też może siedzieć i pisać… :)

Teraz pracuję nad powieścią SF dla dorosłych, której akcja będzie się rozgrywała w niedalekiej przyszłości. Na razie nie chcę mówić o tym nic więcej. Dla pisarza pandemia i lockdown aż tak wiele nie zmieniają. Pisanie to praca samotna. Brakuje mi jednak kawiarni, w których zdarzało mi się siadać z laptopem i pisać.

– Czy Pan kojarzy (tak bez szukania w Googlu :) ), które Pana książki zostały przetłumaczone na język czeski?
Vertical, czyli moja druga powieść SF dla dorosłych i pierwszy tom „Felixa, Neta i Niki”, czyli ten, który teraz w Polsce jest lekturą obowiązkową w szkole podstawowej.

– Nasz portal zajmuje się informowaniem o projektach Elona Muska. Jaka jest Pana opinia co do jego osoby i projektów, które prowadzi?
Bardzo mu kibicuję. Tego rodzaju wizjonerzy potrafią wymyślić rzeczy nieosiągalne dla przeciętnych śmiertelników. A potem w dodatku je zrealizować.

– Napisał Pan książkę o kolonizowaniu i terraformowaniu Marsa – obserwuje Pan postępy SpaceX, który próbuje to zrobić w rzeczywistości?
Obserwuję, ale wiem, że na lot załogowy na Marsa jeszcze chwilę poczekamy, a pierwszych prób jego terraformowania, jeśli takie nastąpią, nie dożyją nawet nasze wnuki.

– Myśli Pan, że może im się to udać? Dolecieć z ludźmi na Marsa, potem zbudować tam kolonie i w końcu na tyle ją rozbudować, żeby była samowystarczalna?
Z doleceniem na Marsa i zbudowaniem tam niewielkiej bazy poradzilibyśmy sobie już dziś. To kwestia kosztów i ryzyka. Co do samowystarczalności to sprawa wygląda mniej optymistycznie. Eksperymenty wykonywane na Ziemi, w izolowanych środowiskach, skończyły się fiaskiem.

– W ostatniej części Pana powieści Mars z 2003 roku opowiada Pan o świecie, w którym duża część populacji używa bardzo zaawansowanej formy interfejsu neuralnego (BMI) połączonego ze sztuczną inteligencją, który Pan w książce nazywa „komplantem”. Pan bardzo konkretnie opisuje tę technologię w książce. Jej działanie jak i różne zagrożenia dla użytkowników. Gdzie pan szukał informacji o podobnych technologiach, w tych czasach, kiedy chyba nikt tak naprawdę nie wiedział co to BMI?
Nie opierałem się na żadnym researchu. Wymyśliłem, jak taka technologia powinna działać. Dzisiaj, po prawie dwudziestu latach, opisałbym to bardzo podobnie.

– Czy Mars to jedyne Pana dzieło, w którym Pan użył interfejsów neuralnych albo podobnych technologii?
Nie, występowały one w moich wcześniejszych opowiadaniach, w mojej ostatniej powieści, czyli w Różańcu, komplanty pojawiają się również w młodzieżowej serii SF, „Felix, Net i Nika”.

– Ostatnio wydaje się, że dziedzina neurotechnologii i interfejsów neuralnych mocno się rozwija. Pojawiają się duzi i dobrze dofinansowani komercyjni gracze jak Facebook, Kernel, Paradromics czy Synchron. Interesuje Pana rozwój tej technologii?
Interesuje, ale też i obawiam się wszelkich zagrożeń, które z tym się wiążą. Opisałem je m.in. we wspomnianym wyżej Marsie.

– Obserwuje pan Neuralinka? Czy to dla Pana ciekawa firma?
Rafał Kosik: Na razie więcej w tym marketingu i śmiałych pomysłów niż rzeczywistych efektów. Ale kibicuję im, jak i zresztą wszystkim przedsięwzięciom firmowanym przez Elona Muska.

– Przed Neuralinkiem jeszcze długa droga, ale spodziewał się Pan przyjścia tej technologii już teraz?
Wydaje się, że jest to naturalna konsekwencja drogi, którą wybraliśmy w rozwoju cywilizacji technologicznej. Czy tego chcemy, czy nie, coraz bardziej zanurzamy się w wirtualnych światach i w rzeczywistości rozszerzonej. A stały i szybki dostęp do internetu jest już od dawna koniecznością.

– Czy uważa się Pan zatem za transhumanistę? Czy według Pana symbioza człowieka z technologią jest najprawdopodobniejszym scenariuszem przyszłości cywilizacji?
Powiedzieć, że uważam się za transhumanistę, to może trochę za dużo, bo to sugeruje aktywne działanie lub chociaż wspieranie ruchów, momentami niebezpiecznie ocierających się o religię. Niemniej uważam, że granica pomiędzy człowiekiem a maszyną będzie się zmniejszać, a w pewnym momencie być może zniknie zupełnie. Już dzisiaj przecież maszyny są przedłużeniem naszych zmysłów, czy pamięci. Można powiedzieć, że część naszego jestestwa procesujemy zewnętrznie.

– Myśli Pan, że ogólna technologia jest już na takim poziomie, że będzie można w najbliższych latach/dekadach wyprodukować zaawansowany brain-machine-interfejs (BMI) o jakim pisał Pan w swoim Marsie?
Jeżeli postęp technologiczny będzie dalej następował w obecnym tempie, to w pełni funkcjonalna technologia powstanie raczej za kilkadziesiąt lat, a nie kilkanaście. Od napisania Marsa minęło prawie dwadzieścia lat, a wizja BMI jest równie mglista.

– Czy Neuralink podąża we właściwym kierunku drogą? Czy nie lepiej użyć nanotechnologii takich jak Neural dust?
Użyłem tej technologii w powieści Różaniec (2017). Wydaje mi się, że od jej powstania dzieli nas podobny, albo i większy, dystans czasowy niż od wprowadzenia w życie prawdziwego BMI.

– Jaki wpływ będzie miała ta technologia na społeczeństwo?
Wpływ będzie na wielu płaszczyznach i w wielu aspektach życia. Z pewnością jedne z pierwszych zastosowań znajdzie w medycynie i w armii. Wkrótce potem wejdzie do biznesu i z całą pewnością stanie się również powszechną rozrywką, i to bardzo uzależniającą.

– Jaki wpływ może mieć na jej użytkowników?
Zapewne pojawi się bardzo dużo ludzi, którzy wykorzystają tę technologię do eskapizmu, czyli będą w pełni żyć w świecie wirtualnym, opuszczając go tylko dlatego, że wymusi to fizjologia ich organizmu. Choć logicznym się wydaje, że dalszemu rozwojowi tej technologii będzie towarzyszył rozwój technik przypominających te dzisiejsze medyczne np. utrzymujące przy życiu ludzi w stanie śpiączki.

– Jakie widzi Pan w tych urządzeniach zagrożenia dla ludzkości?
Zagrożenia będą prawdopodobnie podniesionymi do potęgi zagrożeniami, które znamy dziś, obserwując nałogowych graczy sieciowych. Alienacja, zanik więzi międzyludzkich, traktowanie rzeczywistości jako przerwy w życiu.

– Sądzę, że taki zaawansowany BMI/Komplant może w pewnym sensie oznaczać koniec rzeczywistości – użytkownik takiego urządzenia nie będzie w stanie rozróżnić, co jest realne, a co jest fikcją. Co Pan o tym myśli?
Jednym z zagrożeń jest również pojawienie się odpowiednika dzisiejszego spamu i wszelkich przestępstw znanych z internetu, tyle że w bardziej zaawansowanej formie. Być może również w pewnym momencie okaże się, że życie bez komplanta (interfejsu mózg-maszyna) będzie uniemożliwiało normalne funkcjonowanie w społeczeństwie. Odróżnianie fikcji od rzeczywistości przestanie mieć znaczenie, skoro liczyć będzie się efekt.
Patrzac na to, co ludzie wypisują na Twitterze i Facebooku, mam wrażenie, że już dziś, bez BMI, nie odróżniają fikcji od rzeczywistości. I wcale im to nie przeszkadza.

– Czy widzi Pan jakąś możliwość rozróżnienia tego co realne, a co nie, dla kogoś, kto ma w głowie zaawansowany BMI, którym teoretycznie będzie można okłamać wszystkie zmysły i pamięć?
Wydaje mi się, że na pewnym etapie rozwoju rozróżnienie będzie bardzo trudne lub już wręcz niemożliwe. Przecież i bez tej technologii często nie potrafimy odróżnić wspomnień prawdziwych od fałszywych, a w oszukiwaniu zmysłów specjalizujemy się od dawna. Oglądając film nie myślimy przecież o tym, że patrzymy na miliony malutkich świecących pikseli, celowo dajemy się oszukiwać, żeby mieć z oglądania przyjemność.

– Nie wystawiamy się zagrożenia znane np. z filmów w rodzaju Matrixa?
Oczywiście tak. Tylko prawdopodobnie nie ma od tego odwrotu. Ponieważ stosowanie tej technologii będzie dawało ogromną przewagę nad konkurencją, czy to na poziomie państw, czy firm, czy nawet dla zwykłych ludzi na rynku pracy.

– Czy taki interfejs i podłączenie 24/7 do Internetu i do innych ludzi może oznaczać koniec prywatności i indywidualności? Czy zmierzamy do bycia jednym organizmem jak na przykład pszczoły czy Borgowie z serii „Star Trek”?
W znacznej mierze tak. Zakres naszej prywatność w ciągu ostatnich kilkunastu lat skurczył się znacząco i wydaje się, że ten proces będzie trwał dalej, aż zniknie rozróżnienie pomiędzy tym, co prywatne a tym, co publiczne.

– Czy dzięki takiemu urządzeniu i uzależnieniu od niego może dojść do zupełnego zaniku fizycznych kontaktów międzyludzkich?
Wydaje się, że człowiek potrzebuje bliskości i kontaktu fizycznego, jednak być może doskonała symulacja będzie potrafiła to zastąpić. Społeczeństwo japońskie w pewnym stopniu daje nam wyobrażenie tego, w jakim kierunku zmierzamy i rzeczywiście mamy tam przykład pokolenia ludzi, których znaczący odsetek nie wchodzi w żadne trwałe relacje z innymi, lub wręcz nie opuszcza domu całymi latami (Hikikomori). Patrząc z kolei na społeczeństwo zachodnie podzielone na plemiona internetowe zamknięte w swoich bańkach informacyjnych, możemy przypuszczać, że ludzie chętnie będą przebywali w światach skrojonych na ich potrzeby i izolujących ich od nieprzyjemnych dla nich informacji czy idei.

– Czy jeżeli wszystko można podrobić (zmysły, pamięć…) to zaawansowany BMI nie oznacza końca wymiaru sprawiedliwości? Jak komuś coś udowodnić?
Właściwie to rozwój umiejętności przestępców zawsze wyprzedzał umiejętności organów ścigania i jurysdykcji. Nawet dzisiaj policja ma ogromne trudności ze śledzeniem i zwalczaniem przestępczości internetowej.

– Elon Musk mówi, że celem stworzenia interfejsu Neuralinka jest symbioza z AI, dzięki czemu będziemy mogli bronić się przed ewentualną zbuntowaną i nieprzyjacielską AI. Koncepcja niełatwa do zrozumienia – trzeba sobie zainstalować AI, żeby się bronić przed AI. Czy to ma sens? Jak Pan to rozumie?
Każda technologia może być zastosowana w dobrym lub złym celu. Jeśli jest dostępna i z jej zastosowania wynikają konkretne korzyści, na pewno będzie rozwijana i stosowana. Dobrym przykładem jest dzisiaj technologia militarna. Z jej rozwijania nie ma bezpośrednich korzyści, poza obroną przed technologią militarną przeciwnika.

– Musk też często mówi o tym, że musimy przejść przez tak zwany Wielki filtr, to znaczy uniknąć samozagłady cywilizacji. Teoria ta jest jednym z rozwiązań Paradoxu Fermiego i mówi, że nie widzimy innych cywilizacji właśnie dlatego, że nie przeszły przez Wielki filtr i same siebie zniszczyły. Musk twierdzi, że okno czasowe, żeby przejść filtr, może być dość krótkie i może się niebawem zamknąć, czyli trzeba działać szybko, aby zdążyć. Według niego oznacza to potrzebę kolonizacji innych planet albo obronę przed potencjalnymi poważnymi zagrożeniami jak wroga AI. Zgadza się Pan z tym?
Zgadzam się, choć z drugiej strony Paradox Fermiego w tym kontekście nie wyjaśnia dlaczego nie napotkaliśmy śladów tych obcych AI, które wykończyły swoich twórców. Być może nie potrafimy ich dostrzec. Podobną tematykę porusza Cixin Liu w swojej trylogii „Problem trzech ciał”, gdzie pisze, że najrozsądniej jest siedzieć cicho, bo jeśli z kimś już nawiążemy kontakt, to może się to dla nas bardzo źle skończyć.

– Damy radę? Nie przerosną nas wszystkie te technologie?
Wydaje się, że jeśli rozwój będzie nadal szedł tą drogą, o której teraz rozmawiamy, najbardziej prawdopodobne są dwie wersje przyszłości. W pierwszej utrzymujemy kontrolę nad sztuczną inteligencją lub też przekształca się to w rodzaj partnerstwa, w drugiej zaś maszyny, przerastające nas inteligencją o rzędy wielkości, przestaną się z nami liczyć, bo porozumienie tak różnych bytów będzie zwyczajnie niemożliwe. W pewnym momencie mogą stwierdzić, że jesteśmy tylko szkodnikami, których trzeba się pozbyć, bądź też unicestwią nas zupełnie niechcący, nawet tego nie zauważając. Dlatego też już teraz powinniśmy traktować poważnie zagrożenie ze strony AI.


Udostepnij
Glodne Slonce

2 Responses to “Rzeczywistość będzie tylko nieprzyjemnym oderwaniem się od życia w wirtualnym świecie”

  1. NoNieMogęWytrzymać Says:

    Kiedy w końcu 16 część Felixa, Neta i Niki? Skręca mnie niemiłosiernie…

  2. Rafal Kosik Says:

    Cierpliwości. Mnie też skręca, jak ją piszę. Listopad pewnie.

Leave a Reply

Przed wyslaniem komentarza na wszelki wypadek skopiuj jego tresc do clipboardu (CTRL+A CTRL+C). Jesli cos sie rypsnie i komentarz pojdzie w kosmos, bedziesz mogl sprobowac ponownie (CTRL+V).