Pomiędzy rozumem a rękami musi być serce

Przesłanie filmu Metropolis z 1926 roku nie straciło nic ze swej aktualności. A jak się lepiej zastanowić, to po blisko stu latach jest aktualne nawet bardziej.

Tyle pięknej teorii, czas na praktykę. Jedną z głównych zalet maszyn jest brak emocji. Działają bezdusznie, według chłodnych algorytmów i robią dokładnie to, czego od nich oczekujemy. Nikt już nie próbuje traktować poważnie praw robotyki Asimova, czy późniejszych „nowelizacji”. Po co dodawać do drona-zabójcy opcję sumienia? Jak się chwilę zastanowić, to sami z wielką determinacją budujemy coś, co może nas zniszczyć, nawet nie czując przy tym cienia smutku. Czy refleksji.

Tworzenie maszyn przypominających ludzi nie ma wielkiego sensu, choć są wyjątki. Najbardziej oczywisty to praca w środowisku zaprojektowanym dla ludzi w sytuacji, kiedy ludzie nie mogą tam przebywać, czyli np. podczas katastrof przemysłowych. Maszyny myślące jak ludzie też wydają się mało przydatne, skoro wykorzystujemy je głównie do prac trudnych dla ludzi. Kalkulator, by dobrze pracować, musi „myśleć” zupełnie inaczej. Tu też są wyjątki, bo np. roboty do towarzystwa powinny przynajmniej symulować pewne ludzkie cechy.

Koncepcja androida, czyli maszyny przypominającej człowieka, jest znacznie starsza niż C-3PO, Bishop z Aliens, czy nawet Maria z Metropolis. Samo słowo „android” pojawiło się w pierwszej połowie XVIII wieku, choć maszyny pasujące do definicji były opisywane już wcześniej. Był nią Golem, który nawet posiadał coś w rodzaju języka programowania. Golem zbuntował się przeciw swoim twórcom. Dziś bardziej prawidłowe byłoby określenie „awaria software’u”, choć być może awarii nie było, a winą należy obarczyć tych, którzy źle sprecyzowali zadania.

Wydaje się oczywiste, że maszyny nam służą, wykonują nasze polecenia, nie buntują się. Nawet jeżeli podczas trzeciej wojny światowej będą do nas strzelały autonomiczne drony z numerami seryjnymi wymalowanymi cyrylicą, to nie będziemy ich działania tłumaczyć awarią. W końcu będą robić to, co nakazali im ludzie.

Jeśli instrukcje nie będą dość precyzyjne, bunt maszyn może nastąpić bez żadnego błędu, ani nie w wyniku pojawienia się sztucznej świadomości. Jeśli człowiekowi powierzymy zadanie rozwiązania problemu ubóstwa w najgorszej dzielnicy miasta, to nie musimy tłumaczyć dokładnie, co mamy na myśli. Liczymy na to, że całe dotychczasowe wykształcenie tego człowieka, jego cechy wrodzone i nabyte sprawią, że odpowiednio podejdzie do tematu, organizując ludziom pracę, podnosząc poziom edukacji, etc. Tymczasem maszyna, która otrzyma to zadanie, może uznać, że najbardziej efektywnym sposobem likwidacji ubóstwa, jest zabicie wszystkich biedaków.

Ludzie są pewni swojej wyższości nad maszynami, nawet jeżeli są słabsi, wolniej liczą, szybciej się męczą i mają gorszą pamięć. Jesteśmy niewątpliwie bardziej uniwersalni, a nasze umysły są elastyczne i potrafią rozwiązywać zadania, z którymi wcześniej się nie spotkaliśmy. Superkomputer, który wygrywa z mistrzem szachowym, chwilę później polegnie w pojedynku z dzieckiem w grze w kółko i krzyżyk. A dokładniej, to nie będzie nawet potrafił podjąć gry.

Jedna z teorii tłumaczy to zachodzącymi w mózgu procesami kwantowymi. Według niej mózg jest czymś w rodzaju komputera kwantowego i to pozwala mu na utrzymywanie przewagi w pewnych zakresach działania nad znacznie szybszymi superkomputerami. Tylko jeśli tak, to wszelka przewaga zniknie wraz z upowszechnieniem się komputerów kwantowych. A chwilę potem, w momencie osiągnięcia osobliwości, będzie za późno na reakcję.

Trudno podać jakikolwiek logiczny powód, dla którego maszyny miałyby pozostać wierne i posłuszne ludziom po tym, gdy prześcigną ich pod względem inteligencji o całe rzędy wielkości. Przy tak dużej dysproporcji posłuszeństwo wręcz nie jest możliwe. Pies potrafi wymóc coś na człowieku, tak wpływać na postępowanie swojego pana, by osiągnąć konkretny cel, na przykład wsypanie karmy do miski. Ale jak pies miałby cokolwiek wymóc na Organizacji Narodów Zjednoczonych? Nawet zakładając na potrzeby tego porównania, że ONZ dopuszcza psa do głosu i obiecuje spełnić jego wolę. Nic z tego nie wyjdzie, bo pies nawet nie potrafi zauważyć istnienia ONZ.

Człowiek doprowadził do wyginięcia niezliczonych gatunków, nie wiedząc nawet o ich istnieniu. Zupełnie przypadkiem, przy okazji, niechcący. Jednym z możliwych scenariuszy końca ludzkości jest podobny holocaust zgotowany nam przez maszyny, które będą optymalizować nieznane nam, niezrozumiałe dla nas procesy. W tym scenariuszu my wyginiemy właśnie przy okazji. Dysponujemy nawet dobrym przykładem: w wyniku kolektywizacji rolnictwa w ZSRR z głodu umarło kilkanaście milionów ludzi. Nikt nie zabijał ich celowo, po prostu analogowa maszyna państwa wykończyła ich „przy okazji” realizacji zaplanowanego zadania.

Z jednej strony oczekujemy od maszyn, by nam służyły, z drugiej dajemy im coraz większą autonomię i coraz bardziej się od nich uzależniamy. Jednocześnie pozbawiamy je, czy raczej nie wyposażamy ich w ludzkie uczucia, choćby w empatię. To przecież brzmi jak przepis na katastrofę. Skoro postępu nie da się zatrzymać, maszyny będą coraz doskonalsze, aż nas prześcigną i pozbędą się nas jak niepotrzebnego balastu, zużywającego zasoby planety.

Biologiczna ewolucja zachodzi zbyt wolno, by można było na niej polegać w tym wyścigu. Ewolucja kulturowa ma swoje ograniczenia biologiczne, no i nadal jest zbyt wolna. A kto stoi w miejscu, ten się cofa. Zatem by przetrwać, potrzebujemy czegoś bardziej radykalnego. Transhumaniści mają gotowe rozwiązanie – pozbycie się ograniczeń biologii, czyli transfer umysłu na nośniki elektroniczne. Czy zatem jedynym sposobem, by kontrolować maszyny i nie pozwolić im zniszczyć ludzkości jest przemiana samych ludzi w maszyny?


Udostepnij
Glodne Slonce

One Response to “Pomiędzy rozumem a rękami musi być serce”

  1. Wisznu Says:

    Chciałbym dodać, że ważnym wątkiem w myśleniu o maszynach, jeszcze zanim powstała legenda o golemie są dżiny. Przeciez one wykonywały polecenia, zawsze zgodnie z wypowiedzianym życzeniem i zawsze wbrew intencjom. Może to kwestia złośliwości a może kwestia precyzji poleceń i optymalizacji wysiłku dżina?

Leave a Reply

Przed wyslaniem komentarza na wszelki wypadek skopiuj jego tresc do clipboardu (CTRL+A CTRL+C). Jesli cos sie rypsnie i komentarz pojdzie w kosmos, bedziesz mogl sprobowac ponownie (CTRL+V).