Pomiędzy rozumem a rękami musi być serce

Przesłanie filmu Metropolis z 1926 roku nie straciło nic ze swej aktualności. A jak się lepiej zastanowić, to po blisko stu latach jest aktualne nawet bardziej. Jedną z głównych zalet maszyn jest brak emocji. Działają bezdusznie, według chłodnych algorytmów i robią dokładnie to, czego od nich oczekujemy. Nikt już nie próbuje traktować poważnie praw robotyki Asimova, czy późniejszych „nowelizacji”. Po co dodawać do drona-zabójcy opcję sumienia? Jak się chwilę zastanowić, to sami z wielką determinacją budujemy coś, co może nas zniszczyć, nawet nie czując przy tym cienia smutku, czy refleksji.

Tworzenie maszyn przypominających ludzi nie ma wielkiego sensu, choć są wyjątki. Najbardziej oczywisty to praca w środowisku zaprojektowanym dla ludzi w sytuacji, kiedy ludzie nie mogą tam przebywać, czyli np. podczas katastrof przemysłowych. Maszyny myślące jak ludzie też wydają się mało przydatne, skoro wykorzystujemy je głównie do prac trudnych dla ludzi. Kalkulator, by dobrze pracować, musi „myśleć” zupełnie inaczej. Tu też są wyjątki, bo np. roboty do towarzystwa powinny przynajmniej symulować pewne ludzkie cechy.

Koncepcja androida, czyli maszyny przypominającej człowieka, jest znacznie starsza niż C-3PO, Bishop z Aliens, czy nawet Maria z Metropolis. Samo słowo „android” pojawiło się w pierwszej połowie XVIII wieku, choć maszyny pasujące do definicji były opisywane już wcześniej. Był nią Golem, który nawet posiadał coś w rodzaju języka programowania. Golem zbuntował się przeciw swoim twórcom. Dziś bardziej prawidłowe byłoby określenie „awaria software’u”, choć być może awarii nie było, a winą należy obarczyć tych, którzy źle sprecyzowali zadania.

Wydaje się oczywiste, że maszyny nam służą, wykonują nasze polecenia, nie buntują się. Nawet jeżeli podczas trzeciej wojny światowej będą do nas strzelały autonomiczne drony z numerami seryjnymi wymalowanymi cyrylicą, to nie będziemy ich działania tłumaczyć awarią. W końcu będą robić to, co nakazali im ludzie.

Jeśli instrukcje nie będą dość precyzyjne, bunt maszyn może nastąpić bez żadnego błędu, ani nie w wyniku pojawienia się sztucznej świadomości. Jeśli człowiekowi powierzymy zadanie rozwiązania problemu ubóstwa w najgorszej dzielnicy miasta, to nie musimy tłumaczyć dokładnie, co mamy na myśli. Liczymy na to, że całe dotychczasowe wykształcenie tego człowieka, jego cechy wrodzone i nabyte sprawią, że odpowiednio podejdzie do tematu, organizując ludziom pracę, podnosząc poziom edukacji, etc. Tymczasem maszyna, która otrzyma to zadanie, może uznać, że najbardziej efektywnym sposobem likwidacji ubóstwa, jest zabicie wszystkich biedaków.

Ludzie są pewni swojej wyższości nad maszynami, nawet jeżeli są słabsi, wolniej liczą, szybciej się męczą i mają gorszą pamięć. Jesteśmy niewątpliwie bardziej uniwersalni, a nasze umysły są elastyczne i potrafią rozwiązywać zadania, z którymi wcześniej się nie spotkaliśmy. Superkomputer, który wygrywa z mistrzem szachowym, chwilę później polegnie w pojedynku z dzieckiem w grze w kółko i krzyżyk. A dokładniej, to nie będzie nawet potrafił podjąć gry.

Jedna z teorii tłumaczy to zachodzącymi w mózgu procesami kwantowymi. Według niej mózg jest czymś w rodzaju komputera kwantowego i to pozwala mu na utrzymywanie przewagi w pewnych zakresach działania nad znacznie szybszymi superkomputerami. Tylko jeśli tak, to wszelka przewaga zniknie wraz z upowszechnieniem się komputerów kwantowych. A chwilę potem, w momencie osiągnięcia osobliwości, będzie za późno na reakcję.

Trudno podać jakikolwiek logiczny powód, dla którego maszyny miałyby pozostać wierne i posłuszne ludziom po tym, gdy prześcigną ich pod względem inteligencji o całe rzędy wielkości. Przy tak dużej dysproporcji posłuszeństwo wręcz nie jest możliwe. Pies potrafi wymóc coś na człowieku, tak wpływać na postępowanie swojego pana, by osiągnąć konkretny cel, na przykład wsypanie karmy do miski. Ale jak pies miałby cokolwiek wymóc na Organizacji Narodów Zjednoczonych? Nawet zakładając na potrzeby tego porównania, że ONZ dopuszcza psa do głosu i obiecuje spełnić jego wolę. Nic z tego nie wyjdzie, bo pies nawet nie potrafi zauważyć istnienia ONZ.

Człowiek doprowadził do wyginięcia niezliczonych gatunków, nie wiedząc nawet o ich istnieniu. Zupełnie przypadkiem, przy okazji, niechcący. Jednym z możliwych scenariuszy końca ludzkości jest podobny holocaust zgotowany nam przez maszyny, które będą optymalizować nieznane nam, niezrozumiałe dla nas procesy. W tym scenariuszu my wyginiemy właśnie przy okazji.

Z jednej strony oczekujemy od maszyn, by nam służyły, z drugiej dajemy im coraz większą autonomię i coraz bardziej się od nich uzależniamy. Jednocześnie pozbawiamy je, czy raczej nie wyposażamy ich w ludzkie uczucia, choćby w empatię. To przecież brzmi jak przepis na katastrofę. Skoro postępu nie da się zatrzymać, maszyny będą coraz doskonalsze, aż nas prześcigną i pozbędą się nas jak niepotrzebnego balastu, zużywającego zasoby planety.

Biologiczna ewolucja zachodzi zbyt wolno, by można było na niej polegać w tym wyścigu. Ewolucja kulturowa ma swoje ograniczenia biologiczne, no i nadal jest zbyt wolna. A kto stoi w miejscu, ten się cofa. Zatem by przetrwać, potrzebujemy czegoś bardziej radykalnego. Transhumaniści mają gotowe rozwiązanie – pozbycie się ograniczeń biologii, czyli transfer umysłu na nośniki elektroniczne. Czy zatem jedynym sposobem, by kontrolować maszyny i nie pozwolić im zniszczyć ludzkości jest przemiana samych ludzi w maszyny? To by było naprawdę pyrrusowe zwycięstwo. I jeśli to jedyna możliwość, to chyba nawet nie warto rozpoczynać walki. Pomiędzy rozumem a rękami musi być serce.


Udostepnij
Glodne Slonce

3 Responses to “Pomiędzy rozumem a rękami musi być serce”

  1. Jedrzej Says:

    No stety-niestety to przekonanie że AI musi być nauczone konkretnej gry już nie jest prawdziwe. MuZero od Googla 3 lata temu potrafił nauczyć się zasad danej gry - bez wstępnego ich zaprogramowania.
    en[.]wikipedia[.]org/wiki/MuZero

    I to jest chyba ten moment, kiedy należy zacząć się bać :|

    Sam Harris ostatnio o tym z Ericiem Schmidtem rozmawiał
    samharris[.]org/podcasts/making-sense-episodes/280-the-future-of-artificial-intelligence

  2. Leszke Says:

    Ogólnie się zgadzam, aczkolwiek nie byłbym sobą, gdybym nie pozwolił sobie wtrącić dwóch małych ale.
    Po pierwsze, to jak na razie można mówić raczej o mniej lub bardziej zaawansowanych technicznie, ale dalej tylko automatach. Kamery, sensory, silowniki, silniki, procesory, ale za tym wszystkim dalej stoją przecież tylko napisane przez ludzi algorytmy a nie jakaś samostanowiąca, w pełni autonomiczna istota.
    A druga rzecz to fakt, że jednak motorem postępu jest chęć uzyskania jakichś korzyści, która to chęć w swej najradykalniejszej formie przybiera postać wojny. Innymi słowy jedni ludzie tworzą wynalazki do jak najskuteczniejszego podporządkowania sobie innych ludzi i w tym celu tworzą jak najdoskonalsze algorytmy, z którymi ci drudzy muszą właśnie walczyć. Wizja świata opartego na “sercu” jest kusząca, ale niestety nijak się ma do rzeczywistości i pozostaje w sferze science-fiction.
    Serdecznie pozdrawiam i udanego weekendu!

  3. Andrzej Urbański Says:

    Warsztaty “AI for kids” współorganizowała doktorantka Wydziału Informatyki i Telekomunikacji Politechniki Poznańskiej p. Izabela Krysińska, wraz z firmą
    Pearson i festiwalem kulturalnym Ukraińska Wiosna. Warsztaty
    programowania i sztucznej inteligencji są adresowane do ukraińskich
    dzieci w wieku 9-12 lat przebywających aktualnie w Polsce. Odbędą się w
    siedzibie firmy Pearson w Noble Tower (ul. Dąbrowskiego 77A) w
    najbliższą sobotę, 4 czerwca, o godz. 12:00. Wstęp jest bezpłatny,
    organizatorzy proszą jedynie o rejestrację. Wszystkie informacje dostępne są na stronie wydarzenia: https://fb.me/e/1WwKp2Xj7

    Na to napisałem do niej:
    Pan Rafał Kosik miał taką serię dziecięcych książek s-f „Felix, Net i Nika”.
    W jej pierwszym tomie wydanym w 2004 „Felix, Net i Nika oraz Gang Niewidzialnych Ludzi” opisuje m.in. trenowanie sztucznej inteligencji no i oczywiście jej wybryki. Książka jest dostępna w każdej bibliotece dziecięcej.

    Tak się to zaczyna:
    Dalszą dyskusję przerwał im Lucjan, najwyższy chłopak z ich klasy.
    — Oto pozytywny wpływ korka na zdrowie — oznajmił, przechodząc obok. — Stres momentalnie mnie opuścił, gdy okazało się, że test jest odwołany.
    Felix i Net musieli się z nim zgodzić. Nie mieli przecież elektronicznej ściągi, którą w czasie testu zamierzali odtworzyć z dyktafonu do bezprzewodowych słuchawek. W połączeniu z absolutnym brakiem przygotowania, czyli wieczornego zakuwania w domowej ciszy, skończyłoby się to porażką na całej linii.
    — Wiecie, co mi się wydaje? — zaczęła Nika. — Wydaje mi się, że więcej pracy włożycie w zrobienie tej elektronicznej ściągi niż w nauczenie się tego.
    — Chodzi o zasady — wyjaśnił Felix.
    — Chodzi o czas — sprzeciwił się Net. — Informacji do wkucia jest tyle, że nie mieszczą się w czterdziestu pięciu minutach nagrania. Musimy to zrobić inaczej.
    — Czy ja dobrze rozumiem? — upewnił się Felix. — Konstancja zadała nam do wykucia tyle, że samo odczytanie tego trwa dłużej niż jedna lekcja?
    — Tak — potwierdził Net. — Pomyślcie tylko, załadujemy sobie to wszystko do głowy, a za dziesięć lat okaże się, że nie ma już w niej miejsca na nic nowego.
    — No, chyba że chcemy się dowiedzieć — zaczął ostrożnie Felix — w którym z tych państw ukrył się Morten.
    — Zapomnijmy o nim — machnął ręką Net. — Niech okrada brazylijskie banki. Uważam, że pora sięgnąć po bardziej zaawansowane technologie niż dyktafon. Użyjemy AI[3].
    — AI? — zdziwiła się Nika. — Co to jest?
    — Sztuczna inteligencja — wyjaśnił Net. — Zaawansowany program komputerowy. Od zwykłego różni się tym, że potrafi się uczyć. Z każdym dniem staje się coraz sprawniejszy. Program sam dowie się, jaka informacja jest nam potrzebna, odnajdzie ją w bazie danych i przekaże nam wprost do ucha. Nasza własna pamięć pozostanie czysta i nietknięta. Manfred jest już prawie gotowy.
    — Manfred? — zdziwiła się jeszcze bardziej Nika. — Nadałeś mu imię?
    — Pracuję nad nim wieczorami i trochę się zżyliśmy — przyznał Net.
    — Kumplujesz się z programem komputerowym? — pytała dalej Nika, unosząc coraz wyżej brwi.
    — No wiesz… — Net próbował wybrnąć z sytuacji. — Można powiedzieć, że pracujemy razem. Pomaga mi w udoskonalaniu siebie… znaczy, jego. Eee… Takie… hobby.
    — Czy Manfred będzie gotowy za tydzień? — zapytał Felix, nie zwracając uwagi na wątpliwości Niki.
    — To tak, jakbym się zapytał, czy ty jesteś już gotowy — oburzył się lekko Net. — On jest gotowy, tyle że uczy się cały czas i nigdy nie przestanie. Muszę tylko opracować dyskretny sposób komunikowania się z nim w czasie lekcji.
    — Nie wiemy, jak będzie wyglądał test — zauważył Felix — ale swojego minikomputera na pewno nie będziesz mógł postawić na ławce.
    — Dlatego potrzebujemy AI — odparł Net. — Manfred zorientuje się w sytuacji na bieżąco.
    — Chyba mam pewien pomysł — powiedział Felix po namyśle. — Przyniosę jutro do szkoły małe „coś” i je przetestujemy.
    — Lepiej wpadnij do mnie dziś po lekcjach. Trzymam Manfreda w komputerze odłączonym od sieci.
    — Dlaczego?
    — Nie jestem pewien, jak się zachowa w kontakcie z internetem. To tak, jakbyś poszedł z domowym psem pierwszy raz do lasu.
    — Może mu odbić?
    — Po prostu wolę być ostrożny. Wpadniesz też? — Net skierował to pytanie do Niki.
    — Wpadnę — odpowiedziała z ociąganiem. — Chociaż nie jestem pewna, czy takie komplikowanie prostej ściągi ma sens…

    Można w ten sposób zachęcać do nauki. Beletrystyka potrafi zmotywować do zdobywania wiedzy i umiejętności 😊

    Na to ten fragment książki znalazł się w teczkach z materiałami dla uczestników warsztatów.
    Czy książki serii “Felix, Net i Nika” były tłumaczone na ukraiński?
    Czy w Pana książkach jest coś więcej o AI?

Leave a Reply

Przed wyslaniem komentarza na wszelki wypadek skopiuj jego tresc do clipboardu (CTRL+A CTRL+C). Jesli cos sie rypsnie i komentarz pojdzie w kosmos, bedziesz mogl sprobowac ponownie (CTRL+V).