Koniec świata ludzi

Ocena:

Jest już za późno, żeby zacząć bać się robotów. Teraz kombinuj, gdzie się przed nimi schowasz

To nie jest artykuł, który ma cię uspokoić i utwierdzić w przekonaniu, że ludzkość zmierza w dobrym kierunku, a twoje dzieci będą żyły w świecie pełnym piękna, dobra i żywności eko. To jest tekst, w którym traktujemy cię jak dorosłego i mówimy jak jest. Przez kilka tysięcy lat uważaliśmy się za panów Ziemi, najmądrzejszych i najsprytniejszych – ale bardzo możliwe, że ten okres niebawem przejdzie do historii. Już wkrótce ludzkość może stać się jednym z elementów nowego świata stworzonego przez sztuczną inteligencję. Słynny astrofizyk Stephen Hawking przestrzega przed jej rozwojem, zaznaczając, że może to oznaczać koniec rodzaju ludzkiego. W te same tony uderzają słynni przedsiębiorcy wizjonerzy, tacy jak Elon Musk czy Bill Gates. Czego jeszcze nie wiesz?  Tego, że jest dużo gorzej niż sądziłeś. W zasadzie mamy już przesrane. Tylko nie zdajemy sobie z tego sprawy.  

Bunt maszyny
W lipcu 2015 r. w fabryce w Niemczech robot przemysłowy zabił człowieka. Jak zabił? Normalnie. Chwycił go, cisnął nim o ziemię i zmiażdżył. Brutalna okropna śmierć z ręki (z braku lepszego słowa) maszyny dysponującej siłą tysiąc razy większą od siły ludzkich mięśni. Zdarzenie miało miejsce w fabryce Volkswagena, a poinformowała o nim na Twitterze dziennikarka „Financial Times” Sarah O’Connor. No i się zaczęło. Trzeba być z Plutona, żeby nie znać fabuły „Terminatora” i nie skojarzyć nazwiska reporterki z Sarą Connor, pierwszą bohaterką filmowej rebelii przeciw robotom. Dlatego nietrudno zgadnąć, że wpis z Twittera stał się sensacją, a Bogu ducha winna reporterka dziennika ekonomicznego błyskawicznie awansowała na przywódczynię ruchu przeciw robotom zabijającym ludzi. To oczywiście przypadkowa sytuacja, nieszczęśliwy wypadek, który zyskał rozgłos dzięki zbieżności nazwisk. Ale też symboliczna zapowiedź tego, co może wydarzyć się w przyszłości. 

Nowy klasa robotnicza
Robot–morderca z niemieckiej fabryki nie został zaprogramowany do zabijania ludzi. Jego przeznaczeniem była bezduszna harówka przy produkcji samochodów. Maszyna pracowała w specjalnej klatce uniemożliwiającej dostęp do niej robotnikom Volkswagena. Jej ofiara znalazła się w owej klatce, bo musiała – konieczne było wykonanie serwisu robota. Coś poszło nie tak i zginął człowiek. Takie wypadki nie powinny nikogo dziwić – w światowej gospodarce pracuje już blisko milion robotów. Tylko w 2014 roku na całym świecie sprzedano prawie ćwierć miliona tego typu urządzeń. Ale rosnąca liczba robotów przemysłowych to jeszcze nie powód do niepokoju. Potężne mechaniczne ramię przytwierdzone do podłogi w cuchnącej smarem i ludzkim potem fabryce nie będzie cię gonić, żeby cię zabić. Co innego działający w trybie autonomii robot na czterech kołach – albo nogach.

Przewaga we wszystkim
Spróbujmy podsumować to, na czym w tej chwili stoimy w kwestii rywalizacji rodzaju ludzkiego z maszynami. Od kilkunastu lat nie mamy już nadziei na wygraną z nimi w szachy czy warcaby. Nadal jako ludzkość wygrywamy z komputerami w grę go albo pokera, choć to pewnie kwestia czasu, kiedy i na tym polu nas prześcigną.
A jak jest z testami na inteligencję? Tutaj też przestajemy odstawać.  W 2015 r. komputer po raz pierwszy w historii poradził sobie z testami IQ lepiej niż człowiek. To nie koniec przewag sztucznej inteligencji. Widzimy mniej niż roboty, słyszymy mniej, jesteśmy też od nich wolniejsi. Ba, wolniejszy od robotów jest nawet Usain Bolt! Zbudowany przez amerykańską firmę Boston Dynamics czteronożny Cheetah biega z prędkością ponad 45 km/h, a więc szybciej niż atomowy Jamajczyk. O sile nie ma nawet co wspominać – na tym polu nie jesteśmy nawet w stanie stanąć do rywalizacji z robotami. Maszyny nadal dużo gorzej od ludzi czy zwierząt poruszają się na dwóch nogach, dużo gorzej radzą sobie też z precyzyjnymi zadaniami manualnymi – ale postęp, który dokonuje się w tej mierze, jest ogromny. Nieubłaganie zbliża się czas, gdy jedyną przewagą człowieka nad robotem będzie umiejętność „wyzerowania” pół litra wódki pod transmisję meczu reprezentacji Polski w piłce nożnej...

Zabij i zapomnij
Bądźmy szczerzy – nikt nie boi się tego, że przegra z kompem w szachy. To co najwyżej przykra okoliczność. Obawiamy się robotów bojowych, automatycznych zabójców likwidujących cele bez refleksji i bez wahania. Mamy złą wiadomość – samodzielnie zabijające roboty już istnieją. Strefy zdemilitaryzowanej między dwiema Koreami strzegą maszyny Samsung Techwin SGR–A1, roboty, które przy pomocy kamer w dzień i w nocy lokalizują intruzów próbujących przedostać się z Północy na Południe. Urządzenie namierza cele z odległości aż czterech kilometrów. Jeśli te nie zatrzymają się i nie podniosą rąk, maszyna zrobi z nich sito w kilka  sekund. Zabójcza broń Samsunga wyposażona jest w przypominający belgijski FN Minimi karabin maszynowy K–3 produkowany przez Daewoo i może funkcjonować bez autoryzacji ze strony operatora. Po prostu – jeśli znalazłeś się w niewłaściwym miejscu i czasie, jesteś bardzo martwy. Z kolei Izrael na terytoria okupowane wysyła autonomiczne łaziki o nazwie Guardium, które patrolują tereny zamieszkane przez Palestyńczyków i wyszukują zagrożenia. Łazik może poruszać się całkowicie samodzielnie i choć nie jest uzbrojony, to może wezwać wsparcie z powietrza. Czy system może się pomylić? Oczywiście, że może. Już w 1988 r. system kierowania ogniem AEGIS zamontowany na krążowniku „USS Vincennes” patrolującym wody Zatoki Perskiej wykrył obiekt latający. W rzeczywistości był to irański samolot pasażerski, ale komputer uznał, że to ciężki myśliwiec. AEGIS przekazał swoją interpretację wojskowym i autoryzował decyzję o odpaleniu rakiet. Zginęło 290 cywili lecących irańskim Airbusem A300. Nadzór, kontrola, posłuszeństwo? Pieprzenie.

Terminator: reaktywacja
Teraz najgorsze. To, co znaliśmy do tej pory, to zaledwie zapowiedź koszmarnej przyszłości zdominowanej przez roboty. O tym, jak będzie wyglądać, można się przekonać odwiedzając laboratoria firmy Boston Dynamics. Położona na przedmieściach Bostonu niepozorna hala fabryczna z czerwonej cegły to jedno z najbardziej niepokojących miejsc na Ziemi. Nie chodzi o wystrój. Tu właśnie inżynierowie Boston Dynamics, firmy kupionej w zeszłym roku przez Google, testują budowane przez siebie dziwaczne bezgłowe roboty poruszające się na dwóch i czterech nogach. W tej firmie powstał AlphaDog, budzący lęk prototyp czteronożnego muła roboczego, który wygląda jak bezgłowe mechaniczne zwierzę, a w zamierzeniu ma pomagać nosić żołnierzom wyposażenie w trudnym terenie. Boston Dynamics zbudowało też model Cheetah, czyli najszybszego czteronożnego robota w historii. Jest wreszcie perła w koronie firmy, robot o nazwie Atlas. To srebrzysta kupa stali i kabli stojąca na dwóch nogach, dysponująca dwiema rękami i zaopatrzona w głowę, w której rolę oczu pełnią kamery. Atlas jest przyszłością światowej robotyki – ta konstrukcja została wybrana przez amerykańską agencję rozwoju techniki wojskowej DARPA jako baza dla przyszłych projektów budowy wieloczynnościowych robotów, które mają być używane przez wojsko w misjach humanitarnych i ratunkowych. Ale trzeba być ślepym, żeby nie zauważyć, że Atlas łudząco przypomina model T–800, robota zabójcę z filmu „Terminator”... I choć na razie chodzi powoli i ostrożnie, to pewnego dnia nauczy się biegać i skakać i będzie w tym lepszy od ciebie. A w końcu armia uzna, że z Atlasa byłby świetny żołnierz przyszłości. Bo nie oszukujmy się, wprawdzie najczęstszym marzeniem każdego amerykańskiego generała jest przelecenie swojej sekretarki przebranej za kagiebistkę, ale drugim w kolejności jest zbudowanie niepokonanej armii robotów–zabójców.

Wojny robotów
Takie plany amerykańska armia snuje już od dawna. W oficjalnych dokumentach mówi się, że realizacja projektu autonomicznych maszyn do zabijania walczących na froncie to kwestia najbliższych trzydziestu pięciu lat. Autorzy wydanego w czerwcu 2015 roku raportu będącego podsumowaniem sympozjum zorganizowanego przez armię USA stwierdzają, że w okolicach 2050 roku na polach bitew liczba robotów będzie znacząco przewyższać liczbę ludzi, a decyzje podejmowane przez maszyny – także te dotyczące otwarcia ognia – nie będą wymagały akceptacji człowieka. Mówi się nawet, że US Army rozpoczęła prace nad tajnym projektem, który miałby zaowocować stopniowym wprowadzeniem do służby robotów bojowych z dużą autonomią działania na polu bitwy. Innymi słowy – nadchodzi era wojen robotów samodzielnie decydujących o tym, do kogo strzelać. Ten scenariusz jest tak przerażający, że organizacja Human Rights Watch od trzech lat prowadzi globalną kampanię pod  hasłem „Stop Killer Robots” (Stop robotom zabójcom) starając się mobilizować światową społeczność wokół tematu zakazu rozwijania i stosowania na polu bitwy bezrefleksyjnych maszyn–zabójców. Twórcy inicjatywy naciskają, by stosowania robotów bojowych zakazał specjalny międzynarodowy traktat podpisany pod auspicjami ONZ. Ale czy roboty na pewno potrzebują broni, by cię zabić?  Oczywiście, że nie.

Nie ufaj samochodom
W niedalekiej przyszłości, pełnej autonomicznych aut poruszających się po drogach bez kontroli kierowcy, zabić cię będzie mógł twój własny samochód! Serio. Wyobraź to sobie – twój automatyczny pojazd mknie po szosie, ty w tym czasie grasz na telefonie w „Candy Crush Saga” albo zabawiasz się na tylnym siedzeniu z partnerką. Nagle coś idzie nie tak, w aucie strzela opona i rozpędzony pojazd leci wprost na grupkę rozśpiewanych pierwszaków czekających na autobus na przystanku. Za chwilę twój SUV wbije w ten tłumek i przemieli maluchy na czerwoną miazgę. Co w takiej sytuacji zrobi system zarządzający pojazdem? Bardzo możliwe, że trzeźwo oceni sytuację i uzna, że w tej sytuacji lepiej wykonać gwałtowny manewr i zjechać twoim autem w przepaść, ratując w ten sposób dzieci od bolesnej śmierci. No, zginiesz ty, ale uratowane zostanie wiele innych istnień. Twoje zdanie w tej kwestii nie będzie miało znaczenia, system zdecyduje za ciebie, decyzja zapadnie w ułamku sekundy, bez zawahania i ckliwych pożegnań. Nie mówimy tu o hipotetycznych sytuacjach, ale o czymś bardzo realnym – w ostatnich latach bezzałogowe samochody Google’a przejechały blisko trzy miliony kilometrów po drogach publicznych USA i jesteśmy tylko o krok od pełnego uczestnictwa samochodów autonomicznych w ruchu ulicznym. Jeśli wszyscy zaczniemy jeździć takimi pojazdami, to system który nimi zarządza przejmie kontrolę nad tym, co dzieje się na drodze – i nad tym kto ma żyć, a kto nie. A wtedy przestaniesz być panem sytuacji. Ups, już dawno przestałeś nim być – tylko nie chcesz się z tym pogodzić…