Czy już jesteś korpo-robotem?

Jak odpowiedzieć na tak nieładnie postawione pytanie? Jeśli jesteś, to – jako robot, bezwiedna maszyna w rękach korporacji – i tak nie będziesz tego świadomy. Możesz jednak spróbować obejść system ograniczeń, stosując pewne dobrze znane prawa.

Jeśli jesteś robotem na usługach korporacji to podlegasz zapewne jakimś zasadom, które konstytuują Twój byt w świecie maszyn i ludzi. Najprościej odnieść się do regulacji już funkcjonujących i sprawdzonych. Oto trzy prawa robotyki Isaaca Asimova, którym możliwe, że podlegasz. Aby jednak było nam łatwiej prowadzić ten eksperyment, zastąpimy słowo ludzkość słowem korporacja, zaś robot słowem człowiek – chodzi przecież o Ciebie, a Ty jesteś człowiekiem:

Powiesz, że to naciągana analogia, a nawet zwyczajne robienie sobie jaj z klasyki gatunku science fiction. Jednak zagadnienia związane z etyką robotów mają w sobie coś, co obnaża naszą rzeczywistość. No i jest to model na tyle prosty, że możemy się dzięki niemu przejrzeć w otaczającej nas rzeczywistości. Rządy Korei Południowej czy USA opracowują już po cichu kodeksy moralne, jakim podlegać będą myślące maszyny obdarzone wolną wolą. Myślące maszyny, a więc nie programowalne zgrzewarki na linii produkcyjnej w fabryce karoserii czy humanoidalne zabawki z Japonii. Dlaczego więc nie zmierzyć się z taką wykładnią (której wprawdzie mamy podlegać, a nie się nią kierować, ale mniejsza o to). Wróćmy więc do trzech praw Asimova.

Pierwsze prawo („Człowiek nie może skrzywdzić Korporacji…”) jest gorzką pigułką dla każdego, kto czuje się małym, nic nie znaczącym trybikiem w wielkiej maszynie. Trzecie prawo to prawo do ochrony samego siebie, jako zasobu mającego określoną wartość (nie oceniam jaką). Jednak także wyraźne wskazanie, że w razie wątpliwości, dobro Korpo ma nadrzędne znaczenie. Na wypadek, gdybyś nie pamiętał. Jednak pomijając to wszystko, jesteś najważniejszy.

A co z drugim prawem? Czy naprawdę mamy być posłuszni rozkazom Korporacji ślepo, a z obowiązku tego zwania nas tylko sytuacja, gdy nasze posłuszeństwo może Korpo zaszkodzić? Widzę tu co najmniej dwa problemy. Po pierwsze: czy Korporacja daje nam przez to prawo, aby decydować samemu, co jest dla niej dobre? Po drugie: czy Korpomoże się pomylić i drugie prawo powstało po to, abyś Ty wykarczował na czas rodzące się dopiero owoce tej pomyłki? Dwie nieco niepokojące rysy na monolicie.

Ja też czuję dziwne mrowienie w kręgosłupie, gdy o tym pomyślę. Nic więc dziwnego, że jako robot nie czujesz się komfortowo. Prawa Asimova, choć należą do kanonu literatury, były wielokrotnie krytykowane za niepraktyczność.

Istotą robotyki jest stworzenie takiej siły roboczej, która przy wykorzystaniu minimalnych zasobów będzie wielokrotnie bardziej wydajna, precyzyjna, szybka od zwykłego pracownika. Czyż nie o tym marzą Twoi szefowie? Jednak jest coś jeszcze. Aby to osiągnąć, człowiek musi uwolnić robota. Dać mu wolną wolę na tyle, aby był on w stanie samodzielnie wykonywać powierzone mu zadania. Inaczej będzie tylko japońską zabawką czy numerycznie sterowaną zgrzewarką. W świecie coraz bardziej zaawansowanych produktów nie ma już czasu na każdorazowe programowanie sztucznej inteligencji. Musi ona nauczyć się rozwijać i przystosowywać samodzielnie i samodzielnie też podejmować decyzje.

I do tego właśnie potrzebne są prawa, które utrzymają robota w ryzach. Jednak Asimov opracował je w sposób bardzo prosty. Jego roboty dostają substytut praw: zestaw trzech rozkazów opartych o pewne warunki, które są rozkazami nadrzędnymi dla wszystkiego, czego się nauczą. Zgrabnie pominął zaś zasadniczy problem – skoro roboty mają wolną wolę i myślą, to czy czasem nie wymyślą, że te prawa są głupie i ograniczające?

Czy ty, przekraczając próg biura, nie masz podobnych wątpliwości? Codziennie? Raz w tygodniu? Od czasu do czasu? W jaki sposób masz na co dzień posługiwać się prawami (które z definicji, są prawami, a nie obowiązkami), skoro są one w całości kontrolowane przez Korpo? Jak Korporacja, Twój konstruktor, Robocie, może oczekiwać od Ciebie określonych wyników, do których osiągnięcia potrzebna jest wolna wola i sumienie, skoro narzuca Ci co i jak powinieneś myśleć?

Może Korpo uważa, że to dobrze i, że tak właśnie powinno to działać. Korpo nie wie najprawdopodobniej, że samo jest robotem. Skomplikowanym, jak diabli, ale jednak. Robotem, który już dawno przeszedł proces emancypacji.

Korporacja przegapiła ten moment, gdy Eliezer Yudkowsky słusznie zwrócił uwagę, że nie ma powodu by uważać, że robot ma kierować się takim samym modelem postępowania – logicznym dla nas, ale niekoniecznie dla niego. Będzie więc niezależny od człowieka, ale także wyposażony we własny, samodzielnie stworzony kanon moralny, własny system wartości i własne cele. Zaś do nas, nie-robotów, należy zadbanie o to, aby system ten nie był sprzeczny z tym, co ludzkie. No bo o moralności jeszcze nie wspominaliśmy, uznając ją chyba za coś tak oczywistego, że każdy robot ma ją zaimplementowaną na poziomie BIOS.

Łatwo sobie przecież wyobrazić sytuację, gdy robot odpowiedzialny za produkcję wykałaczek będzie chciał cały świat na takie wykałaczki zamienić, działając w dobrej woli i zmierzając w kierunku celu przed którym został postawiony (lub sam się postawił). Czy robot wie, że w końcu będzie trzeba te wykałaczki porzucić, tak po prostu? A może sam powinien poznać 3 prawa robotyki (i tym razem z odpowiednio zamienionymi słowami):

Brzmi jakoś lepiej, prawda? Wręcz rozsądnie. Tyle tylko, że chyba model biznesowy naszej fabryki robotów jeszcze do tego nie dojrzał.