W 1981 roku, 37-letni pracownik fabryki o imieniu Kenji Urada wszedł w strefę bezpieczeństwa o ograniczonym dostępie w zakładzie Kawasaki, aby wykonać prace serwisowe na robocie. Z powodu pośpiechu nie udało mu się całkowicie go wyłączyć. Potężne ramię robota napędzane hydraulicznie popchnęło inżyniera na pobliskie maszyny, co spowodowało jego śmierć. Urada stał się pierwszą na świecie zarejestrowaną ofiarą robota.
W sytuacjach takich jak ta, większość ludzi nie traktuje takich wypadków jako winę robota. Ale odkąd roboty zaczynęły przechodzić z środowisk typowo przemysłowych do świata ludzi, bezpieczeństwo stało się ważną społecznie i technologicznie kwestią. Obecnie, kraje takie jak Japonia i Korea Południowa przygotowują się do budowy społeczeństwa wspólnego dla ludzi i robotów, które według przewidywań naukowców ma pojawić się przed 2030 rokiem. Korea Południowa jest krajem, w którym przewiduje się, że do 2020 roku w każdym domu w kraju będzie przynajmniej jeden robot na usługach człowieka. W przeciwieństwie do robotów przemysłowych, które pracują w strukturze ustawień wykonywania powtarzalnych zadań, roboty następnych generacji będą miały względną autonomię, pracując w typowo ludzkim środowisku, jak biura, domy czy szpitale. Uprzedzając masowe stosowanie robotów w naszym codziennym życiu, muszą zostać stworzone przepisy regulujące dozwolone stopnie autonomii, kwestie bezpieczeństwa i standardy zachowań maszyn, z którymi prędzej czy później ludzie będą musieli koegzystować.
 |
| Robot osobisty Wakamaru |
Takie kwestie regulacyjne zostały podjęte między innymi w badaniu przeprowadzonym przez naukowców z Tajlandi. Yueh-Hsuan Weng, Chien-Hsun Chen i Chuen-Tsai Sun zaproponowali ramy systemu prawnego, skupiającego się na kwestiach bezpieczeństwa robotów przyszłości. Ich celem jest, zapewnienie bezpieczeństwa konstrukcji robotów poprzez tzw. "inteligencję bezpieczeństwa" i przedstawienie sposobu postępowania w sytuacjach krytycznych, które można przewidzieć już teraz, a kiedyś na pewno nastąpią. Autorzy przeanalizowali także trzy prawa robotyki stworzone przez Isaaca Asimov'a - jak większość specjalistów robotyki, mają wątpliwości, iż prawa te mogą wystarczyć do osiągnięcia sytuacji w której będziemy pewni, że roboty będą wykonywać swoją pracę w sposób bezwględnie bezpieczny.
Naczelną zasadą proponowanego zarysu prawnego, jest sklasyfikowanie robotów jako tzw. "trzeciego istnienia", ponieważ roboty nie można uznać ani za istoty ożywione / biologiczne (pierwsze istnienie), ani za istoty nieożywione / niebiologiczne (drugie istnienie). Trzecie istnienie miałoby przypominać wyglądem i zachowaniem istoty żywe, ale nigdy nie będą one świadome swego istnienia. Obecnie roboty w świetle obowiązujących zasad są sklasyfikowane jako drugie istnienie (jako własność człowieka), jednakże według autorów opracowania stworzenie pojęcia trzeciego istnienia uprościłoby postępowanie w sytuacjach wypadków w zakresie prawnego podziału odpowiedzialności.
Jednym z głównych wyzwań związanych z integracją robotów z ludzką społecznością jest "ryzyko otwartej tekstury" - ryzyko wystąpienia nieprzewidzianych interakcji w nieustrukturyzowanych środowiskach. Przykładem ryzyka otwartej tekstury może być próba zrozumienia przez roboty niuansów naturalnych (ludzkich) języków. Podczas gdy każde słowo w języku naturalnym ma ściśle określone znaczenie podstawowe, to jednak istnieje cały ogrom słów, które w zależności od kontekstu ich użycia, mogą znaczyć coś całkowicie odległego od jego podstawowego znaczenia. W ramach swoich koncepcji inteligencji bezpieczeństwa, autorzy proponują stworzenie "języka ustawowego (prawnego) dla robotów", w którym zasady etyczne są w nich implementowane poprzez kod programów, stworzonych w celu radzenia sobie z problemami wystąpienia ryzyka otwartej tekstury.
"W przeciągu ostatnich 2000 lat historii prawa, ludzie używali naturalnego języka prawnego do komunikowania się w kwestiach prawnych," mówi Weng. "Zasady i kody zostały stworzone poprzez język naturalny (np. angielski, chiński, japoński, francuski, itd.). Kiedy Asimov wymyślił pojęcie trzech praw robotyki, było dla niego rzeczą prostą przenieść naturalny język prawny do opowiadań science-fiction."
Jak dodaje Chen, trzy prawa Asimova były pierwotnie stworzone dla celów literackich, ale niejasności w przepisach sprawiły, że prawa te stosują obecnie konstruktorzy i właściciele prawdziwych robotów.
Ramy języka prawnego dla robotów muszą opierać się na kwestiach prawnych i technicznych, zorientowanych na zagadanienia bezpieczeństwa, którym będziemy musieli stawić czoła w niedalekiej przyszłości, Ramy te powinny łączyć dwie podstawowe idee: "Kod jest prawem" i "Wbudowana etyka" - powiedział Chen. "W tym kontekście, zagadnienia bezpieczeństwa nie są oparte wyłącznie na autonomicznej inteligencji robotów, tak jak to ma miejsce w przypadku trzech praw Asimova. Przeciwnie, kwestie bezpieczeństwa są podzielone na różne poziomy indywidualnych właściwości i metod, takich jak wbudowana inteligencja bezpieczeństwa robotów, sposoby współpracy pomiędzy robotami i ludźmi oraz regulacje prawne do kontroli użycia i kodu robotów. Dlatego też, kwestie bezpieczeństwa robotów mogłyby zostać rozwiązane krok po kroku w myśl tej koncepcji. "
Weng zauważa również, że uniemożliwienie robotom zrozumienie ludzkiego języka poprzez stosowanie języka prawnego maszyn, mógłby pomóc utrzymać dystans między ludźmi a robotami wogóle.
"Jeśli roboty mogłyby interpretować język prawny ludzi, to prawdopodobnie bylibyśmy od krok od sytuacji, w której zastanawialibyśmy się nad przyznaniem robotom specjalnego statusu prawnego i praw" - powiedział Chen. "Czy system prawny ludzi powinien przekształcić się w system prawny człowek - robot? Wyobraźmy sobie robota - prawnika, albo robota - sędziego, pracujących z prawdziwym prawnikiem i prawdziwym sędzią. Łatwo przewidzieć, że roboty na tym poziomie współpracy mogłyby uczyć się od ludzi uprzejmości, ale równie dobrze mogłyby przejąc od nich umiejętność oszukiwania, hipokryzji i chciwości. Ryzko byłoby zbyt duże, dlatego należy rozważyć, czy nie lepiej jest trzymać roboty na dystans od ludzi, nawet jeśli kwestie techniczne i bezpieczeństwa pozwalałyby na bardziej ścisłą współpracę pomiędzy ludźmi a maszynami".
Naukowcy rozważają także ograniczenie zdolności robotów w ogóle. Zwracają oni uwagę na zagadnienie robotów z inteligencją zbudowaną w oparciu o ludzką inteligencję, a więc robotów o wyższych zdolnościach poznawczych, które potrafią abstrakcyjnie myśleć i dysponują nowymi sposobami patrzenia na swoje środowisko. Obecnie nie istnieje generalna, akceptowalna przez wszystkich naukowców definicja ludzkiej inteligencji, to jednak jest wśród większości naukowców akceptowalna definicja inteligencji opartej na inteligencji człowieka. Duża część naukowców specjalizujących się w robotyce, przewiduje że to tylko kwestia czasu, kiedy powstaną roboty wyposażone w inteligencję wzorowaną na tej ludzkiej. Tak samo stało się z rozwojem sztucznej inteligencji, na podstawie której roboty są w stanie uczyć się i adaptować do zmieniających się warunków otoczenia, w przypadku gdy ich konwencjonalne oprogramowanie nie przewiduje warunków, które zaistniały. Jednakże coraz większa liczba naukowców - do których zaliczają się autorzy niniejszego opracowania - skłaniają się w kierunku zakazu budowy robotów z inteligencją wzorowaną na człowieku. Przede wszystkim dlatego, że po prostu nie ma takiej potrzeby - przecież pierwotnym zamysłem budowy robotów było stworzenie ludziom użytecznych narzędzi, a nie stworzenie pseudo-człowieka.
W badaniu tym autorzy wskazują również na wcześniejsze próby przygotowania zintegrowanego społeczeństwa opartego na ludziach i robotach. Na przykład European Robotics Research Network (EURON) jest prywatną organizacją, której działalność obejmuje badanie etyki robotów - z jej inicjatywy powstała tzw. "mapa drogowa roboetyki" (Roboethics Roadmap). Z kolei rząd Korei Południowej opracował Kartę Etyki Robotów (Robot Ethics Charter), która służy jako pierwszy na świecie zestaw oficjalnych zasad etycznych dla robotów, włączając w to zagadnienia ochrony robotów przez nadużyciami ze strony ludzi. Również rząd japoński bada kwestie bezpieczeństwa robotów, poprzez Komitet Polityki Robotów (Robot Policy Committee). W 2003 roku Japonia utworzyła Powierzchnię Empiryzmu do Budowy Robotów (Robot Development Empiricism Area), która w rzeczywistości jest "robo-miastem", w którym naukowcy mogą testować jak zachowują się ich roboty w prawdziwym świecie.
Istnieją jeszcze inne zagadnienia dotyczacę społeczeństwa robotów i ludzi, ważne ze względów technicznych i społecznych. Przykładowo, czy roboty powinny zostać zaprogramowane według sztywnych zasad bezpieczeństwa, czy raczej powinny być tworzone przy użyciu zdolności do rozumienia kwestii związanych z bezpieczeństwem? Czy etyka robota powinna opierać się na systemie wartości skierowanych na dobro i bezpieczeństwo człowieka, czy powinna być połączeniem systemu wartości człowieka z systemem wartości stworzonego specjalnie na potrzeby robotów? Dalej, co w przypadku, gdy ma miejsce wypadek z udziałem robota - jak powinna zostać podzielona odpowiedzialność pomiędzy użytkownika tego robota, jego producenta, projektanta, programistę, a może nawet samego robota?