Roboty stają się coraz bardziej inteligentne i, podobnie do ludzi i zwierząt, potrafią przyswajać sobie wiedzę. W związku z tym filozof Andreas Matthias twierdzi, że należy stworzyć dla robotów specjalny rodzaj prawa karnego. Mogłyby one wtedy samodzielnie odpowiadać za wyrządzone szkody.
- Chciałby pan, żeby zdolne do uczenia się roboty samodzielnie odpowiadały za popełnione przez siebie błędy. Czy można wyciągnąć wniosek, że obawia się pan robotów?
- Absolutnie nie. Przez wiele lat zajmowałem się programowaniem na Uniwersytecie w Kassel. Tematem moich przemyśleń nie jest strach przed maszyną, ale fakt, że roboty powinny przejmować coraz więcej odpowiedzialności za własne czyny. Dzięki rozwojowi techniki współczesne maszyny coraz częściej samodzielnie podejmują decyzje. Należałoby więc ustalić konkretne zasady, kto powinien ponosić konsekwencje popełnionych przez nich błędów.
- Ale roboty zostały przecież stworzone przez człowieka. Dlaczego więc to nie programiści powinni być pociągani do odpowiedzialności?
- Przekonanie o tym, że programy komputerowe przekazują maszynie dokładne informacje, jakie ma ona podjąć działania, pochodzi jeszcze z lat 70. Od tego czasu styl programowania radykalnie się zmienił. Zamiast zdefiniowanego ciągu poleceń tworzy się dzisiaj sieci neuronowe podobne do tych, które znajdują się w ludzkim mózgu. Polecenia dla robota nie są zapisywane jako rozkazy, ale funkcjonują jak połączenia synaptyczne. Dzięki sieciom neuronowym maszyna może się uczyć, a efekt końcowy jest taki, że nie da się dokładnie oddzielić tego, co zaprogramowane od wiedzy i umiejętności, które robot przyswoił sobie sam. To, co współcześnie odbywa się w laboratoriach komputerowych, to nie programowanie, ale trening. Rolą człowieka jest jedynie stworzenie warunków, w których maszyna będzie mogła w pełni wykorzystać swoje potencjalne możliwości.
- Brzmi to tak, jakby chciał pan chronić producentów robotów przed płaceniem wysokich odszkodowań...
- Chciałbym tylko, żeby nasz system prawny był sprawiedliwy. Dla mnie sprawiedliwość to sytuacja, w której odpowiedzialność za dane czyny ponosi ten, kto sprawował nad nimi kontrolę. Twórcy samouczących się maszyn tracą kontrolę nad swoim dziełem w chwili, gdy maszyna zaczyna funkcjonować. Obarczanie programistów odpowiedzialnością za działania robotów byłoby więc niesprawiedliwe. Wystarczy spojrzeć na sondę badającą Marsa, wyposażoną w specjalny program do poruszania się po powierzchni planety. Wehikuł cały czas odkrywa optymalne dla siebie możliwości manewrowania. Gdyby maszyna z powodu zakłóceń komunikacji z centrum dowodzenia na Ziemi wjechała na jakąś przeszkodę, nie można by przecież obciążać odpowiedzialnością za to programisty.
- Dlaczego nie? Można by mu przecież zarzucić, że źle zaprogramował maszynę.
- Moim zdaniem nie można wymagać od programistów stworzenia maszyny doskonałej. Ludzie również popełniają błędy i muszą ponosić konsekwencje. Nie możemy zrzucić całej odpowiedzialności za nasze czyny na nauczycieli czy rodziców. W pewnym momencie życia zaczynamy sami za siebie odpowiadać. Z maszynami jest podobnie. Na pewnym etapie rozwoju nie da się już stwierdzić, czy winę za błędy ponosi konstruktor, czy samouczący się komputer. Od chwili, kiedy robot zacznie funkcjonować, nie jest on już tą samą maszyną, która wyszła spod ręki programisty.
- Wciąż mówi pan o odpowiedzialności. W jaki sposób maszyna mogłaby odpowiadać za własne błędy?
- Mogłaby ona pokrywać koszty wyrządzonych strat. Będąc pracownikiem maszyna wytwarza pewną wartość - część tej wartości mogłaby wpływać do ubezpieczyciela, który opłacałby ewentualne szkody.
- W swojej rozprawie porusza pan temat prawa karnego dla robotów. Jak wyobraża pan sobie karanie maszyny?
- Wbrew pozorom ukaranie maszyny jest możliwe. Jest to po prostu przeprogramowanie.
- Czy mógłby pan to wyjaśnić?
- Główne cele naszego prawa karnego to po pierwsze resocjalizacja, a po drugie działania prewencyjne. Aby osiągnąć te cele w przypadku maszyn, trzeba po prostu poprawić jakość ich funkcjonowania. Karanie robotów byłoby z pewnością nawet dużo bardziej skuteczne, niż karanie ludzi. Nikt nie może bowiem zagwarantować, że skazany przestępca przejdzie po 5 latach więzienia odnowę moralną i stanie się lepszym człowiekiem. Natomiast przeprogramowana maszyna drugi raz nie popełni tego samego błędu. Nie musimy zamykać robotów w więzieniach, ale jedynie poprawić ich software.
- Czy wierzy pan, że w przyszłości samouczące się roboty będą w świetle prawa traktowane tak samo jak ludzie?
- Tak, mogę sobie to wyobrazić. We współczesnym świecie zakres działania pracownika jest coraz bardziej ograniczony. Nieważne, czy jest się zatrudnionym jako kierowca autobusu, pilot czy wykonuje się jakikolwiek inny zawód - współczesnego pracownika nie traktuje się jak człowieka, ale jak narzędzie, które ma spełniać swoją funkcję. Jako klienci nie życzymy sobie, żeby pilot do nas machał czy opowiadał o swoim szczęściu bądź nieszczęściu - ma on jedynie zatroszczyć się o to, abyśmy bezpiecznie dotarli z punktu A do punktu B. Pilot jest dla nas w zasadzie integralną częścią sterowanego przez siebie samolotu. W autobusie natomiast nie wołamy do kierowcy, że chcemy wysiąść, tylko naciskamy na guzik. Stąd do autopilota jest już bardzo niedaleko. Kwestia traktowania maszyny tak samo jak jednostki ludzkiej jest oczywiście dużo bardziej skomplikowana, więc w mojej pracy poświęciłem temu problemowi całkiem sporo uwagi.
- Gdyby robotom rzeczywiście przyznano prawa podobne do praw ludzkich, czy uzyskałyby one też na przykład prawo wyborcze? I czy można by je po zużyciu tak po prostu oddać na złom?
- Nie przyszedł jeszcze czas na taką dyskusję. Dla większości problem ten pozostaje jeszcze w sferze science-fiction, ja jednak sądzę, że nie można go tak traktować. W mojej rozprawie starałem się pokazać, że możliwe jest obciążenie robotów odpowiedzialnością za ich własne działania. To powinien być pierwszy krok. Kwestią, jak do owego stanu rzeczy dostosować przepisy prawne, można by się zająć w następnej kolejności.
- Jak konkretnie mogłyby wyglądać te przepisy?
- Doskonale mogę sobie wyobrazić stworzenie dla maszyn przepisów prawnych, regulujących zasady ich naprawy i konserwacji. Problematyczny może być tu na przykład fakt, że robota nie można oddać na złom i jednocześnie uczynić go odpowiedzialnym za popełnione błędy. Dyskusja na temat prawa robotów do egzystencji to jednak kwestia odległej przyszłości.
Rozmawiał: Holger Dambeck (Spiegel)