Robot zwodzi żołnierza nieprzyjaciół, tworząc fałszywy trop i ukrywając się tak, aby nie zostać złapanym. Choć brzmi to jak scena z filmów o Terminatorze, to w rzeczywistości jest to część eksperymentu przeprowadzonego przez naukowców z Georgia Institute of Technology, który prawdopodobnie jest pierwszym tak szczegółowym badaniem dotyczącym zagadnień oszustw robota.
"Opracowaliśmy algorytmy, które pozwalają robotowi ustalić, czy powinien oszukiwać ludzi i inne inteligentne urządzenia. Mamy też zaprojektowane techniki, które pomagają robotowi wybrać możliwie najlepszą strategię oszustw, która pozwoli mu zmniejszyć szanse wroga na jego wykrycie" - powiedział Ronald Arkin, profesor z Georgia Tech School of Interactive Computing.
Ponieważ naukowcy zbadali zjawisko oszustw robota z ogólnego punktu widzenia, otrzymane wyniki badań odnoszą się do interakcji zarówno robot - robot, jak i człowiek - robot. Badania były finansowane przez Office of Naval Research.
W przyszłości, roboty zdolne do oszustwa mogłyby być cennym narzędziem w różnych sektorach - wojskowym, poszukiwawczym i ratowniczym. Roboty poszukiwawcze i ratownicze mogą potrzebować wprowadzać w błąd ofiary katastrof, w celu utrzymania spokoju i nawiązania współpracy z ofiarą będącą w stanie szoku psychicznego. Roboty na polu walki z umiejętnością oszukiwania będą w stanie skutecznie ukrywać się i wprowadzać w błąd przeciwnika, tak aby zachować swoje bezpieczeństwo i chronić wartościowe informacje przed ujawnieniem.
 |
| Profesor Ronald Arkin i inżynier badawczy Alan Wagner z Georgia Institute of Technology wraz ze swoimi robotami |
"Większość robotów społecznych prawdopodobnie rzadko będzie używało podstępu, ale i tak taka umiejętność mogłaby być użyteczną cechą, ponieważ roboty, które potrafią rozpoznać oszustwo zawsze będą miały przewagę nad robotami, które takiej umiejętności nie będą miały." - powiedział współautor badań - Alan Wagner - inżynier badawczy z Georgia Tech Research Institute.
W swoim badaniu, naukowcy skoncentrowali się na działaniach, przekonaniach i komunikacji robota próbującego ukryć się przed innym robotem po to, aby stworzyć algorytmy komputerowe skutecznie generujące "oszukańcze zachowania". Ich pierwszym krokiem było nauczenie takiego robota, jak rozpoznawać sytuacje, które uzasadniają użycie podstępu. Wagner i Arkin użyli zasad teorii zależności i teorii gier do opracowania algorytmów badających wartości oszustw w konkretnych sytuacjach. Sytuacja ta miała spełnić dwa podstawowe warunki do tego, aby "wygenerować" oszustwo - musiał istnieć konflikt między robotem ze zdolnością oszukiwania i robotem - nieprzyjacielem, oraz "robot - oszust" musiał czerpać korzyści z użycia podstępu.
Gdy sytuacja została uznana za taką, w której robot powinien dopuścić się oszustwa, najpierw doprowadzał on do wygenerowania fałszywych informacji, po to aby samemu z tego skorzystać.
W celu przetestowania opracowanych algorytmów, naukowcy przeprowadzili 20 scenariuszy zabawy w chowanego z użyciem dwóch autonomicznych robotów. Wzdłuż trzech potencjalnych źródeł do miejsc w których robot mógł się ukryć, położono kolorowe markery. Ukrywający się robot losowo wybierał jedna z trzech ukrytych lokalizacji, a następnie ruszał w kierunku tego miejsca, przewracając kolorowe markery po drodze. Po dotarciu do punktu, robot zmieniał kurs i ukrywał się w jednej z pozostałych dwóch lokalizacji. Obecność lub brak markerów wskazywały poszukującemu robotowi gdzie może znajdować się ukrywający się robot.
"Fałszywe informacje wygenerowane przez ukrywającego się robota stanowiły poprzewracane markery, co miało wskazywać na fałszywą pozycję przebywania robota. To wyglądało tak, jakby robot miał iść w prawo, a w rzeczywistości poszedł w lewo" - wyjaśnił Wagner.
Ukrywające się roboty były w stanie oszukać roboty poszukiwawcze w 75% prób. Pozostałe, nieudane eksperymenty wynikały z problemów z przewracaniem markerów, co spowodowało nieuzyskanie żądanych zafałszowań informacji.
"Wyniki eksperymentu nie były doskonałe, ale pokazały sposób uczenia się i stosowania technik oszukiwania przez prawdziwe roboty w środowisku z wieloma bodźcami zewnętrznymi" - mówi Wagner. "Wyniki stanowią również wstępne wskazanie, że opracowane techniki i algorytmy mogą być z powodzeniem wykorzystane do produkcji robotów z umiejętnością oszukiwania."
Pomimo zalet tworzenia robotów z możliwością oszukiwania, nie należy zapominać o względach etycznych, które należy rozważyć w celu zapewnienia zgodności takich technologii z oczekiwaniem i dobrem społeczeństwa - twierdzą naukowcy.
"Od początku kierujemy się z kwestiami etycznymi zawiązanymi z tworzeniem robotów zdolnych do oszustwa i rozumiemy, że są zarówno korzystne, jak i szkodliwe aspekty" - wyjaśnił Arkin. "Gorąco zachęcamy do dyskusji na temat zasadności budowania "zwodniczych" robotów po to, aby stworzyć ewentualne przepisy lub wytyczne, które powinny ograniczać rozwój tego typu systemów."