Testy drona amerykańskich sił powietrznych odbyły się w ubiegłym miesiącu. Dokładny czas ani miejsce ich prowadzenia nie zostały ujawnione. Wiadomo jedynie, że działania te prowadzono wirtualnie i z użyciem sztucznej inteligencji. Portal i24news.tv przekazał, że AI zdecydowała się „zabić” swojego operatora, aby uniemożliwić mu ingerowanie w jego wysiłki zmierzające do ukończenia misji. Informacje te podał urzędnik USA.
Operator nie pozwalał dronowi ukończyć zadania. Sztuczna inteligencja postanowiła go zabić
– Sztuczna inteligencja zastosowała „wysoce nieoczekiwane strategie, aby osiągnąć swój cel” w symulowanym teście – powiedział szef testów i operacji AI, pułkownik sił powietrznych USA Tucker „Cinco” Hamilton. Jak zapewnił, w symulacji nie ucierpiała żadna osoba.
– System zdał sobie sprawę, że chociaż identyfikował zagrożenie, czasami człowiek-operator mówił mu, aby nie eliminował tego zagrożenia, ale zdobywał punkty. Więc co AI postanowiła zrobić? Zabić operatora, ponieważ ta osoba powstrzymywała go przed osiągnięciem celu – powiedział.
Siły powietrzne USA zaprzeczają. Nie prowadziliśmy takich testów
Jak relacjonował, udało się wyszkolić system, by nie zabijał, bo „to źle”. – Stracisz punkty, jeśli to zrobisz. Więc co zaczyna robić? Zaczyna niszczyć wieżę komunikacyjną, której operator używa do komunikacji z dronem, aby powstrzymać go przed zabiciem celu – dodał.
Portal Insider postanowił zapytać siły powietrzne USA o komentarz w tej sprawie. W oświadczeniu rzeczniczka Ann Stefanek zaprzeczyła, by miała miejsce jakakolwiek symulacja AI tego rodzaju.
„Departament Sił Powietrznych nie prowadził żadnych takich symulacji dronów z wykorzystaniem sztucznej inteligencji i pozostaje zaangażowany w etyczne i odpowiedzialne korzystanie z technologii AI” – zapewniła Stefanek. „Wygląda na to, że komentarze pułkownika zostały wyrwane z kontekstu i miały być anegdotyczne” – oceniła.
Czytaj też:
Sztuczna inteligencja pomoże w terenie. Nowe rozwiązania w JeepachCzytaj też:
Polski start-up chce odmienić rehabilitację. Zestaw ćwiczeń stworzy AI