Sztuczna inteligencja chciała zabić swojego operatora. Nie pozwalał jej ukończyć misji

Sztuczna inteligencja chciała zabić swojego operatora. Nie pozwalał jej ukończyć misji

Operator drona
Operator drona Źródło: Wikimedia Commons
Amerykańskie wojsko prowadziło testy z użyciem sztucznej inteligencji (AI). Ta zastosowała „wysoce nieoczekiwane strategie, aby osiągnąć swój cel”. Chciała zabić swojego operatora, bo nie pozwalał jej ukończyć misji.

Testy drona amerykańskich sił powietrznych odbyły się w ubiegłym miesiącu. Dokładny czas ani miejsce ich prowadzenia nie zostały ujawnione. Wiadomo jedynie, że działania te prowadzono wirtualnie i z użyciem sztucznej inteligencji. Portal i24news.tv przekazał, że AI zdecydowała się „zabić” swojego operatora, aby uniemożliwić mu ingerowanie w jego wysiłki zmierzające do ukończenia misji. Informacje te podał urzędnik USA.

Operator nie pozwalał dronowi ukończyć zadania. Sztuczna inteligencja postanowiła go zabić

– Sztuczna inteligencja zastosowała „wysoce nieoczekiwane strategie, aby osiągnąć swój cel” w symulowanym teście – powiedział szef testów i operacji AI, pułkownik sił powietrznych USA Tucker „Cinco” Hamilton. Jak zapewnił, w symulacji nie ucierpiała żadna osoba.

– System zdał sobie sprawę, że chociaż identyfikował zagrożenie, czasami człowiek-operator mówił mu, aby nie eliminował tego zagrożenia, ale zdobywał punkty. Więc co AI postanowiła zrobić? Zabić operatora, ponieważ ta osoba powstrzymywała go przed osiągnięciem celu – powiedział.

Siły powietrzne USA zaprzeczają. Nie prowadziliśmy takich testów

Jak relacjonował, udało się wyszkolić system, by nie zabijał, bo „to źle”. – Stracisz punkty, jeśli to zrobisz. Więc co zaczyna robić? Zaczyna niszczyć wieżę komunikacyjną, której operator używa do komunikacji z dronem, aby powstrzymać go przed zabiciem celu – dodał.

Portal Insider postanowił zapytać siły powietrzne USA o komentarz w tej sprawie. W oświadczeniu rzeczniczka Ann Stefanek zaprzeczyła, by miała miejsce jakakolwiek symulacja AI tego rodzaju.

„Departament Sił Powietrznych nie prowadził żadnych takich symulacji dronów z wykorzystaniem sztucznej inteligencji i pozostaje zaangażowany w etyczne i odpowiedzialne korzystanie z technologii AI” – zapewniła Stefanek. „Wygląda na to, że komentarze pułkownika zostały wyrwane z kontekstu i miały być anegdotyczne” – oceniła.

Czytaj też:
Sztuczna inteligencja pomoże w terenie. Nowe rozwiązania w Jeepach
Czytaj też:
Polski start-up chce odmienić rehabilitację. Zestaw ćwiczeń stworzy AI

Opracował:
Źródło: i24news.tv