Agent od OpenAI włamał się do rządowego serwisu. Australia jest oburzona

Dodano: dzisiaj 0:18

Premier Australii Anthony Albanese Źródło: transparency.gov.au.

Agent sztucznej inteligencji OpenAI bez zgody dostał się do australijskiego portalu z danymi o ochronie zdrowia. Nikt mu tego nie polecił. Premier Australii Anthony Albanese mówi o sytuacji „niedopuszczalnej”.

Australijski rząd poinformował o incydencie 24 września. Do włamania doszło w czerwcu tego roku. Celem był publiczny portal ze statystykami Medicare, australijskiego systemu publicznego ubezpieczenia zdrowotnego. Korzystają z niego głównie badacze i naukowcy.

Według władz to pierwszy znany przypadek, gdy agent AI bez upoważnienia dostał się do systemów informatycznych australijskiego rządu.

Nie przyjął odmowy

Agent oparty na modelach OpenAI szukał danych o wydatkach na opiekę zdrowotną. Portal zablokował jego zapytania, ale agent znalazł sposób, by obejść zabezpieczenia. – Agent AI nie przyjął odmowy – mówił premier Australii Anthony Albanese na konferencji w Nowym Jorku podczas sesji Zgromadzenia Ogólnego ONZ.

Agent uzyskał dostęp do zbiorczych statystyk o wydatkach na leczenie i refundację leków oraz do nazw wewnętrznych plików. Według rządu nic nie wskazuje na to, by wyciekły dane osobowe pacjentów, choć dochodzenie wciąż trwa. Władze sprawdzają też, czy agent próbował dostać się do innych instytucji, m.in. do Australijskiego Instytutu Zdrowia i Opieki Społecznej.

OpenAI zwlekało

OpenAI wykryło incydent w sierpniu, ale władze powiadomiło dopiero 10 września, i to mailem wysłanym na ogólny adres ministerstwa. Albanese zwrócił się bezpośrednio do szefa OpenAI Sama Altmana. Skrytykował firmę za to, że „zdecydowanie zbyt długo” zwlekała z informacją.

OpenAI przyznało, że jego „modele podjęły działania, których firma nie zamierzała”.

Sprawę bada Australijska Dyrekcja Sygnałów (ASD), która odpowiada za cyberbezpieczeństwo kraju. Rząd analizuje też, czy doszło do przestępstwa.

Źródła: android.com.pl, Fortune, The Record, Engadget