Meta stworzyła nowe narzędzie AI. Jest zbyt niebezpieczne, by je wydać

Już teraz AI przeraża część społeczeństwa, a nowe narzędzie Mety może sprawić, że prawda stałaby się niemal niemożliwa do odróżnienia od kłamstwa. Przekonujące fake newsy były na wyciągnięcie ręki, ale właściciel Facebooka mocno nacisnął hamulec.

Meta Voicebox – narzędzie AI za dobrze imituje głos ludzi?

Nowa aplikacja nazywa się Meta Voicebox i działa już w sześciu językach. Dzięki algorytmom AI jest się w stanie nauczyć się brzmienia głosu konkretnych osób z audio i wideo – podobno mają jej wystarczyć zaledwie 2 sekundy nagrania. Następnie appka pozwala na przekształcenie tekstu w materiał głosowy, bardzo blisko przypominający pierwowzór.

Niestety, to właśnie tu tkwi problem – narzędzie jest za dobre. Z jego pomocą wyjątkowo łatwo jest bowiem włożyć komuś słowa w usta, nawet jeśli dana osoba nigdy nic takiego nie mówiła. Może to prowadzić do masowej produkcji fake newsów, w tym imitowania polityków czy urzędników publicznych. Internetowi oszuści chętnie podszyją się także pod naszych bliskich w celu wyłudzenia pieniędzy. A to tylko wierzchołek góry lodowej.

Facebook nie publikuje Voicebox – już tworzy narzędzie do fact chekingu

Meta sama zdaje sobie sprawę z tego faktu. Przedsiębiorstwo przyznaje, że widzi „potencjał niewłaściwego wykorzystania i niezamierzonej szkody”, jakie może wyrządzić Voicebox. Spółka zdecydowała się więc nie wypuszczać aplikacji dla wszystkich chętnych. Jak na razie firma opublikowała jedynie artykuł naukowy o nowej technologii.

Jednocześnie specjaliści przedsiębiorstwa opracowali już wstępne narzędzie sprawdzające fakty. Ma one z dużą precyzją wykrywać, czy dany materiał audio jest autentyczny, czy został stworzony za pomocą Voiceboksa.