„Niebezpieczne treści ewoluują bardzo szybko. Napędzają je aktualne wydarzenia lub osoby, które starają się oszukać działające systemy. Kluczowe jest, aby nasze systemy ewoluowały tak samo szybko - czytamy w oświadczeniu dotyczącym nowego systemu” kontroli treści Mety.
Ludzie nie nadążają za mediami społecznościowymi
Media społecznościowe jak Facebook i Instagram rozrosły się do tak gigantycznych rozmiarów, że administratorzy nie są w stanie kontrolować treści zamieszczanych tam przez użytkowników. Część z tych treści nie ma prawa znaleźć się w ogóle w internecie, a część jest uznana za szkodliwą. To np. nawoływanie do nienawiści, obrażanie innych, itp. Dlatego duże platformy społecznościowe rozwijają własne systemy sztucznej inteligencji, które są w stanie wyręczyć ludzi w kontroli i weryfikacji zamieszczanych treści.
Czytaj też:
Muzułmanie pozywają Facebooka. „Zaniedbania doprowadziły do ludobójstwa”
Standardowe algorytmy sztucznej inteligencji potrzebują dużej ilości danych wejściowych. Jeśli mają np. wyłapywać i usuwać zdjęcia przedstawiające przemoc, to najpierw muszą obejrzeć odpowiednio dużo takich zdjęć. Czasem jest to nawet kilka milionów, a proces „trenowania” może zająć miesiące.
Meta informuje, że znalazła rozwiązanie problemu. Inżynierowie firmy zbudowali technologię nazwaną przez nich Few-Shot Learner, w skrócie FSL. Po polsku można przetłumaczyć to na „uczy się na kilku zdjęciach”. Założeniem FSL jest możliwość jak najszybszego reagowania na nowe trendy i wyłapywania treści, których nie widział wcześniej. Według Mety FSL skraca czas potrzebny na „trening” z kilku miesięcy do kilku tygodni. System działa na podstawie zdjeć jak i tekstu (obsługuje ponad 100 języków) oraz może wzmocnić już działające algorytmy sztucznej inteligencji.
FSL - nowy, szybszy, lepszy algorytm kontrolujący
Meta w oświadczeniu dla prasy porównuje nowe i stare algorytmy do sieci rybackiej i wędki. Stare systemy działały, jak wędka, łapiąc pojedyncze, konkretne incydenty. Nowy system FSL ma działać jak sieć, która może złapać jednocześnie zdecydowanie więcej incydentów.
Inżynierowie Mety tłumaczą, że FSL działa na innych zasadach niż poprzednie algorytmy sztucznej inteligencji, a także potrafi łączyć informacje, które wcześniej nie były bezpośrednio mu podane. Jednym z przykładów treści naruszającej przepisy dotyczące dezinformacji nt. COVID-19, które FSL oflagował, było pytanie „szczepionka, czy niebezpieczeństwo dla DNA?” Chociaż wcześniej do bazy danych algorytmu nie było wpisane takie ani podobne stwierdzenie, to sam zdecydował, że pytanie sugeruje szkodliwość szczepionki dla DNA, co jest niezgodne z wiedzą naukową oraz regulaminem Facebooka. Inny przykład dotyczył wpisu zachęcającego do przemocy, który pytał „czy ten facet potrzebuje wszystkich zębów?”. Także w tym przypadku algorytm nie otrzymał wcześniej informacji, że pytanie o zęby może być nawoływaniem do przemocy.
Czytaj też:
Facebook: Białoruskie KGB atakowało Polskę na Facebooku
Meta pisze, że ich docelowym golem jest stworzenie algorytmu, który rozumiałby i zachowywałby się jak człowiek kontrolujący treść.
Dalsze rozpowszechnianie artykułu tylko za zgodą wydawcy tygodnika Wprost.
Regulamin i warunki licencjonowania materiałów prasowych.