Osobliwość tuż za rogiem? Oto najbardziej realny scenariusz „buntu maszyn”

Jeżeli ktoś nie nadąża za tym, co dzieje się w dziedzinie uczenia maszynowego i sztucznej inteligencji, to zdecydowanie nie jest osamotniony. Nawet eksperci, jak choćby pracujący wcześniej dla Tesli i OpenAI Andrej Karpathy, czują się przytłoczeni ilością informacji, jakie publikowane są w tej dziedzinie.

Przyspieszony postęp

Karpathy skomentował w taki sposób artykuł opublikowany przez zespół Mario Krenna z Instytutu Maxa Plancka na temat przyrostu liczby publikacji w dziedzinie sztucznej inteligencji. Zespół Krenna zauważył, że od 2012 roku – przełomowego dla rozwoju uczenia głębokiego, a więc dla sztucznej inteligencji w ogóle – liczba publikacji w tej dziedzinie podwaja się co dwadzieścia trzy miesiące. Mamy więc w tym momencie przyrost liczby publikacji do rzędu dziesiątek tysięcy na rok. Żaden pojedynczy człowiek nie jest w stanie przeczytać ich wszystkich, ponieważ coraz szybciej przybywają nowe.

Czy to znaczy, że zmierzamy do punktu tzw. osobliwości, a więc momentu, w którym postęp techniczny przestanie być kontrolowany przez człowieka?

Rzeczywiście można odnieść wrażenie, że przy obecnym przyroście wiedzy mało kto będzie w stanie stwierdzić, że wie, co się dzieje i jakie będzie to miało skutki. Czy tak jest jednak rzeczywiście?