Jerzy Ramert: Zajmujesz się geopolityką technologii. Co to za dziedzina?
Grzegorz Lewicki: Mówiąc potocznie, geopolityka technologii analizuje to jak technologia wpływa na potęgę państw i odwrotnie – jak państwa mogą wpływać na potęgę technologii. Co ciekawe zanim w wielu rejonach świata zorientowano się, iż geopolityka technologii jest ważna, to na przykład rywalizację między USA i Chinami często rozpatrywano przede wszystkim czysto ekonomicznie. Tymczasem chińskie źródła dyplomatyczne pokazują, że już na początku tego tysiąclecia Chińczycy alarmowali: „Nie rozumiemy rosnącego wpływu USA, który wydarza się poprzez ten internet, którego my sami nie stworzyliśmy”. Takie kwestie, jak choćby supremacja dzięki infrastrukturze światłowodów, czy pokrywanie rejonów globu swoim oprogramowaniem stały się wtedy celem Chińczyków.
W tym duchu w listopadzie 2023 r. Chińczycy przemodelowali swoją sieć szkieletową, aby była jedną z najszybszych na świecie. W skrócie, software i hardware – a więc także AI – mogą być narzędziami władzy. Lubię o tym opowiadać językiem teorii sieci, bo jak wyobrazimy sobie planetę pokrytą internetem, to wyobrażamy sobie ją właśnie jako osieciowaną, okablowaną kulkę. Tylko że to nie są sieci, wyglądające jak np. sieci rybackie, gdzie każde ogniwo ma taką samą liczbę łączy, ale tzw. sieci hierarchiczne, bezskalowe, gdzie istnieją centra z wielką liczbą połączeń i wielką wagą dla systemu oraz peryferia z małą liczbą połączeń, z małą wagą dla systemu.
Nie trzeba być geniuszem geopolityki, by stwierdzić, że ten, kto kontroluje centra, może mieć jakąś władzę nad resztą, która jest od niego współzależna. Cel geopolityki w tym duchu to mieć wpływy w centrach, w wąskich gardłach sieci.
JR: Na przykład?
GL: W Polsce np. Rzeszów. Lotnisko w Rzeszowie po inwazji stało się hubem transportowym pomocy dla Ukrainy, bez którego ta sieć wsparcia logistycznego by się załamała. Niejako automatycznie dzięki lokalizacji tego centrum sieci w Polsce, Bruksela i Waszyngton bardziej biorą pod uwagę zdanie Polski na temat inwazji Rosji.
Przykład w Europie: Trybunał Sprawiedliwości interpretujący prawo na korzyść lub na niekorzyść konkretnych krajów.
Albo przykład z USA: ICANN, organizacja kontrolująca adresy IP internetu, czyli adresów typu 192.0.2.1, które ma każdy komputer podłączony do sieci. Albo system bankowy SWIFT, dający USA sekretny wgląd informacyjny w przepływy finansowe. Nie ma tutaj równości – internet mający dawać równość, stworzył strukturalne nierówności. Zarówno państwa demokratyczne, jak i autorytarne starają się to wykorzystać. Dziś już widać, że systemy autorytarne, a więc nie tylko Chiny i Rosja, lecz także być może reżimy półdemokratyczne, mogą dążyć do tworzenia swego rodzaju autorytarnego kapitalizmu roju, wspartego AI i automatyzacją. To jest eksportowy produkt cywilizacyjny, np. Chin. System kontroli przenikający do samych podstaw społecznych, do samego życia jednostki, ciebie i mnie, do naszych wyborów życiowych. Na tej podstawie rządy autorytarne robią social scoring, system zaufania do obywatela z perspektywy rządu-zakapiora. Spotkałeś się z kimś o negatywnym scoringu? Nie poślesz dziecka do lepszej szkoły. Krytykujesz ciągle rząd? Nie pojedziesz koleją szybkich prędkości.
JR: Jaka jest alternatywa dla tego kapitalizmu roju?
GL: Państwa demokratyczne rozwijają to, co Shoshana Zuboff określa „kapitalizmem nadzoru”, który z jednej strony jakoś respektuje prawidła demokratyczne, ale z drugiej ma ciągoty autorytarne: w teorii masz sto procent wolności, aby nie dawać firmom swoich danych, ale wiele usług ci zablokujemy, jak nie staniesz się dla nas zasobem. Ja nazywam ten proces początkiem technofeudalizmu, to znaczy, że w sieć zależności kapitałowych wlewa się sieć zależności feudalnych typu pan – poddany, gdzie ktoś obiecuje ci spokojne, w miarę dostatnie życie w zamian za oddanie dużej części wolności oraz kontrolę twojego życia. „Do niczego cię nie zmuszamy, ale bez nas sobie nie poradzisz, więc może przemyśl to”. W końcu przez całe średniowiecze ludzie tak żyli w Europie, więc why not? Politycy obiecujący technofeudalizm byliby dla wielu osób całkiem wybieralni. A w zasadzie nie trzeba ich nawet wybierać, bo feudalizacja kapitalizmu postępuje bez ich udziału. Coraz większa wartość jest wytwarzana już nie na rynkach, ale na platformach cyfrowych, jak Google, Facebook czy Amazon, gdzie nie rządzą ani mechanizmy wolnego rynku, ani nawet dynamika oligopolu. Rządzi tam po prostu chciejstwo właścicieli.
Popatrzmy na Elona Muska i platformę X. Platformy cyfrowe są zarządzane jak prywatne księstwa czy majątki, w których liczy się głównie arbitralna i autorytarna wola władcy. W efekcie, tak jak niegdyś z targanego kryzysami systemu feudalnego powoli rodził się kapitalizm, tak dziś zachodzi proces odwrotny – i w kapitalizmie kiełkują trendy neofeudalne.
Oczywiście, nie musisz korzystać z oferty feudała, z jego opieki czy jego narzędzi cyfrowych, ale pech chciał, że potrzebujesz ich, żeby zarabiać i przetrwać. Na takiej bezalternatywnej potrzebie kiedyś rodził się feudalizm: jak pisał filozof Tacyt ludzie, którzy nie mieli majątku oddawali się w zarząd. Idealny model feudalizmu zakładał, że chłopi kontrolują proces produkcji, generują jakąś nadwyżkę, z której korzystają panowie. Ci drudzy mogą wpływać na proces produkcji, ale nie biorą w nim udziału. Pilnują jednak, by poddani nie zmodyfikowali ich uprzywilejowanej pozycji władzy. Dzisiaj ty uprawiasz cyfrowe pola w sieci, a pan nimi zarządza. Jesteś niczym chłop pańszczyźniany. „Mamy cię w garści, bo potrzebujesz naszych narzędzi, jeśli chcesz zarabiać i przetrwać”. Nieprzypadkowo dziś największe firmy świata to właśnie firmy technologiczne: Microsoft, Apple, Nvidia, Alphabet (Google), Amazon. Wszystkie z USA. Natomiast Europa się tylko broni, przede wszystkim narzędziami prawnymi.
Czytaj też:
AI „wybiela" Hitlera. Jego „przemówienia" są hitem na TikToku
JG: „Mamy cię w garści”, bo na przykład analiza danych ubezpieczeniowych (szczególnie medycznych) może pozwalać korporacjom profilować całe społeczeństwa. Na poziomie UE pojawiają się pomysły, aby tworzyć centralne standardy dotyczące AI przechowywania danych itp. Ale dane i profile obywateli to są bardzo ważne dane wywiadowcze. Muszą być nieprzekraczalne bariery na poziomie narodowym i na poziomie unijnym, poza którymi wyciek danych jest już zdradą narodową.
GL: Wisława Szymborska pisała: „tyle wiemy o sobie, ile nas sprawdzono”. Ale to zdanie już nie obowiązuje. Dziś obowiązuje „tyle wiemy o sobie, ile nam zdradzono”. Wszystko dlatego, że nad każdym naszym krokiem w sieci pochyla się algorytm-psycholog. Na razie analizuje zachowania z mediów społecznościowych, wyszukiwania i konsumowane oraz generowane treści. Ale kto wie, czy algorytm kiedyś nie wywnioskuje, że skoro w dziewiątej części gry komputerowej Wiedźmin nałogowo zabijasz bohaterów neutralnych, to znaczy, że możesz być psychopatą? Albo co najmniej socjopatą kompensującym sobie uległość wobec innych?
JR: No właśnie, ten, kto ma dostęp do danych, otrzymuje wielką moc…
GL: … Co już wykorzystano do zmajstrowania kryzysów politycznych, np. przy brexicie. Mało kto wie, że brexit by się nie wydarzył, gdyby nie narzędzia cyfrowe zdolne do przesunięcia języczka u wagi, czyli ok. 3–5% populacji kluczowej dla wyniku referendum. Co zaskakujące, ludzie wciąż umniejszają rolę, jaką gra technologia w manipulacji całymi narodami. Rozmawiałem ostatnio z brytyjskim dyplomatą o Cambridge Analytica, firmie wypruwającej dane z Facebooka i skandalu wokół tej firmy przy okazji brexitu. Zapytałem go, po co firmie były dane o Brytyjczykach i czy wie, że „badania” zamawiały spółki powiązane z Kremlem? Nie wiedział. Tymczasem przed brexitem celem operacyjnym Rosji było przekonanie kilku kluczowych procent Brytyjczyków, że Unia jest zła. Algorytmy były w stanie po lajkach i aktywności sieci zidentyfikować ludzi o tzw. czarnej triadzie osobowości, czyli połączeniu cech narcyzmu, cynizmu i psychopatii (braku empatii). Czemu akurat ich? Bo takie osoby mogą mieć silny wpływ na innych i potrafią być społecznie aktywne, przywódcze. Z tymi ludźmi kontaktowali się realni agenci wpływu, którzy podsycali ich brexityzm i dawali do wysyłania w świat materiały na ten temat. Kolejnym krokiem była organizacja probrexitowych spotkań w świecie fizycznym.
A zatem Facebook posłużył jako farma nieświadomych niczego Brytyjczyków, którzy zatańczyli, jak im Kreml zagrał.
Więcej można przeczytać o tym m.in. w książce Mindf*ck (Christopher Wylie), mnie chodzi teraz o to, że skoro dziś można już koncertowo grać na ludzkich umysłach, to co będzie, jak tych danych będzie więcej i jak będą lepsze, np. gdy cyfrowi manipulanci będą mogli sparować twoje dane z social mediów z danymi zdrowotnymi albo z twoimi zwierzeniami przy winku, podsłuchanymi przez twojego humanoidalnego robota domowego. Pomyślmy o Szymborskiej, która dziś powiedziałaby „tyle wiemy o sobie, ile nam zdradzono”. Przecież brytyjscy narcyzi zrekrutowani na Facebooku nie wiedzieli, dla kogo pracują. Wiedzieli o sobie mniej, niż wie o nich big tech. Niedługo to przyjmie formy karykaturalne, np. zaprzyjaźniona firma big tech będzie ostrzegać władze jakiegoś kraju o niekorzystnym procesie społecznym na jego terytorium.
Czytaj też:
Badania na temat AI: „Chcielibyśmy zatrudnić sztuczną inteligencję do sprzątania domu”
JR: No właśnie, jeśli można tak manipulować ludźmi, że zmienia się ich grupowe preferencje polityczne, to czy wciąż mamy do czynienia z demokracją? Przecież w dojrzałych demokracjach, np. w USA, prawie zawsze wybory dają wynik 50/50, pół na pół. Niewielkie przepływy między grupami mogą zaważyć na losie całych krajów.
GL: Do tego dochodzi jednak specyfika konkretnych państw, którą każdy manipulant musi znać. Reuters Institute for the Study of Journalism na Oxfordzie przeanalizował semantycznie przekazy głównych mediów cyfrowych w różnych krajach i wyszło, że jednak istnieją narodowe przechyły – w Polsce mainstream jest bardziej przechylony w prawo, a w Niemczech jest bardziej lewicowy. No ale oczywiście to było kiedyś. Wobec bezradności partii centrowych Niemcy dziś osuwają się w radykalizm prawicowy w typie partii AfD o ciągotach neonazistowskich. I wcale nie będzie nam do śmiechu, gdy dowiemy się pewnego dnia, że w Berlinie powstała koalicja centroprawicy z neonazistami.
JR: Nastaną czasy takiej quasi-demokracji, gdzie wpływowe lobby będą mieć narzędzia do manipulacji opinią publiczną, a wyniki wyborów będą fikcją, to znaczy wynikiem bezpośredniej inżynierii społecznej?
GL: Wydaje się, że w demokracjach przyszłości decyzje wyborcze będą podejmowane w sposób bardziej emocjonalny, przy niemożności ustalenia na czas, co jest prawdą, a co fikcją. Choć oczywiście wielu wrzucających kartkę wyborczą w danym momencie będzie absolutnie przekonanych o swojej racji. Tymczasem geopolityczna gra będzie toczyć się o lepsze wpływanie nie tylko na wrogów, lecz także na własnych sojuszników, o lepsze narzędzia detekcji i kontrowania cudzych wpływów.
Jeśli mamy zapis w polskiej Strategii rozwoju sztucznej inteligencji, że rozwój AI ma służyć obywatelowi, to można spytać: czy powinien też służyć państwu? Czy należy nakładać sankcje za zewnętrzny wpływ na polską świadomość masową? Czy tego da się w ogóle dowieść? Może trzeba by wprowadzić nowe kategorie prawne w ogóle? Temat rzeka.
Czytaj też:
Epigenetyka ważniejsza od genetyki? Prof. Wojdacz: Klucz do długowieczności
JR: To jest całkiem śmieszne i straszne, że w XXI w. nie trzeba krajów podbijać, nie trzeba nawet fałszować wyborów, ale wystarczy znać profil ich społeczeństwa, a potem zrobić przekaz tak, aby profilować pod efekt pojedynczego odbiorcę.
GL: Mikrotargeting to nowa forma makiawelizmu!
JR: I dlatego państwo musi chronić dane, ograniczać ten możliwy wgląd cudzych podmiotów w świadomość masową. Oczywiście RODO, unijne rozporządzenie o ochronie danych, mówi o pewnych elementach ochrony, ale dla manipulatorów użyteczne mogą być też dane zanonimizowane. Te kwestie anonimizacji wymykają się regulacjom. Sami codziennie w przeglądarce odhaczamy, że godzimy się przekazywać anonimowe informacje. A tak naprawdę tworzymy profil, bo system i tak zbiera metadane profilujące.
GL: Powstaje kuriozum: dane zanonimizowane i ogólne, które są jednak mimo wszystko konkretne, bo dotyczą sprofilowanych podmiotów zbiorowych, takich jak np. aktywni zawodowo ludzie z twojego osiedla, bezrobotni z twojego miasta, pracownicy państwowi z Podkarpacia, przedsiębiorcy z Pomorza czy obywatele Polski. Albo rozedrgani emocjonalnie konsumenci psychotropów w sektorze wojskowym. Filozof Paweł Rojek nazywa takie pojęcia konkretnymi uniwersaliami. Niby nie wskazują na jednostkę, ale zdradzają i jej cechy!
JR: Poziom profilowania jest ogromny, to ogromne zagrożenia dla bezpieczeństwa narodowego. Cyfrowym odciskiem palca jest wszystko, co robimy. Więc nawet jak byśmy wyjechali na drugi koniec świata, z nową tożsamością, ale ze starymi przyzwyczajeniami, to jakimś „hakiem” skojarzeń można by powiązać profile tego „nowego” kogoś z moim byłym „ja”.
Czytaj też:
Sztuczna inteligencja przyspiesza rozwój medycyny. „Rewolucja na skalę odkrycia prądu”
GL: W związku z tym powstaje kolejne pytanie geopolityczne – na ile jesteśmy w stanie ufać swoim sojusznikom! Przywołajmy znów aferę Wirecard, o której mówiliśmy. Ten niemiecki zalążek giganta technologicznego upadł, bo okazał się skorumpowany, przeżarty przez korupcyjne wpływy Rosjan i sztucznie pompowany przez fałszywe dane. I teraz pytanie – jak ufać niemieckiej technologii, jeśli wiemy, że ich gospodarka – pomimo deklarowanej przez kanclerza Olafa Scholza Zeitenwende, czyli wielkiej zmiany polityki po inwazji na Ukrainę – nie przeszła gospodarczej derusyfikacji? Dalej: jak prowadzić politykę gospodarczą w UE, aby takich procesów korupcyjnych rodem z Kremla nie było i żeby giganci technologiczni jednak zaczęli powstawać w UE? O tym będzie kolejna rozmowa.
Książka jest dostępna na stronie swiatyAI.pl oraz regnuminspiratio.com.
Czytaj też:
Tesla wprowadza autonomiczne pojazdy. Przyszłość transportu bez kierowcy?Czytaj też:
AI, microcredentials i lifelong learning. Czy jesteśmy gotowi na tę rewolucję?
Archiwalne wydania tygodnika Wprost dostępne są w specjalnej ofercie WPROST PREMIUM oraz we wszystkich e-kioskach i w aplikacjach mobilnych App Store i Google Play.
Dalsze rozpowszechnianie artykułu tylko za zgodą wydawcy tygodnika Wprost.
Regulamin i warunki licencjonowania materiałów prasowych.