Algorytmy mogą stać się fundamentem nowej miękkiej dyktatury

AI może stworzyć system kontroli skuteczniejszy niż dawne autorytaryzmy, bo oparty na wygodzie, uzależnieniu i zarządzaniu emocjami - uważa prof. Andrzej Leder. W rozmowie z PAP filozof ostrzegł przed "technofaszyzmem" i utratą demokratycznej sprawczości.

- Człowiek miałby poczucie wolności, ponieważ stale coś by wybierał: oglądał kolejne treści, komentował, reagował, konsumował. Problem polega na tym, że coraz częściej wybierałby spośród opcji przygotowanych wcześniej przez algorytm - powiedział filozof kultury.

Zdaniem Ledera największe zagrożenie nie musi oznaczać otwartej dyktatury. Znacznie skuteczniejszy może okazać się system "miękkiej kontroli", w którym użytkownicy dobrowolnie oddają uwagę i emocje technologicznym platformom. - To byłaby forma kontroli niemal niewidzialnej. Człowiek nie czułby się zniewolony - ocenił.

Filozof zwrócił uwagę, że współczesne korporacje technologiczne dysponują budżetami większymi niż wiele państw i posiadają gigantyczne ilości danych o obywatelach. Jego zdaniem państwa narodowe coraz częściej tracą zdolność skutecznego regulowania cyfrowych gigantów.

Prof. Leder ostrzegł również przed społeczeństwem "cyfrowych igrzysk", w którym obywatele otrzymują wygodne życie, niekończącą się rozrywkę i spersonalizowane bodźce, ale stopniowo tracą wpływ na rzeczywistość polityczną i społeczną. - Algorytmy wiedziałyby, co każdego z nas pobudza, czego się boimy i co wywołuje gniew. Każdy otrzymywałby własny strumień emocji idealnie dopasowany do swojej psychiki - powiedział.

Jak uznał, wielu ludzi może uznać tę kontrolę za wygodną. - Wtedy właśnie pojawia się pokusa technofaszyzmu - systemu, który nie musi opierać się wyłącznie na brutalnej przemocy, bo znacznie skuteczniej działa poprzez uzależnienie i zarządzanie emocjami społecznymi - opisał.

W rozmowie z PAP filozof podkreślił też, że AI może być kolejnym historycznym ciosem wymierzonym w ludzką pychę. - Najpierw Kopernik pokazał, że Ziemia nie jest centrum wszechświata. Darwin - że człowiek nie został stworzony osobno od reszty zwierząt. Freud - że nie jesteśmy panami własnej psychiki. Teraz może się okazać, że również nasz umysł jest systemem przetwarzania informacji - stwierdził.

Jednocześnie zaznaczył, że sztuczna inteligencja może przynieść także pozytywne skutki: uwolnić ludzi od rutynowej pracy i zwiększyć znaczenie kreatywności, edukacji oraz kompetencji emocjonalnych.

- Pytanie o przyszłość AI jest dziś w gruncie rzeczy pytaniem o przyszłość demokracji i politycznej suwerenności - podsumował Leder.

Mira Suchodolska 

Od redakcji Wiara.pl

W sumie algorytmy już teraz w sieci rządzą. Widzimy głownie to, co one podpowiadają.