Streszczenie: W podcaście Iwo Zmyślonego „LIMITY AI” ekspertka ds. strategii i bezpieczeństwa Marta Chalimoniuk-Nowak analizuje ciemną stronę rozwoju sztucznej inteligencji. Wskazuje na zagrożenia związane z wojną kognitywną, infodemią i technosolucjonizmem – ślepą wiarą w zbawczą moc technologii. Pokazuje, jak AI może być narzędziem psychomanipulacji, zatruwania danych, destabilizacji instytucji i polaryzacji społeczeństw. Artykuł omawia też temat suwerenności cyfrowej, ignorowanego aspektu kultury organizacyjnej przy wdrażaniu AI oraz potrzebę rozwijania osobistego bezpieczeństwa poznawczego jako nowej kompetencji liderów. Całość stanowi przestrogę i jednocześnie wezwanie do odpowiedzialnego zarządzania wpływem nowych technologii.
Dezinformacja, technosolucjonizm i infodemia – to nie tytuły cyberthrillera, ale realne wyzwania dla liderów, menedżerów i instytucji publicznych. Sztuczna inteligencja stała się narzędziem wpływu, które może przynieść korzyści, ale równie dobrze może podważyć fundamenty poznawcze organizacji i społeczeństw.
W rozmowie z Iwo Zmyślonym w ramach cyklu „Limity AI” Marta Chalimoniuk-Nowak – ekspertka ds. strategii, innowacji i bezpieczeństwa – wskazuje na strategiczne zagrożenia płynące z wykorzystania sztucznej inteligencji w sferze informacji, bezpieczeństwa i suwerenności danych. Jej zdaniem AI staje się narzędziem tzw. wojny kognitywnej. To długofalowy, systemowy wpływ na percepcję ludzi i całych instytucji. Przykład? Zatrucie danych treningowych modeli językowych przez masową produkcję propagandowych treści – jak w przypadku raportu American Sound Light Project, który ujawnia, że rosyjskie ośrodki informacyjne rocznie generują 3 miliony zmanipulowanych artykułów.
Technosolucjonizm: Ślepa wiara w technologię
Chalimoniuk-Nowak zwraca uwagę na zjawisko technosolucjonizmu – przekonania, że każda technologia z definicji przynosi postęp. Administracja publiczna i instytucje często wdrażają narzędzia AI bez refleksji nad ich rzeczywistą użytecznością, bezpieczeństwem czy wpływem na kulturę organizacyjną. Efekt? Użytkownicy tracą orientację. W presji na efektywność gubią się pierwotne cele wdrożeń. AI nie działa w próżni – jej skuteczność zależy od kultury organizacyjnej, kompetencji cyfrowych pracowników i jakości danych wejściowych.
Infodemia: Zmasowana dezinformacja jako strategia
Jednym z najgroźniejszych zjawisk powiązanych z AI jest infodemia – zalew ustrukturyzowanych, zmanipulowanych informacji mających na celu wywoływanie chaosu, polaryzacji i utratę zaufania do instytucji. To mechanizm nie tylko komunikacyjny, ale strategiczny. W praktyce oznacza to np. wpływ na rynki finansowe, wybory polityczne czy społeczne nastroje. Modele językowe, karmione zmanipulowanymi danymi, mogą utrwalać błędy poznawcze, wzmacniać echo chambers i – co najgroźniejsze – wzbudzać zaufanie bez podstaw. Jak podkreśla Chalimoniuk-Nowak: mamy do czynienia z inżynierią zaufania, nie tylko z personalizacją treści.
Suwerenność cyfrowa: Puste hasło czy realna potrzeba?
Komisja Europejska coraz mocniej promuje ideę suwerenności cyfrowej, czyli uniezależnienia instytucji europejskich od dostawców spoza UE. To nie tylko kwestia technologii, ale też prawa – dane, infrastruktura i kompetencje powinny pozostać pod kontrolą prawną i operacyjną w Europie. Suwerenność oznacza także przemyślane zakupy technologii. Chalimoniuk-Nowak wskazuje na przypadki, gdy państwowe instytucje kupują chińskie drony czy medyczne urządzenia z nieznanym oprogramowaniem i niejasnym przetwarzaniem danych. Często jedynym kryterium wyboru jest cena – kosztem bezpieczeństwa.
Osobiste bezpieczeństwo kognitywne: Nowa kompetencja lidera
W dobie AI liderzy muszą nauczyć się dbać o osobiste bezpieczeństwo poznawcze – swoje i zespołów. To oznacza:
- świadome korzystanie z narzędzi AI,
- weryfikację źródeł informacji,
- budowanie odporności psychicznej na manipulację.
Warto przy tym pamiętać o zjawisku „automation bias” – tendencji do ufania technologii bardziej niż sobie. AI generuje odpowiedzi prawdopodobne, ale niekoniecznie prawdziwe. Skalowana halucynacja to dziś realne zagrożenie epistemiczne.
Kultura organizacyjna a wdrożenia AI
Wdrażając AI w organizacji, firmy często koncentrują się na narzędziach, nie na ludziach. Tymczasem sukces zależy od:
- jakości komunikacji wewnętrznej,
- poziomu zaufania i gotowości do uczenia się,
- zarządzania emocjami, stresem i oporem.
Zaniedbanie tych obszarów skutkuje frustracją pracowników, wypaleniem i błędami operacyjnymi. Narzędzia nie rozwiążą problemów kulturowych – mogą je jedynie wyostrzyć.
Co dalej? Odpowiedzialność i świadomość
Dezinformacja, wojny kognitywne i solucjonizm technologiczny nie są „naturalnymi” zjawiskami. Są efektem konkretnych decyzji, projektów i strategii – także tych, które podejmują liderzy. Dlatego pytanie, jakie dziś warto sobie zadać, brzmi: kto zarządza wpływem na moje decyzje? Bez tej świadomości nie sposób mówić o odpowiedzialnym przywództwie ani o odpornej organizacji.
