Streszczenie: Zewnętrzne algorytmy sztucznej inteligencji niosą ze sobą poważne ryzyka komercyjne, prawne i reputacyjne dla firm. Przykłady obejmują przypadki rozpowszechniania fałszywych informacji przez ChatGPT, co doprowadziło do niesłusznych oskarżeń i pozwów o zniesławienie. Dodatkowo, incydenty takie jak nieumyślne ujawnienie poufnych danych przez pracowników Samsunga, którzy wprowadzili je do ChatGPT, skłoniły firmy takie jak JPMorgan i Verizon do zablokowania dostępu do czatbotów AI w swoich systemach korporacyjnych. MIT Sloan Management Review Polska Wiele organizacji nie posiada polityk regulujących korzystanie z AI przez pracowników, co prowadzi do zjawiska "shadow AI", gdzie narzędzia sztucznej inteligencji są używane bez wiedzy i kontroli menedżerów. Obecne programy odpowiedzialnej sztucznej inteligencji (RAI) często koncentrują się na wewnętrznych systemach, pomijając te dostarczane przez zewnętrznych dostawców, mimo że większość firm korzysta właśnie z takich rozwiązań. MIT Sloan Management Review Polska Aby skutecznie zarządzać ryzykiem związanym z AI, organizacje powinny przyjąć proaktywne podejście, obejmujące zarówno wewnętrzne, jak i zewnętrzne narzędzia. Etyczne zasady powinny być stosowane niezależnie od źródła pochodzenia systemu AI, ponieważ dla poszkodowanych nie ma znaczenia, czy narzędzie zostało opracowane wewnętrznie czy zakupione na rynku. MIT Sloan Management Review Polska
Zagrożenia i porażki wywołane przez zewnętrzne algorytmy sztucznej inteligencji sprawiają firmom problemy natury komercyjnej, prawnej i reputacyjnej. Większość organizacji ignoruje to ryzyko.
Miesiące, które upłynęły od premiery algorytmu ChatGPT firmy OpenAI, nie tylko pokazały możliwości sztucznej inteligencji, ale też obnażyły problemy natury etycznej oraz niepowodzenia, które może przynieść jej wykorzystanie. Pojawiły się niezliczone przykłady fałszywych informacji podawanych przez tego czatbota, a wśród nich przypadek niesłusznego oskarżenia profesora prawa o molestowanie seksualne, a także wplątanie burmistrza australijskiego miasta w fikcyjny skandal korupcyjny, co doprowadziło do złożenia pierwszego pozwu o zniesławienie przeciwko czatbotowi. W kwietniu o firmie Samsung zrobiło się głośno za sprawą trójki pracowników, którzy niechcący wypuścili w świat poufne dane, w tym notatki ze spotkań i kod źródłowy oprogramowania, bo wprowadzili je do ChatuGPT. Tego typu doniesienia popchnęły wiele organizacji, między innymi JPMorgan i Verizon, do zablokowania dostępu do czatbotów wykorzystujących sztuczną inteligencję z poziomu swoich systemów korporacyjnych. Niemal połowa firm uczestniczących w niedawno przeprowadzonej przez Bloomberga ankiecie stwierdziła, że opracowuje politykę regulującą korzystanie z czatbotów przez pracowników, co sugeruje, że sporo organizacji dało się zaskoczyć i nie spodziewało się takiego obrotu spraw.
Niewątpliwie szybki rozwój sztucznej inteligencji utrudnia odpowiedzialne z niej korzystanie i sprawia, że inicjatywy firm na rzecz odpowiedzialnej sztucznej inteligencji (responsible artificial intelligence, RAI) ledwo nadążają za dokonującym się postępem. Na przykład pojawia się coraz więcej zagrożeń natury komercyjnej, prawnej i reputacyjnej, spowodowanych rosnącą zależnością wielu organizacji od coraz obfitszej oferty narzędzi AI oferowanych przez dostawców zewnętrznych. Przybierająca na sile popularność generatywnej sztucznej inteligencji – algorytmów (takich jak ChatGPT, Dall‑E czy Midjourney) wykorzystujących dane treningowe do generowania realistycznych albo z pozoru prawdziwych tekstów, obrazów i dźwięków – powoduje, że coraz trudniej zarządzać używaniem AI w pracy. W niektórych przypadkach menedżerowie nawet nie mają pojęcia o tym, że ich pracownicy i inne osoby związane z firmą korzystają z tego typu narzędzi. To zjawisko niekontrolowanego stosowania sztucznej inteligencji zostało określone mianem shadow AI i odnosi się do sztucznej inteligencji działającej w cieniu. Riyanka Roy Choudhury, pracowniczka naukowa ośrodka badawczego CodeX na wydziale prawa Uniwersytetu Stanforda, twierdzi, że inicjatywy wspierające odpowiedzialną sztuczną inteligencję nie powstawały z myślą o nagłych i licznych zagrożeniach wywołanych przez narzędzia generatywnej AI.
Ten trend nastręcza wielu problemów zwłaszcza organizacjom wdrażającym programy RAI skoncentrowane na tworzonych wewnętrznie narzędziach i systemach opartych na sztucznej inteligencji. Prawda jest taka, że ogromna większość analizowanych przez nas przedsiębiorstw wykorzystuje narzędzia AI pochodzące od dostawców zewnętrznych, a wśród nich większość stosuje tylko takie rozwiązania i w ogóle nie posiada własnych. Przewidywanie i przeciwdziałanie, a nie jedynie rozwiązywanie po fakcie problemów powodowanych przez sztuczną inteligencję dostarczaną z zewnątrz, wymaga proaktywnego podejścia do oceny takich rozwiązań. Z naszych badań wynika, że tego rodzaju problemy stanowią ponad połowę sytuacji, w których AI zawodzi. Linda Leopold, szefowa obszaru RAI i danych w H&M Group, zauważa: „Programy wspierające odpowiedzialne korzystanie ze sztucznej inteligencji powinny obejmować zarówno narzędzia wewnętrzne, jak i zewnętrzne. Niezależnie od pochodzenia systemu AI powinny obowiązywać te same reguły etyczne. Bo ostatecznie gdyby zdarzyło się coś złego, to dla osoby poszkodowanej nie będzie miało znaczenia, czy dane narzędzie było opracowane wewnętrznie czy kupione na rynku”.
