Streszczenie: Studium przypadku przedstawia konsekwencje oddolnego wdrażania narzędzi sztucznej inteligencji w organizacji B2B, która w warunkach presji na wyniki i efektywność traci kontrolę nad kluczowymi procesami decyzyjnymi. „Shadow AI” przenika do rekrutacji, marketingu i sprzedaży, przekształcając się z narzędzia wspierającego w system współdecyzyjny o wysokim ryzyku regulacyjnym w rozumieniu AI Act. Tekst pokazuje, jak brak nadzoru, edukacji i governance prowadzi do rozmycia odpowiedzialności oraz kryzysu zarządzania technologią w nowoczesnej organizacji.
W dynamicznie rosnącej firmie e-commerce B2B niewinne narzędzie do automatycznej preselekcji CV uruchamia lawinę zdarzeń, która wymyka się spod kontroli zarządu. Sztuczna inteligencja, wdrożona oddolnie przez pracowników w pogoni za wynikami, zaczyna realnie wpływać na decyzje o zatrudnieniu, cenach i sprzedaży. Gdy na firmę spada zarzut algorytmicznej dyskryminacji, okazuje się, że największym problemem nie jest sam model, lecz brak wiedzy, nadzoru i świadomości, gdzie właściwie kończy się narzędzie, a zaczyna odpowiedzialność organizacji w świetle AI Act.
Materiał dostępny tylko dla subskrybentów
Dołącz do subskrybentów MIT Sloan Management Review Polska Premium!
Kup subskrypcję
