Streszczenie: Artykuł stanowi analizę przypadku (case study) firmy Nexero, w której niekontrolowane wykorzystanie sztucznej inteligencji w dziale HR doprowadziło do utraty kontroli zarządu nad procesami decyzyjnymi oraz ryzyka zarzutów o dyskryminację. Autor, opierając się na praktyce doradczej w zakresie AI governance, formułuje trzyetapowy plan naprawczy: natychmiastowe zabezpieczenie incydentu i audyt algorytmu, redefinicję struktury odpowiedzialności (ownershipu) pomiędzy biznesem, IT a działem compliance, oraz wdrożenie systemowej procedury klasyfikacji ryzyka systemów AI. W tekście szczegółowo omówiono ramy prawne wynikające z AI Act (w tym definicję systemów wysokiego ryzyka oraz wymóg realnego nadzoru człowieka – human oversight), a także powiązania z RODO i dyrektywą NIS2. Autorska konkluzja wskazuje, że dojrzałość organizacji polega na integracji AI z modelem zarządzania, co pozwala na bezpieczną innowację bez blokowania potencjału technologii.
Gdy innowacja wyprzedza mechanizmy nadzoru, organizacja traci kontrolę nad tym, jak i na jakiej podstawie podejmuje kluczowe decyzje. Niekontrolowane wdrażanie sztucznej inteligencji, zwłaszcza w obszarach wysokiego ryzyka, takich jak rekrutacja czy operacje B2B, generuje poważne ryzyka prawne, wizerunkowe i technologiczne. Przeczytaj, jak krok po kroku wyciągnąć AI z cienia, uporządkować odpowiedzialność wewnątrz firmy i stworzyć bezpieczną procedurę dopuszczania systemów algorytmicznych do użytku w świetle wymogów AI Act, RODO oraz NIS2.
Materiał dostępny tylko dla subskrybentów
Dołącz do subskrybentów MIT Sloan Management Review Polska Premium!
Kup subskrypcję