Streszczenie: W obliczu rosnącej roli sztucznej inteligencji (AI) i uczenia maszynowego (ML) w biznesie, menedżerowie stoją przed wyzwaniem skutecznego wdrażania tych technologii. Często jednak projekty AI kończą się niepowodzeniem, co wiąże się z kosztami i utratą zaufania. Przykłady takich porażek, jak technologia rozpoznawania twarzy firmy Amazon czy chatbot Tay firmy Microsoft, pokazują, jak łatwo można popełnić błędy w tym obszarze. Często analitycy traktują te niepowodzenia jako odosobnione przypadki, nie starając się wyciągnąć z nich wniosków na przyszłość.
Aby uniknąć podobnych problemów, menedżerowie powinni zadawać twórcom modeli AI kluczowe pytania dotyczące jakości danych, na których modele są trenowane, oraz ich zdolności do generalizacji, czyli skuteczności działania na nowych, nieznanych danych. Ważne jest również, aby nie polegać wyłącznie na dostępnych zbiorach danych, lecz dążyć do pozyskiwania danych najlepiej odpowiadających specyfice problemu. Należy również pamiętać, że wielu specjalistów ds. danych nie jest wystarczająco przygotowanych do identyfikowania i zapobiegania potencjalnym problemom w modelach AI.
Menedżerowie wyższego szczebla, często bez formalnego wykształcenia technicznego, mogą mieć trudności w dostrzeganiu problemów związanych z modelami AI i danymi. Jednak to oni podejmują decyzje o skali wdrażania tych technologii w organizacji. Dlatego tak ważne jest, aby rozwijali swoje kompetencje w zakresie rozumienia modeli AI i danych, co pozwoli im na podejmowanie bardziej świadomych decyzji i uniknięcie kosztownych błędów.
Liderzy organizacji muszą umieć dokonywać trafnych wyborów dotyczących skali wdrażania modeli sztucznej inteligencji. Warto przy tym zadać kilka niełatwych pytań.
Potęga sztucznej inteligencji (artificial intelligence, AI) i bazujących na niej modeli uczenia maszynowego (machine learning, ML) nieustannie zmienia reguły gry w biznesie. Jednak zbyt wiele projektów AI spala na panewce – niejednokrotnie już po wdrożeniu, co jest szczególnie kosztowne i deprymujące. Proszę tylko zapytać firmę Amazon o jej wpadki z technologią rozpoznawania twarzy albo Microsoft o poczynania czatbota Tay. Nader często analitycy i specjaliści od danych uznają te niepowodzenia za jednorazowe, odrębne anomalie, nie starając się nawet znaleźć żadnych prawidłowości, które pomogłyby zapobiegać takim problemom w przyszłości. Menedżerowie, zwłaszcza ci wyższego szczebla, mają dziś możliwość – a także odpowiedzialność – zapobiegania powdrożeniowym porażkom rozwiązań AI. Ale by móc to zrobić, muszą lepiej zgłębić tematykę zbiorów i modeli danych, bo dzięki temu będą w stanie zadawać właściwe pytania twórcom modeli, czyli deweloperom, a następnie prawidłowo oceniać uzyskane odpowiedzi.
Być może w tej chwili właśnie myślisz: „Ale czy analitycy dużych zbiorów danych nie mają doskonałego wykształcenia i przygotowania?”. Dzisiaj większość kursów i programów nauczania dla takich analityków, tzw. naukowców danych (data scientists), koncentruje się na mechanice procesów uczenia maszynowego, a nie na ograniczeniach tej technologii. Przez to naukowcy danych nie są uczeni, jak zapobiegać wpadkom sztucznej inteligencji ani jak diagnozować problemy. Twórcy modeli AI muszą przewidzieć skuteczność danego modelu w przyszłości i jego działanie na zbiorach danych innych niż treningowe, co określane jest mianem generalizowalności (generalizability). Obecnie ta koncepcja jest słabo zdefiniowana i mało rygorystyczna.
Istnieje pewne powiedzenie w dziedzinie analityki, mówiące o tym, że deweloperów AI i artystów cechuje ten sam zły nawyk zakochiwania się we własnych modelach. Tymczasem dane są lekceważone. Przykładowo, twórcy modeli sztucznej inteligencji bardzo łatwo godzą się na zastosowanie zbiorów danych, które akurat są pod ręką, zamiast szukać danych bardziej adekwatnych do problemu, jaki dany algorytm ma rozwiązać.
Menedżerowie wyższego szczebla bez formalnego wykształcenia w dyscyplinach technicznych mają jeszcze mniej kompetencji i narzędzi, by wychwycić problemy drzemiące w modelach sztucznej inteligencji i zbiorach danych, którymi są one zasilane. Ale właśnie oni jako liderzy decydują o tym, na ile szeroko organizacja wdroży te modele. Nasz artykuł powstał z myślą o menedżerach i menedżerkach chcących podejmować trafniejsze decyzje w tym obszarze.
Materiał dostępny tylko dla subskrybentów
Dołącz do subskrybentów MIT Sloan Management Review Polska Premium!
Kup subskrypcję
