Czy można zaufać sztucznej inteligencji?

Redakcja: Polska jest krajem, w którym i klienci, i firmy są otwarci na nowe rozwiązania. Świadczy o tym rozwój branży fintechowej, gdzie wyprzedzamy Europę Zachodnią. Jednak gdy patrzymy na różne rankingi innowacji, wynika z nich, że Polacy są w ogonie Europy. Nie jesteśmy uznawani za tytanów nowych rozwiązań. Tymczasem pani opatentowała blisko 80 innowacyjnych technologii. Skąd czerpie pani pomysły na takie innowacyjne rozwiązania i czy to jest efekt jakiegoś systemowego podejścia czy wrodzony talent?

Anna Topol: Pracuję w organizacji, która jest nastawiona na pomaganie w kreowaniu, budowaniu i rozpowszechnianiu technologii. IBM jest znany jako organizacja innowacyjna, która ma wiele patentów na koncie. Niewątpliwie więc część moich osiągnięć to efekt systemowego podejścia do rozwoju i technologii. W środowisku IT bardzo często opieramy się na tak zwanych mapach drogowych technologii, więc co kilka lat patrzymy, gdzie jest technologia, dokąd nas prowadzą dane rozwiązania. Umiejętność wykorzystywania tych map drogowych – znajdowania miejsc, do których dąży technologia – jest bardzo ważna. Nie ukrywam jednak, że także sama muszę rozwijać kreatywne myślenie.

Jak rozumiem, ważna jest klasyczna burza mózgów…

Wiele tych nowych innowacji pochodzi z przecięcia się wielu różnych dyscyplin, dlatego potrzebne jest spotkanie, dialog. Czy to jest matematyka, chemia, biologia fizyka – w każdej z tych dziedzin jest wiele ważnych wątków dla rozwoju IT. Więc musimy być bardzo otwarci na taką współpracę, a to oznacza, że musimy rzucić sobie wyzwanie, aby nie zamykać się tylko w tym, co wiemy, tylko w tym, co nasi eksperci proponują. Musimy docierać do tych nowych dziedzin, uczyć się od innych. W tym fermencie rodzą się wielkie idee.

Wyzwalanie kreatywności leży często albo w DNA firmy, albo jest elementem kultury organizacyjnej. Jak to wygląda w przypadku IBM?

Jeden z moich menedżerów kiedyś powiedział: w piątki na dwie godziny wyłączamy komputery, telefony i odcinamy się od internetu. Te dwie godziny to jest czas, kiedy myślimy na temat przyszłości. Możemy myśleć o własnej przyszłości, ale także o nowych procesach, innowacyjnych technologiach, modernizacji. To bardzo pomocne działanie – szczególnie gdy jest się odciętym od innych bodźców. Wiem, że nie każda organizacja, nie każdy zespół ma czas na copiątkowe główkowanie. Wydaje mi się, że bez tego czasu na główkowanie bardzo trudno jest być kreatywnym.

Czas na zespołowe myślenie jest bardzo ważny?

Działanie w grupie wpływa na kreatywność, a szczególnie w grupie złożonej z osób z różnych zespołów, środowisk. Bardzo ważne jest wprowadzanie ludzi spoza projektu, którzy mogą dostarczyć nam troszeczkę więcej obiektywizmu. Nierzadko też prosimy, by te spotkania kreatywne były prowadzone przez osoby nie z naszej organizacji. 

Czyli klucz częściowo tkwi w różnorodności?

Tak, zdecydowanie!

Współpracuje pani z najważniejszymi branżami i uniwersytetami oraz dostawcami oprogramowania, zarządzając rozproszonymi i zróżnicowanymi zespołami. Z jakimi wyzwaniami się to wiąże?

Wszystko zależy od strategii danej organizacji. Kluczowe jest ustalenie ryzyka sukcesu danych projektów; należy także zdefiniować, czy dany projekt będzie realizowany wewnętrznie, czy będzie on prowadzony przy współpracy z innymi organizacjami. Całe działanie musi być transparentne. W obszarach technologii, a szczególnie w rozproszonych sieciach, jest możliwość prowadzenia badań, które pomogą ustalić rolę każdej organizacji, a także pomogą usprawnić proces realizacji projektu.

Często spotykamy różne start‑upy, które mówią, że są lepsze niż firmy Steve’a Jobsa czy Billa Gatesa, a później nic o nich nie słyszymy. Pani zespół był w stanie wypracować nie tylko mnóstwo innowacyjnych rozwiązań, ale też skutecznie je skomercjalizować. Gdzie tkwi klucz do sukcesu w tym obszarze?

Dobre pytanie. W pewnym momencie zawsze pojawia się taka kwestia: OK, mam technologię i co z nią zrobić? Warto się wtedy zastanowić, w jaki sposób ta technologia może zmienić rzeczywistość i czy ma rynkowe szanse. Czy będzie ona prowadzona przez jakiś czas z funduszy wewnętrznych, czy możemy liczyć na zewnętrzną współpracę? Warto tutaj dodać, że niesamowicie ważna jest ochrona własności intelektualnej tego procesu. Czasami widzi się projekty, które są omawiane w detalach, a zespół wciąż nie przedyskutował, kto ma własność intelektualną po wprowadzeniu projektu. Jedną z ciekawszych rzeczy dla mnie jest to, że wiele organizacji decyduje się po prostu na to, że ktoś im płaci za prowadzenie badań naukowych. Wydaje mi się, że jednak najlepszym rozwiązaniem komercjalizacji jest współpraca dwóch niezależnych firm, których strategie się pokrywają. Pozwala to na szersze spojrzenie i zarazem rozkłada odpowiedzialność.

Żyjemy w czasach galopującej cyfryzacji. Firmy szukają nowych kierunków. Jakie w pani opinii rozwiązania warto obserwować i jakimi szansami interesować się dzisiaj, żeby wygrywać jutro?

Niewątpliwie żyjemy w erze informacji, przetwarzania danych i w świecie, w którym cały czas szuka się zastosowań sztucznej inteligencji. Bez wątpienia dane są podstawą przewagi konkurencyjnej. Wiele firm ma wiele cennych danych, ale po prostu nie wie, co z nimi robić. A dane są po prostu zasobem takim jak ropa naftowa, którą należy najpierw przerobić, przetworzyć i dopiero potem zastosować, bo bez tego nie ma tu wartości ekonomicznej. Ostatecznie nie tylko ilość tych danych jest ważna, ale też czy są to odpowiednie, użyteczne dane. W łatwiejszym rozpoznawaniu i zarządzaniu danymi pomaga sztuczna inteligencja. Jest wiele definicji sztucznej inteligencji, jedna z nich po prostu stwierdza, że sztuczna inteligencja to zdolność systemu do prawidłowego interpretowania danych pochodzących z zewnątrz i wykorzystania tych danych do budowania wiedzy pomocnej przy realizacji określonych działań. Ja jestem bliska tej definicji.

Czyli kluczowe nie jest gromadzenie danych, ale ich prawidłowa interpretacja.

Każda organizacja, która prawidłowo interpretuje dane, zyskuje na wartości i osiąga biznesową przewagę. Dlatego też w każdej organizacji sztuczna inteligencja i nowoczesne technologie – szczególnie te specjalizujące się w uczeniu – są bardzo potrzebne. Kluczowe jest tworzenie nowych algorytmów, rozwijanie głębokiego uczenia maszynowego, bo głównie te technologie prowadzą do rozwiązania problemów. Jest wiele badań przeprowadzonych przez IBM, pokazujących, że 82 proc. firm, które mają najlepsze wyniki na świecie, rozważa wdrożenie rozwiązań opartych na sztucznej inteligencji lub już to robią.

Jednym zdaniem: u najlepszych jutro dzieje się dziś. Sporo mówi pani o sztucznej inteligencji. Tymczasem wiele osób wciąż nie ma do niej zaufania. W jaki sposób możemy zbudować sztuczną inteligencję, której możemy ufać?

Zaufanie jest bardzo ludzką koncepcją. Musimy więc najpierw określić, co ono oznacza w przypadku systemów sztucznej inteligencji. Na chwilę obecną wierzymy, że aby móc ufać systemom sztucznej inteligencji, musimy osiągnąć cztery warunki. Po pierwsze, systemy te muszą być sprawiedliwe. Musimy wierzyć, że to, co robią, jest moralnie i etycznie właściwe. Po drugie, ważna jest transparentność. Muszę wiedzieć, dlaczego przychodzi do mnie odpowiedź i skąd ona pochodzi. Po trzecie, system musi być bezpieczny. Muszę wierzyć, że nikt nie uszkodził danych, że system robi dokładnie to, co ma robić. I wreszcie rzecz ostatnia, której musimy poświęcić dużo więcej czasu niż dotychczas, czyli zrozumienie systemu. Muszę wiedzieć, co znajduje się wewnątrz systemu. Często posługuję się porównaniem do produktów spożywczych, które zawsze mają etykietę informującą nas, co znajduje się w słoiku. Jeśli kupujemy elektronikę, dostajemy instrukcję obsługi, która opisuje nam sposób budowy urządzenia. Każdy produkt czy usługa przychodzi do nas w komplecie z jakąś informacją, instrukcją lub specyfikacją. Musimy więc zastanowić się, jak stworzyć te listy faktów, które powiedzą nam, jak dany system sztucznej inteligencji został zbudowany i jak ma działać.

Wspomniała pani o bezpieczeństwie. Wiele podmiotów – firm czy osób prywatnych – obawia się inwestować w sztuczną inteligencję, ponieważ mają świadomość cyfrowych zagrożeń.

Musimy zrozumieć, że możemy rozmawiać wyłącznie o bezpieczeństwie w danej chwili. Dane rozwiązanie może być najlepsze w tym momencie, nie będzie ono skuteczne na lata. Nie ma jednego, stałego rozwiązania dla wciąż nowych problemów. Systemy sztucznej inteligencji pozostają w fazie ciągłego rozwoju, w której atakujący poszukują słabych punktów. W końcu jednak dojdziemy do poziomu, na którym obecnie znajduje się zwykły sprzęt i oprogramowanie, i będziemy musieli również dbać o ciągłą aktualizację systemów bezpieczeństwa. Musimy więc traktować systemy sztucznej inteligencji jak każdy inny produkt czy usługę, które wciąż muszą otrzymywać kolejne aktualizacje.

W dobie postępującej cyfryzacji świat technologii jest coraz trudniejszy do zrozumienia.

Tradycyjne systemy korzystają z matematyki i informatyki i dochodzą już do pewnej granicy. To na nich opierają się istniejące współcześnie superkomputery. Do tych systemów dodajemy nową jakość w postaci systemów kwantowych. One stanowią swego rodzaju mieszankę fizyki i informatyki. To jest interesująca część, gdyż połączenie tych dwóch dyscyplin daje nam nowy paradygmat, który możemy dodać do naszej obliczeniowej puli. Coraz częściej mówi się także o mieszance biologii i informatyki, czyli o komputerach neuromorficznych.

Czyli mamy trzy obszary – biologia i informatyka, fizyka i informatyka, oraz matematyka i informatyka – które są ze sobą połączone?

System musi być na tyle sprytny, by samodzielnie określić, który z tych trzech obszarów powinien wykorzystać. Jeśli mam do wykonania jakieś obliczenia, a mój problem wymaga mocy obliczeniowej, to system zdecyduje, której ze swoich umiejętności użyje. Dziś korzystając z komputerów kwantowych, wciąż musimy mieć dużo wiedzy z zakresu fizyki kwantowej. W przyszłości będzie inaczej.

Dlaczego?

Czy teraz korzystając z telefonu komórkowego, zastanawia się pan, w jaki dokładnie sposób on działa? Nie. Tak samo w przyszłości będą działały komputery kwantowe czy też dowolne inne. Przedstawisz swój problem, a system zdecyduje, jak go rozwiązać. Nie musimy rozumieć technologii, musimy wiedzieć, jak z niej korzystać – a to różnica.

Komputery kwantowe to raczej pozytywna sprawa, ja jednak chciałem zapytać o coś negatywnego, a mianowicie o rynek pracy. Wielu ekspertów twierdzi, że sztuczna inteligencja może zastąpić pracowników na wielu stanowiskach. Co o tym pani myśli? Które zawody zastąpi sztuczna inteligencja?

Prowadzimy na ten temat wiele rozmów. Pozwoli pan, że odpowiem przykładem. W latach 60. w Stanach Zjednoczonych było mnóstwo rolników. Jednak z uwagi na zmiany technologiczne oraz zmiany popytu odsetek rolników w społeczeństwie wynosi obecnie tylko 20 czy 30%. Czy oni wszyscy stracili pracę? Nie, po prostu zdecydowali, że czekają ich inne wyzwania i postanowili stawić im czoło. Statystyki w Polsce są bardzo podobne. Myślę, że pojawienie się nowych technologii niesie ze sobą nowe możliwości. Naszym celem jest to, by systemy sztucznej inteligencji pomagały nam wykonywać prace, których ludzie wykonywać nie chcą. Wszystko, co wymaga ode mnie dużo czasu i analizowania ogromnych ilości danych, jest dla mnie stratą czasu, który mogłabym poświęcić na innowacje. Weźmy za przykład analityka. W systemach sztucznej inteligencji szczególną uwagę musimy poświęcić przetwarzaniu danych. Dlaczego jako analityk mam poświęcić na to 80% mojego czasu – w którym mogłabym robić coś bardziej kreatywnego – skoro może to zrobić sztuczna inteligencja. Nowe technologie pozwolą nam po prostu lepiej pracować.

Oddaj maszynie to, co nudne, a człowiekowi zostaw ciekawsze?

Pierwszą korzyścią z systemów sztucznej inteligencji jest to, że doskonale rozpoznają wzory i świetnie sprawdzają się w uciążliwych zadaniach, które nie są dla nas zbyt atrakcyjne. To stanowi dla mnie korzyść, ponieważ system pozwoli mi na to, bym mogła robić coś innego, da mi wybór. Jako ludzie możemy wciąż się zmieniać, wybierać nowe rozwiązania. Ilu z nas wciąż robi to samo, co robiliśmy po skończeniu szkoły? Niewielu. W ciągu życia zmieniamy zajęcia. To pewne, że nawet bez sztucznej inteligencji podlegamy zmianom. Jako ludzie jesteśmy zaprojektowani tak, byśmy mogli uczyć się nowych rzeczy, i wielu z nas to lubi. Czy wykonywanie tej samej pracy przez wiele lat daje nam spełnienie? Raczej nie. Pojawiające się nowe technologie dają nam korzyści, umożliwiają nam rozwój naszej kariery.

I jeszcze jedna kwestia dotycząca różnorodności. W przerwach pomiędzy tworzeniem wspaniałych rzeczy zajmuje się pani działaniami na rzecz aktywizacji kobiet w branży nowych technologii.

To prawda, że wciąż mamy za mało kobiet w branży nowoczesnych technologii. Zwłaszcza jest ich wyraźnie mniej na wyższych poziomach organizacji, co oznacza, że z punktu widzenia barier trudniej jest znaleźć kobietę, która jest mentorem lub CEO. Szansą na zmianę są organizacje, które skupiają się na edukacji i szkoleniu nowych generacji kobiet w dziedzinach technicznych. Polecam aktywny udział w społecznościach kobiet IT. Bardzo dobrym przykładem takiej rozwijającej się grupy jest Anita Borg Instytut, organizujący dużą konferencję na temat kobiet w IT. Druga grupa, którą polecę, to IEEE, czyli międzynarodowe stowarzyszenie inżynierów, które organizuje sympozja dotyczące kobiet w branży technologicznej.

Jak IBM jako lider zmian technologicznych wspiera kobiety?

W IBM mamy specjalny program, który pomaga wrócić do pracy kobietom, które zrezygnowały z pracy w branży technologicznej z powodów rodzinnych lub innych. Dzięki tej inicjatywie kobiety czują się potrzebne na rynku pracy mimo przerwy w CV. Inna rzecz, że poświęcamy za mało czasu na to, by nagradzać ludzi poza własną strukturą. Zawsze skupiamy się na naszych wewnętrznych, firmowych nagrodach, podczas gdy istnieje tak wiele konferencji, tak wiele nagród, do których możemy nominować innych ludzi. Stowarzyszenia inżynierów, naukowców, informatyków przyznają nagrody w dziedzinie przywództwa, mentoringu czy wiedzy naukowej. Musimy tylko znaleźć czas, aby nominować naszych współpracowników do tych nagród. Myślę, że w mentoringu nie liczy się tylko i wyłącznie czas spędzony na spotkaniach twarzą w twarz. Chodzi także o to, że jeśli wiemy, co robi nasz podopieczny, jakie ma zdolności, to możemy mu pomóc. Jeśli wiem, że jesteś mistrzem na swoim uniwersytecie, to moją rolą jest znalezienie i zgłoszenie cię do odpowiedniej nagrody. Jako liderzy musimy znaleźć czas na pomoc naszym współpracownikom. Bycie liderem to duża odpowiedzialność, ale takie działanie daje wiele satysfakcji. Lubię patrzeć na rozwój swojego zespołu.