W obliczu rosnącej roli sztucznej inteligencji i przetwarzania danych zagadnienia związane z etyką stają się równie istotne jak same dane źródłowe. Na temat wpływu AI i danych na biznes opowiada Reggie Townsend, Vice President w SAS Data Ethics Practice. Rozmawia Paulina Kostro.
W ostatnim czasie dużo mówi się na temat sztucznej inteligencji (AI) i danych w odniesieniu do etyki. Czy rozważania te są zasadne?
Sztuczna inteligencja i dane same w sobie nie mogą być ani etyczne, ani nieetyczne. Liczy się sposób, w jaki są one wykorzystywane przez ludzi. Podczas korzystania z tej technologii etyka powinna być równie ważna jak same dane źródłowe. Odpowiedzialne podejście do AI stawia człowieka w centrum uwagi, uwzględnia zróżnicowane środowiska podczas planowania projektu, bierze pod uwagę nie tylko to, komu można pomóc, ale także to, w jaki sposób można przypadkiem kogoś skrzywdzić. Oznacza to również badanie ryzyka utrwalenia historycznych uprzedzeń. Jednak wątki etyczne nie powinny pojawiać się tylko podczas wdrażania sztucznej inteligencji. Powyższe kwestie muszą być uwzględnione od momentu powstania pomysłu poprzez proces badawczo‑rozwojowy, wdrożenie, a następnie monitorowanie modeli i wyników.
A jaką rolę odgrywa etyka danych we wprowadzaniu innowacji?
Wartość sztucznej inteligencji kryje się w danych, którymi zasilane są jej modele. Warto się zastanowić, czy rzeczywiście wprowadzamy innowacje, jeśli systemy sztucznej inteligencji generują błędne informacje prowadzące do złych decyzji? Lub decyzji, które szkodzą ludziom?
Aby zagwarantować, że gromadzenie, analiza i wykorzystywanie danych są etyczne, należy wziąć pod uwagę takie kwestie jak stronniczość, prywatność, prawa i jakość danych. Zanim dane zostaną kiedykolwiek wykorzystane do szkolenia sztucznej inteligencji lub włączone do modelu, człowiek musi zadać właściwe pytania:
Czy korzystając z tych danych, naruszamy czyjąś prywatność lub prawa?
Jeśli istnieją dane wrażliwe, czy podjęliśmy odpowiednie kroki w celu ich ochrony i anonimizacji?
Czy dane są stronnicze?
Czy powinniśmy stosować środki, które tę stronniczość zrekompensują?
Czy dane są wystarczająco dobrej jakości, aby były użyteczne?
Dlaczego odpowiedzialne innowacje powinny być dziś kluczowym tematem dla liderów biznesu?
Podczas gdy sztuczna inteligencja staje się dzisiaj kluczowym tematem dla liderów biznesu, odpowiedzialne wdrażanie innowacji powinno być dla nich takim samym, jeśli nie większym priorytetem. Nierozważne byłoby spieszenie się z uruchamianiem projektów AI, szczególnie tych, które wykorzystują złożone modele językowe, bez dokładnego zbadania związanego z nimi ryzyka. Postępowanie zgodne z zasadami etyki zmniejsza niebezpieczeństwo nieumyślnego zaszkodzenia ludziom przez organizację, zaszkodzenia jej reputacji, marce i wynikom finansowym. Co więcej, naruszenia zasad etycznych mogą wiązać się ze znacznym ryzykiem natury prawnej i wysokimi grzywnami. Etyczne podejście do danych i sztucznej inteligencji ma zatem sens również w ujęciu biznesowym.
Co stanowi największy problem etyczny w technologiach wykorzystywanych w biznesie?
Wśród najważniejszych kwestii etycznych związanych ze sztuczną inteligencją znajdują się zagrożenia związane z wykluczeniem słabszych grup społecznych, gromadzeniem danych i obawy dotyczące ich prywatności, zarządzanie algorytmiczne oraz wpływ sztucznej inteligencji na obecną i przyszłą sytuację pracowników. Użytkownicy AI muszą zrozumieć błędy w danych oraz sposób, w jaki historyczne nierówności mogą być odzwierciedlane w modelach i wynikach. Niezbędne jest również zwiększenie przejrzystości informacji na temat klientów, pracowników i obywateli. Gdy już to osiągniemy, konieczne jest, aby gromadzone dane nie wykraczały poza ustalony zakres. Należy również szczególnie uważać na to, w jaki sposób algorytmy używane są w miejscu pracy. Czy nie są one wykorzystywane w inwazyjny sposób – do śledzenia zachowań, postaw, wzorców lub frekwencji pracowników? Należy być szczególnie ostrożnym w obszarach, w których ewentualne zagrożenia są największe, czyli w opiece zdrowotnej, bezpieczeństwie oraz bankowości.
Z drugiej strony, sztuczna inteligencja może również usprawnić te najbardziej kryzysogenne obszary. Technologia ta może być wykorzystywana do poprawy skuteczności udzielania pożyczek, egzekwowania prawa czy usprawnienia opieki zdrowotnej i innych sektorów, w których grupy społeczne były niesprawiedliwie traktowane. Algorytmy AI mogą wykrywać wrażliwe lub prywatne dane, zanim zostaną wprowadzone do modelu, a także monitorować jego skuteczność i stronniczość.
W jaki sposób dane i AI mogą przyczynić się do realizacji celów ESG firm?
AI może odegrać ważną rolę w realizacji celów ESG, szczególnie w przypadku tworzenia firmowych modeli zużycia energii, emisji dwutlenku węgla czy wpływu nowych budynków organizacji na środowisko. Wykorzystanie sztucznej inteligencji oznacza zobowiązanie się firmy do utrzymania swoich narzędzi w zgodzie z obowiązującymi przepisami. Przykładowo, przepisy mogą wymagać raportowania, jakie dane są wykorzystywane i jak modele są zarządzane w zakresie monitorowania stronniczości i zastępowania przestarzałych modeli zaktualizowanymi rozwiązaniami.
Dane powinny leżeć u podstaw strategii ESG firmy. Jaki jest sens realizacji celu, jeśli działania nie są mierzone? Firma nie może rzetelnie raportować swoich wysiłków i postępów bez pomiaru wyników. Na podstawie danych należy podejmować kolejne decyzje i wprowadzać zmiany.
Czy za pomocą danych i AI przedsiębiorstwa mogą zwiększyć swoją odporność na skutki przyszłych kryzysów? W jaki sposób?
Odporność stała się bardzo ważnym tematem w ostatnich latach. Pandemia COVID‑19, inwazja Rosji na Ukrainę i zablokowanie Kanału Sueskiego przez Ever Given ujawniły, jak krucha jest nasza globalna gospodarka. W przyszłości niewątpliwie będziemy świadkami kolejnych kryzysów i warto do nich się przygotować.
Przykładowo SAS nawiązał współpracę z Fund for Peace, aby zbadać ten temat z perspektywy poszczególnych krajów. Za pośrednictwem Fragile States Index od 2006 roku oceniane są zagrożenia i podatność na nie w 179 krajach. SAS współpracuje z tą organizacją, aby identyfikować obszary, w których administracje państwowe mogą być lepiej przygotowane na scenariusze kryzysowe i wstrząsowe za pomocą narzędzia Crisis Sensitivity Simulator. Wiedząc o tym, decydenci mogą zidentyfikować możliwości zwiększenia odporności krajów, aby mogły one ograniczyć skutki potencjalnego kryzysu oraz szybciej wdrożyć działania naprawcze.
Analizowaliśmy również odporność w biznesie. W marcu opublikowaliśmy raport z globalnej ankiety „Resiliency Rules”, która badała aktualny stan gotowości na kryzys w gospodarce i kroki podejmowane przez organizacje w celu dostosowania się do zmian oraz wykorzystywania potencjalnych okazji. Badanie wykazało, że menedżerowie przedsiębiorstw wiedzą o tym, jak ważna jest odporność na kryzysy, ale mniej niż połowa postrzega swoją firmę jako przygotowaną na negatywne scenariusze. Kolejnym kluczowym wnioskiem jest decydująca rola danych, analityki i AI. Najbardziej odporne firmy wykorzystują analizę danych w większym stopniu niż mniej odporne organizacje.
