Reklama

Osiem obszarów, w których wyręczają nas algorytmy

Algorytmy jeszcze nie rządzą Polakami, ale coraz częściej przejmują kontrolę i odpowiedzialność za nasze zachowania – mówią eksperci fundacji Centrum Cyfrowego i Klubu Jagiellońskiego.

8 obszarów życia, w których algorytmy nas wyręczają według fundacji Centrum Cyfrowe i Klubu Jagiellońskiego:

Prewencja przestępstw: ryzyko spotęgowania dyskryminacji

Reklama

Systemy zautomatyzowanego podejmowania decyzji są coraz chętniej wykorzystywane w prewencji przestępstw, choć w tej chwili głównie do analizy danych statystycznych. Algorytmy określają obszary i społeczności szczególnie zagrożone ryzykiem zwiększonej przestępczości, ale potrafią też wskazać potencjalnie niebezpieczne osoby. Prewencja przestępstw jest jednym z najbardziej kontrowersyjnych obszarów stosowania sztucznej inteligencji - oddanie w ręce systemów możliwości oceny ryzyka zagrożenia przestępstwem może oznaczać ograniczenie praw i wolności obywateli na podstawie fałszywych przesłanek. Algorytmy często bazują bowiem na tzw. “dirty data" - danych, które odzwierciedlają uprzedzenia na tle klasowym i rasowym bądź były pozyskane w nielegalny sposób. Badania pokazują, że takie systemy potęgują zjawisko dyskryminacji.

Rynek pracy: algorytmy stają się pracodawcą

Na rynku pracy systemy zautomatyzowanego podejmowania decyzji wykorzystywane są zarówno przez administrację publiczną w procesach dotyczących osób bezrobotnych, jak i przez firmy prywatne do rekrutacji pracowników. Cel algorytmu jest jeden - wstępnie zweryfikować kandydatów na dane stanowisko i szybko przeanalizować wielkie zbiory danych osobowych. Jednak nie tylko procesy rekrutacyjne, ale też sam rynek pracy zmienia się pod wpływem tych systemów, gdyż coraz częściej słyszy się argumenty, że nieraz to właśnie algorytm staje się pracodawcą.

Opieka społeczna: powielanie stereotypów

Kluczowym elementem systemu opieki społecznej jest podejmowanie decyzji o przyznaniu świadczeń konkretnym osobom. Zazwyczaj przesłanki motywujące udzielenie tego typu pomocy są możliwe do zmierzenia, przez co systemy oparte na algorytmach dobrze się sprawdzają. Stosowane są one na różnych etapach: od identyfikacji osób zagrożonych pewnymi zjawiskami społecznymi, po przyznawanie konkretnej liczby godzin na opiekę. Jednak bardzo często te pomysły spotykają się z krytyką ze względu na ochronę prawa do prywatności oraz przypadki powielania przez sztuczną inteligencję funkcjonujących w danym społeczeństwie stereotypów.

Opieka medyczna: za mało danych, aby skutecznie podejmować decyzje

Najwięcej systemów zautomatyzowanego podejmowania decyzji, głównie w postaci systemów sugerujących (opartych m.in. na analizie big data) wykorzystywanych jest w medycynie. Przydają się one w diagnostyce chorób, leczeniu stanów przewlekłych, zarządzaniu systemami usług zdrowotnych i badaniami nad lekami. Sztuczna inteligencja może pomóc w rozwiązywaniu wyzwań medycznych, jednak dużym ograniczeniem jest dostępność i jakość danych niezbędnych do prawidłowego funkcjonowania algorytmów. 

Edukacja: przypisywanie młodzieży do placówek

Algorytmiczne podejmowanie decyzji jest coraz częściej wykorzystywane również do podejmowania decyzji w obszarze edukacji. Systemy już przypisują uczniów do konkretnych placówek, oddelegowują nauczycieli do miejsca pracy, a także przeprowadzają ewaluację pracowników oświaty.

Dostęp do informacji i kultury: zglobalizowane gusta

Dla młodszych pokoleń internet jest głównym źródłem informacji, wiedzy i kultury. Sieci społecznościowe i agregatory treści wypierają media tradycyjne takie jak telewizja. Jednocześnie serwisy te stosują algorytmy do personalizacji oferty skrojonej na miarę pod każdego internautę. Symbolem takiego podejścia może być serwis Spotify, który co tydzień przedstawia użytkownikowi zindywidualizowaną playlistę wygenerowaną przez algorytm. Drugim dobitnym przykładem wykorzystywania zautomatyzowanego podejmowania decyzji w dostępie do informacji jest Facebook, którego algorytmy selekcjonują treści widoczne dla danego użytkownika, bazując m.in. na jego reakcjach pod konkretnymi postami i tematyce obserwowanych fanpage’ów.

Finanse: dane decydują o kredycie

Systemy zautomatyzowanego podejmowania decyzji wykorzystywane są w branży finansowej zarówno przez administrację publiczną, jak i banki. W pierwszym przypadku analiza danych służy najczęściej uszczelnieniu systemu podatkowego i przeciwdziałaniu potencjalnym nadużyciom podatkowym, w drugim - głównie lepszemu ustalaniu wiarygodności kredytowej.

Sądownictwo: szybsza praca sądów?

W sądownictwie wykorzystywanie algorytmicznych systemów może mieć miejsce na wielu etapach, w tym m.in. podczas przypisywania spraw poszczególnym sędziom według dziedziny ich specjalizacji, zarządzania pracą sądów, ale też podejmowania decyzji w konkretnych postępowaniach oraz zakresie i rodzaju wymierzonej kary. W niektórych jurysdykcjach systemy te - które postrzegane są jako możliwość usprawnienia wymiaru sprawiedliwości - stają się powszechnie stosowanym narzędziem, stanowiąc znaczące wyzwanie dla tradycyjnego modelu praw człowieka, regulacji prawnych i zasad sprawiedliwego procesu.

Dowiedz się więcej na temat: algorytm | sztuczna inteligencja