Coraz popularniejsze w firmach korzystanie ze sztucznej inteligencji i uczenia maszynowego do wspierania procesu decyzyjnego może generować poważne ryzyka – wynika z badania Progressu.

Mianowicie większość, bo 65 proc. pytanych przedsiębiorstw, przyznaje iż doświadcza niekorzystnych sytuacji z powodu tendencyjności danych.

Chodzi o to, że podczas gromadzenia danych i ich wykorzystywania do szkolenia modeli uczenia maszynowego, dziedziczone są uprzedzenia osób tworzących te informacje. Według raportu daje to nieoczekiwane i potencjalnie szkodliwe wyniki.

Aż 78 proc. osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania AI/ML.

Co gorsza, ryzyko związane z tendencyjnością będzie jeszcze większe, bo 66 proc. przedsiębiorstw przewiduje, iż w najbliższych latach w coraz większym stopniu zacznie polegać na podejmowaniu decyzji z wykorzystaniem sztucznej inteligencji i uczenia maszynowego.

„Każdego dnia tendencyjność danych może negatywnie wpływać na działalność biznesową i podejmowanie decyzji. Rośnie ryzyko zagrożenia dla bezpieczeństwa i ładu, utraty zaufania klientów, implikacji finansowych oraz potencjalne konsekwencje prawne i etyczne” – ostrzega Niklas Enge, dyrektor regionalny Nordics i Polska w firmie Progress.

Jednak obecnie tylko 13 proc. pytanych firm zajmuje się tym zjawiskiem i oceną jego skali. Największe bariery, jakie dostrzegają ankietowani, to brak świadomości występowania tendencyjności danych, zrozumienia, jak rozpoznawać uprzedzenia, a także brak dostępu do ekspertów (np. konsultacji z naukowcami zajmującymi się danymi).

Przedsiębiorcy nie zdają sobie sprawy z wagi problemu

Zdaniem autorów raportu pomimo ryzyka pułapek prawnych i finansowych, związanych z tendencyjnością danych, część firm nie rozumie, że trzeba szkolić ludzi i modyfikować procesy przetwarzania informacji, by skutecznie radzić sobie z tym zjawiskiem.

Ponad połowa (51 proc.) badanych uważa, że brak świadomości istnienia zjawiska tendencyjności danych i niedocenianie jego negatywnego wpływu będzie barierą w rozwiązywaniu tego problemu.

Natomiast 77 proc. ankietowanych przyznaje, że w ich firmie powinno się podejmować intensywniejsze działania, aby rozwiązać problem.

——————————-

Badanie „Data Bias: The Hidden Risk of AI” (Zjawisko tendencyjności danych: Ukryte ryzyko w sztucznej inteligencji) zostało przeprowadzone przez Insight Avenue na zlecenie Progress, wśród ponad 640 specjalistów z działów biznesowych i IT, na poziomie menedżerskim i wyższym, którzy wykorzystują dane do podejmowania decyzji i używają lub planują używać AI i ML do wspierania procesu decyzyjnego. Respondenci pochodzili z przedsiębiorstw zatrudniających ponad 500 pracowników w obu Amerykach, Europie i Azji.