65 proc. firm ma problem z powodu tendencyjności danych
Cienie sztucznej inteligencji. „Rośnie ryzyko zagrożenia bezpieczeństwa, utraty zaufania klientów, skutków finansowych” – twierdzi dyrektor.
Zarządy większości firm rozumieją znaczenie tendencyjności danych, ale mają problem z tym, by sobie z tym poradzić.
Coraz popularniejsze w firmach korzystanie ze sztucznej inteligencji i uczenia maszynowego do wspierania procesu decyzyjnego może generować poważne ryzyka – wynika z badania Progressu.
Mianowicie większość, bo 65 proc. pytanych przedsiębiorstw, przyznaje iż doświadcza niekorzystnych sytuacji z powodu tendencyjności danych.
Chodzi o to, że podczas gromadzenia danych i ich wykorzystywania do szkolenia modeli uczenia maszynowego, dziedziczone są uprzedzenia osób tworzących te informacje. Według raportu daje to nieoczekiwane i potencjalnie szkodliwe wyniki.
Aż 78 proc. osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania AI/ML.
Co gorsza, ryzyko związane z tendencyjnością będzie jeszcze większe, bo 66 proc. przedsiębiorstw przewiduje, iż w najbliższych latach w coraz większym stopniu zacznie polegać na podejmowaniu decyzji z wykorzystaniem sztucznej inteligencji i uczenia maszynowego.
„Każdego dnia tendencyjność danych może negatywnie wpływać na działalność biznesową i podejmowanie decyzji. Rośnie ryzyko zagrożenia dla bezpieczeństwa i ładu, utraty zaufania klientów, implikacji finansowych oraz potencjalne konsekwencje prawne i etyczne” – ostrzega Niklas Enge, dyrektor regionalny Nordics i Polska w firmie Progress.
Jednak obecnie tylko 13 proc. pytanych firm zajmuje się tym zjawiskiem i oceną jego skali. Największe bariery, jakie dostrzegają ankietowani, to brak świadomości występowania tendencyjności danych, zrozumienia, jak rozpoznawać uprzedzenia, a także brak dostępu do ekspertów (np. konsultacji z naukowcami zajmującymi się danymi).
Przedsiębiorcy nie zdają sobie sprawy z wagi problemu
Zdaniem autorów raportu pomimo ryzyka pułapek prawnych i finansowych, związanych z tendencyjnością danych, część firm nie rozumie, że trzeba szkolić ludzi i modyfikować procesy przetwarzania informacji, by skutecznie radzić sobie z tym zjawiskiem.
Ponad połowa (51 proc.) badanych uważa, że brak świadomości istnienia zjawiska tendencyjności danych i niedocenianie jego negatywnego wpływu będzie barierą w rozwiązywaniu tego problemu.
Natomiast 77 proc. ankietowanych przyznaje, że w ich firmie powinno się podejmować intensywniejsze działania, aby rozwiązać problem.
——————————-
Badanie „Data Bias: The Hidden Risk of AI” (Zjawisko tendencyjności danych: Ukryte ryzyko w sztucznej inteligencji) zostało przeprowadzone przez Insight Avenue na zlecenie Progress, wśród ponad 640 specjalistów z działów biznesowych i IT, na poziomie menedżerskim i wyższym, którzy wykorzystują dane do podejmowania decyzji i używają lub planują używać AI i ML do wspierania procesu decyzyjnego. Respondenci pochodzili z przedsiębiorstw zatrudniających ponad 500 pracowników w obu Amerykach, Europie i Azji.
Podobne aktualności
„Konwergencja AI i chmury stanowi przełomowy moment”
W I kw. br. rynek infrastruktury chmurowej urósł o 21 proc. AI napędza wzrost, jednak związane z nią przejście do chmury może być skomplikowane i kosztowne.
Polscy szefowie IT mają trzy problemy z wdrożeniem AI
Wzrost produktywności (55 proc.) i automatyzacja (53 proc.) to najważniejsze zadania, jakie menedżerowie stawiają sztucznej inteligencji.
AI ruszy na firmowe zakupy
Za 3 lata już 50 proc. procesów zarządzania umowami zakupowymi w firmach będzie obsługiwana przez sztuczną inteligencję.