Nie(bezpieczna) sztuczna inteligencja 

Współczesny krajobraz technologiczny przypomina jazdę bez trzymanki. Z jednej strony rewolucja AI i obietnica niespotykanej dotąd efektywności, z drugiej – wyrafinowane techniki socjotechniczne, chaos w zarządzaniu zależnościami oprogramowania i nadciągająca fala rygorystycznych regulacji. O tym, jak balansować między innowacją a bezpieczeństwem, rozmawiali eksperci biorący udział w panelu „AI vs AI: czy Twoje bezpieczeństwo nadąża za botami hakerów?”. Wnioski panelistów – Artura Kurcweila, Michała Godlewskiego, Roberta Tomaki i Michała Zalewskiego – jasno pokazują, że walka w cyberprzestrzeni weszła na zupełnie nowy poziom. 

Michał Zalewski, inżynier systemowy w Palo Alto Networks, przytoczył dane Unit 42, z których wynika, że czas od uzyskania pierwszego dostępu do kradzieży danych skrócił się do 72 minut. (rok wcześniej było to około 5 godzin). Z kolei Artur Kurcweil, CISO w Banku Millennium, przyznał, że obecnie około 90 proc. incydentów kradzieży środków finansowych to efekt zaawansowanej socjotechniki, w dużym stopniu wspomaganej narzędziami AI.

– Przez ostatnie dwa lata w moim banku nie odnotowaliśmy ani jednego przypadku zainstalowania złośliwej aplikacji na nieautoryzowanym urządzeniu przestępcy. Zmanipulowani klienci wierzą, że pomagają policji, reagują na fałszywe SMS-y albo wpłacają środki na fałszywe zbiórki charytatywne – mówił Artur Kurcweil.

O zmianach zachodzących w branży medycznej opowiadał Robert Tomaka, CIO w Diagnostyce. O ile rynek amerykański dysponuje restrykcyjnymi i precyzyjnymi ramami prawnymi dla sektora medycznego, jak choćby ustawa HIPAA, o tyle w Polsce przez lata brakowało regulacji dotyczących bezpieczeństwa przetwarzania danych pacjentów poza samym RODO. Taka sytuacja staje się problematyczna z uwagi na rosnący stopień złożoności rynku: cyfrowe systemy medyczne działają jako podwykonawcy zintegrowani z tysiącami szpitali i placówek ochrony zdrowia w całym kraju.

– Poziom dojrzałości technologicznej polskiej ochrony zdrowia wciąż rośnie, a integracja z systemami centralnymi automatycznie wystawia placówki na nowe wektory cyberataków – podkreślał Robert Tomaka.

Organizacje medyczne dysponują ogromnymi zasobami danych i technologiczną przewagą, która pozwoliłaby wdrożyć wyspecjalizowane, bezpieczne i certyfikowane narzędzia diagnostyczne. Główną barierą nie jest jednak technologia, lecz procesy regulacyjne. Certyfikacja oprogramowania jako wyrobu medycznego trwa w Europie minimum rok, a instytucje certyfikujące podchodzą do algorytmów AI z ogromną rezerwą, wskazując na ryzyko halucynacji i błędów, które mogłyby bezpośrednio zagrozić życiu pacjentów.

– Wdrożenie AI w medycynie wymaga rygorystycznego dowiedzenia, że system nie wyrządzi krzywdy pacjentowi, to przypomina procedury testów klinicznych nowych leków – tłumaczył Robert Tomaka.