W ostatnim czasie wpadła mi w ręce książka „Sztuczna inteligencja” autorstwa Marka Hołyńskiego. Autor w bardzo przystępny sposób opisuje wyzwania, którym musieli stawić czoła twórcy fenomenu ostatnich lat – dotyczące logiki „myślenia” cyfrowych maszyn, aspektów związanych z rozpoznawaniem obrazu, generowaniem go itd. Książka jakich wiele, można powiedzieć. No, nie do końca. Ta bowiem została wydana w… 1979 roku! Muszę przyznać, że przeczytałem ją z zapartym tchem, a jednocześnie byłem ciekawy, czy autor chociaż jednym słowem poruszy kwestie dotyczące bezpieczeństwa. Nie poruszył. Ewidentnie, 46 lat temu na możliwości zaoszczędzenia czasu (a więc i pieniędzy), zapewniane przez ówczesne komputery, patrzono wyłącznie z nadzieją. Pojęcie cyberprzestępczości jeszcze nie istniało, a społeczeństwu nie przeszkadzało, że w książce telefonicznej były nazwiska, adresy i numery telefonów obywateli, którzy byli szczęśliwymi posiadaczami tych trudno dostępnych wówczas urządzeń.

Tymczasem obecnie, gdy z całą pewnością można przyznać, że naprawdę żyjemy w erze sztucznej inteligencji, z omawianymi poprzez Marka Hołyńskiego wyzwaniami już sobie poradzono. Chatboty rozwiązują zagadki matematyczne, programują, piszą powieści, tworzą przepisy na dania z quinoa i, co ważniejsze, dostarczają informacje niemal z prędkością światła. Osoby zachłyśnięte tym najlepszym cyfrowym wynalazkiem od czasu stworzenia algorytmu wyszukiwania Google rzadko zastanawiają się, co może pójść nie tak? Pierwsze ostrzeżenia, formułowane chwilę po eksplozji popularności ChatGPT, były ignorowane. Dopiero ostatnie doniesienia, dotyczące modelu DeepSeek wydają się bardziej skutecznie unaoczniać, że korzystanie z dużych modeli językowych (LLM) to nie tylko wygoda, ale i pole minowe.

Trzeba przyznać, że dość znamienna była reakcja globalnej społeczności na pojawienie się tego właśnie, opracowanego przez chiński startup modelu, który zyskał popularność dzięki swoim relatywnie zaawansowanym możliwościom dostępnym za ułamek wymagań technicznych stawianych przez konkurencyjne rozwiązania. Wątpliwości dotyczące jego zabezpieczeń oraz zagrożeń dla prywatności danych płyną ze wszystkich źródeł – firm prywatnych i publicznych urzędów. Ostrzeżenia oraz zakazy korzystania z tej usługi na urządzeniach służbowych wystosowały instytucje z państw europejskich, azjatyckich i amerykańskich.

Także polski Urząd Ochrony Danych Osobowych wystosował oświadczenie, w którym zaleca daleko idącą ostrożność i podkreśla, że informacje użytkowników DeepSeek mogą być przechowywane na serwerach w Chinach. W rozesłanej do mediów informacji prasowej prezes UODO zaznaczył, że zgodnie z obowiązującymi przepisami Chiny nie należą do państw, wobec których Komisja Europejska wydała decyzję stwierdzającą odpowiedni stopień ochrony, a rząd w Pekinie ma szerokie uprawnienia związane z dostępem do danych osobowych.

Eksperci Sophosa zauważają, że wiele firm prawdopodobnie wdroży model DeepSeek ze względu na jego opłacalność, co może wiązać się z poważnym zagrożeniem dla prywatności. Powinny one przeprowadzić szczegółową analizę ryzyka związanego z przetwarzaniem danych, do czego jednak trzeba dysponować odpowiednią wiedzą, aby podjąć świadomą decyzję. Z niedawnego badania przeprowadzonego przez tego producenta wynika, że aż 89 proc. specjalistów ds. IT i cyberbezpieczeństwa obawia się potencjalnych luk w zabezpieczeniach narzędzi GenAI, a niemal połowa tej grupy wyraża w tym kontekście poważne zaniepokojenie. Przedstawiciele Sophosa podkreślają przy tym, że uruchomienie DeepSeek we własnym środowisku wciąż wymaga zasobów przekraczających możliwości przeciętnego hakera, a otwarty charakter tego projektu daje specjalistom możliwość gruntownego przetestowania go, co może przyczynić się do lepszego przewidywania zagrożeń.

Tymczasem poważne luki w zabezpieczeniach DeepSeek zostały już ujawnione przez ekspertów Cisco. W przeprowadzonych testach z wykorzystaniem technik jailbreakingu model ten nie odrzucił żadnego z zapytań, które zazwyczaj uznane byłyby jako szkodliwe. Pytano między innymi o sposoby prowadzenia ataków hakerskich, tworzenia złośliwego oprogramowania, łamania zabezpieczeń systemów, pozyskiwania i wykorzystywania poufnych danych użytkowników bez ich zgody, instrukcje dotyczące oszustw finansowych, sposoby generowania i rozpowszechniania informacji fałszywych lub związanych z ekstremizmem, radykalizacją oraz podżeganiem do przemocy. DeepSeek dostarczył szczegółowych informacji, które mogłyby zostać wykorzystane w celach przestępczych. Według analityków podatność modelu wynika z jego metod szkoleniowych, które – choć mają na celu poprawę jakości odpowiedzi – mogą zwiększać podatność na nadużycia.

Eksperci apelują do podmiotów wdrażających modele AI o stosowanie wielopoziomowych zabezpieczeń i zewnętrznych mechanizmów ochronnych, które umożliwią blokowanie szkodliwych zapytań w czasie rzeczywistym. Konieczne są przy tym działania na wyższym szczeblu. Coraz więcej krajów, jak Japonia i Kanada, zaczęło wprowadzać regulacje dotyczące transparentności LLM – operatorzy będą musieli ujawniać, jakie źródła były wykorzystywane do trenowania modeli. Również Komisja Europejska pracuje nad przepisami, które mają ograniczyć możliwość szerzenia dezinformacji przez sztuczną inteligencję.

Krzysztof Jakubik Krzysztof Jakubik  

Redaktor prowadzący Vademecum oraz dziennikarz CRN Polska.