Plan Unii Europejskiej budowy gigantycznych centrów obliczeniowych AI za 20 mld euro coraz częściej spotyka się z krytyką polityków i ekspertów - zauważa portal Politico
„W miarę jak przedsiębiorstwa skalują generatywna AI, wymagania dotyczące zaufania rosną szybciej niż sama technologia” - twierdzi ekspert.
Hakerzy używają LLM do budowania następnej generacji ataków phishingowych
Jak tak dalej pójdzie, odpowiedzi narzędzi AI przestaną odzwierciedlać rzeczywistość - ostrzegają eksperci.
Naukowcy z Carnegie Mellon opracowali system Incalmo, który autonomicznie odtworzył słynny cyberatak na firmę Equifax z 2017 roku. Duży model językowy samodzielnie wykorzystał luki w zabezpieczeniach, zainstalował złośliwe oprogramowanie i wykradł dane.
Cyberprzestępcy coraz chętniej sięgają po duże modele językowe (Large Language Models), by automatyzować i udoskonalać swoje ataki, wynika z najnowszego raportu Cisco Talos.
Mimo miliardowych inwestycji w sztuczną inteligencję, wiele firm może nie być świadomych, że używane przez nich chatboty mogą zostać łatwo zmanipulowane. Najnowsze badania wskazują, że modele AI bez odpowiednich zabezpieczeń to realne zagrożenie.