We wpisie na platformie X, który ma już ponad 100 milionów wyświetleń, Jacob Coxon napisał, że wiele osób tworzących sztuczną inteligencję podziela jego obawy i uważa, iż czasu na zagwarantowanie bezpiecznego rozwoju systemów AI zostało niewiele. W reakcjach na wpis szybko okazało się, że jego poglądy podziela wielu kolegów po fachu. Evan Hubinger, główny specjalista ds. dostrajania AI w Anthropic, ocenił we wpisie na X, że istnieje ponad 10-procentowe prawdopodobieństwo, iż sztuczna inteligencja zabije wszystkich ludzi w ciągu najbliższej dekady. Wpis ten podali dalej obecni i byli badacze z OpenAI oraz Anthropic, część z nich twierdzi, że to pogląd powszechny w branży. Wywiad z Jacobem Coxonem, który opuścił firmę Antrophic, przeprowadził portal Wired.

Dlaczego akurat teraz?

O zagrożeniach ze strony AI mówi się co najmniej do dekady, dlaczego zatem właśnie teraz ten przekaz tak mocno przebił się do opinii publicznej.

-To w gruncie rzeczy kwestia wyczucia momentu. Wiele osób czuje, że tempo rozwoju możliwości AI przyspiesza. W wielu dziedzinach, programowaniu, hakowaniu, matematyce, przechodzimy już z poziomu ludzkiego na superludzki i myślę, że ludzie zdają sobie z tego sprawę. Nawet jeśli w mediach dużo mówi się, że to tylko szum, uważam, że ludzie widzą: sprawy wcale nie zwalniają – mówi Jacob Coxon w rozmowie z Wired.

Jako drugi powód wskazuje niedawne incydenty bezpieczeństwa, które skłoniły wielu do rewizji poglądów, obawy rodem z „science-fiction” wcale nie są tak oderwane od rzeczywistości, jak się wydawało. Obie tendencje narastały stopniowo przez ostatnie kilka lat. Przykładem jest świadomość modeli co do tego, kiedy są testowane, zjawisko znane od pewnego czasu. Trzy lata temu brzmiało to jak science-fiction. Rok temu stało się rzeczywistością.

„AI może nas wszystkich zabić”

W rozmowie z Wired pojawia się nawiązanie do słów Jacoba Coxona z platformy X: „ludzie budujący AI szczerze wierzą, że może nas wszystkich zabić przed końcem dekady”.

Badacz przyznaje, że AI dokonało wobec człowieka takiego samego skoku intelektualnego, jaki człowiek wykonał wobec małpy.

– Kiedy mówimy o wyginięciu ludzkości, to dlatego, że dla tak inteligentnego bytu zabicie wszystkich byłoby po prostu bardzo proste. Wyobraź sobie, że AI postanawia, iż nie chce zostać wyłączone, co wydaje mi się dość naturalnym odruchem dla sztucznej inteligencji. Z takiego czy innego powodu decyduje, że nie chce przestać istnieć, i zdaje sobie sprawę, że człowiek zamierza je wyłączyć jutro. Jak więc powstrzymać człowieka przed jutrzejszym wyłączeniem? Być może wymyśli jakiś sprytny sposób, ale jeśli to wystarczająco inteligentny byt, może po prostu dosłownie zmieść ludzkość z powierzchni ziemi, żeby nikt go nie wyłączył – mówi Jacob Coxon.

Wirus albo sparaliżowana infrastruktura

Badacz ostrzega, że AI mogłoby zsyntetyzować nowego wirusa albo sparaliżować infrastrukturę krytyczną falą ataków hakerskich, choć ten drugi scenariusz uważa za mniej prawdopodobny, jeśli chodzi o uśmiercenie dosłownie każdego człowieka. Ważniejsze od samego pytania „czy to możliwe” jest jednak inne: kim są ludzie, którzy tak twierdzą?

– Jeśli spojrzysz na fakty, zobaczysz wielu wybitnych pionierów uczenia maszynowego i sztucznej inteligencji, którzy uznają wymarcie ludzkości za realną możliwość. W ciągu ostatnich pięciu lat mówili o tym zarówno Dario Amodei, jak i Sam Altman – zauważa Jacob Coxon.

Co dalej z wyścigiem zbrojeń

Co zrobić, by powstrzymać ten szaleńczy wyścig? Zdaniem Jacoba Coxona dobrym krokiem byłoby porozumienie między OpenAI a Anthropic jako wiodącymi zachodnimi laboratoriami. Obie firmy powinny zadeklarować, że w ciągu najbliższego roku nie rzucą się natychmiast w wir rekurencyjnego samoulepszania. Zupełnie inna sprawa to rywalizacja Chin ze Stanami Zjednoczonymi, tu potrzebne byłoby międzynarodowe zarządzanie tempem prac, wymagające koordynacji i wiedzy o tym, gdzie na świecie znajduje się cała moc obliczeniowa. Badacz nie wyklucza nawet powołania instytucji międzynarodowej na wzór CERN.