Grupa nieupoważnionych użytkowników uzyskała dostęp do modelu Mythos – narzędzia, które według samej firmy jest na tyle zaawansowane, że mogłoby posłużyć do przeprowadzania groźnych ataków cybernetycznych. Anthropic potwierdził, że prowadzi dochodzenie w tej sprawie.

Niekontrolowany dostęp do Mythosa mógłby wstrząsnąć światem cyberbezpieczeństwa. Badacze obawiają się, że to i inne zaawansowane narzędzia AI mogą umożliwić hakerom wywołanie powszechnego chaosu. Część z nich dostrzega jednak pewien potencjał w wydaniach o ograniczonym dostępie jako narzędzia do łatania luk, zanim trafią w niepowołane ręce.

Incydent rzuca też światło na trudności z kontrolowaniem potężnych modeli i technik AI w warunkach bezwzględnego wyścigu o komercjalizację. Na początku tego miesiąca Anthropic musiał działać w trybie alarmowym, by zahamować wyciek wewnętrznego kodu źródłowego zawierającego instrukcje sterujące popularną aplikacją Claude Code. Zaledwie kilka dni później firma ujawniła istnienie modelu Mythos, zastrzegając jednocześnie, że wstrzymuje jego publiczne udostępnienie na czas nieokreślony. Powodem są wyniki testów wskazujące na wysoką skuteczność narzędzia w zadaniach związanych z bezpieczeństwem komputerowym, między innymi w wykrywaniu tysięcy błędów w oprogramowaniu.

Anthropic zapowiedział, że dostęp do Mythosa zostanie ograniczony do około 50 firm i organizacji zarządzających infrastrukturą krytyczną i oprogramowaniem. Celem jest wykorzystanie modelu do znajdowania luk w zabezpieczeniach, zanim zrobią to hakerzy.