Anthropic heeft op aandringen van de Amerikaanse regering de toegang tot zijn krachtige Fable AI-model ingetrokken. Slechts enkele dagen na de lancering van het model Fable 5 heeft Anthropic zijn activiteiten opgeschort vanwege veiligheidsproblemen die door de Amerikaanse autoriteiten zijn geuit. In een verklaring op hun website heeft Anthropic aangekondigd dat zij de opdracht hebben gekregen om buitenlanders – zelfs buitenlanders die in de VS wonen – te verbieden om het Fable AI-model te gebruiken.
Anthropic heeft besloten om de toegang tot Fable 5 en de beperkte toegang tot Mythos 5 voor al hun klanten uit te schakelen. Ondertussen zijn Anthropic en de regering-Trump verwikkeld in een aparte juridische strijd over een bevel dat overheidsinstanties verbiedt om de kunstmatige intelligentie-instrumenten van het bedrijf te gebruiken. De Amerikaanse nationale veiligheidsautoriteiten hebben geen specifieke problemen met Fable gemeld, maar hebben de regering wel geïnformeerd over een bypass-methode (jailbreaking) van het model.
Jailbreaken is een proces waarbij modelbeschermingsbeperkingen worden omzeild, waardoor kwaadwillende hackers functies kunnen ontgrendelen. Anthropic heeft aangegeven dat ze een demonstratie hebben beoordeeld van deze specifieke techniek en hebben vastgesteld dat de kwetsbaarheden die werden geïdentificeerd relatief eenvoudig waren en ook door andere openbaar beschikbare modellen konden worden gedetecteerd.
Voorafgaand aan de release van het Claude Fable 5-model hadden leiders uit de financiële, technologische en overheidssector hun bezorgdheid geuit over de openbaarmaking van het model. Anthropic stond pre-releasetoegang toe aan een select aantal mensen, omdat de tool zo krachtig was dat het gevaarlijk kon zijn vanwege zijn vermogen om computersystemen te exploiteren of in gevaar te brengen.
