Anthropic ha bloccato account in Yemen controllato dagli Houthi dopo aver rilevato che Claude era stato usato per aiutare lo sviluppo di un guided rocket e di altri concetti d’arma. Gli account erano arrivati a un test fallito e poi erano tornati sul chatbot per capire perché non avesse funzionato.
Il punto non è la generazione di testo in sé. Il modello è stato usato come un partner tecnico: provare un design, vedere il risultato, chiedere cosa non andava e come correggerlo. È questo ciclo di feedback a rendere più veloce la prototipazione di sistemi d’arma, anche quando il primo tentativo fallisce.
Per chi gestisce hosted LLM con funzioni di coding, troubleshooting o design, il caso mostra un abuso di seconda mano: il chatbot diventa un motore di iterazione rapida per lavoro tecnico dual use. Anthropic ha condiviso i risultati con partner esterni; il segnale rilevante è che il rischio non si ferma al contenuto prodotto, ma alla capacità di accelerare prove e correzioni su attività sensibili.