신화에서 일상으로: 앤트로픽의 '클로드 5'가 여는 에이전틱 AI의 시대 > K-wave Trends

I recentemente rilasciati 'Claude Fable 5' e 'Claude Mythos 5' sono modelli strategici che si basano sullo stesso motore, ma hanno protezioni di sicurezza differenziate a seconda dello scopo di utilizzo. Fable 5 è progettato per utenti generici e clienti aziendali in modo che chiunque possa utilizzarlo con sicurezza applicando filtri rigorosi alle aree con potenziale uso improprio, come la sicurezza informatica o la produzione di armi biologiche. D'altra parte, Mythos 5, che è disponibile per primo agli esperti di sicurezza e alle agenzie governative, elimina queste restrizioni, dando loro un elevato grado di autonomia per analizzare le vulnerabilità e costruire difese dal punto di vista di un aggressore. Antropic ha costruito un sistema di difesa multipla che, se viene rilevata una query pericolosa in Fable 5, il sottomodello "Claude Opus 4.8" interviene immediatamente e aggira la risposta. Questa viene valutata come una scelta altamente strategica per bloccare sistematicamente possibili scenari di abuso offrendo al contempo prestazioni potenti al pubblico.

Le prestazioni mostrate dalla serie Claude 5 sono ad un livello completamente diverso dai modelli AI esistenti. Notevoli sono soprattutto i risultati ottenuti nel campo dell'ingegneria del software, come nel caso della società di pagamenti Stripe, dove in un solo giorno è stata completata la migrazione di una base di codici di 50 milioni di righe, che avrebbe richiesto diversi mesi. Ciò va oltre la semplice generazione di codice e dimostra la capacità di un agente di comprendere la struttura complessiva del progetto, mantenere la coerenza logica e risolvere i problemi da solo. Inoltre, nel campo della ricerca scientifica, stanno svolgendo il ruolo di “ricercatori digitali” che vanno oltre i semplici lavoratori della conoscenza accelerando il processo di progettazione delle proteine ​​di oltre 10 volte o superando il modello di pubblicazione su riviste accademiche esistente nella ricerca sul genoma complesso. Questi cambiamenti stanno massimizzando la produttività degli esperti umani in tutte le aree che richiedono conoscenze specializzate, tra cui analisi finanziaria, pianificazione strategica e ripristino dell’interfaccia utente utilizzando l’intelligenza artificiale visiva.

Una prestazione potente è sempre seguita dal pesante compito di “sicurezza”. Gli esperti avvertono che l’emergere del modello Mythos è un segnale forte che scuote le fondamenta della sicurezza informatica. Questo perché siamo entrati in un’era in cui l’intelligenza artificiale rileva automaticamente e addirittura genera exploit (codici di attacco) in pochi minuti, mentre in passato gli aggressori umani dovevano spendere tempo e denaro per trovare le vulnerabilità del sistema. Ciò significa che il metodo di “gestione regolare delle patch” non è più efficace dal punto di vista aziendale e che un sistema di automazione delle patch autonomo e basato su policy per rispondere alle minacce che cambiano in tempo reale è diventato una strategia di sopravvivenza essenziale. In particolare, poiché l’intelligenza artificiale sta riducendo drasticamente il divario tra la divulgazione delle vulnerabilità e l’attacco, i difensori si trovano ad affrontare una nuova “pandemia di sicurezza” in cui devono identificare e difendersi da superfici di attacco in continua evoluzione in tempo reale, 24 ore al giorno.

Antropic è consapevole di queste minacce e sta collaborando con il governo e le principali istituzioni finanziarie per rafforzare il proprio sistema di difesa attraverso iniziative di miglioramento della sicurezza come il "Progetto Glasswing". Il modello Mythos 5 viene offerto innanzitutto ai partner di sicurezza, aiutando i difensori a ottenere un "vantaggio asimmetrico" scoprendo e risolvendo le vulnerabilità più velocemente degli aggressori. Tuttavia, la stessa Antropic ammette che le misure di salvaguardia del suo modello non sono perfette e ha introdotto rigide politiche di sicurezza, come un requisito di conservazione dei dati di 30 giorni, per proteggersi dai cosiddetti tentativi di "jailbreak". Sebbene si stiano adottando strategie per incoraggiare la partecipazione di esperti esterni ai bug bounty e per rendere i tentativi di jailbreak quanto più difficili e costosi possibile, il fenomeno secondo cui la velocità dello sviluppo tecnologico sta superando la velocità di costruzione dei meccanismi di difesa rimane ancora un problema difficile da risolvere.

Si prevede che il lancio di Claude 5 rappresenterà un importante punto di svolta nel consolidamento del valore dell'azienda sul mercato in vista dell'imminente IPO di Antropic. Recentemente, Antropic ha fatto ogni sforzo per assicurarsi la leadership nel mercato dell’intelligenza artificiale registrando una crescita delle vendite che supera i suoi concorrenti. Inoltre, il fatto che i checkpoint di nuova generazione come "Oceanus" siano già entrati nella fase di test della squadra rossa mostra chiaramente quanto Antropic stia mantenendo un ciclo di sviluppo aggressivo per prendere due piccioni con una fava: prestazioni e sicurezza del modello. La futura competizione sull’intelligenza artificiale andrà oltre la semplice creazione di modelli più intelligenti e sarà determinata da chi sarà in grado di costruire agenti più sicuri e affidabili e di integrarli nell’infrastruttura principale di un’azienda. Ciò sta andando oltre la semplice competizione tecnologica e si sta diffondendo in una lotta globale per l’egemonia che determina la sicurezza nazionale e la competitività industriale.