통제된 초지능의 시대: 앤트로픽 '클로드 페이블 5'가 던진 파격적인 승부수 > K-wave Trends

L'emergere di Claude Fable 5 annuncia un cambiamento epocale nell'ecosistema dell'ingegneria del software. La capacità di questo modello di andare oltre il semplice completamento del codice e di migrare un'enorme base di codice di decine di milioni di righe in un solo giorno è a un livello in cui un team di sviluppo può completare autonomamente un'attività che richiederebbe più di due mesi. I progressi in termini di produttività sperimentati nei primi test condotti da aziende globali come Stripe hanno dimostrato che l’intelligenza artificiale può ora andare oltre gli assistenti e diventare veri e propri “ingegneri del software”, in grado di comprendere e mantenere strutture complesse. In particolare, sta attirando un'attenzione straordinaria da parte del settore perché surclassa altri modelli in benchmark rigorosi come FrontierCode e garantisce un livello di qualità immediatamente utilizzabile nei siti aziendali.

In questa versione, Antropic introduce una tecnica di progettazione di sicurezza unica chiamata "commutazione automatica basata su sorter". Quando Fable 5 rileva attacchi alla sicurezza informatica, progettazione di armi biologiche, sfruttamento chimico e tentativi di "distillazione" di estrarre conoscenza da modelli concorrenti, passa immediatamente la risposta al modello inferiore "Opus 4.8". Invece di compromettere l’esperienza dell’utente con il blocco incondizionato, questa è una strategia avanzata per garantire che le richieste rischiose vengano elaborate in un ambiente controllato e che le attività di routine vengano eseguite al massimo delle prestazioni. Con oltre 1.000 ore di test esterni da parte del team rosso e premi sui bug per ridurre al minimo la possibilità di jailbreak universali, il sistema offre un'esperienza utente fluida in oltre il 95% delle sessioni, cercando di essere sicuro ed efficiente.

Il modello Mythos 5 potenziato in termini di sicurezza opera all’interno di un quadro strategico chiamato “Progetto Glasswing”. In questo modello sono state rimosse le misure di sicurezza e viene fornito solo selettivamente a organizzazioni legate alla sicurezza nazionale, incluso il governo degli Stati Uniti, e a organizzazioni partner verificate come Samsung Electronics e SK Hynix. A tal fine, Antropic ha lanciato il Trusted Access Program, completando una doppia struttura che blocca la possibilità di uso improprio della tecnologia supportando al contempo capacità all’avanguardia per la ricerca sulla sicurezza e la costruzione di infrastrutture di difesa. Questo ecosistema chiuso blocca i tentativi dei paesi autoritari di rubare la tecnologia dell’intelligenza artificiale e funge da linea di difesa per impedire che il potente potere distruttivo del modello di intelligenza artificiale di frontiera si riversi su entità dannose.

I risultati ottenuti da Vision Fable 5 nel campo dell'intelligenza artificiale e del lavoro basato sulla conoscenza hanno completamente superato i limiti esistenti. La capacità di ripristinare il codice sorgente di un’applicazione web complessa semplicemente guardando un’immagine, o di estrarre numeri precisi da un grafico complesso in un articolo scientifico, significa che l’intelligenza artificiale è andata oltre l’imitazione del ragionamento visivo umano. Inoltre, le capacità di analisi delle cause e di calcolo del valore atteso dimostrate dalla piattaforma di analisi finanziaria suggeriscono che l’intelligenza artificiale penetrerà profondamente nel lavoro professionale di alto livello come consulenza, diritto e pianificazione strategica. In particolare, il ragionamento visivo autonomo, che risolve giochi complessi utilizzando solo le informazioni dello schermo di gioco senza l'ausilio di strumenti aggiuntivi, è un esempio che mostra come Fable 5 si sia evoluto in un agente che esegue un pensiero complesso piuttosto che in un modello linguistico semplice.

Anche la politica sui dati è uno dei cambiamenti principali di questo annuncio. Antropic ha annunciato che preserverà tutto il traffico proveniente da Fable 5 e Mythos 5 per 30 giorni e lo utilizzerà per rilevare nuove tecniche di attacco e ridurre i tassi di falsi positivi. Questa non è una misura per raccogliere dati per l’apprendimento del modello, ma solo per mantenere un ecosistema sicuro e prevenire incidenti di sicurezza. Inoltre, hanno annunciato l’intenzione di aprire un programma separato di accesso fiduciario nel campo della biologia per aprire le capacità a livello di Mythos alla ricerca per l’interesse pubblico dell’umanità, come lo sviluppo di trattamenti. Questo è uno sguardo alla filosofia di Antropic di non nascondere una tecnologia potente, ma di massimizzare i benefici della tecnologia attraverso una gestione trasparente e politiche di accesso responsabili.