신화에서 일상으로: 앤트로픽의 '클로드 5'가 여는 에이전틱 AI의 시대 > K-wave Trends

De onlangs uitgebrachte 'Claude Fable 5' en 'Claude Mythos 5' zijn strategische modellen die op dezelfde motor zijn gebaseerd, maar gedifferentieerde veiligheidsleuningen hebben, afhankelijk van het gebruiksdoel. Fable 5 is ontworpen voor algemene gebruikers en zakelijke klanten, zodat iedereen het met vertrouwen kan gebruiken door strikte filtering toe te passen op gebieden met potentieel voor misbruik, zoals cyberbeveiliging of de productie van biologische wapens. Aan de andere kant heft Mythos 5, dat als eerste beschikbaar is voor beveiligingsexperts en overheidsinstanties, deze beperkingen op, waardoor ze een hoge mate van autonomie krijgen om kwetsbaarheden te analyseren en verdedigingsmechanismen op te bouwen vanuit het perspectief van een aanvaller. Antropic heeft een multi-verdedigingssysteem gebouwd dat, als er een gevaarlijke vraag wordt gedetecteerd in Fable 5, het submodel 'Claude Opus 4.8' onmiddellijk ingrijpt en het antwoord omzeilt. Dit wordt beoordeeld als een zeer strategische keuze om mogelijke misbruikscenario's systematisch te blokkeren en tegelijkertijd krachtige prestaties aan het publiek te leveren.

De prestaties van de Claude 5-serie liggen op een niveau dat compleet anders is dan bestaande AI-modellen. Met name de prestaties op het gebied van software-engineering zijn opmerkelijk, zoals in het geval van betalingsbedrijf Stripe, waar de migratie van een codebasis van 50 miljoen regels, die naar verwachting enkele maanden zou duren, in slechts één dag werd voltooid. Dit gaat verder dan alleen het genereren van code en demonstreert het vermogen van een agent om de algemene structuur van het project te begrijpen, de logische consistentie te behouden en problemen zelfstandig op te lossen. Bovendien vervullen ze op het gebied van wetenschappelijk onderzoek de rol van 'digitale onderzoekers' die verder gaan dan eenvoudige kenniswerkers door het eiwitontwerpproces met meer dan tien keer te versnellen of beter te presteren dan het bestaande publicatiemodel van academische tijdschriften in complex genoomonderzoek. Deze veranderingen resulteren in het maximaliseren van de productiviteit van menselijke experts op alle gebieden die gespecialiseerde kennis vereisen, inclusief financiële analyse, strategische planning en UI-herstel met behulp van vision AI.

Krachtige prestaties worden altijd gevolgd door de zware taak van ‘beveiliging’. Deskundigen waarschuwen dat de opkomst van het Mythos-model een krachtig signaal is dat de fundamenten van cyberveiligheid doet wankelen. Dit komt omdat we een tijdperk zijn binnengetreden waarin AI binnen enkele minuten automatisch exploits (aanvalscodes) detecteert en zelfs genereert, terwijl in het verleden menselijke aanvallers tijd en geld moesten besteden aan het vinden van systeemkwetsbaarheden. Dit betekent dat de methode van 'regulier patchbeheer' niet langer effectief is vanuit het perspectief van de onderneming, en dat een op beleid gebaseerd autonoom patchautomatiseringssysteem om te reageren op bedreigingen die in realtime veranderen een essentiële overlevingsstrategie is geworden. Vooral nu AI de kloof tussen openbaarmaking van kwetsbaarheden en aanvallen dramatisch verkleint, worden verdedigers geconfronteerd met een nieuwe ‘veiligheidspandemie’ waarbij ze steeds veranderende aanvalsoppervlakken in realtime, 24 uur per dag, moeten identificeren en zich hiertegen moeten verdedigen.

Antropic is zich bewust van deze bedreigingen en werkt samen met de overheid en grote financiële instellingen om zijn defensiesysteem te verbeteren door middel van initiatieven ter verbetering van de veiligheid, zoals 'Project Glasswing'. Het Mythos 5-model wordt als eerste aangeboden aan beveiligingspartners, waardoor verdedigers een ‘asymmetrisch voordeel’ kunnen behalen door kwetsbaarheden sneller te ontdekken en te verhelpen dan aanvallers. Antropic geeft echter zelf toe dat de waarborgen van zijn model niet perfect zijn en heeft een strikt beveiligingsbeleid ingevoerd, zoals een vereiste voor het bewaren van gegevens gedurende 30 dagen, om zich te beschermen tegen zogenaamde 'jailbreak'-pogingen. Hoewel er strategieën worden aangenomen om de deelname van externe experts aan bugbounties aan te moedigen en om jailbreakpogingen zo moeilijk en duur mogelijk te maken, blijft het fenomeen dat de snelheid van de technologische ontwikkeling de snelheid van de constructie van verdedigingsmechanismen overtreft nog steeds een moeilijk op te lossen probleem.

De lancering van Claude 5 zal naar verwachting een belangrijk keerpunt zijn in het verstevigen van de waarde van het bedrijf in de markt voorafgaand aan de aanstaande beursintroductie van Antropic. De laatste tijd heeft Antropic er alles aan gedaan om leiderschap op de AI-markt veilig te stellen door een omzetgroei te registreren die de concurrentie overtreft. Bovendien laat het feit dat checkpoints van de volgende generatie zoals 'Oceanus' al de testfase van het rode team zijn ingegaan, duidelijk zien hoe agressief Antropic een ontwikkelingscyclus in stand houdt om twee vliegen in één klap te vangen: de prestaties en de veiligheid van het model. De toekomstige AI-concurrentie zal verder gaan dan alleen het creëren van slimmere modellen en zal worden bepaald door wie veiligere en betrouwbaardere agenten kan bouwen en deze kan integreren in de kerninfrastructuur van een bedrijf. Dit gaat verder dan louter technologische concurrentie en verspreidt zich naar een mondiale strijd om de hegemonie die bepalend is voor de nationale veiligheid en het industriële concurrentievermogen.