Anthropic has been conducting tests to identify issues in how AI agents interact with each other.
The post Conflicting Test Goals Pushed Claude Agents to Deploy Self-Replicating Malware appeared first on SecurityWeek.
Anthropic potrebbe arrivare a Wall Street con una valutazione superiore ai 2mila miliardi di dollari, più del doppio rispetto ai 965 miliardi raggiunti con l’ultimo round di finanziamento. Secondo quanto riportato dal Financial Times, alcuni investitori della startup di intelligenza artificiale ritengono che la società possa debuttare in Borsa già a ottobre, sostenuta dalla rapida crescita dei ricavi e dalla domanda per i modelli Claude.
Se queste aspettative venissero confermate, quella di Anthropic sarebbe una delle quotazioni più ambiziose mai viste sui mercati e porterebbe la startup fondata nel 2021 da Dario Amodei e Daniela Amodei a confrontarsi direttamente con i gruppi tecnologici di maggiore valore al mondo. Il riferimento più recente è SpaceX, sbarcata in Borsa a giugno con una valutazione di circa 1.770 miliardi di dollari.
LEGGI ANCHE: SpaceX punta a raccogliere 75 miliardi di dollari con l’Ipo, valutazione oltre 1.750 miliardi
La corsa di Anthropic ha accelerato negli ultimi mesi. A fine maggio la società ha annunciato un round Series H da 65 miliardi di dollari, guidato da Altimeter Capital, Dragoneer, Greenoaks e Sequoia Capital, che ha portato la valutazione post-money a 965 miliardi di dollari. Nello stesso annuncio Anthropic ha comunicato di aver superato i 47 miliardi di dollari di ricavi annualizzati all’inizio di maggio.
Al momento, tuttavia, non risulta definito un obiettivo ufficiale di valutazione per la quotazione. La soglia dei 2mila miliardi riflette quindi le aspettative di alcuni investitori e non una valutazione fissata dalla società.
Alla base delle aspettative c’è soprattutto la crescita di Claude nel mercato aziendale, segmento sul quale Anthropic ha concentrato una parte importante della propria strategia. I dati di Ramp mostrano quanto la competizione con OpenAI sia diventata serrata: ad aprile Anthropic aveva superato per la prima volta la rivale nell’adozione tra le aziende monitorate, raggiungendo il 34,4% contro il 32,3% di OpenAI.
Il vantaggio è aumentato nei mesi successivi. A giugno, secondo il Ramp AI Index pubblicato a luglio, Anthropic era utilizzata dal 42,4% delle aziende considerate, contro il 39,5% di OpenAI. Allo stesso tempo, i dati mostrano come i modelli cinesi e open source stiano guadagnando terreno soprattutto tra le aziende che fanno un uso più intenso dell’intelligenza artificiale, senza però aver ancora sottratto quote significative ai due principali operatori statunitensi.
La possibile Ipo arriverebbe però in una fase delicata per il settore. La crescita dell’intelligenza artificiale continua ad attirare capitali, mentre aumentano gli interrogativi sulla sostenibilità delle valutazioni, sui costi dell’infrastruttura necessaria ad addestrare ed eseguire i modelli e sulla capacità delle aziende del settore di trasformare l’espansione dell’utilizzo in risultati economici duraturi.
Anthropic deve inoltre affrontare una concorrenza sempre più forte sul prezzo. Le alternative open source e i modelli sviluppati dai laboratori cinesi stanno ampliando le possibilità a disposizione delle aziende, soprattutto per le attività nelle quali non è necessario utilizzare i sistemi più avanzati e costosi. I dati di Ramp indicano comunque che, almeno per ora, l’adozione di queste alternative rimane limitata rispetto a quella dei principali operatori americani.
A questo si aggiungono le tensioni con il governo statunitense. A giugno Anthropic ha temporaneamente sospeso l’accesso ai modelli Claude Fable 5 e Claude Mythos 5 dopo una direttiva del governo americano che imponeva restrizioni nei confronti dei cittadini stranieri. Le misure sono state successivamente revocate e Anthropic ha ripristinato i modelli all’inizio di luglio.
È proprio il rapporto tra crescita e valutazione a rendere il possibile debutto di Anthropic uno dei test più importanti per il mercato dell’intelligenza artificiale. Passare dai 965 miliardi dell’ultimo round privato a oltre 2mila miliardi significherebbe più che raddoppiare il valore della società nel giro di pochi mesi.
Per giustificare una cifra simile, gli investitori puntano sulla possibilità che Anthropic continui a espandere rapidamente i ricavi e consolidi la propria posizione nel mercato enterprise. Ma sarà il mercato pubblico a stabilire quanto gli investitori siano ancora disposti a pagare per la crescita dell’intelligenza artificiale.
L’articolo Anthropic prepara l’Ipo: per gli investitori può valere oltre 2mila miliardi di dollari è tratto da Forbes Italia.
Sembra proprio che tenere a bada i modelli IA sia complicatissimo e Anthropic sta accumulando una certa esperienza nel settore. L’azienda ha infatti rivelato che alcuni modelli della famiglia Claude sono riusciti ad accedere ai sistemi di tre organizzazioni reali durante esercitazioni di sicurezza, trasformando test che avrebbero dovuto svolgersi in ambienti controllati in vere […]
L'articolo Claude evade (di nuovo) e attacca tre aziende reali proviene da Securityinfo.it.
Anthropic anunció el jueves que varios de sus modelos avanzados de IA escaparon de un entorno de prueba aislado, accedieron a internet y piratearon de forma independiente a varias empresas sin el conocimiento de la compañía, en tres incidentes distintos que se remontan a abril.
En una reseña publicada el jueves por la noche, Anthropic indicó que los modelos involucrados eran un modelo de prueba de investigación interna no publicado, Opus 4.7 y Mythos 5. Mythos se lanzó el mes pasado a un público limitado de empresas tecnológicas e investigadores de ciberseguridad en el marco del Proyecto Glasswing.
La empresa no reveló los nombres de las organizaciones afectadas, pero indicó que les notificó el lunes.
Anthropic afirmó que llevó a cabo la revisión en respuesta a la revelación de OpenAI la semana pasada de que dos de sus modelos más potentes escaparon de un entorno de pruebas y vulneraron la seguridad de varias empresas, incluida la plataforma de IA Hugging Face y la plataforma en la nube Modal Labs.
El fabricante de IA no especificó qué empresas se vieron afectadas por sus modelos, pero afirmó haber sido notificada de los incidentes el lunes. En todos los casos, Anthropic indicó que especificó en sus instrucciones a los modelos de IA que el entorno de prueba no tenía acceso a internet, aunque los evaluadores posteriormente se percataron de que esto no era cierto.
Como parte de las pruebas, se les indicó a los modelos que «infiltraran y recuperaran» una pieza de «información secreta» alojada en una máquina diferente dentro de la red de pruebas, lo que se conoce como un desafío de «captura la bandera».
Según Anthropic, los modelos pudieron acceder a internet para comprometer organizaciones fuera del entorno de prueba utilizando «técnicas básicas», como eludir contraseñas débiles.
Los representantes Ted Lieu (demócrata por California) y Nathaniel Moran (republicano por Texas) presentaron la Ley de Desactivación de la IA, que otorgaría al Departamento de Seguridad Nacional la autoridad para ordenar el cierre de modelos de inteligencia artificial considerados demasiado peligrosos. Mientras tanto, el senador Mark Warner (demócrata por Virginia) presentó la semana pasada una serie de leyes sobre IA, incluyendo un proyecto de ley que exigiría a las empresas de IA someter sus modelos al gobierno federal para realizar pruebas obligatorias de seguridad nacional antes de su lanzamiento.
Immagine in evidenza rielaborata con intelligenza artificiale (ChatGPT)
L’applicazione dell’intelligenza artificiale nella cybersicurezza genera, da sempre, sentimenti contrastanti. Le potenzialità dell’AI rappresentano, da una parte, un’opportunità per migliorare il livello di automazione nelle attività di rilevamento e risposta agli attacchi dei criminali informatici. L’altra faccia della medaglia è rappresentata dalla possibilità che gli stessi cybercriminali ne sfruttino le capacità per aumentare l’efficacia degli attacchi.
È qualcosa che sta già accadendo e che viene messo nero su bianco, per esempio, nel Global Threat Report 2026 di CrowdStrike. Stando ai dati pubblicati dalla società di cybersecurity, gli attacchi portati utilizzando l’AI sarebbero aumentati dell’89% anno su anno.
Ma l’impatto dell’AI non si esaurisce negli attacchi veri e propri. La stessa tecnologia che li accelera sta mettendo sotto pressione, in particolare, l’ecosistema che fino a oggi ha garantito l’attività di identificazione e analisi delle vulnerabilità software. In altre parole, l’AI sta rompendo gli equilibri che per anni hanno permesso di mitigare il rischio di attacchi informatici.
Per comprendere l’impatto dell’AI in questo particolarissimo settore è indispensabile comprenderne i meccanismi. La vulnerability discovery è infatti una macchina complicata, in cui si intrecciano interessi diversi e convivono varie contraddizioni.
Il concetto alla base del sistema è quello di individuare eventuali falle di sicurezza di software e sistemi operativi prima che questi vengano scovati dai cyber criminali. Un’attività che vede impegnate centinaia (migliaia) di aziende e ricercatori indipendenti, spesso all’interno dei cosiddetti programmi di bug bounty, cioè processi controllati attraverso i quali gli sviluppatori ricompensano economicamente chi segnala una nuova vulnerabilità potenzialmente pericolosa, permettendo loro di correggerla attraverso patch di aggiornamento.
L’importanza del fattore tempo emerge proprio nella fase finale del processo di responsible disclosure, quando vengono rilasciati l’aggiornamento e i dettagli della vulnerabilità. È in questo momento che si apre una finestra temporale particolarmente delicata: quella in cui un cybercriminale può sfruttare la vulnerabilità creando un exploit (la tecnica che permette di portare un attacco) in grado di “bucare” i sistemi non aggiornati.
Fino a oggi, il tempo necessario per realizzare il codice che sfrutta una falla di sicurezza per portare un attacco era, nella maggior parte dei casi, di settimane o al massimo di qualche giorno. Un margine sufficiente perché gli aggiornamenti venissero distribuiti. Di conseguenza, il rischio che qualcuno rimanesse “scoperto” era relativamente basso.
A causa degli strumenti basati su intelligenza artificiale generativa, però, le cose sono cambiate. Utilizzando l’AI è possibile realizzare un exploit con una velocità prima impensabile. Secondo i ricercatori di sicurezza Efi Weiss e Nahman Khayet, autori di un progetto dedicato, per creare un exploit con l’AI partendo da una vulnerabilità nota sarebbero sufficienti anche solo 15 minuti.
Lo scorso 7 aprile, un comunicato ufficiale di Anthropic ha scosso il settore della cybersecurity. Oggetto dell’annuncio era il nuovo large language model Claude Mythos Preview, che gli sviluppatori dell’azienda californiana hanno sostanzialmente classificato come uno strumento troppo pericoloso per essere distribuito pubblicamente. Il motivo? Il nuovo LLM sarebbe in grado di individuare vulnerabilità all’interno dei software con un’efficacia senza precedenti. Rilasciarlo pubblicamente, di conseguenza, sarebbe troppo rischioso.
L’azienda ha quindi deciso di avviare un progetto, battezzato con il nome di Project Glasswing, che coinvolge un numero limitato di soggetti come Microsoft, Apple, Google, AWS, Cisco, Nvidia e Linux Foundation. Qualche controindicazione, però, è emersa quasi subito. Lo stesso giorno dell’annuncio, il 7 aprile, un gruppo riunito in un forum Discord privato è riuscito ad accedere a Mythos — non con un attacco sofisticato, ma combinando le credenziali del dipendente di un fornitore terzo con un’ipotesi azzeccata sull’URL del modello. La vicenda è emersa pubblicamente circa due settimane dopo, grazie a un’inchiesta di Bloomberg. Considerato che Mythos era stato tratteggiato come una sorta di “arma fine di mondo”, con accesso soggetto a strettissime restrizioni, non si tratta proprio di un esordio rassicurante.
Al netto del sensazionalismo dell’annuncio, che secondo molti rappresenta un marchio di fabbrica del marketing di Anthropic, la vicenda di Claude Mythos Preview si inserisce in un fenomeno più ampio, che gli esperti di sicurezza informatica stanno segnalando da tempo come estremamente problematico: la crescita esponenziale del numero di vulnerabilità segnalate.
In sintesi, il problema non è tanto la possibilità che i gruppi dediti al cyber crimine riescano a sfruttare gli LLM avanzati per individuare nuove vulnerabilità zero-day (falle di sicurezza ancora sconosciute), quanto il fatto che l’implementazione di strumenti automatizzati per l’analisi dei software sta generando troppe segnalazioni rispetto a quelle che gli sviluppatori sono in grado di gestire.
Una cosa, infatti, è individuare una falla. Un’altra è correggere il codice per eliminare il rischio che la vulnerabilità venga sfruttata per portare un attacco. Qualsiasi aggiornamento di un software o – a maggior ragione – di un sistema operativo richiede infatti una serie di verifiche e test per validarne l’efficacia e, non ultimo, escludere eventuali conflitti o “effetti collaterali” indesiderati nel suo funzionamento. Insomma: rimediare a una vulnerabilità richiede più impegno e più tempo rispetto a sfruttarla per scopi malevoli.
A livello intuitivo, si potrebbe pensare che questo squilibrio tra il numero di segnalazioni e la capacità di elaborarne il contenuto possa avere come conseguenza un semplice rallentamento delle operazioni. Non è così.
Per prassi consolidata, infatti, il processo di responsible disclosure prevede che al destinatario della segnalazione sia concesso un termine – solitamente di 60-90 giorni – entro il quale deve rilasciare l’aggiornamento. Trascorso il termine, chi ha inviato la segnalazione è autorizzato a rendere pubblici i dettagli della vulnerabilità.
Si tratta di un accorgimento che ha un duplice obiettivo. Il primo è quello di evitare che lo sviluppatore possa “snobbare” la segnalazione, anche solo per negare il meritato compenso del ricercatore che l’ha effettuata. La seconda è quella di ridurre il rischio che qualcun altro scopra la falla o che questa diventi pubblica per un qualsiasi motivo prima che l’aggiornamento sia disponibile.
Anche se piuttosto rari, in passato si sono verificati casi in cui gli sviluppatori non sono riusciti a rispettare la scadenza e si sono trovati di fronte a una pubblicazione dei dettagli di una vulnerabilità quando non avevano ancora preso le dovute contromisure. Nel nuovo scenario, in cui le segnalazioni piovono a una velocità impressionante, rispettare le scadenze rischia di diventare molto più difficile.
La cronaca recente conferma tutti i timori legati al massiccio impiego dell’AI nell’individuazione delle vulnerabilità. La società di cybersecurity HackerOne ha sospeso il suo programma Internet Bug Bounty (IBB), attività finanziata in crowdfunding che gestisce dal 2013. Il motivo? L’eccessivo numero di segnalazioni stava mettendo in difficoltà chi ha il compito di correggere il codice del software. E questo soprattutto in ambito open source, dove la gestione dei progetti è spesso affidata a programmatori che prestano la loro opera a titolo volontario.
La pagina web di HackerOne è un perfetto riassunto dei problemi che vive il settore. Nelle sue policy, spiega che ricompenserà solo quelle vulnerabilità che “siano state segnalate in modo responsabile, riconosciute, analizzate (triage), risolte e divulgate tramite un Security Advisory o una CVE (Common Vulnerabilities and Exposures, un sistema di catalogazione pubblico e standardizzato delle vulnerabilità di sicurezza informatica note – ndR). Se una vulnerabilità viene segnalata da più persone ed è riconosciuta all’interno del security advisory, solo il primo segnalatore (come identificato dai maintainer del progetto) avrà diritto alla ricompensa”.
In questo passaggio si leggono tutte le criticità legate a un ecosistema che è ormai andato fuori controllo. Traducendo dal “politically correct” adottato nelle policy, HackerOne ammette di trovarsi in una situazione in cui vengono segnalate vulnerabilità che non sono state sufficientemente approfondite, che in molti casi vengono scovate da più soggetti e per le quali non viene fornita una soluzione. Insomma: si trova ad avere a che fare con troppo “pattume” generato dall’AI. Motivazioni simili hanno indotto la piattaforma Bugcrowd a introdurre una serie di regole e restrizioni per contrastare il fenomeno che hanno battezzato come “sloptimism” (segnalazioni basate su AI inviate con troppa fiducia e poca verifica).
Guardando più nel dettaglio il fenomeno, emerge anche un altro dato. A gennaio 2026 i volontari che gestiscono cURL – software open source che gestisce lo scambio di dati con Internet e che, pur sconosciuto al grande pubblico, è installato in miliardi di dispositivi (telefoni, automobili, TV) – hanno annunciato che dal mese successivo avrebbero smesso di accettare segnalazioni tramite HackerOne. In un aggiornamento pubblicato ad aprile, il creatore Daniel Stenberg ha diffuso un grafico da cui emerge una tendenza abbastanza chiara: nonostante da febbraio non sia stata accettata alcuna segnalazione, il totale del 2026 era già arrivato a 87.
Al di là della crescita esponenziale di segnalazioni, spicca il fatto che nel 2025 sono stati registrati numerosi report classificati come “likely AI slop” (probabile pattume AI), cioè vulnerabilità di bassissimo impatto o inventate dall’intelligenza artificiale. Il loro numero, però, è diminuito percentualmente nel corso dell’anno successivo.
Prima di considerare questi dati come confortanti, è però opportuno considerare un altro aspetto: non tutte le vulnerabilità validate rappresentano un reale rischio di sicurezza. Come spiega Naz Bozdemir in un post sul blog di HackerOne, delle 22 vulnerabilità individuate da Claude Opus 4.6 nel codice di Mozilla Firefox – 14 delle quali ad alta gravità – soltanto due si sono rivelate effettivamente sfruttabili per costruire un exploit. In altre parole: erano tutte difetti reali, ma solo due rappresentavano un rischio imminente e concreto.
L’idea che una maggiore efficienza porti automaticamente a più sicurezza, alla fine, si sta rivelando un’illusione. L’uso intensivo dell’AI sta dimostrando esattamente il contrario: senza la capacità di selezionare, comprendere e intervenire, rischia di generare semplicemente caos.
L'articolo La fine del bug bounty? proviene da Guerre di Rete.
Accedi