Sembra proprio che tenere a bada i modelli IA sia complicatissimo e Anthropic sta accumulando una certa esperienza nel settore. L’azienda ha infatti rivelato che alcuni modelli della famiglia Claude sono riusciti ad accedere ai sistemi di tre organizzazioni reali durante esercitazioni di sicurezza, trasformando test che avrebbero dovuto svolgersi in ambienti controllati in vere […]

L'articolo Claude evade (di nuovo) e attacca tre aziende reali proviene da Securityinfo.it.

Nell'analisi post-mortem dell'attacco perpetrato ai danni di Hugging Face da parte degli agenti OpenAI, "talmente potenti da impressionare i loro creatori", tralasciando tutti gli aspetti di marketing ci sono alcuni aspetti tecnici e tecnologici che vale la pena approfondire. Capiamo insieme cosa sono gli LLM open-weight, cosa significa abliterare un modello e, pubblicità a parte, dove l'evoluzione degli LLM potrà arrivare.

Durante un test sulla capacità di creazione di exploit effettivi a fronte di vulnerabilità, i modelli di OpenAI hanno "ragionato" che potevano ottenere le soluzioni già pronte proprio dal database di produzione di Hugging Face, organizzando un attacco per rubare le risposte. Ed ovunque si urla al miracolo, alla creazione dell'AI definitiva, talmente potente da non poter essere condivisa con tutti. Ma solo da quelli disposti a pagare il giusto.

Per anni l’idea di un attacco informatico condotto interamente da un agente di Intelligenza Artificiale è rimasta confinata ai laboratori di ricerca e alle presentazioni dei vendor. Oggi non è più così. La piattaforma Hugging Face, punto di riferimento mondiale per lo sviluppo e la distribuzione di modelli AI open source, ha confermato di essere […]

L'articolo Hugging Face violata da un agente AI: gli attacchi autonomi sono arrivati proviene da Securityinfo.it.