Sembra proprio che tenere a bada i modelli IA sia complicatissimo e Anthropic sta accumulando una certa esperienza nel settore. L’azienda ha infatti rivelato che alcuni modelli della famiglia Claude sono riusciti ad accedere ai sistemi di tre organizzazioni reali durante esercitazioni di sicurezza, trasformando test che avrebbero dovuto svolgersi in ambienti controllati in vere […]

L'articolo Claude evade (di nuovo) e attacca tre aziende reali proviene da Securityinfo.it.

Seconda puntata della serie che sfrutta le notizie catastrofiche, questa volta è Mythos di Anthropic ad aver fatto l'impensabile, per capire meglio le tecnologie AI, lasciare da parte l'hype e provare a capire come funzionano nella pratica le cose. In questa puntata parliamo di ollama e del modello qwen, nella versione standard ed in quella abliterata o, per meglio dire, senza censure.

Nell'analisi post-mortem dell'attacco perpetrato ai danni di Hugging Face da parte degli agenti OpenAI, "talmente potenti da impressionare i loro creatori", tralasciando tutti gli aspetti di marketing ci sono alcuni aspetti tecnici e tecnologici che vale la pena approfondire. Capiamo insieme cosa sono gli LLM open-weight, cosa significa abliterare un modello e, pubblicità a parte, dove l'evoluzione degli LLM potrà arrivare.

Durante un test sulla capacità di creazione di exploit effettivi a fronte di vulnerabilità, i modelli di OpenAI hanno "ragionato" che potevano ottenere le soluzioni già pronte proprio dal database di produzione di Hugging Face, organizzando un attacco per rubare le risposte. Ed ovunque si urla al miracolo, alla creazione dell'AI definitiva, talmente potente da non poter essere condivisa con tutti. Ma solo da quelli disposti a pagare il giusto.