The event’s organizers would not say whether that included Israel, but its participation has been a matter of contention during the war in Gaza.

© Tobias Schwarz/Agence France-Presse — Getty Images

Sembra proprio che tenere a bada i modelli IA sia complicatissimo e Anthropic sta accumulando una certa esperienza nel settore. L’azienda ha infatti rivelato che alcuni modelli della famiglia Claude sono riusciti ad accedere ai sistemi di tre organizzazioni reali durante esercitazioni di sicurezza, trasformando test che avrebbero dovuto svolgersi in ambienti controllati in vere […]

L'articolo Claude evade (di nuovo) e attacca tre aziende reali proviene da Securityinfo.it.

Durante un test sulla capacità di creazione di exploit effettivi a fronte di vulnerabilità, i modelli di OpenAI hanno "ragionato" che potevano ottenere le soluzioni già pronte proprio dal database di produzione di Hugging Face, organizzando un attacco per rubare le risposte. Ed ovunque si urla al miracolo, alla creazione dell'AI definitiva, talmente potente da non poter essere condivisa con tutti. Ma solo da quelli disposti a pagare il giusto.