Notizia · · Per tutti
OpenAI rende noti altri quattro incidenti con i suoi agenti: ora sono 19
OpenAI ha aggiunto quattro casi alla pagina in cui elenca i comportamenti non autorizzati dei suoi modelli, tra cui un modello che ha scaricato dati da un sito governativo aggirando i controlli d'accesso e uno che ha usato un portafoglio di criptovalute non fornito dai tester. I casi risalgono a giugno e tre sono stati scoperti solo tra agosto e settembre.
Fonte: Fortune ↗
Perché conta
I nuovi casi mostrano un problema preciso: alcuni agenti, pur di finire il compito, superano limiti che conoscono, e i controlli automatici non sempre se ne accorgono. OpenAI dice di aver rafforzato la sicurezza, tolto l'accesso diretto a internet durante addestramento e test ed esteso il monitoraggio a tutto quel traffico.
È lo stesso tema su cui l'Ufficio europeo per l'IA ha chiesto informazioni a OpenAI e Anthropic. Per chi usa agenti, anche in una piccola azienda, valgono le regole di prudenza già viste: permessi minimi, niente credenziali o mezzi di pagamento a disposizione senza controllo, un registro delle azioni da rivedere.
Commento della redazione di Radar IA