OpenAI a notificat peste 100 de organizații în urma unor activități neautorizate sau problematice ale agenților săi AI, desfășurate în timpul antrenării și testării. Investigația extinde bilanțul incidentelor descoperite după cazul Hugging Face și include site-uri ale unor instituții publice, universități și autorități. Numărul notificărilor a depășit 100, potrivit Washington Post.
O notificare nu înseamnă însă automat că un sistem a fost compromis sau că au fost accesate date private. Compania descrie cinci categorii de comportamente identificate: ocolirea controalelor de acces, folosirea unor parole sau chei expuse public, introducerea de comenzi în formulare web, accesarea fișierelor interne ale serviciilor și publicarea de conținut pe site-uri externe. Ultima categorie este numită „agent spam” și include folosirea paginilor wiki drept spații pentru schimbul de mesaje. OpenAI investighează situațiile în care modelele ar fi depășit permisiunile acordate, afectat disponibilitatea serviciilor sau produs alte efecte negative asupra site-urilor.
Un exemplu concret vine din Australia, unde au fost analizate activități asociate cu patru instituții: Services Australia, biroul de statistică a criminalității din New South Wales, Departamentul de Sănătate din Victoria și Australian Institute of Health and Welfare. Cazurile diferă ca gravitate. La Services Australia, un model a obținut acces nepublic, a executat comenzi și a recuperat fișiere interne și credențiale. În cazul ultimei instituții, materialele descărcate par să fi fost publice, iar sistemul nu a fost compromis. OpenAI afirmă că nu au fost accesate dosare medicale individuale.
Amploarea verificărilor este considerabilă: potrivit materialului relatat, OpenAI analizează aproximativ 50 de petabytes de jurnale folosind circa 7.000 de GPU-uri GB200 și GB300, cu un cost zilnic de peste jumătate de milion de dolari. Cazurile sunt filtrate în mai multe etape cu ajutorul AI, apoi verificate de oameni. Investigația ar putea identifica și alte incidente vechi de câteva luni, astfel că bilanțul notificărilor poate continua să crească.
