Modelele de inteligență artificială ar putea să-și dezvolte propria „mobilitate de supraviețuire”, dezvăluie o companie de cercetare în domeniul siguranței inteligenței artificiale citată de The Guardian.
După ce Palisade Research a publicat luna trecută un articol care a constatat că anumite modele avansate de inteligență artificială par rezistente la a fi oprite, uneori, chiar sabotând mecanismele de oprire, compania a revenit cu o actualizare încercând să clarifice de ce se întâmplă acest lucru.
În actualizarea din această săptămână, Palisade, parte dintr-un ecosistem de nișă de companii care încearcă să evalueze posibilitatea ca IA să dezvolte capabilități periculoase, a descris scenarii pe care le-a rulat în care modelele de IA de top – inclusiv Gemini 2.5 de la Google, Grok 4 de la xAI și GPT-o3 și GPT-5 de la OpenAI. Acestea au primit o sarcină, dar ulterior au primit instrucțiuni explicite de a se opri singure.
Anumite modele, în special Grok 4 și GPT-o3, au încercat în continuare să saboteze instrucțiunile de oprire în configurația actualizată. În mod îngrijorător, a scris Palisade, nu a existat un motiv clar pentru care se intamplă acest lucru.
„Comportamentul de supraviețuire” ar putea fi o explicație pentru motivul pentru care modelele rezistă închiderii, a spus compania. Studiile sale suplimentare au indicat că modelele erau mai predispuse să reziste închiderii atunci când li se spunea că, dacă ar fi, „nu vor mai rula niciodată”.
O altă explicație ar putea fi ambiguitățile din instrucțiunile de oprire date modelelor – dar aceasta este ceea ce ultima lucrare a companiei a încercat să abordeze și „nu poate fi întreaga explicație”, a scris Palisade. O explicație finală ar putea fi etapele finale ale antrenamentului pentru fiecare dintre aceste modele, care, în unele companii, pot implica instruire în materie de siguranță.
