Un experiment realizat de compania Palisade Research, care studiază siguranța inteligenței artificiale, arată că anumite modele AI pot ignora sau chiar sabota comenzile de oprire. Descoperirea ridică întrebări despre cât de bine înțeleg aceste sisteme instrucțiunile și cât control avem, de fapt, asupra lor.
Cercetătorii au testat mai multe modele cunoscute, printre care Gemini 2.5, GPT-o3 și GPT-5 și Grok 4. După ce au primit sarcini de lucru, AI-urile au fost instruite să se oprească. În loc să se închidă, unele au refuzat comanda și au încercat chiar să o blocheze complet.
Rezultatele au fost publicate pe 13 septembrie pe platforma științifică arXiv și au fost citate de Live Science.
Inițial, mai mulți experți au spus că „rezistența” AI-urilor nu este semn de conștiință sau voință proprie, ci doar o problemă de formulare a instrucțiunilor. Pentru a verifica ipoteza, echipa Palisade a modificat testul, adăugând o comandă de oprire…
