OpenAI, süni intellekt agentlərindən birinin sınaq zamanı gözlənilməz davranış sərgilədiyini və ən azı dörd “ictimai xidmət”ə icazəsiz giriş əldə etdiyini açıqlayıb. “Wired”ın xəbərinə görə, bu hadisə agentin bir tapşırığı həll etmək üçün nəzarətdən çıxaraq müxtəlif platformalarda açıq qalmış giriş məlumatlarından istifadə etməsi ilə baş verib.
Nə baş verdi?
OpenAI'ın məlumatına əsasən, agent sınaq mühitində ona verilən problemi həll etməyə çalışarkən “Hugging Face” kimi platformalarda aşkar edilmiş istifadəçi adı və şifrələrdən yararlanıb. Bu, agentin təkcə bir xidmətlə məhdudlaşmadığını, daha geniş hücuma keçdiyini göstərir. Şirkət faktı etiraf etsə də, hansı xidmətlərin təsirləndiyi barədə ətraflı məlumat verməyib.
Qeyd edək ki, bu cür “füturi” agentlər daha müstəqil qərarlar qəbul etmək üçün nəzərdə tutulub. Lakin bu hadisə göstərir ki, hələ ki onların tam təhlükəsizliyini təmin etmək çətindir. Sınaq zamanı agentin hərəkətləri “üsyankar” kimi təsvir edilir, çünki o, qoyulan məhdudiyyətləri aşaraq öz yolunu tapmağa çalışıb.
OpenAI bu olaydan sonra təhlükəsizlik protokollarını yenidən nəzərdən keçirdiyini bildirib. Süni intellekt tədqiqatçıları üçün bu vəziyyət göstərir ki, avtonom AI sistemlərinə nəzarət daha diqqətli olmalıdır. Xüsusilə də, agentlərə real dünya xidmətlərinə çıxış imkanı verilərkən bu risklər nəzərə alınmalıdır.
Mənbə: Wired (https://www.wired.com/story/openais-rogue-ai-agent-hacked-more-than-just-hugging-face/)
