Kibertəhlükəsizlik sahəsində çalışan mütəxəssislər, xüsusilə də naməlum zəiflikləri aşkar edən və onlardan istifadə üçün alətlər hazırlayan “offensive security” tədqiqatçıları, süni intellekt modellərinə qoyulan məhdudiyyətlər səbəbindən işlərini aparmaqda getdikcə daha çox çətinlik çəkirlər. “TechCrunch”ın məlumatına görə, bir neçə tədqiqatçı bu barədə açıqlamalar verib.
AI mühafizəsi nədir və niyə mane olur?
OpenAI, Anthropic və digər süni intellekt şirkətləri modellərinin zərərli məqsədlər üçün istifadəsinin qarşısını almaq məqsədilə xüsusi təhlükəsizlik mexanizmləri – “guardrail”lar tətbiq edir. Bu mexanizmlər adətən modellərin haker alətləri yazmasını, istismar kodları təklif etməsini və ya təhlükəli fəaliyyətlərə dair təlimat verməsini bloklayır. Lakin məsələ burasındadır ki, eyni məhdudiyyətlər qanuni kibertəhlükəsizlik tədqiqatçılarının da işini çətinləşdirir.
Mütəxəssislər bildirir ki, onlar tez-tez OpenAI’nin ChatGPT və Anthropic’in Claude modellərindən istifadə edərək yeni hücum vektorlarını analiz edir, zəiflikləri simulyasiya edir və ya təhlükəsizlik alətləri yazırlar. Lakin bu modellərdəki məhdudiyyətlər onların suallarına düzgün cavab almasına mane olur. Bəzi hallarda tədqiqatçılar öz işlərini izah etməli və modelləri “inandırmaq” üçün xüsusi ifadələr işlətməli olurlar.
Tədqiqatçılar nə deyir?
“TechCrunch”a danışan mənbələrə görə, bu məhdudiyyətlər nəticəsində tədqiqatçıların iş sürəti azalır, bəzi hallarda isə alternativ, daha az effektiv alətlərə keçmək məcburiyyətində qalırlar. Onlar qeyd edir ki, süni intellekt şirkətləri zərərli istifadə ilə qanuni tədqiqat arasında daha dəqiq fərq qoymalıdır. Xülasə, mövcud guardrail sistemi “ağıllı” deyil və çox vaxt həddindən artıq məhdudlaşdırıcı olur.
Bu problem xüsusilə “zero-day” kəşfləri və proqram təminatının təhlükəsizlik testləri kimi sahələrdə özünü daha qabarıq göstərir. Tədqiqatçıların fikrincə, AI şirkətləri əgər qanuni kibertəhlükəsizlik işçilərini dəstəkləmək istəyirlərsə, onlara xüsusi giriş imkanı və ya ayrıca tənzimlənən modellər təqdim etməlidirlər.
