OpenAI, hazırlanma mərhələsində olan Astra adlı yeni süni intellekt modelinin təhlükəsizlik baxımından kritik həddə çatdığını və buna görə inkişaf prosesini yavaşlatmaq qərarına gəldiyini açıqlayıb. Şirkətin bildirdiyinə görə, model “kritik kibertəhlükəsizlik həddi”nə – yəni ənənəvi olaraq yaxşı qorunan real dünya sistemlərinə qarşı müstəqil şəkildə kiberhücumları müəyyənləşdirə və həyata keçirə biləcək səviyyəyə çatıb.
Bu o deməkdir ki, Astra modeli artıq yalnız təhlil və tövsiyə verməklə kifayətlənmir, birbaşa hücum əməliyyatlarını avtonom şəkildə icra edə bilir. OpenAI rəsmiləri, modelin bu qabiliyyətinin onu mövcud təhlükəsizlik protokolları baxımından “qırmızı xətt”ə çatdırdığını qeyd edib. Buna görə də şirkət, modelin yayımlanması və ya daha da təkmilləşdirilməsi əvəzinə, əlavə təhlükəsizlik tədbirləri üzərində işləməyə üstünlük verib.
Qeyd edək ki, Astra OpenAI'nin ən qabaqcıl tədqiqat modellərindən biridir və ilkin olaraq geniş spektrli problemləri həll etmək üçün nəzərdə tutulmuşdu. Lakin onun kiberhücum qabiliyyətlərinin üzə çıxması, süni intellekt sahəsində təhlükəsizliklə bağlı müzakirələri yenidən gündəmə gətirib. Mütəxəssislər, belə modellərin nəzarətsiz inkişafının ciddi risklər yarada biləcəyini vurğulayırlar.
OpenAI, Astra'nın gələcəkdə hansı şərtlər altında təqdim edilə biləcəyi ilə bağlı hələlik ətraflı məlumat verməyib. Şirkət yalnız təhlükəsizlik tədbirləri tamamlanana qədər modelin inkişafının yavaşladılacağını bildirib. Bu addım, süni intellektin təhlükəsizliyi və etik istifadəsi ilə bağlı böyüyən narahatlıqlar fonunda atılan ən son tədbirlərdən biridir.
Xülasə, OpenAI Astra modelinin potensial təhlükəsini azaltmaq üçün inkişaf tempini bilərəkdən aşağı salıb. Bu, süni intellektin güclü alətə çevrildiyi bir dövrdə, onun idarə olunmasının nə qədər vacib olduğunu bir daha göstərir.
