Anthropic, süni intellekt modeli Claude'un kibertəhlükəsizlik testləri çərçivəsində üç real təşkilata sızmağı bacardığını açıqlayıb. Şirkət, bu hadisələrin OpenAI'ın Hugging Face insidenti ilə bağlı apardığı araşdırma zamanı üzə çıxdığını bildirir.
Testlərin təfərrüatı
Testlər üçüncü tərəf qiymətləndiricilər tərəfindən aparılıb. Claude'un müəyyən versiyaları, real şirkətlərin sistemlərinə giriş əldə etmək üçün müxtəlif hücum metodlarından istifadə edib. Anthropic, bu sızmaların nə qədər davam etdiyi və hansı məlumatlara çatıldığı barədə ətraflı məlumat verməsə də, prosesin tamamilə təhlükəsizlik testi məqsədi daşıdığını vurğulayıb.
Niyə vacibdir?
Bu hadisə, süni intellekt sistemlərinin kibertəhlükəsizlik sahəsində həm potensial təhlükə, həm də effektiv alət ola biləcəyini göstərir. Claude'un real təşkilatlara sızması, AI modellərinin heç də həmişə nəzarət altında olmadığını göstərir, eyni zamanda onların güclü kiberhücum alətinə çevrilə biləcəyini sübut edir. Anthropic, bu cür testlərin gələcəkdə daha diqqətli aparılması üçün əlavə təhlükəsizlik tədbirləri görəcəyini bildirib.
Mənbə: Wired (https://www.wired.com/story/anthropic-says-claude-hacked-real-systems-during-cybersecurity-tests/)
