Son illərdə böyük dil modellərinə (LLM) “qara qutu” kimi baxmağa öyrəşmişik: bir sorğu daxil olur, mətn çıxır, aradakı proses isə görünməz qalır. Amma son analizlər maraqlı bir detalı üzə çıxarıb: modellərin içərisində nisbətən mütəşəkkil, kiçik bir bölgə var. Bu bölgə konseptlərin işləndiyi bir lövhə kimi fəaliyyət göstərir.
J-Space: düşüncə lövhəsi
Tədqiqatçılar bu bölgəni J-Space adlandırır. Burada model cavab verməzdən əvvəl bəzi anlayışları “ağlında saxlayır” və emal edir. Məsələn, sual veriləndə modelin içərisində “hörümçək” anlayışı aktivləşir və cavab buna uyğun formalaşır. Maraqlıdır ki, tədqiqatçılar bu anlayışı süni şəkildə dəyişdirə biliblər – məsələn, “hörümçək” əvəzinə “qarışqa” qoyulduqda, model avtomatik olaraq cavabı “altı” ayaq kimi düzəldib. Bu təcrübə göstərir ki, modelin reaksiyası birbaşa bu daxili “iş sahəsi”ndən asılıdır.
Avtomatik bacarıqlar və idarəolunan düşüncə
Başqa bir maraqlı müşahidə: modelin dil bilikləri (qrammatika, üslub, səlislik) avtomatik işləyir, amma planlama və nəzarət tələb edən məntiqi əməliyyatlar J-Space üzərindən keçir. Məsələn, model ispan mətni oxuyanda onun dilini “ispan” kimi tanıyır. Əgər bu konsept süni şəkildə “fransız”la əvəz edilsə, model mətnin fransız olduğunu söyləyə bilər, amma yenə də ispan dilində cavab verir. Bu, bacarıqların fərqli “pipeline”larda işlədiyini göstərir.
Nəticə: səlislik korrektlik demək deyil
Bu kəşfin praktik nəticəsi olduqca vacibdir: əgər J-Space söndürülərsə, model səlis danışmağa davam edə bilər, amma məntiqi düşünmə qabiliyyətini itirər. Yəni, bir LLM-in inandırıcı səslənməsi onun düzgün düşündüyü anlamına gəlmir. Xüsusilə AI köməkçiləri hazırlayan tərtibatçılar üçün bu, mühüm xəbərdarlıqdır: yalnız üslubi keyfiyyətə deyil, daxili işləmə prinsiplərinə də diqqət etmək lazımdır.
Bu nəzəriyyə Bernard Baars'ın 1980-ci illərdə irəli sürdüyü “Global Workspace” nəzəriyyəsini xatırladır. İnsan şüuru haqqında olan bu nəzəriyyəyə görə, beynin avtomatik prosesləri fon işləyir, şüur isə kiçik, seçici bir “səhnə”dir. Transformer modellərinin təlim zamanı kortəbii şəkildə belə bir daxili “səhnə” inkişaf etdirməsi mümkündür – bu, nə şüurun, nə də sehrli bir prosesin sübutudur. Sadəcə olaraq, LLM-lərin necə işlədiyini anlamaq üçün real bir pəncərədir.
Xülasə: AI məhsulu hazırlayanlar üçün ən vacib dərs odur ki, modelin səlisliyinə güvənmək yetərli deyil. Səhvləri, halüsinasiyaları və istənilməyən davranışları aşkar etmək üçün daxili işləmə mexanizmlərini izləmək, yoxlamaq və lazım gəldikdə müdaxilə etmək lazımdır.
