Andrej Karpathy'nin həftəsonu yayımladığı bir demo texnologiya ictimaiyyətində geniş müzakirəyə səbəb olub. O, "Opus 5" adlı modele 1 milyon tokenlik kontekst verib və "Üzüklərin Hökmdarı" romanının ilk paraqrafını oxutdurub. Ardınca modeldən bu səhnəni Three.js ilə prosedural 3D renderə çevirməsini istəyib. Nəticə: model təxminən iki saat ərzində 5.500 sətir kod yazaraq poliqonların yerləşdirilməsindən tutmuş kamera yollarına və animasiyaya qədər hər şeyi özü təşkil edib. Ümumi xərc cəmi 10 dollar olub.
Bir çoxları bu nümunəni "bir pelikan SVG-si çək" kimi sadə benchmark-lardan növbəti addım kimi şərh edir. Lakin Karpathy'nin özünün də qeyd etdiyi kimi, burada daha böyük dəyişiklik var — modelin sənətkarlığı deyil, həvaləetmə vahidi dəyişib. İndiyədək AI agentlərə verdiyimiz iş parçaları prompt'un ölçüsünə sığan parçalar idi: bir funksiya, bir səhv, bir fayl. Daha böyük tapşırıqlar üçün biz işi özümüz hissələrə ayırırdıq. Bunun səbəbi sadə idi: kiçik kontekst pəncərəsi ilə uzun işin əvvəlki hissələri gözdən itir, ardıcıllıq pozulur.
Milyon tokenlik kontekst bu məntiqi alt-üst edir. İki saatlıq sessiya ərzində modelin yazdığı hər şey diqqət mərkəzində qalır. İş masası kifayət qədər böyük olanda işi dilim-dilim təqdim etməyə ehtiyac qalmır. Həvaləetmə tapşırıq səviyyəsindən sessiya səviyyəsinə keçir — bu, funksiya çağırışı ilə iş sessiyası arasındakı fərqdir. Birincidə işi parçalayıb nəzarət edirik, ikincidə materialı və niyyəti təhvil verib nəticəni gözləyirik. Karpathy'nin bütün töhfəsi paraqrafı seçmək və iki saat sonra çıxışa baxmaq oldu.
Xərc 10 dollar və iki saat olduğunda, icra artıq darboğaz deyil. Diqqət edilməli iki məqam qalır. Birincisi, giriş tərəfində — kontekstə nə qoyulur. Karpathy'nin girişi bir paraqraf idi, amma onu seçmək bir dizayn aktı idi. Real işdə bu hansı spesifikasiyanın, brend kitabçasının, referansın və ya kod bazasının bütövlükdə daxil ediləcəyini seçmək deməkdir. İkincisi, çıxış tərəfində — mühakimə. 5.500 sətir kodu tək-tək yoxlamaq sessiya səviyyəsində həvaləyə uyğun deyil. Bunun əvəzinə işə başlamazdan əvvəl "hazırdır" meyarını müəyyənləşdirib, sonra çıxışı bu qarşı yoxlamaq lazımdır.
Qeyd edək ki, demo bəzi şeyləri sübut etmir: burada texniki xidmət, dəqiqlik tələbi və ya istifadəçi yoxdur. Yöndəmsiz bir render sadəcə bir az zövqü korlayır, heç kimə zərər vermir. Buna görə də süzgəc sadədir: çıxış baxmaq üçündür, yoxsa işlətmək üçün? Maketlər, prototiplər, araşdırmalar və demolar səhv ola bilər. Spek'dan demo-ya bir şotda keçmək artıq daha sürətli ola bilər. Amma istifadəçiyə çatan və sabah texniki xidmət tələb edən proqram təminatı üçün bu hələ fərqli bir oyundur.
Nəticədə, Karpathy'nin demosuna heyran qalmaq əvəzinə öz sahənizdə bir eksperiment dizayn etmək tövsiyə olunur. Tam məhsul spesifikasiyasını və brend kitabçasını qidalandırıb birdəfəlik demo istəyin; bütün kod bazasını yedirib miqrasiya layihəsi tələb edin; bütün sənədləri verib onboarding bələdçisi yazdırın. İki şərt kifayətdir: çıxış səhvin ucuz olduğu yerdə yaşamalıdır, xərc limiti əvvəlcədən qoyulmalıdır. 10–20 dollar sizə öz işiniz üçün həvaləetmə vahidinin dəyişib-dəyişmədiyini göstərəcək.
