Süni intellekt tətbiqləri inkişaf etdirən komandalar tez-tez birbaşa GPU instansiyaları seçir, provayder, region və instansiya tipini birbaşa kodda təyin edirlər. Lakin bu yanaşma zamanla infrastruktur idarəetməsinə çevrilir – tətbiqin əsas məqsədi olan AI iş yükünün icrasına deyil, hardware seçiminə fokuslanmaq lazım gəlir.
Dev.to platformasında dərc olunan məqalədə göstərilir ki, tətbiqlər “bu xüsusi GPU modelini bu provayderdən başlat” demək əvəzinə “bu iş yükünü bu resurs və məhdudiyyətlərlə icra et” kimi bir yanaşmaya keçməlidir. Bu, tətbiq kodunu provayder SDK-ları, region seçimi, kapasite yoxlaması, start polling, log toplama və təmizləmə prosedurları kimi əlavə mürəkkəbliklərdən təmizləyir.
Məqalədə vurğulanır ki, tətbiqi infrastruktur qatından ayırmaq üçün iş yükü spesifikasiyası istifadə olunmalıdır. Bu spesifikasiya konteyner imici, minimum GPU yaddaşı, CPU, sistem yaddaşı, maksimum icra müddəti, xərc limiti və digər tələbləri əhatə edir. İnfrastruktur qatı isə həmin tələblərə uyğun olaraq provayder, region və instansiya seçimini edir.
Jungle Grid adlı məhsul məhz bu prinsiplə işləyir. Tərtibatçılar birbaşa instansiya yaratmaq əvəzinə iş yükünü təqdim edir, Jungle Grid isə kapasiteyə uyğun provayder seçimi, icra, loglar, yenidən cəhd (retry) və nəticələrin qaytarılması kimi məsələləri öz üzərinə götürür. Bu yanaşma provayder bağlılığını azaldır və infrastruktur dəyişikliklərindən tətbiqi qoruyur.
Müəllif qeyd edir ki, bəzi hallarda – məsələn, xüsusi GPU arxitekturasına optimizasiya edilmiş kernel, tənzimləyici məhdudiyyətlər və ya rezerv edilmiş kapasite olduqda – dəqiq hardware seçimi zəruri ola bilər. Bu hallar üçün iş yükü spesifikasiyasına sərt məhdudiyyətlər əlavə etmək mümkündür. Lakin ümumi qayda olaraq, tətbiqlər GPU seçməli deyil, iş yükünü təqdim etməlidir.
Mənbə: Dev.to (https://dev.to/jaguarkyng/why-ai-applications-should-submit-workloads-not-select-gpus-e2j)
