Sunucusuz (Serverless) Mimaride Soğuk Başlatma (Cold Start) Problemi ve Provisioned Concurrency
Bölüm 1: Bu Nedir ve Neden Hayati Önem Taşır?
Düşünün ki bir restorana girdiniz. Garson menüyü getiriyor, siparişinizi alıyor ve mutfak anında devreye giriyor. Yemeğiniz dakikalar içinde masanızda. Bu, her zaman çalışır durumda olan, siz gelene kadar tenceleri ateş üzerinde tutan sunuculu (server-based) bir dünyanın rahatlığı. Peki ya sunucusuz (serverless) dünya? Burada mutfak kapalıdır, ocaklar söndürülmüştür. Siz sipariş verdiğiniz anda, bir sihirli güç mutfağı sıfırdan ayağa kaldırır, ocakları yakar, tenceleri ısıtır ve yemeğinizi pişirir. İşte bu “mutfağı sıfırdan ayağa kaldırma” süresine Soğuk Başlatma (Cold Start) denir.
Bu gecikme, belki de bir kullanıcının “Yükleme…” spinner’ını seyrederken kaçıp kaçmaması, bir e-ticaret sitesinin sepet onayında saniyeler kaybedip kaybetmemesi, hatta bir finansal işlemin zaman aşımına uğrayıp uğramaması arasındaki ince çizgidir. Sunucusuz mimarinin sunduğu “ödeme yap, kullan, unut” huzurunu bozan tek büyük “ama” budur. Provisioned Concurrency (Hazırda Bekletme Eşzamanlılığı) ise bu soruna, “Mutfak her zaman ılık, ocaklar daima hazır” diyerek getirdiğimiz cevaptır. Bu yazıda, bu sihirli mutfağın nasıl çalıştığını, neden bazen yavaşladığını ve nasıl daima servise hazır tutabileceğimizi keşfedeceğiz.
Bölüm 2: Perde Arkası: Sistem Nasıl Çalışır?
Sunucusuz dünyada (AWS Lambda, Azure Functions, Google Cloud Functions) kodunuz bir fonksiyon olarak yatar. Hiç kimse çağırmadıkça, bu fonksiyon tamamen “donmuş” bir durumdadır; bellekte yer tutmaz, CPU tüketmez, para da kazandırmaz. Bir istek (HTTP çağrısı, veritabanı tetikleyicisi, kuyruktaki mesaj) geldiğinde platform şu maceraya atılır:
- İndirme ve Hazırlık: Fonksiyonunuzun kodunun (ve kütüphanelerinin) bulunduğu sıkıştırılmış paket (artifact) depolama alanından (S3 vb.) çekilir.
- Ortam Kurulumu (Sandbox/MicroVM): Güvenli, izole bir sanal makine ortamı (genellikle Firecracker tabanlı MicroVM) saniyelerin kesirleri içinde ayağa kalkar.
- Runtime Başlatma: Seçtiğiniz dilin (Node.js, Python, Java, Go, .NET) çalışma zamanı motoru yüklenir.
- Kod Yükleme ve Init: Kodunuz belleğe alınır. Global alanınızdaki (handler dışındaki) kodlar çalıştırılır. Veritabanı bağlantı havuzları oluşturulur, yapılandırma dosyaları okunur, şifreleme anahtarları yüklenir.
- Handler Çalıştırma: Artık asıl iş mantığınız (handler fonksiyonu) tetiklenir.
Eğer bu fonksiyon kısa bir süre önce çağrıldıysa, platform bu MicroVM’i “sıcak” tutar (genellikle 5-15 dakika arası). Bir sonraki istek 3., 4. ve 5. adımları atlayıp doğrudan 5. adıma atlar. Buna Sıcak Başlatma (Warm Start) denir. Ama eğer fonksiyonuz “uyumuş”sa (idle), yukarıdaki 5 basamak tek seferde atlanır. İşte bu “uyanma” maliyeti, özellikle Java veya .NET gibi ağır runtime’larda saniyeler bulabilir. Node.js veya Python’da ise genellikle 100-500 milisaniye civarında kalır ama yine de hassas uygulamalarda hissedilir.
Bölüm 3: Bilim Dünyası ve Uzmanlar Nasıl İnceliyor?
Akademik dünyada ve sistem mühendisliği topluluğunda “Cold Start” yıllardır en popüler optimizasyon konularından biridir. AWS re:Invent sahnelerinde Werner Vogels’in “Her şey başarısız olur, her şey gecikir” diyerek başladığı konuşmaların odak noktası da bu gecikmeleri nasıl minimize edeceğimizdir.
Araştırmacılar (örneğin AWS Lambda Performans Analizi üzerine yatan makalelerde) cold start süresini üç ana bileşene ayırır:
1. Orchestration Overhead: Platformun kaynak ayırma süresi (sizin elinizde olmayan kısım).
2. Runtime Init: Dil motorunun ayağa kalkması (Java/JIT derleme, .NET assembly yükleme).
3. User Code Init: Sizin require/import/using yazdığınız her satırın maliyeti.
Uzmanların konsensüsü şudur: Cold start’ı sıfıra indirmek imkansızdır (Orchestration her zaman vardır), ama “kullanıcı kod init” kısmını sıfıra yakın indirebilirsiniz. Nasıl mı? Bağımlılıkları minimize ederek (tree-shaking), ağır kütüphaneleri (AWS SDK v3 modular import, lazy loading) ertelemekte ve Provisioned Concurrency kullanarak bu “init” aşamasını kullanıcı trafiğinden tamamen ayırmakta.
Pratik gözlem yöntemleri ise şöyledir: X-Ray veya Datadog gibi dağıtık izleme (distributed tracing) araçlarıyla Initialization segmentinin süresini izlemek. Eğer bu segment Invocation segmentinden uzun sürüyorsa, sorun kodunuzdadır, platformda değil.
Bölüm 4: Önemli Parametreler ve Karşılaştırma Rehberi
Aşağıdaki tablo, cold start stratejinizi belirlerken aklınızda bulundurmanız gereken kritik parametreleri, günlük hayattan birer benzetmeyle özetler.
| Parametre | Değer / Özellik | Pratik Anlamı | Günlük Hayata / Sisteme Etkisi |
|---|---|---|---|
| Runtime Seçimi | Go / Rust / Node.js / Python (Hızlı) vs Java / .NET (Yavaş) | Hangi dilde yazdığınızın “uyanma” hızını belirler. | Go/Rust: “Hazır ayakkabılı koşu”. Java/.NET: “Bot bağlayıp koşmaya başlama”. |
| Paket Boyutu (Deployment Package) | < 50 MB (İdeal) vs > 250 MB (Riskli) | Kod + Kütüphanelerin toplam boyutu. | Küçük valizle uçak biniş (hızlı güvenlik) vs devasa bavullarla bekleme. |
| Bellek (Memory) Ayarı | 128 MB – 10.240 MB | Bellek arttıkça CPU da artar (vCPU paylaşımı). | Daha güçlü motora binmek: Arabayı ısıtma ve yola çıkma süresini kısaltır. |
| VPC Bağlantısı (ENI) | Etkinse +1-10 saniye (Eski) / ~ms (Yeni Hyperplane) | Özel ağa girmek için sanal ağ arayüzü (ENI) takma maliyeti. | Eski yöntem: Kapıda kimlik kontrolü, yeni yöntem: Hızlı geçiş kartı. |
| Provisioned Concurrency (PC) | 0 (Kapalı) – Maks Concurrency (Açık) | “Her zaman hazır” bekleyen fonksiyon sayısı. | Restoranda “her an gelirebilirler” diye 5 garson bekletmek vs gelince çağırmak. |
| PC Maliyeti | Saat başına ~$0.000004/GB-saniye + İstek maliyeti | Hazır bekletme pahalıdır, sadece trafik varsa açılır. | Boşta bekleyen personel maaşı vs çağırdığımızda ödediğimiz ücret. |
| SnapStart (Java/.NET) | Snapshot alma / Geri yükleme | Çalışan bir sürecin bellek görüntüsünü alıp, yeni istekte geri yükleme. | Oyunu “save” edip, bir sonraki sefer “load” diyerek boss savaşından başlama. |
| Lazy Loading / Dynamic Import | import() / require() handler içinde |
Sadece o an gerekli olan kodu yükleme. | Çantanıza her ihtimale karşı her şeyi koymamak, gerektiğinde marketten almak. |
Bölüm 5: Günlük Hayatta ve Doğada Nerede Karşımıza Çıkar?
Bu soyut kavramlar aslında her gün yaşadığımız “bekleme” anlarının dijital halleridir.
Senaryo 1: Mobil Bankacılık Uygulaması “Para Gönder” Butonu
Gece yarısı acil para göndermeniz gerekiyor. Uygulamayı açarsınız, “Gönder” dersiniz. Arka planda sunucusuz bir fonksiyon tetiklenir. Eğer cold start yiyorsa, ekranda “İşleminiz gerçekleştiriliyor…” dönen çark 3-4 saniye döner. Kullanıcı panikler: “Para gitti mi? İptal mi oldı?” Yeniden basar, çift işlem riski doğar. Provisioned Concurrency burada “Garson masanızda bekliyor, siparişiniz alınıyor” hissini verir.
Senaryo 2: IoT Kapı Kilidi / Akıllı Ev
Kapınıza yaklaştığınızda telefonunuz Bluetooth sinyaliyle kilidi tetikler. Kilit, buluttaki bir Lambda fonksiyonunu çağırır “Bu kullanıcı yetkili mi?”. Cold start olursa kapı 5 saniye sonra açılır. Yağmurda, market poşetleriyle kapı önünde beklemek istemezsiniz. Burada SnapStart veya Provisioned Concurrency hayat kurtarıcıdır (veya en azından sinir kurtarıcı).
Senaryo 3: E-Ticaret “Sepete Ekle” / “Ödeme” Anı
Black Friday trafiği. Binlerce kullanıcı aynı anda “Öde” butonuna basar. Normalde auto-scaling devreye girer, yeni fonksiyonlar ayağa kalkar. Ama her yeni fonksiyon bir cold start çeker. Sonuç: Kullanıcının %5-10’u hata alır veya bekler. Provisioned Concurrency ile “Bekleme odası”ndaki fonksiyon sayısını (örneğin 500 tane) önceden ayarlarsınız. Trafik gelince bu 500 fonksiyon anında cevap verir, arka planda yenisleri ısınır.
Doğadaki Benzetme: Kış Uykusundaki Kurbağalar vs. Dört Ayaklı Avcılar
Kurbağa kışın donmuş durur (Cold/Idle). İlkbaharda ısındığında metabolizmasını ayağa kaldırması (Cold Start) zaman alır. O sırada avcıya yakalanabilir. Bir kurt ise her an koşmaya hazırdır (Warm/Provisioned). Enerjisi (maliyet) daha çok harcar ama hayatta kalma şansı (kullanıcı deneyimi) çok daha yüksektir.
Bölüm 6: Karşılaşılan Zorluklar ve Pratik Çözümler
Zorluk 1: “Hep Açık Tutayım Dedi, Fatura Patladı”
En klasik hata: “Cold start istemiyorum” diyerek Provisioned Concurrency = Max Concurrency yapmak. Gece 3’te trafik sıfırken 1000 fonksiyonunuz “hazır” bekler. Ay sonu faturası kalbinizi durdurur.
* Çözüm: Application Auto Scaling kullanın. “Hedef Kullanım %70” deyin. Trafik artarsa PC artar, azalırsa PC düşer. Gece sıfıra inebilir (veya minimum 1-2’de kalabilir).
Zorluk 2: Java / .NET Fonksiyonları Hala Yavaş
PC açtınız ama yine de 500ms-1s civarında bir “ilk istek” gecikmesi var.
* Neden: PC fonksiyonu hazır bekler ama Class Loading / JIT Derleme henüz bitmemiş olabilir. PC fonksiyonu “Init” aşamasını bitirmiş bekler ama kodunuzun içindeki lazy initialization (örneğin Hibernate SessionFactory, EntityManager oluşturma) ilk istekte tetiklenir.
* Çözüm: SnapStart (Java için) veya ReadyForRequest / Global Init bloklarını kullanın. Kodunuzun tamamen hazırlanmasını (veritabanı bağlantısı, cache doldurma, reflection cache) handler çalışmadan önce bitirin. PC, Init phase’inin bitmesini bekler.
Zorluk 3: VPC Cold Start (Eski Tip ENI Korkusu)
Fonksiyonunuz RDS/ElastiCache’e erişmek için VPC içindedir. Eski mimaride her cold start’ta ENI takılması 10+ saniye sürerdi.
* Çözüm: AWS Hyperplane ENI (2019 sonrası) bu sorunu neredeyse çözdü. Hala sorun yaşıyorsanız: Fonksiyonunuzu VPC’den çıkarın, RDS Proxy veya VPC Lattice kullanın. Veya fonksiyonunuzu VPC içinde tutun ama Provisioned Concurrency ile ENI’leri hazır bekletin.
Zorluk 4: “Burst” Trafikte İlk Dalga
Auto Scaling harikadır ama reaksiyon alması dakikalar sürer. Aniden gelen 10.000 istek için sadece 100 PC’niz varsa, 9.900 istek cold start yiyecek (veya throttle yiyecek).
* Çözüm: Scheduled Scaling (Zamanlı Ölçeklendirme). “Her Cuma 18:00-20:00 arası PC = 5000” kuralı koyun. Bilinen pikler (kampanya, yayın) için önceden hazırlanın. Bilinmeyen pikler için Reserved Concurrency (Ayrılmış Eşzamanlılık) ile kuyruk oluşturun, fazla trafiği bekletin.
Bölüm 7: Gelecek Perspektifi ve Yeni Gelişmeler
Gelecek, “Cold Start” kavramını tamamen silmeye değil, görünmez hale getirmeye gidiyor.
- SnapStart Genişlemesi: AWS Lambda SnapStart (Java, Python, .NET için) artık standart hale geliyor. Fonksiyonunuzun bir “snapshot”ını (bellek görüntüsünü) alıyor, yeni isteklerde MicroVM’i baştan başlatmak yerine bu snapshot’tan “restore” ediyor. Bu, 1-2 saniyelik Java cold start’ını 100-200ms‘ye indiriyor. Yakında Go ve Rust için de gelecek.
- LLRT (Low Latency Runtime): AWS’in Rust ile yazdığı, Node.js API’leriyle uyumlu, ultra-hafif bir runtime. Cold start 1-2ms seviyelerine iniyor. “Sunucusuz Edge” (CloudFront Functions / Lambda@Edge) için game changer.
- WebAssembly (Wasm) on Serverless: Fermyon Spin, WasmCloud gibi araçlarla kodunuz Wasm modülüne derleniyor. Başlatma süresi mikrosaniyeler. Container’ların ağırlığından kurtulup, native hızda başlatma vaadi.
- Akıllı Ön Yükleme (Predictive Pre-warming): Makine öğrenmesi modelleri trafiğinizi analiz ediyor: “Bu kullanıcı sepete ürün ekledi, %90 ihtimalle 10 saniye içinde ödeme sayfasına gidecek.” Sistem önceden ödeme fonksiyonunu ısıtıyor. Kullanıcı “Öde” dediğinde fonksiyon zaten sıcak.
- Serverless Containers (Cloud Run, Fargate, Knative): “Scale to zero” yeteneği olan container’lar. Başlatma hızı container imaj boyutuna bağlı ama Image Layer Caching ve zstd compression ile saniyelerden saliselere indiriliyor.
Bölüm 8: Merak Edilen Sorular ve Cevaplar (SSS)
Soru 1: Provisioned Concurrency açtığımda cold start tamamen biter mi?
Cevap: Fonksiyonunuzun Init (Global Kod) aşaması için evet, biter. Fonksiyon “hazır” havuzunda bekler. Ancak ilk istek yine de network gecikmesi (DNS, TLS handshake, VPC routing) yaşayabilir. Ama kodunuzun “uyanma” maliyeti sıfırlanır.
Soru 2: Provisioned Concurrency pahalı mı? Küçük bir proje için değer mi?
Cevap: Evet, On-Demand (İsteğe Bağlı) çalıştırmadan ~6-7 kat pahalıdır (saat başına GB-saniye maliyeti). Küçük, trafiği az ve düzensiz projelerde (günlük 1000 istek altı) genelde açmaya değmez. Para yerine kod optimizasyonuna (paket küçültme, lazy loading, daha hızlı runtime) odaklanın.
Soru 3: SnapStart ve Provisioned Concurrency farkı ne? Hangisini kullanmalıyım?
Cevap: SnapStart (Java/Python/.NET): Fonksiyonun hazırlanmış halinin fotoğrafını çeker. Cold start’ı mikrosaniyelere indirir. Ücretsizdir. Provisioned Concurrency: Fonksiyonu çalır halde, bellekte tutar. Her an en düşük gecikmeyi (sub-ms) garanti eder. Paralıdır. Strateji: Önce SnapStart açın. Yeterli gelmezse (örn. hard real-time gereksinimi varsa) PC ekleyin.
Soru 4: Node.js / Python için cold start gerçekten sorun mu? Go/Rust mı yazmalıyım?
Cevap: Node.js/Python için cold start genelde 100-300ms civındadır. Çoğu web API’si için “kabul edilebilir”dir. Eğer mobil backend, chat uygulaması, oyun leaderboard gibi her milisaniye hesap oluyorsa Go/Rust veya LLRT tercih edin. Ekip yetkinliği ve geliştirme hızı da bir parametredir; “Premature optimization” (erken optimizasyon) yapmayın.
Soru 5: VPC içindeki Lambda fonksiyonum yavaş, PC açsam çözülür mü?
Cevap: Eğer Hyperplane ENI kullanıyorsanız (2019 sonrası default), VPC cold start zaten ~100-200ms‘e düştü. PC açarsanız ENI zaten hazır bekler, bu da gider. Ama asıl çözüm: RDS Proxy kullanın. Bağlantı havuzlamasını proxyye bırakın, Lambda fonksiyonunuz hafiflesin, VPC’den çıkmasın bile bağlantı sayısı düşsün.
Soru 6: “Provisioned Concurrency” ayarladım ama CloudWatch’te yine “Cold Start” görüyorum?
Cevap: İki ihtimal var: 1) Trafik PC sayınızı aştı. Fazla trafik yine On-Demand (Cold) fonksiyonlar ayağa kaldırıyor. Auto Scaling kuralınızı kontrol edin. 2) Versiyon/Yayınlama (Alias) hatası. PC, fonksiyonun $LATEST‘e değil, belirli bir versiyon numarasına (örn: v5) veya Alias’ına (örn: PROD) atanmalıdır. Client/Api Gateway bu Alias’ı mı çağırıyor kontrol edin.
Bölüm 9: Bilmeniz Gereken Temel Terimler
Soğuk Başlatma (Cold Start) — “Donmuş Mutfağı Isıtmak”: Fonksiyonuz uzun süre çağrılmadığında platform tarafından tamamen durdurulup (sıfırlanıp), bir sonraki çağrıda baştan ayağa kaldırılması sürecidir. Bu sırada kodunuz, kütüphaneleriniz ve çalışma ortamınız belleğe yüklenir.
Sıcak Başlatma (Warm Start) — “Hazır Bekleyen Mutfak”: Fonksiyonunuz kısa bir süre önce çağrıldığı için, platform alt yapıyı (MicroVM, Runtime, Bellek) canlı tutmuştur. Yeni istek geldiğinde sadece sizin handler fonksiyonunuz çalışır. Ortam kurulum maliyeti sıfırdır.
Provisioned Concurrency (Hazırda Bekletme Eşzamanlılığı) — “Nöbetteki Garsonlar”: Siz “Her an gelebilirler, 5 garson nöbet tutsun” dediğinizde, platform o fonksiyonlardan 5 tanesini sürekli çalışır, bellekte hazır, Init aşamasını bitmiş tutar. Trafik gelince bu 5’lik havuzdan cevap verilir. Para बदले (karşılığında) gecikme almazsınız.
SnapStart (Anlık Başlatma) — “Oyun Kayıt Yükleme (Save/Load)”: Fonksiyonunuzun Init aşamasını bitirdiği anın bir “fotoğrafını” (snapshot) alır. Yeni bir istek geldiğinde baştan başlatmak yerine bu fotoğraftan devam ettirir. Java/Python/.NET için devrim niteliğindedir.
Init Phase (Başlatma Aşaması) — “Mise en Place (Hazırlık)”: handler fonksiyonunuz çalışmadan önce çalışan kısım. importlar, global değişkenler, veritabanı bağlantı havuzu oluşturma, config okuma buradadır. Cold Start süresinin %90’ı buradadır. Burayı optimize etmek (Lazy Loading) en etkili ücretsiz yöntemdir.
MicroVM (Mikro Sanal Makine) — “Kişiye Özel İzole Daire”: Her fonksiyon çalıştırma ortamı (Firecracker vb.) birbirinden tamamen izole, hafif bir sanal makinedir. Sunucusuzun güvenlik ve izolasyon sırrı budur. Başlatılması container’dan hızlı, tam VM’den çok hızlıdır.
Bölüm 10: Özet ve Çıkarılması Gereken Dersler
Sunucusuz mimari,