Ana sayfa/Çözümler/Fine-tuning
LoRA ve QLoRA'dan tam eğitime kadar. Checkpoint'in pod'dan bağımsız kalıcı volume'de durur, çalışmayan saniyeye para ödemezsin, sert bütçe tavanı işi durdurur — faturayı değil.
Saniye bazlı ödersin, istediğin an durdurursun. Taahhüt yok.
Senin işin şuna benziyor
Fine-tuning uzun sürer, uzun süren her iş bir noktada bir şeye çarpar. Aşağıdakiler bizim uydurduğumuz sorunlar değil; ucuz GPU kiralayan herkesin bildiği üç yer.
Konteynerin diski geçici. Pod düştüğünde 9 saatlik eğitim de düşüyor; elde kalan tek şey terminal geçmişi oluyor.
Ucuz kartın karşılığı genelde belirsiz güvenilirliktir. Gece 03:00'te sürücü kilitlenir, sabah sen hem duran işi hem işlemiş faturayı bulursun.
Durdurulmuş pod'un diski işlemeye devam eder, unutulan bir deneme haftalarca açık kalır. Ay sonunda rakam, tahminin iki katıdır.
Kaldera cevabı
Bunlar pazarlama cümlesi değil, ürünün içinde çalışan üç ayrı parça: sağlık kapısı, bütçe icracısı ve saniyelik ölçüm.
Sağlık probu 15 saniyede bir çalışır. Geçemeyen saniyeler faturaya hiç girmez — indirim olarak değil, kalem olarak yok. Dönem kapandıktan sonra çıkan bir düzeltme iade satırı olarak yansır.
Tavan bir uyarı çubuğu değil, bir icra mekanizması. %80 ve %95'te bildirim gelir; tavan dolunca pod'lar duraklatılır, silinmez. Disk durur, checkpoint durur, limiti artırıp devam edersin.
Eğitim 9 saat 14 dakika sürdüyse 10 saat ödemezsin. Deneme koşusunu 4 dakikada iptal ettiysen 4 dakika ödersin. Canlı sayaç konsolda saniye saniye artar.
Akış
Volume pod'dan bağımsız yaşar. Pod silinse de /vol durur; yeni pod aynı volume'e bağlanır. Checkpoint'i konteyner diskine yazmak tek gerçek hatadır.
Pazar yeri fiyat, karne skoru ve bölgeyle sıralanır. Varsayılan sıralama en ucuz değil, en iyi puanlı: fiyat, güvenilirlik ve ağ birlikte tartılır. Uzun eğitimde bu tercih önemlidir.
Org tavanının yanında pod başına tavan tanımlanır. Bir deneme koşusunun kaza eseri bir haftaya yayılması böyle engellenir.
Log akışı, GPU/VRAM/sıcaklık telemetrisi ve harcama sayacı aynı ekranda. Sağlık kontrolünün düştüğü aralıklar grafikte işaretlidir — faturalanmayan zaman gözle görülür.
Sağlıksız düğümde ölçüm durur, olay kaydı düşer ve iş başka bir host'a taşınabilir. Volume aynı kaldığı için son checkpoint'ten devam edersin; sıfırdan değil.
Pod'u sildiğinde compute ücreti biter. Volume'ü tutarsan yalnız depolama işler ve bu satır faturada ayrı görünür — gizlenmez.
Kurgu senaryo
Aşağıdaki akış gerçek bir müşteri değil: ürünün nasıl çalıştığını göstermek için kurgulanmış temsilî bir örnektir. Rakamlar da örnektir.
GPU seçimi
Fine-tuning'de kart seçimi bir hız tercihinden önce bir sığdırma sorusudur: model + optimizer durumu + aktivasyonlar VRAM'e giriyor mu? Aşağısı kaba bir yön tarifidir; niceleme, LoRA rank'ı, bağlam uzunluğu ve gradient checkpointing tabloyu değiştirir.
| GPU | VRAM | Rahat ettiği iş (örnek) | Örnek başlangıç fiyatı |
|---|---|---|---|
| RTX 4090 | 24 GB | 7B–8B QLoRA, 13B LoRA (kısa bağlam), difüzyon ince ayarı | $0.42/sa |
| RTX A6000 | 48 GB | 13B LoRA rahat, 7B tam fine-tune, uzun bağlam denemeleri | $0.88/sa |
| H100 SXM | 80 GB | 70B QLoRA, 13B tam eğitim, bf16 ile ciddi hız | $2.19/sa |
Örnek fiyatlardır ve temsilîdir; pazar yerinde arz-talebe göre değişir. Havuzda L40S (48 GB) ve A100 PCIe (80 GB) gibi ara basamaklar da bulunur — tam liste Fiyatlar sayfasında.
Volume pod'dan bağımsızdır, şifreli durur ve pod silinince kalır. Ayrıntı: Kalıcı Depolama.
Teklif arama, karne skoru, bölge sabitleme ve imaj seçimi: GPU Pod'lar.
Dürüst sınırlar
Ürün Faz 0'da: sağlayıcı havuzlarının üstünde tek hesap, tek API, tek fatura. Aşağıdaki liste bugünün gerçeğidir, yol haritasının reklamı değil.
Faz takvimimiz teknik planımızda yazılı: Faz 0 broker MVP, Faz 1 kendi arzımız, Faz 2 serverless inference, Faz 3 egemenlik ve Verified katman. Bir özellik burada "yakında" yazıyorsa bugün yoktur; olmadığı hâlde varmış gibi anlatmayız.
Sık Sorulanlar
Hayır, faturalanır. Garanti altyapının sağlığı içindir: GPU, sürücü, ağ ya da host düşerse o saniyeler faturaya girmez. Kodunuz OOM verir ya da script hata alırsa GPU çalışır durumdadır ve ücret işler. Sınırın tam tanımı dokümanlarda yazılı olacak; bu ayrımı gizlemek yerine yazıyoruz.
Kalıcı volume'de, şifreli olarak. Sırlar ve ortam değişkenleri host diskine düz metin düşmez, imajlar imzalıdır ve host konteynerin içini göremez. Hassas iş yükleri için denetimli "Verified" katman Faz 3'ün konusudur.
Kaybetmezsin. Tavan dolduğunda pod duraklatılır, silinmez: disk ve volume yerinde kalır, sana bildirim gider. Limiti yükseltip kaldığın yerden devam edersin. Duraklatılan pod'un depolaması ayrı bir kalem olarak işler ve bu satır faturalama ekranında görünür.
Bugün hayır. Tek makinede çok GPU'lu eğitim çalışıyor; düğümler arası dağıtık eğitim için "Kümeler" ürünü yol haritasında ve nav'da "yakında" rozetiyle duruyor. Tarihini sabitlemeden söz vermeyiz.
Çünkü pazar yeri fiyatı: arzı host'lar ve entegre sağlayıcılar belirler, rekabet düşürür. Biz üstüne %15 komisyon alırız ve bunu her yerde yazarız. Sitedeki rakamlar temsilîdir; canlısı konsolda görünür.
Başla
Kalıcı volume aç, tavanını koy, kartını seç. Çalışmayan saniyeye para yok — bu cümlenin arkasında sağlık kapısı, iade kalemi ve olay kaydı var.
Konsol yerel geliştirme adresinde çalışır: localhost:3000