Ön Eğitim Duvarından Çıkarım Zamanlı Hesaplamaya (Test-Time Compute): System 2 Akıl Yürütme Modelleri Karmaşık Mühendislik Problemlerini Nasıl Çözüyor?

Chinchilla Yasasının Ötesi: Ön Eğitim (Pre-Training) Duvarı ve Yeni Ölçekleme Paradigması

2020'den 2024'ün sonuna kadar büyük dil modellerinin (LLM) gelişimi tek bir deterministik formüle dayanıyordu: Daha fazla GPU kümesi, daha fazla parametre ve trilyonlarca tokenlık açık internet metni (Pre-Training Scaling). Ancak yüksek kaliteli insan yazımı metin stokunun tükenmesi ve devasa eğitim koşularının azalan verim yasasına (diminishing returns) çarpmasıyla birlikte yapay zeka mimarisi tarihsel bir eksen kayması yaşadı.

2026 itibarıyla sınır (frontier) yapay zeka laboratuvarlarında zekanın birincil kaldıraç noktası modelin eğitim sırasında ezberlediği ağırlıklar değil; kullanıcı soruyu sorduğu anda harcanan hesaplama bütçesi — yani Çıkarım Zamanlı Hesaplama (Test-Time Compute / Inference-Time Scaling) oldu.

Nobel ödüllü psikolog Daniel Kahneman'ın bilişsel sınıflandırmasıyla ifade edildiğinde:

• System 1 (Klasik Oto-Regresif LLM'ler): Soruyu okur okumaz ilk tokenı milisaniyeler içinde sezgisel ve istatistiksel olasılıkla üretir. Geriye dönüp kendi hatasını düzeltemez; yanlış bir varsayımla başladığında o hatayı rasyonalize ederek halüsinasyona sürüklenir.
• System 2 (Akıl Yürütme / Reasoning Modelleri): Yanıt vermeden önce gizli veya görünür bir düşünme alanında (<think> token dizileri) problemi alt bileşenlere ayırır, alternatif hipotezler kurar, çıkmaz sokakları fark edip geri döner (backtracking) ve ürettiği çözümü doğruladıktan sonra nihai çıktıyı sunar.

1. Akıl Yürütme Modellerinin Eğitim Motoru: RLVR ve Süreç Ödül Modelleri (PRM)

Bir modelin binlerce token boyunca kendi kendine anlamlı biçimde tartışabilmesi, klasik İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme (RLHF) ile sağlanamaz; çünkü insanlar sadece cevabın üslubunu ve yüzeysel ikna ediciliğini puanlayabilir. Akıl yürütme devriminin arkasında iki temel matematiksel mekanizma yer alır:

A. Doğrulanabilir Ödüllerle Pekiştirmeli Öğrenme (RLVR - Reinforcement Learning with Verifiable Rewards)

GRPO (Group Relative Policy Optimization) gibi algoritmalarla desteklenen RLVR, insan hakemleri devreden çıkararak modeli deterministik ve objektif doğrulayıcılarla (Derleyiciler, Birim Testleri, Sembolik Matematik Çözücüler, Lean 4 Kanıtlayıcıları) eğitir:

1. Modele karmaşık bir yazılım hatası veya algoritma problemi verilir.
2. Model aynı problem için paralel olarak $G$ adet (örneğin 16 veya 64) farklı düşünce zinciri (rollout) üretir.
3. Üretilen kod yamaları izole bir kum havuzunda (sandbox) derlenir ve birim testlerinden geçirilir.
4. Testi geçen düşünce yolları pozitif avantaj puanı alırken, derleme hatası veren veya zaman aşımına uğrayan yollar cezalandırılır. Bu süreçte model, kendisine hiç kimse öğretmeden "Dur, bu yaklaşım $O(N^2)$ karmaşıklığa yol açar, HashMap tabanlı yaklaşıma geri dönmeliyim" şeklinde içsel öz-düzeltme (self-correction) davranışlarını kendiliğinden keşfeder.

B. Sonuç Ödülünden Süreç Ödülüne: ORM vs. PRM (Process Reward Models)

Yalnızca nihai cevabın doğru olup olmadığına bakan Sonuç Ödül Modelleri (ORM), 50 adımlık bir mühendislik çözümünde 38. adımda yapılan ince bir mantık hatasını tespit etmekte zorlanır (Kredi Atama Problemi / Credit Assignment Problem). Süreç Ödül Modelleri (PRM) ve yeni nesil Üretken Eleştirmenler (GenPRM) ise düşünce zincirinin her bir ara adımını ayrı ayrı puanlar.

2. Çıkarım Zamanında (Inference-Time) Hesaplama Nasıl Ölçeklenir?

Çıkarım zamanlı hesaplama bütçesi iki farklı eksende (veya bunların birleşimiyle) ölçeklendirilir:

3. Karmaşık Yazılım Mühendisliğinde System 2 Devrimi: Kod Tamamlamadan Mimari Muhakemeye

Standart (System 1) dil modelleri tek bir fonksiyonu otomatik tamamlamakta veya bilinen bir CRUD uç noktasını yazmakta son derece başarılıdır. Ancak gerçek dünya yazılım mühendisliği; 100.000 satırlık bir kod tabanında yarış durumunu (race condition) bulmak, geriye dönük uyumluluğu bozmadan veritabanı şemasını göç ettirmek veya bellek sızıntısının kök nedenini (root-cause) teşhis etmek demektir.

Akıl yürütme modelleri karmaşık mühendislik problemlerini dört aşamalı bir içsel döngüyle çözer:

1. Çağrı Grafiği ve Bağımlılık Haritalama: Kodu yazmaya başlamadan önce düşünme tokenları içinde etkilenen tüm arayüzleri (interface), yan etkileri (side-effects) ve uç durumları (edge-cases) simüle eder.
2. Zihinsel Derleme ve Karşı-Örnek Üretimi (Mental Execution & Fuzzing): Tasarladığı algoritmayı henüz çıktıya dökmeden, kendi kendine uç girdilerle (null, boş dizi, eşzamanlı 2 iş parçacığı) zihinsel olarak çalıştırır ve çökme noktasını yakalar.
3. Derleyici ve Test Güdümlü Budama (Verifier-Guided Pruning): Ajanik çalışma zamanında ürettiği aday yamayı birim testine sokar; gelen yığın izini (stack trace) okuyarak hipotezini günceller.

TypeScript İle Uyarlanabilir Hesaplama Yönlendiricisi (Adaptive Test-Time Compute Router)

Üretim ortamında her basit kullanıcı sorusu için 30.000 düşünme tokenı harcamak hem bütçeyi hem de gecikme SLA'larını yıkar. Bu nedenle modern kurumsal mimariler, problemi karmaşıklık entropisine göre System 1 (Hızlı Refleks) veya System 2 (Derin Akıl Yürütme + Paralel Doğrulama) katmanına yönlendiren uyarlanabilir bir yönlendirici kullanır:

interface EngineeringTask {
  prompt: string;
  repoFileCount: number;
  hasFailingStacktrace: boolean;
  requiresConcurrencySafety: boolean;
}

interface ReasoningConfig {
  mode: "SYSTEM_1_FAST" | "SYSTEM_2_SEQUENTIAL" | "SYSTEM_2_PARALLEL_VERIFIED";
  thinkingBudgetTokens: number;
  parallelRollouts: number;
  requireSandboxTestPass: boolean;
}

export class AdaptiveComputeRouter {
  resolveComputeBudget(task: EngineeringTask): ReasoningConfig {
    const complexityScore = this.calculateComplexityScore(task);

    // 1. Düşük Karmaşıklık: Basit boilerplate, dokümantasyon veya tek dosya dönüşümü
    if (complexityScore < 30) {
      return {
        mode: "SYSTEM_1_FAST",
        thinkingBudgetTokens: 0,
        parallelRollouts: 1,
        requireSandboxTestPass: false,
      };
    }

    // 2. Orta-Yüksek Karmaşıklık: Çok dosyalı refactoring veya kök neden analizi
    if (complexityScore < 75) {
      return {
        mode: "SYSTEM_2_SEQUENTIAL",
        thinkingBudgetTokens: 16384,
        parallelRollouts: 1,
        requireSandboxTestPass: true,
      };
    }

    // 3. Kritik Mimari / Eşzamanlılık Hatası: Paralel Best-of-N + Birim Test Doğrulayıcısı
    return {
      mode: "SYSTEM_2_PARALLEL_VERIFIED",
      thinkingBudgetTokens: 32768,
      parallelRollouts: 4,
      requireSandboxTestPass: true,
    };
  }

  private calculateComplexityScore(task: EngineeringTask): number {
    let score = 0;
    if (task.repoFileCount > 15) score += 35;
    if (task.hasFailingStacktrace) score += 25;
    if (task.requiresConcurrencySafety) score += 30;
    if (/deadlock|race condition|memory leak|migration/i.test(task.prompt)) score += 20;
    return Math.min(100, score);
  }
}

Sonuç: Model Boyutundan Düşünme Bütçesi Mühendisliğine

Ön eğitimden çıkarım zamanlı hesaplamaya geçiş, yapay zeka mühendisliğinin temel sorusunu değiştirdi: Artık soru "Hangi model daha fazla parametreye sahip?" değil; "Bu mühendislik problemini çözmek için doğrulayıcı destekli ne kadar çıkarım zamanlı hesaplama bütçesi tahsis edilmeli?" sorusudur. System 1 modellerin hızıyla System 2 modellerin derin doğrulama yeteneğini uyarlanabilir yönlendiricilerle (Adaptive Compute Routers) birleştiren mimariler, yazılım mühendisliğinde otonom problem çözmenin yeni standardını belirliyor.