NVIDIA’dan Kurumsal Ajan Altyapısına İki Açık Kaynak Hamlesi: ‘Auto Ontology’ Anlamsal Veri Katmanı ve ‘Attribution’ Kök Neden Motoru

Kurumsal Yapay Zeka Yığınında İki Kritik Darboğaz: Veri Anlamsızlığı ve Semptom Gürültüsü

Üretim ortamında çalışan otonom yapay zeka sistemleri, uygulama katmanından altyapı katmanına kadar iki temel güvenilirlik sorunuyla karşılaşıyor. Uygulama ve veri katmanında, kurumsal veri ambarlarına (PostgreSQL, Snowflake, Databricks, DuckDB) bağlanan analitik ajanlar ve Text-to-SQL boru hatları, yüzlerce tablodan oluşan ham DDL şemalarını doğrudan dil modelinin bağlam penceresine (context window) enjekte ettiğinde ciddi anlam kaymaları yaşanıyor. Kuruma özgü iş kuralları, gelir tanıma kriterleri veya aktif müşteri tanımları ham sütun adlarında yer almadığı için ajanlar yanlış tabloları seçiyor, hatalı JOIN ifadeleri kurguluyor ve aynı iş sorusuna birbiriyle çelişen metrikler üretiyor.

Altyapı ve küme (cluster) katmanında ise binlerce GPU'dan oluşan dağıtık eğitim ve çıkarım sistemlerinde tek bir fiziksel bileşen arızası, saniyeler içinde tüm kümeye yayılan ikincil hata dalgaları yaratıyor. Tek bir düğümdeki NVLink hatası, InfiniBand RDMA port kopması veya donanımsal Xid / ECC bellek arızası, kümedeki diğer tüm düğümlerde eşzamanlı NCCL iletişim zaman aşımı (timeout) istisnalarının fırlatılmasına yol açıyor. Geleneksel günlük (log) izleme araçları yalnızca işin çöktüğü son istisnayı raporladığında, altyapı mühendisliği ekipleri gerçek arızalı düğümü bulmak için binlerce satırlık günlük dosyasını manuel olarak taramak zorunda kalıyor.

NVIDIA, bu iki yapısal darboğazı çözmek amacıyla NVIDIA Agent Knowledge Foundation çatısı altında geliştirdiği Auto Ontology anlamsal veri katmanını ve iş yükü odaklı dağıtık hata teşhis motoru NVIDIA Attribution projesini açık kaynak olarak ekosistemin erişimine açtı.

1. NVIDIA Auto Ontology: Ham Şemalardan Sertifikalı Anlamsal Bilgi Grafiğine

Apache-2.0 lisansıyla yayımlanan NVIDIA Auto Ontology, kurumsal veri kaynaklarındaki ham teknik meta verileri ve geçmiş sorgu günlüklerini analiz ederek otonom ajanların doğrudan tüketebileceği sertifikalı bir iş ontolojisi (semantic knowledge graph) oluşturan uçtan uca bir çerçeve sunuyor. Sistem, normal şartlarda veri mühendisleri ve iş analistlerinin haftalarca süren manuel dokümantasyon mesaisini gerektiren başlangıç ontolojisi kurulumunun %90'ına kadar olan kısmını otomatikleştiriyor.

flowchart TD
    subgraph DataSources["Kurumsal Veri Ambarları ve Kataloglar"]
        PG["PostgreSQL / DuckDB"]
        SF["Snowflake / Databricks"]
        QL["Geçmiş SQL Sorgu Günlükleri"]
    end

    subgraph AutoOntology["NVIDIA Auto Ontology (5 Aşamalı Yaşam Döngüsü)"]
        D["1. Discover (Şema ve İlişki Keşfi)"]
        G["2. Ground (Nemotron NIM ile İş Kavramı Eşleme)"]
        V["3. Validate (Next.js Arayüzü ile Uzman Onayı & RBAC)"]
        E["4. Expose (MCP Sunucusu, CLI ve REST API)"]
        L["5. Learn (Ajan Geri Bildirimi ile Sürekli İyileştirme)"]
        D --> G --> V --> E --> L
    end

    subgraph AttributionEngine["NVIDIA Attribution (Dağıtık Kök Neden Motoru)"]
        TL["İş Yükü Günlükleri + Xid/ECC + Ağ Telemetrisi"]
        CR["Nedensel Kural ve Topoloji Korelasyonu"]
        RC["Yapılandırılmış JSON Kök Neden Kanıt Paketi"]
        TL --> CR --> RC
    end

    PG & SF & QL --> D
    E --> AG["Otonom Kodlama ve Analitik Ajanları (Claude Code, Cursor, Özel Ajanlar)"]
    RC --> CL["Dağıtık GPU Kümesi Orkestrasyonu ve Otomatik İyileştirme"]

Beş Aşamalı Ontoloji Yaşam Döngüsü (Discover -> Ground -> Validate -> Expose -> Learn)

Auto Ontology mimarisi, veri ambarı ile otonom ajanlar arasında deterministik bir sözleşme katmanı oluşturmak için beş ardışık aşamadan oluşan bir boru hattı işletiyor:

1. Discover (Keşif): Sistem; PostgreSQL, Snowflake, Databricks ve DuckDB üzerindeki tablo şemalarını, birincil/yabancı anahtar kısıtlarını, veri profillerini ve geçmiş SQL sorgu kalıplarını tarayarak ham teknik topolojiyi çıkarıyor.
2. Ground (Temellendirme): FastAPI ve LangChain tabanlı arka uç, NVIDIA NIM mikroservisleri üzerinde çalışan Nemotron modellerini (varlık çıkarımı, anlamsal yeniden sıralama ve deterministik Text-to-SQL üretimi) kullanarak teknik sütunları kurumsal iş kavramlarıyla (örneğin Net Yinelenen Gelir, Aktif Kurumsal Abonelik, Tedarik Zinciri Gecikme Endeksi) eşleştiriyor ve PostgreSQL üzerinde graf tabanlı bir anlamsal katalogda saklıyor.
3. Validate (Doğrulama ve Sertifikasyon): Üretilen taslak ontoloji, doğrudan üretim ajanlarına açılmadan önce Next.js tabanlı yönetim arayüzüne aktarılıyor. Rol tabanlı erişim kontrolü (RBAC) ile yetkilendirilen alan uzmanları (domain experts), metrik formüllerini ve tablo birleştirme kurallarını inceleyerek kurumsal sertifikasyon onayı veriyor.
4. Expose (Sunum ve MCP Entegrasyonu): Sertifikalı ontoloji; Model Context Protocol (MCP) sunucusu, komut satırı arayüzü (CLI) ve REST API uç noktaları üzerinden dış dünyaya açılıyor. Bu sayede Claude Code, Cursor veya özel kurumsal ajan çatıları, ham veritabanı şemasını tahmin etmeye çalışmak yerine doğrudan MCP üzerinden onaylı metrik tanımlarını ve deterministik SQL şablonlarını çağırıyor.
5. Learn (Sürekli Öğrenme): Ajanların çalışma zamanında yürüttüğü sorgular ve kullanıcı düzeltmeleri geri bildirim döngüsüyle yakalanarak ontolojinin versiyonlu olarak güncellenmesi sağlanıyor.

2. NVIDIA Attribution: Dağıtık GPU Kümelerinde İş Yükü Odaklı Kök Neden İzolasyonu

NVIDIA'nın açık kaynak olarak sunduğu ikinci temel bileşen olan NVIDIA Attribution, büyük ölçekli yapay zeka eğitim ve çıkarım kümelerinde arıza tespiti (fault detection) ve kök neden analizi (root-cause attribution) sürecini deterministik hale getiriyor.

Dağıtık bir eğitim işinde (örneğin binlerce GPU üzerinde çalışan paralel bir model eğitiminde), veri paralelliği ve tensör paralelliği katmanları NCCL (NVIDIA Collective Communications Library) kolektif iletişim çağrılarına dayanıyor. Kümedeki tek bir düğümde meydana gelen donanımsal bir hata (örneğin GPU Xid 79 veri yolu düşmesi, ECC düzeltilemeyen bellek hatası veya InfiniBand anahtarlama kopması), o düğümün kolektif bariyere yanıt verememesine neden oluyor. Sonuç olarak, sağlam çalışan diğer yüzlerce düğümün tamamı aynı anda NCCL watchdog timeout hatası vererek çöküyor.

Telemetri Korelasyonu ve Yapılandırılmış Kanıt Zinciri

NVIDIA Attribution, hata analizini düğüm (node) merkezli dağınık metin aramalarından çıkarıp iş yükü (workload) merkezli nedensel korelasyona taşıyor. Motor, bir iş yükü başarısız olduğunda dört farklı veri düzlemini zaman damgası ve topoloji bazında birleştiriyor:

• Uygulama ve Çerçeve Günlükleri: PyTorch, Megatron-LM ve NCCL katmanlarından gelen sıra (rank) bazlı hata mesajları.
• Donanım ve Sürücü Telemetrisi: GPU sistem günlüklerindeki Xid hata kodları, DCGM (Data Center GPU Manager) sağlık sayaçları, termal kısıtlamalar ve HBM ECC bellek sayfa emeklilik (page retirement) kayıtları.
• Ağ ve Fabric Durumu: NVLink, NVSwitch ve InfiniBand RDMA bağlantı durumları ile paket düşme istatistikleri.
• Zamanlayıcı (Scheduler) Meta Verileri: Slurm veya Kubernetes iş zamanlayıcısından alınan düğüm tahsis haritası ve konteyner çıkış kodları.

Attribution motoru bu verileri nedensel kurallarla değerlendirerek ikincil semptomları eliyor ve doğrudan orkestrasyon sistemlerinin tüketebileceği yapılandırılmış bir JSON teşhis raporu (outcome, root_cause_category, origin_node, affected_ranks, evidence_trail) üretiyor.

Mühendislik Uygulaması: MCP Ontoloji Çözümleyici ve Nedensel Kök Neden Korelatörü

Aşağıdaki referans Python uygulaması, Auto Ontology benzeri sertifikalı bir anlamsal metrik kataloğunun MCP uyumlu deterministik SQL üretimini ve Attribution mimarisindeki gibi çoklu düğüm NCCL zaman aşımı gürültüsü içinden gerçek donanım kök nedenini izole eden nedensel korelasyon algoritmasını göstermektedir:

from dataclasses import dataclass, field
from typing import Dict, List, Optional
import json


@dataclass(frozen=True)
class CertifiedMetricRule:
    metric_id: str
    business_term: str
    canonical_sql_expression: str
    source_tables: List[str]
    certified_by_role: str
    version: str


class AutoOntologyMCPBridge:
    """NVIDIA Auto Ontology tarzı sertifikalı iş kavramlarını deterministik SQL sorgularına bağlayan köprü."""

    def __init__(self) -> None:
        self._catalog: Dict[str, CertifiedMetricRule] = {}

    def register_certified_rule(self, rule: CertifiedMetricRule) -> None:
        self._catalog[rule.business_term.lower()] = rule

    def resolve_agent_intent(self, business_term: str, fiscal_quarter: str) -> Dict[str, str]:
        normalized_key = business_term.strip().lower()
        if normalized_key not in self._catalog:
            return {
                "status": "UNGROUNDED_CONCEPT",
                "reason": f"'{business_term}' kavramı sertifikalı ontoloji kataloğunda yer almıyor."
            }

        rule = self._catalog[normalized_key]
        deterministic_query = (
            f"SELECT {rule.canonical_sql_expression} AS {rule.metric_id} "
            f"FROM {' JOIN '.join(rule.source_tables)} "
            f"WHERE fiscal_quarter = '{fiscal_quarter}';"
        )
        return {
            "status": "CERTIFIED_GROUNDING",
            "metric_id": rule.metric_id,
            "version": rule.version,
            "certified_by": rule.certified_by_role,
            "deterministic_sql": deterministic_query,
        }


@dataclass
class ClusterTelemetryEvent:
    timestamp_ms: int
    node_id: str
    rank_id: int
    layer: str  # 'HARDWARE_XID', 'FABRIC_RDMA', 'NCCL_WATCHDOG'
    error_code: str
    detail: str


@dataclass
class AttributionDiagnosticReport:
    workload_id: str
    outcome: str
    root_cause_node: str
    root_cause_layer: str
    primary_error_code: str
    secondary_symptom_count: int
    evidence_trail: List[str] = field(default_factory=list)


class WorkloadAttributionEngine:
    """Dağıtık GPU kümelerinde ikincil NCCL zaman aşımlarını filtreleyip gerçek kök nedeni izole eden motor."""

    CAUSAL_PRIORITY: Dict[str, int] = {
        "HARDWARE_XID": 1,
        "FABRIC_RDMA": 2,
        "NCCL_WATCHDOG": 99,  # İkincil yayılım semptomu
    }

    def attribute_workload_failure(
        self, workload_id: str, events: List[ClusterTelemetryEvent]
    ) -> Optional[AttributionDiagnosticReport]:
        if not events:
            return None

        # Olayları önce nedensel öncelik (donanım/ağ > NCCL semptomu), ardından zaman damgasına göre sıralama
        sorted_events = sorted(
            events,
            key=lambda ev: (self.CAUSAL_PRIORITY.get(ev.layer, 50), ev.timestamp_ms),
        )
        origin = sorted_events[0]
        secondary_symptoms = [
            ev for ev in events if ev.layer == "NCCL_WATCHDOG" and ev.node_id != origin.node_id
        ]

        evidence = [
            f"[{origin.timestamp_ms}ms] KÖK NEDEN: {origin.node_id} (rank={origin.rank_id}) -> {origin.layer}:{origin.error_code} ({origin.detail})",
            f"Toplam {len(secondary_symptoms)} düğümde ikincil NCCL_WATCHDOG zaman aşımı semptom olarak filtrelendi.",
        ]

        return AttributionDiagnosticReport(
            workload_id=workload_id,
            outcome="ROOT_CAUSE_ISOLATED",
            root_cause_node=origin.node_id,
            root_cause_layer=origin.layer,
            primary_error_code=origin.error_code,
            secondary_symptom_count=len(secondary_symptoms),
            evidence_trail=evidence,
        )


if __name__ == "__main__":
    ontology_bridge = AutoOntologyMCPBridge()
    ontology_bridge.register_certified_rule(
        CertifiedMetricRule(
            metric_id="net_enterprise_arr_usd",
            business_term="Net Kurumsal ARR",
            canonical_sql_expression="SUM(s.contract_value_usd - s.discount_usd)",
            source_tables=["subscriptions s", "accounts a ON s.account_id = a.id AND a.tier = 'ENTERPRISE'"],
            certified_by_role="FINANCE_DOMAIN_OWNER",
            version="v2.4.0",
        )
    )

    mcp_payload = ontology_bridge.resolve_agent_intent("Net Kurumsal ARR", "2026-Q4")
    print("=== Auto Ontology MCP Çıktısı ===")
    print(json.dumps(mcp_payload, indent=2, ensure_ascii=False))

    cluster_events = [
        ClusterTelemetryEvent(1730620012, "dgx-node-042", 336, "NCCL_WATCHDOG", "NCCL_TIMEOUT", "AllReduce collective timed out"),
        ClusterTelemetryEvent(1730620011, "dgx-node-019", 152, "NCCL_WATCHDOG", "NCCL_TIMEOUT", "AllReduce collective timed out"),
        ClusterTelemetryEvent(1730620001, "dgx-node-007", 56, "HARDWARE_XID", "XID_79", "GPU fallen off the bus on PCIe 0000:c1:00.0"),
        ClusterTelemetryEvent(1730620003, "dgx-node-007", 56, "FABRIC_RDMA", "MLX5_PORT_DOWN", "InfiniBand port 1 carrier lost"),
    ]

    attribution_engine = WorkloadAttributionEngine()
    report = attribution_engine.attribute_workload_failure("job-nemotron-pretrain-884", cluster_events)
    if report:
        print("\n=== NVIDIA Attribution Kök Neden Raporu ===")
        print(json.dumps(report.__dict__, indent=2, ensure_ascii=False))

Mimari Değerlendirme

NVIDIA'nın Auto Ontology ve Attribution projelerini açık kaynaklı olarak yayımlaması, kurumsal yapay zeka yatırımlarının odak noktasının salt model parametresi büyüklüğünden anlamsal veri yönetişimi ve küme ölçeğinde otonom dayanıklılık (resiliency) katmanlarına kaydığını doğruluyor. Veri katmanında MCP ve Nemotron NIM destekli sertifikalı ontolojiler ajanların veri halüsinasyonlarını ortadan kaldırırken, altyapı katmanında nedensel kök neden izolasyonu büyük ölçekli GPU kümelerinde ortalama onarım süresini (MTTR) saatlerden saniyelere indiriyor.