# Argate AI — Full Reference > On-premises, air-gapped API firewall and control plane for autonomous AI agents and enterprise LLM deployments. Sits inline between agent orchestrators (LangChain, CrewAI, AutoGen) and local inference engines (vLLM, Ollama, llama.cpp). Near-zero latency in-memory proxy. > > Argate AI runs entirely within a sovereign VPC, bare-metal server, or private Kubernetes cluster with zero cloud egress. It enforces security, governance, and compliance policies at the network proxy layer — without modifying agent or model code. --- ## Ana Sayfa / Home — Sovereign AI Agent Gateway & Runtime Security Plane Source: https://argate.ai/ ### Genel Bakış (Overview) Argate AI, kurum içi (on-premises) ve izole (air-gapped) ortamlarda çalışan yapay zeka ajanları (AI Agents) ve büyük dil modelleri (LLM) için geliştirilmiş ağ seviyesinde (network proxy) bir API güvenlik duvarı ve merkezi yönetim düzlemidir (control plane). Yapay zeka modelleriniz ve orkestrasyon araçlarınız (LangChain, CrewAI, AutoGen, LlamaIndex) ile yerel model çıkarım sunucularınız (vLLM, Ollama, TensorRT-LLM, llama.cpp) arasına girerek gelen ve giden tüm trafiği ihmal edilebilir ek yükle denetler, filtreler ve yönetir. ### Temel Güvenlik ve Yönetim Motorları (Core Engines) 1. **DeepGuard PII & Veri Maskeleme Motoru (In-Memory PII Redaction)** - Bellek içinde (in-memory) sıfır kopyalama mimarisiyle anında çalışır. - TCKN (Mod 10/11 kontrolü), Kredi Kartı numaraları (Luhn algoritması), IBAN, e-posta, telefon, API anahtarları, şifreler ve gizli kurumsal sırları prompt modele veya vektör veri tabanına ulaşmadan önce anında maskeler. - %100 KVKK, GDPR ve BDDK veri egemenliği uyumu sağlar. 2. **Just-In-Time (JIT) İnsan Onayı ve Müdahale (Human-in-the-Loop)** - Otonom ajanların yetkisiz veritabanı silme (`DROP TABLE`, `DELETE`), yıkıcı işletim sistemi komutları (`rm -rf`) veya kontrolsüz finansal API çağrılarını ağ seviyesinde askıya alır. - TCP soket bağlantısını koparmadan bekletir ve güvenlik operatörlerine Slack, Microsoft Teams veya Webhook üzerinden anlık bildirim kartı gönderir. - Operatörün tek tıkla onay vermesiyle işlem kaldığı yerden devam eder; red durumunda güvenli yanıt üretilir. 3. **Autonomous AI Red Team Pentest Motoru** - Ajanlarınızı ve modellerinizi canlıya almadan önce 40+ OWASP LLM Top 10 saldırı vektörüne karşı otonom olarak simüle eder. - Prompt injection, jailbreak, sistem istemi sızdırma (leakage), yetkisiz araç yürütme ve SSRF açıklarını test eder; denetim için PDF uyumluluk raporu üretir. 4. **Runaway Circuit Breaker & Sonsuz Döngü Kalkanı** - Hatalı veya kısır döngüye giren otonom ajanları kayar pencere anomali analiziyle anında algılar. - Devreyi açarak aşırı token tüketimini ve GPU bellek kilitlenmelerini $0 ek maliyetle durdurur. 5. **Ağ Seviyesi Ingress Gateway & Evrensel API Yönlendirme** - İstemcilere standart OpenAI uyumlu `/v1/chat/completions` API arayüzü sunar. - Arka planda vLLM, Ollama veya yerel Llama kümeleri arasında akıllı yük dengeleme (load balancing), dinamik kuyruk yönetimi ve otomatik failover sağlar. 6. **Contextual Guardrails & Sistem İstemi İzolasyonu** - Her istemci isteğine şirket içi kurumsal güvenlik kurallarını (read-only erişim, şema değiştirme yasağı) dinamik olarak ekler veya kötü niyetli sistem istemi çalma girişimlerine sentetik güvenli yanıt (mock response) döner. ### Mimari Özellikler - **100% On-Premises & Air-Gapped**: Dış buluta veya 3. parti API'lara hiçbir veri transferi yapılmaz (0 Cloud Egress). - **Ultra Hızlı Bellek İçi Motor**: Sıfır-kopyalama bellek içi boru hattı; ihmal edilebilir ek yük. - **Sıfır Kod Değişikliği (Zero Code Refactor)**: Ajan veya model koduna kütüphane ekleme gerektirmez; sadece standart HTTP/REST ve gRPC reverse-proxy yönlendirmesiyle entegre olur. ### Kurulum (Quickstart) Kubernetes Helm kurulumu: ```bash helm repo add argate https://charts.argate.ai helm repo update helm install argate argate/gateway -f values.yaml ``` Docker Compose ile izole sunucuda başlatma: ```bash docker run -d --name argate-firewall \ -p 8000:8000 \ -e UPSTREAM_MODEL_URL="http://vllm:8000/v1" \ -e AIRGAP_MODE=true \ argate/gateway:latest ``` --- ## AI Agent Security & Runtime Firewall Source: https://argate.ai/solutions/ai-agent-security ### Açıklama Kurumsal yapay zeka ajanları (LangChain, CrewAI, AutoGen, AutoGPT, Semantic Kernel) için çalışma zamanı (runtime) yürütme güvenlik duvarı ve API denetim katmanı. ### Karşılaşılan Tehditler ve Savunma Mekanizmaları 1. **Kontrolsüz Tool Çağrıları (Insecure Tool Execution)** - Tehdit: Ajanların kullanıcı girdilerine aldanarak veritabanında `DROP DATABASE`, dosya sisteminde `rm -rf` veya yetkisiz para transferi API'ları çağırması. - Savunma: Argate, ağ seviyesinde tool payload'larını inceler ve yüksek riskli eylemleri JIT insan onayına dondurur. 2. **Hassas Veri ve Gizli Bilgi Sızıntısı (PII & Secret Extraction)** - Tehdit: Sistem istemlerinin (system prompt), API key'lerin, müşteri kimlik veya kart bilgilerinin dışarı sızdırılması. - Savunma: DeepGuard PII motoru girdi ve çıktı akışlarını algoritmik (Mod10/11, Luhn, Regex) olarak bellek içinde sansürler. 3. **Sonsuz Döngü ve GPU Kaynak Tüketimi (Runaway Recursive Loops)** - Tehdit: Ajanların birbirini tetikleyerek sonsuz döngüye girmesi, GPU hafızasını tüketmesi ve kurumsal hizmet kesintisine yol açması. - Savunma: Circuit Breaker kayar pencere hata analizi ile döngüyü anında keser. ### Kod İçi Kütüphaneler vs. Argate Ağ Seviyesi Control Plane - **Geleneksel Python Kütüphaneleri**: Her ajan kodunda refactor gerektirir, yüksek ek gecikme katar, farklı dillerde yazılmış mikroservisleri merkezi olarak denetleyemez, engelleme anında soketi koparır. - **Argate Ağ Seviyesi Control Plane**: Sıfır kod değişikliği ile proxy seviyesinde çalışır, ihmal edilebilir ek yük sunar, tüm şirket içi ajanlar için merkezi KVKK denetim izi üretir, TCP soketini askıya alarak operatör onayını bekler. --- ## AI Gateway & vLLM Proxy Source: https://argate.ai/solutions/ai-gateway ### Açıklama Yerel LLM çıkarım sunucuları (vLLM, Ollama, TensorRT-LLM, TGI, LocalAI) için ultra düşük gecikmeli, yüksek işlem hacimli (high-throughput) kurumsal API Gateway ve akıllı yük dengeleyici. ### Temel Yetenekler - **Bellek İçi Akış Çekirdeği**: Sıfır-kopyalama akış mimarisi ile standart LLM yanıt süresine eklenen yük %0.15'in altındadır. - **Evrensel OpenAI Uyumlu API**: Tüm istemciler ve ajan framework'leri standart `/v1/chat/completions` üzerinden arka plandaki tüm modellere erişir. - **Akıllı Yük Dengeleme ve Failover**: GPU kümesindeki podların gerçek zamanlı kuyruk derinliğine (queue depth) ve KV önbellek (KV-cache) doluluk durumuna göre istekleri en uygun node'a yönlendirir. - **Jeton Kotası ve Hız Sınırları (Rate Limiting)**: Ajan, departman veya API anahtarı bazında kayar pencereli hız limitleri ve anlık bütçe tavanları tanımlanabilir. ### Performans Benchmark Tablosu (10.000 Eşzamanlı İstek / NVIDIA H100 Node) - **Argate AI Gateway**: İhmal edilebilir ek yük | ~45 MB RAM / 0.2 CPU | %100 Air-Gapped İzolasyon (0 Egress) - **Geleneksel Python AI Gateway**: Yüksek ek gecikme | ~850 MB RAM / 2.4 CPU | Sınırlı İzolasyon - **Bulut Tabanlı AI Proxy (Cloud SaaS)**: Değişken bulut gecikmesi | SaaS Yönetimli | ❌ Veri Şirket Dışına Çıkar (KVKK/GDPR Riski) --- ## Enterprise AI Agent Governance & Human-in-the-Loop Control Plane Source: https://argate.ai/solutions/agent-governance ### Açıklama Kurumsal yapay zeka ajan filoları için merkezi yönetim düzlemi, rol tabanlı erişim kontrolü (RBAC), JIT insan onayı ve adli bilişim standartlarında denetim izi (audit trail) altyapısı. ### JIT (Just-In-Time) Human-in-the-Loop Onay Akışı 1. **Adım 1: Tool Çağrısı Başlatılır** Ajan otonom karar alarak `transfer_funds`, `drop_table` veya veritabanı güncelleme çağrısını Argate Gateway'e iletir. 2. **Adım 2: Proxy Seviyesinde Askıya Alınır** Argate kural motoru eylemin risk seviyesini doğrular; istemcinin TCP bağlantısını koparmadan bellekte güvenli şekilde askıya alır. 3. **Adım 3: Operatör Bildirimi (Slack / Teams / Webhook)** Güvenlik operatörünün kanalına veya yönetim paneline parametreleri, risk değerlendirmesini ve tek tıkla Onayla/Reddet butonlarını içeren interaktif kart iletilir. 4. **Adım 4: Yürütme ve Değiştirilemez Denetim Günlüğü** Operatör onayladığı anda istek model/veritabanı sunucusuna iletilir; işlem zaman damgası, operatör kimliği ve kriptografik imzayla denetim loguna kaydedilir. ### Mevzuat ve Uyumluluk - **KVKK / GDPR**: Her ajan etkileşimi, maskelenen PII varlıkları ve uygulanan kurallar değiştirilemez denetim izinde saklanır. - **Dinamik RBAC**: Ajanların erişebileceği veritabanları, API endpoint'leri ve yetki sınırları merkezi panelden kod değiştirmeden yönetilir. --- ## OWASP LLM Top 10 Mitigation Playbook Source: https://argate.ai/solutions/owasp-llm-top-10 ### Açıklama Yapay zeka modellerini ve ajanlarını OWASP tarafından yayınlanan en kritik 10 LLM güvenlik açığına karşı ağ seviyesinde koruma ve otomatize Red Team pentest rehberi. ### Zafiyetler ve Savunma Matrisi 1. **LLM01: Prompt Injection & Jailbreaks** - Tanım: Zararlı kullanıcı girdileriyle sistem talimatlarının çiğnenmesi veya gizli promptların ele geçirilmesi. - Savunma: Argate Contextual Guardrails ile bellek içi regex ve semantik saldırı tespiti; modele ulaşmadan BLOCK veya MOCK_RESPONSE üretimi. - Durum: ENGELLENDİ (BLOCKED) 2. **LLM02: Sensitive Information Disclosure (PII & Secrets)** - Tanım: TCKN, kredi kartı, şifre ve kurumsal sırların model yanıtlarında veya loglarında ifşa olması. - Savunma: DeepGuard PII motoruyla Mod 10/11 ve Luhn algoritmik bellek içi sıfır gecikmeli maskeleme. - Durum: MASKELENDİ (REDACTED) 3. **LLM06: Excessive Agency & Insecure Tool Execution** - Tanım: Ajanın yetkisiz araç çağrıları veya yıkıcı sistem komutları çalıştırması. - Savunma: JIT (Just-In-Time) Human-in-the-Loop soket askıya alma ve operatör onay mekanizması. - Durum: JIT BEKLEMEDE (JIT HOLD) 4. **LLM08: Excessive Reliance & Infinite Recursion Loops** - Tanım: Ajanların döngüye girerek sistemi kilitlemesi ve kontrolsüz jeton tüketmesi. - Savunma: Runaway Shield Circuit Breaker ile kayar pencere anomali tespiti ve $0 maliyetle akışın kesilmesi. - Durum: KORUMALI (SHIELDED) 5. **LLM10: Unbounded Consumption (Denial of Service)** - Tanım: Kontrolsüz istek patlamalarıyla yerel GPU kaynaklarının tüketilmesi. - Savunma: Sliding Window Rate Limiter ve ajan bazlı dinamik jeton bütçe sınırları. - Durum: KORUMALI (SHIELDED) --- ## Cookie & Privacy Policy Source: https://argate.ai/cookie-policy ### Açıklama Argate AI web sitesi gizlilik yaklaşımı, çerezsiz (cookieless) analitik mimarisi ve kurumsal veri egemenliği taahhüdü. ### Temel Prensipler - **%100 Çerezsiz Analitik**: Sitede çerez (cookie), yerel depolama takipçisi (local storage tracking) veya parmak izi (fingerprinting) kullanılmaz. - **Kişisel Veri Saklanmaz**: Ziyaretçilerin IP adresleri, kimlik bilgileri veya cihaz özellikleri sunucularda saklanmaz; IP adresleri tek yönlü hashlenerek anonimleştirilir. - **Air-Gapped & Sıfır Dış Bulut Aktarımı**: Analitik altyapısı bağımsız, açık kaynaklı (Umami) ve şirketin kendi sunucularında barındırılır; veriler Google, Meta veya herhangi bir üçüncü parti reklam ağına aktarılmaz. - **Yasal Uyumluluk**: KVKK, GDPR ve e-Privacy direktiflerine tam uyumludur; rıza gerektiren izleme çerezleri barındırmaz. ### Şirket Bilgileri ve İletişim - **Şirket**: Argate AI Teknoloji A.Ş. - **Adres**: Bilişim Vadisi, Muallimköy Mah. Deniz Cad. No:143/1 Gebze / Kocaeli, Türkiye - **E-posta**: contact@argate.ai - **Web**: https://argate.ai