NVDIA, yapay zeka (YZ) uygulamalarında güvenliği en üst düzeye çıkarmak için geliştirdiği “Secure AI” çözümünü genel kullanıma sunduğunu duyurdu. Bu gelişme, özellikle büyük dil modelleri (LLM’ler) gibi hassas verilerle çalışan kuruluşlar için önemli bir adım teşkil ediyor.
🔐 Secure AI Nedir?
“Secure AI” NVIDIA’nın Confidential Compting (Gizli Hesaplama) teknolojisiyle entegre çalışan bir güvenlik çözümüdür. Bu sistem verilerin yalnızcam depolama veya iletişim sırasında değil, aynı zamanda işlem sırasında da korunmasını sağlar. Bu sayede, veriler işlenirken bile yetkisiz erişimlere karşı güvence altına alınmış olur.
🧩 Protected PCle (PPCIE) Modu
Yeni tanıtılan PPCIE modu, çoklu GPU yapılandırmalarında güvenliği arttırmak için tasarlanmıştır. Özellikle NVIDIA HGX H100 ve H200 8-GPU sistemlerinde, dört anahtarla birlikte GPU’nun güvenli bir şekilde çalışmasını sağlar Bu yapı, geleneksel tek GPU’lu CC modundan farklıdır ve daha yüksek performans sunar.
⚙️ Donanım ve Yazılım Gereksinimleri
Secure AI’ı kullanmak için aşağıdaki donanım ve yazılım bileşenlerine ihtiyaç vardır.
- GPU’lar: NVIDIA H100 veya H200 Tensor Core GPU’lar
- CPU’lar: AMD Milan (CPYC 7XX3) veya Genoa (EPVC 9XX4) Intel Emerald Rapids (5. Nesil XEON) veya Granite Rapids (6.Nesil Xeon)
Yazılım
- NVIDIA CUDA 12.8 veri merkezi sürücüsü (r570) veya daha yenisi
- NVIDIA ürün yazılımı 1.7.0 veya daha yenisi
- Desteklediği hipervizörler: Microsoft Azure Hyer-V, KVM
- İşletim sistemleri: AMD için Ubuntu 25. 04, Intel için yamalanan Ubuntu 24. 04
📈 Performans ve Güvenlikte İyileştirmeler
- NVLink Şifrelemesinin Kaldırılması: Performansı arttırmak için NVLink şifrelemesi kaldırıldı.
- Doğrulama Değişiklikleri: PPCIE modunda çalışan GPU’lar ve anahtarların yapılandırmalarını ölçmek için doğrulama mekanizmalarını güncelledi.
🛡️ Güvenlik Neden Önemli?
Günümüzde işletmelerin ürettiği büyük miktardaki veri hem ticari değer taşır hem de endüstrilerin geleceğini şekillendirir. Bu verilerin korunmasını, sadece depolama veya iletim sırasında değil, aynı zamanda işlenirken de önemlidir. INVIDIA’nın Comfidential Computing teknolojisi, verilen işlem sırasında da korunmasını sağlayarak yetkisiz erişim ve değişikliklere karşı güvence sunar.
🧑🏻💻 Secure AI Kullanmaya Başlarken;
PPCIE desteği artık tamamen CUDA 12.8’de mevcut. En güncel donanım güvenlik özelliklerinden faydalanarak, büyük dil modellerinizi (LLM’ler) 8 GPU’lu sistemlerde, tam kapasiteyle ve güvenli şekilde çalıştırabilirsiniz.
Eğer bu sistemi nasıl kuracağınızı merak ediyorsanız;
NVIDIA’nın güvenli yapay zeka korumalı “NVIDIA Dağıtım Kılavızu’nu” inceleyebilirsiniz.
📚 Daha Fazla Bilgi
Secure AI ve PPCIE hakkında daha fazla bilgi edinmek ve kurulum kılavuzlarına erişmek için NVIDIA’nın resmi duyurusunu ziyaret edebilirsiniz.
