Joerg Hiller
23. Apr 2025 15:28
NVIDIA kündigt die allgemeine Verfügbarkeit seiner Secure AI-Lösung an, die sich auf den Schutz großer Sprachmodelle mit verbesserten Sicherheitsfunktionen konzentriert.
NVIDIA hat offiziell die allgemeine Verfügbarkeit seiner Secure AI-Lösung bekannt gegeben, ein Schritt, der darauf abzielt, die Sicherheit großer Sprachmodelle (LLMs) zu stärken, da Unternehmen zunehmend KI für Trainings- und Inferenzzwecke einsetzen. Die Ankündigung, die von Emily Sakata im NVIDIA Developer Blog gemacht wurde, unterstreicht t
Die Notwendigkeit, sensible Daten und geistiges Eigentum in KI-Betrieb zu schützen.
Verbesserte Sicherheitsfunktionen
Die Secure AI-Version führt mehrere wichtige Funktionen ein, die darauf abzielen, den Datenschutz zu verbessern. Eine der herausragenden Funktionen ist der Protected PCIe (PPCIE)-Modus, der Multi-GPU-Konfigurationen innerhalb einer Confidential Virtual Machine schützt. Dieser Modus stellt einen bedeutenden Wandel von der vorherigen Single-GPU-Konfiguration dar und bietet eine robustere Sicherheit für komplexe KI-Arbeitslasten.
Darüber hinaus hat NVIDIA die NV Link-Verschlüsselung entfernt, um die Leistung zu verbessern, ohne die Sicherheit zu beeinträchtigen. Änderungen in den Attestierungsprozessen stellen zudem sicher, dass sowohl GPUs als auch Switches im PPCIE-Modus sicher konfiguriert sind.
Bedeutung der Datensicherheit
In der heutigen digitalen Landschaft ist die Sicherung von Daten von größter Bedeutung. Unternehmen generieren riesige Mengen an Daten, die erhebliches Potenzial und Wert besitzen. Während traditionelle Sicherheitsmaßnahmen sich auf Daten in Bewegung und Daten im Ruhezustand konzentriert haben, adressiert NVIDIAs Confidential Computing (CC) das oft übersehene Bedürfnis, Daten in Verwendung zu schützen. Dieser Ansatz verhindert unbefugten Zugriff und Änderungen und stellt sicher, dass sensible Informationen sicher bleiben.
Hardware- und Softwareanforderungen
Die Secure AI-Lösung ist kompatibel mit NVIDIA H100 und H200 Tensor Core GPUs, die in einem HGX 8-GPU-System integriert sind. Für optimale Leistung sollten die Systeme auch CPUs enthalten, die eine vertrauenswürdige Ausführungsumgebung (TEE) unterstützen, wie
als AMD SEV-SNP und Intel TDX Technologien.
Unterstützte CPUs umfassen AMDs EPYC Milan und Genoa Serien sowie Intels Xeon skalierbare Prozessoren der 5. und 6. Generation. Die Lösung erfordert außerdem den neuesten NVIDIA-Treiber (CUDA 12.8 Data Center Driver) und Firmware und ist mit Hypervisoren wie Microsoft Azure Hyper-V und KVM kompatibel. Unterstützte Betriebssysteme sind Ubuntu 25.04 für AMD und Ubuntu 24.04 mit Patches für Intel.
Allgemeine Verfügbarkeit und Ressourcen
Mit der Veröffentlichung von CUDA 12.8 ist die Unterstützung für PPCIE nun allgemein verfügbar, was es Unternehmen ermöglicht, die volle 8-GPU-Leistung mit den neuesten Sicherheitsverbesserungen zu nutzen. Für detaillierte Bereitstellungsanleitungen bietet NVIDIA umfangreiche Dokumentationen und Ressourcen, die direkt über ihre offizielle Website zugänglich sind.
Für weitere Einblicke in die Sicherheitsangebote von NVIDIA, einschließlich ihrer Lösungen für vertrauliches Rechnen, können Interessierte die umfassenden Ressourcen auf der Seite für vertrauenswürdige Computing-Lösungen von NVIDIA erkunden.
Für detailliertere Informationen besuchen Sie den NVIDIA Developer Blog.
Bildquelle: Shutterstock