Йорг Хиллер
23 апреля 2025 15:28
NVIDIA объявляет о доступности своего решения Secure AI, сосредоточив внимание на защите больших языковых моделей с улучшенными функциями безопасности.
NVIDIA официально объявила о доступности своего решения Secure AI, шаг, направленный на укрепление безопасности больших языковых моделей (LLM), поскольку предприятия все чаще используют ИИ для обучения и вывода. Объявление, сделанное Эмили Саката в блоге разработчиков NVIDIA, подчеркивает т
Необходимость защиты конфиденциальных данных и интеллектуальной собственности в операциях ИИ.
Улучшенные функции безопасности
Выпуск Secure AI представляет несколько ключевых функций, разработанных для повышения защиты данных. Одной из выдающихся функций является режим защищенного PCIe (PPCIE), который защищает конфигурации с несколькими графическими процессорами в рамках конфиденциальной виртуальной машины. Этот режим представляет собой значительный сдвиг от предыдущей конфигурации с одним графическим процессором, предлагая более надежную безопасность для сложных рабочих нагрузок ИИ.
Кроме того, NVIDIA убрала шифрование NV Link для улучшения производительности без ущерба для безопасности. Изменения в процессах аттестации дополнительно обеспечивают надежную настройку как графических процессоров, так и коммутаторов в режиме PPCIE.
Важность безопасности данных
В современном цифровом ландшафте защита данных имеет первостепенное значение. Компании генерируют огромные объемы данных, которые обладают значительным потенциалом и ценностью. В то время как традиционные меры безопасности сосредоточены на данных в движении и данных в состоянии покоя, конфиденциальные вычисления NVIDIA (CC) решают часто упускаемую из виду необходимость защиты данных в процессе использования. Этот подход предотвращает несанкционированный доступ и изменения, обеспечивая безопасность конфиденциальной информации.
Требования к аппаратному и программному обеспечению
Решение Secure AI совместимо с графическими процессорами NVIDIA H100 и H200 Tensor Core, интегрированными в систему HGX с 8 графическими процессорами. Для оптимальной производительности системы также должны иметь процессоры, поддерживающие среду доверенного выполнения (TEE), такие как…
как технологии AMD SEV-SNP и Intel TDX.
Поддерживаемые процессоры включают серии EPYC Milan и Genoa от AMD, а также процессоры Intel Xeon масштабируемого 5-го и 6-го поколения. Решение также требует последнего драйвера NVIDIA (CUDA 12.8 Data Center Driver) и прошивки, и совместимо с гипервизорами, такими как Microsoft Azure Hyper-V и KVM. Поддерживаемые операционные системы включают Ubuntu 25.04 для AMD и Ubuntu 24.04 с патчами для Intel.
Общая доступность и ресурсы
С выходом CUDA 12.8 поддержка PPCIE теперь доступна в общем доступе, что позволяет предприятиям использовать полную производительность 8-GPU с последними улучшениями безопасности. Для получения подробных рекомендаций по развертыванию NVIDIA предоставляет обширную документацию и ресурсы, которые можно получить напрямую через их официальный сайт.
Для получения дополнительной информации о предложениях безопасности NVIDIA, включая их решения для конфиденциальных вычислений, заинтересованные стороны могут ознакомиться с обширными ресурсами, доступными на странице NVIDIA Trusted Computing Solutions.
Для получения более подробной информации посетите блог разработчиков NVIDIA.
Источник изображения: Shutterstock