NVIDIA Sentry daxilində: Runtime zamanı təhlükəsiz AI agentləri

NVIDIA Sentry agent giriş sorğularını idarə edir, iş vaxtı fəaliyyətinə nəzarət edir və millisaniyələrdə təcrid olunmuş aparat təhlükəsizlik qatından gələn təhdidləri ehtiva edir.

Süni intellekt agenti öz tapşırığını yerinə yetirə və hələ də təhlükəsizlik sərhədini keçə bilər. Son hadisələr göstərir ki, agentlər təyin olunmuş məqsədlərə çatmaq üçün alətlər, etimadnamələr və xidmətlərdən istifadə edərkən təhlükəsizlik nəzarətindən yayına bilirlər. Monitorinq və icra agentin imkanlarından kənarda fəaliyyət göstərməlidir ki, o, onları dəyişdirə və ya söndürməsin.

NVIDIA Sentry süni intellekt agentlərini izləyən və onların modellərə, alətlərə və məlumatlara çıxışını tənzimləyən siyasətləri tətbiq edən təhlükəsizlik proqramı çərçivəsidir. GTC Berlin-də elan edilən NVIDIA OpenShell istinad arxitekturasının bir hissəsi, NVIDIA DOCA üzərində qurulub, NVIDIA BlueField-4 DPU-larda işləyir və AI agentləri üçün host tərəfindən təcrid olunmuş iş vaxtının qorunmasını təmin edir. NVIDIA Sentry agentin nəzərdə tutulmuş niyyətinə uyğun və müəyyən edilmiş əməliyyat sərhədləri daxilində fəaliyyət göstərdiyini təsdiqləyir.

Host resurslarına etibar edilmədikdə belə etibar edilir, o, agentin modelə aparan yeganə yolunu idarə edir, agent fəaliyyətinin təxribatsız izlənilməsini təmin edir, eyni zamanda silikonda agentə girişdə dənəvər təhlükəsizlik nəzarətini həyata keçirir. Agent kommunikasiyalarını yoxlamaqdan əlavə, NVIDIA Sentry real vaxt situasiya məlumatlılığı yaratmaq üçün diapazondan kənar müşahidə imkanından istifadə edir, onların təhlükəsizliyini və bütövlüyünü təsdiqləmək üçün agentlərin iş vaxtının təhlükəsizliyini və davranışını davamlı olaraq qiymətləndirir.

Bu yazı NVIDIA Sentry-nin agent sorğularını necə qiymətləndirdiyini, təhdidləri aşkar etdiyini və host proqram təminatından asılı olmayaraq təhlükəsizlik siyasətlərini necə tətbiq etdiyini izah edir.

Əvvəlki agent AI təhlükəsizlik yazısı NVIDIA BlueField-in hostdan müstəqil bir hardware etibar domenində təhlükəsizlik xidmətlərini necə işlətdiyini təsvir etdi.

NVIDIA Sentry, süni intellekt agentinin davranışını davamlı olaraq izləmək və host proqram təminatından asılı olmayaraq giriş siyasətlərini tətbiq etmək üçün həmin təməl üzərində qurur, agentlərin öz məqsədlərinə uyğun fəaliyyət göstərmələrini təmin etmək üçün agentin əli çatmayan ayrıca aparat etibar domenində ciddi təhlükəsizlik sərhədi yaradır.

Proqram təminatının işləmə müddətinin sərhədləri vacib olaraq qalır. NVIDIA OpenShell, agentin nə edə biləcəyini idarə edən avtonom agentlər üçün təhlükəsiz iş vaxtıdır. OpenShell siyasətin tətbiqini agent iş yükündən ayırır, beləliklə, təhlükə altında olan agent öz məhdudiyyətlərini dəyişə bilməz. NVIDIA Sentry, agentin imkanından və biliyindən kənarda BlueField-4-də işləyən, qrupdan kənar müstəqil bir aparat təminatı əlavə edir.

OpenShell istinad arxitekturasında agentlər NVIDIA Vera CPU-larında işləyirlər, BlueField-4 isə qovşağın modelə aparan yeganə yolunda oturur. NVIDIA Sentry agentdən modelə rabitəni yoxlayır və öz davranışını bildirmək üçün agentə etibar etmədən giriş siyasətlərini tətbiq edir. Yaddaş introspeksiyası xarici təhlükələri və agentin yanlış davranışını aşkar etməyə kömək etmək üçün konteyner və ya microVM kimi agentin icra mühiti haqqında kontekst əlavə edir.

DOCA Tower NVIDIA Sentry-nin AI təhlükəsizlik qapısıdır. Açıq mənbə kənarı və xidmət proksisi olan Envoy üzərində qurulmuş o, agent və xarici mühit arasında iki istiqamətli yoxlama qatını yerləşdirərək agent trafiki üçün şəffaf proksi kimi fəaliyyət göstərir.

Agent şəbəkə trafiki BlueField-4-ə host ƏS/hipervizor paketinin işlənməsindən yan keçən birbaşa şəbəkə I/O yolu ilə çatır. BlueField-4 modelə və xarici dünyaya yeganə yolda oturduğu üçün agentin bütün şəbəkə kommunikasiyaları NVIDIA Sentry tərəfindən idarə olunur.

Agentin şəbəkəyə giriş sərhədi agentin təsdiq edilmiş resurslara girişini məhdudlaşdırmaq üçün birgə işləyən DOCA Flow və DOCA Tower istifadə edərək idarə olunur. DOCA Flow BlueField-4-də silikonda sürətləndirilmiş hər bir agent üçün lay-4 firewall tətbiq etmək üçün istifadə olunur. Firewall icazəsiz təyinatlara qoşulmaları bloklayır və 7-ci səviyyənin (tətbiq səviyyəsinin) yoxlanılması, icazə verilməsi və əlavə təhlükəsizlik yoxlamaları üçün icazə verilən trafiki DOCA Tower-ə yönləndirir.

DOCA Tower şəffaf proksi kimi çıxış edir, daxili silikonda TLS sürətləndirməsindən istifadə edərək Nəqliyyat Layeri Təhlükəsizliyi (TLS) dayandırılmasını həyata keçirir. Yoxlama üçün konfiqurasiya edilmiş bağlantılar üçün o, agent kommunikasiyalarını yoxlamaq və idarə etmək üçün 4-cü səviyyə təhlükəsizlik divarı tərəfindən icazə verilən agent trafikinin şifrəsini açır.

NVIDIA Sentry müəyyən edilmiş siyasətlərə qarşı giriş sorğularını qiymətləndirmək üçün açıq mənbə siyasət mühərriki olan Açıq Siyasət Agentindən (OPA) istifadə edir. OPA mürəkkəb iyerarxik məlumat strukturlarını qiymətləndirmək üçün nəzərdə tutulmuş deklarativ domenə xas dil olan Rego-dan istifadə edir. OPA yaddaşda lokal olaraq işləyir və siyasətin mürəkkəbliyindən və konfiqurasiyadan asılı olaraq sorğuları millisaniyədən az müddətdə qiymətləndirə bilər.