Əsas fikir
İnventardan və məsul şəxsdən başlayın. Giriş və əməliyyat sərhədlərinə dair sübutu sahiblərlə əlaqələndirin, riskli əməliyyatların təsdiqini və nəzarətlərin işləməsini sınaqdan keçirin.
İdarəetmə niyə lazımdır?
Bəzi AI köməkçiləri və agentləri verilmiş icazələrdən asılı olaraq məlumat oxumaqla yanaşı sistemlərdə əməliyyat apara bilər. Təhlükəsizlik sorğusu və ya audit zamanı alətin məqsədi, faktiki çıxışı və qərara kimin cavabdeh olduğu izah edilməlidir. Mövcud giriş, təchizatçı və insident proseslərini AI istifadəsinə də tətbiq edin.
1. Aktual inventar
Şöbələrdə istifadə edilən köməkçiləri, agentləri, model API-lərini, plaginləri və avtomatlaşdırmaları vahid siyahıda saxlayın. Məqsədi, istifadəçi qrupunu, texniki məsul şəxsi, təchizatçını və pilot mərhələsində, yoxsa işlək mühitdə olduğunu qeyd edin. Siyahını yoxlamadan dərhal əvvəl yenidən tərtib etmək əvəzinə, hər yeni inteqrasiya əlavə ediləndə yeniləyin.
2. Məlumata giriş xəritəsi
Hər agentin hansı faylı, poçtu, kod anbarını və tətbiqi oxuya, dəyişə və ya xarici sistemə ötürə bildiyini yazın. Məlumat mənbəyini və həssaslığını qeyd edin. Konfiqurasiya dəyişəndə bu xəritəni faktiki icazələrlə tutuşdurun.
3. Minimum səlahiyyət
Agentin roluna yalnız tapşırıq üçün lazım olan icazələri verin. Xidmət hesablarını insan hesablarından ayırın; ümumi administrator hüquqları əvəzinə konkret resurs və əməliyyatlara giriş seçin. Müvəqqəti ehtiyac üçün vaxtla məhdud icazə təyin edin və tapşırıq başa çatanda bu icazəni ləğv edin.
4. Əməliyyat jurnalı
Agentin nə etdiyini, nə vaxt etdiyini və kimin adından işlədiyini axtarıla bilən jurnalda saxlayın. Təsdiq, nəticə və xəta ilə əlaqəni qoruyun. Jurnalın saxlanma müddətini, ona girişi və həssas məzmunun qorunmasını müəyyən edin.
5. İnsan təsdiqi
Məlumat silinməsi, pul köçürülməsi və giriş hüquqlarının dəyişməsi kimi həssas və geri qaytarılması çətin əməliyyatlardan əvvəl insan təsdiqi tələb edin. Təsdiqləyən şəxs məqsədi və təsirlənən resursları görməlidir. İcazəsiz addımın dayandırıldığını sınaqdan keçirin.
6. Məlumat təcridi
Eyni platformadakı agentin bir şöbə və ya müştərinin məlumatını digərinin tapşırığında istifadə etməsinə yol verməyin. Hesab, bilik bazası və inteqrasiya sərhədlərini qurun. İcazə testləri ilə ayrı mühitlərin məlumatı və əməliyyatlarını yoxlayın.
7. Yeni alətin təsdiqi
Komanda aləti qəbul etməzdən əvvəl məqsədi, məlumatı, inteqrasiyaları və məsul şəxsi təqdim etməlidir. Təhlükəsizlik, məlumat sahibi və uyğun digər funksiyalar üçün baxış mərhələsini yazın. Model, istifadə məqsədi və ya inteqrasiya dəyişəndə təsdiqi yenidən nəzərdən keçirin; siyasət işçinin tətbiq edə biləcəyi qədər aydın olsun.
8. AI insidentinə cavab
Prompt vasitəsilə məlumat sızması və agentin gözlənilməyən əməliyyatı üçün cavab addımlarını hazırlayın. Səlahiyyətli insident sahibini və eskalasiya yolunu təyin edin; təsirə uyğun olaraq agenti dayandırmağı və girişi ləğv etməyi planlaşdırın. Sübutu qoruyun və iş axınını bərpa etməzdən əvvəl səbəbi araşdırın.
9. Dövri giriş baxışı
Riskə uyğun baxış təqvimi seçin. Agentin sahibi icazənin hələ lazım olduğunu təsdiqləməli, artıq inteqrasiyaları və fəaliyyətsiz hesabları bağlamalıdır. Rol və komanda dəyişikliklərini gözləmədən baxışa daxil edin; qərarı və icra tarixini saxlayın.
10. İşçi təlimi
İşçilər öz rolları üçün təsdiqlənmiş alətləri, daxil edə biləcəkləri məlumatı və nəticəni nə vaxt yoxlamalı olduqlarını bilməlidir. Praktik nümunələrlə qaydanı izah edin və təsdiqlənməmiş alətləri və ya gözlənilməz əməliyyatları bildirmək üçün aydın kanal yaradın. İcazə verilən iş axını dəyişəndə təlimi yeniləyin.
11. Təchizatçı riskinin baxışı
AI xidməti və proqram daxilindəki AI funksiyası üçün təchizatçının məlumatı necə emal etdiyini, saxladığını və təkrar istifadə etdiyini araşdırın. Müqavilə, giriş, inteqrasiya və insident bildirişi şərtlərini qiymətləndirin. Təchizatçı dəyişikliklərini alətin təsdiq prosesinə bağlayın.
12. İdarəetmə üzrə məsul şəxsi təyin edin
Proqram üçün ümumi cavabdeh şəxsi və ya komandanı təyin edin. İT, təhlükəsizlik və uyğunluq funksiyalarının vəzifələrini, qərar səlahiyyətini və hesabatı yazın. Açıq boşluqlar üçün icra sahibi və tarix təyin edin; gecikmiş tədbirləri və həll olunmamış risk qərarlarını rəhbərliyə çatdırın.
Boşluqları mərhələli şəkildə aradan qaldırın
Əvvəlcə inventarı tamamlayın, sonra həssas məlumat və geri qaytarılması çətin əməliyyatları olan agentlərə giriş, təsdiq və jurnal nəzarətlərini tətbiq edin. Mövcud təchizatçı baxışı və insident proseslərini genişləndirin. Platforma seçərkən rol, mərkəzi görünürlük, təcrid və təsdiq imkanlarını nümayişdə öz ssenarinizlə yoxlayın.