A mesterséges intelligencia ma már nem egy passzív kód egy API mögött. Az MI-ügynökök döntenek, cselekszenek, eszközöket hívnak meg és munkafolyamatokat vezérelnek. Biztonsági szempontból ezeket az agenteket nem alkalmazásként, hanem kiemelt jogosultságú belső identitásként kell kezelni. Ahogy ugyanis egy hús-vér munkatársnak, úgy az MI-ágensnek is van szándéka (promptok), eszköztára (jogosultságok), és cselekvőképessége (hozzáférés). A különbség az emberekhez képest a sebesség és a skálázhatóság, ami minden eddiginél nagyobb kockázatot jelent.

Miért vall kudarcot a hagyományos MTTR?

A hagyományos incidenskezelés célja a „visszaállás”. Ha egy folyamat elakad, újraindítjuk. Ha egy jelszó kompromittálódik, megváltoztatjuk. Az MI-nél azonban a visszaállítás gyakran azt jelenti, hogy a programot pontosan abba a hibás állapotba helyezzük vissza, amely az incidenst lehetővé tette.

Ez vezet az MI-recidivizmushoz: az állapot, amikor az MI újra és újra elköveti ugyanazt a hibát, mert a strukturális feltételeken nem változtattunk.

Bemutatkozik az MTDI: A tartós fejlődés mérőszáma

A Mean Time to Durable Improvement nem helyettesíti, hanem kiegészíti az MTTR-t. Míg az MTTR az operatív megfékezés gyorsaságát méri, az MTDI azt mutatja meg, mennyi idő alatt válik a rendszer biztonságosabbá, mint az incidens előtt volt.

A tartós fejlődés lépései:

 1. Oksági lánc elemzése: Miért hibázott az ágens? (Hallucináció, rossz adatok vagy szándékos manipuláció?)

 2. A védőkorlátok megerősítése: Nem csak a tünetet kezeljük, hanem a szabályrendszert frissítjük.

 3. Jogosultság-felülvizsgálat: A jogosultság-túlterjeszkedés visszanyesése.

 4. Verifikáció: Bizonyíték arra, hogy a hiba az adott útvonalon többé nem ismételhető meg.

A megoldás kulcsa: Agent Behavior Analytics (ABA)

Ahhoz, hogy eljussunk az MTDI-ig, látnunk kell, mi történik. A hagyományos monitorozás itt kevés. Szükség van az Agent Behavior Analytics (ABA) technológiára, amely képes az MI-ágensek viselkedési „kilengéseit”, jogosultság-visszaéléseit és nem szándékos keresztrendszer-műveleteit detektálni.

A RelNet által képviselt gyártók – mint például az Exabeam – megoldásai pontosan ezt a láthatóságot biztosítják. Ezek a rendszerek adják meg azt a „viselkedési szignált”, amely elindítja az utat a tartós biztonság felé. Az MTDI elérése ugyanis nem csak technikai, hanem governance feladat is.

A RelNet szakemberei segítenek partnereinek:

• az MI-identitások tulajdonjogának tisztázásában;
• a biztonsági, jogi és üzleti érdekek összehangolásában;
• olyan detekciós és válaszstratégiák kidolgozásában, amelyek csökkentik az újrafertőződés kockázatát.

Az MI-korszakban a valódi gyógyulást nem az határozza meg, milyen gyorsan térünk vissza a múlthoz, hanem az, hogy milyen hatékonyan biztosítjuk: a múlt hibái nem ismétlődhetnek meg.

Forrás

The Metric AI Security is Missing

Kapcsolódó tartalom

Exabeam képzések a elNet eLearning programban