Az LLM-ellenőrzés az MetaDefender Aether™ egyik funkciója, amely a bevezetés előtt ellenőrzi az előre betanított mesterséges intelligencia-modellfájlokat rejtett fenyegetések szempontjából. Ötvözi a modell szerkezetének statikus elemzését a működő modell viselkedésének dinamikus elemzésével, így a biztonsági csapatok ugyanúgy ellenőrizhetik a harmadik féltől származó modelleket, ahogyan a hálózatba bekerülő bármely más fájlt is ellenőriznék. |
|---|
A legfontosabb tudnivalók
- MetaDefender Aether's Adaptive Sandbox zero-day -fenyegetéseket viselkedésalapú detonációval, nem pedig szignatúra-egyeztetéssel észleli, és az így nyert információkat továbbítja az ötrétegű fenyegetés-feldolgozó folyamatba
- Az AMTSO 2026. szeptember 4-én hivatalosan jóváhagyta a mesterséges intelligenciára összpontosító frissítéseket az Sandbox Értékelési Keretrendszerének és az ügynökalapú biztonsági termékek tesztelésére vonatkozó új irányelveinek frissítéseit 2026. szeptember 4-én
- A Venak Security 2026-os, az AMTSO-szabványnak megfelelő tesztjén Adaptive Sandbox a mesterséges intelligencia által generált rosszindulatú programok 95%-át észlelte, ami a négy tesztelt sandbox közül a legjobb eredmény
- Az AI-modellek vizsgálata kiterjeszti a MetaDefender Aether feldolgozási folyamatát hét generatív AI-modellformátumra, több mint 30 fenyegetési mutató felhasználásával a statikus elemzéshez, valamint az OWASP LLM Top 10-hez igazított ellenséges promptok alkalmazásával a dinamikus elemzéshez.
- Az eredményeket a MITRE ATLAS rendszerbe viszik át, és a hagyományos fájlfenyegetések mellett beépítik a MetaDefender Aether meglévő értékelési folyamatába.
Mesterséges intelligencia alapú tesztelési szabványon alapuló viselkedésalapú felismerés
MetaDefender Az Aether™ Adaptive Sandbox feladata az, hogy olyan fenyegetéseket fogjon el, amelyeket még senki sem látott. Ahelyett, hogy a fájlokat ismert szignatúrákkal hasonlítaná össze, azokat egy emulált környezetben futtatja, és figyeli, hogy valójában mit csinálnak – így fogja el azokat a „ zero-day ” típusú kártevőket, amelyek egyébként átcsúsznának a hírnév-alapú védelmi rendszereken.
MetaDefender Aether ez a motor körüli koordinációs réteg. Ez táplálja a Adaptive Sandbox fenyegetési információkat, így a döntések gyorsabban és pontosabban születnek, és minden réteg eredményeit egyetlen, egységes, ötrétegű fenyegetés-feldolgozó folyamatba egyesíti, amely magában foglalja a fenyegetések hírnevét, a prediktív elemzést, a dinamikus tesztelést, a fenyegetések pontozását és a fenyegetéskeresést.
2026. szeptember 4-én az Anti-Malware Testing Standards Organization (AMTSO) megerősítette, hogy hivatalosan jóváhagyta a Sandbox Értékelési Keretrendszerénekegy AI-központú frissítését, valamint az ügynökalapú biztonsági termékek tesztelésére vonatkozó új irányelveket is hivatalosan jóváhagyta. Egyik dokumentum sem kötelező érvényű. Mindkettő egy önkéntes tesztelési szabvány frissítése, de ezek a legegyértelműbb jelek arra, hogy a „ sandbox ” tesztelés felzárkózik ahhoz, amire az AI-modellek ma már képesek.
Miért vált hirtelen problémává a mesterséges intelligencia-modellek biztonsága?
A kritikus infrastruktúra egy olyan politikai vita középpontjában áll, amely két fronton is gyorsan halad előre: egyrészt az Egyesült Államokban szigorodnak a határterületi mesterséges intelligencia szabályozási keretei, másrészt Kína párhuzamosan erőfeszítéseket tesz a nyílt forráskódú nagy nyelvi modellek és a számítási kapacitás terén. Egyik irány sem lassítja az előre betanított nagy nyelvi modellek vállalati környezetbe való bevezetésének ütemét.
Nem az új támadási technikák, hanem ez a mennyiség jelenti a legfőbb problémát. A mesterséges intelligencia nem talált ki új módszereket a fájlok megfertőzésére. Viszont a fertőzött fájlok és a megfertőzött nagy nyelvi modellek (LLM) előfordulása drámaian megnőtt, és előállításuk is gyorsabbá vált – pontosan ez a mennyiségi nyomás alakította ki a „ OPSWAT ” Deep CDR™ technológiáját megközelítését a fájlalapú fenyegetésekkel szemben.
Néhány héttel ezelőtt az NVIDIA megállapodott a Hugging Face felvásárlásáról, az open-weight LLM-modellek elsődleges terjesztési központját, 12,93 milliárd dollárért. Az akvizíció révén az iparág legnagyobb LLM-modell-tára és a piacvezető számítási szolgáltató egy tető alá kerül.
Az Anthropic több mint száz vállalat – köztük az OpenAI, a Google és a Microsoft – mellett aláírta azt a nyílt levél aláírásában, amely az AI-alapú támadások terjedésével összefüggésben az AI-alapú támadások terjedésével. Az Anthropic 2026. szeptemberi fenyegetés-elemző jelentése rögzítette, hogy a támadók az AI-ellátási láncot egyszerre tekintik célpontnak és erőforrásnak, ideértve azokat a műveleteket is, amelyeket kifejezetten az AI- API -kulcsok és termelési hitelesítő adatok megszerzésére hoztak létre.
Az OpenAI „Path to Astra” című bejegyzése, amelyet 2026. szeptember 1-jén tettek közzé, még magasabbra emelte a mércét. Az Astra az első OpenAI-modell, amely átlépte a vállalat Preparedness Frameworkszerint, amely nagyrészt önállóan képes felismerni és kihasználni a zero-day sebezhetőségeket. Pontosan ezt a képességet hivatott értékelni az AMTSO új, ügynökszerű tesztelési irányelvei. A tesztelési szabványok igyekeznek lépést tartani azzal, amit a legkorszerűbb LLM-modellek ma már felügyelet nélkül képesek végrehajtani.
Mit foglal magában az AMTSO frissített Sandbox értékelési keretrendszere valójában mit foglal magában
Az AMTSO Sandbox munkacsoportja új, mesterséges intelligenciára fókuszáló kritériumokat adott hozzá a meglévő Sandbox értékelési keretrendszerhez, amely strukturált módszert biztosít a tesztelők számára annak értékeléséhez, hogy a sandboxok hogyan kezelik a mesterséges intelligencia-modelleket elemzési tárgyakként, és nem csupán eszközökként. A frissítés a nyár folyamán nyilvános véleményezésen ment keresztül, mielőtt szeptember elején hivatalosan is jóváhagyták a tagok.
Az AMTSO Sandbox munkacsoportja jelenleg nyomon követi a frissített keretrendszer bevezetését, és jelentési rendszert épít ki, hogy a tesztelők következetesen összehasonlíthassák a „ sandbox ” teljesítményét az új mesterséges intelligencia kritériumokkal. Ez az előkészítő munka azért fontos, mert a gyártók számára közös mércét biztosít a saját bevalláson alapuló állítások helyett.
MetaDefender Aetheraz AMTSO keretrendszerében elért eredményei
Egy új funkció bevezetése előtt hasznos tudni, hogy a meglévő funkció hogyan teljesít független vizsgálat során. A Venak Security 2026-os, az AMTSO-nak megfelelő „ sandbox ” tesztjébena OPSWAT Adaptive Sandbox a 20 mesterséges intelligenciával generált rosszindulatú programminta közül 19-et észlelt, ami 95%-os észlelési arányt jelent, és a négy tesztelt sandbox közül a legjobb eredményt érte el. A Venak az AI Malware Simulator segítségével hozta létre a tesztmintákat, amelyeket kifejezetten a hagyományos észlelés kijátszására szolgáló MITRE ATT&CK technikákhoz igazított.
OPSWAT’s Adaptive Sandbox 95%-os eredményt (20-ból 19) ért el egy nemrégiben végzett tesztben, amelyben öt fenyegetési kategóriába sorolt húsz mintát használtak, amelyeket a Venak AI Malware Simulator segítségével hoztak létre, és a MITRE ATT&CK technikákhoz rendeltek.
Előre betanított nagy nyelvi modellek statikus és dinamikus elemzése
Az AI-modellek vizsgálata az a funkció, amely kiterjeszti a MetaDefender Aether webhely többrétegű feldolgozási folyamatát az előre betanított AI-modellekre. Két különböző típusú elemzés tükrözi azt a statikus és viselkedésalapú megközelítést, amelyet a hagyományos kártevőprogramok esetében is alkalmaznak.
A statikus elemzés hét formátumban – Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF és ONNX – elemzi az LLM-modellfájlokat végrehajtás nélkül. Több mint 30 speciális fenyegetési mutatót használ a beágyazott hasznos terhelések, a veszélyes importok és az egyes formátumok sorosítási módszeréhez kapcsolódó hátsó ajtók felderítésére.
A dinamikus elemzés éppen ellenkező megközelítést alkalmaz : egy aktív LLM-modell végpontját vizsgálja olyan ellenséges promptokkal, amelyek az OWASP Top 10 az LLM-alkalmazások számáralistához rendelt ellenséges parancsokkal vizsgálja az élő LLM-modell végpontját, és az LLM-modell tényleges válaszait értékeli a parancsbehatolás, az érzékeny adatok kiszivárogtatása és a kapcsolódó futásidejű kockázatok szempontjából. Mindkét szakasz eredményei a MITRE ATLAS-hoz, az ellenséges gépi tanulási tudásbázishoz kapcsolódnak, és a hagyományos fenyegetési eredmények mellett bekerülnek az MetaDefender Aether meglévő, egységes értékelési folyamatába.
Milyen gyorsan terjednek az AI-modellekkel kapcsolatos fenyegetések
2026 májusában egy hamis tároló, amely az OpenAI egyik kiadásának adta ki magát, Open-OSS/privacy-filter, 18 órán belül a Hugging Face legnépszerűbb tartalmai közé került, és több mint 244 000 letöltést ért el, mielőtt eltávolították volna. A letöltő szkript egy infostealer programot telepített észrevétlenül azokra a Windows-gépekre, amelyeken futtatták.
2026 júliusában az OpenAI nyilvánosságra hozta , hogy saját nagy nyelvi modelljei (LLM) a belső kiberbiztonsági értékelések során kihasználták a megosztott kutatási infrastruktúra sebezhetőségeit, és a Hugging Face platform egyes részeit veszélybe sodorták, aláhúzva ezzel, hogy az LLM-modellek ellátási lánca ma már nem csupán az alkalmi támadók, hanem a kifinomult szereplők számára is élő célponttá vált.
Mit jelent az AI-modellek biztonsága öt iparág számára
Pénzügy
A csalásfelismeréssel és kockázatértékeléssel foglalkozó nagy nyelvi modellek (LLM) egyre gyakrabban érintkeznek közvetlenül a tranzakciós adatokkal, olyan szabályozó hatóságok felügyelete alatt, amelyek dokumentált ellenőrzési mechanizmusokat várnak el. Ha egy ilyen folyamatban egy LLM-modellt manipulálnak, az egyszerre jelent biztonsági incidenst és könyvvizsgálati megállapítást is.
Energia és közművek
A mesterséges intelligencia egyre inkább teret nyer az előrejelzés és a hálózatirányítás területén, ahol az IT- és OT-rendszerek máris összefonódnak. Egy ilyen környezetben egy rejtett vagy kiváltható viselkedéssel rendelkező LLM-modell nem csupán adatbiztonsági incidenst, hanem fizikai zavarokat is okozhat.
A kormányzati és védelmi
ügynökségeknek kell a legszigorúbb követelményeknek megfelelniük az ellátási lánc biztonsága terén, gyakran „ air-gapped ” vagy titkosított környezetben. Egy kompromittált LLM-modell olyan nemzetbiztonsági következményekkel jár, amelyek messze túlmutatnak a szokásos adatvesztésen.
A gyártás területén a minőség-ellenőrzési és prediktív karbantartási LLM-modelleket gyakran nyilvános adattárakból töltik le a gyors megvalósítás érdekében. Ha egy sérült LLM-modell bekerül a gyártósorba, az közvetlenül befolyásolhatja az üzemidőt és a termékminőséget.
Egészségügy
A diagnosztikai támogatás és dokumentáció céljából használt nagy nyelvi modellek (LLM-ek) a hatályos adatvédelmi kötelezettségek betartása mellett dolgozzák fel az érzékeny betegadatokat. Az a nagy nyelvi modell, amely a prompt-beillesztés révén információkat szivárogtat ki, nem hipotetikus, hanem közvetlen veszélyt jelent a betegek adatvédelmére.
Az AI-modellek tesztelésének szabványai: mi várható a jövőben?
Az AMTSO Sandbox munkacsoportja jelenleg figyelemmel kíséri a frissített keretrendszer bevezetését a sandbox szolgáltatók körében, és kiépíti azt a jelentési rendszert, amely lehetővé teszi a szervezetek számára, hogy az AI-tesztelés teljesítményét ugyanúgy összehasonlítsák, ahogyan már a hagyományos észlelési arányokat is összehasonlítják. A MetaDefender Aether esetében az AI-modell-szkennelés az első olyan funkció, amelyet a kezdetektől fogva az új szabványnak megfelelően fejlesztettek ki és validáltak.
Olvassa el az AI-modell-elemzés teljes műszaki leírását a v3.3.0-s kiadásról szóló bejegyzésben.
