Státem podporovaní hackeři z Ruska, Číny a Íránu využili nástroje OpenAI ke zdokonalení svých dovedností a hackerským útokům. Jak uvádí Microsoft, experti společnosti sledovali hackerské skupiny napojené na ruskou vojenskou rozvědku, islámské revoluční gardy a také vlády Číny a Severní Koreje, které se snažily vylepšit své hackerské kampaně pomocí velkých jazykových modelů.
Společnost oznámila nález, když zavedla všeobecný zákaz státem podporovaným hackerským skupinám používat její produkty AI. "Jen nechceme, aby ty entity, které jsme identifikovali - které monitorujeme a víme, že představují hrozbu různého druhu -, nechceme, aby měly přístup k této technologii," řekl viceprezident. Microsoft zákaznické bezpečnosti Tom Burt. Zpráva zmiňuje hackerské skupiny jako Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon a Salmon Typhoon.
Tvrzení, že hackeři byli dopadeni pomocí těchto nástrojů AI pro posílení svých špionážních schopností zdůrazňuje obavy z rychlého šíření technologie a jejího potenciálu ke zneužití. Západní experti na kybernetickou bezpečnost loni varovali, že zločinci tyto nástroje zneužívají, i když až dosud o tom nebyly žádné konkrétní údaje.
„Toto je jeden z prvních, ne-li první, případů, kdy společnost zabývající se umělou inteligencí veřejně diskutovala o tom, jak útočníci využívají technologie umělé inteligence,“ řekl Bob Rothstead, vedoucí zpravodajství o kybernetických hrozbách v OpenAI.
OpenAI to Microsoft popsali hackeři používání jejich nástrojů AI jako „rané stádium“ a „přírůstkové“. Podle Burta ani jedna ze společností neviděla kybernetické špiony dělat nějaké průlomy: "Viděli jsme, že prostě používají technologii jako kterýkoli jiný uživatel."
Zpráva popisuje hackerské skupiny, které používají velké jazykové vzory různými způsoby. Hackeři, kteří údajně pracovali jménem ruské hry, použili modely ke zkoumání „různých satelitních a radarových technologií, které mohou být relevantní pro vojenské operace na Ukrajině,“ uvedla agentura. Microsoft. A severokorejští hackeři použili modely k vytvoření obsahu, „který bude pravděpodobně použit v phishingových kampaních“.
Íránští hackeři se také spoléhali na modely, aby napsali přesvědčivější e-maily. A čínští hackeři, kteří jsou podle nich podporováni státem Microsoft, experimentují s velkými jazykovými modely, aby kladli otázky týkající se konkurenčních zpravodajských služeb, problémů kybernetické bezpečnosti a „významných osobností“.
Přečtěte si také: