V úterý společnost Meta oznámila svůj plán začít označovat obrázky generované umělou inteligencí od jiných společností, jako je OpenAI a Google. Tento krok je zaměřen na zvýšení transparentnosti na platformách, jako je např Facebook, Instagram a Threads tím, že informuje uživatele, že obsah, který si prohlížejí, je syntetizovaná digitální média a nikoli autentická fotografie nebo video.
Řešení společnosti Meta je součástí širší snahy technologického průmyslu stanovit standardy pro označování obsahu vytvořeného pomocí generativních modelů umělé inteligence schopných vytvářet falešný, ale realistický zvuk, obrázky a video na základě písemných výzev.
Prezident společnosti Meta pro globální záležitosti Nick Clegg to oznámil v příspěvku na blogu společnosti Meta. "Budeme pokračovat v tomto přístupu během příštího roku, kdy se po celém světě bude konat řada důležitých voleb," napsal Clegg. „Doufáme, že se během této doby dozvíme mnohem více o tom, jak lidé vytvářejí a sdílejí obsah pomocí umělé inteligence, jaké transparentnosti si lidé nejvíce cení a jak se tyto technologie vyvíjejí.“
Clegg poznamenal, že iniciativa společnosti Meta pro označování obsahu generovaného umělou inteligencí rozšíří stávající praxi označování obsahu vytvořeného pomocí vlastních nástrojů umělé inteligence tak, aby zahrnoval obrázky vytvořené pomocí služeb jiných společností.
„Vytváříme špičkové nástroje, které dokážou identifikovat neviditelné značky ve velkém měřítku – konkrétně informace „generované AI“ v technických normách C2PA a IPTC – takže můžeme označovat obrázky od Googlu, OpenAI, Microsoft, Adobe, Midjourney a Shutterstock při implementaci svých plánů přidat metadata k obrázkům vytvořeným jejich nástroji.“
Meta říká, že technologie označování obsahu generovaného umělou inteligencí bude založena na neviditelných vodoznakech a metadatech vložených do souborů. Meta přidává k obrázkům vytvořeným pomocí veřejného generátoru obrázků AI malý vodoznak „Imagined with AI“.
V příspěvku Clegg vyjádřil důvěru ve schopnost společností spolehlivě označovat obrázky generované AI, i když poznamenal, že nástroje pro označování audio a video obsahu jsou stále ve vývoji. Mezitím bude Meta vyžadovat, aby uživatelé označovali upravený audio a video obsah, s nespecifikovanými pokutami, pokud tak neučiní.
"Budeme vyžadovat, aby lidé používali tento nástroj pro zveřejňování a označování, když zveřejňují organický obsah s fotorealistickým videem nebo realistickým zvukem, který byl digitálně vytvořen nebo pozměněn, a pokud tak neučiní, můžeme uložit sankce," napsal.
Clegg však poznamenal, že v současné době neexistuje žádný účinný způsob, jak označovat text generovaný umělou inteligencí, což naznačuje, že na zavedení takových opatření pro psaný obsah je příliš pozdě. To je v souladu s našimi zprávami, že detektory textu AI nefungují.
Oznámení přišlo den poté, co nezávislá dozorčí rada Meta kritizovala politiku společnosti týkající se klamavě pozměněných videí jako příliš úzkou a doporučila takový obsah spíše nahlásit, než jej odstranit. Clegg souhlasil s kritikou a připustil, že stávající Meta zásady jsou nedostatečné pro řízení rostoucího objemu syntetického a hybridního obsahu na internetu. Novou iniciativu v oblasti označování považuje za krok k implementaci doporučení hlídacího psa a podnícení hybnosti v celém odvětví pro podobná opatření.
Meta uznává, že nebude schopna detekovat obsah generovaný umělou inteligencí vytvořený bez vodoznaků nebo metadat, jako jsou obrázky vytvořené pomocí některých nástrojů pro syntézu obrázků s otevřeným zdrojovým kódem umělé inteligence. Meta zkoumá technologii vodoznaků nazvanou Stable Signature, o které doufá, že ji lze zabudovat do generátorů obrázků s otevřeným zdrojovým kódem. Dokud jsou však pixely pixely, lze je vytvářet způsoby, které jsou mimo kontrolu technického průmyslu, a to zůstává výzvou pro detekci obsahu AI, protože nástroje AI s otevřeným zdrojovým kódem jsou stále sofistikovanější a realističtější.
Přečtěte si také: