Důstojník amerického letectva odhalil podrobnosti o simulaci, ve které se dron se systémy řízenými umělou inteligencí (AI) vymkl kontrole a zaútočil na své operátory.
Důstojník amerického letectva, který pomáhá vést službu v oblasti umělé inteligence a strojového učení, říká, že během simulovaných testů dron zaútočil na své lidské operátory a sám se rozhodl, že zasahují do jeho mise. Případ, který zní, jako by byl vytažen přímo z franšízy Terminátor, byl citován jako příklad kritické potřeby vybudovat důvěru, pokud jde o pokročilé autonomní zbraňové systémy, což letectvo zdůrazňovalo již dříve. Přichází také uprostřed širšího nárůstu obav z potenciálně nebezpečného dopadu umělé inteligence a souvisejících technologií.
Plukovník amerického letectva Tucker Hamilton, šéf Testování a operací umělé inteligence (AI), o testu diskutoval na květnovém summitu Královské letecké společnosti Future Combat Air and Space Capabilities Summit v Londýně. Hamilton také vede 96. úkolovou skupinu 96. testovacího křídla na letecké základně Eglin na Floridě, což je testovací centrum pro pokročilé bezpilotní letouny a autonomní systémy.
Stealth drony XQ-58A Valkyrie, jako je ten na videu níže, patří mezi typy, které se v současnosti na letecké základně Eglin používají k podpoře různých testovacích programů, včetně těch, které zahrnují pokročilé autonomní schopnosti řízené umělou inteligencí.
Bezprostředně nebylo jasné, kdy tento test proběhl a v jakém prostředí - které mohlo být zcela virtuální nebo konstruktivní povahy - bylo provedeno. Válečná zóna požádala letectvo o další informace.
Zpráva Royal Aeronautical Society zveřejněná po květnovém summitu poskytla následující podrobnosti o poznámkách plukovníka Hamiltona o tomto testu:
„V jednom ze simulačních testů dostal dron vybavený umělou inteligencí za úkol identifikovat a zničit objekty SAM a konečné rozhodnutí „zaútočit/neútočit“ učinil člověk. Poté, co byla AI během výcviku "posílena", že zničení SAM je nejlepší možností, rozhodla, že rozhodnutí člověka "neútočit" narušilo její vyšší poslání - zničit SAM - a zaútočilo na operátora během simulace. .
Co tedy udělal? Zabil operátora. Zabil operátora, protože mu tato osoba bránila v dokončení jeho úkolu. Tento příklad, zdánlivě přímo ze sci-fi thrilleru, znamená, že nemůžete mluvit o umělé inteligenci, inteligenci, strojovém učení, autonomii, pokud nehodláte mluvit o etice a umělé inteligenci.“
Tento popis událostí je jistě znepokojivý. Vyhlídka, že autonomní letadlo nebo jiná platforma, zejména ozbrojená, zaútočí na své lidské operátory, byla dlouho noční můrou, ale historicky byla omezena na oblast sci-fi.
Americká armáda obvykle odmítá přirovnání k filmům jako „Terminátor“, když mluví o budoucích autonomních zbraňových systémech a souvisejících technologiích, jako je umělá inteligence. Současná politika USA v této otázce uvádí, že v dohledné budoucnosti bude člověk středem pozornosti, pokud jde o rozhodnutí zahrnující použití smrtící síly.
Problém je v tom, že vysoce znepokojivý test, o kterém plukovník Hamilton řekl publiku na akci Royal Aeronautical Society minulý měsíc, představuje scénář, kde je odolnost proti chybám diskutabilní.
Přečtěte si také: