S příchodem ChatGPT, Barda a dalších velkých modelů umělé inteligence jsme slyšeli varování od lidí, kteří se na nich podílejí, jako je Elon Musk, o rizicích, která AI představuje. Nyní skupina předních vůdců průmyslu vydala prohlášení o jedné větě, které tyto obavy skutečně potvrzuje.
Přihláška byla zveřejněna dne na stránkách Bezpečnostního centra umělé inteligence (Center for AI Safety) je organizace, jejímž posláním je „snižovat rizika spojená s umělou inteligencí v celospolečenském měřítku“. Mezi signatáři jsou známí zástupci průmyslu umělé inteligence včetně výkonného ředitele OpenAI Sama Altmana a vedoucího Google DeepMind Demis Hassabis. Pod prohlášení se podepsali i držitelé Turingovy ceny Geoffrey Hinton a Joshua Bengio, které mnozí považují za kmotry moderní umělé inteligence.
Za posledních několik měsíců jde o druhé takové prohlášení. V březnu Musk, Steve Wozniak a více než 1000 dalších vyzvali k šestiměsíční pauze ve vývoji umělé inteligence, aby průmysl a veřejnost mohli tuto technologii efektivně ovládat. „V posledních měsících byly laboratoře AI zapleteny do nekontrolovaného závodu ve vývoji a implementaci stále výkonnějších digitálních myslí, kterým nikdo – ani jejich tvůrci – nemůže porozumět, předvídat nebo spolehlivě ovládat,“ píše se v dopise.
I když AI (pravděpodobně) není tak sebevědomá, jak se někteří obávají, již nyní představuje riziko zneužití a poškození prostřednictvím hlubokých padělků, automatizovaných dezinformací a dalších. Umělá inteligence může také změnit způsob, jakým se vytváří obsah, umění a literatura, což může potenciálně ovlivnit mnoho pracovních míst.
Americký prezident Joe Biden nedávno řekl, že „se teprve uvidí“, zda je AI nebezpečná, a dodal: „Podle mého názoru mají technologické společnosti povinnost zajistit, aby jejich produkty byly bezpečné, než je vypustí do světa... AI může pomoci vypořádat se s některými velmi obtížnými problémy, jako jsou nemoci a změna klimatu, ale musí také zvážit potenciální rizika pro naši společnost, naši ekonomiku a naši národní bezpečnost. Na nedávném setkání v Bílém domě Altman vyzval k regulaci AI kvůli potenciálním rizikům.
S ohledem na širokou škálu názorů je cílem nového zadání demonstrovat sdílené obavy z rizik spojených s umělou inteligencí, i když se strany neshodnou na tom, jaká rizika jsou.
„Odborníci na umělou inteligenci, novináři, politici a veřejnost stále častěji diskutují o široké škále důležitých a naléhavých rizik spojených s umělou inteligencí,“ stojí v preambuli prohlášení. „Může však být obtížné vyjádřit obavy z některých závažnějších rizik spojených s umělou inteligencí. Níže uvedené stručné prohlášení má za cíl tuto překážku překonat a otevřít diskusi. Je také navržen tak, aby informoval rostoucí počet odborníků a veřejných činitelů, kteří také berou vážně některá z nejzávažnějších rizik spojených s umělou inteligencí.“
Přečtěte si také: