Tajemný Projekt Q* z OpenAI vzbuzuje mezi odborníky obavy. Může být skutečně nebezpečný pro lidstvo? Co je o něm známo? Poté, co byl Sam Altman minulý týden vyhozen a on a tým se téměř přestěhovali Microsoft, pak se vrátil zpět na své pracoviště (o tom psali jsme zde), OpenAI je opět ve zprávách. Tentokrát kvůli tomu, co někteří badatelé nazývají možnou hrozbou pro lidstvo. Ano, čtete správně, hrozba pro lidstvo.
Skutečné pozdvižení ve světě technologií způsobil Projekt Q* – nezveřejněný projekt obecné umělé inteligence (AGI) – označovaný jako Q-Star. Přestože je tento projekt v rané fázi, je považován za skutečně průlomový ve vývoji AGI. Někteří to však považují za nebezpečí pro lidstvo.
Tajný projekt umělé inteligence vyvinutý slavnou laboratoří umělé inteligence OpenAI má potenciál způsobit revoluci v technologii a společnosti obecně. Ale také vyvolává některé etické otázky ohledně rizik. Jak se objevují podrobnosti o úžasných schopnostech Projektu Q*, objevuje se stále více spekulací o tom, co by to mohlo znamenat pro budoucnost lidstva.
Zajímavé také: Historie OpenAI: Co to bylo a co má společnost před sebou
Co je to umělá všeobecná inteligence (AGI)?
Abychom porozuměli humbuku kolem Projektu Q* (Q-Star), pokusme se nejprve pochopit, o čem je koncept umělé obecné inteligence (AGI). Zatímco současné systémy umělé inteligence vynikají v úzkých, specifických úkolech, jako je hraní šachů nebo generování obrázků, obecná umělá inteligence označuje stroje, které se mohou učit a myslet na lidské úrovni v mnoha oblastech. To znamená, že mohou studovat jako malé děti ve škole např. základy matematiky, chemie, biologie atp.
Obecná umělá inteligence (AGI) je typ strojové inteligence, která může hypoteticky napodobovat lidskou inteligenci nebo chování se schopností učit se a využívat tento potenciál k řešení různých problémů. AGI se také nazývá silná umělá inteligence, plná umělá inteligence nebo umělá inteligence na lidské úrovni. Obecná AI se liší od slabé nebo úzké AI, která je schopna provádět pouze specifické nebo specializované úkoly v rámci daných parametrů. ZHI bude schopen samostatně řešit různé složité problémy z různých oblastí znalostí.
Vytváření umělé inteligence je hlavním cílem výzkumu umělé inteligence společností jako DeepMind a Anthropic. CSI je velmi populární téma ve sci-fi literatuře a může ovlivnit budoucí výzkum. Někteří tvrdí, že je možné vytvořit UCI během let nebo desetiletí, zatímco jiní tvrdí, že to může trvat století nebo více. Jsou ale tací, kteří věří, že toho nikdy nebude dosaženo. Někteří viděli počátky URI v GPT-3, ale zdá se, že stále zdaleka nesplňuje základní kritéria.
Vytvoření umělé obecné inteligence (AGI) je vědci považováno za svatý grál umělé inteligence, což je teoretická možnost, která již dlouho zaujala jejich představivost. Proto výskyt takového projektu, jako je OpenAI Project Q*, vyvolal ve světě výzkumu algoritmů umělé inteligence velkou rezonanci. I když každý chápe, že to jsou jen první krůčky, téměř naslepo, do světa, kde umělá inteligence bude mít stejné schopnosti jako lidé, nebo ještě vyšší.
Zajímavé také: Všechno o Microsoft Kopilot: budoucnost nebo špatná cesta?
Co je Project Q*?
Project Q* není typickým algoritmem, protože se jedná o model umělé inteligence, který se stále více přibližuje modelu umělé obecné inteligence (AGI). To znamená, že na rozdíl od ChatGPT Project Q* vykazuje lepší myšlení a kognitivní schopnosti ve srovnání s jinými algoritmy. ChatGPT v současné době odpovídá na dotazy založené na obrovském množství faktického materiálu, ale s AGI se model AI naučí uvažování a schopnost myslet a chápat sám za sebe. Je již známo, že Project Q* je schopen řešit jednoduché matematické problémy, které nebyly součástí jeho výukového materiálu. V tom někteří badatelé vidí významný krok k vytvoření obecné umělé inteligence (AGI). OpenAI definuje AGI jako systémy umělé inteligence, které jsou chytřejší než lidé.
Vývoj projektu Q* řídí hlavní vědec OpenAI Ilya Sutzkever a jeho základ zdůvodnili výzkumníci Jakub Pakhotsky a Shimon Sidor.
Schopnost algoritmu samostatně řešit matematické problémy, i když tyto problémy nebyly součástí trénovací datové sady, je považována za průlom v oblasti umělé inteligence. Neshody v týmu ohledně tohoto projektu jsou spojeny s dočasným odstraněním generálního ředitele OpenAI Sama Altmana. Je známo, že předtím, než byl Altman vyhozen, skupina výzkumníků společnosti poslala dopis představenstvu s varováním před objevem umělé inteligence, která by mohla představovat hrozbu pro lidstvo. Tento dopis, který údajně pojednával o algoritmu Project Q*, byl citován jako jeden z faktorů, které vedly k Altmanovu vyhození. Schopnosti Projektu Q* a potenciální rizika, která může představovat, však nejsou zcela pochopeny, protože podrobnosti nejsou známy. Nic nebylo zveřejněno pro širokou veřejnost.
Ve svém jádru je Project Q* bezmodelová výuková metoda, která se odchyluje od tradičních modelů tím, že nevyžaduje žádné předchozí znalosti prostředí. Místo toho se učí prostřednictvím zkušeností a přizpůsobuje jednání na základě odměn a trestů. Techničtí experti věří, že Project Q* bude schopen získat vynikající schopnosti získáním schopností podobných lidským kognitivním schopnostem.
Právě tato funkce je však na novém modelu umělé inteligence nejpůsobivější, co znepokojuje výzkumníky a kritiky a vzbuzuje jejich obavy z aplikací této technologie v reálném světě a souvisejících rizik. Čeho se vědci a výzkumníci tak bojí? Pojďme na to přijít.
Zajímavé také: Jak aktualizovat vaše domácí zařízení, aby podporovala Wi-Fi 6
Bojí se neznámého
Lidé se vždy báli neznámého, nepoznaného. To je lidská podstata, rys našeho charakteru a způsobu života.
Svět technologií se o projektu Q* dozvěděl v listopadu 2023 po Reuters hlášeno o interním dopise napsaném dotčenými výzkumníky OpenAI. Obsah dopisu byl vágní, ale údajně vážně analyzoval schopnosti Projektu Q*. Jak jsem uvedl výše, dokonce se spekuluje, že právě tento dopis spustil rezignaci Sama Altmana.
Tento výbušný objev dal vzniknout různým hypotézám o povaze projektu Q*. Vědci navrhli, že by to mohl být revoluční model přirozeného jazyka pro AI. Jakýsi vynálezce nových algoritmů, který je vytvoří pro jiné formy AI, nebo něco úplně jiného v tomto oboru.
Altmanovy provokativní komentáře o obecné umělé inteligenci jako „průměrném zaměstnanci“ již vyvolaly obavy ohledně jistoty práce a nezadržitelného rozšiřování vlivu AI. Tento záhadný algoritmus je definován jako milník ve vývoji umělé obecné inteligence (AGI). Každý však chápe, že tento milník je drahý. A teď nejde o peníze. Úroveň kognitivních dovedností, kterou nový model AI slibuje, s sebou nese nejistotu. Vědci z OpenAI slibují, že AI bude mít myšlení na lidské úrovni. A to znamená, že mnoho věcí nemůžeme vědět a předvídat důsledky. A čím více neznámého, tím těžší je připravit se na jeho ovládání nebo opravu. To znamená, že nový algoritmus je schopen sebezdokonalování a vývoje. To už jsme někde viděli...
Zajímavé také: Windows 12: Jaký bude nový OS
Úžasné podrobnosti o možnostech Project Q*
Když se začaly objevovat další informace, mnohé výzkumníky to šokovalo. První náznaky naznačovaly, že Project Q* měl úžasný talent na matematiku. Na rozdíl od kalkulačky, která provádí mechanické výpočty, může Project Q* údajně používat logiku a uvažování k řešení složitých matematických problémů. Tato matematická schopnost zobecňovat naznačuje vývoj široké inteligence.
Autonomní školení Project Q* bez specifických datových sad používaných k trénování typických AI bude také obrovským krokem vpřed. Zůstává neznámé, zda Project Q* zvládl nějaké další dovednosti. Jeho matematické schopnosti jsou ale samy o sobě tak úžasné, že matou i zkušené badatele.
Přečtěte si také: Human Brain Project: Pokus o napodobení lidského mozku
Cesta projektu Q* k dominanci?
V této věci existují optimistické i pesimistické scénáře. Optimisté řeknou, že Project Q* by mohl být jiskrou, která vede k technologickému průlomu. Jak se systém rekurzivně sám zlepšuje, jeho nadpřirozená inteligence by mohla pomoci vyřešit některé z nejdůležitějších problémů lidstva, od klimatických změn po kontrolu nemocí. Project Q* dokáže zautomatizovat nudnou práci a uvolnit náš volný čas pro jiné aktivity.
I když existuje mnohem více pesimistických možností. Někdy jsou docela rozumné a mají určitý význam.
Ztráta pracovních míst
Rychlé posuny ve vývoji technologií mohou předstihnout individuální přizpůsobení lidí. To povede ke ztrátě jedné nebo více generací, které nebudou schopny získat potřebné dovednosti nebo znalosti pro přizpůsobení se nové realitě. To zase znamená, že méně lidí si bude moci udržet práci. Místo toho jej budou provádět stroje, automatizované systémy a roboty. Odpověď však není tak jednoznačná, pokud jde o kvalifikované specialisty. Kromě toho se mohou objevit nové profese související konkrétně s vývojem algoritmů umělé inteligence. Ale stále existují rizika a lidstvo nemá právo je ignorovat.
Nebezpečí nekontrolované moci
Pokud se AI tak výkonná, jako je Projekt Q*, dostane do rukou těch, kdo mají nekalé úmysly, riskuje katastrofální následky pro lidstvo. I bez potenciálně nekalých úmyslů může rozhodovací úroveň Projektu Q* vést ke škodlivým výsledkům, což podtrhuje zásadní důležitost pečlivého vyhodnocení jeho aplikace.
Pokud je Project Q* špatně optimalizován pro lidské potřeby, může způsobit škodu svou schopností maximalizovat některé libovolné metriky. Nebo může mít politický rozměr, například využití pro státní dohled nebo represi. Otevřená debata kolem analýzy dopadu projektu Q* pomůže definovat možné scénáře rozvoje ZHI.
Čeká nás souboj "Muž vs. Stroj"?
Hollywood už ve svých filmech vytvořil mnoho scénářů takové konfrontace. Všichni si pamatujeme slavný SkyNet a důsledky takového objevu. Možná by se výzkumníci OpenAI měli podívat na tento film znovu?
Lidstvo potřebuje přijímat signály a výzvy a být připraveno na to, co se může stát. Model umělé inteligence schopný myslet jako člověk se jednou může stát naším nepřítelem. Mnozí by namítli, že vědci budou v budoucnu přesně vědět, jak udržet situaci pod kontrolou. Ale pokud jde o stroje, nemůžete úplně vyloučit možnost, že se pokusí převzít lidi.
Zajímavé také: Ne vše, co nazýváme AI, je ve skutečnosti umělá inteligence. Zde je to, co potřebujete vědět
Proč je OpenAI tichá?
Navzdory šílenému zájmu veřejnosti o Project Q* vedení OpenAI o specifikách algoritmu mlčí. Ale vnitřní únik ukazuje rostoucí napětí v laboratoři ohledně priorit a otevřenosti vývoje. Zatímco mnoho zasvěcenců OpenAI podporuje vytvoření projektu Q*, kritici tvrdí, že transparentnost ustoupila do pozadí urychlení vědeckého pokroku za každou cenu. A někteří výzkumníci se obávají, že neuvěřitelná moc je dána systémům, jejichž cíle se nemusí nutně shodovat s lidskými hodnotami a etikou. Tito výzkumníci se domnívají, že debaty o dohledu a odpovědnosti se nebezpečně utlumily. Vyžadují větší publicitu a podrobnosti.
Jako tvůrci projektu Q* musí OpenAI pochopit, že mají technologii, která může buď značně rozšířit možnosti rozvoje společnosti, nebo ji nemilosrdně zničit. Takovéto významné inovace si zaslouží mnohem větší transparentnost, aby si vybudovaly důvěru veřejnosti. Každý prognostik strojového věku musí pečlivě zvážit rizika vedle přínosů. A vývojáři Projektu Q* musí prokázat dostatek moudrosti a péče, aby bezpečně uvedli společnost do nové éry obecné umělé inteligence, která může přijít dříve, než jsme si kdy dokázali představit.
Aby byla obecná umělá inteligence pro lidstvo užitečná a bezpečná, musí být zajištěno, že funguje bezpečně, eticky a v souladu s hodnotami a cíli lidstva. To vyžaduje vývoj a implementaci vhodných regulačních aktů, norem, pravidel a protokolů, které budou řídit a omezovat činnost a chování CSI. Kromě toho musí být odstraněny potenciální hrozby a rizika spojená se zneužíváním, nehodami, nekompatibilitou, manipulacemi a konflikty, které by mohly vést ke zničení lidstva. Mezitím investoři a Microsoft dychtivě čeká na obchodovatelný produkt, který by mohl generovat zisk, což je nepochybně v rozporu s potřebou jednat zodpovědně. Doufejme, že zvítězí zdravý rozum.
Přečtěte si také: