Podle rodiče, který zveřejnil snímky historie aktivit Alexy, hlasový asistent Amazon, když ho dítě požádalo, aby nabídl výzvu, uvedl příklad smrtícího experimentu s elektřinou, přičemž jeho popis vytrhl z kontextu náhodného článku. Rubrika Echo hovořila o experimentu oblíbeném mezi fanoušky TikTok s použitím mince a nabíječky pro smartphone - četné incidenty, zranění a požáry po jeho realizaci zaznamenala různá média více než jednou. Nápad na tuto výzvu zařízení zřejmě získalo z článku, který jej popisoval jako nebezpečný a citoval zprávu o údajné existující výzvě TikTok.
Podle snímku obrazovky, který pořídila Christine Livdahl, když byl Echo požádán, aby mi „ukázal úkol“, odpověděl: „Tady je něco, co jsem našel online.“ Podle ourcommunitynow.com je úkol jednoduchý: „zasuňte nabíječku telefonu asi do poloviny do zásuvky a pak se dotkněte holých kolíků penny.“
V prohlášení pro BBC Amazon chování Alexy potvrdil slovy: "Jakmile jsme se o této chybě dozvěděli, podnikli jsme okamžitá opatření k její nápravě." Livdahl včera tweetoval, že žádost o výzvu již nefunguje. Uživatelé na webu také testovali požadavek s Alexou a dostali podobný výsledek.
OMFG Moje 10ti leté dítě právě požádalo Alexu na našem Echo o výzvu a to je to, co řekla. obr.twitter.com/HgGgrLbdS8
– Kristin Livdahl (@klivdahl) 26. prosince 2021
Amazon není jedinou společností, která se setkala s problémy při analýze webového obsahu. V říjnu uživatel nahlásil, že Google v jednom ze svých úryvků zobrazuje potenciálně nebezpečnou radu, pokud do Googlu zadáte „máte záchvat, co dělat“ – informace byly převzaty z části webové stránky popisující, co ne dělat, když má někdo záchvat. Uživatelé však nahlásili další podobné problémy, včetně jednoho uživatele, který uvedl, že Google vrací výsledky ortostatické hypotenze při hledání ortostatické hypertenze, a další zveřejnil snímek obrazovky Google zobrazující hroznou radu, jak uklidnit truchlící osobu ve smyslu „Jsem rád, že „Jsem v pořádku“ nebo „Nebuď smutný! Hlavu vzhůru!".
Souhrn vyhledávání Google vs. skutečná stránka obr.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Října 16, 2021
Viděli jsme také varování před nebezpečným chováním, aby se problém zvětšil, než byl – počátkem tohoto měsíce byly některé americké školní čtvrti uzavřeny po zprávách o hrozbách střelbou na TikTok. Ukázalo se, že společenskou bouři způsobilo především to, že se o hrozbách mluvilo mnohem více než o hrozbách, které skutečně existovaly. V případě Alexy algoritmus vybral popisnou část varování a zesílil ji bez původního kontextu. I když byli rodiče na místě okamžitě zasáhnout, lze si snadno představit situaci, kdy tomu tak není, a důsledky.
Livdahl tweetovala, že využila příležitosti „diskutovat o bezpečnosti na internetu se svým dítětem a nevěřit tomu, co čtete bez průzkumu a ověření“, což vám doporučujeme udělat také.
Přečtěte si také: