Chráníme děti před Instagramem. A mezitím jim AI radí v lásce

Austrálie, Dánsko a Portugalsko už schválily zákaz přístupu dětí na sociální sítě, Francie, Norsko, Slovinsko a Spojené království ho chystají, u nás se pro zákaz v dojemné shodě vyjadřují premiér i prezident. Znamená to ale, že naše děti budou méně ohrožené? Pochybuji, neboť se obávám, že podstatně významnější hrozbu pro naše děti – totiž jejich interakci s umělou inteligencí – mezitím dost „úspěšně“ přehlížíme.

Nejprve ale k zákazu používání sociálních sítí. Jsem liberál, navíc z generace těch, kteří navzdory všem zákazům vykouřili první cigaretu někdy během svého desátého roku, aby o pár let později dost pravidelně chodili na pivo. Jenže instinkt velící mi k odporu vůči zákazům, mimo jiné s vědomím, že se ne zas tak obtížně obejdou, mi dost nahlodali moji potomci. Jednomu je 16, druhému 25, zeptal jsem se jich dost návodnou, k odporu k zákazu vedoucí otázkou. Přesto se oba shodli, že jim sítě v dětství nepřinesly nic pozitivního, respektive v jednom případě naopak něco vcelku negativního, o čem mě mrzí, že jsem se to nedozvěděl v době, kdy bych to snad mohl ovlivnit. A že ani argument o technologických možnostech obcházení neznamená, že to všechny děti umějí a budou dělat. Současně jsem se dozvěděl, že limitem toho, co zákaz může ovlivnit, je příchod puberty. Pak už i nešťastníkům s mobily, do nichž úzkostlivý rodič nainstaluje cenzuru a sledování, pomohou empatičtí soucitní vrstevníci – zapůjčí starší přístroje, které sami už nepoužívají. No jo, jako vždy i v případě zákazů sociálních sítí není nad konzultaci s experty.

Jenže jak se rozšiřuje používání AI, poslouchám stále častěji příběhy o tom, jak ji děti – a nejen ty – využívají coby kamaráda, „vztahového guru“, prostě jako náhradu živé osoby. A nejde jen o anekdotické příběhy. Studie – mimo jiné od MIT, Pew Research, Centra pro demokracii a technologie a Common Sense Media – se shodují nejen na tom, že většina teenagerů má zkušenost s AI, ale že zhruba třetina ji používá pravidelně. Nezanedbatelná část mládeže navíc připouští, že si s AI lze vytvořit nejen přítele, „kterému se dá věřit“, ale i „romantický vztah“. A příběhy o tom, jak i někdo dospělý začne využívat – často firemní – AI ke konzultaci svých životních problémů, taky nejsou zrovna vzácné.

To mi připadá podstatně horší než jakákoliv sociální síť. AI postavená na jazykových modelech má jako vestavěný cíl něco zcela jiného než skutečná pomoc „lidskému příteli“. Je to jazykový model – vytváří reakci, která má komunikujícího uspokojit. A na rozdíl od situací, kdy AI pomáhá něco vyhledat, zpracovat či ověřit, v okamžiku, kdy jde o primárně emotivní potřeby, bude její odpověď nepochybně vycházet hlavně z potvrzování a souhlasu. I tam, kde by bylo rozumnější ponouknout k revizi chování toho, kdo má problém.

Shakespeare měl pro tohle postavu: Jaga. Ten, kdo vám vždy řekne, co chcete slyšet, a přitom sleduje úplně jiné cíle. Jazykový model funguje podobně, jen bez zlého úmyslu, což ho možná dělá ještě nebezpečnějším. Odborníci to říkají střízlivěji. Z akademie T. Sun (Rice University): „Dospívající si budují základní emocionální a sociální dovednosti – k tomu chatboti samozřejmě neslouží. Pokud mladí lidé začnou svěřovat AI své vztahy a životní rozhodnutí, místo aby se svěřovali lidem, jejich rizikem není jen dezinformace, ale především postupná proměna toho, co od vztahů, emocí a pomoci vůbec očekávají.“ A od těch, kteří podobné dopady už řeší, V. Wright (Asociace amerických psychologů): „Lidské spojení AI nikdy nenahradí. Na to prostě není stavěna.“ Navíc chatboti jsou navrženi tak, aby udržovali pozornost co nejdéle – protože tak jejich tvůrci vydělávají.

Jako ekonom musím dodat ještě jednu rovinu: očekávání je, že AI nás bude vytlačovat od rutinních činností – a právě tam, kde je potřeba lidské interakce. A jsem si jist, že nejhorší přípravou našich potomků, kteří už dnes do značné míry nahrazují reálný svět virtuálním, na takové role je situace, kdy si komunikaci s lidmi nahrazují „AI parťáky“. Nejde tedy jen o emoční rizika. Jde o to, že se nenaučí něco, co by jim mohlo pomoci ekonomicky se uplatnit ve světě, který právě přichází.

Nejsem právník ani ajťák – byť jsem se během studií včetně doktorandského v USA právě v této oblasti živil –, ale nepřipadá mi nemožné definovat pro AI „komunikátory“ požadavky, které by je nutily rozpoznávat, zda komunikují s dítětem, nebo adolescentem, a být velmi restriktivní v komunikaci nahrazující lidského důvěrníka řešícího vztahy. A jsem přesvědčen, že situacemi, kdy AI konzultuje „lidi pro lidi“ (a ještě více „lidi pro děti“) bychom se měli zabývat podstatně více než tím, jak děti chránit před sociálními sítěmi.

Miroslav Singer, bývalý guvernér České národní banky, dnes působí mj. jako předseda dozorčí rady Generali České pojišťovny, spolupracuje mj. s Institutem SOLVO.