Nenechte AI plánovat váš trek

AI prostupuje našimi životy, outdoor nevyjímaje. Na téma toho článku mě přivedla zpráva o další nehodě, respektive záchranné akci dvou turistů, kteří si nechali naplánovat túru od AI a vyrazili. O pár hodin déle je zachraňoval vrtulník. Proto jsem se rozhodl píchnout do vosího hnízda a trochu si na AI posvítit.

Poprvé jsem o riziku spojeném s plánováním treků AI četl loni. Párkrát jsem se u toho plácnul do čela, zakroutil hlavou a v klidu tento příběh zapomněl. Když jsem nedávno zahlédl zprávu o záchranné akci spojené s plánováním trasy AI, zbystřil jsem a došlo mi: „Aha, ono se to vážně děje.“

• Zpráva, která v září proletěla médii, informuje o třech turistech, kteří si nechali od Gemini naplánovat výstup na horu Mt. Shasta v Kalifornii a museli být evakuováni záchrannou skupinou. Ze zprávy šerifovy kanceláře pak vyplývá, že turisté vylezli na vrchol velmi pozdě, sestupovali za tmy, sešli z trasy, jeden si zranil koleno a skupina uvízla v nebezpečném terénu. V souvislosti s tímto incidentem upozorňuje ředitel lavinového centra Mt. Shasta Nick Meyers, že podobné případy se množí a zcela absurdní vygenerované mapy hory jsou velmi nebezpečné.
• V červenci v Tatrách evakuoval vrtulník dva Litevce, kteří si nechali od ChatGPT poradit zkratku do Doliny pěti polských jezer a uvízli v lezeckém terénu pod vrcholem Niebieska Turnia (Zdroj: TOPR; všimněte si, že první týden v červenci TOPR zachraňoval 55 lidí!).
• V Pyrenejích našel strážce parku Julien Vignasse dvě ztracené a vyčerpané turistky s trasou a mapou vygenerovanou ChatGPT. Na jejich mapě nic neodpovídalo skutečnosti a jezero, které hledaly, leželo v úplně jiném údolí. Ten samý strážce v článku uvádí, že letos potkal cca třicet ztracených lidí, kteří používali vygenerované mapy a informace od AI.
• V Kanadě si jedna parta naplánovala túru s ChatGPT a Google Maps a hoši museli být zachráněni týmem záchranářů. ChatGPT si trasu vymyslel od stolu a Google Maps logicky nezohlednily sníh ani horský terén.
• Ve Walesu si dva turisté nechali naplánovat trasu a vybavení na túru, načež museli být evakuováni týmem záchranářů, protože ChatGPT nevzal v potaz blížící se bouři Amy. Na druhou stranu jim ten samý ChatGPT poradil, kam a jak mají volat pro záchranu.
• I v Alpách letěl vrtulník na trasu, kterou „vymyslel“ ChatGPT.
• A nemusíme ani tak daleko, protože i na Frýdlantské cimbuří už běžela Horská služba pro pána, který slepě následoval instrukce od ChatGPT. (Zdroj: kamarádi z HS)
• Také se objevila zpráva o zcela vyhalucinovaném kaňonu v Peru, který nikdy neexistoval. Upřímně mi tato zpráva připadá trochu pofidérní a možná je to jen reklama na cestovku pana Góngory Mezy.

Podobných zpráv jsem našel víc, ale řekl bych, že pro ilustraci tento výčet stačí. Jde mi jen o to ukázat, že se objevují další a další medializované případy, a upozornit na rizika.

Horská služba a další záchranáři vyrážejí na pomoc turistům, horolezcům, cyklistům atd. dnes a denně. To, že člověk zakopne a zvrkne si kotník, nebo si nedej bože něco zlomí, se může stát bez ohledu na to, jak trasu plánoval. Nehody se stávají i těm nejpřipravenějším. Ale proč jim přidělávat práci a mávat při tom telefonem, že: „To mi řekla AI“?

Po seznámení se s jednotlivými incidenty je zřejmé, že mají stejné jmenovatele:

1. 1 absence kritického myšlení
2. 2 stoprocentní slepá důvěra
3. 3 nedostatek zkušeností

Proto si myslím, že zásadní nebezpečí tohoto fenoménu se týká především příležitostných a začínajících turistů, respektive těch, kteří nemají dostatek zkušeností, aby dokázali výstup od AI sami zpochybnit.

Z případů, které jsem prostudoval, je patrné, že pokud jde o naplánování výletu po známé a oblíbené trase, ke které je na internetu spousta informací z blogů a průvodců, jsou doporučení od AI celkem použitelná (nikoli přesná). V čem ovšem naprosto selhává, je generování map. A to i v případě, že textovou část má relativně v pořádku. Přesvědčivě vypadající mapa ještě není důkazem, že v ní zakreslená trasa skutečně existuje! Ohledně plánování tras, ke kterým není dostatek informací, šlo v podstatě o pouhé výstřely do tmy (halucinace).

Skutečně je potřeba si uvědomit, že žádný chatbot ani AI agent žádný trek nikdy nešli a nepůjdou. AI z principu nemá představu, jak vypadá reálný svět. Chatbot neplánuje s vědomím vlastní zkušenosti s terénem a nemůže garantovat, že obsah odpovídá realitě. Jen generuje text, který na základě dat z internetu vypadá pravděpodobně.

Nejzásadnější je, že potřebujete znát sami sebe. Jaká je vaše průměrná rychlost, jak se mění s převýšením, jaká je spotřeba tekutin a energie, jak se mění s hmotností batohu, jak snášíte zimu, horko atd., atd. Je toho spousta a obecně se tomu říká zkušenosti.

Potřebujete praxi v terénu, ze které načerpáte zkušenosti, a ze získaných zkušeností si vytvářet úsudek. Na základě úsudku pak dokážete odhadnout, kolik času na trasu potřebujete, kolik jídla a vody si musíte vzít, jaké podmínky se na trase dají očekávat apod. Tohle za vás nikdo nevyřeší a ano, vyžaduje to nějaký čas a občas i trochu nepohodlí.

Chápu, že tohle nikdo slyšet nechce. Je to možná nepopulární myšlenka, protože to klade na lidi nároky, ale turisté by měli být v první řadě soběstační a zodpovědní za vlastní bezpečnost.

Skvělou zprávou je, že pokud máte zkušenosti, na základě kterých dokážete pracovat se svými i dalšími daty, nemusíte si nechat diktovat plán od AI, ale dokážete si udělat bezpečný a smysluplný plán sami. Případně včas rozpoznat rozpor mezi plánem a realitou.

AI v tu chvíli umí být užitečný nástroj, kterému vaše zkušenosti a s nimi spojené kritické myšlení dávají jasné mantinely.

Plánujte s AI, ale nenechte si od AI plánovat!