Zadat AI úkol a nechat si navrhnout řešení je velmi pohodlné. Odpověď dostáváme během chvíle „na stříbrném tácku“. Vlastní úsudek bychom však měli zapojovat už při formulaci zadání a následně při posuzování odpovědi. Pojďme se společně zamyslet nad tím, proč je zachování lidského úsudku (human judgement) důležitou součástí zodpovědného využívání umělé inteligence.
V mezinárodním panelu, který sestavily MIT Sloan Management Review a Boston Consulting Group (BCG), souhlasilo nebo rozhodně souhlasilo 65 % odborníků s následujícím tvrzením: „Zásadní výzvou pro zodpovědný vývoj a používání AI bude schopnost zachovat si důvěryhodný lidský úsudek i ve světě vyspělých strojů.“ Jde o stanovisko členů panelu k důležitosti tématu.
Odpovědnost začíná u lidí
Pojem zodpovědná AI (Responsible AI) označuje přístup k jejímu vývoji, zavádění a používání, který bere v úvahu dopady na člověka a společnost. Vývojáři, vedení organizací i uživatelé určují, k čemu má nástroj sloužit, co může dělat samostatně a kdy má zasáhnout člověk. Zachovat si lidský úsudek proto znamená vytvořit takové podmínky, ve kterých si lidé udrží schopnost i skutečnou možnost rozhodovat.
Autoři článku v časopise MIT Sloan Management Review upozorňují na riziko, že při nadměrném spoléhání na AI můžeme tuto schopnost přestat procvičovat. Pak nám může chybět právě ve chvíli, kdy potřebujeme rozpoznat chybu, posoudit neobvyklou situaci a rozhodnout o dalším postupu.
Schválení doporučení AI vyžaduje vlastní posouzení
Lidský dohled (human oversight) spočívá ve sledování fungování AI a v možnosti člověka zasáhnout. Lidský úsudek (human judgement) je schopnost posoudit situaci, zvážit důvody a zvolit další postup.
Představme si marketingovou manažerku, které AI připraví reklamu na vzdělávací kurz. Text slibuje jisté pracovní uplatnění absolventů. Zní přesvědčivě, manažerka ale ví, že takový příslib poskytovatel kurzu nemůže doložit. Návrh upraví tak, aby odpovídal skutečným možnostem kurzu.
Její úsudek se projevil v posouzení pravdivosti a přiměřenosti slibu. K tomu potřebovala znát nabídku, porozumět očekáváním zákazníků a mít pravomoc návrh změnit. Kdyby se její role omezila na rychlé odkliknutí tlačítka „schválit“, tato úvaha by se vůbec nemusela odehrát.
Také lidské posouzení může být chybné. Smysluplná spolupráce s AI proto zahrnuje ověřování podkladů i vyhodnocování výsledků rozhodování lidí i AI.
AI můžeme zapojit do procvičování lidského úsudku
Ve výuce lze například vyzkoušet následující postup: student nejprve sám navrhne řešení a vysvětlí své důvody. Potom požádá AI o námitky a alternativy. Nakonec zváží, zda návrh upraví, a vysvětlí, které připomínky přijal, které odmítl a proč. Učitel tak může sledovat i způsob, jakým student přemýšlí.
Pomoci může například toto zadání:
„Nejprve mě požádej o vlastní návrh a jeho zdůvodnění. Potom mi polož otázky, které prověří mé předpoklady, a nabídni jiný pohled. Nakonec mě nech vysvětlit, jaké řešení volím a proč. Postupuj po jednotlivých krocích a po každém počkej na mou odpověď.“
Při příštím rozhovoru s AI dejte prostor vlastnímu úsudku. Ptejte se na důvody, požádejte o jiný pohled a podle potřeby zpřesňujte zadání. Důležité informace si ověřte a zvažte, co z návrhu přijmete, co upravíte a proč. AI GENERUJE. VY POSUZUJETE A ROZHODUJTE.
Zdroj: Elizabeth M. Renieris, David Kiron, Steven Mills a Anne Kleppe: The Defining Challenge of Responsible AI Is Designing Systems That Preserve Human Judgment When and Where It Counts. MIT Sloan Management Review, 15. října 2026.
Pro ČMS připravuje PhDr. Ladislava Knihová, Ph.D., MBA – Education online.