AI a právo ve škole

Mohu využít AI pro hodnocení žáků?

Stručná odpověď: Ano. Chatbot vám může pomoci s formulací slovního hodnocení. Konečné hodnocení nebo známku musí vždy stanovit učitel. AI může fungovat pouze jako asistent a nelze ji využít k automatizovanému hodnocení nebo rozhodování o známkách. Je také nutné dodržovat pravidla ochrany osobních údajů a používat informace o žácích anonymizovaně. | Odpověď právníka: Podle GDPR nesmí být nikdo předmětem žádné- ho rozhodnutí založeného výhradně na automatizovaném zpracování osobních údajů a dat, pokud toto rozhodnutí má právní účinky nebo se jej významně dotýká. Rozhodování o známkách má právní účinky a výrazně ovlivňuje žáky, takže spadá do této kategorie. GDPR proto zakotvuje právo na „lidský dohled“. To znamená, že AI nelze použít k rozhodování o výsledné známce bez účasti člověka. Učitel musí být ten, kdo učiní konečné rozhodnutí, které musí být schopen vysvětlit a obhájit. | Doporučení pedagoga: Nechte si od umělé inteligence poradit při hodnocení žáků – stačí jí zadat pokyn (prompt), aby se „proměnila“ ve zkušeného pedagoga, a pak jí předkládat úkoly k posouzení. Získá- te tak objektivní pohled a ušetříte čas. Ale nezapomeňte, že AI je jen poradce a konečné rozhodnutí je vždy na vás.

Jak správně citovat díla vytvořená prostřednictvím AI?

Stručná odpověď: Vygenerovaný obsah vždy označte. Citujte umělou inteligenci podobně jako jiné zdroje, kdykoli ovlivní obsahovou stránku vašeho díla. U dokumentů se hodí stručně popsat, jakým způsobem byla AI použita. | Odpověď právníka: Z hlediska autorského práva není uvádění citace nutné, protože se nejedná o autorské dílo. Důležité jsou však pod- mínky provozovatelů jednotlivých AI nástrojů. Poskytovatelé AI často stanoví pravidla pro nakládání s výstupy AI, včetně povinnosti nepre- zentovat výstup AI jako dílo vytvořené člověkem. Jednotliví poskytovatelé AI nástrojů mohou mít vlastní podmínky pro pub- likaci děl, která byla vytvořena prostřednictvím AI. Například Open AI uvádí v dokumentu Sharing & publication policy tento příklad citace u literárních děl, která byla vytvořena prostřednictvím ChatGPT (dále uvedený text by měl být umístěn v úvodu publikace): Autor tento text částečně vygeneroval po- mocí GPT-3, rozsáhlého modelu pro generování jazyků OpenAI. Po vygene- rování návrhu jazyka jej autor zkontroloval, upravil a přepracoval podle vlast- ních představ a přebírá konečnou odpovědnost za obsah této publikace. | Doporučení pedagoga: Buďte ohledně využívání AI ve své práci transparentní – je to skvělá příležitost učit žáky etickému přístupu k novým technologiím. Diskutujte s nimi o tom, kdy a jak AI použí- váte, a vysvětlete jim důležitost správného citování. Povedete je tak k zodpovědnosti v digitálním světě. Pro praktické příklady citací do- poručujeme podívat se na doporučení univerzitní knihovny TUL, člá- nek Jak citovat ChatGPT od Ústavu českého jazyka MUNI https://cestina.phil.muni.cz/aktualne/aktuality/jak-citovat-chatgpt a Kdy a jak citovat AI podle MLA na webu https://spomocnik.rvp.cz .

Kdo je za vygenerovaný obsah zodpovědný?

Stručná odpověď: Uživatel, který obsah vygeneroval a použil. | Odpověď právníka: Je to uživatel, kdo nese odpovědnost za pre- zentovaný obsah. V případě školních účtů zodpovídá za koncové uživatele (žáky) škola. Poskytovatelé nástrojů AI jsou si vědomi rizik a zpravidla svou odpovědnost omezují a limitují. Pokud obsah necháte vygenerovat umělou inteligencí, vždy to uveďte, ideálně i konkrétní nástroj, jeho verzi a datum vzniku výstupu. Ověřujte také, že jsou informace pravdivé. | Doporučení pedagoga: V rámci výuky připomínejte žákům, že když vytvoří obrázek nebo text pomocí umělé inteligence, nesou za něj plnou odpovědnost sami. Proto musí obsah vygenerovaný umělou inteligencí kontrolovat a ověřovat.

Komu patří vygenerovaný obsah? Jsou nějaká pravidla pro jeho další použití?

Stručná odpověď: Když vytvoříte obrázek nebo text v AI generátoru, patří vám jako uživateli, ačkoli nejste jeho autorem. Při dalším použití obsahu je nutné respektovat obchodní podmínky. | Odpověď právníka: Poskytovatelé nástrojů AI obvykle uvádí, že vy- generovaný obsah patří uživateli. Toto právo může být podmíněné – např. tím, že zmíníte, že vygenerovaný obsah nebyl vytvořen člověkem (viz níže v části „Jak správně citovat materiály vytvořené pomocí AI?“). V případě dalšího užití vygenerovaného obsahu je třeba si uvědomit, že při tréninku AI jsou užívána ve velkém rozsahu autorská díla tře- tích osob (literární díla, fotografie aj.). Proto nelze vyloučit, že vygene- rovaný obsah má právní vady a zasahuje do autorských práv třetích osob. Samotní poskytovatelé nástrojů toto zmiňují a např. OpenAI upozorňuje na skutečnost, že „výstupy nemusí být jedinečné a ostat- ní uživatelé mohou dostávat podobné výstupy“, a ukládá uživatelům, aby před použitím nebo sdílením výstupů posoudili jejich přesnost a vhodnost pro dané použití. | Doporučení pedagoga: Ve výuce zdůrazňujte, že vygenerovaný ob- sah může být nepřesný (AI halucinuje), záměrně zavádějící (při trénin- ku jsou záměrně užívány určité narativy) nebo neetický, a veďte žáky k odpovědnosti za použití vygenerovaných informací.

Může kdokoliv volně používat obsah vytvořený umělou inteligencí? Například pokud si jedna škola nechá vygenerovat logo, může ho použít i jiná škola?

Stručná odpověď: Ano, může. Obsah vygenerovaný AI není chráněn autorským právem. K výukovým účelům se takto vytvořený obsah hodí skvěle, ale pro oficiální reprezentaci školy je vhodnější využít originální dílo vytvořené člověkem. | Odpověď právníka: Autorský zákon chrání díla vytvořená lidmi mno- ha způsoby: || Autor může u soudu žádat informace o neoprávněném užití díla. | Může požadovat odstranění následků (např. stažení neoprávně- ných kopií). | Má právo na omluvu, peněžní zadostiučinění nebo náhradu ušlého zisku. | Může žalovat i osoby, které se nepřímo obohatily (např. prodejce neoprávněných kopií). | Dílo vytvořené AI není autorským dílem, proto nemá tuto ochranu. Pro školu, která primárně neusiluje o zisk, jsou možnosti ochrany AI-generovaného obsahu velmi omezené. || Doporučení pedagoga: Pro obsah, který chcete chránit před neo- právněným užitím (např. logo školy, design triček, fotky na webu), vždy použijte originální dílo vytvořené člověkem. Takové dílo je záko- nem považováno za autorské a můžete ho lépe chránit.

Kdo má autorská práva k vygenerované- mu obsahu?

Stručná odpověď: Nikdo. Nejde totiž o autorské dílo. Ale pozor – dal- ší použití může podléhat licenčním podmínkám AI nástrojů. | Odpověď právníka: Platí jednoduché pravidlo: k tomu, aby nějaké dílo mohlo být nazýváno dílem autorským, jej musí vytvořit člověk (§ 5 odst. 1 autorského zákona). AI proto nemůže být „autorem“ a obsah vygenerovaný prostřednictvím AI není „autorským dílem“. Poskytova- telé AI proto nemají možnost se domáhat jakýchkoliv nároků, které autorský zákon upravuje za účelem ochrany autorů před neoprávně- ným zásahem do jejich autorských práv. To ale neznamená, že vygenerovaný obsah můžete použít bez omezení. Podmínky pro další využívání obsahu jsou často upraveny v licenčních podmínkách jednotlivých aplikací. Např. OpenAI, tvůr- ce ChatGPT, uvádí, že nesmíte tvrdit, že byl vygenerovaný obsah vytvořen člověkem, když tomu tak není. Poskytovatelé už do svých vybraných výstupů, např. do obrázků, přidávají metadata, na základě kterých lze zjistit, že obrázek byl vygenerován v konkrétní datum pro- střednictvím konkrétního nástroje (např. DALL-E v rámci ChatGPT). | Musíme tedy autorská práva k vygenerovanému obsahu vůbec řešit? | Ano, musíme. Autorské právo se týká těchto situací: || Uživatel si nechá vytvořit prostřednictvím AI dílo a toto následně tvůrčím (kreativním) způsobem upraví. Vznikne tak odvozené au- torské dílo a k tomu už by mohla uživateli vzniknout autorská prá- va. Záleží však na míře a kreativitě takových úprav. Něco takového lze vždy posoudit jen individuálně. | Uživatel vloží v rámci svého promptu nějaké cizí autorské dílo a to prostřednictvím AI upraví. Z pohledu autorského zákona jde o tzv. zpracování autorského díla a vznikne tzv. odvozené autorské dílo. Autorská díla však lze zpracovávat jen se souhlasem autora původ- ního díla. AI zde slouží jako nástroj ke zpracování, a pokud uživatel následně použije odvozené dílo bez souhlasu autora díla původní- ho, dopouští se neoprávněného zásahu do autorských práv. || Doporučení pedagoga: Téma autorských práv není jednoduché, ale AI přináší skvělou příležitost, jak žákům přiblížit fungování v digitál- ním světě. || Využijte AI jako zajímavý příklad: Nechte žáky vytvořit něco pomocí AI, porovnejte výsledky s lidskou tvorbou a diskutujte o rozdílech v autorství. | Zkoumejte praktické dopady: Diskutujte s žáky, jak by se mělo za- cházet s obsahem vytvořeným AI ve srovnání s lidskou tvorbou. || Pro více inspirace si poslechněte epizodu „Autorské právo a umělá inteligence ve škole“ v podcastu NPI KYBcast.

Co můžu a nemůžu zadávat jako prompt pro AI?

Stručná odpověď: Můžete zadávat běžný text, výukové materiály a obrázky z otevřených zdrojů. Dejte si pozor na vkládání cizích au- torských děl, osobních údajů a dalších citlivých dat. | Odpověď právníka: Nevhodným promptem může uživatel neopráv- něně zpřístupnit osobní údaje nebo zasáhnout do osobnostních práv třetí osoby, jako je právo na soukromí a rozšiřování podobizny. Pro- mpt obsahující důvěrné informace nebo obchodní tajemství může vést k jejich vyzrazení. To je obzvláště rizikové u AI nástrojů, které používají uživatelská data k trénování svého modelu. Pokud uživatel vloží do promptu cizí autorské dílo a prostřednictvím AI ho upraví, jedná se podle autorského zákona o zpracování díla a vznik odvozeného díla. V principu je to stejné, jako když např. upravujete cizí fotografii v grafickém editoru. Zpracovávat autorská díla lze pouze se souhlasem původního autora nebo na základě licence pro digitální výu- ku (§ 31a AZ). To platí i pro další nakládání s odvozeným dílem, jako je jeho rozšiřování nebo zpřístupňování online. Bez souhlasu autora nebo bez příslušné licence jde o neoprávněný zásah do autorských práv. | Doporučení pedagoga: Při psaní promptů vždy používejte vymyšlená jména a anonymizované údaje. Také úlohy zadávejte tak, aby žáci a žákyně nemuseli uvádět své osobní údaje. Vyhněte se nahrávání fotografií učebnic nebo větších částí textů chráněných autorskými právy. Místo toho můžete vytvořit vlastní shr- nutí nebo zadat konkrétní otázky vycházející z obsahu učebnice. Při nahrávání obrázků se ujistěte, že máte právo je použít. Preferujte obrázky s otevřenou licencí nebo vytvořené vámi či vašimi žáky.

Potřebuji souhlas rodičů žáků k používání AI ve výuce?

Stručná odpověď: Nepotřebujete, pokud se žáci a žákyně přihlašují školními účty a pokud jsou dodrženy podmínky dané aplikace, jako třeba věkový limit. | Odpověď právníka: Žádný právní předpis nevyžaduje výslovný sou- hlas rodičů s výukou digitálních kompetencí, včetně používání AI ve výuce. Je však důležité zohlednit ochranu osobních údajů. Není vhodné, aby si žáci a žákyně na pokyn učitele vytvářeli vlastní uživa- telské účty u AI nástrojů (např. v ChatGPT, Google Gemini) nebo je používali ve výuce. Nevhodné je to ze dvou důvodů: || Vytváření uživatelských účtů vede ke zpracování osobních údajů žáků poskytovatelem, často s použitím cookies a dalších identifi- kátorů. | Zdarma dostupné verze nástrojů obvykle používají data zadaná uživateli k dalšímu tréninku. I když lze toto nastavení změnit, exi- stuje vyšší riziko bezpečnostních incidentů, jako je zpřístupnění osobních údajů. || Mnohem vhodnější je proto využívání tzv. školních účtů, tedy účtů zřízených žákům školou za účelem vzdělávání v aplikacích k tomu určených. Někteří poskytovatelé umožňují využívání nástrojů zcela bez nutnosti přihlášení. | Doporučení pedagoga: Zahrňte používání AI do školního vzděláva- cího programu jako součást rozvoje digitálních kompetencí. Tím za- jistíte informovanost rodičů o vašich výukových metodách a soulad s rámcovými vzdělávacími programy.

Má používání nástrojů AI věkový limit?

Stručná odpověď: Věkové limity se u jednotlivých aplikací liší, vždy si věkový limit zkontrolujte předem, než začnete aplikaci se žáky používat ve výuce. | Odpověď právníka: Provozovatelé nástrojů zpravidla stanovují věkové limity uživatelů, obvykle v souvislosti s vytvářením uživatelského účtu. Věkové limity je třeba v rámci výuky dodržovat. Existují ale i nástroje, které je možné využívat bez ohledu na věk. | Doporučení pedagoga: Zjistěte si věkové limity předtím, než začnete aplikaci se žáky používat. Využijte přehled od AI dětem https://aidetem.cz/vyuziti-generativni-umele-inteligence-ve-skolach-pravni-pohled/ .

Je legální používat AI v rámci výuky?

Stručná odpověď: Ano, je to legální, ale dejte si pozor na podmínky jednotlivých aplikací a věkové limity, pokud mají s nástroji pracovat žáci a žákyně.| Odpověď právníka: České právní předpisy se AI ani generativní AI v souvislosti se vzděláváním výslovně nezabývají, ale ani její použití ve výuce nezakazují. Přípustnost užívání AI lze dovodit ze zásad a cílů vzdělávání uvedených v českém školském zákoně, který pod- poruje moderní pedagogické přístupy a metody, a rovněž z jednot- livých rámcových vzdělávacích programů vydaných Ministerstvem školství, mládeže a tělovýchovy (MŠMT ČR), které upravují výuku digitálních kompetencí. Také evropské nařízení o umělé inteligenci (AI Act) v bodě 56 preambule zmiňuje zavádění systémů AI pro podporu vysoce kvalitního digitálního vzdělávání. Z toho plyne, že použití AI ve výuce má podporu v právních před- pisech, zatímco absolutní zákaz užívání AI ve výuce není právně podložen. Je však nutné dodržovat příslušné předpisy jako AI Act, GDPR a školský zákon. | Doporučení pedagoga: Seznamování s umělou inteligencí a jejím praktickým využitím je nejen legální, ale i žádoucí příprava žáků a studentů na život v 21. století. Nebojte se zkoumat a používat nové nástroje umělé inteligence. Než se rozhodnete nástroj využít ve výuce, zkontrolujte podmínky použití aplikace a zaměřte se na věkové limity. Pomůže vám stránka https://aidetem.cz/pravo od AI dětem.