|
Můj názor na to, jak používat generativní umělou inteligenci v literární tvorbě tak, aby výsledná díla stálo za to vytvářet i číst. (Napsáno bez použití umělé inteligence.)
|
Napsáno bez použití umělé inteligence.
Tímto kodexem vyjadřuji svůj názor na to, co by podle mě měl literární tvůrce využívající generativní umělou inteligenci ke generování textu pro svoji tvorbu dělat, aby jeho výtvory stálo za to vytvářet i číst. Tyto názory vycházejí z mé dosavadní krátké zkušenosti a mohou se v budoucnu změnit, pokud se změní technologie ej áj nebo když získám víc zkušeností.
Tento kodex se nevztahuje na texty, při nichž lidský tvůrce používá ej áj pouze k výzkumu či posouzení obsahu, ale nepoužívá v díle jí vygenerovaný text. Takový způsob použití je podle mě zcela neproblematický a nevyžaduje zvláštní opatření.
Mnou navržená pravidla jsou tedy následující:
1) Literární díla jsou určena lidem ke čtení. — Pokud je váš text určený počítači a ne lidem, může jít o dobré dílo, ale patří do repozitářů zdrojových kódů, ne na literární server nebo do knižních polic. (Některé lidi ale zdrojový kód zajímá a ocení uvedení adresy, kde ho najdou.)
2) Neanonymním zveřejněním díla přebíráte stoprocentní (ale především negativní) zodpovědnost za vše, co v něm provedly automatizované nástroje jakéhokoliv druhu (inteligentní i neinteligentní). Přiznání použití LLM vaši odpovědnost nesnižuje. Každá hrubka od LLM je vaše hrubka, každý překlep od LLM je váš překlep. Neschopnost modelu je vaše neschopnost, nedostatečné zadání je vaše chyba, dostatečné nehlídání výstupu je také vaše chyba. Omluva typu „Já to neudělal, to počítač,“ je nepřípustná. — Současné jazykové modely nemohou nést zodpovědnost v takovém smyslu jako člověk, nepoučí se, nezlepšují, jednají pouze v mezích toho, k čemu je člověk dotlačí. Nesení odpovědnosti vůči čtenářům je nezbytnou součástí úlohy člověka v tomto procesu.
3) Nejpozději před vydáním díla si ho přečtěte slovo od slova. — Toto je podle mě základ, který tak nějak vyplývá z předchozích dvou bodů. Většinu literárních děl lidé čtou od začátku do konce, proto byste měli tímto procesem projít také, abyste mohli včas posoudit, zda zážitek, který jim tím chystáte, někde „nedrhne“ nebo není příliš dlouhý/prázdný/bezduchý/nepovedený apod.
4) Nedůvěřujte žádnému četbotovi ani jazykovému modelu. — Z mé dosavadní zkušenosti vyplývá, že jazykové modely dělají chyby, a to i ty největší a nejdražší modely. Často je po sobě dokážou dodatečně odhalit (když jim výslovně zadáte to udělat) a opravit, ale ne vždy. Navíc dělají jiné chyby než lidé, což tyto chyby činí neočekávanými a obtížně předvídatelnými. Proto se nenechte ukolébat tím, když namátková kontrola žádné chyby neodhalí. Počítejte s tím, že ve výstupu modelu budou i chyby, jaké byste v životě nečekali.
5) Pokud vás netlačí deadline, mezi bodem, kdy vám dílo připadne hotové, a zveřejněním ho nechte uležet (např. týden) a později se k němu vraťte s čistou hlavou. — Vrátit se k dílu s čistou hlavou je dobré i pro čistě lidsky psaná díla; dílům používajícím generovaný text to však může prospět i víc.
6) Nemáte-li závažný důvod k tomu to neudělat, veškerý text, který byl vygenerovaný nebo významně upravený modelem, přepište/opište slovo od slova způsobem umožňujícím ho průběžně upravovat. (Diktování se jako přepsání také počítá.) — Tento bod je asi trochu kontroverzní, protože hodně literárních tvůrců by chtělo použít generativní ej áj k tomu, aby nemuseli celý text slovo od slova psát. Ale mám dva důvody k tomu to požadovat:
a. Moje zkušenost ukazuje, že při jakkoliv pozorném čtení mozek silně tíhne k tomu brát text tak, jak je, a přehlížet v něm chyby. (To je asi také důvod, proč většina betačtenářů málokdy nějaké chyby odhalí.) Jedině při zapisování/přepisování nad textem člověk opravdu přemýšlí a dojde mu, když je něco špatně a mohlo by to být lépe. Udělal/a jsem experiment — jednou jsem si vygenerovaný text pečlivě přečetl/a a opravil/a všechno, co mi připadalo špatně. Později jsem se k již opravenému textu vrátil/a a začal/a jsem ho přepisovat. A to, jak drastické logické chyby jsem v něm při prvním průchodu nechal/a, mě docela šokovalo. Od té doby vygenerované texty zásadně přepisuji.
b. Přepisováním se dílo učíte. Je to stejný důvod, jako proč si ve škole žáci zapisovali (nebo ještě pořád zapisují, nemám přehled) poznámky do sešitů. I vědecké výzkumy ukázaly, že když studenti esej „vygenerují“ a odevzdají, bez ohledu na to, kolik úsilí věnovali zadání a jak pečlivě si ji přečetli, pamatují si její obsah hůř, než kdyby ji sami napsali/přepsali. Pokud dílo nepřepíšete, zapomenete ho rychleji a budete k němu mít slabší vztah (což vás znevýhodní vůči „čistě lidským“ literárním tvůrcům).
Připouštím, že pokud máte s editováním textů roky zkušeností a chyby a nedostatky v cizím textu spatříte bez jakékoliv námahy, může vám stačit text přečíst. Ale všichni, kdo takové roky zkušeností nemají, by měli text přepsat.
7) Berte na vědomí, že jazykový model nemá lidskou životní zkušenost a lidské pocity necítí, ale pouze analyticky napodobuje (což je někdy nedostatečné). Pokud chcete, aby se něco z toho v díle objevilo, musíte to vyjádřit ve svém zadání, aby z toho model mohl čerpat. Zda to však chcete, záleží na vás. — V běžné literární tvorbě se často do díla promítá vaše životní zkušenost, vaše pocity, vkus apod. a děje se to celkem samovolně, takže nad tím nemusíte přemýšlet. Při generování literárního textu se to samovolně neděje; pokud chcete, aby se to dělo také, musíte se o to snažit (a kontrolovat výsledek).
- - -
Rád/a bych do kodexu uvedl/a i bod „Buďte otevření a upřímní ke čtenářům ohledně toho, jakou část tvorby jste udělali sami a jakou pomocí umělé inteligence,“ ale v současné situaci, kdy se tento způsob tvorby stává cílem negativních předsudků (v důsledku neznalosti či povrchní negativní zkušenosti), nespravedlnosti a odsudků, ba přímo hanění, nemohu odsoudit ty, kdo svoje použití generativní umělé inteligence skrývají proto, aby se jim a jejich dílům dostalo spravedlivého zacházení a rovných příležitostí. (I když na druhou stranu zase musím přiznat, že srovnávat částečně generovanou tvorbu s čistě lidskou, je v některých kontextech nespravedlivé opačným směrem a takoví tvůrci pak dostávají víc uznání, než si zaslouží.)
Navíc i objevující se způsoby označování děl s generovaným obsahem mají zásadní nedostatky — když třeba u hudebního videoklipu vidím značku „AI“, ale jak mám vědět, co to znamená? Je generované video, zatímco hudba je lidská, nebo je video lidské a hudba generovaná? Co když je hudba generovaná a text písně lidský, nebo naopak lidská hudba složená k vygenerovanému textu? Nebo u videa, kde někdo předčítá knihu, která je vygenerovanou slátaninou — mělo by být označené jako „AI“, když člověk předčítá generovaný text? A co když hlasový syntetizátor předčítá text napsaný výhradně člověkem? Co generovaná cover verze lidské písně, nebo naopak lidská cover verze původně generované písně?
Tohle označování jednoduchou značkou „AI“ mi prostě nedává žádný smysl, funguje asi jako označování Židů za druhé světové války židovskou hvězdou. Aby to označování smysl dávalo, muselo by být asi tak podrobné jako titulky u filmů.
A ani uvedení rozsahu lidských úprav nefunguje bezchybně; když je v textu jedna lidská úprava, neříká to, zda je to proto, že ho člověk kontroloval ledabyle a opravil v něm jen jednu chybu, nebo zda ho člověk kontroloval velice pečlivě, ale výstup modelu byl prostě tak dobrý, že v něm člověk už žádnou další chybu nenašel.
Takže myslím, že nezbývá, než se snažit a doufat, že budoucnost nebude taková katastrofa, jak se zdá.
(Mimochodem, označení „ej áj“ pochází od Václava Budinského z jeho knihy „Hovory s Ej Áj : zajímavosti o ní a od ní“.)
Tímto kodexem vyjadřuji svůj názor na to, co by podle mě měl literární tvůrce využívající generativní umělou inteligenci ke generování textu pro svoji tvorbu dělat, aby jeho výtvory stálo za to vytvářet i číst. Tyto názory vycházejí z mé dosavadní krátké zkušenosti a mohou se v budoucnu změnit, pokud se změní technologie ej áj nebo když získám víc zkušeností.
Tento kodex se nevztahuje na texty, při nichž lidský tvůrce používá ej áj pouze k výzkumu či posouzení obsahu, ale nepoužívá v díle jí vygenerovaný text. Takový způsob použití je podle mě zcela neproblematický a nevyžaduje zvláštní opatření.
Mnou navržená pravidla jsou tedy následující:
1) Literární díla jsou určena lidem ke čtení. — Pokud je váš text určený počítači a ne lidem, může jít o dobré dílo, ale patří do repozitářů zdrojových kódů, ne na literární server nebo do knižních polic. (Některé lidi ale zdrojový kód zajímá a ocení uvedení adresy, kde ho najdou.)
2) Neanonymním zveřejněním díla přebíráte stoprocentní (ale především negativní) zodpovědnost za vše, co v něm provedly automatizované nástroje jakéhokoliv druhu (inteligentní i neinteligentní). Přiznání použití LLM vaši odpovědnost nesnižuje. Každá hrubka od LLM je vaše hrubka, každý překlep od LLM je váš překlep. Neschopnost modelu je vaše neschopnost, nedostatečné zadání je vaše chyba, dostatečné nehlídání výstupu je také vaše chyba. Omluva typu „Já to neudělal, to počítač,“ je nepřípustná. — Současné jazykové modely nemohou nést zodpovědnost v takovém smyslu jako člověk, nepoučí se, nezlepšují, jednají pouze v mezích toho, k čemu je člověk dotlačí. Nesení odpovědnosti vůči čtenářům je nezbytnou součástí úlohy člověka v tomto procesu.
3) Nejpozději před vydáním díla si ho přečtěte slovo od slova. — Toto je podle mě základ, který tak nějak vyplývá z předchozích dvou bodů. Většinu literárních děl lidé čtou od začátku do konce, proto byste měli tímto procesem projít také, abyste mohli včas posoudit, zda zážitek, který jim tím chystáte, někde „nedrhne“ nebo není příliš dlouhý/prázdný/bezduchý/nepovedený apod.
4) Nedůvěřujte žádnému četbotovi ani jazykovému modelu. — Z mé dosavadní zkušenosti vyplývá, že jazykové modely dělají chyby, a to i ty největší a nejdražší modely. Často je po sobě dokážou dodatečně odhalit (když jim výslovně zadáte to udělat) a opravit, ale ne vždy. Navíc dělají jiné chyby než lidé, což tyto chyby činí neočekávanými a obtížně předvídatelnými. Proto se nenechte ukolébat tím, když namátková kontrola žádné chyby neodhalí. Počítejte s tím, že ve výstupu modelu budou i chyby, jaké byste v životě nečekali.
5) Pokud vás netlačí deadline, mezi bodem, kdy vám dílo připadne hotové, a zveřejněním ho nechte uležet (např. týden) a později se k němu vraťte s čistou hlavou. — Vrátit se k dílu s čistou hlavou je dobré i pro čistě lidsky psaná díla; dílům používajícím generovaný text to však může prospět i víc.
6) Nemáte-li závažný důvod k tomu to neudělat, veškerý text, který byl vygenerovaný nebo významně upravený modelem, přepište/opište slovo od slova způsobem umožňujícím ho průběžně upravovat. (Diktování se jako přepsání také počítá.) — Tento bod je asi trochu kontroverzní, protože hodně literárních tvůrců by chtělo použít generativní ej áj k tomu, aby nemuseli celý text slovo od slova psát. Ale mám dva důvody k tomu to požadovat:
a. Moje zkušenost ukazuje, že při jakkoliv pozorném čtení mozek silně tíhne k tomu brát text tak, jak je, a přehlížet v něm chyby. (To je asi také důvod, proč většina betačtenářů málokdy nějaké chyby odhalí.) Jedině při zapisování/přepisování nad textem člověk opravdu přemýšlí a dojde mu, když je něco špatně a mohlo by to být lépe. Udělal/a jsem experiment — jednou jsem si vygenerovaný text pečlivě přečetl/a a opravil/a všechno, co mi připadalo špatně. Později jsem se k již opravenému textu vrátil/a a začal/a jsem ho přepisovat. A to, jak drastické logické chyby jsem v něm při prvním průchodu nechal/a, mě docela šokovalo. Od té doby vygenerované texty zásadně přepisuji.
b. Přepisováním se dílo učíte. Je to stejný důvod, jako proč si ve škole žáci zapisovali (nebo ještě pořád zapisují, nemám přehled) poznámky do sešitů. I vědecké výzkumy ukázaly, že když studenti esej „vygenerují“ a odevzdají, bez ohledu na to, kolik úsilí věnovali zadání a jak pečlivě si ji přečetli, pamatují si její obsah hůř, než kdyby ji sami napsali/přepsali. Pokud dílo nepřepíšete, zapomenete ho rychleji a budete k němu mít slabší vztah (což vás znevýhodní vůči „čistě lidským“ literárním tvůrcům).
Připouštím, že pokud máte s editováním textů roky zkušeností a chyby a nedostatky v cizím textu spatříte bez jakékoliv námahy, může vám stačit text přečíst. Ale všichni, kdo takové roky zkušeností nemají, by měli text přepsat.
7) Berte na vědomí, že jazykový model nemá lidskou životní zkušenost a lidské pocity necítí, ale pouze analyticky napodobuje (což je někdy nedostatečné). Pokud chcete, aby se něco z toho v díle objevilo, musíte to vyjádřit ve svém zadání, aby z toho model mohl čerpat. Zda to však chcete, záleží na vás. — V běžné literární tvorbě se často do díla promítá vaše životní zkušenost, vaše pocity, vkus apod. a děje se to celkem samovolně, takže nad tím nemusíte přemýšlet. Při generování literárního textu se to samovolně neděje; pokud chcete, aby se to dělo také, musíte se o to snažit (a kontrolovat výsledek).
- - -
Rád/a bych do kodexu uvedl/a i bod „Buďte otevření a upřímní ke čtenářům ohledně toho, jakou část tvorby jste udělali sami a jakou pomocí umělé inteligence,“ ale v současné situaci, kdy se tento způsob tvorby stává cílem negativních předsudků (v důsledku neznalosti či povrchní negativní zkušenosti), nespravedlnosti a odsudků, ba přímo hanění, nemohu odsoudit ty, kdo svoje použití generativní umělé inteligence skrývají proto, aby se jim a jejich dílům dostalo spravedlivého zacházení a rovných příležitostí. (I když na druhou stranu zase musím přiznat, že srovnávat částečně generovanou tvorbu s čistě lidskou, je v některých kontextech nespravedlivé opačným směrem a takoví tvůrci pak dostávají víc uznání, než si zaslouží.)
Navíc i objevující se způsoby označování děl s generovaným obsahem mají zásadní nedostatky — když třeba u hudebního videoklipu vidím značku „AI“, ale jak mám vědět, co to znamená? Je generované video, zatímco hudba je lidská, nebo je video lidské a hudba generovaná? Co když je hudba generovaná a text písně lidský, nebo naopak lidská hudba složená k vygenerovanému textu? Nebo u videa, kde někdo předčítá knihu, která je vygenerovanou slátaninou — mělo by být označené jako „AI“, když člověk předčítá generovaný text? A co když hlasový syntetizátor předčítá text napsaný výhradně člověkem? Co generovaná cover verze lidské písně, nebo naopak lidská cover verze původně generované písně?
Tohle označování jednoduchou značkou „AI“ mi prostě nedává žádný smysl, funguje asi jako označování Židů za druhé světové války židovskou hvězdou. Aby to označování smysl dávalo, muselo by být asi tak podrobné jako titulky u filmů.
A ani uvedení rozsahu lidských úprav nefunguje bezchybně; když je v textu jedna lidská úprava, neříká to, zda je to proto, že ho člověk kontroloval ledabyle a opravil v něm jen jednu chybu, nebo zda ho člověk kontroloval velice pečlivě, ale výstup modelu byl prostě tak dobrý, že v něm člověk už žádnou další chybu nenašel.
Takže myslím, že nezbývá, než se snažit a doufat, že budoucnost nebude taková katastrofa, jak se zdá.
(Mimochodem, označení „ej áj“ pochází od Václava Budinského z jeho knihy „Hovory s Ej Áj : zajímavosti o ní a od ní“.)
Ještě nikdo nekomentoval.
Pokud chcete vložit komentář, musíte se přihlásit.