Domů > Spomocník > Základní vzdělávání > To nepsal ChatGPT, ale já. A proč vám to mám dokazovat?
Odborný článek

To nepsal ChatGPT, ale já. A proč vám to mám dokazovat?

14. 2. 2024 Základní vzdělávání Spomocník
Autor
Jaroslav Mašek
Tento článek je součastí seriálu: Umělá inteligence

Anotace

Co se stane, když vás někdo křivě obviní z AI plagiátorství? Příběh Elizabeth Wolkovich odkrývá komplexní problematiku generativní AI a je lekcí a zamyšlením nejen pro učitele.

Elizabeth Wolkovich si na svých odborných textech vždy zakládala. Chtěla umět dobře psát a v psaní se neustále zlepšovat. Přečetla proto celou řadu knih o psaní a postupně si začala stále víc a víc uvědomovat, jak pomalý, náročný a mnohdy bolestivý proces to pro ni je, což bylo dáno i tím, jak zodpovědně k němu přistupovala. Před první pracovní verzí vždy připravila několik konceptů a po nich teprve následovalo psaní a následně spousta revizí a přepracování. Tuto strategii také vždy doporučovala svým studentům, i když věděla, že není jednoduchá, ale považovala za důležité, aby se vědci, mezi které sama patřila, snažili své přístupy dostatečně komunikovat.

Pak se ale stalo něco, co ji překvapilo. Byla obviněna z vědeckého podvodu. Její editoři a recenzenti ji v posudku její práce nařkli, že při psaní podváděla. Tvrdili, že danou práci nepsala ona: „Váš písemný projev je neobvyklý. Je očividné, že jde o ChatGPT.“ Toto obvinění znamenalo pro Elizabeth doslova šok. V přívalu emocí se k překvapení postupně přidalo zděšení, zmatek a obavy.

„Vzhledem k tomu, kolik úsilí jsem do psaní vložila, být obviněna z toho, že jde o chatbota, a zvlášť bez jakéhokoliv důkazu, byla pro mě rána,“ nechala se slyšet.

Ve skutečnosti ani jediné slovo v jejím rukopisu nebylo vygenerováno pomocí ChatGPT.

Snaha dokázat, že text není od ChatGPT

Elizabeth rychle zabrainstormovala, aby zjistila, jak by to mohla dokázat. Své texty píše v systému LaTeX a soubory a změny v nich zaznamenává pomocí verzovacího a kontrolního systému v GITu, takže v GitHubu může doložit všechny změny, které byly v textu provedeny, včetně závěrečné editace. Důkazy, které by si nikdy nepomyslela, že bude muset sdílet.

Také se pokusila porovnat psaný styl svých dřívějších článků s tím, který odevzdala a který údajně vytvořil ChatGPT.

Napadlo ji, jestli by se neměla zeptat právě ChatGPT, jestli si nemyslí, že napsal její text. Pak si ale uvědomila, že strávit spoustu času dokazováním, že její text nepsal chatbot, by bylo hodně špatným řešením celé situace. Prvotní rozčarování naráz vystřídal vztek. Jak si tohle vůbec mohou editoři dovolit, pomyslela si.

Nakonec se rozhodla požádat o názor odborníky, kteří se zabývají oblastí datových podvodů, a také spoluautory dané práce a ostatní kolegy. Většina z nich měla stejné obavy jako ona. Jeden z nich to vyjádřil výstižně: „Veškerá vědecká kritika je přijatelná, tohle je ale odlišná záležitost.“

Celou záležitost sama shrnuje takto:

„Lidé se obávají, že umělá inteligence získá kontrolu nad lidstvem, obávají se jejího potenciálu zrychlit šíření dezinformací a také toho, jak by mohla napomoci udržování nebezpečných předsudků a nerovností. Někteří se snaží vytvořit opatření, která by tomu předcházela. Avšak současně usilují o vytvoření umělé inteligence, která pomáhá tam, kde je třeba, a možná to bude zahrnovat i pomoc při psaní. Nicméně, jak ukazuje má zkušenost, ChatGPT celý tento proces zcela pokazil jednoduše svou existencí na tomto světě. Byla jsem rozčilená, že mě někdo považoval za chatbota a šokována lhostejností recenzentů a editorů k představě, že někdo odevzdá generovaný AI text.

Tolik vědních oborů je založeno na důvěře a víře v etiku a morální zásadovost našich kolegů. Povětšinou věříme, že druzí svá data nezfalšují, a já věřím, že lidé nepíšou (zatím) své práce nebo granty pomocí rozsáhlých jazykových modelů bez toho, aniž by to uvedli. Nemohu obviňovat nikoho z falšování dat bez důkazů, ale daní recenzenti zjevně necítili takové obavy, když mě obvinili. A navíc si mysleli, že dokážou rozeznat můj styl psaní od stylu generativní umělé inteligence, ale evidentně nedokážou.“

[1]

Když AI škodí, jsou na vině lidé

Příběh Elizabeth Wolkovich je příkladnou ukázkou toho, jak je celá problematika kolem generativní umělé inteligence složitá. Že k tomu, abyste mohli někoho obvinit z AI plagiátorství, vám nepostačí pouze vaše podezření. Dokonce ani důkaz v podobě vysokého procenta pravděpodobnosti z generátoru AI plagiátorství, kterým jste konkrétní text prozkoumali, vám nedává 100% jistotu.

Tento příběh znovu ukazuje, že nejen v případě AI, ale jakékoliv jiné technologie, není na vině technologie samotná (jak píše Elizabeth výše), v našem případě ChatGPT, ale lidé. Nejen ti, kteří ji vyvíjí, ale i ti, kteří ji používají a myslí si, že ji ovládají, a ke všemu jsou přesvědčeni o tom, že ji rozumí, a mají proto právo vydávat různé soudy či obvinění.

Analogie školy

Zkusme celou situaci s výše uvedeným obviněním přenést do kontextu našich škol. Místo Elizabeth si na chvíli představme naše žáky. Asi nechceme, aby museli zažívat to, co ona. Proto, až budeme přemýšlet nad jejich využíváním generativní AI, měli bychom si položit minimálně následujících deset otázek.

10 otázek pro učitele, které by si v souvislosti s generativní AI měli položit

  1. Jak dobře své žáky známe.
  2. Jaký vztah s nimi máme.
  3. Zda svým žákům věříme a důvěřujeme.
  4. Jakou mají žáci motivaci ne/použít AI chatboty.
  5. Proč žáci v konkrétních situacích ne/použili generativní AI.
  6. Zda nám žáci dokážou za všech okolností přiznat použití AI chatbotů.
  7. Zda dokážeme žáky přimět k 100% transparentnosti při používání generativní AI.
  8. Zda jsme schopni na 100 % odhalit AI plagiátorství a pokud ne, co s tím uděláme.
  9. Jak se budou žáci cítit, když je obviníme z AI plagiátorství, které neprovedli?
  10. Co takové křivé obvinění udělá s naším vztahem a důvěrou?

 

Nejen ve škole totiž primárně vůbec nejde o odhalování AI plagiátorství, ale o něco úplně jiného. O vybudování prostředí postaveném na důvěře, zodpovědnosti a víře v naše žáky a v nás, že jsme společně schopni takovéto prostředí vytvořit. A pak už ani AI plagiátorství nebudeme muset řešit.

 

Literatura a použité zdroje

[1] – WOLKOVICH, Elizabeth M. ‘Obviously ChatGPT’ — how reviewers accused me of scientific fraud. 2024. [cit. 2024-2-11]. Dostupný z WWW: [https://www.nature.com/articles/d41586-024-00349-5].

Licence

Všechny články jsou publikovány pod licencí Creative Commons BY-NC-ND.

Hodnocení od uživatelů

Článek nebyl prozatím komentován.

Váš komentář

Pro vložení komentáře je nutné se nejprve přihlásit.