Elizabeth Wolkovich si na svých odborných textech vždy zakládala. Chtěla umět dobře psát a v psaní se neustále zlepšovat. Přečetla proto celou řadu knih o psaní a postupně si začala stále víc a víc uvědomovat, jak pomalý, náročný a mnohdy bolestivý proces to pro ni je, což bylo dáno i tím, jak zodpovědně k němu přistupovala. Před první pracovní verzí vždy připravila několik konceptů a po nich teprve následovalo psaní a následně spousta revizí a přepracování. Tuto strategii také vždy doporučovala svým studentům, i když věděla, že není jednoduchá, ale považovala za důležité, aby se vědci, mezi které sama patřila, snažili své přístupy dostatečně komunikovat.
Pak se ale stalo něco, co ji překvapilo. Byla obviněna z vědeckého podvodu. Její editoři a recenzenti ji v posudku její práce nařkli, že při psaní podváděla. Tvrdili, že danou práci nepsala ona: „Váš písemný projev je neobvyklý. Je očividné, že jde o ChatGPT.“ Toto obvinění znamenalo pro Elizabeth doslova šok. V přívalu emocí se k překvapení postupně přidalo zděšení, zmatek a obavy.
„Vzhledem k tomu, kolik úsilí jsem do psaní vložila, být obviněna z toho, že jde o chatbota, a zvlášť bez jakéhokoliv důkazu, byla pro mě rána,“ nechala se slyšet.
Ve skutečnosti ani jediné slovo v jejím rukopisu nebylo vygenerováno pomocí ChatGPT.
Elizabeth rychle zabrainstormovala, aby zjistila, jak by to mohla dokázat. Své texty píše v systému LaTeX a soubory a změny v nich zaznamenává pomocí verzovacího a kontrolního systému v GITu, takže v GitHubu může doložit všechny změny, které byly v textu provedeny, včetně závěrečné editace. Důkazy, které by si nikdy nepomyslela, že bude muset sdílet.
Také se pokusila porovnat psaný styl svých dřívějších článků s tím, který odevzdala a který údajně vytvořil ChatGPT.
Napadlo ji, jestli by se neměla zeptat právě ChatGPT, jestli si nemyslí, že napsal její text. Pak si ale uvědomila, že strávit spoustu času dokazováním, že její text nepsal chatbot, by bylo hodně špatným řešením celé situace. Prvotní rozčarování naráz vystřídal vztek. Jak si tohle vůbec mohou editoři dovolit, pomyslela si.
Nakonec se rozhodla požádat o názor odborníky, kteří se zabývají oblastí datových podvodů, a také spoluautory dané práce a ostatní kolegy. Většina z nich měla stejné obavy jako ona. Jeden z nich to vyjádřil výstižně: „Veškerá vědecká kritika je přijatelná, tohle je ale odlišná záležitost.“
Celou záležitost sama shrnuje takto:
„Lidé se obávají, že umělá inteligence získá kontrolu nad lidstvem, obávají se jejího potenciálu zrychlit šíření dezinformací a také toho, jak by mohla napomoci udržování nebezpečných předsudků a nerovností. Někteří se snaží vytvořit opatření, která by tomu předcházela. Avšak současně usilují o vytvoření umělé inteligence, která pomáhá tam, kde je třeba, a možná to bude zahrnovat i pomoc při psaní. Nicméně, jak ukazuje má zkušenost, ChatGPT celý tento proces zcela pokazil jednoduše svou existencí na tomto světě. Byla jsem rozčilená, že mě někdo považoval za chatbota a šokována lhostejností recenzentů a editorů k představě, že někdo odevzdá generovaný AI text.
Tolik vědních oborů je založeno na důvěře a víře v etiku a morální zásadovost našich kolegů. Povětšinou věříme, že druzí svá data nezfalšují, a já věřím, že lidé nepíšou (zatím) své práce nebo granty pomocí rozsáhlých jazykových modelů bez toho, aniž by to uvedli. Nemohu obviňovat nikoho z falšování dat bez důkazů, ale daní recenzenti zjevně necítili takové obavy, když mě obvinili. A navíc si mysleli, že dokážou rozeznat můj styl psaní od stylu generativní umělé inteligence, ale evidentně nedokážou.“
[1]
Příběh Elizabeth Wolkovich je příkladnou ukázkou toho, jak je celá problematika kolem generativní umělé inteligence složitá. Že k tomu, abyste mohli někoho obvinit z AI plagiátorství, vám nepostačí pouze vaše podezření. Dokonce ani důkaz v podobě vysokého procenta pravděpodobnosti z generátoru AI plagiátorství, kterým jste konkrétní text prozkoumali, vám nedává 100% jistotu.
Tento příběh znovu ukazuje, že nejen v případě AI, ale jakékoliv jiné technologie, není na vině technologie samotná (jak píše Elizabeth výše), v našem případě ChatGPT, ale lidé. Nejen ti, kteří ji vyvíjí, ale i ti, kteří ji používají a myslí si, že ji ovládají, a ke všemu jsou přesvědčeni o tom, že ji rozumí, a mají proto právo vydávat různé soudy či obvinění.
Zkusme celou situaci s výše uvedeným obviněním přenést do kontextu našich škol. Místo Elizabeth si na chvíli představme naše žáky. Asi nechceme, aby museli zažívat to, co ona. Proto, až budeme přemýšlet nad jejich využíváním generativní AI, měli bychom si položit minimálně následujících deset otázek.
Nejen ve škole totiž primárně vůbec nejde o odhalování AI plagiátorství, ale o něco úplně jiného. O vybudování prostředí postaveném na důvěře, zodpovědnosti a víře v naše žáky a v nás, že jsme společně schopni takovéto prostředí vytvořit. A pak už ani AI plagiátorství nebudeme muset řešit.
Všechny články jsou publikovány pod licencí Creative Commons BY-NC-ND.
Článek nebyl prozatím komentován.
Pro vložení komentáře je nutné se nejprve přihlásit.
Tento článek je zařazen do seriálu Umělá inteligence.
Ostatní články seriálu:
