Ljudi Protiv Mašina: Korišćenje AI U Pisanju

Šta se dešava kada izbije jedan od najvećih skandala u istoriji izdavaštva – a glavni akter ni ne postoji? Nisam sigurna da li ova tema zanima samo mene, jer je u pitanju kršenje nepisanih zakona, ali danas ću se pozabaviti temom korišćenja veštačke inteligencije u procesu pisanja. Naime, 3 stvari su se desile na globalnom nivou koji mogu interesovati i ovu našu balkansku spisateljsku zajednicu a tiču se upotrebe AI-a prilikom pisanja i objavljivanja. I ne, ne kao pomoć pri pisanju, već kao „pisanje“ i izdavanje celih rukopisa. Zvuči pogrešno? Nisam sigurna, ali sigurna sam da jeste – strašno.

Hajd’ da vidimo šta se tačno desilo u skandala 3, od kojih je poslednji verovatno najstrašniji (ali ga nećete razumeti bez razumevanja prva 2).

Skandal 1: Ko je brži u „pisanju“?

Ako ja mogu da „napravim“ knjigu za jedan dan, a piscu treba šest meseci da napiše knjigu, ko će pobediti u ovoj trci? – izjavila je „spisateljica“ Koral Hart za NY Times u skorašnjem intervjuu u kome govori o tome kako koristi AI alate za stvaranje „knjiga“ (o da, koristiću mnogo navodnika u ovom tekstu).

Naime, Koral – što (ofc) nije njeno pravo ime – napravila je 21 različit pseudonim i objavila oko 200 (ljubavnih) romana u roku od 8 meseci i a zatim ih samo-objavila na Amazonu (koji je već godinama preplavljen AI smećem sadržajem). Naravno, njena knjiga je AI generisana, korice su AI generisane, ime je AI generisano… Sve deluje tako lako, zar ne? E sad jbg, nijedna od ovih „knjiga“ nije veliki hit prema NYT-u, ali su se ukupno prodale u oko 50.000 primeraka i doneli Hartovoj (navodno) prihod u visini od šest cifara… A pare su jedino važne, hm?

Da stvari budu još gore, dok je „spisateljica“ davala intervju za NYT preko Zooma, ona je i završila „pisanje“ jedne knjige za tričavih 45 minuta! Prosečan ljudski pisac nema nikakve šanse protiv AI-a, kaže naša draga Koral. Da, dobro ste razumeli: ova autorka implicira da je u pisanju tj. izdavaštvu važna isključivo brzina proizvodnje kao i to da kvantitet nadmašuje kvalitet. A da li je zaista tako? I da li je pobednik uvek onaj koji može više, jače, brže i koji naravno, najviše zarađuje?

Da sve bude još bizarnije, Hartova je pokrenula i biznis u kome podučava druge „autore“ kako da proizvode romane uz pomoć tehnologije. Njen mentorski program u kome tvrdi da je obučila više od 1.600 ljudi, većinu lekcija posvećuje tome kako zaobići zaštitne mehanizme različitih četbotova, koji su podešeni da izbegavaju pisanje previše eksplicitnog sadržaja. Naime, zanimljiv podatak je i da su ljubavni romani najviše su na udaru AI-a, mada ako razmislite – uvek je bilo ljubavnih vikend romana, nikad istorijskih ili trilera, pa je nemoguće proceniti koliko se ljubića proizvede upravo na ovaj način.

Mislim da je sad dobro vreme da se zapitamo da li se pisanje knjiga svelo na ubacivanje ideje aka prompta u program? I da li je ovo budućnost književnosti? Da ne biste morali da uzimate nešto za smirenje jer ovaj moj tekst tek počinje da se zahuhtava, pozabaviću se piraterijom pre nego što pređem na skandal br 2.

Ozbiljna piraterija i neozbiljno pisanje

Da odahnete, evo sledi jedna dosadna definicija koju moram da napišem jer je važna za ono što sledi. Pretpostaviću da svi znate da je veštačka inteligencija (AI) skup tehnologija koje omogućavaju računarima da uče, rasuđuju i obavljaju razne zadatke koji su nekad zahtevali ljudsku inteligenciju, kao što su razumevanje jezika, analiza podataka, ali i pružanje korisnih predloga. (čujem kako zevate, sve je okej, sad opet kreće nešto zanimljivo).

Ono gde nailazimo na problem jeste da su velike AI kompanije koristile skupove podataka koji sadrže milione knjiga zaštićenih autorskim pravima, uključujući i piratske kopije, za treniranje velikih jezičkih modela (LLM-ova). Istrage su otkrile da su kompanije poput Mete i Anthropic-a pristupale piratizovanom materijalu, a ovo i javno priznale i suđenje im sledi.

Konkretno, Koral Hart je pisala uz pomoć Claude by Anthropic (poslednji Claude Model) koji je koristio piraterizovane baze podataka. Dakle – AI četbotovi koriste velike repozitorijume piratskih knjiga u svojim skupovima podataka. To znači da su te knjige postavljene na internet bez znanja ili pristanka autora, u celosti i besplatno. Jedan od poznatih skupova podataka zove se Books3 i sadrži približno između 150.000 i 200.000 piratskih knjiga a koristio ga je – pogađate – upravo Anthropic!

Zašto je ovo problem, jer svi smo mi gledali ne baš legalno skinuti filmčić ili čitali piraterizovanu knjigu? Prvi problem je u tome što (ljudski) autori nisu dali dozvolu za korišćenje svojih knjiga u ovakvim bazama podataka – i nemaju nikakvu kontrolu nad sadržajem koji trenira mašine. Ali još veći problem nastaje u tome što AI alat bukvalno kopira rečenice drugih autora. Ukoliko je npr. Šekspir rekao Romeo, o Romeo, zašto si ti Romeo?, AI će u napisanoj knjizi reći Rastko, o Rastko, zašto si ti Rastko? Ili ako Tolstoj kaže Sve srećne porodice liče jedna na drugu, svaka nesrećna porodica nesrećna je na svoj način. AI će napisati rečenicu poput: Sve srećne devojke liče jedna na drugu, svaka nesrećna devojka nesrećna je na svoj način. Zatim će neki (neuki) „autori“ koristeći AI ostaviti ovakve rečenice u svom „delu“ i tvrditi da su njihove.

Ne znam koliko vam treba da svarite ovakve informacije, ali biću nemilosrdna i preći na dalje skandale.

Skandal 2: Ups, ostao mi prompt u knjizi!

Autorka fantastike Lena Makdonald izazvala je skandal 2025. ostavljajući upite generisane veštačkom inteligencijom u svojoj knjizi „Darkhollow Academy: Year 2“, uključujući zahtev za imitiranje stila druge autorke. Incident je izazvao – logično – negativne reakcije, gde se najviše isticala etička zabrinutost u vezi sa veštačkom inteligencijom u izdavaštvu, iako je autorka tvrdila da je AI koristila za puko uređivanje knjige.

I dok nekima možda nešto znači što se naša Lena izvinjavala za ovakav propust – uz moje pitanje da li propust što je ostavila prompt ili što je koristila AI – činjenica jeste da većina autora nikada ne otkriva da koriste četbotove (pretpostavljam iz straha da ne izgube čitaoce). U jednoj anketi gde je učestvovalo više od 1.200 autora, čak 74% ne priznaje da je koristilo AI! Ne znamo koliki deo ovih autora koristi AI da napiše deo ili celu knjigu, ali se postavlja pitanje da li i kako treba otkrivati upotrebu AI-a čitaocima i kako će se to regulisati ubuduće? Naravno, većina autora koji otvoreno koriste AI, napominju da ovo itekako utiče na prodaju knjiga i da, ako pisac sakrije da da u njegovom delu postoji AI., kniga će se sasvim pristojno prodavati. Opet, lova? Ili je samo ovako „lakše“?

Ali ne, nemojte da crvenite ako ste nekad koristili AI pri pisanju, jer niste jedini. Gotovo 50% autora priznaje da koristi AI da im pomogne u radu. Spomenuta anketa je takođe pitala autore koliko često koriste generativni AI da im pomogne, a više od 25% onih koji koriste AI prijavilo je da ga koristi često, dok ostali kažu da ga koriste povremeno (tj. nije retko). Znači, niste jedini „varali“, ali hajde da vidimo na koji način treba da ga koristite.

Dakle, ukoliko jeste otvoreni za korišćenje AI u nekoj meri, gde postavljate granicu? Da li je moralno koristiti AI za istraživanje, sve dok ChatKO ne piše priču umesto vas? Može li vam veštačka inteligencija pomoći u osmišljavanju zapleta, ako vi zapravo pišete reči, ili je to preuzimanje kreativne funkcije koja bi trebala pripadati ljudskom autoru?

Naravno, debata nastaje oko toga koliko autora koristi AI za upotrebu pri samom pisanju knjige – dakle za traženje od četbota da vam napiše celu scenu ili čak ceo roman, a zatim pomoć traži i za uređivanje ili prihvatanje teksta a to najzad sve objavi pod sopstvenim imenom.

Opet, kako bih probala da spustim tenziju pre nego što pređem na najveći skandal izdavačke industrije u ovom tekstu, pomenuću opet temu koja je retkima zanimljiva, a mene životno opseda intrigira – autorska prava, ovaj put pri korišćenju AI alata.

Ima li mašina autorska prava?!

Prema trenutnom američkom zakonu o autorskim pravima, samo ljudska bića mogu se smatrati „autorima“ kreativnih dela a Američka kancelarija za autorska prava posebno se bavila delima generisanim AI-jem (ne verujem da moram da napominjem da je autor ljudsko biće, but hey).

Šta ovo znači?

Kada AI alat generiše neki sadržaj, da li zaista možemo reći da je autor čovek? Osoba koja koristi AI možda je samo unela nekoliko promptova da generiše tekst ili sliku, dok je stvarni kreativni rad izvršen pomoću softvera veštačke inteligencije. Dakle, ako čovek nije stvarno doprineo kreativnom radu, ne može legalno tvrditi autorstvo.

Sad sleti najzanimljivi deo (možda samo meni) – kancelarija za autorska prava jasno navodi da dela bez kreativnog doprinosa ljudskog autora ne mogu biti zaštićena autorskim pravom. Ovo znači da ako vidite delo Kerol Hart, slobodno možete da ga pripišete sebi i uzmete zaradu, ali isto tako neko može da je otme vama. Dakle pravno gledajući: rad generisan mašinama ne može pripadati pojedincu – znači ako je sve što je autor uradio bilo unošenje prompta u AI, generisani sadržaj ne može biti zaštićen autorskim pravom. Ako ste nekada ulazili u dubiozu autorskih prava kao ja, znate da ideja ne može da se plagira i autorizuje, već samo tvorevina tj autorsko delo.

Ovo naravno neće sprečiti „slikare“ da izlažu i prodaju umetnička dela AI-ja, „muzičare“ da sviraju AI generisanu muziku niti buduće generacije „pisaca“ da pišu na ovaj način. Sve je legitimno, makroi neće prestati da postoje iako neki od nas mislimo da to nije moralno ispravno, a i pitanje je šta je za koga ispravno.

Isto tako, nemojte da paničite ako ste do sad koristili ChatGPT jer pisac može koristiti AI za istraživanje, generisanje ideja, oblikovanje fraza i davanje sugestija, i u tom slučaju delo i dalje može biti zaštićeno autorskim pravom – pod uslovom da je ljudski autor osmislio jedinstvene kreativne elemente. Možemo korišćenje AI uporediti sa „old school“ istraživanjem: ne možete jednostavno kopirati pasuse sa Vikipedije i objaviti članak pod svojim imenom, jer bi to bio plagijat. Međutim, možete koristiti Vikipediju da prikupite informacije, izvore i osnovno razumevanje teme, i da na osnovu toga osmislite ideje za tekst.

Ako želite prema tome da zaštite delo autorskim pravom, vi kao ljudski autor morate sami osmisliti izražajne elemente. Znači, ne možete kopirati i zalepiti tekst, slike ili audio generisane AI-jem i onda ih zaštititi autorskim pravom, a doprinos AI alata mora biti minimalna i ne sme obuhvatati sve originalne elemente dela. Naravno, ovde bih postavila pitanje – u kojoj meri se ovo koristi i kako ćemo to odrediti? Iako sumnjam da će neki opipljiv odgovor uslediti brzo, mislim da nam je sad vreme da vam predstavim i poslednji skandal.

Skandal 3: Najvećna izdavačka kuća na svetu objavila AI knjigu

Hachette Book Group, jedan od 5 najvećih izdavača na svetu, saopštio je da će prestati sa prodajom knjige Shy Girl spisateljice Mie Ballard u Velikoj Britaniji a takođe će biti otkazano izdavanje američkog izdanja – zbog sumnje da je u „delu“ korišćen AI.

Kako se, dođavola, ovo desilo? Kako je najveća izdavačka kuća ovo sebi dozvolila?!

Pa, sve je počelo poprilično bajkovito: Mia je „napisala“ knjigu i samo-objavila je početkom 2025, i knjiga je eksplodirala na BookTalk-u, dobila hiljade recenzija na GoodReads-u, Hachette otkupio prava i – objavio je. Sve je izgledalo kao san: napišeš knjigu, svima se svidi i jedan od Big 5 izdavača (najvećh 5 na svetu) je otkupi i postaneš poznata preko noći! Inače, u svetu vlada – za razliku od naših prostora – veliki trend u izdavaštvu gde velike kuće jure da nađu dijamante među neafirmisanim autorima koji nemaju zaleđe, pogotovo onim koji su dobri za društvene mreže.

Ipak, bio je dovoljan samo jedan Reddit tread da Mii upropasti život a Hachette reputaciju – ali i finansije. Jedan korisnik Readit-a koji je tvrdio da je urednik, napisao je post koji je postao viralan i u kome optužuje Miu da je knjigu generesila ChatGPT-ijem. Kako je on to provalio? Pa, čak i prosečnom poznavaocu AI-ja, njegovo način pisanja je prepoznatljiv: svaka imenica ima pridev, ponavljanja su česta, tu je fragmentacija rečenica a i definitivno najčešće prepoznatljivo oličenje AI pisanja je: ovo nije, A nego je B.

Zatim je usledio video koji traje skoro 3h i koji je do sad prikupio više od 1,5 miliona pregleda. Sigurna sam da niste u životu čuli za Miu a kamoli biste gledali toliko dugačak video, ali u videu I’m pretty sure this book is ai slop, vlogerka Frenkie je Miinu knjigu predstavila kao kukavičije jaje. Dakle, Frenkie jasno stavlja predstavlja auditorijumu kako AI piše i kako ovo ne može biti knjiga koju je napisalo ljudsko biće.

„Autorka“ nije izdržala da ne odbrani svoju čast, i ispod videa je ostavila komentar u kome govori kako nije imala novca da unajmi urednika pa je nekome od svojih beta čitalaca prosledila knjigu koji je u nju uneo izmene. Uz svo dužno poštovanje prema Mii, urednici ne rade tako što potpuno izmene nečiju knjigu već je poenta da se zadrži autentični autorov glas i zamisao, dakle rukopis se ne prepravlja već unose vidljivi predlozi za izmene, koje autor mora da prihvati. Naravno, čak i da rade potpunu izmenu knjige uz nevidljive izmene, čudi me kako Mia to nije primetila nakon revidiranja. Mia je zatim navela da je kao „crna autorka, stalno napadana od strane izadavačke industrije što je iscrpljujuće“ jer sve što ona pokušava da uradi je da piše (ne znam vama, ali meni se oči umoriše od kolutanja).

Svakako, shit had already hit the fan što kažu mladi, jer je nakon toga, Max Spero, osnivač i CEO softvera za detekciju AI-ja pod imenom Pangram, izvršio test ove knjige i otkrio da je 78% rukopisa generisano AI-jem. Ono što je poseban mind fuck u svemu ovome jeste da se za detektovanje AI-ja koristi AI program. Naime, čak i da dela gore pomenutih autora kao što su Šekspir i Tolstoj unesete u ovakav program, on će detektovati donekle korišćenje AI-a – iako to apsolutno nije moguće. Naravno, uprkos tome što Mia ne deluje baš kao nevino jagnješce, moram se zapitati kako će se onda u budućnosti autori zaštiti od optužbi da koriste AI ako to ne rade?

Mala digresija pre nego što nastavim dalje: u tradicionalnoj izdavačkoj industriji u svetu, generativni AI nije prihvatljiv. Većina ugovora sa autorima zahteva da delo koje podnose bude potpuno originalno, pa korišćenjem AI-ja, pisac može prekršiti pravne odredbe naročito imajući u vidu da delo mora imati ljudsko autorstvo da bi bilo zaštićeno autorskim pravom. Osim toga, tradicionalni izdavači ne žele AI knjige i uglavnom se od njih ograđuju, što je dodatni problem za pisce koji hoće da samostalno objave knjigu jer lakše mogu biti optuženi da koriste AI ali i tome pre pribegnu jer nemaju podršku izdavačke kuće. Dobra – ili možda loša – vest je da veliki izdavači ne koriste softver za detekciju AI-ja kod pregleda rukopisa.

Ipak, ne beže svi do AI-ja.

Dobro je poznato da je od izlaska ChatGPT-a, Amazon preplavljen romanima generisanim AI-jem, ali zvanična politika Kindle Direct Publishing (KDP) kaže sledeće: AI-generisani sadržaj nije zabranjen, ali njegova upotreba mora biti jasno naznačena. Ipak, ono što KDP definiše kao „AI-pomoćni sadržaj“ nije tačno definisano. Romani, koji su dostupni na Amazonu i koji to javno priznaju, imaju napomenu na stranici proizvoda: Ova priča je proizvedena korišćenjem AI alata pod vođstvom autora. Naravno, vraćamo se na ono u kojoj meri se AI koristi kao i na logično pitanje: ukoliko korišćenje AI-ja znatno umanjuje prodaju i narušava dobar imidž pisca, ne prolazi kroz rigorozne provere, zašto bi bilo ko zaboga priznao da ga koristi?!

No, da se vratim na priču; Hachette ostaje posvećen zaštiti originalnog kreativnog izraza i pripovedanja, izjavila je za štampu portparolka izdavača nakon skandala. Zatim je napomenula da Hachette zahteva da svi rukopisi budu originalni i da autori otkriju korišćenje AI-ja u procesu pisanja, što implicira da izdavač navodno korišćenje AI-ja ne vidi samo kao narušavanje kreativnih principa, već i kao kršenje ugovora.

E sad, okej, izdavačka kuća je povukla „knjigu“ kad je shvatila šta je „autorka“ uradila – ali kako je ovo moglo da se desi? Kako je profesionalni urednik jedne renomirane izdavačke kuće mogao da ovo previdi? Ko je tačno podmetnuo ovo jaje čitaocima? I ako jeste izdavačka kuća, da li se opet samo postavlja pitanje koliko ćemo od ovoga zaraditi? Pretpostavljam da ne treba popravljati stvari koje rade (aka zarađuju) i da industrija izdavaštva jeste upravo to – biznis industrija.

Iako čitaoci veruju da imaju snažan osnov da tvrde da je ova knjiga AI napisana, ovaj incident postavlja gorka pitanja o tome kako će izdavačka industrija reagovati na brzu, ali prikrivenu, invaziju AI-ja i kako će postaviti načela za njegovo moralno i ispravno korišćenje… ako uopšte bude reagovala. Mogu samo da pretpostavim da će za ovako nešto proći bar par godina pre nego što bude uvedeno u naš balkanski pravni sistem, a mašine će do tad napredovati toliko da nećemo moći da raspoznamo šta je šta. Već i sad je u jednom istraživanju postavljena priča AI-ija nasuprot priče pisca, a publika je trebalo da detektuje ko je šta pisao. Žalostan ishod govori da 50% ljudi nije moglo da zna da li je nešto pisao AI ili ne.

Ima li nade za ljudske pisce koji pišu svojom inteligencijom?

Pa, nade uvek ima 🙂 A znam i da dobra knjiga – koju je napisalo ljudsko biće – uvek nađe put do publike.

Što se tiče objavljivanja knjige: ako planirate tradicionalno izdavanje, posebno fikcije, najbolje je izbegavati upotrebu AI-ja da ne biste imali problema sa ugovorima ili neprijatnih razgovora… Čak i na našim prostorima. Kod samostalnog objavljivanja, preporuka je biti izuzetno oprezan i promišljen u eksperimentisanju sa AI-jem. Autorski savez (Authors Guild) nudi vodič za najbolje prakse kako koristiti generativni AI odgovorno i moralno, uključujući i način otkrivanja njegove upotrebe.

Što se tiče pisanja, s obzirom na popularnost tehnologije, neizbežno je da će i autori koristiti AI u svom procesu pisanja. Pitanje je da li je održivo da izdavači burno reaguju baš svaki put kada se pojave dokazi o upotrebi AI-ja, kao što je slučaj ovde. Da li će AI biti potpuno zabranjen u izdavačkim kućama, ili će autori samo biti podstaknuti da otvoreno priznaju korišćenje ChatGPT-a? Čini mi se da tek počinjemo da se suočavamo sa problemima korišćenja ovakvih alata.

Na sve to, možda vredi spomenuti da obuka modela veštačke inteligencije zahteva ogromne računarske resurse, a potrošnja računarske snage se desetostruko povećala između 2018. i 2022. godine. S obzirom na to da fosilna goriva i dalje obezbeđuju preko 60% ukupne svetske proizvodnje električne energije, rastuća potražnja za veštačkom inteligencijom rizikuje povećanje emisije gasova staklene bašte. Ne znam da li to ima uticaja na vaše razmišljanje, ali moje postavljanje glupih pitanja AI-ju se svakako dramatično smanjilo.

E sad, da li upravo zato što se nalazite na ovim prostorima i pišete našim jezikom lakše možete proći neopaženo ukoliko knjigu umesto vas napiše veštačka inteligencija? Vrlo je verovatno da da, a šanse da vas otkriju su relativno male. Da li onda zato to i treba raditi?

Na vama je da odlučite.

Svakako, jasno je da debata o AI-ju nije ni započeta a pitanje je da li će ikada biti i završena. Potreban je način da se ovakvo korišćenje jasno utvrdi a biće zanimljivo videti hoće li više izdavača uvesti stroge politike oko upotrebe ovakvih alata, posebno u fikciji – i kad će one zaživeti na našim prostorima. Izdavače svakako ne mogu više da ignorišu upotrebu veštačke inteligencije a autorima i publici potrebna je neka doza sigurnosti oko ovih pitanja jer publika ne veruje piscima a pisci izdavačima. Na sve ovo, pitanje kvaliteta ovakvih knjiga nije ni dotaknuto, pa ovo može biti još jedan razlog za brigu u proizvodnji originalnih dela književnosti.

Kako vi – i da li uopšte – razmišljate na ovu temu?