La începutul acestui an, scriitorul Steven Rosenbaum a primit un apel telefonic care i-a dat viaţa peste cap. Cartea la care lucrase şi pe care o documentase timp de trei ani conţinea, i s-a spus, citate fabricate de instrumente de inteligenţă artificială, scrie Financial Times.
„Când am aflat că există inexactităţi factuale în The Future of Truth, prima mea reacţie a fost: e imposibil”, povesteşte Rosenbaum pentru FT, la două luni după descoperire. „Trecuse printr-un proces editorial clasic, cu mai multe runde de editare şi verificare”.
Rosenbaum fusese transparent în privinţa folosirii instrumentelor AI în cartea sa de nonficţiune – în mod ironic, un studiu despre viitorul adevărului şi al tehnologiei –, dar le utilizase doar pentru a documenta şi organiza materialul, inclusiv pentru a rezuma documente-sursă şi interviuri.
„Ceea ce nu am reuşit să sesizez este că, în unele cazuri, tehnologia transforma acele rezumate în ceea ce părea a fi citate directe”, spune el. „Pericolul nu este că AI scrie proză proastă. Pericolul este că scrie o proză convingătoare, ataşată unor fapte care nu au existat niciodată”.
Dezvoltarea rapidă a inteligenţei artificiale schimbă modul în care industria editorială, de 140 de miliarde de dolari, comandă, editează şi distribuie cărţi.
Utilizarea neautorizată a materialelor protejate de drepturi de autor de către companiile AI a devenit, de asemenea, o preocupare majoră.
Săptămâna trecută, Anthropic a acceptat o înţelegere de 1,5 miliarde de dolari cu autori şi edituri, după ce folosise peste 480.000 de lucrări publicate pentru a-şi antrena modelele lingvistice de mari dimensiuni, fără plată şi fără permisiune.
Însă industria editorială este îngrijorată şi de utilizarea acestei tehnologii chiar în procesul de creaţie literară şi de ameninţarea că AI ar putea înlocui autorii umani – într-un domeniu care funcţionează în moduri similare de decenii, dacă nu chiar de secole.
Lumea cărţilor este profund divizată în privinţa modului de a gestiona o tehnologie de care unele edituri şi unii autori jură că nu se vor atinge, dar pe care alţii o văd ca pe o oportunitate uriaşă, care schimbă deja obiceiurile de lectură şi de ascultare.
„În fiecare săptămână vedem câte o carte despre care bănuim că implică AI”, spune un director editorial cu experienţă. „Zona gri dintre scrisul generic şi scrisul făcut de AI este greu de evaluat. Nu ştim cât publicăm fără să ne dăm seama”.
Şi agenţii literari spun că sunt inundaţi de proză generată de AI. „O vedem la oamenii care ne trimit cărţi spre publicare”, spune Christy Fletcher, şef-adjunct la UTA Publishing, care reprezintă autori precum Daniel Mason, Eric Ries şi Maggie O'Farrell. „E cât se poate de evident. Acum trebuie să te antrenezi să te întrebi: sună asta de parcă ar fi fost scrisă de (chatbotul Anthropic) Claude?”
În martie, editura franceză Hachette a fost nevoită să retragă de pe rafturi Shy Girl, un roman horror semnat de Mia Ballard, în Marea Britanie, şi să anuleze lansarea din SUA, în urma acuzaţiilor că ar fi fost scris parţial de AI. Ballard a negat acuzaţia.
Romanul îşi câştigase o comunitate de cititori ca volum autopublicat, înainte de a fi preluat de Hachette. „Tuturor le-a plăcut”, spune un director editorial. „După Shy Girl, fiecare editor e neliniştit”.
Chiar şi acum, cartea lui Ballard are o medie de peste trei stele pe Goodreads, un site de recenzii de carte. Un autor, vorbind sub protecţia anonimatului, exprimă temerea supremă a industriei: „De ceea ce se teme toată lumea cu adevărat este că publicului s-ar putea să nu-i pese”.
„Halucinaţiile nu sunt greşeli de tastare”
Directori de la alte edituri spun că e doar o chestiune de timp până când vor fi loviţi de un scandal de tip Rosenbaum sau Ballard şi se grăbesc să încerce să stabilească reguli pe măsură ce tehnologia avansează.
„AI s-a strecurat în absolut fiecare colţişor al software-ului”, spune Madeline McIntosh, co-fondatoare şi director executiv al editurii independente Authors Equity şi fostă şefă pentru SUA a Penguin Random House.
„Dacă nu cumva spui «ai voie să foloseşti doar pixul şi hârtia», realitatea este că te atingi de AI – iar AI se atinge de munca ta”, adaugă ea.
Îndrumările actuale ale editurilor către autori sugerează, în linii mari, că AI poate fi folosit pentru a sprijini procesul creativ – documentare, verificarea faptelor şi uneori chiar editare şi rafinare –, dar nu pentru a genera efectiv textul.
Însă măsura în care AI poate ajuta la scrierea unei cărţi variază în funcţie de editură, de editor şi de agent. „Există foarte, foarte multe nuanţe de gri în acest moment”, spune McIntosh.
Fletcher descrie o „sciziune”, mai ales între ficţiune, unde există „mai multă dogmă” în privinţa folosirii AI, şi nonficţiune, unde valoarea lui pentru documentare este adesea preţuită.
„Ce nivel de utilizare a AI este acceptabil?”, se întreabă un alt director din domeniu. „Ce înseamnă documentarea? Ce înseamnă «scris cu AI»? Ce procent trebuie să fie scris astfel, dacă e cazul? E o pantă alunecoasă”.
Şi în rândul autorilor există păreri divergente.
„Avem 12.500 de membri şi fiecare dintre ei va avea linii roşii uşor diferite”, spune Anna Ganley, director executiv al Society of Authors din Marea Britanie.
Editurile introduc acum clauze privind AI în contracte. Pan Macmillan afirmă că, în contractele sale standard, autorii trebuie să garanteze că lucrarea le aparţine în întregime, că este originală şi scrisă de un om, ceea ce asigură totodată protecţia drepturilor de autor.
„Dacă un autor sau un ilustrator vrea să experimenteze cu noile instrumente AI, suntem cât se poate de deschişi la o discuţie despre cum să facă asta în mod responsabil”, spune un purtător de cuvânt al editurii.
Asta ar putea include folosirea AI pentru a sprijini documentarea, a verifica faptele, a corecta gramatica, a şlefui textul, a rezuma materialul-sursă sau a accelera procesul de scriere. Dar „judecata, vocea şi responsabilitatea intelectuală” ale autorului „trebuie să rămână în centrul cărţii”. Editura le-a oferit editorilor săi îndrumări despre cum să detecteze o posibilă folosire a AI şi, până acum, nicio carte nu a picat testele.
Şi Bloomsbury interzice folosirea AI generativ în publicaţiile sale, deşi politica sa pentru autori spune că AI „poate oferi soluţii utile în anumite contexte, mai ales atunci când este folosit pentru a sprijini, nu pentru a înlocui, creativitatea umană”.
Alţii adoptă o abordare mai intransigentă. Microcosm Publishing, o editură şi un distribuitor independent din Portland, spune că politica sa privind AI este „nu, mulţumim... nici măcar corecturilor de ortografie şi gramatică. Nici nivelul de lizibilitate. Nici continuitatea şi nici verificarea faptelor. Nici adăugarea de citări. Aplicaţiile astea vor face mult mai mult decât le ceri”.
Rosenbaum este dureros de conştient de acest risc al extinderii treptate a rolului AI.
„Halucinaţiile nu sunt greşeli de tastare”, spune el despre percepţia de către un model lingvistic a unui tipar sau obiect care nu există în realitate. „Sunt invenţii care sună autoritar. Aceasta este o provocare editorială cu totul diferită... care lasă autorii şi editurile să poarte responsabilitatea depistării halucinaţiilor după ce s-au produs”.
Bucla fără ieşire a AI
Mulţi din industrie cred că pot detecta scrisul făcut de AI. Însă directorii recunosc că, printr-o editare atentă, un scriitor cu experienţă ar putea totuşi să prezinte proza AI drept a sa.
Stilul slab, în sine, nu este suficient pentru a identifica folosirea AI. „Multe cărţi sunt prost scrise”, ridică din umeri un director, adăugând că micile imperfecţiuni involuntare şi încălcarea deliberată, creativă, a regulilor sunt cele care pot face oamenii să simtă umanitatea din spatele textului.
Unii se tem chiar de o buclă fără ieşire pentru generaţiile viitoare, în care cititorii mai tineri se obişnuiesc atât de mult să citească text generat de AI, cu toate cusururile lui, încât încep să scrie şi ei în acel stil.
Editurile au recurs la tehnologii de detectare a AI, dar în general sunt nemulţumite de rezultate.
„Am încercat instrumente de testare a AI, dar nu le folosim mereu. Ameninţarea e considerată suficientă deocamdată, iar ele nu sunt prea bune”, spune directorul executiv al unei edituri.
Authors Guild din SUA a avertizat că ar constitui o încălcare majoră a contractului anularea unui contract sau retragerea unei cărţi de la vânzare doar pe baza unor acuzaţii ori a folosirii instrumentelor de detectare.
Având în vedere dificultăţile de a defini reguli şi de a le aplica, precum şi riscul de erori, McIntosh de la Authors Equity spune că transparenţa a devenit esenţială în discuţiile pe care le poartă acum cu autorii.
„În contractul nostru, atât noi, cât şi autorul trebuie să ne dezvăluim reciproc cum am folosit AI”, spune ea. „Dacă un autor a folosit AI pentru a-şi sprijini documentarea la o carte de nonficţiune, e în regulă. Dar vreau să ştiu că a făcut-o, pentru că asta înseamnă că trebuie acum, împreună, să aplicăm un nou strat de documentare umană ca să ne asigurăm că faptele sunt cu adevărat adevărate”.
Fletcher, de la UTA, spune că autorii pe care îi reprezintă vor adesea garanţii cu privire la modul în care AI este folosit de edituri, în special că „editarea nu se face cu AI, designul copertei nu se face cu AI”.
Ea adaugă: „Ţin cu adevărat ca... munca lor să nu fie predată unui software”.
Pan Macmillan spune că editorii pot folosi instrumente AI securizate pentru a rezuma rapid un manuscris lung, a lista detalii despre personaje sau a extrage citate puternice care să ajute la promovarea unei cărţi. Nu îl pot folosi însă pentru editare sau pentru a decide ce acceptă şi ce resping.
Multe edituri consideră AI util şi în activităţile de vânzări şi marketing, precum actualizarea automată a metadatelor, astfel încât cărţile să apară mai vizibil online, precum şi în procesele de tipărire şi depozitare.
Bonnier Books a organizat mese rotunde cu autori şi agenţi pe tema AI, în încercarea de a găsi soluţii comune.
„Singura cale de a trece prin ceea ce poate fi cea mai mare tranziţie pe care a văzut-o industria în vremurile moderne sunt discuţiile deschise”, spune Sarah Posner, manager de inovaţie editorială la filiala britanică a Bonnier. ”Trebuie să lucrăm împreună”.
Chatboţi versus cărţi
Provocările ridicate de AI depăşesc chestiunea despre cine sau ce a scris o carte. Tehnologia începe, de asemenea, să schimbe ce cumpără cititorii şi cum funcţionează editurile.
Vânzările de cărţi de nonficţiune mai practice, din domenii precum dezvoltarea personală, gastronomia, biografia şi finanţele, sunt afectate pe măsură ce tot mai mulţi oameni apelează la chatboţi pentru sfaturi practice.
Vânzările de nonficţiune au scăzut cu 6% anul trecut doar în Marea Britanie, potrivit datelor Nielsen. Deşi acest lucru ţine de o serie de factori, inclusiv de popularitatea podcasturilor şi a clipurilor de pe YouTube care abordează subiecte similare, editurile cred că există o corelaţie directă cu ascensiunea chatboţilor.
„Oamenii vor voi pur şi simplu să extragă esenţa unei cărţi de succes”, spune un director cu experienţă. „Îi vor cere lui ChatGPT «spune-mi tot ce trebuie să ştiu despre (guru al ordinii în casă) Marie Kondo»”.
Un alt director spune că anumite genuri de nonficţiune, precum istoria şi true crime, înclină spre cititorii bărbaţi, „iar bărbaţii adoră şi ei ChatGPT”.
Rezultatul, potrivit directorilor din industrie, este o nevoie şi mai mare de autori precum Patrick Radden Keefe, al cărui stil de jurnalism de investigaţie accesibil s-a dovedit un succes atât la critici, cât şi la cititori.
„Acolo unde vedem forţă sunt oamenii cu voci puternice, singulare, iar cititorii aceia se identifică cu acele individualităţi”, spune Fletcher, agenta.
Autorii pot vedea şi cum folosirea AI începe să afecteze categoriile de ficţiune. Nilanjana Roy, editorialistă la FT Weekend şi autoare a volumelor The Wildings şi The Hundred Names of Darkness, spune că este „inutil să încerci să ţii literatura AI la distanţă”, adăugând că o „generaţie mai tânără va experimenta”, iar scriitori consacraţi precum Vauhini Vara şi Rie Kudan „s-au jucat deja cu AI/modelele lingvistice pentru a genera texte destul de fascinante”.
Ea sugerează însă că, pe măsură ce volume mari de texte create cu ajutorul AI ameninţă să copleşească agenţii, editorii şi editurile, „apare perspectiva ironică, dar şi savuroasă, a unui asistent AI care trece prin manuscrise AI”.
Influenţa AI este cel mai vizibilă pe piaţa autopublicării, care traversează un boom pe care multe edituri îl leagă de folosirea unor instrumente ce fac scrierea unei cărţi mult mai uşoară.
Numărul cărţilor noi cu cod ISBN din SUA a crescut cu o treime anul trecut, depăşind 4 milioane, peste patru cincimi dintre acestea fiind autopublicate. Mulţi astfel de autori pot folosi instrumente AI pentru a genera câte o carte pe zi, fără să-şi folosească aproape deloc propria creativitate.
Kindle Direct Publishing de la Amazon, cea mai mare platformă de autopublicare, le cere autorilor să declare singuri conţinutul generat de AI, dar aceştia nu sunt obligaţi să declare conţinutul realizat cu asistenţa AI.
Amazon declară pentru FT că „îşi îmbunătăţeşte în continuare protecţiile împotriva conţinutului neconform”, indicând reguli precum limitarea numărului de titluri pe care autorii le pot crea la 10 cărţi per format în fiecare săptămână. Compania ia „măsuri proactive şi reactive pentru a preveni, detecta şi elimina conţinutul care încalcă... regulile, fie că este generat de AI sau nu”.
Vocile sintetice create de AI pot fi folosite şi pentru a produce naraţiuni aproape instantanee ale cărţilor pentru platformele de social media, eliminând nevoia de a cumpăra şi descărca o carte audio oficială, potrivit unui director de top, care spune că instrumentele de voce sintetică sunt acum atât de bune încât pot copia vocile unor autori consacraţi – cei cărora li s-ar cere de obicei să-şi narreze ei înşişi romanele pentru variantele audio.
„Scris de om”
Neliniştea privind impactul AI asupra industriei editoriale nu este universală. Unii directori din domeniu cred că, după un val iniţial de conţinut de proastă calitate generat de AI, va creşte cererea de scriitură umană de calitate.
„Cărţile nu dispar nicăieri”, spune Posner, de la Bonnier Books. „Ba chiar văd cum oamenii caută tot mai mult experienţe umane autentice”.
Industria a supravieţuit mai multor alte perturbări, de la autopublicare la cărţile electronice, considerate ameninţări existenţiale atunci când au apărut. Tom Weldon, director executiv al Penguin Random House UK, parte a celui mai mare grup editorial de limbă engleză din lume, spune că volumele tipărite s-au „dovedit remarcabil de rezistente la fiecare schimbare tehnologică, pentru că oferă ceva unic”.
„AI poate fi puternic în a sprijini creatorii în multe feluri, dar nu ar trebui niciodată să înlocuiască imaginaţia, judecata şi experienţa de viaţă a unui autor”, adaugă el.
Există însă acum o presiune tot mai mare asupra editurilor de a găsi ceea ce McIntosh de la Authors Equity numeşte „lucrarea care este excepţională, nu cel mai mic numitor comun... pentru că ceea ce AI face foarte, foarte bine este cel mai mic numitor comun”.
Ea se referă la „amprentele umanităţii” care fac o carte să iasă în evidenţă – un concept aplicat practic de editurile din Marea Britanie şi SUA în eforturile de a eticheta clar conţinutul drept uman sau realizat cu asistenţa AI.
Ganley, de la Society of Authors, spune că transparenţa „este esenţială, pentru că, fie că e literatură organică, literatură realizată cu asistenţa AI sau literatură generată de AI, credem că ar trebui să existe o etichetare clară şi din capul locului, astfel încât consumatorul să poată decide ce vrea să cumpere”.
Atât SoA, cât şi Authors Guild din SUA au lansat scheme de certificare care pot fi folosite pentru lucrările umane, pentru a le distinge de cărţile generate de AI.
Autorii îşi pot înregistra cărţile pentru a folosi pe coperta a patra un logo „Scris de om”, care semnalează doar intervenţii minime ale AI asupra textului, precum verificări de ortografie şi gramatică.
Dar cartea cu soartă nefericită a lui Rosenbaum purta tocmai un asemenea însemn. El spune că lucrează acum cu un verificator de fapte pentru a revizui manuscrisul cuvânt cu cuvânt înainte de a publica o nouă versiune.
El remarcă faptul că experienţa sa l-a convins pe deplin de necesitatea unor noi „măsuri editoriale de siguranţă pentru o lume în care AI face parte din fluxul de lucru editorial”. Adaugă însă că „nu renunţă la AI”.
