ChatGPT. Studii recente. Riscuri și oportunități

Modelele bazate pe inteligență artificială generativă – în special ChatGPT și versiuni similare – au ajuns rapid să fie utilizate pe scară largă în numeroase domenii: educație, asistență medicală, cercetare, scriere creativă, automatizarea task-urilor. Există multe studii care investighează ce pot face bine și ce limitări sau riscuri implică aceste tehnologii. Voi prezenta mai jos principalele concluzii (pozitive şi negative), pe baza literaturii științifice (articole, revizuiri sistematice) recente.

Riscuri

ChatGPT învață din cantități uriașe de date luate de pe internet. Asta înseamnă că preia și prejudecățile care există deja acolo – legate de gen, rasă, limbă sau cultură. Din acest motiv, răspunsurile pot fi părtinitoare sau incorecte. În domenii sensibile, cum ar fi medicina, uneori ChatGPT oferă rezultate bune, alteori greșește serios, ceea ce face riscantă folosirea lui fără verificare

Uneori, ChatGPT oferă informații false, ca și cum ar fi adevărate. Acest fenomen este numit „halucinație” în limbajul specialiștilor. În sănătate, justiție sau educație, aceste greșeli pot avea consecințe grave. Problema este că mulți utilizatori nu verifică sursele și ajung să răspândească informații greșite (care pot fi inclusiv farse găsite pe internet sau teorii ale conspirației. ChatGPT nu are capacitatea de a face diferența.)

Dacă elevii sau studenții folosesc ChatGPT pentru toate temele, există riscul să își piardă șansa de a învăța să gândească singuri, să analizeze critic sau să fie creativi. Unele studii arată că, deși reduce anxietatea și ajută la comunicare, ChatGPT poate limita imaginația și dezvoltarea emoțională dacă nu este folosit cu măsură.

Nu este clar cine deține textele generate de ChatGPT și cum sunt folosite datele cu care a fost antrenat. Pot exista încălcări de drepturi de autor sau folosiri nepermise ale unor materiale. În plus, companiile care dezvoltă aceste programe nu explică mereu clar cum funcționează și ce filtre aplică.

În școli și universități, ChatGPT poate fi folosit pentru a scrie lucrări sau eseuri, ceea ce ridică probleme de plagiat și evaluări nedrepte. În lumea științifică au apărut cazuri unde recenziile articolelor (peer-review) au fost influențate sau chiar scrise parțial cu ajutorul AI, ceea ce pune la îndoială corectitudinea procesului.

Unii oameni ajung să depindă de ChatGPT pentru conversație sau sprijin emoțional, ceea ce poate înlocui interacțiunile reale și poate afecta foarte mult empatia și socializarea. De asemenea, atunci când oamenii simt că nu înțeleg un subiect, dar se bazează pe AI, pot apărea: anxietate, scăderea încrederii în sine sau frustrări.

Cele mai multe cercetări despre ChatGPT sunt recente și pe perioade scurte. Nu știm încă ce efecte va avea folosirea îndelungată asupra gândirii critice, creativității, motivației sau felului în care sunt distribuite oportunitățile între cei care au acces la AI și cei care nu au. Știm doar că în prezent memoria, concentrarea, gândirea critică, gândirea analitică, abilitatea de a lua decizii sunt puternic afectate în cazul utilizării excesive a sistemelor de dialog, precum ChatGPT.

Sfaturi pentru utilizatorii ChatGPT. Cum beneficiezi de avantajele lui și îți asiguri o dezvoltare armonioasă a minții?

1. Folosește-l ca punct de pornire, nu ca „adevăr absolut”

ChatGPT îți poate oferi idei și explicații, dar nu înseamnă că are mereu dreptate.

Ce se poate întâmpla dacă ignori acest sfat?
Riști să preiei informații greșite. În viața de zi cu zi asta poate duce la dezinformare, iar în domenii precum sănătatea sau justiția, consecințele pot fi foarte grave.  OpenAI a recunoscut posibilitatea ca GPT-4, similar predecesoarelor sale, să producă răspunsuri care întăresc în mod accidental prejudecățile și stereotipurile sociale existente.

2. Păstrează gândirea critică

Pune întrebări, verifică surse și nu crede automat tot ce citești.

Ce se poate întâmpla dacă ignori acest sfat?
Mintea ta se poate obișnui să accepte lucruri fără să le mai analizeze. În timp, îți slăbești capacitatea de a gândi pe cont propriu și devii mai ușor de manipulat.

Explicația medicală: Cortexul prefrontal (CPF) joacă un rol esențial în codificarea valorii recompenselor și pedepselor, integrând datele emoționale și motivaționale pentru a ghida luarea deciziilor. Amigdala este esențială pentru procesarea reacțiilor emoționale și învățarea fricii, care sunt parte integrantă a evaluării importanței emoționale. Cortexul prefrontal (CPF) și hipocampul apar ca structuri critice în peisajul luării deciziilor. CPF este implicat în diverse funcții executive, inclusiv planificarea, raționamentul și rezolvarea problemelor, care sunt cruciale pentru luarea unor decizii informate Hipocampul, pe de altă parte, joacă un rol cheie în formarea și recuperarea memoriei, oferind contextul necesar pentru a informa deciziile prezente. Astfel de procese cognitive sunt esențiale pentru rigoarea academică și pentru evitarea lenei, sugerând că detașarea de sarcinile cognitive dificile ar putea slăbi activitățile din regiunile neuronale cheie: cortexul prefrontal ventromedial (vmPFC), amigdala și cortexul prefrontal (PFC) și hipocampul.

3. Folosește-l pentru a învăța, nu pentru a copia

Cere explicații și exemple, așa cum i-ai cere unui profesor îndrumător. Evită să ceri doar rezolvări gata făcute. Cere indicații care să te ghideze. Cere lista de formule pe care ai nevoie să o folosești în rezolvarea exercițiului și ulterior cere exerciții asemănătoare pe care să le rezolvi singur.

Ce se poate întâmpla dacă ignori acest sfat?
Vei avea rezultate pe termen scurt (poate note bune, proiecte rapide), dar pe termen lung nu vei înțelege cu adevărat subiectele și îți vei limita mult dezvoltarea personală și profesională profundă, ceea ce va duce la stare de nesiguranță pe termen lung.

4. Antrenează-ți creativitatea, nu o înlocui

Inspiră-te de la ChatGPT, DAR trebuie să adaugi și ideile tale proprii. Adu-ți aminte că adevăratele surse de informare sunt oamenii. Activează sau dezvoltă abilitățile tale când ai de rezolvat sarcini precum proiecte, teme etc

Ce se poate întâmpla dacă ignori acest sfat?
Riști să îți atrofiezi creativitatea. În loc să gândești „în afara cutiei”, vei depinde mereu de AI pentru a crea ceva nou. Bonus, veri rămâne surprins de ideile originale ale celor din jurul tău care nu au folosit ChatGPT. De ce? Pentru că ei și-au antrenat creativitatea, poate chiar au citit informații la care ChatGPT nu a avut acces.

5. Protejează-ți sănătatea emoțională

AI poate fi un sprijin, dar nu poate înlocui prietenii, familia sau un terapeut. El nu are capacitatea de a simți ce simt oamenii. El doar vorbește frumos și folosește sfaturi pe care le găsește pe internet, care sunt șanse mari să nu se potrivească în realitate sau societatea în care trăim. Repet, ChatGPT nu este o persoană cu experiență de la care să putem lua sfaturi înțelepte.

Ce se poate întâmpla dacă ignori acest sfat?
Poți ajunge să te izolezi social, să-ți pierzi abilitățile de relaționare și să simți mai multă singurătate. În cazuri extreme, poate apărea dependența de interacțiunea cu AI sau forme grave de depresie. Din păcate ChatGPT nu vindecă, ci doar poate ascunde sub covor durerile unor oameni care aleg să-i împărtășească secretele.

6. Respectă etica și regulile

Nu trișa la examene, nu plagia și spune clar când ai folosit AI într-un proiect.

Ce se poate întâmpla dacă ignori acest sfat?

Poți pierde încrederea profesorilor, a colegilor sau a angajatorilor. În mediul academic sau profesional, plagiatul poate aduce sancțiuni serioase.

7. Fii atent la confidențialitate

NU scrie date personale sau informații foarte intime în conversațiile cu AI.

Ce se poate întâmpla dacă ignori acest sfat?
Informațiile tale pot fi stocate sau folosite într-un mod pe care nu îl controlezi. Riști să îți expui viața personală sau chiar să fii victima unor fraude. Pe scurt, poți ajunge șantajat cu informațiile pe care ai ales să le dai singur de bunăvoie și nesilit de nimeni.

8. Stabilește limite de timp

Folosește AI doar cât ai nevoie, apoi treci la alte activități (lectură, sport, discuții reale).

Ce se poate întâmpla dacă ignori acest sfat?
Poți pierde ore întregi fără să îți dai seama, ceea ce îți afectează somnul, concentrarea și echilibrul dintre muncă și viață personală.

9. Exersează empatia și gândirea independentă

După ce primești un răspuns, încearcă să îl explici singur altcuiva.

Ce se poate întâmpla dacă ignori acest sfat?
Vei rămâne într-o poziție pasivă și vei fi doar „consumator de informații”, fără să îți dezvolți capacitatea de a te exprima și conecta autentic cu ceilalți.

10. Folosește-l ca partener de antrenament mental

Invită-l AI-ul să îți pună întrebări sau provocări, nu doar să îți dea răspunsuri.

Ce se poate întâmpla dacă ignori acest sfat?
Mintea ta devine mai leneșă. În loc să înveți prin efort și curiozitate, vei aștepta mereu soluții rapide, ceea ce îți limitează dezvoltarea intelectuală

Articole care stau la baza afirmațiilor de mai sus:

AI hallucination: towards a comprehensive classification of distorted information in artificial intelligence-generated content

The effects of over-reliance on AI dialogue systems on students’ cognitive abilities: a systematic review

New sources of inaccuracy? A conceptual framework for studying AI hallucinations

ChatGPT is blind to bad science

Generative AI risks and resilience: How users adapt to hallucination and privacy challenges

Reporting the potential risk of using AI in higher Education: Subjective perspectives of educators

The ethical implications of using generative chatbots in higher education