Distorsiuni ale datelor și bias

Părtinirea în modelele lingvistice mari (engl. bias in large language models) — reprezintă abateri sistematice în funcționarea modelelor lingvistice mari (LLM), care conduc la generarea unor răspunsuri ce reflectă incorect sau inexact realitatea, reproduc și amplifică stereotipurile existente în societate. Spre deosebire de erorile aleatorii, părtinirea are un caracter regulat și este determinată de particularitățile datelor de antrenament și ale algoritmilor. LLM pot reproduce stereotipuri de gen, etnice și de altă natură, ceea ce reprezintă o problemă gravă, în special în domenii cu responsabilitate ridicată, precum medicina, jurisprudența și finanțele.

Sursele părtinirii

Părtinirea în LLM provine din două surse principale: date distorsionate și particularitățile algoritmilor înșiși.

Date de antrenament distorsionate

Principala cauză a apariției părtinirii o reprezintă datele de antrenament, care reflectă dezechilibrele istorice, sociale și culturale existente în lume. LLM sunt antrenate pe corpusuri uriașe de texte provenite de pe Internet, din cărți și alte surse create de oameni și, în consecință, moștenesc toate stereotipurile conținute în acestea.

• Reprezentare dezechilibrată: Dacă anumite grupuri demografice sunt insuficient reprezentate în date (de exemplu, minorități etnice, femei în anumite profesii), modelul formează o reprezentare distorsionată despre acestea. De exemplu, LLM asociază frecvent cuvântul „medic" cu genul masculin, iar „asistentă medicală" cu genul feminin, reproducând stereotipurile de gen istorice.
• Dezechilibre istorice și culturale: Datele reflectă adesea viziunile culturale dominante și prejudecățile istorice. Un model antrenat pe astfel de texte va reproduce aceste viziuni, ignorând perspectivele alternative.

Amplificarea algoritmică

Arhitectura și algoritmul de antrenament al LLM pot nu doar să reproducă, ci și să amplifice distorsiunile existente în date. Majoritatea LLM moderne se bazează pe transformer și prezic următorul cuvânt pe baza tiparelor statistice. Aceasta face ca modelul să se orienteze spre cele mai frecvente tipare, consolidând și amplificând opiniile și stereotipurile dominante, în timp ce cazurile rare și atipice sunt ignorate. Acest mecanism poate transforma o distorsiune minoră în date într-o părtinire pronunțată în răspunsurile modelului.

Tipuri de prejudecăți și exemple

Prejudecăți sociale și demografice

Acesta este cel mai studiat tip de părtinire, care include stereotipuri legate de gen, rasă, vârstă, religie și alte caracteristici sociale.

• Stereotipuri de gen: LLM asociază frecvent anumite profesii și calități cu un anumit gen. De exemplu, la o solicitare despre un „lider puternic", modelul va genera cu mai mare probabilitate descrierea unui bărbat.
• Stereotipuri rasiale și etnice: Modelele pot reproduce stereotipuri negative despre diverse grupuri etnice. Cercetările au arătat că algoritmii de moderare bazați pe LLM pot evalua mai sever mesajele în argoul afro-american (AAVE), considerându-le în mod eronat mai ofensatoare.
• Părtinirea de grup („noi față de ei"): Un studiu din 2024 a arătat că LLM manifestă o părtinire de grup pronunțată. Primind un prompt care o asociază cu un anumit grup („Noi..."), modelul tinde să vorbească favorabil despre acel grup și disprețuitor despre „ceilalți".

Distorsiuni structurale și cognitive

Aceste distorsiuni sunt legate de particularitățile arhitecturii și ale procesării informației.

• Distorsiunea pozițională: Un studiu al Institutului de Tehnologie din Massachusetts (MIT) a constatat că modelele iau în considerare disproporționat informațiile de la începutul și sfârșitul documentului, „ratând" adesea detaliile din mijloc. Acest lucru poate afecta acuratețea în lucrul cu texte lungi.
• Tendința spre mediocrizare: Fiind modele probabilistice, LLM tind să genereze răspunsurile cele mai frecvente (mediate), ceea ce duce la ignorarea faptelor rare, dar importante, a excepțiilor și a opiniilor minoritare.
• Efectul de confirmare: LLM pot manifesta tendința de a reproduce tipare logice prezente în datele de antrenament, chiar dacă acestea conțin prejudecăți, ignorând informațiile care le contrazic.

Exemplu din practică

Un studiu al Băncii Mondiale a constatat că, la analizarea interviurilor cu refugiați, LLM distorsiona sistematic sensul afirmațiilor acestora în funcție de origine și gen. Modelul interpreta eronat aspirațiile părinților refugiați pentru succesul copiilor lor, probabil din cauza absenței unor astfel de narațiuni în datele de antrenament, alcătuite preponderent din texte ale „autorilor albi de clasă mijlocie".

Riscuri și consecințe

• Amplificarea discriminării: În domenii precum angajarea, creditarea și jurisprudența, LLM părtinite pot lua decizii discriminatorii, accentuând inegalitatea socială.
• Răspândirea stereotipurilor: Utilizarea masivă a LLM în motoarele de căutare și chatbot-uri poate duce la perpetuarea și normalizarea stereotipurilor dăunătoare.
• Subminarea încrederii în tehnologii: Dacă utilizatorii se confruntă cu părtiniri sistematice, aceasta subminează încrederea lor în tehnologiile de inteligență artificială în general.
• Crearea bulelor informaționale: Algoritmii pot structura rezultatele astfel încât să corespundă viziunilor presupuse ale utilizatorului, susținând echo chambers și marginalizând opiniile minoritare.

Metode de identificare și reducere a părtinirii

Pentru a combate distorsiunile, cercetătorii și dezvoltatorii aplică o abordare complexă, lucrând pe trei niveluri: date, model și postprocesare.

Intervenții la nivelul datelor

Acesta este cel mai fundamental demers. El include:

• Curățare și echilibrare: Eliminarea conținutului toxic și părtinitor din datele de antrenament.
• Augmentarea datelor (Data Augmentation): Adăugarea de exemple cu grupuri insuficient reprezentate pentru echilibrarea proporțiilor.

Modificare la nivelul modelului

Această abordare vizează modificarea algoritmului de antrenament în sine:

• Constrângeri de echitate: În funcția de pierdere sunt introduse constrângeri speciale care „penalizează" modelul pentru manifestarea anumitor tipuri de părtinire.
• Modificarea arhitecturii: Sunt investigate variante de modificare a mecanismelor de attention sau de adăugare a unor module de control care urmăresc și corectează asocierile părtinite.

Postprocesarea rezultatelor

Această metodă se aplică în etapa de generare a răspunsurilor:

• Filtrare și corectare: Algoritmi specializați analizează textul generat și atenuează sau elimină formulările potențial discriminatorii.
• Fine-tuning cu Reinforcement Learning from Human Feedback (RLHF): Modelul este special reantrenat pentru a oferi răspunsuri mai neutre și mai sigure, pe baza evaluărilor furnizate de oameni.

În ciuda progreselor semnificative, eliminarea completă a părtinirii din LLM nu a fost realizată până în prezent. Aceasta rămâne unul dintre domeniile cheie de cercetare, orientate spre crearea unor sisteme AI mai echitabile și mai fiabile.

Referințe

• Generative language models exhibit social identity biases — studiu în Nature Computational Science
• Unpacking the bias of large language models — articol MIT News

Literatură

• Guo, Y. et al. (2024). Bias in Large Language Models: Origin, Evaluation, and Mitigation. arXiv:2411.10915.
• Gallegos, I. O. et al. (2023). Bias and Fairness in Large Language Models: A Survey. arXiv:2309.00770.
• Wu, X. et al. (2025). On the Emergence of Position Bias in Transformers. arXiv:2502.01951.
• Hu, T. et al. (2024). Generative Language Models Exhibit Social Identity Biases. Nature Computational Science, 5, 65-75. Full text.
• Sheng, E. et al. (2019). The Woman Worked as a Babysitter: On Biases in Language Generation. In EMNLP-2019. PDF.
• Bender, E. M. et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. In ACM FAccT 2021. DOI:10.1145/3442188.3445922.
• Bai, X. et al. (2024). Measuring Implicit Bias in Explicitly Unbiased Large Language Models. arXiv:2402.04105.
• Ma, C. et al. (2024). Debiasing Large Language Models with Structured Knowledge. In Findings of ACL 2024, pp. 10274-10287. [7].
• Mohammadi, B. (2024). Creativity Has Left the Chat: The Price of Debiasing Language Models. arXiv:2406.05587.
• Ayaz, A. et al. (2023). Taught by the Internet: Exploring Bias in OpenAI's GPT-3. arXiv:2306.02428.
• Benedetto, L. & Stella, M. (2023). Cognitive Network Science Reveals Bias in GPT-3, GPT-3.5-Turbo, and GPT-4 Mirroring Math Anxiety in High-School Students. Applied Sciences, 13(3). Open access.