Traduzione con IA: i rischi per la ricchezza linguistica

La traduzione con IA e l’IA non sono il nemico, lo diciamo sempre, ma, per utilizzarle correttamente, sono richieste conoscenza e consapevolezza.

L’intelligenza artificiale ha radicalmente trasformato il modo in cui il mondo comunica: traduzione con IA attraverso traduttori automatici istantanei, modelli linguistici che generano contenuti in pochi secondi, sistemi capaci di processare miliardi di parole sono tutte innovazioni straordinarie che hanno reso possibile una comunicazione multilingue prima semplicemente inimmaginabile.

In questo articolo non vogliamo demonizzare l’IA, di cui riconosciamo il valore e ne sfruttiamo l’incredibile potenza di calcolo. Ogni strumento potente richiede, però, di porsi una domanda prima di utilizzarlo, specialmente quando si parla di traduzione con IA: a quale prezzo?

Gli ultimi anni ci hanno insegnato qualcosa di essenziale: l’IA funziona utilizzando miliardi di dati disponibili online e in database e, tali dati, riflettono il mondo così come l’abbiamo costruito, con le sue gerarchie, i suoi bias e le sue esclusioni. Quando un modello viene addestrato su ciò che già esiste, il risultato non sarà mai neutro, imparziale e oggettivo: sarà il risultato della lavorazione di dataset già esistenti e carichi di informazioni predigerite.

Ecco perché, quindi, è fondamentale mantenere viva la discussione sulla traduzione con IA: non per criticarla ma per richiamare tutti gli utenti a un utilizzo sempre più consapevole.

Traduzione con IA: perché ne parliamo?

Siamo traduttori e interpreti, non ingegneri di intelligenza artificiale, data scientist, tantomeno sviluppatori di modelli linguistici. Siamo persone che ogni giorno affrontano il linguaggio nelle sue forme più autentiche: dialetti, slang, varietà regionali, lingue minoritarie e sfumature culturali.

Negli ultimi anni, mentre il mondo celebrava i progressi della traduzione con IA automatica e si affidava sempre più agli LLM, noi abbiamo iniziato a notare qualcosa. Durante il nostro lavoro come post-editor, in cui correggiamo l’output linguistico dell’IA, ci siamo accorti che tali sistemi sistematicamente scartavano, appiattivano, cancellavano proprio quello che rende autentica e viva una lingua. Non per cattiveria: per logica. Gli algoritmi ottimizzano ciò che è misurabile, che è statisticamente prevalente, normalizzandolo e rendendolo un parametro su cui basare ogni attività successiva. E, proprio alla luce di tale parametro, ciò che non vi rientra viene semplicemente scartato come un’insignificante anomalia. Per noi, quella che l’IA definisce come una anomalia, è la sfumatura di senso da rendere, la parola da “proteggere”, il dettaglio da preservare.

Quando, pochi giorni fa, abbiamo avuto l’occasione di leggere l’articolo di Anika Schaefer “Towards Inclusive Natural Language Processing“, pubblicato sul numero di Multilingual di marzo, abbiamo riconosciuto nelle sue parole ciò che osserviamo quotidianamente nei nostri progetti di post-editing di traduzione con IA.

Schaefer accende un faro su qualcosa che sta passando del tutto inosservato: quando costruiamo modelli di linguaggio, in realtà, non decidiamo cosa includere ma cosa escludere.

“Durante la curation del dataset (ossia la scelta attenta dei dati con cui “nutrire” l’IA)”, scrive Schaefer, “qualsiasi cosa che si discosti dallo standard, come i contenuti da lingue sottorappresentate, viene spesso filtrata come ‘rumore’“.

Ed è qui che, per Schaefer e per noi, nasce il paradosso. Quello che un algoritmo scarta come “rumore”, devianza, anomalia, per noi è il battito vivo di una comunità, linguaggio reale ancorato a culture, storie, identità.

Schaefer lo spiega così: gli LLM sono addestrati principalmente sull’inglese standardizzato e formale, spesso focalizzato sugli Stati Uniti, e intessuto dei valori delle istituzioni dominanti. Tutto il resto? Diventa un problema da risolvere, una devianza, un’anomalia da scartare.

Traduzione con IA: quando il “rumore” cancella le persone

Uno studio citato da Schaefer riporta numeri preoccupanti: i post scritti in AAVE (African American Vernacular English) hanno 1,5 volte più probabilità di essere flaggati come offensivi dai sistemi di rilevamento dell’hate speech rispetto ai post in inglese americano standard, anche quando il contenuto effettivo non contiene nulla di ostile.

Cosa significa? Significa che l’algoritmo non riconosce l’AAVE come una variante legittima del linguaggio e lo interpreta come difetto, come una red flag da risolvere quanto prima. Il risultato? Un’esclusione algoritmica: le voci nere vengono automaticamente marginalizzate, censurate non da una decisione umana consapevole ma da un modello che considera se stesso, o meglio, viene considerato dai suoi stessi creatori, “neutrale”, in quanto basato su scelte statistiche.

Non si tratta di un bug ma della conseguenza diretta del come tali modelli sono stati costruiti.

La traduzione automatica con IA rafforza il bias di genere

Schaefer segnala come “i titoli di lavoro neutri dal punto di vista finiscono per essere resi con forme maschili: un pattern che rafforza il bias di genere piuttosto che correggerlo”.

Lo osserviamo costantemente nei nostri progetti di traduzione con IA. Un’azienda tedesca richiede che venga sempre utilizzato il neutro per la descrizione delle sue role descriptions. Un madrelingua rispetterebbe tale consuetudine, basata su cultura e contesto: il sistema di IA no e l’output sarà una descrizione con forme maschili. La macchina non ha, ovviamente, una preferenza ideologica consapevole, ma i dati su cui è stata addestrata sì. E gli algoritmi amplificano quello che trovano, trasformando una scelta statistica in una realtà rappresentativa.

Le lingue minoritarie spariscono sull’altare dell'”efficienza”

Durante l’ottimizzazione del modello, secondo Schaefer, “la performance predomina e il divario tra comunità linguistiche dominanti e marginalizzate si approfondisce“. Perché? Semplice: è inutile investire risorse computazionali su una lingua parlata dalle minoranze quando il ROI più alto lo si genera ottimizzando e lavorando su LLM in inglese standard.

Le lingue africane, le varietà regionali dell’Asia, i dialetti europei minoritari: tutto viene sacrificato sull’altare dell’efficienza per una logica meramente economica che, incorporata negli algoritmi stessi, si trasforma in esclusione sistematica. Schaefer chiama tutto per nome: “Ideologia linguistica su scala“

Quello che sembra, però, un mero problema tecnico ed economico, Schaefer lo definisce anche come politico.

“I modelli di linguaggio non sono solo sistemi tecnici“, scrive. “Sono artefatti politici. Riflettono quali voci sono considerate rappresentative, quali idee sono considerate ‘normali e accettabili’ e quali modi di parlare sono degni di essere appresi.” E continua: “Dialetti, accenti regionali, lingue non occidentali e stili informali sono frequentemente percepiti come non adatti per quella che è considerata una comunicazione appropriata“.

Schaefer sostiene che stiamo costruendo sistemi di traduzione con IA che incorporano gerarchie linguistiche preesistenti e che, attraverso l’uso, li stiamo diffondendo e amplifichiamo su scala globale.

E ancora, “Se vogliamo che le macchine servano l’umanità, devono essere addestrate su un’immagine più completa della sua varietà linguistica, non solo sulle lingue più “forti”. E noi non potremmo essere più d’accordo.