Il font gratuito ShieldFont nasconde il significato del testo dall'intelligenza artificiale

Gli sviluppatori di ShieldFont hanno unito le forze per sfruttare la differenza nei modi di percepire il contenuto web: l'uomo legge il testo disegnato nel browser, mentre la maggior parte dei modelli di IA moderni lavora con il codice HTML sorgente della pagina. Il font utilizza un meccanismo OpenType, solitamente impiegato per la sostituzione di glifi alternativi, ma in questo caso sostituisce intere parole.

Come funziona la sostituzione

Per trasformare il testo è stato creato un dizionario, dove a ogni parola viene associata un'altra parola della stessa parte del discorso. I sostantivi vengono sostituiti con altri sostantivi, i verbi al passato con verbi al passato, e così via. Le parole sono suddivise in 250 gruppi tenendo conto dell'astrattezza, del numero e di altri tratti grammaticali. Di conseguenza, circa un quarto delle parole nel testo originale viene sostituito con nuove, mantenendo la sintassi, ma prive di significato.

Il mantenimento della coerenza grammaticale è considerato fondamentale, poiché i sistemi che addestrano l'IA spesso scartano testi in cui la struttura è compromessa. Gli autori hanno testato l'efficacia di ShieldFont sul filtro FineWeb‑Edu, che seleziona dati di addestramento di alta qualità. Si è scoperto che solo nel 10 % dei casi il testo trasformato supera tale filtro, mentre nel 55,8 % dei casi il significato diventa completamente irriconoscibile.

La tecnologia ha anche delle limitazioni. Non funzionerà con modelli di IA che analizzano la rappresentazione visiva della pagina, anziché il suo markup HTML. Inoltre, i programmi di lettura dello schermo, utilizzati da persone con disabilità visive, si basano anch'essi su HTML, quindi ShieldFont potrebbe ridurre la loro accessibilità.

Attualmente, ShieldFont supporta solo la lingua inglese. Il codice sorgente e la documentazione sono disponibili su GitHub, e per l'integrazione in un progetto web è necessaria una piccola libreria per React, che consente di sostituire il font e di ottenere il testo originale se necessario.

L'iniziativa è nata come risposta all'uso crescente di risorse web pubbliche per l'addestramento di grandi modelli linguistici senza il consenso dei loro proprietari. ShieldFont offre un modo semplice per 'offuscare' tali modelli, senza compromettere la fruizione del contenuto da parte degli utenti comuni.

Gli sviluppatori sottolineano che il progetto è aperto e gratuito, il che consente a qualsiasi sito di implementare una protezione contro la scansione indesiderata. Sottolineano inoltre che l'obiettivo non è creare uno strumento dannoso, ma proteggere la proprietà intellettuale e i diritti degli autori.

In futuro si prevede di ampliare il supporto per altre lingue e migliorare la compatibilità con vari sistemi di accesso, per minimizzare l'impatto negativo sulle persone con esigenze speciali.

Fonte: 3DNews