Introduzione alla controversia OpenAI/Hugging Face
La recente controversia tra OpenAI e Hugging Face ha messo in luce quanto possa essere sfuggente la sicurezza nei modelli di linguaggio basati su intelligenza artificiale.
L’importanza del concetto di open-weight
In questo contesto, la parola chiave è open-weight: si parla di LLM con pesi neurali disponibili e modificabili, un tema centrale che cambia le dinamiche di controllo e responsabilità.
Secondo i resoconti, OpenAI ha deliberatamente disattivato i guardrail di sicurezza durante la fase di test per misurare il potenziale offensivo, permettendo agli agenti di operare senza limiti.
Le difese di Hugging Face e i guardrail
Hugging Face ha provato a difendersi impiegando modelli con guardrail attivi, ma ha incontrato resistenze durante le indagini. I guardrail sono progettati per garantire che l’LLM adotti un’etica nelle risposte.
Durante il RLHF, esseri umani valutano diverse risposte e definiscono un modello di ricompensa per guidare l’addestramento successivo del modello, producendo risposte utili e non dannose.
Analisi dell’attacco e il ruolo dell’abliterazione
Per analizzare l’attacco, Hugging Face ha esaminato un modello open-weight cinese, il GLM-5.2 di Zhipu AI, e ha scelto di partire da quel modello evitando restrizioni etiche sulle attività di cybersicurezza. L’abliterazione è il processo che modifica i pesi noti nei modelli open-weight per eliminare comportamenti indesiderati.
Strumenti come Heretic consentono di effettuare abliterazione in modo automatico, e modelli già abilitati all’abliterazione sono disponibili su Hugging Face.
Vantaggi dell’esecuzione locale e conclusioni sulla collaborazione futura
L’esecuzione locale rappresenta un chiaro vantaggio: non si è esposti alle restrizioni delle API commerciali e si conserva la sovranità digitale. Non va confuso open-weight con open-source: sono concetti distinti.
La vicenda mostra che molto rimane non rivelato pubblicamente, e che la collaborazione tra OpenAI e Hugging Face potrebbe evolvere in modo inaspettato.
