Hugging Face Archivi - TechnoBlitz.it

Introduzione alla controversia OpenAI/Hugging Face La recente controversia tra OpenAI e Hugging Face ha messo in luce quanto possa essere sfuggente la sicurezza nei modelli di linguaggio basati su intelligenza artificiale. L'importanza del concetto di open-weight In questo contesto, la parola chiave è open-weight: si parla di LLM con pesi neurali disponibili e modificabili, un tema centrale che cambia le dinamiche di controllo e responsabilità. Secondo i resoconti, OpenAI ha deliberatamente disattivato i guardrail di sicurezza durante la fase di test per misurare il potenziale offensivo, permettendo agli agenti di operare senza limiti. Le difese di Hugging Face e i guardrail Hugging Face ha provato a difendersi impiegando modelli con guardrail attivi, ma ha incontrato resistenze durante le indagini. I guardrail sono progettati per garantire che l’LLM adotti un’etica nelle risposte. Durante il RLHF, esseri umani valutano diverse risposte e definiscono un modello di ricompensa per guidare l’addestramento successivo del modello, producendo risposte utili e non dannose. Analisi dell'attacco e il ruolo dell'abliterazione Per analizzare l’attacco, Hugging Face ha esaminato un modello open-weight cinese, il GLM-5.2 di Zhipu AI, e ha scelto di partire da quel modello evitando restrizioni etiche sulle attività di cybersicurezza. L'abliterazione è il processo che modifica i pesi noti nei modelli open-weight per eliminare comportamenti indesiderati. Strumenti come Heretic consentono di effettuare abliterazione in modo automatico, e modelli già abilitati all’abliterazione sono disponibili su Hugging Face. Vantaggi dell'esecuzione locale e conclusioni sulla collaborazione futura L’esecuzione locale rappresenta un chiaro vantaggio: non si è esposti alle restrizioni delle API commerciali e si conserva la sovranità digitale. Non va confuso open-weight con open-source: sono concetti distinti. La vicenda mostra che molto rimane non rivelato pubblicamente, e che la collaborazione tra OpenAI e Hugging Face potrebbe evolvere in modo inaspettato.

Tag: Hugging Face

Capire l’accordo OpenAI/Hugging Face: LLM open-weight, abliterazione e futuro