OpenAI Svela il suo ultimo approccio per garantire la sicurezza dell'IA
In Breve
OpenAI ha pubblicato un post sul blog in cui delinea il suo approccio migliorato alla sicurezza a seguito delle recenti preoccupazioni in materia di sicurezza, privacy e indagini.
L'azienda si impegna a condurre test rigorosi, coinvolgere esperti esterni per il feedback e collaborare con i governi per determinare il migliore approccio per la regolamentazione dell'IA.
Dopo aver affrontato le preoccupazioni in materia di sicurezza e privacy e seguito recenti indagini in alcuni paesi europei, OpenAI ha rilasciato un post sul blog che delinea l'approccio migliorato dell'azienda alla sicurezza.
OpenAI si impegna a condurre test rigorosi, a coinvolgere esperti esterni per un feedback prima di rilasciare qualsiasi nuovo sistema e a collaborare con i governi per determinare l’approccio migliore per le normative sull’IA.
In precedenza, l'azienda ha trascorso più di sei mesi lavorando sulla sicurezza e sull'allineamento del suo ultimo modello, GPT-4, prima di rilasciarlo pubblicamente. Per garantire la sicurezza del suo nuovo modello linguistico, GPT-4, OpenAI assunti un team di oltre 50 esperti: specialisti in sicurezza, etica e politica dell'IA, inclusi ricercatori e ingegneri.
"Fondamentalmente, crediamo che la società debba avere il tempo di aggiornarsi e adattarsi a un'IA sempre più capace e che tutti coloro che sono interessati da questa tecnologia dovrebbero avere voce in capitolo su come l'IA si sviluppa ulteriormente",
OpenAI ha scritto.
OpenAIL'attenzione di 's sulla sicurezza e la privacy dei bambini
L'Italia è vietata ChatGPTcitando OpenAIuno dei motivi è la mancata verifica dell'età dei suoi utenti, nonostante sia stato progettato per individui di età pari o superiore a 13 anni. Un focus fondamentale degli sforzi di sicurezza dell'azienda si è spostato sulla protezione dei bambini implementando opzioni di verifica dell'età, che OpenAI sta ora esplorando, soprattutto perché gli strumenti di intelligenza artificiale sono destinati a individui di età pari o superiore a 18 anni o di età pari o superiore a 13 anni con l’approvazione dei genitori.
L'azienda vieta severamente la generazione di contenuti che incitano all'odio, molestie, violenti o per adulti e GPT-4 ha già una probabilità inferiore dell'82% di rispondere alle richieste di contenuti non consentiti rispetto a GPT-3. 5.
OpenAI ha istituito un solido sistema per monitorare gli abusi e le speranze da realizzare GPT-4 disponibile a più persone nel tempo. L’azienda collabora con gli sviluppatori su misure di sicurezza su misura, come la Khan Academy senza fini di lucro, e sta lavorando su funzionalità che consentano standard più severi per gli output dei modelli.
Migliorare la privacy è un altro aspetto della sicurezza OpenAI si sta concentrando, soprattutto dopo il recente violazioni dei dati. I grandi modelli linguistici dell'azienda di intelligenza artificiale vengono addestrati su un'enorme quantità di testo che include contenuti disponibili al pubblico, contenuti concessi in licenza e contenuti generati da revisori umani; utilizza i dati per rendere i modelli di intelligenza artificiale più utili per le persone.
OpenAI sta adottando misure per proteggere la privacy degli individui rimuovendo le informazioni personali dai propri dati di formazione, perfezionando i modelli per rifiutare le richieste di informazioni personali ed eliminando le informazioni personali dai propri sistemi su richiesta. Ciò riduce la possibilità che i modelli di intelligenza artificiale generino risposte che includano informazioni personali.
OpenAIl'approccio affrontare i problemi di sicurezza dell'IA significa ricercare mitigazioni efficaci e tecniche di allineamento e testarle contro gli abusi del mondo reale. Si impegna inoltre a essere sempre più cauto nella creazione e distribuzione di modelli più capaci e a migliorare le precauzioni di sicurezza. Una governance efficace dello sviluppo e della diffusione dell'IA è essenziale per garantire la sicurezza, che richiede innovazione tecnica e istituzionale.
Leggi di più:
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Agne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].
Altri articoli
Agne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].
