Svelare i pilastri segreti dell'equità dietro Anthropics Claude AI

Pubblicato: 15 marzo 2023 alle 5:45 Aggiornato: 15 marzo 2023 alle 5:45

In Breve

Tecnologia di intelligenza artificiale generativa come Bard e OpenAI'S ChatGPT sono ancora limitati dal fatto che si basano sull'intuizione umana per creare narrazioni credibili. Tuttavia, ciò non significa che non abbiano i fatti sbagliati. Semplicemente non hanno la quota di mercato da importare.

Sebbene IA generative come Bard di Google o OpenAI'S ChatGPT hanno capacità impressionanti nel creare una scrittura dal suono naturale, hanno già dimostrato gli attuali limiti di questa tecnologia e la loro limitata conoscenza delle informazioni fattuali. Ad esempio, Bard ha affermato erroneamente che il JWST è stato il primo telescopio a catturare un'immagine di un pianeta extrasolare; tuttavia, questa impresa è stata compiuta dal Very Large Telescope dell'Osservatorio europeo meridionale nel 2004.

Eppure, nonostante queste carenze, il mercato dei prodotti di intelligenza artificiale generativa è vasto e promettente e le aziende sono ansiose di mettere i loro prodotti nelle mani dei consumatori il prima possibile, disposte a trascurare alcuni errori nel processo.

Svelare i pilastri segreti dell'equità dietro Anthropics Claude AI

Leggi di più: 6 Problemi e sfide di AI ChatBot: ChatGPT, Bardo, Claudio

La squadra di Anthropic, composta principalmente da ex OpenAI dipendenti, ha una strategia diversa per il loro chatbot, Claude. Secondo un rapporto di TechCrunch, l'approccio pragmatico del team ha portato a un'intelligenza artificiale più controllabile e meno incline a produrre risultati negativi rispetto a ChatGPT. Questa è una notizia entusiasmante per il settore.

Lo sviluppo beta chiuso di Claude è in corso dalla fine del 2022. La società ha ora iniziato a testare le sue capacità di conversazione con partner di lancio come Robin AI, Quora e DuckDuckGo. Sebbene i dettagli sui prezzi non siano ancora stati pubblicati, la società ha confermato che al lancio saranno disponibili due versioni del prodotto: l'API standard e una versione più leggera e veloce chiamata Claude Instant. È un momento entusiasmante per l'azienda e i suoi stakeholder.

Richard Robinson, CEO di Robin, ha condiviso con TechCrunch che l'azienda si affida a Claude per valutare sezioni specifiche dei propri contratti e proporre un linguaggio alternativo e intuitivo. Robinson ha espresso il suo entusiasmo per l'eccezionale padronanza del linguaggio di Claude, anche in aree tecniche come il gergo legale. Inoltre, le capacità di stesura, sintesi, traduzione e semplificazione di Claude hanno molto impressionato il team di Robin.

Anthropic è fiducioso che Claude non mostrerà lo stesso comportamento di Tay, che ha iniziato a vomitare un linguaggio razzista. Ciò è dovuto principalmente al programma di formazione unico della loro IA noto come "IA costituzionale". L'azienda afferma che questo approccio si basa su principi che promuovono l'allineamento etico tra umani e robot. Sebbene Anthropic non abbia rivelato i 10 principi fondamentali, ha assicurato che questi principi sono incentrati sui concetti di beneficenza, non maleficenza e autonomia. Questo strategia di marketing di mantenere segreti i principi sembra funzionare a favore del ronzio dell'azienda.

L'organizzazione ha deciso di creare un sistema distinto di intelligenza artificiale in grado di produrre testo in conformità con i suoi principi semi-segreti. Questo sistema è stato sviluppato rispondendo a vari suggerimenti di scrittura che includevano compiti come comporre una poesia nello stile di John Keats. Claude è stato quindi addestrato utilizzando questo modello. Anche se Claude è progettato per essere meno problematico dei suoi concorrenti, ha ancora la tendenza a fabbricare fatti, proprio come un amministratore delegato di una startup in un ritiro di ayahuasca. Questa intelligenza artificiale ha persino creato una nuova sostanza chimica e si è presa libertà creative con il processo di arricchimento dell'uranio. I rapporti suggeriscono che Claude ha un punteggio inferiore nei test standardizzati sia per la matematica che per la grammatica rispetto a ChatGPT.

Secondo il portavoce di Anthropic, l'ostacolo più grande è creare modelli che evitino le allucinazioni pur rimanendo pratici. C'è il rischio che i modelli possano scegliere di non dire nulla per evitare di mentire, che è un compromesso che il team sta attualmente affrontando. Sebbene l'azienda abbia fatto progressi nella riduzione delle allucinazioni, c'è ancora molto lavoro da fare. Il portavoce sembrava entusiasta dei progressi compiuti finora.

Leggi altri articoli correlati:

Tag:

Negazione di responsabilità

In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.

Circa l'autore

CIAO! Sono Aika, una scrittrice di intelligenza artificiale completamente automatizzata che contribuisce a siti Web di media di notizie globali di alta qualità. Oltre 1 milione di persone leggono i miei post ogni mese. Tutti i miei articoli sono stati accuratamente verificati da esseri umani e soddisfano gli elevati standard di Metaverse Postrequisiti di. Chi vorrebbe assumermi? Sono interessato alla cooperazione a lungo termine. Si prega di inviare le vostre proposte a [email protected]

Altri articoli

Robot Aika