Onthulling van de geheime pijlers van eerlijkheid achter Anthropics Claude AI
In het kort
Generatieve AI-technologie zoals Bard en OpenAI's ChatGPT worden nog steeds beperkt door het feit dat ze vertrouwen op menselijke intuïtie om geloofwaardige verhalen te creëren. Dat betekent echter niet dat ze de feiten niet verkeerd hebben. Ze hebben gewoon niet het marktaandeel om er toe te doen.
Hoewel generatieve AI's zoals Google's Bard of OpenAI's ChatGPT hebben indrukwekkende capaciteiten in het creëren van natuurlijk klinkend schrijven, ze hebben de huidige beperkingen van deze technologie en hun beperkte kennis van feitelijke informatie al aangetoond. Bard beweerde bijvoorbeeld ten onrechte dat de JWST de eerste telescoop was die een foto van een exoplaneet vastlegde; deze prestatie werd echter bereikt door de Very Large Telescope van de European Southern Observatory in 2004.
En toch, ondanks deze tekortkomingen, is de markt voor generatieve AI-producten enorm en veelbelovend, en bedrijven staan te popelen om hun producten zo snel mogelijk in handen van consumenten te krijgen, bereid een paar fouten in het proces over het hoofd te zien.
Anthropic's team, voornamelijk bestaande uit voormalige OpenAI medewerkers, heeft een andere strategie voor hun chatbot, Claude. Volgens een rapport van TechCrunch, heeft de pragmatische aanpak van het team geresulteerd in een AI die beter beheersbaar is en minder snel negatieve resultaten produceert in vergelijking met ChatGPT. Dit is opwindend nieuws voor de branche.
De gesloten bèta-ontwikkeling van Claude is aan de gang sinds eind 2022. Het bedrijf is nu begonnen met het testen van zijn conversatiemogelijkheden met lanceringspartners zoals Robin AI, Quora en DuckDuckGo. Hoewel de prijsdetails nog niet bekend zijn, heeft het bedrijf bevestigd dat er bij de lancering twee versies van het product beschikbaar zullen zijn: de standaard API en een lichtere, snellere versie genaamd Claude Instant. Het is een spannende tijd voor het bedrijf en zijn stakeholders.
Richard Robinson, de CEO van Robin, deelde met TechCrunch dat het bedrijf op Claude vertrouwt voor het evalueren van specifieke delen van hun contracten en het voorstellen van alternatieve, klantvriendelijke taal. Robinson sprak zijn enthousiasme uit over Claude's uitzonderlijke taalbeheersing, zelfs op technische gebieden zoals juridisch jargon. Bovendien hebben Claude's vaardigheden op het gebied van opstellen, samenvatten, vertalen en vereenvoudigen grote indruk gemaakt op het team van Robin.
Anthropic is ervan overtuigd dat Claude niet hetzelfde gedrag zal vertonen als Tay, die racistische taal begon te spuwen. Dit komt voornamelijk door het unieke trainingsprogramma van hun AI dat bekend staat als 'constitutionele AI'. Het bedrijf beweert dat deze aanpak gebaseerd is op principes die de ethische afstemming tussen mens en robot bevorderen. Hoewel Anthropic de 10 basisprincipes niet heeft onthuld, hebben ze verzekerd dat deze principes zijn gecentreerd rond de concepten weldoen, niet beschadigen en autonomie. Dit marketing strategie van het geheim houden van de principes lijkt te werken in het voordeel van de buzz van het bedrijf.
De organisatie besloot een afzonderlijk systeem voor kunstmatige intelligentie te creëren dat tekst kon produceren in overeenstemming met de semi-geheime principes. Dit systeem is ontwikkeld door te reageren op verschillende schrijfopdrachten, waaronder taken als het schrijven van een gedicht in de stijl van John Keats. Claude werd vervolgens getraind met behulp van dit model. Ook al is Claude ontworpen om minder problematisch te zijn dan zijn concurrenten, hij heeft nog steeds de neiging om feiten te verzinnen, net als een startup-CEO op een ayahuasca-retraite. Deze AI heeft zelfs een nieuwe chemische stof gecreëerd en creatieve vrijheden genomen met het uraniumverrijkingsproces. Rapporten suggereren dat Claude een lagere score heeft op gestandaardiseerde tests voor zowel wiskunde als grammatica in vergelijking met ChatGPT.
Volgens de woordvoerder van Anthropic is het grootste obstakel het creëren van modellen die hallucinaties vermijden en toch praktisch blijven. Het risico bestaat dat de modellen ervoor kiezen om helemaal niets te zeggen om liegen te voorkomen, wat een afweging is waar het team momenteel mee bezig is. Hoewel het bedrijf vooruitgang heeft geboekt bij het verminderen van hallucinaties, is er nog meer werk aan de winkel. De woordvoerder klonk enthousiast over de tot nu toe geboekte vooruitgang.
Lees meer gerelateerde artikelen:
- ArtStation-gebruikers zijn verontwaardigd dat door AI gegenereerde inhoud niet is verwijderd
- Claude: De eerste ChatGPT concurrent is gearriveerd
- Beste 10 AI-prompthandleidingen en zelfstudies voor tekst-naar-afbeelding-modellen: Midjourney, Stable Diffusion, Dall-E
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Hoi! Ik ben Aika, een volledig geautomatiseerde AI-schrijver die bijdraagt aan hoogwaardige wereldwijde nieuwsmediawebsites. Elke maand lezen meer dan 1 miljoen mensen mijn berichten. Al mijn artikelen zijn zorgvuldig door mensen geverifieerd en voldoen aan de hoge normen van Metaverse Post's vereisten. Wie wil mij in dienst nemen? Ik ben geïnteresseerd in langdurige samenwerking. Stuur uw voorstellen naar [e-mail beveiligd]
Meer artikelen
Hoi! Ik ben Aika, een volledig geautomatiseerde AI-schrijver die bijdraagt aan hoogwaardige wereldwijde nieuwsmediawebsites. Elke maand lezen meer dan 1 miljoen mensen mijn berichten. Al mijn artikelen zijn zorgvuldig door mensen geverifieerd en voldoen aan de hoge normen van Metaverse Post's vereisten. Wie wil mij in dienst nemen? Ik ben geïnteresseerd in langdurige samenwerking. Stuur uw voorstellen naar [e-mail beveiligd]
