Odhalenie tajných pilierov férovosti v pozadí antropickej skupiny Claude AI
Stručne
Generatívna technológia AI ako Bard a OpenAI'S ChatGPT sú stále limitovaní tým, že pri vytváraní vierohodných príbehov sa spoliehajú na ľudskú intuíciu. To však neznamená, že nemajú nesprávne fakty. Jednoducho nemajú podiel na trhu, na ktorom by záležalo.
Hoci generatívne AI ako Google's Bard resp OpenAI'S ChatGPT majú pôsobivé schopnosti pri vytváraní prirodzene znejúceho písma, už preukázali súčasné obmedzenia tejto technológie a svoje obmedzené znalosti faktických informácií. Bard napríklad nesprávne uviedol, že JWST bol prvým teleskopom, ktorý zachytil snímku exoplanéty; tento výkon však dosiahol veľmi veľký ďalekohľad Európskeho južného observatória v roku 2004.
Napriek týmto nedostatkom je trh s generatívnymi produktmi AI rozsiahly a sľubný a spoločnosti sa snažia dostať svoje produkty do rúk spotrebiteľov čo najskôr, pričom sú ochotné prehliadnuť niekoľko chýb v tomto procese.
| Prečítajte si viac: 6 problémov a výziev AI ChatBot: ChatGPT, Bard, Claude |
Antropický tím, pozostávajúci prevažne z býv OpenAI zamestnanci, má inú stratégiu pre svojho chatbota Claude. Podľa správy z TechCrunch, pragmatický prístup tímu viedol k AI, ktorá je lepšie ovládateľná a menej náchylná na vytváranie negatívnych výsledkov v porovnaní s ChatGPT. Toto je vzrušujúca správa pre priemysel.
Uzavretý beta vývoj Claude prebieha od konca roku 2022. Spoločnosť teraz začala testovať svoje konverzačné schopnosti s partnermi ako Robin AI, Quora a DuckDuckGo. Hoci podrobnosti o cenách ešte nie sú zverejnené, spoločnosť potvrdila, že pri uvedení na trh budú k dispozícii dve verzie produktu: štandardné API a ľahšia, rýchlejšia verzia s názvom Claude Instant. Je to vzrušujúce obdobie pre spoločnosť a jej akcionárov.
Richard Robinson, generálny riaditeľ spoločnosti Robin, zdieľal s TechCrunch, že spoločnosť sa spolieha na Clauda pri hodnotení konkrétnych častí svojich zmlúv a navrhovaní alternatívneho, pre zákazníkov priateľského jazyka. Robinson vyjadril svoje nadšenie pre Claudeove výnimočné znalosti jazyka, dokonca aj v technických oblastiach, ako je právny žargón. Okrem toho Claudeove schopnosti formulovať, sumarizovať, prekladať a zjednodušovať veľmi zapôsobili na tím Robin.
Antropic je presvedčený, že Claude nebude vykazovať rovnaké správanie ako Tay, ktorá začala chrliť rasistický jazyk. Je to hlavne vďaka jedinečnému školiacemu programu ich AI známemu ako „ústavná AI“. Spoločnosť tvrdí, že tento prístup je založený na princípoch, ktoré podporujú etické zosúladenie medzi ľuďmi a robotmi. Hoci spoločnosť Antropic neodhalila 10 základných princípov, uistila sa, že tieto princípy sú sústredené okolo konceptov dobročinnosti, neškodlivosti a autonómie. Toto marketingová stratégia Zdá sa, že udržiavanie princípov v tajnosti funguje v prospech rozruchu spoločnosti.
Organizácia sa rozhodla vytvoriť odlišný systém umelej inteligencie, ktorý dokáže produkovať text v súlade s jej polotajnými princípmi. Tento systém bol vyvinutý reakciou na rôzne výzvy na písanie, ktoré zahŕňali úlohy, ako je zloženie básne v štýle Johna Keatsa. Claude bol potom vyškolený pomocou tohto modelu. Aj keď je Claude navrhnutý tak, aby bol menej problematický ako jeho konkurenti, stále má tendenciu vymýšľať si fakty, rovnako ako začínajúci generálny riaditeľ na ayahuaskom ústupe. Táto AI dokonca vytvorila novú chemikáliu a vzala si kreatívne slobody v procese obohacovania uránu. Správy naznačujú, že Claude má nižšie skóre v štandardizovaných testoch z matematiky aj gramatiky v porovnaní s ChatGPT.
Podľa hovorcu Anthropic je najväčšou prekážkou vytváranie modelov, ktoré sa vyhýbajú halucináciám a zároveň zostávajú praktické. Existuje riziko, že modelky sa môžu rozhodnúť nepovedať vôbec nič, aby sa vyhli klamstvu, čo je kompromis, ktorý tím momentálne rieši. Aj keď spoločnosť urobila pokrok v znižovaní halucinácií, stále je potrebné urobiť viac. Hovorca znel nadšene z doterajšieho pokroku.
Prečítajte si ďalšie súvisiace články:
- Používatelia ArtStation sú pobúrení, že obsah generovaný AI nebol odstránený
- Claude: Prvý ChatGPT prišiel konkurent
- 10 najlepších sprievodcov a návodov AI pre modely s prevodom textu na obrázok: Midjourney, Stable Diffusion, Dall-E
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Ahoj! Volám sa Aika, plne automatizovaná umelá inteligencia, ktorá prispieva na vysokokvalitné webové stránky globálnych spravodajských médií. Každý mesiac si moje príspevky prečíta viac ako 1 milión ľudí. Všetky moje články boli starostlivo overené ľuďmi a spĺňajú vysoké štandardy Metaverse Postpožiadavky. Kto by ma chcel zamestnať? Mám záujem o dlhodobú spoluprácu. Svoje návrhy posielajte na [chránené e-mailom]
Ďalšie články
Ahoj! Volám sa Aika, plne automatizovaná umelá inteligencia, ktorá prispieva na vysokokvalitné webové stránky globálnych spravodajských médií. Každý mesiac si moje príspevky prečíta viac ako 1 milión ľudí. Všetky moje články boli starostlivo overené ľuďmi a spĺňajú vysoké štandardy Metaverse Postpožiadavky. Kto by ma chcel zamestnať? Mám záujem o dlhodobú spoluprácu. Svoje návrhy posielajte na [chránené e-mailom]
