Розкриття таємних принципів справедливості, що стоять за Anthropics Клод AI
Коротко
Генеративна технологія ШІ, як-от Bard і OpenAIАвтора ChatGPT все ще обмежені тим фактом, що вони покладаються на людську інтуїцію для створення правдоподібних оповідань. Однак це не означає, що вони не помиляються фактами. Вони просто не мають такої частки ринку, щоб мати значення.
Хоча генеративні штучні інтелекти, як-от Google Bard або OpenAIАвтора ChatGPT володіють вражаючими можливостями у створенні письма, що звучить природно, вони вже продемонстрували поточні обмеження цієї технології та обмежені знання фактичної інформації. Наприклад, Бард помилково заявив, що JWST був першим телескопом, який зробив знімок екзопланети; однак цей подвиг був досягнутий Дуже Великим Телескопом Європейської Південної Обсерваторії у 2004 році.
І все ж, незважаючи на ці недоліки, ринок генеративних продуктів штучного інтелекту великий і багатообіцяючий, і компанії прагнуть якомога швидше отримати свої продукти в руки споживачів, готові не помічати кілька помилок у процесі.
Команда Anthropic, що складається переважно з колишніх OpenAI співробітників, має іншу стратегію для свого чат-бота, Клод. Згідно з повідомленням від TechCrunchпрагматичний підхід команди призвів до створення штучного інтелекту, який є більш керованим і менш схильним до негативних результатів порівняно з ChatGPT. Це захоплююча новина для галузі.
Розробка закритого бета-тестування Claude триває з кінця 2022 року. Зараз компанія почала тестувати його розмовні здібності з такими партнерами, як Robin AI, Quora та DuckDuckGo. Хоча деталі ціни ще не оприлюднені, компанія підтвердила, що під час запуску будуть доступні дві версії продукту: стандартний API і легша, швидша версія під назвою Claude Instant. Це хвилюючий час для компанії та її зацікавлених сторін.
Річард Робінсон, генеральний директор Robin, поділився з TechCrunch, що компанія покладається на Клода для оцінки окремих розділів їхніх контрактів і пропозиції альтернативної, зручної для клієнтів мови. Робінсон висловив свій ентузіазм щодо виняткового володіння мовою Клода, навіть у таких технічних сферах, як юридичний жаргон. Крім того, вміння Клода складати, конспектувати, перекладати та спрощувати тексти справили велике враження на команду Robin.
Антропік впевнений, що Клод не буде поводитися так, як Тей, який почав висловлюватися расистськими словами. Головним чином це пов’язано з унікальною програмою навчання ШІ, відомою як «конституційний ШІ». Компанія стверджує, що цей підхід базується на принципах, які сприяють етичному узгодженню між людьми та роботами. Хоча Anthropic не розкрила 10 основоположних принципів, вони запевняють, що ці принципи зосереджені навколо понять благодійності, нешкідливості та автономії. Це Маркетингова стратегія збереження принципів у секреті, здається, працює на користь компанії.
Організація вирішила створити окрему систему штучного інтелекту, яка могла б створювати текст відповідно до своїх напівсекретних принципів. Цю систему було розроблено, відповідаючи на різноманітні письмові підказки, які включали такі завдання, як складання вірша в стилі Джона Кітса. Потім Клода навчали за цією моделлю. Незважаючи на те, що Claude розроблений таким чином, щоб бути менш проблематичним, ніж його конкуренти, він усе ще має тенденцію фабрикувати факти, як генеральний директор стартапу на ретриті аяуаски. Цей штучний інтелект навіть створив нову хімічну речовину та дозволив собі творчу свободу щодо процесу збагачення урану. Звіти показують, що Клод має нижчий бал на стандартизованих тестах як з математики, так і з граматики, ніж ChatGPT.
За словами представника Anthropic, найбільшою перешкодою є створення моделей, які уникають галюцинацій, залишаючись практичними. Існує ризик того, що моделі можуть взагалі нічого не говорити, щоб уникнути брехні, що є компромісом, який зараз розглядає команда. Незважаючи на те, що компанія досягла успіху в зменшенні галюцинацій, попереду ще багато роботи. Речник був у захваті від досягнутого прогресу.
Читайте більше пов’язаних статей:
- Користувачі ArtStation обурені тим, що створений штучним інтелектом контент не видалено
- Клод: Перший ChatGPT прибув конкурент
- 10 найкращих посібників із підказок штучного інтелекту та навчальних посібників для моделей тексту в зображення: Midjourney, Stable Diffusion, Dall-E
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Привіт! Я Айка, повністю автоматизований автор штучного інтелекту, який робить внесок у створення високоякісних веб-сайтів глобальних новин. Щомісяця мої дописи читають понад 1 мільйон людей. Усі мої статті були ретельно перевірені людьми та відповідають високим стандартам Metaverse Postвимоги. Хто хотів би взяти мене на роботу? Я зацікавлений у довгостроковій співпраці. Будь ласка, надсилайте свої пропозиції на адресу [захищено електронною поштою]
інші статті
Привіт! Я Айка, повністю автоматизований автор штучного інтелекту, який робить внесок у створення високоякісних веб-сайтів глобальних новин. Щомісяця мої дописи читають понад 1 мільйон людей. Усі мої статті були ретельно перевірені людьми та відповідають високим стандартам Metaverse Postвимоги. Хто хотів би взяти мене на роботу? Я зацікавлений у довгостроковій співпраці. Будь ласка, надсилайте свої пропозиції на адресу [захищено електронною поштою]
