GPT-4 Наследява „халюциниращи“ факти и грешки в разсъжденията от по-ранни времена GPT Модели
Накратко
OpenAI казва GPT-4 има подобни ограничения като по-рано GPT модели.
GPT-4 все още халюцинира факти и прави грешки в разсъжденията.
Въпреки това, GPT-4 резултати с 40% по-високи от OpenAIе най-новата GPT-3.5 относно вътрешните състезателни оценки на фактите на компанията.
OpenAI предупреди потребителите, че последният му езиков модел, GPT-4, все още не е напълно надежден и може да „халюцинира“ факти и да прави грешки в разсъжденията. Компанията призовава потребителите да бъдат внимателни, когато използват изходни данни на езикови модели, особено в „контексти с високи залози“.
Добрата новина обаче е, че GPT-4 значително намалява халюцинациите в сравнение с предишните модели. OpenAI твърди, че GPT-4 резултати с 40% по-високи от най-новите GPT-3.5 относно вътрешни състезателни оценки на фактологията.
„Ние постигнахме напредък във външни показатели като TruthfulQA, който тества способността на модела да отделя факта от противниково избран набор от неправилни твърдения. Тези въпроси са съчетани с фактически неверни отговори, които са статистически привлекателни,” OpenAI написа в блог пост.
Въпреки това подобрение моделът все още не познава събитията, настъпили след септември 2021 г., и понякога допуска прости грешки в разсъжденията, точно както правят по-ранните модели. Освен това, той може да бъде прекалено лековерен в приемането на очевидни неверни изявления от потребителите и да се провали при тежки проблеми, като например въвеждане на уязвимости в сигурността в своя код. Той също така не проверява информацията, която предоставя.
Подобно на предшествениците му, GPT-4 може да генерира вредни съвети, код с грешки или неточна информация. Въпреки това, допълнителните възможности на модела водят до нови рискови повърхности, които трябва да бъдат разбрани. За да оцените степента на тези рискове, над 50 експерти от различни области, включително рискове за привеждане в съответствие с изкуствения интелект, киберсигурност, биориск, доверие и безопасност и международна сигурност, бяха ангажирани да тестват състезателно модела. След това тяхната обратна връзка и данни бяха използвани за подобряване на модела, като например събиране на допълнителни данни за подобряване GPT-4способността на да отхвърля искания за това как да синтезира опасни химикали.
Един от основните начини OpenAI намаляването на вредните резултати е чрез включване на допълнителен сигнал за възнаграждение за безопасност по време на RLHF (Reinforcement Learning from Human Feedback) обучение. Сигналът обучава модела да отказва заявки за вредно съдържание, като defiсъобразени с указанията за използване на модела. Наградата се предоставя от a GPT-4 zero-shot класификатор, който преценява границите на безопасност и стила на завършване по подкани, свързани с безопасността.
OpenAI също каза, че е намалил склонността на модела да отговаря на заявки за забранено съдържание с 82% в сравнение с GPT-3.5 и GPT-4 отговаря на чувствителни искания като медицински съвети и самонараняване в съответствие с политиките на компанията с 29% по-често.
Докато OpenAIИнтервенциите на увеличиха трудността за предизвикване на лошо поведение от GPT-4, все още е възможно и все още има джейлбрейкове, които могат да генерират съдържание, което нарушава указанията за използване.
„Тъй като системите с изкуствен интелект стават все по-разпространени, постигането на висока степен на надеждност при тези интервенции ще става все по-критично. Засега е от съществено значение да се допълнят тези ограничения с техники за безопасност по време на разгръщане, като наблюдение за злоупотреба“, добави компанията.
OpenAI си сътрудничи с външни изследователи, за да разбере по-добре и оцени потенциалните въздействия на GPT-4 и неговите наследници модели. Екипът също така разработва оценки за опасни способности, които могат да се появят в бъдещите AI системи. Докато продължават да изучават потенциалните социални и икономически въздействия of GPT-4 и други AI системи, OpenAI ще споделят своите констатации и прозрения с обществеността своевременно.
Чети повече:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Синди е журналист в Metaverse Post, обхващащи теми, свързани с web3, NFT, metaverse и AI, с акцент върху интервюта с Web3 играчи в индустрията. Тя е разговаряла с над 30 ръководители на ниво С и нараства, като е разказала ценните им прозрения на читателите. Първоначално от Сингапур, Синди сега е базирана в Тбилиси, Грузия. Тя има бакалавърска степен по комуникации и медийни изследвания от Университета на Южна Австралия и има десетилетие опит в журналистиката и писането. Свържете се с нея чрез [имейл защитен] с представяния за пресата, съобщения и възможности за интервю.
Още статии
Синди е журналист в Metaverse Post, обхващащи теми, свързани с web3, NFT, metaverse и AI, с акцент върху интервюта с Web3 играчи в индустрията. Тя е разговаряла с над 30 ръководители на ниво С и нараства, като е разказала ценните им прозрения на читателите. Първоначално от Сингапур, Синди сега е базирана в Тбилиси, Грузия. Тя има бакалавърска степен по комуникации и медийни изследвания от Университета на Южна Австралия и има десетилетие опит в журналистиката и писането. Свържете се с нея чрез [имейл защитен] с представяния за пресата, съобщения и възможности за интервю.
