Витік документа Google розкриває труднощі у підтримці конкурентоспроможності в галузі ШІ
Коротко
Документ, який просочився від співробітника Google (Люка Сернау), свідчить про те, що мовні моделі з відкритим кодом швидко перевершують досягнення Google.
У документі підкреслюється важливість уможливлення сторонньої інтеграції та співпраці з зовнішніми зусиллями замість того, щоб шукати гігантські мовні моделі.
Спроби Google захистити свої технологічні переваги від таких конкурентів, як OpenAI є складними.
SemiAnalysis підтвердив, що анонім поділився витоком документа на публічному сервері Discord від дослідника Google. The документ підкреслює, що хоча OpenAI і Google змагаються за розробку найдосконаліших мовних моделей, їхній прогрес швидко затьмарюється прогресом, досягнутим у спільноті з відкритим кодом.
Документ містить особисту думку співробітника Google і не відображає погляди компанії в цілому. Відповідно до Bloomberg, Люк Сернау, старший інженер-програміст Google, поділився документом на внутрішній платформі компанії близько місяця тому.
«Хоча наші моделі все ще мають невелику перевагу за якістю, розрив скорочується напрочуд швидко. Моделі з відкритим вихідним кодом є швидшими, більш настроюваними, більш приватними та потужнішими. Вони роблять речі з $100 і 13 млрд параметрів, з якими ми боремося з $10 млн і 540 млрд. І вони роблять це тижнями, а не місяцями»,
читав документ.
Підхід компанії до мовних моделей був поставлений під сумнів. Сернау написав, що Google не має «секретного соусу» і натомість має прагнути вчитися та співпрацювати з зовнішніми зусиллями. У документі підкреслюється важливість можливості інтеграції сторонніх розробників і визнається, що люди навряд чи будуть платити за обмежену модель, якщо існують безкоштовні альтернативи порівнянної якості. Сернау також стверджував, що гонитва за гігант мовні моделі перешкоджав прогресу та припустив, що меншим варіантам слід приділяти більше уваги. У документі зроблено висновок, що найкращі моделі в довгостроковій перспективі це ті, які можна швидко повторити.
Діаграма, яка містить позначки «з різницею в 2 тижні» та «з різницею в 1 тиждень», була взята з діаграми в оголошенні Vicuna 13-B. Автор змінив оригінальну схему, щоб проілюструвати швидкий розвиток LLaMA Вікунья і альпака слідом за LLaMA розвитку.
Спроби Google захистити свої технологічні переваги від конкурентів, як OpenAI виявилися складними. Більше того, із зростанням співпраці в дослідницькому співтоваристві підтримувати конкурентну перевагу стало ще важче. Маючи доступний доступ до найсучасніших досліджень LLM, інститути по всьому світу проводять дослідження, які значно перевищують можливості Google. Сернау припускає, що Google може або зберігати свої секрети, поки зовнішні інновації зменшують його цінність, або прагнути вчитися в інших дослідників.
Детальніше:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Агне — журналістка, яка висвітлює останні тенденції та події в метавсесвіті, ШІ та Web3 промисловості для Metaverse Post. Її пристрасть до оповідання привела її до численних інтерв’ю з експертами в цих галузях, завжди прагнучи розкрити захоплюючі та привабливі історії. Агне має ступінь бакалавра літератури та має великий досвід написання текстів на різноманітні теми, включаючи подорожі, мистецтво та культуру. Вона також була волонтером редактора організації з прав тварин, де допомагала підвищувати обізнаність про проблеми добробуту тварин. Зв'яжіться з нею [захищено електронною поштою].
інші статті
Агне — журналістка, яка висвітлює останні тенденції та події в метавсесвіті, ШІ та Web3 промисловості для Metaverse Post. Її пристрасть до оповідання привела її до численних інтерв’ю з експертами в цих галузях, завжди прагнучи розкрити захоплюючі та привабливі історії. Агне має ступінь бакалавра літератури та має великий досвід написання текстів на різноманітні теми, включаючи подорожі, мистецтво та культуру. Вона також була волонтером редактора організації з прав тварин, де допомагала підвищувати обізнаність про проблеми добробуту тварин. Зв'яжіться з нею [захищено електронною поштою].
