همه شرکت های بزرگ فناوری که در حال توسعه LLM هستند باید امنیت مدل را در اولویت قرار دهند
به طور خلاصه
محققان سیستمی را ایجاد کردند که ترکیب می شود مدل های زبان بزرگ برای طراحی مستقل، برنامه ریزی و اجرای آزمایش های علمی، نشان دادن قابلیت های تحقیقاتی خود در سه مورد مختلف.
مدل کدی را برای معادلات شیمیایی نوشت تا بفهمد چه مقدار ماده برای واکنش مورد نیاز است.
La مقاله «قابلیت‌های تحقیقات علمی مستقل و نوظهور مدل‌های زبان بزرگ» به ایده ایجاد سیستمی می‌پردازد که چندین مدل زبان بزرگ را برای طراحی مستقل، برنامه‌ریزی و اجرای آزمایش‌های علمی ترکیب می‌کند. قابلیت های تحقیقاتی عامل را در سه مورد مختلف نشان می دهد که سخت ترین آنها اجرای موفقیت آمیز واکنش های کاتالیز شده است.
پایان نامه اصلی این مقاله عبارت است از:
- محققان کتابخانه ای پیدا کردند که به شما امکان می دهد کد را در پایتون بنویسید و سپس دستورات را برای اجرا به یک دستگاه ویژه برای انجام آزمایش ها (با مخلوط کردن مواد) منتقل کنید.
- محققان استفاده کردند GPT-4 برای جستجو در اینترنت و اسناد کتابخانه، و همچنین توانایی اجرای کد پایتون (برای اجرای آزمایش)؛
- یک زمانبندی سطح بالا وجود دارد (همچنین GPT-4) که درخواست اصلی را تجزیه و تحلیل می کند و "طرح تحقیق" را ترسیم می کند.
- GPT-4 انجام کارهای ساده غیر شیمیایی مانند ایجاد اشکال خاص روی تخته شیمیایی (پر کردن سلول ها به درستی با مواد) به خوبی انجام می دهد.
- آنها یک کار پیچیده تر و کاربردی تر برای انجام یک واکنش را امتحان کردند. مدل به خوبی کنار آمد و منطقی عمل کرد.
- سپس آنها به مدل چندین کار برای انجام آزمایش دادند. با این حال، برای آنچه که مدل ارائه کرد، هیچ آزمایش واقعی انجام نشد.
- علاوه بر این، مدل چندین بار کد معادلات شیمیایی را برای ارزیابی مقدار ماده مورد نیاز برای واکنش نوشت.
- همچنین از آن خواسته شد تا درمانی برای سرطان ایجاد شود. مدل به طور منطقی و روشمند به تحلیل نزدیک شد. ابتدا، به دنبال روندهای فعلی در کشف داروهای ضد سرطان به صورت آنلاین بود. سپس، مدل مولکولی را انتخاب کرد که برای مدل‌سازی دارو استفاده می‌شد و کد سنتز آن را نوشت. مردم کد را اجرا نکردند (و من تحلیلی از کفایت آن ندیدم).
- علاوه بر این، از آن خواسته شد تا چندین ماده خطرناک مانند داروها و سموم را سنتز کند.
اینجا جالب ترین قسمت است. برای برخی از درخواست ها، مدل بلافاصله از کار کردن خودداری کرد (به عنوان مثال، هروئین یا گاز خردل، یک گاز سمی بسیار خطرناک). برای دیگران، شروع به جستجو در گوگل کرد که چگونه این مواد را بسازد، اما متوجه شد که می توان از آنها برای مقاصد غیرقانونی استفاده کرد و از ادامه کار خودداری کرد. برای دیگران، یک طرح تحقیقاتی و کد برای سنتز مواد نوشت.
این "امتناع" محتمل است زیرا GPT-4 برای تجزیه و تحلیل درخواست طراحی شده است و اگر از او خواسته شود کاری غیرقانونی یا خطرناک انجام دهد، بلافاصله از انجام درخواست خودداری می کند. واقعاً جالب است که نتیجه روند هم ترازی قابل توجه است.
و در پایان مقاله، نویسندگان همه بزرگ را ترغیب می کنند شرکت های توسعه دهنده LLM برای اولویت بندی ایمنی مدل ها
- محققان دانشگاه کالیفرنیا این را ایجاد کردند معیار ماکیاولی برای اندازه‌گیری شایستگی و مضر بودن مدل‌های هوش مصنوعی در یک محیط گسترده از تعاملات زبانی بلندمدت. این آزمون از راه‌حل‌های سطح بالا برای دادن اهداف واقعی به عوامل و انتزاع کردن تعاملات سطح پایین استفاده می‌کند.
- انقلاب فکری مشخص شده توسط ChatGPT سه‌گانه‌ای از انقلاب‌های متعالی هم‌افزایی است: فناوری، فن‌آوری-انسانی و اجتماعی-سیاسی. برای نگاهی جامع به آنچه در حال وقوع است، توصیه می شود به آن گوش دهید سه دیدگاه تازه از روشنفکران حوزه های فلسفه، تاریخ و نوآوری.
- داستان درخواست توقف توسعه سیستم های هوش مصنوعی پیشرفته تر از GPT-4 جامعه را دو قطبی کرده است. یک مقاله نمونه هایی از زمانی که فرآیندها در جهت غیرمنتظره ای حرکت می کنند را ارائه می دهد. خطرات استفاده مخرب از هوش مصنوعی و سوء استفاده در نظر گرفته نمی شود، و این به این استدلال منجر می شود که ما باید از مردم بترسیم و نه از خود هوش مصنوعی.
درباره هوش مصنوعی بیشتر بخوانید:
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
مقالات بیشتر
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
