Звіт про новини Технологія
19 Грудня, 2023

Проект із відкритим вихідним кодом «GuardRail», щоб допомогти підприємствам створити відповідальні рішення ШІ

Коротко

Група ветеранів корпоративного програмного забезпечення представила GuardRail OSS – проект із відкритим вихідним кодом, призначений для відповідальної розробки ШІ.

Проект із відкритим вихідним кодом «GuardRail», щоб допомогти підприємствам створити відповідальні рішення ШІ

Група ветеранів корпоративного програмного забезпечення представила GuardRail OSS – проект з відкритим вихідним кодом, розроблений для забезпечення відповідальної розробки та розгортання ШІ.

На чолі з технічними лідерами, включаючи Реувена Коена, Марка Хінкла – генерального директора Peripety Labs, і Аарона Фулкерсона – ServiceNow ветеран і нинішній генеральний директор Opaque Systems, GuardRail OSS представляє структуру, керовану API, надаючи набір інструментів, необхідних для розширеного аналізу даних, пом’якшення упередженості, аналізу настроїв і класифікації вмісту для задоволення конкретних потреб організацій.

Оскільки програми ШІ стають все більш поширеними у повсякденному використанні та поширюються на великі підприємства, існує чітка вимога налаштувати належне керування цими програмами, коли вони активно використовуються.

Це пов’язано з відкритою природою AI-додатки може генерувати відповіді, які можуть не відповідати правилам або політиці організації, і вкрай важливо впровадити заходи безпеки та дії, щоб гарантувати збереження довіри до генеративного ШІ.

Оскільки вимога підзвітності та контролю в Системи ШІ посилюється зі швидким розвитком можливостей ШІ, GuardRail OSS називають ключовим рішенням. Структура дозволяє компаніям переконатися, що їхні системи штучного інтелекту діють відповідально та етично, ретельно перевіряючи вхідні дані, моніторинг результатів і керуючи внеском ШІ. Можна отримати доступ до проекту тут.

На шляху до прозорої та відповідальної розробки ШІ

Природа GuardRail OSS із відкритим вихідним кодом забезпечує прозорість і дозволяє налаштувати різноманітні галузеві додатки, що охоплюють наукові установи, охорону здоров’я, корпоративне програмне забезпечення тощо.

«Штучний інтелект пропонує важливу можливість змінити як бізнес, так і суспільний ландшафт, і його потенціал повністю реалізується лише тоді, коли він ґрунтується на відповідальній розробці», — сказав Реувен Коен, провідний розробник ШІ, який стоїть за GuardRail OSS.

Однією з важливих особливостей є наголос на наданні підприємствам не лише інструментів нагляду та аналізу, але й засобів для інтеграції інших функцій, таких як емоційний інтелект і прийняття етичних рішень, у їхній Системи ШІ.

Проект, який підтримується Opaque Systems і командою ветеранів галузі, має на меті встановити новий стандарт для прогресивної та відповідальної еволюції ШІ.

Сьогодні ведуться дискусії навколо неправильного використання штучного інтелекту, порушення авторських прав і етичних проблем — саме тут такі проекти з відкритим кодом можуть прокласти шлях до відповідальних практик ШІ та відповідального просування ШІ в різних галузях.

Крім того, проект вирішує проблеми, запроваджуючи ключові функції, включаючи автоматичну модерацію вмісту, Закон ЄС про ШІ комплаєнс, пом’якшення упередженості, етичне прийняття рішень, а також психологічний і поведінковий аналіз.

GuardRail OSS, здається, є значним кроком до того, щоб зробити додатки на основі штучного інтелекту безпечнішими та узгодити розробку штучного інтелекту з етичними принципами, щоб сформувати надійний ландшафт штучного інтелекту на майбутнє.

відмова

Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.

про автора

Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.

інші статті
Кумар Гандхарв
Кумар Гандхарв

Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.

Hot Stories
Приєднуйтеся до нашої розсилки.
Останні новини

Від Ripple до The Big Green DAO: як криптовалютні проекти сприяють благодійності

Давайте розглянемо ініціативи, які використовують потенціал цифрових валют для благодійних цілей.

Дізнайтеся більше

AlphaFold 3, Med-Gemini та інші: як AI трансформує охорону здоров’я у 2024 році

ШІ проявляється різними способами в охороні здоров’я, від виявлення нових генетичних кореляцій до розширення можливостей роботизованих хірургічних систем...

Дізнайтеся більше
Приєднуйтесь до нашої спільноти інноваційних технологій
Детальніше
Читати далі
Токенізовані RWA долають розрив між ними DeFi і TradFi
Думка Топ списки Business ринки Софтвер Технологія
Токенізовані RWA долають розрив між ними DeFi і TradFi
24 Червня, 2024.
Поточний рівень корекції біткойна все ще нижче середнього, каже криптоаналітик Rekt Capital
ринки Звіт про новини Технологія
Поточний рівень корекції біткойна все ще нижче середнього, каже криптоаналітик Rekt Capital
24 Червня, 2024.
Код індексатора протоколу SRC з відкритим вихідним кодом основних розробників, включаючи стандарти маркерів SRC-20, SRC-721 і SRC-101
Звіт про новини Софтвер Технологія
Код індексатора протоколу SRC з відкритим вихідним кодом основних розробників, включаючи стандарти маркерів SRC-20, SRC-721 і SRC-101
24 Червня, 2024.
Зліт і падіння рекламних амбіцій Oracle: мрія про 2 мільярди доларів руйнується
Думка Business Стиль життя ринки Технологія
Зліт і падіння рекламних амбіцій Oracle: мрія про 2 мільярди доларів руйнується
24 Червня, 2024.
CRYPTOMERIA LABS PTE. LTD.