Стенфорд стверджує, що моделі штучного інтелекту, які створюють зображення, навчаються на відвертих дитячих зображеннях
Коротко
Популярні інструменти штучного інтелекту для створення тексту в зображення, зокрема Stable Diffusion, проходять навчання на тисячах зображень сексуального насильства над дітьми.
Популярне перетворення тексту в зображення генеративний ШІ інструменти, в т.ч Stable Diffusion від Stability AI Проходять навчання на тисячах зображень сексуального насильства над дітьми, згідно зі звітом дослідження Стенфордської Інтернет-обсерваторії.
У звіті додається, що ці зображення сприяють створенню реалістичного відвертого контенту, в якому зображені несправжні діти та перетворення одягнених підлітків на оголені зображення, що закликає до негайних дій від компаній, що стоять за такими інструментами.
Розслідування Стенфордської Інтернет-обсерваторії було зосереджено на База даних LAION, величезне сховище онлайн-зображень і підписів, які використовуються провідними ШІ іміджмейкери як Stable Diffusion, для навчання моделей ШІ.
Перш ніж перевірити інструменти штучного інтелекту, які створюють зображення, дослідники вважали, що інструменти штучного інтелекту створюють образливі зображення дітей шляхом поєднання інформації з порнографії для дорослих і доброякісних фотографій дітей. Однак висновки Обсерваторії представляють тривожний поворот: у наборі даних LAION виявлено понад 3,200 зображень підозрілих сексуальних насильств над дітьми.
Хоча LAION швидко відреагував на звіт, тимчасово видаливши свої набори даних, наслідки цих зображень є далекосяжними. Незважаючи на те, що вони становлять незначну частину величезного індексу LAION із 5.8 мільярдів зображень, Стенфордська група стверджує, що вони, ймовірно, впливають на здатність Інструменти AI генерувати шкідливі виходи.
Важливим гравцем у розвитку бази даних LAION є Stability AI, лондонський стартап, відповідальний за формування набору даних. У звіті підкреслюється, що старіша версія їх Stable Diffusion Модель, представлена минулого року, все ще присутня в різних програмах як основне джерело для створення чітких зображень.
хоча Stability AI стверджує, що розміщує лише відфільтровані версії та вживає заходів для пом’якшення зловживання, проблема полягає в поширеності старішої моделі.
Розгортання Generative AI вимагає суворої перевірки
За словами Девіда Тіля, головного технолога Стенфордської інтернет-обсерваторії, суть проблеми полягає у швидкому розгортанні багатьох генеративних проектів ШІ на ринку.
Тіль зазначає, що ці проекти часто робили широко доступними через інтенсивну конкуренцію в галузі, без необхідної суворої уваги на етапі розробки.
Стенфордські дослідники виступають за радикальні заходи для ефективного вирішення проблеми. Рекомендації включають видалення або очищення навчальних наборів, отриманих від LAION-5B, і створення старішої версії Stable Diffusion менш доступні.
Однак складність ретроспективного очищення даних створює значну проблему, що спонукає до співпраці з експертами з безпеки дітей під час розробки Бази даних ШІ.
Оскільки школи та правоохоронні органи по всьому світу висловлюють занепокоєння щодо потенційних наслідків цих знахідок, у центрі уваги зараз Індустрія штучного інтелекту терміново вирішити та виправити шкідливі недоліки в їхній технології.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.
інші статті
Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.
