史丹佛大學聲稱，圖像生成人工智慧模型正在接受明確的兒童圖像的訓練
簡單來說
流行的文本到圖像生成人工智慧工具包括 Stable Diffusion，正在接受數千張兒童性虐待圖像的培訓。
流行的文字轉圖像 生成AI 工具，包括 Stable Diffusion Stability AI 根據史丹佛網路觀測站的研究報告，正在接受數千張兒童性虐待影像的訓練。
報告補充說，這些圖像有助於產生涉及假兒童的真實露骨內容，並將穿著衣服的青少年轉變為裸體圖像，敦促此類工具背後的公司立即採取行動。
史丹佛網路觀察站的調查重點是 萊昂資料庫，一個巨大的在線圖像和標題存儲庫，由領先的 AI圖像製作者 点讚 Stable Diffusion，訓練人工智慧模型。
在檢查圖像生成人工智慧工具之前，研究人員認為，人工智慧工具透過結合成人色情內容和兒童良性照片的訊息，產生了虐待兒童的圖像。然而，天文台的調查結果卻令人不安，LAION 資料集中發現了 3,200 多張疑似兒童性虐待的圖像。
雖然 LAION 迅速對該報告做出了回應，暫時刪除了其資料集，但這些影像的影響是深遠的。儘管它們僅佔 LAION 5.8 億張圖像的龐大索引的一小部分，但史丹佛大學小組聲稱它們可能會影響 AI工具 產生有害的輸出。
LAION 資料庫開發中一個重要的參與者是 Stability AI是一家總部位於倫敦的新創公司，負責塑造資料集。報告強調，他們的舊版本 Stable Diffusion 去年推出的模型仍然存在於各種應用中，作為產生顯式影像的主要來源。
雖然 Stability AI 聲稱僅託管經過過濾的版本並已採取措施減少濫用，但挑戰在於舊模型的普遍存在。
生成式人工智慧部署需要嚴格的驗證
史丹佛網路天文台首席技術專家 David Thiel 表示，問題的核心可以追溯到許多生成式人工智慧專案在市場上的快速部署。
蒂爾指出，由於該領域的激烈競爭，這些項目往往被廣泛使用，而在開發階段卻沒有得到必要的嚴格關注。
史丹佛大學的研究人員主張採取嚴厲措施來有效解決這個問題。建議包括刪除或清理源自 LAION-5B 的訓練集並製作舊版本的 Stable Diffusion 不太容易接近。
然而，追溯清理資料的複雜性帶來了相當大的挑戰，促使人們呼籲在開發過程中與兒童安全專家合作 人工智慧資料庫.
隨著世界各地的學校和執法機構對這些發現的潛在後果表示震驚，現在的焦點集中在 人工智能行業 緊急解決並糾正其技術中的有害缺陷。
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Kumar 是一位經驗豐富的科技記者，專門研究人工智慧/機器學習、行銷技術以及加密貨幣、區塊鏈和人工智慧等新興領域的動態交叉領域。 NFTs。 Kumar 擁有超過 3 年的行業經驗，在撰寫引人入勝的敘述、進行富有洞察力的採訪和提供全面的見解方面建立了良好的記錄。 Kumar 的專長在於製作高影響力的內容，包括為著名產業平台製作文章、報告和研究出版物。 庫馬爾擁有結合技術知識和講故事的獨特技能，擅長以清晰且引人入勝的方式向不同的受眾傳達複雜的技術概念。
更多文章
Kumar 是一位經驗豐富的科技記者，專門研究人工智慧/機器學習、行銷技術以及加密貨幣、區塊鏈和人工智慧等新興領域的動態交叉領域。 NFTs。 Kumar 擁有超過 3 年的行業經驗，在撰寫引人入勝的敘述、進行富有洞察力的採訪和提供全面的見解方面建立了良好的記錄。 Kumar 的專長在於製作高影響力的內容，包括為著名產業平台製作文章、報告和研究出版物。 庫馬爾擁有結合技術知識和講故事的獨特技能，擅長以清晰且引人入勝的方式向不同的受眾傳達複雜的技術概念。
