이미지 생성 AI 모델은 노골적인 어린이 이미지로 훈련되고 있다고 Stanford는 주장합니다.
요컨대
다음을 포함하는 인기 있는 텍스트-이미지 생성 AI 도구 Stable Diffusion, 수천 개의 아동 성적 학대 이미지에 대한 훈련을 받고 있습니다.
인기 있는 텍스트를 이미지로 변환 생성 적 AI 다음을 포함한 도구 Stable Diffusion 에 Stability AI Stanford Internet Observatory의 연구 보고서에 따르면 수천 개의 아동 성적 학대 이미지에 대해 훈련을 받고 있습니다.
보고서는 이러한 이미지가 가짜 어린이와 관련된 사실적이고 노골적인 콘텐츠의 생성을 촉진하고 옷을 입은 십대의 누드 이미지로 변형을 촉진한다고 덧붙였습니다. 이러한 도구를 사용하는 회사의 즉각적인 조치를 촉구합니다.
스탠포드 인터넷 천문대(Stanford Internet Observatory)의 조사는 다음 사항에 초점을 맞췄습니다. LAION 데이터베이스, 주요 기업이 활용하는 대규모 온라인 이미지 및 캡션 저장소 AI 이미지 메이커 처럼 Stable Diffusion, AI 모델을 훈련합니다.
이미지 생성 AI 도구를 확인하기 전 연구자들은 AI 도구가 성인 음란물과 어린이의 양성 사진 정보를 결합하여 어린이에 대한 학대적인 이미지를 생성한다는 견해를 가지고 있었습니다. 그러나 관측소의 조사 결과는 LAION 데이터 세트 내에서 3,200개 이상의 아동 성적 학대 의심 이미지가 확인되어 충격적인 반전을 보여줍니다.
LAION은 데이터 세트를 일시적으로 제거하여 보고서에 신속하게 대응했지만 이러한 이미지의 의미는 광범위합니다. 비록 이것이 5.8억 개의 이미지로 구성된 LAION의 방대한 인덱스의 일부를 구성하지만 스탠포드 그룹은 이것이 이미지의 능력에 영향을 미칠 가능성이 있다고 주장합니다. 인공 지능 도구 유해한 출력을 생성합니다.
LAION 데이터베이스 개발에 중요한 역할을 하는 사람은 Stability AI, 데이터 세트 형성을 담당하는 런던 기반 스타트업입니다. 보고서는 이전 버전의 Stable Diffusion 작년에 소개된 모델은 노골적인 이미지를 생성하는 주요 소스로 여전히 다양한 응용 프로그램에 존재합니다.
이기는하지만 Stability AI 필터링된 버전만 호스팅한다고 주장하고 오용을 완화하기 위한 조치를 취했지만 문제는 이전 모델이 널리 퍼져 있다는 점입니다.
생성적 AI 배포에는 엄격한 검증이 필요합니다
Stanford Internet Observatory의 수석 기술자인 David Thiel에 따르면 이 문제의 핵심은 많은 생성 AI 프로젝트가 시장에 빠르게 배포되는 데 있습니다.
Thiel은 이러한 프로젝트가 개발 단계에서 필요한 엄격한 주의 없이 현장에서의 치열한 경쟁으로 인해 널리 접근 가능한 경우가 많았다고 지적합니다.
스탠포드 연구원들은 이 문제를 효과적으로 해결하기 위한 과감한 조치를 옹호합니다. 권장 사항에는 LAION-5B에서 파생된 훈련 세트를 삭제하거나 정리하고 이전 버전을 만드는 것이 포함됩니다. Stable Diffusion 접근성이 떨어집니다.
그러나 데이터를 소급하여 정리하는 과정의 복잡성으로 인해 상당한 어려움이 따르므로 개발 과정에서 아동 안전 전문가와의 협력이 필요합니다. AI 데이터베이스.
전 세계의 학교와 법 집행 기관이 이러한 발견의 잠재적인 결과에 대해 경고를 표명함에 따라 이제 주목을 받고 있습니다. AI 산업 기술 내 유해한 결함을 시급히 해결하고 수정합니다.
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
더 많은 기사
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
