2024년 기술 동향: 업계 리더들이 딥페이크 위협에 대응하기 위해 AI를 채택
요컨대
딥페이크 기술과의 전쟁에서 업계에서는 조작된 콘텐츠의 확산을 막기 위해 AI 도구와 솔루션을 사용하고 있습니다.
러시아-우크라이나 전쟁이 진행되는 동안 볼로디미르 젤렌스키 우크라이나 대통령이 전쟁 도중 군대에게 항복을 요청하는 영상이 공개됐다. 이것은 나중에 다음과 같은 것으로 밝혀졌습니다. 딥 페이크 비디오.
점점 더 치열해지는 전투 속에서 딥 페이크 기술, 업계에서는 조작된 콘텐츠의 확산에 맞서기 위해 점점 더 정교한 기술 무기고로 전환하고 있습니다. 콘텐츠 진위성 이니셔티브부터 눈에 보이지 않는 워터마킹 기술, 알고리즘 탐지 도구, 협업 프로젝트, 플랫폼 정책 변경에 이르기까지 딥페이크와의 싸움은 다각적이고 역동적으로 변하고 있습니다.
콘텐츠 진위성 및 콘텐츠 출처
업계 관계자들이 주도하는 콘텐츠 진위성 이니셔티브(Content Authenticity Initiative)는 콘텐츠에 대한 속성 정보를 암호화하여 생성부터 소비까지 검증하는 것을 목표로 합니다. 동시에 콘텐츠 출처 및 인증 연합(C2PA)은 콘텐츠의 출처, 변경 및 기여자에 대한 데이터 제공에 중점을 둔 개방형 표준 기술 사양을 발표했습니다.
Microsoft는 C2PA 디지털 워터마킹 자격 증명을 활용하여 선거 후보자와 캠페인이 콘텐츠에 대한 통제력을 유지하도록 지원하는 "서비스로서의 콘텐츠 자격 증명"을 발표함으로써 한 단계 더 나아갔습니다.
워터마킹 기술
메타는 오픈소스로 생성된 콘텐츠를 구별하기 위해 고안된 눈에 보이지 않는 워터마킹 기술인 Stable Signature를 선보였습니다. 생성 AI 모델. 육안으로는 감지할 수 없지만 알고리즘으로 추적할 수 있는 이 보이지 않는 워터마크는 조작된 이미지를 식별하는 데 도움이 됩니다. Google DeepMind는 또한 사용자가 AI 생성 이미지나 오디오에 디지털 워터마크를 직접 삽입할 수 있도록 하는 SynthID와의 경쟁에 뛰어들었습니다.
이 기술을 통해 사용자는 콘텐츠에서 워터마크를 스캔하여 해당 콘텐츠가 Google의 AI 모델을 사용하여 생성되었는지 또는 변경되었는지에 대한 통찰력을 얻을 수 있습니다.
알고리즘 탐지
업계에서는 화자 인식, 음성 생체 감지, 얼굴 인식, 시간적 분석. Microsoft의 Video Authenticator와 Intel이 지원하는 FakeCatcher가 주목할만한 예입니다.
그러나 진화하는 딥페이크 생산 기술이 지속적으로 신뢰성에 도전함에 따라 탐지 도구의 일시적인 특성에 문제가 있습니다. ㅏ 공부 데이터세트 전반에 걸쳐 다양한 정확도 수준(30~97%)을 발견했는데, 이는 신흥 딥페이크 기술에 보조를 맞추기 위해 지속적인 혁신이 필요함을 나타냅니다.
프로젝트 원산지
BBC 등 언론기관 Microsoft, 프로젝트 오리진(Project Origin)에 협력했습니다. 이 이니셔티브는 합성 미디어에 대한 엔지니어링 접근 방식을 확립하고 미디어 콘텐츠를 게시자에게 확인 가능한 추적을 위해 디지털 서명된 링크를 제공하는 것을 목표로 합니다. 또한 이 프로젝트는 배포 중에 콘텐츠가 변경되지 않도록 유효성 검사를 구현하는 것을 목표로 합니다.
플랫폼 정책 변경
정치 광고의 위험성이 높은 맥락에 대응하여 다음과 같은 주요 플랫폼은 메타 Google은 투명성을 강화하기 위한 정책 변경을 발표했습니다. Meta의 업데이트된 정치 광고 공개 정책에 따라 광고주는 선거 관련 또는 정치 광고에서 디지털 방식으로 변경된 콘텐츠를 공개해야 합니다.
유튜브 제작자는 합성 미디어 콘텐츠의 사용을 공개해야 하며 이를 준수하지 않을 경우 콘텐츠 게시 중단이나 YouTube 파트너 프로그램 정지 등의 처벌을 받을 수 있습니다. Google Play 스토어도 생성 AI 애플리케이션을 통해 유해하거나 사기성 콘텐츠의 생성 및 배포를 방지하는 데 초점을 맞춘 AI 생성 콘텐츠에 대한 정책을 도입했습니다.
딥페이크와의 싸움이 심화됨에 따라 디지털 콘텐츠의 진정성과 신뢰성을 보존하는 데 업계 개입과 기술 솔루션이 필수적인 것으로 입증되었습니다. 다양한 부문에 걸친 주요 기업들의 공동 노력은 진화하는 합성 미디어 환경에서 앞서 나가려는 의지를 반영합니다.
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
더 많은 기사
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
