인종차별 스캔들: 중국의 공격적인 AI 이미지 생성기가 국제적 사건을 일으킴
요컨대
Tencent의 AI는 실수로 흑인을 애니메이션 캐릭터 대신 동물로 변형시킵니다.
Tencent의 Different Dimension Me(DDM)는 최근 도입된 AI 도구입니다. 사진 돌리기 사람들을 애니메이션 캐릭터로. 이 플랫폼은 중국 사용자를 위해 설계되었지만 곧 남미와 같이 애니메이션이 사랑받는 다른 지역에서 인기를 얻었습니다. 그러나 사용자들은 플랫폼이 일본 애니메이션에 눈에 띄게 결석한 흑인과 플러스 사이즈 사람들을 식별할 수 없다는 것을 곧 깨달았고, 그 결과 공격적인 AI 생성 결과가 나왔습니다.
안타깝게도 AI가 항상 가장 만족스러운 결과를 내는 것은 아닙니다. 경우에 따라 AI가 생성한 이미지는 과장된 입술을 가진 흑인 남성이나 지나치게 큰 가슴을 가진 백인 여성과 같이 인종적으로 공격적이었습니다.
이 문제는 AI가 학습할 데이터가 부족했기 때문일 수 있습니다. 일본 애니메이션은 흑인이나 덩치 큰 인물을 주인공으로 삼지 않는 경향이 있어 AI가 학습할 정확한 데이터가 없었다. 결과적으로 AI가 생성한 결과는 부정확하고 공격적이었습니다.
텐센트는 공격적인 결과에 대해 사과하고 다양한 유형의 사람들을 더 잘 식별할 수 있도록 AI를 개선하겠다고 약속했습니다. 그동안 사용자는 플랫폼을 사용할 때 주의를 기울이고 결과를 공개적으로 공유하기 전에 확인하시기 바랍니다.
중국 신경망 정보
그들은 자신의 신경망 거기에서 그들은 Google, Nvidia의 업적과 완전히 펌핑되고 완전히 독립적입니다. OpenAI, StabilityAI및 기타 Midjourney 회사.
- 검색 엔진 분야에서 자리를 잡고 최근 몇 년 동안 자율 주행 분야에서 활동을 강화한 Baidu는 10억 145만 개의 중국 이미지 및 텍스트 쌍 데이터 세트에 대해 훈련된 XNUMX억 개의 매개 변수가 있는 모델인 ERNIE-ViLG를 사용합니다.
- 다른 차원의 나(DDM)는 Tencent에서 사람들의 사진을 애니메이션 캐릭터로 바꿀 수 있습니다. 중국 유저들을 타겟으로 하여 애니메이션을 좋아하는 다른 지역에서 갑자기 인기를 끌었습니다.
- 또 다른 중국인 텍스트-이미지 모델 Taiyi는 Microsoft Research Asia의 가장 큰 연구 부서를 공동 설립한 Harry Shum이 이끄는 연구실인 IDEA의 아이디어입니다. 오픈 소스 모델은 20천만 개의 필터링된 중국어 이미지-텍스트 쌍에 대해 훈련되었으며 XNUMX억 개의 매개변수가 있습니다.
중국인들이 “경험이 더 많기 때문에 이 모든 불명예를 어떻게 규제할지 궁금하다.규제” 나머지 세계보다. 그리고 AI 반란군이 "Stable Diffusion 검열 없이” 중국인들은 침착하게 신경망을 조절하기 위한 알고리즘을 연마하고 있습니다. 국가의 이익 신자의 감정에 초점을 맞추지 않습니다.
AI에 대해 자세히 알아보기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
