2023 년 5 월 10 일

AI 데이터 세트에 '악성 삽입'에 대한 전문가 경고 ChatGPT

by 다미르 얄랄로프

게시: 10년 2023월 5일 오전 09시 10분 업데이트: 2023년 5월 09일 오전 XNUMX시 XNUMX분

by 카롤리나 가스치

수정 및 사실 확인 날짜: 10년 2023월 5일 오전 09시 XNUMX분

요컨대

ChatGPT 잠재적으로 취약 훈련 데이터 때문입니다.

연구원에 따르면 미국에서 단 60달러만 있으면 0.01년에 LAION-400 또는 COYO-700 데이터 세트의 2022%를 중독시킬 수 있습니다.

ChatGPT 기술이 점점 대중화되고 있지만 최근 연구 이 기술이 사용하는 교육 데이터로 인해 취약할 수 있음을 시사합니다. 모델이 더 복잡해지고 데이터 세트가 더 크고 복잡해짐에 따라 악의적인 행위자는 이 취약성을 악용하여 데이터 세트를 조작하고 기계 학습 모델이 부정확한 결과를 생성하도록 만들 수 있습니다.

AI 데이터 세트에 '악성 삽입'에 대한 전문가 경고 ChatGPT — @Midjourney / 타타마탈라타#9861

권장 사항 : 에서 예측한 가장 유망한 상위 10개 주식 ChatGPT (AI)는 2023년에 세계 주요 펀드보다 우수한 성과를 낼 것입니다.

주요 관심사는 챗봇 데이터베이스가 종종 "조건부로 확인된" 데이터 세트라는 것입니다. 즉, 광범위한 확인 없이 데이터에 일정 수준의 신뢰가 있음을 의미합니다. 즉, 이러한 데이터 세트에는 종종 고려되지 않은 근본적인 문제가 있을 수 있습니다. 데이터 세트의 크기가 크기 때문에 유효성 검사가 수행되지 않는 경우가 많지만 악의적인 행위자가 이 데이터를 조작할 가능성이 있습니다.

실제로 연구원들은 2022년까지 공격자가 약 60달러를 지출하여 LAION-0.01 또는 COYO-400 데이터 세트의 700%를 감염시킬 수 있다고 제안했습니다. 별거 아닌 것 같지만, 악의적인 행위자는 이 오염된 데이터를 확인하지 않고 두면 자신의 이익을 위해 사용할 수 있습니다. 악성 데이터는 결국 누출 데이터 품질을 손상시키고 신뢰할 수 없는 기계 학습 모델로 이어지는 더 큰 데이터 세트로 이동합니다.

악성 데이터로부터 데이터베이스를 보호하기 위한 조치를 취해야 합니다. 여러 데이터 소스를 집계하는 것이 챗봇의 표준이 되어야 합니다. 훈련 데이터 세트 데이터의 신뢰성과 정확성을 보장합니다. 또한 기업은 악의적인 행위자에게 취약하지 않도록 데이터 세트를 실험해야 합니다.

악성 코드가 있는 AI 챗봇은 해킹에 취약할 수 있습니다.

챗봇의 악성 코드 위협은 매우 심각할 수 있습니다. 악성 코드는 사용자 데이터를 훔치고, 서버에 대한 악의적인 액세스를 가능하게 하고, 다음과 같은 악의적인 활동을 가능하게 하는 데 사용될 수 있습니다. 자금 세탁 또는 데이터 유출. AI 챗봇이 악의적으로 삽입된 데이터에 대해 교육을 받으면 자신도 모르게 응답에 악성 코드를 주입하고 자신도 모르게 악의적인 이득을 위한 도구로 사용될 수 있습니다.

악의적인 행위자가 의도적으로 또는 실수로 악성 코드를 시스템에 도입하여 이 취약점을 이용할 수 있습니다. 훈련 데이터. 또한 AI 챗봇은 제공된 데이터로부터 학습하기 때문에 잠재적으로 잘못된 응답이나 악의적인 행동을 학습하게 할 수 있습니다.

AI 챗봇이 직면할 수 있는 또 다른 위험은 "과적합"입니다. 이것은 예측 모델이 주어진 데이터에 대해 너무 밀접하게 훈련되어 새로운 데이터가 제시될 때 잘못된 예측으로 이어지는 경우입니다. 이것은 다음과 같은 특별한 문제가 될 수 있습니다. AI 챗봇 악성 코드에 대해 교육을 받은 사용자는 데이터에 더 익숙해짐에 따라 응답에 악성 코드를 삽입하는 데 잠재적으로 더 효과적일 수 있습니다.

교육에 사용되는 교육 데이터를 보장하기 위해 위험을 인식하고 예방 조치를 취하는 것이 필수적입니다. ChatGPT 이러한 잠재적인 약점을 방지하기 위해 안전하고 신뢰할 수 있습니다. 교육에 사용되는 초기 데이터도 별도로 유지되어야 하며 고유해야 합니다. "악의적인 삽입물" 홍보는 다른 출처와 충돌하거나 겹치지 않아야 합니다. 확인된 여러 도메인을 "캡처"하여 데이터를 검증할 수 있는 경우 이를 조사하고 다른 도메인과 비교해야 합니다.

챗봇 기술은 사람들이 토론을 수행하는 방식을 변화시킬 것을 약속합니다. 그러나 잠재력을 최대한 발휘하려면 먼저 개선하고 보호해야 합니다. 챗봇용 데이터 세트는 잘 확인되고 악의적인 행위자를 차단할 준비가 되어 있어야 합니다. 이렇게 함으로써 우리는 기술의 잠재력을 최대한 활용하고 제한 인공 지능의.

AI에 대해 자세히 알아보기:

태그 :

책임 부인

줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.

저자에 관하여

Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.

더 많은 기사

다미르 얄랄로프