Protect AI는 기존 AI 및 ML 시스템의 심각한 취약점을 보고하고 오픈 소스 프로젝트 보안을 촉구합니다.
요컨대
AI 보호 보고서는 AI/ML 공급망(종종 오픈 소스) 내에서 사용되는 도구의 취약점과 고유한 보안 위협을 식별합니다.
Protect AI의 보고서에 따르면 AI/ML 공급망(주로 오픈 소스) 내에서 사용되는 도구에는 고유한 보안 위협을 전달하는 취약점이 있으며 이러한 취약점은 인증되지 않은 원격 코드 실행 및 로컬 파일 포함의 위험을 초래합니다. 사이버 보안 AI 및 ML 시스템에 중점을 둔 회사입니다.
이는 서버 탈취부터 민감한 정보 도난까지 다양한 결과를 가져올 수 있다고 보고서는 덧붙였습니다.
보고서는 데이터, 모델 및 자격 증명을 보호하기 위해 이러한 취약점을 식별하고 해결하는 데 있어 사전 예방적인 접근 방식의 필요성을 더욱 강조합니다.
Protect AI 노력의 최전선에는 세계 최초의 AI/ML 버그 바운티 프로그램인huntr가 있습니다. 이 프로그램은 취약점을 적극적으로 사냥하는 13,000명 이상의 회원으로 구성된 커뮤니티에 참여하고 있습니다. 이 이니셔티브의 목표는 잠재적인 위협에 대한 중요한 정보를 제공하고 AI 시스템 보안을 위한 신속한 대응을 촉진하는 것입니다.
2023년 XNUMX월, 회사는 AI/ML 오픈소스 소프트웨어(OSS) 보호에만 초점을 맞춘 AI/ML 버그 바운티 플랫폼인huntr의 출시를 발표했습니다. 기본 모델및 ML 시스템. Huntr AI/ML 버그 바운티 플랫폼의 출시는 Protect AI가huntr.dev를 인수한 결과입니다.
Protect AI의 사장 겸 공동 창립자인 Daryan Dehghanpisheh는 “현재 15,000명 이상의 회원을 보유하고 있는 Protect AI의 Huntr는 AI/ML 보안에만 전념하는 위협 연구원 및 해커의 가장 크고 집중된 집합입니다.”라고 말했습니다.
“Huntr의 운영 모델은 단순성, 투명성 및 보상에 중점을 두고 있습니다. 유지관리자를 위한 위협 상황을 파악하는 자동화된 기능과 Protect AI의 분류 전문 지식은 AI의 모든 오픈 소스 소프트웨어 기여자가 보다 안전한 소프트웨어 패키지를 구축하는 데 도움이 됩니다. AI 시스템이 더욱 안전해지고 탄력성이 높아지면서 이는 궁극적으로 모든 사용자에게 이익이 됩니다.”라고 Dehghanpisheh는 덧붙였습니다.
보고서는 심각한 취약점을 식별합니다
지난 달huntr 커뮤니티의 조사 결과를 강조하는 이 보고서는 MLflow 원격 코드 실행, MLflow 임의 파일 덮어쓰기 및 MLflow 로컬 파일 포함을 포함하는 세 가지 중요한 취약점을 식별합니다.
- MLflow 원격 코드 실행: 이 결함으로 인해 서버가 탈취되고 민감한 정보가 손실됩니다. 모델을 저장하고 추적하는 도구인 MLflow는 원격 데이터 저장소를 풀다운하는 데 사용되는 코드에 원격 코드 실행 취약점이 있었습니다. 사용자는 사용자를 대신하여 명령을 실행할 수 있는 악의적인 원격 데이터 소스를 사용하도록 속일 수 있습니다.
- MLflow 임의 파일 덮어쓰기: 이 결함은 시스템 탈취, 서비스 거부, 데이터 파괴 가능성이 있습니다. 파일 경로가 안전한지 확인하는 MLflow 함수의 우회가 발견되어 악의적인 사용자가 원격으로 MLflow 서버의 파일을 덮어쓸 수 있습니다. 이로 인해 시스템의 SSH 키를 덮어쓰거나 다음 사용자 로그인 시 임의 명령을 실행하도록 .bashrc 파일을 편집하는 등의 추가 단계를 통해 원격 코드가 실행될 수 있습니다.
- MLflow 로컬 파일 포함: 이 결함으로 인해 중요한 정보가 손실되고 시스템 탈취 가능성이 발생합니다. 특정 운영 체제에서 호스팅되는 MLflow는 중요한 파일의 내용을 표시하도록 조작될 수 있으며, 필수 자격 증명이 서버에 저장되어 있는 경우 시스템을 탈취할 수 있는 잠재적인 경로를 제시합니다.
Protect AI의 공동 창업자인 Daryan Dehghanpisheh는 다음과 같이 말했습니다. Metaverse Post, “AI/ML 시스템 취약점을 해결하는 시급성은 비즈니스에 미치는 영향에 달려 있습니다. 현대 비즈니스에서 AI/ML의 중요한 역할과 잠재적인 악용의 심각성으로 인해 대부분의 조직에서는 이러한 긴급성을 높게 느낄 것입니다. AI/ML 시스템 보안의 주요 과제는 MLOps 수명주기 전반에 걸쳐 위험을 이해하는 것입니다.”
그는 "이러한 위험을 완화하기 위해 기업은 AI 및 ML 시스템에 대한 위협 모델링을 수행하고, 노출 기간을 식별하고, 통합되고 포괄적인 MLSecOps 프로그램 내에서 적절한 제어를 구현해야 합니다"라고 덧붙였습니다.
보고서에서 Protect AI는 이러한 문제 해결의 시급성을 강조합니다. 취약점 생산 단계에서 영향을 받는 프로젝트가 있는 사용자에게 권장 사항 목록을 즉시 제공하고 잠재적인 위험을 완화하는 데 있어 사전 예방적인 자세의 중요성을 강조합니다. 이러한 취약점을 완화하는 데 어려움을 겪는 사용자는 Protect AI 커뮤니티에 문의하는 것이 좋습니다.
AI 기술이 발전함에 따라 Protect AI는 AI/ML 시스템의 복잡한 웹을 보호하여 인공 지능의 이점을 책임감 있고 안전하게 활용할 수 있도록 노력하고 있습니다.
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
더 많은 기사
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
