2023 년 5 월 29 일

AI 블랙박스: 정의 및 작동 방식

by 다미르 얄랄로프

게시: 29년 2023월 9일 오전 00시 29분 업데이트: 2023년 8월 11일 오전 XNUMX시 XNUMX분

by 카롤리나 가스치

수정 및 사실 확인 날짜: 29년 2023월 9일 오전 00시 XNUMX분

요컨대

AI 블랙박스는 알고리즘, 훈련 데이터, 모델로 구성된 머신러닝처럼 사용자 지식 없이 동작하는 시스템이다.

블랙박스는 소프트웨어를 리버스 엔지니어링하고 악용할 결함을 발견하는 데 사용할 수 있고 소프트웨어 테스터와 해커가 약점을 찾는 데 사용할 수 있기 때문에 소프트웨어 보안에 중요합니다.

많은 사람들에게 "블랙 박스"라는 용어는 상상할 수 없는 일이 발생할 경우 사후 검사에 유용한 비행기의 기록 장치를 의미합니다. 다른 사람들에게는 작고 최소한으로 꾸며진 극장입니다. 그러나 블랙박스는 인공지능에도 필수적이다.

인공지능 블랙박스 사용자 모르게 작동하는 시스템입니다. 입력을 제공하고 출력을 얻을 수 있지만 출력을 생성하는 데 사용되는 시스템 코드나 논리를 검사할 수는 없습니다.

기계 학습 인공 지능의 지배적 인 유형입니다. 알고리즘 또는 일련의 알고리즘, 교육 데이터 및 모델로 구성됩니다.

알고리즘은 일련의 절차입니다. 학습된 후 알고리즘은 알려진 패턴을 인식할 수 있습니다.
트레이닝 데이터 AI 모델 학습에 사용되는 데이터 세트입니다.
기계 학습 알고리즘은 본질적으로 많은 수의 예제에서 학습하고 기계 학습 모델을 생성하도록 설계된 절차입니다. 기계 학습 모델은 일단 생성되면 사람들이 사용하는 것입니다.

이미지 인식 알고리즘은 이미지 추세를 발견하도록 프로그래밍할 수 있으며 훈련 데이터는 개의 사진을 나타낼 수 있습니다. 이미지를 입력으로 제공하고 이미지에서 픽셀 집합이 개를 나타내는 것으로 나타나는지 여부와 위치를 출력으로 얻습니다.

기계 학습 알고리즘이 공개적으로 알려져 있기 때문에 블랙 박스를 숨기는 것은 덜 효과적입니다. AI 엔지니어는 블랙박스에 지적 재산을 숨기는 경우가 많기 때문에 보통 블랙박스에 모델을 넣습니다. 다른 방법 소프트웨어 개발자 숨기다 데이터는 모델을 교육하는 데 사용되는 데이터를 가리는 것입니다. 즉, 교육 데이터를 블랙 박스에 넣는 것입니다.

블랙박스 알고리즘이 어떻게 작동하는지 이해하기는 어렵지만 흑백논리는 아닙니다.

글래스 박스는 알고리즘, 훈련 데이터, 모델 등이 공개된 시스템을 의미하고, 블랙 박스는 알고리즘, 훈련 데이터, 모델이 숨겨져 있는 시스템을 의미합니다. 블랙박스라는 용어는 연구원들이 AI 시스템의 이러한 측면조차 검은색으로 설명할 때 자주 사용됩니다.

특히 기계 학습 알고리즘에 대한 지식이 부족합니다. 딥 러닝 알고리즘, 기능. 연구원들은 반드시 유리 상자는 아니지만 인간이 더 잘 이해할 수 있는 알고리즘을 개발하고 있습니다.

AI 블랙박스가 중요한 이유는?

블랙박스 기계 학습 알고리즘과 모델을 신뢰하는 것이 항상 좋은 생각은 아닙니다. 은행에서 기업 대출을 받을 자격이 있는지 여부를 결정하는 기계 학습 모델이 거절하면 어떻게 됩니까? 다음 번에 대출을 받을 가능성을 높이기 위해 결정에 대해 더 잘 이의를 제기하거나 상황을 변경할 수 있도록 알고 싶습니다.

블랙박스에 소프트웨어를 보관하는 것은 해커가 소프트웨어를 검사하는 것을 방지하여 보안을 강화하는 것으로 여겨져 왔습니다. 그러나 해커는 리버스 엔지니어링 즉, 소프트웨어가 밀접하게 작동하는 방식을 연구하고 악용할 결함을 발견합니다. 블랙박스는 또한 소프트웨어 시스템 보안에 중요한 영향을 미칩니다.

소프트웨어 테스터와 선의의 해커가 소프트웨어를 테스트하는 데 사용되는 유리 상자 내부를 들여다보고 약점을 찾아 사이버 공격을 줄이는 것이 가능합니다.

더 많은 관련 기사 읽기:

태그 :

책임 부인

줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.

저자에 관하여

Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.

더 많은 기사

다미르 얄랄로프