인공 지능(AI)은 사이버 보안 방어를 자동화하고 강화하는 데 도움이 될 수 있지만, 사이버 범죄자들이 더 효과적인 공격을 개발하는 데에도 도움이 될 수 있습니다.
이 글을 읽은 후에 다음을 할 수 있습니다:
글 링크 복사
예측 인공 지능(AI) 및 머신 러닝(ML)은 오랜 기간 사이버 공격의 감지, 완화, 대응에 활용되어 왔습니다. 지난 몇 년 사이, 더 발전된 AI 모델이 등장하고 대규모 데이터 세트로 모델을 학습할 수 있게 되면서 사이버 방어 체계가 한층 견고해졌고, 위협 수명 주기의 초기 단계에서 공격을 감지할 수 있게 되었습니다.
사이버 보안에 사용되는 예측 AI는 봇, 맬웨어, zero-day 취약성 익스플로잇, 내부자 위협을 감지하는 데 도움이 될 수 있으며, 이상 행동 징후와 중요한 데이터 유출을 포착할 수 있습니다. 또한 보안 도구와 팀의 위협 인텔리전스를 강화할 수 있습니다. AI를 통합한다고 해서 기존 보안 조치가 완벽해지는 것은 아니지만, 감지 속도와 정확도를 높일 수 있는 경우가 많습니다. 아울러, AI는 보안팀과 엔지니어링팀의 생산성을 떨어뜨릴 수 있는 반복적이고 수작업이 많은 업무를 자동화하거나 줄이는 데도 기여할 수 있습니다.
AI는 예측부터 기호 식별, 텍스트 생성에 이르기까지 컴퓨터 프로그램이 인간의 지능을 모방하거나 복제하는 다양한 방법을 일컫는 용어입니다.
AI에는 다양한 유형이 존재합니다. 사이버 보안과 가장 밀접하게 연관된 유형으로는 예측형 AI 또는 머신 러닝(ML), 생성형 AI, 에이전틱 AI를 들 수 있습니다.
높은 수준에서, 이러한 모든 유형의 AI는 대규모 데이터 샘플을 기반으로 계산을 수행하는 방식으로 작동합니다. 예를 들어, 몇 가지 악성 코드 샘플을 본 AI 모델은 이전에 본 적이 없는 맬웨어를 식별할 수 있을지도 모릅니다. 예시를 많이 볼수록 맬웨어를 더 빠르고 정확하게 감지하고 무해한 코드와 구별할 수 있습니다.
AI 기반의 사이버 보안 모델은 맬웨어뿐 아니라 사용자 및 애플리케이션의 행위까지 유사하게 분석하여, 기만적이거나 사기성 메시지를 감지하고, 신뢰할 수 없는 IP 주소를 식별하는 등의 작업을 수행할 수 있습니다.
보안 벤더와 그 고객은 AI를 사용하여 다음을 개선할 수 있습니다.
위협 인텔리전스: AI 기반의 네트워크 및 웹 트래픽 분석은 새로운 동향과 전술에 대한 실시간 심층 위협 인텔리전스를 생성할 수 있습니다. 그 인텔리전스는 사이버 방어가 최신 공격에 자동으로 적응하는 데 도움이 될 수 있습니다.
위협 보호: 정적 기본 보안 규칙 집합으로 많은 공격을 차단할 수 있지만, 시간이 지남에 따라 공격자의 전술과 벡터가 바뀔 가능성이 큽니다. AI는 통계 분석을 통해 맬웨어가 진화하고, 공격자가 전술을 변경하거나 명령 및 제어 서버를 전환하며, 다양한 글로벌 위치에서 공격이 발생할 때 위협을 식별하고 방어를 조정하는 과정을 자동화할 수 있습니다. AI가 시간이 지남에 따라 학습하고 결과물을 개선하는 능력은 긍정 오류를 줄이는 데 도움이 될 수 있습니다(긍정 오류는 보안 팀에서 수동으로 검토해야 하므로 생산성이 저하됩니다).
피싱 감지: 피싱은 여전히 가장 많이 사용되는 공격 벡터이며 공격자의 관점에서 보면 가장 성공적인 공격 벡터입니다. 공격자는 최종 목표에 도달하기 전에 내부망 이동을 이용하여 조직 내부에 발판을 마련하는 경우가 많습니다. 피싱과 비즈니스 이메일 손상(BEC) 공격은 점점 더 정교해지고 있으며, 공격자는 GenAI 도구를 사용하여 대규모로 실제와 같은 이메일을 만듭니다. AI 알고리즘은 감정 분석, 머신 러닝, 발신자의 신뢰성 평가를 통해 설득력 있게 구성된 사기 이메일을 감지하는 데 도움이 될 수 있습니다. 피싱 이메일을 탐지하고 차단하면 수신자가 속을 가능성을 없앨 수 있는데, 이는 가장 잘 교육받은 사용자에게도 일어날 수 있습니다.
딥페이크 감지: 공격자들은 피싱 공격, 소셜 엔지니어링 계획, 허위 정보 캠페인에 AI로 생성한 딥페이크를 점점 더 많이 사용하고 있습니다. AI는 콘텐츠나 미디어가 진짜가 아닐 때 나타나는 미묘한 불일치와 이상 징후를 식별하므로 딥페이크를 감지하는 데 도움이 될 수 있습니다. 이는 보안팀에서 정교한 소셜 엔지니어링 공격을 감지하고 차단하는 데 도움이 될 수 있습니다.
행동 분석: ML 알고리즘은 정상적인 활동 기준에서 벗어나는 비정상적인 행동 패턴을 식별할 수 있습니다(예: 타사 소프트웨어 플러그인에서 비정상적인 요청을 보내기 시작하는 경우). 이러한 편차는 손상이 이루어졌거나 악의적인 활동이 진행 중임을 나타낼 수 있습니다. 행동 분석은 이전에는 신뢰할 수 있었던 출처에서 시작된 공격을 비롯하여 다양한 공격을 식별하는 데 도움이 됩니다.
내부자 위협 완화: 행동 분석은 직원, 계약자 및 기타 사용자의 비정상적인 행동을 감지하여 내부자 위협을 차단할 수도 있습니다.
API 보안: 애플리케이션 프로그래밍 인터페이스(API)는 웹 애플리케이션 인프라의 핵심 요소입니다. 오늘날 인터넷의 동적 트래픽 중 API를 오가는 트래픽 비율은 매우 높습니다. API는 공격자들이 자주 노리는 표적이기도 합니다. AI로 강화된 API 보안 방어 체계는 API와의 예상 상호 작용 모델, 즉 스키마를 구축한 후 API 트래픽의 이상 징후을 감지하여 잠재적인 공격을 차단할 수 있습니다.
공급망 위협 감지: 공격자는 타사 도구 및 서비스를 포함한 대상의 종속성, 즉 '공급망'을 공격하여 간접적으로 목표에 접근할 수 있습니다. 이러한 접근 방식은 공격자가 조직을 직접 공격하는 대신 백도어를 통해 침입할 수 있게 해준다고 할 수 있습니다. AI는 타사 종속성에 존재하는 위협을 식별하여 공급망 공격을 차단하는 데 자동화된 방식으로 도움을 줄 수 있습니다.
AI 자체도 취약할 수 있으며 데이터 포이즈닝, 프롬프트 삽입 등 여러 가지 공격에 취약할 수 있습니다. LLM의 주요 위험 및 AI 모델의 보안에 대해 알아보세요.
인공지능(AI)은 사이버 보안 방어를 자동화하고 향상하는 데 도움을 줍니다. AI는 봇, 맬웨어, 내부자 위협 등 사이버 위협을 감지하고 완화하며 대응하는 데 사용됩니다. AI는 위협 탐지를 더 빠르고 정확하게 수행할 수 있으며, 보안 팀의 많은 수동 작업을 자동화할 수도 있습니다.
가장 관련 있는 유형은 패턴을 식별(예: 일반 트래픽과 공격 트래픽을 구분하거나 공격을 나타낼 수 있는 비정상적인 사용자 행동을 식별)하는 예측 AI 또는 머신러닝(ML), 콘텐츠를 해석하고 생성하는 생성형 AI, 위협을 완화하기 위해 자율적으로 조치를 취할 수 있는 AI 에이전트입니다.
AI는 네트워크 트래픽을 분석하여 위협을 식별하고 실시간 위협 인텔리전스를 생성함으로써, 방어 체계가 새로운 공격에 자동으로 적응하도록 합니다.
AI 알고리즘은 감정 분석과 발신자의 신뢰도를 평가하여 정교한 피싱 이메일을 탐지할 수 있습니다. 딥페이크의 경우, AI는 콘텐츠나 미디어에서 미세한 불일치와 이상 징후를 식별하여 진위 여부를 판단하고, 소셜 엔지니어링 공격을 차단하는 데 도움을 줍니다.
머신러닝 알고리즘은 정상 활동의 기준선을 설정한 후, 이를 벗어나는 비정상적인 행동 패턴을 식별할 수 있습니다. 이는 이전에 신뢰되던 소스가 침해되었거나, 내부자 위협이 발생하고 있음을 나타낼 수 있습니다.
AI 기반 방어 시스템은 예상되는 API 상호작용을 모델링한 뒤, API 트래픽에서 이상 징후를 탐지하여 잠재적 공격을 차단할 수 있습니다. 마찬가지로, AI는 서드파티 도구와 서비스에서 존재하는 위협을 자동으로 식별하여 공급망 공격을 차단할 수 있습니다.