보안의 계절, 여름을 맞아: AI를 통한 사이버 보안강화

이 블로그는 구글 The Keyword 블로그(영문)에서도 확인하실 수 있습니다.

오늘날 AI는 미국의 새로운 혁신 시대를 여는 전례 없는 기회를 제공하고 있습니다. 구글은 다양한 AI 툴을 활용해 미국 경제를 성장시킴은 물론, 일자리를 창출하고 과학 발전을 가속화할 수 있으며, 무엇보다 사이버 보안 관리자들이 다시 한발 앞서 나갈 수 있도록 지원할 수 있습니다.

특히 보안 분야에서의 새로운 기회를 고려해 볼 때, 구글은 블랙 햇 USA(Black Hat USA) 및 데프콘 33(DEF CON 33)과 같은 올여름 최대 사이버 보안 컨퍼런스를 앞두고 세 가지 핵심 영역 - 에이전트 AI 역량, 차세대 보안 모델 및 플랫폼 기술 진화, 그리고 이러한 툴들의 실질적인 적용을 위환 민관 파트너십 확대 - 에서 의미 있는 진전을 이끌어내게 되어 매우 기쁘게 생각합니다.

1. 구글 AI 에이전트를 통한 사이버 보안 강화

구글은 작년에 구글 딥마인드(Google DeepMind)와 구글 프로젝트 제로(Google Project Zero)가 개발한 AI 에이전트 ‘빅 슬립(Big Sleep)’을 공개했습니다. 이 에이전트는 소프트웨어 내 알려지지 않은 보안 취약점을 능동적으로 탐색하고 찾아냅니다. 지난 2024년 11월, 빅 슬립은 실제 환경에서 첫 보안 취약점을 찾아냈으며, 이는 이용자에게 영향을 미치기 전 보안 허점을 막는 AI로서의 잠재력과 가능성을 입증했습니다.

그 이후로도 빅 슬립은 기대 이상으로 다수의 실제 취약점을 발견하며 AI 기반 취약점 연구의 속도를 한층 더 끌어올렸습니다. 최근에는 Google Threat Intelligence 팀의 정보를 바탕으로 SQLite 취약점(CVE-2025-6965)을 발견하였는데, 이는 위협 행위자들에게만 알려져 있던 심각한 보안 결함이었으며 심지어 악용될 가능성이 큰 상황이었습니다. 구글은 위협 인텔리전스(threat intelligence)와 빅 슬립을 결합해 해당 취약점이 실제 공격되기 직전이라는 것을 예측했고, 이를 사전에 차단했습니다. 이는 AI 에이전트가 실제 공격을 차단하는 데 사용된 첫 사례로 평가됩니다.

이처럼 사이버 보안을 강화해주는 AI 발전은 구글 제품 보안에만 국한되지 않습니다. 실제로 빅 슬립은 널리 사용되고 있는 오픈 소스 프로젝트의 보안성 향상에도 적용되고 있어, 인터넷 전반에 걸쳐 더 빠르고 효과적인 보안을 보장하는 데 큰 도움이 됩니다. 이와 같은 AI 에이전트는 사이버 보안팀이 더 복잡한 위협에 집중할 수 있도록 하여 영향력과 범위를 극적으로 확장시키는 게임 체인저 역할을 하고 있습니다.

물론 이러한 작업은 안전하고 책임감있게 수행되어야 합니다. 구글은 최근 백서를 통해 개인정보 보호, AI 에이전트의 자율적 행동 리스크 최소화, 투명성과 인간의 통제 확보 등 AI 에이전트 개발에 대한 접근법을 공유하였습니다. 이에 AI 에이전트가 Secure by Design Principles에 따라 배포될 경우, 기존의 어떤 툴도 제공하지 못했던 뛰어난 우위를 사이버 보안 관리자들에게 제공할 수 있습니다.

구글은 앞으로도 업계 표준 공개 프로세스를 통해 구글 에이전트 AI에 대한 인사이트 및 발견 내용 등을 공유할 예정입니다. 빅 슬립을 통해 공개된 모든 취약점에 대한 자세한 내용은 구글의 이슈 트래커 페이지에서 확인할 수 있습니다.

2. 새로운 AI 보안 기능 발표

에이전트형 툴은 오늘날 사이버 보안 담당자들이 겪는 부담, 특히 방대한 데이터를 분석하여 보안 사고를 식별해야 하는 고된 작업을 덜어주는 AI의 활용 방안 중 하나일 뿐입니다.

이러한 이유로 올여름, 구글은 보안 전문가들에게 실질적인 이점을 제공하는 AI 기반 보안 기능을 시연할 예정입니다.

• 타임스케치(Timesketch): 구글의 오픈 소스 협업 디지털 포렌식 플랫폼인 타임스케치(Timesketch) 에이전트 기능을 새롭게 확장합니다. Sec-Gemini를 기반으로 구동되는 이 기능은 AI가 초기 포렌식 조사를 자동 수행함으로써 사건 대응을 가속화합니다. 그리고 이를 통해 분석가들이 다른 업무에 집중할 수 있도록 돕고, 전체 조사 시간을 크게 단축할 수 있습니다. 블랙 햇 USA(부스 #2240)에 방문하시면, Sec-Gemini 기반의 타임스케치 로그 분석 기능과 실제 사용 사례를 직접 확인하실 수 있습니다.
• FACADE: 이번 블랙 햇 행사에서는 구글 내부에서 2018년부터 실제로 위협 탐지를 담당한 AI 기반 시스템 FACADE(Fast and Accurate Contextual Anomaly Detection)의 비하인드 스토리를 라이브로 최초 공개합니다. 이를 통해 참석자들은 FACADE가 구글에서 어떻게 매일 수십억 건의 보안 이벤트를 처리하여 내부 위협을 탐지하는지를 확인할 수 있습니다. 특히, 독자적인 대조 학습(contrastive learning) 접근 방식 덕분에, 과거 공격 데이터에 대한 별도의 학습 없이도 위협을 탐지할 수 있습니다.
• 데프콘 젠섹(DEF CON GENSEC) Capture the Flag (CTF): 데프콘 33에서는 구글이 에어버스(Airbus)와 협력해 AI가 사이버 보안 전문가의 역량을 어떻게 발전시킬 수 있는지를 보여주는 CTF 이벤트를 개최합니다. 참가자들은 AI 어시스턴트와 한 팀을 이루어, 다양한 난이도로 구성된 보안 문제를 함께 해결하는 색다른 경험을 하게 됩니다.

3. 공공 및 민간 파트너와 함께 해당 툴들을 실전에 적용

사이버 보안의 성공을 위해서는 업계 전반과 공공 부문 간 긴밀한 협력이 필수적입니다. 이러한 맥락에서 구글은 AI 시스템의 안전한 구현을 보장하기 위한 이니셔티브인, CoSAI(Coalition for Secure AI)의 출범을 위해 다양한 산업 파트너들과 협력해 왔습니다. 이 협력을 한층 더 강화하기 위해, 구글은 오늘 SAIF(Secure AI Framework)의 데이터 기부 계획을 발표합니다.이를 통해 CoSAI의 에이전트 역량, 사이버 보안, 소프트웨어 공급망 보안 등 핵심 과제의 진전을 가속화할 수 있을 것으로 기대됩니다.

또한 다음 달 개최될 데프콘 33에서는, DARPA와 함께 진행한 2년간의 AI 사이버 챌린지(AI Cyber Challenge: AIxCC)의 최종 라운드가 마무리됩니다. 참가자들은 주요 오픈 소스 프로젝트의 보안을 강화할 수 있는 새로운 AI 툴을 공개할 예정이며, 수상자 발표도 이어질 예정이니 많은 기대 부탁드립니다.

구글은 AI가 세상을 더욱 안전하게 만들 수 있다는 가능성을 늘 믿어왔으며, 지난 1년간 그 가능성이 실제 기술의 도약으로 이어지는 것을 직접 확인해 왔습니다. 새롭게 등장한 툴들은 지속 가능하고 강력한 사이버 보안의 기준을 재정의하고 있습니다.

최근 발표한 AI의 진보는 판도를 바꿀 수 있는 잠재력을 갖고 있습니다. 그러나 그 다음 단계에서 어떤 행동을 취하느냐가 더 중요합니다. 올바른 방식으로 기술을 개발하고, 새로운 방식으로 이를 적용하며, 산업과 정부가 함께 협력해 대규모로 구현해 나간다면, 더 번영하는 동시에 더 안전한 디지털 미래를 함께 만들어 갈 수 있을 것입니다.