[이코노미스트 원태영 기자]인공지능(AI) 기술이 전 산업 분야에 깊숙이 침투하며 혁신을 주도하고 있지만, 동시에 유례없는 보안 위협이라는 ‘부메랑’이 되어 돌아오고 있다. 급변하는 기술 환경 속에서 기업과 국가의 생존을 결정지을 새로운 보안 전략을 모색하는 자리가 마련됐다.

프리미엄 경제지 이코노미스트는 테크 포럼(Tech Forum)을 24일 개최했다. 올해로 12회째를 맞는 ‘이코노미스트 테크 포럼’은 서울 중구 명동 소재 ‘커뮤니티하우스 마실’에서 ‘AI 시대의 새로운 보안 패러다임’이라는 주제로 열렸다. 

이번 포럼은 AI 도입과 데이터 활용 증가로 인해 발생하는 새로운 형태의 보안 취약점을 점검하고 기존의 경계 기반 방어 모델을 넘어선 차세대 보안 솔루션을 논의하기 위해 기획됐다. 지난 2025년 발생한 대규모 보안 사고들은 기존의 방어 체계가 더 이상 안전하지 않다는 사실을 증명했다. 

1부는 정보통신기술(ICT) 분야의 권위자인 김용대 카이스트(KAIST) 교수가 포문을 열었다.

김 교수는 “AI가 보안의 속도를 바꾸고 있다”고 강조하며, 과연 한국 보안은 준비가 돼 있는지 반문했다. 그가 한국 보안을 두고 가장 우려한 부분은 ‘제도’였다. 규제와 인증 중심의 제도가 과연 제대로 작동하고 있느냐는 것이다.

김 교수는 “지난해는 규제와 인증 중심의 제도가 가진 한계를 잘 보여준 한 해”라며 “SK텔레콤, KT, 롯데카드, 쿠팡 등 여러 기업을 대상으로 한 대형 사고가 한 해에 집중됐다”며 “이들은 모두 보안 관련 규제를 따르고 인증을 받은 기업들”이라고 지적했다.

이어 “그럼에도 불구하고 이들 기업 모두 보안 사고를 막지 못했다”며 “그렇다면 규제와 인증 중심의 제도가 과연 제대로 작동하고 있는지 우리는 다시 살펴봐야 한다”고 말했다. 이어 “한국 보안의 가장 큰 문제는 규제 중심이라는 점”이라고 꼬집었다.

2부에서는 현장의 목소리를 생생하게 담았다. 김준엽 라바웨이브 대표와 양하영 안랩 실장이 각각 공격자와 방어자의 입장에서 바라본 보안 실태를 발표했다.

김준엽 대표는 “좋은 보안 제품이 있다고 해도 안심할 수 없다”며 “공격자들은 강력한 보안 제품을 직접 건드리지 않고 기업 임직원을 공격하는 것이 더 효과적이라고 생각한다”고 설명했다.

정면 돌파형 악성 행위는 여전히 존재한다. 하지만 최근 들어 보안 시스템을 우회하는 신원 기반 공격 사례가 늘어나는 것이 사실이다. ‘마이크로소프트 디지털 방어 보고서’에 따르면 지난해 상반기 신원 기반 공격은 전년 동기 대비 32% 증가했다.

김 대표는 “A사의 시스템을 직접적으로 공격하지 않고 사용자 목소리를 카피해 명령을 내리는 영상을 본 적이 있다”며 “신원 획득을 통해 공격자의 행위가 정상적인 이벤트로 보이게 한다. 이처럼 보안 시스템을 무력화시키는 사례가 많아지고 있다는 것을 인지해야 한다”고 강조했다.

김 대표는 대다수가 활용하고 있는 AI도 정보 보안 측면에서 주의해야 한다고 당부했다. 그는 “요즘 시대에는 AI 자체가 정보 보안의 빈틈”이라며 “챗지피티, 제미나이 등의 코드를 감염시키는 AI 포이즈닝이라는 공격 기법이 있다. 참조 페이지 자체를 악성 스크립트로 감염시키는 것인데, 이에 노출되면 내부 정보가 고스란히 전송된다”고 설명했다.

양하영 안랩 실장은 “전통 보안은 개별 행위인 ‘점’(Point)을 보지만 최신 공격은 각각의 행위가 정상으로 인식된다”며 “각 행위를 연결했을 때 정상적이지 않은 부분을 파악할 수 있어 전체 ‘맥락’(Context)을 통해 공격을 탐지하는 전략이 필요하다”고 강조했다.

이날 ‘최신 위협 사례 및 인공지능(AI) 탐지 전략’을 주제로 발표한 양 실장은 최근 사이버 공격이 탐지 회피 중심으로 진화하고 있다고 진단했다. 그는 ▲국가배후 공격 ▲랜섬웨어 ▲정보유출 악성코드 ▲LNK 파일 기반 공격 등 네 가지 보안 위협을 중심으로 최근 사이버 공격의 특징을 설명했다.

양 실장은 “전통적인 보안 제품은 시그니처나 행위 기반 탐지에 의존하지만, 정상 소프트웨어를 악용하거나 파일을 남기지 않는 공격이 늘면서 탐지가 점점 어려워지고 있다”고 말했다. 

특히 공격이 ‘정상 위장’ 중심으로 고도화되면서 보안 패러다임 전환이 불가피하다는 게 양 실장의 결론이다. 그는 “이제는 개별 파일이나 행위를 기준으로 판단하는 방식으로는 대응이 불가능하다”며 “사용자 행위, 프로세스 흐름, 시간적 연속성을 모두 연결해 보는 ‘맥락 기반 탐지’가 필요하다”고 말했다.

마지막 3부에서는 이원태 대통령직속 국가인공지능전략위원회 위원이 마이크를 잡았다. 이원태 국가인공지능전략위원회 위원은 “AI 시대 보안은 개별 기업의 문제가 아니라 국가 안보와 직결된 사안”이라고 강조했다.

그는 최근 사이버 공격 양상이 빠르게 변화하고 있다고 진단했다. 과거에는 단발성 해킹이 주를 이뤘다면, 이제는 수년간 잠복하는 지능형 공격(APT)과 AI 기반 자동화 공격이 결합되면서 피해 규모와 파급력이 크게 확대되고 있다는 설명이다. 

이 위원은 이 같은 사례들을 통해 “현재 보안 체계는 이미 구조적으로 한계에 도달했다”고 진단했다. 특히 ▲장기 잠복형 공격 ▲인증체계 붕괴 ▲대응 지연 ▲유출 정보의 2차 범죄 활용 등 ‘보안 실패의 악순환’이 반복되고 있다고 지적했다. 

AI 기술 확산은 이러한 위협을 더욱 가속화하고 있다. 생성형 AI와 자율 에이전트의 등장으로 공격의 자동화·대규모화가 가능해지면서, 기존 대비 훨씬 낮은 비용으로 정교한 공격이 가능해졌기 때문이다.

이 위원은 향후 정책 방향으로 ▲AI 기반 사이버 안보 플랫폼 구축 ▲딥페이크 대응 기술 및 특화 모델 개발 ▲AI 레드팀(취약점 점검) 체계 구축 ▲개인정보 보호 대응 강화 등을 제시했다. 

아울러 “AI 안보는 수동적 방어를 넘어 적극적 대응까지 포함하는 개념으로 확장되고 있다”며 “외교부 등과 협력해 국제 공조 체계를 강화하고, 기술 유출 방지 등 국가 차원의 대응 역량을 높여야 한다”고 말했다. 

그는 “AI 보안 정책은 산업, 기술, 안보를 아우르는 삼각 구조로 추진돼야 한다”며 “민관 협력 기반의 생태계를 구축하는 것이 가장 중요한 과제”라고 강조했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지