아마존 웹 서비스(AWS)의 머신러닝 블로그(AWS ML Blog)에 따르면, 생성형 AI 기술의 발전이 사이버 보안 환경에 새로운 위협을 가하고 있다. 과거 피싱 이메일은 오타가 잦거나 일반적인 인사말을 사용하고 발신자 도메인이 일치하지 않는 등 식별 가능한 특징이 뚜렷했다. 그러나 최근 사회 공학자들은 생성형 AI와 오픈 소스 인텔리전스(OSINT)를 결합해 완벽한 문법과 적절한 맥락, 개인화된 세부 정보를 갖춘 수천 개의 고유한 메시지를 생성하고 있다. 이제 피싱 이메일의 지표는 오히려 전문적으로 형식화된 완벽한 메시지일 수 있다는 점이 보안 팀에 새로운 과제를 안겨주고 있다. 이러한 변화는 기존의 단순 키워드 필터링이나 규칙 기반 보안 시스템으로는 대응하기 어려운 새로운 보안 패러다임을 요구한다. 생성형 AI가 생성한 피싱 이메일은 고도의 정교함으로 인해 위험 수준을 크게 높였으며, 피싱은 여전히 사이버 공격을 시작하는 가장 흔한 전술 중 하나로 남아있다. 아마존 베드록(Amazon Bedrock)은 이러한 위협에 대응하기 위해 AI 기반의 탐지 기술을 활용하여 기업과 개인의 보안 리스크를 줄이는 역할을 수행한다. 이는 단순히 기술적 방어를 넘어, AI를 활용한 공격에 AI로 맞서는 방어 시스템 구축이 필수적인 상황임을 시사한다. 국내 시장에서도 생성형 AI를 활용한 보안 위협에 대한 경각심이 높아지고 있다. 네이버(NAVER)와 카카오(Kakao) 등 국내 주요 플랫폼 기업들은 자체 거대언어모델(LLM)을 활용해 사용자 보호를 위한 보안 필터링 기술을 고도화하고 있으며, 삼성전자(Samsung Electronics)와 SK텔레콤(SK Telecom) 등은 사내 보안망에 AI 기반 이상 탐지 시스템을 도입하여 내부 정보 유출과 외부 공격을 차단하는 데 집중하고 있다. 또한 금융권인 KB금융그룹과 신한금융그룹은 AI를 활용한 이상거래탐지시스템(FDS)을 강화하며 피싱 공격에 대응하고 있다. 과학기술정보통신부와 개인정보보호위원회 등 정부 당국 역시 AI 기본법 논의와 함께 생성형 AI의 부작용을 최소화하기 위한 가이드라인 마련에 분주한 움직임을 보이고 있다. 결국 보안의 핵심은 누가 더 빠르게 AI를 활용해 공격의 패턴을 학습하고 방어 체계를 자동화하느냐에 달려 있다. 아마존 베드록과 같은 클라우드 기반 AI 서비스가 글로벌 보안 표준을 제시하는 가운데, 국내 기업들 또한 자체적인 AI 보안 솔루션 개발과 도입을 서두르고 있다. 특히 금융 및 통신 분야를 중심으로 AI 기반의 실시간 탐지 기술이 빠르게 확산될 것으로 보이며, 이는 향후 국내 사이버 보안 시장의 핵심 경쟁력이 될 전망이다.