최근 구글 제미나이(Gemini)를 비롯한 생성형 AI 챗봇이 일반인의 실제 전화번호를 답변에 포함해 노출하는 사례가 연이어 보고되고 있다. 낯선 이들로부터 잘못된 문의 전화를 받는 피해자가 발생하는가 하면, 특정인의 개인 연락처가 챗봇을 통해 유출되는 등 프라이버시 침해 문제가 현실화하고 있다. 개인정보 삭제 서비스 업체인 딜리트미(DeleteMe)에 따르면, 생성형 AI와 관련된 개인정보 삭제 문의가 최근 7개월 사이 400% 급증한 것으로 나타났다. 이번 사태는 생성형 AI 모델의 학습 데이터에 포함된 개인식별정보(PII)가 모델의 답변 과정에서 부적절하게 인용되면서 발생하는 것으로 추정된다. AI 연구자와 보안 전문가들은 생성형 AI가 학습 데이터의 방대한 정보를 처리하는 과정에서 개인정보를 필터링하지 못하는 구조적 한계를 지적해 왔다. 특히 사용자가 챗봇에 자신의 정보를 묻거나 특정인을 검색할 때 정확한 개인 연락처가 출력되는 현상은 AI의 정보 처리 방식에 대한 근본적인 의문을 제기한다. AIDEN 편집팀은 이번 사건이 AI 기업들의 데이터 정제 및 안전성 확보 노력이 여전히 부족함을 보여준다고 분석한다. 현재로서는 개인이 AI 챗봇에 노출된 자신의 정보를 즉각적으로 삭제하거나 차단할 수 있는 마땅한 수단이 없다는 점이 가장 큰 문제다. 향후 AI 모델의 학습 데이터 투명성을 강화하고, 개인정보 유출 시 즉각적인 대응이 가능한 법적·기술적 가이드라인 마련이 시급할 것으로 전망된다. 출처: https://www.technologyreview.com/2026/05/13/1137203/ai-chatbots-are-giving-out-peoples-real-phone-numbers/