생성형 AI가 기업의 업무 방식을 빠르게 바꾸고 있다. 많은 기업이 ChatGPT, Microsoft Copilot, Google Gemini, Claude 등을 자료 검색과 문서 작성, 번역, 요약, 소프트웨어 개발에 활용하고 있다. 최근에는 RAG 시스템을 통해 사내 문서와 데이터베이스를 대규모언어모델과 연결하고, AI 에이전트가 ERP와 CRM, 이메일, 파일 저장소 등에서 실제 업무를 수행하는 단계로 발전하고 있다. 보안 분야에서 방화벽은 익숙한 개념이다. 네트워크 방화벽은 IP 주소와 포트, 프로토콜, 세션 상태를 기준으로 통신을 제어한다. 차세대 방화벽은 애플리케이션과 사용자, URL, 콘텐츠를 식별하며, 웹방화벽은 HTTP와 API 요청을 분석해 웹 애플리케이션 공격을 방어한다. 그러나 생성형 AI 환경에서 발생하는 위험은 기존 네트워크 공격이나 웹 공격과 성격이 다르다. 직원이 고객정보가 포함된 계약서를 생성형 AI에 업로드해 요약을 요청하거나, 개발자가 오류 분석을 위해 사내 소스코드를 외부 AI 서비스에 입력할 수 있다. 이러한 행위는 정상적인 사용자가 허용된 AI 서비스에 접속한 것이므로 기존 방화벽에서는 공격으로 판단되지 않는다. 하지만 프롬프트와 첨부파일에 개인정보, 소스코드, 영업기밀이 포함돼 있다면 기업에는 심각한 정보 유출과 규정 준수 위험이 된다. 모바일릴게임손오공 기존 보안체계가 네트워크 연결과 애플리케이션, HTTP 요청의 정상 여부를 검사한다면, AI 보안은 프롬프트와 응답의 의미, 데이터의 민감도, 사용자의 업무 목적, RAG가 검색한 문서와 AI 에이전트의 행동까지 이해하고 통제해야 한다. 이러한 필요에서 등장한 새로운 보안 개념이 AI 방화벽이다. AI 방화벽은 사용자가 입력한 프롬프트와 업로드 파일을 검사해 개인정보, 계좌번호, API 키, 소스코드, 계약서, 기업 기밀 등이 포함됐는지 파악한다. 사용자와 부서, AI 서비스, 업무 목적, 데이터 민감도를 함께 분석하고 기업 정책에 따라 허용, 경고, 마스킹, 차단 등의 조치를 수행한다. 입력 데이터만 검사하는 것도 아니다. AI가 생성한 응답과 RAG가 검색한 사내 문서, AI 에이전트가 호출하는 API와 업무 도구까지 검사할 수 있어야 한다. 사내 RAG의 권한 설정이 잘못되면 사용자가 볼 수 없는 문서가 AI 응답에 포함될 수 있고, 과도한 권한을 가진 AI 에이전트는 이메일 발송이나 파일 수정 같은 작업을 기업의 의도와 다르게 수행할 수 있기 때문이다. 프롬프트 인젝션과 탈옥 공격등 AI를 대상으로 한 공격도 주목해야 한다. 공격자는 자연어 지시를 이용해 AI의 보안정책을 우회하거나 시스템 프롬프트와 내부정보를 노출하도록 유도한다. 이러한 공격은 정상적인 HTTPS 통신 안에서 자연스러운 문장으로 전달되므로 기존 보안장비로는 탐지하기 어렵다. 오리지널 바다이야기 AI 방화벽은 프롬프트의 내용과 의도, 대화 문맥을 분석해 의심스러운 요청을 모델에 전달하기 전에 차단한다. 이중원 롤텍 부사장은 “세계적인 AI 보안 전문 회사인 Defenix사의 DefenGPT AI Firewall은 안전한 AI 사용환경을 구현하기 위해 데이터 분류, 감사, 가드레일 정책을 제공하는 AI 전문 보안 솔루션이라며, ChatGPT, Copilot, Gemini 등 공개형 AI의 사용 현황을 가시화하고, 사용자의 프롬프트와 첨부파일, AI의 응답을 기업 정책에 따라 검사하는 기능을 가지고 있고, 고객의 환경에 따라 네트워크 프록시, 브라우저 확장, 서비스 API 방식을 선택하거나 결합할 수 있고, 공개형 AI뿐 아니라 사내 AI, Private AI, RAG, MCP, AI 에이전트와 도구 호출 과정까지도 보호할 수 있는 AI 전용 방화벽” 이라고 강조한다. 생성형 AI가 필수적인 업무 도구로 자리 잡은 지금, 더 이상 “AI를 허용할 것인가, 차단할 것인가”만을 논의해서는 안 된다. 이미 시작된 AI 사용을 발견하고, 누가 어떤 데이터를 어떤 AI에 입력하는지 파악하며, 위험한 데이터와 행동만 정밀하게 통제해야 한다. AI 방화벽은 AI 활용을 막는 제품이 아니다. 기업이 생성형 AI를 안전하고 책임 있게 활용할 수 있도록 지원하는 새로운 보안 경계다. 다음 회에서는 생성형 AI를 통한 개인정보와 소스코드, 기업 기밀의 유출 위험과 이를 방지하기 위한 AI 방화벽의 주요 기능을 살펴본다. 있어야 한다. 사내