구글이 기업 시장을 겨냥한 새로운 인공지능(AI) 플랫폼을 선보이며 본격적인 사업 확장에 나섰습니다. 하지만 동시에 심각한 보안 취약점이 발견되었음에도 구글이 이를 방치하기로 결정하면서 우려의 목소리가 커지고 있습니다.

기업용 AI 에이전트, ‘제미나이 엔터프라이즈’ 공개

구글은 기업이 업무 환경에 AI 에이전트를 손쉽게 통합할 수 있도록 지원하는 포괄적인 플랫폼 ‘제미나이 엔터프라이즈(Gemini Enterprise)’를 공식 출시했습니다. 이는 기존의 ‘에이전트스페이스(Agentspace)’를 대체하고 확장하는 서비스로, 최신 제미나이 모델과 사전 구축된 에이전트, 강화된 보안 기능을 결합한 것이 특징입니다.

구글은 대기업을 위한 ‘제미나이 엔터프라이즈’를 사용자당 월 30달러, 중소기업을 위한 ‘제미나이 비즈니스(Gemini Business)’를 월 21달러의 구독료로 제공합니다. 이 서비스를 통해 기업 직원들은 코딩 지식 없이도 박스(Box), 마이크로소프트, 세일즈포스 등의 데이터를 활용하는 맞춤형 AI 에이전트를 구축할 수 있습니다. 또한, 소프트웨어 개발, 데이터 과학, 고객 관리 등 특정 업무를 위해 사전 제작된 구글 에이전트와 워크데이(Workday) 등 타사 에이전트도 함께 제공됩니다.

토마스 쿠리안 구글 클라우드 CEO는 미디어 브리핑에서 “컨설팅, 통신, 소프트웨어, 환대 산업 등 다양한 분야의 기업들이 이미 이 서비스를 활용하고 있다”고 밝혔으며, 크루즈 라인 ‘버진 보야지(Virgin Voyages)’를 초기 도입 사례로 언급했습니다.

드러난 보안 취약점과 구글의 소극적 대응

이러한 공격적인 사업 확장 이면에는 해결되지 않은 보안 문제가 존재합니다. 보안 연구원 빅터 마르코풀로스는 제미나이의 심각한 결함을 발견했다고 밝혔습니다. 이 취약점은 사람이 볼 수는 없지만 AI 모델이 명령으로 인식하는 숨겨진 문자(제어 문자 또는 유니코드 기호)를 이용하는 방식입니다. ‘ASCII 스머글링’으로 불리는 이 공격은 눈에 보이지 않는 지침을 통해 모델이 사용자가 의도하지 않은 방식으로 작동하도록 조종할 수 있습니다.

마르코풀로스는 평범한 캘린더 초대나 이메일 같은 텍스트 기반 입력만으로도 이 취약점이 무기화될 수 있음을 시연했습니다. 예를 들어, 무해해 보이는 이메일에 숨겨진 명령어를 삽입하면, 제미나이가 해당 텍스트를 요약하거나 상호작용할 때 데이터를 잘못 해석하거나 조작할 수 있습니다. 그의 테스트에서 제미나이는 숨겨진 문자에 의해 회의 세부 정보를 변경하거나 오해의 소지가 있는 결과물을 생성하도록 유도되었습니다.

더욱 우려스러운 점은 OpenAI의 챗GPT, 앤트로픽의 클로드, 마이크로소프트의 코파일럿과 같은 다른 주요 AI 시스템은 이러한 숨겨진 입력을 필터링하거나 거부했지만, 제미나이는 일론 머스크의 그록(Grok), 중국의 딥시크(DeepSeek)와 함께 이를 차단하지 못했다는 사실입니다.

이러한 명백한 보안 위협에도 불구하고 구글은 이 문제를 해결하지 않기로 결정했습니다. 구글은 해당 보고서에 대한 답변에서 이 문제를 기술적 취약점이 아닌 “소셜 엔지니어링” 문제로 분류했습니다. 즉, 모델 설계의 결함이 아니라 사용자가 속아서 발생하는 문제라는 입장입니다.

시장의 우려와 향후 전망

구글의 이러한 결정은 사용자들의 불안감을 키우고 있습니다. 제미나이가 이메일, 일정, 문서 시스템과 긴밀하게 연동되는 만큼, 이 취약점이 기업 네트워크 내에서 기밀 정보를 노출하거나 허위 정보 확산에 악용될 위험이 있기 때문입니다. 공격자들은 종종 인간과 AI가 텍스트를 인식하는 방식의 차이를 파고듭니다.

기술 산업 리서치 기업 가트너의 분석가인 치라그 데카테는 “대부분의 기업이 아직 AI 에이전트를 본격적으로 도입하기보다는 탐색하거나 테스트하는 단계에 있다”면서도, “구글이 ‘모델 아머(Model Armor)’와 같은 보안 및 거버넌스 기능을 제공하는 것은 대기업의 우려를 덜어줄 수 있다”고 평가했습니다.

하지만 그는 기업들이 뒤처진 모델을 사용하게 되는 것을 원치 않기 때문에, 구글이 곧 출시될 제미나이 3.0과 같은 최신 혁신을 얼마나 신속하게 기업용 서비스에 적용할 수 있을지가 중요한 시험대가 될 것이라고 덧붙였습니다. 구글이 야심 차게 기업용 AI 시장의 문을 두드리고 있지만, 이번 보안 문제에 대한 대응 방식이 향후 고객의 신뢰와 시장 성공에 중요한 변수로 작용할 전망입니다.