AI 에이전트가 늘어날수록 기업 보안은 왜 더 어려워지는가

 

 

 

IT 이슈

 

기업에서 AI를 활용하는 방식이 빠르게 달라지고 있습니다.

과거에는 사람이 질문하고 AI가 답변하는 방식이 중심이었다면 이제는 AI가 직접 업무를 수행하는 단계로 넘어가고 있습니다.

문서를 검색하고, 데이터를 분석하고, 이메일을 작성하고, 시스템에서 정보를 조회하는 수준을 넘어 앞으로는 AI가 여러 시스템을 직접 연결하고 업무 프로세스의 일부를 실행하는 상황까지 확대될 가능성이 높습니다.

이른바 AI 에이전트의 등장입니다.

문제는 AI가 업무를 대신할수록 보안의 기준도 달라져야 한다는 것입니다.

사람이 사용하는 계정과 권한을 기준으로 만들어진 기존 보안 체계만으로는 AI가 자율적으로 행동하는 환경을 충분히 통제하기 어려울 수 있습니다.

 

AI 에이전트는 기존 프로그램과 무엇이 다른가?

기업에는 이미 자동으로 업무를 수행하는 프로그램이 많습니다.

배치 프로그램도 있고, 인터페이스 프로그램도 있으며, RPA를 통해 반복적인 업무를 자동화하기도 합니다.

그렇다면 AI 에이전트가 특별히 위험한 이유는 무엇일까요?

가장 큰 차이는 상황에 따라 스스로 판단하고 다음 행동을 결정할 수 있다는 점입니다.

기존 프로그램은 대부분 사전에 정의된 로직에 따라 움직입니다.

반면 AI 에이전트는 사용자의 목표를 이해하고 필요한 정보를 찾은 다음 여러 도구를 선택해 작업을 수행할 수 있습니다.

이러한 자율성은 생산성을 크게 높일 수 있지만 동시에 새로운 보안 위험을 만들어냅니다.

 

AI에게 권한을 주는 순간 새로운 ‘디지털 사용자’가 생긴다

기업 보안의 기본은 결국 누가 무엇을 할 수 있는가를 관리하는 것입니다.

직원에게 ERP 조회 권한을 주고, 개발자에게 서버 접근 권한을 주며, 관리자에게 시스템 관리 권한을 부여하는 것처럼 사용자의 역할에 따라 권한을 관리합니다.

그런데 AI 에이전트가 업무를 수행하기 시작하면 새로운 질문이 생깁니다.

“이 AI 에이전트는 무엇을 할 수 있어야 하는가?”

예를 들어 인사 데이터를 분석하는 AI에게 인사정보시스템 조회 권한을 줄 수 있습니다.

하지만 그 AI가 회계 시스템까지 접근해야 할까요?

회계 시스템의 데이터를 수정할 수 있도록 허용해야 할까요?

결재까지 대신 수행하도록 허용해야 할까요?

이러한 질문은 기존 사용자 권한 관리와는 조금 다른 접근을 요구합니다.

 

Gartner가 AI 에이전트를 ‘내부자 위험’으로 보는 이유

최근 Gartner는 2026년 말까지 CISO가 추진해야 할 주요 보안 과제 가운데 하나로 AI 에이전트의 권한 통제를 제시했습니다.

Gartner 조사에 따르면 2026년 2분기 297명의 보안 리더를 대상으로 한 조사에서 54%의 조직이 AI 에이전트의 접근을 제한하는 명확한 접근 방식이 없거나 기존 사람의 접근 권한을 그대로 적용하고 있는 것으로 나타났습니다.

Gartner는 AI 에이전트가 반드시 인간 수준의 지능을 갖추지 않더라도 기업 운영에 영향을 미칠 수 있는 권한을 가지고 있다면 상당한 사이버 위험이 될 수 있다고 설명합니다.

이 관점은 상당히 중요합니다.

AI의 보안 문제를 “AI가 얼마나 똑똑한가?”로 판단하는 것이 아니라 “AI에게 어떤 행동 권한을 부여했는가?”로 판단해야 한다는 의미이기 때문입니다.

 

AI가 똑똑할수록 위험한 것이 아니라 권한이 클수록 위험하다

AI 보안을 이야기할 때 흔히 AI 모델의 성능에 관심을 갖습니다.

더 강력한 모델인지, 추론 능력이 얼마나 좋은지, 어떤 정보를 이해할 수 있는지 등을 평가합니다.

하지만 기업 보안에서는 조금 다른 관점이 필요합니다.

아무리 뛰어난 AI라도 단순히 공개된 문서를 검색할 수 있는 권한만 가지고 있다면 피해 범위가 제한적일 수 있습니다.

반대로 상대적으로 단순한 AI라도 ERP 데이터를 조회하고 수정할 수 있으며 이메일을 발송하고 결재를 요청하거나 외부 시스템과 연동할 수 있다면 훨씬 큰 위험을 만들 수 있습니다.

따라서 AI 보안의 핵심은 모델의 지능이 아니라 행동 범위와 권한의 통제입니다.

 

기존 ‘사용자 ID’ 중심 보안으로는 부족할 수 있다

기업의 IAM(Identity and Access Management)은 오랫동안 사람을 중심으로 발전해 왔습니다.

직원이 입사하면 계정을 만들고, 부서와 직무에 따라 권한을 부여하며, 퇴사하면 계정을 회수합니다.

하지만 AI 에이전트는 직원과 다릅니다.

하나의 에이전트가 여러 시스템을 사용할 수도 있고, 여러 에이전트가 서로 다른 업무를 수행할 수도 있습니다.

또한 사람이 로그인해서 사용하는 계정과 달리 24시간 동작할 수도 있습니다.

결국 기업은 앞으로 다음과 같은 대상을 함께 관리해야 합니다.

• 사람의 계정
• 서비스 계정
• 애플리케이션
• RPA Bot
• AI Agent
• Agent가 사용하는 API Key
• Agent가 사용하는 시스템 권한

즉, 기업의 디지털 신원 관리 대상이 크게 확대되는 것입니다.

 

AI 에이전트에게 관리자 권한을 주면 안 되는 이유

AI를 실제 업무에 적용할 때 가장 쉽게 발생할 수 있는 실수 중 하나는 AI에게 너무 많은 권한을 주는 것입니다.

처음에는 개발과 테스트를 쉽게 하기 위해 넓은 권한을 부여할 수 있습니다.

하지만 이러한 권한이 운영 환경까지 그대로 유지된다면 문제가 됩니다.

AI가 잘못된 판단을 하거나 잘못된 데이터를 기반으로 행동할 경우 그 결과가 실제 시스템에 반영될 수 있기 때문입니다.

따라서 AI 에이전트 역시 사람과 마찬가지로 최소 권한 원칙을 적용해야 합니다.

조회만 필요한 에이전트에게 수정 권한을 줄 필요가 없고, 수정이 필요한 경우에도 특정 데이터와 특정 기능에만 제한된 권한을 제공해야 합니다.

 

‘AI가 무엇을 했는가’를 기록하는 것도 중요하다

보안에서 중요한 것은 예방만이 아닙니다.

문제가 발생했을 때 누가 무엇을 했는지 추적할 수 있어야 합니다.

AI 에이전트가 기업 시스템을 사용한다면 다음과 같은 정보가 기록되어야 합니다.

• 어떤 AI 에이전트가 실행되었는가?
• 누가 해당 작업을 요청했는가?
• 어떤 데이터에 접근했는가?
• 어떤 API를 호출했는가?
• 어떤 시스템을 변경했는가?
• 어떤 의사결정 과정을 거쳤는가?
• 최종적으로 어떤 결과를 만들었는가?

이러한 감사 추적성이 없다면 사고가 발생했을 때 원인을 파악하기 어렵습니다.

특히 AI가 여러 시스템을 연속적으로 호출하는 경우에는 단순한 로그인 로그만으로는 충분하지 않을 수 있습니다.

 

AI 에이전트에게 ‘행동 범위’를 지정해야 한다

AI 에이전트를 기업 업무에 적용할 때 중요한 개념 중 하나가 행동 범위입니다.

예를 들어 구매 업무를 지원하는 AI 에이전트가 있다고 가정해 보겠습니다.

이 에이전트에게 다음과 같은 권한을 부여할 수 있습니다.

• 구매 요청 조회
• 재고 조회
• 공급업체 정보 조회
• 견적 비교
• 구매 요청서 작성

하지만 구매 요청을 실제로 승인하거나 발주서를 확정하는 것은 별도의 권한으로 분리할 수 있습니다.

즉, AI에게 “업무를 수행할 수 있는 권한”과 “최종 의사결정을 확정할 수 있는 권한”을 분리하는 것입니다.

이러한 구조가 AI의 자율성과 기업의 통제력을 함께 확보하는 방법이 될 수 있습니다.

 

사람의 최종 승인이 필요한 업무는 여전히 존재한다

모든 업무를 AI에게 자동으로 맡기는 것이 좋은 것은 아닙니다.

특히 금액이나 법적 책임, 인사, 보안, 개인정보 등 중요한 의사결정은 사람의 최종 확인이 필요한 경우가 많습니다.

예를 들어 AI가 구매 후보를 추천하는 것은 자동화할 수 있지만 실제 대규모 발주를 확정하는 것은 담당자가 승인하도록 설계할 수 있습니다.

AI가 인사 데이터를 분석할 수는 있지만 인사조치를 자동으로 확정하도록 만들 필요는 없습니다.

이러한 구조를 흔히 Human-in-the-Loop 방식으로 접근할 수 있습니다.

중요한 것은 AI를 사용하지 않는 것이 아니라 AI의 자율성이 허용되는 범위를 업무 중요도에 따라 구분하는 것입니다.

 

AI 보안은 IT 부서만의 문제가 아니다

AI 에이전트가 기업 업무에 들어오면 보안 책임의 범위도 달라집니다.

기존에는 정보보호팀이 시스템 접근권한과 보안정책을 관리하고 IT 운영팀이 시스템을 운영하며 현업이 업무를 수행하는 구조가 일반적이었습니다.

하지만 AI 에이전트가 업무 프로세스에 직접 참여하면 현업과 IT, 보안조직이 함께 정책을 만들어야 합니다.

예를 들어 다음과 같은 질문에 대한 기준이 필요합니다.

• 어떤 업무에 AI 에이전트를 사용할 것인가?
• AI에게 어떤 데이터를 허용할 것인가?
• 어떤 시스템 접근을 허용할 것인가?
• AI가 데이터를 수정할 수 있는가?
• AI가 외부로 데이터를 전송할 수 있는가?
• 어떤 업무에는 사람의 승인이 필요한가?
• AI의 활동 로그는 얼마나 보관할 것인가?
• AI 에이전트를 언제 중지할 것인가?

이것은 단순한 기술 문제가 아니라 기업 AI 거버넌스의 문제입니다.

 

보안정책이 있어도 실제 통제가 되지 않으면 의미가 없다

AI 시대에는 정책의 존재 여부보다 실제로 정책이 적용되고 있는지가 중요합니다.

예를 들어 회사가 “AI는 민감정보에 접근하면 안 된다”는 정책을 가지고 있다고 하겠습니다.

그런데 실제 시스템에서는 AI에게 광범위한 데이터베이스 접근권한이 부여되어 있다면 정책은 아무런 의미가 없습니다.

따라서 AI 거버넌스는 문서 작성으로 끝나서는 안 됩니다.

정책 → 권한 → 시스템 통제 → 로그 → 모니터링 → 감사까지 연결되어야 합니다.

결국 AI 거버넌스는 IT 시스템 안에서 실제로 실행되어야 합니다.

 

AI 에이전트 시대에는 ‘제로트러스트’의 의미도 달라진다

제로트러스트 보안의 핵심은 기본적으로 신뢰하지 않고 매번 접근을 검증하는 것입니다.

AI 에이전트 환경에서는 이 원칙이 더욱 중요해질 수 있습니다.

AI라는 이유만으로 신뢰해서도 안 되고, 특정 시스템에서 실행된다는 이유만으로 모든 권한을 부여해서도 안 됩니다.

각 요청에 대해 어떤 에이전트인지, 어떤 사용자가 요청했는지, 어떤 데이터에 접근하려는지, 어떤 행동을 수행하려는지를 확인하는 구조가 필요합니다.

특히 AI 에이전트가 다른 AI 에이전트를 호출하는 구조까지 확대된다면 에이전트 간 신뢰관계도 관리해야 할 수 있습니다.

 

기업 IT 조직이 지금 준비해야 할 것은 무엇인가?

AI 에이전트가 본격적으로 기업 업무에 들어오기 전에 IT 조직이 준비해야 할 것은 AI 모델 자체만은 아닙니다.

오히려 기존 IT 인프라와 보안체계를 AI가 사용할 수 있는 형태로 만드는 것이 중요합니다.

특히 다음과 같은 항목을 점검할 필요가 있습니다.

• Identity : AI 에이전트의 디지털 신원을 어떻게 관리할 것인가?
• Access : AI에게 어떤 권한을 부여할 것인가?
• Data : 어떤 데이터에 접근할 수 있는가?
• API : 어떤 시스템 기능을 호출할 수 있는가?
• Audit : AI의 행동을 어떻게 기록할 것인가?
• Monitoring : 이상 행동을 어떻게 탐지할 것인가?
• Approval : 어떤 업무에 사람의 승인을 요구할 것인가?
• Kill Switch : 문제가 발생했을 때 AI를 어떻게 즉시 중단할 것인가?

이러한 요소가 갖춰져야 AI의 생산성과 기업의 통제력을 함께 확보할 수 있습니다.

 

AI 도입 프로젝트에 보안 아키텍처를 처음부터 포함해야 한다

AI 프로젝트를 먼저 구축하고 나중에 보안을 추가하는 방식은 앞으로 더욱 위험해질 수 있습니다.

AI가 단순한 조회와 분석을 넘어 실제 시스템을 변경하는 단계로 발전하면 보안 구조를 나중에 추가하기가 어려워지기 때문입니다.

따라서 AI 프로젝트를 시작할 때부터 다음을 함께 설계해야 합니다.

• AI Agent Architecture
• Identity Architecture
• Data Access Policy
• API Permission
• Human Approval Process
• Audit Logging
• Monitoring
• Incident Response

AI를 하나의 애플리케이션으로 보는 것이 아니라 기업 IT 아키텍처의 새로운 구성요소로 바라볼 필요가 있습니다.

 

AI 에이전트의 확산은 IT 거버넌스의 변화를 의미한다

기존 IT 거버넌스는 시스템과 사용자를 중심으로 구성되어 있었습니다.

시스템을 누가 개발하고 운영하는지, 사용자는 누구인지, 어떤 권한을 가지고 있는지, 변경은 누가 승인하는지를 관리했습니다.

하지만 AI 에이전트는 이러한 경계를 바꾸고 있습니다.

AI가 데이터를 조회하고 시스템을 호출하며 업무를 수행한다면 이제 IT 거버넌스에서도 “AI가 무엇을 할 수 있는가?”를 관리해야 합니다.

결국 앞으로의 IT 거버넌스는 사람과 시스템뿐만 아니라 AI Agent까지 포함하는 거버넌스로 확장될 가능성이 높습니다.

 

이번 이슈에서 얻을 수 있는 인사이트

AI 에이전트는 기업의 생산성을 크게 높일 수 있는 기술입니다.

하지만 AI가 단순한 답변 도구에서 실제 업무 수행 주체로 바뀌는 순간 기업 IT의 보안 기준도 함께 변해야 합니다.

최근 Gartner가 AI 에이전트를 내부자 위험 관점에서 관리해야 한다고 강조한 것도 이러한 변화와 관련이 있습니다.

앞으로 기업이 가장 중요하게 봐야 할 것은 AI의 성능만이 아닙니다.

• AI에게 얼마나 많은 권한을 줄 것인가?
• AI가 접근할 수 있는 데이터는 어디까지인가?
• AI가 실제로 수행한 행동을 추적할 수 있는가?
• 중요한 업무에 사람의 승인을 넣을 것인가?
• 문제가 발생했을 때 AI의 행동을 즉시 중단할 수 있는가?

결국 AI 시대의 보안은 AI를 막는 것이 아닙니다.

AI가 기업의 업무를 수행할 수 있도록 허용하되, 그 행동의 범위와 책임을 통제하는 것입니다.

AI의 자율성이 커질수록 IT 거버넌스의 중요성도 함께 커지는 이유입니다.

 

마무리

기업에서 AI 에이전트의 활용은 앞으로 더욱 확대될 가능성이 높습니다.

단순한 챗봇을 넘어 업무 자동화, 데이터 분석, 시스템 운영, 고객 대응, 개발, 보안 등 다양한 영역에서 AI가 직접 행동하는 사례가 늘어날 것입니다.

하지만 AI가 더 많은 업무를 수행할수록 기업은 새로운 질문에 답해야 합니다.

“AI가 무엇을 할 수 있는가?”

그리고 더 중요한 질문은 이것입니다.

“AI가 무엇을 해서는 안 되는가?”

AI 시대의 기업 보안은 단순히 악성코드를 차단하고 계정을 보호하는 수준을 넘어설 것입니다.

AI의 신원, 권한, 데이터 접근, 행동 범위, 감사 추적, 사람의 승인과 중단 방법까지 관리해야 하는 새로운 보안 체계가 필요합니다.

결국 앞으로의 IT 경쟁력은 AI를 얼마나 많이 도입했는가만으로 결정되지 않습니다.

AI를 얼마나 안전하게 기업의 업무 프로세스 안으로 가져올 수 있는가가 중요한 경쟁력이 될 것입니다.

AI 에이전트 시대에는 보안이 혁신의 반대편에 있는 것이 아닙니다.

안전하게 행동할 수 있는 구조를 만드는 것이 곧 AI 혁신의 기반이 될 것입니다.

 

 

 

HASHTAGS

#pperi #페리 #페리솔루션 #AI에이전트 #AIAgent #AI보안 #기업보안 #사이버보안 #IT보안 #AI거버넌스 #접근권한 #IAM #제로트러스트 #IT전략 #정보보호 #보안거버넌스 #엔터프라이즈AI #디지털전환

 

디지털 트랜스포메이션의 변화를 위해 페리(pp eri)는 동참할 것입니다.

도움이 필요하시면 언제든지 연락 주시기 바랍니다.

저희 pperi는 peri가 아니라는 점을 구독자님께서 인지해 주시기 바랍니다.