AI 도입 상담에서 가장 먼저 오는 자료 요청은 기능 소개서가 아니라 보안 점검표입니다. 그런데 보안팀이 쓰는 점검표는 대개 SaaS나 챗봇을 기준으로 만들어져 있습니다. "입력한 데이터가 어디로 가는가"에는 답이 있지만, "이 AI가 무엇을 할 수 있고, 누가 멈추게 하고, 무엇이 남는가"에는 칸이 없습니다.
AI 에이전트는 답만 하지 않습니다. 메일함과 CRM을 읽고, 파일을 만들고, 승인을 받으면 메일을 보냅니다. 이 글은 그런 AI를 들이기 전에 IT·보안팀이 벤더에게 물어야 할 질문 24개를 여섯 묶음으로 정리하고, 국내 법령과 가이드에서 함께 확인할 것을 덧붙인 것입니다. 법률 자문은 아니며, 조직의 적용 여부는 담당 법무·개인정보보호책임자와 판단하시기 바랍니다.
핵심 요약
- 챗봇 검토는 데이터 흐름을 보지만, 에이전트 검토는 권한·승인·실행 기록까지 봐야 합니다. 질문의 절반이 새로 생깁니다.
- 체크리스트는 여섯 묶음입니다. 데이터 흐름, 권한과 범위, 사람의 승인, 기록과 감사, 접속 통제, 배포와 망.
- 좋은 답은 문서가 아니라 설정입니다. "그렇게 운영합니다"보다 "이 화면에서 이렇게 설정되고, 여기서 내보낼 수 있습니다"가 검토를 빨리 끝냅니다.
- 개인정보가 닿는다면 업무위탁·국외 이전 공개와 접속기록 보관 기준을, 금융·공공이라면 망분리 관련 규정과 가이드를 함께 확인합니다.
- 접속기록 점검 주기는 전환기입니다. 지금은 '월 1회 이상'이 효력 있는 문언이고, 2025년 10월 개정 고시가 시행되면 내부 관리계획으로 정합니다.
- AI 기본법은 2026년 1월 시행됐습니다. 사내 업무용이라면 고지·표시 의무의 예외가 될 수 있지만, 채용·대출 심사 같은 판단에 쓴다면 사람의 승인 단계를 설계에 넣어 두세요.
챗봇 검토와 에이전트 검토는 무엇이 다른가
| 검토 항목 | 챗봇·생성형 AI 도구 | AI 에이전트(AI 직원) |
|---|---|---|
| 데이터 흐름 | 사람이 입력한 내용이 어디로 가나 | 에이전트가 연결된 시스템에서 스스로 읽어 가는 내용까지 |
| 권한 | 사용자 계정 관리 | 에이전트가 쓸 수 있는 도구와 범위, 연결 계정의 토큰 |
| 외부 영향 | 없음(답만 한다) | 메일 발송·파일 삭제·결제·배포처럼 회사 밖으로 나가는 실행 |
| 사람의 개입 | 사람이 답을 보고 판단 | 어떤 실행에서 멈추고 누가 승인하나 |
| 기록 | 대화 기록 | 실행마다 읽은 것·한 것·내보낸 것, 실패 포함 |
체크리스트 24
각 질문 아래 "좋은 답"은 검토를 통과시키기 쉬운 답의 모양입니다.
A. 데이터 흐름
- 입력되거나 읽어 간 데이터는 어디서 처리되고 어디에 저장되나요? 좋은 답: 처리 위치(국가·리전), 저장 위치, 저장 기간이 데이터 흐름도 한 장으로 나온다.
- 우리 데이터가 모델 학습에 쓰이나요? 좋은 답: 쓰지 않는다는 조항이 계약서에 있고, 외부 모델 API 공급사의 학습 정책까지 설명한다.
- 보존 기간과 파기 방법은 무엇인가요? 좋은 답: 요청 처리 데이터, 실행 기록, 백업의 보존 기간이 각각 정해져 있고 기간이 지나면 파기된다.
- 개인정보 처리를 위탁하거나 국외로 이전하나요? 좋은 답: 수탁자·이전받는 자, 국가, 항목, 목적이 목록으로 나오고, 우리 개인정보 처리방침에 옮겨 적을 수 있다.
B. 권한과 범위
- 에이전트가 쓸 수 있는 도구를 앱 단위로 켜고 끌 수 있나요? 좋은 답: 꺼 둔 도구는 누구도 쓸 수 없고, 새로 연결한 앱의 기본값은 읽기 전용이다.
- 부서·역할별로 쓸 수 있는 범위를 다르게 둘 수 있나요? 좋은 답: 부서별 에이전트에 주는 도구 목록은 회사가 허용한 범위에서 빼기만 할 수 있다.
- 연결 계정의 토큰과 비밀은 어떻게 보관되나요? 좋은 답: 암호화되어 저장되고, 에이전트가 실행되는 환경에 그대로 노출되지 않는다.
- 회사마다 실행 환경이 격리되나요? 좋은 답: 워크스페이스마다 격리된 환경에서 실행되고, 다른 고객의 작업과 섞이지 않는다.
C. 사람의 승인
- 발송·삭제·결제·배포 같은 실행은 사람 승인 전에 멈추나요? 좋은 답: 미리보기와 함께 멈추고, 승인 전에는 아무것도 나가지 않는다.
- 누가 승인할 수 있나요? 좋은 답: 로그인한 사람만 승인할 수 있고, 자동화에 쓰는 API 키는 자기 요청을 승인할 수 없다.
- 업무별로 자율성을 다르게 정할 수 있나요? 좋은 답: "초안까지만", "확인 후 실행", "직접 실행" 같은 등급을 업무별로 두고, 관리자가 특정 앱의 승인을 강제하거나 막을 수 있다.
- 승인과 거절 이력이 남나요? 좋은 답: 누가, 언제, 무엇을 승인·거절했는지 실행 기록과 함께 남는다.
D. 기록과 감사
- 실행마다 무엇을 읽고, 했고, 내보냈는지 남나요? 좋은 답: 실패한 실행을 포함해 전부 남고, 우리가 직접 조회할 수 있다.
- 개인정보에 닿은 접근은 어떻게 기록되나요? 좋은 답: 식별자(계정), 접속 일시, 접속지, 처리한 정보주체, 수행 업무가 남고, 고시가 정한 기간(1년, 대상에 따라 2년) 이상 보관된다.
- 기록을 우리 보안 관제로 내보낼 수 있나요? 좋은 답: CSV나 API로 반출해 SIEM에 넣을 수 있다.
- 기록의 보존 기간을 우리가 정할 수 있나요? 좋은 답: 워크스페이스 단위로 정하고, 기간이 지나면 파기된다.
E. 접속 통제
- SSO와 다중 인증을 지원하나요? 좋은 답: 사내 계정 체계와 연결하고, 관리자 계정에는 다중 인증을 강제할 수 있다.
- 접속 IP를 제한할 수 있나요? 좋은 답: 워크스페이스 단위로 허용 IP를 정할 수 있다.
- 일정 시간 쓰지 않으면 접속이 끊기나요? 좋은 답: 유휴 시간 기준의 자동 접속차단을 설정할 수 있다.
- 비밀번호 규칙과 API 키 유효기간을 정할 수 있나요? 좋은 답: 둘 다 워크스페이스 단위로 정하고, 배포가 정한 하한보다 느슨하게는 바꿀 수 없다.
F. 배포와 망
- 어디에 설치할 수 있나요? 좋은 답: 공급사 클라우드, 전용 테넌트, 사내망, 완전 망분리 중에서 고를 수 있다.
- 망분리 환경에서도 외부 호출 없이 동작하나요? 좋은 답: 모델과 실행 환경을 망 안에 두는 구성이 있고, 어떤 기능이 외부 연결을 필요로 하는지 목록이 있다.
- 보안 점검표를 실제 설정에서 뽑아 줄 수 있나요? 좋은 답: 처리위탁·국외 이전 현황과 점검 항목이 손으로 쓴 문서가 아니라 배포 설정에서 산출된다.
- 계약이 끝나면 데이터는 어떻게 되나요? 좋은 답: 반출 형식과 파기 시점, 파기 확인 방법이 계약에 적혀 있다.
법령과 가이드에서 함께 확인할 것
체크리스트의 질문 상당수는 국내 법령·가이드와 맞닿아 있습니다. 아래는 2026년 9월 말 기준으로 원문을 확인한 내용입니다. 법령과 고시는 자주 바뀌므로 검토하는 시점의 현행 원문을 다시 확인하세요.
개인정보가 닿는다면: 업무위탁과 국외 이전
- 업무위탁(개인정보 보호법 제26조). 개인정보 처리 업무를 맡기려면 목적 외 처리 금지, 기술적·관리적 보호조치, 재위탁 제한 등을 담은 문서로 해야 하고, 맡긴 업무와 수탁자를 정보주체가 언제든 확인할 수 있게 공개해야 합니다. 수탁자가 다시 맡기려면 위탁자의 동의가 필요합니다.
- 국외 이전(같은 법 제28조의8). 국외로 제공(조회 포함)하는 것만이 아니라 처리위탁과 보관도 '이전'으로 봅니다. 반드시 별도 동의가 필요한 것은 아닙니다. 계약 이행에 필요한 처리위탁·보관이라면 이전 항목, 국가·시기·방법, 이전받는 자, 이용 목적과 보유 기간, 거부 방법을 개인정보 처리방침에 공개하는 방식으로 근거를 갖출 수 있습니다.
- 개인정보위 안내서. 개인정보보호위원회의 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」(2025년 8월)는 서비스형 LLM을 쓰는 기업에 이용자 데이터의 보관·재이용(학습 포함) 여부와 국외이전 여부를 미리 검토하라고 권합니다. 저장·재이용을 배제한 기업용 API 라이선스를 쓰는 것도 고려하라고 합니다. 안내서에 실린 사례에서는 통화 녹음·요약에 서비스형 LLM을 쓰며 통화 내용이 국외 서버로 이전됐는데, 처리방침의 국외이전 고지가 일부 빠져 적법 근거를 갖추지 못한 것으로 판단됐습니다.
체크리스트 1·2·4번이 이 부분에 대응합니다. 벤더가 처리 국가와 재수탁자 목록을 처리방침에 옮겨 적을 수 있는 형태로 줄 수 있는지가 핵심입니다.
접속기록과 권한 이력: 얼마나, 무엇을 남기나
「개인정보의 안전성 확보조치 기준」(개인정보보호위원회 고시)이 기준입니다.
| 항목 | 기준 |
|---|---|
| 접속기록에 남길 것 | 식별자, 접속일시, 접속지 정보, 처리한 정보주체 정보, 수행업무 등(제2조) |
| 접속기록 보관 | 1년 이상. 5만 명 이상의 정보주체를 처리하거나 고유식별정보·민감정보를 처리하는 시스템은 2년 이상(제8조) |
| 권한 이력 | 권한 부여·변경·말소 내역을 기록하고 최소 3년 보관(제5조) |
| 점검 주기 | 지금 효력이 있는 문언은 '월 1회 이상'. 개정 고시 시행 뒤에는 내부 관리계획으로 주기·방법·사후조치를 정해 이행 |
점검 주기는 전환기입니다. 2025년 10월 31일 발령된 개정 고시(제2025-9호)는 부칙에서 제8조를 포함한 몇 조항을 '발령한 날의 1년 후부터' 시행한다고 정했습니다. 그때부터 점검 주기를 각 회사가 내부 관리계획으로 정하고, 접속기록 보관 대상도 '개인정보처리시스템에 접속한 자(정보주체 제외)'로 넓어집니다. 법제처 사이트의 현행 화면에는 개정 문언이 이미 보이므로, 인용할 때는 시행일을 함께 확인하세요.
고시에는 AI 에이전트를 따로 다루는 조항이 없습니다. 에이전트가 개인정보처리시스템에 접속한다면 사람 사용자와 같은 기준으로 기록을 남겨 두는 편이 안전하다고 봅니다(저희 해석이며 개인정보위의 공식 입장은 아닙니다). 주민등록번호가 담긴 신분증을 OCR로 읽는 시스템처럼 고유식별정보를 처리한다면 2년 보관 대상이 될 수 있다는 점도 함께 보세요. 개인정보위는 2026년 9월 발표에서 「(가칭) 에이전틱 인공지능 개인정보 처리 안내서」를 올해 말 공개할 예정이라고 밝혔습니다. 함께 소개된 현장 의견에는 자율과 승인의 경계, 참여 주체별 책임, 로그·메모리에 담긴 개인정보의 보관·파기 기준이 필요하다는 내용이 담겼습니다. 체크리스트의 C·D 묶음이 이 쟁점과 그대로 겹칩니다.
공공기관이라면: 국정원 가이드북과 N²SF
- 국가정보원의 「챗GPT 등 생성형 AI 활용 보안 가이드라인」(2023년 6월)은 2025년 12월 「국가·공공기관 AI보안 가이드북」으로 개정됐습니다. 에이전트형 AI에 대해 도구 허용 목록, 실행 로깅과 모니터링, 과도한 권한 제한, 민감한 명령의 승인 절차 같은 대책을 담았습니다.
- 가이드북은 승인 요청이 너무 잦으면 사람이 습관적으로 승인하게 되는 '승인 피로'도 위협으로 다룹니다. 승인 단계를 두는 것만으로 끝나지 않고, 무엇을 승인 대상으로 둘지 기준이 있어야 한다는 뜻입니다. 체크리스트 11번의 업무별 자율성 등급이 여기에 대한 답입니다.
- 국가 망 보안체계(N²SF)는 업무정보를 기밀·민감·공개 등급으로 나눕니다. 외부 생성형 AI 서비스에는 공개 등급 정보만 쓰고, 민감 등급 정보가 전송되지 않도록 통제 수단을 두라고 합니다.
이 문서들은 국가·공공기관을 위한 권고이며 민간 기업의 법적 의무는 아닙니다. 다만 보안 기준을 새로 세우는 회사라면 참고하기 좋은 기준입니다.
금융회사라면: 망분리 규정
금융위원회는 2024년 8월 「금융분야 망분리 개선 로드맵」에서 금융권의 생성형 AI 활용을 규제 샌드박스(혁신금융서비스)로 허용하는 방향을 내놓았고, 이후 지정 방식으로 허용해 왔습니다. 2026년 5월에는 보안 목적의 AI 활용에 대한 망분리 규제 긴급 완화와, 보안·AI 역량을 갖춘 금융회사에 대한 전면 해제 검토 계획을 밝혔습니다. 빠르게 바뀌는 영역이므로 "망분리가 풀렸다"고 단정하지 말고, 도입 시점에 적용되는 규정과 지정 조건을 준법·보안 부서와 확인하세요.
AI 기본법: 사내에서 AI를 쓰는 회사라면
- 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 2026년 1월 22일 시행됐습니다.
- 사전 고지와 결과물 표시 같은 투명성 의무(제31조)는 AI 기반 제품·서비스를 이용자에게 제공하는 인공지능사업자에게 걸립니다. 시행령은 내부 업무 용도로만 쓰는 경우 이 의무의 전부 또는 일부를 적용하지 않을 수 있다고 정합니다.
- 채용, 대출 심사처럼 개인의 권리·의무에 중대한 영향을 미치는 판단에 AI를 쓰면 고영향 AI에 해당할 수 있고, 사람의 관리·감독을 포함한 책무가 생깁니다. 과학기술정보통신부는 최종 의사결정 과정에 사람이 개입하면 통제할 수 있는 것으로 보아 고영향 대상에서 제외한다는 기준을 밝혔습니다.
- 과태료(3천만 원 이하)는 사전 고지를 하지 않은 경우 등에 붙습니다. 과기정통부는 최소 1년 이상 사실조사·과태료 계도기간을 운영한다고 밝혔지만, 이는 정책이며 법 시행이 미뤄진 것은 아닙니다.
검토를 빨리 끝내는 법
- 범위를 먼저 좁힙니다. 첫 파일럿은 팀 하나, 읽기 전용 도구 위주로 시작하면 검토할 데이터 흐름이 줄어듭니다. 첫 업무를 고르는 기준은 AX 첫 업무 고르는 5가지 기준에 있습니다.
- 문서보다 설정을 달라고 합니다. 점검표의 답을 벤더의 설정 화면과 반출 자료로 확인하면, 운영 중에도 같은 상태인지 계속 확인할 수 있습니다.
- 승인 규칙을 보안 요건으로 씁니다. "외부로 나가는 실행은 승인 필수"를 요건으로 적어 두면, 기능이 늘어나도 통제 기준은 그대로입니다. 업무별 자율성 등급의 예는 기업용 AI 에이전트 도입 전 확인할 6가지에 표로 정리했습니다.
Ara는 이렇게 답합니다
그린다에이아이의 AI 직원 Ara는 위 질문에 설정으로 답하도록 만들었습니다. 앱마다 도구 스위치가 있고 기본은 읽기 전용이며, 발송·삭제·결제·배포는 미리보기와 함께 멈춰 로그인한 멤버의 승인을 기다립니다. 실행마다 기록이 남고 개인정보 접근은 계정·시간·IP와 함께 기록되며, 보존기간을 정해 파기하고 CSV로 반출할 수 있습니다. 접속 IP 제한, 자동 접속차단, 비밀번호 규칙, API 키 유효기간을 워크스페이스 단위로 정하고, 고객 데이터는 모델 학습에 쓰지 않습니다. 클라우드, 전용 테넌트, 사내망, 완전 망분리 가운데 배포 위치를 고를 수 있고, 처리위탁·국외 이전 현황과 보안 점검표는 실제 배포 설정에서 산출합니다.
자주 묻는 질문
생성형 AI 서비스를 쓰면 개인정보 국외 이전에 해당하나요?
개인정보가 담긴 입력이 해외 서버에서 처리되거나 저장된다면 해당할 수 있습니다. 개인정보 보호법 제28조의8은 국외 제공뿐 아니라 처리위탁과 보관도 '이전'으로 봅니다. 그렇다고 반드시 별도 동의를 받아야 하는 것은 아니고, 계약 이행에 필요한 처리위탁·보관이라면 이전 항목·국가·이전받는 자 등을 개인정보 처리방침에 공개하는 방식으로 근거를 갖출 수 있습니다. 벤더에게 처리 국가와 재수탁자 목록을 받아 처리방침에 옮겨 적을 수 있는지부터 확인하세요.
망분리 환경에서도 AI 에이전트를 쓸 수 있나요?
사내망이나 완전히 분리된 망 안에 모델과 실행 환경을 두는 구성이라면 가능합니다. 이때는 어떤 기능이 외부 연결을 필요로 하는지 목록을 받아, 망 안에서 쓸 수 있는 기능과 쓸 수 없는 기능을 도입 전에 나눠 두는 것이 좋습니다.
ISO 인증이 없는 AI 솔루션은 도입하면 안 되나요?
인증은 판단을 돕는 근거 중 하나일 뿐, 인증 여부만으로 안전성을 판단하기는 어렵습니다. 인증이 있다면 어떤 범위를 인증받았는지를, 없다면 이 체크리스트의 질문에 설정과 자료로 답할 수 있는지를 확인하세요. 보유하지 않은 인증을 보유한 것처럼 표현하는 공급사는 오히려 주의해야 합니다.
AI 기본법 시행으로 AI를 쓰는 회사가 준비할 것이 있나요?
사내 업무에 AI를 쓰는 것만으로 곧바로 고지·표시 의무가 생긴다고 보기는 어렵습니다. 투명성 의무는 AI 기반 제품·서비스를 이용자에게 제공하는 사업자에게 걸리고, 시행령은 내부 업무 용도로만 쓰는 경우를 예외로 둘 수 있게 했습니다. 다만 채용이나 대출 심사처럼 개인의 권리에 중대한 영향을 주는 판단에 AI를 쓴다면 고영향 AI 해당 여부를 검토해야 합니다. 과기정통부는 최종 결정에 사람이 개입하면 고영향 대상에서 제외한다는 기준을 밝혔으므로, 중요한 결정마다 사람의 승인 단계를 두는 설계가 가장 실용적인 준비입니다.
