AI 툴 도입 판단, 이름이 아니라 네 가지 기준입니다
AI 툴을 써도 되는지는 툴 이름이 아니라 입력 데이터, 결과물의 영향, 검토 단계, 외부 제공자 접근권한 네 가지로 판단합니다. 허용·제한·금지 경계표로 정리했습니다.
2026-11-19
AI 툴을 도입할지 판단하는 기준은 툴 이름이 아니라 입력 데이터, 결과물이 미치는 영향, 사람의 검토 단계, 외부 제공자의 접근권한 네 가지입니다. 같은 이름의 AI 툴이라도 어떤 데이터를 넣고 누구의 결정에 쓰는지에 따라 허용·제한·금지 중 어디에 속하는지 달라집니다. 이 네 가지를 먼저 정리해 두면 새 AI 툴이 나올 때마다 처음부터 다시 판단하지 않아도 됩니다.
담당자들은 흔히 "이 AI 툴은 써도 되나요"라고 묻지만, 같은 툴도 플랜과 입력값에 따라 답이 달라집니다. 그래서 이 글은 툴 하나하나를 심사하는 대신, 네 가지 판단축으로 업무를 먼저 나누는 방법을 정리합니다.
왜 툴 이름이 기준이 될 수 없나요?
AI 툴을 이름으로 허용·금지 목록을 만들면 새 툴이 나올 때마다 목록을 다시 만들어야 합니다. 더 큰 문제는 같은 툴 안에서도 무료 플랜과 기업용 플랜의 데이터 처리 방식이 다르고, 같은 플랜이라도 입력하는 데이터와 결과물을 쓰는 목적에 따라 위험이 달라진다는 점입니다.
그래서 미국 국립표준기술연구소(NIST)의 생성형 인공지능 위험관리 프로파일도 특정 툴을 승인·금지하는 대신, 위험을 데이터·결과물·사람·제3자 네 영역으로 나눠 관리하라고 권고합니다(NIST AI 600-1). 이 글도 같은 네 영역을 업무 담당자가 바로 쓸 수 있는 질문으로 바꿉니다.
한국지능정보사회진흥원의 공공부문 AI 도입·활용 가이드는 서비스 정의, 예산 수립, 이용 계약, 서비스 구현, 운영과 고도화라는 다섯 단계로 도입 절차를 나눕니다(NIA 2026.06 가이드). 공공기관도 툴 이름보다 단계별 판단을 먼저 세운 뒤에 AI를 도입합니다.
입력 데이터: 무엇을 넣어도 되나요?
첫 번째 질문은 AI 툴에 어떤 데이터를 넣느냐입니다. 개인정보보호위원회는 보호법 제15조제1항제6호의 정당한 이익 조항에 따라 공개된 개인정보를 인공지능 학습과 서비스 개발에 활용할 수 있다고 밝혔습니다(개인정보위 2024.07.17 보도자료). 인터넷에 이미 공개된 데이터가 핵심입니다.
다만 아무 데이터나 이 조항으로 정당화되지는 않습니다. 이 조항이 적용되려면 인공지능 개발 목적의 정당성, 공개된 개인정보 처리의 필요성, 구체적인 이익형량이라는 세 가지 요건을 모두 충족해야 합니다. 사내에서만 도는 고객 계약서나 채용 지원서처럼 인터넷에 공개된 적이 없는 개인정보는 이 근거로 AI 툴에 넣을 수 없습니다.
그래서 입력 데이터 기준으로 업무를 나눌 때는 "인터넷에 이미 공개된 정보인가"와 "사내에서만 도는 개인정보·기밀인가"를 먼저 구분합니다. 전자는 허용 범위가 넓고, 후자는 최소한 비식별화나 사내 승인을 거쳐야 제한적으로 허용됩니다.
결과물의 영향: 누구의 결정에 닿나요?
두 번째 질문은 AI 툴의 결과물이 누구의 결정에 영향을 미치느냐입니다. NIST 프로파일은 생성형 AI 특유의 위험으로 데이터 프라이버시, 유해한 편향, 정보 무결성 등을 꼽으면서, 생성형 AI는 틀린 내용을 확신 있는 어조로 제시하는 컨퍼뷸레이션 위험이 있고, 사람이 결과물을 과신하는 자동화 편향이 이 위험을 더 키울 수 있다고 설명합니다.
내부 초안이나 아이디어 정리처럼 결과물을 쓰는 사람이 바로 검증할 수 있는 업무는 영향이 작습니다. 반면 채용 서류 심사, 고객 응대 답변, 공공기관 민원 회신처럼 결과물이 다른 사람의 권리나 기회에 직접 영향을 미치는 업무는 같은 AI 툴이라도 위험이 커집니다.
검토 단계: 사람이 마지막에 확인하나요?
세 번째 질문은 결과물을 사람이 실제로 확인하는 단계가 있느냐입니다. NIST 프로파일은 사람이 AI 시스템을 과도하게 신뢰하는 현상을 자동화 편향으로 규정하고, 이 편향이 컨퍼뷸레이션이나 편향 위험을 함께 키운다고 지적합니다.
검토 단계가 있다고 다 같지는 않습니다. 결과물을 그대로 복사해 보내는 통과형 검토는 자동화 편향을 막지 못합니다. 작성자가 아닌 다른 사람이 원본 자료와 대조해 확인하는 단계가 있어야 검토로 셀 수 있습니다.
외부 제공자 접근권한: 누가 우리 데이터를 들고 있나요?
네 번째 질문은 AI 툴을 만든 회사가 우리 데이터에 어떤 권한을 갖느냐입니다. NIST 프로파일은 접근권한이 있는 모든 제3자 기업을 목록화하고 승인된 AI 기술·서비스 제공자 목록을 수립하라고 권고합니다.
목록을 만드는 데서 끝나지 않습니다. 같은 문서는 인수와 조달 단계의 벤더 실사 절차에 지적재산권, 데이터 프라이버시, 보안 위험 평가를 포함해 갱신하라고 권고합니다. 개인 계정으로 가입한 AI 툴은 이 실사 절차를 거치지 않았으므로, 조직 차원의 승인 목록에 없다면 사내 문서나 고객 데이터를 넣는 용도로는 제한해야 합니다.
네 기준을 종합한 허용·제한·금지표
네 가지 질문을 하나의 표로 합치면 업무별로 바로 판정할 수 있습니다. 아래 표는 각 기준에서 허용·제한·금지를 가르는 경계선입니다.
| 판단 축 | 허용 | 제한(승인 필요) | 금지 |
|---|---|---|---|
| 입력 데이터 | 인터넷에 이미 공개된 정보 | 비식별화한 사내 데이터 | 고객 개인정보·계약 문서 원본 |
| 결과물의 영향 | 작성자 본인이 바로 검증 | 내부 보고·의사결정 참고자료 | 채용·평가·고객 응대 등 타인의 권리에 직접 영향 |
| 검토 단계 | 작성자 본인 확인으로 충분 | 제3자 검토 1단계 필요 | 검토 단계를 둘 수 없는 실시간 자동 응답 |
| 외부 접근권한 | 승인된 제공자 목록에 있음 | 개인 계정, 조직 승인 대기 중 | 실사·계약 없이 쓰는 미승인 툴 |
표의 판정이 엇갈릴 때는 더 엄격한 쪽을 따릅니다. 입력 데이터는 허용이어도 결과물이 채용 심사처럼 타인의 권리에 닿으면 전체 업무는 제한 또는 금지로 내려갑니다.
네 기준 중 하나라도 금지에 걸리면 나머지 세 기준이 전부 허용이어도 그 업무에는 AI 툴을 쓰지 않습니다.
함께 보면 좋은 자료
- AI 기본법 시행, 투명성 의무 대상인지 확인하는 순서 — 이 글의 네 기준과 별도로, AI 툴로 만든 결과물을 외부에 표시해야 하는지는 법적 판정이 따로 필요합니다.
- AI 툴 계약했는데 직원들이 안 쓰면 어떻게 하나요? — 허용 범위를 정했다면 다음은 몇 명분 계정을 계약할지입니다.
- 2026 기업 AI 툴 트렌드 리포트 — 부서별로 실제 많이 쓰는 AI 툴의 분포를 함께 참고합니다.
- AI 보안 교육과정 — 네 기준을 실제 업무 사례에 대입해 보는 교육이 필요하면 참고합니다.
자주 묻는 질문
- 이미 쓰고 있는 AI 툴도 이 기준으로 다시 봐야 하나요?
네. 플랜이나 설정이 바뀌면 입력 데이터 처리 방식도 바뀌므로, 신규 도입과 기존 사용 모두 같은 네 기준으로 주기적으로 다시 봅니다. - AI 기본법의 표시 의무 대상인지도 이 네 기준으로 판단하나요?
아닙니다. 표시 의무는 별도의 법적 판정이고, 내부 업무용으로만 쓰는 경우는 판정 기준이 다릅니다. AI 기본법 글을 함께 봅니다. - 외부 제공자 실사는 누가 맡아야 하나요?
NIST 프로파일은 조달·구매 담당 조직이 지적재산권·데이터 프라이버시·보안 위험을 함께 평가하도록 권고합니다. IT 부서 혼자 판단할 사안이 아닙니다. - 검토 단계는 꼭 다른 사람이 해야 하나요?
결과물이 본인 업무 안에서만 쓰이면 본인 확인으로 충분합니다. 타인의 권리나 기회에 영향을 미치는 업무라면 작성자가 아닌 사람의 확인 단계를 따로 둡니다. - 부서마다 기준을 다르게 적용해도 되나요?
네 가지 질문 자체는 같지만, 부서별로 다루는 데이터와 결과물의 영향이 다르므로 같은 질문에 대한 답, 즉 허용·제한·금지 판정은 부서마다 달라질 수 있습니다.