가이드

AI 에이전트, 업무에 어디까지 맡길 수 있는가

AI 에이전트에 업무를 맡겨도 되는지는 되돌릴 수 있는 일인지와 검수할 수 있는 일인지로 정해집니다. 앤트로픽·오픈AI의 설계 원칙과 지식재산처 자체 구축 사례로 위임 기준을 정리했습니다.

2026-10-13

AI 에이전트에 업무를 얼마나 맡길 수 있는지는 모델이 얼마나 똑똑한지로 정해지지 않습니다. 그 업무를 되돌릴 수 있는지, 그리고 결과를 사람이 검수할 수 있는지 두 가지로 정해집니다. 되돌릴 수 있고 검수도 가능한 일은 지금 당장 맡겨도 되지만, 되돌릴 수 없고 검수도 어려운 일은 에이전트가 아무리 정교해도 맡기지 않는 편이 안전합니다.

AI 에이전트 시장은 그만큼 빠르게 커지고 있습니다. 소프트웨어정책연구소(SPRi)는 그랜드뷰리서치 분석을 인용해 글로벌 AI 에이전트 시장이 2023년 8조 4,483억 원에서 2030년 102조 원 규모로 성장할 것으로 전망했고, 한국IDC는 국내 시장도 2025년까지 연평균 35% 성장해 1조 원 규모에 이를 것으로 내다봤습니다. 시장이 커지는 속도와 별개로, 조직이 실제로 결정해야 하는 것은 "어떤 업무를 먼저 맡길 것인가"입니다.

AI 에이전트는 챗봇과 무엇이 다른가요?

앤트로픽은 워크플로를 코드가 미리 정한 경로대로 LLM과 도구를 호출하는 시스템으로, 에이전트는 LLM이 스스로 과정과 도구 사용을 결정하는 시스템으로 구분합니다. 질문에 답만 하는 챗봇이나 한 번의 입출력으로 끝나는 단일 호출은 이 구분에서 둘 다 빠집니다. 오픈AI도 같은 선을 긋습니다. 단순한 챗봇, 한 번의 LLM 호출, 감성 분류기처럼 정해진 범위 안에서만 반응하는 시스템은 에이전트가 아니라는 것입니다.

에이전트로 분류되는 시스템은 사용자의 목표를 받아 스스로 계획을 세우고, 여러 단계에 걸쳐 도구를 호출하며, 중간 결과를 보고 다음 행동을 다시 정합니다. 이 자율성이 업무를 빠르게 처리하게 해주는 동시에, 사람이 매 단계를 들여다보지 않으면 어디서 틀렸는지 알기 어렵게 만듭니다. 그래서 "얼마나 자율적으로 두는가"가 아니라 "어디까지 자율적으로 둬도 괜찮은가"를 먼저 정해야 합니다.

위임 수준은 왜 모델 성능이 아니라 두 가지 질문으로 정해질까요?

오픈AI는 읽기 전용인지 쓰기 권한이 있는지, 되돌릴 수 있는지, 금전적 영향이 있는지를 기준으로 도구마다 위험도를 낮음·중간·높음으로 매기고, 높은 위험도의 작업은 실행 전에 사람이 확인하게 하라고 권고합니다. 이 기준을 업무 단위로 다시 묶으면 두 가지 질문으로 정리됩니다. 첫째, 에이전트가 처리한 결과를 되돌릴 수 있는가. 둘째, 사람이 그 결과를 끝까지 검수할 수 있는가.

두 질문은 서로 다른 것을 봅니다. 되돌릴 수 있는지는 "실수했을 때 비용이 얼마나 큰가"를 가리고, 검수할 수 있는지는 "실수를 사람이 실행 전에 잡아낼 수 있는가"를 가립니다. 보도자료 초안처럼 되돌릴 수 있지만 양이 많아 전부 검수하기 어려운 일이 있고, 계약 체결처럼 되돌릴 수 없지만 서명 전에 한 번은 검수할 수 있는 일도 있습니다. 두 질문을 따로 물어야 이 차이가 드러납니다.

업무 유형별 위임 수준

아래 표는 두 질문의 답을 네 칸으로 나눠 위임 방식을 정리한 것입니다. 같은 "문서 작업"이라도 어느 칸에 속하는지에 따라 맡기는 방식이 달라집니다.

되돌릴 수 있는가	검수할 수 있는가	위임 방식	업무 예시
가능	가능	자동 실행 후 사후 검수	내부 문서 초안, 회의록 정리
가능	어려움(양이 많음)	자동 실행, 표본만 검수	대량 자료 수집·분류·요약
어려움	가능	실행 전 검수 체크포인트	법안 의견 초안, 대외 발신 전 확인
어려움	어려움	에이전트에 맡기지 않음	환불 승인, 결제, 계약 체결

표의 세 번째 칸과 네 번째 칸을 가르는 기준은 "검수할 시점이 있는가"입니다. 법안 의견처럼 제출 전에 한 번은 사람이 확인할 수 있으면 체크포인트를 두고 맡길 수 있습니다. 반면 결제나 계약처럼 실행과 동시에 효력이 발생하는 일은 검수할 시점 자체가 없어 애초에 에이전트의 몫이 아닙니다.

국내 공공기관은 이 기준을 어떻게 적용했나요?

지식재산처는 정책회의 지식위키, 해외 지식재산기관 보도자료 보관소, 입법예고·발의법안 검토 지원 에이전트 3종을 별도 예산 없이 대화형 코딩으로 자체 구축해 사용하고 있습니다. 세 에이전트는 공교롭게도 앞선 표의 서로 다른 칸에 들어갑니다.

정책회의 지식위키는 내부 담당자가 질문하면 그동안 쌓인 회의 문서를 위키 형태로 정리해 답을 주는 용도입니다. 틀린 답이 나와도 다시 물으면 되고, 담당자가 바로 확인할 수 있어 첫 번째 칸(자동 실행 후 사후 검수)에 해당합니다. 해외 지식재산기관 보도자료 보관소는 매일 전 세계 기관의 보도자료를 자동으로 모으고 분류해 한국어로 요약합니다. 양이 많아 전부 사람이 다시 읽기는 어렵지만, 잘못된 요약 하나가 큰 피해로 이어지지는 않아 두 번째 칸(표본 검수)에 가깝습니다. 반면 입법예고·발의법안을 조사해 법안검토를 지원하는 에이전트는 결과가 실제 정책 대응에 쓰일 수 있어, 담당부서가 최종 판단을 내리기 전 단계까지만 지원하는 세 번째 칸(검수 체크포인트)으로 설계됐습니다.

검수가 안 되는 일은 왜 맡기면 안 될까요?

오픈AI는 환불 승인이나 결제처럼 민감하고 되돌리기 어려우며 파급력이 큰 작업은 에이전트의 신뢰도가 쌓이기 전까지 사람의 확인을 거치게 해야 한다고 권고합니다. 이런 작업은 실행된 순간 효력이 발생하기 때문에, 애초에 검수가 "실행 전"이 아니라 "실행 후 피해 복구"가 돼버립니다. 체크포인트를 아무리 정교하게 설계해도 체크할 시점 자체가 사라지는 셈입니다.

앤트로픽은 프레임워크를 쓰더라도 내부에서 실제로 어떤 일이 일어나는지 이해하고 있어야 한다고 강조합니다. 추상화 레이어가 많아질수록 무엇이 잘못됐는지 파악하기 어려워지기 때문입니다.

그래서 네 번째 칸에 속한 업무는 기술이 더 좋아진다고 쉽게 첫 번째 칸으로 옮겨가지 않습니다. 모델의 정확도가 올라가면 두 번째·세 번째 칸의 업무를 더 많이 맡길 수는 있지만, 되돌릴 수 없고 검수 시점도 없는 일은 조직의 승인 구조 자체를 바꾸지 않는 한 그대로 남습니다.

도입은 어디서부터 시작해야 하나요?

앤트로픽은 가장 단순한 해법부터 시작해 필요할 때만 복잡도를 올리라고 권고합니다. 에이전트는 속도와 비용을 지연·비용과 바꾸는 거래이므로, 그 거래가 맞는 업무인지부터 따져야 한다는 뜻입니다. 지식재산처 사례처럼 내부용으로 쓰는 첫 번째 칸의 업무부터 시작하면 실패해도 비용이 작고, 어디서 자주 틀리는지 관찰할 시간도 벌 수 있습니다.

관찰한 실패 유형은 그다음 단계를 정하는 자료가 됩니다. 같은 실수가 반복되면 그 업무는 아직 두 번째 칸으로 넘기기 이르다는 뜻이고, 사람의 개입 없이도 일정 기간 문제가 없었다면 검수 방식을 표본 검수로 줄여볼 수 있습니다. 반대로 세 번째·네 번째 칸의 업무는 성공 사례가 쌓였다고 체크포인트를 없애는 방향이 아니라, 체크포인트를 더 빠르게 통과하도록 돕는 방향으로만 바꿔야 합니다.

자주 묻는 질문

AI 에이전트와 챗봇은 어떻게 다른가요?
챗봇은 질문에 답하는 단일 호출에 머물지만, 에이전트는 목표를 받아 스스로 계획을 세우고 여러 단계에 걸쳐 도구를 호출하며 중간 결과를 보고 다음 행동을 다시 정합니다.
직원이 적은 조직도 AI 에이전트를 만들 수 있나요?
지식재산처는 별도 예산 없이 대화형 코딩으로 에이전트 3종을 자체 구축했습니다. 조직 규모보다 어떤 업무부터 맡길지 범위를 좁히는 쪽이 더 중요합니다.
에이전트에게 절대 맡기면 안 되는 업무가 있나요?
환불 승인, 결제, 계약 체결처럼 실행과 동시에 효력이 발생해 검수할 시점이 없는 업무입니다. 모델이 좋아져도 이 성격은 바뀌지 않습니다.
검수를 다 못 하면 포기해야 하나요?
양이 많아 전부 검수하기 어려운 업무는 포기하는 대신 표본 검수로 범위를 좁히고, 실수가 되돌릴 수 있는 수준인지만 먼저 확인합니다.
도입 전에 가장 먼저 할 일은 무엇인가요?
되돌릴 수 있고 검수도 쉬운 업무 하나를 골라 먼저 맡겨 보고, 어디서 자주 틀리는지 관찰한 뒤 다음 업무로 범위를 넓힙니다.