체크리스트

AI 윤리, 개발사 문제가 아니라 사용 조직이 점검할 항목입니다

정부가 확정한 「대한민국 인공지능 윤리원칙」과 「공공부문 인공지능 윤리기준」을 사용 조직이 교육 과정에서 점검할 항목으로 바꾸는 방법을 정리했습니다.

2026-10-23

AI 윤리는 AI를 개발하는 기업이 지키면 되는 문제라고 생각하는 조직이 많습니다. 하지만 올해 정부가 확정한 두 윤리기준은 이 생각과 다릅니다. 8월 확정된 「대한민국 인공지능 윤리원칙」은 AI를 활용하는 이용자도 공급자와 나란히 책임 있는 활용 주체로 규정했고, 10월 확정된 「공공부문 인공지능 윤리기준」은 68개 세부 점검 항목을 조직이 스스로 점검하도록 설계했습니다. AI 윤리를 교육 과정에 넣으려면, 벽에 걸어 두는 선언문이 아니라 업무에서 실제로 점검하는 항목으로 바꿔야 합니다.

두 기준이 공통으로 요구하는 지점과, 선언에 머물지 않고 교육 과정에서 작동하게 만드는 방법을 정리했습니다.

AI 윤리가 개발사만의 문제라는 생각은 왜 틀렸나요?

과학기술정보통신부와 정보통신정책연구원(KISDI)은 제12회 과학기술관계장관회의에서 「대한민국 인공지능 윤리원칙」을 심의·의결해 8월 21일 확정했습니다. 인공지능기본법 제27조에 따라 제정된 이 윤리원칙은 3대 가치(인간의 존엄성·사회의 공공선·인류의 지속가능성)와 7대 원칙(인간중심성·프라이버시 보호·공정성·포용성·책임성·안전성·신뢰성·투명성)으로 구성됩니다.

이 윤리원칙의 특징 중 하나는, AI를 개발·제공하는 공급자뿐 아니라 이를 활용하는 이용자도 책임 있는 AI 활용의 주체로 보고 이용자의 윤리와 역할을 함께 강조했다는 점입니다. 원칙별로 공급자·이용자·정부·사회 등 주체별 역할을 따로 제시한 것도 같은 이유입니다. AI를 직접 만들지 않고 가져다 쓰는 조직도 이 원칙에서 빠지지 않습니다.

정부가 정한 윤리기준은 이용 조직에게 무엇을 요구하나요?

행정안전부도 10월 1일 「공공부문 인공지능 윤리기준」을 최종 확정했습니다. 국민·행정·기술 세 관점에서 공공성·형평성·투명성·책임성·안전성·프라이버시 보호의 6대 핵심가치를 정립하고, 이를 기반으로 68개의 세부 점검 사항을 점검표로 도출했습니다. 민간을 대상으로 한 윤리원칙의 7대 원칙과 비교하면 책임성·투명성·안전성·프라이버시 보호 네 항목이 그대로 겹칩니다.

공통 항목	윤리원칙(7대 원칙, 민간 포함)	윤리기준(6대 핵심가치, 공공부문)
책임성	책임 소재를 밝히고 실질적 피해 구제 노력	책임 주체 명확화, 인적 감독·사후관리 체계
투명성	AI 활용 사실과 한계를 알기 쉽게 제공	도입·활용 과정을 투명하게 공개
안전성	생명·신체·재산상 피해 방지, 오남용 대비	국민에게 피해를 주지 않는 안전한 운영
프라이버시 보호	개인정보 자기결정권 존중	개인정보·사생활 침해 방지 보호장치

특히 「공공부문 인공지능 윤리기준」의 책임성 기준은 AI가 복지대상자 선정, 인허가, 위험예측처럼 국민의 권리와 생활에 직접 영향을 미치는 업무에 쓰일 때를 겨냥합니다. AI의 판단에 오류가 생겼을 때 누가 확인하고 책임질지를 기획 단계부터 정하고, 사람이 AI의 판단과 결정에 개입할 수 있는 인적 감독 체계를 마련하도록 했습니다. 공공기관이 아니어도 채용 서류 평가나 신용 심사처럼 사람의 권리에 영향을 주는 업무에 AI를 쓴다면 같은 기준을 참고할 수 있습니다.

선언문과 실제로 작동하는 점검은 어떻게 다른가요?

원칙과 핵심가치는 추상적입니다. 방송통신위원회와 한국지능정보사회진흥원(NIA)이 2023년 12월 내놓은 「생성형 AI 윤리 가이드북」은 이 원칙을 실제 업무 질문으로 바꿔 둔 사례입니다. 기획안이나 사업계획서, 보고서 같은 업무 자료를 생성형 AI로 만들 때 주의할 점을 세 가지로 좁혔습니다. 첫째는 환각 현상으로 인한 정보의 진위 여부, 둘째는 입력한 내용이 외부로 유출될 회사 기밀 노출 위험, 셋째는 업무 자료의 책임 소재입니다.

이 가이드북은 업무 자료의 최종 책임자를 작성자 본인으로 분명히 합니다. 생성형 AI는 업무 자료 작성에 보조적으로 쓰고, 최종 작성과 완성은 사람이 직접 해야 한다는 것입니다. 회사 정보를 생성형 AI에 입력해 기밀이 유출된 경우에는 선언적 권고에 머물지 않고 법적 책임으로 이어질 수 있다는 점도 짚습니다. 부정경쟁방지 및 영업비밀보호에 관한 법률은 영업비밀을 외부에 유출하는 행위를 15년 이하의 징역 또는 15억 원 이하의 벌금 대상으로 정하고 있고, 개인정보가 유출된 경우에는 개인정보 보호법에 따른 손해배상책임도 함께 질 수 있습니다.

"윤리기준을 지킨다"는 선언은 업무 매뉴얼로 바뀌어야 실제로 작동합니다. 업무 자료 작성 전 사실 확인, 기밀정보 미입력, 최종 책임자 명시 세 가지는 교육 없이도 당장 내규에 넣을 수 있는 항목입니다.

68개 점검표를 그대로 베끼지 않고 교육 과정에 넣으려면

「공공부문 인공지능 윤리기준」은 '3단계(적용-응용-융합) 자율점검 체계'를 함께 도입했습니다. 1단계 적용은 기초활용, 2단계 응용은 의사결정 지원, 3단계 융합은 자율결정 기반으로, 각 기관이 서비스의 AI 활용 수준에 맞춰 점검 항목을 고르도록 한 구조입니다. 68개 항목을 전부 교육에 넣을 필요는 없습니다. 부서별로 AI를 어느 단계로 쓰는지부터 가르는 편이 교육 설계에 더 맞습니다.

단계	업무 예시	교육에서 다룰 핵심 점검
1단계 적용(기초활용)	보고서·기획안 초안 작성, 회의록 요약	사실 확인, 기밀정보 미입력, 최종 작성자 책임
2단계 응용(의사결정 지원)	채용 서류 스코어링, 신용·위험 평가 보조	편향 점검, 판단 근거 설명 가능 여부
3단계 융합(자율결정 기반)	AI 판단이 바로 집행되는 자동화 업무	인적 감독 체계, 오류 발생 시 책임 주체와 피해구제 절차

1단계만 쓰는 부서에 3단계 수준의 인적 감독 체계를 가르칠 필요는 없습니다. 반대로 AI 판단이 사람의 권리에 직접 영향을 미치는 업무를 하는 부서라면 사실 확인 수준의 교육으로는 부족합니다. 부서가 AI를 어느 단계로 쓰는지 먼저 확인하고, 그 단계에 해당하는 점검 항목만 추려 교육 과정에 넣는 편이 68개 항목을 그대로 나열하는 것보다 현실적입니다.

자주 묻는 질문

AI 윤리원칙은 법적 의무인가요?
「대한민국 인공지능 윤리원칙」과 「공공부문 인공지능 윤리기준」은 인공지능기본법 제27조에 따라 제정된 자율 실천 기준으로, 처벌 조항을 두고 있지 않습니다. 다만 기밀정보 유출이나 개인정보 침해처럼 다른 법률이 정한 요건에 해당하면 그 법률에 따라 별도로 책임을 질 수 있습니다.
민간 기업도 공공부문 윤리기준의 68개 점검표를 따라야 하나요?
공공부문 윤리기준은 공공기관을 대상으로 합니다. 다만 채용 심사나 신용 평가처럼 AI 판단이 사람의 권리에 영향을 주는 업무를 한다면, 같은 기준이 짚는 책임성·투명성 항목을 참고할 수 있습니다.
AI 윤리 교육은 전사 공통으로 한 번만 하면 되나요?
본문의 3단계 자율점검 체계가 보여주듯, 부서마다 AI를 쓰는 수준이 다르면 점검해야 할 항목도 달라집니다. 문서 초안 작성 수준의 부서와 AI 판단을 그대로 집행하는 부서를 같은 내용으로 교육하면 둘 다 부족하거나 과합니다.
윤리기준과 보안 점검은 어떻게 다른가요?
겹치는 지점도 있지만 초점이 다릅니다. 보안 점검은 외부 위협으로부터 데이터를 지키는 데 집중하고, 윤리기준은 그 안에서 공정성·설명 가능성·책임 소재처럼 AI 판단 자체의 타당성을 다룹니다.