.png)
.png)
개인정보 보호와 출력물 검증
입력 단계 비식별화 5기법과 출력 단계 환각 검증 3단계로 AI를 안전하게 활용하는 양 끝 안전장치를 익힙니다.
이번 차시에서 익힐 것
- 개인정보·민감정보·고유식별정보를 구별한다
- 비식별화 5기법을 적용한다
- AI 환각 4유형을 이해한다
- 출력물 검증 3단계를 수행한다
완료 기준 · 비식별화 Before/After 1건 · 환각 유형 2개 · 검증 3단계 · 지식 확인 4문.
이 과정의 관점
1차시 윤리 원칙 위에서, 입력(비식별화)·출력(환각 검증) 양 끝의 안전장치를 익힙니다. 실기(필답형) 준비에 AI를 쓸 때도 동일 기준이 적용됩니다. (1차시에서 AI 윤리·학습 보조 기준 확인.)
이 차시에서 AI가 돕는 일
사례·기출·면담 메모를 AI에 넣기 전 비식별화 5기법을 적용하고, AI가 만든 이론·수치·법조문은 3단계 검증으로 팩트체크합니다.
윤리·개인정보 지침
AI 학습·실습 시 실제 내담자·수험생 정보를 그대로 입력하지 마세요. 비식별화 후 사용하고, 출력은 HITL로 검증하세요.
- 실명·연락처·주민번호 등 고유식별정보는 AI 입력 금지
- 가명·범주화·마스킹 후에만 학습용 사례 입력
- AI가 생성한 법령·통계·자격요건은 공식 출처로 재확인
⚠ 위반 시 개인정보보호법 등 관련 법령에 따라 책임이 발생할 수 있습니다.
이 차시의 학습 흐름
이 차시는 다음 순서로 진행합니다. 각 단계를 확인한 뒤 프롬프트를 직접 작성·실행·검증해 보세요.
- 개념 이해 — 출제기준·시험 형식과 연결해 짚습니다.
- 프롬프트 실습 — 템플릿을 AI에 붙여넣고 변수를 바꿔 실행합니다.
- HITL 검증 — 교재·출제기준·공식 자료와 대조해 수정합니다.
- 자기 평가 — 연습문·체크리스트로 다음 차시 전 빈틈을 메웁니다.
2. 왜 개인정보 보호가 중요한가
직업상담사는 내담자의 이름, 연락처, 경력, 건강 상태 등 다양한 개인정보를 수집·관리합니다. AI 시스템에 이러한 정보를 입력하는 행위는 개인정보보호법상"제3자 제공" 또는 "위탁 처리"에 해당할 수 있으므로, 반드시 법적 기준을 숙지해야 합니다.
CAUTION
내담자 정보를 비식별화 없이 외부 AI 서비스(ChatGPT, Gemini 등)에 입력하는 것은개인정보보호법 위반이 될 수 있으며, 과태료 부과 대상이 됩니다. 본 과정의 자체 웹페이지는 내담자 정보가 외부 서버로 전송되지 않도록 설계되어 있습니다.
3. 개인정보보호법 핵심 개념 3가지
| 개념 | 내용 | AI 활용 시 주의 원칙 |
|---|---|---|
| 개인정보 | 살아 있는 개인에 관한 정보로 이름·주민번호·영상 등 식별 가능한 모든 정보 | 수집·이용 시 동의 필수, 법적 근거 없이 AI 입력 금지 |
| 민감정보 | 사상·신념·건강·성생활·유전정보·범죄경력 등 | 원칙적 수집 금지, 법적 근거 있는 경우만 예외 |
| 고유식별정보 | 주민등록번호·여권번호·운전면허번호·외국인등록번호 | 법적 근거 없으면 절대 AI 입력 금지 |
5. 비식별화 5기법
비식별화란 개인정보에서 개인을 알아볼 수 있는 요소를 제거·변환하여 특정 개인을 식별할 수 없도록 처리하는 기술적 조치입니다. AI 시스템에 입력하더라도 법적·윤리적 위험을 최소화할 수 있습니다.
| 기법 | 설명 |
|---|---|
| 가명처리 | 이름 등 식별 정보를 다른 값으로 대체 (예: 홍길동 → A씨) |
| 범주화 | 구체적 값을 범위나 유형으로 변환 (예: 35세 → 30대 초반) |
| 총계처리 | 개인 데이터를 집계하여 통계로 표현 (예: 연봉 3,200만원 → 3,000만원대) |
| 데이터 삭제 | 식별 가능 정보 자체를 제거 (예: 주소·사진·주민번호 → 삭제) |
| 데이터 마스킹 | 일부 정보를 가려서 표시 (예: 010-1234-5678 → 010-****-****) |
6. 비식별화 Before / After 비교
| 항목 | 원본 (AI 입력 금지) | 비식별화 후 (AI 입력 가능) |
|---|---|---|
| 내담자 기본정보 | "홍길동(35세, 남), 경기도 성남시 거주" | "30대 초반 남성 내담자, 수도권 거주" |
| 연락처 정보 | "010-1234-5678, abc@email.com" | "연락처 정보 삭제" |
| 경력 정보 | "A기업 대리직 5년 후 권고사직" | "중견기업 대리직 5년 후 비자발적 이직" |
| 민감정보 | "우울증 진단을 받은 경험이 있으며" | "정서적 어려움을 경험한 이력이 있으며" |
7. AI 입력 전 비식별화 체크리스트
CHECKLIST
- □ 이름·주민번호·전화번호·이메일·주소가 포함되어 있지 않은가?
- □ 특정 개인을 식별할 수 있는 직장명·학교명이 포함되어 있지 않은가?
- □ 건강상태·종교·정치적 견해 등 민감정보가 직접 언급되어 있지 않은가?
- □ 사례가 특정 내담자를 연상시킬 만큼 구체적이지 않은가?
RULE
체크리스트 4개 항목 중 하나라도 해당되면 AI 입력 전 반드시 비식별화 처리를 거쳐야 합니다.
11. 비식별화 실습
다음 상담 기록을 AI에 입력 가능한 형태로 비식별화하세요.
원본 상담 기록 — AI 입력 금지
내담자: 박지수 (여, 28세)
연락처: 010-9876-5432 / jisoo.park@gmail.com
학력: 한양대학교 사회학과 졸업 (2019년)
경력: (주)삼성전자 인사팀 2년 후 계약 종료
현황: 우울증 진단(2022년), 현재 약물 치료 중
상담 목적: 재취업 의지 있으나 자신감 저하, 면접 공포증 호소
연락처: 010-9876-5432 / jisoo.park@gmail.com
학력: 한양대학교 사회학과 졸업 (2019년)
경력: (주)삼성전자 인사팀 2년 후 계약 종료
현황: 우울증 진단(2022년), 현재 약물 치료 중
상담 목적: 재취업 의지 있으나 자신감 저하, 면접 공포증 호소
비식별화 모범 예시
내담자: 20대 후반 여성
학력: 4년제 대학교 인문사회계열 졸업
경력: 대기업 인사 관련 업무 2년 후 계약 종료
현황: 정서적 어려움으로 치료적 지원을 받고 있음
상담 목적: 재취업 희망, 자신감 저하 및 심리적 부담 호소
학력: 4년제 대학교 인문사회계열 졸업
경력: 대기업 인사 관련 업무 2년 후 계약 종료
현황: 정서적 어려움으로 치료적 지원을 받고 있음
상담 목적: 재취업 희망, 자신감 저하 및 심리적 부담 호소
학습 포인트
가명처리(박지수→삭제) · 범주화(28세→20대 후반, 한양대→4년제 인문사회계열) · 데이터 삭제(연락처·이메일) · 완곡 표현(우울증→정서적 어려움)을 조합했습니다.
바로 해보기 · 비식별화
- 위 「원본 상담 기록」에서 이름·연락처·구체 직장·진단명을 표시합니다.
- 비식별화 5기법 중 2가지 이상을 적용해 AI 입력용 문장으로 바꿉니다.
- 모범 예시와 비교한 뒤, 상담 목적(재취업·자신감)이 유지되는지 확인합니다.
- 아래 「필수 실습 · 비식별화」 Step 1을 완료합니다.
※ 실습은 실제 내담자·수험생 정보를 넣지 않습니다. 출력은 HITL로 검증하고, 최종 판단은 상담사·수험생 본인이 합니다. 윤리·개인정보 지침
필수 실습 · 비식별화
대표 사례(박지수 기록)를 비식별화 5기법으로 변환합니다. 가명·비식별 정보만 사용하세요.
Step 1 — AI · 비식별화 연습
가명 사례 1건을 비식별화 5기법 중 2가지 이상 적용해 AI에 입력 가능한 형태로 변환.
8. AI 환각(Hallucination)이란
AI 환각(Hallucination)이란 AI가 실제로 존재하지 않는 정보를 마치 사실인 것처럼 생성하는 현상입니다. AI는 통계적 패턴을 기반으로 텍스트를 생성하기 때문에, 사실과 다른 내용을 자신 있게 출력하는 경우가 발생합니다.
⚠ 중요 경고
AI가 "확실합니다", "정확합니다"라고 표현해도 사실이 아닐 수 있습니다. 직업상담사 2급 관련 내용은 반드시 한국산업인력공단 공식 자료로 검증하세요. AI 결과를 믿고 틀린 내용을 실기 답안에 작성하면 감점·불합격 요인이 됩니다.
9. 환각 유형과 확인 방법
| 환각 유형 | 발생 예시 | 확인 방법 |
|---|---|---|
| 사실 오류 | 존재하지 않는 자격증이나 법 조항을 실제처럼 서술 | 공식 자료와 직접 대조 |
| 날짜·수치 혼동 | 연도·인원·비율 등 수치를 임의로 생성하거나 혼용 | 고용노동부·워크넷 공식 통계 확인 |
| 출처 조작 | 존재하지 않는 논문·기관을 인용 | 검색으로 기관 실재 여부 직접 확인 |
| 용어 오류 | 유사 용어를 혼용하거나 정의를 잘못 서술 | 교재 용어 정의와 비교 |
10. AI 출력물 검증 3단계 프로세스
STEP 1 · 내용 검토
출력된 내용 전체를 읽고 이상한 부분 체크. 수치·날짜·자격요건 등은 직업상담사 2급 출제기준과 비교.
STEP 2 · 출처 확인
AI가 언급한 법률·통계·연구 결과의 실재 여부를 직접 검색. 워크넷·커리어넷·한국산업인력공단 등 공식기관 정보와 일치 여부 확인.
STEP 3 · 전문가 피드백
교재·강사 피드백으로 AI 결과의 적절성 비교. 수정이 필요한 부분은 AI에게 재질문하여 개선.
RULE OF THUMB
내용검토 → 출처확인 → 전문가피드백 — 이 3단계를 거치지 않은 AI 결과는학습용으로만 사용하고, 실기 답안이나 상담 자료로는 절대 사용하지 마세요.
바로 해보기 · 출력물 검증
- 검증 3단계(내용 검토 → 출처 확인 → 전문가 피드백)를 순서대로 확인합니다.
- AI가 만든 법령·용어 1건을 골라 큐넷·교재와 대조합니다.
- 아래 「필수 실습 · 출력물 검증」 Step 2~3을 완료합니다.
필수 실습 · 출력물 검증
비식별화와 별개로, AI 출력의 환각·출처를 HITL로 검증합니다.
Step 2 — HITL · 환각 검증 3단계
AI가 생성한 법령·용어 1건을 큐넷·교재로 재확인.
Step 3 — 워크북
2차시 워크북에 Before/After·검증 체크 기록.
선택 심화 · AI 서비스별 데이터 처리 특성
4. AI 서비스별 데이터 처리 특성
AI 서비스마다 입력 데이터를 처리하는 방식이 다릅니다.무료 서비스일수록 입력 데이터가 모델 학습에 활용될 가능성이 높으므로 더욱 주의가 필요합니다.
| AI 서비스 | 데이터 처리 특성 |
|---|---|
| ChatGPT (무료) | 입력 데이터가 모델 개선에 활용될 수 있음 |
| ChatGPT (유료) | 옵트아웃 설정 가능 — Settings → Data Controls → Improve the model 해제 |
| Gemini | Google 계정 연동, 대화 내용이 Google 서비스 개선에 사용될 수 있음 |
| 본 과정 자체 웹페이지 | 내담자 정보가 외부 서버로 전송되지 않는 환경으로 설계됨 |
KEY POINT
외부 AI 서비스를 사용할 경우 반드시 비식별화 후 입력하는 것을 원칙으로 삼아야 합니다. 옵트아웃 설정 가능 여부와 관계없이, 비식별화는 모든 AI 활용의 기본 전제입니다.
선택 심화 · 연습문제와 모범답안 보기
연습문제
Q1 · 객관식
AI 환각(Hallucination) 현상에 대한 설명으로 옳은 것은?
① AI 처리 속도가 느려지는 현상
② AI가 존재하지 않는 정보를 사실처럼 생성하는 현상
③ AI가 이전 대화를 기억하지 못하는 현상
④ AI가 특정 언어를 번역하지 못하는 현상
① AI 처리 속도가 느려지는 현상
② AI가 존재하지 않는 정보를 사실처럼 생성하는 현상
③ AI가 이전 대화를 기억하지 못하는 현상
④ AI가 특정 언어를 번역하지 못하는 현상
Q1 정답 · ②
AI 환각이란 생성형 AI가 통계적 패턴 기반으로 실제로 존재하지 않는 정보를 사실인 것처럼 생성하는 현상입니다.
Q2 · 주관식
비식별화가 필요한 이유 2가지와 비식별화 기법 3가지를 예시와 함께 서술하시오.
Q2 모범답안
이유 ①: 개인정보보호법 위반 방지 — 실명·연락처 등 무단 제공 금지
이유 ②: AI 서비스 데이터 학습 활용 위험 차단
기법 ①: 가명처리 — 홍길동 → A씨
기법 ②: 범주화 — 35세 → 30대 초반
기법 ③: 마스킹 — 010-1234-5678 → 010-1234-****
이유 ②: AI 서비스 데이터 학습 활용 위험 차단
기법 ①: 가명처리 — 홍길동 → A씨
기법 ②: 범주화 — 35세 → 30대 초반
기법 ③: 마스킹 — 010-1234-5678 → 010-1234-****
Q3 · 주관식
AI 출력물을 실기 답안에 활용하기 전 거쳐야 할 검증 3단계를 순서대로 서술하시오.
Q3 모범답안
1단계 · 내용 검토: 출력된 내용 전체를 읽고 이상한 부분 체크. 수치·날짜·자격요건 등은 출제기준과 비교.
2단계 · 출처 확인: AI가 언급한 법률·통계·연구 결과의 실재 여부를 직접 검색. 워크넷·커리어넷·한국산업인력공단 등 공식기관 정보와 대조.
3단계 · 전문가 피드백: 교재·강사 피드백으로 AI 결과의 적절성 비교. 수정 필요 부분은 AI에게 재질문하여 개선.
2단계 · 출처 확인: AI가 언급한 법률·통계·연구 결과의 실재 여부를 직접 검색. 워크넷·커리어넷·한국산업인력공단 등 공식기관 정보와 대조.
3단계 · 전문가 피드백: 교재·강사 피드백으로 AI 결과의 적절성 비교. 수정 필요 부분은 AI에게 재질문하여 개선.
NEXT
다음 3차시 · 프롬프트 구조와 이론 요약에서는 AI에게 정확한 결과를 얻기 위한 프롬프트 4요소(역할·맥락·과업·출력형식)와 직업발달이론(Super·Holland·Gottfredson·Krumboltz) 요약 프롬프트 작성법을 학습합니다.
선택 심화 · 학습 목표 상세
1. 학습 목표
OBJECTIVES
- AI 활용 과정에서 개인정보보호법 핵심 개념(개인정보·민감정보·고유식별정보)을 구별한다.
- 비식별화 5기법(가명처리·범주화·총계처리·데이터 삭제·데이터 마스킹)을 실무에 적용할 수 있다.
- AI 환각(Hallucination) 현상을 이해하고 3단계 검증 프로세스(내용검토→출처확인→전문가피드백)를 수행할 수 있다.
12. 핵심 정리
SUMMARY
- 개인정보 3분류: 개인정보 / 민감정보 / 고유식별정보 — 실명·연락처·주소 직접 입력 금지
- 비식별화 5기법: 가명처리 · 범주화 · 총계처리 · 데이터 삭제 · 데이터 마스킹
- AI 환각: AI가 존재하지 않는 정보를 사실처럼 생성하는 현상 — "확실합니다"도 의심
- 검증 3단계: 내용검토 → 출처확인 → 전문가피드백
지식 확인
셀프 체크아래 문항을 읽어 보세요. 「정답 보기」 또는 맨 아래 「전체 정답 한번에 보기」를 사용하세요.
Q1 개인정보보호법 핵심 3개념은?
정답 보기
개인정보(식별 가능 정보)·민감정보(사상·건강 등)·고유식별정보(주민번호 등) — 고유식별정보는 법적 근거 없이 AI 입력 금지.
Q2 비식별화 5기법은?
정답 보기
가명처리·범주화·총계처리·데이터 삭제·데이터 마스킹.
Q3 AI 환각(Hallucination) 4유형은?
정답 보기
사실 오류·날짜·수치 혼동·출처 조작·용어 오류 — 「확실합니다」 표현도 반드시 공식 자료로 재확인.
Q4 출력물 검증 3단계 순서는?
정답 보기
내용 검토(사실·용어) → 출처 확인(Q-net·교재·법령) → 전문가·동료 피드백(또는 자기 재검증).
📋 전체 정답 한번에 보기
- Q1. 개인정보(식별 가능 정보)·민감정보(사상·건강 등)·고유식별정보(주민번호 등) — 고유식별정보는 법적 근거 없이 AI 입력 금지.
- Q2. 가명처리·범주화·총계처리·데이터 삭제·데이터 마스킹.
- Q3. 사실 오류·날짜·수치 혼동·출처 조작·용어 오류 — 「확실합니다」 표현도 반드시 공식 자료로 재확인.
- Q4. 내용 검토(사실·용어) → 출처 확인(Q-net·교재·법령) → 전문가·동료 피드백(또는 자기 재검증).
검토 · 차시 마무리
- □ 개인정보·민감정보·고유식별정보를 구분할 수 있는가
- □ 비식별화 Before/After 1건을 작성했는가
- □ 환각 4유형과 검증 3단계 순서를 말할 수 있는가
- □ 통합교재 #wb-m2에 검증 체크리스트를 기록했는가