.png)
.png)
AI 윤리 및 보안
첫 면담 직후 — AI를 쓰기 전에 비식별·입력 판단·윤리 체크리스트를 끝냅니다.
이 차시를 마치면 AI에 넣을 정보와 넣으면 안 될 정보를 스스로 판단할 수 있다
이번 차시에서 익힐 것
- AI 윤리 3원칙(공정·투명·책임)을 현장 맥락에 적용한다
- 식별·민감·가명 정보를 구분하고 비식별화한다
- AI 입력 허용/금지를 판단한다
- 윤리 체크리스트로 AI 실행 전 점검을 한다
완료 기준 · 비식별화 1건 · 입력 판단 4문 · 윤리 체크리스트 5항.
- AI 입력 전 비식별화(가명·마스킹·범주화)
- AI 출력 그대로 고용24·법정 서식 등록 금지
- 내담자 AI 보조 사용 고지 · HITL 검증 후 확정
첫 면담 직후 — AI를 쓰기 전에 비식별·입력 판단·윤리 체크리스트를 끝냅니다.
- 현장 상황 — 김○○ 첫 방문 — 면담 직후 상담사 수기 메모만 있는 상태
- 해결 과제 — AI에 넣을 정보와 넣으면 안 될 정보를 스스로 판단
- 입력자료 — 상담사 수기 메모(실명·전화·상세주소·건강 언급 포함 → AI 입력 금지)
- AI 역할 — 제안(초안) · 이번 차시는 AI 실행 전 비식별·입력 판단까지
- 상담사 역할 — 확정 · 비식별화 · 허용/금지 판단 · 체크리스트 · 최종 책임
- 이번 차시 결과물 — Before/After 비식별화 1건 · 입력 허용/금지 4문항 + 근거 · 윤리 체크리스트 5항
- 완료 기준 — 비식별화 1건 · 입력 판단 4문 · 윤리 체크리스트 5항
이번 차시의 결과물
- Before/After 비식별화 1건 (워크북)
- 입력 허용/금지 4문항 + 근거
- 윤리 체크리스트 5항 (매 AI 실행 전 재사용)
이 과정은 김○○ 한 사례로 아래 6종을 포트폴리오로 모읍니다. 1차시는 모든 결과물의 윤리·비식별 게이트입니다.
- 상담기록지 — 5차시 · SOAP + HITL
- 초기상담 질문지 — 2차시 · 탐색형 5+
- 직무추천 리포트 — 2·4차시 · 근거 + 확인 질문
- 진로설계서 — 5차시 · 6개월 로드맵
- 사후조치 계획서 — 5차시 · 일정·연락
- 자동화 보고 초안 — 5차시 · 팀 공유용 1페이지
이번 차시(1) 결과물 — Before/After 비식별화 · 입력 판단 · 윤리 체크리스트 → 위 6종의 공통 전제
- 현장 과제·결과물 — 비식별·입력 판단·체크리스트
- 김○○ 사례 — 수기 메모(AI 입력 금지) 확인
- 3원칙·정보 구분 — 공정·투명·책임 / 식별·민감·가명
- AI 실행 전 워크플로 — 면담→비식별→입력 판단→체크리스트
- 필수 실습 — Before/After · 4문항 · 윤리 5항
3. 상담실 — 김○○ 첫 면담 직후
김민수 010-1234-5678, 경기 ○○시 ○○로 123 35세, ○○물류 입출고 3년, 지게차 기능사 희망: 사무·데이터, 월 250~280, 통근 1h 메모: 허리 불편 언급, 야간 근무 기피
위 메모는 AI 입력 금지입니다. 실명·전화·상세주소·건강(허리)이 그대로 노출되어 있습니다. 다음 섹션에서 변환합니다.
1. AI 윤리 3원칙
직업상담 현장에서 AI는 「빠른 초안 도구」입니다. 아래 3원칙은 모든 차시의 전제입니다.
| 원칙 | 상담실에서의 의미 | 하면 안 되는 일 |
|---|---|---|
| 공정성 | 성별·연령·지역·학력 편향 없이 탐색·추천 | 「40대는 현장 불가」「여성은 사무만」 같은 일반화 |
| 투명성 | 내담자에게 AI 보조 사용을 고지 | AI 작성인데 본인이 직접 쓴 것처럼 제출 |
| 책임성 | 등록·제출·면담 멘트는 상담사가 최종 확인 | AI 출력을 검증 없이 시스템·서식에 그대로 입력 |
AI는 제안하고, 상담사가 확정합니다. 확정 전에는 「초안」일 뿐입니다.
2. 개인정보 · 민감정보 · 식별정보
| 구분 | 예시 | AI 입력 |
|---|---|---|
| 식별정보 | 실명, 주민번호, 전화, 상세 주소, 사진 | ❌ 금지 |
| 민감정보 | 건강·장애·노조·종교·범죄 경력 등 | ❌ 원칙 금지 (필요 시 범주화·동의) |
| 가명·비식별 맥락 | 「30대·물류 3년·사무 희망·수도권」 | ✅ 허용 (최소·목적 한정) |
원칙: AI에 넣을 정보는 「개인을 특정할 수 없고, 상담 목적에 필요한 최소」만.
현장 워크플로 — AI 실행 전
- 면담 종료수기 메모 확보 (아직 AI 금지)
- 비식별화가명·마스킹·범주화 적용
- 입력 판단허용/금지 O/X + 근거
- 체크리스트5항 확인 후에만 AI 실행
4. 비식별화 Before / After
김민수 010-1234-5678 경기 ○○시 ○○로 123 허리 디스크 치료 중
김○○, 30대 010-****-5678, 수도권 ○○구 물류(가명) 3년, 지게차 희망: 사무·데이터, 통근 1시간 이내 · 월 250~280 · 주간 선호 신체: 장시간 서기 부담 (범주화)
5기법: 가명 · 마스킹 · 범주화 · 총계처리 · 일반화
건강 정보는 「진단명」 대신 업무 제약으로 바꿉니다. 「디스크」→「장시간 서기·중량물 부담」
5. AI 입력 허용 / 금지 판단
| 문장·데이터 | 판단 | 이유 |
|---|---|---|
| 「김○○, 30대, 물류 3년→사무 희망, 통근 1시간 이내 · 월 250~280 · 주간 선호」 | ✅ 허용 | 비식별·목적 최소 |
| 실명 + 전화번호 + 상세 주소 | ❌ 금지 | 개인 식별 가능 |
| 「반드시 ○○물류에 적합」 (AI 출력) | ❌ 그대로 사용 금지 | 검증·탐색 전 확정 멘트 |
| 가명 메모 → 구직표 항목 초안 | ✅ 허용 (초안) | HITL 후 내담자 확인 |
| 동료 상담사 실명 사례 공유 | ❌ 금지 | 제3자 정보·동의 없음 |
6. AI 윤리적 사용 체크리스트
2차시 이후 모든 AI 실행 전 아래 5항을 확인하세요. e-book 워크북에도 동일 항목을 기록합니다.
- □ 입력 데이터 비식별화 완료 (식별·민감 제거·범주화)
- □ 내담자에게 AI 보조 사용 고지·동의
- □ 출력은 HITL 검증 후에만 활용 예정
- □ AI 출력을 시스템·법정 서식에 그대로 등록하지 않음
- □ 최종 책임 주체 = 상담사 (본인 서명·확인)
필수 실습 · 1차시
가명 김○○ 케이스로 비식별화 → 입력 판단 → 윤리 체크리스트까지 완료합니다.
- 본문 sec4 Before 문장 1개 선택
- 가명·마스킹·범주화 적용 → After 작성
- 동료(자가) 교차 검점: 식별 가능 잔존 0건?
본문 sec5 표 · e-book 워크북에 O/X + 근거 1줄.
- □ 비식별화 완료
- □ AI 사용 고지
- □ HITL 예정
- □ 등록 금지 확인
- □ 책임 주체 명시
선택 심화 · 6개 결과물 상세 보기
김○○(30대·물류 창고 피킹·지게차 3년 → 사무·데이터 입력 희망) — 첫 방문 — 면담 직후 상담사 수기 메모만 있는 상태에서 AI 활용 여정이 시작됩니다. AI를 쓰기 전에 윤리·비식별·입력 판단을 끝냅니다.
상담실에서 AI 사고의 80%는 「뭘 넣었느냐」에서 시작합니다. 비식별 없이 프롬프트부터 쓰면, 빠르게 보이지만 개인정보·법적 책임 리스크가 그대로 남습니다.
1차시에서 만든 비식별·윤리 게이트가 2~6차시 산출물(질문지·직무추천·기록·설계·보고·포트폴리오)의 공통 전제입니다. 세부 작성법은 각 차시·6차시에서 다룹니다.
선택 심화 · 추가 안내·FAQ 보기
흔한 실수
- 「일단 프롬프트부터」 → 실명·전화가 그대로 유출
- 건강 진단명을 AI에 그대로 입력
- 동료 사례를 동의 없이 AI에 공유
- 체크리스트 생략 → HITL도 생략으로 이어짐
자주 묻는 질문
가명만 써도 되나요?
가명+연령+상세주소 조합이면 여전히 위험할 수 있습니다. 목적 최소·범주화까지 적용하세요.
내담자에게 꼭 말해야 하나요?
네. AI 보조 사용 고지·동의는 투명성 원칙입니다.
고용24 등록 전에 뭘 하나요?
AI 출력은 초안일 뿐. 내담자 확인 → 상담사 확정 후 직접 입력하세요.
선택 심화 · 차시 요약·다음 연결 보기
차시 요약
- AI 윤리 3원칙 = 공정 · 투명 · 책임
- 식별·민감·가명 맥락 구분
- 김○○ Before/After 비식별화 1건
- 다음: 비식별 맥락으로 프롬프트 설계
지식 확인
셀프 체크핵심 개념을 스스로 점검합니다. 「정답 보기」 또는 「전체 정답 한번에 보기」를 사용하세요.
Q1 AI 윤리 3원칙은?
정답 보기
Q2 비식별화 실습의 목적은?
정답 보기
Q3 AI 입력 허용/금지 실습에서 금지 예시는?
정답 보기
Q4 윤리적 사용 체크리스트 필수 항목은?
정답 보기
📋 전체 정답 한번에 보기
- Q1. 공정성, 투명성, 책임성. AI 사용 고지·비편향 추천·최종 책임은 상담사.
- Q2. 개인식별정보를 가명·마스킹·범주화하여 AI 입력 시 개인정보 위험을 줄이면서 상담 맥락은 유지하는 것.
- Q3. 실명, 주민번호, 연락처, 상세 주소 등 식별·민감정보.
- Q4. 비식별화, HITL 검증, AI 사용 고지, 공식 서식 그대로 등록 금지.
- □ AI 윤리 3원칙을 설명할 수 있는가
- □ 비식별화 Before/After 1건을 작성했는가
- □ AI 입력 허용/금지 실습 2문항을 판단했는가
- □ 윤리적 사용 체크리스트를 작성했는가