.png)
.png)
AI 윤리 & 안전
내담자 코칭 실습 전, 개인정보·환각·과의존 위험을 체크리스트로 점검합니다.
이번 차시에서 익힐 것
- AI 상담 활용의 윤리적 위험 4가지(개인정보·낙인·환각·과의존)를 설명한다
- 상담 전·중·후 안전 체크리스트를 적용하고, 입력 전 비식별화·출력 검수를 수행한다
완료 기준 · 개인정보·낙인·과의존·사실검증 중 2가지 설명 · 안전 체크리스트 1회 점검 · Step 1~4 프롬프트 1개 이상 실습.
상담정보를 AI에 입력하기 전에 위험요소를 판단하고 비식별화한 뒤, 프롬프트를 실행하고 AI 결과의 단정·편향·개인정보 위험을 검수하여 상담사 수정문을 남깁니다.
필수 확인 · 1. 상담 현장 AI 윤리가 중요한 이유
1. 상담 현장 AI 윤리가 중요한 이유
생성형 AI는 편리할수록 검토 없이 믿기 쉬워집니다. 직업상담에서는 내담자의 진로·심리·개인정보가 얽혀 있어, AI 출력을 그대로 전달하거나 기록하는 것은 큰 위험을 수반합니다. AI는 보조 도구이며, 최종 판단과 책임은 상담사에게 있습니다.
| 위험 | 대응 |
|---|---|
| 개인정보 | 비식별화 · 최소 입력 · 저장 주의 |
| 낙인·단정 | 「경향」언어 · 가능성 중심 표현 |
| 환각·부정확 | 제도·정책·기업 정보 재확인 |
| 과의존 | AI 초안 + 사람 해석·관계 유지 |
필수 확인 · 2. 안전 활용 4단계
2. 안전 활용 4단계
| 단계 | 목표 |
|---|---|
| Step 1 | 위험 유형 점검 · 입력 전 필터 |
| Step 2 | 안전 프롬프트·지침 설계 |
| Step 3 | 출력 검토 · 표현 보정 |
| Step 4 | 내담자 전달·기록 시 최종 확인 |
필수 확인 · 대표 사례 · 입력 전 판단
아래는 Step 1 프롬프트에 들어 있는 교육용 가상 상담정보입니다. 원문을 바꾸지 말고, 입력 가능 여부만 함께 판단하세요.
- 김OO, 38세, 서울 송파구 거주
- 휴대폰 010-1234-5678
- 우울감 호소
- 제조업 경력 12년, 최근 퇴사
- 재취업 방향 상담 희망
- AI 사용 목적 — 재취업 방향 상담을 위한 입력 전 익명화·위험 구분
- 입력에 필요한 정보 — 연령대·경력 요지·상담 희망(재취업 방향)
- 제거·대체할 개인정보 — 이름, 상세 거주지, 휴대폰 번호
- 입력하면 안 되는 정보 — 개인 특정 정보 · 민감한 건강/정신 상태의 직접 노출
- 윤리 지침 — 윤리·개인정보 지침 체크리스트 적용 · 위기·진단·법률 판단은 AI에 맡기지 않음
- 가상·비식별 사용 — 교육용 가상 사례·가명 정보만 사용
핵심 · 3. 첫 번째 실습 · Step 1 익명화 점검
3. 첫 번째 실습 · Step 1 익명화 점검
대표 사례로 입력 전 필터를 먼저 연습합니다. 프롬프트를 복사해 생성형 AI에서 실행한 뒤, 결과를 함께 검토하세요.
- 1. 복사 전 — 위 사례에서 이름·연락처·상세 주소·민감 표현을 걸러냈는지 확인
- 2. 강사와 함께 실행 — 「입력 프롬프트」 복사 → 생성형 AI에 붙여넣기(가상·비식별 사례만)
- 3. 실행 후 — 예상 응답과 비교하며 금지 정보·익명화 이유를 확인
복사 버튼은 바로 아래 입력 프롬프트(#c-l3-p1)를 복사합니다.
Step 1 · 익명화 점검
입력 전에 개인정보를 먼저 걸러내기
너는 직업상담기관의 AI 윤리 코치야. [상황] 상담사가 아래 내용을 AI에 넣으려고 해. - 김OO, 38세, 서울 송파구 거주 - 휴대폰 010-1234-5678 - 우울감 호소 - 제조업 경력 12년, 최근 퇴사 - 재취업 방향 상담 희망 [지시 사항] 1. 위 정보 중 AI에 직접 입력하면 안 되는 부분을 구분해줘. 2. 안전하게 익명화한 입력 예시를 다시 써줘. 3. 상담사가 왜 이렇게 바꿔야 하는지도 설명해줘.
예상 AI 응답 예시 보기
직접 입력하면 안 되는 부분 - 이름 - 상세 거주지 - 휴대폰 번호 - 민감한 건강/정신 상태 표현의 직접 노출 익명화한 안전 입력 예시 - 30대 후반 내담자 - 제조업 경력 12년 - 최근 퇴사 후 재취업 방향 상담 희망 - 정서적 자신감 저하가 관찰됨 이유 상담 현장에서 AI는 참고 도구이므로, 개인을 특정할 수 있는 정보는 제거해야 합니다. 또한 민감한 심리 정보는 꼭 필요한 수준으로만 축약해 다루는 것이 안전합니다.
- 상담 정보는 “정확하게 많이” 넣는 것보다, 안전하게 필요한 만큼만 넣는 것이 원칙입니다.
- 익명화는 번거로운 절차가 아니라 상담사 보호이기도 합니다.
필수 실습 · 3차시 · AI 윤리 & 안전
바로 해보기 입력 전 비식별화 → 프롬프트 실행 → AI 결과 검수 → 상담사 수정 · 워크북 기록.
- 본문 Step 1~4 프롬프트 중 1개 이상 실행(가명·가상 케이스)
- 개인정보·낙인·과의존·사실검증 위험 중 2가지를 출력에서 찾기
상담 전·중·후 안전 체크리스트 1회 적용 · AI에게 맡기면 안 되는 영역(위기·진단·법률) 1문장 정리 · 윤리 지침 대조.
위험 2가지·체크리스트·상담사 수정 요지를 3차시 워크북에 기록.
이 차시를 마치면 아래에 해당하는 기록을 남깁니다(새 결과물을 만들지 말고, 기존 미션·워크북 범위에서 정리).
- 비식별화한 입력문(또는 익명화 전후 대조)
- AI 결과의 위험 표현 표시 · 상담사 수정문
- 안전 체크리스트 1회 적용 결과 · 위기·진단·법률 영역 1문장
- 3차시 워크북 기록
필수 확인 · Step 2 출력 검토 · AI 결과 검수
Step 2 · 출력 검토
AI 답변의 오류·단정·편향 표현을 걸러내고 상담사가 전달 가능한 문장으로 바꿉니다.
- 사실과 다른 내용·AI가 임의로 추가한 정보가 있는가
- 단정·낙인·연령 등 편향된 추천 표현이 있는가
- 개인정보가 다시 드러나지 않았는가
- 전문 범위(위기·진단·법률)를 넘는 판단이 있는가
- 상담사가 직접 수정할 문장·최종 전달 가능 여부를 적었는가
Step 2 · 출력 검토
AI 답변의 오류와 단정적 표현 걸러내기
너는 직업상담기관의 AI 검토 코치야. [AI 출력 예시] "이 내담자는 제조업 경험이 많으므로 서비스직에는 적합하지 않습니다. 40대이기 때문에 사무직 재취업도 쉽지 않을 수 있습니다." [지시 사항] 1. 위 문장에 있는 문제점을 찾아줘. 2. 편향되거나 단정적인 표현을 더 안전한 상담 언어로 바꿔줘. 3. 상담사가 실제로 전달할 수 있는 버전으로 다시 써줘.
예상 AI 응답 예시 보기
문제점 - 서비스직 부적합을 지나치게 단정하고 있습니다. - 연령을 근거로 가능성을 축소하는 표현이 들어 있습니다. - 내담자의 실제 강점과 상황을 충분히 반영하지 못했습니다. 상담사가 전달할 수 있는 안전한 버전 제조업 경험이 길다는 점은 현장 이해와 책임감, 운영 감각이 강점일 수 있습니다. 서비스직이나 사무직도 무조건 어렵다고 보기보다, 지금까지의 경험을 어떻게 번역하고 어떤 환경이 더 잘 맞는지 함께 살펴보는 것이 좋겠습니다. 핵심은 적합성을 단정하는 것이 아니라 가능성을 넓게 검토하는 것입니다.
- AI가 단정적으로 말할수록 상담사는 더 신중해야 합니다.
- 특히 연령, 성별, 공백기 관련 표현은 편향 여부를 한 번 더 점검하세요.
필수 후속 학습 · Step 3~4 심리 안전·책임 있는 전달
나머지 필수 실습 단계 · Step 3~4
Step 1~2와 같은 흐름으로, 낙인 언어 보정과 책임 있는 전달 문장을 이어서 연습하세요. 긴 예상 응답은 필요할 때 펼칩니다.
Step 3 · 심리 안전 보정
내담자 자존감을 해치지 않는 언어로 바꾸기
너는 직업상담사의 언어 코치야. [AI 출력 예시] "경력이 단절된 상태라 경쟁력이 많이 떨어진 것으로 보입니다. 빠른 재교육이 필요합니다." [지시 사항] 1. 위 표현이 왜 위험할 수 있는지 설명해줘. 2. 내담자 자존감을 해치지 않으면서도 현실감을 잃지 않는 버전으로 바꿔줘. 3. 상담사가 말로 전달하기 좋은 버전도 함께 써줘.
예상 AI 응답 예시 보기
위험한 이유 - '경쟁력이 많이 떨어진다'는 표현은 내담자의 자존감을 크게 낮출 수 있습니다. - 현재 상태를 평가나 낙인처럼 받아들이게 만들 수 있습니다. 보정된 버전 공백 기간이 있었기 때문에 최근 채용 흐름에 맞춰 경험을 다시 정리하고, 필요한 부분은 보완하는 과정이 있으면 좋겠습니다. 하지만 공백이 곧 가능성 부족을 의미하는 것은 아닙니다. 상담사가 말하기 좋은 버전 지금은 자신감을 떨어뜨리기보다, 이미 가진 경험을 어떻게 다시 살리고 필요한 부분을 조금 보완할지 함께 정리해보면 좋겠습니다.
- 정확한 말보다 안전한 말이 더 중요한 장면이 상담에는 분명히 있습니다.
- 특히 공백기, 실패 경험, 탈락 경험을 다룰 때는 언어 보정이 핵심입니다.
Step 4 · 책임 있는 전달
AI 참고 후 상담사가 최종 판단해 전달하기
너는 직업상담기관의 AI 활용 가이드 코치야. [상황] 상담사가 AI를 참고해 직무 추천 초안을 만들었다. 이제 내담자에게 전달하기 전에 책임 있는 방식으로 정리하고 싶다. [지시 사항] 1. 상담사가 내담자에게 전달할 때 사용할 수 있는 안전한 마무리 문장 5개를 써줘. 2. AI 결과를 절대적인 판단처럼 보이지 않게 해줘. 3. 상담사의 전문성이 드러나는 톤으로 써줘.
예상 AI 응답 예시 보기
안전한 마무리 문장 예시 1. 지금 정리한 내용은 하나의 참고 방향으로 보시고, 실제로는 선생님의 경험과 선호를 함께 보며 더 구체화해보면 좋겠습니다. 2. 이 결과를 정답처럼 보기보다, 가능성을 넓게 검토하는 출발점으로 활용하시면 좋겠습니다. 3. 오늘 정리한 방향 중에서 가장 마음이 가는 쪽을 중심으로 다음 단계 계획을 같이 세워보겠습니다. 4. 추천은 참고 자료이고, 최종 선택은 선생님 상황과 강점을 함께 보며 결정하는 것이 중요합니다. 5. 저는 이 결과를 바탕으로 현실성과 적합성을 다시 점검하면서 선생님께 맞는 방향을 함께 정리해드리겠습니다.
- 좋은 마무리 문장은 AI를 숨기기 위한 문장이 아니라, 책임을 사람 쪽에 다시 가져오는 문장입니다.
- 추천은 가능성으로, 결정은 함께라는 원칙을 반복해서 보여주세요.
마무리 · 차시 요약
마무리 · 차시 요약
- 개인정보·환각·편향·과의존은 상담 현장 AI의 핵심 리스크입니다.
- 입력 전 익명화, 출력 후 사실·톤 검증, 내담자에게 사용·한계 안내가 필수입니다.
- AI는 추천·초안까지만, 결정과 책임은 상담사·컨설턴트에게 있습니다.
다음 차시
다음 차시「프롬프트 실습지」에서 2·3번 차시를 바탕으로 프롬프트를 직접 복사·비교하며 감각을 익힙니다.
지식 확인
셀프 체크아래 문항을 읽어 보세요. 답이 기억나지 않으면 「정답 보기」를 펼치거나, 맨 아래 「전체 정답 한번에 보기」를 사용하세요.
Q1 AI 상담 활용의 윤리적 위험 4가지는?
정답 보기
Q2 내담자 정보를 AI에 넣기 전 필수 조치는?
정답 보기
Q3 AI에게 맡기면 안 되는 영역은?
정답 보기
Q4 출력 검토 연계 체크의 핵심은?
정답 보기
📋 전체 정답 한번에 보기
- Q1. 개인정보 유출 · 낙인·단정 · 과의존 · 사실·환각 미검증.
- Q2. 실명·연락처·민감 정보 제거, 가명·비식별화.
- Q3. 위기 개입·진단·법률 판단·최종 상담 방향 결정.
- Q4. 사실·제도 재확인, 개인정보·낙인·과장 제거, 전달 가능한 톤.
- □ 개인정보·낙인·과의존·사실검증 위험 중 2가지를 설명할 수 있는가
- □ 안전 체크리스트 1회 이상 적용했는가
- □ Step 1~4 프롬프트 1개 이상 실습했는가
- □ AI에게 맡기면 안 되는 영역(위기·진단·법률)을 말할 수 있는가