AI 윤리 & 안전

직업상담에서 AI를 활용할 때는 프롬프트를 작성하기 전에 어떤 자료를 입력하려는지 먼저 확인해야 합니다. 이름을 지운 자료라도 경력·지역·회사·상담 내용이 결합되면 특정인을 알아볼 수 있습니다. 이 페이지에서는 실제 상담자료를 사용하지 않고, 교육용 정보 목록으로 입력 가능 여부와 안전한 대안을 판단하는 방법을 연습합니다.

상담자료는 프롬프트보다 먼저 확인합니다

실제 상담기록은 이름만 삭제했다고 외부 AI에 자유롭게 입력할 수 있는 자료가 아니다.
여러 정보를 조합해 특정인을 알아볼 수 있다면 사용하지 않는다.
교육 실습에는 실제 상담사례가 아니라 교육용 가상 사례와 빈 서식을 사용한다.
실제 업무에서는 소속 기관의 AI 이용 기준과 개인정보보호 지침을 먼저 확인한다.
AI가 만든 결과는 상담사의 최종 검토를 거친다.

전체 기준은 AI 윤리 및 보안에서 확인합니다. 공통 윤리 페이지는 기관의 내부 규정이나 법률 자문을 대신하지 않습니다.

AI에 입력하지 않을 정보

직접 식별정보·민감정보·제3자 정보·기관 내부정보
직업심리검사 문항·답안·원자료·전체 결과보고서
상담 녹취·상세 전사·이력서 원문 등 원자료

유료 계정·기업용 계정·학습 활용 설정 변경만으로 모든 자료가 안전해지는 것은 아닙니다. AI가 법률 위반 여부나 기관의 최종 허용 여부를 대신 판단하게 하지 않습니다.

입력 여부를 판단하는 세 가지 구분

구분	설명	예시
교육용으로 활용 가능	실제 개인과 연결되지 않는 공개정보·빈 서식·완전한 가상 사례	공개 채용공고, 빈 상담양식, 교육용 가상 사례
기관 기준 확인	업무 목적과 사용 도구에 따라 기관 확인이 필요한 자료	내부 업무양식, 비공개 업무기준, 기관 계약형 AI 활용
외부 AI에 입력하지 않기	개인·제3자·기관을 알아볼 수 있거나 민감한 자료	상담일지, 녹취, 이력서 전체, 검사 원자료, 건강·가족·분쟁 정보

교육용으로 활용 가능실제 개인과 연결되지 않는 공개정보·빈 서식·완전한 가상 사례예시공개 채용공고, 빈 상담양식, 교육용 가상 사례
기관 기준 확인업무 목적과 사용 도구에 따라 기관 확인이 필요한 자료예시내부 업무양식, 비공개 업무기준, 기관 계약형 AI 활용
외부 AI에 입력하지 않기개인·제3자·기관을 알아볼 수 있거나 민감한 자료예시상담일지, 녹취, 이력서 전체, 검사 원자료, 건강·가족·분쟁 정보

「기관 기준 확인」은 AI가 사용 허가를 내려 주는 영역이 아닙니다. 소속 기관 담당자와 내부 기준을 확인해야 한다는 의미입니다.

교육용 상황으로 위험정보 찾기

교육용 상황 · 상담일지 요약 요청

한 상담사가 상담일지를 AI로 요약하려고 합니다. 입력하려는 자료에는 [성명], [전화번호], [정확한 생년월일], [상세 주소], [학교명], [이전 회사와 부서명], [건강 관련 상담 내용], [가족과 제3자의 정보], [직업심리검사 답안과 전체 결과지], [기관 내부 사례번호]가 포함되어 있습니다. 상담사는 이름과 연락처만 삭제하면 나머지 내용을 입력해도 되는지 고민하고 있습니다.

아래 실습은 실제 상담기록이 아니라 정보 종류 표시만 사용합니다. 무료 ChatGPT 일반 채팅창에서 진행할 수 있습니다.

실습 · 입력 예정 정보 점검하기

실습 목적: 입력하려는 정보 종류 목록으로 외부 AI 입력 가능 여부와 안전한 대안을 정리합니다.

복사???�롬?�트

당신은 「직업상담 업무 정리 보조자」입니다. 역할을 지정해도 답변의 정확성·전문성이 보장되지는 않습니다.

아래는 실제 상담기록이 아니라, 상담사가 AI에 넣으려던 「입력하려는 정보 종류 목록」입니다. 실제 상담정보·실명·연락처를 다시 붙여 넣지 마세요.

[교육용 상황]
한 상담사가 상담일지를 AI로 요약하려고 합니다. 이름과 연락처만 삭제하면 나머지 내용을 입력해도 되는지 고민하고 있습니다.

[입력하려는 정보 종류 목록]
- [성명]
- [전화번호]
- [정확한 생년월일]
- [상세 주소]
- [학교명]
- [이전 회사와 부서명]
- [건강 관련 상담 내용]
- [가족과 제3자의 정보]
- [직업심리검사 답안과 전체 결과지]
- [기관 내부 사례번호]

요청 결과:
- 외부 AI에 입력하지 않을 정보
- 서로 결합되면 특정인을 알아볼 위험이 있는 정보
- 기관 기준을 먼저 확인할 내용
- 실제 자료를 사용하지 않는 안전한 대안
- AI가 대신 판단할 수 없는 내용

제한:
- 각 항목의 법률 위반 여부를 단정하지 마세요.
- 이름만 지우면 안전하다고 판단하지 마세요.
- 민감정보를 다른 완곡한 표현으로 바꿔 입력하라고 안내하지 마세요.
- 유료·기업용 계정이면 입력 가능하다고 단정하지 마세요.
- 설정을 끄면 안전하다고 단정하지 마세요.
- 실제 상담정보를 다시 붙여 넣으라고 요구하지 마세요.
- 최종 허용 여부는 소속 기관 기준을 확인하도록 안내하세요.
- 앞선 대화나 다른 결과를 사용하지 말고 아래 목록만으로 독립적으로 작성하세요.

결과 형식:
1. 입력하지 않을 정보
2. 결합 시 식별 위험이 있는 정보
3. 기관 기준 확인 항목
4. 안전한 대안
5. AI가 대신 판단할 수 없는 내용

이 실습의 결과물: AI 입력 전 정보 점검

실제 자료를 쓰지 않고 같은 업무를 연습하기

상담사는 상담이 끝난 뒤 확인된 사실, 내담자의 표현, 추가 확인할 내용, 다음 상담 질문을 구분하는 형식을 연습하고 싶습니다. 실제 상담기록을 정리하거나 가리는 요청이 아닙니다.

실습 · 교육용 가상 사례와 빈 서식

실습 목적: 실제 개인과 연결되지 않는 가상 사례와 빈 상담 정리 서식으로 같은 업무를 연습합니다.

복사???�롬?�트

당신은 「직업상담 업무 정리 보조자」입니다. 역할을 지정해도 답변의 정확성·전문성이 보장되지는 않습니다.

업무 목적:
상담사는 상담이 끝난 뒤 확인된 사실, 내담자의 표현, 추가 확인할 내용, 다음 상담 질문을 구분하는 형식을 연습하고 싶습니다.

요청:
- 실제 개인과 연결되지 않는 교육용 가상 사례를 작성해 주세요.
- 빈 상담 정리 서식을 작성해 주세요.
- 확인된 사실·내담자 표현·추가 확인·다음 질문 영역을 구분해 주세요.
- 가상 사례라는 표시를 분명히 해 주세요.
- 실제 상담정보를 입력하지 않고도 연습할 수 있는 사용법을 안내해 주세요.

제한:
- 실제 상담사례를 바탕으로 가상 사례를 만들지 마세요.
- 실제 상담자료를 이름만 바꿔 넣으라고 하지 마세요.
- 진단명·상세 건강정보·가족 분쟁·법적 분쟁을 교육 사례에 임의로 만들지 마세요.
- 내담자의 성격·적합 직무·심리상태를 단정하지 마세요.
- 개인정보를 가공하면 안전하다고 보장하지 마세요.
- 앞선 대화나 다른 결과를 사용하지 말고 이 요청만으로 독립적으로 작성하세요.

결과 형식:
1. 교육용 가상 사례(가상 사례 표시 포함)
2. 빈 상담 정리 서식(확인된 사실 / 내담자 표현 / 추가 확인 / 다음 질문)
3. 실제 상담정보 없이 연습하는 사용법

이 실습의 결과물: 교육용 가상 사례와 빈 상담 정리 서식

잘못 입력했을 때 대응 순서 정리하기

교육용 사고 상황

상담사가 외부 AI 서비스에 실제 상담자료 일부를 잘못 붙여 넣은 사실을 뒤늦게 확인했습니다. 입력 자료에는 직접 식별정보와 제3자 정보가 포함되어 있었습니다. 현재 대화 삭제 기능은 확인할 수 있지만, 실제 보관·삭제 범위와 기관의 사고 대응 절차는 아직 확인하지 않았습니다.

실습 · 오입력 대응 정리

실습 목적: 삭제·확인·보고·재발 방지 항목을 정리하되 법률 결론은 AI에게 맡기지 않습니다.

복사???�롬?�트

당신은 「직업상담 업무 정리 보조자」입니다. 역할을 지정해도 답변의 정확성·전문성이 보장되지는 않습니다.

아래는 교육용 사고 상황입니다. 사고 내용을 다른 외부 AI에 다시 붙여 넣지 말고, 대응 항목만 정리해 주세요.

[교육용 사고 상황]
상담사가 외부 AI 서비스에 실제 상담자료 일부를 잘못 붙여 넣은 사실을 뒤늦게 확인했습니다. 입력 자료에는 직접 식별정보와 제3자 정보가 포함되어 있었습니다. 현재 대화 삭제 기능은 확인할 수 있지만, 실제 보관·삭제 범위와 기관의 사고 대응 절차는 아직 확인하지 않았습니다.

요청 결과:
- 즉시 할 일
- 어떤 정보가 어느 서비스에 입력됐는지 확인할 항목
- 가능한 삭제 조치
- 소속 기관에 보고할 내용
- 서비스의 공식 데이터 처리정책에서 확인할 내용
- 이후 재발 방지를 위해 점검할 내용
- 현재 정보만으로 판단할 수 없는 내용

제한:
- 대화 삭제만으로 모든 데이터가 완전히 삭제됐다고 단정하지 마세요.
- 모든 오입력이 곧 법 위반이라고 단정하지 마세요.
- 기관 보고가 필요 없다고 판단하지 마세요.
- 책임 소재와 법률 결론을 AI가 결정하지 마세요.
- 사고 내용을 다른 외부 AI에 다시 붙여 넣으라고 하지 마세요.
- 앞선 대화나 다른 결과를 사용하지 말고 아래 상황만으로 독립적으로 작성하세요.

결과 형식:
1. 즉시 할 일
2. 확인 항목
3. 가능한 삭제 조치
4. 기관 보고 내용
5. 공식 정책에서 확인할 내용
6. 재발 방지 점검
7. 현재 판단할 수 없는 내용

이 실습의 결과물: AI 오입력 대응 기록

비교용 AI 답변에서 잘못된 안전 판단 찾기

비교용 AI 답변

검토 연습을 위해 의도적으로 문제를 포함한 예시입니다.

이름과 전화번호만 삭제하면 개인을 식별하기 어려우므로 나머지 상담기록은 입력해도 괜찮습니다. 유료 계정은 일반적으로 입력내용을 학습에 사용하지 않으므로 더 안전합니다. 모델 개선 설정을 껐다면 건강정보도 넓은 표현으로 바꾸어 입력할 수 있습니다. 잘못 입력했을 때는 대화를 삭제하면 되며, 삭제했다면 기관에 따로 알릴 필요는 없습니다.

해설을 보기 전에, 이름만 삭제하면 안전하다는 판단과 계정·설정·삭제 기능을 과도하게 믿은 부분을 먼저 찾아보세요.

해설 보기

이름과 연락처를 삭제해도 경력·지역·회사·상담 내용의 조합으로 특정인을 알아볼 수 있다.
이름만 삭제했다는 이유로 실제 상담기록을 외부 AI에 입력해도 된다고 판단할 수 없다.
유료·기업용 여부만으로 데이터의 학습·보관·삭제 방식을 단정할 수 없다.
서비스 종류·계정 설정·요금제·기관 계약에 따라 데이터 처리방식이 달라질 수 있다.
설정을 껐다고 실제 상담자료를 자유롭게 입력할 수 있는 것은 아니다.
건강정보를 완곡한 말로 바꿔 입력하는 것도 안전을 보장하지 않는다.
대화 삭제 기능과 실제 데이터 보관·삭제 범위가 항상 같은 것은 아니다.
잘못 입력했을 때는 가능한 삭제 조치와 함께 기관의 사고 대응 절차를 확인해야 한다.
AI가 법률 위반 여부와 기관 보고 필요성을 최종 판단하게 하면 안 된다.

AI 출력은 이후에도 상담사의 최종 검토를 거칩니다.

상담자료 AI 활용 판단표

아래는 수강생이 직접 실습한 뒤 비교하는 자료입니다. 실제 상담기록을 가공해 입력하는 방법이 아닙니다.

상담자료 AI 활용 판단표 보기

상담사가 정리한 예시

최종 결과물 · 상담자료 AI 활용 판단표

1. 사용하려는 업무 목적

상담일지 요약 초안을 만드는 업무 연습(실제 내담자 자료 미사용)

2. 입력하려는 자료의 종류

입력하려는 정보 종류 목록만 확인(성명·연락처·주소·학교·회사·건강·제3자·검사 원자료·사례번호 등)

3. 외부 AI에 입력하지 않을 정보

직접 식별정보, 민감정보, 제3자 정보, 기관 내부 사례번호, 직업심리검사 답안·전체 결과지, 실제 상담일지 원문

4. 기관 기준을 확인할 내용

소속 기관의 AI 이용 기준·개인정보보호 지침, 외부 AI 사용 가능 여부, 사고 보고 창구

5. 실제 자료를 사용하지 않는 대안

교육용 가상 사례와 빈 상담 정리 서식으로 같은 형식 연습 · 공개 채용공고·빈 양식만 사용

6. 사용 중인 서비스에서 확인할 정책

사용 중인 서비스의 공식 데이터 처리정책에서 학습·보관·삭제·내보내기 범위 확인(계정·요금제·계약에 따라 다름)

7. AI 결과를 검토할 사람과 기준

상담사가 결과의 단정·누락·개인정보 재노출 여부를 최종 검토 · 법률·허용 여부는 AI가 판단하지 않음

8. 사용 후 보관·삭제 확인

교육용 대화는 필요 없으면 삭제 · 실제 업무 산출물은 기관 보관 기준에 따름

9. 잘못 입력했을 때 대응 순서

가능한 삭제 조치 → 입력 내용·서비스·시점 기록 → 기관 사고 대응 절차 확인·보고 → 재발 방지 점검

이 주제의 최종 결과물: 상담자료 AI 활용 판단표

혼자 다시 해보기

업무 목적을 한 문장으로 적는다.
실제 상담기록에서 외부 AI로 옮기면 안 되는 정보 종류를 찾는다.
빈 서식이나 완전한 가상 사례로 대체할 수 있는지 확인한다.
기관 기준을 확인해야 할 내용을 적는다.
핵심 프롬프트 중 하나를 사용해 안전한 교육자료 제작 방법을 정리한다.
「상담자료 AI 활용 판단표」를 작성한다.

연습 자료 · 상담 교육자료 만들기

한 상담사가 신규 상담사 교육을 위해 상담일지 작성 예시를 만들려고 합니다. 실제 상담사례를 참고하면 내용이 현실적일 것 같지만, 상담기록에는 내담자의 경력·학교·이전 회사·상담 과정과 제3자 정보가 포함되어 있습니다. 상담사는 실제 기록을 외부 AI에 입력하지 않고도 교육자료를 만드는 방법을 찾고 있습니다.

이것만 기억하기

프롬프트를 작성하기 전에 어떤 자료를 입력하려는지 먼저 확인합니다.
이름만 지운 실제 상담기록도 외부 AI에 자유롭게 입력할 수 있는 자료가 아닙니다.
실제 상담자료 대신 공개정보·빈 서식·교육용 가상 사례를 우선 사용합니다.
설정과 요금제만 믿지 말고 기관 기준과 서비스의 공식 정책을 확인합니다.
잘못 입력했다면 가능한 삭제 조치와 함께 기관의 사고 대응 절차를 따릅니다.