2장. 윤리와 보안 - 책임 있게 AI 쓰기

핵심 원칙: 도구 이름이나 요금제가 아니라, 실제 계정·기능·연결 상태에 적용되는 약관과 조직 정책을 확인한 뒤 데이터를 다룬다.

데이터를 네 등급으로 나누기

등급	예시	기본 처리
공개	이미 공개된 웹페이지, 공개 보도자료	출처·최신성을 확인해 사용
내부	공개 전 기획, 업무 절차	조직 허용 도구와 권한을 확인
제한	고객·계약·재무·인사 자료	최소화·비식별화 후 승인받아 사용
금지	비밀번호, API 키, 주민등록번호, 결제·의료 원본	프롬프트·첨부·스크린샷에 넣지 않음

‘기업용은 항상 안전하다’ 또는 ‘개인용은 절대 학습하지 않는다’처럼 단정하면 안 된다. 제공사별로 개인·상업·API·조직 계정의 조건과 보존 기간, 피드백·연결 기능의 처리 방식이 다르며 변경될 수 있다. 계약·관리자 설정·현재 약관을 해당 업무 전에 다시 확인한다.

실무 안전장치

1. 목적에 꼭 필요한 최소 정보만 사용한다.
2. 비식별 샘플과 공개 자료로 먼저 실습한다.
3. 연결 앱·플러그인·자동화에 부여한 권한을 정기적으로 점검한다.
4. 생성 결과에서 개인정보, 저작권, 사실 오류, 편향을 사람이 검토한다.
5. 외부 발송·게시·결제·계정 변경은 사람이 승인한 뒤 실행한다.
6. 누가 어떤 자료를 어떤 도구에 넣었는지 필요한 범위에서 기록한다.

저작권과 출처

AI가 만든 문장·이미지·코드라도 사용자가 그대로 배포해도 된다는 뜻은 아니다. 라이선스, 인용, 상표, 제3자 권리를 확인한다. 특히 AI가 제시한 인용은 실제 원문을 열어 주장을 지지하는지 검토하고, 출처를 찾지 못한 내용은 사실처럼 쓰지 않는다.

Agent Lab 실습

Agent Lab 공개 강의에서 공개된 제목과 설명만 이용해 ‘검토일이 오래된 글을 찾는’ 프롬프트를 작성한다. 고객 문의, 방문자 로그, 비공개 초안은 넣지 않는다. 결과에 출처 URL과 사람이 확인할 항목을 남기면 안전한 연습이 된다.

배포 전 체크리스트

• 입력 데이터의 등급과 사용 목적을 정했는가?
• 현재 계정·기능의 데이터 처리 조건과 조직 정책을 확인했는가?
• 비밀값과 개인정보를 제거했는가?
• 출력의 사실·출처·권리·차별 위험을 검토했는가?
• 되돌릴 방법과 최종 승인자를 정했는가?

안전한 AI 활용은 한 번의 설정으로 끝나지 않는다. 새 연결, 새 모델, 새 자동화, 새 데이터가 생길 때마다 이 기준을 다시 적용한다.