2장. 안전한 첫 적용을 설계한다

첫 적용의 품질은 AI가 만든 문장보다 경계가 얼마나 분명한지에서 갈립니다. 어떤 자료를 쓸지, 어떤 동작을 허용할지, 누가 어디에서 확인할지를 먼저 정하세요.

요청서를 먼저 씁니다

좋은 요청은 “좋은 결과를 만들어 달라”가 아닙니다. AI가 할 일과 하지 않을 일, 사람이 책임질 판단을 분명히 나눕니다.

목표
이번 업무에서 만들 검토용 결과는 무엇인가

허용 원본
어떤 자료만 사용할 수 있는가

허용 동작
요약, 분류, 비교, 초안 작성 중 무엇을 맡길 것인가

금지 동작
외부 전송, 게시, 삭제, 권한 변경 중 무엇을 하지 않을 것인가

사람의 검토
무엇을 원본과 대조하고, 누가 최종 승인하는가

완료 기준
어떤 상태가 되면 이번 적용을 끝낼 것인가

AI와 사람의 역할을 나눕니다

AI는 반복적인 초안과 누락 점검에서 특히 도움이 될 수 있습니다. 하지만 사실의 확정, 예외 처리, 대외 약속, 최종 승인은 사람이 맡아야 합니다.

AI에게 맡기기 좋은 일	사람이 맡아야 할 일
긴 문서의 구조화와 초안	원본 사실의 확정
항목 분류와 형식 통일	예외의 해석과 우선순위
여러 자료의 차이 후보 찾기	외부 발송·게시·승인
누락 가능성 표시	품질과 안전의 최종 판단

작은 범위에서 검증합니다

처음에는 실제 자료 전부가 아니라, 권한과 공개 범위가 확인된 작은 묶음으로 시작하세요. 결과에는 원본에서 확인한 사실과 아직 확인하지 못한 내용을 구분해 표시합니다.

새로운 연결, 플러그인, MCP, 쓰기 권한을 추가한다면 같은 날에 모두 도입하지 않습니다. 한 가지를 더할 때마다 원본 범위와 사람의 검토 지점을 다시 확인합니다.

중단해야 하는 신호

다음 중 하나라도 해당하면 결과를 사용하지 말고 멈춥니다.

• 원본의 출처나 사용 권한을 설명할 수 없다.
• AI 결과가 사실과 추측을 구분하지 않는다.
• 사람이 결과를 검토할 시간이나 책임자가 없다.
• 외부 전송, 게시, 삭제, 권한 변경이 자동으로 이어진다.
• 품질 저하나 민감 정보 노출 가능성을 확인할 방법이 없다.

안전한 첫 적용은 보수적인 실패가 아니라, 다음 적용을 가능하게 하는 운영 설계입니다.