Key Insight
민감 영역 에이전트는 똑똑해야 하는 것이 아니라 잘 멈춰야 한다.
에이전트 설계 4요소
🎭
역할
이 에이전트가 맡은 일은 무엇인가? 직무 단위로 명확하게 정의
📂
허가된 자료
어떤 폴더·문서·기록을 읽어도 되는가? 접근 범위 명시
✅
승인된 액션
요약·질문생성·초안작성·RunLog기록. 사람이 검토 가능한 것만
🛑
멈춤 조건
의료·투자·법률 판단, 자동 발송, 자동 삭제, 자동 결제 금지
Trust Layer 4원칙
1
허가된 자료만
접근 범위를 명시적으로 지정. 지정되지 않은 자료는 접근 불가
↓
2
승인된 액션만
허용 목록에 있는 행동만 수행. 목록 외 행동은 사람에게 위임
↓
!
민감 판단 금지
의료·투자·법률·개인정보 관련 최종 판단은 에이전트가 내리지 않음
↓
4
로그/감사 기록
모든 행동을 RunLog에 기록. 언제 무엇을 했는지 추적 가능
Salesforce vs ServiceNow — 에이전트 기반 비교
- CRM (고객·외부) 기반
- 리드·영업기회·서비스 이력
- 고객 접점 에이전트
- 외부 비즈니스 프로세스
- 내부 운영/티켓 기반
- Incident/Problem/Change
- 내부 워크플로우 에이전트
- 내부 업무 처리 프로세스
개인 에이전트 3가지 예시
역할명세서 + RunLog 형태로 설계
| 에이전트 | 역할 | 허가된 자료 | 승인된 액션 |
|---|
| PRD 에이전트 |
PRD 초안 생성 |
ideas.csv, 경쟁사 분석 폴더 |
초안 작성, 질문 생성, RunLog 기록 |
| 리서치 에이전트 |
공식 문서 요약 |
지정된 URL, 공식 문서 폴더 |
요약 작성, 참조 링크 기록 |
| 포트폴리오 에이전트 |
경험 정리 및 문장화 |
RunLog, Delivery 보드, outputs.csv |
포트폴리오 카드 초안 생성 |
에이전트는 무엇이든 하는 AI가 아니다. 맡은 일과 허가된 자료와 승인된 액션과 멈춤 조건이 있어야 한다. 이 네 가지가 명확할수록 에이전트는 신뢰할 수 있다.