SO EASY정의
AI 에이전트가 넘지 않아야 할 선을 미리 정해 둔 안전장치.
자세한 설명
에이전트에게 많은 자유를 줄수록 빠르고 유연하게 일하지만, 엉뚱하거나 위험한 행동을 할 가능성도 함께 커집니다. 가드레일은 이 폴더 밖은 건드리지 않는다, 돈이 나가는 동작은 반드시 승인받는다처럼 넘지 않을 선을 미리 정해 둡니다. 가드레일이 분명할수록 자율 에이전트에게도 안심하고 더 많은 일을 맡길 수 있습니다.
예를 들면
에이전트가 삭제나 발송 같은 동작을 하려 하면 가드레일이 막고 사람에게 먼저 묻게 합니다.
체크포인트
가드레일로 막아 둔 행동 목록이 실제 위험한 행동을 빠뜨리지 않고 담고 있는지 점검합니다.
관련 용어
용어 설명은 이해를 돕기 위한 안내입니다. 법령·세무·지원 제도의 정확한 기준은 관계 법령과 소관 기관의 최신 안내를 확인하세요.