SO EASY정의
AI 가 사람에게 해를 끼치거나 잘못 쓰이지 않도록 미리 막는 연구와 실천.
자세한 설명
틀린 정보, 차별적인 결과, 위험한 행동을 부추기는 답, 악용될 수 있는 기능처럼 AI 가 사람에게 끼칠 수 있는 해를 줄이려는 연구와 실천을 통틀어 가리킵니다. 큰 AI 회사에서는 전담 연구 분야로 다루지만, 작은 회사가 AI 를 들일 때도 가드레일을 세우고 결과를 검수하는 것만으로 실천할 수 있는 개념입니다. AI 윤리가 옳고 그름의 기준을 다룬다면, AI 안전은 실제로 해가 생기지 않도록 막는 구체적인 장치와 절차에 더 가깝습니다. 서비스 범위가 넓어질수록 미리 점검해야 할 위험도 함께 늘어납니다.
예를 들면
AI 상담 기능을 열기 전에 위험한 질문에도 안전하게 답하는지 미리 시험하는 것이 AI 안전 활동입니다.
체크포인트
우리 서비스에서 AI 가 잘못 답하면 가장 위험한 경우가 무엇인지 미리 적어 두고 그 경우부터 막습니다.
관련 용어
용어 설명은 이해를 돕기 위한 안내입니다. 법령·세무·지원 제도의 정확한 기준은 관계 법령과 소관 기관의 최신 안내를 확인하세요.