책임 있는 AI

정의

AI 를 쓰는 회사가 결과에 대한 책임을 분명히 지도록 설계하고 관리하는 방식.

자세한 설명

AI 가 틀린 답을 내놓았을 때 AI 가 그랬으니 어쩔 수 없다로 넘기지 않고, 회사가 검수하고 수정하고 필요하면 사과까지 책임지는 체계를 갖추는 것을 말합니다. 어떤 업무에 AI 를 쓰고, 어디까지는 꼭 사람이 최종 확인하는지를 미리 정해 두는 것이 핵심입니다. AI 윤리가 지켜야 할 원칙을 정하는 쪽이라면, 책임 있는 AI 는 그 원칙을 실제 업무 절차와 담당자로 구체화하는 쪽에 가깝습니다. 사람 개입 단계를 어디에 둘지 설계하는 것도 책임 있는 AI 를 실천하는 방법 가운데 하나입니다.

예를 들면

AI 가 작성한 견적서도 최종 확인은 담당 직원이 하고 서명합니다.

관련 용어