치명적 망각

정의

새로운 내용을 추가로 학습시키면, 모델이 예전에 잘하던 것을 오히려 잊어버리는 문제.

자세한 설명

새로운 내용을 추가로 학습시켰더니, 모델이 오히려 예전에 잘하던 것을 잊어버리는 부작용입니다. 파인튜닝처럼 이미 만들어진 모델을 추가로 학습시킬 때 생길 수 있으며, 새 지식을 넣는 데 집중하다 보니 전에는 잘 답하던 질문에 엉뚱하게 답하게 되는 경우가 생깁니다. 서서히 나타나는 모델 드리프트와 달리, 한 번의 추가 학습 직후에 갑자기 드러나는 경우가 많다는 점이 다릅니다. 추가 학습을 마친 뒤에는 새로 가르친 내용만이 아니라 기존에 잘하던 질문들도 함께 다시 시험해 봐야 알아챌 수 있습니다.

예를 들면

상담 말투를 새로 가르쳤더니 예전에는 잘 알려 주던 제품 정보를 더 못 알려 주는 경우입니다.

관련 용어