튜닝 매개변수 조정

튜닝 실험 실행이 완료되면 손실 함수 그래프가 표시됩니다. 손실 함수는 각 훈련 실행에서 예측 결과와 실제 결과 사이의 차이를 측정합니다. 성공적인 튜닝 실험은 하향 경사 곡선을 갖는 손실 함수를 초래합니다.

여기서 손실 측도는 수렴이라고 합니다. 예측 결과가 훈련 데이터의 결과와 가능한 유사하기 때문에 곡선을 드롭하거나 수렴하고 곡선의 꼬리 끝이 가능한 한 0에 가깝게 도달하도록 하려고 합니다.

실험에 대한 손실 함수가 여러 피크가 있는 산 범위와 유사하거나, 손실이 수렴되지 않거나, 손실이 수렴되지만 0보다 훨씬 높은 숫자로 유지되는 경우 튜닝 매개변수를 조정하십시오.

매개변수 값은 튜닝 스튜디오에서 설정하거나 샘플 노트북을 사용하여 설정할 수 있습니다. 샘플 노트북에는 하이퍼 매개변수 최적화라고도 하는 튜닝 매개변수에 사용할 최상의 값을 찾는 데 도움이 되는 단계가 있습니다. 자세한 정보는 노트북을 사용하여 튜닝 매개변수 값 최적화를 참조하십시오.

다음 표에서는 공통 튜닝 실험 결과를 설명하고 결과를 개선할 수 있는 조치를 나열합니다.

표 1: 공통 튜닝 실험 결함을 해결하기 위한 조치

손실 함수 그래프	원인	시도할 조치
손실 곡선은 평평하고 절대 떨어지지 않습니다.	튜닝은 결과를 크게 개선하지 않습니다.	실험이 프롬프트 벡터를 보다 과감하게 조정하도록 학습 비율을 늘리십시오 ( 10x만큼).
손실 곡선은 떨어지지만 꼬리가 너무 높은 수치에 정착합니다.	튜닝은 가능한 한 많은 결과를 개선하지 않습니다.	실험에서 프롬프트 벡터를 더 크게 조정할 수 있도록 학습 비율을 늘리십시오 ( 5x만큼).
손실 곡선이 떨어졌다가 꾸준히 감소하지만 절대 평준화되지 않습니다.	모델이 완전히 튜닝되기 전에 훈련이 종료되었습니다.	모델이 학습할 수 있는 시간을 더 많이 제공하도록 에포크 수를 늘리십시오.
손실 곡선이 상승했다가 하락하지만 결코 충분히 낮아지지는 않습니다.	높은 학습 비율로 인해 프롬프트 벡터가 너무 많이 변경되므로 훈련이 불안정합니다.	- 프롬프트 벡터를 더 작게 조정하려면 학습 속도를 (10x만큼) 낮춥니다.

튜닝 매개변수를 변경하고 튜닝 실험을 다시 실행하는 방법에 대한 자세한 정보는 기본 모델 튜닝을 참조하십시오.

튜닝된 모델 출력에서 데이터 품질 문제점 해결

튜닝된 모델에 제로샷 (zero-shot) 프롬프트를 제출하고 예상하는 출력을 다시 가져올 수 있을 때 모델 튜닝이 완료되었음을 알 수 있습니다.

다음 표에서는 일부 공통 훈련 데이터 품질 문제를 설명하고 이를 해결하기 위해 수행할 수 있는 조치를 나열합니다.

부모 주제: 튜닝 실험 결과 평가하기