기본 모델 튜닝을 위한 매개변수

프롬프트 튜닝을 위한 매개변수 값 설정

프롬프트 튜닝 실험에 사용할 수 있는 최적의 하이퍼파라미터 값은 데이터와 사용 사례에 따라 다릅니다.

다음 표는 타사 기초 모델의 프롬프트 조정을 위한 시작점으로 사용할 매개 변수 값을 보여줍니다.

granite-13b-instruct-v2 의 기초 모델을 조정하는 데 사용되는 기본 매개변수는 조정된 모델이 수행할 작업의 유형에 따라 조정됩니다.

다음 표는 프롬프트 튜닝을 위한 기초 모델( granite-13b-instruct-v2 )을 지원하는 작업 유형별로 시작점으로 사용할 매개 변수 값을 보여줍니다.

훈련 데이터 세그먼트화

실험이 실행되면 실험은 먼저 훈련 데이터를 더 작은 일괄처리로 나눈 후 한 번에 하나의 일괄처리에서 훈련합니다. 각 일괄처리는 처리할 GPU 메모리에 맞아야 합니다. 필요한 GPU 메모리의 양을 줄이기 위해 둘 이상의 일괄처리가 처리될 때까지 조정을 연기하도록 튜닝 실험을 구성할 수 있습니다. 튜닝은 일괄적으로 실행되고 성능 지표가 계산되지만 즉시 조정되지는 않습니다. 대신, 성능 정보는 누적 성능 메트릭이 평가되기 전에 일부 배치 수에 대해 수집됩니다.

훈련 데이터가 세그먼트화되는 방법을 제어하려면 다음 매개변수를 사용하십시오.

배치 크기 한 번에 처리할 레이블 지정된 예제 ( 샘플이라고도 함) 수입니다.

예를 들어, 1,000개의 예제가 있고 일괄처리 크기가 10인 데이터 세트의 경우 데이터 세트는 각각 10개의 예제가 있는 100개의 일괄처리로 나뉩니다.

훈련 데이터 세트가 작은 경우 각 배치에 충분한 예제가 있도록 더 작은 배치 크기를 지정하십시오.

누적 단계: 조정이 이루어지기 전에 처리할 배치의 수입니다.

예를 들어 데이터 집합을 100개의 배치로 나누고 누적 단계 값을 10으로 설정하면 조정이 100번이 아니라 10번 이루어집니다.

완료할 훈련 주기 수 선택

에포크 수 매개변수는 전체 훈련 데이터 세트를 순환하는 횟수를 지정합니다.

예를 들어 배치 크기가 10이고 예시가 1,000개인 데이터 세트의 경우, 하나의 에포크는 100개의 배치를 처리하고 100번의 조정을 수행해야 합니다. 에포크 수를 20으로 설정하면 모델이 데이터 세트를 20번통과합니다. 이는 튜닝 프로세스 중에 총 2,000개의 일괄처리를 처리함을 의미합니다.

에포크 수가 많고 훈련 데이터가 많을수록 모델을 튜닝하는 데 더 많은 시간이 소요됩니다. 에포크의 수를 너무 낮게 설정하면 모델이 적절하게 학습하지 못할 수 있습니다. 에포크의 수를 너무 높게 설정하면 데이터 세트에 모델을 과도하게 맞출 수 있습니다. 과적합은 모델이 훈련 데이터에 너무 밀접하게 조정되어 새로운 데이터가 도입될 때 학습한 내용을 일반화하고 적용할 수 없는 현상을 설명하는 데 사용되는 용어입니다.

학습 비율 관리

학습률 매개변수는 모델을 조정할 때 변경할 범위를 결정합니다. 숫자가 높을수록 변화가 크다는 뜻입니다. 학습률을 너무 낮게 설정하면 제시된 새로운 데이터로부터 모델을 적절하게 학습하지 못할 수 있습니다. 학습률을 너무 높게 설정하면 모델이 새로운 미지의 데이터에 학습 내용을 적용할 수 있을 만큼 충분히 점진적으로 학습하지 못할 수 있습니다.

이 매개변수는 보수적으로 설정한 다음, 사용자 지정 중인 데이터 세트와 기초 모델에 가장 적합한 하이퍼파라미터를 찾기 위해 실험을 하면서 점차적으로 변경할 수 있는 매개변수입니다.

토큰 제한 설정

튜닝 실험을 하는 동안 모델 입력 및 출력에서 허용되는 토큰의 수를 변경하려면 max_seq_length 매개변수를 설정하면 됩니다. 최대 순서 길이는 입력 토큰의 최대 개수와 각 프롬프트에 허용되는 출력 토큰의 개수를 합한 것입니다.

허용되는 입력 및 출력 토큰의 수가 많을수록 모델 튜닝에 더 많은 시간이 걸립니다. 이 매개변수를 사용 가능한 최소 숫자로 설정하되, 사용 사례에 맞게 적절하게 설정하십시오.

조정 작업에 사용할 예정인 한계에 부합하는 입력 및 출력 예제를 훈련 데이터에 생성합니다. 지정된 최대 시퀀스 길이보다 긴 예제는 실험 중에 잘립니다. 예를 들어, 이 매개변수를 200으로 설정하고 훈련 데이터에 1,000개의 토큰이 있는 예제 입력이 있는 경우, 예제 입력의 처음 200개의 토큰만 사용됩니다.

시퀀스 길이에는 각 프롬프트에 대한 출력 토큰도 포함된다는 것을 기억하십시오. 즉, 이 설정은 튜닝 실험 중에 모델이 출력으로 생성할 수 있는 토큰의 수를 제어합니다.

프롬프트 초기화하기

프롬프트 튜닝 실험을 만들 때 초기 프롬프트 벡터로 사용할 텍스트를 직접 지정할지 아니면 실험에서 자동으로 생성되도록 할지를 선택할 수 있습니다. 이러한 새 토큰은 무작위 위치에서 또는 텍스트에서 지정하는 어휘 또는 명령어의 임베드를 기반으로 훈련 프로세스를 시작합니다. 연구에 따르면 기본 모델의 크기가 100억 개의 매개변수를 초과하여 증가함에 따라 사용되는 초기화 방법이 덜 중요하게 됩니다.

튜닝 실험을 작성할 때 선택하는 선택사항은 프롬프트가 초기화되는 방법을 사용자 정의합니다.

초기화 메소드: 다음 옵션에서 메소드를 선택하십시오.

• 텍스트: 프롬프트 튜닝 방법은 프롬프트의 초기화 텍스트를 직접 지정하는 데 사용됩니다.
• 무작위: 프롬프트 튜닝 방법을 사용하여 실험에서 프롬프트에 포함하도록 무작위로 선택된 값을 추가할 수 있습니다.

초기화 텍스트: 추가할 텍스트입니다. 제로 샷 (zero-shot) 프롬프트에 사용하는 것과 유사한 태스크 설명 또는 지시사항을 지정하십시오.

자세히 알아보기

• 데이터 형식

상위 주제: 모델 조정