저장 에이전트

표준 노트북

1. 프로젝트의 자산 탭 에서 노트북 자산을 엽니다.

2. 편집 아이콘을 클릭하세요 노트북을 인스턴스화하여 코드를 단계별로 실행할 수 있습니다.

   노트북에는 실행 가능한 코드가 포함되어 있어 다음 단계를 관리해 줍니다:

   • 서비스로 인증합니다.
   • Python 클래스를 정의합니다.
   • 선택된 에이전트( foundation model )와 그 매개 변수, 도구 세트, 에이전트 생성에 사용되는 지침을 정의합니다.
   • 에이전트를 생성하고 실행하여 질문을 입력으로 하여 응답을 생성합니다.

3. 노트북을 그대로 사용하거나 사용 사례의 필요에 맞게 변경할 수 있습니다.

   Agent Lab을 사용하여 생성된 Python 코드가 성공적으로 실행됩니다. 코드를 변경할 때는 반드시 테스트하고 검증해야 합니다.

배치 노트북

1. 프로젝트의 자산 탭 에서 노트북 자산을 엽니다.

2. 편집 아이콘을 클릭하세요 노트북을 인스턴스화하여 코드를 단계별로 실행할 수 있습니다.

   노트북에는 실행 가능한 코드가 포함되어 있어 다음 단계를 관리해 줍니다:

   • 서비스로 인증합니다.
   • 대상 공간에 연결하고 자산을 홍보하여 AI 서비스에서 데이터에 액세스할 수 있도록 합니다.
   • 배포할 AI 서비스를 정의합니다. 여기에는 에이전트를 생성하는 코드, 에이전트에 대한 입력 형식 지정, 에이전트를 실행하여 응답을 생성하는 코드가 포함됩니다.
   • 로컬에서 AI 서비스를 테스트합니다.
   • AI 서비스를 대상 공간에 배치합니다.
   • 배포된 AI 서비스를 테스트합니다.

3. 노트북을 그대로 사용하거나 사용 사례의 필요에 맞게 변경할 수 있습니다.

   Agent Lab을 사용하여 생성된 Python 코드가 성공적으로 실행됩니다. 코드를 변경할 때는 반드시 테스트하고 검증해야 합니다.

4. 노트북에 배치된 AI 서비스는 REST API를 사용하여 사용할 수 있습니다. 다음은 배포를 호출하는 cURL 요청의 예입니다

   curl --location '${PUBLIC_ENDPOINT}' \
   --header 'Content-Type: application/json' \
   --header 'Authorization: Bearer ${IAM_TOKEN}' \
   --data '{ \
     "messages": [{$MESSAGES}]
   }'
   

   여기서,

   • PUBLIC_ENDPOINT는 배포의 공개 엔드포인트입니다. 온라인 배포 만들기 참조.
   • IAM_TOKEN은 IBM Cloud 서비스에 액세스하기 위한 인증 토큰입니다. 프로그래밍 방식으로 액세스하는 방법에 대한 자격 증명을 참조하십시오. 사용하는 액세스 토큰은 노트북에 참조된 프로젝트와 동일한 계정과 연결되어 있어야 합니다.
   • 메시지는 다음과 같은 스키마를 가진 채팅 기록 텍스트 항목의 배열입니다:

   {
      "role": type, // "user" or "assistant"
      "content": content // The text content of the message
   }
   

AI 서비스를 배포하고 추론하는 방법에 대한 자세한 내용은 도구를 사용하여 AI 서비스 배포를 참조하세요.