IBM Granite 코드 파운데이션 모델 소개

영어 버전 문서로 돌아가기

마지막 업데이트 날짜: 2024년 11월 28일

IBM Granite 코드 파운데이션 모델 소개

코딩 작업을 수행하는 데 도움이 되는 watsonx.ai IBM Granite Code 기반 모델을 추론하는 실험을 해보세요.

Granite 시리즈의 디코더 전용 코드 모델은 버그 수정, 코드 설명, 코드 문서화 등 코드 생성 작업을 위해 인스트럭션이 조정된 엔터프라이즈급 기초 모델입니다.

이 모델은 AI 윤리 원칙을 준수하여 수집한 라이선스 허용 데이터와 신뢰할 수 있는 기업 사용을 위해 IBM 기업 법무팀의 안내를 받은 프로세스를 통해 학습됩니다.

다음 인스트럭션에 맞게 조정된 Granite 코드 파운데이션 모델은 watsonx.ai 사용할 수 있습니다. 모델 이름을 클릭하여 모델 카드를 열 수 있습니다.

Granite 코드 모델 추론하기

Granite 코드 기초 모델을 사용할 때 최상의 결과를 얻으려면 먼저 이러한 권장 사항을 따르고 원하는 결과를 얻기 위해 실험해 보세요.

다음 표에는 코딩 작업을 위해 Granite 코드 foundation model 메시지를 표시하는 데 권장되는 모델 매개변수가 나와 있습니다.

테이블 1. Granite 코드 기초 모델 프롬프트에서 권장 모델 매개변수 확인
매개변수	권장 값 또는 범위	설명
디코딩	그리디	욕심 디코딩은 가장 가능성이 높은 옵션 중에서만 토큰을 선택하므로 모델이 지침을 따르고 덜 창의적이기를 원할 때 가장 적합합니다.
반복 페널티	1.05	페널티를 이 낮은 값으로 설정하여 챗봇이 단어나 문구를 반복하여 로봇처럼 들리지 않도록 합니다.
중지 기준	<\|endoftext\|>	Granite Code foundation model 유용한 기능은 각 응답 끝에 <\|endoftext\|>라는 이름의 특수 토큰을 포함시키는 것입니다. 일부 생성 모델은 허용된 최대 토큰 수보다 적은 수의 토큰으로 입력에 대한 응답을 반환하는 경우, 입력의 패턴을 반복할 수 있습니다. 이 모델은 프롬프트에 안정적인 정지 시퀀스를 통합하여 이러한 반복을 방지합니다.
최대 토큰	900	코드 모델의 최대 컨텍스트 창 길이는 8,192입니다. 토큰에 대한 자세한 내용은 토큰 및 토큰화를 참조하세요.

모델 매개변수에 대한 자세한 내용은 프롬프트용 모델 매개변수 도움말을 참조하세요.

프롬프트 랩에서 모델 프롬프트하기

Granite 코드 foundation model 표시하려면 다음 단계를 완료합니다:

자유 형식 모드의 프롬프트 랩에서 사용 가능한 Granite Code 기초 모델 중 하나를 선택합니다.
모델 매개변수 패널에서 표 1의 권장 모델 매개변수 값을 적용합니다.
프롬프트를 추가한 다음 생성을 클릭합니다.

사용해 보기 섹션에서 프롬프트 샘플을 사용할 수 있습니다.

프롬프트 랩 사용에 대한 자세한 내용은 프롬프트 랩을 참조하세요.

Granite 코드 모델에 메시지를 표시하는 팁

응답이 중단되는 경우 최대 출력 토큰 설정을 늘려 모델이 코드 응답을 중단하여 불완전한 코드가 생성되지 않도록 하세요.
여분의 공백을 추가하지 마세요. 프롬프트의 끝에는 줄 바꿈 하나만 포함하세요.

시스템 프롬프트 옵션

Granite 코드 모델에 제출하는 프롬프트에는 시스템 프롬프트가 필요하지 않습니다. 그러나 다음 템플릿과 같이 모델이 요청을 이해하는 데 도움이 되도록 ' Question ' 및 ' Answer '에 레이블을 지정합니다:

Question:
{PROMPT}

Answer:

모델의 응답이 유효하지 않거나 예상치 못한 경우 시스템 프롬프트를 추가해 보세요. 모델을 인스트럭션 튜닝할 때 사용한 것과 동일한 시스템 프롬프트를 사용합니다:

귀하는 IBM 개발한 Granite 코드 언어 모델을 사용하는 지능형 AI 프로그래밍 도우미입니다. 주요 기능은 코드 생성, 코드 설명, 코드 수정, 단위 테스트 생성, 문서 생성, 애플리케이션 현대화, 취약점 탐지, 함수 호출, 코드 번역 및 기타 모든 종류의 소프트웨어 엔지니어링 작업을 포함한 프로그래밍 작업에서 사용자를 지원하는 것입니다.

시스템 프롬프트가 포함된 다음 템플릿을 복사하여 붙여넣을 수 있습니다:

System:
"You are an intelligent AI programming assistant, utilizing a Granite code language model developed by IBM. Your primary function is to assist users in programming tasks, including code generation, code explanation, code fixing, generating unit tests, generating documentation, application modernization, vulnerability detection, function calling, code translation, and all sorts of other software engineering tasks."

Question:
{PROMPT}

Answer:

You are an intelligent AI programming assistant, utilizing a Granite code language model developed by IBM. Your primary function is to assist users in programming tasks, including code generation, code explanation, code fixing, generating unit tests, generating documentation, application modernization, vulnerability detection, function calling, code translation, and all sorts of other software engineering tasks.

시작하기

이 샘플 프롬프트를 사용해 보세요:

지원되는 프로그래밍 언어

Granite 코드 파운데이션 모델은 다음 프로그래밍 언어를 지원합니다:

ABAP
Ada
Agda
Alloy
ANTLR
AppleScript
Arduino
ASP
Assembly
Augeas
Awk
Batchfile
Bison
Bluespec
C
C-sharp
C++
Clojure
CMake
COBOL
CoffeeScript
Common_Lisp
CSS
Cucumber
Cuda
Cython
Dart
Dockerfile
Eagle
Elixir
Elm
Emacs_Lisp
Erlang
F-sharp
FORTRAN
GLSL
GO
Gradle
GraphQL
Groovy
Haskell
Haxe
HCL
HTML
Idris
Isabelle
Java
Java_Server_Pages
JavaScript
JSON
JSON5
JSONiq
JSONLD
JSX
Julia
Jupyter
Kotlin
Lean
Literate_Agda
Literate_CoffeeScript
Literate_Haskell
Lua
Makefile
Maple
Markdown
Mathematica
Objective-C++
OCaml
OpenCL
Pascal
Perl
PHP
PowerShell
Prolog
Protocol_Buffer
Python
Python_traceback
R
Racket
RDoc
Restructuredtext
RHTML
RMarkdown
Ruby
Rust
SAS
Scala
Scheme
Shell
Smalltalk
Solidity
SPARQL
SQL
Stan
Standard_ML
Stata
Swift
SystemVerilog
Tcl
Tcsh
Tex
Thrift
Twig
TypeScript
Verilog
VHDL
Visual_Basic
Vue
Web_Ontology_Language
WebAssembly
XML
XSLT
Yacc
YAML
Zig

상위 주제: IBM 파운데이션 모델