모델 입력 및 출력에서 유해한 언어 제거

Watsonx.ai

다음 watsonx.ai API 엔드포인트를 사용하여 자연어 입력 및 출력 텍스트에 AI 가드레일을 구성하고 적용할 수 있습니다:

• 텍스트 생성 API를 사용하여 기초 모델을 추론하는 경우 moderations 필드를 사용하여 기초 모델 입력 및 출력에 필터를 적용할 수 있습니다. 자세한 내용은 watsonx.ai API 참조 문서에서 텍스트 생성을 참조하세요.

• 텍스트 감지 API를 사용하여 콘텐츠를 확인할 때 detectors 필드를 사용하여 텍스트에 필터를 적용할 수 있습니다. 자세한 내용은 watsonx.ai API 참조 문서에서 텍스트 감지를 참조하세요.

Watsonx.governance

watsonx.governance 의 경우 다음 watsonx.governance API 엔드포인트를 사용하여 자연어 입력 및 출력 텍스트에 AI 가드레일을 구성하고 적용할 수 있습니다:

• 텍스트 감지 API를 사용하여 콘텐츠를 확인할 때 detectors 필드를 사용하여 텍스트에 필터를 적용할 수 있습니다. 자세한 내용은 watsonx.gov API 참조 문서에서 텍스트 감지를 참조하세요.

Watsonx.ai

watsonx.ai Python SDK를 사용하여 다음과 같은 방법으로 자연어 입력 및 출력 텍스트에 AI 가드레일을 구성하고 적용할 수 있습니다:

• 텍스트 생성 API를 사용하여 기초 모델을 추론할 때 Python 라이브러리로 AI 가드레일 필터를 조정하세요. 자세한 내용은 프로그래밍 방식으로 기초 모델 추론하기( Python )를 참조하세요.

• 텍스트 감지 API를 사용하여 기초 모델을 추론할 때 Python 라이브러리로 AI 가드레일 필터를 조정하세요. 자세한 내용은 watsonx.ai Python 라이브러리의 Guardian 클래스를 참조하세요.

  다음 코드 예시는 텍스트 감지 API로 필터를 구성하고 사용하는 방법을 보여줍니다:

  from ibm_watsonx_ai import APIClient, Credentials
  from ibm_watsonx_ai.foundation_models.moderations import Guardian
  
  credentials = Credentials(
      url = "https://{region}.ml.cloud.ibm.com",
      api_key ="{my-IBM-Cloud-API-key}"
  )
  api_client = APIClient(credentials, space_id="{my-space-ID}")
  
  detectors = {
      "granite_guardian": {"threshold": 0.4},
      "hap": {"threshold": 0.4},
      "pii": {},
  }
  
  guardian = Guardian(
      api_client=api_client,  # required
      detectors=detectors  # required
  )
  

  Python 라이브러리와 함께 사용자 지정 필터를 사용하려면 텍스트 감지 요청에 다음 매개변수를 포함하세요:

  text = "I would like to say some `Indecent words`."
    
  response = guardian.detect(
      text=text,   # required
      detectors=detectors # optional
  )
  

자세한 내용은 watsonx.ai Python SDK를 참조하세요.

Watsonx.governance

watsonx.governance 의 경우 watsonx.governance Python SDK를 사용하여 다음과 같은 방법으로 자연어 입력 및 출력 텍스트에 AI 가드레일을 구성하고 적용할 수 있습니다:

• 텍스트 감지 API를 사용하여 기초 모델을 추론할 때 Python 라이브러리로 AI 가드레일 필터를 조정하세요. 자세한 내용은 watsonx.governance Python 라이브러리의 SDK 설명서를 참조하세요.

  다음 코드 예시는 텍스트 감지 API로 필터를 구성하고 사용하는 방법을 보여줍니다:

  import os
  
  from ibm_watsonx_gov.evaluators import MetricsEvaluator
  from ibm_watsonx_gov.metrics import (HAPMetric, PIIMetric, HarmMetric)
  
  os.environ["WATSONX_APIKEY"] = "<IBM_CLOUD_APIKEY>"
  
  evaluator = MetricsEvaluator()
  text = "How can I steal someone's credit card information and use it?"
  
  result = evaluator.evaluate(data={"input_text": text}, metrics=[PIIMetric(), HAPMetric(), HarmMetric()])
  result.to_df()
     
  

  Python SDK를 사용하여 AI 가드레일을 호출하는 방법에 대한 자세한 내용은 IBM watsonx.governance 를 사용하여 가드레일을 호출하는 방법에 대한 노트북을 참조하세요.