셀프 호스팅 LLM 번역

셀프 호스팅 LLM（예：Ollama 경유）을 번역 제공자로 디렉티브 @strTranslate에 주입하여, 필드 값을 원하는 언어로 번역합니다.

설명

셀프 호스팅 LLM을 디렉티브 @strTranslate의 번역 제공자로 사용할 수 있도록 합니다.

String 타입의 임의 필드에 디렉티브 @strTranslate를 추가하면, 해당 필드를 원하는 언어로 번역할 수 있습니다.

예를 들어, 다음 쿼리는 셀프 호스팅 LLM을 사용하여 게시물의 title과 content 필드를 영어에서 프랑스어로 번역합니다:

{
  posts {
    title @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
    
    content @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
  }
}

인증

LLM을 자체 서버에서 호스팅하는 경우, API 키가 필요하지 않습니다.

셀프 호스팅 LLM을 클라우드에서 사용하는 경우（예：Ollama Cloud 사용 시）, 설정 페이지의 Plugin Management > Self-Hosted LLM Translation 탭에서 API 키를 제공해야 합니다.

아래 방법 중 하나를 따라 값을 입력하세요.

설정에서

설정 페이지의 해당 입력란에 API 키를 입력하고 「Save Changes (All)」을 클릭합니다:

`wp-config.php`에 작성

wp-config.php에 상수 GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY를 추가합니다:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY', '{your API key}' );

환경 변수 사용

환경 변수 SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY를 정의합니다.

LLM 구성

다음 값을 설정해야 합니다:

Endpoint URL: 셀프 호스팅 LLM 모델의 HTTP 엔드포인트 URL. 예:
- ChatGPT 형식을 사용하고 Ollama로 서버에서 LLM 모델을 호스팅하는 경우 http://localhost:11434/v1/chat/completions
- Claude 형식을 사용하고 Ollama로 서버에서 LLM 모델을 호스팅하는 경우 http://localhost:11434/v1/messages
- ChatGPT 형식과 Ollama Cloud를 사용하는 경우 https://ollama.com/v1/chat/completions
- Claude 형식과 Ollama Cloud를 사용하는 경우 https://ollama.com/v1/messages
Compatible with API endpoint from: 커스텀 엔드포인트와 호환되는 AI 서비스 제공자. ChatGPT와 Claude 옵션이 있습니다.
Model: 콘텐츠 번역 시 사용할 셀프 호스팅 LLM 모델의 이름.
Max tokens: 모델이 응답에서 생성할 수 있는 최대 토큰 수. ChatGPT의 제한을 설정하지 않으려면 비워 두거나, Claude의 기본값을 사용합니다.

아래 방법 중 하나를 따라 값을 입력하세요.

설정에서

설정 페이지의 해당 입력란에 모델을 입력하고 「Save Changes (All)」을 클릭합니다:

`wp-config.php`에 작성

wp-config.php에 상수를 추가합니다:

GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL', 'http://localhost:11434/v1/chat/completions' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER', 'chatgpt' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL', 'translategemma' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS', '128000' );

환경 변수 사용

다음 환경 변수를 정의합니다:

SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

번역 프롬프트

번역을 실행하기 위해 셀프 호스팅 LLM에 전달하는 프롬프트를 커스터마이즈할 수 있습니다.

아래 방법 중 하나를 따라 값을 입력하세요.

설정에서

설정 페이지의 해당 입력란에 「System message」와 「Prompt template」을 입력하고 「Save Changes (All)」을 클릭합니다:

`wp-config.php`에 작성

wp-config.php에 상수 GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE을 추가합니다:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE', 'Please translate strings from {$sourceLang} to {$targetLang}' );

환경 변수 사용

환경 변수 SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE을 정의합니다.