OPEN MODELS. REAL POSSIBILITIES.
당신의 다음 아이디어에 맞는 모델.
대화부터 이미지, 음성, 검색까지. 워크로드에 맞는 모델을 탐색하고 하나의 API로 연결하세요.
BUILT FOR YOUR STACK
익숙한 코드로, 새로운 가능성을.
익숙한 OpenAI SDK로 GIGACOMMA 모델 API에 연결하세요. 접속 설정과 콘솔에서 발급받은 키로 기존 애플리케이션을 시작할 수 있습니다.
먼저 접속 설정을 펼쳐 준비 명령을 실행하세요. 그다음 Python 또는 cURL 예제를 저장해 실행할 수 있습니다.
접속 설정 및 준비 명령실제 API 주소, 모델 ID 및 환경 변수
- API 주소
https://api.ecohash.com/v1- API 모델 ID
llama-3.1-8b-instruct
YOUR_API_KEY를 콘솔에서 발급받은 전체 추론 API 키로 바꿔 주세요. 준비 명령은 macOS/Linux 또는 호환 셸에서 실행하세요. cURL의 JSON 예제는 Python 표준 라이브러리로 요청 본문을 생성합니다.
python -m pip install openai
export GIGACOMMA_API_BASE_URL='https://api.ecohash.com/v1'
export GIGACOMMA_MODEL_ID='llama-3.1-8b-instruct'
export GIGACOMMA_API_KEY="YOUR_API_KEY"GIGACOMMA_API_KEY는 환경 변수 이름입니다. 값은 콘솔에서 발급받은 추론 API 키이며 OpenAI의 API 키를 사용하지 않습니다. API 키 발급
import osfrom openai import OpenAIMODEL_ID = os.environ["GIGACOMMA_MODEL_ID"]client = OpenAI( base_url=os.environ["GIGACOMMA_API_BASE_URL"], api_key=os.environ["GIGACOMMA_API_KEY"],)response = client.chat.completions.create( model=MODEL_ID, messages=[{"role": "user", "content": "Hello!"}], max_tokens=256,)print(response.choices[0].message.content)GOOD TO KNOW
시작하기 전에 궁금한 점.
GPU 클라우드와 모델 API는 어떻게 다른가요?
GPU 클라우드는 전용 GPU 환경에서 직접 모델과 소프트웨어를 실행하는 서비스입니다. 모델 API는 인프라 구성 없이 API 호출로 제공 모델을 이용하는 방식입니다. 작업에 맞게 선택하거나 함께 사용할 수 있습니다.
기존 OpenAI SDK를 사용할 수 있나요?
네. OpenAI 호환 엔드포인트를 제공합니다. API 주소, API 키, 사용할 모델 ID를 설정하세요. 모델별 지원 기능과 호출 방식은 개발 문서에서 확인할 수 있습니다.
가격은 어디에서 확인할 수 있나요?
요금 페이지에서 GPU와 모델 API의 현재 가격을 확인할 수 있습니다. 실제 결제 요금과 이용 가능한 구성은 콘솔에서 확인하세요. 표시 통화는 USD입니다.
이 웹사이트에서 GPU를 바로 실행할 수 있나요?
이 사이트는 제품과 모델을 소개하는 공식 웹사이트입니다. GPU 실행, API 키 발급, 결제와 계정 관리는 콘솔에서 진행할 수 있습니다.