강점
- Apache 2.0 라이선스
- 함수 호출과 구조화된 출력
- 조절 가능한 추론 강도
- 파인튜닝 가능
적합한 용도
- 셀프 호스팅 및 온프레미스 배포
- Groq에서의 빠른 추론
- 도구를 사용하는 에이전트
EDDI에서 실행하기
가장 빠른 방법은 EDDI 매니저입니다: 에이전트 위저드나 Platform Operator를 열고 프로바이더와 모델을 선택하세요. 직접 구성하려면 원하는 프로바이더에 대해 아래 단계를 따르세요.
Groq · type: "groq"
모델 ID: openai/gpt-oss-120b, openai/gpt-oss-20b
1. 자격 증명 저장
프로바이더의 API 키를 EDDI 매니저의 시크릿 볼트나 PUT /secretstore/secrets/default/groq-key를 통해 아래에서 사용하는 이름으로 추가하세요. 구성에서는 ${vault:…}로 참조하므로 키가 평문으로 나타나지 않습니다.
${vault:groq-key}2. LLM 태스크 구성
이것을 에이전트 워크플로우의 langchain.json으로 사용하거나, EDDI 매니저의 LLM 편집기에 파라미터를 붙여 넣으세요.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "groq",
"parameters": {
"apiKey": "${vault:groq-key}",
"modelName": "openai/gpt-oss-120b",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}또는 한 번의 호출로 에이전트 전체 생성
setup_agent는 규칙, LLM 구성, 워크플로우를 작성한 다음 에이전트를 배포합니다. MCP 또는 POST /administration/agents/setup으로 호출하세요.
setup_agent(
agentName: "My openai/gpt-oss-120b agent",
systemPrompt: "You are a helpful assistant.",
provider: "groq",
model: "openai/gpt-oss-120b",
apiKey: "${vault:groq-key}"
)Amazon Bedrock · type: "bedrock"
모델 ID: openai.gpt-oss-120b-1:0
1. 자격 증명 저장
이 프로바이더는 API 키를 사용하지 않습니다: Amazon Bedrock은 AWS 자격 증명 체인(환경 변수, IAM 역할 또는 ~/.aws/credentials)으로 인증합니다.
2. LLM 태스크 구성
이것을 에이전트 워크플로우의 langchain.json으로 사용하거나, EDDI 매니저의 LLM 편집기에 파라미터를 붙여 넣으세요.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "bedrock",
"parameters": {
"modelId": "openai.gpt-oss-120b-1:0",
"region": "us-east-1",
"maxTokens": "16384",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}관련 모델
출처
이 페이지의 정보는 벤더 문서를 바탕으로 2026-09-30에 확인한 것입니다. 모델은 빠르게 바뀌므로 한도에 의존하기 전에 벤더에게 확인하세요. 가격은 여기에 표시하지 않습니다: 벤더의 가격 페이지를 참조하세요.