Pontos Fortes
- Oito idiomas
- Uso de ferramentas
- Contexto de 128K
Ideal Para
- Chat geral auto-hospedado
- Assistentes multilíngues
- Geração de dados sintéticos
Execute no EDDI
O caminho mais rápido é o Manager: abra o assistente de criação de agentes ou o Platform Operator e escolha o provedor e o modelo. Para configurar por conta própria, siga estes passos para o provedor desejado.
Ollama (local) · type: "ollama"
Ids de modelo: llama3.3:70b
1. Armazene a credencial
Este provedor não usa chave de API: O Ollama não precisa de chave. Aponte baseUrl para o seu servidor Ollama; com o overlay Ollama do EDDI, é http://ollama:11434.
2. Configure a tarefa LLM
Use isto como o langchain.json do workflow do agente, ou cole os parâmetros no editor LLM do Manager.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "ollama",
"parameters": {
"baseUrl": "http://ollama:11434",
"model": "llama3.3:70b",
"timeout": "120000",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Oracle OCI Generative AI · type: "oracle-genai"
Ids de modelo: meta.llama-3.3-70b-instruct
1. Armazene a credencial
Este provedor não usa chave de API: O OCI Generative AI se autentica com um perfil de configuração OCI de ~/.oci/config. Defina compartmentId para a sua tenancy.
2. Configure a tarefa LLM
Use isto como o langchain.json do workflow do agente, ou cole os parâmetros no editor LLM do Manager.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "oracle-genai",
"parameters": {
"modelName": "meta.llama-3.3-70b-instruct",
"compartmentId": "ocid1.compartment.oc1..your-compartment",
"configProfile": "DEFAULT",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Observações para o EDDI
- Roda totalmente offline depois que o modelo é baixado, por isso é adequado para implantações isoladas (air-gapped).
Modelos Relacionados
Fontes
As informações desta página vêm da documentação do fabricante, verificada em 2026-09-30. Os modelos mudam rapidamente, então confirme os limites com o fabricante antes de depender deles. Os preços não são listados aqui: consulte a página de preços do fabricante.