优势
- 八种语言
- 工具使用
- 128K 上下文
最适合
- 自托管的通用聊天
- 多语言助手
- 合成数据生成
在EDDI中运行
最快的方式是使用EDDI管理器：打开代理向导或Platform Operator，选择提供商和模型。如需自行配置，请针对所需的提供商按以下步骤操作。
Ollama (local) · type: "ollama"
模型ID: llama3.3:70b
1. 存储凭据
此提供商不使用API密钥： Ollama无需密钥。将baseUrl指向您的Ollama服务器；使用EDDI的Ollama叠加配置时，地址为http://ollama:11434。
2. 配置LLM任务
将其用作代理工作流的langchain.json，或将参数粘贴到EDDI管理器的LLM编辑器中。
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "ollama",
"parameters": {
"baseUrl": "http://ollama:11434",
"model": "llama3.3:70b",
"timeout": "120000",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Oracle OCI Generative AI · type: "oracle-genai"
模型ID: meta.llama-3.3-70b-instruct
1. 存储凭据
此提供商不使用API密钥： OCI Generative AI使用~/.oci/config中的OCI配置文件进行身份验证。请为您的租户设置compartmentId。
2. 配置LLM任务
将其用作代理工作流的langchain.json，或将参数粘贴到EDDI管理器的LLM编辑器中。
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "oracle-genai",
"parameters": {
"modelName": "meta.llama-3.3-70b-instruct",
"compartmentId": "ocid1.compartment.oc1..your-compartment",
"configProfile": "DEFAULT",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}EDDI使用说明
- 模型下载后即可完全离线运行，因此适合离线（air-gapped）部署。
相关模型
来源
本页信息来自厂商文档，核实日期为2026-09-30。模型更新很快，在依赖这些限制之前，请先向厂商确认。此处不列出价格：请参阅厂商的定价页面。