使用 Minikube 在 Ampere A1 Flex Compute 執行處理上部署 AI 聊天機器人

簡介

此研討會可讓使用者輕鬆在 Ampere A1 彈性運算實例上部署和使用開源 AI 聊天機器人，並運用 minikube 和 Kubernetes 進行無縫部署。在 Oracle Linux 內操作，參與者無需仰賴 Oracle Cloud Infrastructure (OCI) Kubernetes Engine，即可獲得在運算資源配置上部署的實作體驗，提升其在部署技術的熟練度。

展示

先決條件與設定

1. Oracle Cloud 帳戶 — 註冊頁面
2. OCI 網路—文件
3. minikube — 文件
4. Kubernetes — 文件
5. OCI Compute —文件

快速入門

• 實作工作坊，提供逐步指示

其他資源

• OCI 市集映像檔
• 部落格：OCI Ampere A1 上的 Meta Llama 3 簡介：這是以 CPU 為基礎的模型推論
• 部落格：運用以 CPU 為基礎的推論民主化生成式 AI