OpenAI Chatbot 串流回應展示
框架特色
- 🧱 模組化設計：所有功能皆以 Brick 為單元，組件可插拔、可重組，支援多層次組裝。
- 📑 明確協定定義：資料流、型別、錯誤皆有明確協定，便於跨語言、跨協議整合。
- 🔄 多協議支援：SSE、gRPC（WebSocket/WebRTC 計畫中），可依需求切換。
- 🔧 易於擴展：插件系統與自定義組件，支援靈活擴充與客製化。
- ⚡ 高效串流：支援即時串流回應，適合 AI 聊天、推理、資料處理等場景。
- 🛠️ 多元應用：可用於 AI 聊天機器人、知識檢索、意圖判斷、資料修正、翻譯等。
設計理念
llmbrick 強調「協定導向」與「靈活組裝」，每個 Brick 可獨立開發、測試、組裝，降低耦合。PServer、Client 皆可自由組合各種 Brick，支援多種應用場景。
技術架構
- 核心模組：CommonBrick、LLMBrick、GuardBrick、IntentionBrick、RectifyBrick、ComposeBrick、RetrievalBrick、TranslateBrick
- 協定定義：protocols/ 目錄，明確定義型別、錯誤、資料流
- Server 支援：SSEServer、GrpcServer，快速部署 API 與串流服務
應用場景
- AI 聊天機器人、知識檢索、意圖判斷、資料修正、翻譯、API 串流服務