工作責任

• 深入定制和二次開發：負責Dify平台的私有部署、架構擴展和源代碼级别的二次開發；開發高性能自定義插件，集成MCP服務，並為業務場景優化工作流程引擎性能。

• AI基礎設施和資源调度：使用Go語言開發Kubernetes CRD/Operator，實現訓練和推斷任務的動態資源分配；負責GPU計算能力池的精細管理（如視頻記憶分段、调度優化）。

• 大型模型門戶和推論優化：建立統一的LLM門戶，實現多模型驗證、流式電流限制、計費監控和降級策略；負責主流推論引擎（vLLM、TGI等）的部署和性能調優。

• 國內化適應和全堆疊模型應用：促進大模型在 的適應和計算能力遷移國內硬體（如華為昇級、寒武紀等）；負責多模態模型的工程實現，如語音（TTS/ASR）、圖像（擴散）和傳統NLP（BERT）。

• 代理核心引擎開發：設計和實現一個具有長期記憶、複雜任務規劃和功能呼叫能力的代理系統，並實現先進的推理模式，如ReAct。

工作要求

• 堅實的後端技能：超過5年的後端開發經驗，熟練使用Python（必須）和Go，具有設計高并发性和高可用性系統的實際經驗。

• 雲原生專家：深刻理解Docker和Kubernetes原則，能夠編寫自定義資源（CRD）和控制器，並熟悉基礎儲存和網絡調節。

• Dify專家：必須具備Dify二次開發的實戰經驗，熟悉其源代碼架構、API擴展機制和插件開發過程。

• AI技術廣度：熟悉大型模型的基本原理（Transformer架構、分詞器、SFT/RLHF過程）。

• 熟悉常見模型：不限於LLM，也包括BERT、Stable Diffusion、Whisper/FunASR等。

• 在RAG全連接優化（向量數據庫、重排、混合搜索）方面有經驗。

• 計算能力和推論經驗：理解主流家用芯片的基礎架構，具有推論加速或計算能力排程平台開發經驗者優先。