我擅长的技术领域
Technical Expertise
我近 5 年专注于 AI Agents 与 云原生 系统, 我主导过 MaaS 平台、AI Agents 构建平台、自动驾驶平台等系统从 0 到 1 建设。
大模型推理服务
LLM Inference
构建高性能推理服务,集成 vLLM/SGLang 引擎,支持流式响应与高并发优化
vLLM SGLang TGI SSE
AI Agent 编排
Agent Orchestration
自研类 Coze/Dify 编排引擎,支持长期记忆、插件调用与多 Agent 协同
LangChain Vercel AI SDK Memory System
RAG 检索增强
Retrieval Augmented Generation
基于 Milvus/ES 构建向量检索系统,优化 Embedding 策略与重排序算法
Milvus Elasticsearch Rerank
AI 算力调度
GPU Scheduling
基于 Volcano 深度定制,实现 GPU 细粒度切分与任务编排,提升显卡利用率
Kubernetes Volcano GPU
分布式架构
Distributed Systems
设计亿级用户、万级 QPS 系统,精通微服务拆分与高可用架构
微服务 高可用 万级QPS
云原生中间件
Cloud Native Middleware
基于 K8s Operator 实现 Redis/Kafka/RabbitMQ 等中间件 PaaS 化自动运维
K8s Operator Kafka Redis
高性能网关
High-Performance Gateway
自研七层负载均衡器,结合 LVS/HAProxy 优化四层转发,支撑高并发流量
Go Nginx LVS
全栈工程
Full Stack Engineering
精通 React/Next.js/Astro 前端栈,具备 Parser/Compiler 及 IDE 插件开发能力
React Next.js TypeScript