EN
Hạ tầng
Đang vận hành

SPARK Platform — GitOps trên K8s

Hạ tầng tự vận hành cho toàn bộ sản phẩm SPARK DEV: 2 cluster K3s nối qua VPN mesh, ArgoCD quản lý theo GitOps, cơ sở dữ liệu dùng chung, TLS tự động, backup mã hoá và cảnh báo qua Telegram.

Thiết kế & vận hành hạ tầng

Mục tiêu

Một nền tảng tự vận hành, chi phí thấp nhưng đủ chuẩn production cho toàn bộ sản phẩm SPARK DEV: mỗi app chỉ cần push code là được build, triển khai và cấp HTTPS — không ai phải SSH vào máy chủ để deploy.

Thiết kế

  • Kubernetes (K3s) + ArgoCD theo GitOps: trạng thái mong muốn của mọi app nằm trong các repo *-gitops; ArgoCD quản lý app trên cả 2 cluster và tự đồng bộ theo Git.
  • CI → GitOps: GitHub Actions build image, đẩy lên Docker Hub rồi commit tag mới vào repo gitops; ArgoCD sync trong vài phút. Migration database chạy bằng Job PreSync trước khi bản mới lên.
  • Dịch vụ dùng chung: ingress-nginx, PostgreSQL, MongoDB, Redis; Kafka (KRaft) và 9Router cho các tác vụ nền và AI.
  • 2 máy chủ, mỗi máy một cluster K3s, nối qua VPN mesh (Headscale), ArgoCD quản lý tập trung.
  • TLS tự động với cert-manager + Let's Encrypt; secret thật được tạo trực tiếp trong cluster, không commit.

Công nghệ sử dụng

Công nghệDùng để làm gì, dùng như thế nào
K3sKubernetes bản nhẹ, mỗi máy chủ một cluster. Máy chính chạy ArgoCD, cơ sở dữ liệu và phần lớn app. Máy thứ hai chạy Kafka, 9Router, nhận diện khuôn mặt và các dịch vụ phụ.
Headscale + TailscaleVPN mesh tự host nối hai máy chủ. ArgoCD và các app gọi sang cluster kia qua địa chỉ nội bộ, không phải mở cổng ra Internet.
ArgoCDĐăng ký cluster thứ hai dưới dạng cluster ngoài, quản lý app của cả hai. App tự đồng bộ với prune và selfHeal; riêng phần hạ tầng có StatefulSet giữ dữ liệu thì đồng bộ tay. Hook PreSync chạy migration (EF Core, Prisma, TypeORM); PostSync đồng bộ prompt và đăng ký tool AI.
Repo *-gitops + KustomizeMỗi app một repo manifest (Deployment, Service, Ingress, Job), kustomization.yaml liệt kê resource cho ArgoCD. Repo platform-gitops giữ phần dùng chung của từng máy.
GitHub Actions → Docker HubBuild image, gắn tag theo git SHA, đẩy lên Docker Hub, rồi clone repo gitops, sửa tag và commit; ArgoCD tự sync. Runner chuyển qua lại được giữa máy của GitHub và máy tự host.
ingress-nginxIngress controller cài bằng manifest, không dùng Helm. Mọi tên miền đi qua đây; endpoint stream được đặt timeout riêng.
cert-manager + Let's EncryptDùng một ClusterIssuer chung. Ingress nào khai annotation là có chứng chỉ TLS, kể cả tên miền cửa hàng hay tenant do app tự tạo.
PostgreSQL 15 + pgvector · MongoDB 7 · Redis 7Chạy dạng StatefulSet, dùng chung cho các app; mỗi app có database và role riêng. pgvector dùng cho vector khuôn mặt và trí nhớ của trợ lý.
Kafka (KRaft)Chạy không cần ZooKeeper, làm hàng đợi đồng bộ KiotViet cho Spark Store.
9RouterRouter LLM tự host: một endpoint OpenAI-compatible, gom tài khoản Claude, GPT, Gemini thành các combo model cho từng nhóm app.
Secret tạo trực tiếp trong clusterRepo chỉ giữ file mẫu secret.example.yaml; giá trị thật tạo bằng kubectl, không commit.
Backup và cảnh báoHằng đêm dump PostgreSQL và MongoDB, mã hoá bằng GPG, chép sang máy thứ hai và Cloudflare R2. Một script kiểm tra định kỳ, gửi Telegram khi RAM, đĩa, pod, URL, backup, chứng chỉ hoặc ArgoCD có vấn đề.

Kết quả

Spark Store (kèm các cửa hàng SaaS tự cấp tên miền), SPARK AI Gateway, SPARK Finance, OrderManager, Badminton, LLM OCR, Face Tracking và trang portfolio này đều chạy trên cùng nền tảng, triển khai theo một quy trình duy nhất.

SPARK Platform — GitOps trên K8s — Dự án của Vũ Xuân Bình