Tự host

Chi phí ẩn trong hệ thống tìm kiếm và AI tự vận hành trên Azure

Một lập trình viên độc lập chia sẻ phân tích chi tiết về việc vận hành trang web tìm kiếm thử nghiệm lâm sàng, tiết lộ những đợt tăng đột biến băng thông không lường trước và sự lãng phí token AI.

Minh họa một kệ máy chủ với đèn cảnh báo và cáp rò rỉ đè lên hóa đơn
Ảnh minh họa tạo riêng cho bài viết

Bài được dịch tự động từ bản gốc tiếng Anh.

Oleksandr Gamaniuk, nhà phát triển duy nhất đứng sau nền tảng tìm kiếm thử nghiệm lâm sàng hipa.ai, đã công bố một phân tích chi phí chi tiết về cơ sở hạ tầng của mình vào ngày 17 tháng 11 năm 2026. Báo cáo bao gồm bảy tháng hoạt động trên Microsoft Azure, làm nổi bật cách các tài nguyên dùng chung, giới hạn bộ nhớ và việc sử dụng AI không được giám sát đã tạo ra những bất ngờ về tài chính và vận hành cho một ứng dụng nhỏ tự vận hành.

Chuyện gì đã xảy ra

Gamaniuk bắt đầu bằng việc kiểm tra dữ liệu Azure Cost Management để trả lời những câu hỏi thường gặp về chi phí vận hành một trang web có hơn 600.000 hồ sơ thử nghiệm và nội dung do AI tạo hàng tuần. Ông nhận thấy rằng trong khi chi phí trực tiếp cho lưu trữ và ghi nhật ký là không đáng kể, thì các gói tính toán dùng chung và phí truyền tải mạng (network egress) lại chiếm phần lớn hóa đơn. Ban đầu, ứng dụng chạy trên kế hoạch Windows App Service dùng chung và một máy ảo Linux tối giản cho Elasticsearch, dẫn đến việc phân bổ chi phí mơ hồ và các vấn đề ổn định lặp đi lặp lại.

Sự cố vận hành nghiêm trọng nhất liên quan đến instance Elasticsearch, chạy trên một VM chỉ có 3,5 GB RAM. Tiến trình Java thường xuyên tiêu thụ gần như toàn bộ bộ nhớ khả dụng, khiến trình diệt OOM (out-of-memory killer) của kernel Linux nhiều lần dừng dịch vụ từ tháng 4 đến tháng 7 năm 2026. Do dịch vụ hệ thống không được cấu hình để khởi động lại tự động, công cụ tìm kiếm vẫn ngoại tuyến cho đến khi có sự can thiệp thủ công, làm hỏng các kết xuất cache-miss cho người dùng mặc dù các phần khác của trang web vẫn truy cập được qua Cloudflare.

Trong nỗ lực giảm chi phí tính toán, Gamaniuk đã chuyển công cụ tìm kiếm sang một máy Linux tự vận hành bên ngoài Azure, kết nối nó qua đường hầm WireGuard. Mặc dù điều này loại bỏ phí tính toán máy ảo, nhưng nó lại đưa ra một chi phí mới và đáng kể: truyền tải mạng. Chỉ trong mười một ngày, băng thông cần thiết để đường hầm các truy vấn và phản hồi tìm kiếm trở lại Azure đã tốn kém hơn cả hóa đơn tính toán của toàn bộ tháng trước đó cho dịch vụ này, minh chứng cho thấy những thay đổi kiến trúc có thể chuyển chi phí sang các mục bất ngờ.

Chi tiết chính

  • VM Elasticsearch (1 vCPU, 3,5 GB RAM) bị sập năm lần do cạn kiệt bộ nhớ, với tiến trình Java sử dụng khoảng 2,6 GB RSS.
  • Chi phí băng thông cho truyền tải web vượt quá tổng chi phí của blob storage, Key Vault và Log Analytics, chủ yếu do lưu lượng bot.
  • Việc chuyển tìm kiếm ra khỏi Azure giảm chi phí tính toán xuống bằng không nhưng tăng chi tiêu truyền tải hàng tháng lên $42,30 vào tháng Mười do lưu lượng đường hầm WireGuard.
  • Các bản triển khai trên Windows App Service mất tới 75 phút do tốc độ truyền tệp SMB chậm, nhưng giảm xuống còn sáu giây sau khi chuyển sang chế độ run-from-package.
  • Chi phí tạo nội dung AI không được theo dõi trong bảy tháng cho đến khi việc ghi nhật ký được thêm vào cuối tháng Mười, tiết lộ rằng lựa chọn nhà cung cấp ảnh hưởng đáng kể đến độ dài đầu ra và mức sử dụng token.
  • Một bản cập nhật thuật toán tìm kiếm của Google vào tháng 7 năm 2026 đã giảm lưu lượng truy cập hàng ngày xuống 92%, đại diện cho một chi phí ẩn vượt xa khoản chi tiêu AI chưa được đo lường.

Bối cảnh

Việc tự vận hành cơ sở hạ tầng thường liên quan đến sự đánh đổi giữa quyền kiểm soát và độ phức tạp. Trong trường hợp này, nhà phát triển đã sử dụng bản build "standalone" của Next.js, tách ứng dụng khỏi mã framework để giảm kích thước triển khai. Tuy nhiên, trên các dịch vụ đám mây dựa trên Windows, việc triển khai hàng nghìn tệp nhỏ qua các ổ chia sẻ mạng có thể cực kỳ chậm so với các bản triển khai container dựa trên Linux. Ngoài ra, Elasticsearch là một công cụ tìm kiếm dựa trên Java nổi tiếng với mức tiêu thụ bộ nhớ cao. Chạy nó trên một máy ảo tối thiểu mà không có swap space hoặc chính sách khởi động lại tự động sẽ tạo ra một hệ thống mong manh, nơi bất kỳ sự gia tăng nhỏ nào trong hoạt động của hệ điều hành cũng có thể làm sập dịch vụ chính.

Truyền tải mạng (Network egress) đề cập đến dữ liệu rời khỏi mạng của nhà cung cấp đám mây. Nhiều nhà phát triển tập trung vào chi phí tính toán và lưu trữ nhưng bỏ qua phí truyền tải, thứ có thể tích lũy nhanh chóng khi các ứng dụng giao tiếp qua các mạng hoặc khu vực khác nhau. Trong kịch bản này, việc đường hầm kết quả tìm kiếm từ một máy chủ bên ngoài trở lại Azure đã kích hoạt các khoản phí này, minh họa rằng tính toán "rẻ hơn" ở nơi khác có thể dẫn đến tổng chi phí cao hơn nếu khối lượng truyền dữ liệu lớn.

Tại sao điều này quan trọng

Đối với các đội ngũ tự vận hành phần mềm của riêng họ, nghiên cứu tình huống này nhấn mạnh mối nguy hiểm của cơ sở hạ tầng dùng chung. Mặc dù việc chia sẻ một kế hoạch app service premium giảm chi phí danh nghĩa, nhưng nó che khuất hiệu quả kinh tế thực sự trên mỗi đơn vị của từng dự án. Nếu không có sự phân bổ chi phí chính xác, việc biện minh cho các tối ưu hóa hoặc dự đoán chi phí mở rộng quy mô trở nên khó khăn. Trải nghiệm này cũng là lời nhắc nhở rằng các dịch vụ có trạng thái (stateful services) như cơ sở dữ liệu và công cụ tìm kiếm yêu cầu việc cung cấp tài nguyên cẩn thận. Giả định rằng một dịch vụ sẽ vừa vặn với gói nhỏ nhất khả dụng thường dẫn đến sự bất ổn đòi hỏi nhiều thời gian kỹ thuật để khắc phục hơn so với chi phí tính toán tiết kiệm được.

Thành phần AI của câu chuyện nhấn mạnh tầm quan trọng của khả năng quan sát (observability) trong các quy trình tạo sinh. Nếu không theo dõi mức sử dụng token ngay từ ngày đầu tiên, các nhà phát triển không thể đo lường chính xác lợi tức đầu tư cho việc tạo nội dung tự động. Hơn nữa, sự sụt giảm lưu lượng truy cập sau khi xuất bản hàng nghìn trang chương trình gợi ý rằng các công cụ tìm kiếm có thể phạt các trang web dường như ưu tiên quy mô hơn chất lượng. "Chi phí ẩn" của việc mất lưu lượng truy cập hữu cơ này có thể vượt xa hóa đơn cơ sở hạ tầng trực tiếp, ảnh hưởng đến khả năng tồn tại lâu dài của các ứng dụng tự vận hành nặng về nội dung.

Bạn có thể làm gì

  • Cấu hình các dịch vụ systemd với Restart=on-failure để đảm bảo các thành phần quan trọng như Elasticsearch tự động khôi phục sau các sự cố sập.
  • Theo dõi chặt chẽ chi phí truyền tải mạng khi di chuyển các dịch vụ ra ngoài nhà cung cấp đám mây chính của bạn, đặc biệt là khi sử dụng đường hầm hoặc proxy.
  • Triển khai ghi nhật ký token cho tất cả các cuộc gọi API AI ngay từ đầu quá trình phát triển để theo dõi mẫu sử dụng và phát hiện sớm các bất thường về hóa đơn.
  • Sử dụng phương pháp triển khai run-from-package để tránh truyền tệp chậm từng cái và giảm thời gian triển khai từ vài phút xuống vài giây.
  • Xác minh các phụ thuộc bên ngoài, chẳng hạn như tạo hình ảnh, trước khi kích hoạt các tác vụ AI đắt đỏ để ngăn chặn lãng phí token vào các quy trình thất bại.
  • Thường xuyên kiểm tra hóa đơn cơ sở hạ tầng dùng chung để cô lập chi phí cụ thể của dự án và xác định các đợt tăng đột biến không lường trước trong mức sử dụng hoặc giá cả.

Tin khác

Tất cả tin