AI & mô hình ngôn ngữ

TinyWebUI cung cấp giao diện trò chuyện ưu tiên cục bộ với các công cụ MCP tích hợp sẵn

TinySuiteHQ đã phát hành TinyWebUI, một không gian làm việc chat tự lưu trữ (self-hosted) chạy cục bộ với cơ sở dữ liệu SQLite và bao gồm các công cụ tìm kiếm và bộ nhớ được cấu hình sẵn.

Illustration of a local AI chat interface with data elements
Ảnh minh họa tạo riêng cho bài viết

Bài được dịch tự động từ bản gốc tiếng Anh.

TinySuiteHQ đã ra mắt TinyWebUI, một giao diện chat nhẹ nhàng, ưu tiên cục bộ (local-first), được thiết kế cho các nhà phát triển muốn vận hành quy trình làm việc AI của riêng mình mà không phụ thuộc vào backend được lưu trữ trên đám mây. Được công bố vào ngày 8 tháng 10 năm 2026, công cụ này kết nối với bất kỳ điểm cuối mô hình tương thích OpenAI nào và lưu trữ tất cả dữ liệu, bao gồm lịch sử chat và tài liệu, trong một tệp SQLite duy nhất trên máy người dùng. Nó đi kèm với hai máy chủ Model Context Protocol (MCP) được tích hợp sẵn cho tìm kiếm web và bộ nhớ dài hạn, nhằm đơn giản hóa việc thiết lập các trợ lý AI riêng tư.

Chuyện gì đã xảy ra

TinyWebUI đóng vai trò là giao diện chat cho TinySuite, một bộ sưu tập các công cụ nhỏ gọn được xây dựng cho các tác nhân AI. Ứng dụng này không yêu cầu tạo tài khoản, không cần bước build và không dựa trên framework frontend nào, cho phép người dùng bắt đầu làm việc ngay lập tức bằng cách chỉ định nó tới một điểm cuối API như OpenRouter, Ollama hoặc vLLM. Tất cả các tương tác, tệp đính kèm tài liệu và đầu ra từ công cụ đều được lưu trữ cục bộ trong SQLite, đảm bảo dữ liệu vẫn nằm dưới sự kiểm soát của người dùng. Hệ thống được thiết kế để tối ưu hiệu quả cache, sử dụng các tiền tố và nén dữ liệu để giữ chi phí các cuộc hội thoại dài ở mức phải chăng, đồng thời cung cấp thống kê token theo từng vòng hội thoại.

Phiên bản phát hành bao gồm hai máy chủ MCP được tải sẵn: TinySearch và TinyContext. TinySearch cho phép tìm kiếm, đọc và xếp hạng lại web cục bộ mà không cần khóa API tìm kiếm bên ngoài. TinyContext hoạt động như một bộ nhớ dài hạn cục bộ, chỉ truy xuất thông tin phù hợp với ngân sách token hiện tại. Các công cụ này cho phép trợ lý thực hiện nghiên cứu và duy trì ngữ cảnh qua các phiên làm việc mà không gửi dữ liệu nhạy cảm đến các dịch vụ của bên thứ ba. Giao diện hỗ trợ các cuộc hội thoại bền vững, cho phép người dùng chỉnh sửa, thử lại hoặc tua ngược các lượt nói, thậm chí điều hướng một lượt đang chạy bằng cách nhấn Enter để đạt đến điểm an toàn tiếp theo.

Chi tiết chính

  • Lưu trữ cục bộ: Tất cả lịch sử chat, tài liệu và đầu ra từ công cụ được lưu trong một tệp SQLite duy nhất trên máy người dùng.
  • Công cụ dựng sẵn: Bao gồm TinySearch để truy xuất web cục bộ và TinyContext cho bộ nhớ dài hạn hiệu quả về token.
  • Tương thích mô hình: Hoạt động với bất kỳ điểm cuối tương thích OpenAI nào, bao gồm OpenRouter, Groq, Ollama và LM Studio.
  • Tìm kiếm lai (Hybrid search): Kết hợp tìm kiếm từ khóa BM25 với một mô hình nhúng (embedding model) nhỏ chạy trên thiết bị cho tài liệu và lịch sử chat cũ.
  • Bảo mật: Riêng tư theo mặc định với mật khẩu chủ sở hữu bắt buộc khi chạy lần đầu; hỗ trợ cổng SSO cho mục đích sử dụng nhóm.
  • Cấu hình: Quản lý thông qua các tệp JSON được kiểm soát phiên bản, có khả năng hot-reload và từ chối lỗi chính tả, kèm theo dấu vân tay để xác minh.

Bối cảnh

Model Context Protocol (MCP) là một tiêu chuẩn mở cho phép các mô hình AI tương tác an toàn với các công cụ và nguồn dữ liệu bên ngoài. Bằng cách sử dụng MCP, các nhà phát triển có thể kết nối mô hình ngôn ngữ của họ với các tài nguyên cục bộ, chẳng hạn như hệ thống tệp hoặc cơ sở dữ liệu, mà không cần xây dựng các tích hợp tùy chỉnh cho từng loại. TinyWebUI tận dụng giao thức này qua stdio, Streamable HTTP hoặc Server-Sent Events (SSE), đảm bảo rằng bất kỳ hành động nào thay đổi trạng thái đều chờ sự phê duyệt của người dùng. Cách tiếp cận này cung cấp một phương pháp có cấu trúc để mở rộng khả năng của AI trong khi vẫn duy trì quyền kiểm soát chặt chẽ đối với những gì mô hình có thể truy cập và chỉnh sửa.

Phần mềm ưu tiên cục bộ (Local-first software) chú trọng việc lưu trữ dữ liệu trên thiết bị của người dùng thay vì trên đám mây. Kiến trúc này giảm độ trễ, loại bỏ sự phụ thuộc vào kết nối internet cho các chức năng cốt lõi và nâng cao quyền riêng tư bằng cách giữ thông tin nhạy cảm tránh xa các máy chủ từ xa. Trong bối cảnh AI, ưu tiên cục bộ có nghĩa là lịch sử chat, tài liệu đã tải lên và các hiểu biết được tạo ra đều nằm trên máy. Tìm kiếm lai tăng cường thêm điều này bằng cách kết hợp khớp từ khóa truyền thống với vector nhúng, cho phép truy xuất thông tin chính xác hơn từ các tài liệu cục bộ mà không cần các chỉ mục trung tâm lớn.

Tại sao điều này quan trọng

Đối với các đội ngũ vận hành phần mềm của riêng mình, quyền riêng tư và kiểm soát dữ liệu thường là những mối quan tâm hàng đầu. TinyWebUI giải quyết những vấn đề này bằng cách đảm bảo không có dữ liệu nào rời khỏi môi trường cục bộ trừ khi được gửi rõ ràng đến một điểm cuối mô hình đã chọn. Việc thiếu backend được lưu trữ trên đám mây có nghĩa là không có sự khóa cứng nhà cung cấp (vendor lock-in) hoặc rủi ro ngừng dịch vụ ảnh hưởng đến quyền truy cập vào lịch sử chat cũ. Điều này đặc biệt có giá trị đối với các tổ chức xử lý mã nguồn nhạy cảm hoặc tài liệu độc quyền, vì họ có thể kiểm toán chính xác nơi dữ liệu chảy đi và đảm bảo tuân thủ các chính sách bảo mật nội bộ.

Việc bao gồm các công cụ MCP được cấu hình sẵn hạ thấp rào cản gia nhập khi sử dụng các tính năng AI nâng cao. Thay vì dành thời gian thiết lập các API tìm kiếm riêng biệt hoặc vector bộ nhớ, các nhà phát triển nhận được một hệ thống hoạt động ngay từ đầu. Khả năng điều hướng các cuộc hội thoại và quản lý ngữ cảnh dài một cách hiệu quả cũng làm cho nó trở nên thực tế cho các nhiệm vụ gỡ lỗi phức tạp hoặc nghiên cứu. Bằng cách giữ kích thước nhỏ gọn và cấu hình dựa trên tệp, nó dễ dàng tích hợp vào các quy trình DevOps hiện có, cho phép triển khai được kiểm soát phiên bản và môi trường nhất quán giữa các đội ngũ.

Những gì bạn có thể làm

  • Cài đặt TinyWebUI bằng npx tinywebui nếu bạn đã cài Node.js phiên bản 22.13 trở lên.
  • Tạo một mật khẩu chủ sở hữu dài ít nhất 15 ký tự trong lần chạy tương tác đầu tiên.
  • Cấu hình điểm cuối mô hình và khóa API của bạn trong tinywebui.config.json hoặc thông qua bảng điều khiển Settings.
  • Chạy npx tinywebui models pull fast để tải xuống mô hình nhúng 90 MB cho tìm kiếm lai.
  • Sử dụng Docker Compose để triển khai trong môi trường container hóa, đảm bảo bạn đặt mật khẩu trong volume lưu trữ bền vững.
  • Xem xét tài liệu tại tinysuite.dev/docs/tinywebui để biết chi tiết về tích hợp máy chủ MCP và tự động hóa.

Tin khác

Tất cả tin