Vụ rò rỉ dữ liệu của Fireworks AI làm lộ bản ghi chat và thông tin thanh toán khách hàng của Notion

Một vụ vi phạm bảo mật tại Fireworks AI đã dẫn đến việc lộ dữ liệu nhạy cảm của khách hàng, bao gồm thông tin thanh toán và các tập dữ liệu. Sự cố này sau đó đã ảnh hưởng đến các khách hàng hạ nguồn, với việc Notion xác nhận rằng các bản ghi chat từ dịch vụ AI của họ nằm trong số những tài sản bị đánh cắp.

Chuyện gì đã xảy ra

Fireworks AI, một nền tảng cung cấp cho các nhà phát triển quyền truy cập vào các mô hình ngôn ngữ lớn mã nguồn mở, xác nhận rằng một kẻ tấn công đã xâm nhập vào cơ sở hạ tầng nhà cung cấp đám mây của họ. Sự xâm nhập ban đầu này cho phép mối đe dọa truy cập vào hệ thống phát triển của Fireworks, qua đó có được quyền truy cập vào dữ liệu cụ thể của khách hàng. Trong một thông báo an ninh, công ty tuyên bố rằng tội phạm mạng đã đánh cắp thông tin thanh toán và một số tập dữ liệu thuộc về khách hàng của mình. Fireworks phục vụ hàng chục nghìn khách hàng trên toàn cầu, bao gồm các thực thể đáng chú ý như công ty pháp lý công nghệ Harvey và trợ lý lập trình AI Cursor.

Hiệu ứng lan truyền của cuộc tấn công chuỗi cung ứng này đã chạm tới Notion, trình chỉnh sửa tài liệu trực tuyến và ứng dụng ghi chú phổ biến. Notion tiết lộ rằng khoảng 1% cơ sở khách hàng của chính họ bị ảnh hưởng bởi vụ rò rỉ. Sau khi Fireworks cảnh báo Notion về sự cố bảo mật, Notion đã ngay lập tức thực hiện các biện pháp phòng thủ. Vào ngày 3 tháng 11, công ty đã ngắt kết nối các hệ thống của mình khỏi Fireworks, xóa mọi dữ liệu được lưu trữ trong các hệ thống đó và cắt đứt tất cả kết nối giữa hai nền tảng. Notion sau đó xác nhận rằng những kẻ tấn công đã nhắm mục tiêu cụ thể và đánh cắp các bản ghi chat từ khách hàng Notion AI sử dụng tính năng "Insights".

Notion làm rõ phạm vi dữ liệu bị lộ, lưu ý rằng các bản ghi bao gồm bất kỳ đầu vào hoặc đầu ra nào được viết vào chat trong quá trình tương tác với mô hình. Tuy nhiên, công ty cũng nhấn mạnh một hạn chế đáng kể đối với chiến lợi phẩm của những kẻ tấn công: phần lớn dữ liệu không thể quy trách nhiệm cho ai. Vẫn chưa rõ khách hàng cụ thể nào sở hữu bản ghi nào, vì các nhật ký bị đánh cắp thiếu định danh người dùng trực tiếp trong nhiều trường hợp. Sự cố này đánh dấu lần thứ hai Fireworks gặp phải vi phạm bảo mật chỉ trong vòng hai tháng, sau một sự cố trước đó vào tháng 10.

Chi tiết chính

• Phương thức tấn công: Tin tặc xâm nhập vào nhà cung cấp đám mây của Fireworks AI để truy cập vào một hệ thống phát triển.
• Dữ liệu bị đánh cắp: Thông tin thanh toán của khách hàng, các tập dữ liệu và bản ghi chat Notion AI.
• Tác động lên Notion: Khoảng 1% khách hàng của Notion bị ảnh hưởng bởi vụ rò rỉ dữ liệu.
• Dòng thời gian phản hồi: Notion đã ngắt kết nối khỏi Fireworks và xóa dữ liệu liên quan vào ngày 3 tháng 11.
• Động cơ của kẻ tấn công: Fireworks tin rằng những kẻ tấn công có động cơ tài chính, nhằm bán lại các token truy cập LLM bị đánh cắp.
• Tái diễn: Đây là vụ rò rỉ thứ hai tại Fireworks AI trong vòng hai tháng, với vụ trước đó xảy ra vào tháng 10.

Bối cảnh

Sự cố này làm nổi bật những rủi ro vốn có trong chuỗi cung ứng phần mềm, nơi các công ty phụ thuộc vào các nhà cung cấp bên thứ ba cho các chức năng cốt lõi. Fireworks AI hoạt động như một trung gian, cho phép các nhà phát triển tích hợp các mô hình ngôn ngữ lớn mã nguồn mở vào ứng dụng của họ mà không cần tự quản lý cơ sở hạ tầng nền tảng. Khi một nhà cung cấp như vậy bị xâm phạm, tư thế bảo mật của tất cả các khách hàng hạ nguồn đều có khả năng bị suy yếu, bất kể các biện pháp bảo mật nội bộ của họ. Điều này được gọi là cuộc tấn công chuỗi cung ứng, nơi các lỗ hổng trong hệ thống của nhà cung cấp tạo ra điểm xâm nhập cho kẻ tấn công để tiếp cận nhiều mục tiêu cùng lúc.

Động cơ cụ thể được Fireworks nêu ra liên quan đến việc đánh cắp token API hoặc thông tin đăng nhập truy cập. Trong ngành công nghiệp AI, tài nguyên tính toán rất đắt đỏ. Kẻ tấn công thường đánh cắp quyền truy cập vào các mô hình này để bán lại quyền sử dụng cho các bên thứ ba không được ủy quyền. Những kẻ xấu này sau đó có thể chạy các khối lượng công việc AI chuyên sâu mà không phải trả tiền cho sức mạnh tính toán, thực chất là đốt cháy tài nguyên của nạn nhân. Lợi ích tài chính này thúc đẩy nhiều cuộc tấn công gần đây nhằm vào các nhà cung cấp cơ sở hạ tầng AI, biến họ thành những mục tiêu giá trị cao đối với các nhóm tội phạm mạng.

Tại sao điều này quan trọng

Đối với các đội ngũ vận hành phần mềm riêng hoặc quản lý cơ sở hạ tầng CNTT, vụ rò rỉ này nhấn mạnh các phụ thuộc ẩn trong các ngăn xếp công nghệ hiện đại. Ngay cả khi tổ chức của bạn không trực tiếp sử dụng Fireworks AI, bạn có thể phụ thuộc vào các công cụ như Notion, Harvey hoặc Cursor, những công cụ có sử dụng nó. Một lỗ hổng trong nhà cung cấp con có thể gián tiếp phơi bày dữ liệu của bạn. Thực tế này thách thức giả định rằng lựa chọn các nhà cung cấp uy tín đảm bảo an toàn dữ liệu. Nó buộc các lãnh đạo CNTT phải xem xét kỹ lưỡng không chỉ các nhà cung cấp trực tiếp, mà còn cả các nhà cung cấp mà đối tác của họ phụ thuộc vào, một nhiệm vụ trở nên phức tạp hơn khi các dịch vụ ngày càng liên kết chặt chẽ.

Hơn nữa, việc lộ các bản ghi chat đặt ra những lo ngại đáng kể về quyền riêng tư và tuân thủ. Đối với các doanh nghiệp sử dụng các tính năng AI cho quản lý kiến thức nội bộ hoặc hỗ trợ khách hàng, các nhật ký này có thể chứa thông tin độc quyền nhạy cảm hoặc dữ liệu cá nhân. Việc phần lớn dữ liệu không thể quy trách nhiệm mang lại ít sự an ủi, vì sự tồn tại đơn thuần của các bản ghi trong tay những kẻ không được phép đã tạo ra trách nhiệm pháp lý. Các đội ngũ giờ đây phải cân nhắc xem dữ liệu như vậy được lưu giữ bởi các bên thứ ba trong bao lâu và liệu họ có khả năng xác minh việc xóa dữ liệu hay không, giống như cách Notion đã làm bằng cách cắt đứt quan hệ và xóa sạch dữ liệu đã lưu trữ.

Bạn có thể làm gì

• Kiểm toán các phụ thuộc bên thứ ba: Lập bản đồ các dịch vụ bên ngoài mà các công cụ quan trọng của bạn phụ thuộc vào để xử lý dữ liệu hoặc tính năng AI.
• Giới hạn lưu giữ dữ liệu: Cấu hình các công cụ AI để giảm thiểu việc lưu trữ lịch sử chat và vô hiệu hóa các tính năng ghi lại các đầu vào hoặc đầu ra không cần thiết.
• Xem xét các thông báo bảo mật của nhà cung cấp: Đăng ký nhận các bản cập nhật bảo mật từ các nhà cung cấp chính để phản ứng nhanh chóng với các sự cố như ngắt kết nối hoặc đặt lại mật khẩu.
• Áp dụng kiểm soát truy cập nghiêm ngặt: Sử dụng quyền truy cập dựa trên vai trò để giới hạn những ai có thể kích hoạt các tính năng AI hoặc xuất dữ liệu trong ngăn xếp phần mềm của tổ chức bạn.
• Cân nhắc các giải pháp tự chủ (self-hosted): Đánh giá các tùy chọn để tự chủ việc xử lý dữ liệu nhạy cảm nội bộ nhằm giảm sự phụ thuộc vào các nhà cung cấp đám mây bên ngoài cho các quy trình làm việc quan trọng.
• Theo dõi các hoạt động bất thường: Chú ý đến các chỉ số sử dụng API và hóa đơn thanh toán để tìm kiếm những đợt tăng đột biến không mong muốn, có thể chỉ ra việc đánh cắp hoặc lạm dụng token.