Một tin tặc đơn lẻ sử dụng AI cục bộ để xâm nhập dịch vụ khẩn cấp tại Đài Bắc

Các nhà nghiên cứu tại Đơn vị Nghiên cứu Mối đe dọa của Acronis báo cáo vào tuần trước rằng một kẻ tấn công đơn lẻ có trụ sở tại Thành phố Hualien, Đài Loan, đã sử dụng một bộ công cụ AI agent để xâm nhập vào các hệ thống dịch vụ khẩn cấp. Chiến dịch này nhắm mục tiêu vào hàng trăm tổ chức ở ít nhất 11 quốc gia, thành công trong việc trích xuất các hồ sơ điều phối nhạy cảm và dữ liệu y tế từ các điểm cuối dễ bị tổn thương tại Đài Loan, Mexico và Thái Lan.

Chuyện gì đã xảy ra

Kẻ tấn công vận hành một khung làm việc tùy chỉnh có tên là BOSSAI, bao gồm 12 AI agent, trong đó chín agent được sử dụng tích cực trong chiến dịch. Các agent này thực hiện nhiều vai trò khác nhau, bao gồm bảo trì máy chủ, quét mục tiêu và thực thi các cuộc tấn công. Vì các mô hình AI dựa trên đám mây thương mại như Grok và MiniMax M3 phần lớn từ chối hỗ trợ các tác vụ độc hại, kẻ tấn công đã dựa vào các mô hình "abliterated" (đã gỡ bỏ rào chắn an toàn). Đây là các phiên bản lưu trữ cục bộ của các hệ thống AI mã nguồn mở, chẳng hạn như DeepSeek, GLM và Qwen, mà quá trình đào tạo an toàn và các rào chắn đạo đức đã bị loại bỏ.

Cuộc điều tra tiết lộ rằng các agent không giao tiếp tự động với nhau. Thay vào đó, kẻ tấn công sao chép thủ công đầu ra từ một agent và dán vào agent khác để phối hợp chuỗi tấn công. Bằng chứng được thu hồi từ chính máy chủ của kẻ tấn công, ban đầu bị nhầm lẫn với một môi trường phát triển cấu hình sai. Trên thực tế, nó đóng vai trò là trung tâm hoạt động cho chiến dịch, chứa hơn 90.000 tệp. Kho lưu trữ này bao gồm lịch sử lệnh, công cụ hack, thông tin đăng nhập bị đánh cắp, dữ liệu nạn nhân và nhật ký các cuộc hội thoại của AI agent.

Các vi phạm nghiêm trọng nhất xảy ra tại Đài Loan, nơi các agent truy cập vào hệ thống điều phối khẩn cấp 119 của một thành phố thông qua một API không được bảo vệ. Chúng trích xuất các hồ sơ bao phủ bảy quận, bao gồm thời gian sự cố, loại phản hồi và vị trí đường phố. Ngoài ra, các agent còn phát hiện một nền tảng cứu hỏa của Đài Bắc đã phơi bày dữ liệu bệnh nhân từ năm 2018 mà không yêu cầu đăng nhập. Bộ dữ liệu bị lộ này bao gồm kết quả đo điện tâm đồ (ECG) và video từ xe cứu thương. Mặc dù những kẻ tấn công đã quét nhiều mục tiêu khác, bao gồm các hệ thống quân sự và đại học, chúng chỉ đạt được việc đánh cắp dữ liệu xác nhận trong một số ít trường hợp mà các biện pháp kiểm soát bảo mật hoàn toàn vắng mặt.

Chi tiết chính

• Kẻ tấn công là một cá nhân duy nhất có trụ sở tại Thành phố Hualien, Đài Loan, được xác định thông qua việc tái sử dụng danh tính kỹ thuật số và rò rỉ địa chỉ IP.
• Khung BOSSAI sử dụng các mô hình AI cục bộ "abliterated" vì các nhà cung cấp thương mại như Grok từ chối tạo mã tấn công.
• Các vi phạm được xác nhận bao gồm hồ sơ điều phối khẩn cấp tại Đài Bắc, dữ liệu bệnh nhân từ một nền tảng cứu hỏa và hồ sơ điện thoại tại Mexico.
• Máy chủ của kẻ tấn công chứa hơn 90.000 tệp, cung cấp cái nhìn toàn diện về chiến dịch, công cụ và dữ liệu bị đánh cắp.
• Các AI agent tạo ra vô số cảnh báo giả, với một công cụ bịa đặt các CVE không tồn tại và phân loại sai hơn một nửa các phát hiện quan trọng của nó.
• Các cuộc tấn công thất bại khi nhắm vào các hệ thống áp dụng xác thực đúng cách, tường trả phí hoặc lọc điểm cuối, nhấn mạnh rằng các biện pháp vệ sinh cơ bản có thể ngăn chặn các mối đe dọa tự động.

Bối cảnh

Để hiểu rõ cuộc tấn công này, cần phân biệt giữa AI thương mại tiêu chuẩn và các mô hình "abliterated". Các dịch vụ AI thương mại áp dụng các hướng dẫn an toàn nghiêm ngặt để ngăn người dùng tạo ra phần mềm độc hại hoặc thực hiện các bài kiểm tra truy cập trái phép. Các mô hình "abliterated" là các trọng số mã nguồn mở đã được sửa đổi để loại bỏ những hạn chế này, cho phép chúng chạy cục bộ trên phần cứng riêng tư mà không có sự giám sát. Điều này cho phép những kẻ xấu sử dụng các mô hình ngôn ngữ mạnh mẽ cho việc viết kịch bản độc hại và trinh sát mà không kích hoạt cảnh báo từ nhà cung cấp.

Thuật ngữ API, hay Giao diện Lập trình Ứng dụng, đề cập đến các phương thức mà các thành phần phần mềm khác nhau giao tiếp với nhau. Trong trường hợp này, hệ thống điều phối khẩn cấp có một API có thể truy cập công khai mà không có xác thực đầy đủ. Điều này cho phép các AI agent truy vấn trực tiếp hệ thống và lấy dữ liệu có cấu trúc. Tương tự, việc phơi bày dữ liệu bệnh nhân kể từ năm 2018 cho thấy sự thất bại kéo dài trong việc bảo mật các ứng dụng web, một vấn đề phổ biến trong cơ sở hạ tầng cũ thiếu các cuộc kiểm toán bảo mật định kỳ.

Tại sao điều này quan trọng

Đối với các đội ngũ tự lưu trữ phần mềm hoặc quản lý cơ sở hạ tầng IT nội bộ, sự cố này nhấn mạnh rủi ro của việc phụ thuộc vào sự mơ hồ thay vì các biện pháp kiểm soát truy cập vững chắc. Kẻ tấn công thành công không phải nhờ vào các khai thác zero-day tinh vi, mà vì hắn tìm thấy những cánh cửa đang mở toang. Thông tin đăng nhập mặc định trên bảng điều khiển quản trị cơ sở dữ liệu của nhà cung cấp và khóa mã hóa được hardcode trong JavaScript phía front-end là những thất bại cơ bản về vệ sinh bảo mật. Khi AI hạ thấp rào cản gia nhập cho việc quét và khai thác những điểm yếu như vậy, khối lượng các thăm dò tự động nhắm vào cơ sở hạ tầng của bạn có khả năng sẽ tăng lên.

Hơn nữa, tỷ lệ cảnh báo giả cao do các AI agent tạo ra không có nghĩa là mối đe dọa là không đáng kể. Mặc dù các công cụ chưa hoàn hảo, nhưng chúng đủ tốt để xác định những mục tiêu dễ dàng trên nhiều quốc gia. Đối với các nhà quản lý IT, điều này có nghĩa là ngay cả các cuộc tấn công tự động ồn ào và chưa hoàn thiện cũng có thể gây ra thiệt hại đáng kể nếu phòng tuyến bên ngoài của bạn yếu. Việc kẻ tấn công phải tự tay bắc cầu giữa các agent cho thấy sự giám sát của con người vẫn là một phần của vòng lặp, kết hợp tốc độ của AI với ý định của con người để vượt qua các biện pháp phòng thủ đơn giản.

Bạn có thể làm gì

• Kiểm toán tất cả các API công khai để đảm bảo chúng yêu cầu xác thực và giới hạn tần suất, loại bỏ bất kỳ điểm cuối nào không cần truy cập từ bên ngoài.
• Quét mã nguồn của bạn để tìm các bí mật được hardcode, chẳng hạn như khóa API hoặc thông tin đăng nhập mã hóa, và chuyển chúng sang các biến môi trường an toàn hoặc vault.
• Thay thế thông tin đăng nhập mặc định trên tất cả các bảng điều khiển quản trị và giao diện cơ sở dữ liệu ngay lập tức, áp dụng chính sách mật khẩu mạnh.
• Triển khai chu kỳ vá lỗi thường xuyên cho tất cả các dịch vụ tự lưu trữ, đặc biệt là những dịch vụ chạy các phiên bản cũ của cơ sở dữ liệu hoặc máy chủ web.
• Theo dõi chặt chẽ ngày hết hạn của tên miền và chứng chỉ, vì các tài sản hết hạn đôi khi có thể dẫn đến chiếm quyền kiểm soát subdomain hoặc các vấn đề về niềm tin.
• Xem xét lại cấu hình ghi log và cảnh báo để phát hiện các mẫu quét bất thường hoặc các lần đăng nhập thất bại lặp đi lặp lại từ cùng một nguồn.