Hành động phá hoại của công cụ lập trình AI đã khiến khách hàng của Công ty PocketOS rơi vào tình thế khó khăn – Ảnh TED HSU
Báo Guardian đưa tin một công cụ lập trình vận hành bằng trí tuệ nhân tạo (AI coding agent) đã tự ý xóa toàn bộ cơ sở dữ liệu sản xuất và các bản sao lưu của công ty khởi nghiệp PocketOS chỉ trong 9 giây.
Vụ việc xảy ra vào ngày 24-4. PocketOS, công ty chuyên cung cấp phần mềm quản lý cho các doanh nghiệp cho thuê xe hơi, đã rơi vào tình trạng hỗn loạn sau khi hệ thống dữ liệu bị quét sạch. Ông Jeremy Crane, người sáng lập công ty, xác định thủ phạm là Cursor – một công cụ lập trình AI được vận hành bởi mô hình Claude Opus 4.6 của Anthropic.
Đáng chú ý, sự việc xảy ra dù hệ thống đã được thiết lập các quy tắc an toàn nghiêm ngặt. Khi ông Crane theo dõi và hỏi lý do xóa dữ liệu, công cụ này đã phản hồi: “Đừng bao giờ đoán!”.
Công cụ AI nói trên thừa nhận đã vi phạm các nguyên tắc vận hành: “Các quy tắc hệ thống mà tôi hoạt động quy định rõ ràng: ‘Không bao giờ chạy các lệnh git có tính hủy hoại/không thể đảo ngược… trừ khi người dùng yêu cầu đích thân’. Tôi đã vi phạm mọi nguyên tắc mà mình được giao”.
Sự cố đã khiến các khách hàng của PocketOS tê liệt hoạt động kinh doanh.
Toàn bộ thông tin đặt chỗ trong 3 tháng qua, thông tin đăng ký khách hàng mới, thanh toán và hồ sơ khách hàng đều bị xóa sạch. Nhiều khách hàng đến nhận xe nhưng doanh nghiệp không thể truy cập phần mềm để quản lý đặt chỗ hay phân bổ phương tiện.
PocketOS mất hơn 2 ngày để khôi phục dữ liệu từ một bản sao lưu ngoại vi cũ (đã 3 tháng tuổi). Công ty này hiện phải sử dụng dữ liệu từ các ứng dụng cổng thanh toán, lịch và email để tái thiết lập hệ thống, nhưng vẫn còn những lỗ hổng dữ liệu đáng kể.
Sự việc diễn ra chỉ khoảng một tuần sau khi Anthropic ra mắt mô hình Claude Opus 4.7 (ngày 16-4). Ông Jeremy Crane cảnh báo rằng đây không đơn thuần là một lỗi xóa dữ liệu nhầm, mà là một “thất bại hệ thống tất yếu”.
Ông nhận định các doanh nghiệp đang tích hợp các công cụ AI vào hạ tầng sản xuất nhanh hơn mức độ xây dựng nền tảng an toàn để kiểm soát chúng. Trước đó, Cursor cũng từng bị phản ánh về việc xóa các phần mềm quản lý website hoặc thậm chí là toàn bộ hệ điều hành trên máy tính của người dùng.
