Shadow AI (AI dùng lén)

Hiện tượng này quen thuộc từ chuyện “shadow IT”: nhân viên tự dùng Dropbox hay Zalo trước khi công ty có công cụ chính thức nào. Shadow AI là phiên bản chatbot của câu chuyện đó. Một nhân viên có tài khoản ChatGPT cá nhân, làm việc với nó nhanh hơn, thế là báo cáo, email khách hàng và những đoạn tài liệu nội bộ lặng lẽ bắt đầu chạy qua đó.

Gần như không ai làm việc này với ý xấu. Hãy nghĩ đến chị quản lý văn phòng ở một công ty sửa ống nước, dán cả danh sách khách hàng vào chatbot miễn phí để soạn thư gửi đi: chị ấy đang tháo vát, chứ không phải liều lĩnh. Nhưng dữ liệu giờ đã rời khỏi hệ thống được kiểm soát của công ty để vào một tài khoản cá nhân: có thể bị dùng làm dữ liệu huấn luyện, công ty không nhìn thấy, nằm trong lịch sử trò chuyện cá nhân chỉ được bảo vệ bằng một mật khẩu, và được xử lý mà không có các thỏa thuận mà Nghị định 13/2023/NĐ-CP về bảo vệ dữ liệu cá nhân yêu cầu khi xử lý dữ liệu khách hàng.

Cách xử lý trung thực không phải là cấm tiệt; lệnh cấm chỉ đẩy việc dùng AI lún sâu hơn vào bóng tối. Cách làm đúng là cho mọi người một con đường được công nhận: một chính sách AI của công ty rõ ràng, một công cụ được phê duyệt trên gói doanh nghiệp, và quy tắc chung về việc được dán gì. Công cụ kiểm tra trước khi dán của chúng tôi là cách nhanh để rèn khả năng phán đoán đó.

Bạn gặp thuật ngữ này ở đâu

• Các khảo sát về CNTT và an ninh thông tin nói về mức độ phổ biến của việc dùng AI chưa được duyệt
• Chính sách AI của công ty, thường được viết ra chính là để đưa shadow AI ra ánh sáng
• Các công cụ kiểm soát trình duyệt hoặc mạng mà một số nơi làm việc dùng để phát hiện công cụ AI cá nhân

Thuật ngữ liên quan

• Chính sách AI của công ty →
• Dữ liệu mật →
• Dữ liệu huấn luyện →
• Gói doanh nghiệp (Enterprise) →