Shadow AI đề cập đến các công cụ, mô hình, tài khoản hoặc các tự động hóa trí tuệ nhân tạo được sử dụng mà không có sự xác thực hoặc không có tính minh bạch đầy đủ từ tổ chức. Điều này có thể là một nhân viên dán một tài liệu vào một trợ lý miễn phí, một lập trình viên gọi API bằng thẻ cá nhân, hoặc một nhóm kết nối một tác nhân vào hộp thư của họ mà không qua kiểm tra bảo mật.
Hiện tượng này không chỉ là một vấn đề về kỷ luật. Nó thường tiết lộ một khoảng cách giữa nhu cầu công việc và khả năng của doanh nghiệp trong việc đề xuất một giải pháp. Một lệnh cấm tổng thể có thể giảm một số cách sử dụng hiển thị trong khi chuyển hướng những cách sử dụng khác sang các tài khoản cá nhân và thiết bị không được quản lý.
Các công cụ và chức năng phát triển nhanh chóng. Các khuyến nghị cần được điều chỉnh phù hợp với hệ thống thông tin, các hợp đồng và nghĩa vụ của tổ chức.
Tại sao AI bóng tối lại phát triển
Các công cụ có thể truy cập trong vài phút và mang lại lợi ích ngay lập tức cho:
- soạn thảo ;
- dịch
- tóm tắt ;
- phân tích một tệp;
- tạo mã;
- chuẩn bị một bài thuyết trình;
- ghi lại một cuộc họp;
- tự động hóa các hành động.
Quy trình nội bộ có thể mất vài tuần. Nếu chính sách chỉ giới hạn ở việc « yêu cầu sự cho phép » mà không có thời hạn hay lựa chọn thay thế, người dùng thường chọn công cụ có sẵn.
Các nguyên nhân khác cũng được thêm vào: các chức năng IA được bật trong phần mềm đã mua, các bản dùng thử miễn phí, thiếu phân loại dữ liệu, nhầm lẫn giữa dịch vụ dành cho người tiêu dùng và doanh nghiệp, hoặc không biết các dấu vết được lưu giữ.
Các rủi ro không chỉ giới hạn ở việc huấn luyện mô hình
Ngay cả khi một nhà cung cấp khẳng định không sử dụng dữ liệu để huấn luyện các mô hình của mình, cũng cần xem xét:
- lưu giữ các prompts và tập tin;
- nhật ký bảo mật và hỗ trợ ;
- các nhà thầu phụ;
- vùng điều trị ;
- truy cập quản trị viên;
- kết nối;
- chia sẻ công khai ;
- tài sản và giấy phép;
- sự cố ;
- xóa bỏ ;
- sự tiến triển của các điều kiện.
Các rủi ro chính bao gồm rò rỉ bí mật, tiết lộ dữ liệu cá nhân, vi phạm hợp đồng, mã có lỗ hổng, sử dụng nội dung được bảo vệ, quyết định chưa được kiểm chứng và đại lý có quyền hạn quá cao.
Lập bản đồ mà không biến cuộc kiểm toán thành cuộc săn lùng người dùng
Một biện pháp trừng phạt làm nản chí việc báo cáo và phá hủy khả năng hiển thị. Mục tiêu là hiểu các nhu cầu và đường đi của dữ liệu.
Các nguồn có thể là:
- khảo sát ẩn danh;
- xưởng nghề ;
- yêu cầu mua hàng;
- chi tiêu và thẻ;
- kiểm kê các phần mở rộng;
- nhật ký proxy hoặc CASB trong việc tuân thủ khuôn khổ xã hội và pháp lý;
- SSO ;
- phân tích các ứng dụng SaaS;
- xem xét các kho và bí mật;
- sự cố hỗ trợ.
Kết quả được tổng hợp theo loại sử dụng và lớp dữ liệu. Không công bố bảng xếp hạng các 'học sinh kém'.
Vòng lặp giảm thiểu shadow AI kết nối việc khám phá nhu cầu, công cụ được phê duyệt, đào tạo, kiểm soát, ngoại lệ và cải tiến.
Phân loại các kịch bản, không chỉ các công cụ
Cùng một trợ lý có thể được chấp nhận để diễn đạt lại một văn bản công khai và bị cấm để phân tích một hồ sơ y tế. Ma trận kết hợp:
- tính nhạy cảm của dữ liệu;
- tác động của việc ra mắt;
- tự chủ
- quyền truy cập ;
- khả năng kiểm tra;
- hợp đồng và cấu hình;
- khả năng truy xuất nguồn gốc;
- tính có thể đảo ngược.
Bốn câu trả lời nội bộ có thể là đủ:
- sử dụng tự do trong một công cụ được phê duyệt ;
- sử dụng được phép có điều kiện;
- xem xét trước bắt buộc;
- cấm sử dụng.
Sự đơn giản này giúp việc chấp nhận trở nên dễ dàng.
Cung cấp một con đường được phê duyệt đủ hữu ích
Tổ chức phải cung cấp một dịch vụ đáp ứng các nhu cầu sử dụng thường xuyên:
- xác thực doanh nghiệp ;
- hợp đồng và khu vực được kiểm soát;
- không huấn luyện trên dữ liệu theo các điều kiện đã chọn;
- không gian được tách ra ;
- mẫu thích hợp ;
- giới hạn kích thước và phân loại;
- các đầu nối được phê duyệt;
- hỗ trợ ;
- lịch sử được kiểm soát;
- khả năng xoá ;
- chi phí rõ ràng.
Một cầu nối đa mô hình có thể định tuyến các yêu cầu theo dữ liệu và nhu cầu. Nó tập trung hóa việc xác thực, hạn ngạch, lọc, ghi nhật ký tối thiểu và lựa chọn khu vực, mà không áp đặt một mô hình duy nhất cho tất cả các nhiệm vụ.
Trải nghiệm phải luôn mượt mà. Nếu công cụ được phê duyệt chậm, không thể đọc các định dạng phổ biến hoặc không truy cập được trên thiết bị di động, giải pháp tạm thời sẽ còn tồn tại.
Viết một chính sách dễ hiểu
Chính sách được trình bày trên một trang quy tắc, kèm theo một phần Câu hỏi thường gặp. Nó giải quyết các tình huống:
- Tôi có thể dịch một tài liệu của khách hàng không?
- Tôi có thể gửi mã sở hữu không?
- Tôi có thể kết nối hộp thư của mình không?
- Tôi có thể tạo ra một hình ảnh thương mại không?
- Tôi có thể sử dụng một đầu ra để tuyển dụng không?
- Tôi có thể tạo một tài khoản bằng email công việc của mình không?
- Nên làm gì sau một lần nhập sai vô tình?
Mỗi câu trả lời chỉ ra công cụ, dữ liệu, mức độ đánh giá và liên hệ. Các lệnh cấm được giải thích và đi kèm với một phương án thay thế khi có thể.
Triển khai các kiểm soát kỹ thuật phù hợp
Các kiểm soát có thể bao gồm:
- SSO và quản lý vòng đời của tài khoản;
- chặn có mục tiêu các dịch vụ có rủi ro;
- DLP trên dữ liệu nhạy cảm;
- tiện ích mở rộng trình duyệt được quản lý;
- rương bí mật ;
- cổng API ;
- hạn chế tải lên;
- phân đoạn mạng ;
- các đầu nối chỉ đọc;
- xác nhận trước khi hành động;
- hạn ngạch và cảnh báo;
- nhật ký kiểm toán.
Một sự chặn mạng hoàn toàn có thể được né tránh bằng điện thoại hoặc mạng cá nhân. Nó phải được dành cho các kịch bản hợp lý và đi kèm với đào tạo và đề nghị đã được phê duyệt.
Bao quanh các bộ nối và tác nhân
Rủi ro thay đổi quy mô khi một công cụ truy cập vào tệp, email, CRM hoặc mã. Nó không bao giờ mặc định nhận tất cả các quyền của người dùng.
Yêu cầu :
- OAuth hoặc nhận dạng dịch vụ riêng biệt;
- quyền tối thiểu ;
- phạm vi và thời gian hạn chế;
- môi trường thử nghiệm ;
- các hành động nhạy cảm đã được xác nhận ;
- khúc gỗ ;
- thu hồi đơn giản;
- danh sách công cụ;
- bảo vệ chống lại tấn công prompt injection;
- xem xét dữ liệu gửi cho các đại lý phụ.
Một kết nối « tiện lợi » với toàn bộ drive có thể khiến lộ các thư mục mà người dùng chưa bao giờ có ý định xử lý.
Đào tạo từ các trường hợp thực tế
Một khóa đào tạo tổng quát về ảo giác là không đủ. Các đội ngũ phải thực hành:
- nhận dạng các lớp dữ liệu;
- ẩn danh hoặc giảm thiểu;
- kiểm tra một nguồn;
- tránh các bí mật trong mã;
- đọc lại một kết quả;
- hiểu các phần chia;
- báo cáo một lỗi;
- sử dụng môi trường đã được phê duyệt.
Các nhà quản lý học cách không áp đặt năng suất AI mà không cung cấp khuôn khổ. Các nhà mua sắm và quản trị viên học cách phát hiện các chức năng được kích hoạt theo mặc định.
Thiết lập một quy trình ngoại lệ nhanh
Một đội có thể cần một mô hình chuyên biệt không có trong danh mục. Ngoại lệ ghi lại: mục đích, dữ liệu, thời hạn, nhà cung cấp, kiểm tra, chủ sở hữu và các biện pháp bù đắp.
Thời hạn là hợp lý. Một thử nghiệm trên dữ liệu tổng hợp có thể được phê duyệt nhanh chóng. Một nhân viên nhân sự kết nối cần được xem xét toàn diện.
Ngoại lệ hết hạn và không tự động cho phép sản xuất.
Phản ứng với một phơi nhiễm tai nạn
Quy trình phải được biết trước khi sự cố xảy ra:
- ngừng gửi và bảo quản các yếu tố hữu ích;
- xác định công cụ, tài khoản, dữ liệu và người nhận;
- kiểm tra khả năng xóa và hỗ trợ ;
- thu hồi các token và bộ nối;
- thông báo cho bộ phận an ninh, DPO và các quản lý tùy theo trường hợp;
- đánh giá tác động và các nghĩa vụ thông báo ;
- sửa quy trình;
- chia sẻ phản hồi mà không kỳ thị.
Một người dùng báo cáo nhanh làm giảm rủi ro. Do đó, văn hóa cần coi trọng việc báo cáo.
Đo lường việc giảm rủi ro
Theo dõi :
- tỷ lệ chấp nhận các công cụ đã được phê duyệt ;
- thời hạn truy cập;
- yêu cầu đặc biệt;
- các trường hợp sử dụng không được bao phủ ;
- sự cố và sự cố gần như xảy ra;
- dữ liệu bị khóa theo lớp ;
- kết nối chủ động;
- tài khoản cá nhân được phát hiện;
- hài lòng ;
- chi phí cho mỗi lần sử dụng hữu ích.
Một sự giảm lưu lượng truy cập đến các công cụ không được phê duyệt là không đủ nếu các nhóm không còn giải pháp nào hoặc phải sử dụng điện thoại của họ.
Một chương trình trong 90 ngày
0–30 ngày
Liệt kê, công bố các quy tắc tạm thời, xử lý dữ liệu nhạy cảm nhất, đề xuất một công cụ cơ bản và mở một kênh hỏi đáp.
31–60 ngày
Phân loại các cách sử dụng, đàm phán các cấu hình, triển khai nhận dạng và cổng giao tiếp, đào tạo các đội ưu tiên và tạo quy trình ngoại lệ.
61–90 ngày
Tích hợp sổ đăng ký, các bộ kết nối, các biện pháp, các tạp chí và quản lý sự cố. Điều chỉnh đề xuất theo nhu cầu thực tế.
Lấy lại quyền kiểm soát thông qua chất lượng dịch vụ
Shadow AI giảm khi con đường được phép trở thành con đường đơn giản nhất cho các mục đích hợp pháp. An ninh vẫn duy trì các cổng mạnh cho dữ liệu và hành động quan trọng, nhưng công ty cũng nhận ra giá trị của các công cụ.
Partitech có thể tiến hành kiểm kê kỹ thuật, xây dựng cổng kết nối, tích hợp SSO, các mô hình, các kiểm soát và giám sát, sau đó triển khai các lộ trình phù hợp với các nhóm. Kết quả mong đợi không phải là một sự cấm đoán lý thuyết, mà là một việc sử dụng có thể quan sát được, được quản lý và thực sự được chấp nhận.
Hãy nói về dự án của bạn
Kiểm tra các ứng dụng AI và triển khai một khung bảo mật và có thể áp dụng với Partitech. Liên hệ Partitech.