Khi một trường hợp sử dụng AI được xác nhận, doanh nghiệp cần chọn một lộ trình. Giải pháp SaaS hứa hẹn khởi chạy nhanh. Một nền tảng có thể cấu hình cung cấp nhiều quyền kiểm soát hơn. Phát triển tùy chỉnh cho phép tích hợp chính xác dữ liệu, quyền và quy trình. Thực tế, câu trả lời tốt nhất thường là kết hợp: sử dụng các mô hình và thành phần hiện có đồng thời xây dựng lớp nghiệp vụ làm nên sự khác biệt của tổ chức.
Quyết định không nên được đưa ra dựa trên một bản trình diễn hoặc danh sách các tính năng. Nó phải so sánh giá trị, rủi ro, tổng chi phí và khả năng mở rộng.
Xác định những gì cần phải khác biệt
Một tính năng chung như tóm tắt văn bản hoặc phiên âm âm thanh không nhất thiết biện minh cho việc phát triển toàn diện. Ngược lại, một trợ lý hiểu các quy tắc riêng, tái hiện các quyền phức tạp và hoạt động trong nhiều ứng dụng có thể trở thành một năng lực chiến lược.
Cần phân biệt:
- khả năng tổng quát của mô hình;
- dữ liệu và bối cảnh của doanh nghiệp ;
- quy trình công việc chuyên môn ;
- tích hợp ;
- kiểm soát và chính sách;
- trải nghiệm người dùng ;
- khai thác và đánh giá.
Càng nhiều giá trị tập trung vào các lớp cuối cùng, doanh nghiệp càng phải giữ quyền kiểm soát.
Bốn lựa chọn, không phải hai
SaaS sẵn sàng để sử dụng
Sản phẩm đáp ứng nhu cầu tiêu chuẩn với giao diện, tích hợp và vận hành được quản lý. Thời gian ngắn và chi phí ban đầu thấp. Việc tùy chỉnh, tính minh bạch và khả năng di động có thể bị hạn chế.
Nền tảng có thể cấu hình
Một nền tảng cung cấp các mô hình, RAG, tác nhân, bảo mật và khả năng quan sát, sau đó cho phép cấu hình các nguồn và quy trình công việc. Nó tăng tốc công nghiệp hóa, nhưng có thể tạo ra sự phụ thuộc sâu vào mô hình dữ liệu và các kết nối của nó.
Phát triển tùy chỉnh
Tổ chức thiết kế sự điều phối, trải nghiệm, tích hợp, đánh giá và chính sách, đồng thời thường sử dụng các mô hình bên ngoài hoặc mở. Nó kiểm soát quỹ đạo, nhưng đảm nhận nhiều hơn về kỹ thuật và vận hành.
Kiến trúc lai
Một giải pháp thị trường có thể cung cấp một khả năng tổng quát, trong khi một lớp bên trong quản lý danh tính, dữ liệu, quy tắc và khả năng đảo ngược. Đây thường là sự thỏa hiệp thực tế nhất.
Mười hai tiêu chí quyết định
1. Phân biệt nghề nghiệp
Quy trình này có phổ biến trên thị trường hay là một lợi thế riêng biệt?
2. Dữ liệu
Các nguồn có phải là tiêu chuẩn, nhạy cảm, phân tán hay chịu các quyền hạn tinh vi không?
3. Tích hợp
Một kết nối nông có đủ hay cần phải điều phối các giao dịch, lỗi và phục hồi?
4. Thời hạn
Ngày nào tạo ra giá trị thực sự, chứ không chỉ là một bản thử nghiệm?
5. Chất lượng
Sản phẩm có cho phép kiểm tra các trường hợp thực tế, điều chỉnh hành vi và lưu giữ bằng chứng không?
6. Chủ quyền
Dữ liệu đi đâu, ai chọn mô hình và những phụ thuộc nào được chấp nhận?
7. An toàn
Việc nhận dạng, quyền hạn, kiểm toán và giới hạn có thể được áp dụng theo các chính sách nội bộ không?
8. Khai thác
Ai giám sát, xử lý các sự cố, cập nhật và trả lời người dùng?
9. Âm lượng
Mô hình kinh tế có phù hợp với các đỉnh điểm, các công việc dài và sự tăng trưởng không?
10. Tiến hóa
Chúng ta có thể thay đổi mô hình, prompt, nguồn hoặc quy trình làm việc mà không phải đợi trình chỉnh sửa không?
11. Kỹ năng
Doanh nghiệp hoặc đối tác của họ có thể chịu trách nhiệm về sản phẩm, dữ liệu, phát triển và bảo mật không?
12. Tính có thể đảo ngược
Các cuộc trò chuyện, mục lục, đánh giá, cài đặt và dữ liệu có thể được xuất và tái sử dụng không?
Các lớp tổng quát của một trợ lý AI được phân biệt với dữ liệu, quy trình và các kiểm soát khác biệt.
Đánh giá một giải pháp trên thị trường
Một bản trình diễn phải được thay thế bằng một phiên bản thử nghiệm trên dữ liệu và người dùng thực, trong phạm vi được phép. Việc đánh giá bao gồm:
- chất lượng trên một bộ trường hợp;
- quyền;
- trích dẫn và khả năng truy xuất;
- độ trễ ;
- chi phí;
- quản trị ;
- tích hợp ;
- xuất ;
- hành vi sai sót;
- hỗ trợ.
Tài liệu hợp đồng xác nhận việc giữ lại, đào tạo, nhà thầu phụ, khu vực, khả năng sẵn sàng và thông báo thay đổi.
Xác định khóa nhà cung cấp
Khóa không chỉ là một API độc quyền. Nó có thể đến từ một định dạng kiến thức, một studio quy trình làm việc, một bộ nhớ cuộc trò chuyện, các trình kết nối hoặc các đánh giá không thể xuất ra.
Đối với mỗi lớp, hỏi:
- định dạng đầu ra ;
- các định danh ổn định ;
- hợp đồng API ;
- hạn ngạch ;
- thủ tục di cư;
- chi phí xuất cảnh;
- hành vi sau khi chấm dứt.
Một lớp thích ứng nội bộ có thể bảo vệ các giao diện quan trọng, mà không cố gắng che giấu tất cả các khác biệt giữa các sản phẩm.
Tính tổng chi phí
Chi phí của một giải pháp mua sẵn
Giấy phép, tiêu thụ, kết nối, môi trường, hỗ trợ cao cấp, lưu trữ, vượt mức và tích hợp.
Chi phí theo yêu cầu
Định hướng, trải nghiệm người dùng, phát triển, bảo mật, kiểm thử, hạ tầng, mô hình, khả năng quan sát, bảo trì và trực gác khi cần thiết.
Chi phí chung
Chuẩn bị dữ liệu, quản lý thay đổi, xác thực con người, quản trị, đánh giá và hỗ trợ người dùng. Chúng tồn tại bất kể lựa chọn nào và thường bị đánh giá thấp.
TCO phải được tính trên nhiều kịch bản sử dụng và trong ba năm, với chi phí thay đổi.
May đo không có nghĩa là xây dựng lại tất cả
Một dự án cụ thể thường sử dụng các thành phần có sẵn: mô hình, cơ sở dữ liệu vector, framework, lưu trữ, định danh hoặc giám sát. Giá trị của phát triển nằm ở việc kết hợp, nghiệp vụ, chính sách và trải nghiệm.
Cần tránh tái tạo một chức năng chuẩn đã trưởng thành. Kiến trúc xác định ranh giới giữa các thành phần mua ngoài và tài sản nội bộ.
SaaS không có nghĩa là không tích hợp
Ngay cả một giải pháp sẵn sàng cũng phải nhận dữ liệu đúng, tôn trọng quyền và hòa nhập vào quy trình. Các bộ kết nối chung hiếm khi bao phủ các ngoại lệ, việc phục hồi và khả năng truy xuất mà một ứng dụng quan trọng yêu cầu.
Nhóm phải dự kiến hỗ trợ, các tài khoản, cấu hình, kiểm tra bảo mật và thay đổi phiên bản.
Thiết kế một kiến trúc lai
Một phương pháp điển hình có thể kết hợp:
- các mô hình có thể truy cập qua API hoặc tự lưu trữ;
- cầu nối nội bộ cho định tuyến và chính sách ;
- pipeline dữ liệu được kiểm soát;
- RAG và quyền hạn riêng;
- giao diện tích hợp trong phần mềm nghiệp vụ;
- khả năng quan sát và đánh giá nội bộ.
Doanh nghiệp lưu giữ dữ liệu, các bài kiểm tra và các quyết định, đồng thời hưởng lợi từ sự đổi mới của các nhà cung cấp mô hình.
Kiểm tra khả năng phát triển
Người phi công phải bao gồm một thay đổi tự nguyện: thay thế mô hình, sửa đổi một nguồn, thêm một quy tắc hoặc xuất dữ liệu. Bài tập này tiết lộ sự cứng nhắc trước khi cam kết.
Hiệu suất được so sánh trên cùng một bộ dữ liệu, với các chỉ số giống nhau. Kết quả được ghi chép lại, không chỉ được quan sát trong một cuộc họp.
Tổ chức trách nhiệm
Một sản phẩm được mua vẫn có một chủ sở hữu nội bộ. Người này quản lý việc sử dụng, quyền lợi, ngân sách, sự cố và quan hệ với nhà cung cấp. Một phát triển tùy chỉnh yêu cầu một đội ngũ hoặc một đối tác chịu trách nhiệm về vòng đời.
Quyết định phải nêu rõ ai chịu trách nhiệm cho từng lớp, kể cả sau khi ra mắt.
Chọn một quỹ đạo có thể đảo ngược
Một phiên bản đầu tiên có thể sử dụng SaaS để xác nhận việc áp dụng, sau đó trích xuất một lớp nghiệp vụ. Ngược lại, một nền tảng nội bộ có thể tích hợp một sản phẩm chuyên dụng. Lộ trình cần bảo vệ dữ liệu, đánh giá và hợp đồng hữu ích.
Lựa chọn đúng là lựa chọn mang lại giá trị với mức độ kiểm soát tương xứng và khả năng đầu ra có thể.
Partitech có thể tiến hành đánh giá so sánh, xây dựng nguyên mẫu so sánh, thiết kế kiến trúc lai và phát triển các tầng nghiệp vụ. Mục tiêu là đầu tư vào những nơi mà công ty tạo ra sự khác biệt và mua những gì có thể giữ nguyên tiêu chuẩn mà không tạo ra sự phụ thuộc quá mức.
Hãy nói về dự án của bạn
Đảm bảo chiến lược xây dựng, mua hay kết hợp của bạn phù hợp với Partitech. Liên hệ Partitech.