Tìm kiếm theo vector giúp tìm các đoạn gần với một câu hỏi. Nó hoạt động tốt đối với thông tin cục bộ có trong một tài liệu. Nó trở nên kém tự nhiên hơn khi cần liên kết nhiều thực thể, đi qua các phụ thuộc hoặc tạo ra một cái nhìn tổng thể về một tập hợp tài liệu. Các phương pháp GraphRAG đề xuất trích xuất hoặc sử dụng một đồ thị tri thức để biểu diễn những mối quan hệ này.
Một đồ thị không tự động là tốt hơn. Việc xây dựng, cập nhật và đánh giá nó có thể tốn nhiều hơn so với chỉ mục vectơ. Quyết định phải xuất phát từ các câu hỏi và cấu trúc dữ liệu.
Ba kiến trúc cần phân biệt
RAG vectơ
Các tài liệu được cắt nhỏ, chuyển đổi thành các embedding rồi được tìm kiếm theo độ gần. Phương pháp này nhanh để tạo nguyên mẫu và phù hợp với các cách diễn đạt câu khác nhau.
Tìm kiếm lai
Hệ thống kết hợp văn bản đầy đủ, vectơ, bộ lọc và sắp xếp lại. Nó quản lý tốt hơn các tham chiếu chính xác, siêu dữ liệu và từ vựng đa dạng.
GraphRAG
Đường ống xử lý xác định thực thể và mối quan hệ, xây dựng các cộng đồng hoặc tóm tắt và sử dụng đồ thị để truy xuất ngữ cảnh cục bộ hoặc toàn cục. Thuật ngữ này bao gồm nhiều kỹ thuật và không nên bị giảm xuống thành một sản phẩm duy nhất.
Các vấn đề địa phương và các vấn đề quan hệ
Một câu hỏi địa phương đặt ra: « thời gian báo trước được ghi trong hợp đồng này là bao lâu? ». Một đoạn trích tốt là đủ.
Một câu hỏi về mối quan hệ đặt ra: « các chi nhánh nào phụ thuộc vào các nhà cung cấp bị ảnh hưởng bởi sự cố này và những hợp đồng nào sắp đến hạn? ». Nó đi qua nhiều thực thể và mối quan hệ.
Một câu hỏi tổng quát đặt ra: « những chủ đề và rủi ro nào cấu trúc toàn bộ phản hồi của khách hàng trong năm? ». Nó đòi hỏi một bản tóm tắt của toàn bộ tập hợp, điều khó đạt được chỉ bằng một vài đoạn trích riêng lẻ.
Đồ thị tri thức hiện có
Khi công ty đã có các định danh, quan hệ và quy tắc trong một cơ sở dữ liệu nghiệp vụ, thường sẽ tốt hơn khi sử dụng đồ thị tường minh này thay vì trích xuất lại nó bằng LLM.
Đồ thị có thể biểu diễn:
- tổ chức ;
- người và vai trò;
- sản phẩm ;
- hợp đồng;
- tài liệu ;
- sự kiện ;
- phụ thuộc;
- phiên bản.
Các đoạn tài liệu được liên kết với các thực thể. Câu trả lời kết hợp các truy vấn có cấu trúc và tìm kiếm văn bản.
GraphRAG trích xuất
Trên một tập dữ liệu không có cấu trúc, một chuỗi xử lý có thể phát hiện các thực thể, mối quan hệ, khẳng định và cộng đồng. Các bản tóm tắt theo thứ bậc cho phép trả lời các câu hỏi tổng quát.
Việc trích xuất này mang tính xác suất. Nó có thể hợp nhất hai thực thể, phát minh ra một mối quan hệ hoặc bỏ lỡ một sắc thái. Mỗi nút và cạnh phải giữ nguồn gốc, độ tin cậy và phiên bản.
Đồ thị được trích xuất không tự động là một nguồn sự thật nghiệp vụ.
Các tiêu chí làm cho đồ thị hữu ích
Quan hệ thiết yếu
Câu trả lời phụ thuộc vào con đường giữa nhiều đối tượng, không chỉ một đường đi tương tự.
Nhận dạng ổn định
Các thực thể có thể được giải quyết và phân biệt mặc dù có các biến thể về tên.
Câu hỏi nhiều bước
Người dùng thường xuyên đặt các câu hỏi cần nhiều bước.
Tầm nhìn toàn diện
Các bản tổng hợp về chủ đề, cộng đồng hoặc phụ thuộc có giá trị thực.
Khả năng giải thích
Hiển thị đường dẫn quan hệ giúp xác nhận câu trả lời.
Chi phí chấp nhận được
Việc lập chỉ mục, cập nhật và quản trị được điều chỉnh phù hợp với giá trị.
Bản đồ liên kết các loại câu hỏi với các kiến trúc RAG vectơ, lai và dựa trên đồ thị.
Chi phí ẩn
Phân giải thực thể
« Partitech », « partITech » và một tên doanh nghiệp có thể đại diện cho cùng một thực thể. Hai người cùng tên không nên được hợp nhất. Việc giải quyết đòi hỏi các quy tắc, mô hình và đôi khi là xác nhận của con người.
Trích xuất các mối quan hệ
Một câu có thể diễn đạt một mối quan hệ tạm thời, giả định hoặc phủ định. Biểu đồ phải giữ nguyên ngữ cảnh, ngày tháng và nguồn.
Xây dựng cộng đồng
Các thuật toán tạo ra các nhóm theo các tham số. Các bản tóm tắt phải được cập nhật khi tập hợp thay đổi.
Lưu trữ và tính toán
Đường ống có thể nhân nhiều lần các cuộc gọi mô hình, nhúng và các thao tác đồ thị. Chi phí ban đầu cao hơn so với một phép lập chỉ mục đơn giản.
Bảo trì
Xóa hoặc chỉnh sửa một tài liệu phải làm vô hiệu các thực thể, mối quan hệ và tóm tắt dẫn xuất.
Kiến trúc lai đồ thị + vector
Đồ thị không loại trừ các vectơ. Một chuỗi có thể:
- xác định các thực thể của câu hỏi;
- duyệt qua các mối quan hệ được phép ;
- lấy lại các tài liệu liên quan;
- tìm các đoạn liên quan;
- bộ xếp lại
- tạo với trích dẫn và đường dẫn.
Ngược lại, một tìm kiếm vector có thể tìm thấy một đoạn văn rồi sử dụng các thực thể của nó để mở rộng ngữ cảnh.
Mô phỏng nguồn gốc
Mỗi khẳng định phải trỏ đến một hoặc nhiều đoạn văn. Các mối quan hệ được trích xuất giữ lại:
- nguồn ;
- vị trí ;
- phiên bản ;
- ngày ;
- phương pháp chiết xuất;
- tin tưởng;
- trạng thái xác nhận.
Câu trả lời phân biệt một mối quan hệ nghiệp vụ đã được xác nhận với một mối quan hệ suy ra.
Áp dụng quyền
Một đồ thị có thể tiết lộ các mối quan hệ nhạy cảm ngay cả khi không hiển thị tài liệu. Quyền truy cập phải được áp dụng cho các nút, cạnh, thuộc tính và liên kết.
Các bản tóm tắt cộng đồng đặc biệt tinh vi: chúng tổng hợp các nguồn có thể có các quyền khác nhau. Chúng phải được tạo theo phạm vi hoặc được lọc theo một chiến lược đã được chứng minh.
Cập nhật từng phần
Một quy trình sản xuất phải xử lý việc thêm, sửa đổi, xóa và hợp nhất các thực thể. Việc tái tạo toàn bộ có thể tốn kém. Các phụ thuộc giữa nguồn, mối quan hệ, cộng đồng và tóm tắt được theo dõi.
Sự tươi mới được đo lường. Một đồ thị cũ có thể tạo ra một câu trả lời mạch lạc nhưng sai.
Đánh giá theo các loại câu hỏi
Trò chơi đánh giá phân loại:
- các câu hỏi địa phương;
- tham chiếu chính xác;
- đa bước
- toàn cầu ;
- tạm thời ;
- tiêu cực ;
- mơ hồ.
So sánh các kiến trúc về chất lượng, trích dẫn, chi phí, độ trễ và độ dễ cập nhật. Một GraphRAG có thể cải thiện các câu hỏi tổng quát trong khi lại không cần thiết cho các tìm kiếm đơn giản.
Giải thích đường đi
Đối với một câu hỏi về mối quan hệ, giao diện có thể hiển thị các thực thể và mối quan hệ được sử dụng, với quyền truy cập vào các nguồn. Giải thích này phải vẫn dễ đọc và không được tiết lộ các dữ liệu bị cấm.
Con đường không phải là bằng chứng đủ nếu các mối quan hệ được suy ra. Tình trạng và nguồn gốc có thể nhìn thấy được.
Bắt đầu với một câu khẩu hiệu mạnh mẽ
Trước khi xây dựng một đồ thị, cải thiện siêu dữ liệu, văn bản đầy đủ, vectơ và xếp hạng lại. Đo lường những câu hỏi vẫn còn thất bại. Nếu chúng chia sẻ một nhu cầu quan hệ hoặc tổng thể, một nguyên mẫu đồ thị trở nên hợp lý.
Một phân tập con rút gọn cho phép ước tính chi phí khai thác, chất lượng của các thực thể và lợi ích thực sự.
Chọn cấu trúc cân đối
Một đồ thị nghiệp vụ rõ ràng rất mạnh khi các mối quan hệ đã được biết. Một GraphRAG được trích xuất hữu ích để khám phá một tập hợp dữ liệu phức tạp, với điều kiện duy trì nguồn gốc và đo lường các lỗi của nó. Một tìm kiếm lai thường vẫn là nền tảng tốt nhất.
Partitech có thể xây dựng đường cơ sở, tích hợp pgvector, mô hình hóa một đồ thị và so sánh kết quả trên một bộ đánh giá. Mục tiêu là sử dụng cấu trúc trả lời các câu hỏi, không phải là thêm một đồ thị chỉ vì hiệu ứng mới mẻ.
Hãy nói về dự án của bạn
Tạo nguyên mẫu và so sánh các kiến trúc tri thức với Partitech. Liên hệ Partitech.