- Độ tương đồng cosin đo lường sự thẳng hàng theo hướng của hai vectơ bằng cách tính cosin của góc giữa chúng, bỏ qua độ lớn tổng thể của chúng.
- Chỉ số này rất cần thiết cho trí tuệ nhân tạo hiện đại, cho phép tìm kiếm ngữ nghĩa, hệ thống đề xuất cá nhân hóa và xử lý các embedding đa chiều.
- Trong khi phương pháp tương đồng cosine tiêu chuẩn coi các đặc trưng là độc lập, các phiên bản nâng cao như Soft Cosine tích hợp các mối quan hệ giữa các đặc trưng để cải thiện độ chính xác.
Bạn đã bao giờ tự hỏi làm thế nào Spotify dường như biết chính xác bài hát nào sẽ làm bạn hài lòng, hay làm thế nào Google hiểu được ý nghĩa cụ thể của truy vấn tìm kiếm ngay cả khi bạn không sử dụng chính xác các từ khóa? Phần lớn điều kỳ diệu diễn ra đằng sau hậu trường bằng cách sử dụng các vector nhúng . Thay vì coi từ ngữ hoặc mục là văn bản đơn giản, AI biến đổi chúng thành các điểm trong một không gian đa chiều khổng lồ, và đó là nơi khái niệm về độ tương đồng cosine phát huy tác dụng để giải thích tất cả.
Về cơ bản, thủ thuật toán học này cho phép máy tính xác định mức độ "gần gũi" giữa hai đối tượng bằng cách xem xét góc giữa các vectơ của chúng . Nó không quan tâm đến việc một vectơ dài hơn vectơ kia nhiều hay ít; nó chỉ quan tâm đến việc chúng có cùng hướng chung hay không. Đây là một bước đột phá hoàn toàn đối với Xử lý ngôn ngữ tự nhiên (NLP) và các công cụ đề xuất vì nó tập trung vào ý nghĩa ngữ nghĩa hơn là chỉ đơn thuần so khớp các ký tự.
Những yếu tố cơ bản của phép tính
Để hiểu cách thức hoạt động này, bạn cần biết rằng mọi dữ liệu—cho dù là một từ hay một bộ phim—đều được biểu diễn dưới dạng một vectơ, trong đó mỗi chiều là một thuộc tính cụ thể. Để tìm ra sự tương đồng, chúng ta thực hiện một vài bước cụ thể. Đầu tiên, chúng ta tính tích vô hướng , bằng cách nhân các giá trị tương ứng từ cả hai vectơ và cộng chúng lại để xem chúng giống nhau đến mức nào. Tiếp theo, chúng ta tính độ lớn (hoặc chiều dài) của mỗi vectơ bằng cách lấy căn bậc hai của tổng bình phương các thành phần của nó.
Bước cuối cùng là công thức độ tương đồng cosin thực tế : bạn lấy tích vô hướng đó và chia cho tích của hai độ lớn. Về mặt toán học, nó có dạng Độ tương đồng Cosin = (A · B) / (||A|| × ||B||) . Kết quả là một điểm số thường nằm trong khoảng từ -1 đến 1. Điểm số 1 có nghĩa là các vectơ hoàn toàn thẳng hàng , 0 có nghĩa là chúng vuông góc (hoàn toàn không liên quan), và -1 có nghĩa là chúng đối lập hoàn toàn.
Đặt vấn đề vào đúng bối cảnh: Vua, Hoàng hậu và Táo
Hãy cụ thể hóa điều này. Hãy tưởng tượng một mô hình LLM xử lý các từ “vua” và “nữ hoàng”. Vì những thuật ngữ này thường xuất hiện gần các từ như “ngai vàng” hoặc “chế độ quân chủ”, nên các vectơ nhúng của chúng sẽ hướng gần như cùng một hướng, dẫn đến điểm số tương đồng cosine cao . Bây giờ, hãy thêm từ “táo” vào. Ngay cả khi nó nằm trong cùng một tài liệu, nhưng nó lại xuất hiện cùng với các thuật ngữ như “trái cây” hoặc “vườn cây ăn quả”, vì vậy vectơ của nó sẽ hướng theo một hướng hoàn toàn khác, dẫn đến điểm số tương đồng thấp hơn nhiều.
Để mọi thứ diễn ra nhanh chóng, các công ty không chỉ tính toán ngay lập tức cho từng mặt hàng riêng lẻ. Họ sử dụng cơ sở dữ liệu vector . Những công cụ chuyên dụng này được xây dựng để lập chỉ mục các vector đa chiều, cho phép truy xuất cực nhanh các kết quả phù hợp nhất mà không cần phải quét toàn bộ tập dữ liệu theo cách thủ công.
Vượt xa những kiến thức cơ bản: Hàm Cosine mềm và các chỉ số đo lường khác
Độ tương đồng cosine tiêu chuẩn có một nhược điểm: nó giả định rằng mọi chiều đều độc lập. Tuy nhiên, trong thực tế, các từ như "chơi" và "trò chơi" thuộc các chiều khác nhau nhưng có liên quan về mặt ngữ nghĩa . Đây là lúc Độ tương đồng Cosine mềm phát huy tác dụng. Nó giới thiệu một ma trận tương đồng (thường sử dụng khoảng cách Levenshtein hoặc WordNet) để tính đến mối quan hệ giữa các đặc điểm, cho phép mô hình khái quát hóa các khái niệm hiệu quả hơn, ngay cả khi các đặc điểm hình thức khác nhau.
Cũng nên so sánh điều này với các thước đo phổ biến khác. Ví dụ, khoảng cách Euclidean (L2) đo khoảng cách đường thẳng giữa hai điểm, rất tốt để đánh giá sự gần gũi trong không gian. Khoảng cách Manhattan (L1) tính toán khoảng cách theo một đường dẫn dạng lưới. Trong khi các thước đo này đo khoảng cách tuyệt đối , độ tương đồng cosine chỉ tập trung vào hướng . Ngoài ra còn có độ tương đồng tích vô hướng , xem xét cả góc và độ lớn. Nếu bạn chuẩn hóa các vectơ về độ dài đơn vị, tích vô hướng và độ tương đồng cosine về cơ bản trở thành giống nhau, nhưng tích vô hướng có chi phí tính toán thấp hơn.
Ứng dụng thực tiễn trong dữ liệu đồ thị và tìm kiếm
Trong thế giới cơ sở dữ liệu đồ thị như Amazon Neptune và các hệ thống đồ thị khác , độ tương đồng cosine được sử dụng để tìm sự gắn kết giữa các nhóm hoặc xác định người dùng tương tự. Ví dụ, nếu bạn có một đồ thị về con người và các món ăn yêu thích của họ, bạn có thể biểu diễn sở thích của họ dưới dạng các vectơ điểm số. Bằng cách áp dụng thuật toán độ tương đồng cosine , bạn có thể xếp hạng những người dùng có sở thích tương tự nhất, bất kể một người đánh giá nhiều nhà hàng hơn người khác hay không.
Các công cụ tìm kiếm hiện đại cũng đang dần chuyển từ tìm kiếm thuần túy từ vựng (như Ctrl+F) sang tìm kiếm vector . Mặc dù tìm kiếm từ vựng rất tốt cho việc phân tách từ, nhưng nó lại bỏ sót ý nghĩa cốt lõi của văn bản. Tìm kiếm vector nắm bắt được ý định tiềm ẩn . Trong các hệ thống như Elasticsearch, điều này được thực hiện bằng cách chuyển đổi các truy vấn thành các embedding và tìm các láng giềng gần nhất bằng cách sử dụng các chỉ số mà chúng ta đã thảo luận, thường chuyển đổi phạm vi từ -1 đến 1 thành điểm số dương để xếp hạng tốt hơn.
Cho dù bạn đang xây dựng hệ thống đề xuất phim hay một tác nhân AI phức tạp, việc lựa chọn thước đo độ tương đồng phù hợp phụ thuộc vào việc độ lớn của vectơ có mang ý nghĩa hay không. Nếu bạn chỉ quan tâm đến “chủ đề” hoặc “hướng” của dữ liệu, độ tương đồng cosine là lựa chọn tốt nhất. Đối với những người cần khoảng cách không gian thô, khoảng cách Euclidean là phương pháp phù hợp. Bằng cách kết hợp các công cụ toán học này với các thuật toán lập chỉ mục hiệu quả , chúng ta có thể biến dữ liệu phi cấu trúc thành một bản đồ có tổ chức, có thể tìm kiếm được về ý nghĩa của con người.
