Tôi nên diễn giải thông số "kích thước" trong hàm Doc2Vec của gensim như thế nào?

Question

Tôi đang sử dụng chức năng Doc2Vec của gensim bằng Python để chuyển đổi tài liệu sang vectơ.

Một ví dụ về việc sử dụng

model = Doc2Vec(documents, size=100, window=8, min_count=5, workers=4)

Làm thế nào tôi nên giải thích các tham số size. Tôi biết rằng nếu tôi đặt size = 100, độ dài của vector đầu ra sẽ là 100, nhưng nó có nghĩa là gì? Ví dụ: nếu tôi tăng size lên 200, điểm khác biệt là gì?

Answer 1

Sự khác biệt là chi tiết mà mô hình có thể chụp. Nói chung, các kích thước bạn cung cấp cho Word2Vec, mô hình càng tốt - đến một điểm nhất định.

Thông thường kích thước nằm trong khoảng từ 100-300. Bạn luôn phải cân nhắc rằng nhiều kích thước hơn cũng có nghĩa là cần nhiều bộ nhớ hơn.

Answer 2

Word2Vec chụp đại diện phân phối của một từ mà về cơ bản có nghĩa là, nhiều tế bào thần kinh chụp một khái niệm đơn (khái niệm có thể từ ý nghĩa/tình cảm/phần ngôn luận vv), và cũng một neuron đơn nào chiếm nhiều khái niệm .

Các khái niệm này được tự động học và không được xác định trước, do đó bạn có thể nghĩ chúng là ẩn/ẩn. Cũng vì lý do tương tự, các vectơ từ có thể được sử dụng cho nhiều ứng dụng.

Thông tin kích thước khác là khả năng của mạng thần kinh của bạn đại diện cho các khái niệm này, nhưng sẽ cần nhiều dữ liệu hơn để đào tạo các vectơ này (vì chúng được khởi tạo ngẫu nhiên). Trong trường hợp không có đủ số câu/sức mạnh tính toán, tốt hơn là giữ cho số size nhỏ.

Doc2Vec theo cấu trúc mạng nơron hơi khác so với Word2Vec, nhưng ý nghĩa của size là tương tự.