Sklearn cosine_similarity 介于 tfidf 向量和 tfidf 向量数组之间

Question

我正在尝试获取文本与数组中包含的文本之间的余弦相似度。

我一直在研究这段代码：

import numpy as np
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.metrics.pairwise import cosine_similarity

text1 = 'Hola me llamo Luis'
text2 = 'Ayer Juan se compró una casa'
text3 = 'Casiguagua está más gordo que un manatí'
text4 = 'Y encima le huelen los pies'
text5 = 'HOlA ME LLAMO PEPE'

tweets = [text1, text2, text3, text4]

vectorizer = TfidfVectorizer(max_features=10000)
vectorizer.fit(tweets)

text1_vector = vectorizer.transform([text1])
text2_vector = vectorizer.transform([text2])
text3_vector = vectorizer.transform([text3])
text4_vector = vectorizer.transform([text4])
text5_vector = vectorizer.transform([text5])

buffer = []

buffer.append(text1_vector)
buffer.append(text2_vector)
buffer.append(text3_vector)
buffer.append(text4_vector)

similarity = cosine_similarity(text5_vector.reshape(1,-1), buffer)

我的向量类型是：

scipy.sparse.csr.csr_matrix

所以我想我必须将缓冲区传递给 csr_matrix，但我不知道该怎么做。

我也一直在尝试将我的缓冲区初始化为 np.array([]) 对象，但我无法稍后将向量添加到缓冲区。知道我失败了什么吗？

Answer 1

您不能将 sparse rows 附加到 numpy array，您可以使用 vstack 和 [=] 像这样 stack dense numpy arrays 16=]:

buffer = np.vstack([text1_vector.toarray(),
                text2_vector.toarray(),
                text3_vector.toarray(),
                text4_vector.toarray()])

similarity = cosine_similarity(text5_vector.toarray(), buffer)

Sklearn cosine_similarity 介于 tfidf 向量和 tfidf 向量数组之间

Sklearn cosine_similarity between a tfidf vector and an array of tfidf vectors

python

numpy

scikit-learn

sklearn-pandas