十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

混合检索算法使用示例- 自定义分词器

混合检索算法使用示例- 自定义分词器 classCustomTokenizer(ChineseTokenizer):deftokenize(self,text:str)-List[str]:# 自定义分词逻辑# 例如使用领域词典wordsjieba.lcut(text)return[wforwinwordsifself.is_meaningful(w)]defis_meaningful(self,word:str)-bool:# 判断是否为有意义的词returnlen(word)1andnotword.isdigit()
返回列表