中文自然語言處理百萬級語料庫-ChineseSemanticKB免費下載
文章推薦指數: 80 %
中文自然語言處理百萬級語料庫-ChineseSemanticKB免費下載. 2020-08-09 深度學習與NLP. ChineseSemanticKB,chinese semantic knowledge base, 面向中文處理的12類、百 ...
人人焦點
影視
健康
歷史
數碼
遊戲
美食
時尚
旅遊
運動
星座
情感
動漫
科學
寵物
家居
文化
教育
故事
中文自然語言處理百萬級語料庫-ChineseSemanticKB免費下載
2020-08-09深度學習與NLP
ChineseSemanticKB,chinesesemanticknowledgebase,面向中文處理的12類、百萬規模的語義常用詞典,包括34萬抽象語義庫、34萬反義語義庫、43萬同義語義庫等,可支持句子擴展、轉寫、事件抽象與泛化等多種應用場景。
資源整理自網絡,源地址:https://github.com/liuhuanyong/ChineseSemanticKB本語料庫免費下載地址:個人主頁「私信」,回復關鍵字「nbase」獲取下載地址。
項目介紹語義知識庫是自然語言處理中十分重要的一個基礎資源,與學術界追求算法模型不同,工業界的自然語言處理對於底層的詞彙知識庫、語義知識庫等多種資源依賴度很高,具體體現在:1、具有落地場景的自然語言處理任務都是業務高度相關,一個業務需求剛進去,需要解決的是業務的詞彙問題,無基礎詞庫,無項目冷啓動;2、規則和正則啓動下的工業級應用,規則的擴展、泛化都需要底層的詞彙網絡做支撐;3、目前包括搜索、問答、輿情監控、事件分析等應用,與標籤體系的運作關係密切,而這與先驗的底層詞彙庫依賴性很強;4、自然語言場景越來越關注推理層面,即所謂的「認知」層面,認知背後的各種邏輯關係庫,是驅動這一決策的根本途徑;5、當前,面向中文開源詞庫的工作存在少量、分散的狀態,無論從規模,還是質量,都需要進一步聚合;因此,我從過往的開源工作中進一步抽離和整理,形成了中文處理的12類、百萬規模的語義常用詞典,包括34萬抽象語義庫、34萬反義語義庫、43萬同義語義庫等,用於相關下游任務。
項目放於dict當中,可直接下載,不建議二次建庫共享,尊重開源。
詞庫的類別總結1、本項目開源了一個目前可用於事件處理以及工業輿情的12類語義詞庫,總規模數目一百餘萬;2、本項目開源的34萬抽象語義庫、34萬反義語義庫、43萬同義語義庫,在作者的實際工作中【事件處理、事理抽取、事件推理】等有重要用途;3、中文常用語義常用詞典,均來源於公開文本+人工整理+機器抽取形成,其中若有質量不高之處,可積極批評指正;4、中文開源事業還是要堅持做下去,儘可能地縮短自然語言處理學術界和工業界之間的鴻溝。
本資源免費下載地址個人主頁「私信」,回復關鍵字「nbase」獲取下載地址。
往期精品內容推薦個人主頁點擊「私信」,回復關鍵字「his」獲取文章地址。
深度學習通信領域相關經典論文、數據集整理分享邱錫鵬DL經典教材-《神經網絡與深度學習》免費pdf及ppt分享肖桐、朱靖波老師新著-《機器翻譯統計建模與深度學習方法》中文版書籍分享李宏毅-《深度學習/機器學習2020》中文視頻課程及ppt分享機器學習精髓-機器學習百頁書-最新版下載12月機器學習新書-《可解釋機器學習局限性》最新版下載學術論文寫作精典-《如何撰寫優秀科研論文》書籍分享歷史最全-130本科技網際網路類免費書籍整理-匯總分享元學習(MetaLearning)最全論文、視頻、書籍資源整理吳恩達新課-《CS230-深度學習基礎-2019年春》課程視頻分享
相關焦點
劉知遠老師7月新書-《自然語言處理表示學習》免費書分享
,才能實現各種自然語言處理應用。
以深度學習爲代表的表示學習技術,能夠靈活地建立對大規模文本、音頻、圖像、視頻等無結構數據的語義表示,顯著提升語音識別、圖像處理和自然語言處理的性能,近年來引發了人工智慧的新浪潮。
本書是第一本完整介紹自然語言處理表示學習技術的著作。
書中全面介紹了表示學習技術在自然語言處理領域的最新進展,對相關理論、方法和應用進行了深入介紹,並展望了未來的重要研究方向。
中文自然語言處理雲平台訊飛語言云
2014年11月28日,由科大訊飛和哈爾濱工業大學聯合推出的全球首個中文自然語言處理雲服務平台「哈工大訊飛語言云」正式發布。
作爲科大訊飛現有智能語音交互技術服務平台--「訊飛語音雲」的重要拓展,該「語言云」將與「語音雲」一起爲廣大網際網路及移動網際網路的開發者提供從語音到語言的全面的、頂級的、一站式的核心技術服務支撐。
自然語言處理的經驗主義和理性主義
傑里內克的這些話,把基於規則的自然語言處理研究貶低到了一無是處的程度,把從事基於規則的自然語言處理研究的人,貶低到了一文不值的程度,對於基於規則的自然語言處理,採取嗤之以鼻的態度。
哲學中的這種經驗主義深刻地影響到自然語言處理中基於統計的經驗主義方法,它是自然語言處理中經驗主義方法的哲學基礎。
在自然語言處理中,除了基於統計的經驗主義方法之外,還同時存在著基於規則的理性主義方法。
自然語言處理中的理性主義來源於哲學中的理性主義。
機器學習經典-《深入理解機器學習-從理論到算法》免費pdf
本書最新免費pdf下載地址:個人主頁「私信」,回復關鍵字「mljd」獲取下載地址。
在介紹了基礎知識之後,該書涵蓋了以前教科書未涉及的各種中心主題。
pdf下載地址個人主頁「私信」,回復關鍵字「mljd」獲取下載地址。
自然語言處理有哪些可以推薦的書?
,並具有可以有效處理語言的工具。
所謂「自然語言」,是指人們日常交流使用的語言,如英語、印地語、葡萄牙語等。
相對於程式語言和數學符號這樣的人工語言,自然語言隨著一代代的傳遞而不斷演化,因而很難用明確的規則來確定。
一批重要線上英語資源:詞典、搜尋引擎、語料庫、術語庫
/language_tips/index.htmliWeb語料庫 https://corpus.byu.edu/iweb/(可以查詢單詞常用度)COCA語料庫 https://corpus.byu.edu/coca/(可以查詢單詞常用度)中國特色話語對外翻譯標準化術語庫http://210.72.20.108/index/index.jsp
從《統計自然語言處理》序言看NLP領域發展史(馮志偉)
《統計自然語言處理》一書,彌補了我國自然語言處理教材的這個缺陷,起了填補空白的作用。
這本書納入《中文信息處理叢書》並由清華大學出版社出版,這是我國自然語言處理教材建設的一件值得慶幸的好事。
隨著語料庫的出現,使用統計方法從語料庫中自動地獲取語言知識,成爲了自然語言處理研究的一個重要方面。
20世紀60年代,統計方法在語音識別算法的研製中取得成功。
自然語言處理的應用前景
自然語言處理(NLP)的定義 自然語言處理(NLP)是人工智慧技術的一個分支,它使計算機能夠像人們一樣理解、處理和生成語言,並且在商業中的應用正在迅速增長。
雖然自然語言處理(NLP)這一術語最初指的是人工智慧系統的閱讀能力,但它後來成爲所有計算語言學的一種通俗說法。
搜狗"字根嵌入"或成中文自然語言處理新突破
中文自然語言處理作爲深度學習相關領域面臨的挑戰之一,較難有技術上的突破。
而近日,國內知名搜尋引擎搜狗搜索提出的新思路,或將推動機器對中文語言的理解更進一步。
論文首次提出了基於字根的中文自然語言處理的深度學習技術,對中文自然語言處理以及未來深度學習理念的發展具有積極意義。
深度學習的基礎在於對自然語言的分析,而中文自然語言處理之所以較爲困難,主要原因在於,中文在文本和對話等各個層次上會存在歧義或者多義,同一個字、詞在不同語境中的含義千差萬別,不同斷句方法讓句子表意差異懸殊等各種問題,讓中文自然語言處理成爲行業挑戰。
BERT詳解:開創性自然語言處理框架的全面指南
這就是自然語言處理領域工作者所面對的現實(和挑戰)!過去兩年取得的突破令人驚嘆,接連出現出現各種新框架,可能比目前掌握的框架還要好。
谷歌BERT就是這樣一個自然語言處理框架。
這可能是近幾年最有影響力的一次革新。
可以毫不誇張地說,BERT已經對自然語言處理進行了顯著的變革。
比如使用一個在大型無標號數據集上訓練的模型,在11個獨立的自然語言處理任務中取得佳績。
CCFNLPCC2018自然語言處理與中文計算國際會議
CCF自然語言處理與中文計算國際會議(NLPCC)是由中國計算機學會主辦的中文信息技術專業委員會年度學術會議,是專注於自然語言處理及中文計算領域的國際會議。
去年,第六屆自然語言處理及中文計算大會(NLPCC2017)在大連成功舉辦。
爲此,雷鋒網(公衆號:雷鋒網)AI科技評論曾採訪 CCF中文信息技術專委會主任、微軟亞洲研究院副院長周明博士及CCF中文信息技術專委會祕書長、北京大學趙東岩研究員,了解了中國NLP研究及NLPCC大會的發展歷程及未來規劃。
人工智慧語料庫技術是什麼?來看科普!
作爲人工智慧重要相關學科,自然語言處理技術(NLP)是研究人與計算機交互的語言問題的一門學科,只有當計算機具備了自然語言的處理能力,才可稱其爲真正的人工智慧。
20世紀90年代以來,中國的自然語言處理技術進入快速發展時期,一系列商品化的系統推向市場,新的研究內容、新的應用領域也在不斷探索中。
ChineseWordVectors:目前最全的中文預訓練詞向量集合
對於國內自然語言處理的研究者而言,中文詞向量語料庫是需求很大的資源。
近日,來自北京師範大學和人民大學的研究者開源了「中文詞向量語料庫」,試圖爲大家解決這一問題,該庫包含經過數十種用各領域語料(百度百科、維基百科、人民日報1947-2017、知乎、微博、文學、金融、古漢語等)訓練的詞向量,涵蓋各領域,且包含多種訓練設置。
Telegram簡體中文語言包
直接點擊連結更改語言:tg://setlanguage?語言包交流羣組:@yxbjx@translation_zhcncc如果翻譯不對或有異議或未翻譯到的地方,可以在羣組中交流討論,謝謝!如果遇到不能更改語言包,先把Telegram客戶端升級新版,下載→https://t.me/yxbjx/432103-各個語言包:*中文(簡體)-聰聰:tg://setlanguage?lang=zhcncc*中文(簡體)-@zh_CN:tg://setlanguage?
清華大學劉知遠:知識指導的自然語言處理
,闡釋了語言知識和世界知識對於自然語言處理的重要價值。
自然語言處理(NaturalLanguageProcessing,NLP),旨在讓計算機掌握和運用人類語言。
語言作爲一個符號系統,包含多種不同粒度的語言單元。
譬如中文的漢字、詞、短語、句子、文檔、直到文檔互聯構成的全球資訊網,由下而上,粒度不斷加粗。
而自然語言處理的很多任務,都涉及對不同層級的語言單元的語義相關度計算。
例如信息檢索就是給定一個query或者短語,找出哪些文檔和該短語的語義最相關。
自然語言處理領域可用的數據集資源分享
使用最高級版本的Bing搜尋引擎從真實網絡文檔中提取數據集中的答案來源的上下文段落(2016)。
論文SQUAD:此數據集所有文章選自維基百科,數據集的量爲當今其他數據集(例如,WikiQA)的幾十倍之多。
一共有107,785問題,以及配套的536篇文章(2016)。
如何基於NLP(自然語言處理)技術構建應用系統?
自然語言處理(NLP)目前在技術上相對已經比較成熟了,同時在我們的日常生活中,也有很多的應用,通過一些基礎的詞幹提取、詞性標註、句法分析,可以簡單的實現文本糾錯、文章標籤、文章分類等基礎能力外,還能夠實現一些高級應用。
中文醫療領域自然語言處理相關數據集、經典論文資源蒸餾分享
本資源主要整理醫療中文自然語言處理相關的評測數據集、論文等相關資源,分享給大家。
中文醫療領域自然語言處理相關數據集、經典論文資源下載地址:個人主頁「私信」,回復關鍵字「chip2019會議詳情見連結:http://cips-chip.org.cn/evaluation遷移學習是自然語言處理中的重要一環,其主要目的是通過從已學習的相關任務中轉移知識來改進新任務的學習效果,從而提高模型的泛化能力。
本次評測任務的主要目標是針對中文的疾病問答數據,進行病種間的遷移學習。
具體而言,給定來自5個不同病種的問句對,要求判定兩個句子語義是否相同或者相近。
自然語言處理中的語言模型簡介
v/s字嵌入語言模型常常與單詞嵌入混淆。
語言模型的應用語言是NLP的主要組成部分,在很多地方都有使用,比如,情感分析問答總結機器翻譯語音識別生成語言模型有不同的方法來生成語言模型使用N-gramsN-grams(https://en.wikipedia.org/wiki/N-gram)是給定語料庫中N個單詞的序列。
理解神奇的BERT:自然語言處理的遊戲規則改變者?
圖源Unsplash自然語言處理領域中最具突破性的發展是BERT的發布(曾被認爲是自然語言處理領域的ImageNet)。
與傳統的自然語言處理模式相比,BERT層次最高,是具有革命性意義的自然語言處理模式。
延伸文章資訊
- 1CKIP Lab 中文詞知識庫小組
下載軟體與資源 ... CKIP Tagger — 中文斷詞暨實體辨識系統 ... 中文詞向量評估資料集. 下載 · 中文向量表達. 漢語平衡語料庫詞集及詞頻統計.
- 2中文自然語言處理百萬級語料庫-ChineseSemanticKB免費下載
中文自然語言處理百萬級語料庫-ChineseSemanticKB免費下載. 2020-08-09 深度學習與NLP. ChineseSemanticKB,chinese semantic kno...
- 3中文情感分析语料库大全-带下载地址 - DataSense
中文的带有情感标注的语料库比较少, 所以我特地整理了一些公开的语料库, 有些怕丢失, 放到了自己的百度网盘里, 有需要的请自行下载。
- 4中文情感分析語料庫【下載】 - 台部落
中文情感分析語料庫【下載】 ... 說明:譚鬆波收集整理了一個較大規模的酒店評論語料。 ... 數據集3:中文情感挖掘語料-ChnSentiCorp.
- 5中文自然語言處理百萬級語料庫-ChineseSemanticKB免費下載