linux给文本繁简转换,linux - 安装OpenCC(简体繁体转换)
最近使用中文維基百科數據訓練Word2Vec時,發現數據里面包含了很多繁體字,這就很尷尬了。這時候就知道OpenCC的強大了。哈哈,本來打算直接使用python里面的opencc模塊的,但是在安裝,編譯opencc時遇到了各種錯誤。花費了很長時間,終于安裝成功,但是文本處理起來效率很低。最終選擇了直接在linux下安裝OpenCC,處理的效率著實安慰了我受傷的心 -- 很快,特別快。
好啦,接下來總結下OpenCC的安裝方法,萬一以后又用到它了呢?主要參考這篇博客:
檢查下linux環境下是否已經安裝cmake以及git,如果沒有,那就通過yum安裝好。
$ yum install cmake
$ yum install git
克隆下OpennCC開源項目OpennCC開源項目。
$ git clone https://github.com/BYVoid/OpenCC
編譯OpenCC
$ cd OpenCC
$ make
$ make install
創建libopencc.so.2鏈接
如果不知道libopencc.so.2的路徑,可以通過find / -name libopencc.so.2查找。
$ ln -s /usr/lib/libopencc.so.2 /usr/lib64/libopencc.so.2
通過查看 OpenCC 版本,檢查OpenCC是否已經安裝成功
$ opencc --version
測試用例
# 繁體轉簡體
$ echo '歐幾里得 西元前三世紀的希臘數學家' | opencc -c t2s
歐幾里得 西元前三世紀的希臘數學家
# 簡體轉繁體
$ echo '歐幾里得 西元前三世紀的希臘數學家' | opencc -c s2t
歐幾里得 西元前三世紀的希臘數學家
# 可以通過以下方式直接對文件進行繁簡轉換
$ opencc -i zhwiki_raw.txt -o zhwiki_t2s.txt -c t2s.json
總結
以上是生活随笔為你收集整理的linux给文本繁简转换,linux - 安装OpenCC(简体繁体转换)的全部內容,希望文章能夠幫你解決所遇到的問題。
                            
                        - 上一篇: PHP能干什么?
 - 下一篇: 运维实操——日志分析系统ELK(中)之l