UTF8編碼和GB2312編碼是有區別的,在sqlplus中導入UTF8編碼的sql腳本就會出現亂碼錯誤,這時就需要將UTF8編碼轉換成GB2312編碼,可是一個個的轉換十分麻煩,下面小編就教你如何在Linux下將UTF8編碼批量轉換成GB2312編碼。
背景
本人在使用oracle的sqlplus批量導入UTF8編碼的sql腳本時,由於不了解如何設置讓sqlplus識別UTF8格式,導致出現亂碼、錯行等錯誤,而使工作無法繼續,在google無果的情況下只好想辦法轉換編碼。
由於文件較多,手動轉換太麻煩,於是想到用腳本批量轉換,幸好網上相關腳本比較多,實現起來唯一的麻煩是UTF8的BOM標記。
內容:
代碼如下:
#!/bin/bash
for loop in `find 。 -type f -name “*.sql” -print`do
echo $loop
mv -f $loop $loop.tmp
dos2unix $loop.tmp
file_check_utf8=‘file_check_utf8.log’
sed -n ‘1l’ $loop.tmp 》$file_check_utf810. if grep ‘^\\357\\273\\277’ $file_check_utf8 》/dev/null 2》&111. then
echo ‘UTF-8 BOM’
sed -n -e ‘1s/^.。。//’ -e ‘w intermediate.txt’ $loop.tmp14. iconv -f UTF-8 -t GB2312 -o $loop intermediate.txt15. rm -rf intermediate.txt
rm -rf $loop.tmp
elif iconv -f UTF-8 -t GB2312 $loop.tmp 》/dev/null 2》&118. then
echo ‘UTF-8’
iconv -f UTF-8 -t GB2312 -o $loop $loop.tmp21. rm -rf $loop.tmp
else
echo ‘ANSI’
mv -f $loop.tmp $loop
fi
rm -rf $file_check_utf8
#模擬unix2dos,要求文本文件最後一行必須有換行符28. sed -n -e ‘s/$/\r/g’ -e ‘w ’$loop.tmp $loop29. mv -f $loop.tmp $loop
done
#!/bin/bash
for loop in `find 。 -type f -name “*.sql” -print`do
echo $loop
mv -f $loop $loop.tmp
dos2unix $loop.tmp
file_check_utf8=‘file_check_utf8.log’
sed -n ‘1l’ $loop.tmp 》$file_check_utf810. if grep ‘^\\357\\273\\277’ $file_check_utf8 》/dev/null 2》&111. then
echo ‘UTF-8 BOM’
sed -n -e ‘1s/^.。。//’ -e ‘w intermediate.txt’ $loop.tmp14. iconv -f UTF-8 -t GB2312 -o $loop intermediate.txt15. rm -rf intermediate.txt
rm -rf $loop.tmp
elif iconv -f UTF-8 -t GB2312 $loop.tmp 》/dev/null 2》&118. then
echo ‘UTF-8’
iconv -f UTF-8 -t GB2312 -o $loop $loop.tmp21. rm -rf $loop.tmp
else
echo ‘ANSI’
mv -f $loop.tmp $loop
fi
rm -rf $file_check_utf8
#模擬unix2dos,要求文本文件最後一行必須有換行符28. sed -n -e ‘s/$/\r/g’ -e ‘w ’$loop.tmp $loop29. mv -f $loop.tmp $loop
done
解釋
1.處理UTF8的BOM,本人沒有找到好的辦法,最後用sed+grep判斷了一下,如果前三個字節是\\357\\273\\277,則文件必定是UTF8,用sed去掉這三個字節再轉換
2.為了避免重復或者遺漏,腳本中用iconv對沒有BOM的文件嘗試轉換了一把,轉換成功說明文件是UTF8,否則說明是ANSI也就是GB2312
3.關於最後的sed命令,那是因為本人的系統上沒有unix2dos命令,所以進行了模擬,目的是為了方便自己在windows下查看和編輯
以上就是Linux下將UTF8編碼批量轉換成GB2312編碼的方法介紹了,轉換後就能解決亂碼等問題,可使用命令鏡像批量轉換,你學會了嗎?