發布時間: 2017-09-29 17:19:14
字符集(Character set):是一個系統支持的所有抽象字符的集合。字符是各種文字和符號的總稱,包括各國家文字、標點符號、圖形符號、數字等。常見的字符集有ASCII,ZHS16GB231280,ZHS16GBK等。
字符編碼(Character Encoding):是一套法則,使用該法則能夠對自然語言的字符的一個集合(如字母表或音節表),與其它的一個集合(如電腦編碼)進行配對。即在符號集合與數字系統之間建立對應關系。與字符集相對應,常見的字符編碼有:ASCii,ZHS16GBK,ZHT16BIG5,ZHS32GB18030等。
字符集的定義其實就是字符的集合,而字符編碼則是指怎么將這些字符變成字節用于保存、讀取和傳輸。
萬國碼(Unicode):包含了幾乎人類所有可用的字符,每年還在不斷的增加,可以看作是一種通用的字符集。它將全世界所有的字符統一化,統一編碼,不會再出現字符不兼容和字符轉換的問題。
它有以下三種編碼方式:
1.UTF-32編碼:固定使用4個字節來表示一個字符,存在空間利用效率的問題。
2.UTF-16編碼:對相對常用的60000余個字符使用兩個字節進行編碼,其余的使用4字節。
3.UTF- 8編碼:兼容ASCII編碼;拉丁文、希臘文等使用兩個字節;包括漢字在內的其它常用字符使用三個字節;剩下的極少使用的字符使用四個字節。
在搞懂Oracle字符集基本原理之前,一定要先分清以下三個概念:
1. Oracle數據庫服務器字符集:即Oracle以哪種字符編碼存儲字符,可以通過以下語句查出數據庫字符集的設置。
復制代碼 代碼如下:
SQL> select * from v$nls_parameters where parameter='NLS_CHARACTERSET';
PARAMETER VALUE
------------------------------ -----------------
NLS_CHARACTERSET AL32UTF8
2. 客戶端操作系統字符集:即客戶端操作系統以哪種字符編碼存儲字符。
如果是Windows,可以使用chcp命令獲得代碼頁(code page):
復制代碼 代碼如下:
C:\Users\xianzhu>chcp
Active code page: 936
根據該代碼頁,到微軟的官方文檔《National Language Support (NLS) API Reference》找到其對應的字符集。
如果是Linux,字符集在/etc/sysconfig/i18n設置:
復制代碼 代碼如下:
LANG="zh_CN.GB2312" (指定當前操作系統的字符集)
SUPPORTED="zh_CN.GB2312"(指定當前操作系統支持的字符集)
SYSFONT="lat0-sun16"(指定當前操作系統的字體)
3. 客戶端NLS_LANG參數:該參數用于向Oracle指示客戶端操作系統的字符集。
有了以上3個基本概念之后,我來闡述一下Oracle字符集轉換的基本原則:
1.設置客戶端的NLS_LANG為客戶端操作系統的字符集
2.如果數據庫字符集等于NLS_LANG,數據庫和客戶端傳輸字符時不作任何轉換
3.如果它們倆不等,則需要在不同字符集間轉換,只有客戶端操作系統字符集是數據庫字符集子集的基礎上才能正確轉換,否則會出現亂碼。
幾種常見情況分析
下面先看一個例子,再透過現象看本質,我們會針對這個例子進行分析。
該例子如下:
復制代碼 代碼如下:
1. 數據庫字符集為Unicode(UTF-8編碼)
我們的數據庫版本是10.2.0.4.0,數據庫字符集是:
SQL> select * from v$nls_parameters where parameter='NLS_CHARACTERSET';
PARAMETER VALUE
---------------------------------------- ------------------------------
NLS_CHARACTERSET AL32UTF8
2. 客戶端操作系統字符集為代碼頁936(字符集為ZHS16GBK)
可以使用chcp獲得windows的代碼頁(code page)
C:\Documents and Settings\a105024\Desktop>chcp
Active code page: 936
3. 創建測試表
SQL> create table test(id number,var varchar2(30));
Table created.
4. 插入數據
這里在同一個操作系統啟動兩個session,session1的NLS_LANG設為和數據庫字符集一樣(即AL32UTF8):
C:\Documents and Settings\a105024\Desktop>set nls_lang=Simplified Chinese_China.AL32UTF8
連接數據庫并插入一條數據:
Session_1>insert into test values(1,'中國');
1 row created.
Session_1>commit;
Commit complete.
session2的NLS_LANG設為和客戶端操作系統一樣(即ZHS16GBK):
C:\Documents and Settings\a105024\Desktop>set nls_lang=Simplified Chinese_China.ZHS16GBK
連接數據庫并插入一條數據:
Session_2>insert into test values(2,'中國');
1 row created.
Session_2>commit;
Commit complete.
5. 執行查詢
在session 1上執行查詢:
Session_1>select * from test;
ID VAR
---------- ---------------------
1 中國
2 涓 浗
在session 2上執行查詢:
Session_2>select * from test;
ID VAR
---------- --------------------
1 ???
2 中國
上面例子看起來很詭異,session1和2都能正常顯示自己插入的字符串,又都不能正常顯示對方插入的字符串。為了弄清楚,我們首先得知道數據庫里對這兩個字符串是怎么存儲的。我們可以使用dump函數獲得字符在數據庫的編碼:
復制代碼 代碼如下:
SQL> select id,dump(var,1016) from test;
ID DUMP(VAR,1016)
-- ------------------------------------------------------------
1 Typ=1 Len=4 CharacterSet=AL32UTF8: d6,d0,b9,fa
2 Typ=1 Len=6 CharacterSet=AL32UTF8: e4,b8,ad,e5,9b,bd
根據AL32UTF8的編碼,“中國”兩字的正確編碼為(都為3個字節):
中--e4,b8,ad
國--e5,9b,bd
因此session 1插入的字符串在數據庫中的編碼是錯誤的,session 2正確。這也是為什么一定要設置NLS_LANG為客戶端操作系統的字符集。
但是根據上面實驗我們可以知道,數據庫中存儲正確,并不代表客戶端能正常顯示;同樣地,即時數據庫沒有正確存儲,有時候客戶端也能夠正常顯示,這又是為什么呢?別急,請聽我慢慢道來:
場景1:session 1插入,session 1查詢,在數據庫中存儲錯誤,但顯示正確。
插入過程:
”中國“兩字在客戶端操作系統字符集ZHS16GBK中的編碼是”d6,d0,b9,fa",由于NLS_LANG和數據庫字符集相同,數據庫端對客戶端傳過來的字符編碼不進行任何轉換直接存入數據庫,因此數據庫中存儲的編碼也是“d6,d0,b9,fa”,
讀取過程:
數據庫端讀取的編碼是“d6,d0,b9,fa”,由于NLS_LANG和數據庫字符集相同,客戶端對數據庫端傳過來的字符編碼不進行任何轉換直接顯示,編碼”d6,d0,b9,fa“在客戶端操作系統字符集ZHS16GBK對應的漢字為“中國”。
從以上分析可知,雖然讀取時正確的,但那是因為負負得正,實際上數據庫中存儲是錯誤的,因此要特別小心這種情況,在生成庫中要避免。其實只要對它進行length操作就能輕易揭開它的假面具:
復制代碼 代碼如下:
Session_1>select length(var) from test where id=1;
LENGTH(VAR)
-----------
3
得出的長度居然為3!實際的長度只是2,這會帶來很多麻煩。
場景2:session 1插入,session 2查詢,在數據庫中存儲錯誤,顯示也錯誤。
插入過程和場景1一樣,這里就不再累述。
讀取過程:
數據庫端讀取的編碼是“d6,d0,b9,fa”,由于NLS_LANG和數據庫字符集不同,客戶端對數據庫端傳過來的字符編碼進行轉換,數據庫端字符集AL32UTF8里編為“d6,d0,b9,fa”無法在客戶端操作系統字符集ZHS16GBK里找到對應的編碼,所以只好用?代替。
場景3:session 2插入,session 1查詢,在數據庫中存儲正確,但顯示錯誤。
插入過程:
”中國“兩字在客戶端操作系統字符集ZHS16GBK中的編碼是”d6,d0,b9,fa",由于NLS_LANG和數據庫字符集不同,Oracle會進行字符編碼轉換,也就是將字符集ZHS16GBK里“中國”的編碼“d6,d0,b9,fa"轉換為字符集"AL32UTF8"里”中國“的編碼”e4,b8,ad,e5,9b,bd“。
讀取過程:
數據庫端讀取的編碼是”e4,b8,ad,e5,9b,bd“,由于NLS_LANG和數據庫字符集相同,客戶端對數據庫端傳過來的字符編碼不進行任何轉換直接顯示,編碼”e4,b8,ad,e5,9b,bd“在客戶端操作系統字符集ZHS16GBK對應的漢字為“涓 浗”(原本2個字符,現在變成了3個字符,因為ZHS16GBK的漢字以2個字節編碼)。
場景4:session 2插入,session 2查詢,在數據庫中存儲正確,顯示也正確。
插入過程和場景3類似。
讀取過程:
數據庫端讀取的編碼是”e4,b8,ad,e5,9b,bd“,由于NLS_LANG和數據庫字符集不同,客戶端對數據庫端傳過來的字符編碼進行轉換,數據庫端字符集AL32UTF8里”中國“兩字的編碼”e4,b8,ad,e5,9b,bd“轉換成客戶端操作系統字符集ZHS16GBK里“中國”兩字的編碼“d6,d0,b9,fa",并正常顯示。
這種情況雖然經過了兩次轉換,都確實最正確、最推薦的方式。
附錄:Oracle 字符集超集和子集的對應關系可查看:http://download.oracle.com/docs/cd/B19306_01/server.102/b14225/applocaledata.htm#sthref1988
結論:NLS_LANG只和客戶端操作系統的字符集相關,如果客戶端操作系統的字符集和數據庫字符集間無法正確轉換,則應該首先改變客戶端終端的字符集,而不是簡單地把NLS_LANG設為和數據庫字符集一樣。
上一篇: {紅帽 Linux} Linux使用PAM鎖定多次登陸失敗的用戶
下一篇: 存儲基本概念