有關編碼(UTF-8 and Unicode)的相關知識@ 諺語錄 - 隨意窩
文章推薦指數: 80 %
在UCS(UCS可以看作是"Unicode Character Set"的縮寫。
) 編碼中有一個叫做"ZERO WIDTH NO-BREAK SPACE"的字符, 它的編碼是FEFF。
而FFFE在UCS中是不存在的字符, ...
諺語錄快飛不起來的小諺子日誌相簿影音好友名片
200908250931有關編碼(UTF-8andUnicode)的相關知識?活到老學到老以下資料皆來自網路,大概看懂後歸納一下
1)bigendian和littleendian
bigendian和littleendian是CPU處理多字節數的不同方式。
例如「漢」字的Unicode編碼是6C49。
那麼寫到文件裡時,究竟是將6C寫在前面,
還是將49寫在前面?如果將6C寫在前面,就是bigendian。
還是將49寫在前面,就是littleendian。
在UCS(UCS可以看作是"UnicodeCharacterSet"的縮寫。
)編碼中有一個叫做"ZEROWIDTHNO-BREAKSPACE"的字符,
它的編碼是FEFF。
而FFFE在UCS中是不存在的字符,所以不應該出現在實際傳輸中。
UCS規範建議我們在傳輸字節流前,先傳輸字符"ZEROWIDTHNO-BREAKSPACE"。
這樣如果接收者收到FEFF,就表明這個字節流是Big-Endian的;
如果收到FFFE,就表明這個字節流是Little-Endian的。
因此字符"ZEROWIDTHNO-BREAKSPACE"又被稱作BOM。
2)UTF編碼
UTF-8就是以8位為單元對UCS進行編碼。
從UCS-2到UTF-8的編碼方式如下:
UCS-2編碼(16進制)UTF-8字節流(二進制)
0000-007F 0xxxxxxx(所以對英文而言,UTF-8等於ASCII)
0080-07FF 110xxxxx10xxxxxx
0800-FFFF 1110xxxx10xxxxxx10xxxxxx
UCS-4編碼(16進制)
U-00010000-U-001FFFFF:11110xxx10xxxxxx10xxxxxx10xxxxxx
U-00200000-U-03FFFFFF:111110xx10xxxxxx10xxxxxx10xxxxxx10xxxxxx
U-04000000-U-7FFFFFFF:1111110x10xxxxxx10xxxxxx10xxxxxx10xxxxxx10xxxxxx
例如「漢」字的Unicode編碼是6C49。
6C49在0800-FFFF之間,所以肯定要用3字節模板了:
1110xxxx10xxxxxx10xxxxxx。
將6C49寫成二進制是:0110110001001001,
用這個比特流依次代替模板中的x,得到:111001101011000110001001,即E6B189。
UTF-16以16位為單元對UCS進行編碼。
對於小於0x10000的UCS碼,UTF-16編碼就等於UCS碼對應的16位無符號整數。
對於不小於0x10000的UCS碼,定義了一個算法。
不過由於實際使用的UCS2,或者UCS4的BMP必然小於0x10000,所以就目前而言,可以認為UTF-16和UCS-2基本相同。
但UCS-2只是一個編碼方案,UTF-16卻要用於實際的傳輸,所以就不得不考慮字節序的問題。
(UTF-8不需要BOM來表明字節順序,但可以用BOM來表明編碼方式。
但是unicode跟UTF-16要紀錄bigorlittleendian)ryu304304/Xuite日誌/回應(0)/引用(0)沒有上一則|日誌首頁|沒有下一則回應
加我為好友日誌相簿影音
我的相簿
ryu304304's新文章網誌搬家了..約兩年一次的腸胃炎一天颱風假澎湖三日遊運動計畫滿三個月文又一篇感慨好熟悉的一句話懶洋洋的端午節好精實的6禮拜
全部展開|全部收合
ryu304304's新回應沒有新回應!
關鍵字
延伸文章資訊
- 1文字檔案與二進位制檔案、Unicode字元編碼 - 程式人生
BOM是一個有點小聰明的想法:在UCS編碼中有一個叫做"ZERO WIDTH NO-BREAK SPACE"的字元,它的編碼是FEFF。而FFFE在UCS中是不存在的字元,所以不應該出現在 ...
- 2Unicode 與UTF - OpenHome.cc
Unicode 字元映射至數字的概念編碼(Conceptual encoding),一個字元的Unicode ... 可以看到,用來表示為Unicode 檔案的兩個位元組為fe、ff,與先前的f...
- 3u+FFFE copy and paste - Unicode® symbol
U+FFFE is not a valid Unicode code point / character. It belongs to the "Specials" block which go...
- 4FFFE是什么?_陈道长的博客
在做字符转码的时候前面多了个FFFE,这是什么意思呢?data = [@"好" dataUsingEncoding:NSUTF16StringEncoding] ... Unicode与FFFE...
- 5位元組順序記號 - 维基百科
位元組順序記號(英語:byte-order mark,BOM)是位於碼點 U+FEFF 的統一碼字符的名称。 ... 每個Unicode編碼(包括Unicode標準以外的編碼,如UTF-7,見下...