Elixir UTF-8和Unicode
一个字符串是一段UTF-8编码的二进制数。为了理解它们,我们首先需要明白字节与代码点的区别。
Unicode标准将代码点赋值给许多我们熟知的字符。例如,字母a
拥有代码点97
,字母ł
拥有代码点322
。当将字符串"hełło"
写入磁盘时,我们需要将代码点转换为字节。如果我们遵守一个字节代表一个代码点的规则,那么我们就不能写入"hełło"
,因为ł
的代码点是322
,而一个字节只能表示0
到255
的数字。但我们总有办法表示"hełło"
,这就是编码在发挥作用。
当用字节来表示代码点时,我们需要对它们进行编码。Elixir选择UTF-8编码作为其主要和默认的编码。当我们说一个字符串是UTF-8编码的二进制数,那意味着它是一串通过UTF-8编码来代表特定代码点的字节。我们需要不止一个字节来代表例如ł
的322
这样的代码点。这就是byte_size/1
与String.length/1
返回值不同的原因:"
iex> string = "hełło
"hełło"
iex> byte_size(string)
7
iex> String.length(string)
5
UTF-8要求以一个字节来表示h
,e
和o
的代码点,以两个字节表示ł
的。在Elixir中,你可以通过?
来得到代码点的值:
iex> ?a
97
iex> ?ł
322
你也可以使用String
模块中的函数来依照代码点分割一个字符串:
iex> String.codepoints("hełło")
["h", "e", "ł", "ł", "o"]
你会发现Elixir对于字符串操作有着良好的支持。事实上,Elixir将所有测试内容放到了文章“字符串类型崩溃了”中。
然而,字符串只是故事的一部分。我们通过is_binary/1
得知字符串是二进制数,所以Elixir一定是以一种底层类型控制着字符串。让我们来讨论一下二进制数!
更多建议: