Download as PDF, PPTX
![サーバー Charsetサーバー Charset
新規に作成するデータベースのCharsetのデフォルト
これさえ指定しておけばだいたいOK
mysqld の起動オプション
--character-set-server=utf8mb4
my.cnf の [mysqld] セクション
character-set-server = utf8mb4
サーバー変数 character_set_server](https://image.slidesharecdn.com/mysql-2017-170520113534/85/MySQL-2017-27-320.jpg)
![クライアント Charsetクライアント Charset
クライアント内での文字列処理と
サーバーとの接続Charsetに使用される
指定方法はプログラム/言語に依存
mysql --default-character-set=utf8mb4
プログラムによっては my.cnf の [client] セクショ
ンが有効
「loose-」をつけておくとそのパラメータを知らないプログラムは
無視してくれる
[client]
loose-default-character-set = utf8mb4](https://image.slidesharecdn.com/mysql-2017-170520113534/85/MySQL-2017-32-320.jpg)
Uploaded byMasahiro Tomita
MySQLの文字コード事情 2017春版
Документ обсуждает проблемы и особенности кодировок в MySQL, включая различия между character set и encoding. Он детализирует различные кодировки, такие как utf-8 и utf-8mb4, и разбирает, как правильно настраивать кодировки для серверов и клиентских соединений. Также рассматриваются проблемы, связанные с использованием японских символов и многобайтовыми символами, включая emoji.
MySQLの文字コード事情 2017春版
- 1.
- 2.
- 3. 最近の活動最近の活動 Software Design 2016年6月号 「MySQLでデータベースを作ってみよう！」 SoftwareDesign 2016年9月号 「MySQL 4つのログの使いどころ」 Software Design 2016年12月号 「Rubyと文字コード」 「MySQLと文字コード」 Software Design 2017年7月号(予定) mysql.gr.jp ドメイン料支払い
- 4.
- 5. MySQLで文字コードというMySQLで文字コードという と Character set(Charset)とCharacter set(Charset)
- 6.
- 7.
- 8. 文字集合文字集合 US-ASCII 数字、英字、32個の記号 JIS X 0201 US-ASCII(「」→「¥」/「~」→「‾」)+カタカ ナ JISX 0208 数字、ひらがな、カタカナ、漢字、ラテン文字、 ギリシャ文字、記号等々 JIS X 0213 JIS X 0208 + 第三水準/第四水準、ローマ数字、 鼻濁音文字等々
- 9. 文字集合文字集合 Windows-31J JIS X 0201+ JIS X 0208 + NEC特殊文字 + IBM 拡張文字(「⑧」「Ⅷ」「㈱」「髙」「﨑」「彅」 等) Unicode 世界中の文字。絵文字(「�����������������」「�������������������」等)も含む。
- 10.
- 11.
- 12. エンコーディングエンコーディング Encoding 文字集合 用途 ISO-2022-JPUS-ASCII, JIS X 0201(ラテン文 字), JIS X 0208 メール EUC-JP US-ASCII, JIS X 0201(カナ文字), JIS X 0208, JIS X 0212 昔の UNIX SHIFT_JIS JIS X 0201, JIS X 0208 Windows-31J CP932 Windows-31J Windows
- 13. エンコーディングエンコーディング Encoding 文字集合 1文字のサイズ UTF-8Unicode 1〜4バイト UTF-16 Unicode 2バイト UTF-32 Unicode 4バイト
- 14. Charset ≒ エンコーディングCharset≒ エンコーディング (MySQLに限らない)(MySQLに限らない)
- 15. MySQLのCharsetMySQLのCharset mysql> SHOW CHARACTERSET; +----------+---------------------------------+---------------------+------- | Charset | Description | Default collation | Maxlen +----------+---------------------------------+---------------------+------- | big5 | Big5 Traditional Chinese | big5_chinese_ci | 2 | dec8 | DEC West European | dec8_swedish_ci | 1 | cp850 | DOS West European | cp850_general_ci | 1 | hp8 | HP West European | hp8_english_ci | 1 | koi8r | KOI8-R Relcom Russian | koi8r_general_ci | 1 | latin1 | cp1252 West European | latin1_swedish_ci | 1 | latin2 | ISO 8859-2 Central European | latin2_general_ci | 1 | swe7 | 7bit Swedish | swe7_swedish_ci | 1 | ascii | US ASCII | ascii_general_ci | 1 | ujis | EUC-JP Japanese | ujis_japanese_ci | 3 | sjis | Shift-JIS Japanese | sjis_japanese_ci | 2 | hebrew | ISO 8859-8 Hebrew | hebrew_general_ci | 1 | tis620 | TIS620 Thai | tis620_thai_ci | 1
- 16. | cp1250 |Windows Central European | cp1250_general_ci | 1 | gbk | GBK Simplified Chinese | gbk_chinese_ci | 2 | latin5 | ISO 8859-9 Turkish | latin5_turkish_ci | 1 | armscii8 | ARMSCII-8 Armenian | armscii8_general_ci | 1 | utf8 | UTF-8 Unicode | utf8_general_ci | 3 | ucs2 | UCS-2 Unicode | ucs2_general_ci | 2 | cp866 | DOS Russian | cp866_general_ci | 1 | keybcs2 | DOS Kamenicky Czech-Slovak | keybcs2_general_ci | 1 | macce | Mac Central European | macce_general_ci | 1 | macroman | Mac West European | macroman_general_ci | 1 | cp852 | DOS Central European | cp852_general_ci | 1 | latin7 | ISO 8859-13 Baltic | latin7_general_ci | 1 | utf8mb4 | UTF-8 Unicode | utf8mb4_general_ci | 4 | cp1251 | Windows Cyrillic | cp1251_general_ci | 1 | utf16 | UTF-16 Unicode | utf16_general_ci | 4 | utf16le | UTF-16LE Unicode | utf16le_general_ci | 4 | cp1256 | Windows Arabic | cp1256_general_ci | 1 | cp1257 | Windows Baltic | cp1257_general_ci | 1 | utf32 | UTF-32 Unicode | utf32_general_ci | 4 | binary | Binary pseudo charset | binary | 1 | geostd8 | GEOSTD8 Georgian | geostd8_general_ci | 1
- 17.
- 18. 日本語が使えてASCII互換の日本語が使えてASCII互換の は ujis, sjis,eucjpms,は ujis, sjis, eucjpms, cp932, utf8, utf8mb4cp932, utf8, utf8mb4
- 19. MySQL CharsetMySQL Charset charset文字集合 エンコーディング ujis JIS X 0201 + 0208 EUC-JP sjis JIS X 0201 + 0208 SHIFT_JIS eucjpms Windows-31J EUC-JP風 cp932 Windows-31J Windows-31J utf8 Unicode UTF-8 utf8mb4 Unicode UTF-8
- 20.
- 21. utf8 ? utf8mb4?utf8 ? utf8mb4 ?
- 22. utf8 と utf8mb4utf8と utf8mb4 utf8: 1文字 1〜3バイト (U+0000〜U+FFFF) utf8mb3 という別名あり utf8mb4: 1文字 1〜4バイト(U+0000〜U+1FFFFF) UTF-8 は普通1〜4バイト utf8 / utf8mb4 の違いは MySQL のみ ほとんどの日本語文字は3バイト 一部の漢字と絵文字等が4バイト
- 23. 4バイトになる JIS X02134バイトになる JIS X 0213 の文字の文字 𠀋𡈽𡌛𡑮𡢽𠮟𡚴𡸴𣇄𣗄𣜿𣝣𣳾𤟱𥒎𥔎𥝱𥧄𥶡𦫿𦹀𧃴𧚄𨉷𨏍𪆐𠂉 𠂢𠂤𠆢𠈓𠌫𠎁𠍱𠏹𠑊𠔉𠗖𠘨𠝏𠠇𠠺𠢹𠥼𠦝𠫓𠬝𠵅𠷡𠺕𠹭𠹤𠽟𡈁 𡉕𡉻𡉴𡋤𡋗𡋽𡌶𡍄𡏄𡑭𡗗𦰩𡙇𡜆𡝂𡧃𡱖𡴭𡵅𡵸𡵢𡶡𡶜𡶒𡶷𡷠𡸳 𡼞𡽶𡿺𢅻𢌞𢎭𢛳𢡛𢢫𢦏𢪸𢭏𢭐𢭆𢰝𢮦𢰤𢷡𣇃𣇵𣆶𣍲𣏓𣏒𣏐𣏤𣏕 𣏚𣏟𣑊𣑑𣑋𣑥𣓤𣕚𣖔𣘹𣙇𣘸𣘺𣜜𣜌𣝤𣟿𣟧𣠤𣠽𣪘𣱿𣴀𣵀𣷺𣷹𣷓 𣽾𤂖𤄃𤇆𤇾𤎼𤘩𤚥𤢖𤩍𤭖𤭯𤰖𤴔𤸎𤸷𤹪𤺋𥁊𥁕𥄢𥆩𥇥𥇍𥈞𥉌𥐮 𥓙𥖧𥞩𥞴𥧔𥫤𥫣𥫱𥮲𥱋𥱤𥸮𥹖𥹥𥹢𥻘𥻂𥻨𥼣𥽜𥿠𥿔𦀌𥿻𦀗𦁠𦃭 𦉰𦊆𦍌𣴎𦐂𦙾𦚰𦜝𦣝𦣪𦥑𦥯𦧝𦨞𦩘𦪌𦪷𦱳𦳝𦹥𦾔𦿸𦿶𦿷𧄍𧄹𧏛 𧏚𧏾𧐐𧑉𧘕𧘔𧘱𧚓𧜎𧜣𧝒𧦅𧪄𧮳𧮾𧯇𧲸𧶠𧸐𧾷𨂊𨂻𨊂𨋳𨐌𨑕𨕫 𨗈𨗉𨛗𨛺𨥉𨥆𨥫𨦇𨦈𨦺𨦻𨨞𨨩𨩱𨩃𨪙𨫍𨫤𨫝𨯁𨯯𨴐𨵱𨷻𨸟𨸶𨺉 𨻫𨼲𨿸𩊠𩊱𩒐𩗏𩙿𩛰𩜙𩝐𩣆𩩲𩷛𩸽𩸕𩺊𩹉𩻄𩻩𩻛𩿎𪀯𪀚𪃹𪂂𢈘 𪎌𪐷𪗱𪘂𪘚𪚲
- 24.
- 25.
- 26.
- 27. サーバー Charsetサーバー Charset 新規に作成するデータベースのCharsetのデフォルト これさえ指定しておけばだいたいOK mysqldの起動オプション --character-set-server=utf8mb4 my.cnf の [mysqld] セクション character-set-server = utf8mb4 サーバー変数 character_set_server
- 28. データベース Charsetデータベース Charset 配下に作成するテーブルのCharsetのデフォルト値 サーバーCharsetと同じであれば指定しなくてもいい 作成:CREATE DATABASE db CHARSET utf8mb4; 確認: SHOW CREATE DATABASE db; 変更: ALTER DATABASE db CHARSET utf8mb4; 変更しても既存のテーブルCharsetは変更されない
- 29. テーブル Charsetテーブル Charset テーブル内カラムのCharsetのデフォルト値 データベースCharsetと同じであれば指定する必要は ない 作成:CREATE TABLE tbl (...) CHARSET utf8mb4; 確認: SHOW CREATE TABLE tbl;
- 30. テーブル Charsetテーブル Charset テーブル属性だけ変更: ALTERTABLE tbl CHARSET utf8mb4; 既存のカラムのcharsetは変更されない 全カラムとデータの変換: ALTER TABLE tbl CONVERT TO CHARSET utf8mb4; utf8 で作ってしまったテーブルを utf8mb4 に変 換とか
- 31. カラム Charsetカラム Charset テーブルCharsetと同じであれば指定する必要はない 作成:CREATE TABLE tbl (col VARCHAR(10) CHARSET utf8mb4, ...); 確認: SHOW CREATE TABLE tbl; 変更: ALTER TABLE tbl MODIFY col VARCHAR(10) CHARSET utf8mb4; 変更するとカラム内のデータも変換される
- 32. クライアント Charsetクライアント Charset クライアント内での文字列処理と サーバーとの接続Charsetに使用される 指定方法はプログラム/言語に依存 mysql--default-character-set=utf8mb4 プログラムによっては my.cnf の [client] セクショ ンが有効 「loose-」をつけておくとそのパラメータを知らないプログラムは 無視してくれる [client] loose-default-character-set = utf8mb4
- 33. クライアント Charsetクライアント Charset mysqldとの接続毎に異なる mysql コマンドでOKでも他のアプリからはNGかも しれない 何も指定しなければ latin1
- 34. Charset の確認Charset の確認 mysql>SHOW VARIABLES LIKE '%char%'; +--------------------------+----------------------------+ | Variable_name | Value | +--------------------------+----------------------------+ | character_set_client | utf8mb4 | | character_set_connection | utf8mb4 | | character_set_database | utf8mb4 | | character_set_filesystem | binary | | character_set_results | utf8mb4 | | character_set_server | utf8mb4 | | character_set_system | utf8 | | character_sets_dir | /usr/share/mysql/charsets/ | +--------------------------+----------------------------+
- 35. mysql コマンドmysql コマンド mysqlコマンドのデフォルトCharsetは auto システムロケール(LC_ALL, LC_CTYPE, LANG 環境 変数等)により値が決定 LANG=ja_JP.UTF-8 の場合は utf8 になる utf8mb4 ではない LANG=C の場合は latin1 になる
- 36. utf8 と utf8mb4の混在でutf8 と utf8mb4 の混在で 起きること起きること
- 37. utf8接続から4バイト文字をutf8接続から4バイト文字を 参照参照 クライアントが扱えない文字は「?」になる mysql> SELECT strFROM tbl; +-------+ | str | +-------+ | ?と? | ← '�������������������と�����������������' | ?と? | ← '?と?' +-------+
- 38. バイト列を見れば違いがわかバイト列を見れば違いがわか るる mysql> SELECT HEX(str)FROM tbl; +------------------------+ | HEX(str) | +------------------------+ | F09F8DA3E381A8F09F8DBA | ← '�������������������と�����������������' | 3FE381A83F | ← '?と?' +------------------------+
- 39. utf8接続から4バイト文字をutf8接続から4バイト文字を 登録登録 文字化けして登録されちゃう mysql> INSERT INTOtbl (str) VALUES ('�������������������と�����������������'); Query OK, 1 row affected, 2 warnings (0.05 sec) mysql> SELECT str,HEX(str) FROM tbl; +-------------+------------------------+ | str | HEX(str) | +-------------+------------------------+ | ????と???? | 3F3F3F3FE381A83F3F3F3F | +-------------+------------------------+
- 40. sql_modesql_mode MySQLはおかしなことしてもあまりエラーにならな い(余計なお世話) sql_mode でちゃんとエラーにしてくれる mysql> SETsql_mode='STRICT_ALL_TABLES'; mysql> INSERT INTO tbl (str) VALUES ('�������������������と�����������������'); ERROR 1366 (HY000): Incorrect string value: 'xF0x9Fx8DxA3xE3x81...' for column 'str' at row 1
- 41. sql_modesql_mode MySQL 5.7 からはデフォルト mysql>SELECT @@sql_mode ONLY_FULL_GROUP_BY,STRICT_TRANS_TABLES,NO_ZERO_IN_DATE, NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_AUTO_CREATE_USER, NO_ENGINE_SUBSTITUTION
- 42.
- 43. �������������������と�����������������以外でも mysql> SELECT '����������'='�������������'; +---------+ |'?'='?' | +---------+ | 1 | +---------+ mysql> SELECT '����������'='�����'; +---------+ | '?'='?' | +---------+ | 1 | +---------+
- 44.
- 45.
- 46. CollationCollation 文字の照合規則・照合順序 Charset 毎に Collationがある Charset の指定は Charset のデフォルトの Collation を指定するのと同じ
- 47. Collation 一覧Collation 一覧 mysql>SHOW COLLATION LIKE 'utf8mb4%'; +------------------------+---------+-----+---------+----------+---------+ | Collation | Charset | Id | Default | Compiled | Sortlen | +------------------------+---------+-----+---------+----------+---------+ | utf8mb4_general_ci | utf8mb4 | 45 | Yes | Yes | 1 | | utf8mb4_bin | utf8mb4 | 46 | | Yes | 1 | | utf8mb4_unicode_ci | utf8mb4 | 224 | | Yes | 8 | | utf8mb4_icelandic_ci | utf8mb4 | 225 | | Yes | 8 | | utf8mb4_latvian_ci | utf8mb4 | 226 | | Yes | 8 | | utf8mb4_romanian_ci | utf8mb4 | 227 | | Yes | 8 | | utf8mb4_slovenian_ci | utf8mb4 | 228 | | Yes | 8 | | utf8mb4_polish_ci | utf8mb4 | 229 | | Yes | 8 | | utf8mb4_estonian_ci | utf8mb4 | 230 | | Yes | 8 | | utf8mb4_spanish_ci | utf8mb4 | 231 | | Yes | 8 | | utf8mb4_swedish_ci | utf8mb4 | 232 | | Yes | 8 | | utf8mb4_turkish_ci | utf8mb4 | 233 | | Yes | 8 | | utf8mb4_czech_ci | utf8mb4 | 234 | | Yes | 8 |
- 48. | utf8mb4_roman_ci |utf8mb4 | 239 | | Yes | 8 | | utf8mb4_persian_ci | utf8mb4 | 240 | | Yes | 8 | | utf8mb4_esperanto_ci | utf8mb4 | 241 | | Yes | 8 | | utf8mb4_hungarian_ci | utf8mb4 | 242 | | Yes | 8 | | utf8mb4_sinhala_ci | utf8mb4 | 243 | | Yes | 8 | | utf8mb4_german2_ci | utf8mb4 | 244 | | Yes | 8 | | utf8mb4_croatian_ci | utf8mb4 | 245 | | Yes | 8 | | utf8mb4_unicode_520_ci | utf8mb4 | 246 | | Yes | 8 | | utf8mb4_vietnamese_ci | utf8mb4 | 247 | | Yes | 8 | +------------------------+---------+-----+---------+----------+---------+ 26 rows in set (0.00 sec)
- 49. utf8mb4 の Collationutf8mb4の Collation utf8mb4_bin utf8mb4_general_ci utf8mb4_unicode_ci utf8mb4_unicode_520_ci utf8mb4_言語_ci utf8mb4_japanese_ci は無い 「ci」は Case Insensitive(大文字小文字を区別しない) の意味らしい
- 50.
- 51. utf8mb4_general_ciutf8mb4_general_ci utf8mb4 Charset のデフォルトCollation 大文字小文字を区別しない(A=a, Ａ=ａ) 全角半角は区別する(A≠Ａ) 絵文字を区別しない(�������������������=�����������������)
- 52. utf8mb4_unicode_ciutf8mb4_unicode_ci Unicode Collation Algorithm4.0.0 大文字小文字を区別しない(A=a, Ａ=ａ, や=ゃ) 「びょういん=びよういん」問題 全角半角も区別しない(A=Ａ) 絵文字を区別しない(�������������������=�����������������) ひらがな、カタカナ、濁点有無、全角、半角を区別 しない(は=ば=ぱ=ハ=バ=パ=ﾊ) 「ハハ=パパ=ババ問題」 http://www.unicode.org/reports/tr10/tr10-11.html http://dev.mysql.com/doc/refman/5.6/ja/charset-unicode-sets.html
- 53. utf8mb4_unicode_520_ciutf8mb4_unicode_520_ci Unicode Collation Algorithm5.2.0 大文字小文字を区別しない(A=a, Ａ=ａ, や=ゃ) 全角半角も区別しない(A=Ａ) 絵文字を区別する(�������������������≠�����������������) ひらがな、カタカナ、濁点有無、全角、半角を区別 しない(は=ば=ぱ=ハ=バ=パ=ﾊ) http://www.unicode.org/reports/tr10/tr10-20.html
- 54. utf8mb4_*utf8mb4_* Collation A :a ������������������� : ����������������� は : ば ぱ : ﾊ や : ゃ general_ci = = ≠ ≠ bin ≠ ≠ ≠ ≠ unicode_ci = = = = unicode_520_ci = ≠ = =
- 55. utf8mb4_*utf8mb4_* Collation A :a ������������������� : ����������������� は : ば ぱ : ﾊ や : ゃ general_ci = = ≠ ≠ bin ≠ ≠ ≠ ≠ unicode_ci = = = = unicode_520_ci = ≠ = = ぼくたちが欲しかった japanese_ci = ≠ ≠ ≠
- 56. 寿司=ビール問題 : MySQL8.0でのUTF8寿司=ビール問題 : MySQL 8.0でのUTF8 サポート入門(MySQL Server Blogより)サポート入門(MySQL Server Blogより) https://yakst.com/ja/posts/4405 私たちは日本語の照合順序の追加も計 画中です。日本語は興味深い言語であ り、私たちの照合順序のエキスパート であるXing ZhangとBernt Marius Johnsenが、今後のブログ記事でもっ と詳しく説明するはずです。 2017/1/13の記事(の翻訳)
- 57. MySQL 8 (開発中)MySQL8 (開発中) mysql> SELECT collation_name FROM collations WHERE character_set_name='utf8mb4' AND collation_name LIKE '%ja%'; +-----------------------+ | collation_name | +-----------------------+ | utf8mb4_ja_0900_as_cs | +-----------------------+
- 58. utf8mb4_*utf8mb4_* Collation A :a ������������������� : ����������������� は : ば ぱ : ﾊ や : ゃ general_ci = = ≠ ≠ bin ≠ ≠ ≠ ≠ unicode_ci = = = = unicode_520_ci = ≠ = = 0900_ai_ci = ≠ = = 0900_as_cs ≠ ≠ ≠ ≠ ja_0900_as_cs ≠ ≠ ≠ ≠
- 59.
- 60. デフォルトのCollationデフォルトのCollation MySQL 5.7 mysql> SELECTcollation_name, is_default FROM collations WHERE character_set_name='utf8mb4' and is_default='Yes'; +--------------------+------------+ | collation_name | is_default | +--------------------+------------+ | utf8mb4_general_ci | Yes | +--------------------+------------+ MySQL 8 +--------------------+------------+ | collation_name | is_default | +--------------------+------------+ | utf8mb4_0900_ai_ci | Yes | +--------------------+------------+
- 61. MySQL 8 のutf8mb4 はデMySQL 8 の utf8mb4 はデ フォルトでフォルトで 「ハハ=パパ=ババ」「ハハ=パパ=ババ」 「びょういん=びよういん」「びょういん=びよういん」
- 62. まとめまとめ ふつうは utf8mb4 サーバーとクライアントの両方で Charsetを指定 sql_mode をちゃんと設定 Collation は適切に MySQL 8 でデフォルトが変わる