問題描述
內(nèi)核問題排查
現(xiàn)場分析及復現(xiàn)驗證
解決方案
心得
問題描述
近期，線上有個重要Mysql客戶的表在從5.6升級到5.7后，master上插入過程中出現(xiàn)"Duplicate key"的錯誤，而且是在主備及RO實例上都出現(xiàn)。以其中一個表為例，遷移前通過“show create table” 命令查看的auto increment id為1758609， 遷移后變成了1758598,實際對遷移生成的新表的自增列用max求最大值為1758609。用戶采用的是Innodb引擎，而且據(jù)運維同學介紹，之前碰到過類似問題，重啟即可恢復正常。
內(nèi)核問題排查
由于用戶反饋在5.6上訪問正常，切換到5.7后就報錯。因此，首先得懷疑是5.7內(nèi)核出了問題，因此第一反應是從官方bug list中搜索一下是否有類似問題存在，避免重復造車。經(jīng)過搜索，發(fā)現(xiàn)官方有1個類似的bug，這里簡單介紹一下該bug。Innodb引擎中的auto increment 相關參數(shù)及數(shù)據(jù)結構主要參數(shù)包括：innodb_autoinc_lock_mode用于控制獲取自增值的加鎖方式，auto_increment_increment， auto_increment_offset用于控制自增列的遞增的間隔和起始偏移。主要涉及的結構體包括：數(shù)據(jù)字典結構體，保存整個表的當前auto increment值以及保護鎖；事務結構體，保存事務內(nèi)部處理的行數(shù)；handler結構體，保存事務內(nèi)部多行的循環(huán)迭代信息。這部分網(wǎng)上有篇文章介紹的比較好，具體參見：(https://www.cnblogs.com/zengkefu/p/5683258.html)。
背景知識2
mysql及Innodb引擎中對autoincrement訪問及修改的流程(1) 數(shù)據(jù)字典結構體(dict_table_t)換入換出時對autoincrement值的保存和恢復。換出時將autoincrement保存在全局的的映射表中，然后淘汰內(nèi)存中的dict_table_t。換入時通過查找全局映射表恢復到dict_table_t結構體中。相關的函數(shù)為dict_table_add_to_cache及dict_table_remove_from_cache_low。(2) row_import, table truncate過程更新autoincrement。(3) handler首次open的時候，會查詢當前表中最大自增列的值，并用最大列的值加1來初始化表的data_dict_t結構體中的autoinc的值。(4) insert流程。相關對autoinc修改的堆棧如下：ha_innobase::write_row：write_row的第三步中調用handler句柄中的update_auto_increment函數(shù)更新auto increment的值
??? handler::update_auto_increment:?調用Innodb接口獲取一個自增值，并根據(jù)當前的auto_increment相關變量的值調整獲取的自增值；同時設置當前handler要處理的下一個自增列的值。
????????ha_innobase::get_auto_increment:獲取dict_tabel中的當前auto?increment值，并根據(jù)全局參數(shù)更新下一個auto?increment的值到數(shù)據(jù)字典中
??????????? ha_innobase::dict_table_autoinc_initialize:更新auto increment的值，如果指定的值比當前的值大，則更新。
??????? handler::set_next_insert_id:設置當前事務中下一個要處理的行的自增列的值。
(5) update_row。對于”INSERT INTO t (c1,c2) VALUES(x,y) ON DUPLICATE KEY UPDATE”語句，無論唯一索引列所指向的行是否存在，都需要推進auto increment的值。相關代碼如下：????if?(error?==?DB_SUCCESS
????????&&?table->next_number_field
????????&&?new_row?==?table->record[0]
????????&&?thd_sql_command(m_user_thd)?==?SQLCOM_INSERT
????????&&?trx->duplicates)??{
????????ulonglong????auto_inc;
????????????????……
????????auto_inc?=?table->next_number_field->val_int();
????????auto_inc?=?innobase_next_autoinc(auto_inc,?1,?increment,?offset,?col_max_value);
????????????error?=?innobase_set_max_autoinc(auto_inc);
????????????????……
????}
從我們的實際業(yè)務流程來看，我們的錯誤只可能涉及insert及update流程。BUG 76872 / 88321: "InnoDB AUTO_INCREMENT produces same value twice"(1)?bug概述:當autoinc_lock_mode大于0，且auto_increment_increment大于1時，系統(tǒng)剛重啟后多線程同時對表進行insert操作會產(chǎn)生“duplicate key”的錯誤。
(2)?原因分析：重啟后innodb會把autoincrement的值設置為max(id) + 1。此時，首次插入時，write_row流程會調用handler::update_auto_increment來設置autoinc相關的信息。首先通過ha_innobase::get_auto_increment獲取當前的autoincrement的值(即max(id) + 1)，并根據(jù)autoincrement相關參數(shù)修改下一個autoincrement的值為next_id。
當auto_increment_increment大于1時，max(id) + 1 會不大于next_id。handler::update_auto_increment獲取到引擎層返回的值后為了防止有可能某些引擎計算自增值時沒有考慮到當前auto increment參數(shù)，會重新根據(jù)參數(shù)計算一遍當前行的自增值，由于Innodb內(nèi)部是考慮了全局參數(shù)的，因此handle層對Innodb返回的自增id算出的自增值也為next_id，即將會插入一條自增id為next_id的行。
handler層會在write_row結束的時候根據(jù)當前行的值next_id設置下一個autoincrement值。如果在write_row尚未設置表的下一個autoincrement期間，有另外一個線程也在進行插入流程，那么它獲取到的自增值將也是next_id。這樣就產(chǎn)生了重復。
(3)?解決辦法：引擎內(nèi)部獲取自增列時考慮全局autoincrement參數(shù)，這樣重啟后第一個插入線程獲取的自增值就不是max(id) + 1，而是next_id，然后根據(jù)next_id設置下一個autoincrement的值。由于這個過程是加鎖保護的，其他線程再獲取autoincrement的時候就不會獲取到重復的值。通過上述分析，這個bug僅在autoinc_lock_mode > 0 并且auto_increment_increment > 1的情況下會發(fā)生。實際線上業(yè)務對這兩個參數(shù)都設置為1，因此，可以排除這個bug造成線上問題的可能性。現(xiàn)場分析及復現(xiàn)驗證
既然官方bug未能解決我們的問題，那就得自食其力，從錯誤現(xiàn)象開始分析了。(1) 分析max id及autoincrement的規(guī)律 由于用戶的表設置了ON UPDATE CURRENT_TIMESTAMP列，因此可以把所有的出錯的表的max id、autoincrement及最近更新的幾條記錄抓取出來，看看是否有什么規(guī)律。抓取的信息如下：
乍看起來，這個錯誤還是很有規(guī)律的，update time這一列是最后插入或者修改的時間，結合auto increment及max id的值，現(xiàn)象很像是最后一批事務只更新了行的自增id，沒有更新auto increment的值。聯(lián)想到【官方文檔】中對auto increment用法的介紹，update操作是可以只更新自增id但不觸發(fā)auto increment推進的。按照這個思路，我嘗試復現(xiàn)了用戶的現(xiàn)場。復現(xiàn)方法如下：
同時在binlog中，我們也看到有update自增列的操作。如圖：
不過，由于binlog是ROW格式，我們也無法判斷這是內(nèi)核出問題導致了自增列的變化還是用戶自己更新所致。因此我們聯(lián)系了客戶進行確認，結果用戶很確定沒有進行更新自增列的操作。那么這些自增列到底是怎么來的呢？(2) 分析用戶的表及sql語句 繼續(xù)分析，發(fā)現(xiàn)用戶總共有三種類型的表(hz_notice_stat_sharding, hz_notice_group_stat_sharding,hz_freeze_balance_sharding)，這三種表都有自增主鍵。但是前面兩種都出現(xiàn)了autoinc錯誤，唯獨hz_freeze_balance_sharding表沒有出錯。難道是用戶對這兩種表的訪問方式不一樣？抓取用戶的sql語句，果然，前兩種表用的都是replace into操作，最后一種表用的是update操作。難道是replace into語句導致的問題？搜索官方bug, 又發(fā)現(xiàn)了一個疑似bug。bug #87861: “Replace into causes master/slave have different auto_increment offset values”(1) Mysql對于replace into實際是通過delete + insert語句實現(xiàn)，但是在ROW binlog格式下，會向binlog記錄update類型日志。Insert語句會同步更新autoincrement，update則不會。(2) replace into在Master上按照delete+insert方式操作， autoincrement就是正常的。基于ROW格式復制到slave后，slave機上按照update操作回放，只更新行中自增鍵的值，不會更新autoincrement。因此在slave機上就會出現(xiàn)max(id)大于autoincrement的情況。此時在ROW模式下對于insert操作binlog記錄了所有的列的值，在slave上回放時并不會重新分配自增id，因此不會報錯。但是如果slave切master，遇到Insert操作就會出現(xiàn)”Duplicate key”的錯誤。(3) 由于用戶是從5.6遷移到5.7，然后直接在5.7上進行插入操作，相當于是slave切主，因此會報錯。
解決方案
(1) binlog改為mixed或者statement格式(2) 用Insert on duplicate key update代替replace into(1) 在ROW格式下如果遇到replace into語句，則記錄statement格式的logevent，將原始語句記錄到binlog。(2) 在ROW格式下將replace into語句的logevent記錄為一個delete event和一個insert event。(1) autoincrement的autoinc_lock_mode及auto_increment_increment這兩個參數(shù)變化容易導致出現(xiàn)重復的key，使用過程中要盡量避免動態(tài)的去修改。(2) 在碰到線上的問題時，首先應該做好現(xiàn)場分析，明確故障發(fā)生的場景、用戶的SQL語句、故障發(fā)生的范圍等信息，同時要對涉及實例的配置信息、binlog甚至實例數(shù)據(jù)等做好備份以防過期丟失。只有這樣才能在找官方bug時精準的匹配場景，如果官方?jīng)]有相關bug，也能通過已有線索獨立分析。如果你覺得文章還不錯，請大家點贊分享下。你的肯定是對作者最大的鼓勵和支持。
Java后端編程交流群已成立
公眾號運營至今，離不開小伙伴們的支持。為了給小伙伴們提供一個互相交流的平臺，特地開通了官方交流群。掃描下方二維碼備注 進群 或者關注公眾號 Java后端編程 后獲取進群通道。
最近面試BAT，整理一份面試資料《Java面試BAT通關手冊》，覆蓋了Java核心技術、JVM、Java并發(fā)、SSM、微服務、數(shù)據(jù)庫、數(shù)據(jù)結構等等。
獲取方式：點“在看”，關注公眾號并回復?666?領取，更多內(nèi)容陸續(xù)奉上。
