數據遷移前需要考慮什么因素？常見的遷移技術有哪些，它們分別適用于什么場景以及優缺點是什么？
今晚20:30-21:30，云和恩墨大講堂邀請到了云和恩墨交付總監盧立廣，為大家帶來主題為《數據庫遷移規劃及技術選型交流》的分享，希望可以幫助到廣大DBA伙伴。報名鏈接：（復制在網頁中打開或者點擊“閱讀原文”直接報名參加）
一、數據庫命令規范
二、數據庫基本設計規范
1. 所有表必須使用存儲引擎沒有特殊要求（即無法滿足的功能如：列存儲，存儲空間數據等）的情況下，所有表必須使用存儲引擎（.5之前默認使用，5.6以后默認的為） 支持事務，支持行級鎖，更好的恢復性，高并發下性能更好2. 數據庫和表的字符集統一使用UTF8兼容性更好，統一字符集可以避免由于字符集轉換產生的亂碼，不同的字符集進行比較前需要進行轉換會造成索引失效3. 所有表和字段都需要添加注釋使用從句添加表和列的備注 從一開始就進行數據字典的維護4. 盡量控制單表數據量的大小，建議控制在500萬以內500萬并不是MySQL數據庫的限制，過大會造成修改表結構，備份，恢復都會有很大的問題可以用歷史數據歸檔（應用于日志數據），分庫分表（應用于業務數據）等手段來控制數據量大小5. 謹慎使用MySQL分區表分區表在物理上表現為多個文件，在邏輯上表現為一個表 謹慎選擇分區鍵，跨分區查詢效率可能更低 建議采用物理分表的方式管理大數據6. 盡量做到冷熱數據分離，減小表的寬度MySQL限制每個表最多存儲4096列，并且每一行數據的大小不能超過65535字節 減少磁盤IO,保證熱數據的內存緩存命中率（表越寬，把表裝載進內存緩沖池時所占用的內存也就越大,也會消耗更多的IO） 更有效的利用緩存，避免讀入無用的冷數據 經常一起使用的列放到一個表中（避免更多的關聯操作）7. 禁止在表中建立預留字段預留字段的命名很難做到見名識義 預留字段無法確認存儲的數據類型，所以無法選擇合適的類型 對預留字段類型的修改，會對表進行鎖定8. 禁止在數據庫中存儲圖片，文件等大的二進制數據通常文件很大，會短時間內造成數據量快速增長，數據庫進行數據庫讀取時，通常會進行大量的隨機IO操作，文件很大時，IO操作很耗時 通常存儲于文件服務器，數據庫只存儲文件地址信息9. 禁止在線上做數據庫壓力測試10. 禁止從開發環境，測試環境直接連接生成環境數據庫
三、數據庫字段設計規范
1. 優先選擇符合存儲需要的最小的數據類型列的字段越大，建立索引時所需要的空間也就越大，這樣一頁中所能存儲的索引節點的數量也就越少也越少，在遍歷時所需要的IO次數也就越多， 索引的性能也就越差1）將字符串轉換成數字類型存儲，如：將IP地址轉換成整形數據。MySQL提供了兩個方法來處理ip地址：
插入數據前，先用把ip地址轉為整型，可以節省空間。顯示數據時，使用把整型的ip地址轉為地址顯示即可。
2）對于非負型的數據（如自增ID、整型IP）來說，要優先使用無符號整型來存儲因為：無符號相對于有符號可以多出一倍的存儲空間
(N)中的N代表的是字符數，而不是字節數
使用UTF8存儲255個漢字 (255)=765個字節。過大的長度會消耗更多的內存2. 避免使用TEXT、BLOB數據類型，最常見的TEXT類型可以存儲64k的數據建議把BLOB或是TEXT列分離到單獨的擴展表中MySQL內存臨時表不支持TEXT、BLOB這樣的大數據類型，如果查詢中包含這樣的數據，在排序等操作時，就不能使用內存臨時表，必須使用磁盤臨時表進行。而且對于這種數據，MySQL還是要進行二次查詢，會使sql性能變得很差，但是不是說一定不能使用這樣的數據類型。如果一定要使用，建議把BLOB或是TEXT列分離到單獨的擴展表中，查詢時一定不要使用 * 而只需要取出必要的列，不需要TEXT列的數據時不要對該列進行查詢。因為MySQL對索引字段長度是有限制的，所以TEXT類型只能使用前綴索引，并且TEXT列上是不能有默認值的。3. 避免使用ENUM類型4. 盡可能把所有列定義為NOT NULL原因：
5. 使用（4個字節）或類型（8個字節）存儲時間 存儲的時間范圍 1970-01-01 00:00:01 ~ 2038-01-19-03:14:07。 占用4字節和INT相同，但比INT可讀性高超出取值范圍的使用類型存儲。經常會有人用字符串存儲日期型的數據（不正確的做法）：6. 同財務相關的金額類數據必須使用類型類型為精準浮點數，在計算時不會丟失精度。占用空間由定義的寬度決定，每4個字節可以存儲9位數字，并且小數點要占用一個字節?？捎糜诖鎯Ρ雀蟮恼蛿祿?。
四、索引設計規范
1. 限制每張表上的索引數量，建議單張表索引不超過5個索引并不是越多越好！索引可以提高效率同樣可以降低效率。索引可以增加查詢效率，但同樣也會降低插入和更新的效率，甚至有些情況下會降低查詢效率。因為l優化器在選擇如何優化查詢時，會根據統一信息，對每一個可以用到的索引來進行評估，以生成出一個最好的執行計劃，如果同時有很多個索引都可以用于查詢，就會增加MySQL優化器生成執行計劃的時間，同樣會降低查詢性能。2. 禁止給表中的每一列都建立單獨的索引5.6版本之前，一個sql只能使用到一個表中的一個索引，5.6以后，雖然有了合并索引的優化方式，但是還是遠遠沒有使用一個聯合索引的查詢方式好3. 每個表必須有個主鍵是一種索引組織表：數據的存儲的邏輯順序和索引的順序是相同的。每個表都可以有多個索引，但是表的存儲順序只能有一種 是按照主鍵索引的順序來組織表的。不要使用更新頻繁的列作為主鍵，不適用多列主鍵（相當于聯合索引） 不要使用UUID、MD5、HASH、字符串列作為主鍵（無法保證數據的順序增長）。主鍵建議使用自增ID值。
五、常見索引列建議
并不要將符合1和2中的字段的列都建立一個索引，通常將1、2中的字段建立聯合索引效果更好
六、如何選擇索引列的順序
建立索引的目的是：希望通過索引進行數據查找，減少隨機IO，增加查詢性能 ，索引能過濾出越少的數據，則從磁盤中讀入的數據也就越少。
七、避免建立冗余索引和重復索引
因為這樣會增加查詢優化器生成執行計劃的時間。
八、優先考慮覆蓋索引
對于頻繁的查詢優先考慮使用覆蓋索引。覆蓋索引：就是包含了所有查詢字段(where,, by,group by包含的字段)的索引覆蓋索引的好處：是以聚集索引的順序來存儲的，對于來說，二級索引在葉子節點中所保存的是行的主鍵信息，如果是用二級索引查詢數據的話，在查找到相應的鍵值后，還要通過主鍵進行二次查詢才能獲取我們真實所需要的數據。而在覆蓋索引中，二級索引的鍵值中可以獲取所有的數據，避免了對主鍵的二次查詢 ，減少了IO操作，提升了查詢效率。由于覆蓋索引是按鍵值的順序存儲的，對于IO密集型的范圍查找來說，對比隨機從磁盤讀取每一行的數據IO要少的多，因此利用覆蓋索引在訪問時也可以把磁盤的隨機讀取的IO轉變成索引查找的順序IO。
九、索引SET規范
盡量避免使用外鍵約束
十、數據庫SQL開發規范
1. 建議使用預編譯語句進行數據庫操作預編譯語句可以重復使用這些計劃，減少SQL編譯所需要的時間，還可以解決動態SQL所帶來的SQL注入的問題 只傳參數，比傳遞SQL語句更高效 相同語句可以一次解析，多次使用，提高處理效率。2. 避免數據類型的隱式轉換隱式轉換會導致索引失效。如： name,phone from where id = '111';3. 充分利用表上已經存在的索引如a like '3%'，（如果無前置%,只有后置%，是可以用到列上的索引的）如：有 a,b,c列的聯合索引，在查詢條件中有a列的范圍查詢，則在b,c列上的索引將不會被用到，在定義聯合索引時，如果a列要用到范圍查找的話，就要把a列放到聯合索引的右側。使用left join或 not 來優化not in操作因為not in 也通常會使用索引失效。4. 數據庫設計時，應該要對以后擴展進行考慮5. 程序連接不同的數據庫使用不同的賬號，進制跨庫查詢6. 禁止使用 * 必須使用 查詢原因：7. 禁止使用不含字段列表的語句如： into ('a','b','c');應使用 into t(c1,c2,c3) ('a','b','c');8. 避免使用子查詢，可以把子查詢優化為join操作通常子查詢在in子句中，且子查詢中為簡單SQL(不包含union、group by、order by、limit從句)時，才可以把子查詢轉化為關聯查詢進行優化。
子查詢性能差的原因：9. 避免使用JOIN關聯太多的表對于MySQL來說，是存在關聯緩存的，緩存的大小可以由參數進行設置。在MySQL中，對于同一個SQL多關聯（join）一個表，就會多分配一個關聯緩存，如果在一個SQL中關聯的表越多，所占用的內存也就越大。如果程序中大量的使用了多表關聯的操作，同時設置的也不合理的情況下，就容易造成服務器內存溢出的情況，就會影響到服務器數據庫性能的穩定性。同時對于關聯操作來說，會產生臨時表操作，影響查詢效率MySQL最多允許關聯61個表，建議不超過5個。10. 減少同數據庫的交互次數數據庫更適合處理批量操作 合并多個相同的操作到一起，可以提高處理效率11. 對應同一列進行or判斷時，使用in代替orin的值不要超過500個in操作可以更有效的利用索引，or大多數情況下很少能利用到索引。12. 禁止使用order by rand() 進行隨機排序會把表中所有符合條件的數據裝載到內存中，然后在內存中對所有數據根據隨機生成的值進行排序，并且可能會對每一行都生成一個隨機值，如果滿足條件的數據集非常大，就會消耗大量的CPU和IO及內存資源。推薦在程序中獲取一個隨機值，然后從數據庫中獲取數據的方式13. WHERE從句中禁止對列進行函數轉換和計算對列進行函數轉換或計算時會導致無法使用索引。· 不推薦：
· 推薦：
14. 在明顯不會有重復值時使用UNION ALL而不是. 拆分復雜的大SQL為多個小SQL
十一、數據庫操作行為規范
1. 超100萬行的批量寫（、、）操作，要分批多次進行操作主從環境中，大批量操作可能會造成嚴重的主從延遲，大批量的寫操作一般都需要執行一定長的時間，而只有當主庫上執行完成后sql中時間戳轉換日期格式，才會在其他從庫上執行，所以會造成主庫與從庫長時間的延遲情況大批量寫操作會產生大量日志，特別是對于row格式二進制數據而言，由于在row格式中會記錄每一行數據的修改，我們一次修改的數據越多，產生的日志量也就會越多，日志的傳輸和恢復所需要的時間也就越長，這也是造成主從延遲的一個原因。大批量修改數據，一定是在一個事務中進行的，這就會造成表中大批量數據進行鎖定，從而導致大量的阻塞sql中時間戳轉換日期格式，阻塞會對MySQL的性能產生非常大的影響。特別是長時間的阻塞會占滿所有數據庫的可用連接，這會使生產環境中的其他應用無法連接到數據庫，因此一定要注意大批量寫操作要進行分批。2. 對于大表使用pt---修改表結構對大表數據結構的修改一定要謹慎，會造成嚴重的鎖表操作，尤其是生產環境，是不能容忍的。pt---它會首先建立一個與原表結構相同的新表，并且在新表上進行表結構的修改，然后再把原表中的數據復制到新表中，并在原表中增加一些觸發器。把原表中新增的數據也復制到新表中，在行所有數據復制完成之后，把新表命名成原表，并把原來的表刪除掉。把原來一個DDL操作，分解成多個小的批次進行。3. 禁止為程序使用的賬號賦予super權限當達到最大連接數限制時，還運行1個有super權限的用戶連接super權限只能留給DBA處理問題的賬號使用。4. 對于程序連接數據庫賬號，遵循權限最小原則程序使用數據庫賬號只能在一個DB下使用，不準跨庫 程序使用的賬號原則上不準有drop權限。