51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 1088|回复: 0
打印 上一主题 下一主题

如何更好的操作MySQL源码解析?

[复制链接]
  • TA的每日心情
    无聊
    3 天前
  • 签到天数: 1050 天

    连续签到: 1 天

    [LV.10]测试总司令

    跳转到指定楼层
    1#
    发表于 2022-8-10 11:27:28 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
    一、MySQL执行计划介绍
      在MySQL中,执行计划的实现是基于JOIN和QEP_TAB?这两个对象。其中JOIN类表示一个查询语句块的优化和执行,每个select查询语句(即Query_block对象)在处理的时候,都会被当做JOIN对象,其定义在sql/sql_optimizer.h。
      
    1. QEP_TAB是Query Execution Plan Table?的缩写,这里的表Table对象主要包含物化表、临时表、派生表、常量表等。JOIN::optimize()?是优化执行器的统一入口,在这里会把一个查询语句块Query_block?最终优化成QEP_TAB。
    复制代码

      在MySQL-8.0.22版本之后,又引入访问方式AccessPath?和执行迭代器Iterator对象,再结合JOIN和QEP_TAB对象,最终得到整个解析计划的执行路径。
      二、MySQL执行计划代码概览
      本文主要基于MySQL-8.0.25版本,进行说明。
      
    1. 优化器的入口函数:bool JOIN::optimize()?,对应代码文件sql/sql_optimizer.cc。
    复制代码
    1.  // 主要功能是把一个查询块Query_block优化成一个QEP_TAB,得到AccessPath
    2.   bool JOIN::optimize() {
    3.    ...
    4.    // 下面主要是为了可以借助INFORMATION_SCHEMA.OPTIMIZER_TRACE表,跟踪优化器的执行状态和执行步骤
    5.    Opt_trace_context *const trace = &thd->opt_trace;
    6.    Opt_trace_object trace_wrapper(trace);
    7.    Opt_trace_object trace_optimize(trace, "join_optimization");
    8.    trace_optimize.add_select_number(Query_block->select_number);
    9.    Opt_trace_array trace_steps(trace, "steps");
    10.    ...
    11.    // 窗口函数装配优化
    12.    if (has_windows && Window::setup_windows2(thd, m_windows))
    13.    ...
    14.    // 拷贝Query_block上的条件副本到JOIN结构关联的成员对象,为后续优化做准备
    15.    if (Query_block->get_optimizable_conditions(thd, &where_cond, &having_cond))
    16.    ...
    17.    // 统计抽象语法树中的叶节点表,其中leaf_tables是在Query_block::setup_tables中进行装配
    18.    tables_list = Query_block->leaf_tables;
    19.    ...
    20.    // 分区裁剪
    21.    if (Query_block->partitioned_table_count && prune_table_partitions()) {
    22.    ...
    23.    // 尝试把聚合函数COUNT()、MIN()、MAX()对应的值,替换成常量
    24.    if (optimize_aggregated_query(thd, Query_block, *fields, where_cond,
    25.                   &outcome)) {
    26.    ...
    27.    // 采用超图算法生成执行计划,注意超图算法通过set optimizer_switch="hypergraph_optimizer=on"方式启用
    28.    if (thd->lex->using_hypergraph_optimizer) {
    29.     FindBestQueryPlan(thd, Query_block, /*trace=*/nullptr);
    30.     // 如果Join优化器是超图算法,处理结束直接返回
    31.     return false;
    32.    }
    33.    ...
    复制代码
    下面代码主要涉及Join优化器连接方式为左深树的情况,主要用到join_tab数组来进行组织关联。
      根据代价计算表的连接方式,核心函数make_join_plan()?,实现非常复杂。比较关键的函数是bool Optimize_table_order::choose_table_order()。
      其主要思想是通过贪婪搜索Optimize_table_order::greedy_search?,根据最小的连接代价,进行有限的穷举搜索(细节参考Optimize_table_order::best_extension_by_limited_search)最终找到近似最优解的连接排列组合。
    1. if (make_join_plan()) {
    2.    ...
    3.    // 语句块谓词条件下推,提升过滤性能
    4.    if (make_join_Query_block(this, where_cond)) {
    5.    ...
    6.    // 优化order by/distinct语句
    7.    if (optimize_distinct_group_order()) return true;
    8.    ...
    9.    // 分配QEP_TAB数组
    10.    if (alloc_qep(tables)) return (error = 1); /* purecov: inspected */
    11.    ...
    12.    // 执行计划细化,优化子查询和半连接的情况,具体策略可以参考mariadb的文档:
    13.    // https:// mariadb.com/kb/en/optimization-strategies/
    14.    // 关键代码是setup_semijoin_dups_elimination,主要对半连接关联的策略进行装配
    15.    if (make_join_readinfo(this, no_jbuf_after))
    16.    ...
    17.    // 为处理group by/order by创建开辟临时表空间
    18.    if (make_tmp_tables_info()) return true;
    19.    ...
    20.    // 生成访问方式AccessPath,供后续迭代器Iterator访问使用
    21.    create_access_paths();
    22.    ...
    23.    return false;
    24.   }
    复制代码
    三、MySQL执行计划总结
      MySQL的执行计划是整个数据库最核心的模块,其代码也在不断地迭代更新过程中。执行计划中优化器的好坏和背后的搜索策略、数学模型紧密相关。MySQL支持的搜索策略有穷举搜索、贪婪搜索,对应的Join优化器有左深树算法和超图算法,整个优化过程主要是基于CBO策略进行优化。
      执行计划运行的过程,实际上就是一个动态规划的过程。这个过程的优劣,快慢决定了MySQL和主流商业数据库的差距。只有深入地理解MySQL优化器的运行原理,才能帮助我们积极有效地探索更高性能优化的可能。



    分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
    收藏收藏
    回复

    使用道具 举报

    本版积分规则

    关闭

    站长推荐上一条 /1 下一条

    小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

    GMT+8, 2024-11-24 18:32 , Processed in 0.066301 second(s), 23 queries .

    Powered by Discuz! X3.2

    © 2001-2024 Comsenz Inc.

    快速回复 返回顶部 返回列表