前言

在《Spark SQL内核剖析》书中4.3章节，谈到Catalyst体系中生成的抽象语法树的节点都是以Context来结尾，在ANLTR4以及生成的SqlBaseParser解析SQL生成，其源码部分就是语法解析，其生成的抽象语法树的节点都是ParserRuleContext的子类。

提出问题

ANLTR4解析SQL生成抽象语法树，最终这颗树长成什么样子，如何查看？

源码分析

测试示例

spark.sql("select id, count(name) from student group by id").show()

源码入口

SparkSession的sql 方法如下：

def sql(sqlText: String): DataFrame = {

    // TODO 1. 生成LogicalPlan

    // sqlParser 为 SparkSqlParser

    val logicalPlan: LogicalPlan = sessionState.sqlParser.parsePlan(sqlText)

    // 根据 LogicalPlan

    val frame: DataFrame = Dataset.ofRows(self, logicalPlan)

    frame // sqlParser

  }

定位SparkSqlParser

入口源码涉及到SessionState这个关键类，其初始化代码如下：

lazy val sessionState: SessionState = {

    parentSessionState

      .map(_.clone(this))

      .getOrElse {

        // 构建 org.apache.spark.sql.internal.SessionStateBuilder

        val state = SparkSession.instantiateSessionState(

          SparkSession.sessionStateClassName(sparkContext.conf),

          self)

        initialSessionOptions.foreach { case (k, v) => state.conf.setConfString(k, v) }

        state

      }

  }

org.apache.spark.sql.SparkSession$#sessionStateClassName 方法具体如下：

private def sessionStateClassName(conf: SparkConf): String = {

    // spark.sql.catalogImplementation, 分为 hive 和 in-memory模式，默认为 in-memory 模式

    conf.get(CATALOG_IMPLEMENTATION) match {

      case "hive" => HIVE_SESSION_STATE_BUILDER_CLASS_NAME // hive 实现 org.apache.spark.sql.hive.HiveSessionStateBuilder

      case "in-memory" => classOf[SessionStateBuilder].getCanonicalName // org.apache.spark.sql.internal.SessionStateBuilder

    }

  }

其中，这里用到了builder模式，org.apache.spark.sql.internal.SessionStateBuilder就是用来构建 SessionState的。在 SparkSession.instantiateSessionState 中有具体说明，如下：

/**

   * Helper method to create an instance of `SessionState` based on `className` from conf.

   * The result is either `SessionState` or a Hive based `SessionState`.

   */

  private def instantiateSessionState(

      className: String,

      sparkSession: SparkSession): SessionState = {

    try {

      // org.apache.spark.sql.internal.SessionStateBuilder

      // invoke `new [Hive]SessionStateBuilder(SparkSession, Option[SessionState])`

      val clazz = Utils.classForName(className)

      val ctor = clazz.getConstructors.head

      ctor.newInstance(sparkSession, None).asInstanceOf[BaseSessionStateBuilder].build()

    } catch {

      case NonFatal(e) =>

        throw new IllegalArgumentException(s"Error while instantiating '$className':", e)

    }

  }

其中，BaseSessionStateBuilder下面有两个主要实现，分别为 org.apache.spark.sql.hive.HiveSessionStateBuilder（hive模式） 和 org.apache.spark.sql.internal.SessionStateBuilder（in-memory模式，默认）

org.apache.spark.sql.internal.BaseSessionStateBuilder#build 方法，源码如下：

/**

   * Build the [[SessionState]].

   */

  def build(): SessionState = {

    new SessionState(

      session.sharedState,

      conf,

      experimentalMethods,

      functionRegistry,

      udfRegistration,

      () => catalog,

      sqlParser,

      () => analyzer,

      () => optimizer,

      planner,

      streamingQueryManager,

      listenerManager,

      () => resourceLoader,

      createQueryExecution,

      createClone)

  }

SessionState中，包含了很多的参数，关键参数介绍如下：

conf：SparkConf对象，对SparkSession的配置

functionRegistry：FunctionRegistry对象，负责函数的注册，其内部维护了一个map对象用于维护注册的函数。

UDFRegistration：UDFRegistration对象，用于注册UDF函数，其依赖于FunctionRegistry

catalogBuilder: () => SessionCatalog：返回SessionCatalog对象，其主要用于管理SparkSession的Catalog

sqlParser: ParserInterface, 实际为 SparkSqlParser 实例，其内部调用ASTBuilder将SQL解析为抽象语法树

analyzerBuilder: () => Analyzer, org.apache.spark.sql.internal.BaseSessionStateBuilder.analyzer 自定义 org.apache.spark.sql.catalyst.analysis.Analyzer.Analyzer

optimizerBuilder: () => Optimizer, // org.apache.spark.sql.internal.BaseSessionStateBuilder.optimizer --> 自定义 org.apache.spark.sql.execution.SparkOptimizer.SparkOptimizer

planner: SparkPlanner, // org.apache.spark.sql.internal.BaseSessionStateBuilder.planner --> 自定义 org.apache.spark.sql.execution.SparkPlanner.SparkPlanner

resourceLoaderBuilder: () => SessionResourceLoader，返回资源加载器，主要用于加载函数的jar或资源

createQueryExecution: LogicalPlan => QueryExecution：根据LogicalPlan生成QueryExecution对象

parsePlan方法

SparkSqlParser没有该方法的实现，具体是现在其父类 AbstractSqlParser中，如下：

/** Creates LogicalPlan for a given SQL string. */

    // TODO 根据 sql语句生成 逻辑计划 LogicalPlan

  override def parsePlan(sqlText: String): LogicalPlan = parse(sqlText) { parser =>

      val singleStatementContext: SqlBaseParser.SingleStatementContext = parser.singleStatement()

    astBuilder.visitSingleStatement(singleStatementContext) match {

      case plan: LogicalPlan => plan

      case _ =>

        val position = Origin(None, None)

        throw new ParseException(Option(sqlText), "Unsupported SQL statement", position, position)

    }

  }

其中 parse 方法后面的方法是一个回调函数，它在parse 方法中被调用，如下：

org.apache.spark.sql.execution.SparkSqlParser#parse源码如下：

private val substitutor = new VariableSubstitution(conf) // 参数替换器

  protected override def parse[T](command: String)(toResult: SqlBaseParser => T): T = {

    super.parse(substitutor.substitute(command))(toResult)

  }

其中，substitutor是一个参数替换器，用于把SQL中的参数都替换掉，继续看其父类AbstractSqlParser的parse 方法：

protected def parse[T](command: String)(toResult: SqlBaseParser => T): T = {

    logDebug(s"Parsing command: $command")

    // 词法分析

    val lexer = new SqlBaseLexer(new UpperCaseCharStream(CharStreams.fromString(command)))

    lexer.removeErrorListeners()

    lexer.addErrorListener(ParseErrorListener)

    lexer.legacy_setops_precedence_enbled = SQLConf.get.setOpsPrecedenceEnforced

    // 语法分析

    val tokenStream = new CommonTokenStream(lexer)

    val parser = new SqlBaseParser(tokenStream)

    parser.addParseListener(PostProcessor)

    parser.removeErrorListeners()

    parser.addErrorListener(ParseErrorListener)

    parser.legacy_setops_precedence_enbled = SQLConf.get.setOpsPrecedenceEnforced

    try {

      try {

        // first, try parsing with potentially faster SLL mode

        parser.getInterpreter.setPredictionMode(PredictionMode.SLL)

        // 使用 AstBuilder 生成 Unresolved LogicalPlan

        toResult(parser)

      }

      catch {

        case e: ParseCancellationException =>

          // if we fail, parse with LL mode

          tokenStream.seek(0) // rewind input stream

          parser.reset()

          // Try Again.

          parser.getInterpreter.setPredictionMode(PredictionMode.LL)

          toResult(parser)

      }

    }

    catch {

      case e: ParseException if e.command.isDefined =>

        throw e

      case e: ParseException =>

        throw e.withCommand(command)

      case e: AnalysisException =>

        val position = Origin(e.line, e.startPosition)

        throw new ParseException(Option(command), e.message, position, position)

    }

  }

在这个方法中调用ANLTR4的API将SQL转换为AST抽象语法树，然后调用 toResult(parser) 方法，这个 toResult 方法就是parsePlan 方法的回调方法。

截止到调用astBuilder.visitSingleStatement 方法之前， AST抽象语法树已经生成。

打印生成的AST

修改源码

下面，看 astBuilder.visitSingleStatement  方法：

override def visitSingleStatement(ctx: SingleStatementContext): LogicalPlan = withOrigin(ctx) {

    val statement: StatementContext = ctx.statement

    printRuleContextInTreeStyle(statement, 1)

    // 调用accept 生成 逻辑算子树AST

    visit(statement).asInstanceOf[LogicalPlan]

  }

在使用访问者模式访问AST节点生成UnResolved LogicalPlan之前，我定义了一个方法用来打印刚解析生成的抽象语法树， printRuleContextInTreeStyle 代码如下：

/**

   * 树形打印抽象语法树

   */

  private def printRuleContextInTreeStyle(ctx: ParserRuleContext, level:Int): Unit = {

    val prefix:String = "|"

    val curLevelStr: String = "-" * level

    val childLevelStr: String = "-" * (level + 1)

    println(s"${prefix}${curLevelStr} ${ctx.getClass.getCanonicalName}")

    val children: util.List[ParseTree] = ctx.children

    if( children == null || children.size() == 0) {

      return

    }

    children.iterator().foreach {

      case context: ParserRuleContext => printRuleContextInTreeStyle(context, level + 1)

      case _ => println(s"${prefix}${childLevelStr} ${ctx.getClass.getCanonicalName}")

    }

  }

三种SQL打印示例

SQL示例1（带where）

select name from student where age > 18

其生成的AST如下：

|- org.apache.spark.sql.catalyst.parser.SqlBaseParser.StatementDefaultContext

|-- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryContext

|--- org.apache.spark.sql.catalyst.parser.SqlBaseParser.SingleInsertQueryContext

|---- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryTermDefaultContext

|----- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryPrimaryDefaultContext

|------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.QuerySpecificationContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QuerySpecificationContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NamedExpressionSeqContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NamedExpressionContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ExpressionContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.PredicatedContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.ColumnReferenceContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|-------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|--------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.FromClauseContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.FromClauseContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.RelationContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.TableNameContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.TableIdentifierContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.TableAliasContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QuerySpecificationContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.PredicatedContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ComparisonContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ColumnReferenceContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ComparisonOperatorContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ComparisonOperatorContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ConstantDefaultContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NumericLiteralContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.IntegerLiteralContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IntegerLiteralContext

|---- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryOrganizationContext

SQL示例2（带排序）

select name from student where age > 18 order by id desc

其生成的AST如下：

|- org.apache.spark.sql.catalyst.parser.SqlBaseParser.StatementDefaultContext

|-- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryContext

|--- org.apache.spark.sql.catalyst.parser.SqlBaseParser.SingleInsertQueryContext

|---- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryTermDefaultContext

|----- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryPrimaryDefaultContext

|------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.QuerySpecificationContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QuerySpecificationContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NamedExpressionSeqContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NamedExpressionContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ExpressionContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.PredicatedContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.ColumnReferenceContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|-------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|--------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.FromClauseContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.FromClauseContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.RelationContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.TableNameContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.TableIdentifierContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.TableAliasContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QuerySpecificationContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.PredicatedContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ComparisonContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ColumnReferenceContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ComparisonOperatorContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ComparisonOperatorContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ConstantDefaultContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NumericLiteralContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.IntegerLiteralContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IntegerLiteralContext

|---- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryOrganizationContext

|----- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryOrganizationContext

|----- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryOrganizationContext

|----- org.apache.spark.sql.catalyst.parser.SqlBaseParser.SortItemContext

|------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.ExpressionContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.PredicatedContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ColumnReferenceContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.SortItemContext

SQL示例2（带分组）

select id, count(name) from student group by id

其生成的AST如下：

|- org.apache.spark.sql.catalyst.parser.SqlBaseParser.StatementDefaultContext

|-- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryContext

|--- org.apache.spark.sql.catalyst.parser.SqlBaseParser.SingleInsertQueryContext

|---- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryTermDefaultContext

|----- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryPrimaryDefaultContext

|------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.QuerySpecificationContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QuerySpecificationContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NamedExpressionSeqContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NamedExpressionContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ExpressionContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.PredicatedContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.ColumnReferenceContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|-------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|--------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NamedExpressionSeqContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.NamedExpressionContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ExpressionContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.PredicatedContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.FunctionCallContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QualifiedNameContext

|-------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|--------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|---------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.FunctionCallContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ExpressionContext

|-------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.PredicatedContext

|--------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|---------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ColumnReferenceContext

|----------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|------------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.FunctionCallContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.FromClauseContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.FromClauseContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.RelationContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.TableNameContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.TableIdentifierContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.TableAliasContext

|------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.AggregationContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.AggregationContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.AggregationContext

|-------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ExpressionContext

|--------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.PredicatedContext

|---------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ValueExpressionDefaultContext

|----------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.ColumnReferenceContext

|------------ org.apache.spark.sql.catalyst.parser.SqlBaseParser.IdentifierContext

|------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|-------------- org.apache.spark.sql.catalyst.parser.SqlBaseParser.UnquotedIdentifierContext

|---- org.apache.spark.sql.catalyst.parser.SqlBaseParser.QueryOrganizationContext

总结

在本篇文章中，主要从测试代码出发，到如何调用ANTLR4解析SQL得到生成AST，并且修改了源码来打印这个AST树。尽管现在看来，使用ANTLR解析SQL生成AST是一个black box，但对于Spark SQL来说，其后续流程的输入已经得到。

如何查看SparkSQL 生成的抽象语法树？的更多相关文章

  1. 编译器开发系列--Ocelot语言1.抽象语法树

    从今天开始研究开发自己的编程语言Ocelot,从<自制编译器>出发,然后再自己不断完善功能并优化. 编译器前端简单,就不深入研究了,直接用现成的一款工具叫JavaCC,它可以生成抽象语法树 ...

  2. javascript编写一个简单的编译器(理解抽象语法树AST)

    javascript编写一个简单的编译器(理解抽象语法树AST) 编译器 是一种接收一段代码,然后把它转成一些其他一种机制.我们现在来做一个在一张纸上画出一条线,那么我们画出一条线需要定义的条件如下: ...

  3. 理解Babel是如何编译JS代码的及理解抽象语法树(AST）

    Babel是如何编译JS代码的及理解抽象语法树(AST) 1. Babel的作用是?   很多浏览器目前还不支持ES6的代码,但是我们可以通过Babel将ES6的代码转译成ES5代码,让所有的浏览器都 ...

  4. JavaScript的工作原理：解析、抽象语法树（AST）+ 提升编译速度5个技巧

    这是专门探索 JavaScript 及其所构建的组件的系列文章的第 14 篇. 如果你错过了前面的章节,可以在这里找到它们: JavaScript 是如何工作的:引擎,运行时和调用堆栈的概述! Jav ...

  5. AST抽象语法树 Javascript版

    在javascript世界中,你可以认为抽象语法树(AST)是最底层. 再往下,就是关于转换和编译的"黑魔法"领域了. 现在,我们拆解一个简单的add函数 function add ...

  6. AST抽象语法树

    抽象语法树简介 (一)简介 抽象语法树(abstract syntax code,AST)是源代码的抽象语法结构的树状表示,树上的每个节点都表示源代码中的一种结构,这所以说是抽象的,是因为抽象语法树并 ...

  7. 【Static Program Analysis - Chapter 2】 代码的表征之抽象语法树

    抽象语法树:AbstractSyntaxTrees 定义(wiki): 在计算机科学中,抽象语法树(abstract syntax tree或者缩写为AST),或者语法树(syntax tree),是 ...

  8. 抽象语法树(AST)

    AST描述 在计算机科学中,抽象语法树(AST)或语法树是用编程语言编写的源代码的抽象语法结构的树表示.树的每个节点表示在源代码中出现的构造.语法是“抽象的”,因为它不代表真实语法中出现的每个细节,而 ...

  9. Babel（抽象语法树，又称AST）

    文章:https://juejin.im/post/5a9315e46fb9a0633a711f25 https://github.com/jamiebuilds/babel-handbook/blo ...

随机推荐

  1. VUE CLI环境搭建文档

    VUE CLI环境搭建文档 1.安装Node.js 下载地址 https://nodejs.org/zh-cn/download/ 2.全局安装VUE CLI win+R键打开运行cmd窗口输入一下代 ...

  2. 主席树 - 查询某区间第 K 大

    You are working for Macrohard company in data structures department. After failing your previous tas ...

  3. 【UWP】使用 LiteDB 存储数据

    序言: 在 UWP 中,常见的存储数据方式基本上就两种.第一种方案是 UWP 框架提供的 ApplicationData Settings 这一系列的方法,适用于存放比较轻量的数据,例如存个 Bool ...

  4. crawler 听课笔记 碎碎念 1 初步了解各种选择器极其简单的使用

    css中 身份证  id对应# 衣服      class对应 . 图片 pyquery...as pq html= request.get(url=''.....'') doc=pq(html) d ...

  5. Oracle GoldenGate 12.3微服务架构指北

    Microservices Architecture introduction Microservices Architecture is a method or approach to develo ...

  6. 从0开发3D引擎（九）：实现最小的3D程序-“绘制三角形”

    目录 上一篇博文 运行测试截图 需求分析 目标 特性 头脑风暴 确定需求 总体设计 具体实现 新建Engine3D项目 实现上下文 实现_init 实现"获得WebGL上下文" 实 ...

  7. 造轮子-toast组件的实现(下)

    1.解决 toast 中传入 html 的问题,通过假的 slot 来实现 // plugins.js toast.$slots.default = [message] // toast.vue &l ...

  8. 说实话 NuGet Package Manager 网速不是一般的慢

  9. CTRL_IKun团队项目总结

    1. 团队项目-总结 这个作业属于哪个课程 课程链接 这个作业要求在哪里 作业要求 团队名称 CTRP-lkun 这个作业的目标 团队项目总结,每个人的收获和感悟 Github地址 Github 2. ...

  10. Qt下Armadillo矩阵函数库的添加

    其实本文严格说只能算VS2013添加Armadillo教程,因为为了省事,用的是VS2013编译器版本的Qt,Armadillo也直接用了自带例子中的blas_win64_MT.dll.blas_wi ...