中文编程
首发于中文编程

Antlr4: 修改语法规则更接近普通BNF格式

@沈默 在上文Antlr4添加中文变量赋求值,括号,各种问题评论中指出, 语法规则描述依赖于Antlr4生成的语法分析器的默认分析方法, 比如运算符的左联系, 以及优先级处理等等. 于是将语法修改为下面(源码版本号: program-in-chinese/quan5):

表达式: 求积表达式 (('+'|'-') 求积表达式)*;

求积表达式: 最小表达式 (('*'|'/'|'×'|'÷') 最小表达式)*;

最小表达式
  : 字面量
  | '(' 表达式 ')'
  ;

字面量
  : T
  | T变量名
  ;

这样做的结果是, Antlr4会分析生成一个多叉树. 比如 1+2-3, 生成树如下:

于是在生成抽象语法树时手动转换为二叉树. 代码如下:

private 节点 构建二叉树(List<ParseTree> 子节点) {
    if (子节点.isEmpty()) {
      return null;
    } else if (子节点.size() == 1) {
      return visit(子节点.get(0));
    } else {
      ParseTree 最后运算符节点 = 子节点.get(子节点.size() - 2);
      运算符号 运算符 = ((TerminalNodeImpl)最后运算符节点).symbol.getType() == 圈5Parser.T加 ? 运算符号. : 运算符号.;
      运算式节点 节点 = new 运算式节点();
      节点.运算符 = 运算符;
      节点.左子节点 = 构建二叉树(子节点.subList(0, 子节点.size() - 2));
      节点.右子节点 = visit(子节点.get(子节点.size() - 1));
      return 节点;
    }
  }

开发过程中发现一些坑(如果是小白错误请指出). 一个比较费解的是, 不能省去"字面量"规则如下:

最小表达式
  : T
  | T变量名
  | '(' 表达式 ')'
  ;

不然生成的分析器会有编译错误:

com/中文编程/圈5/分析器/圈5Parser.java:403: error: unreachable statement
				enterOuterAlt(_localctx, 3);

Antlr4有个github库汇集了社区维护的各种语言的语法规则文件, 其中有Java8, 根据注释说明它的语法规则描述"极度"接近Java标准, 于是参考了它的实现. 其中看到这样的模式(已转成中文):

求和表达式
	:	求积表达式
	|	求和表达式 '+' 求积表达式
	|	求和表达式 '-' 求积表达式
	;

求积表达式
	:	最小表达式
	|	求积表达式 '*' 最小表达式
	|	求积表达式 '/' 最小表达式
	;

感觉这样会让语法树转换这一步的实现更加方便(应该可以省去多叉树转换成二叉树的那个递归算法). 在添加新功能之前, 打算尝试修改成这样.


已完成:

表达式
  : 求积表达式
  | 表达式 '+' 求积表达式
  | 表达式 '-' 求积表达式;

求积表达式
  : 最小表达式
  | 求积表达式 '*' 最小表达式
  | 求积表达式 '/' 最小表达式
  | 求积表达式 '×' 最小表达式
  | 求积表达式 '÷' 最小表达式;

的确省去了多叉树转换. 代码整理完毕(program-in-chinese/quan5). 接下去, 是条件判断还是函数定义?


补记

Antlr4自带的语法分析可视化工具, 以antlr/grammars-v4为例:

$ alias grun='java -cp "{PATH_TO_antlr-4.7-complete.jar}:$CLASSPATH" org.antlr.v4.runtime.misc.TestRig'
$ java -cp "{PATH_TO_antlr-4.7-complete.jar}:$CLASSPATH" org.antlr.v4.Tool -visitor  -no-listener Java8.g4 
$ javac -cp "{PATH_TO_antlr-4.7-complete.jar}:$CLASSPATH" Java8*.java
$ grun Java8 expression -tree <--- 将输入字符串进行语法解析, 生成树结构
Warning: TestRig moved to org.antlr.v4.gui.TestRig; calling automatically
a>1
(expression (assignmentExpression (conditionalExpression (conditionalOrExpression (conditionalAndExpression (inclusiveOrExpression (exclusiveOrExpression (andExpression (equalityExpression (relationalExpression (relationalExpression (shiftExpression (additiveExpression (multiplicativeExpression (unaryExpression (unaryExpressionNotPlusMinus (postfixExpression (expressionName a)))))))) > (shiftExpression (additiveExpression (multiplicativeExpression (unaryExpression (unaryExpressionNotPlusMinus (postfixExpression (primary (primaryNoNewArray_lfno_primary (literal 1)))))))))))))))))))
$ grun Java8 expression -gui <--- 图形化
Warning: TestRig moved to org.antlr.v4.gui.TestRig; calling automatically
2>1
^D

编辑于 2018-01-16

文章被以下专栏收录

    在所有编程语言和领域中尝试编写中文代码,开发相关工具,总结经验,一致代码风格。包括中文命名,汉化现有语言,创造中文语法的编程语言等等。作为最熟悉的母语,用来编写代码会让代码更容易被自己和母语相同的其他开发者理解。基于英文的编程语言和框架中,使用中文命名有时有技术问题。希望这里为后人趟雷,填坑。多数现有API是英文的,这里也会对其中一些常用的进行汉化。当然,这里也会对基于中文的编程语言进行探讨。包括汉化基于英文的编程语言,以及创造新的编程语言。

    http://zhuanlan.zhihu.com/marisa/20419321