这次从一张图说起,就是下面这幅图,当我画完他的时候,我就感觉无比的舒爽。让整个执行流程,可控,并且可扩展。还记得当初上学的时候,数学建模课上,老师为了“求证一张四条腿的椅子,四条腿处在一个平面上的概率”,写了满满四黑板板书,然后心满意足的,跟一脸蒙的我们说,“看,多美啊!”。我现在有点理解他当时的状态了。
有眼尖的同学,可能已经发现了,没错,这里借鉴了Flink的流程设计。
简单的说,输入-> 转换 -> 输出 经典的三段论式构造。
这里我们把输入 SourceFunction 和 输出 SinkFunction 进行了抽象,但是并没有像Flink那样,输入输出集成相同的接口,可以自由转换,从需求上来看,是没有必要Sql -to- Sql -to- Sql 的必要的。
在转换过程中,我们引用了DSL,来承接前面的SQL解析,以及后续的SQL生成,于是,自然的将转换分成了2段,即输入转换(SourceMapper) 和 输出转换(SinkMapper)
而定义转换与否,以及转换动如何完成,我们可以轻松的通过java自带的 Function 接口来实现。
一个输入是可以接对接N条输出的,输出的方向也完全由实现 SinkFunction 的对象来自实现。
如果后续,把任务并行化,Pipline 对外提供高阶函数的话, 画美不看...
DEMO:
- public static void main(String[] args) throws IOException {
- //输入
- FileSourceFunction fileSourceFunction = new FileSourceFunction();
- fileSourceFunction.init(new File("fff.txt"));
- //输出
- PrintlnSinkFunction<PrintStream> printSinkFunction = new PrintlnSinkFunction();
- ListSinkFunction listSinkFunction = new ListSinkFunction();
- ansformPepline tp = new TransformPepline();
- //添加输入输出
- .addSource(fileSourceFunction)
- .addSink(printSinkFunction)
- .addSink(listSinkFunction);
- //定制转换动作
- tp.addSourceMapFunction(new Function<String, String>() {
- SqlTransExecManager sqlTransExecManager = new SqlTransExecManager().build();
- @Override
- public String apply(String s) {
- return sqlTransExecManager.doParseAndTransform(s).getTargetSql();
- }
- });
- //执行
- tp.execute();
- System.out.println(listSinkFunction.getLists());
- }
本文转载自微信公众号「麒思妙想」,可以通过以下二维码关注。转载本文请联系麒思妙想公众号。