如题所述
Impala自称数据查询效率比Hive快几倍甚至数十倍,它之所以这么快的原因大致有以下几点:
真正的MPP查询引擎。
使用C++开发而不是Java,降低运行负荷。
运行时代码生成(LLVM IR),提高效率。
全新的执行引擎(不是Mapreduce)。
在执行SQL语句的时候,Impala不会把中间数据写入到磁盘,而是在内存中完成了所有的处理。
使用Impala的时候,查询任务会马上执行而不是生产Mapreduce任务,这会节约大量的初始化时间。
Impala查询计划解析器使用更智能的算法在多节点上分布式执行各个查询步骤,同时避免了sorting和shuffle这两个非常耗时的阶段,这两个阶段往往是不需要的。
Impala拥有HDFS上面各个data block的信息,当它处理查询的时候能够在各个datanode上面更均衡的分发查询。
另外一个关键原因是,Impala为每个查询产生汇编级的代码,当Impala在本地内存中运行的时候,这些汇编代码执行效率比其它任何代码框架都更快,因为代码框架会增加额外的延迟。
温馨提示:答案为网友推荐,仅供参考
第1个回答 2015-05-02
hive主要是走mapreduce。这个是hadoop框架的一个应用,使用java写的,,Impalad分为Java前端与C++处理后端