spark和hadoop的区别

Spark，是一种专为大规模数据处理而设计的快速通用的计算引擎，是一种通用的大数据计算框架。Spark包含了大数据领域常见的各种计算框架：Spark Core用于离线计算，Spark SQL用于交互式查询，Spark Streaming用于实时流式计算，Spark MLlib用于机器学习……

Hadoop是一个由Apache基金会所开发的分布式系统基础架构，主要是由HDFS和MapReduce组成。 Hadoop软件库是一个允许使用简单编程模型跨计算机集群处理大型数据集合的框架，其设计的初衷是将单个服务器扩展成上千个机器组成的一个集群为大数据提供计算服务，其中每个机器都提供本地计算和存储服务。

Spark 是一种与 Hadoop 相似的开源集群计算环境，但是两者之间还存在一些不同之处。

一、原理不同：Spark主要用于大数据的计算，而Hadoop主要用于大数据的存储(比如HDFS、Hive、HBase等)，以及资源调度(Yarn)。

二、反应速度不同：Spark会在内存中以接近“实时”的时间完成所有的数据分析;Hadoop是磁盘级计算，计算时需要在磁盘中读取数据，把数据进行切片计算用这种方式来处理大量的离线数据。

三、处理数据不同：Spark通过在内存中缓存处理的数据，提高了处理流式数据和迭代式数据的性能;Hadoop适合处理静态数据。

四、存放位置不同：Spark中间结果优先存放在内存中，内存不够再存放在磁盘中;Hadoop中间结果存放在HDFS中。

其它答案

椰子水 2020-06-22 18:56:36

Hadoop是分布式数据存储架构，它将巨大的数据集分派到一个由普通计算机组成的集群中的多个节点进行存储，降低了硬件的成本。Spark是处理分布式存储的大数据的工具，它要借助hdfs的数据存储。