hive与hbase区别
Apache Hive 和 Apache HBase 都是大数据中不可思议的工具。虽然它们的功能存在一些重叠,但 Apache Hive 和 Apache HBase 都具有独特的品质,使它们更适合特定任务。一些主要区别包括:
虽然这两个工具都是Hadoop的衍生产品,但它们不为用户提供相同的功能。然而,尽管存在差异,Apache Hive 和 Apache HBase 都是处理大数据时优先考虑的两块工具和解决方案。
每个工具都有自己的优缺点。因此,Hive 和 HBase各自都存在一些限制。
首先,虽然Hive也具有非常基本的 ACID 功能,但它们没有像 MYSQL 那样成熟完备的产品架构,速度无法满足日常OLTP型业务。
Hive 查询通常也具有高延迟。由于它在 Hadoop 上运行批处理,因此获取查询结果可能需要几分钟甚至1小时。此外,更新数据可能既复杂又耗时。
Hive 不是擅长用于查询数据集(尤其是大数据集中)当中的部分数据,大多数用户倾向于依赖传统的 RDBMS (关系型数据)来处理这些数据集。
HBase 查询采用自定义语言,需要经过培训才能学习。HBase 并不完全符合 ACID,尽管它确实支持某些属性。
HBase 可以通过协同处理来处理小数据,但它仍然不如 RDBMS(关系型数据库) 有用。
1、Hive 应该用于对一段时间内收集的数据进行分析查询——例如,计算趋势或网站日志。
2、HDFS 的 SQL 查询引擎 - 您可以利用 Hive的HQL来查询处理 Hadoop 数据集,然后将它们连接到相应的BI工具,进行相关报表展示。
1、HBase 非常适合实时查询大数据(例如 Facebook 曾经将其用于消息传递)。Hive 不能用于实时查询,因为速度很慢。
2、HBase 主要用于将非结构化 Hadoop 数据作为一个湖来存储和处理。您也可以将 HBase 用作所有 Hadoop 数据的仓库。
3、大量数据需要长期保存, 且数量会持续增长,而且瞬间写入量很大。
目前MySQL被广泛地应用在Internet上的中小型网站中
由于其体积小、速度快、总体拥有成本低,尤其是开放源开源数据库MySQLMySQL是一个开放源码的小型关联式数据库管理系统,开发者为瑞典MySQLAB公司
目前MySQL被广泛地应用在Internet上的中小型网站中
由于其体积小、速度快、总体拥有成本低,尤其是开放源码这一特点,许多中小型网站为了降低网站总体拥有成本而选择了MySQL作为网站数据库
盘点:开源社区那些免费的数据库软件MySQL为多种编程语言提供了API,包括C、C、C#、Delphi、Eiffel、Java、Perl、PHP、Python、Ruby和Tcl等
而其自身是采用C和C编写的,使用了多种编译器进行测试,所以,MySQL能够保证源代码具有很强的可移植性
这样的一款数据库,自然能够支持几乎所有的操作系统,从Unix、Linux到Windows,具体包括AIX、BSDi、FreeBSD、HP-UX、Linux、MacOS、、NetBSD、OpenBSD、OS/2Wrap、Solaris、SunOS、Windows等多种操作系统
最重要的是,它是一个可以处理拥有上千万条记录的大型数据库
与此同时,MySQL也产生了很多分支版本的数据库也非常值得推荐
首先是MariaDB,它是一个采用Maria存储引擎的MySQL分支版本,是由原来MySQL的作者创的公司所开发的免费开源的数据库服务器
与MySQL相比较,MariaDB更强的地方在于它拥有的引擎,包括Maria存储引擎、PBXT存储引擎、XtraDB存储引擎、FederatedX存储引擎,它能够更快的复制查询处理、运行的速度更快、更好的功能测试以及支持对Unicode的排序等
其次是rcona,它为MySQL数据库服务器进行了改进,在功能和性能上较MySQL有着很显著的提升
该版本提升了在高负载情况下的InnoDB的性能,同时,它还为DBA提供一些非常有用的性能诊断工具,并且提供很多参数和命令来控制服务器行为
第三是,它使用了诸如google-mysql-tools、和OpenQuery对MySQL进行改造
并且,它只包含MySQL的服务器版,并没有提供相应对MySQL的Connector和GUI工具进行改进
非关系型数据库NoSQL从NoSQL的字面上理解,NoSQL就是NotOnlySQL,被业界认为是一项全新的数据库革命性运动,早期就有人提出,发展至2009年趋势越发高涨
NoSQL的拥护者们提倡运用非关系型的数据存储,相对于目前铺天盖地的关系型数据库运用,这一概念无疑是一种全新的思维的注入
盘点:开源社区那些免费的数据库软件当然,NoSQL也是随着互联网Web2
0网站的兴起才能取得长足的进步
关键的需求在于,传统的关系数据库在应付Web2
0网站,特别是超大规模和高并发的SNS类型的web2
0纯动态网站显得力不从心,暴露了很多难以克服的问题,而非关系型的数据库则由于其本身的特点得到了非常迅速的发展
首先推荐的是,这是一个社区版
Oracle的这个,是在10月4号的甲骨文全球大全上发布的的其中一个组件,是一个集成了Hadoop、、Oracle数据库Hadoop适配器、Oracle数据库Hadoop装载器及R语言的系统
其次推荐的是Membase
Membase是NoSQL家族的一个新的重量级的成员
Membase是开源项目,源代码采用了Apache2
0的使用许可
该项目托管在GitHub
上,目前可以下载beta版本的Linux二进制包
该产品主要是由NorthScale的memcached核心团队成员开发完成,其中还包括Zynga和NHN这两个主要贡献者的工程师,这两个组织都是很大的在线游戏和社区网络空间的供应商
并且,Membase容易安装、操作,可以从单节点方便的扩展到集群,而且为memcached(有线协议的兼容性)实现了即插即用功能,在应用方面为开发者和经营者提供了一个比较低的门槛
做为缓存解决方案,Memcached已经在不同类型的领域(特别是大容量的Web应用)有了广泛的使用,其中Memcached的部分基础代码被直接应用到了Membase服务器的前端
通过兼容多种编程语言和框架,Membase具备了很好的复用性
在安装和配置方面,Membase提供了有效的图形化界面和编程接口,包括可配置的告警信息
Membase的目标是提供对外的线性扩展能力,包括为了增加集群容量,可以针对统一的节点进行复制
另外,对存储的数据进行再分配仍然是必要的
第三推荐的是Hibari
Hibari在日语中意思为“云雀”,它是一个专为高可靠性和大数据存储的数据库引擎,可用于云计算环境中,例如webmail、SNS和其他要求T/P级数据存储的环境中
同时,Hibari也支持Java,C/C,Python,Ruby和Erlang语言的客户端
第四推荐的是memcachedb
这是一个由新浪网的开发人员开放出来的开源项目,给memcached分布式缓存服务器添加了BerkeleyDB的持久化存储机制和异步主辅复制机制,让memcached具备了事务恢复能力、持久化能力和分布式复制能力,非常适合于需要超高性能读写速度,但是不需要严格事务约束,能够被持久化保存的应用场景,例如memcachedb被应用在新浪博客上面
第五推荐的是Leveldb
这是一个Google实现的非常高效的kv数据库,目前的版本1
2能够支持billion级别的数据量了
在这个数量级别下还有着非常高的性能,主要归功于它的良好的设计,特别是LSM算法
LevelDB是单进程的服务,性能非常之高,在一台4个Q6600的CPU机器上,每秒钟写数据超过40w,而随机读的性能每秒钟超过10w
XML数据库的优势XML数据库是一种支持对XML格式文档进行存储和查询等操作的数据管理系统
在系统中,开发人员可以对数据库中的XML文档进行查询、导出和指定格式的序列化
目前XML数据库有三种类型:(XEDB),即能处理XML的数据库;(NXD),即纯XML数据库;(HXD),即混合XML数据库
关系数据库中的第一代XML支持是切分(或分解)文档,以适应关系表格或将文档原封不动地存储为字符或二进制大对象(CLOB或BLOB)
这两个方法中的任一种都尝试将XML模型强制转换成关系模型
然而,这两种方法在功能和性能上都有很大的局限性
混合型模型将XML存储在类似于DOM的模型中
XML数据被格式化为缓冲数据页,以便快速导航和执行查询以及简化索引编制
在这里,首要要推荐的XML数据库是Sedna
它号称是一款原生态的XML数据库,提供了全功能的核心数据库服务,包括持久化存储、ACID事务、索引、安全、热备、UTF8等
实现了W3CXQuery规范,支持全文搜索以及节点级别的更新操作
第二款XML数据库是BaseX
这款数据库用来存储紧缩的XML数据,提供了高效的XPath和XQuery的实现,同时,它还提供一个前端操作界面
盘点:开源社区那些免费的数据库软件第三款推荐的是XMLDB
这款数据库使用了关系型数据库来存储任意的XML文档,因为所采用的存储机制,所以文档的搜索速度特别快,同时执行XSL转换也相当快
XMLDB同时还提供了一个PHP的模块,可以应用在Web应用中
第四块推荐的是X-Hive/DB
它是一个为需要高级XML数据处理和存储功能的软件开发者设计的强大的专属XML数据库
X-Hive/DBJavaAPI包含存储、查询、检索、转换和发表XML数据的方法
与传统关系型数据库相比,XML数据库具有以下优势:第一,XML数据库能够对半结构化数据进行有效的存取和管理
如网页内容就是一种半结构化数据,而传统的关系数据库对于类似网页内容这类半结构化数据无法进行有效的管理
第二,提供对标签和路径的操作
传统数据库语言允许对数据元素的值进行操作,不能对元素名称操作,半结构化数据库提供了对标签名称的操作,还包括了对路径的操作
第三,当数据本身具有层次特征时,由于XML数据格式能够清晰表达数据的层次特征,因此XML数据库便于对层次化的数据进行操作
XML数据库适合管理复杂数据结构的数据集,如果己经以XML格式存储信息,则XML数据库利于文档存储和检索;可以用方便实用的方式检索文档,并能够提供高质量的全文搜索引擎
另外XML数据库能够存储和查询异种的文档结构,提供对异种信息存取的支持