第4节:我应该选择哪种Kafka?
Kafka不再是一个单纯的消息引擎系统而是能够实现精确一次Exactly-once处理语义的实时流处理平台。Apache KafkaApache Kafka是最“正宗”的Kafka也应该是你最熟悉的发行版了。自Kafka开源伊始它便在Apache基金会孵化并最终毕业成为顶级项目它也被称为社区版Kafka。咱们专栏就是以这个版本的Kafka作为模板来学习的。更重要的是它是后面其他所有发行版的基础。也就是说后面提到的发行版要么是原封不动地继承了Apache Kafka要么是在此之上扩展了新功能总之Apache Kafka是我们学习和使用Kafka的基础。Confluent Kafka我先说说Confluent公司吧。2014年Kafka的3个创始人Jay Kreps、Naha Narkhede和饶军离开LinkedIn创办了Confluent公司专注于提供基于Kafka的企业级流处理解决方案。2019年1月Confluent公司成功融资D轮1.25亿美元估值也到了25亿美元足见资本市场的青睐。这里说点题外话 饶军是我们中国人清华大学毕业的大神级人物。我们已经看到越来越多的Apache顶级项目创始人中出现了中国人的身影另一个例子就是Apache Pulsar它是一个以打败Kafka为目标的新一代消息引擎系统。至于在开源社区中活跃的国人更是数不胜数这种现象实在令人振奋。还说回Confluent公司它主要从事商业化Kafka工具开发并在此基础上发布了Confluent Kafka。Confluent Kafka提供了一些Apache Kafka没有的高级特性比如跨数据中心备份、Schema注册中心以及集群监控工具等。Cloudera/Hortonworks KafkaCloudera提供的CDH和Hortonworks提供的HDP是非常著名的大数据平台里面集成了目前主流的大数据框架能够帮助用户实现从分布式存储、集群调度、流处理到机器学习、实时数据库等全方位的数据处理。我知道很多创业公司在搭建数据平台时首选就是这两个产品。不管是CDH还是HDP里面都集成了Apache Kafka因此我把这两款产品中的Kafka称为CDH Kafka和HDP Kafka。当然在2018年10月两家公司宣布合并共同打造世界领先的数据平台也许以后CDH和HDP也会合并成一款产品但能肯定的是Apache Kafka依然会包含其中并作为新数据平台的一部分对外提供服务。最后我们来复习一下今天的内容Apache Kafka也称社区版Kafka。优势在于迭代速度快社区响应度高使用它可以让你有更高的把控度缺陷在于仅提供基础核心组件缺失一些高级的特性。Confluent KafkaConfluent公司提供的Kafka。优势在于集成了很多高级特性且由Kafka原班人马打造质量上有保证缺陷在于相关文档资料不全普及率较低没有太多可供参考的范例。CDH/HDP Kafka大数据云公司提供的Kafka内嵌Apache Kafka。优势在于操作简单节省运维成本缺陷在于把控度低演进速度较慢。

相关新闻