Apache Spark

Представьте: вы стоите в отделе больших данных своего любимого магазина техники (да, это вполне реально в моём воображении) и выбираете между двумя блестящими фреймворками, которые обещают решить все ваши проблемы с обработкой данных. В левом углу — Apache Spark — чемпион тяжёлого веса, который демонстрирует свои возможности обработки данных в памяти с 2014 года. В правом углу — Apache Beam — новый дипломатический игрок с 2016 года, который ладит со всеми и обещает «напиши один раз, запускай где угодно»....

Когда речь заходит о мире больших данных, часто вспоминают два имени: Apache Hadoop и Apache Spark. Эти гиганты в области распределённых вычислений стали основным решением для обработки огромных наборов данных. Однако они отличаются друг от друга, как день и ночь. В этой статье мы рассмотрим особенности каждого из них, сравним их архитектуры, варианты использования и уникальные преимущества. Hadoop-экосистема Apache Hadoop — ветеран мира больших данных. Он разработан Apache Software Foundation для работы с огромными объёмами данных путём распределения обработки между кластером узлов....