Amazon
InicioTendenciasBig DataFrameworks para big data: Spark y Hadoop
Spark-y-Hadoop Frameworks para big data: Spark y Hadoop

Frameworks para big data: Spark y Hadoop

Spark-y-Hadoop Frameworks para big data: Spark y Hadoop

Uno de los debates más habituales que aparece en los tiempos que corren entre los responsables de compañías que manejen gran cantidad de datos es la duda de si elegir Spark o Hadoop como frameworks para el big data de su empresa, ya que si bien no son productos directamente comparables sí que tienen muchos aspectos en común.

Ambos proporcionan algunas de las herramientas más populares para la realización de tareas comunes con Big Data, pero no llevan a cabo exactamente las mismas tareas, y es ahí donde está realmente la diferenciación, ya que la decisión final de cuál elegir radica sobre todo en las necesidades específicas de la empresa en cuestión aunque en un momento dado incluso podrían trabajar juntas. Hadoop fue durante muchos años el principal marco de trabajo de código abierto en el mundo del big data, pero Spark, más joven que Hadoop, ha ido desbancándoles poco a poco como el más popular.

Almacenamiento y velocidad de trabajo

En primer lugar, conviene detenerse en el almacenamiento distribuido, que es un aspecto fundamental para muchos proyectos de big data, ya que permite guardar un número sobresaliente de datos en discos duros de computadora cotidianos sin necesidad de invertir en hardware especializado con un alto coste. Además, son escalables, lo que explicado para todo los públicos se traduce en que se pueden agregar más unidades a la red a medida que aumenta el volumen de datos. Por este motivo es por el cual Spark requiere de un sistema de organización de archivos externo, proporcionado por un tercero, de forma que puede ser compatible con Hadoop si se instala éste por debajo de Spark, que podría hacer uso de los datos almacenados por el sistema de archivos propio de Hadoop.

Lo que hace que realmente se equilibren las diferencias es la velocidad a la que ambos trabajan. Spark es mucho más rápida por el hecho de que maneja la mayoría de sus operaciones como si de una memoria se tratara, esto es, copiándolas del almacenamiento físico distribuido en una memoria RAM, lo que reduce el tiempo de forma notable si lo comparamos con el sistema utilizado por Hadoop. MapReduce, que es como se llama dicho sistema, reescribe los datos en el medio de almacenamiento físico después de cada operación, con la intención de tener una copia de seguridad para recuperarlos si algo sale mal. pero la lentitud es la ralentización es el peaje que tiene esta medida. Además, tampoco esto es algo diferencial con Spark, ya que éste también está protegido en este sentido.

Funcionalidad

Otro aspecto importante a comparar es la funcionalidad, que en el caso de Spark es mejor si se trata del manejo de tareas avanzadas de big data, lo que junto a su mayor velocidad es la explicación más convincente de que sea un framework tan popular. Una de las mejores funciones es el procesamiento en tiempo real, que permite que los datos puedan introducirse en una aplicación analítica al momento de ser captados. Es un tipo de procesamiento recurrente en el mundo del big data , lo que convierte a Spark en la mejor elección en muchos casos.

Ésta también lleva ventaja en que incluye sus propia biblioteca de aprendizaje automático, algo que no ocurre con Hadoop, que debe recurrir a una biblioteca de aprendizaje automático externa.

Conclusiones

En definitiva, se puede concluir que es normal que Spark sea más reconocido popularmente hablando por los detalles que le hacen diferente, pero no son dos marcos de trabajo totalmente incompatibles o que se solapen al 100%, sino que existe una mezcla de funciones que les convierten es más o menos interesantes dependiendo del trabajo que vayan a desempeñar. En general, muchos proveedores ofrecen ambos como solución, y en base al feedback con la empresa y sus objetivos, se planifica el uso de uno u otro framework.

De esta manera, por ejemplo, si el big data a trabajar consiste en muchos datos pero muy estructurados, Hadoop puede ser la solución ideal porque no serían necesarias las funcionalidades avanzadas de Spark, que no tiene todavía desarrollada la parte de seguridad al nivel de su competencia, que por el contrario son capitales para el trabajo con big data en otro tipo de actividades económicas.

Sin comentarios

Deja un comentario

1 estrella2 estrellas3 estrellas4 estrellas5 estrellas (1 votos, promedio: 5,00 de 5)
Cargando…

Noticias, eventos y formación

Suscríbete ahora y recibe los mejores contenidos sobre Negocios, Prevención, Marketing, Energías Renovables, Tecnología, Logística y Recursos Humanos.

Suscribirme

Acepto recibir comunicaciones comerciales por parte del grupo IMF
He leído y acepto las condiciones

Frameworks para big data: Spark y Hadoop. Analizamos la comparativa

Uno de los debates habituales en las compañías que manejen gran cantidad de datos es la duda de si elegir Spark o Hadoop como frameworks para el big data de su empresa, ya que si bien no son productos directamente comparables sí que tienen muchos aspectos en común.