个性化阅读
专注于IT技术分析

标签:Apache Spark

数据库

深入了解Spark内存管理模型

半瓶木阅读(17)评论(0)赞(0)

本文概述 1.简介 2.堆内存和堆外内存 3.内存分配 1.简介 作为基于内存的分布式计算引擎, Spark的内存管理模块在整个系统中扮演着非常重要的角色。了解Spark内存管理的基础知识可帮助你开发Spark应用程序并执行性能调整。 通常...

Hadoop

Apache Spark字数示例

半瓶木阅读(21)评论(0)赞(0)

在Spark单词计数示例中, 我们发现每个单词在特定文件中存在的频率。在这里, 我们使用Scala语言执行Spark操作。 执行Spark单词计数示例的步骤 在此示例中, 我们找到并显示每个单词的出现次数。 在本地计算机上创建一个文本文件,...

Apache Spark教程-srcmini
Hadoop

Apache Spark教程

半瓶木阅读(14)评论(0)赞(0)

本文概述 先决条件 听众 问题 Apache Spark教程提供了Spark的基本和高级概念。我们的Spark教程专为初学者和专业人士设计。 Spark是用于大规模数据处理的统一分析引擎, 包括用于SQL, 流, 机器学习和图形处理的内置模...

Hadoop

RDD共享变量

半瓶木阅读(22)评论(0)赞(0)

本文概述 广播变量 累加器 在Spark中, 当任何函数传递给转换操作时, 它将在远程集群节点上执行。它适用于函数中使用的所有变量的不同副本。这些变量将复制到每台计算机, 并且远程计算机上的变量的任何更新都不会还原到驱动程序。 广播变量 广...

Hadoop

RDD持久性

半瓶木阅读(17)评论(0)赞(0)

通过将数据持久存储在操作中的内存中, Spark提供了一种方便的方法来处理数据集。在保留RDD时, 每个节点都会将其计算的所有分区存储在内存中。现在, 我们还可以在该数据集的其他任务中重用它们。 我们可以使用persist()或cache(...

Hadoop

RDD操作

半瓶木阅读(18)评论(0)赞(0)

本文概述 转型 行动 RDD提供两种类型的操作: 转型 行动 转型 在Spark中, 转换的作用是从现有数据集中创建新数据集。转换被认为是惰性的, 因为它们仅在动作需要将结果返回给驱动程序时才计算。 让我们看一些常用的RDD转换。 转型 描...