Spark sortByKey函数

在Spark中，sortByKey函数维持元素的顺序。它接收键值对(K, V)作为输入，按升序或降序对元素进行排序，并生成一个按顺序排列的数据集。

sortByKey函数的示例

在这个示例中，我们按升序和降序排列数据集的元素。

• 要打开Scala模式下的Spark，请按照以下命令进行操作。

$ spark-shell

• 使用并行化集合创建一个RDD。

scala> val data = sc.parallelize(Seq(("C",3),("A",1),("D",4),("B",2),("E",5)))

现在，我们可以使用以下命令来阅读生成的结果。

scala> data.collect

对于升序，

• 应用sortByKey()函数以忽略重复元素。

scala> val sortfunc = data.sortByKey()

• 现在，我们可以使用以下命令来读取生成的结果。

scala> sortfunc.collect

这里，我们得到了期望的输出。

对于降序，

• 应用sortByKey()函数并传递布尔类型作为参数。

scala> val sortfunc = data.sortByKey(false)

• 现在，我们可以使用以下命令来阅读生成的结果。

scala> sortfunc.collect

在这里，我们获得了期望的输出。