Spark 代码示例:统计省份商品点击量并排序
object ProvinceClicks {
def main(args: Array[String]): Unit = {
// 原始数据
val data = Map(
(('吉林', '玉米'), 2),
(('吉林', '袜子'), 10),
(('河南', '山药'), 18),
(('河南', '鞋'), 3),
(('河南', '衣服'), 9),
(('河北', '箱包'), 11),
(('河北', '鸭梨'), 5),
(('吉林', '木耳'), 7)
)
// 转换数据格式:将 (('省份', '商品'), 点击数) 转换为 (省份, 商品, 点击数)
val transformedData = data.map { case ((province, product), clicks) => (province, product, clicks) }
// 按省份分组:将转换后的数据按省份进行分组
val groupedData = transformedData.groupBy(_._1)
// 统计每个省份所有商品点击数量的总数:遍历每个省份,计算该省份下所有商品的点击数之和
val clicksByProvince = groupedData.map { case (province, productList) =>
(province, productList.map(_._3).sum)
}
// 对结果进行升序排序:将统计结果转换为 List,然后按照点击数进行升序排序
val sortedResult = clicksByProvince.toList.sortBy(_._2)
println(clicksByProvince) // 输出 Map(河南 -> 30, 吉林 -> 19, 河北 -> 16)
println(sortedResult) // 输出 List((河北,16), (吉林,19), (河南,30))
}
}
代码说明:
- 原始数据: 定义一个 Map,存储省份、商品和点击量的对应关系。
- 数据转换: 将原始数据格式转换为 (省份, 商品, 点击数) 的元组形式。
- 按省份分组: 使用
groupBy方法将数据按照省份进行分组。 - 统计点击量: 遍历每个省份,计算该省份下所有商品的点击数之和。
- 排序结果: 将统计结果转换为 List,然后按照点击数进行升序排序。
输出结果:
HashMap(吉林 -> 19, 河南 -> 30, 河北 -> 16)
List((河北,16), (吉林,19), (河南,30))
关于输出结果顺序:
Map 的遍历顺序是不确定的,因此输出 clicksByProvince 时顺序可能不同。但是,经过排序后的 sortedResult 会按照点击量升序排列,输出结果始终一致。
原文地址: https://www.cveoy.top/t/topic/kwmt 著作权归作者所有。请勿转载和采集!