利用PySpark统计相邻字符串对出现的次数

利用PySpark统计相邻字符串对出现的次数

如有文件demo.txt数据如下:

A;B;C;D;B;D;C
B;D;A;E;D;C
A;B

代码如下:

from pyspark import SparkContext


sc = SparkContext()

rdd1 = sc.textFile('demo.txt')
rdd2 = rdd1.map(lambda x: x.split(';'))


def ne(x):
    return list(zip(*[x[i:] for i in range(2)]))


rdd2.flatMap(ne).map(lambda x: (x[0] + ' , ' + x[1], 1)).reduceByKey(lambda a, b: a + b).collect()

输出结果如下:

[('A , B', 2),
 ('B , C', 1),
 ('D , B', 1),
 ('B , D', 2),
 ('D , A', 1),
 ('C , D', 1),
 ('D , C', 2),
 ('A , E', 1),
 ('E , D', 1)]

 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/119507.html原文链接:https://javaforall.net

(0)
上一篇 2021年11月23日 上午10:00
下一篇 2021年11月23日 上午11:00


相关推荐

  • phpstorm 2017版激活方法

    phpstorm 2017版激活方法phpstorm2017 版最新版激活方法到网站 http idea lanyus com getkey userName lan yuuserName 可以改生成一个激活码按照菜单 helpRegister 选择 ActivationCo 将验证码粘贴进去激活 快捷键加粗 Ctrl B 斜体 Ctrl I 引用 Ctrl

    2026年3月26日
    2
  • python 之 内置函数大全[通俗易懂]

    python 之 内置函数大全[通俗易懂]一、罗列全部的内置函数戳:https://docs.python.org/2/library/functions.html二、range、xrange(迭代器)无论是range()还是xrang

    2022年7月6日
    22
  • 介绍Hystrix

    介绍Hystrix如何提高微服务系统的容错性 FaultToleran 并了解如何借助 Hystrix 开发健壮的微服务 以往我们在开发单体应用 或者调用 RPC 服务的时候 可能没有考虑太多目标服务调用失败的情况 经常一个 Try Catch 加上打印日志就解决了 但是在微服务系统中 这种处理方法会给系统的稳定性带来很大隐患 举个例子 假设我们系统中下单的功能要依赖 50 个服务 每个服务正常响应的概

    2026年3月17日
    2
  • 安装Alluxio

    安装Alluxio1 预备工作 安装 javaapt getinstallop 11 jdk 查看一下 java 路径 whereisjavae HOME java 路径地址 2 安装 Alluxio 用如下命令解压下载包 tar xzfalluxio 2 7 4 bin tar gz cdalluxio 2 7 4 conf 复制配置文件 cpalluxio site properties templateallu site prope

    2026年3月17日
    3
  • php 手机号正则_正则验证手机号是否合法

    php 手机号正则_正则验证手机号是否合法随着时代的发展,手机号码也在不断扩展。当我在进行PHP网页开发的时候,直接采用在网上找的手机号的正则表达式验证,结果后来测试的时候发现:当我使用的手机号177开头的进行输入时,竟然显示请输入正确的手机号,后来一看正则表达式是没有设定17开头的号码,于是又进行了学习,最终,得到了最新手机号的正则表达式验证(如下代码),以供自己和大家日后学习使用。//$phone存放手机号,$phoneErr存放手机号的错误信息//首先判定手机号不为空,然后进行正则表达式的手机号验证if(!empty($phone))

    2025年12月9日
    7
  • 孤儿进程与僵尸进程[总结]「建议收藏」

    孤儿进程与僵尸进程[总结]「建议收藏」1、前言之前在看《unix环境高级编程》第八章进程时候,提到孤儿进程和僵尸进程,一直对这两个概念比较模糊。今天被人问到什么是孤儿进程和僵尸进程,会带来什么问题,怎么解决,我只停留在概念上面,没有深入

    2022年7月2日
    26

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号