hive表数据去重

hive表数据去重

根据user name查重
SELECT test_user_name, count(*) c from default.test GROUP BY test_user_name HAVING c> 1;
根据id查重
SELECT id ,count(*) c FROM default.test GROUP BY id HAVING c >1;
去重:注意min用法,取相同数据的最小id,去重的重点
min:使用group by 分组后取分组内最小id,以便去掉其它重复数据
INSERT OVERWRITE table default.test partition(test_data_source) select * from default.test where id in ( select min(id) as id from default.test group by test_user_name) ;

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/100394.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 我的fvwm配置

    我的fvwm配置 用了gnome和xfce,还是有些厌了,摆弄了两天fvwm,发现虽然配置起来有点麻烦,但用起来还是它最贴心,而且占资源极少,系统使用过程中内存一直只用了五六十兆。我的鼠标左键坏了,但是通过配置fvwm,只用鼠标右键也可以完成大多数工作了。下面是我的截图和配置文件: #################jiqingsfvwm2rc#2008-07-08############

    2022年10月3日
    2
  • 一文读懂 Spring Bean 的生命周期「建议收藏」

    一文读懂 Spring Bean 的生命周期「建议收藏」欢迎大家关注我的微信公众号【老周聊架构】,Java后端主流技术栈的原理、源码分析、架构以及各种互联网高并发、高性能、高可用的解决方案。一、前言今天我们来说一说SpringBean的生命周期,小伙伴们应该在面试中经常遇到,这是正常现象。因为SpringBean的生命周期是除了IoC、AOP几个核心概念之外最重要概念,大家务必拿下。可Spring源代码又比较复杂,跟着跟着就不知道跟到哪里去了,不太好拿下呀。这倒是真的,而且网上一上来就各种贴流程源码,对初学者来说是真的一脸懵逼,就像字.

    2022年9月19日
    3
  • 【技巧帖】关于Mac如何内录电脑内部声音[通俗易懂]

    【技巧帖】关于Mac如何内录电脑内部声音[通俗易懂]最近见到好多人想内录Mac的声音无奈自带QuickTime或者其他录屏软件不能内录,那我来稍微说一下我当时折腾找出的方法。大神们应该都知道吧。【soundflower】!这是一个神奇的插件,可以将电脑的音频从电脑内部发出来【不是到外部】,这样在录入声音时,设备选择soundflower(2ch),就可以录入电脑声音了!下载地址:Soundflower-2.0b2.dmg步骤如下:1.安装好后,来到…

    2022年4月30日
    57
  • 制作bt3启动盘_十大u盘启动盘制作软件

    制作bt3启动盘_十大u盘启动盘制作软件
    快速制作BT3U盘版
    方便,快捷简单
    无效不退款

    光盘版BT3,大概694MB,直接刻盘,然后用光盘引导,即可进入bt3,连接为:
    http://ftp.heanet.ie/mirrors/backtrack/bt3-final.iso

    U盘版Bt3,大概783MB,连接为:
    http://cesium.di.uminho.pt/pub/backtrack/bt3final_usb.iso
    <

    2022年10月1日
    0
  • 系统端口被占用怎么办?

    系统端口被占用怎么办?

    2021年9月16日
    43
  • 短短数月 两代“矿工”遭遇冰与火的洗礼「建议收藏」

    短短数月 两代“矿工”遭遇冰与火的洗礼「建议收藏」“比特币又跳水了。”  “那还有回暖的机会吗?”  最近这段时间,相信因为数字货币价格集体跳水而感到恐慌的,不止是炒币的投机客,还有大量“矿工”。  在过去一年多时间里,区块链逐渐变为人人热议的亲民话题,“挖矿”也成为很多人热议的火爆职业。甚至有金融界、互联网公司金领不惜放弃高薪,转型成为比特币“矿工”。  在过去的大半年时间里,比特币等数字货币也经历过几次不同程度的震荡。在遭遇价格上的大起大落之…

    2022年5月6日
    34

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号