苹果/安卓/wp
积分 241, 距离下一级还需 19 积分
权限: 自定义头衔
道具: 彩虹炫, 涂鸦板, 雷达卡, 热点灯, 金钱卡, 显身卡, 匿名卡下一级可获得
权限: 签名中使用图片
购买后可立即获得
权限: 隐身
道具: 金钱卡, 彩虹炫, 雷达卡, 热点灯, 涂鸦板
20:09:34 上传
写的这段code里面，
想算 distinct usubjid 之后的count，
但是这样写算出的count是 原来usubjid的个数。
怎么改能在一段code里算出distinct usubjid之后的 count数呢
支持楼主：、
购买后，论坛将把您花费的资金全部奖励给楼主，以表示您对TA发好贴的支持
载入中......
20:08:12 上传
count(distinct usubjid) as num
孤单的我们 发表于
count(distinct usubjid) as num不好意思，好像是我没有描述清楚
我要的是distinct以后，每一个每一个usubjid的count
13:18:18 上传
如果要用count（distinct usubjid）的话，结果是上面那样的，
我想要的是num这里等于1，1，1，1，1，1，1，1...........
小琪是豆豆猪 发表于
不好意思，好像是我没有描述清楚
我要的是distinct以后，每一个每一个usubjid的count
create table bb as
select distinct usubjid,datrt,count(distinct usubjid) as num
from analysis.adda(where=(^missing(datrt)))
group by usubjid,
孤单的我们 发表于
create table bb as
select distinct usubjid,datrt,count(distinct usubjid) as nu ...非常感谢！！
&nbsp&nbsp|
&nbsp&nbsp|
&nbsp&nbsp|
&nbsp&nbsp|
&nbsp&nbsp|
&nbsp&nbsp|
如有投资本站或合作意向，请联系（010-）；
邮箱：service@pinggu.org
投诉或不良信息处理：（010-）
论坛法律顾问：王进律师countdistinct多个字段_中华文本库
在使用 mysql 时,有时需要查询出某个字段不重复的记录,虽然 mysql 提供有 ...现在将完整语句放出: select *, count(distinct name) from table group by ...
聚合函数count() count(字段) sum(字段) avg(字段) min(字段) max(字段)_...对比两个结果,使用 DISTINCT 关键字后,工资 SAL 列中的重值并没有列入统计 ...
4、查询姓“李”的老师的个数; select count(distinct(Tname)) from Teacher where Tname like '李%'; 解析:distinct(Tname) 在表中,可能会包含重复值。...
求:学各科目的学生人数 sql 语句 有两个表,一个 科目表 字段: 科目号 ,...人数, 0) FROM 科目表 p LEFT JOIN ( SELECT 科目号, COUNT(DISTINCT 学号...
(c.Country, c.Phone)) ))); 9.Distinct 形式: 形式:说明:筛选字段中不相同...Count/Sum/Min/Max/Avg 操作符 适用场景:统计数据吧,比如统计一些数据的个数...
mongo 中的高级查询之聚合操作(distinct,count,group...多个变量之间用逗号隔开 $reduce:循环体,集合中有...{iname:true}, # 分组字段 ... initial:{dd:0...
Dye ORDER BY id,之前一直想用 Distinct 来得到指定字段不重复的记录是个误区...Public Function OrdersCount(ByVal strCountry As String, _ ByVal dteShipDate...
3.用distinct方法 -对于小的表比较有用 create table table_new as select ...count(peopleId )&1) 3、查找表中多余的重复记录(多个字段) select * from...
SQL查询去除重复记录 sql 单表/多表查询去除重复记录单表distinct 多表group by...seq having count(*)&1) (二) 比方说在A表中存在一个字段“name”,而且...
Carter Bush Bush Adams Carter 现在,我们希望计算 &OrderPrice& 字段的平均值...(DISTINCT column_name) FROM table_name 注释:COUNT(DISTINCT) 适用于 ORACLE ...SELECT COUNT(DISTINCT column(s)) FROM table For example, With this &Orders& Table: This with the &Orders& table: Company OrderNumber Sega 3412 W3Schools 2312 Trio 4678 W3Schools 6798 For example, SELECT COUNT(Company) FROM Orders Resul
&!DOCTYPE html PUBLIC &-//W3C//DTD XHTML 1.0 Transitional//EN& &http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd&& &html xmlns=&http://www.w3.org/1999/xhtml&& &head& &meta http-equiv=&Content-
Was previously done in the Set You can now be done in the database O( ∩_∩ )O Haha ~, Is not a very good Ah ? Table : mysql& select userlevel, +-----------+----------+ | userlevel | username | +-----------+----------+ | admin | cdl
在处理一个大数据量数据库的时候 突然发现mysql对于count(*)的不同处理会造成不同的结果 比如执行 SELECT count(*) FROM tablename 即使对于千万级别的数据mysql也能非常迅速的返回结果 而对于 SELECT count(*) FROM tablename WHERE-.. mysql的查询时间开始攀升 仔细查阅累下手册,发现当没有WHERE语句对于整个mysql的表进行count运算的时候 MyISAM类型的表中保存有总的行数,而当添加有WHERE限定语句
In the development, we often encounter a &total (count)& or &accumulate (sum)& as a condition of the query. For example aaa table: ID, NAME, SHU 1, a, 3 2, a, 4 3, b, 5 4, b, 7 5, a, 6, a, 20 Example 1: Query 2 times there have been na
In the development, we often encounter a &total (count)& or &accumulate (sum)& as a condition of the query. Such as aaa table: ID, NAME, SHU 1, a, 3 2, a, 4 3, b, 5 4, b, 7 5, a, 6, a, 20 Example 1: Query appeared twice name. Beginners
在有group by的时候,如何统计结果记录的数量?需要的朋友可以参考下. 例如这样一个表,我想统计email和passwords都不相同的记录的条数 CREATE TABLE IF NOT EXISTS `test_users` ( `email_id` int(11) unsigned NOT NULL auto_increment, `email` char(100) NOT NULL, `passwords` char(64) NOT NULL, PRIMARY KEY (`email_
Beginners 1. The basic structure CREATE OR REPLACE PROCEDURE stored procedure name ( Parameter 1 IN NUMBER, Parameter 2 IN NUMBER, Parameter 3 OUT NUMBER ) IS Variable 1 INTEGER: = Variable 2 DATE; BEGIN ... EXCEPTION THEN WHEN abnormality .
Beginners 1 The basic structure CREATE OR REPLACE PROCEDURE stored procedure name ( Parameter 1 IN NUMBER, Parameter 2 IN NUMBER, Parameter 3 OUT NUMBER ) IS Variable 1 INTEGER: = Variable 2 DATE; BEGIN ... EXCEPTION THEN WHEN exception cate
2006年底,阿里巴巴提出了workat alibaba的战略,20来号人就被拉到湖畔花园马云的公寓里面开始一个叫阿里软件的公司创业.当时对于Work at alibaba有个朦朦胧胧的感觉,就是要为中小企业提供一个工作平台,但是工作平台又需要是一个开放的平台,因为卖家的需求是长尾的,当时火热的salesforce给了阿里人一些启示,那就是做一个支持二次开发的工作平台,半开放式的来满足各种卖家的长尾管理需求.此时,软件市场上就开始培养起来最早的一批TP(淘宝开放合作伙伴),迄今为止很多非常成功的
Author:放翁 Date: 注:文中所有的技术点都可以在http://blog.csdn.net/cenwenchu79 找到详细的文章,同时本文主要介绍开放平台技术发展历程,产品和业务内容不涵盖在此,因此受众群体主要是技术人员. 2006年底,阿里巴巴提出了workat alibaba的战略,20来号人就被拉到湖畔花园马云的公寓里面开始一个叫阿里软件的公司创业.当时对于Work at alibaba有个朦朦胧胧的感觉,就是要为中小企业提供一个工作平台,但是工作平台又需要
原创文章,首发自个人站点 ,转载请务必注明出处 http://www.jasongj.com//count_distinct/ 欢迎关注微信公众号[大数据架构] UV vs. PV 在互联网中,经常需要计算UV和PV.所谓PV即Page View,网页被打开多少次(YouTube等视频网站非常重视视频的点击率,即被播放多少次,也即PV).而UV即Unique Visitor(微信朋友圈或者微信公众号中的文章则统计有多少人看过该文章,也即UV.虽然微信上显示是指明该值是PV,但
Common methods on oracle plsql
22:34 In SQLPLUS, the implementation - English character set conversion alter session set nls_language = 'AMERICAN'; alter session set nls_language = 'SIMPLIFIED CHINESE'; Key knowledge points: First, the ope
Keywords: oracle plsql summary of commonly used methods In SQLPLUS, the implementation - English character set conversion alter session set nls_language = 'AMERICAN'; alter session set nls_language = 'SIMPLIFIED CHINESE'; Main knowledge points: First
In SQLPLUS, the implementation - English character set conversion alter session set nls_language = 'AMERICAN'; alter session set nls_language = 'SIMPLIFIED CHINESE' Main knowledge points: First, the operation on the table 1) create table create table
In SQLPLUS, the implementation - English character set conversion alter session set nls_language = 'AMERICAN'; alter session set nls_language = 'SIMPLIFIED CHINESE' Key knowledge points: First, the operation of the table 1) construction of the table
The introduction of group function group function on a set of data, and a set of data to return a value. Common group functions are: Function Name Function Description Count returns the number of records found Min returns a numeric or computed column
Record some select tips: 1, select statements can be separated with a carriage return $ Sql = &select * from article where& And $ sql = &select * from article where &, you can get the right result, but sometimes may be able to separa
One. Group by 1.GROUP BY WHERE clause used for the results obtained in the group, which means it is executed after the WHERE clause of WHERE filtered through some of the columns are grouped according to the results, after appropriate processing . Not
distinct used to filter out duplicate records keep only one, often do not use it to return duplicate records, rather than using it to return all the values are not re-record. The reason is distinct only by the double loop query to solve, and this for
PLSQL Development notes and summary ***************************************** The basic structure of PLSQL ***************************************** Basic data type variables 1. Basic data types Number numeric Int integer Pls_integer integer type, re
COUNT (*) and COUNT (COL) Internet search, and find all these comments are: Such that COUNT (COL) than COUNT (*) That the COUNT (*) than COUNT (COL) Friends said there are funny looking character in this fact. Without restrictions in th
count (1) and count (*) comparison: If your table is not the primary key, then the count (1) than the count (*) quickly if the primary key, then the primary key (combined primary key) as a count of conditions than count (*) is faster if your table ha
When using mysql, and sometimes need to check out a field does not duplicate records, although there are distinct mysql provides the keyword to filter out unwanted duplicate records to retain only one, but often do not use it to return to the Number
When using mysql, and sometimes need to check out a field does not duplicate records, although there are distinct mysql provides the keyword to filter out unwanted duplicate records to retain only one, but often do not use it to return to the Number
When using mysql, and sometimes need to check out a field does not duplicate records, although there are distinct mysql provides the keyword to filter out unwanted duplicate records to retain only one, but often do not use it to return to the Number
&SELECT distinct uid FROM user WHERE (&. $ Where. &) AND uid! = '$ Uid'&; -------------------------- DISTINCT and GROUP BY operation is actually very similar to the realization, just after the GROUP BY remove only one record in each gr
oracle distinct keywords to filter out duplicate records distinct keyword to filter out unwanted duplicate records leaving only one, but often use it to return only unique records of a few, rather than use it to return all the values are not re-recor
Introducing the GROUP BY and HAVING Clause, we must first talk about sql Language in a special function : Aggregate Functions , For example, SUM, COUNT, MAX, AVG, etc. . These functions and other functions of the fundamental difference is that they a
3.2 define and use variables - Write plsql procedure, if the temporary storage values. Must define the var if passed between applications and subroutines - Data must specify the parameters for the subroutine. Defined in the plsql
declare cursor emp_cursor is select empname, salary from emp_record emp_cursor% begin open emp_ loop fetch emp_cursor into emp_ exit when emp_cursor% if emp_record.salary &2000 then update employe
distinct keyword to filter out unwanted duplicate records leaving only one, but often only use it to return the number of unique records, rather than use it to return without re-recording of all values. The reason is that only with two distinct queri
1.mysql distinct de-emphasis is generally used in the first field above, for the treatment of multiple fields can be combined with count () function count (distinct Class.cla_name) 2.mysql similar like matching function, can match the atomic find_in_
Shangxue Tang Ma Shibing teacher oracle notes ( 10:17:39) First lesson: Client 1. Sql Plus (client), the command line directly: sqlplus, and then follow the prompts to enter a user name and password. 2 run from the beginning: sqlplus, is th
本篇文章是对关于SQL语句Count的一点细节进行了详细的分析介绍,需要的朋友参考下 count语句支持*.列名.常量.变量,并且可以用distinct关键字修饰, 并且count(列名)不会累计null的记录.下面随便用一些例子示范一下count的规则:比如对如下表做统计,所有列这里都用sql_variant类型来表示. if (object_id ('t_test' )& 0 ) drop table t_test go create table t_test (a sql_variant
在使用mysql时,有时需要查询出某个字段不重复的记录,虽然mysql提供有distinct这个关键字来过滤掉多余的重复记录只保留一条,但往往只用它来返回不重复记录的条数,而不是用它来返回不重记录的所有值.其原因是distinct只能返回它的目标字段,而无法返回其它字段,这个问题让我困扰了很久,用distinct不能解决的话,我只有用二重循环查询来解决,而这样对于一个数据量非常大的站来说,无疑是会直接影响到效率的.所以我花了很多时间来研究这个问题,网上也查不到解决方案,期间把容容拉来帮忙,结果是
本篇文章是对mysql中的单表distinct.多表group by查询去除重复记录进行了详细的分析介绍,需要的朋友参考下 单表的唯一查询用:distinct 多表的唯一查询用:group by distinct 查询多表时,left join 还有效,全连接无效, 在使用mysql时,有时需要查询出某个字段不重复的记录,虽然mysql提供有distinct这个关键字来过滤掉多余的重复记录只保留一条,但往往只用它来返回不重复记录的条数,而不是用它来返回不重复记录的所有值.其原因是distinct
今天遇到的问题,纠结了一上午,终于解决了.在此记录下来,自我认为还有很多类似的问题都可以套用这段代码 需求描述: 一个表MyImage,列有:号码ID,路径PATH 如: ID PATH 1 C:/ 1 C:/ 1 D:/ 2 C:/ 2 C:/ 3 A:/ 3 C:/ 4 D:/ 写个SQL语句,返回这样的记录的ID号:相同ID存在不同PATH.如上例子,正确的结果应是: ID 1 3 (ID2没有不同PATH,ID4只有一条记录不存在不同PATH) 这是我的SQL语句: select ID
distinct这个关键字用来过滤掉多余的重复记录只保留一条,但往往只用它来返回不重复记录的条数,而不是用它来返回不重记录的所有值.其原因是distinct只有用二重循环查询来解决,而这样对于一个数据量非常大的站来说,无疑是会直接影响到效率的. 下面先来看看例子: table表 字段1 字段2 id name 1 a 2 b 3 c 4 c 5 b 库结构大概这样,这只是一个简单的例子,实际情况会复杂得多. 比如我想用一条语句查询得到name不重复的所有数据,那就必须 使用distinct去掉多
刚给一个朋友解决他写的Discuz!插件的问题,说到MySQL的COUNT(*)的效率,发现越说越说不清楚,干脆写下来,分享给大家. COUNT(*)与COUNT(COL) 网上搜索了下,发现各种说法都有: 比如认为COUNT(COL)比COUNT(*)快的: 认为COUNT(*)比COUNT(COL)快的: 还有朋友很搞笑的说到这个其实是看人品的. 在不加WHERE限制条件的情况下,COUNT(*)与COUNT(COL)基本可以认为是等价的: 但是在有WHERE限制条件的情况下,COUNT(*
在使用mysql时,有时需要查询出某个字段不重复的记录,虽然mysql提供有distinct这个关键字来过滤掉多余的重复记录只保留一条,但往往只 用它来返回不重复记录的条数,而不是用它来返回不重记录的所有值.其原因是distinct只能返回它的目标字段,而无法返回其它字段,这个问题让我困扰 了很久,用distinct不能解决的话,我只有用二重循环查询来解决,而这样对于一个数据量非常大的站来说,无疑是会直接影响到效率的.所以我花了很多 时间来研究这个问题,网上也查不到解决方案,期间把容容拉来帮忙,
+----------------+--------------------+----------------------+ | LOGIN_NAME | ACTION_TYPE | ACTION_RESULT | +----------------+--------------------+----------------------+ | SSS | 1 | 0 | | SSS | 9 | 0 | | SSS | 10 | 0 | | LLL | 10 | 0 | | SSS | 23 |
今儿开发告知有一个SQL统计量前后台不一致,看了一下,是统计的方式不对造成的. 数据库统计数据量时常常用的是count(1)或者count(*),这两者区别不大,在postgres里面统计数据总量时,要注意count(column_name)与count(*)的区别,有些场景下会造成数据统计不准确的误解. 官方文档上有一段话: For example, count(*) yields the total
count(f1) yields the num
查询姓&李&的老师的个数: select count(distinct(Tname)) from Teacher where Tname like '李%'; 中的distinct的用法 distinct这个关键字来过滤掉多余的重复记录只保留一条,但往往只用 它来返回不重复记录的条数,而不是用它来返回不重记录的所有 值.其原因是distinct只有用二重循环查询来解决,而这样对于一个数据量非常大的站来说,无疑是会直接影响到效率的. 下面先来看看例子: table表 字段1 字段2 id
在使用mysql时,有时需要查询出某个字段不重复的记录,虽然mysql提供 有distinct这个关键字来过滤掉多余的重复记录只保留一条,但往往只用它来返回不重复记录的条数,而不是用它来返回不重记录的所有值.其原因是 distinct只能返回它的目标字段,而无法返回其它字段,这个问题让我困扰了很久,用distinct不能解决的话,我只有用二重循环查询来解决,而 这样对于一个数据量非常大的站来说,无疑是会直接影响到效率的.所以我花了很多时间来研究这个问题,网上也查不到解决方案,期间把容容拉来帮忙,
This tutorial provide step by step instructions on using Hibernate 3.0. Hibernate is popular open source object relational mapping tool for Java platform. It provides powerful, ultra-high performance object / relational persistence and query service
Hibernate is equipped with a very powerful query language that looks very much like SQL. But do not be grammatical structure of the confusing similarity, HQL is very conscious of is designed to be fully object-oriented queries, it can understand conc
Aggregate expression An aggregate expression represents an aggregate function on a selected line of query processing. An aggregate function to multiple input reduced to an output value, such as to enter the sum or average. The syntax of an aggregate
- Desc table name describes the contents o - Coupled with mathematical expressions and one of the && Keep the format select ename &name space&, sal * 12 year_ select 2 * 3 select sysdate fro
Oracle built-in SQL functions - sorting Daquan F.1 Character Functions - return character value These functions are all family received a character type parameter (CHR excluded) and the return character value. In addition to the special note, the maj
Copyright (C) , All Rights Reserved.
版权所有 闽ICP备号
processed in 0.059 (s). 7 q(s)后使用快捷导航没有帐号？
请完成以下验证码
JET SQL 不支持 count(distinct 列名)
原帖由 livewire 于
21:52 发表
JET SQL 不支持 count(distinct 列名)
谢谢livewire老师的指教，明白了~~~
琢磨了一阵子，发现可以使用如下复合语句，达到类似于 count(distinct 列名)&&的效果。：
SELECT count (定额名称) FROM (SELECT distinct 定额名称 FROM [材料进货明细表$])
（上述SQL语句在课时1的样例文件中可以得到执行）
回复 4楼 whsfhwm 的帖子
很好！ 祝学有所成！
谢谢livewire老师的鼓励~~~
真不错，跟着学习了。
JET SQL& & COUNT不支持 前置词 ALL|DISTINCT.
常见形式：
COUNT(field_name)
默认为ALL,即全部记录数，不剔除重复记录。
使用2楼的嵌套查询，来得到不重复记录数。
[ 本帖最后由 livewire 于
18:40 编辑 ]
原帖由 livewire 于
18:29 发表
JET SQL& & COUNT不支持 前置词 ALL|DISTINCT.
常见形式：
COUNT(field_name)
默认为ALL,即全部记录数，不剔除重复记录。
使用2楼的嵌套查询，来得到不重复记录数。
livewire老师老眼昏花啦，那是4楼的嵌套查询，不是2楼的 :)
------开个玩笑哈
[ 本帖最后由 whsfhwm 于
18:53 编辑 ]
站长推荐 /3
让Excel VBA提速你的办公效率；
授课轻松有趣，小白学VBA没有困难；
概念与实操结合，教你快速入门捷径。2月26/27日 20:00 胡说VBA，精彩不容错过！
讲师：金桥，从事多年Excel培训，授课思路清晰，讲解细腻，只需7天让您脱离Excel小白队伍，让您的Excel水平有一个质的飞跃！ <font color=#月24/25日 20:00 免费直播公开课，欢迎参加！
完全实战演练，
传授函数公式驾驭能力；独特教学模式，
给函数思想画像。2月28日、3月1日 20:00直播，微软MVP 胡剑0227带您进入震撼的Excel函数公式学习之旅！Hive性能优化（全面）
首先，我们来看看Hadoop的计算框架特性，在此特性下会衍生哪些问题？
数据量大不是问题，数据倾斜是个问题。
jobs数比较多的作业运行效率相对比较低，比如即使有几百行的表，如果多次关联多次汇总，产生十几个jobs，耗时很长。原因是map reduce作业初始化的时间是比较长的。
sum,count,max,min等UDAF，不怕数据倾斜问题,hadoop在map端的汇总合并优化，使数据倾斜不成问题。
count(distinct ),在数据量大的情况下，效率较低，如果是多count(distinct )效率更低，因为count(distinct)是按group by 字段分组，按distinct字段排序，一般这种分布方式是很倾斜的。举个例子：比如男uv,女uv，像淘宝一天30亿的pv，如果按性别分组，分配2个reduce,每个reduce处理15亿数据。
面对这些问题，我们能有哪些有效的优化手段呢？下面列出一些在工作有效可行的优化手段：
好的模型设计事半功倍。
解决数据倾斜问题。
减少job数。
设置合理的map reduce的task数，能有效提升性能。(比如，10w+级别的计算，用160个reduce，那是相当的浪费，1个足够)。
了解数据分布，自己动手解决数据倾斜问题是个不错的选择。set hive.groupby.skewindata=这是通用的算法优化，但算法优化有时不能适应特定业务背景，开发人员了解业务，了解数据，可以通过业务逻辑精确有效的解决数据倾斜问题。
数据量较大的情况下，慎用count(distinct)，count(distinct)容易产生倾斜问题。
对小文件进行合并，是行至有效的提高调度效率的方法，假如所有的作业设置合理的文件数，对云梯的整体调度效率也会产生积极的正向影响。
优化时把握整体，单个作业最优不如整体最优。
而接下来，我们心中应该会有一些疑问，影响性能的根源是什么？
2.性能低下的根源
hive性能优化时，把HiveQL当做M/R程序来读，即从M/R的运行角度来考虑优化性能，从更底层思考如何优化运算性能，而不仅仅局限于逻辑代码的替换层面。
RAC（Real Application Cluster）真正应用集群就像一辆机动灵活的小货车，响应快；Hadoop就像吞吐量巨大的轮船，启动开销大，如果每次只做小数量的输入输出，利用率将会很低。所以用好Hadoop的首要任务是增大每次任务所搭载的数据量。
Hadoop的核心能力是parition和sort，因而这也是优化的根本。
观察Hadoop处理数据的过程，有几个显著的特征：
数据的大规模并不是负载重点，造成运行压力过大是因为运行数据的倾斜。
jobs数比较多的作业运行效率相对比较低，比如即使有几百行的表，如果多次关联对此汇总，产生几十个jobs，将会需要30分钟以上的时间且大部分时间被用于作业分配，初始化和数据输出。M/R作业初始化的时间是比较耗时间资源的一个部分。
在使用SUM，COUNT，MAX，MIN等UDAF函数时，不怕数据倾斜问题，Hadoop在Map端的汇总合并优化过，使数据倾斜不成问题。
COUNT(DISTINCT)在数据量大的情况下，效率较低，如果多COUNT(DISTINCT)效率更低，因为COUNT(DISTINCT)是按GROUP BY字段分组，按DISTINCT字段排序，一般这种分布式方式是很倾斜的；比如：男UV，女UV，淘宝一天30亿的PV，如果按性别分组，分配2个reduce,每个reduce处理15亿数据。
数据倾斜是导致效率大幅降低的主要原因，可以采用多一次 Map/Reduce 的方法， 避免倾斜。
最后得出的结论是：避实就虚，用 job 数的增加，输入量的增加，占用更多存储空间，充分利用空闲 CPU 等各种方法，分解数据倾斜造成的负担。
3.配置角度优化
我们知道了性能低下的根源，同样，我们也可以从Hive的配置解读去优化。Hive系统内部已针对不同的查询预设定了优化方法，用户可以通过调整配置进行控制， 以下举例介绍部分优化的策略以及优化控制选项。
Hive 在读数据的时候，可以只读取查询中所需要用到的列，而忽略其它列。 例如，若有以下查询：
SELECT a,b FROM q WHERE e&10;
在实施此项查询中，Q 表有 5 列（a，b，c，d，e），Hive 只读取查询逻辑中真实需要 的 3 列 a、b、e，而忽略列 c，d；这样做节省了读取开销，中间表存储开销和数据整合开销。
裁剪所对应的参数项为：hive.optimize.cp=true（默认值为真）
3.2分区裁剪
可以在查询的过程中减少不必要的分区。 例如，若有以下查询：
SELECT * FROM (SELECTT a1,COUNT(1) FROM T GROUP BY a1) subq WHERE subq.prtn=100; #（多余分区）SELECT * FROM T1 JOIN (SELECT * FROM T2) subq ON (T1.a1=subq.a2) WHERE subq.prtn=100;
查询语句若将“subq.prtn=100”条件放入子查询中更为高效，可以减少读入的分区 数目。 Hive 自动执行这种裁剪优化。
分区参数为：hive.optimize.pruner=true（默认值为真）
3.3JOIN操作
在编写带有 join 操作的代码语句时，应该将条目少的表/子查询放在 Join 操作符的左边。 因为在 Reduce 阶段，位于 Join 操作符左边的表的内容会被加载进内存，载入条目较少的表 可以有效减少 OOM（out of memory）即内存溢出。所以对于同一个 key 来说，对应的 value 值小的放前，大的放后，这便是“小表放前”原则。 若一条语句中有多个 Join，依据 Join 的条件相同与否，有不同的处理方法。
3.3.1JOIN原则
在使用写有 Join 操作的查询语句时有一条原则：应该将条目少的表/子查询放在 Join 操作符的左边。原因是在 Join 操作的 Reduce 阶段，位于 Join 操作符左边的表的内容会被加载进内存，将条目少的表放在左边，可以有效减少发生 OOM 错误的几率。对于一条语句中有多个 Join 的情况，如果 Join 的条件相同，比如查询：
INSERT OVERWRITE TABLE pv_users
SELECT pv.pageid, u.age FROM page_view p
JOIN user u ON (pv.userid = u.userid)
JOIN newuser x ON (u.userid = x.userid);
如果 Join 的 key 相同，不管有多少个表，都会则会合并为一个 Map-Reduce
一个 Map-Reduce 任务，而不是 ‘n’ 个
在做 OUTER JOIN 的时候也是一样
如果 Join 的条件不相同，比如：
INSERT OVERWRITE TABLE pv_users
SELECT pv.pageid, u.age FROM page_view p
JOIN user u ON (pv.userid = u.userid)
JOIN newuser x on (u.age = x.age);
Map-Reduce 的任务数目和 Join 操作的数目是对应的，上述查询和以下查询是等价的：
INSERT OVERWRITE TABLE tmptable
SELECT * FROM page_view p JOIN user u
ON (pv.userid = u.userid);
INSERT OVERWRITE TABLE pv_users
SELECT x.pageid, x.age FROM tmptable x
JOIN newuser y ON (x.age = y.age);
3.4MAP JOIN操作
Join 操作在 Map 阶段完成，不再需要Reduce，前提条件是需要的数据在 Map 的过程中可以访问到。比如查询：
INSERT OVERWRITE TABLE pv_users
SELECT /*+ MAPJOIN(pv) */ pv.pageid, u.age
FROM page_view pv
JOIN user u ON (pv.userid = u.userid);
可以在 Map 阶段完成 Join.
相关的参数为：
hive.join.emit.interval = 1000
hive.mapjoin.size.key = 10000
hive.mapjoin.cache.numrows = 10000
3.5GROUP BY操作
进行GROUP BY操作时需要注意一下几点：
Map端部分聚合
事实上并不是所有的聚合操作都需要在reduce部分进行，很多聚合操作都可以先在Map端进行部分聚合，然后reduce端得出最终结果。
这里需要修改的参数为：
hive.map.aggr=true（用于设定是否在 map 端进行聚合，默认值为真） hive.groupby.mapaggr.checkinterval=100000（用于设定 map 端进行聚合操作的条目数）
有数据倾斜时进行负载均衡
此处需要设定 hive.groupby.skewindata，当选项设定为 true 是，生成的查询计划有两 个 MapReduce 任务。在第一个 MapReduce 中，map 的输出结果集合会随机分布到 reduce 中， 每个 reduce 做部分聚合操作，并输出结果。这样处理的结果是，相同的 Group By Key 有可 能分发到不同的 reduce 中，从而达到负载均衡的目的；第二个 MapReduce 任务再根据预处 理的数据结果按照 Group By Key 分布到 reduce 中（这个过程可以保证相同的 Group By Key 分布到同一个 reduce 中），最后完成最终的聚合操作。
3.6合并小文件
我们知道文件数目小，容易在文件存储端造成瓶颈，给 HDFS 带来压力，影响处理效率。对此，可以通过合并Map和Reduce的结果文件来消除这样的影响。
用于设置合并属性的参数有：
是否合并Map输出文件：hive.merge.mapfiles=true（默认值为真）
是否合并Reduce 端输出文件：hive.merge.mapredfiles=false（默认值为假）
合并文件的大小：hive.merge.size.per.task=256*（默认值为 ）
4.程序角度优化
4.1熟练使用SQL提高查询
熟练地使用 SQL，能写出高效率的查询语句。
场景：有一张 user 表，为卖家每天收到表，user_id，ds（日期）为 key，属性有主营类目，指标有交易金额，交易笔数。每天要取前10天的总收入，总笔数，和最近一天的主营类目。
解决方法 1
如下所示：常用方法
INSERT OVERWRITE TABLE t1
SELECT user_id,substr(MAX(CONCAT(ds,cat),9) AS main_cat) FROM users
WHERE ds= //
为日期列的值，实际代码中可以用函数表示出当天日期 GROUP BY user_
INSERT OVERWRITE TABLE t2
SELECT user_id,sum(qty) AS qty,SUM(amt) AS amt FROM users
WHERE ds BETWEEN
GROUP BY user_id
SELECT t1.user_id,t1.main_cat,t2.qty,t2.amt FROM t1
JOIN t2 ON t1.user_id=t2.user_id
下面给出方法1的思路，实现步骤如下：
第一步：利用分析函数，取每个 user_id 最近一天的主营类目，存入临时表 t1。
第二步：汇总 10 天的总交易金额，交易笔数，存入临时表 t2。
第三步：关联 t1，t2，得到最终的结果。
解决方法 2
如下所示：优化方法
SELECT user_id,substr(MAX(CONCAT(ds,cat)),9) AS main_cat,SUM(qty),SUM(amt) FROM users
WHERE ds BETWEEN
GROUP BY user_id
在工作中我们总结出：方案 2 的开销等于方案 1 的第二步的开销，性能提升，由原有的 25 分钟完成，缩短为 10 分钟以内完成。节省了两个临时表的读写是一个关键原因，这种方式也适用于 Oracle 中的数据查找工作。
SQL 具有普适性，很多 SQL 通用的优化方案在 Hadoop 分布式计算方式中也可以达到效果。
4.2无效ID在关联时的数据倾斜问题
问题：日志中常会出现信息丢失，比如每日约为 20 亿的全网日志，其中的 user_id 为主 键，在日志收集过程中会丢失，出现主键为 null 的情况，如果取其中的 user_id 和 bmw_users 关联，就会碰到数据倾斜的问题。原因是 Hive 中，主键为 null 值的项会被当做相同的 Key 而分配进同一个计算 Map。
解决方法 1：user_id 为空的不参与关联，子查询过滤 null
SELECT * FROM log a
JOIN bmw_users b ON a.user_id IS NOT NULL AND a.user_id=b.user_id
UNION All SELECT * FROM log a WHERE a.user_id IS NULL
解决方法 2 如下所示：函数过滤 null
SELECT * FROM log a LEFT OUTER
JOIN bmw_users b ON
CASE WHEN a.user_id IS NULL THEN CONCAT(‘dp_hive’,RAND()) ELSE a.user_id END =b.user_
调优结果：原先由于数据倾斜导致运行时长超过 1 小时，解决方法 1 运行每日平均时长 25 分钟，解决方法 2 运行的每日平均时长在 20 分钟左右。优化效果很明显。
我们在工作中总结出：解决方法2比解决方法1效果更好，不但IO少了，而且作业数也少了。解决方法1中log读取两次，job 数为2。解决方法2中 job 数是1。这个优化适合无效 id（比如-99、 ‘’，null 等）产生的倾斜问题。把空值的 key 变成一个字符串加上随机数，就能把倾斜的 数据分到不同的Reduce上，从而解决数据倾斜问题。因为空值不参与关联，即使分到不同 的 Reduce 上，也不会影响最终的结果。附上 Hadoop 通用关联的实现方法是：关联通过二次排序实现的，关联的列为 partion key，关联的列和表的 tag 组成排序的 group key，根据 pariton key分配Reduce。同一Reduce内根据group key排序。
4.3不同数据类型关联产生的倾斜问题
问题：不同数据类型 id 的关联会产生数据倾斜问题。
一张表 s8 的日志，每个商品一条记录，要和商品表关联。但关联却碰到倾斜的问题。 s8 的日志中有 32 为字符串商品 id，也有数值商品 id，日志中类型是 string 的，但商品中的 数值 id 是 bigint 的。猜想问题的原因是把 s8 的商品 id 转成数值 id 做 hash 来分配 Reduce， 所以字符串 id 的 s8 日志，都到一个 Reduce 上了，解决的方法验证了这个猜测。
解决方法：把数据类型转换成字符串类型
SELECT * FROM s8_log a LEFT OUTERJOIN r_auction_auctions b ON a.auction_id=CASE(b.auction_id AS STRING)
调优结果显示：数据表处理由 1 小时 30 分钟经代码调整后可以在 20 分钟内完成。
4.4利用Hive对UNION ALL优化的特性
多表 union all 会优化成一个 job。
问题：比如推广效果表要和商品表关联，效果表中的 auction_id 列既有 32 为字符串商 品 id，也有数字 id，和商品表关联得到商品的信息。
解决方法：Hive SQL 性能会比较好
SELECT * FROM effect a
(SELECT auction_id AS auction_id FROM auctions
SELECT auction_string_id AS auction_id FROM auctions) b
ON a.auction_id=b.auction_id
比分别过滤数字 id，字符串 id 然后分别和商品表关联性能要好。
这样写的好处：1 个 MapReduce 作业，商品表只读一次，推广效果表只读取一次。把 这个 SQL 换成 Map/Reduce 代码的话，Map 的时候，把 a 表的记录打上标签 a，商品表记录 每读取一条，打上标签 b，变成两个&key,value&对，&(b,数字 id),value&，&(b,字符串 id),value&。
所以商品表的 HDFS 读取只会是一次。
4.5解决Hive对UNION ALL优化的短板
Hive 对 union all 的优化的特性：对 union all 优化只局限于非嵌套查询。
消灭子查询内的 group by
示例 1：子查询内有 group by
SELECT * FROM
(SELECT * FROM t1 GROUP BY c1,c2,c3 UNION ALL SELECT * FROM t2 GROUP BY c1,c2,c3)t3
GROUP BY c1,c2,c3
从业务逻辑上说，子查询内的 GROUP BY 怎么都看显得多余（功能上的多余，除非有 COUNT(DISTINCT)），如果不是因为 Hive Bug 或者性能上的考量（曾经出现如果不执行子查询 GROUP BY，数据得不到正确的结果的 Hive Bug）。所以这个 Hive 按经验转换成如下所示：
SELECT * FROM (SELECT * FROM t1 UNION ALL SELECT * FROM t2)t3 GROUP BY c1,c2,c3
调优结果：经过测试，并未出现 union all 的 Hive Bug，数据是一致的。MapReduce 的 作业数由 3 减少到 1。
t1 相当于一个目录，t2 相当于一个目录，对 Map/Reduce 程序来说，t1，t2 可以作为 Map/Reduce 作业的 mutli inputs。这可以通过一个 Map/Reduce 来解决这个问题。Hadoop 的 计算框架，不怕数据多，就怕作业数多。
但如果换成是其他计算平台如 Oracle，那就不一定了，因为把大的输入拆成两个输入， 分别排序汇总后 merge（假如两个子排序是并行的话），是有可能性能更优的（比如希尔排 序比冒泡排序的性能更优）。
消灭子查询内的 COUNT(DISTINCT)，MAX，MIN。
SELECT * FROM
(SELECT * FROM t1
UNION ALL SELECT c1,c2,c3 COUNT(DISTINCT c4) FROM t2 GROUP BY c1,c2,c3) t3
GROUP BY c1,c2,c3;
由于子查询里头有 COUNT(DISTINCT)操作，直接去 GROUP BY 将达不到业务目标。这时采用 临时表消灭 COUNT(DISTINCT)作业不但能解决倾斜问题，还能有效减少 jobs。
INSERT t4 SELECT c1,c2,c3,c4 FROM t2 GROUP BY c1,c2,c3;
SELECT c1,c2,c3,SUM(income),SUM(uv) FROM
(SELECT c1,c2,c3,income,0 AS uv FROM t1
SELECT c1,c2,c3,0 AS income,1 AS uv FROM t2) t3
GROUP BY c1,c2,c3;
job 数是 2，减少一半，而且两次 Map/Reduce 比 COUNT(DISTINCT)效率更高。
调优结果：千万级别的类目表，member 表，与 10 亿级得商品表关联。原先 1963s 的任务经过调整，1152s 即完成。
消灭子查询内的 JOIN
SELECT * FROM
(SELECT * FROM t1 UNION ALL SELECT * FROM t4 UNION ALL SELECT * FROM t2 JOIN t3 ON t2.id=t3.id) x
GROUP BY c1,c2;
上面代码运行会有 5 个 jobs。加入先 JOIN 生存临时表的话 t5，然后 UNION ALL，会变成 2 个 jobs。
INSERT OVERWRITE TABLE t5
SELECT * FROM t2 JOIN t3 ON t2.id=t3.
SELECT * FROM (t1 UNION ALL t4 UNION ALL t5);
调优结果显示：针对千万级别的广告位表，由原先 5 个 Job 共 15 分钟，分解为 2 个 job 一个 8-10 分钟，一个3分钟。
4.6GROUP BY替代COUNT(DISTINCT)达到优化效果
计算 uv 的时候，经常会用到 COUNT(DISTINCT)，但在数据比较倾斜的时候 COUNT(DISTINCT) 会比较慢。这时可以尝试用 GROUP BY 改写代码计算 uv。
INSERT OVERWRITE TABLE s_dw_tanx_adzone_uv PARTITION (ds=)SELECT
AS thedate,adzoneid,COUNT(DISTINCT acookie) AS uv FROM s_ods_log_tanx_pv t WHERE t.ds= GROUP BY adzoneid
关于COUNT(DISTINCT)的数据倾斜问题不能一概而论，要依情况而定，下面是我测试的一组数据：
测试数据：169857条
#统计每日IP
CREATE TABLE ip_ AS SELECT COUNT(DISTINCT ip) AS IP FROM logdfs WHERE logdate=’′;
耗时：24.805 seconds
#统计每日IP（改造）
CREATE TABLE ip_ AS SELECT COUNT(1) AS IP FROM (SELECT DISTINCT ip from logdfs WHERE logdate=’′)
耗时：46.833 seconds
测试结果表名：明显改造后的语句比之前耗时，这是因为改造后的语句有2个SELECT，多了一个job，这样在数据量小的时候，数据不会存在倾斜问题。
5.优化总结
优化时，把hive sql当做mapreduce程序来读，会有意想不到的惊喜。理解hadoop的核心能力，是hive优化的根本。这是这一年来，项目组所有成员宝贵的经验总结。
长期观察hadoop处理数据的过程，有几个显著的特征:
不怕数据多，就怕数据倾斜。
对jobs数比较多的作业运行效率相对比较低，比如即使有几百行的表，如果多次关联多次汇总，产生十几个jobs，没半小时是跑不完的。map reduce作业初始化的时间是比较长的。
对sum，count来说，不存在数据倾斜问题。
对count(distinct ),效率较低，数据量一多，准出问题，如果是多count(distinct )效率更低。
优化可以从几个方面着手：
好的模型设计事半功倍。
解决数据倾斜问题。
减少job数。
设置合理的map reduce的task数，能有效提升性能。(比如，10w+级别的计算，用160个reduce，那是相当的浪费，1个足够)。
自己动手写sql解决数据倾斜问题是个不错的选择。set hive.groupby.skewindata=这是通用的算法优化，但算法优化总是漠视业务，习惯性提供通用的解决方法。 Etl开发人员更了解业务，更了解数据，所以通过业务逻辑解决倾斜的方法往往更精确，更有效。
对count(distinct)采取漠视的方法，尤其数据大的时候很容易产生倾斜问题，不抱侥幸心理。自己动手，丰衣足食。
对小文件进行合并，是行至有效的提高调度效率的方法，假如我们的作业设置合理的文件数，对云梯的整体调度效率也会产生积极的影响。
优化时把握整体，单个作业最优不如整体最优。
6.优化的常用手段
主要由三个属性来决定：
hive.exec.reducers.bytes.per.reducer ＃这个参数控制一个job会有多少个reducer来处理，依据的是输入文件的总大小。默认1GB。
hive.exec.reducers.max ＃这个参数控制最大的reducer的数量， 如果 input / bytes per reduce & max 则会启动这个参数所指定的reduce个数。 这个并不会影响mapre.reduce.tasks参数的设置。默认的max是999。
mapred.reduce.tasks ＃这个参数如果指定了，hive就不会用它的estimation函数来自动计算reduce的个数，而是用这个参数来启动reducer。默认是-1。
6.1参数设置的影响
如果reduce太少：如果数据量很大，会导致这个reduce异常的慢，从而导致这个任务不能结束，也有可能会OOM 2、如果reduce太多： 产生的小文件太多，合并起来代价太高，namenode的内存占用也会增大。如果我们不指定mapred.reduce.tasks， hive会自动计算需要多少个reducer。
责任编辑：
声明：本文由入驻搜狐号的作者撰写，除搜狐官方账号外，观点仅代表作者本人，不代表搜狐立场。
今日搜狐热点}