启用lzo的压缩方式对于小规模集群是很有用处，压缩比率大概能降到原始日志大小的1/3。同时解压缩的速度也比较快。

安装

准备jar包

1）先下载lzo的jar项目

2）下载后的文件名是hadoop-lzo-master，它是一个zip格式的压缩包，先进行解压，然后用maven编译。生成hadoop-lzo-0.4.20。

3）将编译好后的hadoop-lzo-0.4.20.jar 放入hadoop-2.7.2/share/hadoop/common/

[root@bigdata-01 common]$ pwd/export/servers/hadoop-2.7.4/share/hadoop/common[root@bigdata-01 common]$ lshadoop-lzo-0.4.20.jar

4）scp同步hadoop-lzo-0.4.20.jar到其他节点

配置

1）core-site.xml增加配置支持LZO压缩

     
     
     
      
       
        io.compression.codecs
       
       
        org.apache.hadoop.io.compress.GzipCodec,org.apache.hadoop.io.compress.DefaultCodec,org.apache.hadoop.io.compress.BZip2Codec,org.apache.hadoop.io.compress.SnappyCodec,com.hadoop.compression.lzo.LzoCodec,com.hadoop.compression.lzo.LzopCodec
       
      
          
       
        io.compression.codec.lzo.class
           
       
        com.hadoop.compression.lzo.LzoCodec
       
      
     

2）scp同步core-site.xml到其他节点

 

测试

1）启动hive创建lzo表

CREATE TABLE lzo_test (id STRING,name STRING)partitioned by (dt STRING)row format delimitedfields terminated by '\t'STORED AS INPUTFORMAT "com.hadoop.mapred.DeprecatedLzoTextInputFormat"OUTPUTFORMAT "org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat";

2）导入数据

load data inpath '/xxx/xxx/2019-07-25' into table lzo_test partition(dt='2019-07-25');