首页 > 代码库 > spark中使用sparksql对日志进行分析(属于小案例)

spark中使用sparksql对日志进行分析(属于小案例)

一:使用sparksql开发

1.sparksql开发的两种方式

  HQL:SQL语句开发

    eq : sqlContext.sql("xxxx")

  DSL : sparkSql中DataFrame的API调用方式

    eq:val df=sqlContext.xxx

       df.select("number")

 

二:HQL的开发案例

1.新建目录上传日志

  技术分享

 

2.书写程序

  

 

  

spark中使用sparksql对日志进行分析(属于小案例)