首页 > 代码库 > 将mysql中的全国区域表数据转移至Redis数据库

将mysql中的全国区域表数据转移至Redis数据库

    搭建环境:

      1.meven工程

      2.Spring整合Mybatis框架

      3.Spring整合Redis数据库

 

    注:这里的大部分内容只有讲在java中如何使用Redis数据库

 

    一丶引入Redus相关jar包,包括Spring整合Redis的jar包

    关于jar包版本问题:

      目前我使用的这jar版本是没有出现问题的,但我换了一些版本后出现了报错,所以推荐使用我的jar版本即可

    

       <!--Redis驱动包-->
        <dependency>
            <groupId>redis.clients</groupId>
            <artifactId>jedis</artifactId>
            <version>2.5.2</version>
        </dependency>
        <!--Spring整合Redis包-->
        <dependency>
            <groupId>org.springframework.data</groupId>
            <artifactId>spring-data-redis</artifactId>
            <version>1.3.4.RELEASE</version>
        </dependency>
      <!---json格式化-->
    <dependency>    
      <groupId>com.alibaba</groupId>
        <artifactId>fastjson</artifactId>
  <version>1.1.41</version> </dependency>

  

  二丶首先创建两个properties文件分别保存两个数据的账号密码和相关配置和驱动

    jdbc.properties文件

    

jdbc.driver=com.mysql.jdbc.Driver
jdbc.url=jdbc:mysql://localhost:3306/mydatabase
jdbc.username=root
jdbc.password=admin

   

  redis.properties文件

redis.maxTotal=300
redis.maxWaitMillis=5000
redis.maxIdle=100
redis.testOnBorrow=true
redis.hostName=127.0.0.1
redis.password=
redis.port=6379

 

  三丶配置application项目运行环境,相应的配置文件如下,

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
       xmlns:aop="http://www.springframework.org/schema/aop"
       xmlns:context="http://www.springframework.org/schema/context"
       xmlns:tx="http://www.springframework.org/schema/tx"
       xsi:schemaLocation="
       http://www.springframework.org/schema/beans
       http://www.springframework.org/schema/beans/spring-beans.xsd
       http://www.springframework.org/schema/aop
       http://www.springframework.org/schema/aop/spring-aop.xsd
       http://www.springframework.org/schema/context
       http://www.springframework.org/schema/context/spring-context.xsd
       http://www.springframework.org/schema/tx
       http://www.springframework.org/schema/tx/spring-tx.xsd
       ">
    <!--ssm spring是领导  aop tx 是为了事务控制-->

    <!--@repository @Services-->
    <context:component-scan base-package="cn.bdqn.tangcco">
        <context:exclude-filter type="annotation" expression="org.springframework.stereotype.Controller"/>
    </context:component-scan>


    <context:property-placeholder location="classpath*:*.properties"/>
    <!--配置Redis连接池-->
    <bean id="jedisPoolConfig" class="redis.clients.jedis.JedisPoolConfig">
        <!--最大连接数-->
        <property name="maxTotal" value="http://www.mamicode.com/${redis.maxTotal}"></property>
        <!--最大空闲数-->
        <property name="maxIdle" value="http://www.mamicode.com/${redis.maxIdle}"></property>
        <!--最大等待毫秒-->
        <property name="maxWaitMillis" value="http://www.mamicode.com/${redis.maxWaitMillis}"></property>
        <!--设置是否验证连接的有效性-->
        <property name="testOnBorrow" value="http://www.mamicode.com/${redis.testOnBorrow}"></property>
    </bean>
    <!--配置Redis连接池工厂-->
    <!--<bean id="jedisConnectionFactory" class="org.springframework.data.redis.connection.jedis.JedisConnectionFactory">
        <property name="hostName" value="http://www.mamicode.com/${redis.hostName}"></property>
        <property name="password" value="http://www.mamicode.com/${redis.password}"></property>
        <property name="port" value="http://www.mamicode.com/${redis.port}"></property>
        <property name="usePool" value="http://www.mamicode.com/true"></property>
        <property name="poolConfig" ref="jedisPoolConfig"></property>

    </bean>-->
    <bean id="jedisConnectionFactory" class="org.springframework.data.redis.connection.jedis.JedisConnectionFactory">
        <!--密码如果没有密码也需要写,即使写空的-->
        <property name="password" value="http://www.mamicode.com/${redis.password}"></property>
        <!--连接地址-->
        <property name="hostName" value="http://www.mamicode.com/${redis.hostName}"></property>
        <!--端口号-->
        <property name="port" value="http://www.mamicode.com/${redis.port}"></property>
        <property name="usePool" value="http://www.mamicode.com/true"></property>
        <!--连接池来源-->
        <property name="poolConfig" ref="jedisPoolConfig"></property>
    </bean>
    <!--配置Redis连接模板-->
    <bean class="org.springframework.data.redis.core.StringRedisTemplate">
        <property name="connectionFactory" ref="jedisConnectionFactory"></property>
    </bean>
    <!--数据库连接池 copy-->
    <bean id="dataSource" class="com.mchange.v2.c3p0.ComboPooledDataSource">
        <property name="driverClass" value="http://www.mamicode.com/${jdbc.driver}"/>
        <property name="jdbcUrl" value="http://www.mamicode.com/${jdbc.url}"/>
        <property name="user" value="http://www.mamicode.com/${jdbc.username}"/>
        <property name="password" value="http://www.mamicode.com/${jdbc.password}"/>
    </bean>
    <bean id="sessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
        <property name="dataSource" ref="dataSource"/>
        <!--实体-->
        <property name="typeAliasesPackage" value="http://www.mamicode.com/cn.entity"/>
        <!--mapper.xml-->
        <property name="mapperLocations" value="http://www.mamicode.com/classpath:/mapper/*.xml"/>
    </bean>
    <!--Mybatis扫描接口位置-->
    <bean class="org.mybatis.spring.mapper.MapperScannerConfigurer">
        <!--dao的接口-->
        <property name="basePackage" value="http://www.mamicode.com/cn.*.dao"/>
    </bean>

    <bean id="transactionManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
        <property name="dataSource" ref="dataSource"></property>
    </bean>

    <tx:advice id="txAdvice" transaction-manager="transactionManager">
        <tx:attributes>
            <tx:method name="add*" propagation="REQUIRED"/>
            <tx:method name="insert*" propagation="REQUIRED"/>
            <tx:method name="update*" propagation="REQUIRED"/>
            <tx:method name="delete*" propagation="REQUIRED"/>
            <tx:method name="*" propagation="SUPPORTS"></tx:method>
        </tx:attributes>
    </tx:advice>

    <aop:config>
        <aop:pointcut id="txPointcut" expression="execution(* cn.*.services..*.*(..))"></aop:pointcut>
        <aop:advisor advice-ref="txAdvice" pointcut-ref="txPointcut"></aop:advisor>
    </aop:config>

</beans>

 

    四丶编写区域表的实体类

  

public class Area {
    /**
     * 本区域表是自关联,
     */
//    地址编号
    private String areaid;
    //地址名称
    private String name;
    //地址类型
    private String type;
    //地址等级
    private String level;
    //改地址的父Id用于关联该地址在是属于哪个地区以及位置
    private String parentid;

    @Override
    public String toString() {
        return "Area{" +
                "areaid=‘" + areaid + ‘\‘‘ +
                ", name=‘" + name + ‘\‘‘ +
                ", type=‘" + type + ‘\‘‘ +
                ", level=‘" + level + ‘\‘‘ +
                ", parentid=‘" + parentid + ‘\‘‘ +
                ‘}‘;
    }

    public String getAreaid() {
        return areaid;
    }

    public void setAreaid(String areaid) {
        this.areaid = areaid;
    }

    public String getName() {
        return name;
    }

    public void setName(String name) {
        this.name = name;
    }

    public String getType() {
        return type;
    }

    public void setType(String type) {
        this.type = type;
    }

    public String getLevel() {
        return level;
    }

    public void setLevel(String level) {
        this.level = level;
    }

    public String getParentid() {
        return parentid;
    }

    public void setParentid(String parentid) {
        this.parentid = parentid;
    }
}

  五丶创建Dao利用Mybatis框架查询出地址表的数据,并分页查询,和查询地址表的总记录数

  DAO接口如下

  

  

public interface AreaDao {
    //查询list数据
    List<Area> queryAllArea(@Param("stast") Integer stast,@Param("pageSize") Integer pageSize);
    //查询总记录数让待会我们分页插入Redis数据库时更好的操作循环
    Integer queryCountArea();
}

  所对应的Mapper文件

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mapper PUBLIC
        "-//mybatis.org//DTD Mapper 3.0//EN"
        "http://mybatis.org/dtd/mybatis-3-mapper.dtd" >
<mapper namespace="cn.dao.AreaDao">
    <resultMap id="baseMap" type="cn.bdqn.tangcco.entity.Area" autoMapping="true">
        <id property="areaid" column="areaid"></id>
    </resultMap>
    <select id="queryAllArea" resultMap="baseMap">
      SELECT  * from area
      limit #{stast},#{pageSize}
    </select>
    <select id="queryCountArea" resultType="Integer">
        SELECT count(*) from area
    </select>
</mapper>

  六丶插入数据进入Redis数据和查询数据,一般来说我们页面所获取的数据都是json类型的,在我们插入时会把他转成json字符串,方便我们将数据传递至页面拿值

  注:

    在这里插入的数据类型是Redis的List数据类型,Key是mysql数据库中区域表的父Id作为Key

     

  services层接口代码方法

  

public interface RedisServices {
    void addAreas(List<Area> lists);
    List<String> queryAreaByParentId(String parent);
}

  Services 实现类

  

@Service
public class RedisServicesImpl implements RedisServices {
//    拿到Redis工厂模板
    @Inject
    private StringRedisTemplate redisTemplate;
    @Override
    public void addAreas(List<Area> lists) {
//        放进数据库的类型是list,拿到list类型对象
        ListOperations listOperations = redisTemplate.opsForList();
        if (lists!=null) {
            //循环增加的集合
            for (Area area:lists){
                //加入数据库,由于我们页面需要的是json串,直接把增加对象转化为json格式即可
                listOperations.leftPush("parentId"+area.getParentid(), JSONArray.toJSONString(area));
            }
        }
    }

    @Override
    public  List<String> queryAreaByParentId(String parent) {
        //获取Redis  List数据类型操作对象
        ListOperations listOperations = redisTemplate.opsForList();
        //根据传入的Key进行Redis数据库查询
        List<String> list = listOperations.range(parent,0,-1);
        return list;
    }
}

  七丶所有代码准备就绪,编写测试类

   测试类

@RunWith(SpringJUnit4ClassRunner.class)
@ContextConfiguration(locations = "classpath:applicationContext.xml")
public class TestRedis  {
    @Inject
    RedisServices redisServices;
    @Inject
    private AreaDao areaDao;

 

  2.编写测试插入数据方法

    

 @Test
    public void testQueryAllAreaAndAddRedis(){
        //分页开始位置
        int stast = 0;
        //分页大小
        int pageSize = 1000;
        //总记录数
        int total = areaDao.queryCountArea();
        //求出总页数
        int totalPage=total%pageSize>0?1:0;
        totalPage += total/pageSize;
        /**
         * 思路:
         *      有多少页循环多少次
         *      务必把每一页的数据都加入Redis数据库
         */
        for (int i = 0;i<totalPage;i++){
            //从Mysql中查询出每一页的数据
            List<Area> list = areaDao.queryAllArea(stast,pageSize);
            //当前页数据都拿出来后,进行翻页,翻页就是把分页开始位置加上分页大小即可
            stast+=pageSize;
            //让控制台打印下每页数据,让我们跑程序时看见数据。并且有种期待感
            for (Area a :list){
                System.out.println(a);
            }
            //将从Mysql查询出来的数据加入Redis数据库
            redisServices.addAreas(list);
        }
    }

  3.加入完成后,可以用我们刚才编写的查看Redis数据库数据的方法进行查看

  

  @Test
    public void testAreaByParentId(){
        //想看哪一个层级的区域地址,直接传入参数即可
        for (String s:redisServices.queryAreaByParentId("parentId0")){
            System.out.println(s);
        }
    }

  到此完成

 

 

      

将mysql中的全国区域表数据转移至Redis数据库