使用Mybatis的Batch Insert Support 實現批次插入

2022-07-11 10:00:40

Batch Insert Support 批次插入

在開發中如果遇到需要批次insert的需求，可以使用Mybatis 的 Batch Insert Support 提高插入效率。

程式碼範例（開發的專案中擷取的片段）

@Autowired
private SqlSessionTemplate sqlSessionTemplate;
public int insertFolder(List<IpsCatalogFolderDetail> ips) {
        //獲取sql對談
        SqlSession session = sqlSessionTemplate.getSqlSessionFactory().openSession(ExecutorType.BATCH, false);
        //通過新的session獲取mapper，而不是常規的spring管理注入
        IipsCatalogFolderDetailDao folderDetailDao = session.getMapper(IipsCatalogFolderDetailDao.class);
        int size = ips.size();
        //如果有父類別子類兩層都需要批次插入也可
        try {
        //外層迴圈
            for (int i = 0; i < size; i++) {
                    ips.get(i).setType("folder");
                    //用上面在session中獲取的mapper進行插入操作
                    folderDetailDao.insertFolder(ips.get(i));
                //內層迴圈
                String cs = ips.get(i).getContentIds();
                if (StringUtils.isNotBlank(cs)){
                        List<String> con = JSON.parseArray(cs,String.class);
                    if (cs != null && con.size() > 0) {
                        for (int j = 0; j < con.size(); j++) {
                                IpsCatalogFolderDetail ifd = new IpsCatalogFolderDetail();
                                ifd.setParentCode(ips.get(i).getCode());
                                ifd.setContentId(con.get(j));
                                ifd.setType("contents");
                                 //同樣用上面在session中獲取的mapper進行插入操作
                                folderDetailDao.insertFolder(ifd);
                        }
                    }
                }
                //最後批次提交
                    if (i % 200 == 0 || i == size - 1) {
                        session.commit();//200個提交一次，手動提交，提交後無法回滾
                        session.clearCache(); //清除快取，防止溢位
                    }
            }
        }catch (Exception e) {
            System.out.println(e.toString());
           session.rollback(); //沒有提交的資料可以回滾
        } finally {
            session.close();
        }
        return 0;
    }

另外有時我們在插入的時候需要先查詢資料是否已存在，如果也需要批次操作可將insert和update語句合併，然後就可以繼續使用Batch Insert了

ORACLE資料庫sql範例

@Insert("merge into ips_catalog_folder_detail fd " +
            "using(select #{code,jdbcType=VARCHAR} c from dual)t " +
            "on(fd.FOLDERID = t.c)" +
            
            "when matched then"+
            "update set "+
            ...(省略）...
            "where ..."+
            "when not matched then insert(" +
            "fd.PROD_LINE," +
            "fd.TYPE," +
            "fd.PARENTFOLDERCODE," +
            "fd.FOLDERID," +
            "fd.FOLDERCODE," +
            "fd.FOLDERNAME," +
            "fd.COLUMN_SORTINDEX," +
            "fd.DESCRIPTION," +
            "fd.CONTENTID," +
            "fd.CREATETIME" +
            ")" +
            "VALUES" +
            "(" +
            "#{prod_line}," +
            "#{type,jdbcType=VARCHAR}," +
            "#{parentCode,jdbcType=VARCHAR}," +
            "#{code,jdbcType=VARCHAR}," +
            "#{aliasCode,jdbcType=VARCHAR}," +
            "#{name,jdbcType=VARCHAR}," +
            "#{sortIndex,jdbcType=VARCHAR}," +
            "#{desc,jdbcType=VARCHAR}," +
            "#{contentId,jdbcType=VARCHAR}," +
            "#{createTime,jdbcType=VARCHAR}" +
            ")")
            int insertFolder(IpsCatalogFolderDetail fd);

MYSQL範例：

REPLACE INTO users (id,name,age) VALUES(1, '張雨綺', 32);

批次插入幾千條資料優化(foreach)

專案中有一個耗時較長的Job存在CPU佔用過高的問題

經排查發現，主要時間消耗在往MyBatis中批次插入資料。mapper configuration是用foreach迴圈做的，差不多是這樣。

<insert id="batchInsert" parameterType="java.util.List">
    insert into USER (id, name) values
    <foreach collection="list" item="model" index="index" separator=","> 
        (#{model.id}, #{model.name})
    </foreach>
</insert>

優化程式碼

可以看 http://www.mybatis.org/mybatis-dynamic-sql/docs/insert.html 中 Batch Insert Support 標題裡的內容）

SqlSession session = sqlSessionFactory.openSession(ExecutorType.BATCH);
try {
    SimpleTableMapper mapper = session.getMapper(SimpleTableMapper.class);
    List<SimpleTableRecord> records = getRecordsToInsert(); // not shown
 
    BatchInsert<SimpleTableRecord> batchInsert = insert(records)
            .into(simpleTable)
            .map(id).toProperty("id")
            .map(firstName).toProperty("firstName")
            .map(lastName).toProperty("lastName")
            .map(birthDate).toProperty("birthDate")
            .map(employed).toProperty("employed")
            .map(occupation).toProperty("occupation")
            .build()
            .render(RenderingStrategy.MYBATIS3);
 
    batchInsert.insertStatements().stream().forEach(mapper::insert);
    session.commit();
} finally {
    session.close();
}

總結一下，如果MyBatis需要進行批次插入，推薦使用 ExecutorType.BATCH 的插入方式，如果非要使用 <foreach>的插入的話，需要將每次插入的記錄控制在 20~50 左右

以上為個人經驗，希望能給大家一個參考，也希望大家多多支援it145.com。