首页 > 代码库 > 做ETL的时候用到的数据同步更新代码
做ETL的时候用到的数据同步更新代码
这里是用的从一个库同步到另一个库，代码如下
private void IncrementalSyncUpdate(string fromConn, string toConn, Dictionary<string, string> sqlList) { var sw = new Stopwatch(); using (var conn = new SqlConnection(fromConn)) { if (conn.State != ConnectionState.Open) conn.Open(); using (var cmd = new SqlCommand()) { try { foreach (var item in sqlList) { var sql = item.Value; var tableName = item.Key; sw.Restart(); cmd.CommandText = sql; cmd.CommandType = CommandType.Text; cmd.Connection = conn; DataTable dt = new DataTable(); SqlDataAdapter sda = new SqlDataAdapter(cmd); sda.Fill(dt); if (dt.Rows.Count == 0) continue;//如果没有新增数据，跳过 foreach (DataRow row in dt.Rows) { row.SetModified(); } int updateCount = 0; using (var TmpConn = new SqlConnection(toConn)) { if (TmpConn.State != ConnectionState.Open) TmpConn.Open(); using (var tmpCmd = new SqlCommand()) { tmpCmd.CommandText = "select * from Meb_" + tableName; tmpCmd.CommandType = CommandType.Text; tmpCmd.Connection = TmpConn; SqlDataAdapter tmpSda = new SqlDataAdapter(tmpCmd); SqlCommandBuilder scb = new SqlCommandBuilder(tmpSda); tmpSda.UpdateCommand = scb.GetUpdateCommand(); updateCount = tmpSda.Update(dt); } } sw.Stop(); Console.WriteLine("增量同步数据更新完成，表名：{0}，数据{1}条，耗时{2}秒", tableName, updateCount, sw.Elapsed.TotalSeconds); } } catch (Exception e) { Console.WriteLine("增量同步数据同步更新失败，" + e.ToString()); } } } }
这个sqllist是一个 Key:表名 Value:查询SQL ，做增量同步查询的，主要根据时间戳来获取时间。
用SqlAdapter的Update方法来做更新，这里有个问题，在更新的DataTable里面的数据要对DataRow的RowState进行一个设置，如果是未设置，那么Update过后，数据库是没有变化的。
做ETL的时候用到的数据同步更新代码
声明：以上内容来自用户投稿及互联网公开渠道收集整理发布，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任，若内容有误或涉及侵权可进行投诉： 投诉/举报 工作人员会在5个工作日内联系你，一经查实，本站将立刻删除涉嫌侵权内容。