导入去重依据怎样事先确认
建站项目涉及历史数据导入时,去重规则若未事先书面确认,容易在导入后出现记录被误删或错误合并。本文适用于需要将旧系统客户、产品等数据迁入新站的场景。以下从业务编号、复合键、空值处理和名称变更四个方面,说明合同附件中应写明的字段与核对方法,帮助双方在导入前达成一致。
一、业务编号:作为去重主键的优先依据
导入前应确认每条记录是否具有稳定且不重复的业务编号,例如客户编码、产品料号或合同号。该编号应写入合同附件的数据字段清单,并注明由哪一方提供、格式要求及是否允许重复。
核对方法:要求提供方导出编号清单,双方抽查是否存在空值或重复值。若编号本身存在重复,则不能单独作为去重依据,需结合其他字段组成复合键。
注意:业务编号不等同于数据库自增ID,后者在迁移中可能变化,不宜作为跨系统去重依据。
二、复合键:多字段组合时的确认要点
当单一字段无法单独区分记录时,需约定复合键组合,例如“客户名称+联系号码”或“产品名称+规格”。合同附件应列出参与组合的字段、拼接顺序及分隔符,并说明是否区分大小写和空格。
核对方法:用历史数据抽样验证复合键是否产生意外重复或遗漏。例如假设某竹制品加工企业导出客户表,以“名称+手机号”为复合键,需检查同名不同号、同号不同名的情况是否被正确区分。
复合键一旦确认,导入程序应严格按此执行,不得在未告知的情况下增加或减少字段。
三、空值处理:明确缺失字段的判定规则
合同附件应写明当关键字段为空时如何处理:是视为不重复、跳过该条,还是触发人工复核。例如手机号为空时,不能仅凭名称相同就判定为同一客户并删除记录。
核对方法:统计历史数据中各关键字段的空值比例,并在导入测试中检查空值记录是否被错误合并或丢弃。建议对空值记录单独生成清单,由业务方确认后再决定导入方式。
空值规则应同时适用于重复提示和合并操作,避免提示与合并采用不同标准。
四、名称变更:区分重复提示与合并的边界
客户或产品名称发生变更时,新旧名称可能指向同一实体。合同附件应约定是否以业务编号追踪变更,以及名称变更后是否触发重复提示而非自动合并。
核对方法:要求提供方提供名称变更记录或备注字段,导入时以业务编号为主进行匹配,名称仅作为辅助提示。例如假设某黑茶加工厂家旧客户更名,若仅凭名称去重会导致同一客户被拆成两条记录。
重复提示应仅提醒操作人员核对,不得直接删除或合并记录;合并操作需单独授权并保留操作日志。
五、合同附件应列出的核对字段与操作记录
建议在附件中以表格形式列出:字段名称、是否必填、是否参与去重、空值处理方式、变更追踪方式。双方确认后作为导入验收依据。
导入完成后,应提供去重操作记录,包括每条被提示重复或合并的记录及其依据字段值,供甲方抽查。记录保留期限可在合同中约定。
任何去重规则的调整都应形成书面变更单,注明影响范围,避免导入过程中口头修改导致结果不可追溯。
