热门标签 | HotTags
当前位置:  开发笔记 > 数据库 > 正文

匹配来自两个表的人口统计信息,没有唯一标识符

如何解决《匹配来自两个表的人口统计信息,没有唯一标识符》经验,为你挑选了1个好方法。

我具有表A和表B,其中包含以下示例人口统计数据和列。

表A:

F_Name  S_Name  DOB         SSN
David   Sam     1/1/1980    123-45-6789
David   Lieser  10/7/1940   987-65-4321
John    Doe     12/31/2001  500-00-0000

表B:

F_Name  S_Name  DOB      SSN
Dave    Sammy   1/2/1980 223-45-6789

没有可能用于连接两个表的唯一标识符。

通过查看上述样本数据,我想将David Sam 1/1/1980 123-45-6789(来自表A)和Dave Sammy 1/2/1980 223-455-6789(来自表B)返回为可能是同一个人–理由是DOB,SSN距离足够近,只有一位或几位数字掉了,这可能是由于人为数据输入错误造成的,而且名称听起来相似或相似或相似。我该如何实现?

F_Name S_Name DOB      SSN          F_Name_1 S_Name_1  DOB_1    SSN_1
David  Sam    1/1/1980 123-45-6789  Dave     Sammy     1/2/1980 223-455-6789

Littlefoot.. 5

Jaro-Winkler的相似性可能会有所帮助。看下面的例子:

SQL> with
  2  table_a (fname, sname, dob, ssn) as
  3    (select 'David', 'Sam'   , date '1980-01-01', '123-45-6789' from dual union all
  4     select 'David', 'Lieser', date '1940-10-07', '987-65-4321' from dual union all
  5     select 'John' , 'Doe'   , date '2001-12-31', '500-00-0000' from dual
  6    ),
  7  table_b (fname, sname, dob, ssn) as
  8    (select 'Dave', 'Sammy'  , date '1980-01-02', '223-45-6789' from dual
  9    )
 10  select a.fname, a.sname, a.dob, a.ssn,
 11         b.fname, b.sname, b.dob, b.ssn,
 12    utl_match.jaro_winkler_similarity(a.fname, b.fname) jws_fname,
 13    utl_match.jaro_winkler_similarity(a.sname, b.sname) jws_sname,
 14    utl_match.jaro_winkler_similarity(to_char(a.dob, 'yyyymmdd'), to_char(b.dob, 'yyyymmdd')) jws_dob,
 15    utl_match.jaro_winkler_similarity(a.ssn, b.ssn) jws_ssn
 16  from table_a a cross join table_b b
 17  where
 18        utl_match.jaro_winkler_similarity(a.fname, b.fname) >= 80
 19    and utl_match.jaro_winkler_similarity(a.sname, b.sname) >= 80
 20    and utl_match.jaro_winkler_similarity(to_char(a.dob, 'yyyymmdd'), to_char(b.dob, 'yyyymmdd')) >= 80
 21    and utl_match.jaro_winkler_similarity(a.ssn, b.ssn) >= 80;

FNAME SNAME  DOB      SSN         FNAM SNAME DOB      SSN          JWS_FNAME  JWS_SNAME    JWS_DOB    JWS_SSN
----- ------ -------- ----------- ---- ----- -------- ----------- ---------- ---------- ---------- ----------
David Sam    01.01.80 123-45-6789 Dave Sammy 02.01.80 223-45-6789         84         90         95      93

SQL>

我将限制设置为80,但您可能会做出不同的决定。删除该WHERE子句(第17-21行)并检查返回的结果,然后您将对所发生的事情有一个更清晰的了解。



1> Littlefoot..:

Jaro-Winkler的相似性可能会有所帮助。看下面的例子:

SQL> with
  2  table_a (fname, sname, dob, ssn) as
  3    (select 'David', 'Sam'   , date '1980-01-01', '123-45-6789' from dual union all
  4     select 'David', 'Lieser', date '1940-10-07', '987-65-4321' from dual union all
  5     select 'John' , 'Doe'   , date '2001-12-31', '500-00-0000' from dual
  6    ),
  7  table_b (fname, sname, dob, ssn) as
  8    (select 'Dave', 'Sammy'  , date '1980-01-02', '223-45-6789' from dual
  9    )
 10  select a.fname, a.sname, a.dob, a.ssn,
 11         b.fname, b.sname, b.dob, b.ssn,
 12    utl_match.jaro_winkler_similarity(a.fname, b.fname) jws_fname,
 13    utl_match.jaro_winkler_similarity(a.sname, b.sname) jws_sname,
 14    utl_match.jaro_winkler_similarity(to_char(a.dob, 'yyyymmdd'), to_char(b.dob, 'yyyymmdd')) jws_dob,
 15    utl_match.jaro_winkler_similarity(a.ssn, b.ssn) jws_ssn
 16  from table_a a cross join table_b b
 17  where
 18        utl_match.jaro_winkler_similarity(a.fname, b.fname) >= 80
 19    and utl_match.jaro_winkler_similarity(a.sname, b.sname) >= 80
 20    and utl_match.jaro_winkler_similarity(to_char(a.dob, 'yyyymmdd'), to_char(b.dob, 'yyyymmdd')) >= 80
 21    and utl_match.jaro_winkler_similarity(a.ssn, b.ssn) >= 80;

FNAME SNAME  DOB      SSN         FNAM SNAME DOB      SSN          JWS_FNAME  JWS_SNAME    JWS_DOB    JWS_SSN
----- ------ -------- ----------- ---- ----- -------- ----------- ---------- ---------- ---------- ----------
David Sam    01.01.80 123-45-6789 Dave Sammy 02.01.80 223-45-6789         84         90         95      93

SQL>

我将限制设置为80,但您可能会做出不同的决定。删除该WHERE子句(第17-21行)并检查返回的结果,然后您将对所发生的事情有一个更清晰的了解。


推荐阅读
  • 本文介绍了如何使用Power Design(PD)和SQL Server进行数据库反向工程的方法。通过创建数据源、选择要反向工程的数据表,PD可以生成物理模型,进而生成所需的概念模型。该方法适用于SQL Server数据库,对于其他数据库是否适用尚不确定。详细步骤和操作说明可参考本文内容。 ... [详细]
  • 在数据分析工作中,我们通常会遇到这样的问题,一个业务部门由若干业务组构成,需要筛选出每个业务组里业绩前N名的业务员。这其实是一个分组排序的 ... [详细]
  • 本文由编程笔记小编整理,介绍了PHP中的MySQL函数库及其常用函数,包括mysql_connect、mysql_error、mysql_select_db、mysql_query、mysql_affected_row、mysql_close等。希望对读者有一定的参考价值。 ... [详细]
  • 本文介绍了Oracle数据库中tnsnames.ora文件的作用和配置方法。tnsnames.ora文件在数据库启动过程中会被读取,用于解析LOCAL_LISTENER,并且与侦听无关。文章还提供了配置LOCAL_LISTENER和1522端口的示例,并展示了listener.ora文件的内容。 ... [详细]
  • Spring特性实现接口多类的动态调用详解
    本文详细介绍了如何使用Spring特性实现接口多类的动态调用。通过对Spring IoC容器的基础类BeanFactory和ApplicationContext的介绍,以及getBeansOfType方法的应用,解决了在实际工作中遇到的接口及多个实现类的问题。同时,文章还提到了SPI使用的不便之处,并介绍了借助ApplicationContext实现需求的方法。阅读本文,你将了解到Spring特性的实现原理和实际应用方式。 ... [详细]
  • Java String与StringBuffer的区别及其应用场景
    本文主要介绍了Java中String和StringBuffer的区别,String是不可变的,而StringBuffer是可变的。StringBuffer在进行字符串处理时不生成新的对象,内存使用上要优于String类。因此,在需要频繁对字符串进行修改的情况下,使用StringBuffer更加适合。同时,文章还介绍了String和StringBuffer的应用场景。 ... [详细]
  • Oracle分析函数first_value()和last_value()的用法及原理
    本文介绍了Oracle分析函数first_value()和last_value()的用法和原理,以及在查询销售记录日期和部门中的应用。通过示例和解释,详细说明了first_value()和last_value()的功能和不同之处。同时,对于last_value()的结果出现不一样的情况进行了解释,并提供了理解last_value()默认统计范围的方法。该文对于使用Oracle分析函数的开发人员和数据库管理员具有参考价值。 ... [详细]
  • MyBatis错题分析解析及注意事项
    本文对MyBatis的错题进行了分析和解析,同时介绍了使用MyBatis时需要注意的一些事项,如resultMap的使用、SqlSession和SqlSessionFactory的获取方式、动态SQL中的else元素和when元素的使用、resource属性和url属性的配置方式、typeAliases的使用方法等。同时还指出了在属性名与查询字段名不一致时需要使用resultMap进行结果映射,而不能使用resultType。 ... [详细]
  • 本文详细介绍了在ASP.NET中获取插入记录的ID的几种方法,包括使用SCOPE_IDENTITY()和IDENT_CURRENT()函数,以及通过ExecuteReader方法执行SQL语句获取ID的步骤。同时,还提供了使用这些方法的示例代码和注意事项。对于需要获取表中最后一个插入操作所产生的ID或马上使用刚插入的新记录ID的开发者来说,本文提供了一些有用的技巧和建议。 ... [详细]
  • 本文介绍了一个在线急等问题解决方法,即如何统计数据库中某个字段下的所有数据,并将结果显示在文本框里。作者提到了自己是一个菜鸟,希望能够得到帮助。作者使用的是ACCESS数据库,并且给出了一个例子,希望得到的结果是560。作者还提到自己已经尝试了使用"select sum(字段2) from 表名"的语句,得到的结果是650,但不知道如何得到560。希望能够得到解决方案。 ... [详细]
  • 本文详细介绍了Spring的JdbcTemplate的使用方法,包括执行存储过程、存储函数的call()方法,执行任何SQL语句的execute()方法,单个更新和批量更新的update()和batchUpdate()方法,以及单查和列表查询的query()和queryForXXX()方法。提供了经过测试的API供使用。 ... [详细]
  • 高质量SQL书写的30条建议
    本文提供了30条关于优化SQL的建议,包括避免使用select *,使用具体字段,以及使用limit 1等。这些建议是基于实际开发经验总结出来的,旨在帮助读者优化SQL查询。 ... [详细]
  • 本文介绍了通过mysql命令查看mysql的安装路径的方法,提供了相应的sql语句,并希望对读者有参考价值。 ... [详细]
  • 本文讨论了在数据库打开和关闭状态下,重新命名或移动数据文件和日志文件的情况。针对性能和维护原因,需要将数据库文件移动到不同的磁盘上或重新分配到新的磁盘上的情况,以及在操作系统级别移动或重命名数据文件但未在数据库层进行重命名导致报错的情况。通过三个方面进行讨论。 ... [详细]
  • ALTERTABLE通过更改、添加、除去列和约束,或者通过启用或禁用约束和触发器来更改表的定义。语法ALTERTABLEtable{[ALTERCOLUMNcolu ... [详细]
author-avatar
益林代表_610
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有