读取txt文件数据存入数据库的有关问题

读取txt文件数据存入数据库的问题
我每天会下载一个txt的记录文件（过去7天的记录）导入到数据库，txt文件里面大概有2000多条记录，其中80%都是数据库已存在的，只20%左右的数据是新数据，我现在是直接循环读取txt文件写入到数据库，重复的就会失败，但感觉这样效率太低了，请问有没有比较高效一点的方法？
------解决思路----------------------
已知数据是过去7天的，那么可从
1、数据库中读取开始日期之后的数据到数组
2、读取数据文件到数组
3、对两数组求一个差集
4、将差集插入数据库