大数据量的导入问题!

时间:2023-01-11 23:57:50
现有一个上十万行的Excel表,需要将其用ASP.NET导入到SQL中,而且要判断每行的数据在SQL中是否已存在,若已存在,则不导入该行!如果使用遍历行,再每行判断是否已存在的话就很慢了!
请有大量数据处理经验的高手指点迷津,怎么才有最高效率!

另,在使用ASP.NET读取Excel时都是指定Sheet名的,有没有办法遍历一个Excel文档中的所有Sheet?
谢谢!

8 个解决方案

#1


10w不多吧?

#2


10W是不多,但要逐行判断,这个处理量就比较大了吧!

#3


up

#4


单表有10万行的东西本就不该用Excel作为载体.

遍历一个Excel文档中的所有Sheet仅使用.Net的系统库是做不到,或者说仅仅把Excel(指文件,非指软件)作为一个yet数据源是做不到遍历表的. 不过对Excel(指软件,非指文件)进行编程也许可以吧?


这种情况不遍历也得遍历,不判断也得判断,事实就摆着.前面犯下的错误就要后面来承受后果,谁让你当初用Excel作为大数据量的载体而不用数据库或其他手段呢?

#5


这跟本就与我无关,也与我公司无关,是我公司的合作伙伴,他们真是很麻烦,每周就给一两个EXCEL,真是受不了!我也是受害者啊!

#6


SQL SERVER 与ACCESS、EXCEL的数据转换
http://www.cnblogs.com/hedonister/articles/121441.html

#7


先导入sqlserver再处理就是了

#8


先全部導入到sqlserver(新表),在判斷插入

#1


10w不多吧?

#2


10W是不多,但要逐行判断,这个处理量就比较大了吧!

#3


up

#4


单表有10万行的东西本就不该用Excel作为载体.

遍历一个Excel文档中的所有Sheet仅使用.Net的系统库是做不到,或者说仅仅把Excel(指文件,非指软件)作为一个yet数据源是做不到遍历表的. 不过对Excel(指软件,非指文件)进行编程也许可以吧?


这种情况不遍历也得遍历,不判断也得判断,事实就摆着.前面犯下的错误就要后面来承受后果,谁让你当初用Excel作为大数据量的载体而不用数据库或其他手段呢?

#5


这跟本就与我无关,也与我公司无关,是我公司的合作伙伴,他们真是很麻烦,每周就给一两个EXCEL,真是受不了!我也是受害者啊!

#6


SQL SERVER 与ACCESS、EXCEL的数据转换
http://www.cnblogs.com/hedonister/articles/121441.html

#7


先导入sqlserver再处理就是了

#8


先全部導入到sqlserver(新表),在判斷插入