WorkFine使用外部数据源超十万条数据时的数据处理

首先,问你一个问题:什么是大数据?

通义AI回答:大数据(Big Data)是指那些因为其体量巨大、生成速度快、种类繁多,而无法用传统的数据处理工具和方法在合理时间内进行采集、存储、管理和分析的数据集合。

按照上面的回答来说,我这个网站访问日志13万条也不算是大数据了。

今天看博客日志时发现有很多访问记录,想引入到WorkFine账套内,在网站记录中清除不必要的记录。通过外部数据源和定时任务进行操作。在定时任务遇到了和之前不一样的情况,使用回写公式的唯一约束后,并没有按预期新增表单数据。

多次测试后,使用筛选条件时有效

这里使用了不属于集合过滤,虽然SQL Server在多数据时不建议这样,但实际效果是只有这种方法能够奏效。

图片[1]-WorkFine使用外部数据源超十万条数据时的数据处理-本牛千智丨专注WorkFine开发

临时先使用这种方法了,我的目的是达到了,后面有再优化。

如果您有任何对大数据量处理的见解,欢迎留言交流。

© 版权声明
THE END
喜欢就点赞吧
点赞5 分享