-
Notifications
You must be signed in to change notification settings - Fork 8
1. oracle 大数据量加载方法汇总
Landy.Liu edited this page May 25, 2019
·
2 revisions
在 Oracle 数据库中,我们通常在不同数据库的表间记录进行复制或迁移时会用以下几种方法:
- A 表的记录导出为一条条分号隔开的 insert 语句,然后执行插入到 B 表中
- 建立数据库间的 dblink,然后用 create table B as select * from A@dblink where ...,或 insert into B select * from A@dblink where ...
- exp A 表,再 imp 到 B 表,exp 时可加查询条件
- 程序实现 select from A ..,然后 insert into B ...,也要分批提交
- 再就是本篇要说到的 Sql Loader(sqlldr) 来导入数据,效果比起逐条 insert 来很明显
第 1 种方法在记录多时是个噩梦,需三五百条的分批提交,否则客户端会死掉,而且导入过程很慢。如果要不产生 REDO 来提高 insert into 的性能,就要下面那样做:
alter table B nologging;
insert /* +APPEND */ into B(c1,c2) values(x,xx);
insert /* +APPEND */ into B select * from A@dblink where .....;
在命令行下执行 Oracle 的 sqlldr 命令,可以看到它的详细参数说明,要着重关注以下几个参数:
userid -- Oracle 的 username/password[@servicename]
control -- 控制文件,可能包含表的数据
-------------------------------------------------------------------------------------------------------
log -- 记录导入时的日志文件,默认为 控制文件(去除扩展名).log
bad -- 坏数据文件,默认为 控制文件(去除扩展名).bad
data -- 数据文件,一般在控制文件中指定。用参数控制文件中不指定数据文件更适于自动操作
errors -- 允许的错误记录数,可以用他来控制一条记录都不能错
rows -- 多少条记录提交一次,默认为 64
skip -- 跳过的行数,比如导出的数据文件前面几行是表头或其他描述
还有更多的 sqlldr 的参数说明请参考:sql loader的用法。http://psoug.org/reference/sqlloader.html
主要步骤如下:
- 建立数据文件
- 创建需要导入数据的数据表
- 创建sql loader对应的控制文件
具体sql loader的示例代码在sqlloader目录下。
执行命令:sqlldr dbuser/dbpass@dbservice control=update_data.ctl
注意:sqlldr为系统命令,在pl/sql下是不能执行的,需要在操作系统中执行(linux下),sql plus不知道行不行。
参考链接: https://www.cnblogs.com/flish/archive/2010/05/31/1748221.html
说明:在操作类型 truncate 位置可用以下中的一值:
1) insert --为缺省方式,在数据装载开始时要求表为空
2) append --在表中追加新记录
3) replace --删除旧记录(用 delete from table 语句),替换成新装载的记录
4) truncate --删除旧记录(用 truncate table 语句),替换成新装载的记录
SegmentFault: https://segmentfault.com/u/landy8530
简书:https://www.jianshu.com/u/36a7d3a994ac
CSDN:https://blog.csdn.net/landy8530
开源中国:https://my.oschina.net/landy8530
微信公众号:蚂蚁与咖啡的故事