Oracle数据库快速生成大量的相关数据实操

数据库 Oracle
我们今天主要介绍的是Oracle数据库以及sql loader快速的生成大量的相关数据的实际操作步骤,下面就是文章的详细内容介绍。

以下的文章主要介绍的是Oracle数据库,sql loader快速的生成大量的相关数据的实际操作步骤,以下就是对其生成大量相关测试数据的具体思路的详细描述。以下就是对其相关内容的具体描述。

一,用plsql developer 生成csv 文件

二,用>>输出重定向,追加到一个cvs 文件里。

三,再用sql loader 快速载入。

在plsql developer 执行

Sql代码

SELECT object_id,object_name FROM dba_objects;

右键plsql developer 导出csv 格式 1.csv。在linux 上执行下面的脚本

C代码

#!/bin/bash

for((i=1;i<200;i=i+1))

do

cat 1.csv >> 2.csv;

echo $i;

done

这样 50000 * 200 差不到就有一千万的数据了。我测试的 11047500 392M

可以用:

Linux代码

wc -l 2.csv

查看csv 里有多少条数据。现在测试数据有了。我们来试一下sql loader 的载入效果吧。

创建sqlloader 控制文件如下,保存为1.ctl

Sqlldr ctl代码

load data

infile '2.csv'

into table my_objects

fields terminated by ','optionally enclosed by '"'

(object_id,

object_name

);

控制文件简要说明:

-- INFILE 'n.csv' 导入多个文件

-- INFILE * 要导入的内容就在control文件里 下面的BEGINDATA后面就是导入的内容

--BADFILE '1.bad' 指定坏文件地址

--apend into table my_objects 追加

-- INSERT 装载空表 如果原先的表有数据 sqlloader会停止 默认值

-- REPLACE 原先的表有数据 原先的数据会全部删除

-- TRUNCATE 指定的内容和replace的相同 会用truncate语句删除现存数据

--可以指定位置加载

--(object_id position(1:3) char,object_name position(5:7) char)

--分别指定分隔符

--(object_id char terminated by ",", object_name char terminated by ",")

--执行sqlldr userid=scott/a123 control=1.ctl log=1.out direct=true

--30秒可以载入200万的测试数据 79MB

--sqlldr userid=/ control=result1.ctl direct=true parallel=true

--sqlldr userid=/ control=result2.ctl direct=true parallel=true

--sqlldr userid=/ control=result2.ctl direct=true parallel=true

--当加载大量数据时(大约超过10GB),最好抑制日志的产生:

--SQLALTER TABLE RESULTXT nologging;

--这样不产生REDO LOG,可以提高效率。然后在CONTROL文件中load data上面加一行:unrecoverable

--此选项必须要与DIRECT共同应用。

--在并发操作时,Oracle数据库声称可以达到每小时处理100GB数据的能力!其实,估计能到1-10G就算不错了,开始可用结构

--相同的文件,但只有少量数据,成功后开始加载大量数据,这样可以避免时间的浪费

下面就是执行了

Shell代码

sqlldr userid=scott/a123 control=1.ctl log=1.out direct=true

结果:30秒可以载入200万的测试数据 79MB

226秒载入1100万的测试数据 392Mb

我的环境是在虚拟机,测得的结果

MemTotal: 949948 kB

model name : Intel(R) Pentium(R) D CPU 2.80GHz

stepping : 8

cpu MHz : 2799.560

cache size : 1024 KB

还是挺快的:)

以上的相关内容就是对Oracle数据库,sql loader及快速生成大量数据的介绍,望你能有所收获。

【编辑推荐】

  1. Oracle密码文件的实际操作方案介绍
  2. Oracle数据库的性能完全保护的4个项目
  3. 提高Oracle SQL的执行效率的3个方案
  4. Oracle存储过程定时执行2种方法
  5. Oracle多表关联中的update语句实际应用
责任编辑:佚名 来源: 互联网
相关推荐

2010-04-29 11:26:52

2010-04-09 15:22:57

Oracle数据库

2022-01-19 08:33:17

Oracle数据库AutoUpgrad

2010-04-15 08:57:29

Oracle数据库

2011-08-18 17:05:16

Oracle数据库的服

2010-05-04 09:14:11

Oracle数据库

2010-04-23 09:32:39

Oracle数据库实例

2010-03-18 09:28:14

Oracle数据库迁移

2010-04-07 09:31:02

Oracle数据库

2010-05-25 17:01:44

MySQL命令行

2010-04-15 11:41:21

Oracle 数据库

2011-03-25 11:13:15

Oracle数据库进程

2011-09-02 10:37:15

Oraclesqlload用法

2017-11-22 09:20:41

数据库在线数据迁移Subscriptio

2010-04-15 09:27:37

Oracle数据库

2020-10-15 10:22:37

数据库

2020-10-15 14:47:17

信创项目数据库

2009-12-14 16:00:32

Ruby操作Oracl

2010-05-21 17:51:58

MySQL数据库

2010-05-19 17:14:50

MySQL&Oracl
点赞
收藏

51CTO技术栈公众号