迁移 Oracle 到 PostgreSQL 最好用的工具,没有之一!

数据库 PostgreSQL
将 Oracle 数据库迁移到 PostgreSQL 时,过程很难会一帆风顺。这种情况下,选择一款好用的迁移工具,就显得尤为重要了。

介绍

ora_migrator是一个用于db_migrator的插件,它使用oracle_fdw将 Oracle 数据库迁移到 PostgreSQL。

请阅读db_migrator文档以获取使用说明;本文仅涵盖插件的设置以及一般文档中未涵盖的其他功能。

除此之外,ora_migrator还提供从 Oracle 到 PostgreSQL 的复制功能,可用于从 Oracle 进行几乎零停机时间的迁移。有关详细信息,请参阅复制。

请注意,由于 Oracle 中的模式名称通常为大写,因此,您需要为db_migrator函数的only_schemas参数,使用大写的模式名称。

选项

以下选项可用于db_migrate_prepare、db_migrate_mkforeign和db_migrate:

  • • max_long(整型,默认值 32767):将用于在外表上设置max_long选项。这决定了 LONG、LONG RAW 和 XMLTYPE 列的最大长度。

前提条件

• 您需要 PostgreSQL 9.5 或更高版本。

• 必须安装oracle_fdw和db_migrator扩展。

• 必须为访问的 Oracle 数据库定义好外部服务器。

• 调用create_oraviews函数以创建外部表的用户,必须具有外部服务器的USAGE权限。

• 调用create_oraviews函数的用户必须存在用户映射。

• 用户映射中使用的 Oracle 用户,必须具有读取以下 Oracle 系统视图的权限:您可以选择改为授予用户SELECT ANY DICTIONARY系统权限,它包括了上述所有权限。

• DBA_COL_PRIVS

• DBA_CONS_COLUMNS

• DBA_CONSTRAINTS

• DBA_IND_COLUMNS

• DBA_IND_EXPRESSIONS

• DBA_INDEXES

• DBA_MVIEWS

• DBA_MVIEW_LOGS

• DBA_PROCEDURES

• DBA_SEGMENTS

• DBA_SEQUENCES

• DBA_SOURCE

• DBA_TAB_COLUMNS

• DBA_TAB_PRIVS

• DBA_TABLES

• DBA_TRIGGERS

• DBA_USERS

• DBA_VIEWS

• 要使用复制,用户必须具有CREATE TABLE和CREATE TRIGGER权限。若要对不属于指定 Oracle 用户的表使用复制,该用户必须具有CREATE ANY TABLE、CREATE ANY INDEX、CREATE ANY TRIGGER、DROP ANY TABLE、DROP ANY TRIGGER和SELECT ANY TABLE权限(这是创建、删除日志记录表和触发器所必需的)。

扩展创建的对象

迁移函数

db_migrator回调函数db_migrator_callback(),返回扩展提供的迁移函数。有关详细信息,请参阅db_migrator文档。

“元数据视图创建函数”create_oraviews,会在 FDW 阶段创建一些附加对象,这些对象提供了对 Oracle 迁移有帮助的信息:

包定义

packages (
   schema       text    NOT NULL,
   package_name text    NOT NULL,
   is_body      boolean NOT NULL,
   source       text    NOT NULL
)

• is_body,对于包规范定义是FALSE,对于包体定义是TRUE

此视图可用于简化包对象的转换。

segments (
   schema       text   NOT NULL,
   segment_name text   NOT NULL,
   segment_type text   NOT NULL,
   bytes        bigint NOT NULL
)

该外表对于评估 Oracle 中表和索引的大小最有用。

迁移成本估算

migration_cost_estimate (
   schema          text    NOT NULL,
   task_type       text    NOT NULL,
   task_content    bigint  NOT NULL,
   task_unit       text    NOT NULL,
   migration_hours integer NOT NULL
)
  • • task_type可以是tables、data_migration、functions、triggers、packages和views之一。
  • • task_content是该类型的任务数量
  • • task_unit是task_content的单位
  • • migration_hours是对完成此任务可能需要的小时数的一个粗略估计

该视图有助于评估一个 Oracle 数据库的迁移成本。

其他对象

表函数 oracle_test_table

此函数测试一个 Oracle 表是否存在潜在的迁移问题。您必须在db_migrate_prepare之后运行它。

参数为:

• server:Oracle 外部服务器的名称

• schema:模式名称

• table_name:表名

• pgstage_schema(默认是pgsql_stage):由db_migrate_prepare创建的 PostgreSQL 阶段的名称。

schema和table_name必须是 PostgreSQL 阶段中与tables表同名的列中的值。

这是一个表函数,返回有问题的行在 Oracle 中的 ROWID,以及一条描述问题的消息。

目前测试发现有两个问题:

• 字符串列中的零字节chr(0)

• 不在数据库编码中的字符串列中的值

函数 oracle_migrate_test_data

此函数对 PostgreSQL 暂存模式中的所有表调用oracle_test_table,并将结果记录在 FDW 阶段的test_error表中(在清空表后)。

此外,在 FDW 阶段,会有一份错误摘要添加到表test_error_stats中。在清理 Oracle 中的脏数据时,这对于衡量随时间推移的进度非常有用。

该函数会返回遇到的错误总数。

函数参数为:

• server:Oracle 外部服务器的名称

• staging_schema(默认是fdw_stage):远程暂存模式的名称

• pgstage_schema(默认是pgsql_stage):由oracle_migrate_prepare创建的 PostgreSQL 阶段的名称。

• only_schemas(默认是NULL):应迁移到 PostgreSQL 的 Oracle 模式名称数组。如果为 NULL,则会处理除 Oracle 系统模式之外的所有模式。名称必须与它们出现在 Oracle 中的名称相同,通常为大写。

表 oracle_test_table 和 test_error_stats

这些表包含运行oracle_migrate_test_data生成的单个结果和汇总结果。

复制函数

函数 oracle_replication_start

此函数在 Oracle 和 PostgreSQL 数据库中创建复制所需的所有对象。PostgreSQL 对象将创建在 Postgres 暂存模式中,Oracle 对象与复制的表位于同一模式中。

此函数应在db_migrate_tables之前调用,并且在启动oracle_replication_start和调用db_migrate_tables之间,不应在 Oracle 上发生任何数据修改活动。

函数参数为:

• server:Oracle 外部服务器的名称

• pgstage_schema(默认是pgsql_stage):由oracle_migrate_prepare创建的 PostgreSQL 阶段的名称

该函数创建的对象包括:

• 一个 PostgreSQL 外表__ReplicationEnd,该表会显示一个时间戳,保证能早于 Oracle 上最老的活跃事务

• 一个 PostgreSQL 表__ReplicationStart,用于存储下一次复制追赶的起点

对于 Postgres 阶段的tables表中设置migrate为TRUE的每个表,将创建以下对象:

• 一个 Oracle 表__Log_<tablename>,用于收集对<tablename>的更改

• 一个在<tablename>上面的 Oracle 触发器__Log_<tablename>_TRIG

• Oracle 记录更改的日志表,在 PostgreSQL 上的外表__Log_<schema>/<tablename>

函数 oracle_catchup_table

将特定时间间隔内更改的数据,从 Oracle 表复制到 PostgreSQL。

这要求oracle_replication_start已创建所需的对象,并且数据迁移已完成。

参数:

• schema:迁移表的模式

• table_name:迁移表的名称

• from_ts:复制该时间点以后的更改

• to_ts:复制该时间点以前(包括该时间点)的更改

这是一个“底层”函数,由oracle_replication_catchup调用;如果要通过为不同的表并发运行它,来并行化追赶任务,则可以使用它。

函数 oracle_catchup_sequence

参数:

• schema:迁移序列的模式

• sequence_name:迁移序列的名称

• staging_schema(默认是fdw_stage):远程暂存模式的名称

在远程端查询 Oracle 序列的当前值,并将迁移的序列设置为该值。

函数 oracle_replication_catchup

复制自上次同步到 PostgreSQL 以后所有 Oracle 表和序列中的所有更改。

开始时间戳取自__ReplicationStart,结束时间戳取自__ReplicationEnd(包含最近的安全时间戳)。成功完成后,复制结束时间将保存到__ReplicationStart,以便下次使用。

参数:

• staging_schema(默认是fdw_stage):远程暂存模式的名称

• pgstage_schema(默认是pgsql_stage):由oracle_migrate_prepare创建的 PostgreSQL 阶段的名称

您可以在oracle_replication_start完成后随时调用此函数。

除非数据库中没有触发器或外键约束,否则应在调用此函数时,将配置参数session_replication_role设置为replica。这样就不会触发触发器,并且不会检查外键约束。

oracle_replication_catchup在 Oracle 上使用SERIALIZABLE隔离级别,因此它可以看到 Oracle 数据库的固定快照,并且数据在 PostgreSQL 端是一致的,即使 Oracle 数据库被其他并发的会话修改。

如果要使用复制进行接近零停机时间的迁移,请在短时间内连续调用两次,并确保在第二次调用期间 Oracle 上没有数据修改活动。第二次追赶完成后,您可以立即将应用程序切换到 PostgreSQL。

函数 oracle_replication_finish

删除 PostgreSQL 和 Oracle 中由oracle_replication_start创建的所有对象。

这可用于在完成从 Oracle 的迁移后进行清理。

• server:Oracle 外部服务器的名称

• pgstage_schema(默认是pgsql_stage):由oracle_migrate_prepare创建的 PostgreSQL 阶段的名称

限制

并非所有 Oracle 分区选项都受ora_migrator支持。PostgreSQL 仅支持列表、哈希和范围分区,不支持其他分区策略。此外,不支持使用两列或更多列的分区键进行列表和范围分区。当ora_migrator遇到一个无法迁移的分区模式时,会将该表迁移到一个非分区表。

复制

ora_migrator提供了一个从 Oracle 到 PostgreSQL 的简单的基于触发器的复制功能。

这可用于将数据库从 Oracle 迁移到 PostgreSQL,几乎没有停机时间。

操作步骤如下:

• 按照db_migrator文档中所述,通过调用db_migrate_prepare和db_migrate_mkforeign来准备迁移。

• 暂停 Oracle 数据库上的所有数据修改活动。这是需要的,因为 Oracle 不支持事务性 DDL。

• 然后调用oracle_replication_start以设置所有必需的对象。这将在 Oracle 数据库中创建日志表和触发器。

• 然后像往常一样使用db_migrate_tables开始数据迁移。一旦db_migrate_tables启动,Oracle 数据库上的数据修改活动就可以恢复。迁移将使用SERIALIZABLE事务隔离级别运行,因此迁移的数据将是一致的。请确保 Oracle 上有足够的 UNDO 存储空间,否则数据迁移可能会失败。

• 使用db_migrate_constraints迁移约束和索引;按照db_migrator文档中所述,迁移其他对象。

• 您可以随时调用oracle_replication_catchup,以将更改的数据从 Oracle 传输到 PostgreSQL。这需要为所有受影响的表调用oracle_catchup_table,因此要并行化操作,您可以直接为所有受影响的表调用下层的函数。请注意,追赶时不会清理 Oracle 上的日志表。为避免 PostgreSQL 中的外键约束问题,请在运行oracle_catchup_table时,确保将配置参数session_replication_role设置为replica。对于接近零停机时间的迁移,在 Oracle 数据库上没有数据修改活动时,还必须执行最后一次oracle_replication_catchup调用。调用后,将应用程序切换到 PostgreSQL。

• 要结束复制,请调用oracle_replication_finish。这将会删除为复制创建的所有对象。

• 最后,调用db_migrate_finish,以删除所有辅助对象。

责任编辑:武晓燕 来源: 红石PG
相关推荐

2011-07-04 09:03:39

Web模版

2021-07-05 06:51:42

Python虚拟环境

2019-01-21 05:08:15

IGMPTCPIP

2017-11-29 16:00:42

加班行业无效

2024-04-03 09:25:53

数据库OraclePostgreSQL

2023-07-07 15:58:32

Netcat程序Linux

2012-04-10 10:57:49

HTC One X

2017-09-26 08:51:25

2017-04-07 13:30:54

2024-10-12 09:12:26

2019-12-02 09:50:44

微服务架构数据

2012-04-09 17:32:44

移动web

2015-04-22 12:10:28

在线编译调试工具

2019-05-20 14:55:05

Nginx反向代理负载均衡

2010-04-30 10:40:19

Oracle实现

2023-11-29 09:53:29

数据库迁移SQL Server

2015-04-24 10:54:58

JavaScript开发工具代码编辑器

2021-12-17 22:54:45

Windows 10Windows微软

2023-09-19 15:44:03

Python数据可视化

2011-10-21 13:04:00

DB2Oracle
点赞
收藏

51CTO技术栈公众号