跳到主要内容

Sybase 迁移同步到 PostgreSQL

NineData 数据复制支持将 Sybase 的数据复制到 PostgreSQL，支持全量复制和增量复制。

功能介绍​

NineData 数据复制支持数据源之间的结构、全量数据、增量数据的高性能复制，对于 MySQL 数据源之间的复制，还提供双向复制功能，实现快捷构建异地多活业务架构。

  • 结构：支持同构及异构数据源之间的对象结构复制，很大程度上降低了两个数据源之间的数据复制门槛。
  • 全量数据：通过智能数据分片实现行级并发批量复制能力，有效保障复制性能。自主研发的新型断点续传技术，保证无主键表的数据准确性。
  • 增量数据：支持全对象类型的 DML|DDL 增量数据复制，结合事务级并发、热点合并等技术，在保障事务一致性的基础上，提供强劲复制性能。
  • 双向数据实时复制：直接多个节点之间的数据双向复制，保证所有节点的数据均保持最新状态。

通过以上功能，可以轻松高效地实现全量|增量数据复制、全量|增量数据迁移、全量|增量数据同步、数据集成、不停机无缝迁移等场景，为企业提供灵活和可靠的数据复制解决方案。

前提条件​

  • 已将源和目标数据源添加至 NineData。如何添加，请参见创建数据源。

  • 已在目标数据源（PostgreSQL）中手动创建表，该表结构必须和源数据源（Sybase）中需要复制的表结构一致。

  • 如需进行双向复制，已为参与复制任务的所有数据源添加多活标记。如何添加，请参见本文附录。

  • 源和目标数据源的版本见下表。

    源数据源目标数据源
    Sybase 16.0、15.7PostgreSQL 16、15、14

  • 您必须拥有源数据源和目标数据源的如下权限。

    复制类型
    		Sybase
    		PostgreSQL
    单向复制全量和增量replication_role、sso_roleAll Privileges on Schema、All Privileges on All Tables
    双向复制全量和增量sa_roleDatabase Owner、Table Owner、All Privileges on Schema、Replication Role

使用限制​

  • 如果您的 Sybase 数据源是主备架构部署，并且需要进行双向复制，则在录入数据源的时候，必须同时录入主节点（Primary Server）和备节点（Staging Server）的连接地址，否则数据从 PostgreSQL 回流至 Sybase 时会失败。

    sybase_masterslave

  • 执行数据同步前需评估源数据源和目标数据源的性能，同时建议业务低峰期执行数据同步。否则全量数据初始化时将占用源数据源和目标数据源一定的读写资源，导致数据库负载上升。
  • 需要确保同步对象中的每张表都有主键或唯一约束、列名具有唯一性，否则可能会重复同步相同数据。

操作步骤​

商业化通知

NineData 数据复制产品已商业化，您仍然可以保有 10 条复制任务免费使用，注意事项如下：

  • 10 条复制任务中可以包含 1 条任务，规格为 Micro。
  • 状态为的任务不算在 10 条任务的限制内，如果您已经创建了 10 条复制任务，还想要继续创建，可以先终止之前的复制任务，然后再创建新任务。
  • 创建复制任务时，仅可选择您已购买的，未购买的规格将以灰度显示，无法选择。如需购买，请通过页面右下角的客服图标联系我们。

  1. 登录 NineData 控制台。

  2. 在左侧导航栏单击。

  3. 在页面，单击右上角的。

  4. 在页签，按照下表进行配置，并单击。

    参数
    		说明
    输入数据同步任务的名称，为了方便后续查找和管理，请尽量使用有意义的名称。最多支持 64 个字符。
    同步对象所在的数据源。
    接收同步对象的数据源。
    选择复制方式。
    • ：从源数据源到目标数据源方向的单向数据复制任务。
    • ：源和目标两个数据源之间进行的双向增量数据复制任务。
    仅在为时显示。
    • ：同步源数据源的所有对象和数据，即全量数据复制。右侧的开关为周期性全量复制的开关，更多信息，请参见周期性全量复制。
    • ：在全量同步完成后，基于源数据源的日志进行增量同步。
    源数据源到目标数据源方向的复制类型，仅在为时显示。其中默认选中，无法关闭。
    为，且仅为时需要选择。
    • ：以当前复制任务开始时间为基准，进行增量复制。
    • ：选择增量复制开始的时间点，您可以根据您的业务所在地域按需选择时区。
    目标数据源到源数据源方向的复制类型，仅在为时显示。仅支持，且默认选中无法关闭。
    • ：预检查阶段检测到目标表中存在数据时，停止任务。
    • ：预检查阶段检测到目标表中存在数据时，忽略该部分数据，追加写入其他数据。
    • ：预检查阶段检测到目标表中存在数据时，删除该部分数据，重新写入。

  5. 在页签，配置下列参数，然后单击。

    参数
    		说明
    选择需要复制的内容，您可以选择复制源库所有内容，也可以选择，在列表中选中需要复制的内容，单击>添加到右侧列表。

    如果您需要创建多条相同复制对象的复制链路，可以创建一个配置文件，在新建任务的时候导入即可。单击右上角的，再单击下载模板，将配置文件模版下载到本地，编辑完成后单击上传该配置文件即可实现批量导入。配置文件说明：

    参数
    		说明
    source_table_name需同步的对象所在的源表名。
    destination_table_name接收同步对象的目标表名。
    source_schema_name需同步的对象所在的源 Schema 名。
    destination_schema_name接收同步对象的目标 Schema 名。
    source_database_name需同步的对象所在的源库名。
    target_database_name接收同步对象的目标库名。
    column_list需要同步的字段列表。
    extra_configuration额外的配置信息，您可以在这里配置如下信息：
    • 字段映射：column_name、destination_column_name
    • 字段取值：column_value
    • 数据过滤：filter_condition
    提示

    • extra_configuration 的示例内容如下：

      {
          "column_name": "created_time", //指定需要执行列名映射的原列名
          "destination_column_name": "migrated_time", //目标列名映射为 "migrated_time"
          "column_value": "current_timestamp()", //将列的字段取值更改为当前时间戳
          "filter_condition": "id != 0" //ID 不为 0 的行才会同步。
      }

    • 配置文件的整体示例内容请参见下载的模版。

  6. 在页签，系统默认选择目标数据源中的同名数据库，如果不存在，则需要手动选择目标库，然后单击。如果在配置映射阶段，源和目标数据源中有更新，可以单击页面右上角的按钮，重新获取源和目标数据源的信息。

  7. 在页签，等待系统完成预检查，预检查通过后，单击。

    提示
    • 您可以勾选。在同步任务完成后，自动开启基于源数据源的数据一致性对比，保证两端数据一致。根据您选择的，的启动时机如下：
      • ：全量复制完成后启动。
      • +、：当增量数据首次和源数据源一致且为 0 秒时启动。您可以单击，在页面中查看同步延迟。sync_delay
    • 如果预检查未通过，需要单击目标检查项右侧列的，排查失败的原因，手动修复后单击重新执行预检查，直到通过。
    • 为的检查项，可视具体情况修复或忽略。

  8. 在页面，提示，同步任务开始运行。此时您可以进行如下操作：

    • 单击查看同步任务各个阶段的执行情况。
    • 单击可以返回任务列表页面。

查看同步结果​

  1. 登录 NineData 控制台。

  2. 在左侧导航栏单击 > 。

  3. 在页面单击目标同步任务的，页面说明如下。

    result_sybase

    序号
    		功能
    		说明
    1同步延迟源数据源和目标数据源之间的数据同步延迟，0 秒表示两端之间没有延迟，此时您可以选择将业务切换到目标数据源，实现平滑迁移。
    2配置告警配置告警后，系统会在任务失败时通过您选择的方式通知您。更多信息，请参见运维监控简介。
    3更多
    • ：暂停任务，仅状态为运行中的任务可选。
    • ：创建一个和当前任务配置相同的新复制任务。
    • ：结束未完成或监听中（即增量同步中）的任务，终止任务后无法重启任务，请谨慎操作。如果同步对象中包含触发器，会弹出触发器复制选项，请按需选择。
    • ：删除任务，任务删除后无法恢复，请谨慎操作。
    4全量复制（包含全量复制的场景下显示）展示全量复制的进度和详细信息。
    • 单击页面右侧的：查看全量复制过程中的各监控指标。全量复制过程中，还可以单击监控指标页面右侧的，限制每秒写入到目标数据源的速率。单位为行/秒。
    • 单击页面右侧的：查看全量复制的执行日志。
    • 单击页面右侧的refresh：查看最新的信息。
    5增量复制（包含增量复制的场景下显示）展示增量复制的各项监控指标。
    • 单击页面右侧的：查看当前复制任务正在执行中的操作，包含：
      • ：复制任务分多个线程执行复制操作，展示当前进行中的线程号。
      • ：当前线程正在执行中的 SQL 语句详情。
      • ：当前线程的响应时间，如果该数值变大，则代表当前线程可能由于某些原因卡住。
      • ：当前线程开启的时间戳。
      • ：当前线程的状态。
    • 单击页面右侧的：限制每秒写入到目标数据源的速率。单位为行/秒。
    • 单击页面右侧的：查看增量复制的执行日志。
    • 单击页面右侧的refresh：查看最新的信息。
    6修改对象展示同步对象的修改记录。
    • 单击页面右侧的，可对同步对象进行配置。
    • 单击页面右侧的refresh：查看最新的信息。
    7数据对比展示源数据源和目标数据源之间对比的结果。如果您未开启数据对比，请单击页面中的。
    • 单击页面右侧的：对当前源和目标两端数据重新发起对比。
    • 单击页面右侧的：对比任务开始后，可单击该按钮立即停止对比任务。
    • 单击页面右侧的：查看一致性对比的执行日志。
    • 单击页面右侧的（仅数据对比显示）：查看对比 RPS（每秒对比的记录数）的走势图。单击可以查看更早之前的记录。
    • 在对比列表右侧列单击details（页签下只在不一致情况下显示）：查看源端和目标端的对比详情。
    • 在对比列表右侧列单击sql（不一致情况下显示)：生成变更 SQL，您可以直接复制该 SQL 到目标数据源执行，修改不一致的内容。
    8查看反向仅双向复制任务展示，单击可查看目标数据源到源数据源的复制详情。
    9展开展示当前复制任务的详细信息。

附录：为参与复制的所有数据源添加多活标记​

为防止发生数据循环复制，您需要为参与复制任务的所有数据源添加多活标记。

  1. 登录 NineData 控制台。

  2. 在左侧导航栏，单击>。

  3. 单击目标数据源 ID，打开页面。

  4. 在数据源详情区域（即包含数据源名称、ID、创建人、创建时间等信息的区域），单击。

  5. 找到，单击其右侧的edit图标。

  6. 输入多活标记，单击。

    提示
    • 多活标记可包含 1~64 个字符。
    • 多活标记需为全局唯一，不可和其他多活标记重复。

附录二：预检查项列表​

检查项检查内容
最后于 更新