写点什么

大规模升级来临,谈谈 Oracle 12cR2 使用经验

  • 2019-04-22
  • 本文字数:5999 字

    阅读完需:约 20 分钟

大规模升级来临,谈谈Oracle 12cR2使用经验

本文由 dbaplus 社群授权转载。


大规模升级来临,咱们来谈谈 Oracle 12cR2 使用经验。

一、升级到 12cR2 的必要性

随着 2019 年 2 月 13 日,Oracle 19c (Oracle 12.2.0.3) for Exadata 版本发布,Oracle 12cR2 体系的数据库版本终于迎来了长期支持版本(Oracle 12c 的最后一个大版本),也就是说数据库版本还在 Oracle 10g/11g 的系统是时候考虑升级了。


特别是在 Oracle 11.2.0.4 以前的版本,用了 db link 的系统,务必要升级。



其实,根据 Oracle 数据库生命周期和版本演进路线,到 2018 年 12 月 31 日,Oracle 11.2 已经结束了免费的扩展服务期(Fee Waived ES),一些新遇到的 bug 补丁用普通的 SR 账号将没有权限下载。


同时考虑到 SCN 天花板速率算法变化的问题,12c 升级就变得更加必要了(当然,应用没有变化,或者没有使用 dblink 的可以不用考虑)。


Oracle 每个版本的 bug 都很多,不过并非是 Oracle 数据库软件不行,而是因为 Oracle 是 OLTP 领域的绝对王者,提供了太多方便的功能,bug 就多了。所以每次升级前,我们都会去撸一遍 fix list,看看有没有新的 bug 被其他人发现并解决了。


到目前为止,Oracle 12.2 系列的 fix patch 数量是 2078 个:



当然,这补丁数量还是远远低于 Oracle11.2 系列的 27782 个:



也远低于 Oracle 10.2 系列版本的 26281 个(这些补丁均不包含集群补丁):



这个结果有些出乎意料,12cR2 上的 patch 数量比前 2 个版本少了一个数量级。一个可能性是 12cR2 的 bug 少了很多,另一个可能性是 12cR2 还没有迎来大规模升级,而今年就是升级到 12cR2 的最佳时机。

二、Oracle 12c 体系的一些新特性

Oracle 12c 相比 Oracle 11g,有 3 个特性被广为期待:


  • 多租户:12cR1 最多允许 252 个租户,12cR2-19c 最多允许 4098 个租户,由 max_pdbs 参数控制

  • In-Memory Option

  • Sharding


从两年多的案例来看:


  • Sharding 功能几乎没有被使用

  • 主要原因是:在 12.2,一个 SDB 中只支持一个 Table Family,一个正常业务数据库都会需要有多个 Table Family;而在 Oracle 19c 里,增加了 Multiple Table Families 特性,或许可以好好用一下

  • In-Memory Option 没有大规模用起来

  • 原因是一方面是使用场景,另一方面是维护成本,多租户特性成了这个版本的扛鼎之作。


多租户特性(Multitenant)是 12c 体系最重要的特性,在 12.1.0.1 版本引入。开创性地在一个容器数据库(cdb)中可以包含很多个可插拔数据库(pdb),每个 pdb 之间可以有自己独立的参数和资源占用限制,所以该特性成为了 12c 版本中最受欢迎的特性。


很多企业使用多租户特性整合那些零碎且单独占用一个数据库的小应用,大大减少了机器的数量,降低了数据库许可费用,而且 pdb 迁移起来更加灵活。


pdb 使用过程中有几个 bug,影响还是蛮大的。其中一个是 pdb 在 Data Guard 的备端运行一段时间后会”消失”:


Bug 25576813 - V$PDB and SHOW PDBS may not display some PDBs in Standby Database OR ORA-65011 on PDB Open OR PDB Datafile on Standby with wrong GUID ( Doc ID 25576813.8 )


这个 bug 从 17 年开始有 one-off patch,但是一直没有彻底修复。彻底修复只能升级到 Oracle 18c,或者今年将推出来的 19c。



我此前一直非常好奇,为什么一个 bug 的补丁不能在下一次 PSU 的时候,将这个 one-off patch 一起打包进去呢?


直到 2018 年一个叫 oraguy 的用户在 Hacker News 爆出了如下信息:



Oracle 12.2 这个版本,有将近 2500 万行 C 代码!(相比较而言,最受欢迎的 NoSQL 数据库 Redis 最新版本 5.0.4 也不过 2 万多行代码,真是短小精干。)


oraguy 是这么描述一个 Oracle 数据库程序员的工作流程的:


  1. 拿到一个新任务:解决一个新 bug。

  2. 花两周时间了解 20 个不同的 flag( 标记 ),这些标记用一种很奇怪的方式制造了这个 bug。

  3. 尝试添加 flag,写几行代码,同时要小心不会制造出更多 bug。

  4. 将更改提交到包含大约 100-200 台服务器的测试服务器集群,这些服务器将编译代码,构建新的 Oracle 数据库软件,并以分布式方式运行数百万个测试。

  5. 回家。第二天来上班,继续处理别的 bug 。测试可能需要 20-30 个小时才能完成。

  6. 再回家。再来上班,检查集群测试结果。顺利的话,会有大约 100 个失败的测试;倒霉的话,将有大约 1000 个失败的测试。随机选择一些测试并试图搞清楚你的假设出了什么问题。或许还需要考虑 10 多个 flag 才能真正理解 bug 的本质。

  7. 再添加一些 flag 以尝试解决问题。再次提交更改以进行测试。再等 20-30 个小时。

  8. 来来回回,重复两周,大概理解出现这个 bug 的原因了。

  9. 终有一天,在你几乎锤蛋自尽之前,发现某次测试完全通过了。

  10. 再写上百个测试,以防下次哪个晦气孩子要碰项目的时候,不会把你的修改搞砸……

  11. 提交最后一轮测试的成果。然后提交以供审核。审查本身可能还需要 2 周到 2 个月。所以接下来继续去处理下一个 bug 。

  12. 在 2 周到 2 个月之后,一切已就绪,代码将最终合并到主分支中。


再看看上面一两万个 patch,有一些没有能合并到主分支(PSU)中,也就可以理解了。


PDB 除了可以用来做小库整合外,还有一个便利,就是在当机器资源使用率不均衡的时候可以在不同 CDB 之间做热插拔。


但实践证明,热插拔最好在同版本之间做,否则可能出现异常。



在 12c 建 pdb 的语法里,还新出现了一个 option 叫 PATH_PREFIX,用来限制一些对象(directory objects/oracle XML/create pfile/oracle wallets)只能在特定目录下。这个目录前缀,一旦添加将伴随着 pdb 直到终老,连 datapump 想换个目录都不行,所以添加一定要谨慎。


在 Oracle 18c 里做 pdb 迁移的时候,执行 DBMS_PDB.CHECK_PLUG_COMPATIBILITY,可能会报 ORA-7445[__intel_ssse3_rep_memcpy()],这是 Bug 28502403 - ORACLE 18.3.0 MULTITENANT: COMPATIBILITY CHECK DOES NOT WORK。


不过这个 bug 只在 18.2 和 18.3 出现,用最新的 18c 可以规避这个问题。


随着国家网络安全法的实施,企业安全检查愈加严格,“定期修改数据库密码”从应付检查变成严格执行。这对 11g dg 的 DBA 来说,是一件极为痛苦的事情,每次修改主库密码,还得手动同步密码文件到各个备库实例,稍微漏了某个实例没同步到,数据就不同步了。


12cR2 推出的一个新特性——自动同步密码文件到 Data Guard 备库,当 SYS、SYSDG 等的密码发生更改时,主数据库中的密码文件被更新,然后将更改传播到配置中的所有备库。


与此可以配合的是 11gR2 推出的一个新参数 REDO_TRANSPORT_USER,创建单独的日志传输授权用户,并赋予 SYSOPER 权限,然后再将此账户封存即可。使用过程中需要注意的是,这个用户名是区分大小写的。


在最新 Oracle19c 也推出了不少新特性,我最为关注的有 2 个:


自动统计信息管理


统计信息管理一直是大企业数据库管理的一个难题,随着表的数据变化,统计信息能够实时更新,防止 SQL 语句选择次优执行计划(据官网介绍,这是 AWS 抛弃 Oracle 选用 Aurora 的重要理由)。


Oracle 19c 内置了专家系统,内置算法捕获应用程序 SQL 历史进 SQL 仓库、识别有益于新 SQL 的后选索引、验证、决策、在线验证、监控的自动索引创建,并且一段时间自动创建的索引如果不合适还会自动删除。


自动索引创建


自动索引创建这一特性引入了一个开关视图 dba_auto_index_config。鉴于 19c 目前仅推出了 Exadata 版本,这 2 个特性是否能在生产上使用还有待评估。

三、一些谨慎使用的特性

将交易型生产数据库迁移到 Oracle 12c(包括 Oracle12cR2、Oracle18c、Oracle 19c),有一些特性建议关闭(其中部分特性是从 Oracle 10g 开始一直都建议关闭的),设计很理想,现实很骨感,我们能做的就是帮忙尽量圆润一些。


下面默认数据库都是 Oracle RAC:


1、实例并行执行


PARALLEL_FORCE_LOCAL 该参数默认是 False。理论上讲,集群多个节点,并行处理的时候多个节点一起来,均衡用力,是最优方案。事实是多节点并行处理的协调成本很高,节点间通讯负载大。因此要改为 True,实现进程级别本地化并发处理。


2、内存自动管理


从 10g 开始 sga 自动管理 sga_target 到 12c 的内存级别自动管理 memory_target。核心生产库全部建议改为手动,非核心几个月不看一眼的库可以设置为自动管理。


3、查询结果缓存


一次缓存,百次使用。对某些特定“静态”查询类的系统可能适用,在 OLTP 里这种场景几乎没有。所有 result_cache_max_size=0。


4、布隆过滤算法


Bloom Filter 由布隆在 1970 年提出,用来检索一个对象是否在某个集合中,优点是空间效率高于其他算法,缺点是有一定的误识别率。一旦识别错误,效率就是百倍降低,这对于高效稳定的系统来说是不可接受的。


_bloom_filter_enabled=false;_bloom_pruning_enabled=false


动态资源重组:每个数据库资源,都有其 Master,拥有者和请求者,初衷是根据请求情况来动态调整 Master,减少实例间数据传输。


_gc_policy_time=0;_gc_undo_affinity=false;"_gc_read_mostly_locking"=FALSE。


5、段延迟创建


新建一个数据表,Oracle 只会建这个对象而暂不分配 segment,只有当往表里插入第一条数据的时候才创建 segment。初衷是节约存储空间,但该特性 bug 极多。


deferred_segment_creation=false


6、内存列式存储


In-Memory Option 是 12c 的一大亮点,对特定的应用适用。


社群曾出过专门的文章《平均提速20倍!Oracle 12c In-Memory最佳实践》《In Memory—Oracle 12C重要新特性IMO详解》,IM 特性是需要不定期维护的,不仅需要关注 IM 中表是否加载成功,是否出现 In-Memory Area 不足的情况,在内存资源有限的情况下,还要优化 IM 中存放的表,及时添加需要的表,删除不需要的表。


通常建议关闭:inmemory_size=0;inmemory_query=disable;

四、几个问题/bug

升级到 Oracle 12c 后遇到的一些重要 bug,建议要去整改。


问题 1:SGA 手动管理模式下,Oracle 偷偷去自动增大 Shared pool 了(Oracle 19.2 解决)。


命中 Bug 26405036 Large Allocation Of “ges enqueues” and “ges resource dynamic” In The Shared Pool 会把共享池从 20g 不断自动 resize 到 200g 以上,直到 sga_max_size 中无法有空余空间了,应用报 ora-04031。


解决方法是打补丁,目前 Oracle 18.5 的补丁也出来了:



临时解决方案如下:


SQL> oradebug setmypid


SQL> oradebug lkdebug -m reconfig lkdebug


问题 2:在 home 目录产生大量 trace 文件或者是单个超大文件,空间满导致系统 hang。


这个问题现象相似,但不止是一个 bug:


原因 1:


Trace files generation with message “AUTO SGA: kmgs_parameter_update_timeout gen0 0 mmon alive 1”.


这是 Bug 25415713,安装 one-off patch 可以解决。


原因 2:


Trace files generated from RMAN module with KRB messages.


可能是:


Bug 28174827 :RMAN Unconditional KRB Trace File After Installing Fix Of Bug 22700845


Bug 28390273 :RMAN UNCONDITIONAL KRB TRACE FILE AFTER PATCH 27674384


通过 alter system set events ‘trace[krb.*] disk disable, memory disable’;解决。


原因 3:


KZAN: ORA-55917 during CLI write.


KZAN: SYS user audit records will written to files now.


需要禁用 KTLI tracing:


alter system set event=‘55901 trace name context off’;


alter system set event=‘TRACE[RecordCompose] off’;


alter system set event=‘TRACE[FileWrite] off’;


alter system set event=‘TRACE[QueueWrite] off’;


问题 3:在 RAC 集群环境下,对大表进行 truncate 会导致另一个节点 hang 住。dbaplus 社群有过专门诊断文章:你敢在Oracle 12c R2上做大表truncate吗?


该 bug 在最新版的 PSU 中已经修复:



问题 4:升级到 Oracle 12c/18c 后,低版本数据库客户端连接会报错:


ORA-28040: No matching authentication protocol/ORA-01017: invalid username/password; logon denied


需要先在 sqlnet.ora 中加入 SQLNET.ALLOWED_LOGON_VERSION_CLIENT=8/SQLNET.ALLOWED_LOGON_VERSION_SERVER=8,然后再重置密码解决。(参考 MOS 文档 ID 2296947.1)

五、几个重要参数

还有其他一些建议设置的参数,大多数是为了避免 bug,还有一部分是为了关闭某些 Oracle 特性。


ASM 初始化参数,memory_target 设为 2G,process 设置为 200 或以上。


数据库参数:


  • _serial_direct_read= AUTO; 避免 high direct path read

  • _lm_tickets=5000;默认 1000,增加 GES messaging tickets

  • _px_use_large_pool=TRUE;并行会话使用 large pool 而不是共享池,降低 ora4031

  • _b_tree_bitmap_plans=FALSE;

  • SEC_CASE_SENSITIVE_LOGON=FALSE;禁用密码大小写敏感

  • _gc_defer_time=0;减少进程对热块争用

  • _datafile_write_errors_crash_instance=FALSE;数据文件(sysytem 以外表空间)I/O 读写错误被发现时,发生错误的数据文件进行 offline 而不关闭实例。

  • event=‘10949 trace name context forever:28401 trace name context forever, level 1:10849 trace name context forever, level 1’ ;关闭数据库当中用户持续输入错误密码导致大量 library cache lock;关闭自动 serial direct path read 特性,避免出现过多的直接路径读,消耗过多的 IO 资源

  • _undo_autotune=FALSE;关闭 undo 自动调整

  • _use_adaptive_log_file_sync=FALSE;写日志缓冲区到文件方式默认是采用 Post/wait 方式,在 11.2.0.3 版本开始增加了 Polling 的方式。关闭该参数不允许切换。

  • “_fix_control”=‘14142884:ON’,‘8560951:ON’,‘8893626:OFF’,‘9344709:OFF’,‘9195582:OFF’,‘9380298:ON’,‘13704562:OFF’,‘16053273:OFF’,‘8611462:OFF’,‘17760375:OFF’,‘17938754:OFF’,‘8560951:ON’


当然,同时要说明的是,这些仅仅是认为必要注意的参数,真实环境还有其他参数也同样要注意。如果你在阅读过程中,认为还有某些参数是应该必须调整的,欢迎在文章后面留言,给其他同行做一个参考。

六、升级参考文章

核心数据库升级是一件复杂的系统工程,必须经过严谨的方案制定、升级测试、性能测试及最后的割接迁移流程,虽然我们已经经历过上千套系统的 12c 升级,但是每次升级前的测试仍然能发现新的缺陷。


有些是应用代码的,有些是 SQL 性能的,有些是数据库软件的甚至有些是存储链路的,充分的测试才是确保成功升级的唯一保证。


对于大数据量的升级迁移,Oracle 副总裁 swonger 有一个演讲:migrate + 200TB database in less than 1 day,讲的是欧洲电网的案例,使用了 TTS+expdp+perl 等多种手段,值得一看。


链接:


https://www.neooug.org/gloc/Presentations/2018/Swonger_Migrate_200TB.pdf


对于升级来说,不仅要关心升级本身能否按时间完成,关于升级之后的性能如何、稳定性如何、可用性、数据一致性和完整性如何也同样重要,而且都应在正式升级割接前进行充分的模拟验证。

作者介绍

杨志洪,dbaplus 社群联合发起人,新炬网络首席布道师,对数据库、数据管理有深入研究,合译《Oracle 核心技术》《Oracle Exadata 专家手册》。


2019-04-22 08:008413
用户头像
dbaplus社群 数据连接未来

发布了 175 篇内容, 共 76.8 次阅读, 收获喜欢 614 次。

关注

评论

发布
暂无评论
发现更多内容

堆叠大陆 Stacklands for Mac(卡牌游戏)v1.3.4中文原生版

mac

堆叠大陆 苹果mac 村庄建设游戏 Stacklands 卡牌游戏

“银河护卫队总部”放大招!Milvus 核心组件再升级,主打就是一个低延迟、高准确度

Zilliz

非结构化数据 Milvus Zilliz 向量数据库

zone.js由入门到放弃之三——zone.js 源码分析【setTimeout篇】

OpenTiny社区

JavaScript 前端开发

OpenAI 函数调用教程

3D建模设计

openai ChatGPT

Python 套接字编程完整指南

3D建模设计

Python

国际顶会SC23收录唯一区块链论文,微众银行技术实力受学术界认可

新消费日报

人工智能的优势:使用 GPT 和扩散模型生成图像

3D建模设计

人工智能 生成式AI

交易所开发源码,数字货币永续合约交易平台搭建

V\TG【ch3nguang】

交易所开发

区块链交易所开发, 币币交易系统搭建

V\TG【ch3nguang】

数据库顶会 VLDB 2023 论文解读:字节跳动如何解决超大规模流式任务运维难题

字节跳动云原生计算

flink 流式计算 VLDB

2023年中国信通院铸基计划“文本图像篡改检测系统技术规范”研讨会成功召开

合合技术团队

中国信通院 文本 合合信息 研讨会 图像篡改

木鱼一敲烦恼丢掉,一个恢复内心平静的赛博空间

荣耀开发者服务平台

小程序 前端 安卓 组件 服务卡片

低代码实现软件的快速交付与部署

互联网工科生

软件开发 低代码 企业级低代码平台

华为主题十周年共创海报还能这么玩?

最新动态

通过一流的NFT开发提升您的数字形象

区块链软件开发推广运营

数字藏品开发 dapp开发 区块链开发 链游开发 NFT开发

Linux 可执行文件瘦身指令 strip 使用示例

互联网工科生

Linux 资源

Zookeeper简述

数新网络官方账号

zookeeper 后端 ZooKeeper原理

Solr数据迁移ES

腾讯云大数据

ES

解锁项目管理神器——低代码开发平台

力软低代码开发平台

跨平台.NET IDE集成开发 Rider 激活码破解版

mac大玩家j

开发环境 Mac软件

文心一言 VS 讯飞星火 VS chatgpt (87)-- 算法导论8.2 4题

福大大架构师每日一题

福大大架构师每日一题

Masks Person面具人MAR现在值得参与吗

币离海

安全大文件传输对行业重要性

镭速

大文件传输 传输大文件 安全大文件传输

选择正确的框架:探索 Spring Cloud 和 Dubbo

Liam

程序员 微服务 Spring Cloud dubbo 后端

你折腾一天都装不上的插件,函数计算部署 Stable Diffusion 都内置了

Serverless Devs

Serverless 模型

亚信科技AntDB数据库携“U8C+AntDB联合产品”亮相“2023全球商业创新大会”,开启生态合作新篇章

亚信AntDB数据库

数据库 AntDB AntDB数据库

LRTimelapse 6 for Mac(延迟摄影编辑渲染软件)v6.5.2中文激活版

mac

苹果mac Windows软件 LRTimelapse 6 时间轴制作软件

大规模升级来临,谈谈Oracle 12cR2使用经验_数据库_dbaplus社群_InfoQ精选文章