摘要:全量备份与恢复① 模拟环境:# 创建数据:create table t1(id int not null primary key,name varchar(20) not null);insert into t1 values(1,'zhnagsan'),(2,'lisi');配置postgresql.conf监听所有的ip:cat postgresql.conflisten_addresses = '*' # what IP address(es) to listen on;编辑pg_hba.conf添加允许主机以IP地址来连接并备份[po
2023年02月14日
MySQL数据实时同步至StarRocks集群配置详解
摘要:功能简介StarRocks 提供 Flink CDC connector、flink-connector-starrocks 和 StarRocks-migrate-tools(简称smt),实现 MySQL 数据实时同步至 StarRocks,满足业务实时场景的数据分析。基本原理通过 Flink CDC connector、flink-connector-starrocks 和 smt 可以实现 MySQL 数据的秒级同步至StarRocks。 MySQL 同步如图所示,Smt 可以根据 MySQL 和 StarRocks 的集群信息和表
分类:DataBase
2023年02月14日
StarRocks新一代极速全场景MPP数据库三节点集群安装配置详解
摘要:环境:[root@node181 ~]# cat /etc/redhat-releaseCentOS Linux release 7.9.2009 (Core)[root@node181 ~]# uname -aLinux node181 3.10.0-1160.el7.x86_64 #1 SMP Mon Oct 19 16:18:59 UTC 2020 x86_64 x86_64 x86_64 GNU/Linux集群节点:node181 172.16.8.181node131 172.16.8.131node132 172.16.8.132下载官方的tar包https://www.starrocks.io/download/c
分类:DataBase
2023年02月07日
MySQL锁等待SQL收集shell脚本-全网最全-独一份
摘要:有开启:performance_schema=on参数的情况下,可以用以下脚本收集:#!/bin/bashuser="root"password="123.123."logfile="/server/shell_scripts/mysql/innodb_lock_timeout_monitor/innodb_lock_timeout_monitor.log"while truedonum=`mysql -u${user} -p${password} -e "select count(*) from information_schema.innodb_lock_waits"
分类:DataBase
2022年12月15日
MySQL 8.0.21来了,CREATE TABLE…SELECT可以使用了
摘要:MySQL如期推出8.0.21版本,这里是 release notes。可能不少人在调侃MySQL为了ZZ正确,修改了诸如master/slave/whitelist/blacklist等专有名词,白做思想真是害死人。所幸这些改动在当前并没太大影响,旧的名词还能继续用一阵子。除此外,还有下面几个我认为也很重要的新功能或者性能提升点:1.可以全局关闭REDO(WL#13795),加速数据导入(用在例如做数据恢复或初始化期间)。2.
分类:DataBase
2022年11月30日
MySQL生产环境的高危操作
摘要: 实际工作中,经常遇到一些临时应急需求,DBA没有充分准备之前,直接到线上执行一些命令,除此之外一些没有考虑清楚厉害关系的命令,最后导致事故的情况。MySQL DBA运维中那些动作属于危险性操作?MySQL数据库操作:1. shutdown/restart命令(8.0版本): 关闭 mysql服务,重新启动,平时在运行习惯,在测试环境随意执行,到生产无意识执行这些命令。大事务运行还没结束,执行
分类:DataBase
2022年11月28日
PostgreSQL查看表空间和表占用空间大小
摘要:1.查看所有表所占磁盘空间大小select sum(t.size) from (SELECT table_schema || '.' || table_name AS table_full_name, pg_total_relation_size('"' || table_schema || '"."' || table_name || '"')AS sizeFROM information_schema.tablesORDER BYpg_total_relation_size('"' || table_schema || '"."' || table_name || '"') DESC
分类:DataBase
2022年11月23日
MySQL8.0新增系统参数清单
摘要:activate_all_roles_on_login此参数在版本8.0.2引入,是一个可以动态调整的global级参数,默认值为OFF。此参数用于控制在账户登录时是否激活已经授予的角色,如果为ON则授予的角色会被激活,设置为OFF时只能通过SET DEFAULT ROLE显式激活用户角色。activate_all_roles_on_login设置只在账户登录或者开始执行存储过程时生效,如果想更改session的role需要执行SET ROLE语句。binl
分类:DataBase
2022年11月23日
从业三年的DBA总结的SQL优化经验
摘要:SQL优化是数据库优化的一部分,数据库优化又是系统优化的一部分。本篇着重讲解SQL优化的一些技巧,另外,硬件基础、业务类型、存储结构也是影响SQL执行效率的重要因素,是SQL优化的前置条件。一、SQL优化的前置条件1、硬件基础数据库是操作系统之上的一种数据管理软件,其SQL最终的执行还是需要在硬件层面执行,所以硬件条件如CPU核数、内存大小、磁盘转速、网络带宽等是保障数
分类:DataBase
2022年10月26日
MySQL使用全文索引替换 like '%XX%' 查询
摘要:其实全文检索在MySQL里面很早就支持了,只不过一直以来只支持英文。缘由是他从来都使用空格来作为分词的分隔符,而对于中文来讲,显然用空格就不合适,需要针对中文语义进行分词。这不,从MySQL 5.7.6开始,MySQL内置了ngram全文检索插件,用来支持中文分词,并且对MyISAM和InnoDB引擎有效。低版本可以使用MySQL中文分词插件SqlJieba/mysqlcft等注意: &nb
分类:DataBase
2022年10月25日
使用canal-adapter-1.1.5时时增量同步数据从MySQL到MySQL
摘要:原理:一、使用JDBC方式同步1. 使用Canal组件完成binlog的解析和数据同步;2. Canal-Server进程会伪装成MySQL的slave,使用MySQL的binlog同步协议完成数据同步;3. Canal-Adapter进程负责从canal-server获取解析后的binlog,并且通过jdbc接口写入到MySQL中;主机拓扑图:ip:172.16.1.222 canal-admin canal-server canal-adapter&
分类:系统管理
2022年10月23日
PostgreSQL-10.22编译安装
摘要:所有的源码包地址:https://ftp.postgresql.org/pub/source/安装源码包之前,需要先准备好编译环境和安装必要的包:yum groupinstall "Development tools"yum install -y bison flex readline-devel zlib-devel make gmake epel-release lsof screen lrzsz nmap 下载完后,上传到服务器上一、添加用户groupadd postgresuseradd -g postgres postgrespasswd 1234
分类:DataBase
2022年10月12日
SQL优化案例-通过添加主表的条件来影响优化器的行为
摘要:SQL语句:SELECT pai.*, pa.apply_no, pa.apply_type, pa.create_by, pa.`status` AS applyStatus, pa.applier_user_code, pa.apply_name, pa.business_type, pa.store_id, pa.store_name, erp_spec_id, erp_product_id, CASE pa.STATUS WHEN 8 THEN 0 WHEN 1
分类:DataBase
2022年09月20日
Flink-1.13.2 Standalone 集群安装配置
摘要:介绍 Flink提供了多种部署方式,本文介绍standalone 三节点模式,这个是模式不依赖其它第三方工具,配置简单Stanalone CLuster 是一种独立的集群模式,集群运行不需要依赖外部系统,完全自己独立进行管理。三台机器部署情况: 1、解压安装包tar -zxvf flink-1.13.2-bin-scala_2.11.tgz在每台主机上配置主机名(注意:一定要配置主机名,主机名不能是localhost)hostnam
分类:系统管理
2022年08月23日
mysql-to-clickhouse flink字段类型对应表
摘要: mysql clickhosue flink`id` INT(10) UNSIGNED NOT NULL AUTO_INCREMENT
分类:DataBase
2022年08月20日
Flink-SQL网页管理工具-flink-streaming-platform-web配置
摘要:1.简介flink-streaming-platform-web系统是基于Apache Flink 封装的一个可视化的、轻量级的flink web客户端系统,用户只需在web 界面进行sql配置就能完成流计算任务。主要功能:包含任务配置、启/停任务、告警、日志等功能,支持sql语法提示,格式化、sql语句校验。目的:减少开发、降低成本 完全实现sql化 流计算任务。 1、主要功能[1] 任务支持单流 、双流、 单流与
分类:DataBase
2022年08月16日
flink-connector-clickhouse编译安装配置
摘要:官方链接:https://github.com/itinycheng/flink-connector-clickhouse编译的前题是要安装好jdk和mvn,这里省略Flink ClickHouse ConnectorFlink SQL connector for ClickHouse database, this project Powered by ClickHouse JDBC.Currently, the project supports Source/Sink Table and Flink Catalog.Please create issues if you encounter bugs and any help for the proj
分类:DataBase
2022年08月16日
通过Flink SQL基于binlog将MySQL数据时时同步到另一个库中
摘要:环境配置:CentOS:[root@node212 ~]# cat /etc/redhat-releaseCentOS Linux release 7.6.1810 (Core)[root@node212 ~]# uname -aLinux node212 4.4.219-1.el7.elrepo.x86_64 #1 SMP Sun Apr 12 16:13:06 EDT 2020 x86_64 x86_64 x86_64 GNU/Linux[root@node212 ~]#flink-1.13.2(这个版本不需要编译,直接解压就可以使用) flink-1.13.2-bin-scala_2.
分类:DataBase
2022年06月19日
从零开始配置MySQL8.0.25 InnoDB Cluster高可用集群
摘要:架构图:服务规划服务器 IP 端口 角色node11 172.16.1.11 6446 master shell routernode12 172.16.1.12 &nb
分类:DataBase
2022年06月18日
MySQL[5.7-8.0] proxy user代理用户配置详解
摘要:其实MySQL版本发展到8.0,已经完全没有必要使用 proxy 用户这个功能了,可以用角色完美替代。auth_test_plugin.so 是 MySQL 5.5 的插件,仅限于测试环境,不推荐线上使用,仅限功能演示。之后的一系列大版本安装包里都不包含这个插件,所以使用方法有些差异。下面我对 proxy 用户在 MySQL 8.0 下如何使用做下简单演示,此方法也同样适合MySQL 5.7的版本。我在下面示例中使用插件