文章 2019-03-11 来自:开发者社区

基于Spark Streaming 进行 MySQL Binlog 日志准实时传输

基本架构 RDS -> SLS -> Spark Streaming -> Spark HDFS 上述链路主要包含3个过程: 如何把 RDS 的 binlog 收集到 SLS。 如何通过 Spark Streaming 将 SLS 中的日志读取出来,进行分析。 如何把链路 2 中读取和处理过的日志,保存到 Spark HDFS中。 环境准备 安装一个 MySQL 类型的数...

文章 2019-02-26 来自:开发者社区

php+mysql日志系统设计

日志系统的作用:1、了解线上系统的运行状态2、快速准确定位线上问题3、发现系统瓶颈4、预警系统潜在风险5、挖掘产品最大价值6、…… 设计目标:1、支持高并发日志写入2、亿级消息内容存储3、支持监控报警4、分布式、高可用 存储选择:mysql TokuDB+redismysql TokuDB是一个支持事务的“新”引擎,有着出色的数据压缩功能。经测试,压缩后的数据只占原数据大小的10%以下。redi....

文章 2019-02-13 来自:开发者社区

mysql慢查询日志参数配置及使用实践

一.在mysql中,慢查询日志对于管理员有重要作用能帮助dba快速定位捕获查询较慢或sql中没有使用索引的语句,便于对程序sql语句进行优化,排查问题等。1.慢查询日志相关重要参数:slow_query_log ##是否开启慢查询日志 slow_query_log_file ##慢查询日志文件名及路径 long_query_time ###指定慢查询时间阈(yu)值,sql执行时间大于该阈值(不....

文章 2019-02-05 来自:开发者社区

MySQL redo log

官方参考资料redo log概述https://dev.mysql.com/doc/refman/5.7/en/innodb-redo-log.htmlredo log配置参数说明https://dev.mysql.com/doc/refman/5.7/en/innodb-init-startup-configuration.html#innodb-startup-log-file-config....

文章 2019-02-04 来自:开发者社区

MySQL binary log 配置及使用简介

Mysql的binlog日志作用是用来记录mysql内部增删改查等对mysql数据库有更新的内容的记录(对数据库的改动),对数据库的查询select或show等不会被binlog日志记录;主要用于数据库的主从复制以及增量恢复。本文关于binlog的讲解基于ubuntu16.04安装的MySQL 5.7.25 。 配置binlog 在mysql 5.7之后,已经没有my.cnf的模板。具体关于bi....

文章 2019-01-29 来自:开发者社区

[玩转MySQL之八]MySQL日志分类及简介

一、前言 日志是MySQL数据库的重要组成部分。日志文件中记录着MySQL数据库运行期间发生的变化;也就是说用来记录MySQL数据库的客户端连接状况、SQL语句的执行情况和错误信息等。当数据库遭到意外的损坏时,可以通过日志查看文件出错的原因,并且可以通过日志文件进行数据恢复。 MySQL日志分类: 错误日志 查询日志 慢查询日志 事务日志(Redo log) 二进制日志 中继日志 二、错误日...

[玩转MySQL之八]MySQL日志分类及简介
问答 2019-01-17 来自:开发者社区

jdbc操作数据库,mysql语句没有错误,抛出这个日志查询无果,很是头疼

一月 17, 2019 3:16:21 下午 org.apache.tomcat.util.http.parser.Cookie logInvalidHeader信息: A cookie header was received [1547705040,1547705838,1547706681] that contained an invalid cookie. That cookie will....

文章 2019-01-02 来自:开发者社区

学会这 2 点,轻松看懂 MySQL 慢查询日志

MySQL中的日志包括:错误日志、二进制日志、通用查询日志、慢查询日志等等。这里主要介绍下比较常用的两个功能:通用查询日志和慢查询日志。 1)通用查询日志:记录建立的客户端连接和执行的语句。 2)慢查询日志:记录所有执行时间超过long_query_time秒的所有查询或者不使用索引的查询 (1)通用查询日志 在学习通用日志查询时,需要知道两个数据库中的常用命令: 1) show variabl....

文章 2018-12-05 来自:开发者社区

Centos7.4部署rsyslog+loganalyzer+mysql日志管理服务器

一、随着管理的服务器与网络设备的增加,系统日志的采集与收集变得繁琐起来。此时在一台服务器上构建集中日志管理服务器,实现从其他服务器上采集到的系统日志发送到日志管理服务器进行统一管理与存储就变得很有必要了。日志管理服务器可以解决以下问题:1、不再需要逐台服务器去查询系统日志文件2、将日常的系统信息存储在mysql数据中,方便进行查询、统计、审计过滤等操作3、通过其他软件可以实现扩平台日志收集,如使....

文章 2018-12-04 来自:开发者社区

MySQL:show slave status 关键值和MGRrelay log的清理策略

简单记录一下,有朋友问 @richard一、show slave status关键值 1. row ** Slave_IO_State: Waiting for master to send event (IO THREAD状态) Master_Host: 192.168.99.42(通道主库IP) Master_U...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云日志服务SLS

SLS是一站式云原生可观测性数据平台,一站式提供数据采集、加工、查询与分析、可视化等功能。日常更新产品最新动态,最佳实践以及技术大咖的观点和经验。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等