优化Linux系统性能:深入了解fsync与外设的关系 (fsync 外设 linux)

在现代计算机系统中,固态硬盘的广泛应用渐渐缩小了磁盘寻址速度和延迟差异的差距,然而,以下实际磁盘访问依赖的缓存I / O策略仍然是Linux系统性能瓶颈之一,其中最常见的问题之一是fsync与外设的关系。

fsync的基本概念

fsync是Linux系统的一个重要函数,其目的是确保写入文件系统的数据被刷新到物理磁盘上,从而避免在故障或意外断电等情况下数据丢失。每个被打开的文件都与一个文件描述符(file descriptor)相关,fsync函数正是根据该描述符来将所有挂起写入数据、元数据和在缓存中的I / O操作一次性提交到磁盘上。

与外设的关系

文件系统和外设的交互在大多数情况下始于fsync发起写入到文件缓存,此时文件系统标记为DIRTY(脏的),表示数据已经被修改。接着,文件系统将所有DIRTY数据轮流提交到磁盘驱动器缓存(block-layer journal),并标记为ORDERED(有序的)。如果驱动器缓存写入过程出现问题,文件系统还会通过WRITE_FLUSH函数直接刷新所有DIRTY数据到磁盘,以避免数据错误或损坏。

数据提交的过程中,文件系统需要通知缓存控制器保证数据写入磁盘,并检查该缓存的状态以避免重复写入同一块数据。真正意义上的数据写入磁盘是由外设(如硬盘、光盘、闪存等)完成的,而不是文件系统,因此,外设能否处理写入请求也直接影响了fsync能否成功执行和写入数据速度。

此外,不同的文件系统还有区别的报告方式(如metadata journaling的无序写入方式FSYNC/SYNC),因此在优化系统性能时,需要了解具体的文件系统、外设组合,并对不同情况做出相应的调整。

问题与解决

然而,Linux文件系统的fsync过程可能会导致两个问题。首先是写入延迟,I / O请求一直挂起等待磁盘的响应。这通常是由于磁盘缓存已满、进程竞争I / O请求或延迟的故障恢复造成的。由于fsync调用顺序问题,可以出现数据丢失的情况,例如数据库应用程序中未将数据提交写入磁盘的情况。

为了解决这些问题,可以通过以下几种方式优化Linux系统性能:

1. RDBMS应用程序和IOAC闪存

如果正在运行OLTP(在线事务处理)应用程序,建议使用IOAC(I / O加速卡)来减少fsync导致的性能损失,以及减轻磁盘延迟。IOAC是一种可插拔硬件,类似于插卡,可安装在计算机的PCIe插槽中,用于加速大型数据库应用程序的I / O性能。

2. 关闭数据日志记录

如果只读性较强的数据库应用程序有时会在无需持久存储的情况下进行缓存,或者同时缓存到磁盘和内存,以提高性能。但是,如果需要强制写入到硬盘,则建议关闭数据记录日志。

3. 使用关闭同步的选项

除了将数据记录关闭外,还可以使用关闭同步的选项,比如O_DSYNC和O_DIRECT,以在fsync调用中提高性能。对于可恢复的应用程序,可以将二者结合使用,以提高数据写入时的性能和安全性。

在优化Linux系统性能时,必须了解fsync与外设之间的关系,以解决延迟、数据丢失和数据写入等问题。关键是要找到适当的函数和选项来管理数据,并基于使用情况和所需的数据一致性考虑进行调整。最终,Linux的性能取决于文件系统、驱动程序、硬件和各种软件组件的准确配置和协调。

相关问题拓展阅读:

怎么在Linux下安装配置Redis服务器

1、安装编译工具

  yum install wget make gcc gcc-c++ zlib-devel openssl openssl-devel pcre-devel kernel keyutils patch perl

  2、安装tcl组件包(安装Redis需要tcl支持)

  下载:

  上传tcl8.6.1-src.tar.gz到/usr/local/src目录

  cd /usr/local/src #进入软件包存放目录

  tar zxvf tcl8.6.1-src.tar.gz #解压

  cd tcl8.6.1 #进入安装目录

  cd unix

  ./configure –prefix=/usr –without-tzdata –mandir=/usr/share/man $( && echo –enable-64bit) #配置

  make #编译

  sed -e “s@^(TCL_SRC_DIR=’).*@1/usr/include’@” -e “/TCL_B/s@='(-L)?.*unix@=’1/usr/lib@” -i tclConfig.sh

  make install #安装

  make install-private-headers

  ln -v -sf tclsh8.6 /usr/bin/tclsh

  chmod -v 755 /usr/lib/libtcl8.6.so

  3、安装Redis

  下载:

  上传redis-stable到/usr/local/src目录

  cd /usr/local/src

  tar -zxvf redis-stable.tar.gz #解压

  mv redis-stable /usr/local/redis #移动文件到安装目录

  cd /usr/local/redis #进入安装目录

  make #编译

  make install #安装

  cd /usr/local/bin #查看是否有下面文件,如果没有,拷贝下面文件到/usr/local/bin目录

  cd /usr/local/redis

  mkdir -p /usr/local/bin

  cp -p redis-server /usr/local/bin

  cp -p redis-benchmark /usr/local/bin

  cp -p redis-cli /usr/local/bin

  cp -p redis-check-dump /usr/local/bin

  cp -p redis-check-aof /usr/数辩local/bin

  ln -s /usr/local/redis/redis.conf /薯纳缺etc/redis.conf #添加配置文件软连接

  vi /etc/redis.conf #编辑

  daemonize yes #设置后台启动redis

  :wq! #保存退出

  redis-server /etc/redis.conf #启动redis服务

  redis-cli shutdown #关闭redis

  vi /etc/sysctl.conf #编辑,在最后一行添加下面代码

  vm.overcommit_memory = 1

  :wq! #保存退出

  sysctl -p #使设置立即生效

  4、设置redis开机启动

  vi /etc/init.d/redis #编辑,添加以下代码

  #!/bin/sh

  # chkconfig:

  茄谈# description: Redis is a persistent key-value database

  # redis Startup script for redis processes

  # processname: redis

  redis_path=”/usr/local/bin/redis-server”

  redis_conf=”/etc/redis.conf”

  redis_pid=”/var/run/redis.pid”

  # Source function library.

  . /etc/rc.d/init.d/functions

   || exit 0

  RETVAL=0

  prog=”redis”

  # Start daemons.

  start() {

  if ;then

  echo $prog” already running….”

  exit 1

  fi

  echo -n $”Starting $prog “

  # Single instance for all caches

  $redis_path $redis_conf

  RETVAL=$?

   && {

  touch /var/lock/subsys/$prog

  success $”$prog”

  }

  echo

  return $RETVAL

  }

  # Stop daemons.

  stop() {

  echo -n $”Stopping $prog “

  killproc -d 10 $redis_path

  echo

   && rm -f $redis_pid /var/lock/subsys/$prog

  RETVAL=$?

  return $RETVAL

  }

  # See how we were called.

  case “$1” in

  start)

  start

  ;;

  stop)

  stop

  ;;

  status)

  status $prog

  RETVAL=$?

  ;;

  restart)

  stop

  start

  ;;

  condrestart)

  if test “x`pidof redis`” != x; then

  stop

  start

  fi

  ;;

  *)

  echo $”Usage: $0 {start|stop|status|restart|condrestart}”

  exit 1

  esac

  exit $RETVAL

  :wq! #保存退出

  chmod 755 /etc/init.d/redis #添加脚本执行权限

  chkconfig –add redis #添加开启启动

  chkconfig –level 2345 redis on #设置启动级别

  chkconfig –list redis #查看启动级别

  service redis restart #重新启动redis

  系统运维 your_domain_name 温馨提醒:qihang01原创内容 版权所有,转载请注明出处及原文链接

  5、设置redis配置文件参数

  mkdir -p /usr/local/redis/var #创建redis数据库存放目录

  vi /etc/redis.conf #编辑

  daemonize yes #以后台daemon方式运行redis

  pidfile “/var/run/redis.pid” #redis以后台运行,默认pid文件路径/var/run/redis.pid

  port#默认端口

  bind 127.0.0.1 #默认绑定本机所有ip地址,为了安全,可以只监听内网ip

  timeout 300 #客户端超时设置,单位为秒

  loglevel verbose #设置日志级别,支持四个级别:debug、notice、verbose、warning

  logfile stdout #日志记录方式,默认为标准输出,logs不写文件,输出到空设备/deb/null

  logfile “/usr/local/redis/var/redis.log” #可以指定日志文件路径

  databases 16 #开启数据库的数量

  save 900 1

  save

  save

  创建本地数据库快照,格式:save * *

  900秒内,执行1次写操作

  300秒内,执行10次写操作

  60秒内,执行10000次写操作

  rdbcompression yes #启用数据库lzf压缩,也可以设置为no

  dbfilename dump.rdb #本地快照数据库名称

  dir “/usr/local/redis/var/” #本地快照数据库存放目录

  requirepass#设置redis数据库连接密码

  maxclients#同一时间更大客户端连接数,0为无限制

  maxmemory 1024MB #设定redis更大使用内存,值要小于物理内存,必须设置

  appendonly yes #开启日志记录,相当于MySQL的binlog

  appendfilename “appendonly.aof” #日志文件名,注意:不是目录路径

  appendfsync everysec #每秒执行同步,还有两个参数always、no一般设置为everysec,相当于MySQL事物日志的写方式

  :wq! #保存退出

  service redis restart #重启

  6、测试redis数据库

  redis-cli -a#连接redis数据库,注意:-a后面跟redis数据库密码

  set name 111cn.net #写数据

  get name #读取数据

  exit #退出redis数据库控制台

  redis-benchmark -h 127.0.0.1 -pcn#1000个并发连接,100000个请求,测试127.0.0.1端口为6379的redis服务器性能

  7、通过php程序连接redis数据库 #php必须先安装Redis扩展

  redis数据库IP:192.168.21.128

  端口:6379

  密码:123456

  测试代码:

  connect(‘192.168.21.128’,6379);

  $redis->auth(‘123456’);

  $redis->select(1);

  $ret = $redis->set(‘your_domain_name’, ‘osyunwei’);

  var_dump($ret);

  $allKeys = $redis->keys(‘*’);

  print_r($allKeys);

  ?>

  把上面代码保存为test.php, 自己测试就好啦。

fsync 外设 linux的介绍就聊到这里吧,感谢你花时间阅读本站内容,更多关于fsync 外设 linux,优化Linux系统性能:深入了解fsync与外设的关系,怎么在Linux下安装配置Redis服务器的信息别忘了在本站进行查找喔。


数据运维技术 » 优化Linux系统性能:深入了解fsync与外设的关系 (fsync 外设 linux)