百度360必应搜狗淘宝本站头条
tomcat 乱码无法与服务器建立安全连接是什么意思sysv-rc-confdocker映射容器目录到宿主机internet explorer 增强的安全配置已启用
当前位置：网站首页 > 技术文章 > 正文

Linux 下海量文件删除方法效率对比，最慢的竟然是 rm

nanshan 2024-12-26 15:43 13 浏览 0 评论


Linux 下海量文件删除方法效率对比，本次参赛选手一共6位，分别是：rm、find、find with delete、rsync、Python、Perl.

首先建立50万个文件

$ test   for i in $(seq 1 500000);do echo text >>$i.txt;done
  1. rm 删除
$ time rm -f *
zsh: sure you want to delete all the files in /home/hungerr/test [yn]? y
zsh: argument list too long: rm
rm -f *  3.63s user 0.29s system 98% cpu 3.985 total
# 由于文件数量过多，rm不起作用。
  1. find 删除
 $ time find ./ -type f -exec rm {} \;
 find ./ -type f -exec rm {} \;  49.86s user 1032.13s system 41% cpu 43:19.17 total#
 # 大概43分钟,我的电脑。。。。。。边看视频边删的。
  1. find with delete
$ time find ./ -type f -delete
find ./ -type f -delete  0.43s user 11.21s system 2% cpu 9:13.38 total
# 用时9分钟。
  1. rsync 删除
# 首先建立空文件夹blanktest
$ time rsync -a --delete blanktest/ test/
rsync -a --delete blanktest/ test/  0.59s user 7.86s system 51% cpu 16.418 total16s，很好很强大。
  1. Python 删除
import os
import timeit
def main():    for pathname,dirnames,filenames in os.walk('/home/username/test'):        for filename in filenames:            
		file=os.path.join(pathname,filename)            
		os.remove(file)            
if __name__=='__main__':
t=timeit.Timer('main()','from __main__ import main')
print t.timeit(1)　　

$ python test.py
529.309022903
# 大概用时9分钟。
  1. Perl 删除
$ time perl -e 'for(<*>){((stat)[9]<(unlink))}'
perl -e 'for(<*>){((stat)[9]<(unlink))}'  1.28s user 7.23s system 50% cpu 16.784 total16s，这个应该最快了。

测试结果

  • rm：文件数量太多，不可用
  • find with -exec 50万文件耗时43分钟
  • find with -delete 9分钟
  • Perl 16sPython 9分钟
  • rsync with -delete 16s

结论：删除大量小文件rsync最快，最方便

相关推荐

Let’s Encrypt免费搭建HTTPS网站

HTTPS（全称：HyperTextTransferProtocoloverSecureSocketLayer），是以安全为目标的HTTP通道，简单讲是HTTP的安全版。即HTTP下加入...

使用Nginx配置TCP负载均衡（nginx tcp负载）

假设Kubernetes集群已经配置好，我们将基于CentOS为Nginx创建一个虚拟机。以下是实验种设置的详细信息：Nginx(CenOS8Minimal)-192.168.1.50Kube...

Nginx负载均衡及支持HTTPS与申请免费SSL证书

背景有两台minio文件服务器已做好集群配置，一台是192.168.56.41:9000；另一台是192.168.56.42:9000。应用程序通过Nginx负载均衡调用这两台minio服务，减轻单点...

HTTPS配置实战（https配置文件）

原因现在网站使用HTTPS是规范操作之一，前些日子买了腾讯云服务，同时申请了域名http://www.asap2me.top/，目前该域名只支持HTTP，想升级为HTTPS。关于HTTPS的链接过程大...

只有IP地址没有域名实现HTTPS访问方法

一般来说，要实现HTTPS，得有个注册好的域名才行。但有时候呢，咱只有服务器的IP地址，没注册域名，这种特殊情况下，也能照样实现HTTPS安全访问，按下面这些步骤来就行：第一步，先确认公网...

超详解:HTTPS及配置Django+HTTPS开发环境

众所周知HTTP协议是以TCP协议为基石诞生的一个用于传输Web内容的一个网络协议，在“网络分层模型”中属于“应用层协议”的一种。在这里我们并不研究该协议标准本身，而是从安全角度去探究使用该协议传输数...

Godaddy购买SSL之后Nginx配置流程以及各种错误的解决

完整流程：参考地址：https://sg.godaddy.com/zh/help/nginx-generate-csrs-certificate-signing-requests-3601生成NGI...

Nginx从安装到高可用，一篇搞定（nginx安装与配置详解）

一、Nginx安装1、去官网http://nginx.org/下载对应的nginx包，推荐使用稳定版本2、上传nginx到linux系统3、安装依赖环境(1)安装gcc环境yuminstallgc...

阿里云免费证书申请，配置安装，使用tomcat，支持http/https访问

参数说明商品类型默认已选择云盾证书服务（无需修改）。云盾证书服务类型SSL证书服务的类型。默认已选择云盾SSL证书（无需修改），表示付费版SSL证书。如果您需要免费领取或付费扩容DV单域名证书【免费试...

你试过两步实现Nginx的规范配置吗?极速生成Nginx配置小工具

NGINX是一款轻量级的Web服务器，最强大的功能之一是能够有效地提供HTML和媒体文件等静态内容。NGINX使用异步事件驱动模型，在负载下提供可预测的性能。是当下最受欢迎的高性能的Web...

从零开始搭建HTTPS服务（搭建https网站）

搭建HTTPS服务的最初目的是为了开发微信小程序，因为wx.request只允许发起HTTPS请求，并且还必须和指定的域名进行网络通信。要从零开始搭建一个HTTPS的服务需要下面4...

群晖NAS使用官网域名和自己的域名配置SSL实现HTTPS访问

安全第一步，群晖NAS使用官网域名和自己的域名配置SSL实现HTTPS访问【新手导向】NAS本质还是一个可以随时随地访问的个人数据存储中心，我们在外网访问的时候，特别是在公网IP下，其实会面临着很多安...

让网站快速升级HTTPS协议提高安全性

为什么用HTTPS网络安全越来越受到重视，很多互联网服务网站，都已经升级改造为https协议。https协议下数据包是ssl/tcl加密的，而http包是明文传输。如果请求一旦被拦截，数据就会泄露产生...

用Https方式访问Harbor-1.9版本（https访问流程）

我上周在头条号写过一篇原创文章《Docker-Harbor&Docker-kitematic史上最详细双系统配置手册》，这篇算是它的姊妹篇吧。这篇文章也将用到我在头条写的另一篇原创文章的...

如何启用 HTTPS 并配置免费的 SSL 证书

在Linux服务器上启用HTTPS并配置免费的SSL证书（以Let'sEncrypt为例）可以通过以下步骤完成：---###**一、准备工作**1.**确保域名已解析**...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表