百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

在linux下如何高效的删除一个大文件或者目录

nanshan 2025-02-21 14:31 11 浏览 0 评论

一. 简介

文件删除是 Linux 管理的重要组成部分。无论是手动还是使用脚本,我们都会将文件删除作为升级、日志轮换、备份和许多其他活动的一部分。由于目录可能包含大量文件,了解如何以最佳方式处理它们可以节省大量时间。

在本教程中,我们将探索如何在 Linux 中高效地删除一个大目录。首先,我们一般性地讨论文件删除。之后,我们将展示大型目录何时、如何以及为何出现。接下来,我们将测试几种工具在处理许多文件时的功能和性能。

我们使用 GNU Bash 5.1.4 在 Debian 11 (Bullseye) 上测试了本教程中的代码。它是 POSIX 兼容的,应该可以在任何这样的环境中工作。

二. 文件删除

在 Linux 下,文件是inode。inode 存储文件元数据,包括文件内容所在的位置。另一方面,目录是指向 inode 的名称列表。

因此,有多种删除文件的方法。

2.1 链接删除

一旦文件没有硬链接或句柄,它的索引节点就可用了。发生这种情况时,内核会将 inode 编号标记为空闲:

$ touch /file.ext
$ tail --follow /file.ext &
[1] 667
$ lsof /file.ext
COMMAND PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
tail    667 root    3r   REG   8,16        0  666 file.ext
$ rm /file.ext

首先,我们创建一个文件并在tail中打开它以供观看。之后,我们使用lsof(列出打开的文件)命令来确认文件句柄是否存在。最后,我们删除实际文件。

结果,由于打开的句柄,我们只有挥之不去的 inode。杀死后台尾进程将清除它。

2.2 清除

重要的是,文件元数据和内容可以在存储中保持完整,直到被覆盖,即被清除。此行为在新旧ext文件系统之间有所不同。这就像卖掉一栋房子,里面还保留着上一个主人的所有东西。这对我们意味着什么?

我们不需要费心打电话给搬运工。同样,用数据重写存储段成本高昂的主要原因有两个:缓慢和磨损。

由于 inode 最多为千字节,ext3和更高版本确实会将它们清零,但不会费心清除内容。此行为与文件容器有何关系?

三. 创建一个大目录

从上面我们可以推断出删除目录最有效的方法是删除所有引用——目录和内容。实际上,这意味着大小不是问题,但对象数量才是问题。

存在具有数千或数百万条目的文件存储的原因有很多:

日志轮换
数据库文件
分布式文件系统
具体用例
重要的是,内核处理许多文件的能力在很大程度上取决于文件系统类型。例如,XFS对于多个小文件可能会很慢,而ReiserFS是专门为处理它们而设计的。

现在,让我们创建一个包含 100 万个文件的目录:

$ mkdir /dir1m
$ for $f in {1..1000000}; do touch /dir1m/$f.ext; done

我们将使用一些删除工具来测试/dir1m 。随着时间的推移,我们将看到操作运行的速度。

四. 用rm删除一个大目录(Remove)

经典的rm确实只取消链接文件而不清除它们。

但是,有几种方法可以对目录执行此操作,我们将研究这些方法。

4.1. 通配符

将rm与globbing结合使用,我们可能会遇到问题:

 $ rm --force /dir1m/*.ext
/bin/rm: cannot execute [Argument list too long]

这里的问题是通配符扩展意味着所有 100 万个文件名都成为参数。因此,命令行变得太长,shell 拒绝执行。

但是,如果我们想要删除整个目录,就没有理由使用这种语法。

4.2. 递归

在处理许多文件时,–recursive ( -r )标志是最好的。事实上,有必要使用递归来删除目录或子目录:

$ time rm --recursive --force /dir1m
real    13.57s
user    1.04s
sys     8.11s
cpu     67%

这是我们的第一个真实结果:删除 100 万个文件大约需要 14 秒。那么我们有什么替代标准rm的方法呢?

五. 使用find查找和删除文件

当然我们可以使用find命令来删除文件。但是,它将使用更多的资源和更多的时间来完成。

一项改进是使用 GNU -delete开关来查找:

$ time find /dir1m -delete
real    29.93s
user    1.11s
sys     8.40s
cpu     31%

这样做可以避免rm命令调用。此外,我们可以通过xargs获得更好的性能:

$ time find /dir1m -print0 | xargs --null --no-run-if-empty rm --recursive --force
real    12.80s
user    1.16s
sys     8.62s
cpu     76%

基本上,我们只是输出以 null 分隔的文件路径并将它们传递给运行rm的xargs。对于单个目录,使用或不使用find或xargs的性能是相同的。

除了最后一个,所有这些选项都很慢,主要是因为它们不使用带有–recursive的rm内部迭代。此外,他们不必要地检查每个文件。这只有在我们过滤被删除的内容时才有意义。

六. 使用rsync删除大目录

不太可能有效删除的选项是rsync命令:

$ mkdir /void
$ time rsync --archive --delete /void/ /dir1m/
real    15.74s
user    1.50s
sys     12.47s
cpu     88%
$ rm --recursive --force /void /dir1m

首先,我们创建一个空目录:/void。接下来,我们通过–archive和–delete标志将/dir1m同步到空的/void并删除剩余部分。

与rm类似,rsync使用unlink() 系统调用。与rm不同,rsync没有做太多其他事情。

还有另一个选项以相同的方式工作。

七. 使用perl删除目录内容

事实上,perl不仅对文本处理很有用,对文件操作也很有用。用 C 编写,它也适用于低级系统调用:

$ cd /dir1m
$ time perl -e 'for(<*>){((stat)[9]<(unlink))}'
real    17.05s
user    2.57s
sys     13.36s
cpu     93%

在这里,我们使用-e(执行)来执行单行代码,它通过<*>对当前目录中的所有文件调用unlink()。

由于脚本语言及其解释器的开销,此方法比rsync和rm稍慢。尽管如此,perl还是提供了精确过滤的选项,如果我们需要的话。

八. 总结

在本文中,我们讨论了在 Linux 中高效删除目录的方法。

在我们的测试中,明显的赢家是rm命令。然而,如果我们想对删除的内容有一些控制,那么find和perl是可行的选择。

总之,我们应该始终定义要做什么以选择最有效的方式来做这件事。

相关推荐

MongoDB 从入门到实战:.NET 平台完整指南

一、什么是MongoDBMongoDB是一种功能强大且灵活的NoSQL数据库,适用于处理大规模的半结构化数据和高并发场景。它不依赖于固定的表结构和关系模型,而是以文档的形式存储数据,每个文档可...

NET Framework安装失败的原因及解决方法

大家好我是艾西,一个做服务器租用的游戏爱好者兼网络架构系统环境问题网络工具人。在我们平时使用PC安装某些程序会出现.NETFramework缺失的提示,那么也会有很多的小伙伴搞不懂什么原因导致的,这...

这可是全网eNSP安装最完整,最详细的图解,没有之一(常见问题)

eNSP安装大纲eNSP安装详细图解篇幅较长,会分三篇更完。急需安装的朋友可以在文末获取图解文档和所需软件工具。ENSP安装常见问题和解决方案Vbox安装错误eNSP在安装的过程当中,经常会出现一...

如何在windows 2012安装.NET Framework3.5

Windowsserver2012R2,自带的是.NETFramework4.5,如果想装SQLserver2008或者SQLserver2012需要安装.ENTFramework...

3款国内可用的「Chrome」扩展下载网站

身为程序员,有几个不使用Chrome浏览器提升下编码效率呢?Chrome拥有众多丰富强大的扩展程序,今天给大家分享三个国内可用的Chrome扩展下载网站,收藏一下吧,不然下次就找不到我咯!C...

下载 Windows 10 应用商店程序离线包方法

有厂商为了图方便,会把Windows10应用商店里面的UMP应用改成EXE程序版本。例如之前「网易云音乐」UMP版本简洁清爽,获得不少用户推荐,后来官方懒得更新了,直接把UMP版本...

极速安装!NET Framework 3.5零距离指南!

.NETFramework3.5是一款由微软开发的应用程序框架,它为许多Windows应用程序提供了基础支持。它的新版本带来了许多令人兴奋的功能和改进,比如增强的XML和JSON处理能力以及强大的...

Microsoft.NET离线运行库合集发布 2021

软件介绍.NET是微软具有战略意义的框架,也是装机必不可少的框架,想要一个一个安装略显繁琐,再加上很多电脑小白不知道怎么下载,不小心就下载到某某高速加载器,这个运行库极大解决了这个问题,采用微软官方....

缺少.net framework 3.5怎么办?(缺少.net4.5.1或以上环境)

很多电脑用户在玩某些程序游戏时都会遇到一个头痛的问题,弹出缺少“NETFramework3.5”的提示。微软从Windows8开始默认屏蔽了“.NET3.5”,如果用户有需要就必须选择在线安装...

Windows11无法正常安装.net 3.5组件的解决方法

最近因公司部分电脑升级至Windows11之后,重新安装某些需要加载.net3.5组件的应用软件时,都提示无法完成加载或安装.net3.5而导致无法完成安装。使用离线安装包亦一样无法完成安装。一...

离线安装.Net Framework 3.5(离线安装.net framework 4.0)

前言.Net3.5已经越来越少用到了,但是偶尔还是会遇到一些老软件需要。而Win10、Win11的系统,直接在控制面板的里添加,经常会添加失败!解决方法首先需要一个系统的ISO镜像来提取sxs文件夹:...

Jenkins 11个使用技巧,90%以上的人没用过

一、Performance插件兼容性问题自由风格项目中,有使用Performance插件收集构建产物,但是截至到目前最新版本(Jenkinsv2.298,Performance:v3.19),此...

6款Linux常用远程连接工具,你最中意哪一款?

点击上方头像关注我,每周上午09:00准时推送,每月不定期赠送技术书籍。本文2106字,阅读约需6分钟Hi,大家好。远程连接的实现方法有很多,概括地说有两种,一种是用系统自带的远程连接,另外一种是用...

Linux常用远程连接工具介绍,总有一款适合你

作为运维或者网工最常用就是ssh远程和远程桌面工具,本文就介绍几个常用的远程连接工具,你在用哪一款呢SecureCRT介绍:我觉得这个是最好的SSH工具,没有之一。SecureCRT支持SSH,同时支...

终极软路由网络设置,ESXi虚拟机安装iKuai+openWrt双路由系统

本内容来源于@什么值得买APP,观点仅代表作者本人|作者:BigBubbleGum本文是软路由系列的第五篇,也是折腾时间最长的一篇,在ESXi下分别独立安装和使用iKuai和openWrt...

取消回复欢迎 发表评论: