百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

环境变量管理程序bmod使用教程(环境变量comspec)

nanshan 2025-04-05 20:59 20 浏览 0 评论

注:bmod属于李云海博士原创开发程序,版权属于他,欢迎大家关注他的相关网站:

https://gitee.com/yhli/misc/tree/master/bmod

https://github.com/yhli1016/misc/tree/master/bmod

http://blog.sciencenet.cn/blog-2909108-1267515.html

1. 简介

在UNIX/Linux系统下做计算,不可避免地会接触到各种环境变量。编译程序时,需要通过环境变量指定编译器、编译选项和依赖库的位置。运行程序时,需要通过环境变量来查找可执行文件和动态链接库。若设置不当,便会导致各种错误(详见附录)。因此管理环境变量便成了一件既重要又棘手的事。

最简单的管理环境变量的方法就是直接在$HOME/.bashrc中添加相应设置。这种方法的缺点也是很明显的:环境变量名易写错,添加或删除设置后要重新登录才能起效,bashrc冗长等等。大型超算中心通常用Environment Modules系统解决这个问题。但目前主流的Environment Modules系统安装和使用都比较复杂,学习成本较高。而个人电脑、自己组装的工作站和小型集群软件环境简单,再用Environment Modules系统牛刀杀鸡之嫌。因此,在这里提供一个环境变量管理程序bmod。程序非常简单,全部由bash语言写成,主体仅有150行左右,但实现了一个Environment Modules系统最基本的功能。下面介绍安装和使用方法。

2. 安装

https://github.com/yhli1016/misc/tree/master/bmod

解压后将bmod目录移动到安装路径下面(本文中为$HOME/soft),打开init.sh,找到这两行:

# Set up environment variables used by bmodexport BMOD_ROOT=$HOME/soft/bmod

将BMOD_ROOT设置为init.sh所在的目录(在本文中为$HOME/soft/bmod),接着打开$HOME/.bashrc,添加如下设置:

source $HOME/soft/bmod/init.sh

最后执行命令source $HOME/.bashrc,安装完成。modules目录下面自带了很多例子,在添加自己的脚本之前,记得全部删除。

3. 使用

3.1 通过命令行添加和移除设置

3.1.1 使用预定义的环境变量

与程序编译和运行相关的环境变量众多,不仅难记,还容易拼错。因此,bmod中预定义了常见的环境变量。以安装在$HOME/soft/lib/fftw-3.3.8下面的fftw库为例,为使该库能正常工作,我们需要手动输入如下命令:

fftw_root=$HOME/soft/lib/fftw-3.3.8export PATH=$fftw_root/bin:$PATHexport LIBRARY_PATH=$fftw_root/lib64:$LIBRARY_PATHexport LD_RUN_PATH=$fftw_root/lib64:$LD_RUN_PATHexport LD_LIBRARY_PATH=$fftw_root/lib64:$LD_LIBRARY_PATHexport C_INCLUDE_PATH=$fftw_root/include:$C_INCLUDE_PATHexport CPLUS_INCLUDE_PATH=$fftw_root/include:$CPLUS_INCLUDE_PATHunset fftw_root

而在bmod中,上述设置只需一行命令即可:

set_mod add pkg $HOME/soft/lib/fftw-3.3.8

移除设置只需运行下面命令:

set_mod rm pkg $HOME/soft/lib/fftw-3.3.8

set_mod命令后面参数含义:

第一个参数为add或rm,指定添加还是删除设置;

第二个参数为预定义的环境变量类型;

第三个参数为添加到环境变量中,或从环境变量中删除的设置。当预定义类型为pkg时,第三个参数无需具体到bin、lib64或include等子目录,bmod会自动搜索和添加

目前bmod中预定义的类型和对应的环境变量为:

  • bin

    • PATH

  • lib:

    • LIBRARY_PATH

    • LD_RUN_PATH

    • LD_LIBRARY_PATH

  • inc

    • C_INCLUDE_PATH

    • CPLUS_INCLUDE_PATH

  • py

    • PYTHONPATH

  • pkg

    • PATH

    • LIBRARY_PATH

    • LD_RUN_PATH

    • LD_LIBRARY_PATH

    • C_INCLUDE_PATH

    • CPLUS_INCLUDE_PATH

当预定义类型为bin、lib、inc、py时,bmod不会自动搜索子目录,所以第三个参数必须具体到bin、lib64或include。上面fftw的例子若用bin、lib、inc等预定义类型改写,对应的命令为:

set_mod add bin $HOME/soft/lib/fftw-3.3.8/binset_mod add lib $HOME/soft/lib/fftw-3.3.8/lib64set_mod add inc $HOME/soft/lib/fftw-3.3.8/include

再看一个xcrysden的例子。程序安装在$
HOME/soft/dft/xcrysden-1.6.2-bin-shared,可执行文件为xcrysden,还有一个动态链接库libTogl.so.2。为使这个程序正常运行,需将$
HOME/soft/dft/xcrysden-1.6.2-bin-shared添加到环境变量PATH和LD_LIBRARY_PATH,对应操作为:

set_mod add bin $HOME/soft/dft/xcrysden-1.6.2-bin-sharedset_mod add lib $HOME/soft/dft/xcrysden-1.6.2-bin-shared

或者简写为set_mod add bin+lib $
HOME/soft/dft/xcrysden-1.6.2-bin-shared。

3.1.2 使用自定义的环境变量

预定义的环境变量可以满足大多数情形。若待修改的环境变量没有预定义,可以用set_env和reset_env命令修改。

假设我们要把$HOME/soft/lib/abc/def添加到环境变量TEST中,对应操作为

set_env add TEST $HOME/soft/lib/abc/def

删除时为

set_env rm TEST $HOME/soft/lib/abc/def

如果我们希望把环境变量重设为一个新的值,而不是把新的值追加到变量中,可以用reset_env命令。例如,要将openmp线程数设置为4,可以输入:

reset_env add OMP_NUM_THREADS 4

若要将其恢复默认值,可以输入:

reset_env rm OMP_NUM_THREADS

3.2 通过脚本添加和移除设置

一般来说,程序在编译和运行过程中会涉及很多库,需要我们输入很多次set_mod和set_env命令。以siesta为例,加载设置时我们需要输入:

siesta=$HOME/soft/dft/siesta-v4.1-b4set_mod add pkg $siesta/Docs/build/flook/0.8.1set_mod add pkg $siesta/Docs/build/hdf5/1.8.21set_mod add pkg $siesta/Docs/build/netcdf/4.7.4set_mod add pkg $siesta/Docs/build/zlib/1.2.11set_mod add bin $siesta/Objunset siestareset_env add OMP_NUM_THREADS 1

移除设置时需要输入:

siesta=$HOME/soft/dft/siesta-v4.1-b4set_mod rm pkg $siesta/Docs/build/flook/0.8.1set_mod rm pkg $siesta/Docs/build/hdf5/1.8.21set_mod rm pkg $siesta/Docs/build/netcdf/4.7.4set_mod rm pkg $siesta/Docs/build/zlib/1.2.11set_mod rm bin $siesta/Objunset siestareset_env rm OMP_NUM_THREADS 1

而这些命令的区别,仅仅是把add换成了rm。这样太麻烦了。在bmod中我们可以通过脚本,用同一套命令完成加载和卸载两种操作。我们在$HOME/soft/bmod/modules下面新建一个bash脚本siesta-v4.1-b4.sh,把上面的命令存进去,并把add或rm换成$1:

siesta=$HOME/soft/dft/siesta-v4.1-b4set_mod $1 pkg $siesta/Docs/build/flook/0.8.1set_mod $1 pkg $siesta/Docs/build/hdf5/1.8.21set_mod $1 pkg $siesta/Docs/build/netcdf/4.7.4set_mod $1 pkg $siesta/Docs/build/zlib/1.2.11set_mod $1 bin $siesta/Objunset siestareset_env $1 OMP_NUM_THREADS 1

加载设置时输入:

bmod add siesta-v4.1-b4

卸载时输入:

bmod rm siesta-v4.1-b4

bmod会自动把$1替换成add或rm。需注意,如果系统中安装了某个库的多个版本,而待运行的程序只能使用特定版本,那么在加载该版本前必须把其它版本卸掉。假设系统中还安装了hdf5-1.10.12,上述设置就要改成:

set_mod rm pkg $HOME/soft/lib/hdf5-1.10.12siesta=$HOME/soft/dft/siesta-v4.1-b4set_mod $1 pkg $siesta/Docs/build/flook/0.8.1set_mod $1 pkg $siesta/Docs/build/hdf5/1.8.21set_mod $1 pkg $siesta/Docs/build/netcdf/4.7.4set_mod $1 pkg $siesta/Docs/build/zlib/1.2.11set_mod $1 bin $siesta/Objunset siestareset_env $1 OMP_NUM_THREADS 1

由于我们希望在加载hdf5-1.8.21之前卸载hdf5-1.10.12,所以set_mod后面的参数必须是rm,不能用$1代替。

除了add/rm外,bmod命令支持如下选项:

  • av: 列出所有可用脚本

  • ls: 列出所有已加载脚本

  • cl: 卸载已加载的脚本

  • pg: 卸载所有脚本(含未加载)

modules目录下面中自带了很多用作例子的脚本。下面是bmod av命令的输出结果:

[yhli@linux-h149 ~]$ bmod av---- /home/yhli/soft/bmod/modules ---- 1) bgw-2.1 2) boost-1.75.0 3) fleurMaXR3.1 4) office 5) openmpi-4.0.5 6) qe-6.6 7) siesta-v4.1-b4 8) spex05.00 9) vasp.5.4.4 10) vesta 11) vtst 12) wannier90-2.1.0 13) xcrysden-1.6.2

以及bmod ls命令的输出结果:

[yhli@linux-h149 ~]$ bmod lsCurrently loaded modules:

由于在一开始我们没有加载任何脚本,所以bmod ls输出为空。我们先用bmod add命令加载几个脚本后,再来看有何不同:

[yhli@linux-h149 ~]$ bmod add bgw-2.1 boost vesta[yhli@linux-h149 ~]$ bmod lsCurrently loaded modules: 1) bgw-2.1 2) boost-1.75.0 3) vesta

可以看到这几个脚本已被加载了。如果脚本名字中的版本号和主体以-隔开,可以省略不写。所以bmod add boost是可以的,而bmod add vasp却不行,必须输入全称bmod add vasp.5.4.4。

我们用bmod cl命令卸载已加载的脚本,看下效果:

[yhli@linux-h149 ~]$ bmod lsCurrently loaded modules:

可见所有已加载的脚本都已被卸载。bmod pg有类似效果,就不再展示了。

4. 补充说明

4.1 常见环境变量及报错信息

4.1.1 PATH

系统需要通过这个环境变量查找可执行程序(二进制文件或脚本)。若未正确设置,会报类似如下错误:

[yhli@linux-h149 ~]$ pw.x-bash: pw.x: command not found

4.1.2 LD_RUN_PATH, LIBRARY_PATH

这两个环境变量指定编译程序时,所用到的库文件所在位置。库文件有两种:静态链接库(libxxx.a)和动态链接库(libxxx.so)。若未正确设置,会报类似如下错误:

/usr/lib64/gcc/x86_64-suse-linux/7/../../../../x86_64-suse-linux/bin/ld: cannot find -lboost_python38collect2: error: ld returned 1 exit statusmake: *** [Makefile:65:pyxaid_core.so] Error 1

4.1.3 LD_LIBRARY_PATH

这个环境变量指定运行程序时,所用到的动态链接库所在位置。若未正确设置,会报类似如下错误:

[yhli@linux-h149 doublecmd]$ ./doublecmd./doublecmd: error while loading shared libraries: libQt5Pas.so.1: cannot open shared object file: No such file or directory

4.1.4 C_INCLUDE_PATH, CPLUS_INCLUDE_PATH

这两个环境变量指定编译程序时,所用到的头文件所在位置。若未正确设置,会报类似如下错误:

pyxaid_core.cpp:10:10: fatal error: boost/python.hpp: No such file or directory#include <boost/python.hpp> ^~~~~~~~~~~~~~~~~~compilation terminated.make: *** [Makefile:59:pyxaid_core.o] Error 1

4.2 注意事项

目前bmod缺失对已加载模块检查的功能。以下述命令为例:

[yhli@linux-h149 ~]$ bmod add qe[yhli@linux-h149 ~]$ bmod add fleurMaXR3.1[yhli@linux-h149 ~]$ bmod lsCurrently loaded modules: 1) qe-6.6 2) fleurMaXR3.

当执行第一条命令bmod add qe时,bmod加载了与qe相关的设置。一般来说,这需要卸载冲突库和加载依赖库。当执行第二条命令bmod add fleurMaXR3.1时,bmod同样会执行类似操作。但是,如果fleur依赖的某个库恰巧与qe冲突,或者与fleur有冲突的某个库恰巧是qe的依赖库,那么执行完第二句后,qe的环境变量就被破坏了。也就是说,bmod目前只能“狗熊掰玉米”,保证最后一个加载的程序可用。要解决这个问题,需要复杂的依赖和冲突关系分析。这已经超出了bmod的设计初衷,如有这方面的需求,可以选择功能更强大的Environment Modules系统,或本人开发的Pmod 。

相关推荐

0722-6.2.0-如何在RedHat7.2使用rpm安装CDH(无CM)

文档编写目的在前面的文档中,介绍了在有CM和无CM两种情况下使用rpm方式安装CDH5.10.0,本文档将介绍如何在无CM的情况下使用rpm方式安装CDH6.2.0,与之前安装C5进行对比。环境介绍:...

ARM64 平台基于 openEuler + iSula 环境部署 Kubernetes

为什么要在arm64平台上部署Kubernetes,而且还是鲲鹏920的架构。说来话长。。。此处省略5000字。介绍下系统信息;o架构:鲲鹏920(Kunpeng920)oOS:ope...

生产环境starrocks 3.1存算一体集群部署

集群规划FE:节点主要负责元数据管理、客户端连接管理、查询计划和查询调度。>3节点。BE:节点负责数据存储和SQL执行。>3节点。CN:无存储功能能的BE。环境准备CPU检查JDK...

在CentOS上添加swap虚拟内存并设置优先级

现如今很多云服务器都会自己配置好虚拟内存,当然也有很多没有配置虚拟内存的,虚拟内存可以让我们的低配服务器使用更多的内存,可以减少很多硬件成本,比如我们运行很多服务的时候,内存常常会满,当配置了虚拟内存...

国产深度(deepin)操作系统优化指南

1.升级内核随着deepin版本的更新,会自动升级系统内核,但是我们依旧可以通过命令行手动升级内核,以获取更好的性能和更多的硬件支持。具体操作:-添加PPAs使用以下命令添加PPAs:```...

postgresql-15.4 多节点主从(读写分离)

1、下载软件[root@TX-CN-PostgreSQL01-252software]#wgethttps://ftp.postgresql.org/pub/source/v15.4/postg...

Docker 容器 Java 服务内存与 GC 优化实施方案

一、设置Docker容器内存限制(生产环境建议)1.查看宿主机可用内存bashfree-h#示例输出(假设宿主机剩余16GB可用内存)#Mem:64G...

虚拟内存设置、解决linux内存不够问题

虚拟内存设置(解决linux内存不够情况)背景介绍  Memory指机器物理内存,读写速度低于CPU一个量级,但是高于磁盘不止一个量级。所以,程序和数据如果在内存的话,会有非常快的读写速度。但是,内存...

Elasticsearch性能调优(5):服务器配置选择

在选择elasticsearch服务器时,要尽可能地选择与当前业务量相匹配的服务器。如果服务器配置太低,则意味着需要更多的节点来满足需求,一个集群的节点太多时会增加集群管理的成本。如果服务器配置太高,...

Es如何落地

一、配置准备节点类型CPU内存硬盘网络机器数操作系统data节点16C64G2000G本地SSD所有es同一可用区3(ecs)Centos7master节点2C8G200G云SSD所有es同一可用区...

针对Linux内存管理知识学习总结

现在的服务器大部分都是运行在Linux上面的,所以,作为一个程序员有必要简单地了解一下系统是如何运行的。对于内存部分需要知道:地址映射内存管理的方式缺页异常先来看一些基本的知识,在进程看来,内存分为内...

MySQL进阶之性能优化

概述MySQL的性能优化,包括了服务器硬件优化、操作系统的优化、MySQL数据库配置优化、数据库表设计的优化、SQL语句优化等5个方面的优化。在进行优化之前,需要先掌握性能分析的思路和方法,找出问题,...

Linux Cgroups(Control Groups)原理

LinuxCgroups(ControlGroups)是内核提供的资源分配、限制和监控机制,通过层级化进程分组实现资源的精细化控制。以下从核心原理、操作示例和版本演进三方面详细分析:一、核心原理与...

linux 常用性能优化参数及理解

1.优化内核相关参数配置文件/etc/sysctl.conf配置方法直接将参数添加进文件每条一行.sysctl-a可以查看默认配置sysctl-p执行并检测是否有错误例如设置错了参数:[roo...

如何在 Linux 中使用 Sysctl 命令?

sysctl是一个用于配置和查询Linux内核参数的命令行工具。它通过与/proc/sys虚拟文件系统交互,允许用户在运行时动态修改内核参数。这些参数控制着系统的各种行为,包括网络设置、文件...

取消回复欢迎 发表评论: