cndaqiang Web Linux DFT

Intel Parallel Studio XE 编译VASP

2018-01-15
cndaqiang
DFT
RSS

之前尝试编译VASPUbuntu VASP安装和运行,但是在centos上进行重复时,各种报错,现在尝试了安装几次感觉自己的理解更多了,总结如下。这篇文章省略了很多命令,有看不懂的地方参考Ubuntu VASP安装和运行.

最新的Intel® oneAPI Toolkits也可以安装,和本文的差别仅是intel编译器的安装和环境变量的设置不同, 详见Intel® oneAPI Toolkits(Intel Parallel Studio XE的代替品)安装使用

编译注意

  • 硬盘空间足够
    编译时会产生很多临时文件,占据空间大,Intel编译器Intel Parallel Studio XE 2018 for linux安装后占11G,安装包3.5G,硬盘空间不足编译失败
    如果硬盘空间太小,可以尝试安装老版的intel编译器
  • 内存足够
    使用fortran编译vasp时,内存1G编译过程中,进程被杀死,添加2G的虚拟内存,编译通过
  • 编译器最好一致
    vasp需要数学库,mpi,fft,使用gfortran和ifort编译产生的库文件不同,最后使用gfortran和ifort编译vasp时容易冲突,所以只使用ifort或gfortran其中的一种进行编译
  • configure的一些参数
    --prefix 安装目录,是最后make install的安装地址
  • 安装地址
    可以编译在/home/username即家目录下,这样只能自己使用
    也可以安装到根目录下的某目录(需要root权限),每个用户都可以使用
  • PATH
    安装软件后,软件执行文件所在目录被添加到系统PATH路径后,才能在shell里直接输入命令如icc,不添加则需要使用/opt/intel/bin/icc运行
    添加PATH的方法,参考添加PATH
  • 编译选项
    configure -h可以查看生成makefile的编译选项,如CC(C编译器)FC(Fortran编译器)MPICC(并行CC)MPIFC(并行FC)enable-mpi(执行并行)
    编译并行fftw时,指定intel编译器
    ./configure --prefix=/opt/fftw/ CC=icc F77=ifort MPICC=mpiicc --enable-mpi
    


    编译siesta

    ../Src/configure  FC=ifort CC=icc MPIFC=mpiifort --enable-mpi
    



vasp编译说明

建议认真读一下vasp4.6的makefile文件,里面说的很详细makefile.linux_ifc_P4,还有VASP.5.4.1里面的README

vasp安装需要

  • fortran等编译器
    intel: icc ifort
    gfortran等
  • 数学库 BLAS BLACS LAPACK SCALAPACK
    intel:mkl含有
    分别从NETLIB编译安装
    SCALAPACK安装包可帮忙下载所有数学库
  • fft
    vasp自带
    intel:mkl含有
    编译fftw
  • 注:
    若编译数学库,fftw,需和最后编译vasp使用同一fortran编译器
    编译数学库,需支持mpi并行,这样才能编译支持mpi的vasp

通过上面的分析,我们可以发现,intel的编译器Intel Parallel Studio XE包含了我们编译vasp所有的工具

编译准备

Intel Parallel Studio XE注册账号,获取安装序列号,建议使用edu邮箱注册,获取序列号时间短,我申请的开源贡献者账号好几天都没通过。当然也有使用license激活的,百度相关资源。
此次我使用的版本Intel® Parallel Studio XE 2018 for Linux

vasp来源VASP,组里购买的正版,网上也可搜索的相关的资源,计算请使用正版
此次我使用的文件vasp.5.4.1.24Jun15.tar.gz

编译环境

此次编译在vmware上运行的Centos7,3.10.0-514.el7.x86_64,2G内存,i7-7500U
除了intel需要的库安装方法不一样外,vasp编译运行方式应该适用于所有Linux

编译过程

intel

依赖

yum install glibc-devel.i686 
yum install libstdc++.so.6  
ldconfig
yum install gcc-c++

安装过程提示OS unsupport ,忽视
有其他依赖缺少时,yum安装后再Re-check
另外在云服务器上尝试时

  • KVM安装时提示 CPU unsupport,暂未继续安装
  • OVZ安装提示 内核有问题,暂未继续安装

安装

./install.sh

同意协议,保持默认选项即可,默认安装到/opt/intel,也可以自定义
使用ubuntu16.04安装时,使用./install_GUI.sh ,可以选择安装组件,只安装64位,icc,ifort,mpi,mkl就可以运行,安装后占空间约2G

添加PATH

下面的路径与实际路径与intel编译器的版本有关,版本变更后适当修改
执行

source /opt/intel/compilers_and_libraries_2018.0.128/linux/bin/compilervars.sh intel64
source /opt/intel/compilers_and_libraries_2018.0.128/linux/bin/iccvars.sh intel64 
source /opt/intel/compilers_and_libraries_2018.0.128/linux/bin/ifortvars.sh intel64 
source /opt/intel/compilers_and_libraries/linux/mkl/bin/mklvars.sh intel64
source  /opt/intel/impi/2018.0.128/bin64/mpivars.sh

或者讲上述命令添加到/etc/profile~/.bashrc,具体含义添加PATH
可用which icc ifort icpc mpiifort检查是否添加成功
之后编译,若提示xxx:command not found,则再source一遍上述命令
在编译后运行vasp时,若上述文件不在PATH内,也无法运行,需要先执行一遍
修改/etc/profile~/.bashrc中就无需上述操作,登陆时source一下或着添加到文件永久修改都可以,看个人喜好

编译并行fftw

下面的路径与实际路径与intel编译器的版本有关,版本变更后适当修改
make -h不是很确定使用intel编译器编译并行版本的fftw命令为make libintel64
建议编译并行fftw使用下文编译fftw的方法

cd /opt/intel/compilers_and_libraries_2018.0.128/linux/mkl/interfaces/fftw3xf
make libmic

编译后在当前文件夹内生成libfftw3xf_intel.a

vasp

好像不需要vasp.5.lib也编译通过
解压vasp.5.4.1.24Jun15.tar.gz后

cd vasp.5.4.1
cp arch/makefile.include.linux_intel makefile.include

修改makefile.include中内容

  • 10行开始编译器配置
    FC         = mpiifort
    FCL        = mpiifort -mkl
    
  • 19行开始,数学库配置如下
    MKLROOT=/opt/intel/compilers_and_libraries_2018.0.128/linux/mkl
    MKL_PATH   = $(MKLROOT)/lib/intel64
    BLAS       =-L$(MKL_PATH) -lmkl_intel_lp64 -lmkl_sequential -lmkl_core -lpthread
    LAPACK     =-L$(MKL_PATH) -lmkl_intel_lp64 -lmkl_sequential -lmkl_core -lpthread
    BLACS      =-L$(MKL_PATH) -lmkl_blacs_intelmpi_lp64
    SCALAPACK  = $(MKL_PATH)/libmkl_scalapack_lp64.a $(BLACS)
    

    发现makefile.include中有LIB=LLIBS = $(SCALAPACK) $(LAPACK) $(BLAS),也可以

    MKLROOT=/opt/intel/compilers_and_libraries_2018.0.128/linux/mkl
    MKL_PATH   = $(MKLROOT)/lib/intel64
    BLAS       =-L$(MKL_PATH) -lmkl_intel_lp64 -lmkl_sequential -lmkl_core -lpthread -lmkl_blacs_intelmpi_lp64 -lmkl_scalapack_lp64
    LAPACK     =
    BLACS      =
    SCALAPACK  = 
    
  • 26行fft配置
    OBJECTS    = fftmpiw.o fftmpi_map.o fftw3d.o fft3dlib.o \
               $(MKLROOT)/interfaces/fftw3xf/libfftw3xf_intel.a
    INCS       =-I$(MKLROOT)/include/fftw
    

    若自己编译fftw,配置为(其中/opt/fftw是我编译后安装的目录)

    OBJECTS    = fftmpiw.o fftmpi_map.o fftw3d.o fft3dlib.o \
               /opt/fftw/lib/libfftw3_mpi.a
    INCS       =-I/opt/fftw/include
    

    最后我的makefile.inclued
    编译

    make
    

    就在./build中生成了gamma版本的vasp,非线性版本的vasp,标准版本的vasp

    gam  ncl  std
    

    每个文件夹中都有一个vasp的可执行文件,添加PATH即可

运行vasp

若没有给数学库添加PATH,运行前需要source一下,具体内容,前面都有
vasp运行方式1)添加PATH直接输入vasp运行,或类似这样~/vasp/vasp.5.4.1/build/std/vasp运行
是否添加PATH,看组里习惯吧
把输入文件放在一个文件夹中,在该文件夹内运行vasp
可从Materials Project下载POSCAR, INCAR,KPOINTS,POTCAR从vasp网站下载,直接运算可能需要修改下载的INCAR,将结果与Materials Project结果比较

常见问题

这里放一些,安装过程中的问题和解决方案

intel64

在intel的路径中ia32代表32位,intel64代表64位

数学库MKL

数学库的调用

数学库可以分为静态链接和动态连接,两种方式都可以
/opt/intel/compilers_and_libraries_2018.0.128/linux/mkl/lib/intel64
里面有很多库文件libmkl_blacs_intelmpi_ilp64.a libmkl_blacs_intelmpi_ilp64.so
其中拓展名为.a是静态库,.so的为动态库

  • 静态链接
    连接方式
    LIB=/opt/intel/compilers_and_libraries_2018.0.128/linux/mkl/lib/intel64/libmkl_blacs_intelmpi_ilp64.a
    
  • 动态链接
    连接方式
    LIB=-L/opt/intel/compilers_and_libraries_2018.0.128/linux/mkl/lib/intel64 -lmkl_blacs_intelmpi_ilp64
    

mpif90

编译vasp时若FC设置为mpif90,报错

gfortran: command not found

这是因为,intel MPI命令中mpif90调用gfortran进行编译,gfortran没安装报错
若装上gfortran又会因为,数学库等是使用intel的ifort编译的,和gfortran又有冲突报错
最好的解决方式,是FC=mpiifort
此内容参考mpif90 from cluster toolkit pointing to gfortran科大李会民老师-MPI编译环境的使用

编译时报错哪个数学库文件

检查数学库文件名是否正确,数学库是否选对,如
BLACS = -lmkl_blacs_intelmpi_lp64因为我们使用的是intel的mpi所以blacs使用intelmpi,若使用openmpi,则设置为libmkl_blacs_openmpi_lp64

使用fftw

若不使用intel的fftw,下载fftw
解压进入相关文件夹后,生成使用intel编译支持并行的makefile文件

./configure --prefix=/opt/fftw/ CC=icc F77=ifort MPICC=mpiicc --enable-mpi
make
make install

makefile.include中设置为

OBJECTS    = fftmpiw.o fftmpi_map.o fftw3d.o fft3dlib.o \
             /opt/fftw/lib/libfftw3_mpi.a
INCS       =-I/opt/fftw/include

此处参考fftw 编译安装说明

fftw不支持mpi报错

编译fftw时,若使用make libintel64,则编译的fftw不支持mpi,编译时会对libfftw3xf_intel.a报错

报错

segmentation fault occurred

forrtl: severe (174): SIGSEGV, segmentation fault occurred
Image              PC                Routine            Line        Source             
vasp               00000000013CD4ED  Unknown               Unknown  Unknown
libpthread-2.17.s  00007F66B288E5E0  Unknown               Unknown  Unknown

每次运行前在shell中执行

ulimit -s unlimited
ulimit -m unlimited
ulimit -c unlimited
ulimit -d unlimited

再运行vasp
也可以,添加ulimit -s unlimited/etc/profile~/.bashrc,每次登陆自动执行

在Linux下写程序的时候,如果程序比较大,经常会遇到“段错误”(segmentation fault)这样的问题,ulimit为shell内建指令,可用来控制shell执行程序的资源

  -a  显示目前资源限制的设定。 
  -c <core文件上限>  设定core文件的最大值,单位为区块。 
  -d <数据节区大小>  程序数据节区的最大值,单位为KB。 
  -f <文件大小>  shell所能建立的最大文件,单位为区块。 
  -H  设定资源的硬性限制,也就是管理员所设下的限制。 
  -m <内存大小>  指定可使用内存的上限,单位为KB。 
  -n <文件数目>  指定同一时间最多可开启的文件数。 
  -p <缓冲区大小>  指定管道缓冲区的大小,单位512字节。 
  -s <堆叠大小>  指定堆叠的上限,单位为KB。 
  -S  设定资源的弹性限制。 
  -t <CPU时间>  指定CPU使用时间的上限,单位为秒。 
  -u <程序数目>  用户最多可开启的程序数目。 
  -v <虚拟内存大小>  指定可使用的虚拟内存上限,单位为KB

参考vasp.5.3 错误 forrtl: severe (174): SIGSEGV, segmentation fault occurred

RLIMIT_MEMLOCK too small

并行运算时

mpirun -genv I_MPI_DEVICE rdssm -machinefile host.fiel -n 4 /home/cndaqiang/soft/vasp.5.4.1/build/std/vasp
[0] DAPL startup: RLIMIT_MEMLOCK too small

使用

ulimit -l unlimited

这条命令涉及root的权限,所以,添加到/etc/profile,也只能以root用户计算
推荐解决方案
参考Best Known Methods for Setting Locked Memory Size
修改/etc/security/limits.conf,填入

username  hard memlock unlimited
username  soft memlock unlimited

参考组里服务器的配置,允许所有用户,设置为

* soft memlock unlimited
* hard memlock unlimited
* soft memlock unlimited
* soft stack unlimited
* soft nproc unlimited
* hard memlock unlimited
* hard stack unlimited
* hard nproc unlimited

reboot重启生效

这个错误

Fatal error in PMPI_Alltoallv: Other MPI error, error stack:
PMPI_Alltoallv(665).............: MPI_Alltoallv(sbuf=0x7f760c875340, scnts=0x7f760e1e7a00, sdispls=0x7f760e1e7a40, MPI_INTEGER, rbuf=0x7f760c8eb380, rcnts=0x7f760e1e79a0, rdispls=0x7f760e1e79e0, MPI_INTEGER, comm=0x84000007) failed
MPIR_Alltoallv_impl(416)........: fail failed
MPIR_Alltoallv(373).............: fail failed
MPIR_Alltoallv_intra(226).......: fail failed
MPIR_Waitall_impl(221)..........: fail failed
PMPIDI_CH3I_Progress(623).......: fail failed
pkt_RTS_handler(317)............: fail failed
do_cts(662).....................: fail failed
MPID_nem_lmt_dcp_start_recv(302): fail failed
dcp_recv(165)...................: Internal MPI error!  Cannot read from remote process
 Two workarounds have been identified for this issue:
 1) Enable ptrace for non-root users with:
    echo 0 | sudo tee /proc/sys/kernel/yama/ptrace_scope
 2) Or, use:
    I_MPI_SHM_LMT=shm

解决

sudo su
I_MPI_SHM_LMT=shm
echo 0 |  tee /proc/sys/kernel/yama/ptrace_scope

[未解决]dapl fabric is not available and fallback fabric is not enabled

并行运算时

mpirun -genv I_MPI_DEVICE rdssm -machinefile host.fiel -n 4 /home/cndaqiang/soft/vasp.5.4.1/build/std/vasp
[0] MPI startup(): dapl fabric is not available and fallback fabric is not enabled

DEBUG后

cannot open dynamic library libdat2.so.2

处理方案是修改/etc/dat.conf填入类似

ofa-v2-mlx5_0-1u u2.0 nonthreadsafe default libdaploucm.so.2 dapl.2.0 "mlx5_0 1" ""

的东西,参考 Using Connect-IB with Intel MPI
dapl fabric is not available and fallback fabric is not enabled with IMPI 4.0.0
不想看了,以后再解决,先去掉 -genv I_MPI_DEVICE rdssm参数运行

internal error in INIT_SCALA: DESCA, DESCINIT, INFO:

使用intel 2018编译器在计算一些体系时,使用的核数小于一定值时遇到此问题,使用intel 2015编译器在相同环境下编译后,运行vasp没有报错,暂时先这样解决

{    0,    0}:  On entry to 
DESCINIT parameter number    6 had an illegal value 
{    0,    1}:  On entry to 
DESCINIT parameter number    6 had an illegal value 
{    0,    2}:  On entry to 
DESCINIT parameter number    6 had an illegal value 
{    0,    3}:  On entry to 
DESCINIT parameter number    6 had an illegal value 
{    0,    4}:  On entry to 
DESCINIT parameter number    6 had an illegal value 
 internal error in INIT_SCALA: DESCA, DESCINIT, INFO:           -6
 internal error in INIT_SCALA: DESCA, DESCINIT, INFO:           -6
 internal error in INIT_SCALA: DESCA, DESCINIT, INFO:           -6
 internal error in INIT_SCALA: DESCA, DESCINIT, INFO:           -6
 internal error in INIT_SCALA: DESCA, DESCINIT, INFO:           -6

本文首发于我的博客@cndaqiang.
本博客所有文章除特别声明外,均采用 CC BY-SA 4.0 协议 ,转载请注明出处!


类似文章


评论


广告


广告
访客数据