Python数据处理与开发工具
公共Python数据处理包、开发与会话工具、AI工具和相关使用边界。
阅读本篇目录
各章节保留原指南中的版本、平台、操作示例与适用边界;章节日期不同,使用时按所列版本核对。全部软件分项
环境与使用说明#
6.12 开发与会话工具#
| 工具 | 版本 | module | 主程序路径 |
|---|---|---|---|
| Codex CLI(活动旧会话保留) | v0.156.1 | codex/v0.156.1 |
/public/software/codex/v0.156.1/bin/codex |
| Codex CLI(活动旧会话保留) | v0.159.1 | codex/v0.159.1 |
/public/software/codex/v0.159.1/bin/codex |
| Codex CLI(默认) | v0.162.0 | codex/v0.163.0 |
/public/software/codex/v0.163.0/bin/codex |
| CC Switch(旧版保留) | v5.10.4 | cc-switch/v5.10.4 |
/public/software/cc-switch/v5.10.4/cc-switch |
| CC Switch(默认) | v5.11.0 | cc-switch/v5.11.0 |
/public/software/cc-switch/v5.11.0/cc-switch |
| herdr(活动旧服务保留) | v0.9.1 | herdr/v0.9.1 |
/public/software/herdr/v0.9.1/herdr |
| herdr(默认) | v0.9.3 | herdr/v0.9.3 |
/public/software/herdr/v0.9.3/herdr |
| Mihomo代理入口 | 服务版本未在本次核对 | proxy/mihomo |
管理节点代理服务,模块提供连接环境变量 |
三款工具采用上游Linux x86_64预编译发行包,沿用版本目录和Lmod入口,无需加载CUDA或MPI。CC Switch选择musl发行包;Codex使用官方完整codex-package-x86_64-unknown-linux-musl.tar.gz,保留主程序、Code Mode host和配套资源,不能只复制主程序。2026-10-09下载文件SHA256及全部安装文件核对通过,login01普通用户显式/默认加载、版本与帮助入口通过;Codex辅助程序启动和动态依赖检查通过。这些入口检查不等于已执行模型请求或科学计算。
新终端可直接加载默认版本,也可显式选定:
module load codex/v0.163.0
codex --version
# 按需要分别加载以下工具
module load cc-switch/v5.11.0
cc-switch --help
module load herdr/v0.9.3
herdr --help
已经加载旧版本的终端可以用module swap codex codex/v0.163.0切换之后启动的程序;其他工具同理。正在运行的进程保持原版本,用户结束当前任务后再按自己的安排启动新版。已有herdr服务器仍运行旧程序:继续使用旧服务时,可保留herdr/v0.9.1客户端;结束其中任务后再自行停止旧服务器并启动新版。管理员此次更新保留了manage01/login01上的全部既有Codex与herdr进程。
CC Switch用于CLI供应商、MCP和个人配置管理;herdr用于终端中的AI代理工作区和会话管理。配置、数据库和认证属于各用户。CC Switch5.11.0首次正常启动会把个人数据库迁移到schema v20,旧客户端不能打开迁移后的数据库;使用前备份自己的配置目录(默认~/.cc-switch),避免两个版本同时操作同一配置。此次公共部署仅运行版本/帮助检查,未替普通用户迁移个人数据库。上游升级说明
需要代理时单独module load proxy/mihomo,完成后可module unload proxy/mihomo;代理入口按开通环境配置,不在指南记录订阅或账户凭据。公共程序升级由管理员维护,个人配置与认证保持私有。
AICC公共技能文件位于/public/software/codex/aicc,已安装提交c416a8ae8999aaba5faf0230ec052cd54a5ca0bb,包含skills、rules及源码资料。原始source克隆已于2026-10-02删除,已安装副本继续保留。它是计算化学工作流说明和辅助脚本集合,没有独立计算引擎或公共module;其中提到Gaussian、CatMAP等程序不构成这些软件已经安装的证据。Codex部署详情见项目记录,本次更新见验收记录。
6.13 公共 Python 数据处理包#
本轮新增两套通用独立环境,便于材料数据处理,不需要加载DeePMD/DP-GEN:
| 软件 | 版本 | 编译与依赖 | 独立路径与模块 |
|---|---|---|---|
| ASE | 3.29.0 | Python3.11.16、清华pip正式包;NumPy2.3.5、SciPy1.17.1、spglib2.7.0;未安装全部外部计算器 | /public/software/ase/3.29.0;ase/3.29.0 |
| pymatgen | 2026.9.24 | Python3.11.16、pip核心及ase/symmetry扩展;实际拆分pymatgen-core2026.10.2、h5py、seekpath;不含所有机器学习/可视化额外组 | /public/software/pymatgen/2026.9.24;pymatgen/2026.9.24 |
Conda环境分别 /public/toolkit/miniconda3/envs/ase-3.29.0、/public/toolkit/miniconda3/envs/pymatgen-2026.9.24。使用 module load ase/3.29.0 或 module load pymatgen/2026.9.24 后运行 python your_script.py;一次选择一个Python环境,不混用site-packages。ASE的Al EMT优化/I/O、pymatgen的Si对称性/POSCAR/ASE适配验收通过。已有其它软件内部的ASE/pymatgen环境均未改动。
这些包随现有独立环境部署,无需为了import dpdata或进度条再次编译VASP/LAMMPS。Python包以Conda或pip安装为主;含原生扩展的包使用其所属环境记录的编译器或预编译包,不能一律填写oneAPI。
| 软件包 | 版本 | 已安装环境 | 用途 |
|---|---|---|---|
| dpdata | 1.1.0 | 五个deepmd-kit-*源码环境、dpgen、pfd-kit-0.10.13、gpumdkit-1.5.8 |
原子模拟数据读写与转换 |
| tqdm | 4.70.1 | 上述环境及mace-0.3.16 |
Python进度条 |
| DPDispatcher | 1.1.0 | dpgen、pfd-kit-0.10.13、gpumdkit-1.5.8 |
工作流任务提交组件 |
| ASE | 3.29.0 | dpgen、pfd-kit-0.10.13、mace-0.3.16、gpumdkit-1.5.8、boltztrap2-26.3.1 |
结构和计算接口 |
| pymatgen | 2026.5.4 | dpgen |
材料结构处理 |
| pymatgen | 2026.9.24 | gpumdkit-1.5.8 |
材料结构处理 |
| NepTrain | 2.2.0 | gpumdkit-1.5.8 |
NEP数据/势辅助工具,GCC13.3原生扩展 |
| calorine | 4.0 | gpumdkit-1.5.8 |
NEP计算接口,GCC13.3原生扩展 |
| Python spglib | 2.6.0 | phonopy-2.43.6、phonopy-spectroscopy |
兼容旧Phonopy内部导入;不共享其他应用的C库 |
| Python spglib | 2.7.0 | dpgen、gpumdkit-1.5.8、boltztrap2-26.3.1、phonopy-4.7.2 |
对称性处理;与应用静态链接的C库分别记录 |
| netCDF4 | 1.7.4 | dpgen、boltztrap2-26.3.1 |
NetCDF数据读写;与GPUMD的NetCDF-C构建不同 |
source /public/toolkit/miniconda3/etc/profile.d/conda.sh
conda activate deepmd-kit-3.2.0
python -c 'import dpdata, tqdm; print(dpdata.__version__, tqdm.__version__)'
conda deactivate
NumPy/SciPy/Matplotlib/PyTorch/TensorFlow及其他传递依赖的完整版本见包元数据快照。使用环境内Python,不把某个环境的site-packages加入另一个环境的PYTHONPATH。thirdorder保持NumPy1.26系列,BoltzTraP2保持NumPy2.3.5,两者不合并升级。
Phonopy4.7.2和2.43.6已分别在独立环境部署,见5.18节。phono3py4.8.2现已独立部署,见5.23节。
开发工具与实测指南#
公共Codex默认已更新为0.163.0:module load codex/v0.163.0。旧会话按原版本继续运行;不要复制历史安装脚本。使用AI工具时确认自己的账号、网络和凭据设置,不将科研私密数据或凭据公开。