【2023使用手册】高效能运算之远程计算4Moldex3D Azure-Connect
moldex3d吧
全部回复
仅看楼主
level 11
Moldex3D_MKT 楼主
选项A-J具体说明
选项A:CreateConfigFile:产生配置文件
执行MDXAzureDeploymentConsole.exe -CreateConfigFile
配置文件会建立在C:\Moldex3D\Azure-Connect 2023\Config 下, 档名为MDXAzureDeployment.conf。
选项 B 将会根据此配置文件中的设定进行 Moldex3D 计算丛集于Azure的布署,而选项 C将会根据此配置文件中的设定进行AzureCycleCloud于Azure的布署。
选项B:DeployWindowsCluster
在 Azure 建立新的 Moldex3D 计算丛集
请先打开档案总管, 并到文件夹 C:\Moldex3D\Azure-Connect2023\Config。接着用记事本打开 MDXAzureDeployment.conf。请注意因为目前的选项是 DeployWindowsCluster ,因此只需检查 [DeployWindowsClusterr]区段下的设定。
以下会说明各字段并给予范例值,第一次使用时建议你根据范例值输入:
•ResourceGroupName:资源群组的名称,在同一订阅内是唯一值。(范例值: RG-mdx-cluster)
•Location:资源群组所在的区域。(范例值: westus。 您也可以参考选项D 的说明 )
•VNETAddressSpace:局域网络地址空间。若您的网络环境会有跟其他 Azure 资源共享地端 VPN 网关以建立VPN通道的情形(如:您的单位有多人使用此布署工具布署云端资源,并共享您单位的地端网络网关),请联络网络管理员决定这个值怎么设定。(范例值已自动带入配置文件,范例值: 10.0.0.0/16)
•ClusterSubnet:Moldex3D 计算丛集所在的子网。若您的网络环境会有跟其他 Azure 资源共享地端网络网关以建立VPN信道的情形 (如:您的单位有多人使用此布署工具布署云端资源,并共享您单位的地端网络网关),请联络网络管理员决定这个值怎么设定。(范例值已自动带入配置文件,范例值: 10.0.0.0/24)
•VMAdminUsername: Moldex3D 计算丛集内所有节点 (虚拟机) 的登入账号的名称。 (范例值: moldex3d)
•VMAdminPassword: Moldex3D 计算丛集内所有节点 (虚拟机) 的登入账号的密码。(范例值: MDX3DAzurePC!)
•VMSize_HeadNode: Moldex3D 计算丛集内头节点的VM型号。 (范例值: Standard_D4s_v4。您也可以参考选项E 跟 F 的说明)
•VMSize_ComputeNode: Moldex3D 计算丛集内计算节点的VM型号。 (范例值: Standard_DS5_v2。您也可以参考选项E 跟 F的说明)
•VMDataDiskSizeGB_HeadNode: Moldex3D 计算丛集内头节点数据碟的大小(GB)。 (范例值: 256)
•DeployHeadNodePublicIP:是否配置对外 IP 给头节点。 (范例值: 1)
•NMaxComputeNode: 自动扩展计算节点数量的上限值 (范例值: 20)。请注意: 2023R0尚未支持自动扩展, 故此设定值在Moldex3D Azure-Connect 2023R0不会被使用.
•NMinComputeNode: 自动扩展计算节点数量的下限值, 即计算丛集没有工作的状态下, 维持几台已布署好但状态为关机的计算节点. (范例值: 4)
•DeployVPNGateway:是否布署 Azure VPN 网关。 (若不需要建立VPN通道请输入0,范例值已自动带入配置文件,建议值: 1)
•VPNGatewaySKU: Azure VPN 网关的型号。 (范例值: Basic。您也可以参考选项 G 的说明)
•VPNGatewaySubnet: Azure VPN 网关所在的子网。(范例值已自动带入配置文件.,范例值: 10.0.192.0/24)
•VPNLocalGatewayPublicAddress:地端用来建立VPN信道之网络网关的对外IP。 (请根据您的地端环境进行设定)
•VPNLocalGaterwayAddressSpace:地端用来建立VPN信道之网络网关的局域网络空间。 (请根据您的地端环境进行设定)
•VPNSharedKey: VPN 通讯使用之共享密钥。 (请根据您的地端环境进行设定)
•Moldex3DAzureVMUtilityPackage: Moldex3D Azure VM 工具包的所在路径。 (请勿修改默认路径)
•Moldex3DPackage: Moldex3D 安装包的所在路径。 (请勿修改默认路径)
•LMServerIP:地端 Moldex3D LM Server 的 IP。 (请根据您的地端环境进行设定)
•LMServerPort:地端 Moldex3D LM Server 的Port。 (请根据您的地端环境进行设定,预设是2556)
以下假设您的地端 LM server IP 为 192.168.130.52,因此 VPNLocalGatewayAddressSpace 须设为 192.168.130.0/24
请参考以下配置文件内容
-请注意 VPNLocalGatewayPublicIPAddress与 VPNSharedKey 的值须由您的网络管理员提供。
-所有字段都填妥后请回到 cmd.exe. 执行 MDXAzureDeploymentConsole.exe-DeployWindowsCluster 。
-一开始会先执行登入 Azure CLI,这时候会启动浏览器并转向至 Azure 登入页面,请输入账号密码登入。
-登入后画面如下,此时可以关闭浏览器。
-之后布署程序会自动依序布署组成 Moldex3D Cluster 的每个组件直到 Cluster 完成建立,中途不再需要需使用者输入。
-布署完成后,讯息会显示 Azure VPN Gateway IP,请联络网络管理员将此IP更新至地端 VPN 网关设定。
-接着打开 Moldex3D ComputingManager ,输入 HeadNode Public IP 或是 HeadNode Private IP,账号密码请用 VMAdminUsername 与VMAdminPassword 字段的值,输入完毕后即可提交工作到 HeadNode。
-布署完毕后,也可以联机至 Azure Portal 查看资源,透过 Moldex3D Azure-Connect 2023布署的资源会加上Tag: CreatedBy: Moldex3DAzure-Connect 2023。
调整现有Moldex3D Windows计算丛集的设定
请先打开档案总管,并到文件夹 C:\Moldex3D\Azure-Connect 2023\Config,接着用记事本打开 MDXAzureDeployment.conf,请注意因为目前的选项是 DeployWindowsClusterr ,因此只需检查 [DeployWindowsClusterr] 区段下4个项目的设定
以下会说明各字段并给予范例值,第一次使用时建议你根据范例值输入:
•ResourceGroupName:资源群组的名称,在同一订阅内是唯一值,请务必跟选项 B 布署全新Windows计算丛集时的设定相同。 (范例值: RG-mdx-cluster)
•VMSize_ComputeNode: Moldex3D Windows计算丛集内计算节点的VM型号。
•NMaxComputeNode: 自动扩展计算节点数量的上限值 (范例值: 20) 请注意: 2023R0尚未支持自动扩展, 故此设定值在Moldex3D Azure-Connect 2023R0不会被使用.
•NMinComputeNode: 自动扩展计算节点数量的下限值, 即计算丛集没有工作的状态下, 维持几台已布署好但状态为关机的计算节点. (范例值: 2)
请参考以下配置文件内容,此设定不变更计算节点型号, 仅将自动扩展计算节点数量下限值调整为2台
-所有字段都填妥后请回到 cmd.exe.执行 MDXAzureDeploymentConsole.exe-DeployWindowsCluster ModifyComputeNode
-一开始会先执行登入 Azure CLI,这时候会启动浏览器并转向至 Azure 登入页面,请输入账号密码登入
-登入后画面如下, 此时可以关闭浏览器
-之后布署程序会自动布署新的计算节点至现有已存在的 Moldex3D Cluster,中途不再需要需使用者输入。
-这时候回到浏览器查看 Azure Portal 可看到 VMSS (Virtual machine scalesets) 底下的instances数量变成两台。
更新现有Moldex3D计算丛集中所有节点的Moldex3D版本
请先打开档案总管,并到文件夹 C:\Moldex3D\Azure-Connect2023\Config,接着用记事本打开 MDXAzureDeployment.conf,请注意因为目前的选项是 DeployWindowsCluster,因此只需检查 [DeployWindowsCluster] 区段下2个项目的的设定
•ResourceGroupName:资源群组的名称,在同一订阅内是唯一值,请务必跟选项 B 布署全新计算丛集时的设定相同。 (范例值: RG-mdx-cluster)
•Moldex3DPackage: Moldex3D 安装包的所在路径。(请勿修改默认路径)
请参考以下配置文件内容
-所有字段都填妥后请回到 cmd.exe. 执行 MDXAzureDeploymentConsole.exe-DeployWindowsClusterUpdateMoldex3D
-一开始会先执行登入 Azure CLI,这时候会启动浏览器并转向至 Azure 登入页面,请输入账号密码登入
-登入后画面如下, 此时可以关闭浏览器
-之后布署程序会自动更新目前的 Moldex3D Cluster,中途不再需要需使用者输入。
选项C : DeployAzureCycleCloud : 布署Azure CycleCloud
请先打开档案总管, 并到文件夹C:\Moldex3D\Azure-Connect2023\Config. 接着用记事本打开MDXAzureDeployment.conf.请注意因为目前的选项是DeployAzureCycleCloud,因此只需检查 [DeployAzureCycleCloud]区段下的设定
以下会说明各字段并给予建议值, 第一次使用时建议你根据范例值输入
•ResourceGroupName:资源群组的名称, 在同一订阅内是唯一值. (范例值:RG_cyclecloud)
•Location: 资源群组所在的区域. (范例值: westus. 您也可以参考选项D的说明.)
•VNETAddressSpace:局域网络地址空间. 若您的网络环境会有跟其他Azure VNET共享地端网络网关以建立VPN信道的情形(如:您的单位有多人使用此布署工具布署云端资源, 并共享您单位的地端网络网关), 请联络网络管理员决定这个值怎么设定. (范例值已自动带入配置文件. 范例值:10.0.0.0/16)
•ClusterSubnet:计算丛集所在的子网. 若您的网络环境会有跟其他Azure VNET共享地端网络网关以建立VPN信道的情形(如:您的单位有多人使用此布署工具布署云端资源, 并共享您单位的地端网络网关), 请联络网络管理员决定这个值怎么设定. (范例值已自动带入配置文件. 范例值: 10.0.0.0/24)
•AdminUsername:计算丛集内所有节点(虚拟机)的登入账号的名称. (范例值:moldex3d)
•AdminPassword:计算丛集内所有节点(虚拟机)的登入账号的密码. (范例值:MDX3DAzurePC!)
•SSHKeyPassPhrase:布署过程中产生之SSH密钥的密码词组
•VMSize:Azure CycleCloud这台机器的VM型号(范例值:Standard_D4s_v4. 您也可以参考选项E跟F的说明)
•CycleCloudImageSKU:布署AzureCycleCloud使用的映像名称. (范例值:cyclecloud8. 请勿修改此字段)
•DeployDBforMariaDB:是否布署Azuredatabase for MariaDB. (若您后续会使用Slurm工作排程器, 请将此设定设为1, 否则请设为0)
•DBforMariaDBStorageSizeMB:Azure database for MariaDB的储存空间大小. (范例值已自动带入配置文件. 范例值: 10240, 也就是10GB的意思.)
•DeployVPNGateway:是否布署Azure VPN网关. (若不需要计算节点请输入0. 建议值已自动带入配置文件. 建议值: 1)
•VPNGatewaySKU:Azure VPN网关的型号. (范例值: Basic. 您也可以参考选项G的说明)
•VPNGatewaySubnet:Azure VPN网关所在的子网. (范例值已自动带入配置文件. 范例值:10.0.192.0/24)
•VPNLocalGatewayPublicAddress:地端用来建立VPN信道之网络网关的对外IP. (请根据您的地端环境进行设定)
•VPNLocalGaterwayAddressSpace:地端用来建立VPN信道之网络网关的局域网络空间. (请根据您的地端环境进行设定)
•VPNSharedKey:VPN通讯使用之共享密钥. (请根据您的地端环境进行设定)
•Moldex3DLinuxPackageEL7:Moldex3D CentOS 7安装包的所在路径. (请勿修改默认路径)
•Moldex3DLinuxPackageEL8:Moldex3D CentOS 8安装包的所在路径. (请勿修改默认路径)
•LMServerIP:地端Moldex3DLM Server的IP. (请根据您的地端环境进行设定)
•LMServerPort:地端Moldex3DLM Server的Port. (请根据您的地端环境进行设定, 预设是2556)
以下假设您后续会使用Slurm工作排程器, 因此需要Azuredatabase for MariaDB, 而地端LM serverIP为192.168.130.52.因此VPNLocalGatewayAddressSpace须设为192.168.130.0/24
请参考以下配置文件内容
-请注意VPNLocalGatewayPublicIPAddress与VPNSharedKey的值须由您的网络管理员提供.
-所有字段都填妥后请回到cmd.exe. 执行MDXAzureDeploymentConsole.exe-DeployAzureCycleCloud
-一开始会先执行登入Azure CLI,这时候会启动浏览器并转向至Azure登入页面, 请输入账号密码登入
-登入后画面如下, 此时可以关闭浏览器
-之后布署程序会自动依序布署组成AzureCycleCloud的每个组件直到完成建立, 中途不再需要需使用者输入.
-布署完成后会显示数个重要讯息如下图, 包括
1.AzureCycleCloud FQDN与Public IP:此为布署好的AzureCycleCloud VM的FQDN与Public IP.
2.SSHPublic key contents: 此为布署过程中产生的SSH公钥, 在后续设定AzureCycleCloud时会用到.
3.Storageaccount name: 布署完成的AzureStorage account名称, 在后续设定AzureCycleCloud时会用到.
4.Pleaseopen the browser and visit [http://…..]: 这是设定AzureCycleCloud的联机网址
5.Pleasedownload InitializeMoldex3D.sh to the Linux server created by Azure CycleCloudvia command: [wget …..]: 这是当透过AzureCycleCloud建立好Linux丛集后, 要联机到Linuxserver执行的第一个命令.
6.Pleaserun InitializeMoldex3D.sh on Linux server created by Azure CycleCloud viacommand: [bash ….]: 这是当透过AzureCycleCloud建立好Linux丛集后, 要联机到Linuxserver执行的第二个命令.
7.MariaDBServer name: 若您在配置文件将DeployDBforMariaDB设为1, 则会出现此讯息. Servername在后续Slurm工作排程器的设定会用到.
8.MariaDBAdmin login name: 若您在配置文件将DeployDBforMariaDB设为1, 则会出现此讯息. Adminlogin name在后续Slurm工作排程器的设定会用到.
9.AzureVPN Gateway IP: 请联络网络管理员将此IP更新至地端网络网关设定.
以上步骤已完成AzureCycleCloud的布署, 接下来要对其进行设定。
注意: 请先不要关闭MDXAzureDeploymentConsole.exe,因为其画面显示的信息在后续设定AzureCycleCloud与执行Moldex3D初始化会用到。
选项C : 布署Azure CycleCloud-1
•设定Azure CycleCloud
•在Azure CycleCloud设定OpenPBS
•在Linux server上执行Moldex3D初始化
•使用Moldex3D Computing Manager提交Job至server
选项C : 布署Azure CycleCloud-2
•在Azure CycleCloud设定Slurm
•在Slurm丛集的scheduler上执行Moldex3D初始化
•使用Moldex3D Computing Manager提交Job至server
选项D : ListLocations : 列出目前可用的Azure地区
请到 cmd.exe. 执行MDXAzureDeploymentConsole.exe -ListLocations
接着请打开..\Config\azure_locations.log即可看到目前可用的 Azure 地区
选项E : ListVMSKUs:列出指定地区的虚拟机(VM)规格
请到 cmd.exe. 执行MDXAzureDeploymentConsole.exe -ListVMSKUs {区域名称} {VCPU数量}
如:MDXAzureDeploymentConsole.exe -ListVMSKUs eastus 8
接着请打开..\Config\azure_vm_skus.log即可看到目前地区 westus 中, VCPU=8 的机器名称
注意:vCPUsPerCore=1 表示无hyperthread, vCPUsPerCore=2 表示启用hyperthread
建议您使用vCPUsPerCore=1 的 VM 型别进行 Moldex3D 计算
选项F : ListVMSKUBySize : 列出指定地区的指定虚拟机(VM)规格
请到cmd.exe. 执行MDXAzureDeploymentConsole.exe-ListVMSKUBySize {区域名称} {VM型别}
如:MDXAzureDeploymentConsole.exe -ListVMSKUBySize westus Standard_D8as_v4
接着请打开..\Config\azure_vm_sku_by_size.log 即可看到目前地区 westus 中, Standard_D8as_v4 的机器规格
注意: vCPUsPerCore=1 表示无 hyperthread,vCPUsPerCore=2 表示启用 hyperthread
建议您使用vCPUsPerCore=1的VM型别进行Moldex3D计算
选项G : ListVPNGatewaySKUs : 列出VPN网关规格
请到 cmd.exe. 执行MDXAzureDeploymentConsole.exe -ListVPNGatewaySKUs
接着请打开..\Config\azure_vpn_skus.log即可看到VPNGateway 的种类
选项H: CheckVMUsernameValidity: 检查VM登入帐户的名称是否合乎规则
请到cmd.exe. 执行MDXAzureDeploymentConsole.exe-CheckVMUsernameValidity {VM账号}
如: MDXAzureDeploymentConsole.exe-CheckVMUsernameValidity administrator
由上图可知, administrator并非Azure允许的VM登入账号
选项I : CheckVMPasswordValidity : 检查VM登入帐户的密码是否合乎规则
请到 cmd.exe. 执行MDXAzureDeploymentConsole.exe -CheckVMPasswordValidity {VM账号的密码}
如:MDXAzureDeploymentConsole.exe-CheckVMPasswordValidity abc123。
由上图可知, abc123并非Azure允许的VM登入密码
选项J : ShowKQL : 印出KQL语法
请到cmd.exe. 执行MDXAzureDeploymentConsole.exe-ShowKQL InstanceCount
请查看档案..\Config\KQL_InstanceCount.log的内容
请将上述内容复制并至 AzurePortal " 您布署的数据群组(Resourcegroup) " vmss_cn " Log, 贴上内容后按下 Run 按钮. 此时 Azure 网页会画出 Moldex3DWindows 计算丛集中计算节点数量与时间的关系 (如下图)
注意: 您可以自行调整 KQL 语法中的 starttime= ago(1d), 例如改为 4 小时前 ago (4h),或是一周前 ago(7d) 等来设定图表的时间区间.
以上就是Azure-Connect 布署工具的使用说明。
2023年09月06日 02点09分 1
1