User Tools

Site Tools


public:introduccio

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

public:introduccio [2025/11/01 16:28] – created admins_ceabpublic:introduccio [2025/11/01 16:29] (current) admins_ceab
Line 1: Line 1:
 # Introducció a l'ús del cluster # Introducció a l'ús del cluster
  
-(editat per últim cop per Xavier Roijals. 01 de novembre de 2025).+*(editat per últim cop per Xavier Roijals. 01 de novembre de 2025).*
  
- +## Nova direcció accés per ssh al cluster.
-### Nova direcció accés per ssh al cluster.+
  
 la direcció per accedir al cluster ha canviat: ara és **cluster.ceab.csic.es**. Per tant, per connectar-se caldrà fer: la direcció per accedir al cluster ha canviat: ara és **cluster.ceab.csic.es**. Per tant, per connectar-se caldrà fer:
Line 14: Line 13:
 ja sigui amb les vostres terminals de sistemes MacOS o Linux, o bé amb [mobaXterm](https://mobaxterm.mobatek.net/) des de sistemes Windows. ja sigui amb les vostres terminals de sistemes MacOS o Linux, o bé amb [mobaXterm](https://mobaxterm.mobatek.net/) des de sistemes Windows.
  
-### Diferents cues ("particions") amb noms diferents+## Diferents cues ("particions") amb noms diferents
  
 el número de nodes de càlcul passa de 13 a 17. El nom dels nodes ha canviat (**node1 a 17** enlloc de node100 a 112). Estaran organitzats en diferents cues (en terminologia Slurm *"particions"*) d'acord a les seves velocitats de processador. el número de nodes de càlcul passa de 13 a 17. El nom dels nodes ha canviat (**node1 a 17** enlloc de node100 a 112). Estaran organitzats en diferents cues (en terminologia Slurm *"particions"*) d'acord a les seves velocitats de processador.
Line 23: Line 22:
  
 La resta de cues (particions) us anirem informant a mesura que les anem aixecant. La resta de cues (particions) us anirem informant a mesura que les anem aixecant.
-### Nou PATH home usuaris.+ 
 +## Nou PATH home usuaris.
  
 Les dades dels usuaris ja no són a /home/usuaris/nom\_usuari, sinó a **/home/nom\_usuari**. Desapareix el subdirectori "usuaris". Les dades dels usuaris ja no són a /home/usuaris/nom\_usuari, sinó a **/home/nom\_usuari**. Desapareix el subdirectori "usuaris".
  
-### Nou sistema de carregar programes (EasyBuild, "module load")+## Nou sistema de carregar programes (EasyBuild, "module load")
  
 A l'hora de cridar els programes als scripts ja no s'ha de fer la mecànica manual artesana d'abans ("export PATH etc"). Ara la manera de cridar els programes es farà via EasyBuild, amb la comanda module load A l'hora de cridar els programes als scripts ja no s'ha de fer la mecànica manual artesana d'abans ("export PATH etc"). Ara la manera de cridar els programes es farà via EasyBuild, amb la comanda module load
Line 57: Line 57:
 ``` ```
  
-### Nou PATH directori temporal (/lscratch enlloc de /tmp)+## Nou PATH directori temporal (/lscratch enlloc de /tmp)
  
 Abans per copiar les dades en local al node on corre el job per anar més ràpid ho copiàvem al directori /tmp. Ara **el directori on s'hauran de copiar les dades en local als nodes és el directori /lscratch** . De fet si feu un "df -h" a qualsevol node veureu que s'ha incrementat la mida d'aquesta partició a aprox +450G: Abans per copiar les dades en local al node on corre el job per anar més ràpid ho copiàvem al directori /tmp. Ara **el directori on s'hauran de copiar les dades en local als nodes és el directori /lscratch** . De fet si feu un "df -h" a qualsevol node veureu que s'ha incrementat la mida d'aquesta partició a aprox +450G:
Line 68: Line 68:
  
 S'ha ampliat també la capacitat de la partició local /lscratch del node 16 (ex-node112) a aprox 2TB. S'ha ampliat també la capacitat de la partició local /lscratch del node 16 (ex-node112) a aprox 2TB.
-### Noves comandes bàsiques de Slurm (programari gestor de cues): squeue, sbatch, srun.+ 
 + 
 +## Noves comandes bàsiques de Slurm (programari gestor de cues): squeue, sbatch, srun.
  
 Heu de tenir en compte que el programari per llençar els jobs ja no és SGE, sinó Slurm, per tant, les comandes seran diferents. Vaig posant una traducció inicial de les comandes més bàsiques habituals: Heu de tenir en compte que el programari per llençar els jobs ja no és SGE, sinó Slurm, per tant, les comandes seran diferents. Vaig posant una traducció inicial de les comandes més bàsiques habituals:
Line 102: Line 104:
 Teniu un diccionari de comandes per comparar la sintaxis SGE anterior (qsub, qlogin, etc) amb la nova sintaxi Slurm (sbatch, srun, squeue, etc) aquí: [https://slurm.schedmd.com/rosetta.pdf](https://slurm.schedmd.com/rosetta.pdf) Teniu un diccionari de comandes per comparar la sintaxis SGE anterior (qsub, qlogin, etc) amb la nova sintaxi Slurm (sbatch, srun, squeue, etc) aquí: [https://slurm.schedmd.com/rosetta.pdf](https://slurm.schedmd.com/rosetta.pdf)
  
-### "Obligatorietat" paràmetre RAM --mem=XG+## "Obligatorietat" paràmetre RAM --mem=XG
  
 És molt **important afegir sempre tant a sbatch com a srun el paràmetre --mem=XG de RAM**, on se li especifica la RAM que volem que faci servir el job en total, no per core. Perquè, si no es fa, el gestor del sistema de cues Slurm assigna tota la RAM disponible del node al job en qüestió. Si no es fa i enviem un job sense especificar-li aquest paràmetre de RAM, el node on estigui corrent aquest job (ni que sigui amb un únic core corrent), ja no acceptarà cap treball més i figurarà com completament "allocated" fins que no finalitzi el job. És molt **important afegir sempre tant a sbatch com a srun el paràmetre --mem=XG de RAM**, on se li especifica la RAM que volem que faci servir el job en total, no per core. Perquè, si no es fa, el gestor del sistema de cues Slurm assigna tota la RAM disponible del node al job en qüestió. Si no es fa i enviem un job sense especificar-li aquest paràmetre de RAM, el node on estigui corrent aquest job (ni que sigui amb un únic core corrent), ja no acceptarà cap treball més i figurarà com completament "allocated" fins que no finalitzi el job.
  
  
-### Com instal·lar-se un mateix llibreries de R, com crear-se virtenvs de python i instal·lar-se llibreries de python via pip install.+## Com instal·lar-se un mateix llibreries de R, com crear-se virtenvs de python i instal·lar-se llibreries de python via pip install.
  
 Canvi de la política d'instal·lació de programes i llibreries. Donada la situació actual del servei del cluster del CEAB, s'ha decidit canviar la política d'instal·lació de programes: la idea és que, a partir d'ara, els environments de conda, els virtualenvs de python amb els seus corresponents pip install, i les llibreries de R que no estiguin ja instal·lades, se les instal·larà cada usuari a la seva /home. Canvi de la política d'instal·lació de programes i llibreries. Donada la situació actual del servei del cluster del CEAB, s'ha decidit canviar la política d'instal·lació de programes: la idea és que, a partir d'ara, els environments de conda, els virtualenvs de python amb els seus corresponents pip install, i les llibreries de R que no estiguin ja instal·lades, se les instal·larà cada usuari a la seva /home.
Line 211: Line 213:
 ``` ```
  
-### No fer còrrer jobs a màquina de login.+## No fer còrrer jobs a màquina de login.
  
 Quan entreu al cluster ja no entrareu a l'antiga màquina virtual "cluster-ceab" (ja no tenim màquines virtuals), sinó que entrareu en un node físic de login. **És important que no feu còrrer jobs en allà**: està reservat per a compilació de programes, gestió del sistema i instal·lació de llibreries. Quan entreu al cluster ja no entrareu a l'antiga màquina virtual "cluster-ceab" (ja no tenim màquines virtuals), sinó que entrareu en un node físic de login. **És important que no feu còrrer jobs en allà**: està reservat per a compilació de programes, gestió del sistema i instal·lació de llibreries.
  
  
-### Els canvis s'aniran documentant progressivament a tic.ceab.csic.es/cblabdoc.+## Els canvis s'aniran documentant progressivament a tic.ceab.csic.es/cblabdoc.
  
 Tot això s'anirà documentant progressivament a [https://tic.ceab.csic.es/cblabdoc](https://tic.ceab.csic.es/cblabdoc) (que s'ha de refer completament). Tot això s'anirà documentant progressivament a [https://tic.ceab.csic.es/cblabdoc](https://tic.ceab.csic.es/cblabdoc) (que s'ha de refer completament).
  
-### Els programes antics que estaven allotjats a /home/soft no es poden reaprofitar.+## Els programes antics que estaven allotjats a /home/soft no es poden reaprofitar.
  
 El software preexistent (antic /home/soft i etc) no es pot reaprofitar. S'ha hagut o bé s'haurà de reinstal·lar bé pels usuaris al seu propi espai d'usuari (llibreries de R, virtenvs, conda) o bé via EasyBuild al directori /software/eb/software ("module load etc").  El software preexistent (antic /home/soft i etc) no es pot reaprofitar. S'ha hagut o bé s'haurà de reinstal·lar bé pels usuaris al seu propi espai d'usuari (llibreries de R, virtenvs, conda) o bé via EasyBuild al directori /software/eb/software ("module load etc"). 
  
public/introduccio.1762014488.txt.gz · Last modified: by admins_ceab