Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

osm108 / sature et lag osmosis #51

Closed
Marc-marc-marc opened this issue Jul 30, 2018 · 7 comments
Closed

osm108 / sature et lag osmosis #51

Marc-marc-marc opened this issue Jul 30, 2018 · 7 comments

Comments

@Marc-marc-marc
Copy link

nettoyage effectué :
~170000 répertoire /tmp/tmp contenant chacun ce genre de chose
-rw-r--r-- 1 www-data www-data 25617 jui 30 17:08 fontList.cache
drwxr-xr-x 2 www-data www-data 4096 jui 30 17:08 tex.cache
cela semble être créé par /data/project/osmbin/osm/osc_modif/update.py
ligne 229 sans être effacé après usage.
j'ai ajouté dans le crontab user osmbin : rm -rf /tmp/tmp????*

lag depuis 29/07 ~18h
trouvé dans les rapports de cron :
Date: Fri, 29 Jun 2018 22:01:06 +0200 (CEST)
Traceback (most recent call last):
File "./update.py", line 316, in
update(wanted_end_sequence)
File "./update.py", line 188, in update
lock.acquire(timeout=0)
File "/usr/lib/pymodules/python2.7/lockfile.py", line 263, in acquire
raise AlreadyLocked
lockfile.AlreadyLocked

@Marc-marc-marc
Copy link
Author

Marc-marc-marc commented Jul 30, 2018

le rm dans le cron ne va pas car les fichiers sont écrit avec un autre utilisateur -> fait à la main et viré du cron en attendant de faire mieux

processus update.py bloqué en mémoire depuis hier -> tué
dans /data/work/osmbin/replication fichier vide osm108.MainThread-24260 update.lock.lock d'hier -> effacé
le lag est entrain de se résorber

$ find /data/work/osmbin/extracts -type f | grep replication-2017 | wc -l
260508
-> nettoyé

@jocelynj
Copy link
Member

Les fichiers que tu vois dans /tmp ressemblent plutôt à des fichiers créés par la génération d'image via ce site web: http://polygons.openstreetmap.fr/.

Bizarre que le process ait planté. J'espère que ce n'est pas dû à l'ajout de l'Italie et de l'Indonésie.

@Marc-marc-marc
Copy link
Author

Marc-marc-marc commented Jul 31, 2018

pour mémoire de la discussion irc :
le répertoire temporaire est créé par https://github.com/jocelynj/osm-polygons-generation/blob/master/website/get_image.py
un bot semble abuser du service

@jocelynj
Copy link
Member

jocelynj commented Feb 9, 2019

Je viens de supprimer 9000 dossier dans /tmp/ sur osm108.

@Marc-marc-marc
Copy link
Author

rajouté dans le cron root en attendant mieux
0 * * * * find /tmp/ -type d -name "tmp????*" -ls -exec rm -rf {} + >/dev/null 2>&1

@frodrigo
Copy link
Member

Le service est OFF, on peut fermer ?

@Marc-marc-marc
Copy link
Author

polygons fonctionne pourtant :-) l'impact infrastructure est contourné avec le cron ci-dessus, j'ai ouvert un ticket applicatif si @jocelynj souhaite le corriger

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants