-
Notifications
You must be signed in to change notification settings - Fork 45
/
index.qmd
468 lines (375 loc) · 29.7 KB
/
index.qmd
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
---
title: "Configuration de Python"
date: 2020-07-16T13:00:00Z
draft: false
weight: 20
slug: "configuration"
type: book
summary: |
L'environnement que propose `Python` pour la _data-science_
est très riche. Afin de bénéficier du meilleur environnement
pour tirer parti du langage, ce chapitre propose
quelques conseils pour installer un environnement fonctionnel.
Les environnements virtuels ou `conda`, qui permettent
d'avoir une installation de `Python` autosuffisante et facilement
gérer les évolutions de version, sont devenus incontournables
au cours de la dernière décennie. L'évolution récente
du monde de la donnée consiste à délaisser les installations
sur postes personnels pour privilégier l'usage de `Python`
via des architectures _cloud_.
---
Les exercices sont présentés sous la
forme de [notebook jupyter](https://jupyter-notebook.readthedocs.io/en/stable/). Ils peuvent être exécutés
dans plusieurs environnement, au gré des préférences et des connaissances
de chacun :
* Sur un environnement temporaire ;
* Sur une installation personnelle ;
* Dans un conteneur docker.
Concernant le deuxième point, qui est la méthode recommandée, chaque
chapitre présente les badges suivants qui permettent d'ouvrir
la page *web* en question dans l'environnement de prédilection.
Par exemple, pour ouvrir le chapitre relatif à
`numpy` dans l'un des environnements temporaires proposés,
les badges suivants sont proposés:
::: {.cell .markdown}
```{python}
#| echo: false
#| output: 'asis'
#| include: true
#| eval: true
import sys
sys.path.insert(1, '../../../../') #insert the utils module
from utils import print_badges
#print_badges(__file__)
print_badges("content/course/manipulation/01_numpy.qmd")
```
:::
Quelque soit l'environnement d'exécution des scripts, l'un des objectifs
de ce cours est d'adopter un environnement favorable à la reproductibilité
des traitements.
Pour cette raison, en supplément des notions relatives
à `Python`, ce cours montrera comment utiliser `Git` avec `Python` et
évoquera un
certain nombre de critères de qualité du code qui sont devenus
des standards dans la communauté *open-source*, dans l'industrie et dans
l'administration. Ces compétences ne sont pas inhérentes à Python et seront
utiles pour tout projet ultérieur. Un cours dédié à cette question
est proposé par Romain Avouac et moi en dernière année de l'ENSAE. Son
contenu est disponible sur https://ensae-reproductibilite.netlify.app/.
Le projet final devra impérativement
être associé à un dépôt `Git` (nous reviendrons dessus) et répondre à
ces critères de qualité, qui serviront toute la vie.
# Installer un environnement adapté à la *data-science* sur son ordinateur personnel {#local}
Ce cours vise à acculturer à la conduite de projets de *data-science* avec
`Python`. L'environnement foisonnant de la *data-science* nécessite un
certain nombre d'éléments supplémentaires à `Python`.
Cette partie présente plusieurs éléments de configuration d'un environnement
en local. Cependant, cette approche est de moins en moins fréquente. En effet,
plusieurs facteurs conjoints ont amené à privilégier des
serveurs plutôt que des installations locales (évolutions dans les technologies *cloud*,
besoins accrus de ressources, besoins de plus de contrôle sur la confidentialité
des données en limitant leur prolifération...). Au sein des administrations et
des entreprises, les approches *cloud*, où l'utilisateur se voit mis à disposition
une interface graphique alors que les calculs sont déportés sur un serveur
distant, est de plus en plus fréquent.
## Installer `Python` en local
Pour installer `Python`, il est recommandé d'utiliser
la distribution [Anaconda](https://docs.anaconda.com/anaconda/install/)
qui permet d'installer une distribution minimale de `Python` ainsi qu'éventuellement
un environnement plus complet :
* Sous **_Windows_**, il suffit de télécharger l'exécutable puis
l'exécuter (cf. [la doc officielle](https://docs.anaconda.com/anaconda/install/windows/)
ou [ce site](https://mrmint.fr/installer-environnement-python-machine-learning-anaconda)).
* Sous **_Mac_**, se reporter à la [doc officielle](https://docs.anaconda.com/anaconda/install/mac-os/)
* Sous **_Linux_**, suivre les instructions de la [doc officielle](https://docs.anaconda.com/anaconda/install/linux/) selon sa distribution
Passer par `Anaconda` permet:
* d'installer Python
* d'installer par défaut une multitude de packages utiles
([liste ici](https://docs.anaconda.com/anaconda/packages/py3.6_win-64/))
* de pouvoir utiliser un gestionnaire de package nommé `conda`.
`Anaconda` permet de créer des environnements isolés et facilite l'installation
de certaines librairies qui nécessitent l'usage de langages externes (par exemple
du `C++`).
## Installer un environnement de développement
Les *notebooks* `Jupyter` (extension `.ipynb`)
sont très utilisés en *data science*. Ils sont en
particulier très adaptés à la réalisation d'analyses exploratoires.
Les notebooks permettent de mêler du code, du texte et des sorties
graphiques ou des tableaux. L'intérêt principal des notebooks est qu'ils
permettent d'exécuter du code très facilement dans un environnement
`Python` donné (le *kernel* `Jupyter`). Ils sont particulièrement pratiques
pour ajouter du code ou du texte à un document déjà existant, d'où le
terme de _notebook_.
Néanmoins, passé l'étape d'exploration, il est recommandé de plutôt recourir à des
scripts au format `.py`. L'utilisation du format `.py` est l'un des premiers
gestes pour favoriser la reproductibilité des analyses.
Ces scripts peuvent être édités à l'aide d'éditeurs de texte adaptés au code, comme
[Sublime Text](https://www.sublimetext.com), ou bien dans le cadre d'environnements de
développement intégrés (IDE), tels que
`PyCharm` (privilégier [Pycharm Community Edition](https://www.jetbrains.com/pycharm/)
) ou [`Visual Studio`](https://code.visualstudio.com/docs/languages/python)
(mon préféré),
entre autres.
Ces éditeurs
offrent des fonctionalités supplémentaires pratiques :
* nombreux *plugins* pour une pleine utilisation de l'écosystème `Python`: éditeur de `Markdown`,
interface `Git`, etc.
* fonctionalités classiques d'un IDE dont manque `Jupyter`: autocomplétion, diagnostic du code, etc.
* intégration avec les environnements `Conda`
## Installation de `Git`
Le principe de `Git` ainsi que son usage avec `Python` sont présentés dans
une [partie dédiée](/course/git). Cette partie se concentre ainsi sur la question
de la configuration de `Git`.
`Git` est un langage dont la fonction est de tracer l'historique de modification
d'un fichier. Pour disposer de ce langage, il est nécessaire d'installer
le logiciel `Git Bash`. Grâce à lui, `Git` sera disponible et des outils
externes, notamment les interfaces de développement comme
`Visual Studio`, pourront l'utiliser.
# Exécution dans un environnement temporaire sur un serveur distant
Comme évoqué précedemment, les technologies dominantes dans
le domaine du traitement des données ont amené à une évolution des pratiques
depuis quelques années.
La multiplication de données volumineuses qui dépassent les capacités en RAM
voire en stockage des machines personnelles,
les progrès dans les technologies de stockage type *cloud*,
l'adhésion de la communauté aux outils de versioning
(le plus connu étant `Git`) sont autant de facteurs
ayant amené à repenser la manière de traiter des données.
Les infrastructures à l'état de l'art permettent ainsi de découpler stockage
des données, stockage du code et exécution des traitements sur les données.
L'exécution des traitements s'effectue ainsi sur des machines à la durée de vie
courte qui stockent temporairement données et code ensembles pour tester
les traitements.
Avec les dépôts sur `Github` ou `Gitlab`,
on dissocie environnement de stockage des codes et
d'exécution de ceux-ci. Un système de stockage `S3`, présenté dans un
[chapitre ultérieur](#reads3), permet en supplément de dissocier l'environnement
de stockage des données de ces deux premiers environnements.
Sur le
dépôt github de ce cours {{< githubrepo >}}, on peut
naviguer dans les fichiers
(et voir tout l'historique de modification de ceux-ci). Mais,
comment exécuter les scripts sans passer par un poste local ?
Depuis quelques années, des services en ligne permettant de
lancer une instance `Jupyter` à distance (analogue à celle que vous pouvez
lancer en local en utilisant `Anaconda`) ont émergé. Parmi celles-ci :
* __Le SSP Cloud__ [](https://datalab.sspcloud.fr/launcher/ide/jupyter?autoLaunch=true&onyxia.friendlyName=«python-datascientist»&resources.requests.memory=«4Gi»&security.allowlist.enabled=false) plateforme développée par l'Insee qui fournit des environnements bac à sable basés sur des technologie de conteneurisation
* __Google collaboratory__
[](http://colab.research.google.com/github/linogaliana/python-datascientist/blob/master)
;
Github Visual Studio Editor [](https://github.dev/linogaliana/python-datascientist) ;
* **__Binder__** [](https://mybinder.org/v2/gh/linogaliana/python-datascientist/master) ;
Il est également possible d'exécuter des codes sur les services d'intégration continue de
[Gitlab (service Gitlab CI)](https://medium.com/metro-platform/continuous-integration-for-python-3-in-gitlab-e1b4446be76b)
ou de [Github (via `Github Actions`)](https://docs.travis-ci.com/user/languages/python/). Il s'agit d'une approche
*bash*, c'est-à-dire que les scripts sont exécutés par une console à chaque interaction avec le dépôt
distant `Gitlab`/`Github`, sans session ouverte pour les éditer.
Cette approche est très appropriée
pour assurer la reproductibilité d'une chaîne de traitement (on peut aller
jusqu'au
déploiement de visualisations automatiques[^2]) mais n'est pas très pratique pour
le griffonnage.
[^2] A cet égard, il est recommandé de consulter le cours de dernière année
de l'ENSAE déjà cité: https://ensae-reproductibilite.netlify.app/
[Kaggle](https://www.kaggle.com/notebooks) <i class="fab fa-kaggle"></i>
propose des compétitions de code mais
donne également la possibilité d'exécuter des notebooks,
comme les solutions précédentes.
Il existe une [API Kaggle](https://github.com/Kaggle/kaggle-api) pour
accéder à des données `Kaggle` hors du système `Kaggle`
{{% box status="warning" title="Warning" icon="fa fa-exclamation-triangle" %}}
Les performances de ces solutions peuvent être variables.
Les serveurs publics mis à disposition
ne sont pas forcément des foudres de guerre. Avec ceux-ci,
on vérifie plutôt la reproductibilité des scripts avec des jeux d'exemples.
Il est bien-sûr interdit de mettre des données confidentielles dessus: ces
dernières doivent rester dans des infrastructures où elles sont autorisées.
Quand on est dans une entreprise ou administration,
qui dispose de serveurs propres,
on peut aller plus loin en utilisant ces outils
pour automatiser l'ensemble de la chaîne de traitement.
**Attention: il n'y a pas de garantie de perennité de service**
(notamment avec `Binder` où
10 minutes d'inactivité mènent à l'extinction du service). Il s'agit plus d'un service pour griffoner
dans le même environnement que celui du dépôt `Git` que de solutions durables.
Les sessions sur l'environnement `SSPCloud` sont plus durables mais il convient
de garder à l'esprit qu'elles sont également temporaires.
{{% /box %}}
## SSP-Cloud [](https://datalab.sspcloud.fr/launcher/ide/jupyter?autoLaunch=true&onyxia.friendlyName=«python-datascientist»&resources.requests.memory=«4Gi»&security.allowlist.enabled=false)
`Onyxia`, l'autre petit nom du SSP-Cloud,
est une plateforme libre service mutualisée de traitement
de données statistiques et de datascience.
Ce *cloud* met à disposition aux statisticiens et aux *data scientists*
de l’État un catalogue de services et un environnement de travail simple, rapide et collaboratif, permettant de lancer facilement ces outils et d’y connecter ses données et son code.
Au-delà des ressources techniques, cette plateforme
représente une opportunité pour les statisticiens publics et les
étudiants de découvrir
et d’adopter de nouvelles méthodes de travail.
Elle est aussi utilisé à des fins de formations et d’auto-formations.
Dans cet environnement, `Jupyter` et `Visual Studio` sont tous deux
disponibles.
## Google collaboratory [](http://colab.research.google.com/github/linogaliana/python-datascientist/blob/master)
Google met à disposition une plateforme de calculs basée sur le format `Jupyter Notebook`.
Un grand avantage de cette solution est la mise à disposition gratuite de
[GPUs](https://fr.wikipedia.org/wiki/Processeur_graphique) de qualité raisonnable,
outil quasi-indispensable dans les projets basés sur des méthodes de `deep learning`.
Il est possible de connecter les *notebooks* ouverts à Google Drive ou à
[github](https://colab.research.google.com/github/googlecolab/colabtools/blob/master/notebooks/colab-github-demo.ipynb). L'icone
[](https://colab.research.google.com/github/googlecolab/colabtools/blob/master/notebooks/colab-github-demo.ipynb)
fournit un raccourci pour lancer le notebook dans un environnement dédié.
## Github Visual Studio Editor [](https://github.dev/linogaliana/python-datascientist)
`Microsoft` qui possède à la fois `Github` et `Visual Studio` a récemment
lancé une offre `Github dev` qui permet d'ouvrir et lancer un notebook
`Jupyter` depuis un navigateur web.
En plus des fonctionalités attendues du logiciel `Visual Studio`
Cette interface permet également de gérer les *issues* et *pull request*
d'un dépôt `Github`.
## Binder [](https://mybinder.org/v2/gh/linogaliana/python-datascientist/master)
En cliquant sur cette icône
[](https://mybinder.org/v2/gh/linogaliana/python-datascientist/master),
qu'on peut retrouver un peu partout dans ce site ou sur le dépôt
{{< githubrepo >}}, vous pouvez lancer un environnement propre,
et disposant d'une copie
(un *clone* en langage `Git`) du dépôt `Github`. Celui-ci n'intègre
pas forcément les dépendances nécessaires pour un chapitre, il est
alors nécessaire de les installer. Malheureusement, les environnements `binder`
peuvent mettre du temps à se lancer et il est plutôt recommandé de privilégier
une autre approche.
## La technologie en arrière-plan: Docker <i class="fab fa-docker"></i></a>
[Docker](https://www.docker.com/) est l'outil open-source de référence
en matière de création d'environnements isolés et auto-suffisants (
[les conteneurs](https://fr.wikipedia.org/wiki/Conteneur_(informatique)).
En pratique, une application codée en `Python` ne repose que rarement seulement sur
du code produit par son développeur, elle fait généralement intervenir des dépendances :
d'autres librairies `Python`, ainsi que des librairies liées au système d'exploitation
sur laquelle elle est développée. `Docker` va permettre d'empaqueter l'application ainsi
que toutes ses dépendances et rendre son exécution portable, c'est à dire indépendante
du système sur laquelle elle est éxécutée.
`Docker` <i class="fab fa-docker"></i></a> est utilisé dans
le cadre de cours afin d'assurer la reproductibilité des exemples.
Plus de détails sont disponibles dans le cours de dernière année d'ENSAE
dédié à la mise en production de projets data-science
(ensae-reproductibilite.netlify.app/).
Il est possible d'utiliser les images `Docker` sur lesquelles reposent
l'environnement de reproductibilité du cours. Celles-ci sont mises à
disposition sur `DockerHub`, le principal réseau de mise à disposition
d'images `Docker`. Il existe une image minimale
qui intègre `Python` et `Quarto`.
Pour utiliser l'image `Visual Studio`:
```shell
docker pull linogaliana/python-datascientist-vstudio
docker run --rm -p 8787:8787 -e PASSWORD=test linogaliana/python-datascientist-vstudio
```
En se rendant depuis un navigateur sur `localhost:8887/`, et en rentrant
le mot de passe `test` (défini plus haut), on peut ainsi accéder
à l'interface désirée (attention il s'agit d'un environnement temporaire, pas
pérenne).
# Installer des packages supplémentaires
Un module est un script qui a vocation à définir des objets utilisés
postérieurement par un interpréteur. C'est un script `.py` autosuffisant,
définissant des objets et des relations entre eux et le monde extérieur
(d'autres modules). Un package est un ensemble cohérent de modules. Par exemple
`scikit-learn` propose de nombreux modules utiles pour le machine learning.
`Python`, sans ajout de briques supplémentaires,
trouvera rapidement ses limites.
Même dans les scripts les plus simples, on a généralement besoin de packages qui
évitent de réinventer la roue.
Les packages sont les éléments qui font la richesse des
langages *open-source*.
Ils sont l'équivalent des packages `R` ou `Stata`.
Le monde de développeurs `Python` est très prolifique :
des mises à jour sont très souvent disponibles,
les bibliothèques de _packages_ sont très nombreuses. Un _data-scientist_
prendra l'habitude de jongler avec des dizaines de packages dont il connaîtra
quelques fonctions et où, surtout, il saura aller chercher de l'information.
Le rythme des mises à jour et des ajouts de fonctionalités
s'est accéléré ces dernières années. Les grandes compagnies du
numérique ont elles-mêmes opensourcées des librairies
devenues centrales dans l'écosystème de la *data-science*
([`TensorFlow`](https://www.tensorflow.org/?hl=fr) par `Google`, [`PyTorch`](https://pytorch.org/) par `Facebook`...)
Les forums, notamment [`StackOverflow`](stackoverflow.com/)
regorgent de bons conseils.
Les deux meilleurs conseils qu'on puisse donner :
- regarder la documentation officielle d'un package. Les bons packages sont
généralement très bien documentés et beaucoup d'erreurs peuvent être évitées
en apprenant à chercher dans la documentation ;
- en cas d'erreur : copiez-collez l'erreur sur votre moteur de recherche préféré. Quelqu'un aura déjà posé la question, sans doute sur `stackoverflow`. Néanmoins, ne copiez-collez
pas la réponse sans comprendre la solution.
## Les gestionnaires de packages
Les packages d'un langage *open-source* sont mis à disposition sur
des dépôts. Le CTAN est ainsi le dépôt `\(\LaTeX\)` le plus connu, le
CRAN celui du langage `R`.
En `Python`, il existe deux gestionnaires de packages qu'on utilise
associés à deux dépôts différents :
* `pip` associé au dépôt [PyPi](https://pypi.org/)
* `conda` associé au dépôt [Anaconda](https://anaconda.org/anaconda/repo)
Anaconda a permis, il y a quelques années, de faciliter grandement
l'installation de librairies dépendants d'autres langages
que `Python` (notamment des librairies `C` pour améliorer
la performance des calculs). Ces dernières sont
compliquées à installer, notamment sur Windows.
Le fait de proposer des librairies pré-compilées sur une grande
variété de systèmes d'exploitation a été une avancée
d'anaconda. `PyPi` a adopté ce même principe avec les
*wheels* ce qui finalement, rend les installations
avec `pip` à nouveau intéressantes (sauf pour certaines
librairies en Windows).
Anaconda a deux défauts par rapport à `pip` :
* l'installation de packages via `pip` est plus rapide que via
`conda`. `conda` est en effet plus précautionneux sur l'interaction
entre les différentes versions des packages installés.
[`mamba`](https://mamba.readthedocs.io/en/latest/) a récemment
été développé pour accélérer l'installation de packages dans un
environnement conda[^1]
* les versions disponibles sur `PyPi` sont plus récentes
que celles sur le canal par défaut d'Anaconda. En effet,
pour un développeur de packages, il est possible de publier
un package de manière automatique sur `PyPi`
L'utilisation
du canal alternatif qu'est la `conda forge` permet de disposer de versions plus récentes des packages et limite l'écart avec les versions
disponibles sur `PyPi`.
[^1]: Les gains de performance peuvent être assez impressionnants.
La création de l'environnement nécessaire à la construction automatisée
de ce site web a ainsi été divisée par 12 en utilisant `mamba` plutôt
que `conda` pour installer des packages dans un environnement.
{{% box status="note" title="Note" icon="fa fa-comment" %}}
Les [conditions d'utilisation du canal par défaut d'`Anaconda`](https://www.anaconda.com/terms-of-service) sont
assez restrictives. L'utilisation d'Anaconda dans un cadre commercial est ainsi, depuis 2020,
soumis à l'achat de licences commerciales d'Anaconda pour réduire le problème de
passager clandestin.
Il est ainsi recommandé, notamment lorsqu'on travaille dans le
secteur privé où du code `Python` peut être utilisé,
de ne pas ignorer ces conditions pour ne pas se mettre en faute juridiquement.
La `conda forge` n'est pas soumise à ces conditions et est ainsi préférable
dans les entreprises.
{{% /box %}}
## Comment installer des packages
Avec Anaconda, il faut passer par la ligne de commande et taper
~~~shell
conda install <nom_module>
~~~
Par exemple `conda install geopandas`. Depuis une cellule de notebook
`Jupyter`, on ajoute un point d'exclamation pour indiquer à `Jupyter`
que la commande doit être interprétée comme une commande *shell*
et non une commande `Python`
~~~shell
!conda install <nom_module> -y
~~~
L'option `-y` permet d'éviter que `conda` nous demande confirmation
sur l'installation du package. Pour mettre à jour un package, on fera
`conda upgrade` plutôt que `conda install`
Avec `pip`, on va cette fois taper
~~~shell
pip install <nom_module>
~~~
`pip` permet également d'installer des librairies directement depuis
`Github` à condition que `Anaconda` et `Git` sachent
communiquer (ce qui implique en général que `Git` soit dans le `PATH`
du système d'exploitation). Par exemple, pour installer le package
[`pynsee`](https://github.com/InseeFrLab/Py-Insee-Data)
~~~shell
pip install git+https://github.com/InseeFrLab/Py-Insee-Data.git#egg=pynsee
~~~
La partie dédiée aux environnement virtuels du cours de dernière année de
l'ENSAE présente plus d'éléments sur les différences moins évidentes
entre `pip` et `conda`.