hulk10 commited on
Commit
257effb
·
verified ·
1 Parent(s): 75ffc6c

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +166 -0
README.md CHANGED
@@ -94,4 +94,170 @@ configs:
94
  data_files:
95
  - split: train
96
  path: data/train-*
 
 
 
 
 
 
 
 
 
 
 
 
97
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
94
  data_files:
95
  - split: train
96
  path: data/train-*
97
+ language:
98
+ - fr
99
+ tags:
100
+ - france
101
+ - open-data
102
+ - data-gouv
103
+ - catalogue
104
+ - metadonnees
105
+ - government
106
+ - etalab
107
+ pretty_name: Catalogue des jeux de données de data.gouv.fr – version structurée
108
+ license: etalab-2.0
109
  ---
110
+
111
+ # 🇫🇷 Catalogue des jeux de données de data.gouv.fr – Version structurée
112
+
113
+ Ce dataset constitue une **version structurée et exhaustive du catalogue des jeux de données publiés sur [data.gouv.fr](https://www.data.gouv.fr)**, la plateforme nationale française de l’open data.
114
+
115
+ Il recense l’ensemble des jeux de données référencés sur la plateforme et fournit leurs **métadonnées complètes** :
116
+ - titre et description,
117
+ - organisation productrice,
118
+ - licence,
119
+ - couverture spatiale et temporelle,
120
+ - fréquence de mise à jour,
121
+ - formats disponibles,
122
+ - métriques d’usage (vues, téléchargements, réutilisations),
123
+ - informations de moissonnage (harvest).
124
+
125
+ Les données proviennent du jeu de données officiel publié par data.gouv.fr sur data.gouv.fr.
126
+
127
+ Ce dataset est conceptuellement lié à une version **chunkée et vectorisée** du catalogue, conçue pour la recherche sémantique et les usages RAG.
128
+ La présente version privilégie la **fidélité aux métadonnées sources**, sans embeddings, afin de faciliter les analyses globales, statistiques et institutionnelles.
129
+
130
+ ---
131
+
132
+ ## 🗂️ Contenu du dataset
133
+
134
+ Le dataset est fourni au format **Parquet** et contient un unique split `train`.
135
+
136
+ Chaque ligne correspond à **un jeu de données référencé sur data.gouv.fr**, décrit à travers l’ensemble de ses métadonnées publiques.
137
+
138
+ ---
139
+
140
+ ## 📊 Schéma des données
141
+
142
+ | Champ | Type | Description |
143
+ |------|------|-------------|
144
+ | `id` | `string` | Identifiant unique du jeu de données |
145
+ | `slug` | `string` | Identifiant textuel (slug) |
146
+ | `title` | `string` | Titre du jeu de données |
147
+ | `acronym` | `string` | Acronyme (le cas échéant) |
148
+ | `url` | `string` | URL du jeu de données sur data.gouv.fr |
149
+ | `organization` | `string` | Organisation productrice |
150
+ | `organization_id` | `string` | Identifiant de l’organisation |
151
+ | `owner` | `string` | Propriétaire du jeu de données |
152
+ | `owner_id` | `string` | Identifiant du propriétaire |
153
+ | `description` | `string` | Description complète |
154
+ | `description_short` | `string` | Description courte |
155
+ | `frequency` | `string` | Fréquence de mise à jour |
156
+ | `license` | `string` | Licence (ex. Etalab-2.0) |
157
+ | `temporal_coverage.start` | `string` | Début de la couverture temporelle |
158
+ | `temporal_coverage.end` | `string` | Fin de la couverture temporelle |
159
+ | `spatial.granularity` | `string` | Granularité spatiale |
160
+ | `spatial.zones` | `string` | Zones géographiques couvertes |
161
+ | `featured` | `bool` | Jeu de données mis en avant |
162
+ | `created_at` | `string` | Date de création |
163
+ | `last_modified` | `string` | Dernière modification |
164
+ | `tags` | `string` | Mots-clés |
165
+ | `archived` | `string` | Indique si le dataset est archivé |
166
+ | `resources_count` | `int` | Nombre total de ressources |
167
+ | `main_resources_count` | `int` | Nombre de ressources principales |
168
+ | `resources_formats` | `string` | Formats disponibles |
169
+ | `harvest.backend` | `string` | Backend de moissonnage |
170
+ | `harvest.domain` | `string` | Domaine source |
171
+ | `harvest.created_at` | `string` | Date de création du harvest |
172
+ | `harvest.modified_at` | `string` | Date de mise à jour du harvest |
173
+ | `harvest.remote_url` | `string` | URL distante moissonnée |
174
+ | `quality_score` | `float` | Score de qualité data.gouv.fr |
175
+ | `metric.discussions` | `int` | Nombre de discussions |
176
+ | `metric.discussions_open` | `int` | Discussions ouvertes |
177
+ | `metric.reuses` | `int` | Nombre de réutilisations |
178
+ | `metric.reuses_by_months` | `string` | Historique mensuel des réutilisations |
179
+ | `metric.dataservices` | `int` | Nombre de data services |
180
+ | `metric.followers` | `int` | Nombre d’abonnés |
181
+ | `metric.followers_by_months` | `string` | Historique mensuel des abonnés |
182
+ | `metric.views` | `int` | Nombre de vues |
183
+ | `metric.resources_downloads` | `float` | Nombre de téléchargements |
184
+ | `source_file` | `string` | Fichier source d’origine |
185
+
186
+ ---
187
+
188
+ ## 🛠️ Méthodologie de constitution
189
+
190
+ ### 1. 📥 Source des données
191
+
192
+ Les données sont issues du jeu de données officiel :
193
+
194
+ - **Catalogue des données de data.gouv.fr**
195
+ https://www.data.gouv.fr/datasets/catalogue-des-donnees-de-data-gouv-fr/
196
+
197
+ Le dataset inclut l’ensemble des jeux de données disposant d’une description suffisamment renseignée, afin de garantir une qualité descriptive minimale.
198
+
199
+ ---
200
+
201
+ ### 2. 🧾 Conservation des métadonnées complètes
202
+
203
+ Contrairement à la version vectorisée :
204
+ - aucune troncature sémantique n’est appliquée,
205
+ - les descriptions complètes sont conservées,
206
+ - l’intégralité des métriques et champs techniques est disponible.
207
+
208
+ Cette approche est particulièrement adaptée à :
209
+ - l’analyse de l’écosystème open data français,
210
+ - l���étude des producteurs et thématiques de données,
211
+ - la mesure de l’usage et de l’impact des jeux de données,
212
+ - la gouvernance et la qualité des métadonnées publiques.
213
+
214
+ ---
215
+
216
+ ### 3. 🧠 Absence volontaire d’embeddings
217
+
218
+ Aucun champ d’embedding n’est généré dans cette version.
219
+
220
+ Cela permet :
221
+ - une exploitation neutre et durable des métadonnées,
222
+ - des traitements statistiques et analytiques à grande échelle,
223
+ - une vectorisation ultérieure adaptée à des cas d’usage spécifiques.
224
+
225
+ ---
226
+
227
+ ## 🔗 Lien avec la version vectorisée
228
+
229
+ Ce dataset est conceptuellement lié au dataset suivant :
230
+
231
+ > **Data.gouv.fr Datasets Catalog – version chunkée et vectorisée**
232
+ > https://huggingface.co/datasets/AgentPublic/data-gouv-datasets-catalog
233
+
234
+ | Version vectorisée | Présente version |
235
+ |--------------------|------------------|
236
+ | Texte synthétique | Métadonnées complètes |
237
+ | Embeddings BGE-M3 | Aucun embedding |
238
+ | Recherche sémantique / RAG | Analyse open data |
239
+ | Indexation IA | Gouvernance & statistiques |
240
+
241
+ Les deux versions peuvent être combinées dans des pipelines avancés (exploration + recherche sémantique).
242
+
243
+ ---
244
+
245
+ ## 📚 Source & Licence
246
+
247
+ ### 🔗 Source
248
+ - [Data.gouv.fr – Catalogue des données](https://www.data.gouv.fr/datasets/catalogue-des-donnees-de-data-gouv-fr/)
249
+
250
+ ### 📄 Licence
251
+ **Licence Ouverte Etalab 2.0**
252
+ Les données sont librement réutilisables sous réserve de mention de la source et de la licence.
253
+
254
+ ---
255
+
256
+ ## 📌 Cas d’usage
257
+
258
+ Ce dataset est particulièrement adapté pour :
259
+ - la cartographie de l’offre open data française,
260
+ - l’analyse des politiques publiques de données,
261
+ - l’étude des producteurs et thématiques de données,
262
+ - la mesure de la réutilisation et de l’impact,
263
+ - les projets de recherche et d’IA appliqués à l’open data.