RAPPORT DE STAGE

Modélisation et intégration de données de capteurs/compteurs du SGE · textbook

Voir tous les documents en électronique et automatique

RAPPORT DE

STAGE

Master 2

Mod lisation et int gration de

donn es de capteurs/compteurs du SGE

par

Ines BEN KRAIEM

Tuteurs de stage :

Herv CROS, Faiza GHOZI, Andr PENINOU

Juillet 2017

DEDICACES

...A ma ch re famille

...A mes chers amis

...A tous ceux

qui comptent pour moi

...A tous ceux pour

qui je compte

Je d die ce travail

Ines BEN KRAIEM

REMERCIEMENTS

Je tiens remercier vivement les personnes qui ont contribu laboutissement de ce

travail

Mme Faiza GHOZZI, pour ses aides et ses conseils tout le long de ce projet. Jesp re tre

la hauteur de sa confiance et quelle trouve dans ce travail lexpression de ma profonde

gratitude.

Mr Andr PENINOU, pour la qualit de son encadrement, ses critiques et ses conseils

enrichissants qui mont permis datteindre mes ambitions initiales. Je vous remercie pour votre

sympathie et votre aide.

Mr Olivier TESTE, qui ma accueilli dans l quipe SIG et au sein du laboratoire IRIT. Je

tiens vous remercier pour la confiance que vous mavez accord e.

Mr Herv CROS, qui ma accueilli dans le service SGE et ma fourni tous les moyens pour

que je puisse travailler dans les meilleures conditions, ainsi que toute l quipe de la soci t qui

mont soutenu tout au long de mon stage.

Jadresse aussi mes remerciements aux membres du Jury Mme Lamia FOURATI et Mme

Salma JAMMOUSI pour avoir accept de juger, d valuer et denrichir ce travail. Votre pr sence

me fait honneur. Je vous t moigne mon grand respect et ma reconnaissance infinie.

Je tiens aussi remercier tous mes enseignants qui ont contribu ma formation

universitaire. Je vous t moigne mon grand respect et ma reconnaissance infinie.

Enfin je remercie tous mes amis avec qui jai partag des moments dentraides, de

faiblesse, de souffrance, de joie et de courage.

Table des mati res

1 Cadre du projet ........................................................................................................................ 11

1 Introduction ......................................................................................................................... 11

2 Cadre g n ral ....................................................................................................................... 11

2.1 Pr sentation de lorganisme daccueil .......................................................................... 11

2.2 Pr sentation g n ral du projet ..................................................................................... 14

2.3 Objectifs pr liminaires .................................................................................................. 14

2.4 Planning du projet ......................................................................................................... 15

3 Analyse de lexistant ............................................................................................................ 15

3.1 tude de lexistant ........................................................................................................ 15

3.2 Critique de lexistant ..................................................................................................... 19

3.3 Analyse et sp cification des besoins ............................................................................. 20

4 Syst mes dint gration pour lanalyse d cisionnel ............................................................. 21

4.1 Solution dint gration court terme ............................................................................ 21

4.2 Solution dint gration Big Data ..................................................................................... 22

5 Conclusion ............................................................................................................................ 24

1 Linformatique d cisionnelle.................................................................................................... 25

1 Introduction ......................................................................................................................... 25

2 Concepts g n raux du BI ..................................................................................................... 25

2.1 La Business Intelligence ................................................................................................ 25

2.2 Les principes des syst mes d cisionnels ...................................................................... 26

3 La diff rence entre OLTP et OLAP ........................................................................................ 28

4 D marche de construction dun entrep t de donn es ....................................................... 29

4.1 Mod lisation et Conception de lentrep t ................................................................... 30

4.2 Alimentation de lentrep t ........................................................................................... 30

4.3 Administration .............................................................................................................. 32

4.4 Restitution ..................................................................................................................... 32

5 Le Big Data ............................................................................................................................ 33

5.1 D finition ....................................................................................................................... 33

5.2 Les bases des donn es NoSQL ...................................................................................... 33

6 Conclusion ............................................................................................................................ 36

1 Conception ............................................................................................................................... 37

1 Introduction ......................................................................................................................... 37

2 Sources de donn es ............................................................................................................. 37

2.1 Source METASYS ........................................................................................................... 37

2.2 Source PcVue................................................................................................................. 38

2.3 Source globale ............................................................................................................... 38

3 Conception du sch ma multidimensionnel ......................................................................... 39

3.1 M thode ascendante .................................................................................................... 40

3.2 D marche descendante ................................................................................................ 42

3.3 D marche mixte ............................................................................................................ 45

4 Sch ma logique Big Data ...................................................................................................... 46

4.1 Choix du mod le NoSQL ................................................................................................ 47

4.2 Choix de loutil danalyse .............................................................................................. 47

4.3 Structure du sch ma multidimensionnel dans Hbase .................................................. 48

5 Conclusion ............................................................................................................................ 49

1 Conception et D veloppement de lETL................................................................................... 51

1 Introduction ......................................................................................................................... 51

2 Environnement et langage de d veloppement ................................................................... 51

2.1 Environnement logiciel ................................................................................................. 51

2.2 Langages de d veloppement ........................................................................................ 53

3 D veloppement de lETL pour la solution court terme ..................................................... 53

3.1 Probl mes rencontr s et tude de la solution ............................................................. 53

3.2 Diagrammes dactivit s ................................................................................................. 55

3.3 Description des processus ETL ...................................................................................... 57

Publicité

4 D veloppement de lETL pour les donn es long terme .................................................... 65

4.1 Int gration de lhistorique sous SQL Server .................................................................. 65

4.2 D veloppement de lETL pour le Big Data .................................................................... 69

4.3 Cr ation du sch ma multidimensionnel en toile ........................................................ 70

5 Conclusion ............................................................................................................................ 73

1 Restitution ................................................................................................................................ 75

1 Introduction ......................................................................................................................... 75

2 Mod lisation de lapplication BI .......................................................................................... 75

2.1 Type dapplication BI ..................................................................................................... 75

2.2 Type danalyse BI........................................................................................................... 76

2.3 Type des utilisateurs BI ................................................................................................. 76

3 D veloppement de lapplication BI ...................................................................................... 76

3.1 Analyse des donn es avec PcVue ................................................................................. 76

3.2 Analyse de lhistorique .................................................................................................. 77

4 Conclusion ............................................................................................................................ 80

CHAPITRE 1 : Cadre du projet

1 Cadre du projet

Mod lisation et int gration de donn es de capteurs/compteurs du SGE

1 Introduction

Dans ce chapitre, nous pr sentons lorganisme daccueil au sein duquel sest d roul

notre projet, situons le pr sent travail dans son contexte g n ral, sp cifions les besoins et

mettons en relief lanalyse et critique de lexistant et enfin nous proposons la solution aux

probl mes soulev s.

2 Cadre g n ral

Dans le cadre de la pr paration du projet de fin d tude en vue de lobtention du dipl me

National dIng nieur en Informatique, Technologie Web et Multim dia, nous avons choisi

deffectuer un stage dune dur e de 4 mois au sein du SGE et en collaboration avec le laboratoire

IRIT. Le stage a d but le lundi 13 Mars 2017 et sest achev le lundi 13 Juillet 2017. Lobjectif

premier tait de mettre en place un syst me d cisionnel pour les donn es nerg tiques des

b timents et r seaux du campus de Rangueil (ou se trouve entre autre lUniversit Paul Sabatier)

provenant de plusieurs capteurs et r cup r es de diff rents b timents dans le but de visualiser

[17] et mettre disposition ces donn es aux utilisateurs [15] [18].

2.1 Pr sentation de lorganisme daccueil

L quipe SIG (Syst mes dInformations G n ralis s) affil e au laboratoire IRIT, nous a

propos le sujet dint gration et de mod lisation des donn es de capteurs/compteurs du SGE. Le

projet est labor au sien du SGE le Service de Gestion et dExploitation de la Chancellerie des

Universit s du Rectorat de lAcad mie de Toulouse.

2.1.1 Le Service de Gestion et dExploitation

Cest un service du rectorat sp cialis dans la gestion, lexploitation et linvestissement

des r seaux mutualis s des campus de Rangueil. Il g re les donn es li es aux diff rentes

installations en termes de fluides ( nergie, eau, air comprim ) sur diff rents campus.

Pr sentation des activit s

Le SGE g re plusieurs p les dactivit s :

" Le p le maintenance exploitation avec 11 Agents de lEducation Nationale : ce

service concerne les activit s lectrom caniques telles que les r seaux et infrastructures

lectriques Haute Tension, les r seaux et infrastructures de chauffage urbain, l clairage Public,

la gestion technique centralis e (GTC), lair comprim , les r seaux deau et dassainissement, les

r seaux de gaz Arrosage, Eau Us es, Eaux pluviales et R seau Gaz.

" Le p le espaces ext rieurs avec 11 Agents de lEducation Nationales : ce service

g re les espaces verts et Voirie.

" Le p le administratif avec 6 agents de lEducation Nationales

" Le p le travaux SIGT avec 4 agents de lEducation Nationales

Organigramme

Le SGE compte 36 personnes occupant diff rents postes. La figure 1 repr sente

lorganigramme de lentreprise

Figure 1: Organigramme du SGE

2.1.2 Le laboratoire IRIT

LInstitut de Recherche en Informatique de Toulouse (IRIT) 1 est lun des piliers de la

recherche en Midi-Pyr n es avec ses 700 membres, permanents et non-permanents. De par son

caract re multi-tutelle (CNRS, INPT, Universit s toulousaines), son impact scientifique et ses

interactions avec les autres domaines, le laboratoire constitue une des forces structurantes du

paysage de linformatique et de ses applications dans le monde du num rique, tant au niveau

r gional que national. Notre projet tait en collaboration avec l quipe SIG (Syst mes

dInformations G n ralis s) qui se compose de 19 permanents, et dune trentaine d tudiants

post-doctorants, doctorants ou stagiaires, et ding nieurs de recherche. Ses recherches

sinscrivent dans le domaine des Syst mes dInformations (Information Systems) et ont pour objet

scientifique la donn e et lutilisateur. Elles concernent notamment les probl matiques dacc s

1 https://www.irit.fr/

la donn e brute et labor e pour les utilisateurs.

2.2 Pr sentation g n ral du projet

Le Service de Gestion et dExploitation g re deux syst mes de gestion des donn es de

capteurs, demandant des t ches lourdes et complexes de manipulations et dextractions de ces

donn es de diff rentes sources (10000 points de comptage). Le syst me de gestion dexploitation

vis dans ce stage,nomm METASYS, stocke les donn es sous forme de fichiers plats et

ind pendants organis s en une hi rarchie de r pertoires. Un fichier concerne un capteur

(temp rature, vannes, pression, &) ou un compteur (eau chaude, lectricit , &) et conserve les

diff rents relev s automatiques r guliers (toutes les 30, 15 minutes, 2 heures, &). Par

cons quent, chaque relev concerne une valeur avec un horodatage. Dans un m me temps, ce

syst me est entrain d tre migr vers un autre syst me de monitoring, appel PCVUE, qui dans

lavenir contiendra la majorit des donn es des capteurs. Le besoin tait de mettre en place une

solution dint gration des donn es de ces syst mes de supervision METASYS et PCVUE dans une

base de donn es afin de faciliter lextraction et la manipulation de ces donn es entre les deux

syst mes par linterm diaire doutils disponibles sur PCVUE. La totalit des donn es dhistorique

ne pouvant pas tre trait e par PCVUE, il nous a t demand de mettre en place une base pour

lensemble de lhistorique pour faire des analyses et des comparaisons entre les diff rents

fichiers. Une solution simple et facile pour pouvoir explorer et visualiser [17] les donn es de cette

base devra tre propos e.

2.3 Objectifs pr liminaires

Le SGE souhaite apporter des solutions pour la mod lisation, le stockage et

lexploration des donn es g n r es par les capteurs/compteurs afin de pouvoir r pondre la

vari t des besoins et exigences dacc s et danalyses des utilisateurs. Pour cela, le SGE esp re:

" Avoir une solution (mod le, architecture, outils) qui permette dextraire et de

stocker les donn es, pour pouvoir ensuite les explorer et les visualiser suivant diff rents

crit res [15] [18].

" Avoir une solution dint gration de donn es des fichiers dans une source unique

Publicité

et non volatile.

" Recenser les besoins des utilisateurs en termes danalyse des donn es (pour

lexploitation directe sur un b timent par exemple, pour des analyses long terme et comparer

des consommations sur plusieurs ann es par exemple, pour lextraction de donn es, &).

" Avoir des pr conisations en termes de SGBD retenir, de logiciel de visualisation

adapt [18], de mat riel n cessaire (serveur, &), et de proc dures dexploitation mettre en

place.

" Avoir disposition des d cideurs les diff rents outils dexploration des donn es

en toute s curit afin de favoriser une meilleure prise de d cision.

" Avoir une solution pour piloter la performance durable.

Notre ambition est de r pondre aux besoins du SGE en utilisant les technologies li es aux

bases de donn es, aux entreposages de donn es et linformatique d cisionnelle [1] [8] [12].

2.4 Planning du projet

La planification est une tape importante dans le d roulement du projet parce quelle

traduit lorganisation du projet et lestimation du temps n cessaire la r alisation des diff rentes

t ches. Pour cela nous d composons le projet en plusieurs t ches et nous pr voyons chaque

t che le temps n cessaire pour sa finalisation. La figure 2 pr sente les diff rentes tapes suivre

pour la r alisation de notre projet (provisoire).

Figure 2: Planning pr visionnel

3 Analyse de lexistant

3.1 tude de lexistant

Plus de 5000 de capteurs sont r partis dans tous les b timents. Les capteurs permettent

de suivre et g rer lensemble des quipements exploit s par le SGE, comme ,par exemple, des

sondes de temp ratures, des commandes de vannes de r gulation et des compteurs. Au sein du

SGE, il y a deux syst mes de gestion de donn es qui cohabitent:

" METASYS, syst me propri taire de supervision, g re essentiellement les

quipements de CVC (Chauffage traitement dair). Cette supervision communique

exclusivement avec des automates r gulateurs de marque Johnson Controls.

" PCVUE, syst me de supervision de type ouvert, int gre les quipements de CVC,

de haute tension, dair comprim , d clairage public... Cette supervision communique avec des

automates de toute marque.

Le SGE dispose dune base de donn es Access qui repr sente le patrimoine des

quipements en gestion dans le sens o il y a lensemble des informations sur les b timents, les

clients, les quipements, les visites et les maintenances des quipements et des capteurs.

3.1.1 Syst me METASYS

Description

METASYS est un syst me de supervision pour lensemble des fonctions techniques du

b timent. Il g re essentiellement les quipements de CVC mais il ne permet pas le suivi de la

performance nerg tique et l dition des rapports pour surveiller les consommations dun

b timent.

Architecture

METASYS stocke les donn es sous forme de fichiers plats dextension .DBF. Ces fichiers

repr sentent 252187 fichiers comme historique, soit 151 Go de donn es brutes, et 2635 fichiers

comme donn es op rationnelles de chauffage sur 6 mois dune taille de 4 Go. Le SGE est entrain

de migrer du syst me METASYS vers le syst me PcVue. En effet, tous les nouveaux automates

sont maintenant branch s directement sur PcVue et non pas sur METASYS. La base de donn es

de METASYS est organis e en une hi rarchie de r pertoires comme le montre la figure 3.

Figure 3: Hi rarchie des r pertoires de donn es METASYS

Par exemple, le nom du r pertoire SP_4A indique le nom du local technique SP suivi

dune r f rence du b timent 4A. En effet, le SGE dispose de plusieurs locaux techniques qui

d crivent les Sous-Stations de chauffage. Parmi lesquels nous trouvons :

" SSP : Sous Station Primaire.

" SS : Sous Station secondaire.

" LT : Local Technique.

" CTA : Central de traitement dair.

" PHT : Poste Haute Tension.

" TGBT : Tableau G n ral Basse Tension.

Sous chaque r pertoire de local technique, nous trouvons des r pertoires qui

repr sentent la liste des capteurs. Finalement, nous arrivons aux fichiers .dbf qui repr sentent les

donn es de capteurs(4).

Figure 4: Extrait dun fichier.DBF

Ces fichiers contiennent des informations importantes concernant la date et la valeur de

la mesure. En revanche pour avoir une date compl te qui d signe une mesure, il faut concat ner

les champs Att, Date_NDX et TIME_NDX.

3.1.2 Syst me PCVUE

Description

PcVue est un syst me de supervision temps-r el permettant lop rateur de visualiser

et de piloter la production, la gestion dalarmes, laffichage de tendances, larchivage de donn es

et lacquisition de donn es. Il est utilis dans le contr le industriel, la gestion de b timents, la

gestion d nergie, la distribution lectrique, le chauffage, lautomatisation des sous-stations, la

s curit , la d tection incendie, le transport, les nergies renouvelables et les infrastructures. Ce

logiciel, qui est donc un outil de supervision, fonctionne en interaction avec les automates qui

mod lisent les diff rentes informations envoy es par les capteurs et permet de g n rer des

courbes en fonction des informations de la base.

Architecture

PcVue est en connexion permanente avec une base propri taire sous forme de fichiers

dextension .dat, qui permet le stockage de toutes les informations des capteurs. tant donn que

les capteurs envoient une information chaque seconde, la base de donn es contient des millions

de lignes. Cette base occupe pour une p riode de 6 mois 10 Go de donn es brutes et pour son

historique qui date depuis 2010, nous avons 80 Go sur un premier lecteur et 15 Go sur un

deuxi me lecteur. Le principe de PcVue est la cr ation des variables qui repr sentent des points.

Ces points repr sentent des chemins pour les fichiers qui contiennent les valeurs des capteurs.

Chaque fichier contient les informations de plusieurs capteurs comme le montre la figure 5.

Figure 5: Extrait des donn es dun fichier.dat

Ces fichiers sont une longue liste de chiffres et de lettres comportant des informations

pr cises. Le bandeau principal indique le nom du capteur qui est sous forme de chemin indiquant

le nom du client CROUS, le nom du batiment TRIPODE C, l quipement ECH1 et le type de

mesure REGS. Egalement, nous distinguons deux dates dont lune est la date de d but de la

mesure et lautre la date de fin de la mesure. Finalement, nous trouvons une liste de dates en

UTC (Coordinated Universal Time) suivie de valeurs g n r es par le capteur.

3.1.3 Base de donn es patrimoine ACCESS

Le SGE dispose dune base de donn es Access qui repr sente le patrimoine de la soci t .

Elle contient les informations sur les clients du SGE, les b timents, les locaux techniques, les

quipements et les capteurs.

3.2 Critique de lexistant

Publicité

Un des principaux probl mes du SGE est lacc s un historique des donn es pour

effectuer des comparaisons et des analyses. A ce jour, le syst me METASYS noffre pas une

gestion de lhistorique sup rieure 6 mois et ne permet pas de croiser facilement des donn es

de plusieurs capteurs/compteurs. Egalement, il ne permet ni de faire une comparaison entre deux

fichiers qui ont un horodatage diff rent ni de faire une comparaison avec des fichiers provenant

dautres syst mes diff rents. En ce qui concerne les courbes offertes par METASYS, le syst me ne

permet pas laffinage des courbes travers un calendrier pour choisir les dates voulues et

remonter dans le temps pour faciliter la lecture par les analystes. Et finalement ce syst me ne

suit pas une charte bien sp cifique pour nommer les r pertoires ce qui a engendr par

cons quent une norme h t rog n it au niveau des noms dun m me r pertoire. De lautre

c t , PcVue est limit par la complexit de fichiers.dat et la lourdeur du syst me. En effet, ce

syst me permet dafficher des courbes lisibles pour surveiller les consommations dun b timent

mais il nest pas assez performant en terme temps de r ponse. Egalement, actuellement, PcVue

enregistre les donn es sur deux machines dont une principale et lautre de secours pour assurer

la p rennit des donn es en cas de coupure. Mais cette solution nest pas fiable en terme

danalyse tant donn que PcVue permette dafficher les courbes dune seule machine la fois.

Par cons quent, lorsquil sagit dune coupure au niveau dune machine, les donn es sont

enregistr es automatiquement dans lautre machine mais elles ne sont pas remont es dans les

courbes ce qui engendre un affichage avec des valeurs manquantes. Finalement, ce syst me fait

une purge chaque jour et narrive pas garder des traces de donn es cause du grand volume

de ses bases propri taire. Et enfin, le sch ma de la base de donn es Access nest pas cr

convenablement en termes de relations entre les tables, doptimisations et de nombre de tables

cr es. Et en plus, il ne contient aucun lien avec les donn es de METASYS ou PcVue.

3.3 Analyse et sp cification des besoins

3.3.1 Besoins fonctionnels et non fonctionnels

Dans notre processus de d finition des besoins, nous avons d but par un entretien avec

le responsable lectrom canique. Cest celui qui est charg du projet. Il sera la premi re personne

interrog e suivie des cadres sup rieurs. Suite lanalyse des r ponses des interrog s, nous avons

rassembl les besoins fonctionnels, qui se classifient en deux niveaux majeurs ; la sp cification

des caract ristiques de lentrep t et la sp cification des fonctionnalit s de lapplication

dinterrogation de lentrep t [3] [9].

Les sp cifications de lentrep t

Lentrep t doit tre con u de mani re quil permette de:

" Construire une source de donn es unique et non volatile.

" Mieux contr ler les donn es : nous pouvons organiser les donn es selon nos

besoins et donc rendre la base de donn es plus optimale.

" Rendre la base plus volutive et plus adapt e nos futurs besoins.

" Garder la tra abilit de chaque donn e : source dextraction de cette information.

" Avoir une mod lisation multidimensionnelle des donn es et hi rarchisation de

granularit danalyse dun niveau global un niveau plus d taill .

" Garantir une volution et un rafra chissement p riodique et r gulier des donn es.

" G rer un grand volume de donn es vari es.

Les sp cifications de lapplication

Lapplication doit tre con ue de mani re permettre :

" La haute disponibilit des donn es nimporte quel instant.

" La formulation des requ tes assez complexes permettant linterrogation des

donn es de lentrep t nimporte quel niveau hi rarchique.

" La g n ration facile des rapports ad-hoc ou autre types de rapport.

" La consultation ais e des tableaux de bord fournis.

" Lapplication facile des diff rentes op rations sur les donn es.

3.3.2 Besoins non fonctionnels

" D finir une r solution et une quantit graphique ad quate.

" Fournir des interfaces interactives et compr hensibles manipul es facilement par

les d cideurs afin dexplorer leurs donn es.

" Fournir des tableaux de bord clairs et facilement analysables.

" Fournir des rapports lisibles tout en respectant la charte graphique.

" Assurer la s curit et la performance de lentrep t.

4 Syst mes dint gration pour lanalyse d cisionnel

Face aux probl mes soulev s des syst mes de supervision du SGE et suite aux besoins

d duits par la direction, nous avons opt pour la r alisation du projet en deux phases.

4.1 Solution dint gration court terme

4.1.1 Pr sentation

La premi re phase du projet consiste modifier la sauvegarde du PcVue de sa base

propri taire vers SQL Server, int grer lensemble des donn es de METASYS sur une p riode de

6 mois dans la m me base de PcVue. Finalement, nous construisons une source commune qui

englobe lensemble des donn es des deux syst mes comme le montre la figure 6.

Figure 6: Sch ma descriptif de la premi re partie du projet

4.1.2 Avantages

Cette solution pr sente plusieurs avantages pr sent s ci-dessous:

" Avoir une seule base de donn es au lieu de deux bases propri taires assez

complexes.

" Assurer la p rennit et la r cup ration de lensemble des donn es.

" Pouvoir appliquer les courbes et les analyses de PcVue sur les donn es de

METASYS.

" Comparer les donn es de METASYS et PCVUE.

" R soudre le probl me des valeurs manquantes dans les courbes de PcVue caus e

par lenregistrement des donn es sur deux machines distantes travers la r cup ration des

donn es depuis SQL Server.

" Faire des comparaisons et des analyses entre des sous syst mes diff rents de

METASYS.

4.2 Solution dint gration Big Data

4.2.1 Pr sentation

La deuxi me phase du projet consiste g rer lhistorique des syst mes du SGE. Pour

cette raison, nous avons d cid de cr er un entrep t de donn es orient Big Data [4] [10] [11]qui

peut supporter le grand volume de donn es. Cet entrep t va contenir lhistorique de METASYS,

lhistorique de PcVue, la base de donn es Access et finalement, les donn es de 6 mois

enregistr es lors de la premi re phase sous SQL Server [7]. Cette int gration va nous permettre

de brancher un outil danalyse sur lentrep t afin dobtenir des courbes et des tableaux de bord

qui aident la direction piloter et analyser son syst me nerg tique. La figure 7 montre la

nouvelle architecture de lentrep t Big Data [2].

Figure 7: Sch ma descriptif de la deuxi me partie du projet

4.2.2 Avantages

Cette deuxi me partie de la solution pr sente les avantages suivant:

" Se d barrasser des archives des bases propri taires.

" Avoir un acc s un historique des donn es pour effectuer des comparaisons et

Publicité

des analyses.

" Avoir une source fiable, pertinente et solide.

" Stocker dimportants volumes de donn es de toute nature en temps r el.

5 Conclusion

Dans ce premier chapitre, nous avons d fini le champ de notre tude suivi dune tude

de lexistant afin de pr ciser les objectifs atteindre. En effet, l tude de lexistant nous a permis

de pr parer une bonne conception pour les am liorations que nous allons ajouter dans la solution

propos e afin de r pondre nos besoins. Dans le chapitre qui suit, nous pr sentons les

d marches de d veloppement et de conception de notre solution.

CHAPITRE 2 : Linformatique d cisionnelle

1 Linformatique d cisionnelle

Mod lisation et int gration de donn es de capteurs/compteurs du SGE

1 Introduction

Ce chapitre sera r serv pour d finir linformatique d cisionnelle. Nous pr sentons dans

un premier temps ses avantages et ses limites. Nous abordons, ensuite, ses termes et les concepts

cl s en d taillant la notion dETL et dentrep t de donn es. Puis, nous d veloppons les notions

de Big Data et de bases de donn es NoSQL.

2 Concepts g n raux du BI

2.1 La Business Intelligence

Linformatique d cisionnelle, galement Business Intelligence ou BI en anglais, d signe

les moyens, les m thodes et les outils qui apportent des solutions en vue doffrir une aide la

d cision aux professionnels afin de leurs permettre davoir une vue densemble sur lactivit de

lentreprise et de leurs permettre de prendre des d cisions plus avis es travers des tableaux de

bord de suivi et des analyses.

2.1.1 Avantage du BI

D ployer une solution BI apporte de nombreux avantages :

" Am liorer la visibilit sur les chiffres, les carts et les anomalies.

" La combinaison de plusieurs sources de donn es (ERP, syst mes comptable,

feuilles de calcul, des budgets &).

" La pr sentation uniforme dinformations fiables.

" Lautomatisation permettant lacc l ration de la collecte et de la diffusion de

linformation.

" La performance dans le calcul dagr gats sur de gros volume de donn es.

" La prise de d cision gr ce des indicateurs pertinents et une structure

coh rente des informations.

" Laide nettoyer les donn es pr sentes dans diff rents logiciels.

" Lanticipation des v nements et la projection dans lavenir.

2.1.2 Limites du BI

Parmi les limites de la Business Intelligence :

" La mise en place dune solution de BI prend beaucoup du temps : de nombreuses

entreprises dans le sc nario industriel rapide ne sont pas assez patientes pour attendre la mise

en place du syst me d cisionnel dans leur organisation.

" Complexit : un autre inconv nient de BI pourrait tre sa complexit dans la mise

en Suvre des donn es.

" Erreur : les r sultats produits par les syst mes d cisionnels sont le r sultat de

conceptions informatiques et math matiques complexes, qui peuvent r v ler des erreurs, par

ailleurs les r sultats sont souvent statistiques, donc non d terministes. La possibilit dune

erreur ou dune approximation inadapt e devra toujours tre prise en compte dans les

d cisions.

2.2 Les principes des syst mes d cisionnels

Le syst me d cisionnel est architectur de la fa on suivante :

" Plusieurs sources de donn es en lecture.

" Un entrep t de donn es fusionnant les donn es requises.

" Un ETL permettant dalimenter lentrep t de donn es partir des donn es

existantes.

" Des magasins de donn es permettant de simplifier lentrep t de donn es.

" Des applications dexploitation de donn es pour pr senter l tude aux utilisateurs

finaux et d cideurs.

Figure 1: Architecture g n rale dun syst me d cisionnel

2.2.1 Sources de donn es

Afin dalimenter lentrep t, les informations doivent tre identifi es et extraites de leurs

emplacements originels. Il sagit des sources de donn es h t rog nes qui peuvent comporter des

donn es internes lentreprise, stock es dans les bases de donn es de production des diff rents

services. Elles peuvent tre aussi des sources externes, r cup r es via des services distants et des

web services ou des sources qui peuvent tre sous format de fichiers plats.

2.2.2 Entrep t de donn es

Dapr s BILL Inmon: "Un entrep t de donn es est une collection de donn es

th matiques, int gr es, non volatiles et histori es, organis es pour la prise de d cision.". Dapr s

cette d finition nous distinguons les caract ristiques suivantes :

" Donn es Orient es sujet : les donn es des entrep ts sont organis es par sujet et

donc tri es par th me.

" Donn es int gr es : les donn es provenant des diff rentes sources doivent tre

int gr es avant leur stockage dans lentrep t de donn es. Un nettoyage pr alable des donn es

est n cessaire afin davoir une coh rence et une normalisation de linformation.

" Donn es non-volatiles : la diff rence des donn es op rationnelles, celles de

lentrep t sont permanentes et ne peuvent pas tre modifi es. Le rafra chissement de

lentrep t, consiste ajouter de nouvelles donn es sans perdre celles qui existent.

" Histori es : les donn es doivent tre dat es.

2.2.3 Magasin de donn es

Les magasins de donn es ou Datamarts sont un sous-ensemble complet et naturel de

lentrep t de donn es. Ils sont structur s pour r pondre rapidement aux sollicitations des

utilisateurs. linverse dun entrep t de donn es qui peut tre tr s volumineux et qui ne permet

pas une utilisation appropri e, ils ont en effet moins de donn es g rer ce qui permet

dam liorer consid rablement les temps de r ponse.

2.2.4 Extract-Transform-Load

ETL, acronyme dExtraction Transformation Loading, est un processus dint gration des

donn es [13] [14]. Il permet de transf rer des donn es brutes dun syst me source, de les

pr parer pour une utilisation en aval et de les envoyer vers lentrep t de donn es. Ce syst me

doit faire passer les donn es par un tas de processus pour les d -normaliser, les nettoyer, les

contextualiser, puis de les charger de la fa on ad quate. Cependant, la r alisation de lETL est une

tape tr s importante et tr s complexe parce quil constitue 70% dun projet d cisionnel en

moyenne.

3 La diff rence entre OLTP et OLAP

Les syst mes informatiq...