background preloader

Logstash, ElasticSearch & Kibana

Facebook Twitter

Tutoriel sur l'installation et la configuration d'ElasticSearch (partie 1) ElasticSearch est un moteur de recherche open source qui fait beaucoup parler de lui.

Tutoriel sur l'installation et la configuration d'ElasticSearch (partie 1)

Et pour cause, il possède un atout majeur : il suffit de quelques minutes à peine pour disposer d'un moteur de recherche clusterisé, automatiquement sauvegardé et répliqué, interrogeable via une API REST et proposant toutes les fonctionnalités d'un moteur de recherche dernière génération. Malgré une prise en main rapide et une documentation officielle très complète, l'utilisation d'ElasticSearch peut devenir rapidement complexe pour qui n'a jamais utilisé de moteur de recherche.

Un ELK pour les gouverner tous (les logs…) Les avantages d’une centralisation des logs d’un système informatique complexe sont reconnus depuis longtemps par les hébergeurs.

Un ELK pour les gouverner tous (les logs…)

La mise en oeuvre d’une collecte centralisée basée sur syslog (via rsyslog ou syslog-ng) est donc maintenant un classique dans le cadre de l’exploitation de ces systèmes complexes. Néanmoins l’exploitation des masses d’informations contenues dans ces fichiers reste très limitée et fastidieuse tant qu’on a à faire à des fichiers texte sous forme brute. C’est là que des outils tels que Kibana (couplé à ElasticSearch) ou Splunk permettent d’aller vraiment plus loin en offrant des interfaces de recherche efficaces ainsi que la possibilité de produire des tableaux de bord permettant de suivre l’activité d’un système.

Avant de voir en détail comment nous avons traité ces trois problématiques, voici un schéma d’ensemble de l’architecture déployée. Transparence. Kibana tuto. JSON, LOGSTASH, ELASTICSEARCH. Me voila avec ma stack ELK fraîchement installée.

JSON, LOGSTASH, ELASTICSEARCH

Voici un cas d'utilisation assez simple :Je recherche à insérer au fil de l'eau des documents JSON dans l'index ELASTICSEARCH. Pour ceci on peut le faire de plusieurs manières : Gestion des logs : Logstash, ElasticSearch & Kibana. Tout bon administrateur a un jour dû chercher une info à coup de grep, tail, awk dans les fichiers de logs des équipements qu'il gère.

Gestion des logs : Logstash, ElasticSearch & Kibana

Or la recherche est toujours un peu fastidieuse, avec les questions qui reviennent : "Où est-ce qu'ils sont ces logs ? ", "Et c'est quoi le format déjà ? " Elasticsearch - Getting started workshop.