background preloader

Centralisation log

Facebook Twitter

100 millions de téléchargements pour la suite Elastic.

Elasticsearch

Centralisateur de logs: Quartet Gagnant "Graylog - Nxlog - Elasticsearch - MongoDB" – Le Blog du Hacker. Si vous êtes nouveau sur Le Blog Du Hacker, je vous souhaite la bienvenue et vous propose de commencer par ici, vous pouvez également rejoindre la page Facebook du site.

Centralisateur de logs: Quartet Gagnant "Graylog - Nxlog - Elasticsearch - MongoDB" – Le Blog du Hacker

Merci pour votre visite ! Bonjour, Aujourd’hui nous allons attaquer un joli morceau à travers une très belle distribution de Linux nommée « CentOS 7 ». Pour les lectrices et les lecteurs qui ne connaissent pas, disons simplement que c’est le petit frère de la distribution Red Hat Enterprise Linux (RHEL). La seule chose qui les différencie c’est le volet « payant », étant donné que RHEL est dédié aux entreprises incluant un support payant. L’objectif de cet article sera d’installer un centralisateur de journaux d’événements Windows (logs) sur une machine virtuelle. Je vous invite dès à présent à rentrer dans un nouvel univers à l’image de « MATRIX » ! Dans cet article, j’ai décidé d’utiliser « VMWARE WORKSTATION 12 PRO » pour virtualiser le Trio « GRAYLOG2/Elasticsearch/MongoDB ».

Objectifs de cet article Sommaire I. I. . . Un ELK pour les gouverner tous (les logs…) Les avantages d’une centralisation des logs d’un système informatique complexe sont reconnus depuis longtemps par les hébergeurs.

Un ELK pour les gouverner tous (les logs…)

La mise en oeuvre d’une collecte centralisée basée sur syslog (via rsyslog ou syslog-ng) est donc maintenant un classique dans le cadre de l’exploitation de ces systèmes complexes. Néanmoins l’exploitation des masses d’informations contenues dans ces fichiers reste très limitée et fastidieuse tant qu’on a à faire à des fichiers texte sous forme brute. C’est là que des outils tels que Kibana (couplé à ElasticSearch) ou Splunk permettent d’aller vraiment plus loin en offrant des interfaces de recherche efficaces ainsi que la possibilité de produire des tableaux de bord permettant de suivre l’activité d’un système.

Avant de voir en détail comment nous avons traité ces trois problématiques, voici un schéma d’ensemble de l’architecture déployée. Transparence Le déploiement d’un service Beaver ne pose aucune difficulté et sa configuration est très simple. Conclusion. Gestion des logs avec Logstash, ElasticSearch & Kibana. Tout bon administrateur a un jour dû chercher une info à coup de grep, tail, awk dans les fichiers de logs des équipements qu'il gère.

Gestion des logs avec Logstash, ElasticSearch & Kibana

Or la recherche est toujours un peu fastidieuse, avec les questions qui reviennent : "Où est-ce qu'ils sont ces logs ? ", "Et c'est quoi le format déjà ? ", "Tu connais le mot de passe pour se connecter sur le routeur ? ". Si on peut mettre en place une récupération des logs de façon centralisée avec des outils connus comme syslog, le trio Logstash, ElasticSearch et Kibana est un très bon candidat pour gérer et trouver efficacement des informations dans les milliers de lignes de traces que peuvent générer les divers services. Logstash (2312 clics) ElasticSearch (1002 clics) Kibana (2085 clics) Sommaire Présentation des logiciels Logstash Logstash est un outil de collecte, analyse et stockage de logs. Pour la collecte, il sait gérer plus d'une trentaine d'événements.

Il va ensuite analyser ces événements, et les mettre en forme à l'aide de filtres. Elasticsearch. Shay Banon était présent ici a Devoxx 2012, ou il a donné une conférence comme il sait les faire : sans slides, juste de la pure démo en CURL.

elasticsearch

J’en ai profité pour lui poser quelques questions pour la communauté Elasticsearch France. David Pilato: Elasticsearch devient très populaire. J’ai entendu parler de chiffres assez fous en termes de téléchargements. As-tu une idée sur le nombre de cluster et sur la quantité de données indexées à ce jour par Elasticsearch dans le monde ? Shay Banon: En fait, je ne sais pas exactement combien il y a d’installations que ce soit sur internet ou en intranet. David Pilato: Et les téléchargements du projet sur Github ? Shay Banon: C’est juste une folie. David Pilato: Une question revient souvent de la part des utilisateurs.

Shay Banon: Pour le moment, ce n’est pas quelque chose que je recommande. Logstash, ElasticSearch, Kibana - S01E02 - Analyse orientée business de vos logs applicatifs. Les logs d’une application sont utilisés le plus souvent afin d’analyser un incident en production.Ces lignes parfois trop complexes, même pour un développeur, sont générées par Go voir Tera toutes les heures, suivant votre infrastructure.Elles sont trop souvent sous-exploitées au regard du nombre d’informations précieuses disponibles.

Logstash, ElasticSearch, Kibana - S01E02 - Analyse orientée business de vos logs applicatifs

Nous allons voir comment mettre à profit nos logs applicatifs afin de faire de l’analyse orientée "business" grâce à Logstash, ElasticSearch et Kibana.Dans ce billet de blog, nous serons à la tête d’un site fictif de vente en ligne, et essaierons de répondre aux questions suivantes : Quel est le ratio recherches / ventes ? Quels sont les critères de recherches les plus utilisés ?