Smartday IA : IA générative, LLM et vectorisation – prenez le contrôle !

SMARTDAY IA – LES INSIGHTS

📍 Date & Lieu : 13 février 2025, George V – Paris

Entre nécessaires innovations, adaptation organisationnelle, conduite du changement, quête de retours sur investissement tangibles et anticipation des réglementations, cet événement a mis en lumière des leviers clés pour tirer parti de l’IA tout en garantissant une adoption responsable, éthique et souveraine

Remerciements

  • Guillaume Bizet, Head of Cloud Migration Factory & AI enthusiast, Société Générale
  • Aldrick Zappellini, Directeur Data & IA et Chief Data Officer, Groupe Crédit Agricole
  • Aurélien Barthe, Chief Data Officer, Direction Data et IA, MGEN
  • Anne Gradvohl, Head of Innovation, Groupe Vyv
  • Aurélie Vanheuverzwyn, Directrice exécutive – Data et Méthodes, Médiamétrie
  • Matthieu Gourvès, Directeur Practice IA, Smartpoint

TRANSFORMATION DES DONNÉES EN SAVOIRS ACTIONNABLES

L’IA est présentée comme un outil crucial pour transformer de grandes quantités de données en informations exploitables, ce qui est un enjeu majeur pour les entreprises. Il a été question également de stack technologique dont les LLM et les RAG, expliquant leur rôle dans le traitement et l’analyse des données.

IMPACT DE L’IA GÉNÉRATIVE

L’arrivée de l’IA générative a été décrite comme une “déflagration” qui a accéléré les processus d’adoption technologique. L’IA bouleverse les équilibres organisationnels, nécessitant une réévaluation des processus et une attention particulière à la souveraineté des données.

RÉORGANISATION ET ADAPTATION

Les entreprises ont dû s’adapter rapidement à l’IA générative, impliquant divers départements (RSSI, DPO, DSI, RH) pour aborder des sujets comme l’éthique, la sécurité et l’alignement stratégique. Cela a nécessité une collaboration interdisciplinaire pour gérer les impacts notamment sur les processus métiers.

STRATÉGIE D’ADOPTION MAÎTRISÉE

Une approche prudente et réfléchie est nécessaire pour intégrer l’IA, en s’assurant que l’adoption est maîtrisée et alignée avec les objectifs stratégiques de l’entreprise.

FORMATION ET CONDUITE DU CHANGEMENT

L’importance de la formation et de l’accompagnement des équipes est soulignée, notamment pour les managers et les différents métiers.

La conduite du changement est cruciale pour intégrer l’IA de manière efficace et pour gérer les impacts culturels et organisationnels. D’ailleurs, un intervenant a expliqué qu’une académie Data/IA a été créée pour développer les compétences avec déjà une première promotion. Il est à noter que des modules de formation adaptés aux différents niveaux et métiers sont en cours de développement.

DESIGN STRATÉGIQUE

Tout comme la formation à l’IA générative doit infuser dans les métiers, il est crucial de mettre l’utilisateur au cœur de chaque projet et de penser en termes de besoins plutôt que de solutions. Le design stratégique doit être intégré dans les directions offres et marketing et toutes les directions qui développent des offres, des services ; et pas seulement restée cantonnée dans les directions data ou digitales. C’est absolument nécessaire pour développer au sein des projets des expériences utilisateurs positives.

DIVERSITÉ ET SOUVERAINETÉ

L’événement a également abordé la nécessité de créer de la diversité dans l’écosystème technologique, souvent non européen, et de se concentrer sur la souveraineté des données, en particulier dans le contexte de la réindustrialisation. L’IA générative est en effet dominée par quelques acteurs majeurs, posant des enjeux de dépendance aux modèles propriétaires. Pour favoriser l’innovation européenne, des alternatives open-source et locales émergent, comme Deepseek (licence MIT), bien que les modèles réellement open-source restent limités aux Small Language Models (SLM).

ENVIRONNEMENT ET FRUGALITÉ

Les impacts environnementaux de l’IA, et en particulier de l’IA générative, sont également au cœur des préoccupations. Même s’il est impossible d’avoir des informations précises sur les coûts environnementaux d’entraînement et d’utilisation des LLM, des initiatives se développent : la mise en place de calculettes carbone, les démarches Green IT et FinOps pour superviser et optimiser les ressources, le Green Code pour minimiser l’impact environnemental dans les pratiques de développement, le choix d’instances cloud localisées dans des pays ayant un mix énergétique moins carboné. En effet, même au sein de l’UE, toutes les zones ne sont pas équivalentes en intensité carbone. La France dispose d’un mix énergétique de 5 à 10 fois moins carboné que l’Irlande ou l’Allemagne (source : Electricity Maps), mais AWS privilégie Francfort pour le déploiement initial de ses modèles, obligeant certaines entreprises à patienter pour une alternative moins carbonée.

RETOUR SUR INVESTISSEMENT DE L’IA (ROI)

Avant de déployer l’IA à grande échelle, il est essentiel de comprendre les besoins et de quantifier le retour sur investissement potentiel, bien que la littérature sur le sujet soit encore limitée.

L’importance du cadrage de projets liés à l’IA a été soulignée dans plusieurs interventions.

  1. Durée et approfondissement du cadrage : Il est mentionné que dans de grandes organisations – comme une banque – un cadrage efficace ne peut pas être réalisé en une semaine. Un cadrage approfondi peut prendre deux à trois mois, mais il est crucial pour bien comprendre et exprimer les attentes métiers. Cela permet de s’assurer que l’IA générative est réellement nécessaire et que le problème à résoudre est bien identifié.
  2. Introspection et questionnement : Il est important d’intégrer un questionnement vaste et profond dès le début du projet. Cela implique de ne pas se précipiter dans l’utilisation de l’IA sans avoir bien compris les besoins réels et les contraintes organisationnelles.
  3. Méthodologie et suivi : Le cadrage doit inclure une méthodologie claire pour évaluer la valeur des projets, en tenant compte des aspects qualitatifs et quantitatifs. Il est essentiel de vérifier après la mise en production si les estimations faites lors du cadrage se réalisent en termes de productivité ou de bénéfices.
  4. Accompagnement des Chefs de Projet : Les chefs de projet doivent être équipés et accompagnés tout au long des phases du projet, de l’identification du cas d’usage au suivi post-industrialisation. Cela inclut l’utilisation de méthodes et d’outils adaptés à l’impact du projet.
  5. Conduite du changement : La conduite du changement est particulièrement importante pour les projets d’IA générative, en raison de leurs impacts sur les outils, l’organisation, la culture et les compétences. Un bon cadrage doit prévoir ces aspects pour assurer le succès du projet.

IA ACT

Enfin, l’AI Act été mentionné dans le contexte de la préparation et de l’adaptation des entreprises aux exigences réglementaires liées à l’intelligence artificielle. Les intervenants ont échangé sur la manière dont leurs organisations anticipent les exigences de l’AI Act, en mettant en place des démarches et des structures internes avant même l’arrivée des textes réglementaires, comme la création de Design Authorities pour la data et l’IA. Il a été question de la transcription des exigences de l’AI Act, avec une réflexion sur la manière de les intégrer dans un cadre normatif interne. Les intervenants ont souligné l’importance de ne pas simplement se conformer aux exigences minimales, mais d’ajouter leur propre vision pour un cadre plus robuste. Un point a été soulevé concernant la gestion des risques, notamment les risques élevés, où l’AI Act ne fournit que peu de directives. Les organisations ont donc pris l’initiative d’aller au-delà des exigences minimales pour assurer une meilleure gestion des risques.

POUR CONCLURE

L’IA générative s’impose comme un levier de transformation majeur dans toutes les entreprises, mais son adoption doit être encadrée par une gouvernance stricte, une approche éthique et une optimisation des ressources. La clé du succès réside dans une intégration progressive, sécurisée et alignée avec les besoins métiers.

Smartpoint reçoit la médaille d’or Ecovadis pour son engagement RSE et renforce son engagement en réalisant son bilan carbone

Smartpoint, Entreprise de Services Numériques (ESN) spécialisée en conseil et en ingénierie Data, est fière d’annoncer l’obtention de la médaille d’or Ecovadis 2024, une reconnaissance qui place l’entreprise parmi les 5 % les mieux notées au niveau mondial. Cette distinction vient couronner des années d’engagement concret et structuré en matière de responsabilité sociétale des entreprises (RSE).

Un engagement RSE concret et évalué

La médaille d’or Ecovadis repose sur une analyse approfondie des actions de Smartpoint dans quatre domaines stratégiques :

  • Environnement : Réduction de notre empreinte carbone, notamment à travers la réalisation du bilan carbone de toutes les activités et des initiatives ciblées de transition écologique.
  • Droits humains et pratiques sociales : Promotion de la diversité et de l’inclusion, avec des conditions de travail qui valorisent nos collaborateurs.
  • Éthique : Mise en place de processus garantissant une gouvernance transparente et conforme aux standards internationaux.
  • Achats responsables : Partenariats avec des fournisseurs engagés dans une démarche durable.

Cette évaluation met en lumière notre détermination à combiner innovation et responsabilité, contribuant à la création de solutions numériques durables.

La réalisation du bilan carbone

En 2024, Smartpoint a franchi une étape majeure en réalisant son bilan carbone. Cela a permis d’identifier précisément les sources de ses émissions (prestations IT, infrastructures, équipements, hébergement cloud) et d’agir de manière proactive pour réduire l’impact environnemental de l’entreprise.

Une ambition renforcée pour l’avenir

Pour Yazid Nechi, Directeur Général de Smartpoint :

« Recevoir la médaille d’or Ecovadis et réaliser notre bilan carbone témoignent de notre volonté d’aller au-delà des standards actuels. Nous souhaitons bâtir un avenir où performance économique et responsabilité sociétale sont intimement liées. »

Avec cette reconnaissance, Smartpoint affirme sa position d’acteur exemplaire, en s’engageant pleinement dans la transition écologique et sociale. L’entreprise ambitionne d’intégrer des solutions toujours plus innovantes et durables pour répondre aux enjeux technologiques de demain.

À propos d’Ecovadis
Ecovadis est une organisation internationale qui évalue les entreprises selon 21 critères RSE, couvrant des thématiques telles que l’environnement, les droits humains, l’éthique et les achats responsables.

À propos de Smartpoint
Basée à Paris, Smartpoint est une ESN spécialisée en ingénierie des données et en conseil Data. Depuis sa création, l’entreprise accompagne ses clients dans la valorisation et l’exploitation de leurs données, tout en plaçant les enjeux sociétaux et environnementaux au cœur de son activité.

Architectures Data modernes, le guide ultime – Édition 2024

Téléchargez gratuitement
le Guide Architecture Data 2024 !

Ce Guide Architecture Data 2024 a été conçu pour offrir aux architectes de données et aux décideurs une vue d’ensemble des meilleures pratiques en matière d’architecture de données.
Il propose des recommandations concrètes et des insights basés sur notre expertise en tant que Pure Player de la Data.

Au sommaire de ces 80 pages sur les architectures data modernes

1. Architectures de données modulaires
2. Datalake vs. Datawarehouse
3. Architecture traitement des données en temps réel
4. Évolutivité et scalabilité
5. Governance-by-Design

6. Architectures Cloud natives
7. IA et architecture de Données.
8. Cadres de sécurité des Données
9. Architectures Microservices et Event-Driven
10. Interopérabilité et APIsation

AIOps, l’avenir des opérations IT grâce à l’intelligence artificielle

L’AIOps (Artificial Intelligence for IT Operations) est en train de révolutionner la gestion des opérations informatiques en utilisant l’intelligence artificielle (IA) et le machine learning (ML) pour automatiser la détection, l’analyse et la résolution des incidents IT. Dans un contexte où les environnements IT deviennent de plus en plus complexes, l’AIOps permettent d’ores et déjà d’optimiser les performances des systèmes et de réduire drastiquement la charge des équipes IT.

L’AIOps, ou Artificial Intelligence for IT Operations, connaît une croissance rapide à l’échelle mondiale, tirée par le besoin croissant d’automatiser et d’optimiser la gestion des infrastructures IT complexes. En 2023, le marché mondial de l’AIOps est estimé entre 25 et 27 milliards USD et devrait atteindre entre 79 et 112 milliards USD d’ici 2030, avec un taux de croissance annuel moyen (CAGR) situé entre 18 % et 37 %. Par ailleurs, les applications d’analyse en temps réel et de gestion des performances applicatives (APM) sont les plus adoptées par les entreprises, avec l’analyse en temps réel représentant environ 35 % du marché actuel.

Quels sont les avantages de l’AIOps pour les DSI ?

1. Détection proactive et réduction des interruptions

L’un des avantages majeurs des solutions AIOps est leur capacité à détecter les anomalies en amont des incidents. En analysant des volumes massifs de données et en identifiant les comportements inhabituels, les solutions AIOps permettent aux équipes IT de repérer les problèmes avant qu’ils ne deviennent critiques. Cette détection préventive réduit les interruptions de service, améliore la disponibilité des applications, et limite l’impact sur les utilisateurs.

2. Réduction des délais de résolution (MTTR)

Grâce aux capacités de diagnostic automatisé et d’analyse des causes racines, les solutions AIOps permettent de réduire le Mean Time to Resolve (MTTR) des incidents. En fournissant des recommandations basées sur l’analyse des données historiques et des algorithmes de machine learning, les équipes IT peuvent identifier la source des problèmes plus rapidement et prendre les mesures correctives appropriées. Cela augmente l’efficacité opérationnelle et garantit une réactivité accrue face aux incidents.

3. Automatisation des tâches répétitives

Les solutions AIOps intègrent des fonctionnalités d’automatisation qui permettent de déléguer les tâches répétitives et à faible valeur ajoutée aux machines. Par exemple, des tâches comme le redémarrage de serveurs, la gestion des configurations ou la réponse aux alertes basiques peuvent être automatisées. Cela libère les équipes IT pour des activités plus stratégiques et réduit les risques d’erreurs humaines dans les processus de routine.

4. Amélioration de l’expérience utilisateur

En assurant une surveillance continue et en intervenant proactivement pour prévenir les incidents, l’AIOps contribue à maintenir une expérience utilisateur fluide et fiable. Les utilisateurs finaux sont moins impactés par les pannes et les ralentissements de services, ce qui améliore leur satisfaction et renforce la confiance dans les services IT de l’entreprise.

5. Réduction du bruit d’alerte et hiérarchisation des incidents

Dans les environnements IT complexes, le bruit d’alerte (ou « alert noise ») est un problème majeur, avec des équipes souvent submergées par des notifications redondantes ou non critiques. Les solutions AIOps, telles que Moogsoft ou Digitate ignio™, réduisent le bruit d’alerte en corrélant les événements similaires et en hiérarchisant les alertes selon leur gravité. Cela aide les équipes IT à se concentrer sur les incidents réellement critiques et à éviter les distractions causées par les alertes moins pertinentes.

6. Analyse prédictive et intelligence contextuelle

Les solutions AIOps utilisent des algorithmes de machine learning pour identifier des tendances et des schémas cachés dans les données IT. Ces informations permettent d’anticiper les incidents potentiels en fonction des comportements passés, offrant ainsi une gestion prédictive des opérations IT. Par exemple, les plateformes comme IBM Watson AIOps et Dynatrace sont capables d’identifier les schémas de dégradation de performance pour prévenir des interruptions futures.

7. Intégration multi-cloud et flexibilité des environnements

Les solutions AIOps sont conçues pour s’adapter aux environnements multi-cloud et hybrides, ce qui permet aux entreprises de surveiller l’ensemble de leur infrastructure IT sans interruption, quel que soit le type de plateforme ou de fournisseur utilisé. Cette flexibilité est cruciale dans un monde où les entreprises adoptent des architectures IT de plus en plus diversifiées, avec des applications réparties entre plusieurs clouds publics, privés et locaux.

8. Optimisation des coûts IT

En automatisant la gestion des opérations et en réduisant le temps passé sur la résolution d’incidents, les solutions AIOps contribuent à réduire les coûts opérationnels. De plus, en prévenant les interruptions et en limitant les pannes, elles diminuent les pertes financières liées aux interruptions de service. Les entreprises peuvent ainsi optimiser l’allocation de leurs ressources et réduire les dépenses tout en maintenant un haut niveau de performance.

9. Amélioration de la résilience et de la sécurité

Les solutions AIOps, en surveillant en continu l’infrastructure IT, détectent rapidement les comportements suspects ou les menaces potentielles, ce qui renforce la cybersécurité et la résilience des systèmes. En intégrant la détection des anomalies et l’automatisation des réponses aux menaces, l’AIOps peut prévenir les failles de sécurité avant qu’elles ne deviennent des incidents majeurs.

10. Adaptation en temps réel aux besoins de l’entreprise

Enfin, les solutions AIOps sont évolutives et adaptatives. Elles ajustent en temps réel leurs modèles de machine learning en fonction des changements dans l’infrastructure IT, garantissant ainsi que les analyses et les recommandations restent pertinentes. Cela permet aux entreprises de rester agiles et de réagir rapidement face aux évolutions technologiques et aux nouvelles exigences opérationnelles.

Quelles solutions d’AIOps ?

Plusieurs solutions existent dans le domaine de l’AIOps, chacune avec ses propres avantages et spécialités. Voici notre sélection chez Smartpoint.

1. Splunk : Centralisation des données et analyse en temps réel

Splunk est reconnu pour sa capacité à traiter et à analyser d’immenses volumes de données en temps réel. Sa plateforme de gestion des logs et des métriques est devenue un atout majeur pour les équipes IT qui souhaitent :

  • Détecter et anticiper les incidents grâce à une surveillance proactive qui analyse en temps réel les données de l’ensemble de l’infrastructure IT.
  • Identifier les anomalies à l’aide de modèles d’apprentissage automatique qui établissent une norme de comportement et détectent les écarts.
  • Gagner en réactivité en centralisant toutes les données IT en un seul endroit, permettant aux équipes d’identifier rapidement les causes profondes des problèmes.

Grâce à ses capacités de visualisation et à une interface intuitive, Splunk aide les DSI à obtenir une vision globale et contextuelle de leur infrastructure, facilitant des interventions précises et rapides.

2. Dynatrace : Observabilité complète et IA intégrée

Dynatrace est particulièrement apprécié pour sa capacité d’observabilité full-stack et de surveillance des environnements IT complexes, notamment ceux basés sur le cloud et les microservices. Les fonctionnalités clés de Dynatrace incluent :

  • Une analyse automatisée des dépendances entre applications, ce qui permet de diagnostiquer rapidement les problèmes en cas de panne dans un environnement multi-niveaux.
  • Une IA intégrée nommée Davis, qui analyse les données en continu, détecte les anomalies et fournit une analyse des causes racines en temps réel, offrant ainsi une résolution rapide des incidents.
  • Une vue unifiée qui couvre l’ensemble de l’infrastructure : applications, microservices, conteneurs et réseaux.

Avec Dynatrace, les DSI bénéficient d’une solution complète pour surveiller en permanence leur infrastructure IT et réagir de manière proactive aux incidents, réduisant ainsi les interruptions de service et optimisant l’expérience utilisateur.

3. IBM Watson AIOps : Intelligence avancée et multi-cloud

IBM Watson AIOps est une solution de gestion des opérations IT basée sur l’intelligence artificielle, conçue pour détecter et résoudre les incidents en temps réel dans des environnements multi-cloud et hybrides. Les principales fonctionnalités d’IBM Watson AIOps sont :

  • L’analyse des logs et des alertes pour détecter des schémas et identifier les causes racines, facilitant ainsi une résolution proactive des problèmes.
  • L’intégration fluide avec des environnements multi-cloud et hybrides, ce qui en fait un outil idéal pour les entreprises avec des infrastructures IT diversifiées.
  • Des recommandations basées sur l’analyse de données historiques, ce qui permet d’améliorer la résilience et la rapidité de réponse face aux incidents.

IBM Watson AIOps offre une approche orientée sur la prévention des incidents, ce qui permet aux DSI d’anticiper et de résoudre les problèmes avant qu’ils n’affectent les opérations.

4. Digitate ignio™ : Automatisation intelligente et gestion proactive

Digitate ignio™ se concentre sur l’automatisation intelligente et la gestion proactive des opérations IT.

  • L’automatisation des tâches IT répétitives telles que le redémarrage de serveurs ou le déploiement de correctifs, réduisant la charge de travail des équipes et limitant les erreurs humaines.
  • La détection proactive des incidents grâce au machine learning, en identifiant les problèmes avant qu’ils ne se transforment en incidents, permettant ainsi une résolution anticipée.
  • L’analyse des causes racines et l’intelligence contextuelle qui permet de comprendre les interconnexions des systèmes et d’identifier la source initiale des incidents.
  • La réduction du bruit d’alerte en regroupant et en corrélant les alertes, permettant une gestion des incidents plus efficace et ciblée.

Digitate ignio™ offre une gestion complète des opérations IT en automatisant les tâches, en réduisant le nombre de fausses alertes et en optimisant les ressources humaines pour des interventions plus stratégiques.

L’AIOps, avec des solutions comme Splunk, Dynatrace, IBM Watson AIOps et Digitate ignio™, permettent une gestion des opérations IT plus automatisée, proactive et intelligente. En intégrant l’IA et le machine learning, ces plateformes permettent aux entreprises de réduire les temps de résolution, d’améliorer la disponibilité des systèmes et de se concentrer sur l’optimisation des performances IT. Grâce à l’AIOps, les entreprises peuvent bénéficier d’une infrastructure plus résiliente, réduire leurs coûts et offrir une expérience utilisateur de meilleure qualité. En adoptant ces technologies, les entreprises prennent une longueur d’avance dans un monde où les environnements IT sont de plus en plus complexes et exigeants.

Sources :