Les premiers systèmes de détection de spams basés sur des algorithmes d’apprentissage automatique ont émergé dans les années 1990. Depuis, l’IA a été progressivement intégrée dans les solutions de sécurisation des messageries pour détecter les menaces telles que le phishing, l’hameçonnage et les logiciels malveillants. Au fil du temps, les techniques se sont affinées, mais la sécurité du mail requiert néanmoins toujours l’intervention humaine.
L’intelligence artificielle pour filtrer les spams
Les capacités de l’IA dans la lutte anti-spam sont indéniables. Elle opère la détection des menaces en analysant les e-mails pour repérer des schémas de phishing, des pièces jointes malveillantes ou des liens frauduleux. Elle assure un filtrage des spams, en balayant le contenu des messages et en identifiant les caractéristiques communes des courriels indésirables. L‘analyse comportementale est une autre de ces fonctions, permettant de surveiller les interactions des utilisateurs via leurs e-mails pour détecter des activités suspectes, qui pourraient indiquer une compromission du compte ou une tentative de phishing.
Alinto intègre les nouvelles technologies de l’IA dans ses solutions depuis 2019, et développe des programmes basés sur des modèles d’apprentissage alimentés par des échantillons pour renforcer la sécurité des e-mails. Cependant, l’efficacité de ces programmes provient de leur capacité à opérer en temps réel, ce qui exige des contraintes sur la taille et la rapidité des modèles utilisés. Le défi consiste à maintenir des performances élevées tout en garantissant des délais de traitement acceptables.
L’intelligence humaine pour améliorer les algorithmes de filtrage
Malgré les prouesses de l’IA, l’humain reste incontournable dans la lutte contre le spam : les capacités cognitives de l’homme sont à ce stade irremplaçables pour traiter les faux positifs et faux négatifs générés par les algorithmes anti-spam. L’intelligence humaine est donc indispensable pour fournir une analyse approfondie des nouvelles menaces et identifier les failles potentielles des systèmes de sécurité. Ainsi l’humain continue de nourrir les algorithmes en règles et en modèles d’apprentissage selon les nouvelles pratiques identifiées. Alinto améliore ainsi en continu ses filtres anti-spam.
En fait, l’optimisation automatique des filtres anti-spam par IA au fil de la collecte des erreurs n’est pas une alternative concevable. Elle exposerait le système à des biais cognitifs ou encore des attaques par empoisonnement : le hacker peut modifier le comportement du filtre ou du modèle en introduisant des données malveillantes et corrompre ainsi le système. De plus, l’IA seule n’est pas capable d’anticiper les nouvelles techniques élaborées par les hackers.
Par ailleurs, les hackers eux-mêmes font usage de l’intelligence humaine pour contourner les filtres et polluer les systèmes. Il est donc nécessaire de leur opposer une intelligence humaine. In fine, cette course entre intelligences met en lumière la nécessité d’une complémentarité étroite entre l’homme et la machine pour détecter efficacement les nouvelles attaques : l’IA comme un outil pour caractériser les menaces – comme repérer des URLs douteuses – et remonter des alertes plus rapidement, mais en laissant à l’humain le soin d’analyser et de décider des optimisations à apporter aux modèles.
Les enjeux sont tellement élevés et la pertinence d’une règle peut avoir des effets tellement contradictoires, que l’humain conserve toute sa place dans une équipe experte de la lutte anti-spam plus connue sous le nom de Spamfight.
Dans la sécurisation des messageries, l’apport de l’équipe de Spamfighter ne réside donc pas dans le filtrage en temps réel. Il est en revanche indispensable dans l’analyse des faux positifs et le choix ou non d’enrichir les anti-spam de nouvelles règles. Un filtre sans IA serait inefficace – puisqu’elle permet d’automatiser au maximum la détection de menaces – tout comme une IA sans intervention humaine pour l’enrichir – puisqu’elle perdrait de sa pertinence. La solution réside donc dans une collaboration entre l’IA et l’humain, où chacun apporte des capacités d’analyse distinctes pour assurer la meilleure sécurité des e-mails.
