Phishing par IA : comment détecter les nouvelles attaques générées par ChatGPT et consorts

TL;DR — Le phishing 2026 ne ressemble plus à celui de 2020. Plus de fautes d'orthographe, plus de tournures bizarres : les attaquants utilisent les LLM pour générer des messages personnalisés, crédibles, dans la langue maternelle de la cible. Les défenses traditionnelles (filtres antispam, sensibilisation) ne suffisent plus. Il faut désormais des défenses IA contre les attaques IA.

Le tournant 2024-2025

Trois bascules ont rendu le phishing IA mainstream :

1. L'accès grand public aux LLM puissants (ChatGPT-4, Claude, Gemini, Mistral Large) à coût marginal nul.
2. Les jailbreaks documentés sur Reddit/4chan/Telegram qui permettent de contourner les garde-fous Anthropic/OpenAI.
3. Les LLM open-source (Llama, Mixtral, Qwen) qu'on peut héberger sans aucun garde-fou.

Résultat : un attaquant moyen peut désormais lancer en 1h une campagne de spearphishing personnalisée pour 500 cibles avec un taux de clic supérieur à 30 %.

Les 6 nouveaux types d'attaque

1. Spearphishing personnalisé par scraping LinkedIn

L'attaquant scrape LinkedIn, GitHub, le site corporate de la cible, puis demande à un LLM :

Rédige un email convaincant pour [Marie Dubois], Directrice Marketing chez [Société X]. Elle a récemment posté sur la transformation digitale et le RGPD. L'email doit ressembler à une invitation à un webinar exclusif sur "Marketing data-driven et conformité RGPD". Inclure un lien vers une page de réservation [URL piège]. Ton professionnel mais chaleureux. 150 mots.

Le résultat est indistinguable d'un vrai email marketing professionnel. Les filtres SpamAssassin classiques laissent passer, et l'utilisateur clique.

2. BEC (Business Email Compromise) avec contexte volé

L'attaquant prend pied dans une boîte mail (via infostealer, AiTM ou phishing classique). Il lit les conversations en cours, puis demande au LLM :

Voici une discussion email entre [CFO] et [Comptable] sur un règlement fournisseur. Rédige le mail suivant que pourrait envoyer le CFO pour confirmer le virement, en utilisant le même ton et vocabulaire, mais en redirigeant vers ce nouveau IBAN [piège].

Le mail frauduleux reprend le style du dirigeant (formules de politesse, signature, abréviations utilisées). Le comptable, déjà en attente du paiement, valide.

Coût moyen d'un BEC réussi en 2025 : 183 000 € selon le rapport FBI IC3.

3. Voice cloning pour CEO fraud

L'attaquant capte 30 secondes d'audio du dirigeant cible (vidéo LinkedIn, conférence YouTube, podcast professionnel). Il le donne à un outil de voice cloning (ElevenLabs, Resemble, ou open-source XTTS-v2), puis génère un appel à la comptabilité :

Bonjour Sophie, c'est Bertrand. Je suis en réunion à Singapour, je vais avoir besoin d'un virement urgent à un avocat pour finaliser un rachat confidentiel. Tu vas recevoir le détail par email dans 5 minutes. Lance la procédure, je te confirme par signature électronique en visio à 18h.

Cas documenté en 2024 chez Arup (Hong Kong) : 25 millions USD transférés sur la base d'un deepfake vidéo en visioconférence.

4. Phishing AiTM (Adversary-in-the-Middle)

L'attaquant ne crée pas un faux site Microsoft 365 statique. Il proxy en temps réel le vrai site via un outil comme Evilginx ou Modlishka :

• L'utilisateur arrive sur la page (URL similaire à login.microsoftonline.com).
• Saisit ses credentials → relayés en temps réel à Microsoft.
• Reçoit une vraie demande MFA → la valide.
• Le cookie de session valide est capté par l'attaquant.

Désormais l'attaquant peut accéder au compte sans MFA car la session est valide.

Hausse mesurée des AiTM : +500 % entre 2023 et 2025 selon les CERT européens.

5. Quishing (QR code phishing)

Email contenant uniquement un QR code (pas de lien clicable). L'utilisateur scanne avec son téléphone perso (pas couvert par EDR), arrive sur le piège.

Avantage attaquant :

• Bypass des filtres email qui scannent les URLs.
• Bypass des proxys d'entreprise sur le poste pro.
• Téléphone perso = pas de contrôle DSI.

6. Phishing multimodal (texte + image générée)

L'email inclut une image générée par IA — capture d'écran d'une « facture impayée », « notification douanière », « avertissement RH » — qui contient le faux contexte. Les filtres classiques basés sur le texte ne lisent pas l'image.

Comment détecter ces attaques

Côté email gateway

Filtres antispam classiques (DMARC, SPF, DKIM, SpamAssassin) restent nécessaires mais insuffisants :

• ✅ Bloquer les domaines lookalike (typosquatting de votre domaine et de vos partenaires).
• ✅ Marquer les emails externes provenant de domaines récemment enregistrés (< 90 jours).
• ✅ Détecter les pièces jointes Office avec macros même non malicieuses.
• ✅ Activer le rewriting des liens + sandbox URL (Mimecast, Proofpoint, Barracuda).

Mais surtout :

• ✅ Classification IA des emails entrants : un LLM analyse le contenu, le ton, l'urgence, la cohérence avec les flux normaux entre l'expéditeur et le destinataire. Score de risque — c'est typiquement le rôle de la stack IA SYLink déployée on-prem, sans envoi de vos emails à un fournisseur tiers.

Côté endpoint (EDR)

• Détection des connexions sortantes vers des domaines de proxying AiTM connus (feeds CTI mis à jour quotidiennement — UniSOC inclut FireHOL, AbuseCH, OpenCTI).
• Alerte sur les navigateurs ouverts vers des URLs récentes ressemblant à des marques (typosquatting).
• Surveillance des téléchargements de scripts post-clic.

Côté SOC

• Corrélation : un user vient de cliquer sur un lien suspect ET dans les 3 minutes une nouvelle session se connecte au M365 depuis une géo inhabituelle = compromission probable, isoler.
• Threat intelligence credential exposure : surveiller en continu les fuites Telegram et Hudson Rock pour vos domaines (UniSOC le fait nativement).
• UEBA : déviation comportementale après un clic suspect.

Côté humain

Sensibilisation, oui — mais en mettant à jour les exemples :

• Présenter aux collaborateurs un vrai email AiTM récent (pas le phishing nigérian d'il y a 10 ans).
• Faire écouter un deepfake vocal pour qu'ils intègrent que c'est techniquement banal.
• Établir une procédure « je préviens IT en cas de doute » sans jugement, accessible facilement.

Contre-mesures par type d'attaque

Le rôle critique de la MFA FIDO2

Si vous ne devez retenir qu'une seule contre-mesure technique : passer toutes vos identités à risque (admin, finance, RH, codir) en MFA FIDO2.

• YubiKey 5C NFC : ~50 €/clé, déploiement Microsoft Entra ID en 1 jour.
• Passkeys (FIDO2 stockée dans le téléphone) : gratuit, fonctionne avec Apple/Google.

Une AiTM n'arrive pas à voler une session FIDO2 — la clé valide cryptographiquement le domaine de la requête. Si l'utilisateur est sur un proxy, la signature ne correspond pas, le login est refusé.

C'est la seule contre-mesure aujourd'hui qui résiste à 100 % des AiTM connus.

Plan d'action 90 jours

Conclusion

Le phishing par IA n'est pas une menace future : c'est le quotidien 2026. Les SOC qui détectent encore avec des règles « cherche le mot Bitcoin dans le subject » ne voient déjà plus 80 % des attaques modernes.

La bonne défense combine MFA FIDO2 (contre-mesure technique majeure), email gateway IA, EDR + SOC corrélé, surveillance credential exposure, culture de signalement bienveillante. Tout le reste est optionnel — c'est ce stack qu'opère la plateforme SOC managé UniSOC en standard.

---

Vérifier si vos credentials fuitent déjà : Scan gratuit de votre domaine → — résultat en 30 secondes, hub de fuites Telegram + Hudson Rock + XposedOrNot.