Menu
Par Cian Fitzpatrick | 28 novembre 2024
Les progrès dans le domaine de l'intelligence artificielle (IA) sont annoncés à grands pas. Ce qui est moins connu, c'est l'émergence des technologies de deepfake et leur utilisation croissante par les cybercriminels comme outils puissants.
Il n'est pas difficile de comprendre comment les progrès réalisés dans le domaine des arnaques par deepfake permettent aux personnes mal intentionnées de commettre des fraudes à grande échelle.
Un exemple frappant s'est produit en mai 2024 lorsque la société d'ingénierie britannique Arup a subi une perte de 25 millions de dollars à la suite d'une attaque par deepfake . Un membre de l'équipe des finances de leur bureau de Hong Kong a été piégé et a effectué un virement après avoir participé à une vidéoconférence où des cybercriminels se sont fait passer pour le directeur financier d'Arup grâce à une voix et une vidéo clonées. Le réalisme de l'interaction, avec la présence d'autres soi-disant collègues (également des personnages fictifs), a convaincu l'employé de son authenticité, ce qui a mené au virement frauduleux.
Cet incident met en lumière une dure réalité : aujourd’hui, voir ne suffit plus à croire. L’IA devient plus accessible et sophistiquée, et son potentiel de nuisance augmente de façon exponentielle.
L'IA redéfinit les tactiques « traditionnelles » de la cybercriminalité, perfectionnant des méthodes anciennes comme le phishing. Parallèlement, elle introduit aussi des menaces entièrement nouvelles. Les deepfakes sont devenus un outil dangereux entre les mains des pirates informatiques. L'incident Arup n'est qu'un exemple parmi tant d'autres, alarmants.
Les voix synthétiques sont maintenant pratiquement indiscernables des voix naturelles. De plus, l'IA peut créer des répliques vidéo et générer du texte dans le style de personnes spécifiques avec une facilité et une rapidité déconcertantes. Cette technologie en constante évolution accroît considérablement les enjeux.
L'affaire Arup met en lumière une dimension psychologique importante de ces escroqueries. Lorsque des employés voient et entendent un collègue familier, leurs défenses naturelles s'abaissent. Cela révèle une vulnérabilité majeure : le facteur humain. Près de 74 % des cyberattaques sont dues à une erreur humaine.
Bien que la technologie puisse identifier et bloquer de nombreuses menaces, la confiance innée que les gens accordent à ce qu'ils voient et entendent peut être exploitée avec des conséquences dévastatrices.
Les deepfakes ne sont pas la seule menace.
Les techniques d'ingénierie sociale basées sur l'IA donnent un avantage aux pirates informatiques, malgré l'amélioration des mesures de cybersécurité traditionnelles. L'ingénierie sociale manipule les individus pour qu'ils partagent des informations sensibles ou transfèrent de l'argent, souvent grâce à des communications convaincantes mais frauduleuses.
Malgré l'augmentation des investissements dans la cybersécurité, l'erreur humaine demeure un point faible. Les courriels d'hameçonnage, les faux appels téléphoniques et maintenant les vidéoconférences hyperréalistes peuvent facilement déjouer même les défenses les plus vigilantes.
L'IA a rendu les méthodes de piratage que nous connaissons depuis des années, comme l'hameçonnage, plus efficaces, tout en renforçant les escroqueries par ingénierie sociale.
Par exemple, les outils de traitement automatique du langage naturel peuvent désormais rédiger des courriels d'hameçonnage très convaincants. Plus inquiétant encore, les cybercriminels trouvent des moyens de contourner l'authentification multifactorielle (AMF), pierre angulaire de la sécurité numérique. Autrefois considérée comme la référence, l'AMF n'est plus aussi fiable pour protéger les données sensibles ni pour garantir la tranquillité d'esprit des entreprises (et des particuliers).
Il n'est pas exagéré de dire que la technologie des deepfakes représente un tournant majeur dans les cybermenaces. Ces outils peuvent reproduire de manière convaincante l'apparence et la voix d'une personne. Il devient ainsi de plus en plus difficile de distinguer les interactions authentiques des manipulations. La possibilité de duper les employés en leur faisant croire qu'ils communiquent avec des collègues de confiance par vidéoconférence représente un risque croissant.
Les deepfakes aggravent aussi la menace des rançongiciels. Face à l'évolution rapide de ces technologies, les cadres juridiques ont du mal à s'adapter. Par exemple, le Royaume-Uni n'a que récemment interdit la création d'images deepfake explicites sans consentement . De manière alarmante, les escroqueries par deepfake ciblent désormais des victimes plus jeunes, notamment des étudiants, les auteurs exigeant une rançon pour empêcher la diffusion d'images truquées.
Bien que la technologie des deepfakes soit déjà avancée, elle présente encore des limites. Les cybercriminels ne peuvent pas encore mener de conversations interactives en temps réel de manière convaincante, et des incohérences subtiles dans le langage ou le ton peuvent parfois révéler la supercherie. Cependant, le rythme des innovations laisse croire que ces limitations ne persisteront pas.
Une autre source d'inquiétude réside dans l'essor d'outils d'intelligence artificielle qui simplifient d'autres types de cyberattaques, comme le spear phishing et le credential stuffing. Les pirates peuvent maintenant entraîner l'IA à imiter non seulement le ton, mais aussi les comportements des hauts dirigeants. Cela augmente les chances de succès des fraudes. La fusion de l'IA avec d'autres technologies émergentes, comme la blockchain pour l'anonymisation des transactions, complexifie davantage la lutte contre la cybercriminalité. Le développement témoigne également de la sophistication croissante des pirates et des cybercriminels.
Face à la sophistication croissante des deepfakes et des cybercrimes basés sur l'IA, les organisations doivent renforcer leurs mesures de sécurité internes afin de limiter les erreurs humaines. Former vos équipes à la détection des menaces liées aux deepfakes constitue l'un des meilleurs remparts de sécurité pour votre entreprise.
Une stratégie clé consiste à mettre en œuvre des protocoles robustes d'autorisation de paiement afin d'empêcher les transactions non autorisées.
Le personnel doit être capable de reconnaître les tentatives d'escroquerie par deepfake et de comprendre les risques liés à la sophistication croissante des cybermenaces. Établir une culture d'entreprise qui privilégie la vigilance et le respect des meilleures pratiques peut faire toute la différence.
L'IA ne doit pas nécessairement tomber uniquement entre les mains d'acteurs malveillants.
Les organisations devraient également envisager d'adopter des technologies de cybersécurité avancées exploitant l'IA à des fins défensives. Les systèmes de détection basés sur l'IA, par exemple, peuvent aider à identifier les anomalies dans les communications, comme des incohérences subtiles dans les schémas vocaux ou des irrégularités dans les métadonnées des fichiers vidéo. Ces outils peuvent ajouter une couche de sécurité supplémentaire pour contrer l'évolution rapide des menaces pilotées par l'IA.
En fin de compte, se prémunir contre les deepfakes et les menaces alimentées par l'IA exige une combinaison d'approches technologiques, procédurales et culturelles. En renforçant leur résilience et en s'adaptant à cet environnement en constante évolution, les entreprises peuvent mieux se protéger contre la montée en puissance de la cybercriminalité.
Topsec Cloud Solutions s'associe à ses clients pour assurer la sécurité de leurs organisations. De nombreux témoignages de nos clients sont disponibles sur notre site web . Contactez-nous dès aujourd'hui pour une entrevue gratuite et sans engagement afin de découvrir comment nous pouvons vous aider à renforcer la protection de votre organisation contre la cybercriminalité.
