Deepfake : intelligence artificielle / fraude au Président

L'intelligence artificielle permet l'apparition d'une nouvelle forme de "fraude au Président".


Depuis son apparition vers 2010, la « fraude au Président » a déjà causé aux entreprises de toutes tailles victimes du procédé, un préjudice global de plus de 500 millions d’euros.

Le mode opératoire consiste, pour une personne se présentant comme le président ou le gérant d’une société, à contacter un membre de l’entreprise via une fausse adresse email ou un faux numéro local et lui demander d’effectuer en urgence, un ou plusieurs virements bancaires, correspondant à une transaction commerciale

Basée sur « l’ingénierie sociale », soit la collecte par les escrocs de toutes les informations disponibles sur l’entreprise cible, cette fraude vient de connaître un nouvel essor permis par le recours à l’intelligence artificielle.

Le dirigeant britannique d’une entreprise du secteur de l’énergie a ainsi reçu un appel téléphonique du dirigeant de sa maison mère située en Allemagne lui demandant d’effectuer un virement urgent de 220 000 euros sur le compte bancaire d’un sous-traitant en Hongrie sous peine de voir l’entreprise s’exposer à de lourdes pénalités. Le dirigeant allemand lui annonce l’envoi d’un courriel contenant les informations nécessaires pour effectuer le virement et lui assure que la maison mère remboursera sa filiale aussitôt.

Reconnaissant la voix de son homologue allemand, son accent et même ses intonations, le dirigeant de la filiale britannique a effectué le virement demandé après avoir reçu le courriel annoncé. Or, l’interlocuteur n’était pas le dirigeant allemand mais une voix synthétique imitant la voix de ce dernier. En outre, le courriel envoyé depuis la véritable adresse du dirigeant allemand résultait du piratage de celle-ci.

La fraude ne sera découverte qu’après que le faux dirigeant allemand ait rappelé pour tenter d’obtenir de nouveaux virements et que le dirigeant britannique ait appellé son véritable homologue qui lui indiquera ne pas être à l’origine des demandes de virements. Cependant, le premier virement sur le compte hongrois avait déjà été transféré au Mexique avant d’être réparti sur différents portefeuilles.

Ce type d’affaire reste rare mais se multipliera certainement dans un avenir très proche.

D’ores et déjà, une entreprise spécialiste de la sécurité informatique a pu identifier aux USA trois affaires dans lesquelles des voix de dirigeants d’entreprises ont été imitées, entraînant des millions de dollars de pertes.

Cette nouvelle forme d’escroquerie est certes particulièrement sophistiquée (elle allie le piratage d’une boîte e-mail et le recours à l’intelligence artificielle créant une voix synthétique) mais devient accessible. Les avancées récentes de l’intelligence artificielle et du « Deep learning » ont permis la mise à disposition d’outils numériques aux escrocs (connus sous le nom de « Deepfake ») leur permettant d’imiter la voix d’une personne à partir d’enregistrements.

A ce jour, un logiciel de libre accès, ne nécessitant aucune compétence élaborée en informatique, permet ainsi, en utilisant seulement quelques phrases de la personne imitée, de créer une voix de synthèse et de taper la conversation souhaitée qui sera prononcée instantanément avec un résultat proche de l’original. Si l’imitation n’est pas encore parfaite et peut être détectée par les oreilles les plus fines, il est à craindre que la technologie se perfectionnera très rapidement rendant la détection extrêmement difficile.

En outre, le « Deepfake » vocal pourrait rapidement être accompagné des « Deepfake vidéos » permettant, sur la base d’une vidéo réelle, de donner l’illusion que la personne énonce les faux propos qu’on lui fait tenir. La menace est telle que des entreprises comme Google, Microsoft ou Facebook ont lancé des concours de détection du « Deepfake ».

Plus que jamais, la mise en place dans l’entreprise de procédures internes de vérification des ordres de virements s’impose afin de se prémunir.

 Jérôme Rousselle