Utilisation de la technologie d’escroquerie AI 2,8 millions de RM

BEIJING – La technologie de l’intelligence artificielle (IA) a été utilisée à mauvais escient par un escroc en Chine qui s’est fait passer pour un homme d’affaires et a trompé les victimes pour qu’elles lui remettent des millions de yuans.

La victime, identifiée comme Guo, a reçu un appel vidéo d’un individu qui semblait être son ami proche le mois dernier.

“Les enquêtes préliminaires ont révélé que l’appelant était en fait un escroc qui a utilisé la technologie de l’IA pour changer son visage et sa voix”, ont rapporté les médias locaux au début de la semaine dernière.

Il est entendu que Guo a été persuadé de transférer 4,3 millions de yuans (2,8 millions de RM) du compte de la société après que l’escroc a affirmé qu’un autre de ses amis avait besoin d’argent pour payer une garantie pour un appel d’offres public.

“Le suspect a alors demandé le numéro de compte bancaire personnel de Guo et a informé que le même montant avait été transféré sur le compte de l’entreprise et a également envoyé une capture d’écran du faux enregistrement de paiement.

“Sans vérifier au préalable, Guo a continué à effectuer deux paiements en fonction du montant demandé. La victime a expliqué qu’il n’avait aucun doute car l’individu avait bien le même visage que son ami”, précise encore le rapport.

Cependant, Guo s’est seulement rendu compte qu’il avait été trompé lorsqu’il a contacté son ami qui lui a expliqué son ignorance à ce sujet.

La victime a ensuite signalé l’incident aux autorités et a informé l’une des banques d’annuler la transaction et il a réussi à récupérer 3,4 millions de yuans (2,2 millions de RM).

Les efforts pour traquer l’escroc sont cependant difficiles car Guo ne connaît pas la véritable identité de l’auteur.

Le risque que la technologie de l’IA soit utilisée à des fins malveillantes a été soulevé par de nombreuses personnes depuis que ChatGPT a lancé OpenAI en novembre 2022.

Le chatbot populaire n’est pas disponible en Chine, mais les utilisateurs peuvent accéder au logiciel américain via un réseau privé virtuel.

Pékin a annoncé des plans ambitieux pour devenir le leader mondial de l’IA d’ici 2030, ce qui a vu un certain nombre d’entreprises technologiques telles qu’Alibaba, NetEase et ByteDance, la société mère de TikTok, se précipiter pour développer des produits similaires.

Récemment, les autorités de la province de Gansu ont pris des mesures strictes contre un homme qui a utilisé ChatGPT pour produire de fausses informations sur un accident de bus qui est ensuite devenu viral sur les réseaux sociaux.

En vertu de la loi réglementant les deepfakes entrée en vigueur en janvier dernier, toute utilisation de la technologie pour produire, publier ou transmettre de fausses nouvelles est interdite.

Un projet de loi présenté le mois dernier par le régulateur Internet de Pékin exige également que tous les produits d’IA générative subissent une “évaluation de sécurité” avant d’être rendus publics. -AFP