Le développement des intelligences artificielles augmente fortement les menaces en matière de cybersécurité. Leur utilisation par les hackers pourrait permettre de combiner des attaques ultra-personnalisées exploitant les informations spécifiques de l’entreprise. Par exemple, imaginez un appel de phishing avec une voix générée par IA imitant à s’y méprendre le ton et le style conversationnel de votre patron – un scénario de science-fiction qui va bientôt devenir réalité…

Et si vous utilisiez la puissance de l’IA pour vous prémunir contre ce risque ? Des entreprises travaillent déjà à la conception de logiciels, comme ZeroGPT, permettant de détecter des contenus générés par IA. L’IA permet aussi d’améliorer ses capacités de détection des cyber-risques. Par exemple, une IA personnalisée pourra facilement détecter des changements suspects dans le comportement en ligne d’un collaborateur – augmentation soudaine de la masse de données consultées, variation importante de la structure de mailing, etc. – et lancer une alerte, le cas échéant.  Bien sûr, ces nouveaux outils n’iront pas sans soulever des questionnements éthiques autour de la protection des données personnelles – mais ils deviendront rapidement incontournables. Un nouveau chantier à surveiller de près.

Source :  From ChatGPT to HackGPT: Meeting the Cybersecurity Threat of Generative AI, Karen Renaud, Merrill Warkentin, George Westerman, MIT Sloan Management Review, avril 2023.