Select Page

La menace de l’Intelligence Artificielle

La menace de l’Intelligence Artificielle

Dans un rapport, 26 experts spécialistes en intelligence artificielle (IA), cybersécurité et robotique s’alarme des risques que fait peser le développement de l’IA sur la démocratie ou la sécurité.

Manipulations d’élections indécelables, drones ou robots terroristes, cybercriminalité renforcée… Ce sont quelques uns des risques que pourrait engendrer des intelligences artificielles si elles tombaient entre de mauvaises mains.

Ce rapport de 100 pages a été rédigé par 26 experts spécialistes en intelligence artificielle (IA), cybersécurité et robotique. Ils appartiennent à des universités (Cambridge, Oxford, Yale, Stanford) et à des organisations non gouvernementales (OpenAI, Center for a New American Security, Electronic Frontier Foundation).

Des Etats voyous pourraient, grâce à l’efficacité croissante de l’IA manipuler des élections grâce à des comptes de réseaux sociaux automatisés. Des groupes terroristes serait en mesure de programmer des armées de drones automatisés pour des attentats de grande ampleur. Mais aussi procéder à des assassinats ciblés. Les experts imaginent un scénario hypothétique dans lequel un robot nettoyeur infiltré parmi d’autres robots de ménages dans un Ministère seraient en mesure d’identifier la cible, le ministre par exemple, et exploser à son passage.

Sur le Net, les cybercriminels, renforcés par les capacités de l’Intelligence Artificielle, seraient en mesure de lancer par exemple des attaques par hameçonnage ciblé (Spear Phishing) plus faciles et à plus grande échelle. Autre scénario catastrophe envisagé, des Kompromat 2.0, du nom de ces vidéos volées mettant en scène des personnalités politiques dans des situations délicates pour les faire chanter. Les capacités de l’IA permettrait à l’avenir de fabriquer de fausses vidéos dont le caractère frauduleux serait indétectable.

Pour Sean O hEigeartaigh, un des auteurs du rapport, directeur du Centre for the Study of Existential Risk de l’Université de Cambridge, explique: « le risque le plus sérieux, même s’il est moins probable est le risque politique». « Nous avons déjà vu comment des gens se servaient de la technologie pour essayer d’interférer dans les élections et la démocratie. Si l’IA permet à ces menaces de devenir plus fortes, plus difficiles à repérer et à attribuer, cela pourrait poser de gros problèmes de stabilité politique et contribuer peut-être à déclencher des guerres ».

De même, les progrès de l’intelligence Artificielle, croisées avec le Big Data (les bases de données colossales disponibles) pourraient permettre la surveillance accrue des citoyens par des Etats, plus ou moins démocratiques. Discipline née des années 1950, l’intelligence artificielle correspond à des algorithmes sophistiqués qui permettent de résoudre des problèmes pour lesquels les humains utilisent leurs capacités cognitives. Ces dernières années, elle a fait des progrès substantiels notamment dans les domaines liés à la perception, comme la reconnaissance vocale et l’analyse d’image.

La communauté scientifique lance régulièrement des alertes sur ce sujet depuis plusieurs années. Elon Musk, le fondateur de Tesla et Space X comme le physicien britannique Stephen Hawkings ont fait plusieurs mises en garde sur les progrès de l’Intelligence Artificielle. Un collectif d’ONGs travaillant sur l’interdiction de l’armement autonome (drones,etc.) avaient mis en ligne une vidéo très réaliste sur les applications potentielles de ces technologies.

Lien url video

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Devenez Socio

Derniers Tweets

Pin It on Pinterest

Share This

Partagez cet article

Avec vos amis !