Rechercher
Contactez-nous Suivez-nous sur Twitter En francais English Language
 











Abonnez-vous gratuitement à notre NEWSLETTER

Newsletter FR

Newsletter EN

Vulnérabilités

Se désabonner

IA : une menace pour l’humanité ?

mai 2023 par Benoit Grunemwald Expert en Cyber sécurité, ESET France

Selon la BBC, l’intelligence artificielle pourrait conduire à l’extinction de l’humanité, ont averti des experts, dont les dirigeants d’OpenAI et de Google Deepmind. Des dizaines de personnes ont soutenu une déclaration publiée sur la page web du Centre for AI Safety, où on peut y lire : "L’atténuation du risque d’extinction par l’IA devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société tels que les pandémies et les guerres nucléaires”. Le Centre for AI Safety propose un certain nombre de scénarios catastrophes possibles :

● Les IA pourraient être militarisées - par exemple, les outils de découverte de médicaments pourraient être utilisés pour fabriquer des armes chimiques.
● La désinformation générée par l’IA pourrait déstabiliser la société et "saper la prise de décision collective".
● Le pouvoir de l’IA pourrait être de plus en plus concentré dans un nombre de plus en plus restreint de mains, ce qui permettrait aux "régimes d’imposer des valeurs étroites par une surveillance omniprésente et une censure oppressive".
● Les humains deviennent dépendants de l’IA, "comme dans le scénario du film Wall-E".

Benoit Grunemwald - Expert en Cybersécurité chez ESET France réagit :

« Cet avertissement rappelle que les domaines dans lesquels l’IA sera capable d’agir sont encore largement sous-estimés voir inconnus. D’une part, nous constatons que les acteurs malveillants utilisent de plus en plus l’IA pour faciliter leurs opérations. D’autre part, l’IA pourrait penser de manière néfaste par elle-même. Ces deux options témoignent de la nécessité d’appliquer une supervision humaine pour éviter que les décisions négatives ne se multiplient.

Les états n’ont toujours pas encadré complètement les réseaux sociaux et les crypto-monnaies, il est donc impératif que la discussion sur l’IA débute dès que possible. Car bien qu’innovants, ChatGPT et les autres modèles de langage intelligents sont encore largement dans leur phase infantile, saisir la possibilité de les réguler à ce stade est essentiel pour aider à guider vers une utilisation plus sûre. »


Voir les articles précédents

    

Voir les articles suivants