L’utilisation de l’intelligence artificielle (IA) dans la prise de décisions militaires est devenue une réalité présente, comme le démontre le système de ciblage basé sur l’IA “Lavender” utilisé par l’armée israélienne lors du conflit Israël-Hamas. Lavender génère une liste de cibles à éliminer et identifie les objectifs pour que les opérateurs humains approuvent les frappes. Cependant, l’autonomie de l’opérateur humain dans Lavender est remise en question, car il ne peut pas maintenir un contrôle total sur le système. Est-ce que l’opérateur est pleinement conscient des développements sur le terrain ? A-t-il envisagé toutes les options et les possibilités ? La décision a-t-elle été influencée par un biais d’automatisation ? Ces questions suscitent des doutes quant à l’efficacité de l’autonomie humaine dans un système d’armement, encore moins dans des situations de combat.
Cependant, l’utilisation de l’IA à des fins militaires soulève des défis plus profonds. Les États-Unis et la Chine, leaders actuels dans le domaine de l’intelligence artificielle, reconnaissent tous deux les dangers potentiels posés par l’IA. Malgré des discussions pour prévenir une course aux armements basée sur l’IA dans le domaine militaire, aucun accord n’a été conclu pour exclure l’IA des systèmes de commandement et de contrôle nucléaires, ainsi que des systèmes d’armes autonomes.
La divergence de positions entre les deux pays ne montre aucun signe de convergence, malgré les dialogues et les discussions entre experts. Les problèmes de confiance, les préoccupations concernant la transparence technologique et les ambitions de développer et de déployer des systèmes militaires basés sur l’IA ne font qu’aggraver les divisions. Pourtant, malgré tous les obstacles à la coopération, il est indéniable que confier à l’IA l’autonomie et le pouvoir de déployer des armes nucléaires est un scénario à éviter à tout prix.
Un incident glaçant de la guerre froide entre les États-Unis et l’Union soviétique illustre la nécessité de maintenir le contrôle humain dans les infrastructures stratégiques. En 1983, le système de détection précoce soviétique “Oko” aurait détecté le lancement de cinq missiles balistiques intercontinentaux en provenance des États-Unis et se dirigeant vers l’Union soviétique. Le lieutenant-colonel Stanislav Petrov, de service à ce moment-là, a jugé l’alarme défectueuse et a décidé de ne pas en informer ses supérieurs. Les actions de Stanislav ont peut-être évité une guerre nucléaire totale, car si l’incident avait été signalé, l’Union soviétique aurait immédiatement riposté par une frappe nucléaire.
Ce proche appel illustre la vulnérabilité des machines et souligne la nécessité de maintenir le contrôle humain dans les infrastructures stratégiques. Alors que les États se lancent actuellement dans une course aux armements basée sur l’IA, il est de plus en plus évident que de telles appels sont essentiels.
Malgré l’urgence et l’importance d’un tel accord, l’exclusion de l’IA des commandes et du contrôle nucléaires n’a jamais été une option attrayante pour la Chine lors des négociations avec les États-Unis.
Les différences dans les infrastructures nationales d’IA rendent la coopération difficile. Le développement de l’IA aux États-Unis est principalement piloté par des entreprises privées telles que Nvidia et OpenAI, tandis que le développement de l’IA en Chine est dirigé par l’État. Cette divergence impacte directement la réglementation de l’IA, avec des régulations centrées sur l’État en Chine et l’absence de réglementation globale aux États-Unis. Des différences existent également dans la capacité des deux pays à former, appliquer et incorporer l’IA dans leurs systèmes.
Alors que les défis sont nombreux, il est crucial d’établir des accords pour prévenir les conséquences catastrophiques et les risques potentiels liés à l’utilisation de l’IA dans la prise de décision militaire. La coopération internationale et une réglementation adéquate sont nécessaires pour garantir que l’IA reste au service des intérêts de l’humanité et ne devienne pas un danger pour elle.
**FAQ sur l’utilisation de l’intelligence artificielle dans la prise de décisions militaires**
1. Quel est le système de ciblage basé sur l’IA utilisé par l’armée israélienne lors du conflit Israël-Hamas ?
Le système de ciblage basé sur l’IA utilisé par l’armée israélienne s’appelle “Lavender”. Il génère une liste de cibles à éliminer et identifie les objectifs pour que les opérateurs humains approuvent les frappes.
2. Quel est le problème concernant l’autonomie de l’opérateur humain dans Lavender ?
L’autonomie de l’opérateur humain dans Lavender est remise en question car il ne peut pas maintenir un contrôle total sur le système. Cela soulève des doutes quant à son plein degré de conscience des développements sur le terrain, à sa considération de toutes les options et possibilités, ainsi qu’à l’influence d’un éventuel biais d’automatisation sur sa décision.
3. Quels sont les défis liés à l’utilisation de l’IA à des fins militaires ?
L’utilisation de l’IA à des fins militaires soulève des défis profonds, notamment les dangers potentiels associés. Les États-Unis et la Chine reconnaissent tous deux ces dangers, mais aucun accord n’a été conclu pour exclure l’IA des systèmes de commandement et de contrôle nucléaires ainsi que des systèmes d’armes autonomes.
4. Existe-t-il une convergence entre les États-Unis et la Chine sur l’utilisation de l’IA dans le domaine militaire ?
Non, il n’y a pas de convergence entre les États-Unis et la Chine sur l’utilisation de l’IA dans le domaine militaire. Malgré les discussions et les dialogues entre experts, les différences de positions, les problèmes de confiance et les ambitions de développer et déployer des systèmes militaires basés sur l’IA maintiennent les divisions entre les deux pays.
5. Pourquoi est-il important de maintenir le contrôle humain dans les infrastructures stratégiques ?
Un incident de la guerre froide entre les États-Unis et l’Union soviétique met en évidence l’importance de maintenir le contrôle humain. En 1983, un officier soviétique a décidé de ne pas informer ses supérieurs d’une fausse alarme de lancement de missiles, évitant ainsi une possible guerre nucléaire. Cela souligne la vulnérabilité des machines et l’importance du contrôle humain.
6. Pourquoi l’exclusion de l’IA des commandes et du contrôle nucléaires n’a-t-elle pas été une option attrayante pour la Chine ?
L’exclusion de l’IA des commandes et du contrôle nucléaires n’a pas été une option attrayante pour la Chine en raison de différences dans les infrastructures nationales d’IA entre la Chine et les États-Unis. Le développement de l’IA en Chine est dirigé par l’État, tandis qu’aux États-Unis, il est principalement piloté par des entreprises privées. Cela crée des divergences dans la réglementation et la capacité des deux pays à utiliser l’IA.
7. Qu’est-ce qui est nécessaire pour prévenir les risques liés à l’utilisation de l’IA dans la prise de décision militaire ?
La coopération internationale et une réglementation adéquate sont nécessaires pour prévenir les conséquences catastrophiques et les risques potentiels liés à l’utilisation de l’IA dans la prise de décision militaire. Il est crucial que l’IA reste au service des intérêts de l’humanité et ne devienne pas un danger pour elle.
**Définitions**
– Intelligence artificielle (IA) : domaine de l’informatique qui se concentre sur la création de machines capables d’effectuer des tâches qui requièrent normalement l’intelligence humaine.
– Système de ciblage basé sur l’IA : système utilisant l’IA pour générer une liste de cibles à éliminer et identifier les objectifs militaires.
– Biais d’automatisation : préjugé ou déséquilibre résultant de l’utilisation de l’automatisation dans la prise de décisions, pouvant influencer les choix et les actions des opérateurs humains.
**Liens suggérés**
– Nvidia
– OpenAI