L’intelligence artificielle s’est retrouvée au cœur du discours d’António Guterres devant l’Assemblée générale des Nations unies. Le secrétaire général de l’ONU a appelé les États à mieux encadrer cette technologie, tout en fixant deux limites qu’il considère comme essentielles : ne pas transformer les enfants en « cobayes » de systèmes encore mal réglementés et, surtout, ne jamais laisser une machine décider seule de la vie ou de la mort d’une personne.
Lors de l’ouverture du débat général de la 81e session de l’Assemblée générale, Guterres a présenté l’IA comme l’une des grandes épreuves auxquelles l’humanité doit désormais faire face, au même titre que les guerres, les inégalités et le changement climatique.
Selon lui, le pouvoir est en train de changer de nature. Après avoir longtemps reposé sur le contrôle des territoires, de l’industrie ou encore de la finance, il dépend de plus en plus des données, de la puissance informatique et des algorithmes. Un pouvoir qui, selon le secrétaire général, se retrouve aujourd’hui concentré entre les mains d’un nombre limité d’acteurs.
Pour autant, António Guterres ne considère pas l’intelligence artificielle comme une menace en elle-même. Il reconnaît au contraire les immenses possibilités qu’elle offre, notamment dans la médecine, la recherche scientifique et l’amélioration des conditions de vie.
Le problème, explique-t-il, apparaît lorsque ces technologies sont utilisées sans règles claires ni véritable responsabilité. « Le danger ne vient pas de la technologie elle-même », a-t-il déclaré. « Le danger, c’est que personne n’ait à rendre de comptes. »
Cette question de la responsabilité est particulièrement importante lorsque des décisions sensibles sont prises ou influencées par des systèmes d’IA. Guterres s’inquiète notamment du manque de transparence qui peut entourer certains de ces outils et appelle les pays disposant des technologies les plus avancées à assumer une responsabilité particulière.
Le secrétaire général veut également que l’ONU joue un rôle plus important dans la gouvernance mondiale de l’intelligence artificielle. Il a rappelé l’adoption du Pacte numérique mondial et les différents mécanismes mis en place pour permettre aux gouvernements, aux scientifiques, aux entreprises et à la société civile de dialoguer sur ces questions.
C’est toutefois sur le terrain militaire que le message d’António Guterres s’est fait le plus ferme.
Pour lui, les armes capables de sélectionner et d’attaquer des cibles sans intervention humaine suffisante ne relèvent plus de la science-fiction. Leur développement pose désormais une question très concrète : jusqu’où sommes-nous prêts à laisser les machines décider ?
Le secrétaire général de l’ONU appelle donc les États à établir des limites internationales claires concernant les systèmes capables de prendre des décisions létales.
« Engageons-nous à ne jamais confier à des machines le soin de prendre des décisions de vie ou de mort », a-t-il déclaré.
Il a résumé son avertissement par une formule particulièrement forte : « Les robots tueurs n’ont pas leur place dans le monde de demain. »
Derrière cette déclaration se trouve une inquiétude plus large : celle de voir la course aux nouvelles technologies dépasser la capacité des États à les encadrer.
Pour Guterres, les rivalités entre grandes puissances technologiques ne doivent donc pas empêcher la coopération internationale. Elles la rendent, au contraire, encore plus nécessaire.
Il évoque notamment les mécanismes de dialogue qui existaient entre puissances rivales pendant la guerre froide pour éviter que les tensions ne dégénèrent.
Son message est finalement simple : l’intelligence artificielle peut transformer profondément nos sociétés, mais cette transformation ne doit pas se faire sans règles. La technologie peut évoluer rapidement ; les décisions qui touchent à la vie humaine, elles, doivent rester entre des mains responsables.
