Pourriez-vous nous donner un exemple d’une utilisation de l’IA en matière de sureté de l’espace public ?
Les applications d’IA en matière de sureté de l’espace public ne manquent pas mais doivent être mise en oeuvre en connaissance et en responsabilité dans un cadre juridique maitrisé. Pour être très concret, il ne s’agit pas de s’orienter vers une société de surveillance mais bien d’établir un contrat de confiance entre les forces de sécurité et le citoyen au profit des libertés collectives et individuelles. Par exemple, les applications d’analyse prédictive de la délinquance telles que développées en Gendarmerie ont pour but d’aider le commandement dans sa prise de décision et non de décider à sa place. Ces applications offrent aussi, contrairement à ce que l’on peut entendre ou lire, transparence et explicabilité de l’action des forces de l’ordre au profit du citoyen, des élus, de l’autorité judiciaire ou administrative. La Gendarmerie nationale est très attachée à la notion de redevabilité.
L’IA soulève à la fois enthousiasme et inquiétude, vous parlez d’une éthique à construire pour l’IA, en quoi consisterai elle et à quoi servirait elle ?
En effet, l’IA est à la fois source d’inquiétude et d’enthousiasme parce qu’en réalité elle peut être à l’origine des maux comme des solutions. L’erreur serait de refuser les formidables perspectives positives de développement qu’elle offre au prétexte qu’il y a des risques. Ce serait laisser son utilisation à des fins malveillantes sans développer notre capacité pro active à lutter contre celles-ci. Il n’en demeure pas moins que comme toute discipline de cette importance, il est nécessaire de définir un cadre éthique qui loin de reposer sur l’idéologie doit se fonder sur la connaissance et la responsabilité pour proposer une IA de confiance. L’éthique est certes nécessaire mais pas suffisante, il faut aussi des règles déontologiques par métier et un cadre juridique qui définit les contrôles quant à l’exploitation de l’IA et les sanctions en cas d’utilisations malveillantes.
Définir correctement ce qu’est l’IA (on entend parfois qu’elle n’existe pas)
Définir l’IA ne semble pas chose aisée au regard des différentes définitions proposées. En fait, l’IA est un problème mathématique résolu par la physique. Il s’agit de modéliser un monde non linéaire dans un espace de grande dimension et pour cela les mathématiques n’ont pas encore apporté la solution, raison pour laquelle nous nous appuyons sur la physique, sur l’observation. L’IA permet de définir des structures invariantes et caractéristiques au sein des données et ainsi permet d’effectuer des tâches de classification ou de regroupement, des tâches de reconnaissance ou encore de détection et de prédiction. Trop souvent résumé à une discipline informatique ou algorithmique, l’IA est mal comprise, mal interprétée et accusée de maux bien humains. Il paraît même qu’elle n’existe pas. Là encore, il s’agit d’une mauvaise interprétation, elle n’existe pas au sens du cogito de Descartes, elle n’a pas conscience d’elle-même. Mais comme la chaise sur laquelle vous êtes assis, elle existe bien matériellement, enlevez la chaise, vous vous en apercevrez….
Qui est monsieur Perrot ?
Officier de gendarmerie, Patrick Perrot occupe la fonction de coordonnateur pour intelligence artificielle au sein de la Gendarmerie nationale. Ingénieur de formation, titulaire d’un doctorat en intelligence artificielle, il a combiné des fonctions opérationnelles et scientifiques. Il est l’auteur de nombreuses publications et ses travaux de recherche ont trait au développement d’une IA de confiance au profit de la sécurité.
