University of Guelph

Objet publié

Les technologies d’apprentissage automatique ont été largement adoptées dans de nombreux domaines critiques afin de soutenir la prise de décision intelligente avec des performances supérieures. Avec le succès de ces nouvelles technologies, l’application du langage machine introduit des menaces nouvelles et appréciables pour les systèmes alimentés par l’IA. Les décideurs politiques du monde entier ont déployé des efforts pour promulguer des réglementations en vue de renforcer et de normaliser la cybersécurité et la protection de la vie privée dans le domaine de l’IA. Il est essentiel de veiller à ce que les systèmes d’intelligence artificielle puissent se conformer à la réglementation et satisfaire aux exigences standard. Ce projet se concentrera sur le développement d’une taxonomie des technologies offensives et défensives de pointe en matière d’intelligence artificielle, basée sur une analyse exhaustive de la littérature, y compris une collection de défis adverses et d’utilitaires de défense en source ouverte; sur la conception de mécanismes efficaces de défense de la sécurité et de la vie privée contre les menaces rencontrées dans la phase d’entraînement et de prédiction du modèle d’intelligence artificielle; et sur le développement d’un cadre empirique composé d’un ensemble d’outils de meilleures pratiques qui peuvent être utilisés pour permettre le développement et le déploiement d’applications d’intelligence artificielle robustes.