Pouvoir et contrôle en IA visuelle
La quatrième séance du séminaire « L’œil numérique », co-animé par Laurence Danguy et Julien Schuh, interrogera les enjeux de pouvoir et de contrôle dans l’intelligence artificielle visuelle. Cette session explorera à la fois les dimensions techniques et critiques de l’IA générative d’images, notamment la qualité et le contrôle des images produites, ainsi que les questions éthiques et juridiques liées aux droits d’auteur et à l’attribution des données.Quatrième séance du séminaire, co-animé par Laurence Danguy et Julien Schuh dans le cadre du consortium-HN pictorIA, consacrée au thème « Art et IA : surveillance et croyances algorithmiques ».
Elle aura lieu en présentiel sur le campus de l’Université Paris Nanterre et à distance par lien Zoom.
Lien de visioconférence : https://cnrs.zoom.us/j/98999185617?pwd=Vl7mnCUf5XJLVNuHG2aIc7bMyjGdQB.1
Anthony Masure: D’une culture visuelle sous contrôle à des IA situées
Cette présentation s’ancre dans la longue histoire des interfaces humains-machines pour mettre en perspective leurs principes fondateurs (promesses de transparence, de naturalité et d’absence de friction) avec les mutations induites par l’IA générative. Alors que ces technologies ouvrent la voie à une potentielle ère « post-smartphone » (facial computing, interfaces neuronales, agents intégrés, vibe coding, etc.), qu’en est-il des enjeux de pouvoir sous-jacents ? Les nouvelles partitions de l’IA, entre visible et invisible, induisent-elles de nouvelles croyances et mécanismes de contrôle ? Pour traiter ces questions, nous nous intéresserons à un corpus d’exemples en art et design ainsi que sur les premières conclusions du projet de recherche « Fucking Tech! » (2024-2027), qui étudie les mutations des relations humain-machines dans le domaine des sexualités machiniques. Ces initiatives, encore éparses, montrent qu’il est possible de refonder les infrastructures et imaginaires de l’IA sur la diversité des cultures, des esthétiques et des modes de production : une IA comme bien commun plutôt que d’une IA au service des monopoles.
Anthony Masure est professeur associé et responsable de la recherche à la Haute école d’art et de design de Genève (HEAD – Genève, HES-SO). Ses recherches portent sur les implications sociales, politiques et esthétiques des intelligences artificielles, des technologies blockchain et du jeu vidéo. Il a cofondé la revue de recherche Back Office et est l’auteur des essais Design et humanités numériques (2017) et Design sous artifice : la création au risque du machine learning (2023).
Mathieu Salzmann: Génération d’images par IA: Qualité, fidélité, et plagiat
Les modèles d”IA pour la génération d’images ont grandement progressé ces dernières années et sont désormais capables de produire du contenu très convaincant. Cependant, ils restent loin d’être parfaits, autant sur le plan de la qualité que sur celui de l’origine des images produites. Cette présentation couvrira deux aspects liés à ces limitations. Dans un premier temps, la question de la fidélité de l’image générée vis-à-vis du texte servant à guider la génération sera discutée, avec un accent sur le nombre et le positionnement des objets dans l’image. La présentation se tournera ensuite vers des questions de plagiat en abordant la question de l’attribution des données, c’est-à-dire le lien entre l’image générée et les exemples vus lors de l’entrainement de l’IA, permettant ainsi de tracer l’inspiration de l’IA pour une génération et touchant donc aux droits d’auteurs.
Mathieu Salzmann est Maître d’Enseignement et de Recherche à l’EPFL et Deputy Chief Data Scientist au Swiss Data Science Center. Sa recherche se situe à l’intersection entre la vision par ordinateur et l’apprentissage par machine, touchant à divers domaines d’application tels que les humanités numériques, la sécurité spatiale, le biomédical, et le climat et l’environnement.
