Axe données et intelligence artificielle

1. L'étude de la transformation numérique de la gouvernance des institutions et des organisations

Les données transforment depuis longtemps déjà les modes de gestion et de gouvernance des organisations (entreprises, administrations...) et des institutions sociales ou politiques, en les rendant plus flexibles et plus réactives aux situations particulières, mais en créant également une complexité nouvelle et de nouveaux rapports de force techniques et économiques, basés sur l'asymétrie d'information. Dans le domaine marchand par exemple, les assurances comportementales, les moteurs de recommandation, la publicité dynamique, ou les enquêtes de satisfaction, sont présentés comme des outils de personnalisation, mais ils créent de nouvelles sources d'avantage pour les acteurs ayant un accès privilégié aux données. Par ailleurs, dans de très nombreux domaines d'activité, des visions radicales de refonte des institutions par la technologie sont proposées, comme par exemple en médecine. 

2. L'étude du traitement des données dans les grands modèles d'IA

Les assemblages de données, les algorithmes utilisés, mais également les contrôles humains de l'apprentissage établissent des modèles de représentation fondés sur des associations sémantiques profondes, qui peuvent rigidifier des biais latents, voire créer de nouveaux biais. Ainsi, par exemple les modèles d'IA en santé, ont une efficacité moindre sur les populations discriminées. Au-delà des questions de discrimination, il s'agit plus généralement d'identifier comment il est possible d'embarquer des exigences éthiques et démocratiques dans le processus même de développement, de test, de mise sur le marché et d'évaluation des modèles. 

Projet associé: Santé numérique en société

3. Le développement d'un système avancé de recommandations pour les séries TV

Si visionner des séries télévisées s’est inscrit au fil des années comme une activité centrale de la forme de vie contemporaine, les spectateurs ont de plus en plus de mal à se retrouver dans la masse et la variété de l’offre. Le projet RECO+ vise à mettre en place un système avancé de recommandation sérielle, répondant à la fois aux exigences croissantes de l’industrie des séries et aux besoins et intérêts des téléspectateurs, notamment en fonction de leurs compétences, demandes et préférences éthiques. RECO+ vise à changer le paradigme de la recommandation en explorant le contenu (vidéo, textuel, scénaristique) des séries plutôt qu’en traçant les comportements individuels de visionnage. RECO+ se concevra de manière conviviale, en s’appuyant sur une IA pourvue par l’agrégation de données multimodales, interactive et générative. RECO+ s’articule autour de critères éthiques tels que la diversité, l’inclusivité et la durabilité. Il sera accessible au grand public, tout en étant indépendant des recommandations des diffuseurs. 

Projets associés : Eupraxie (PEPR Iccare), Reco+.

4. L’usage des données dans l’expertise et la prise de décision

L’exploitation des vastes ensembles de données soulève des questions cruciales liées à leur gestion, leur interprétation, et leur impact sur les processus décisionnels, qu’ils soient juridiques ou de gouvernance. Ces données sont mobilisées dans des contextes variés : pour résoudre des conflits, déterminer des droits, définir des politiques publiques, financer des projets ou analyser des tendances sociales et des marques d’appartenance à des groupes spécifiques. Cependant, ces pratiques peuvent renforcer des biais, refléter et perpétuer des dynamiques inégalitaires et poser des défis en termes d’éthique et de représentativité. La gestion de ces défis acquiert de nouvelles facettes lorsque ces données sont médiatisées par des algorithmes ou des systèmes d’intelligence artificielle. Bien que ces technologies offrent un potentiel considérable pour améliorer l’efficacité et la précision des décisions, elles introduisent également des enjeux supplémentaires. En effet, ces systèmes peuvent amplifier les biais existants, confirmer des opacités dans les processus décisionnels et perpétuer des dynamiques inégalitaires. Ainsi, une réflexion approfondie est nécessaire sur les méthodes d’analyse, les protocoles de transparence, et les dispositifs de contrôle humain afin de garantir une utilisation des données qui soit équitable, éthique et respectueuse des principes de justice sociale. 

Projet associé: CULTEXP, k-Peritia, au sein de Cultural-expert

5. Les exigences du développement d'une IA éthique

De nombreuses approches ont été proposées afin d’assurer le développement d’une IA éthique, par exemple en établissant des codes de conduite pour les développeurs, en intégrant des critères moraux dans les algorithmes, ou encore en concevant des méthodes systématiques pour éviter de biaiser les moteurs d’IA. Il s’agit de mettre en débat ces différentes approches, dans une perspective “Ethics by design” qui met le soin (care) au centre du processus d’innovation. 

6. L'évaluation du gaspillage numérique

Il s'agit d'apprécier la proportion et souvent de la disproportion entre les bénéfices d'une activité numérique et son coût économique et environnemental, comme la tendance des requêtes d'information à migrer vers les agents conversationnels avec un coût de traitement disproportionné.