Au-delà de l'optimisme et de la peur
Le discours sur l'IA est souvent divisé entre deux camps insatisfaisants. L'un traite l'IA comme un salut inévitable : moteur général de productivité, médecine, éducation, créativité et abondance. L'autre la traite comme catastrophe imminente : chômage, surveillance, manipulation, dépendance et effondrement institutionnel.
Les deux cadres contiennent des fragments de vérité. Aucun ne suffit à la gouvernance. La vraie question n'est pas de savoir si l'IA est bonne ou mauvaise. La vraie question est : dans quelles conditions l'IA améliore-t-elle la vie humaine, dans quelles conditions extrait-elle de la valeur à la société, et quelles garanties sont requises avant que le déploiement ne devienne irréversible ?
Une initiative sérieuse IA et société devrait donc commencer par un registre d'impact.
Ce qu'un registre d'impact mesure
Un registre d'impact de l'IA suivrait plus que la performance technique. Il demanderait si un système améliore le domaine qu'il entre, ou réduit seulement les coûts au sein d'une organisation en exportant le dommage ailleurs.
En éducation, l'IA améliore-t-elle la compréhension, ou produit-elle une dépendance fluente ? En journalisme, élargit-elle l'accès à l'information, ou inonde-t-elle la sphère publique de bruit synthétique à faible coût ? En santé, améliore-t-elle diagnostic et soins, ou crée-t-elle des systèmes de triage opaques que les patients ne peuvent contester ? Au travail, augmente-t-elle les capacités humaines, ou dissout-elle les voies d'entrée par lesquelles l'expertise se forme habituellement ?
Le registre doit inclure les bénéfices. Il doit aussi inclure les externalités : coûts attentionnels, énergie, extraction de données, déqualification, amplification des biais, lacunes de responsabilité, dépendance psychologique et vulnérabilité démocratique.
La durabilité n'est pas seulement environnementale
L'IA durable est souvent discutée en termes d'énergie, de puces et de centres de données. Ces questions comptent. Mais la durabilité sociale compte aussi.
Une société peut adopter des systèmes techniquement efficaces mais socialement corrosifs. Elle peut réduire les coûts administratifs tout en augmentant la solitude. Elle peut personnaliser l'éducation tout en affaiblissant des standards partagés. Elle peut automatiser le service client tout en normalisant l'inaccessibilité institutionnelle. Elle peut générer un contenu infini tout en dégradant les conditions culturelles qui rendent la création significative.
La question de durabilité est donc plus large : ce système peut-il monter en échelle sans affaiblir les fondations humaines, civiques, culturelles et écologiques dont il dépend ?
L'éthique après le déploiement
Beaucoup d'organisations traitent l'éthique de l'IA comme une exigence de lancement : document de politique, revue des risques, checklist de conformité. Mais les dommages les plus importants peuvent apparaître après le déploiement, lorsque les usages s'adaptent, que les incitatifs bougent, que les cas limites s'accumulent et que le système devient infrastructure.
L'éthique doit donc être continue. Elle exige suivi, recours, audits indépendants, signalement d'incidents, consultation des travailleurs, explication publique, et le droit de suspendre ou d'inverser des systèmes qui échouent en pratique.
Le rôle d'un think tank IA et société ne devrait pas être de ralentir l'innovation pour elle-même. Il devrait rendre l'innovation plus durable en veillant à ce que les êtres humains demeurent plus importants que les systèmes construits pour les servir.