Oltre l'ottimismo e la paura
Il discorso sull'IA è spesso diviso tra due campi insoddisfacenti. Uno tratta l'IA come salvezza inevitabile: un motore generale di produttività, medicina, educazione, creatività e abbondanza. L'altro la tratta come una catastrofe imminente: una forza di disoccupazione, sorveglianza, manipolazione, dipendenza e collasso istituzionale.
Entrambe le cornici contengono frammenti di verità. Nessuna è sufficiente per la governance. La vera domanda non è se l'IA sia buona o cattiva. La vera domanda è in quali condizioni l'IA migliora la vita umana, in quali condizioni estrae valore dalla società e quali salvaguardie sono necessarie prima che il dispiegamento diventi irreversibile.
Un'iniziativa seria su IA e Società dovrebbe quindi iniziare con un registro d'impatto.
Cosa misura un registro d'impatto
Un registro d'impatto dell'IA traccerebbe più della performance tecnica. Chiederebbe se un sistema migliora il dominio che entra, o semplicemente riduce i costi all'interno di un'organizzazione mentre esporta danni altrove.
Nell'educazione, l'IA migliora la comprensione o produce dipendenza fluente? Nel giornalismo, amplia l'accesso all'informazione o inonda la sfera pubblica con rumore sintetico a basso costo? Nella salute, migliora diagnosi e cura o crea sistemi di triage opachi che i pazienti non possono contestare? Nel lavoro, aumenta la capacità umana o dissolve i percorsi di ingresso attraverso cui normalmente si forma l'expertise?
Il registro deve includere i benefici. Deve anche includere le esternalità: costi dell'attenzione, uso dell'energia, estrazione dei dati, dequalificazione, amplificazione dei bias, lacune di responsabilità, dipendenza psicologica e vulnerabilità democratica.
La sostenibilità non è solo ambientale
L'IA sostenibile viene spesso discussa in termini di energia, chip e data center. Queste questioni contano. Ma conta anche la sostenibilità sociale.
Una società può adottare sistemi tecnicamente efficienti ma socialmente corrosivi. Può ridurre i costi amministrativi mentre aumenta la solitudine. Può personalizzare l'educazione mentre indebolisce gli standard condivisi. Può automatizzare il servizio clienti mentre normalizza l'irraggiungibilità istituzionale. Può generare contenuti infiniti mentre degrada le condizioni culturali che rendono significativa la creazione.
La questione della sostenibilità è quindi più ampia: questo sistema può scalare senza indebolire le fondamenta umane, civiche, culturali ed ecologiche da cui dipende?
L'etica dopo il dispiegamento
Molte organizzazioni trattano l'etica dell'IA come un requisito di lancio: un documento di policy, una revisione dei rischi, una checklist di conformità. Ma i danni più importanti possono apparire dopo il dispiegamento, quando gli utenti si adattano, gli incentivi cambiano, i casi limite si accumulano e il sistema diventa infrastruttura.
L'etica deve quindi essere continua. Richiede monitoraggio, meccanismi di ricorso, audit indipendenti, segnalazione degli incidenti, consultazione dei lavoratori, spiegazione pubblica e il diritto di sospendere o invertire sistemi che falliscono nella pratica.
Lo scopo di un think tank su IA e Società non dovrebbe essere rallentare l'innovazione per se stessa. Dovrebbe rendere l'innovazione più duratura assicurando che gli esseri umani restino più importanti dei sistemi costruiti per servirli.