Il team Ethics & Society in Microsoft supervisionava lo sviluppo dell’intelligenza artificiale: proprio in un momento così cruciale vengono meno i controlli che lo sviluppo della tecnologia avvenga nel rispetto dei princìpi etici. La sua diffusione è in corso – Bing sta riscontrando grande successo – e la situazione appare alquanto delicata.
Il management di Redmond, tuttavia, rassicura: resta attivo l’Office of Responsible AI, e gli investimenti su questo tema – dicono dall’interno – sono in crescita. Resta dunque inalterato l’impegno allo “sviluppo di prodotti ed esperienze di intelligenza artificiale in modo sicuro e responsabile. […] Negli ultimi sei anni abbiamo aumentato il numero di persone nei nostri team di prodotto e all’interno dell’Office of Responsible AI che, insieme a tutti noi di Microsoft, hanno la responsabilità di garantire che i nostri principi di intelligenza artificiale vengano messi in pratica“.
Nonostante l’immutato impegno da parte della società, la preoccupazione è che con l’azzeramento del team Ethics & Society venga meno il punto di collegamento tra la definizione dei princìpi etici applicati alla intelligenza artificiale e la sua effettiva applicazione. Un esempio è Judgment Call, gioco di ruolo inventato dal gruppo di lavoro per simulare i potenziali danni generati dall’AI: le informazioni raccolte venivano successivamente utilizzate per consentire che lo sviluppo del prodotto finale rispettasse i princìpi etici definiti dall’azienda. Un lavoro analogo è stato svolto per verificare le eventuali ricadute negative di ChatGPT sugli strumenti in cui questo veniva applicato.
Un ulteriore pericolo è l’urgenza: Microsoft ha fretta di rilasciare le nuove funzionalità basate sulla tecnologia di OpenAI, e questo non gioca certamente a favore della sicurezza e dell’etica. Serve tempo per esaminare gli impatti negativi: come spiega un dipendente, il team “è sempre stato profondamente preoccupato di come influenziamo la società e gli impatti negativi che abbiamo generato. E sono significativi“. Ma l’importanza che Bing arrivi prima degli altri ha scombussolato le regole, anche quelle interne: ogni punto percentuale tolto a Google nella ricerca sul web equivale a 2 miliardi di dollari in più nelle tasche di Microsoft, dicono a Redmond.