C'è una domanda che i ricercatori di AI chiamano "problema dell'allineamento" e che, tradotta in termini semplici, suona così: come facciamo a fare in modo che un sistema di intelligenza artificiale faccia quello che vogliamo davvero, e non solo quello che gli abbiamo detto?
La distinzione è cruciale. Un sistema AI ottimizzato per massimizzare i click su una piattaforma potrebbe imparare, correttamente, che i contenuti indignanti generano più engagement — e quindi promuoverli, anche se questo polarizza la società. Non è un bug: è esattamente quello per cui è stato programmato. Il problema è che nessuno lo aveva davvero voluto.
Questo è l'allineamento: assicurarsi che i valori di un sistema AI corrispondano ai valori umani. Ma quali valori? Quelli di chi? Ogni scelta di design riflette una visione del mondo — chi costruisce questi sistemi incorpora inevitabilmente assunzioni culturali, priorità politiche, interpretazioni etiche.
Le grandi aziende tech hanno iniziato a pubblicare linee guida e principi etici per l'AI. Molti critici li vedono come esercizi di pubbliche relazioni. Qualcosa di più sostanziale sta emergendo nei laboratori di ricerca dedicati alla sicurezza AI — ma è un campo che si muove più lentamente dello sviluppo tecnologico.
La questione non è se l'AI avrà valori: li avrà comunque, per scelta o per omissione. La domanda è chi partecipa alla loro definizione. E finora, quella conversazione è rimasta troppo a lungo nelle mani di pochi.