Dimentica i robot! Ecco come l’IA ti catturerà
Il vero motivo per cui l’IA è più pericolosa dei software tradizionali
Tradotto da Felice Rocchitelli, originale di Cassie Kozyrkov
L’etica alla base dell’IA è un tema caldo al giorno d’oggi, puoi osservare diverse argomentazioni retoriche a tal proposito. I reclami vanno da “i robot mi hanno tolto il lavoro” a “il tuo sistema informatico è distorto quanto te (idiota).”
Come mai non stiamo discutendo di cosa renda il ML e l’AI più pericolose delle altre tecnologie?
Gli argomenti che emergono in relazione all’etica dell’IA sono vitali, puntuali e necessari. Continuiamo a discuterne! Vorrei solo che non usassimo il termine etica AI ogni volta che … non riguarda nemmeno l’IA.
Quando le discussioni sull’etica dell’IA non centrano il punto
Non prendetevela con il World Economic Forum (molto amore, ragazzi), ma trovo questo articolo del WEF sulle 9 principali questioni etiche nell’intelligenza artificiale un input conveniente per un esercizio rapido.
Molti argomenti di discussione sull’etica dell’IA non sono specifici dell’IA. Riguardano la tecnologia in generale e non sono una novità.
Prendi i titoli delle sezioni, sostituisci {“AI”, “robot”, “macchine”, “sistema intelligente”, “artificiale”} con “tecnologia” e vedi se continuano ad aver senso.
Quante delle loro “9 principali problematiche” sono specifiche dell’IA?
- Cosa accade dopo la fine dei lavori?
- Come possiamo distribuire il benessere creato dalla tecnologia?
- Come la tecnologia incide sul nostro comportamento e sulle nostre interazioni?
- Come possiamo proteggerci dagli errori?
- Come eliminiamo le distorsioni apportate dalla tecnologia?
- Come possiamo tenere la tecnologia al riparo dagli avversari?
- Come possiamo proteggerci da conseguenze inaspettate?
- Come mantenere il controllo sulla tecnologia complessa?
- Come definiamo il trattamento umano della tecnologia?
Le problematiche etiche 1–8 sono rilevanti per la tecnologia in generale e certamente per i software tradizionali su vasta scala. L’uso dell’IA per attirare l’interesse del pubblico nei suoi confronti mi ricorda i geologi che usano le rocce domestiche come ausili didattici. È tutto molto divertente fino a quando la lezione di geologia non si trasforma in psicologia delle rocce domestiche (numero 9).
L’uso dell’IA per indurre le persone a pensare all’etica nella tecnologia mi ricorda i geologi che usano le rocce domestiche come sussidi didattici. È tutto molto divertente fino a quando la lezione di geologia si trasforma in psicologia della rocce domestiche.
Se vuoi perpetuare il trattamento ingiusto delle persone, mettere in pratica soluzioni inefficaci, bloccare i mercati del lavoro, cambiare il modo in cui le persone interagiscono tra loro, distribuire cose con conseguenze indesiderate che cadono nelle mani sbagliate e creare un sistema complesso di cui non puoi liberarti , puoi fare tutto senza ML / AI. (Per favore non farlo.) Puoi anche avere una discussione produttiva su cosa significhino tutte queste cose per il nostro mondo senza mai invocare big data o reti neurali.
La singolarità può aspettare (per il suo premio Nebula).
Quindi, c’è un problema specifico del ML/IA? Ovviamente! È la singolarità? Non corriamo troppo. La singolarità può aspettare (per il suo premio Nebula). C’è un candidato molto più urgente che riassume ciò che l’ML/AI di oggi è in realtà …
L’IA contro i robot
Cosa c’è di bello nell’IA? Ti permette di automatizzare l’ineffabile! È possibile utilizzare i modelli che si annidano nei dati invece di dover meditare su una soluzione personale. Ti rendi conto di quanto sia potente? Significa che anche se non riuscissi a trovare delle istruzioni, potresti comunque essere in grado di automatizzare il tuo compito. Cosa si può volere di più? La personalità? Umani sostitutivi? Singolarità? Fermi. L’intelligenza artificiale non è questo. Venderla come umanoidi cromati sfrutta l’ignoranza del pubblico … e ti distrae dal vero pericolo.
I robot sono solo un altro tipo di roccia domestica. Dai, metti adesivi per gli occhi finti sul tuo aspirapolvere, so che lo vuoi.
Se usiamo la nostra energia mentale preoccupandoci delle cose sbagliate, ci perderemo le parti di cui dovremmo davvero preoccuparci. Non dovresti lasciare che i poeti ti mentano.
Il modo in cui il termine AI viene utilizzato oggi non riguarda lo sviluppo di entità simili a entità umane che abbiano una propria personalità. (Il termine migliore è HLI.) È un insieme di strumenti per scrivere software in un modo diverso, che consente di programmare con esempi (dati) anziché istruzioni esplicite.
“L’IA è un insieme di strumenti che consente di programmare con esempi (dati) anziché istruzioni esplicite.”
Alla ricerca della promessa dell’IA? Che ne dici del pericolo dell’IA? Sono entrambi presenti proprio nell’ultima citazione. Guarda da vicino…
Livelli di distrazione
Immagina di voler automatizzare un lavoro che impiega 10,000 step. Nella programmazione tradizionale, una persona deve lavorare ad ognuna di queste piccole istruzioni.
Nella programmazione tradizionale, ogni istruzione è esplicitamente prodotta da mani umane.
Pensa a 10K pezzi LEGO che devono essere organizzati da mani umane. Poiché gli sviluppatori sono fortunatamente impazienti, impacchettano alcune parti in modo che non debbano ripetersi. Invece di lavorare con 10.000 bit sciolti, puoi scaricare alcuni dei pacchetti che altre persone hanno già messo insieme, così stai lavorando a un livello di astrazione più alto — devi solo mettere insieme 50 costruzioni LEGO pre-costruite di 200 piccoli blocchi ciascuna . Se ti fidi del lavoro delle persone che hanno impacchettato questi assemblati LEGO, non è necessario pensare ai dettagli dei singoli blocchi. Puoi collegare il pezzo del tetto al pezzo di casa invece di pensare al livello di piastrelle e mattoni. E comunque chi ha tempo per farlo? (Forse, quando hai finito, impacchetterai il tuo capolavoro da 10K in modo che qualcuno che fa un’epopea da 100K possa installarlo e risparmiare tempo. Tutti salutano GitHub!)
Ma ecco il punto: anche se non dovevi fare tutto da solo (grazie al cielo), ogni istruzione tra quei 10.000 passi ha tormentato un cervello umano … e questa è la parte che va via con ML/IA.
Il machine learning ti porta da un alto livello di astrazione a un nuovo livello di distrazione.
C’è molto da sbuffare nell’ingegneria del ML/IA, ma la maggior parte del lavoro consiste nel far girare e nel lottare con strumenti ostili. Potresti scrivere 10K righe di codice nel tuo progetto, ma la maggior parte è utilizzato per convincere quegli strumenti ingombranti ad accettare le tue istruzioni. Man mano che gli strumenti migliorano, alla fine vedrai che ci sono solo due istruzioni reali in ML/IA:
È tutto. Ora puoi usare due linee di pensiero umano per automatizzare il tuo compito invece di 10.000. È bellissimo — e spaventoso!
Quali lavori è davvero in grado di automatizzare l’IA?
Alcuni compiti non sono molto importanti ed è favoloso il fatto che noi possiamo toglierli di mezzo senza pensarci troppo. Puoi fare le cose più velocemente! Puoi fare le cose anche se non sai come fare! Questa è la fonte della frenesia, che vi è riguardo il ML e l’IA, che stanzia tra coloro che non sono accecati dalla fantascienza — e tale frenesia è reale.
ML/IA consente agli esseri umani di evitare di scrivere quei 10.000 passaggi espliciti della soluzione e invece crea automaticamente quelle 10.000 linee (o qualcosa del genere) creando una soluzione partendo dagli schemi presenti negli esempi forniti dallo sviluppatore.
La differenza fondamentale è la quantità di premura insita.
Preparati a farti saltare la testa se non hai mai riflettuto su quali lavori il ML e l’IA automatizzano effettivamente:
Uno sviluppatore automatizza/accelera il lavoro di altre persone.
Il ML e l’IA automatizzano/accelerano il lavoro dello sviluppatore.
Invece di codificare “fai questo, poi questo, poi questo, poi …” puoi dire, “cerca di ottenere un buon punteggio su questi dati”. In altre parole, “ecco cosa mi piace, fammi sapere quando uno delle tue scimmie da macchina da scrivere arriva lì.”
(Non preoccuparti, c’è un sacco di lavoro da fare per preparare gli insiemi di dati affinché gli algoritmi si degnino di eseguirli, quindi gli ingegneri del software non andranno fuori moda. Il modo in cui lavorano è pronto a cambiare, però, poiché questi passano dal dire al computer cosa fare tramite le istruzioni al dirgli cosa fare attraverso i dati.)
Spensieratezza abilitata
È tempo per la battuta finale! Ecco il problema più immediato nel ML e nell’IA: spensieratezza abilitata.
Quando è in gioco il benessere dei nostri simili, la mancanza di riflessione è un pericolo. Il ML e l’IA sono attivatori di spensieratezza.
Quando sarà importante, chiunque sarà responsabile del progetto metterà davvero in conto 5.000 istruzioni in ciascuna di quelle 2 linee di ML e IA? Davvero davvero?
Quali esempi?
ML / AI consiste nell’esprimersi con esempi, quindi hai la sfortunata opzione di indirizzare il tuo sistema su un insieme di dati senza mai verificare che ciò che è dentro siano esempi pertinenti, imparziali e di alta qualità. E ora per la lezione di Hemmingway su da dove viene il pregiudizio nell’IA …
Il pregiudizio nell’IA: esempi inappropriati, ma esaminati.
Quali obiettivi?
Hai anche tutto il palcoscenico per scegliere in modo irriverente un obiettivo che suona bene nella tua testa e si rivela essere una terribile idea. “Cattura più spam possibile” è qualcosa che un leader potrebbe dire a uno sviluppatore umano in attesa di un filtro solido e sensibile. Dillo allo stesso modo a un algoritmo IA e presto inizierai a chiederti perché non arrivano nuove e-mail. (Risposta: contrassegnare tutto come spam ottiene un punteggio perfetto sul tuo obiettivo dichiarato).
Ogni sciocco può tirar fuori un obiettivo irriverente. Sfortunatamente, un sistema di apprendimento li terrà per esso.
Tutto ciò è aggravato da uno strano misticismo che si aggrappa alle parole “cervello” e “matematica”: sospetto che induca le persone a pensare ancora meno a ciò che stanno facendo quando scelgono i loro obiettivi ed esempi. Ahimè, non ci sono cervelli qui ma il tuo e la matematica sono un piccolo strato di obiettività nel mezzo del tuo sandwich di soggettività.
La matematica è un piccolo strato di obiettività nel mezzo del tuo sandwich di soggettività.
Oh caro. Man mano che gli strumenti miglioreranno, le barriere all’ingresso saranno così basse che passerai sopra di loro sulla strada per il bagno … il che è ottimo per piccoli progetti personali. Ma quando si tratta di progetti con il potere di influenzare gli altri, il ML e l’IA richiedono che i responsabili facciano più sforzi, non meno. Richiede una leadership qualificata. Siamo all’altezza della sfida?
Tecnologia, la grande leva
La tecnologia migliora il nostro mondo, espande i nostri orizzonti, ci dà vite più lunghe e consente alla nostra specie di nutrirsi da sola nonostante il nostro bisogno sfrenato di moltiplicarci in miliardi. Può anche sorprendere, destabilizzare e ridistribuire. Più si ridimensiona, più può essere dirompente. È una leva che espande il potenziale umano, ma ogni volta che ti ingrandisci con la tecnologia, fai attenzione! È più facile calpestare le persone intorno a te.
Quando otteniamo maggior potere attraverso la tecnologia, è facile calpestare chi ci sta attorno.
Anche se molti dei problemi legati all’etica dell’IA non sono specifici dell’IA, l’IA potrebbe causare un’infiammazione aggiuntiva in alcuni punti dolenti. Ecco perché ha senso che quelle discussioni stiano vedendo un rinnovato vigore.
Una ricetta per la negligenza amplificata
Se mi chiedessi se avessi paura dell’IA, quello che sentirei chiedermi è se abbia paura della negligenza umana. Questo è l’unico modo in cui la domanda ha senso per me, dal momento che non credo nelle favole dei robot o nel parlare con animali domestici.
Via, etica della creazione della vita artificiale.
Ciao, etica della spensieratezza su scala.
Prendi quella lista di 9 argomenti con cui abbiamo iniziato e aggiungi una maggior scala e velocità. Quando aggiungi un attivatore di spensieratezza a questa equazione, ottieni una ricetta per la negligenza rapidamente amplificata.
La parte spaventosa dell’IA non sono i robot. Sono le persone.
Con un maggiore potere derivano maggiori responsabilità, ma le persone si stanno affrettando nel costruire nuovi muscoli necessari per una leadership responsabile in una società alimentata da dati su larga scala? Non c’è da meravigliarsi se ci preoccupiamo di essere calpestati.
Ho paura dell’IA?
No.
Sono ottimista sul futuro dell’IA e dell’umanità, ma sto anche facendo tutto il possibile per non lasciarlo al caso. Sono convinto che si possano insegnare le competenze per una leadership responsabile nell’era dell’IA e che le persone possano costruire saggiamente sistemi sicuri ed efficaci, guidando i progressi e migliorando la vita di coloro che li circondano. Ecco perché io (e altri come me) scelgo di intensificare e condividere ciò che abbiamo appreso nel modo più duro, attraverso l’esperienza o il gironzolando tra discipline accademiche precedentemente considerate insulse.
L’IA è il modo in cui sorpassiamo i frutti a portata di mano per risolvere i problemi più difficili dell’umanità.
Mentre mettiamo insieme la nostra raccolta di voci per formare una nuova generazione di leader competenti nell’ingegneria decisionale, speriamo di aiutare le nuove generazioni a costruire, più attentamente, l’IA e sbloccare il lato migliore della tecnologia. Lo stesso lato che ci porta alle stelle, ci libera dalle malattie, dissolve l’ignoranza, conserva le risorse e ci collega ai propri cari attraversando il mondo.
La tecnologia può essere meravigliosa, se solo lasciamo che lo sia…e credo che lo faremo.
