Ai computer non dovremmo delegare la saggezza

Tutte le tecnologie che cadono sotto il grande cappello denominato AI sono sicuramente tecnologie interessanti e molto potenti, che come è già accaduto in passato non faranno altro che spostare un po’ più in là le nostre possibilità. Eppure tutto questo mi interessa fino ad un certo punto.

Perchè quando una tecnologia minaccia il clima, scatena potenziali disoccupazioni, è il principale colpevole di video fake, ci fa stare sempre di più incollati agli schermi, allora è soprattutto una questione etica.

Quello che vi propongo oggi è quindi un estratto dal capitolo 7 “Credi che ci sia speranza dopo l’hype?”, dal libro “L’inganno dell’intelligenza artificiale”, di Emily M. Bender & Alex Hanna. L’estratto che vi riporto – e che ho trovato molto interessante – arriva a sua volta da un intervento di Weizenbaum.

I computer possono prendere decisioni giuridiche, e formulare giudizi psichiatrici. Essi sanno lanciare la moneta in modo più sofisticato di quanto non possa anche il più paziente tra gli esseri umani. Il punto è che questi compiti non devono essere loro affidati. Può anche darsi che in certi casi sappiano arrivare a decisioni “corrette”; ma sempre e necessariamente su basi che nessun essere umano dovrebbe accettare.
Ci sono molti stati molti dibattiti su “Il computer e la mente”. La mia conclusione qui è che le questioni pertinenti a questo tema non sono mai tecnologiche nè matematiche: sono etiche. E non possono essere risolte ponendo domande che incominciamo con “Può…?”. I limiti di applicabilità dei computer possono in definitiva essere stabiliti soltanto a base di “Si deve…?”. La più elementare regola che emerge è che, visto che non abbiamo alcun modo per rendere saggi i computer, non dobbiamo dar loro compiti che richiedano saggezza”.

Fonti per questo post
Libro: https://www.amazon.it/Linganno-dellintelligenza-artificiale-resistere-costruire-ebook/dp/B0GPQ992MB
Joseph Weizenbaum: https://it.wikipedia.org/wiki/Joseph_Weizenbaum