Sempre più spesso troviamo allucinazioni nella AI

L’essere umano si ammala, è nella sua natura farlo. Fa parte dell’evoluzione, mi verrebbe da dire.
Allo stesso modo il fatto che l’AI spari allucinazioni, sempre più spesso, non dovrebbe sorprendere. Fa parte della sua natura, è parte del problema, è una cosa strutturale, finchè la tecnologia alla base della AI è quella degli LLM.

Detto questo, è stato rilevato che la nuova versione del modello DeepSeek-R1 allucina 4 volte più spesso rispetto alla versione precedente. Dalle analisi che sono state fatte, sembra che DeepSeek-R1 cerchi di aiutare l’utente estrapolando o correlando informazioni non presenti nel modello originale, ed in questi frangenti è ovvio che la capacità di “ragionamento” dell’intelligenza artificiale non dia proprio il meglio di sé.

Questo grosso problema può essere affrontato in molti modi, ovviamente. Chi sviluppa l’AI – in questo caso parliamo del laboratorio cinese DeepSeek – è una questione estremamente complessa da risolvere, a tratti persino filosofica. Per tutti gli altri, noi comuni mortali che l’AI la sfruttiamo in qualche modo, la cosa ha dei risvolti pratici piuttosto impattanti, dipendentemente dallo scenario d’uso: guida autonoma, automazione di scrittura del codice, generazione di articoli/testi/video, e così via.

Cosa accade se non riusciamo a rilevare l’allucinazione?

Fonte ITA
https://it.finance.yahoo.com/notizie/deepseek-r1-genera-allucinazioni-4-200307391.html