Al·lucinació (IA)
Una al·lucinació en intel·ligència artificial és quan un model genera informació falsa o inventada però la presenta amb total seguretat, com si fos certa i verificada.
Què és una al·lucinació?
Els models de llenguatge com ChatGPT o Claude no «saben» coses: prediuen quina és la paraula més probable a continuació. Per això, de vegades, generen dades, cites, xifres o fets que sonen creïbles però que són completament inventats. Aquest fenomen es coneix com a al·lucinació.
El més perillós no és que s’equivoquin, sinó que ho fan amb un to segur i convincent.
Per què passa?
- El model prioritza generar una resposta fluida abans que reconèixer que no ho sap
- Manca d’informació actualitzada o de fonts fiables en l’entrenament
- Preguntes ambigües o mal formulades
- Petició de dades molt específiques que el model no té
Com evitar-les
Per reduir les al·lucinacions cal escriure prompts clars i amb context, demanar al model que citi fonts o que indiqui quan no està segur, i verificar sempre les dades crítiques abans de publicar-les. En entorns professionals, contrastar la informació generada per IA és imprescindible.