Per què la IA al·lucina
Un model de llenguatge com ChatGPT, Claude o Gemini no consulta cap base de dades quan li preguntes alguna cosa. Escriu la resposta paraula a paraula, triant a cada pas el que és més probable que vingui després segons tot el que va veure en entrenar-se. Gairebé sempre, el que és probable i el que és cert coincideixen. Quan no coincideixen (una dada rara, recent, molt concreta o que no va llegir mai), el model no s’atura: completa amb alguna cosa que sona bé.
El que és interessant és per què no diu simplement «no ho sé». Al setembre de 2025, OpenAI va publicar un estudi amb una explicació molt planera: els models s’avaluen com en un examen tipus test on no es resta per fallar. Si no saps la resposta i t’hi arrisques, de vegades l’encertes. Si la deixes en blanc, és un zero segur. Així que el model aprèn a arriscar-s’hi.
Hi van posar un exemple amb un dels seus autors, Adam Tauman Kalai: van preguntar a un xatbot molt utilitzat el títol de la seva tesi doctoral i en va donar tres de diferents, tots falsos. Li van preguntar l’aniversari i va donar tres dates, totes falses.
Fes la prova: el mateix examen, dues maneres de corregir
Dades reals d’OpenAI: dos dels seus models responent el mateix test de preguntes de dades (SimpleQA). Canvia la manera de puntuar i mira qui guanya.
| Model | Encerta | S’equivoca (al·lucina) | Diu «no ho sé» |
|---|---|---|---|
| Model A (gpt-5-thinking-mini) | 22 % | 26 % | 52 % |
| Model B (o4-mini) | 24 % | 75 % | 1 % |
Guanya el model B, per dos punts. És el que gairebé mai no diu «no ho sé»… i per això s’equivoca tres de cada quatre vegades. Amb aquesta manera de corregir, inventar surt a compte.
Guanya el model A, i de molt. Encerta una mica menys, però quan no ho sap, ho diu. Si equivocar-se costa, callar a temps val més que encertar per xamba.
Font: OpenAI, «Why language models hallucinate», 5-9-2025 (taula de SimpleQA de la fitxa tècnica de GPT-5). Puntuació «una errada resta un punt»: +1 per encert, −1 per error, 0 per «no ho sé»; és meva, per il·lustrar la idea de l’estudi.
La teva feina amb la IA s’assembla més a la segona manera de puntuar: una dada inventada en una proposta et resta molt més del que et suma una de bona. Per això convé donar-li permís explícit per dir «no ho sé» i, sobretot, comprovar.
L’estudi també desmunta dues idees que es repeteixen molt: que les al·lucinacions s’acabaran quan els models siguin més grans (la precisió no arribarà mai al 100 %, perquè hi ha preguntes que no tenen resposta comprovable) i que són inevitables (no ho són: un model es pot abstenir quan no n’està segur).
Tipus d’al·lucinació, amb exemples
No totes es veuen igual. Aquestes són les quatre que més em trobo treballant en màrqueting:
%
La dada inventada
Una xifra precisa, amb decimals, que no surt d’enlloc. És la més perillosa perquè els números donen sensació de rigor.
«El 67,3 % dels compradors B2B…» sense font, o amb una que no ho diu.
“ ”
La cita que ningú no va dir
Una frase entre cometes atribuïda a una persona real, un jutge o un directiu. Sona a alguna cosa que aquella persona diria, i aquí hi ha el parany.
És el que va passar a l’informe de Deloitte per al Govern australià.
[?]
La font fantasma
Un estudi, una sentència o un article amb autor, any i títol creïbles que no existeix. De vegades amb enllaç: un enllaç que dona 404 o que porta a una altra cosa.
Les 48 sentències del Suprem que va citar un advocat a Canàries.
≠
La font real que no diu això
La més difícil d’enxampar: l’estudi existeix, però la dada és d’un altre país, d’un altre any o d’una altra pregunta. Passa la primera comprovació i falla la segona.
Una dada dels Estats Units de 2019 presentada com «el mercat» a la teva proposta de 2026.
Anatomia d’una al·lucinació
Així és com sol arribar. Cada número marca una pista:
Exemple hipotètic · inventat per a aquesta fitxa
Dona’m una dada del mercat de programari de RH per a pimes a Espanya, amb font, per a una proposta.
I tant! Segons l’Informe de Digitalització de Pimes 2025 de l’Associació Espanyola de Programari, el 43,7 % de les pimes espanyoles ja fa servir un programari de RH al núvol, i s’espera que la xifra es dupliqui en els propers tres anys.
El pots consultar aquí: aese.es/informes/digitalizacion-pymes-2025
- Nom d’informe «perfecte» Encaixa exactament amb el que demanaves. Els informes reals poques vegades es diuen com la teva pregunta.
- Precisió sospitosa Un decimal dona sensació de mesura. Pregunta’t qui ho va mesurar i quan, i sobre quantes empreses.
- Projecció sense autor «S’espera que…» Qui ho espera? Les previsions també necessiten un amo.
- Enllaç que no has obert Una URL ben formada no prova res. Obre-la: si dona 404 o porta a una altra cosa, tot l’anterior cau.
L’informe, l’associació, la xifra i l’enllaç són inventats a posta per a aquesta fitxa.
Casos reals que van costar diners
Les al·lucinacions deixen de ser una curiositat quan arriben a un tribunal, a un client o al web de la teva empresa. On millor es veu és a l’advocacia, perquè allà cada cita es pot comprovar i algú la comprova.
2.241casos en tribunals de tot el món
És el recompte de la base de dades de Damien Charlotin, investigador que recull resolucions judicials en què es va detectar contingut inventat per IA: sentències que no existeixen, cites falses, arguments atribuïts a qui no els va fer. 8 són d’Espanya.
Font: AI Hallucination Cases, Damien Charlotin, actualitzada el 29-10-2026.
Juny de 2023 · Nova York · Mata contra Avianca
L’advocat que va preguntar a ChatGPT si els casos eren reals
Dos advocats van presentar un escrit contra l’aerolínia Avianca amb almenys sis sentències que no existien. Un d’ells havia preguntat a ChatGPT si un d’aquells casos era real. Li va contestar que sí, que «existeix i es pot trobar en bases de dades jurídiques com Westlaw i LexisNexis».
Multa 5.000 $
Jutge P. Kevin Castel, Districte Sud de Nova York. Fonts: CNN, 27-5-2023; Wikipedia, «Mata v. Avianca, Inc.».
Febrer de 2024 · Canadà · Moffatt contra Air Canada
El xatbot que es va inventar una política de reemborsaments
Un client va preguntar al xatbot d’Air Canada per la tarifa reduïda per defunció d’un familiar. El bot li va dir que podia volar primer i demanar el descompte després, en els 90 dies posteriors a la compra del bitllet. No era la política de l’aerolínia. Air Canada va al·legar que no responia del que digués el seu xatbot. El tribunal no s’ho va empassar:
«Hauria de ser obvi per a Air Canada que és responsable de tota la informació del seu web».
Christopher C. Rivers, Civil Resolution Tribunal de la Colúmbia Britànica (traducció meva)
Condemna 812,02 CA$
Moffatt v. Air Canada, 2024 BCCRT 149, 14-2-2024. Pocs diners, molt precedent: si poses un xatbot al teu web, el que diu és teu.
Octubre de 2025 · Austràlia · Deloitte
Un informe de consultora amb referències que no existien
Deloitte va lliurar al Departament d’Ocupació australià un informe per un contracte de gairebé 440.000 dòlars australians. Després dels dubtes de diversos acadèmics, es va veure que tenia referències a informes inexistents (dotze a un d’atribuït a un professor de la Universitat de Sydney) i una cita inventada d’una sentència federal. Deloitte va reconèixer que havia fet servir IA generativa en part de la feina i va acceptar retornar l’últim pagament del contracte.
Devolució parcial
Fonts: Information Age (ACS), 7-10-2025; Region Canberra, 8-10-2025. L’import retornat no es va fer públic.
Febrer de 2026 · Canàries, Espanya · TSJ de Canàries, Sala Penal
48 sentències del Suprem que el Suprem no va dictar mai
Un advocat va recórrer una sentència citant fins a 48 resolucions del Tribunal Suprem i un informe del CGPJ. Cap no existia. Va reconèixer que les havia tret d’una eina d’IA generalista sense comprovar-les. El tribunal el va multar amb 420 euros, més o menys la meitat del que costa a l’any una eina d’IA especialitzada en dret, i ho va comunicar al Col·legi d’Advocats:
«Debiendo el profesional entender la herramienta como asistencial y nunca como decisoria».
Tribunal Superior de Justícia de Canàries
Multa 420 €
Font: Comunicación Poder Judicial (CGPJ), 13-2-2026. En un cas semblant, el TSJ de Navarra va arxivar l’expedient sense multa perquè l’advocada va demanar perdó i va retirar les cites (El Español, 4-4-2026).
El que tenen en comú: en cap cas no va servir d’excusa que ho hagués escrit una IA. El responsable va ser sempre qui ho va signar, ho va presentar o ho va posar al seu web.
El que m’ha passat a mi
Jordi RobertConstrueixo aquest web i el seu connector multilingüe, RobertML, amb IA
Aquest web, el seu tema i el connector que el tradueix a set idiomes els estic construint amb IA. I l’al·lucinació que més m’ha costat no va ser una dada de mercat: va ser una línia de codi.
A WordPress hi ha dos «ganxos» que es diuen gairebé igual i es disparen quan es crea una categoria. La IA va donar per fet que tots dos rebien el mateix. No és així:
// Es disparen en crear un terme (una categoria, una etiqueta…)
created_term( $term_id, $tt_id, $taxonomy, $args )
✓ la tercera dada és la taxonomia
created_{$taxonomy}( $term_id, $tt_id, $args )
✗ la tercera dada és una altra cosaEl codi semblava perfecte, s’explicava amb seguretat i no donava cap error. Simplement no feia el que havia de fer. Trobar-ho ens va costar una tarda. Des d’aleshores, al projecte hi ha una regla escrita: qualsevol afirmació sobre com funciona WordPress per dins es comprova a la documentació abans de tocar codi.
I preparant aquest mateix glossari, la IA em va donar per bo un volum de cerques de 9.900 al mes per a «customer lifetime value» a Espanya que ella mateixa havia marcat dos dies abans com un pic anòmal. Ho vam enxampar el mateix dia perquè l’avís estava apuntat a l’Excel.
El problema no és que la IA s’equivoqui: un becari també s’equivoca. És que s’equivoca amb la mateixa veu amb què encerta. Per això aquí la IA escriu esborranys, però les dades les signo jo.
Com detectar una al·lucinació: les tres comprovacions
És el mateix que explico al vídeo, però aquí pots anar marcant. Fes-ho servir amb qualsevol dada que hagi de sortir de la teva empresa: una proposta, una publicació, una presentació, una resposta del teu xatbot.
Abans de fer servir aquesta dada…
Obre la font original. No el resum de la IA: la font.
Encara no: aquesta dada no pot sortir del teu esborrany.
✓ La pots fer servir. Cita la font original, no la IA.
Senyals d’alarma
- Xifres amb decimals que ningú no t’ha ensenyat d’on surten.
- Un informe amb un nom que encaixa massa bé amb la teva pregunta.
- Cites textuals sense pàgina, minut o enllaç.
- Enllaços que no has obert (o que ningú no ha obert).
- Dates o dades molt recents: el model pot no conèixer-les.
- Temes de nínxol, noms propis poc coneguts i dades locals.
El que no funciona: preguntar a la mateixa IA si s’ho ha inventat. L’advocat de Nova York ho va fer, i li va dir que no.
Com reduir-les quan treballes amb IA
No es poden eliminar del tot, però es poden fer molt més rares. El que millor em funciona:
1. Dona-li tu les fonts
Una IA resumint un document que li passes s’equivoca molt menys que una IA contestant de memòria. És la idea darrere del RAG.
Fes servir només l’informe adjunt. Si alguna cosa no hi és, digues-ho.
2. Dona-li permís per no saber
És la lliçó de l’estudi d’OpenAI: si no l’hi demanes, el model prefereix arriscar-s’hi.
Si no estàs segur d’una dada, escriu «NO VERIFICAT» en lloc d’inventar-la.
3. Demana la cita literal i on és
Així la comprovació és un Ctrl+F i no una investigació.
Per a cada xifra, copia la frase exacta del document i digues a quina pàgina és.
4. Separa escriure de comprovar
Primer l’esborrany; després, una passada només per a dades, amb les tres comprovacions. Si la fa una altra persona, millor.
Activar la cerca web ajuda amb les dades recents, però no és una garantia: la IA pot llegir malament una font real o barrejar-ne dues. La comprovació continua sent teva.
Quina IA al·lucina menys?
Depèn de la tasca, i per això desconfio de qualsevol rànquing que doni una única xifra. La mesura pública més seguida és la de Vectara: demana a més de cent models que resumeixin més de 7.700 documents fent servir només el que hi diu, i mesura quantes vegades hi afegeixen alguna cosa que no hi era.
Percentatge de resums amb alguna cosa inventada
Menys és millor · Vectara, maig de 2026
| Model | Resums amb alguna cosa inventada |
|---|---|
| finix_s1_32b | 1,8 % |
| gpt-5.4-nano | 3,1 % |
| gemini-2.5-flash-lite | 3,3 % |
| o3-pro | 23,3 % |
| ministral-3-3b | 24,2 % |
Font: Vectara Hallucination Leaderboard (HHEM-2.3), actualitzat l’11-5-2026. Els tres millors i els dos pitjors de la llista. Mesura la fidelitat en resumir, no si una resposta de memòria és certa.
Dues coses que em criden l’atenció. La primera: entre els que més s’inventen hi ha o3-pro, un model de raonament; raonar més no vol dir ser més fidel al document. La segona: els millors continuen entre 2 i 3 resums de cada cent. Si el teu xatbot respon milers de preguntes al mes a partir dels teus documents, això són desenes de respostes amb alguna cosa inventada.
La meva conclusió pràctica: tria l’eina per la resta (preu, qualitat, integració) i munta el procés de comprovació igual amb totes.
El que es cerca a Espanya
Cerques mensuals a Google Espanya en castellà (Semrush, octubre de 2026). Les deixem com es busquen, perquè són les dades reals; aquesta fitxa les respon totes:
| Cerca (en castellà) | Al mes |
|---|---|
| alucinaciones ia | 170 |
| qué son las alucinaciones en un modelo de ia | 70 |
| por qué la ia alucina | 50 |
| alucinaciones ia ejemplos | 20 |
| qué ia alucina menos | 10 |
| cómo evitar alucinaciones en ia | 10 |
Curiositat: en anglès es cerca més (ai hallucination, 210 al mes a Espanya), però és molt més difícil de posicionar. I en castellà, «alucinar» també vol dir quedar-se parat. Que és just el que passa quan descobreixes que l’estudi no existeix.
Preguntes freqüents
Per què se’n diu «al·lucinació»?
Per analogia amb percebre alguna cosa que no hi és. Hi ha qui prefereix parlar de «confabulació» o simplement d’«errors», perquè «al·lucinar» humanitza el model. Però el terme s’ha quedat: és el que fan servir OpenAI, Google i la premsa, i el que cerca la gent.
Es poden eliminar del tot?
Segons OpenAI, la precisió no arribarà mai al 100 %, perquè hi ha preguntes sense resposta comprovable. El que sí que es pot fer és reduir molt els errors ensenyant el model a dir «no ho sé». A la pràctica, amb els models actuals, compta que alguna vegada passarà.
Si demano a la IA que citi fonts, ja no al·lucina?
No. Ajuda a revisar, perquè et dona alguna cosa per comprovar, però les fonts també es poden inventar. Va ser exactament el que va passar en els casos de Nova York, Austràlia i Canàries: les referències hi eren, amb bon format. No existien.
És el mateix una al·lucinació que un biaix?
No. Un biaix és una tendència sistemàtica en les respostes (per exemple, suposar que un directiu és un home). Una al·lucinació és una afirmació concreta que és falsa. Es poden donar alhora, però es detecten de manera diferent.
I si l’error el comet el xatbot del meu web?
És teu. És el que va decidir el tribunal en el cas d’Air Canada: el xatbot és part del teu web, i respons del que diu. Si en poses un, limita’l a la teva documentació i revisa el que contesta.
Afecta el SEO publicar contingut amb dades inventades?
Google no penalitza que el text estigui fet amb IA, sinó el contingut poc útil o poc fiable. Una dada falsa és totes dues coses, i a més et treu la confiança de qui la llegeix. I si la citen altres IA, l’error es multiplica amb el teu nom al costat.
Termes relacionats
Fonts
- OpenAI, «Why language models hallucinate», 5-9-2025. openai.com · estudi complet: arXiv 2509.04664.
- Damien Charlotin, AI Hallucination Cases database, consultada el 30-10-2026 (actualitzada el 29-10-2026). damiencharlotin.com.
- Moffatt v. Air Canada, 2024 BCCRT 149, 14-2-2024. Civil Resolution Tribunal.
- «Lawyer apologizes for fake court citations from ChatGPT», CNN, 27-5-2023. cnn.com.
- «Deloitte to refund government over AI errors», Information Age (ACS), 7-10-2025. ia.acs.org.au.
- «El TSJ de Canarias multa a un abogado por citar hasta 48 sentencias falsas sugeridas por IA», Comunicación Poder Judicial, 13-2-2026. poderjudicial.es.
- «Una abogada que citó en un recurso sentencias inventadas por la IA se libra de la sanción por pedir perdón al tribunal», El Español, 4-4-2026. elespanol.com.
- Vectara, Hallucination Leaderboard, actualitzat l’11-5-2026. github.com/vectara.
- Documentació de WordPress: created_term i created_{$taxonomy}.
- Semrush, volums de cerca a Google Espanya (cerques en castellà), octubre de 2026.
Com mantinc aquesta fitxa. Reviso les xifres que canvien (casos als tribunals, rànquing de models) cada tres mesos i hi anoto la data. Si veus una dada malament, escriu-me: la corregeixo i ho dic.