EY a retras un studiu despre programele de recompense și loialitate, care conținea halucinații generate de AI și note de subsol false, într-un exemplu clar despre vulnerabilitățile noilor tehnologii.
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, a fost folosit de consultanții EY din Canada pentru promovarea serviciilor de securitate cibernetică, însă a fost eliminat după ce problemele au fost semnalate joi seară de grupul de cercetare GPTZero.
Citește și: Pompierii ISU București-Ilfov care încadrează elicopterele SMURD au primit echipamente noi de protecție
Raportul conținea date inventate, citări atribuite greșit și făcea referire la un raport McKinsey care, de fapt, nu exista, au descoperit cercetători online. În plus, peste șase note de subsol trimiteau către pagini web inexistente sau fără informații relevante.
Impactul halucinațiilor AI asupra sectorului de consultanță
Halucinațiile generate de AI au devenit o problemă recurentă în sectorul serviciilor profesionale, afectând credibilitatea firmelor de consultanță. Rivalul EY, Deloitte, a fost nevoit anul trecut să revizuiască un raport pentru un guvern canadian după ce s-au descoperit citări false.
- Firma Sullivan & Cromwell și-a cerut scuze în fața unei instanțe din New York pentru citări juridice greșite în documente oficiale.
- Raportul EY a estimat piața programelor de loialitate la 200 de miliarde de dolari, valoarea punctelor nefolosite fiind indicată la aceeași sumă.
- Mai mult de șase note de subsol din raport trimiteau către pagini web inexistente sau fără informații corecte.
Reacțiile oficiale și măsurile luate de EY
EY a declarat că a eliminat studiul de pe site-ul său și analizează circumstanțele care au dus la publicarea acestuia, precizând că nu era legat de activitatea pentru vreun client. Compania susține că investițiile în AI au crescut cu 30% în ultimul an, iar 15.000 de angajați au lucrat la proiecte pentru clienți în domeniul transformării digitale și responsabilității în utilizarea AI.
Specialiștii avertizează asupra riscurilor halucinațiilor AI și recomandă o utilizare prudentă a tehnologiei, mai ales în sectorul consultanței, unde credibilitatea este esențială pentru succes.