Gaan na inhoud

Hallusinasie (kunsmatige intelligensie)

in Wikipedia, die vrye ensiklopedie
Eerstegenerasie Sora-video van die Glenfinnan-viaduk in Skotland, wat verkeerdelik wys: 'n tweede spoor, treine wat regs in plaas van links ry, 'n tweede skoorsteen op sy interpretasie van die trein The Jacobite, en sommige waens baie langer as ander.
Die regte Glenfinnan-viaduk met die Jacobite daarop.

In die veld van kunsmatige intelligensie (KI) is 'n hallusinasie of kunsmatige hallusinasie (ook genoem "nonsens",[1][2] "konfabulasie",[3] of "delusie"[4]) 'n reaksie wat deur KI gegenereer word en wat valse of misleidende inligting bevat wat as feitelik aangebied word.[5][6] Hierdie term trek 'n los analogie met menslike sielkunde, waar 'n hallusinasie tipies valse persepsies behels. Daar is egter 'n belangrike verskil: KI-hallusinasie word geassosieer met foutief gekonstrueerde reaksies (konfabulasie), eerder as perseptuele ervarings.[6]

Byvoorbeeld, 'n kletsbot wat deur groottaalmodelle (GTMe) aangedryf word, soos ChatGPT, kan aanneemlike, ewekansige leuens in sy gegenereerde inhoud insluit. Die opsporing en versagting van foute en hallusinasies hou beduidende uitdagings in vir die praktiese ontplooiing en betroubaarheid van GTMe in hoërisiko-scenario's, soos skyfie-ontwerp, voorsieningskettinglogistiek en mediese diagnostiek.[7][8][9] Sagteware-ingenieurs en statistici het die spesifieke term "KI-hallusinasie" gekritiseer vir die onredelike antropomorfisering van rekenaars.[10][11]

Term

[wysig | wysig bron]

Oorsprong

[wysig | wysig bron]

In 1995 het Stephen Thaler gedemonstreer hoe hallusinasies en fantoomervarings uit kunsmatige neurale netwerke ontstaan deur ewekansige versteuring van hul verbindingsgewigte.[12][13][14][15][16]

In die vroeë 2000's is die term "hallusinasie" in rekenaarvisie met 'n positiewe konnotasie gebruik om die proses te beskryf om detail by 'n beeld te voeg. Byvoorbeeld, die taak om hoë-resolusie gesigbeelde uit lae-resolusie insette te genereer, word gesighallusinasie genoem.[17][18]

In die laat 2010's het die term 'n semantiese verskuiwing ondergaan om die generering van feitelik verkeerde of misleidende uitsette deur KI-stelsels in take soos vertaling of objekopsporing aan te dui.[17] Byvoorbeeld, in 2017 het Google-navorsers die term gebruik om die reaksies te beskryf wat deur neurale masjienvertalingsmodelle (NMT) gegenereer word wanneer hulle nie verband hou met die bronteks nie,[19] en in 2018 is die term in rekenaarvisie gebruik om gevalle te beskryf waar nie-bestaande voorwerpe verkeerdelik opgespoor word as gevolg van vyandige aanvalle.[20]

Die term "hallusinasies" in KI het wyer erkenning gekry tydens die KI-oplewing, tesame met die bekendstelling van wyd gebruikte kletsbotte gebaseer op groottaalmodelle (GTMe.[21] In Julie 2021 het Meta tydens die vrystelling van BlenderBot 2 gewaarsku dat die stelsel geneig is tot "hallusinasies", wat Meta gedefinieer het as "versekerde stellings wat nie waar is nie".[22][23] Na OpenAI se ChatGPT-vrystelling in beta-weergawe in November 2022, het sommige gebruikers gekla dat sulke kletsbotte dikwels sinloos aanneemlike, ewekansige leuens in hul gegenereerde inhoud insluit.[24] Baie nuusagentskappe, insluitend The New York Times, het die term "hallusinasies" begin gebruik om hierdie modelle se soms verkeerde of teenstrydige reaksies te beskryf.[25]

Sommige navorsers het 'n gebrek aan konsekwentheid in hoe die term gebruik word, uitgelig, maar het ook verskeie alternatiewe terme in die literatuur geïdentifiseer, soos verkondigings, fabrikasies en feitelike foute.[17]

In 2023 het die Cambridge-woordeboek sy definisie van hallusinasie opgedateer om hierdie nuwe betekenis spesifiek vir die veld van KI in te sluit.[26]

Definisies en alternatiewe

[wysig | wysig bron]
KI-hallusienasie lei tot die verkeerde bewering op 10 Augustus 2025 dat Joaquín Correa die broer van Ángel Correa is; die twee is nie verwant nie.[27]

Gebruike, definisies en karakteriserings van die term "hallusinasie" in die konteks van GTMe sluit in:

  • "'n neiging om feite in oomblikke van onsekerheid uit te vind" (OpenAI, Mei 2023)[28]
  • "'n model se logiese foute" (OpenAI, Mei 2023)[28]
  • "inligting heeltemal geskep, maar optree asof jy feite uitspel." (CNBC, Mei 2023)[28]
  • "inligting opmaak" (The Verge, Februarie 2023)[29]
  • "waarskynlikheidsverdelings" (in wetenskaplike kontekste)[30]

Joernalis Benj Edwards skryf in Ars Technica dat die term "hallusinasie" kontroversieel is, maar dat 'n vorm van metafoor steeds nodig is; Edwards stel "konfabulasie" voor as 'n analogie vir prosesse wat "kreatiewe gapingvulling" behels.[3] In Julie 2024 het 'n Withuis-verslag oor die bevordering van openbare vertroue in KI-navorsing hallusinasies slegs in die konteks van die vermindering daarvan genoem. Dit is opmerklik dat die Nobelkomitee, toe hulle David Baker se Nobelpryswennerwerk met KI-gegenereerde proteïene erken het, die term heeltemal vermy het en eerder na "verbeeldingryke proteïenskepping" verwys het.[30]

Hicks, Humphries en Slater voer in hul artikel in Ethics and Information Technology aan dat die uitset van GTMe "nonsens" is onder Harry Frankfurt se definisie van die term, en dat die modelle "op 'n belangrike manier onverskillig is teenoor die waarheid van hul uitsette", met ware stellings wat slegs per ongeluk waar is, en valse stellings wat per ongeluk vals is.[1]

Kritiek

[wysig | wysig bron]

In die wetenskaplike gemeenskap vermy sommige navorsers die term "hallusinasie" en beskou dit as potensieel misleidend. Dit is gekritiseer deur Usama Fayyad, uitvoerende direkteur van die Instituut vir Eksperimentele Kunsmatige Intelligensie aan die Northeastern Universiteit, op grond daarvan dat dit misleidend groottaalmodelle verpersoonlik en vaag is.[31] Mary Shaw het gesê: "Die huidige mode om generatiewe KI se foute 'hallusinasies' te noem, is afgryslik. Dit antropomorfiseer die sagteware, en dit verduidelik werklike foute as op een of ander manier eienaardige eienaardighede van die stelsel, selfs wanneer hulle objektief verkeerd is."[10] In Salon voer statistikus Gary N. Smith aan dat GTMe "nie verstaan wat woorde beteken nie" en gevolglik dat die term "hallusinasie" die masjien onredelik antropomorfiseer.[11] Sommige sien die KI-uitsette nie as illusie nie, maar as prospektief - dit wil sê, met 'n kans om waar te wees, soortgelyk aan wetenskaplike vermoedens in die vroeë stadium. Die term is ook gekritiseer vir sy assosiasie met psigedeliese dwelmervarings.[30]

In natuurlike taalgenerering

[wysig | wysig bron]

In natuurlike taalgenerering word 'n hallusinasie dikwels gedefinieer as "gegenereerde inhoud wat feitelik voorkom, maar ongegrond is".[32] Daar is verskillende maniere om hallusinasies te kategoriseer. Afhangende van of die uitvoer die bron weerspreek of nie van die bron geverifieer kan word nie, word hulle onderskeidelik in intrinsieke en ekstrinsieke verdeel.[6] Afhangende van of die uitvoer die aanwysing weerspreek of nie, kan hulle onderskeidelik in geslote domein en oop domein verdeel word.[33]

Verwysings

[wysig | wysig bron]
  1. 1 2 Hicks, Michael Townsen; Humphries, James; Slater, Joe (Junie 2024). "ChatGPT is bullshit" (PDF). Ethics and Information Technology. 26 (2) 38. doi:10.1007/s10676-024-09775-5.
  2. ↑ Liang, Kaiqu; Hu, Haimin; Zhao, Xuandong; Song, Dawn; Griffiths, Thomas L.; Fernández Fisac, Jaime (2025). "Machine Bullshit: Characterizing the Emergent Disregard for Truth in Large Language Models". [cs.CL].
  3. 1 2 Edwards, Benj (6 April 2023). "Why ChatGPT and Bing Chat are so good at making things up". Ars Technica. Geargiveer vanaf die oorspronklike op 11 Junie 2023. Besoek op 11 Junie 2023.
  4. ↑ Ortega, Pedro A.; Kunesch, Markus; Delétang, Grégoire; Genewein, Tim; Grau-Moya, Jordi; Veness, Joel; Buchli, Jonas; Degrave, Jonas et al. (2021). Shaking the foundations: Delusions in sequence models for interaction and control (Preprint).
  5. ↑ Maynez, Joshua; Narayan, Shashi; Bohnet, Bernd; McDonald, Ryan (2020). "On Faithfulness and Factuality in Abstractive Summarization". Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. pp. 1906–1919. doi:10.18653/v1/2020.acl-main.173.
  6. 1 2 3 Ji, Ziwei; Lee, Nayeon; Frieske, Rita; Yu, Tiezheng; Su, Dan; Xu, Yan; Ishii, Etsuko; Bang, Ye Jin; Madotto, Andrea; Fung, Pascale (31 Desember 2023). "Survey of Hallucination in Natural Language Generation". ACM Computing Surveys. 55 (12): 1–38. arXiv:2202.03629. doi:10.1145/3571730.
  7. ↑ Metz, Cade (6 November 2023). "Chatbots May 'Hallucinate' More Often Than Many Realize". The New York Times. Geargiveer vanaf die oorspronklike op 7 Desember 2023. Besoek op 6 November 2023.
  8. ↑ de Wynter, Adrian; Wang, Xun; Sokolov, Alex; Gu, Qilong; Chen, Si-Qing (September 2023). "An evaluation on large language model outputs: Discourse and memorization". Natural Language Processing Journal. 4 100024. arXiv:2304.08637. doi:10.1016/j.nlp.2023.100024.
  9. ↑ Leswing, Kif (14 Februarie 2023). "Microsoft's Bing A.I. made several factual errors in last week's launch demo". CNBC. Geargiveer vanaf die oorspronklike op 16 Februarie 2023. Besoek op 16 Februarie 2023.
  10. 1 2 Kang, Eunsuk; Shaw, Mary (2024). "tl;dr: Chill, y'all: AI Will Not Devour SE". Proceedings of the 2024 ACM SIGPLAN International Symposium on New Ideas, New Paradigms, and Reflections on Programming and Software. pp. 303–315. arXiv:2409.00764. doi:10.1145/3689492.3689816. ISBN 979-8-4007-1215-9.
  11. 1 2 "An AI that can "write" is feeding delusions about how smart artificial intelligence really is". Salon. 2 Januarie 2023. Geargiveer vanaf die oorspronklike op 5 Januarie 2023. Besoek op 11 Junie 2023.
  12. ↑ Thaler, S.L. (Januarie 1995). "'Virtual input' phenomena within the death of a simple pattern associator". Neural Networks. 8 (1): 55–65. doi:10.1016/0893-6080(94)00065-T.
  13. ↑ Ricciardiello, Luciana; Fornaro, Pantaleo (Mei 2013). "Beyond the cliff of creativity". Medical Hypotheses. 80 (5): 534–543. doi:10.1016/j.mehy.2012.12.018. PMID 23452643.
  14. ↑ Thaler, S. L. (2016). "Cycles of insanity and creativity within contemplative neural systems". Medical Hypotheses. 96: 34–43. doi:10.1016/j.mehy.2016.07.010. PMID 27515220.
  15. ↑ Thaler, Stephen L. (2014). "Synaptic Perturbation and Consciousness". International Journal of Machine Consciousness. 6 (2). World Scientific Publishing Company: 75–107. doi:10.1142/S1793843014400137.
  16. ↑ Thaler, S. L. (Fall 1996). "The Death Dream and Near-Death Darwinism". Journal of Near-Death Studies. 15 (1).
  17. 1 2 3 Maleki, Negar; Padmanabhan, Balaji; Dutta, Kaushik (2024). "AI Hallucinations: A Misnomer Worth Clarifying". 2024 IEEE Conference on Artificial Intelligence (CAI). pp. 133–138. arXiv:2401.06796. doi:10.1109/CAI59869.2024.00033. ISBN 979-8-3503-5409-6.
  18. ↑ Liu, Ce; Shum, Heung-Yeung; Freeman, William T. (18 Julie 2007). "Face Hallucination: Theory and Practice". International Journal of Computer Vision. 75 (1): 115–134. doi:10.1007/s11263-006-0029-5.
  19. ↑ "Hallucinations in Neural Machine Translation". research.google. Geargiveer vanaf die oorspronklike op 2 April 2024. Besoek op 2 April 2024.
  20. ↑ Simonite, Tom (9 Maart 2018). "AI Has a Hallucination Problem That's Proving Tough to Fix". Wired. Condé Nast. Geargiveer vanaf die oorspronklike op 5 April 2023. Besoek op 29 Desember 2022.
  21. ↑ Zhuo, Terry Yue; Huang, Yujin; Chen, Chunyang; Xing, Zhenchang (2023). "Exploring AI Ethics of ChatGPT: A Diagnostic Analysis". [cs.CL].
  22. ↑ "Blender Bot 2.0: An open source chatbot that builds long-term memory and searches the internet". ai.meta.com. Besoek op 2 Maart 2024.
  23. ↑ Tung, Liam (8 Augustus 2022). "Meta warns its new chatbot may forget that it's a bot". ZDNET. Geargiveer vanaf die oorspronklike op 26 Maart 2023. Besoek op 30 Desember 2022.
  24. ↑ Seife, Charles (13 Desember 2022). "The Alarming Deceptions at the Heart of an Astounding New Chatbot". Slate. Geargiveer vanaf die oorspronklike op 26 Maart 2023. Besoek op 16 Februarie 2023.
  25. ↑ Weise, Karen; Metz, Cade (1 Mei 2023). "When A.I. Chatbots Hallucinate". The New York Times. Geargiveer vanaf die oorspronklike op 4 April 2024. Besoek op 8 Mei 2023.
  26. ↑ Creamer, Ella (15 November 2023). "'Hallucinate' chosen as Cambridge dictionary's word of the year". The Guardian. Besoek op 7 Junie 2024.
  27. ↑ "Joaquín Correa fue presentado en Botafogo para jugar el Mundial de Clubes y tuvo un insólito cruce con un periodista: 'No es mi hermano'". Clarin. 14 Junie 2025. Besoek op 10 Augustus 2025.
  28. 1 2 3 Field, Hayden (31 Mei 2023). "OpenAI is pursuing a new way to fight A.I. 'hallucinations'". CNBC. Geargiveer vanaf die oorspronklike op 10 Junie 2023. Besoek op 11 Junie 2023.
  29. ↑ Vincent, James (8 Februarie 2023). "Google's AI chatbot Bard makes factual error in first demo". The Verge. Geargiveer vanaf die oorspronklike op 12 Februarie 2023. Besoek op 11 Junie 2023.
  30. 1 2 3 Broad, William J. (23 Desember 2024). "How Hallucinatory A.I. Helps Science Dream Up Big Breakthroughs". The New York Times.
  31. ↑ Stening, Tanner (10 November 2023). "What are AI chatbots actually doing when they 'hallucinate'? Here's why experts don't like the term". Northeastern Global News. Besoek op 14 Junie 2024.
  32. ↑ Tonmoy, S. M. Towhidul Islam; Zaman, S. M. Mehedi; Jain, Vinija; Rani, Anku; Rawte, Vipula; Chadha, Aman; Das, Amitava (2024-01-08). "A Comprehensive Survey of Hallucination Mitigation Techniques in Large Language Models". [cs.CL].
  33. ↑ OpenAI (2023). "GPT-4 Technical Report". [cs.CL].
Ontsluit van "https://af.wikipedia.org/w/index.php?title=Hallusinasie_(kunsmatige_intelligensie)&oldid=2927142"