Hilfe, meine KI ÊÉčÇıuıznŚŚÉÉ„!
Von einer KI-Halluzination spricht man, wenn ein groĂes generatives Sprachmodell (Large Language Model; LLM) falsche Informationen oder Fakten erzeugt, die nicht der RealitĂ€t entsprechen. Dabei erscheinen die Halluzinationen â zumindest auf den ersten Blick â oft plausibel, da flĂŒssige, kohĂ€rente Texte generiert werden.
Wichtig ist jedoch zu betonen, dass LLMs nicht bewusst lĂŒgen, sondern schlichtweg kein Bewusstsein fĂŒr die erstellten Texte haben.
Large Language Models neigen dazu, sehr selbstsicher auch neue (Falsch-) Informationen zu erfinden.
Melanie Bohnen
Machine Learning Engineer bei TĂVIT
Die technischen GrĂŒnde fĂŒr KI-Halluzinationen können vielfĂ€ltig sein:
So ist es möglich, dass LLMs auch Halluzinationen erzeugen, obwohl sie auf konsistente und zuverlĂ€ssige DatensĂ€tze zurĂŒckgreifen.
Die EindĂ€mmung von Halluzinationen zĂ€hlt damit zu den grundsĂ€tzlichen Herausforderungen fĂŒr KI-Anwender und Entwickler. Denn LLMs stellen in der Regel eine Blackbox dar, wodurch es mitunter schwierig sein kann, zu ermitteln, warum eine bestimmte Halluzination erzeugt wurde.
Der Begriff der KI-Halluzinationen umfasst ein breites Spektrum: Von kleineren Ungereimtheiten bis hin zu frei erfundenen Informationen. Arten von KI-Halluzinationen sind unter anderem:
SatzwidersprĂŒche
Generierte SĂ€tze stehen im Widerspruch zu vorherigen SĂ€tzen bzw. Teilen der erzeugten Antwort.
WidersprĂŒche zur Eingabeaufforderung
Die generierte Antwort oder Teile davon stimmen nicht mit der Eingabeaufforderung durch den Nutzer bzw. die Nutzerin ĂŒberein.
Faktische WidersprĂŒche
Eine durch das LLM erfundene Information wird als Tatsache verkauft.
ZufÀllige Halluzinationen
Das LLM erzeugt zufÀllige Informationen, die nichts mit der eigentlichen Eingabeaufforderung zu tun haben.
Verlassen sich Nutzer:innen zu sehr auf die Ergebnisse eines KI-Systems, weil diese sehr ĂŒberzeugend und zuverlĂ€ssig aussehen, kann es passieren, dass sie die Falschinformationen nicht nur selbst glauben, sondern auch weiterverbreiten.
FĂŒr Unternehmen, die LLM-gestĂŒtzte Dienste im Rahmen der Kundenkommunikation einsetzen, besteht zudem potenziell die Gefahr, dass Kund:innen mit unwahren Informationen versorgt werden. Das wiederum kann sich negativ auf den Ruf des Unternehmens auswirken.
LLMs sind leistungsstarke Werkzeuge, bringen aber auch Herausforderungen wie das PhĂ€nomen der KI-Halluzination mit sich. Durch umfassende PrĂŒfungen unterstĂŒtzen wir KI-Entwickler dabei, bestehende Risiken bestmöglich zu identifizieren sowie zu minimieren und das Vertrauen in die Technologie weiter zu stĂ€rken.
Dr. Henning Kerstan
Business Development Artificial Intelligence bei TĂVIT
Der einfachste Weg, eine KI-Halluzination zu erkennen bzw. zu enttarnen, besteht darin, die ausgegebenen Informationen sorgfĂ€ltig auf ihre Korrektheit hin zu ĂŒberprĂŒfen. Als Nutzer:in einer generativen KI sollte man demnach stets im Hinterkopf behalten, dass auch diese Fehler machen kann und nach dem âVier-Augen-Prinzipâ aus KI und Mensch vorgehen.
Um KI-Halluzinationen und anderen Herausforderungen von KI-Systemen entgegenzuwirken, sind entsprechende PrĂŒfungen durch unabhĂ€ngige Dritte empfehlenswert. So können Schwachstellen im besten Falle bereits identifiziert und behoben werden, bevor Anwendungen offiziell zum Einsatz kommen.