{"id":88068,"date":"2024-07-11T08:00:24","date_gmt":"2024-07-11T08:00:24","guid":{"rendered":"https:\/\/www.globallogic.com\/de\/?post_type=insightsection&p=88068"},"modified":"2025-01-20T11:24:09","modified_gmt":"2025-01-20T11:24:09","slug":"intelligenz-ist-intelligenz-auch-wenn-sie-kuenstlich-ist","status":"publish","type":"insightsection","link":"https:\/\/www.globallogic.com\/de\/insights\/blogs\/intelligenz-ist-intelligenz-auch-wenn-sie-kuenstlich-ist\/","title":{"rendered":"Intelligenz ist Intelligenz, auch wenn sie k\u00fcnstlich ist"},"content":{"rendered":"
Ich hatte vor ein paar Wochen ein anregendes Gespr\u00e4ch mit dem Leiter unserer GenAI-Praxis, Suhail Khaki. Suhail bemerkte, dass je mehr er mit GenAI arbeitet, desto mehr erscheint es ihm, dass es weniger wie herk\u00f6mmliche Computersoftware und mehr wie eine Person in der Art und Weise, wie es interagiert, ist. Er sagte: \u201eIntelligenz ist Intelligenz\u201c. Das brachte mich zum Nachdenken: Viele der sogenannten \u201eProbleme\u201c mit GenAI sind tats\u00e4chlich darauf zur\u00fcckzuf\u00fchren, dass es auf der Art und Weise basiert, wie Menschen denken. Es ist nicht wirklich GenAI, das schuld ist \u2013 in gro\u00dfem Ma\u00dfe verh\u00e4lt es sich einfach \u00fcberraschend gut so, wie wir Menschen es tun.<\/p>\n

Wenn Ihnen jemand zweimal dieselbe Frage stellt, wie wahrscheinlich ist es, dass Sie jedes Mal genau die gleiche Antwort Wort f\u00fcr Wort geben? Das werden Sie nicht, es sei denn, es ist eine auswendig gelernte Rede. Wenn Sie zwei verschiedenen Entwicklern die Aufgabe geben, denselben Algorithmus zu implementieren, wie wahrscheinlich ist es, dass beide genau denselben Code schreiben? Das wird nicht passieren. Beide k\u00f6nnten es \u201erichtig\u201c machen, aber die beiden Programme werden unterschiedlich sein \u2013 geringf\u00fcgig oder sogar radikal.<\/p>\n

Warum \u00fcberrascht und frustriert es uns also, wenn sich GenAI genauso verh\u00e4lt? Menschen geben unterschiedliche Antworten auf dieselbe Frage, weil viele Variablen unser Verhalten beeinflussen, einschlie\u00dflich dessen, was wir an diesem Morgen zum Fr\u00fchst\u00fcck gegessen haben, wer unser Publikum ist, wie die Frage formuliert war (einschlie\u00dflich Intonation) und was wir zwischen der ersten und der zweiten Wiederholung der Frage gelernt und gedacht haben. GenAI hat andere Faktoren, die es beeinflussen \u2013 es braucht zum Beispiel kein Fr\u00fchst\u00fcck \u2013, aber es verh\u00e4lt sich im Wesentlichen auf eine \u201emenschliche\u201c Weise, wenn es auf dieselbe Frage eine andere Antwort gibt. \u00c4hnlich verh\u00e4lt es sich beim Programmieren. Es gibt viele richtige Antworten auf dasselbe Softwareentwicklungsproblem. Welche ein bestimmter Entwickler w\u00e4hlt oder welche derselbe Entwickler zu unterschiedlichen Anl\u00e4ssen w\u00e4hlt, wird durch viele interne und externe Variablen bestimmt, nicht zuletzt durch die Summe unserer bisherigen Erfahrungen und unseres Trainings.<\/p>\n

Was wir in GenAI \u201eHalluzinationen\u201c nennen, ist ebenfalls uns Menschen eigen. In den USA liefern Politiker beider Parteien zahlreiche Beispiele f\u00fcr erfundene Fakten, um Ged\u00e4chtnisl\u00fccken oder unbequeme Wahrheiten zu kaschieren. Man kann dar\u00fcber streiten, ob diese politischen Falschaussagen absichtlich gemacht werden oder nicht, aber manchmal geschehen menschliche Halluzinationen ohne b\u00f6se Absicht. Eine \u00e4ltere Frau, die ich kannte, hatte eine vaskul\u00e4re Demenz, eine Hirnerkrankung, die den Zugang zu bestimmten Erinnerungen oder F\u00e4higkeiten blockiert. Ihre Intelligenz war jedoch weitgehend unber\u00fchrt. Wenn man sie nach ihrem Tag fragte, erz\u00e4hlte sie fr\u00f6hlich eine Geschichte \u00fcber Aktivit\u00e4ten, die an der Oberfl\u00e4che sehr plausibel klangen, aber tats\u00e4chlich nie stattgefunden haben. Ich glaube keineswegs, dass sie dies absichtlich tat, um zu t\u00e4uschen. Stattdessen, da die tats\u00e4chlichen Fakten in ihrem Ged\u00e4chtnis nicht verf\u00fcgbar waren, generierte ihr Gehirn meiner Meinung nach kreativ eine Antwort, die plausibel klang, aber nicht durch die Wahrheit gefiltert war. Sie wurde erst dann diagnostiziert, als sie von einem Psychologen formell interviewt wurde, der ihr objektiv nachpr\u00fcfbare Fragen stellte, wie die Namen ihrer Kinder. Erst dann wurde offensichtlich, dass sie eine medizinische Erkrankung hatte und dass ihre Antworten in normalen Gespr\u00e4chen weitgehend erfunden waren.<\/p>\n

Obwohl ich kein Psychologe bin, vermute ich, dass die menschliche Intelligenz, wenn sie keinen Zugang zu geeigneten Informationen hat, aber sich in Umst\u00e4nden befindet, die eine sofortige Antwort erfordern, dazu neigt, die L\u00fccken zu f\u00fcllen \u2013 oder Dinge zu erfinden. Wir w\u00fcrden es vorziehen, wenn unsere Politiker und meine \u00e4ltere Freundin mit vaskul\u00e4rer Demenz einfach sagen w\u00fcrden: \u201eEs tut mir leid, ich wei\u00df es nicht\u201c, \u201eIch m\u00f6chte dazu nichts sagen\u201c oder \u201eIch erinnere mich nicht\u201c. Aber wenn die Person das Gef\u00fchl hat, eine Antwort geben zu m\u00fcssen, unabh\u00e4ngig von fehlenden oder intern unterdr\u00fcckten Informationen, erhalten wir \u201eFake News\u201c, falsche Erinnerungen oder Halluzinationen. Das Gleiche gilt f\u00fcr GenAI \u2013 es greift auf eine plausibel klingende, aber ung\u00fcltige Antwort zur\u00fcck, wenn es keine genaue findet.<\/p>\n

Meine Frau ist Psychologin und sie sagt mir, dass es im menschlichen Gehirn ein Konzept namens \u201eAusf\u00fcllen des fehlenden Gestaltens\u201c gibt. Das Gehirn versucht verschiedene Strategien und Optionen, um fehlende Daten zu erg\u00e4nzen. Diese Pr\u00e4sentation von Optionen tr\u00e4gt zur menschlichen Kreativit\u00e4t und Probleml\u00f6sungsf\u00e4higkeit bei. Wir alle haben das schon erlebt, wenn wir versucht haben, ein Problem zu l\u00f6sen, und dann pl\u00f6tzlich die Antwort gefunden haben. Dies geschieht weitgehend unbewusst, unterhalb unserer Bewusstseinsebene. Wenn unser Gehirn nicht ausreichend falsche Alternativen ablehnt, dann k\u00f6nnen wir menschliche Konfabulationen erhalten, um die \u201eL\u00fccken zu f\u00fcllen\u201c, obwohl die beste Option m\u00f6glicherweise darin besteht, es \u201eoffen zu lassen\u201c und zu sagen, dass man es nicht wei\u00df. Aber wenn unser Gehirn eine gute Wahl unter den generierten Alternativen trifft, erhalten wir Originalit\u00e4t, Spontaneit\u00e4t und Erfindung.<\/p>\n

In einem LLM ist dies bis zu einem gewissen Grad kontrollierbar, indem ein Parameter namens \u201eTemperatur\u201c eingestellt wird, der im Wesentlichen den Grad der Zuf\u00e4lligkeit bei der Generierung alternativer Antworten bestimmt. W\u00e4hrend das Senken der Temperatur die Halluzinationen in einem LLM begrenzt, verringert es auch die Anzahl der guten Alternativen, die in Betracht gezogen werden. Der Nachteil von weniger Alternativen ist, dass die \u201ebesseren\u201c und \u201ebesten\u201c Alternativen m\u00f6glicherweise \u00fcberhaupt nicht generiert werden, was die effektive \u201eIntelligenz\u201c der KI einschr\u00e4nkt. Anstatt die Generierung von Alternativen zu unterdr\u00fccken, ist meiner Ansicht nach die richtige Antwort eine bessere Filterung der mehreren generierten Alternativen. Tats\u00e4chlich arbeiten eine Reihe von GenAI-Startups an der Pr\u00e4vention von Halluzinationen, indem sie generierte Antworten intelligent filtern. Aber die Generierung alternativer Antworten, selbst falscher, ist eigentlich ein Merkmal der menschlichen Intelligenz \u2013 es ist ein \u201eFeature\u201c, kein \u201eBug\u201c. Wir befinden uns nur noch in einem relativ fr\u00fchen Stand der Technik, was die Filterung angeht \u2013 obwohl ich \u00fcberzeugt bin, dass das kommen wird.<\/p>\n

Warum \u00fcberraschen und \u00e4rgern uns diese \u201emenschlichen\u201c Inkonsistenzen und Konfabulationen, wenn sie von GenAI kommen? Die meisten von uns sind mit Computern aufgewachsen. Obwohl sie manchmal frustrierend oder verwirrend sein k\u00f6nnen, sind Computer auch vorhersehbar. Insbesondere wenn sie programmiert sind, machen Computer jedes Mal dasselbe auf die gleiche Weise und geben Ihnen konsistent die gleiche Antwort auf die gleiche Frage. Wir erleben Computer als Maschinen oder \u201erobotisch\u201c (im engen Sinne) in den Interaktionen, die wir mit ihnen haben.<\/p>\n

GenAI ist nicht so. Obwohl es auf einer Maschine l\u00e4uft, verh\u00e4lt es sich in wichtigen Aspekten mehr wie eine Person. Im Vergleich zu einem programmatischen Ger\u00e4t ist GenAI relativ unvorhersehbar und inkonsistent.<\/p>\n

Ich w\u00fcrde argumentieren, dass die Unvorhersehbarkeit und Inkonsequenz von GenAI ein wesentliches Merkmal jeder Intelligenz ist, die versucht, in gewisser Hinsicht das menschliche Gehirn zu emulieren. Vielleicht ist Inkonsequenz ein Merkmal der Intelligenz im Allgemeinen. Es ist vielleicht nicht immer ein Merkmal, das wir m\u00f6gen, aber wenn wir die Vorteile der Intelligenz in unseren Maschinen wollen, denke ich, dass wir auch lernen werden, mit ihren Eigenheiten umzugehen.<\/p>\n

Bedeutet das, dass wir GenAI nicht f\u00fcr n\u00fctzliche Arbeit verwenden k\u00f6nnen? Ich w\u00fcrde argumentieren, dass wir trotz unserer eigenen Fehler und Aussetzer seit vielen, vielen Generationen fehlbare Menschen f\u00fcr n\u00fctzliche Arbeiten eingesetzt haben. Wir k\u00f6nnen einige dieser gleichen Praktiken bei der Nutzung von GenAI anwenden.<\/p>\n

Bei der F\u00fchrung von Menschen haben wir oft mehrere Spezialisten, die f\u00fcr verschiedene Aspekte derselben Aktivit\u00e4t zust\u00e4ndig sind. Oft wird die Arbeit von einem Manager \u00fcberwacht, der die Konsistenz und Qualit\u00e4t der Ergebnisse sicherstellt. F\u00fcr kritische Aufgaben haben wir dokumentierte Verfahren, die von den Menschen befolgt werden m\u00fcssen. Und in Notsituationen oder solchen, die eine Echtzeit-K\u00f6rperkontrolle erfordern (wie Sport), verlassen wir uns auf Training. Trainierte Reaktionen sind solche, bei denen Menschen vordefinierte oder vorab erlernte Richtlinien befolgen \u2013 im Wesentlichen Programmierung \u2013 automatisch und weitgehend ohne nachzudenken. Diese gleichen Prinzipien der menschlichen Arbeit k\u00f6nnen und werden auch heute auf GenAI angewendet.<\/p>\n

Bewusst oder unbewusst werden Analogien zur menschlichen Organisation auf heutige GenAIs entwickelt und angewendet, mit weiteren in der Entwicklung. \u201eEnsembles\u201c spezialisierter LLMs werden von \u201eAgenten\u201c und anderen Technologien orchestriert, um die St\u00e4rken jedes Modells zu nutzen, analog zu einem menschlichen Team mit erg\u00e4nzenden F\u00e4higkeiten. Wie ein menschlicher Vorgesetzter tauchen GenAI-Managementans\u00e4tze wie \u201eLLMs f\u00fcr LLMs\u201c und programmgesteuerte Analysen von Modellausgaben auf, um die Qualit\u00e4t der KI-Ausgabe zu filtern und zu bewerten. Diese Manager k\u00f6nnen auch Halluzinationen abfangen und die KI \u2013 oder das Team von KIs \u2013 zur\u00fcck an das Rei\u00dfbrett schicken, um eine bessere Antwort zu finden. F\u00fcr kritische oder endnutzerorientierte Aufgaben k\u00f6nnen Implementierungen die besten Merkmale programmierter Ans\u00e4tze und GenAI-Modelle kombinieren. Beispielsweise k\u00f6nnte eine Kundendienstanwendung Dialogflow [https:\/\/cloud.google.com\/dialogflow<\/a>] f\u00fcr die strukturierte Komponente von Dialogen zusammen mit einem oder mehreren LLMs f\u00fcr die Anrufweiterleitung, das Sammeln von Informationen und die Ergebnissummenbildung verwenden.<\/p>\n

Die letzte Grenze sind vielleicht Maschinen- oder Industrie-Kontrollsysteme oder die Steuerung lebenswichtiger Echtzeitsysteme. F\u00fcr diese Systeme ben\u00f6tigen wir deterministische Ausgaben. Kreativit\u00e4t kann in manchen Situationen n\u00fctzlich sein, aber selbst mit Menschen im Entscheidungsprozess verlassen wir uns in der Regel auf trainierte Reaktionen und dokumentierte Schritt-f\u00fcr-Schritt-Verfahren, die wir erwarten, dass Menschen sie robotisch befolgen. Das liegt daran, dass in Notf\u00e4llen selten Zeit oder geistige Energie zum Improvisieren bleibt \u2013 und dokumentierte Verfahren wurden erforscht, \u00fcberpr\u00fcft und getestet. Das robotische Befolgen von Anweisungen ist wahrscheinlich das am wenigsten menschliche, was wir tun, aber manchmal notwendig \u2013 zum Beispiel in einer Notfallsituation wie dem Steuern des Autos aus einem Schleudern, wenn es auf Eis ausrutscht. In diesem Fall ist Improvisieren von Grund auf der falsche Ansatz \u2013 es ist besser, wenn wir uns darauf trainiert haben, in die Schleuderbewegung hinein zu lenken, um die Kontrolle wiederzuerlangen, ohne die Physik in Echtzeit verarbeiten zu m\u00fcssen. F\u00fcr Aktivit\u00e4ten wie Sport, das Fliegen eines Flugzeugs in einem Notfall und andere Echtzeit-Entscheidungen sind erlernte und trainierte F\u00e4higkeiten eine wichtige Grundlage. Kreativit\u00e4t ist in manchen F\u00e4llen immer noch vorteilhaft, aber nur auf der Basis einer soliden Grundlage erlernter F\u00e4higkeiten.<\/p>\n

Wie menschliche trainierte Reaktionen auf Notfall- oder Echtzeitsituationen im Sport neigen von Computern betriebene Kontrollsysteme dazu, automatischer, regelbasiert und deterministisch zu sein. Das soll KI jedoch nicht v\u00f6llig ausschlie\u00dfen. Wir haben bereits gute Beispiele daf\u00fcr, dass herk\u00f6mmliche, nicht-genetische Modelle eine wichtige Rolle in solchen Systemen spielen: Zum Beispiel haben die fortschrittlichen Fahrerassistenzsysteme Ihres Autos zur Spurf\u00fchrung, Kollisionsvermeidung und adaptiven Geschwindigkeitsregelung wichtige Aspekte, die auf KI basieren. Meine Erfahrung ist, dass diese KI-basierten Systeme wesentlich zu meiner Sicherheit beitragen. Allerdings w\u00fcrde ich, wie viele andere auch, z\u00f6gern, mein Leben in die H\u00e4nde einer Technologie zu legen, die zu Halluzinationen neigt. Andererseits bin ich viele Jahre lang ohne jegliche Fahrerassistenz selbst gefahren, und mein fehlbares menschliches Gehirn hat es mir dennoch erm\u00f6glicht zu \u00fcberleben. Vielleicht \u2013 mit der richtigen \u00dcberwachung \u2013 hat GenAI auch hier eine Rolle. Schlie\u00dflich \u2013 Intelligenz ist Intelligenz, selbst wenn sie k\u00fcnstlich ist.<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

Ich hatte vor ein paar Wochen ein anregendes Gespr\u00e4ch mit dem Leiter unserer GenAI-Praxis, Suhail Khaki. Suhail bemerkte, dass je mehr er mit GenAI arbeitet, desto mehr erscheint es ihm, dass es weniger wie herk\u00f6mmliche Computersoftware und mehr wie eine Person in der Art und Weise, wie es interagiert, ist. Er sagte: \u201eIntelligenz ist Intelligenz\u201c. Das brachte mich zum Nachdenken: Viele der sogenannten \u201eProbleme\u201c mit GenAI sind tats\u00e4chlich darauf zur\u00fcckzuf\u00fchren, dass es auf der Art und Weise basiert, wie Menschen denken. Es ist nicht wirklich GenAI, das schuld ist \u2013 in gro\u00dfem Ma\u00dfe verh\u00e4lt es sich einfach \u00fcberraschend gut so, wie wir Menschen es tun. Wenn Ihnen jemand zweimal dieselbe Frage stellt, wie wahrscheinlich ist es, dass Sie jedes Mal genau die gleiche Antwort Wort f\u00fcr Wort geben? Das werden Sie nicht, es sei denn, es ist eine auswendig gelernte Rede. Wenn Sie zwei verschiedenen Entwicklern die Aufgabe geben, denselben Algorithmus zu implementieren, wie wahrscheinlich ist es, dass beide genau denselben Code schreiben? Das wird nicht passieren. Beide k\u00f6nnten es \u201erichtig\u201c machen, aber die beiden Programme werden unterschiedlich sein \u2013 geringf\u00fcgig oder sogar radikal. Warum \u00fcberrascht und frustriert es uns also, wenn sich GenAI genauso verh\u00e4lt? Menschen geben unterschiedliche Antworten…<\/p>\n","protected":false},"author":84,"featured_media":87865,"parent":0,"menu_order":0,"template":"","insight":[41],"insight-subcats":[791,790,46],"insight-industry":[750],"insight-services":[],"insight-partners":[],"class_list":["post-88068","insightsection","type-insightsection","status-publish","has-post-thumbnail","hentry","insight-blogs","insight-subcats-ai-governance","insight-subcats-mlops","insight-subcats-perspective","insight-industry-technology"],"acf":[],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insightsection\/88068","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insightsection"}],"about":[{"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/types\/insightsection"}],"author":[{"embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/users\/84"}],"version-history":[{"count":1,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insightsection\/88068\/revisions"}],"predecessor-version":[{"id":101817,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insightsection\/88068\/revisions\/101817"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/media\/87865"}],"wp:attachment":[{"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/media?parent=88068"}],"wp:term":[{"taxonomy":"insight","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight?post=88068"},{"taxonomy":"insight-subcats","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight-subcats?post=88068"},{"taxonomy":"insight-industry","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight-industry?post=88068"},{"taxonomy":"insight-services","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight-services?post=88068"},{"taxonomy":"insight-partners","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight-partners?post=88068"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}