{"id":88083,"date":"2024-08-08T10:00:24","date_gmt":"2024-08-08T10:00:24","guid":{"rendered":"https:\/\/www.globallogic.com\/de\/?post_type=insightsection&p=88083"},"modified":"2025-01-20T11:22:35","modified_gmt":"2025-01-20T11:22:35","slug":"genai-als-eine-befaehigende-technologie","status":"publish","type":"insightsection","link":"https:\/\/www.globallogic.com\/de\/insights\/blogs\/genai-als-eine-befaehigende-technologie\/","title":{"rendered":"GenAI und das Treffen der Geister"},"content":{"rendered":"
\n
\n
\n

Bei einer k\u00fcrzlich stattgefundenen Hitachi-Energy-Konferenz habe ich eine sehr interessante Pr\u00e4sentation von nVidia, einem Partner von Hitachi, gesehen. nVidia, ein fabless-Halbleiterunternehmen, dessen GPUs treibende Kr\u00e4fte der GenAI-Revolution sind, wurde von dem Redner nicht als GPU-Unternehmen, sondern als \u201eSimulationsunternehmen\u201c beschrieben. Der Redner erkl\u00e4rte, dass nVidia eine Reihe von Simulationstechnologien unterst\u00fctzt, die von \u201ephysikbasiert\u201c bis \u201edatenbasiert\u201c reichen.<\/p>\n

Als jemand, der als Physiker ausgebildet wurde, hat es bei mir bei dieser Beschreibung gleich mehrere \u201eAha-Momente\u201c ausgel\u00f6st. Was der Redner nat\u00fcrlich meinte, war, dass Simulationen oder Videospiele entweder auf \u201eAlgorithmen\u201c basieren k\u00f6nnen \u2013 das hei\u00dft, auf einer Reihe von physischen oder un-physikalischen Gesetzen (zum Beispiel f\u00fcr Fantasywelten) \u2013 oder auf Extrapolationen, die auf Daten basieren.<\/p>\n

Wenn wir als Entwickler Code schreiben, legen wir eine Reihe von \u201eGesetzen\u201c oder Regeln fest, denen ein Computer folgen soll. Erlerntes Verhalten hingegen abstrahiert eine Reihe von Mustern oder Wahrscheinlichkeiten aus den gesammelten Daten. Letzteres ist das Wesen von gro\u00dfen Sprachmodellen \u2013 sie werden nicht programmiert; vielmehr werden sie basierend auf einer Auswahl von nat\u00fcrlichen Sprachtexten, Fotografien, Musik oder anderen Informationsquellen trainiert.<\/p>\n

Die Modelle \u201eziehen ihre eigenen Schl\u00fcsse\u201c im Lernprozess. (Oder, genauer gesagt, die Modelle sind die Artefakte, die das Lernen verk\u00f6rpern, das stattfand, als ein Algorithmus die Trainingsdaten verarbeitete.)<\/p>\n

Erneut hat mich das sehr eindrucksvoll an den menschlichen Lernprozess und an die Funktionsweise der Physik und Wissenschaft erinnert.<\/p>\n

Es gibt eine ber\u00fchmte Anekdote \u00fcber den Physiker Galileo, der im 16. Jahrhundert geboren wurde und w\u00e4hrend eines Gottesdienstes in der Stadt Pisa in Italien (ber\u00fchmt durch den Schiefen Turm) die Schwingung eines Kronleuchters beobachtete. Ein Luftzug versetzte die Kronleuchter ab und zu in Bewegung, wobei gr\u00f6\u00dfere oder kleinere Schwingungen entstanden.<\/p>\n

Galileo stellte fest, dass unabh\u00e4ngig davon, wie hoch der Kronleuchter durch den Wind angehoben wurde, die Zeit, die ein bestimmter Kronleuchter f\u00fcr eine Schwingung ben\u00f6tigte, immer gleich war. Mit anderen Worten, die Zeit, die der Kronleuchter f\u00fcr das Hin- und Herschwingen ben\u00f6tigte, hing nur von der L\u00e4nge der Kette ab, die ihn hielt, nicht von der H\u00f6he, aus der er losgelassen wurde.<\/p>\n

Dies ist eine au\u00dfergew\u00f6hnliche Beobachtung, und die Tatsache, dass dieses Ph\u00e4nomen in den ersten 300.000 Jahren der Menschheitsgeschichte anscheinend nicht bemerkt (oder zumindest aufgezeichnet und untersucht) wurde, zeigt, wie tiefgr\u00fcndig und neugierig Galileo war.<\/p>\n

Es ist wichtig zu beachten, dass Galileo keine Uhr hatte, mit der er die Zeit aufzeichnen konnte \u2013 diese waren noch nicht erfunden worden und konnten auch nicht erfunden werden, bis dieser \u201ePendel-Effekt\u201c entdeckt worden war. Galileo ma\u00df diese anf\u00e4nglichen Schwingungen mit seinem Puls \u2013 obwohl er sp\u00e4ter seine Beobachtungen vermutlich mit Wasseruhren oder Sanduhren, die zu seiner Zeit bekannt waren, verfeinerte.<\/p>\n

Warum ist das interessant? Weil Galileo, wie andere Entdecker, Beobachtungen oder \u201eDaten\u201c nutzte, um Muster zu erkennen. Aus den Daten konnte er eine Vorhersage treffen \u2013 n\u00e4mlich, dass die Schwingungsdauer eines Pendels nur von der L\u00e4nge des Pendels und nicht von der H\u00f6he der Schwingung oder (wie sp\u00e4ter festgestellt wurde) vom Gewicht abh\u00e4ngt.<\/p>\n

Warum ist das wichtig und wie h\u00e4ngt es mit GenAI zusammen? Es gibt zwei breite Zweige der Physik, die als \u201eexperimentell\u201c und \u201etheoretisch\u201c bezeichnet werden. Das Ziel der experimentellen Physik ist es, Beobachtungen zu machen und zu bestimmen, was passiert. Das Ziel der theoretischen Physik ist es, zu erkl\u00e4ren, warum etwas passiert \u2013 konkret, die zugrunde liegenden Prinzipien zu entdecken, die sich in den Beobachtungen manifestieren oder die vorhersagen, was beobachtet werden wird.<\/p>\n

Interessant ist f\u00fcr mich im Zusammenhang mit GenAI, dass es ein Mittelfeld zwischen diesen beiden Bereichen der Physik gibt, das manchmal als Ph\u00e4nomenologie bezeichnet wird. Der Begriff Ph\u00e4nomenologie wird in verschiedenen Kontexten verwendet, aber als ich ein Doktorand in der Hochenergie-Teilchenphysik (theoretische Physik) war, wurde das Wort \u201ePh\u00e4nomenologie\u201c verwendet, um Vorhersagen zu beschreiben, f\u00fcr die wir noch keine Theorie hatten, um sie zu erkl\u00e4ren.<\/p>\n

Mit anderen Worten, wir wussten, dass etwas passiert oder passieren w\u00fcrde, aber wir hatten noch keine zufriedenstellende Erkl\u00e4rung f\u00fcr das \u201eWarum\u201c.<\/p>\n

Galileo, in seinen Pendelbeobachtungen in der Kirche und sp\u00e4ter in seinem \u201eLabor\u201c, f\u00fchrte das durch, was wir heute als experimentelle Physik bezeichnen w\u00fcrden. Das hei\u00dft, er machte Beobachtungen dar\u00fcber, was passierte, und beschrieb, was er sah.<\/p>\n

In meinen begrenzten historischen Recherchen habe ich keinen Nachweis gefunden, dass er dies tat, aber wir k\u00f6nnen uns vorstellen, dass Galileo seine Beobachtungen einen Schritt weiter h\u00e4tte gehen k\u00f6nnen und quantitative Vorhersagen \u00fcber das Verhalten von Pendeln gemacht h\u00e4tte. Das hei\u00dft, basierend auf seinen experimentellen Ergebnissen h\u00e4tte er entdecken k\u00f6nnen, dass f\u00fcr kleine Schwingungen die Periode eines Pendels proportional zur Quadratwurzel der Pendell\u00e4nge ist.<\/p>\n

Selbst wenn er jedoch ein solches quantitativ genaues Vorhersagemodell erstellt h\u00e4tte, verzeichnet die Geschichte nicht, dass Galileo jemals wirklich verstand, WARUM die von ihm entdeckte Pendelregel wahr war. Eine zufriedenstellende qualitative Erkl\u00e4rung musste etwa 100 Jahre warten, bis der niederl\u00e4ndische Wissenschaftler Christiaan Huygens 1673 an der harmonischen Bewegung arbeitete. Eine vollst\u00e4ndige quantitative Erkl\u00e4rung erforderte, dass Sir Isaac Newton zuerst den Kalk\u00fcl erfand und seine drei Bewegungsgesetze festlegte. (F\u00fcr die theoretische Grundlage der einfachen harmonischen Bewegung, wie sie ein Pendel darstellt, siehe hier zum Beispiel.)<\/p>\n

Wie h\u00e4ngt diese Geschichte also mit GenAI zusammen?<\/p>\n

Wir k\u00f6nnen uns leicht vorstellen, dass unsere aktuellen GenAI-Modelle wie Galileo handeln \u2013 beobachten, was passiert, Muster erkennen und basierend auf diesen Mustern Extrapolationen und Vorhersagen treffen. Wir k\u00f6nnen uns sogar vorstellen, dass sie die erforderlichen mathematischen Anpassungen und Berechnungen durchf\u00fchren, um diese neuen Beobachtungen in mathematische Modelle zu \u00fcberf\u00fchren.<\/p>\n

Es ist schwieriger, sich vorzustellen, dass ein aktuelles GenAI-Modell wie ein Huygens oder ein Newton agiert und von den ersten Prinzipien ableitet, WARUM etwas passiert, es sei denn, das Modell enth\u00e4lt diese Informationen bereits und ruft sie lediglich ab.<\/p>\n

Ich glaube nicht, dass das Schlie\u00dfen aus den ersten Prinzipien f\u00fcr GenAI unm\u00f6glich ist, und es wird hart daran gearbeitet, dies zu erm\u00f6glichen. Ans\u00e4tze wie \u201echain of thought\u201c und \u201etrain of thought\u201c kommen dem nahe. Aber \u201eTheorie\u201c ist nicht die St\u00e4rke der heutigen GenAI-Technologie (Stand 2024). Aktuelle LLMs sind \u201ePh\u00e4nomenologen\u201c, keine \u201eTheoretiker\u201c, was in keiner Weise ihre Bedeutung schm\u00e4lern soll.<\/p>\n

Warum k\u00fcmmern wir uns um die Theorie? Wenn wir vorhersagen k\u00f6nnen, \u201ewas\u201c passieren wird, interessiert uns wirklich das \u201ewarum\u201c?<\/p>\n

Dies ist eine gute Frage, und es wird schnell metaphysisch, abh\u00e4ngig von der Natur des Bewusstseins. Dar\u00fcber hinaus wird schnell philosophisch, was eine \u201ezufriedenstellende Erkl\u00e4rung\u201c und \u201eerste Prinzipien\u201c sind. Aber im praktischen Sinne k\u00f6nnen wir sehen, dass sowohl Theorie als auch Ph\u00e4nomenologie in verschiedenen Kontexten einen Wert haben.<\/p>\n

Die Ph\u00e4nomenologie hat einen \u201epraktischen\u201c Wert. Astronomen und fr\u00fcher auch Astrologen konnten die Phasen des Mondes und den Verlauf der Jahreszeiten lange vor dem Verst\u00e4ndnis vorhersagen, dass die Erde die Sonne umkreist und der Mond die Erde umkreist. Diese rein ph\u00e4nomenologisch basierten Vorhersagen hatten einen tiefgreifenden Einfluss auf die Menschheitsgeschichte, einschlie\u00dflich der Erfindung der Landwirtschaft, die wiederum zur Entstehung von St\u00e4dten und Zivilisation f\u00fchrte.<\/p>\n

Aber es liegt in der Natur des menschlichen Geistes, die Gr\u00fcnde hinter dem, was er beobachtet, zu erkennen. Menschen entwickelten Theorien \u2013 zun\u00e4chst das, was wir heute religi\u00f6s oder mythologisch nennen w\u00fcrden \u2013 um zu erkl\u00e4ren, warum sich Sonne und Mond so verhalten, wie sie es tun. Dies geschah viele Jahrhunderte vor der Entdeckung des Kalk\u00fcls und des Gravitationsgesetzes durch Newton, den immer pr\u00e4ziser werdenden Beobachtungen durch Kepler und zuvor Galileo, und der Hypothese von Kopernikus, dass die Erde die Sonne umkreist. Es liegt in der Natur des Menschen, immer wieder \u201ewarum\u201c zu fragen, bis eine zufriedenstellende \u201eTheorie\u201c pr\u00e4sentiert wird, um die Beobachtungen zu erkl\u00e4ren.<\/p>\n

Abgesehen davon, dass sie uns Menschen intellektuell befriedigt, hat die Theorie den Vorteil, dass sie uns durch die Reduktion des beobachteten Verhaltens auf grundlegende Prinzipien erm\u00f6glicht, Probleme zu l\u00f6sen und Verbindungen zu erkennen, die nur durch Ph\u00e4nomenologie nicht offensichtlich w\u00e4ren.<\/p>\n

Zum Beispiel erkl\u00e4rt die Theorie der einfachen harmonischen Bewegung, die in der Feynman-Vorlesung oben beschrieben wird, nicht nur die Bewegung von Pendeln (Galileos Beobachtungen), sondern auch die Schwingung von gezupften Saiten auf Musikinstrumenten und die Bewegung von Gewichten an Federn. Wenn wir dies leicht verallgemeinern, f\u00fchrt die erzwungene harmonische Bewegung (ein durch den Wind oder durch den Mechanismus einer Uhr angetriebenes Pendel) auch zu Einsichten im Bereich der \u201eResonanz\u201c.<\/p>\n

Dies wiederum hilft uns, verschiedene Ph\u00e4nomene wie die Struktur der Ringe des Saturn und das Verhalten physischer Strukturen wie Br\u00fccken unter dem Einfluss einer \u00e4u\u00dferen Kraft, wie dem Wind, zu verstehen.<\/p>\n

Indem wir unser Verst\u00e4ndnis von mehreren Beobachtungen vereinen, hilft uns eine Theorie, die zugrunde liegende Verbindung zwischen Ph\u00e4nomenen zu entdecken, die zun\u00e4chst unterschiedlich erschienen. Dieser Prozess der Theoriebildung beschr\u00e4nkt sich nicht nur auf die Physik, sondern ist etwas, das wir alle im Alltag tun. Wir haben eine Theorie \u00fcber die Beweggr\u00fcnde des Verhaltens unseres Ehepartners oder Freundes; als S\u00e4uglinge entwickeln wir die Theorie, dass ein Objekt weiter existiert, auch wenn wir es nicht sehen; als Sch\u00fcler oder Ingenieure entwickeln wir eine Theorie dar\u00fcber, was es braucht, um eine gute Note oder eine Bef\u00f6rderung zu bekommen.<\/p>\n

Wir entwickeln auch \u201eTheorien\u201c jeden Tag im Softwarebereich, wenn wir eine \u201eArchitektur\u201c oder einen Algorithmus entwickeln, der ein (hoffentlich) einfaches System erzeugt, das nicht nur ein, sondern mehrere Probleme l\u00f6st.<\/p>\n

Wir abstrahieren auch Gemeinsamkeiten zwischen verschiedenen Systemen \u2013 zum Beispiel Protokollierung, Beobachtbarkeit und Sicherheit \u2013 und strukturieren sie als \u201e\u00fcbergreifende Anliegen\u201c, anstatt sie f\u00fcr jedes System neu zu erfinden. Im Allgemeinen synthetisieren Menschen st\u00e4ndig Beobachtungen und versuchen, die zugrunde liegende Ursache zu erkennen.<\/p>\n

Das menschliche Gehirn funktioniert mit einer Kombination aus Beobachtung, ph\u00e4nomenologisch basierter Vorhersage und Abstraktion oder \u201eTheorie\u201c, um das, was es beobachtet und erwartet, zu verstehen. Derzeit (im Jahr 2024) ist GenAI in den ersten beiden Aspekten \u2013 Beobachtung und ph\u00e4nomenologisch basierte Vorhersage \u2013 am st\u00e4rksten.<\/p>\n

Um das \u201eheilige\u201c (oder \u201eunheilige\u201c) Gral der allgemeinen k\u00fcnstlichen Intelligenz zu erreichen, m\u00fcssen KI-basierte Systeme nicht nur vorhersagen, sondern auch in der Lage sein, Abstraktionen und \u201eTheorien\u201c basierend auf ihren Beobachtungen und Vorhersagen zu bilden. Sie m\u00fcssen ein \u201eGalileo-Gehirn\u201c mit einem \u201eSir Isaac Newton-Gehirn\u201c kombinieren.<\/p>\n

Ich erwarte, dass wir tats\u00e4chlich eine solche \u201eBegegnung der K\u00f6pfe\u201c in der GenAI sehen werden, auch wenn wir heute noch nicht vollst\u00e4ndig dort angekommen sind. Wir haben uns selbst als Beispiele, dass diese beiden Denkweisen in einem einzigen Wesen koexistieren k\u00f6nnen. Wir wissen auch aus erster Hand, wie m\u00e4chtig eine Intelligenz ist, die nicht nur vorhersagt \u201ewas\u201c, sondern auch versteht \u201ewarum\u201c.<\/p>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Bei einer k\u00fcrzlich stattgefundenen Hitachi-Energy-Konferenz habe ich eine sehr interessante Pr\u00e4sentation von nVidia, einem Partner von Hitachi, gesehen. nVidia, ein fabless-Halbleiterunternehmen, dessen GPUs treibende Kr\u00e4fte der GenAI-Revolution sind, wurde von dem Redner nicht als GPU-Unternehmen, sondern als \u201eSimulationsunternehmen\u201c beschrieben. Der Redner erkl\u00e4rte, dass nVidia eine Reihe von Simulationstechnologien unterst\u00fctzt, die von \u201ephysikbasiert\u201c bis \u201edatenbasiert\u201c reichen. Als jemand, der als Physiker ausgebildet wurde, hat es bei mir bei dieser Beschreibung gleich mehrere \u201eAha-Momente\u201c ausgel\u00f6st. Was der Redner nat\u00fcrlich meinte, war, dass Simulationen oder Videospiele entweder auf \u201eAlgorithmen\u201c basieren k\u00f6nnen \u2013 das hei\u00dft, auf einer Reihe von physischen oder un-physikalischen Gesetzen (zum Beispiel f\u00fcr Fantasywelten) \u2013 oder auf Extrapolationen, die auf Daten basieren. Wenn wir als Entwickler Code schreiben, legen wir eine Reihe von \u201eGesetzen\u201c oder Regeln fest, denen ein Computer folgen soll. Erlerntes Verhalten hingegen abstrahiert eine Reihe von Mustern oder Wahrscheinlichkeiten aus den gesammelten Daten. Letzteres ist das Wesen von gro\u00dfen Sprachmodellen \u2013 sie werden nicht programmiert; vielmehr werden sie basierend auf einer Auswahl von nat\u00fcrlichen Sprachtexten, Fotografien, Musik oder anderen Informationsquellen trainiert. Die Modelle \u201eziehen ihre eigenen Schl\u00fcsse\u201c im Lernprozess. (Oder, genauer gesagt, die Modelle sind die Artefakte, die das Lernen verk\u00f6rpern, das stattfand, als ein Algorithmus die Trainingsdaten…<\/p>\n","protected":false},"author":84,"featured_media":87433,"parent":0,"menu_order":0,"template":"","insight":[41],"insight-subcats":[791,790,46],"insight-industry":[750],"insight-services":[],"insight-partners":[],"class_list":["post-88083","insightsection","type-insightsection","status-publish","has-post-thumbnail","hentry","insight-blogs","insight-subcats-ai-governance","insight-subcats-mlops","insight-subcats-perspective","insight-industry-technology"],"acf":[],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insightsection\/88083","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insightsection"}],"about":[{"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/types\/insightsection"}],"author":[{"embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/users\/84"}],"version-history":[{"count":1,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insightsection\/88083\/revisions"}],"predecessor-version":[{"id":101815,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insightsection\/88083\/revisions\/101815"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/media\/87433"}],"wp:attachment":[{"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/media?parent=88083"}],"wp:term":[{"taxonomy":"insight","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight?post=88083"},{"taxonomy":"insight-subcats","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight-subcats?post=88083"},{"taxonomy":"insight-industry","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight-industry?post=88083"},{"taxonomy":"insight-services","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight-services?post=88083"},{"taxonomy":"insight-partners","embeddable":true,"href":"https:\/\/www.globallogic.com\/de\/wp-json\/wp\/v2\/insight-partners?post=88083"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}