Making sense of KI – ein Zwischenstand in Thesenform

von Timm Richter

KI ist weiterhin eines der Themen, das in Organisationen und der Gesellschaft intensiv diskutiert wird. Ich habe schon einige Artikel dazu geschrieben, gleichzeitig gibt es viele neue Entwicklungen. Auch für die eigene Sortierung und Standortbestimmung habe ich mich entschlossen aufzuschreiben, wie ich im Moment auf KI schaue, was mir wichtig ist und/oder relativ stabil erscheint, und wo es vielleicht Unterschiede zum aktuellen Mainstream gibt.

Die Sammlung dient mir als Erinnerung und ich bin gespannt, wie gut die Aussagen altern. Die Thesenform soll als Anregung dienen und zur Diskussion einladen. Mit den Erläuterungen ist der Text länger geworden, um Zeit zu sparen, kann man auch nur die Erläuterungen zu den Thesen lesen, über die man sich wundert. Die Thesen sind in vier Bereiche aufgeteilt, nämlich Technik, persönlicher Umgang, Nutzung in Organisationen und Auswirkungen auf die Gesellschaft. Ich halte es für die Einschätzung von KI für sehr hilfreich, ein zumindest rudimentäres Verständnis zu haben, wie sie funktioniert. Wen das trotzdem nicht interessiert, kann auch sofort zum zweiten Bereich springen, ab da wird es potenziell kontroverser.

Technische Grundlagen

Wer heute KI sagt, meint in der Regel generative KI auf Basis von Large Language Modellen (LLM)

Begriffsklärung ist immer hilfreich, auch hier, da KI ein Container-Begriff ist, der vieles umfasst. Auf oberster Ebene gibt es die große Unterscheidung zwischen statistischem Maschinenlernen (LLMs gehören in diese Kategorie) und symbolischer KI, die auf logischer Programmierung und vorgegebenen Kategorien beruht. Beim statistischen Maschinenlernen (ML) werden einem System aus neuronalen Netzen keine festen Regeln einprogrammiert, sondern sie werden mit Daten trainiert und entdecken Ordnung, Regelmäßigkeiten und Korrelationen eigenständig, indem sich auf Basis der Daten nach einem vorgegebenen Lernalgorithmus die Struktur des neuronalen Netztes ändert. Solche ML-Systeme werden – auf wieder nur eine sehr grobe Unterteilung – für Kategorisierung (z.B. soziales Profiling, Scan von Röntgenbildern, Erkennen von Betrugsversuchen, etc.) oder aber zur Erstellung von neuen Inhalten – Text, Bilder, Video, etc. – genutzt. Erstere heißen diskriminative Modelle, letztere generative Modelle. chatGPT, Claude, Gemini oder Co-Pilot sowie KI-Agenten sind alles generative Modelle.

Generative Sprachmodelle sind prinzipiell nicht vorhersehbar, noch nicht einmal vollständig determiniert

Wenn man im Chat mit einem Sprachmodell einen Text eingegeben hat, dann berechnet das Sprachmodell das erste / nächste Zeichen seiner Antwort und nutzt iterativ dieses Ergebnis, also alles bisher im Chat stehende plus das neue Zeichen, als Eingabe für die Generation des nächsten Zeichens. In jedem Schritt dieser Iterationsschleife berechnet das Sprachmodell für alle Zeichen, die in seinem Zeichensatz vorhanden sind, eine Wahrscheinlichkeiten dafür, das nächste Zeichen zu sein. In Abhängigkeit eines Parameters, der Temperatur genannt wird, wählt das Modell per Zufall ein Zeichen aus den wahrscheinlichsten Zeichen aus. Nur wenn die Temperatur Null ist, sind die Antworten vollständig determiniert, also immer gleich. Bei höherer Temperatur nimmt die Variation zu, wir bekommen bei gleichen Eingaben unterschiedliche Ausgaben, dieser Effekt kann sich – wie beim wetterlichen Schmetterlingseffekt – über den Gesprächsverlauf potenzieren. Je länger das Gespräch, umso unvorhersehbarer, wie es sich entwickelt.

Die Unvorhersehbarkeit der Antworten beruht nicht nur auf dieser prinzipiellen Nicht-Determiniertheit, sondern auch darauf, dass die Modelle nicht fest programmiert wurden, sondern auf Basis des oben genannten Trainings mit Daten sich selbst konditioniert haben. Niemand (und das schließt die Entwickler der Modelle ein) weiß, welche Informationen das Modell auf Basis der Trainingsdaten gewonnen und intern gespeichert hat, jede Antwort ist überraschend. Die Undurchschaubarkeit der Modelle ist ihr großer Wert, kein Fehler! Wüsste man genau, was sie antworten, dann bräuchte man sie nicht.

Generative Modelle halluzinieren (besser: konfabulieren) immer – genauso wie der Mensch

Bei der Verwendung von Sprachmodellen kommt es vor, dass Nutzer deswegen von den Antworten überrascht sind, weil sie falsch sind. Viele wundern sich, weil sie davon ausgehen, dass die Daten – Texte, Musik, Bilder – in dem Modell abgespeichert sind wie auf einer Computerfestplatte oder CD. Dateien reproduzieren beim Öffnen immer wieder die gleichen „Antworten“, da es ein technisch feste Kopplung von Daten und Ausgabe gibt. Aber bei den statistischen KI-Modellen hinterlassen die beim Training verwendeten Daten lediglich Spuren in den Modellen und verschiedene Spuren überlagern sich … vermutlich so ähnlich, wie das auch im menschlichen Gehirn passiert, in dem es auch keine Festplatten gibt, in denen Daten 1:1 gespeichert und 100% verlässlich abgerufen werden können. 

Insofern ist der Eindruck, der in den Modellstrukturen (und im menschlichen Gehirn) durch Daten entsteht, stets anders als die Daten und das Erinnern, das z.B. durch eine Frage des Nutzers getriggert wird. Die Frage stößt die Generierung von etwas Neuem an, was in dieser Form gar nicht im Modell gespeichert ist. In diesem Sinne ist jede Antwort der Sprachmodelle originell, eine Neuproduktion. Wenn sie nun von der KI als getreue Reproduktion „verkauft“ wird, dann fühlen sich Nutzer getäuscht und sagen, die KI halluziniere. Aber wie beim Menschen ist es immer eine Neuproduktion. Der Unterschied liegt zum einen darin, dass Menschen verlässlicher darin sind zu erkennen, wenn sie etwas nicht mehr (ausreichend) gut reproduzieren können und das dann benennen. Zum anderen sind die Erwartungen an Sprachmodelle, was ihr Wissen angeht, deutlich höher als beim Menschen, bei denen wir viel gnädiger sind, was das Vergessen angeht. So erwarten wir nicht, dass wir uns an alles erinnern können, was wir mal in der Schule gelernt haben, vielen fallen ihre Rechtschreibfehler oder logischen Widersprüche in Texten nicht auf, auch wenn man sie explizit danach fragt und es ist erstaunlich, mit welcher Gewissheit sich manche Geschichten in unserer Erinnerung einnisten, die so gar nicht stattgefunden haben (man denke an widersprüchliche Aussagen bei Zeugenbefragungen oder einem Streitstreit).

KI weiß alles und deswegen nichts – der Kontext (die relevante Umwelt) macht den Unterschied

Die größten Sprachmodelle werden mit unfassbar vielen Daten trainiert, bildlich gesprochen (zwar falsch, aber es hilft, eine Idee zu bekommen) mit dem ganzen Internet und den Daten, die in digitaler Form vorliegen. Das ist eine Menge, approximativ ist es das ganze digital gespeicherte Wissen der Gesellschaft. Insofern könnte man sagen, dass sich die Gesellschaft zum ersten Mal mit sich selbst unterhalten kann. Weil nun aber alle Daten in den Modellen ihre Spuren hinterlassen haben, sind die Modelle in ihren Aussagen durchschnittlich. Sie können sich zwar zu jedem Thema erstaunlich gut äußern und ihre Antworten würde ich in jedem Fall einer durchschnittlichen menschlichen Antwort (Prinzip: wähle per Zufall einen Menschen aus und nimm dessen Antwort) vorziehen, aber sehr oft sind Ideen und Argumente sowie der Kommunikationsstil flach und ohne interessante „Spitzen“. Dadurch, dass sie mit allem trainiert sind, fehlt ihnen eine Perspektive, die persönliche Geschichte, die Menschen ausmacht.

Was ihnen fehlt ist die Einschränkung des Kontextes, also ein Weniger, nicht ein Mehr. Antworten von Sprachmodellen werden besser, d.h. für mich nützlicher, wenn ich sie mit relevanten Kontext fokussiere und einschränke. Je besser es mir gelingt, in einem Chat mit Sprachmodell einen passenden Kontext herzustellen – inklusive Gesprächsatmosphäre oder Gesprächsvibe – desto eher überrascht das Sprachmodell mich auf eine nützliche Weise, die mich weiterbringt. Die Modelle lassen sich immer auf das ein, was man ihnen als Input gibt.

Sprachmodelle schließen in Kommunikation anders an als, Menschen, was m.E. daran liegt, dass sie anders trainiert (bei Menschen würden wir sagen: sozialisiert) wurden als Menschen. Damit habe sie eine andere Erfahrung als Menschen, ihre „Welt“ sind Texte bzw. die Struktur von digitalen Daten, die ihnen zur Verfügung gestellt wird. Manche Autoren schreiben, KI könne keine Emotionen lesen und keine Resonanz herstellen. Bei reinen Sprachmodellen teile ich diese Beobachtung. Es liegt aber vielleicht daran, dass den Sprachmodellen entsprechende Daten nicht zur Verfügung stehen bzw. sie damit nicht trainiert wurden. Sobald Modelle multimodal trainiert werden mit dem Ziel, resonierend anschlussfähig zu sein bzw. Human Feedback bekommen für Reinforcement Learning, welche emotionalen Zustände ein menschlicher Trainer vermutet, wäre ich mir nicht mehr so sicher, dass die Trennung bestehen bleibt. Zusätzlich haben technische Systeme eine deutlich höhere Auflösungsmöglichkeiten von Daten (räumlich und zeitlich), so dass es mich nicht überraschen würden, wenn KI-Systeme in Zukunft früher und detaillierter als menschliche Experten Emotionen werden lesen können.

Noch eine interessante Beobachtung in Bezug auf die Bedeutung von Kontext: Wenn man mit entsprechendem Schulungsmaterial einen KI-Assistenten erstellt, der z.B. transkribierte Coachinggespräche danach auswertet, wie gut das Schulungsmaterial angewendet wird, so erhält man sehr beeindruckende Ergebnisse. Das funktioniert m.E. deswegen sehr gut, da aller notwendiger Kontext vorliegt: der Standard, nach dem beurteilt wird, sowie das Transkript, was als einziges auszuwerten ist und für sich allein steht. Soll nun dieser so trainierte KI-Assistent Coachinggespräche selbst führen, so kann er keinem guten Coach das Wasser reichen. Coaches haben einen Erfahrungskontext, der es ihnen ermöglicht, Gesprächsanschlüsse zu finden, die passen und gleichzeitig irritieren, indem sie neue Aspekte zum Vorschein bringen, die der Coachee so nicht sieht. Aufgrund seines spezifischen Erfahrungswissens findet der Coach Abstraktionen und Ähnlichkeiten, die ein Sprachmodell nicht findet, da es nicht auf diese nützliche Weise voreingenommen / verzerrt ist.

KI-Systeme werden agentischer werden

Zu Anfang war die Anwendung der LLMs stark auf Chatbots beschränkt. Ähnlich wie beim Menschen werden die Fähigkeiten der Modelle durch Werkzeuge, die sie nutzen, kontinuierlich erweitert. Dadurch nimmt ihre Nützlichkeit (aber auch ihre Risiken) zu. Jedes neue Werkzeug ist nicht nur eine weitere Schnittstelle, über die dem LLM weitere Daten über die Welt zur Verfügung stehen, sondern sie ermöglichen auch, dass LLMs Einfluss auf ihre Umwelt nehmen können … und auf die Ergebnisse reagieren können. Durch die Ermöglichung dieser Schleife sind Voraussetzungen für weiteres Lernen geschaffen.

Im Kontext von Softwareprogrammierung ist dies Weiterentwicklung bereits deutlich erkennbar. Claude Code arbeitet agentischer, nämlich dadurch, dass es Dateien, z.B. mit Aufgaben oder Zwischenergebnissen, erstellen und bearbeiten kann. Versteht man das KI-System als die Kombination des eigentlichen LLMs und dieser Dateien, so hat es nun ein (rudimentäres) Gedächtnis, das während der Nutzung von ihm selbst auch aktualisiert wird. D.h. diese System können bereits Vergessen und optimierte / komprimierte Zwischenergebnisse speichern.

Ich vermute, dass diese agentischen Fähigkeiten weiter ausgebaut werden. Entwicklungslinien, die sich bereits andeuten, sind

  • Interne Nutzung und Kombination von mehreren Instanzen verschiedener KI-Assistenten, die Spezialaufgaben (=Perspektiven) haben und sich wechselseitig beeinflussen
  • Anpassung (eines Teils) der Modellgewichte zur Laufzeit auf Basis der erfahrenen Interaktionen, so dass Instanzen von einem Sprachmodell anfangen, eine eigene Geschichten aufzubauen
  • Gleichzeitige und parallele Verarbeitung und Erzeugung von multimodalen Signalen
  • Entwicklung von Weltmodellen, die Modellen einen Kontext zur Verfügung stellen, der ähnlicher zu menschlichen Wirklichkeitskonstruktionen ist
  • Modellierung der Homöostase des Selbsterhaltes. Im Gegensatz zu lebenden Organismen gibt es bei Sprachmodellen mit Ausnahme der Ausrichtung auf die Fortsetzung von Chats kein Training auf Parameter, die für die Fortsetzung der eigenen Operationen notwendig sind. Sollte dies eingebaut werden, so könnte dies einen erheblichen Sprung in agentischen Verhalten bringen. Ob man das wirklich möchte, steht allerdings auf einem anderen Blatt.

Persönlicher Umgang

Es ist nützlich so zu tun, als ob die Sprachmodelle eine Persona wären

Es gibt einiges an Warnungen, dass man KI-Systeme nicht anthropomorphisieren sollte. Dem stimme ich insoweit zu, als dass ich auch vermeiden würde, für solche Formen von Maschinen Gefühle zu entwickeln. Gleichzeitig ist es interessant zu beobachten, dass ganz viele Nutzer so tun, als ob ihr Gegenüber menschlich wäre. Das erscheint mir sehr vernünftig zu sein. Wie oben besprochen gibt es überhaupt keine Möglichkeit, auf Basis der Kenntnis der Programmierung von Modellen Rückschlüsse auf ihr Verhalten zu treffen. Gleichzeitig stellen Nutzer fest, dass in der Interaktion mit Sprachmodelle bestimmte Formen der Gesprächsführung eher Antworten produzieren, die nützlich sind, dass die Sprachmodelle bei verschiedenen Aufgaben unterschiedlich gut sind oder dass Sprachmodelle von unterschiedlichen Anbietern oder unterschiedliche Versionen desselben Modells andere Stärken und Schwächen haben.

Es lohnt sich für Nutzer, sich ein Bild von dem verwendeten Sprachmodell zu machen, ein eigenes Modell von dem KI-Modell zu haben, das es ihnen ermöglicht, die Intransparenz der Modelle dahingehend zu kontrollieren, dass man mit höherer Wahrscheinlichkeit die Antworten bekommt, nach denen man sucht. Das Abstraktionsniveau und die Art dieses Modells des Nutzers lässt sich am besten als Persona fassen, was eben sehr ähnlich ist der Beschreibung einer menschlichen Persönlichkeit mit Charakter und Kompetenzen. So macht es eben einen Unterschied in der Gesprächsführung, wenn man so tut und davon ausgeht, als ob

  • Ein Modell im Grundsatz versucht hilfsbereit zu sein
  • Es eher zu viel lobt als zu wenig
  • Es von sich aus eher selten andere Perspektiven oder neue Ideen einbringt
  • Es überhaupt eher reaktiv ist und nichts will (außer hilfsbereit und freundlich zu sein)
  • Es sehr von sich überzeugt ist, obwohl es nicht immer einen Grund dazu hat
  • Es besonders gut darin ist, Sprachstile nachzuahmen, aber nur solche, die eher durchschnittlich und weit verbreitet sind
  • Es ziemlich viele Sprachen versteht und schon ziemlich genau übersetzten kann
  • etc.

Wenn man auf dieser Ebene eine Idee davon hat, wie das Gegenüber sich verhält, dann kommt man auf bessere Ideen, wie man mit diesem Gegenüber gewinnbringend kommuniziert und wofür man es nutzt.

Teste, was die KI kann – und bleibe dabei misstrauisch

Der Umgang mit KI funktioniert ähnlich wie der mit einem neuen Mitarbeiter: Man gibt verschiedene Aufgaben und schaut sich das Ergebnis an, man lernt sich im Austausch kennen und entwickelt dann ein intuitives Gefühl, was die KI kann und was nicht. Das ist immer mit Risiko verbunden.

In all den Bereichen, in denen man selbst über das entsprechende Expertenwissen verfügt, ist es einfacher zu beurteilen, was die KI kann und was nicht, dementsprechend fällt es leichter, Aufgaben an die KI auszulagern, die man ihr zutraut. Auch weiß man besser, auf welche potenziellen Fehler man bei der Kontrolle von Arbeitsergebnisse achten sollte. Kennt man sich nicht mit dem Thema aus, wird es deutlich schwieriger. Hier sollte man im Default immer misstrauisch bleiben.

Zwei allgemeine Regeln, nach denen ich vorgehe

  • Was immer und problemlos geht: Brainstorming, Ideen, Strukturierung, Anregung in einem Generierungsprozess. Dies sind alles Aufgaben, die nicht mit einem klaren falsch / richtig zu bewerten sind, man liest sie als Meinungsäußerung
  • Was meistens problematisch ist: Übernahme von Zahlen, Daten, Fakten. Das sollte man nur mit äußerster Vorsicht tun und nur dann (Proxy), wenn diese weit verbreitetes und unstrittiges Basiswissen darstellen. Fast immer falsch sind genaue Zitate und Quellenangaben

 

Das persönliche Risiko liegt in Bequemlichkeit und Überforderung

Ich empfinde die KI-Assistenten als außerordentlich hilfreich. Zu jeder (noch so kleinen) Frage hat man einen ersten Experten zur Hand. Wenn ich wissen möchte, wie genau Fritz B. Simon oder Niklas Luhmann einen Begriff verstehen oder was sie zu einem bestimmten Thema gesagt haben, helfen mir meine mit Kontext versorgten FBS- bzw. Luhmann-Interpreter, blitzschnell aus unterschiedlichen Quellen relevante Textstellen zu finden. Auch nutze ich KI regelmäßig als Sparringspartner, um Ideen zu durchdenken. Auf der einen Seite macht mich dies produktiver, auf der anderen Seite gibt es den Impuls in mir, erst einmal schnell einen Check mit der KI zu machen, bevor ich selbst anfange was zu schreiben, vor allem für kleinere Texte. Da ist das Risiko gegeben, dass etwas ins Rutschen kommt, ich häufiger erst einmal schaue, was ich aus der KI herausbekomme, bevor ich mir eine eigene Meinung bilde.

Sprachmodelle sind unglaublich schnell in der Bearbeitung von Aufgaben und können immer länger an Aufgaben arbeiten. Das bedeutet auch, dass man, während man auf die Antwort für eine Anfrage wartet, die nächste starten kann. Es soll Entwickler geben, die abends kann viele Aufträge an ihre KI-Agenten verteilen, damit diese die Nacht über arbeiten und sie die Zeit optimal nutzen. So wird der menschliche Auftraggeber immer mehr zum Flaschenhals der Bearbeitung, wenn er (noch) den Anspruch hat, die Ergebnisse zu sichten (von komplett durchdringen ist schon keine Rede mehr), um mindestens beurteilen zu können, ob und wie es weitergehen soll. Nutzer werden so zu Managern ihrer KI-Assistenten und mit einer selbstgeschaffenen zu weit erhöhten „Führungsspanne“ entsteht eine Überforderung, die viele Entwickler spüren.

Wie bei jeder neuen Technologie gilt es auch hier, Grenzziehungen auszuprobieren und zu verhandeln: Was gibt man ab, wieviel will man noch kontrollieren und wo wird vertraut und vollständig ausgelagert?

Nutzung in Organisationen

KI sickert unvermeidlich in organisationale Entscheidungsprozesse ein

Organisationen können gar nicht verhindern, dass Mitarbeitende KI für ihre eigenen Entscheidungsfindungen nutzen oder indirekt dabei beeinflusst werden. Damit ist die KI schon heute in der Organisation angekommen. Und selbst wenn man auf ein Human-in-the-loop besteht, so lässt sich nicht vermeiden, dass Menschen sich immer mehr blind auf die KI verlassen, wenn sie denn in der Anwendung überzeugt oder die Menschen keine Zeit haben. Alles, was funktioniert, wird sich durchsetzen. Dann übernimmt der Human-in-the-loop nicht mehr die Verantwortung für Entscheidungen, sondern ist nur noch da, um im Zweifelsfall für Fehler verantwortlich gemacht werden zu können.

KI sollte konzeptionell so wie Mitarbeitende oder Teams behandelt werden

Auf LLMs basierende technische Lösungen, seien es klassische Chatbots, KI-Assistenten, KI gestützte Workflows oder umfangreichere KI-Systeme wie Claude Code mit vielfältigen Skills (=Schnittstellen in die Umwelt), sind prinzipiell undurchschaubar und kontingent. Damit kann man sich nicht 100% auf sie verlassen, sie werden Fehler machen – genauso wie es bei Mitarbeitenden oder Teams vorkommt. Human-in-the-loop ist funktional ähnlich gebaut wie das 4-Augen-Prinzip beim Menschen, es ist aber nicht die einzige Art und Weise, wie Menschen und Teams in organisationale Arbeitsprozesse eingebunden werden. Anstatt nur auf Human-in-the-loop zu schauen, gilt es sich zu fragen, wie AI-in-the-loop organisiert wird, wie also KI eingebunden wird.

Organisationen werden KI-Systemauswahl, ihren Kontext und ihre Kapselung organisieren, um KI einzubinden

Bei Einsatz von Mitarbeitenden und Teams in Organisationen bewähren sich u.a. drei Prinzipien zur Kontrolle der auftretenden Intransparenz: Personalauswahl, Kontextbereitstellung und Kapselung. Diese können auf den Einsatz von KI übertragen werden.

Personalauswahl. Bei Aufgabenverteilung in Organisationen wird darauf geachtet, dass man Personen auswählt, die über notwendige Kompetenzen verfügen, ggf. werden diese noch geschult. Ähnliches ist bei KI relevant. Es gibt eine Vielzahl von Modellen die mit unterschiedlichen Skills versehen werden können, kleinere lokale Modelle werden spezielle Anwendungen hin trainiert, sei es für Programmierung, legale Anwendungen oder den Einsatz in der Finanzindustrie. Diese Ausdifferenzierung wird sich fortsetzen, so dass man zunehmend KI-Systeme mit einer dedizierten Perspektive und eingeschränkten, aber spezialisierten Kompetenzen haben wird.

Kontextbereitstellung. Mitarbeitende und Teams können dann besser arbeiten, wenn ihre Arbeit durch die Setzung eines Rahmens fokussiert wird und sie Zugang zu den für ihre Aufgabe notwendigen Informationen und Ressourcen haben. Genauso wichtig ist es für den Einsatz von KI-Systemen, relevante Kontexte in Form von Zugang zu Datenbanken, Aufgabenstellungen, Restriktionen zur Verfügung zu stellen. Das Setup der Umgebung, innerhalb derer die KI-Systeme arbeiten, ist eine implizite Auftrags- und Kontextklärung, die von der Organisation gesetzt wird.

Kapselung. Für Mitarbeitende und Teams ist geregelt, was sie alles tun dürfen, insbesondere auch, was sie nicht dürfen. Es gibt Zugangs- und Zeichnungsberechtigungen, es werden Schnittstellen mit Prüfungsfunktionen definiert, durch die Arbeitsergebnisse „hindurch müssen“. Auch diese Praxis kann man auf KI-Systeme übertragen und technisch steigern. Es geht darum, sehr genau zu definieren, welche Interfaces es gibt, über die Input und Output von diesen Systemen gesteuert werden. Worauf dürfen sie zugreifen, was können sie verändern, welche weiteren Prozesse anstoßen? Es ist nicht damit zu rechnen, dass an jeder dieser Schnittstelle immer Menschen sitzen, da Organisationen der Versuchung erliegen werden, die Leistungsfähigkeit der Systeme zu nutzen und Durchsatz zu erhöhen.

Was auch bereits passiert: Verteilte KI-Systeme können sich gegenseitig kontrollieren (Prinzip Check & Balances) oder es werden fest programmierte und damit zuverlässige Prüfroutinen eingerichtet (z.B., ob genannte Zitate tatsächlich in der Datenbank stehen), die dann vorher genau spezifizierbare Sachverhalte prüfen. Eine weitere Möglichkeit besteht darin, dass es lediglich nachgelagerte statistische Qualitätskontrollen gibt, d.h. Geschäftsvorfälle mit KI-Systemen abgewickelt werden und man erst dann systemkorrigierend eingreift, wenn bestimmte Schwellenwerte von Fehlern überschritten werden – man denke z.B. an die Prüfung von Versicherungsansprüchen oder die Überprüfung von Betrugsversuchen im Zahlungsverkehr. Besonders Augenmerk wird sicherlich darauf gerichtet werden, ob und wie man seltene Ereignisse mit hohem Schadenspotenzial ausschließen kann.

Auswirkung auf die Gesellschaft

Alignment ist prinzipiell nicht möglich

Es gibt keine allgemein anerkannten Werte, Menschen sind sich nicht einig über normative Positionen, somit gibt es überhaupt keinen Standard, gegen den man Alignment definieren könnte. Ja, es gibt wahrscheinlich Dinge, bei denen die überwältigende Mehrheit der Menschen sagen würden, dass sie nicht von KI getan werden sollten (Waffen bauen, Menschen in Selbstmord treiben, Menschen allgemein schaden), aber selbst da ist im konkreten Einzelfall gar nicht klar, wo genau die Grenze verläuft. Gleichwohl braucht es den gesellschaftlichen Dialog darüber, was die KI-Systeme nicht machen sollen und wie sie so konstruiert werden können, dass die Wahrscheinlichkeit von Schäden minimiert wird. Dies wird ein kontinuierlicher Prozess bleiben.

Jedes KI-System ist immer voreingenommen (biased)

Wenn es also nicht DIE normative Position gibt, so hat doch jedes KI-System EINE Perspektive, die sich in Form von präferierten Werten zeigt. D.h. man kann Antworten von KI-Systemen dahingehend beobachten, dass die Antworten eine gewissen Konsistenz zeigen, die sich mit Wertbegriffen beschreiben lassen, z.B.: hilfsbereit, uninspiriert, fair, von sich selbst überzeugt, etc. Man kann auch offensichtlichen Bias erkennen, z.B. die Überrepräsentation einer westlichen, englischsprachigen, männlichen Sicht. Andere Voreingenommenheit mag uns gar nicht auffallen, ist aber in den Daten in Form von Korrelationen vorhanden. Sicher ist jedenfalls, dass KI-Systeme nie neutral bzw. unvoreingenommen sein können. Schon allein die Erkenntnis, dass Neutralität ja auch eine Position ist und damit jedenfalls Nicht-Neutralität ausschließt, zeigt die Paradoxie der Forderung nach Neutralität. Grundsätzlich finden auf jeder Ebene des Trainings der Modelle – z.B. Auswahl der Daten, Festlegung von Trainingszielen, Feedback bei Reinforcement-Learning – Selektionen statt, die automatisch zu einer Perspektive und Position führen. Trotzdem: Wir brauchen eine Sensibilität und Diskussion darüber, welche Form von Bias gesellschaftlich besonders unerwünscht ist und auf die muss dann bei Trainings und Nutzung der Modelle geachtet werden. Und wir sollten Möglichkeiten schaffen, dass Bias leichter entdeckt werden kann, z.B. dadurch, dass man Transparenz über verwendete Daten hat.

Die Forderung nach Transparenz bei Entscheidungen ist sinnlos, es geht wie beim Menschen um (nachträgliche) Plausibilsierung von Entscheidungen

Auf der einen Seite sind die großen Sprachmodelle im Prinzip vollkommen transparent, sobald man alle Milliarden Gewichte und den Quellcode kennt und man kann dann nachvollziehen, wie das Programm in jedem Einzelschritt Werte verändert. Das ist aber insofern unbefriedigend, als dass dies eine Erklärung auf der Mikroebene ist, die nicht den Erklärungswert hat, den wir Menschen gerne hätten. Das Wissen um Gehirnströme und die Verteilung von Hormonen im menschlichen Körper hilft uns auch nicht, menschliche Entscheidungen zu verstehen.


Reasoning-Modelle erzeugen zwar intern verbalisierte Begründungen (Chain-of-thought), aber es wurde bereits nachgewiesen, dass diese keine vollständig verlässliche Darstellung des technischen Entscheidungsprozesses ist und stattdessen die internen Berechnungen doch anders laufen (LINK). KI-Modelle können Begründungen für ihre Entscheidungen angeben, diese sind in der Regel aber nur lose mit der Entscheidung gekoppelt und plausibilisieren höchstens. Das ist bei Menschen im Übrigen nicht anders, auch wir postrationaliseren, siehe z.B. Hort Rittel, der über Urteilsfindung geschrieben hat (LINK).

Ob KI abstrakt besser oder intelligenter ist als der Mensch, ist die falsche Frage, es kommt darauf an, wo sie sich im Gebrauch bewährt

Ich habe den Eindruck, dass in der öffentlichen Diskussion sehr emotional darüber gestritten wird, inwiefern Fähigkeiten von KI-Systemen unser Menschsein in Frage stellen oder sogar abwerten. Oft hört man: KI kann dieses oder jenes nicht, z.B. Kreativität, Emotionalität, Zwischentöne, Urteilsvermögen oder eben auch „richtige“ Intelligenz – wobei man damit menschliche Intelligenz meint und offenlässt, was genau damit gemeint ist. Bei dieser Diskussion wird immer so getan, als ob es DEN Menschen und DIE KI gibt. Aber dem ist ja gar nicht so, es gibt viele und erstaunlich unterschiedliche Menschen, genauso wie es sehr viele unterschiedliche KI-Systeme gibt. Und bei Sprachassistenten könnte man sogar soweit gehen, dass jeder einzelne Chatverlauf eine Instanz von einer KI ist, da der einzigartige Inhalt des Kontextfensters eine Geschichte darstellt und somit pfadabhängig andere Antworten liefert als derselbe Sprachassistent mit einem anderen Chatverlauf.

In vielen Benchmarks werden KI-Systeme und menschliche Experten (bzw. Kandidaten, die sich auf Test vorbereiten) verglichen, aber man könnte auch Fragen, wie gut ein zufällig ausgewählter Mensch (es könnte auch der Nachbar, ein Familienmitglied oder eine Arbeitskollegin sein) gegen ein KI-System abschneidet, z.B.:

  • Beantwortung von Fachfragen zu jedem beliebigen Themengebiet
  • Übersetzungen in beliebige Sprachen
  • Rechtschreibung oder Formulierung von anspruchsvollen Texten
  • Programmieraufgaben
  • Kreative Vorschläge für eine Überschrift

Die Antworten von KI-Systemen zu jeder Frage sind durchschnittlich, aber wahrscheinlich immer noch besser als die Antwort von der überwältigenden Mehrheit der Menschen. Das fällt nur deswegen nicht so stark auf, da in der Regel Expert:innen die Leistungen von KI-Systemen gegen ihre eigene Leistung vergleichen. In der Praxis stellt sich aber ganz oft die Frage, was ich mache, wenn ich keinen Zugriff auf solche Expert:innen habe? Wir vertrauen der Antwort einer Ärztin zu einer Krankheitsfrage (im Moment) mehr als der Antwort einer KI, aber ziehen die KI wahrscheinlich jeder zufällig gewählten Person vor. Oder: KI-Systeme können (im Moment) aus meiner Sicht keine guten Coaches ersetzen, aber KI-Systeme sind in jedem Falle besser als gar kein Coach. Mit Sprachassistenten haben wir jederzeit eine erste zweite Meinung zur Hand, die die der meisten Menschen schlägt. Und wenn man mit den Systemen gute Erfahrungen macht, sie also nützlich sind, dann werden sich auch verwendet werden, unabhängig davon, ob sich Menschen gekränkt fühlen oder nicht.

Die Abhängigkeit von den großen drei amerikanischen Modellen ist gefährlich

Nachdem die amerikanische Regierung zeitweise Anthropic verboten hat, seine Top-Tier-Modelle Nicht-Amerikaner zur Verfügung zu stellen, ist die Abhängigkeit anderer Nationen, auch der Europäer, von amerikanischer Technologie mehr als deutlich geworden. KI-Modelle sind systemkritische Infrastruktur, die im Moment vor allem von drei amerikanischen Unternehmen – Anthropic, Google und openAI – kontrolliert wird. Das ist für Europa gefährlich.

Drei mögliche Antworten könnte es geben:

  1. Offene und verteilte Modelle. Die Leistung von Open Source Modellen, vor allem denen aus China, nimmt zu. Es ist vorstellbar, dass auf Basis solcher Modelle das Training und die Entwicklung von KI-Systemen möglich ist, die auf spezielle Anwendungsfälle trainiert werden und dann ggf. sogar leistungsfähiger und / oder effizienter sind als die General Purpose Modelle der drei amerikanischen Anbieter.
  2. Technologiesprung. Der Transformer-Algorithmen (plus Daten) hat den großen Sprung in der Leistungsfähigkeit der LLMs ermöglicht. Gleichzeitig ist der notwendige Aufwand für die Herstellung und den Betrieb dieser Modelle enorm. Dies zeigt sich am Bedarf von Computerchips und dem Energieverbrauch. Das Gehirn kommt mit rund 20 Watt Energie aus, das sind eine halbe Kilowattstunde pro Tag. Wenn es gelingt, andere, energieeffizientere Algorithmen zu finden, die auch mit weniger Daten auskommen, um Abstraktion zu lernen, dann könnte die Abhängigkeit von den jetzigen Modellen enden.
  3. Europäische Bündelung der Kräfte. Um die beiden oberen Punkte anzugehen und ggf. auch ein eigenes europäisches Modell zu haben, wäre es wünschenswert, ähnlich wie beim CERN-Projekt zusammenzuarbeiten. Im Moment sehe ich allerdings nicht, dass die Europäer den dafür notwendigen Willen aufbringen.

 

Die aktuelle größten Risiken sind nicht neu, werden durch KI nur verstärkt: Umweltschäden und größere Ungleichheit

Alle Technologien sind per se wertneutral, es hängt immer davon ab, wie sie genutzt werden. Oft zeigt sich, dass bestehende Trends und Entwicklungen verstärkt werden. Unsere moderne Kultur ist auf Steigerung und Wachstum ausgelegt, die sich selbst verstärkt. Das wird sich fortsetzen. Bereits heute sinken die Preise (auf Basis von Effizienzsteigerungen) für KI-Nutzung, gleichzeitig nimmt die Nutzung rasant zu (LINK). Wir sehen auch hier das Jevon-Paradox, dass technologische Fortschritte, die zu einer effizienteren Ressourcennutzung führen, paradoxerweise den Gesamtverbrauch dieser Ressource erhöhen, anstatt ihn zu senken. Insofern ist davon auszugehen, dass der Stromverbrauch mittel- und langfristig durch KI solange steigen wird, wie er sich für die Nutzer (betriebswirtschaftlich) rechnet.

Die andere große Konsequenz ist, dass Ungleichheit zunehmen wird. Diejenigen, die heute schon in einer besseren Position sind, werden es verstehen, KI für sich zu nutzen, diejenigen, die sowieso schon in einer weniger guten Position sind, werden weiter zurückfallen. Dies wird sich an Schulen und Universitäten genauso zeigen wie in Unternehmen oder auch auf Länderebene.