Künstliche Intelligenz und das Ende der Expertise

Lesezeit: 15 Minuten

Es gibt Sätze, die klingen wie Fortschritt und riechen nach frisch desinfiziertem Konferenzraum. »Künstliche Intelligenz wird uns nicht ersetzen, sondern unterstützen« ist so ein Satz. Man hört ihn derzeit überall: auf Kongressen, in Ministerien, in Unternehmenspräsentationen, in Talkshows, in denen Menschen mit randlosen Brillen erklären, dass die Zukunft bereits begonnen habe, leider aber nur im Abo-Modell.

Natürlich wird uns KI nicht ersetzen. Sie wird uns nur die Arbeit abnehmen, die Verantwortung verdampfen, die Honorare halbieren, die Urteilsfähigkeit auslagern und anschließend freundlich fragen, ob wir mit der generierten Antwort zufrieden waren.

Das ist nicht der übliche Alarmismus. Auch keine Panik vor Terminatoren, keine apokalyptische Operette mit blinkenden Serverräumen und Maschinen, die in der Nacht heimlich das Bürger- oder das Kanzleramt übernehmen wollen.

Das eigentliche Problem ist viel langweiliger, viel deutscher, viel gefährlicher: Was passiert, wenn eine Gesellschaft ihre Experten entwertet, während sie gleichzeitig immer komplizierter wird? Oder anders gefragt: Wenn der Arzt nur noch bestätigt, was das System vorschlägt, der Anwalt nur noch prüft, was der Algorithmus zusammengeklaubt hat, der Journalist nur noch glättet, was eine Textmaschine ausgespuckt hat, und der Analyst nur noch PowerPoint-Folien segnet, die aus Datenbrei geboren wurden — wer haftet dann eigentlich?

Der Mensch? Die Maschine? Der Anbieter? Die Cloud? Die Praktikantin, die den Prompt falsch gesetzt hat? Oder ist es die älteste und erfolgreichste Institution der Moderne — zumindest seit Odysseus auf den Zyklopen Polyphem gestoßen war: also Niemand?

Die neue Demut vor dem Automaten

Früher hatte Expertise einen schlechten Ruf, aber immerhin Gewicht. Experten waren diese leicht anstrengenden Menschen, die Dinge wussten, bevor sie eine Meinung hatten. Sie hatten studiert, geprüft, verworfen, gezweifelt, Fehler gemacht, daraus gelernt und für den schlimmsten Fall eine Berufshaftpflichtversicherung abgeschlossen.

Heute wirkt das fast altmodisch. Expertise ist plötzlich eine Art analoger Luxus. Wie ein Füllfederhalter. Oder ein Mensch, der eine Bedienungsanleitung tatsächlich liest. Denn KI liefert Antworten in Sekunden. Sie zögert nicht, schwitzt nicht, räuspert sich nicht. Sie sagt nicht: »Das müsste ich nachprüfen.« Sie sagt: »Gerne.« Das ist ihr gefährlichstes Wort. »Gerne« klingt nach Service, nach Kompetenz, nach der freundlichen Effizienz eines sehr gebildeten Butlers. Dabei bedeutet es oft nur: Ich habe eine statistisch plausible Formulierung gefunden und trage sie nun mit der Würde eines Gerichtsurteils vor.

Menschliche Experten sind dagegen lästig. Sie stellen Rückfragen, wollen Unterlagen, verlangen Kontext und sagen dann Dinge wie: »So einfach ist das nicht.« Das ist im Zeitalter der Sofort-Antwort natürlich ein schwerer Charakterfehler.

Die KI hingegen ist angenehm. Sie hat keine schlechten Tage, keine komplizierte Gebührenordnung, keine Wartezimmer, keine Kanzleischrift, keine Chefredaktion. Sie produziert Klarheit auf Knopfdruck. Und wenn die Klarheit falsch ist, war sie immerhin sehr gut formuliert.

Das ist die neue Magie: Nicht Wahrheit zählt, sondern wie eine Antwort formuliert ist. Nicht ein Urteil, sondern der Tonfall. Nicht die Expertise, sondern eine überzeugende Simulation davon.

Yuval Noah Harari, israelischer Historiker und einer der klügeren Köpfe unserer Zeit, hat das präzise beschrieben. In einem Vortrag beim Schweizer Frontiers Forum im April 2023 sagte er, KI habe das »Betriebssystem der menschlichen Zivilisation gehackt« — nämlich die Sprache. Seit Jahrtausenden nutzen Menschen Sprache, um zu manipulieren, zu überzeugen, zu regieren. Jetzt kann eine Maschine das auch. Und sie tut es ohne Schlaf und ohne Gewissen.

Der Arzt als Beipackzettel mit Puls

Nehmen wir die Medizin. Sie ist ein dankbares Feld für KI, weil dort ohnehin kaum jemand versteht, was passiert — außer hoffentlich die Ärzte, manchmal die Krankenkassen und gelegentlich ein Onkel, der früher einmal Rettungssanitäter war und seitdem bei Familienfeiern Blutwerte erklärt.

KI kann Röntgenbilder analysieren, Laborwerte sortieren, Symptome vergleichen, Studien zusammenfassen. Das ist beeindruckend. Es kann helfen. Es kann Zeit sparen. Es kann Leben retten. Wer das bestreitet, verwechselt Kritik mit Nostalgie.

Aber genau dort beginnt die eigentlich interessante Frage: Wenn ein System eine Diagnose vorschlägt und der Arzt folgt ihr — wer hat diagnostiziert? Der Arzt, weil er unterschrieben hat? Die KI, weil sie den entscheidenden Hinweis geliefert hat? Der Softwareanbieter, weil sein Modell die Empfehlung erzeugt hat? Oder das Krankenhaus, das aus Kostengründen beschloss, menschliche Zweitmeinungen seien liebenswerte Anekdoten aus der Ära vor dem Effizienzboard?

Und was passiert, wenn der Arzt der KI nicht folgt und sich irrt? Wird ihm dann vorgeworfen, er habe die Maschine ignoriert? Wird die KI zum neuen Standard ärztlicher Sorgfalt? Nicht weil sie immer recht hat, sondern weil sie dokumentiert, messbar, skalierbar und dabei versicherungsfreundlich ist?

Man ahnt die Zukunft: Der Arzt wird nicht ersetzt, sondern in eine moralisch komfortable Unmöglichkeit eingegliedert. Folgt er der KI, haftet er womöglich für deren Fehler. Folgt er ihr nicht, haftet er für seinen Mut. Das ist kein Fortschritt. Das ist ein Behandlungszimmer mit eingebauter Lebendfalle.

Anwälte als »Haftungs-Dekorateure«

Nicht weniger komfortabel läuft es im Rechtsbereich. Juristische Arbeit eignet sich hervorragend für KI, weil das Recht aus Text besteht, aus Regeln, Ausnahmen, Fristen, Urteilen, Kommentaren und jener besonderen Sprache, in der ein Satz notfalls auch drei Seiten lang sein darf, solange am Ende mit einem »mithin« noch einmal gezielt nachgetreten wird.

KI kann Schriftsätze entwerfen, Urteile finden, Verträge prüfen, Risiken bewerten. Wunderbar! Der Mandant freut sich, die Kanzlei spart Zeit, der Associate darf endlich ausschlafen, und der Partner entdeckt, dass man auch aus automatisierter Textproduktion Stundensätze machen kann, wenn man nur das Wort »Legal Tech« davorstellt.

Aber auch hier steht die eigentliche Frage wie ein schlecht gelaunter Gerichtsvollzieher im Raum: Wer haftet, wenn der Schriftsatz falsch ist? Wenn ein Urteil erfunden wurde? Wenn eine Frist übersehen wurde? Wenn ein Vertrag eine Klausel enthält, die richtig klingt, aber juristisch ungefähr so belastbar ist wie ein IKEA-Regal nach dem dritten Umzug?

Der Anwalt wird sagen: Ich habe geprüft. Die Softwarefirma wird sagen: Unsere Anwendung ersetzt keine anwaltliche Beratung. Der Mandant wird sagen: Dafür habe ich bezahlt. Die Rechtschutzversicherung wird sagen: Bitte reichen Sie den Vorgang noch einmal digital über unser Online-Portal ein, das derzeit wegen Wartungsarbeiten nicht erreichbar ist.

So entsteht eine neue Berufsklasse: der Haftungs-Dekorateur. Er ist noch Jurist genug, um verantwortlich zu sein, aber schon maschinennah genug, um die Arbeit nicht mehr vollständig zu kontrollieren. Er ist die menschliche Unterschrift unter einem maschinellen Entschluss.

Der Analyst und die große Excel-Messe

Auch Analysten, Berater, Finanzdeuter und Strategen sind plötzlich in einer merkwürdigen Lage. Ihre Arbeit bestand lange darin, aus Daten Unsicherheit zu machen und diese Unsicherheit anschließend in Folien zu verwandeln, auf denen Pfeile immer nach rechts oben zeigen.

KI kann das schneller. Erheblich schneller. Sie kann Märkte vergleichen, Risiken modellieren, Kundenverhalten prognostizieren, Krisenszenarien entwerfen und dem Vorstand in zwölf Punkten erklären, warum die eigene Strategie schon immer alternativlos war.

Das Problem dabei ist nicht, dass KI analysiert. Das Problem ist, dass sie Analyse manchmal wie Erkenntnis aussehen lässt. Eine Prognose bekommt durch maschinelle Herstellung den Glanz des Unvermeidlichen. Ein Chart wirkt objektiv, weil niemand mehr genau versteht, wie er entstanden ist. Die Zahl steht da, also wird sie schon etwas meinen. So entsteht die neue Form der Autorität: Undurchschaubarkeit mit Dashboard.

Früher konnte man noch einen Experten fragen: »Wie kommen Sie darauf?« Dann wurde es vielleicht einige Minuten etwas langweilig, aber immerhin nachvollziehbar. Heute fragt man ein System, erhält ein Ergebnis, klickt auf »Details anzeigen« und landet in einer Begriffswolke aus Trainingsdaten, Modellgewichtungen, Wahrscheinlichkeiten und Haftungsausschlüssen.

Eine Maschine entscheidet nicht. Sie empfiehlt. Ein Vorstand entscheidet nicht. Er folgt einer Empfehlung. Ein Berater entscheidet nicht. Er hat nur den Prozess moderiert. Und der Prozess selbst hat keine ladungsfähige Anschrift. Aber die Verantwortung verschwindet dadurch nicht. Sie wird nur so lange weitergereicht, bis sie dünn genug ist, um unter jeder Tür durchzupassen.

Journalismus ohne Wut im Bauch

Und dann der Journalismus, dieses schöne alte Gewerbe zwischen Prostitution und Zumutungen. Früher musste man recherchieren, telefonieren, Dokumente lesen, Widersprüche aushalten, Leute nerven, Archive durchsuchen, sich beschimpfen lassen und am Ende einen Text schreiben, der im Idealfall mehr wusste als der Autor zu Beginn seiner Recherche.

Heute kann man die Maschine bitten: »Schreibe einen kritischen Artikel über das aktuelle Thema XYZ, pointiert, Lesezeit vier Minuten.« Das ist natürlich praktisch. Unheimlich praktisch. So praktisch, dass es einem Angst machen sollte.

Denn Journalismus ist nicht das reine Erstellen von Text. Journalismus ist das Abbilden von Wirklichkeit oder Widerstand. Er beginnt dort, wo eine Aussage nicht einfach genügt, weil man wissen möchte, ob sie auch stimmt.

KI kann Stil imitieren, Zusammenhänge vorschlagen, Archive öffnen, Muster erkennen. Aber sie hat keinen Instinkt für Ausflüchte. Sie riecht nicht, wenn jemand am Telefon lügt. Sie merkt nicht, dass ein Dementi zu schnell kam. Sie hat keine Wut im Bauch, wenn ein Pressesprecher mit »aus datenschutzrechtlichen Gründen« einen Skandal verschleiert.

Vor allem: Sie riskiert nichts. Kein Verfahren, kein Hausverbot, keine Auseinandersetzung mit einem Anwalt, der den Unterschied zwischen Gegendarstellung und Einschüchterung für eine Frage des Briefkopfs hält. Wenn Journalismus zur KI-gestützten Textproduktion schrumpft, bekommt die Öffentlichkeit mehr Oberfläche und weniger Widerstand. Mehr Meinung, weniger Prüfung. Mehr Content, weniger Erkenntnis. Und am Ende klingt alles sehr flüssig, während die Wahrheit irgendwo im Serverraum ersäuft.

Die Entwertung des langsamen Denkens

Das eigentliche Drama liegt tiefer. KI beschleunigt nicht nur Arbeit. Sie verändert den Wertmaßstab für Arbeit. Was lange dauerte, gilt plötzlich als ineffizient. Was teuer war, gilt als verdächtig. Was menschliche Erfahrung verlangte, gilt als automatisierbar. Und was automatisierbar ist, scheint weniger wert zu sein. Damit wird eine gefährliche Gleichung populär: Wenn etwas in Sekunden erzeugt werden kann, war es vorher offenbar überbezahlt.

Das klingt betriebswirtschaftlich vernünftig, ist aber zivilisatorisch idiotisch. Denn Expertise besteht nicht nur aus Ergebnis, sondern aus Urteil. Nicht nur aus Wissen, sondern aus Gewichtung. Nicht nur aus Antwort, sondern aus der Fähigkeit zu erkennen, wann eine Antwort noch nicht möglich ist. Genau dieses »noch nicht« ist eine Kernleistung von Experten. Es ist der Moment, in dem Wissen sich gegen Geschwindigkeit verteidigt.

KI kennt dieses »noch nicht« nicht als moralische Kategorie. Sie kann Unsicherheit formulieren, aber nicht verantworten. Sie kann Wahrscheinlichkeiten ausgeben, aber nicht nachts wachliegen. Sie kann eine Differentialdiagnose erzeugen, aber keine Hand halten. Sie kann ein Urteil zusammenfassen, aber nicht die Tragweite eines Fehlurteils empfinden.

Unsere Gesellschaft hingegen gewöhnt sich daran, dass alles sofort verfügbar ist: Diagnose, Vertragsprüfung, Recherche, Einschätzung, Strategie, Lebensrat, Entschuldigungsschreiben, Trauerrede. Die Welt wird komplexer, die Antworten werden schneller, und die Geduld für echte Überprüfung sinkt exponentiell.

Plausibler Unsinn im Maßanzug

KI produziert oftmals Fehler. Menschen tun das auch — oft mit mehr Kreativität und besserer Handschrift. Das Besondere an KI-Fehlern ist ihre Anmutung. Sie kommen nicht als Unsinn daher, sondern als plausibler Unsinn. Sie tragen einen Massanzug. Sie sprechen in Absätzen. Sie klingen, als hätten sie recht.

Das ist gefährlicher als ein plumper Irrtum. Denn ein falscher Satz, der nach Unsicherheit klingt, lädt zur Prüfung ein. Ein falscher Satz, der souverän klingt, zur kritiklosen Übernahme.

Genau hier liegt das große gesellschaftliche Risiko. Nicht, dass KI gelegentlich halluziniert. Sondern, dass wir verlernen, Halluzinationen zu bemerken, wenn sie nur gut lektoriert sind. Der Laie erkennt den Fehler nicht. Der Experte erkennt ihn, wird aber gefragt, warum seine Prüfung so lange dauert und ob das nicht günstiger zu lösen sei. Die Öffentlichkeit erkennt ihn gar nicht, weil inzwischen schon der nächste schön formulierte Irrtum durch die Kanäle läuft.

Wir bauen eine Welt, in der immer mehr Texte, Diagnosen, Analysen und Entscheidungen professionell aussehen, ohne professionell entstanden zu sein. Das ist keine Demokratisierung von Wissen. Das ist die Industrialisierung eines Anscheins.

Die Haftungsfrage als letzte Bastion

Wer zahlt, wenn etwas schiefgeht? Haftung bedeutet: Jemand steht für eine Handlung ein. Dieser Jemand kann nicht einfach sagen: »Das System hat es empfohlen.« Haftung ist die Bremse an der rasenden Kutsche des Fortschritts. Nicht besonders elegant, aber man vermisst sie spätestens, wenn es bergab geht.

Die Tech-Branche liebt Verantwortung als Bühnenwort. Man spricht von Ethik, Transparenz, Sicherheit. Das klingt beruhigend, solange niemand fragt, wer konkret bezahlt, wenn etwas schiefläuft. Denn dann wird es plötzlich neblig: Die KI ist nur ein Werkzeug. Der Nutzer bleibt verantwortlich. Der Anbieter übernimmt keine Garantie. Die Daten stammen aus vielen Quellen. Das Modell lernt statistisch. Die Ausgabe ist nicht als verbindliche Empfehlung zu verstehen. Bitte konsultieren Sie einen Arzt, Anwalt, Steuerberater, Psychologen, Priester oder Schamanen, bevor Sie die automatisch erzeugte Antwort ernst nehmen.

Sam Altman, Chef von OpenAI und geistiger Vater von ChatGPT, erhielt im September 2025 den Axel Springer Award in Berlin. Einen Abend zuvor hatte er den »Sommer« von Vivaldi mit den Berliner Philharmonikern gehört und erklärt, wenn das Stück von Robotern vorgetragen worden wäre, hätte es uns nicht berührt — »Menschen sind besessen von anderen Menschen.« Schön gesagt. Nur: Wenn Altmans Modelle einen Arzt falsch beraten, einen Anwalt in die Irre führen oder eine Recherche erfinden — wo ist dann die Besessenheit von Verantwortung?

Übersetzt heißt das: Die Maschine darf Autorität simulieren, aber Verantwortung nicht übernehmen. Das ist ein extrem brillantes Geschäftsmodell. Man verkauft den Eindruck von Expertise, ohne ihre volle Last tragen zu müssen. Man automatisiert Einfluss und privatisiert den Gewinn, während die Haftung beim letzten Menschen in der Kette abgeladen wird.

Yuval Noah Harari hat das in seinem Buch »Nexus« auf den Begriff gebracht: KI erzeuge Entscheidungen und Inhalte, ohne eigenes Erleben, Gewissen oder Haftung zu besitzen — und damit entstünden reale Konsequenzen, für die sich keine klar zurechenbare Verantwortung mehr ergebe.

Der Mensch als Feigenblatt mit Login

Das beliebteste Beruhigungsmittel lautet: »Es bleibt immer ein Mensch im Prozess.« The Human in the Loop. Das klingt nach Kontrolle. In Wahrheit ist dieser Mensch aber oft nur das Feigenblatt mit Login. Er soll prüfen, was er zeitlich nicht prüfen kann. Er soll verstehen, was technisch nicht transparent ist. Er soll verantworten, was organisatorisch bereits entschieden wurde. Das ist keine Kontrolle. Das ist rituelle Absolution.

In vielen Bereichen wird der Mensch künftig nicht mehr derjenige sein, der entscheidet, sondern derjenige, der bestätigt. Er nickt und klickt. Er unterschreibt. Und falls etwas passiert: er war ja dabei. So endet Expertise nicht mit einem Knall. Sie endet mit einem Häkchen in einem Compliance-Formular.

Was jetzt nötig wäre

KI kann man nicht mehr einfach wegwünschen. Man sollte es auch nicht. Sie ist zu nützlich, zu mächtig, zu faszinierend, zu praktisch. Wer KI ignorieren will, kann auch verlangen, die Buchdruckerei wieder durch Mönche mit Gänsekiel zu ersetzen. Aber gerade weil KI bleibt, muss man Expertise stärken, nicht schwächen. Nicht jeder Arzt, Anwalt oder Journalist ist gut, nur weil er ein Mensch ist. Das wäre eine romantische Fabel. Aber jeder Beruf, der mit Folgen für andere Menschen arbeitet, braucht überprüfbare Verantwortung, nachvollziehbare Standards und die Freiheit, der Maschine zu widersprechen — ohne dafür ökonomisch bestraft zu werden.

Der Maßstab darf also nicht lauten: Kann die Maschine etwas erzeugen, das wie Expertenarbeit aussieht? Der Maßstab muss lauten: Wer kann erklären, prüfen, verantworten und im Zweifel dafür einstehen? Alles andere ist die hübsche Verpackung eines sehr alten Problems: Macht ohne Verantwortung.

Der letzte Fachmann macht bitte das Licht aus

Vielleicht liegt die eigentliche Gefahr nicht darin, dass KI zu intelligent wird. Vermutlich liegt sie darin, dass wir zu bequem werden. Dass wir aufhören, zwischen Antwort und Urteil zu unterscheiden. Dass wir Expertise nur noch als Kostenstelle betrachten und uns dann wundern, wenn niemand mehr da ist, der den Unsinn erkennt, bevor er Schaden anrichtet.

Eine Gesellschaft kann sich viel leisten: schlechte Talkshows, überteuerte Berater, Ministerien mit Digitalstrategie, Chatbots, die Gedichte über Datenschutz schreiben. Was sie sich nicht leisten kann, ist die systematische Verwechslung von Kompetenz mit Ausstoß.

Medizin, Recht, Politik, Krieg, Klima, Finanzmärkte, Medienöffentlichkeit — alles wird dichter, schneller, vernetzter. Und ausgerechnet jetzt wollen wir glauben, Expertise sei etwas, das man bei Bedarf generieren kann wie ein Bild von einem Dackel im Raumanzug. Das ist lustig, solange es nur um Dackel geht. Es wird schnell weniger lustig, wenn die Diagnose falsch, der Vertrag löchrig, die Recherche erfunden, die Analyse verzerrt und die Entscheidung folgenreich ist.

Dann könnte jemand fragen: Wer ist hierfür verantwortlich? Und irgendwo in einem klimatisierten Serverraum wird eine Maschine sehr höflich antworten: »Gerne.«