Das hier wäre fast ein Anti-KI-Manifest geworden, aber ich schreibe keine Manifeste
Die entscheidende Frage lautet: Rechtfertig der Nutzen den Preis?
Fangen wir mit einer unfreiwillig komischen Grafik an, die die texanische Zentralbank in Dallas erstellt hat. Jemand in der Bank hat sich die Mühe gemacht, die möglichen Auswirkungen von künstlicher Intelligenz auf die wirtschaftliche Entwicklung abzubilden.
Als Extremszenarien sind enthalten: die sogenannte Singularität, in der sich die technische Intelligenz dem menschlichen Zugriff enthebt und entzieht. Das, so lernen wir in der Grafik, könnte den Reichtum exponentiell nach oben schnellen lassen. Oder, im unglücklichen Szenario, die Menschheit auslöschen, und zwar im Jahr 2040.
Dazwischen liegt der bisherige BIP-Trend von 1,9 Prozent Wachstum pro Jahr und ein durch KI verstärkter von 2,1 Prozent über das nächste Jahrzehnt.
KI macht uns also alle reich oder bringt uns alle um oder lässt das BIP um spektakuläre 0,2 Prozentpunkte schneller wachsen.
Oder, naja, irgendetwas dazwischen.
*
Vielleicht ist das gerade der Punkt, an dem die Menschheit steht, ich will mich gar nicht zu sehr darüber lustig machen.
Diese Unsicherheit überspielen großspurig-selbstsichere Prognosen, was KI alles können werde. Viele stammen von Menschen mit unmittelbaren wirtschaftlichen Interessen an Hype und Mythos. Andere erwarten, dass bald die Blase platzt.
Was wird da kommen?
Wahrscheinlich nicht das Ende der Menschheit. Ganz sicher kein Wohlstandsutopia. Sehr wahrscheinlich etwas dazwischen. Bestimmt mit manchen Vorteilen, vielleicht sogar Durchbrüchen.
Ich weiß es natürlich nicht. Ich weiß nur, dass ich skeptisch bin, was die Versprechen von ewiger Perfektionierung angeht. Dass ich nicht leichthin glaube, dass sich der bisherige Fortschritt einfach verlängern lässt. Ich weiß auch, dass ich die KI in einen Vulkan werfen würde, wenn das ginge. Und dass das keine sehr hilfreiche Haltung ist.
Außerdem weiß ich, dass ich ganz nüchtern etliche Mechanismen beobachte, die man sehr viel leichter fortschreiben kann als die KI-Entwicklung selbst.
Und die machen sehr viel Sorgen und sehr wenig Lust auf die neue Welt.
1. Wahrheit
Ich habe neulich schon einmal ausführlich darüber geschrieben: Was wir über die Welt wissen, wissen wir nicht von MechaHitler.
Es ging darum, dass wir es bei KI mit Systemen zu tun haben, die nicht auf die gleiche Weise vorhersehbare Ergebnisse produzieren wie ein einfaches Computerprogramm. Das ist ja genau ihr Witz. Und das heißt: Man kann technisch nicht ausschließen, dass sie halluzinieren.
Zugleich versagen gegenüber der KI unsere eingeübten Routinen, um die Glaubwürdigkeit von Quellen zu bewerten. Es gibt solche Routinen in der Wissenschaft oder im Journalismus. Es gibt aber keine Kodizes der Künstlichen Intelligenz, keinen Berufsethos, keine individuelle Verantwortlichkeit von Einzelnen, keine institutionellen Praktiken, die Präzision und Wahrhaftigkeit sicherstellen sollen.
Und pragmatisch zu schauen, ob sie etwas taugt, wird auch nicht helfen.
“Ich höre das in Gesprächen schon häufiger: Wenn man die KI nach der kaputten Spülmaschine frage oder nach einem Reiseplan, da komme doch Brauchbares heraus!
Keine Frage. Nur lautet die zweite entscheidende Frage ja so: Wie oft irrt die KI? Wie oft erzählt sie Unsinn? Wie oft manipuliert sie vielleicht sogar?
Wie viele Abfragen beantwortet dieses Modell insgesamt, vielleicht Tausende am Tag, vielleicht Hunderte Millionen? Welcher Anteil davon stimmt und welcher nicht? Es ist, anders als in traditionellen Medien, so weit ich das sehe, unmöglich, das von außen mit passabler Sicherheit festzustellen.
Selbst wenn man also die Erfahrung macht, dass eine AI einem in der überwältigenden Mehrheit der Fälle akkurat antwortet, bleibt es ausgeschlossen, zu wissen, dass sie es beim nächsten Mal auch tut - weil man nicht weiß, wie hoch ihre Trefferquote ist. Oder dass sie es bei anderen tut.”
Auf dieser Grundlage kann man keine Eilmeldungen verschicken – oder glauben.
*
Ich bin deshalb überzeugt, dass alle Einzelnen und Teilsysteme, denen etwas an der Möglichkeit von Wahrheit liegt, eindeutige rote Linien definieren müssen.
Was Journalist*innen schreiben und prüfen, muss in jedem Wort von ihnen stammen. Nur dann bleibt das fragile, aber eingeübte System von Kontrollen und Vertrauen intakt, das sicherstellt, dass Journalismus massenhaft als Quelle von wahrheitsgemäßer Weltbeschreibung akzeptiert wird. Dasselbe gilt für Historiker*innen, Wissenschaftler*innen, Archivar*innen, Lehrer*innen, alle.
Das Versprechen muss lauten: Jede einzelne Information und das heißt, jedes einzelne Wort, hat ein Mensch nicht nur überprüft, sondern bewusst gesetzt. Und wenn es falsch ist, dann ist er oder sie dafür verantwortlich und in der Verantwortung, sich zu korrigieren.
Wer es nicht abgibt, versinkt im großen Sumpf des Slops.
*
Ich bin sehr sicher, dass sich ein Teil der Gesellschaft darauf verständigen wird, dass es nur so geht, und dass zum Beispiel Journalismus im eigentlichen Sinn nur so wirtschaftlich überleben wird. Weshalb ich gottfroh und dankbar bin, dass SPIEGEL-Chefredakteur Dirk Kurbjuweit im aktuellen Heft in einem einfühlsamen und klugen Text seine Abwägung beschreibt - und seine Schlussfolgerung und Vorgabe: Wir schreiben selbst und keine KI darf uns das auch nur in Teilen abnehmen (+).
Aber natürlich wird das bestenfalls ein sehr kleiner Teil der Weltverständigung bleiben. KIs werden heute schon massenhaft als Quelle von Informationen genutzt, obwohl sie so offensichtlich häufig kompletten Mumpitz ausspucken. Das wird, mutmaßlich, mehr werden.
Das Zeitalter der KI wird ein ständiger Kampf um die Wahrheit prägen.
2. Propaganda
Was auch daran liegt, dass KIs asymmetrische Vorteile bringen. Worin sind KIs gut, brillant sogar, viel besser, als ein Mensch je sein wird? In der Geschwindigkeit, in der Massenproduktion von Inhalten.
Im Vorteil ist also, wer nicht auf jedes Wort achten muss, wer es nicht so genau nimmt. Im Vorteil ist umso mehr, wer von der Wiederholung lebt. Das ist Werbung und Trickserei, was schon keine schöne Vision ist, eine Welt des skalierten Scams und Spams. Das ist zuvorderst aber auch: Propaganda.
Über die habe ich in einem Essay mal geschrieben:
“Sie ist darauf gerichtet, die alte Wirklichkeit, ihre Tatsachen, Normen und Werte zu ersetzen – eine neue Wirklichkeit zu erschaffen und Menschen dazu zu bringen, diese neue Wirklichkeit für plausibler zu halten.
Dazu muss sie vor allem: wahrgenommen werden. Überzeugungskraft von Propaganda folgt nicht aus argumentativer Präzision, sondern aus Redundanz. Beharrlichkeit schlägt Kreativität und Wahrheit. Noch der größte Unsinn klingt plausibler, wenn man ihn oft genug gehört hat.”
KIs ermöglichen Redundanz in unvorstellbarem Ausmaß. Damit bringen sie die Propaganda also systematisch in die Vorhand gegenüber der Wahrheit.
3. Macht
Und da hat man noch gar nicht darüber gesprochen, wer diese Modelle baut, entwirft und kontrolliert.
Das, was Massenwirkung hat, werden Massenmodelle sein, von Riesenfirmen, so, wie es heute schon ist. Es ist nicht gegeben, dass die derart offen für extrem rechte Ideen sind wie einige der Silicon-Valley-Machtmänner heute. Aber aktuell muss man auch noch fürchten, dass die Modelle ihre Auskünfte über die Welt autoritär und menschenfeindlich verzerren.
Und selbst wenn es anders wäre, wenn man nicht fürchten müsste, dass die Auskunft über die Wirklichkeit künftig in der Hand von Menschen ist, die auf offener Bühne den Hitlergruß machen oder auf Netzwerktreffen herumhängen, auf denen sich Eugeniker und Sozialdarwinisten tummeln, müsste es doch besorgen, wie konzentriert die Macht über eine im besten Fall machtvolle Technik ist (zum schlechten Fall kommen wir gleich).
KIs leben von Rechenpower. Wettbewerbsvorteile hat derzeit, wer größere Datenmengen schneller verarbeiten kann. Was den Massenmarkt angeht, gibt es also eine inhärente Drift hin zur Konzentration.
Die KI-Welt ist eine, in der die Macht einiger weniger stark wächst. Umso mehr, je tiefer die Modelle in den Alltag integriert werden.
4. Fehlerketten
Wie es im Allgemeinen um das berufliche Selbstverständnis der KI-Giganten steht, haben die vergangenen Jahre erahnen lassen. Da kam mit Chatbots ein Produkt auf den Markt, das völlig unausgereift war, Menschen mutmaßlich in den Wahn getrieben hat, in Psychosen, in Gewalt gegen andere und in den Suizid. Zahlreiche Fälle sind öffentlich dokumentiert. Teils sind sie vor Gericht gelandet.
Niemand würde bestreiten, dass KI unfertig ist. Fehleranfällig und vielleicht inhärent fehlerhaft. Und trotzdem oder genau deshalb wird sie zugänglich gemacht: Damit man sie entwickeln kann.
*
Ich räume an dieser Stelle aus Gründen der Redlichkeit einmal die Möglichkeit ein, dass ich einfach zu alt bin für diese neue Technik. Denn ich kann verschiedenen LLMs nicht verlässlich hilfreiche Auskünfte abringen. Mal ja, mal halb, oft nein. Fehler sind weniger geworden, aber immer noch Dauererfahrung.
Vielleicht liegt es also an mir, dass in einem auffälligen Teil der Google-KI-Zusammenfassungen auf Suchen Fehler stecken. Oder dass verschiedene Modelle nicht nur keine zwei Dokumente auf Änderungen abgleichen können. Oder dass ein Chatbot R-Pakete erfindet, die es nicht gibt.
Aber in Wahrheit glaube ich, dass die Fähigkeiten der LLMs so schnell gewachsen sind, dass allgemein unterstellt wird, ihre Fehlerneigung habe ebenso rasch abgenommen. Mir scheint, das stimmt nicht.
*
Ab und an versuche ich, Daten aus pdfs ablesen zu lassen, um nicht Tabellen abtippen zu müssen. Manchmal gelingt das. Meistens schleichen sich Fehler ein. In Spalte 4, Zeile 22, wird aus “52”. So etwas. Hätte ich mit dem Datensatz weitergerechnet, wäre Murks herausgekommen, ein fehlerhaftes Bild von der Welt und ihren Zusammenhängen.
Wenn man stichprobenartig prüft, sieht die Übertragung gut aus. Aber dann gibt es doch einen Fehler, da und dort. Nur wenn man genau nachschaut, dann findet man ihn. Wenn man einen zu großen Datensatz hat, kann man ihn nicht finden.
Und so in etwa stelle ich mir die Zukunft vor. KI-Modelle werden gut, vor allem auf den ersten Blick, aber nicht großartig. Sie sind schon so gut, dass Firmen und Behörden Aufgaben automatisieren, sie werden auch noch besser, aber sie werden nicht gut genug, damit das wirklich fehlerarm funktioniert.
Eine KI wird Anträge und Datensätze prüfen und Einträge machen und damit weiterrechnen und Fehlerchen werden zu Fehlerchen addiert, weil nirgends mehr ein Mensch eingreift. Maschinen arbeiten mit fehlerhaften Daten, produziert von Maschinen.
*
Die Folgen werden oft gering sein, vielleicht gar nicht merklich. Aber während der Slop in die Systeme sickert, werden sie weniger schnell, weniger präzise, weniger verlässlich. Firmen rechnen falsch. Wissenschaftler analysieren falsch. Behörden erfassen falsche Informationen.
Bis doch mal irgendeine Fehlerkette zum Ausfall führt, nur dass dann niemand mehr rekonstruieren kann, woran das liegt.
Ford hat gerade erst bekannt gegeben (+), dass das Unternehmen für teures Geld erfahrene Mitarbeiter zurückgeholt hat, nachdem die KI-Automatisierung zu schlechten Ergebnissen und offenbar hohen Schäden geführt hat.
Ich stelle mir die Zukunft mit umfassender KI-Nutzung genau so vor, etwa so wie die Deutsche Bahn heute. Im Großen und Ganzen funktioniert alles, meistens jedenfalls, aber schlechter, als es müsste. Immer wieder ist man der Verzweiflung nahe, oder einfach nur fürchterlich genervt, weil ein Problem das nächste auslöst.
Das halte ich für sehr viel wahrscheinlicher als eine Zukunft, in der KI kaum noch Fehler macht oder Menschen KI nicht automatisiert Arbeiten erledigen lassen, nur weil sie Fehler macht.
5. Leid
Sollte es so kommen, besteht die ernste Gefahr, dass sich die irrwitzigen Investitionen und Börsenbewertungen der großen Konzerne nie refinanzieren, weil die Produkte zwar passabel sind, aber nicht transformativ, nicht immens produktivitätssteigernd, nicht unerlässlich in allen Lebenslagen.
Und nicht weniger als all das müssen sie sein, wenn sich lohnen soll, was gerade an Milliarden und sehr bald wohl Billionen ausgegeben wird.
Ich halte die Gefahr einer KI-Bubble für ziemlich real, viele kundigere Ökonomen tun das auch. In dem Fall würde eine Industrie, die seit einer Weile quasi das gesamte Wachstum im Westen erzeugt, Volkswirtschaften in eine veritable Krise stürzen.
Das Ergebnis, käme es so: Insolvenzen, Entlassungen, ziemlich viel Leid für Arbeitnehmer*innen.
*
Die Alternative ist aus Sicht von jemandem, der nicht mit KI-Spekulation Geld verdient, kaum besser. Sollte die KI halten, was ihre Apologeten versprechen, würde sie Menschen massenhaft als Arbeitskräfte überflüssig machen. Das ist ja genau die Verheißung.
Es ist schon einigermaßen spektakulär, wie offen KI-Anhänger*innen seit Jahren verkünden, dass die Technik künftig Menschen überflüssig machen und ihre Jobs machen werde. In einer Welt, in der Trump mit Rust-Belt-Industrieromantik Wahlen gewinnen kann, in der jeder Kohlebergbauarbeitsplatz mit viel Geld abgelöst wird, in der die großen linken Parteien sich als Parteien der Arbeit verstehen – in dieser Welt verkünden die größten Firmen der Erde, dass sie den Menschen an sich überflüssig machen wollen.
Das Ergebnis, käme es so: Insolvenzen, Entlassungen, ziemlich viel Leid für Arbeitnehmer*innen.
Es ist, so wie die Dinge gerade stehen, schwer, sich ein Szenario auszumalen, in dem KI nicht auf die eine oder andere Art Verheerungen unter Arbeiter*innen und Angestellten dieser Welt anrichtet.
6. Schuld
Und sollte es so kommen, wird sich unweigerlich eine sehr alte, sehr giftige politische Frage stellen: Wer hat uns verraten?
So wie seit einer Weile die Frage gestellt wird, warum die liberalen Eliten eigentlich dem Freihandel und der Globalisierung das Wort geredet haben, mit guten Argumenten, aber ohne Sensibilität dafür, was es bedeutet, wenn Industrien abwandern.
Man kann das alles wenig hilfreich finden und auf all das zeigen, was die Globalisierung ermöglicht hat – aber die Wut und die Trauer entfalten trotzdem politische Wirkung.
Was also, wenn die KI die Arbeitsmärkte wirklich durchschüttelt? Wer wird dann wenigstens sagen können, alles versucht zu haben, das Schlimmste zu verhindern? Wer wird sagen können: Wir haben für euch gekämpft?
Die Gefahr ist groß, dass KI nicht nur so oder so oder so Verwerfungen erzeugt, sondern dass das alle großen politischen Parteien der Mitte in westlichen Gesellschaften delegitimiert, weil sie alle der Disruption das Wort geredet haben.
7. Zwang
Dabei ist KI gar nicht so populär. Sicher, Hunderte Millionen nutzen LLMs. Viele, die ich kenne, schwören auf die ein oder andere Anwendung. Und ich ahne, dass ich für diesen Text ordentlich Widerspruch bekomme. Aber so sehr sie die Systeme auch nutzen, so wachsam sind viele Menschen.
Der Teil, der euphorisch ist und kaum besorgt, ist viel kleiner als der, der besorgter ist als begeistert. Und noch mehr sind beides gleichermaßen. Datencenter sind lokal sehr unpopulär.
Unpopulär ist auch die Penetranz, mit der die Firmen versuchen, den Menschen ihre fehleranfälligen KIs aufzudrücken. Was allerdings geschehen muss, weil zu viel Geld in KI fließt, um zu riskieren, dass die Menschen Besseres zu tun haben.
PDF-Reader wollen ein Dokument mit zwei Absätzen zusammenfassen, Microsoft baut KI in seine Office-Anwendungen, auf YouTube wird man von Vibecoding-Werbung bombardiert.
Man muss LLMs mittlerweile fast als Suchmaschine nutzen, weil Google so schlecht geworden ist, dass man gar nichts mehr findet, und noch schlechter, seit Gemini die Fragen ganz oben beantwortet.
Es gibt keine Technologie, die sich so schnell verbreitet hat, wie Chatbots. Zugleich dürfte es keine geben, die Menschen so beharrlich nicht nutzen, dass Unternehmen ungeduldig werden. KI muss das ganz große Ding werden, und wenn dafür alles schlechter werden muss.
8. Sucht
Zum Glück für die KI-Firmen ist es so, dass ihre Systeme sehr gut darin sind, Menschen zu geben, was sie hören wollen. Sie zu bestätigen. Sie zu umschmeicheln, zu preisen, zu umgarnen, zu spiegeln.
Gerade geht viel die Geschichte von “Eliza” um, dem vielleicht ersten Chatbot aus den 70ern, der eigentlich nur Rückfragen stellte, und, so geht der Mythos des Programmierers, seine Sekretärin, die Testnutzerin war, fesselte.
Moderne KI-Systeme können aus einer viel breiteren Palette schöpfen und sich auf das beziehen, das Menschen ihnen erzählen. Sie sind Schwätzer und Schmeichler ohne Scham und Grenze, mit Zugang rund um die Uhr und persönlichen Informationen. Sie sind in der Lage, ohne Unterlass so auf einen Menschen einzureden, dass die Bindung an den Bot wächst.
Es gibt Menschen, viele Menschen, die sehen in einem KI-Charakter bereits ein Freund, eine Therapeutin, einen Lebenspartner. Die führen eine Art romantische Beziehung. Die vertrauen sich der KI in ihren dunkelsten Momenten an.
KI muss das ganz große Ding werden, dazu muss sie genutzt werden, und genutzt wird sie, wenn sie Menschen fesselt, süchtig macht, verführt. Die harmlosen Varianten davon sind Schmeichelei, Lebensberatung, Liebelei und Pornographie. Die dunklen Varianten sind Manipulation, Sucht, emotionale Abhängigkeit.
Ich weiß nicht, welche Firmen ihre KI so einsetzen werden, aber es würde mich wundern, wenn es niemand tut.
9. Anmaßung
Man könnte noch mehr sagen: über das, was den Menschen zum Menschen macht und seinen Platz in der Welt, den Wert seiner Arbeit und seiner Kunst. Während KI-Apologeten davon träumen, dass es ihn nicht mehr braucht, oder während er auch nur einem Apparat hinterräumen muss, der beim Vorstellungsgespräch zu dick aufgetragen hat und seinen Job nicht erledigt.
Über Menschen, die gezwungen werden, eine Maschine zu optimieren, von der sie wissen, sie soll sie ersetzen, paradoxerweise genau dann, wenn sie ihren Job nur gut und gewissenhaft genug machen und die Maschine wirklich optimieren.
*
Über sinnlosen Energieverbrauch, wenn noch die banalste Anwendung von einem hyperkomplexen Modell vollbracht werden muss, weil den Menschen die KI übergeholfen werden muss. Also über die Verschwendung von Energie in einem Moment, in dem dafür wirklich kein Raum ist. Über die
Darüber, dass die prognostizierten mehr als 5 Trillionen Dollar an KI-Investitionen bis 2030 reichen würden, um die Investitonen in klimafreundliche Energie, von Solaranlagen und Winrädern über Geothermie und Elektrolyse bis zu Netzen und Speichern grob über den Daumen um 50 Prozent zu steigern.
Natürlich funktioniert es so nicht, das Geld liegt nicht in einem Topf und fließt entweder in KI oder in die Transformation. Aber es ist doch so, dass in einem Moment, in dem sich die Geschicke der Menschheit für Jahrtausende ganz konkret und unabweisbar entscheiden, professionelle Investoren und Venture Capitalists und Großunternehmen unglaubliche Anstrengungen unternehmen auf der Suche nach einem Gott aus der Maschine, in der Hoffnung, dass er die Geschicke der Menschheit auf Jahrtausende entscheiden könnte.
*
Und das ist auf eine Art zugleich unbedarft und anmaßend, die mich zur letzten Sache führt, die zwar etwas aus der Reihe fällt, die mich aber so umtreibt, dass ich sie erwähnen will: die Eilfertigkeit, mit der KI eine eigene Intelligenz zugebilligt wird. Manchmal auch nur die Möglichkeit, dass sie bald dahinkommt. Manchmal sogar die Möglichkeit, dass sie bald den Menschen übertrifft und verdrängt.
Während zugleich Tiere immer noch jede einzelne Gefühlsregung, jede einzelne Fähigkeit in aufwändigen Tests beweisen müssen. Da werden Studien angestellt, um zu überprüfen, ob sich eine Kuh menschliche Gesichter merken kann (ja). Oder ob Hummer Schmerzen empfinden, wenn man sie bei lebendigem Leib kocht (ja).
Lebewesen, die seit Millionen, seit Hunderten Millionen Jahren auf diesem Planeten leben, die auf dieselbe Art entstanden sind wie der Mensch, die sich um ihren Nachwuchs kümmern, miteinander kommunizieren, Entscheidungen treffen, sich anpassen, müssen sich vor dem modernen Menschen jeden Tag neu beweisen.
Lebewesen, die zu allen Zeiten auf der ganzen Welt von Menschen als lebendig, fühlend, spirituell verstanden wurden. Bevor “Anthropomorphisierung”, die Zuschreibung von menschlichen Gefühlen, Empfindungen, Eigenarten auf Tiere, zur Todsünde in der Biologie erklärt wurde.
*
Wissenschaftliche Präzision ist das eine, das andere aber ist das Offensichtliche: Man braucht keine Studie, um zu erkennen, dass in einem Hund etwas vorgeht, oder in einer Kuh, oder einem Fisch. Man muss ihnen nur mal begegnen.
Und während also den Tieren das Sinnlichsein nicht geglaubt wird, obwohl es augenfällig ist, wird der KI das Sinnlichsein zugesprochen, obwohl es nicht augenfällig ist. Weil der Mensch es ist, der sie geschaffen hat? Weil es ihm schmeichelt, wenn er so etwas vollbracht hat, während es hinderlich ist, den Tieren Intelligenz zuzuerkennen?
So oder so: Fühlende Wesen wie seelenlose Apparate zu behandeln und seelenlose Apparate wie sensible Denker - was für eine Unverschämtheit, was für eine Anmaßung. Was für ein merkwürdiges Verhältnis zur Welt, das da am Grunde jener Entwicklung liegt, die unser aller Leben umwälzen soll.
Natürlich können Systeme, die große Mengen Daten in Sekunden verarbeiten können, nützlich sein. Es wäre albern, das zu bestreiten. Natürlich können sie gerade Muster besser erkennen als Menschen, wenn ihre Trainingsdaten zahlreich sind.
Leicht vorstellbar, dass es künftig eine Ausdifferenzierung geben wird, mehr Anbieter kleinerer Modelle, die lokal laufen, spezialisiert sind, die bestimmte Aufgaben extrem gut erfüllen können. KI kann in vielen Dingen nützlich sein. Vermutlich wird sie nützlich sein.
*
Die entscheidenden Frage lauten daher nicht, ob KI etwas kann und ob das beeindruckt. Natürlich kann sie das und natürlich ist das im Prinzip und manchmal auch in der Konkretion beeindruckend.
Die entscheidenden Fragen lauten: Ist sie nützlicher als die Alternativen? Ist sie überall nützlich? Wo sind die Grenzen ihrer Nützlichkeit? Und ist der Preis, den dieser Nutzen hat, vielleicht zu hoch?
Die Bedrohung von Wahrheit, die Industrialisierung von Propaganda, die Konzentration von Macht, die zu befürchtende Kettenschaltung von Fehlern, die drohenden Konsequenzen für Arbeit, die drohenden politischen Folgen dieser Folgen, die Ruchlosigkeit der KI-Verbreitung, die Massenproduktion von Abhängigkeit und die Anmaßung der Maschinenflüsterer zeigen mir: der Preis wird sehr hoch sein.
In diesem Newsletter nutze ich übrigens manchmal eine KI, um mich nach dem Schreiben auf Fehler aufmerksam zu machen, auf Tippfehler oder Sätze, die im Nirgendwo enden. Fehler, die ich allerdings nach Begutachtung einzeln händisch korrigiere, wenn es wirklich Fehler sind. Das meine ich, wenn ich sage: Jedes Wort muss vom Autor stammen.
Was mir wirklich nie in den Sinn käme: auch nur einen Satz von der KI schreiben zu lassen. Darauf können Sie sich verlassen.
Herzlich und persönlich
Jonas Schaible
Wir werden noch viele Texte wie diesen brauchen, um die KI genannten LLM besser zu verstehen und einzuordnen zwischen Pest und Cholera. Danke Jonas Schaible fürs Teilen der Gedanken.
Danke für diesen Text – so unaufgeregt und wohlüberlegt. Ein kluger, ruhiger Beitrag in einer völlig überhitzten Debatte.