Bin ich zu alt…?

Veröffentlicht am von

Vor etwas mehr als 2 Jahren habe ich mich schon mal mit dem Thema „Künstliche Intelligenz“ auseinander gesetzt und wollte das Thema weiter beobachten. Zwei Jahre später bin ich immer noch sehr skeptisch gegenüber den Large Language Models (LLM) die überall eingebaut werden und die mich nun auch in der Arbeit immer mehr „bedrängen“. Und es bereitet mir echtes Unbehagen, mich damit befassen zu müssen.

Mein Arbeitgeber gibt momentan 65 Dollar pro Engineer im Monat aus, damit sich die Leute mit LLMs beschäftigen und versuchen, das im täglichen Workflow einzubauen. Und das führt dann schon mal dazu, dass man in einem Pull Request eine Codezeile sieht bei der man nur denkt „WTF?! Was passiert hier?“. Und wenn man dann den Kollegen der den Pull Request erzeugt hat fragt, hört man, dass das ein Vorschlag von Claude Code war. Aber wenigstens konnte der Kollege noch erklären, was da tatsächlich passiert. Trotzdem sehe ich immer mehr Pull Requests in denen steht „Co-authored by Claude Code-“ und ich weiß nicht, ob das gut oder schlecht ist.

Ja, vielleicht bin ich einfach ein seniler alter Knacker der zu alt für den Sch… ist. Aber auf der anderen Seite sehe ich den Ressourcenverbrauch von LLMs und frage mich, ob das Ergebnis den Aufwand rechtfertig. Klar, es gibt auch LLMs wie Ollama die man lokal -laufen lassen kann, da ist dann das Modell etwa 4,7 GByte groß und man hat einen recht interessanten Chatbot, der schon beeindruckend ist. Als ich ihn aber dann fragte was er vom König von Haunstetten weiß, meinte er nur, dass es den nicht gibt und Haunstetten ein Stadtteil von München sei. Auf die nächste Frage, welche Stadtteile Augsburg hat kam dann die Korrektur, dass Haunstetten ja tatsächlich ein Stadtteil von Augsburg ist.

Überzeugt mich jetzt nicht wirklich, auch wenn es durchaus beeindruckend ist. Aber an dieser Stelle muss ich einflechten, dass ich unlängst das Buch „Next – Erinnerungen an eine Zukunft ohne uns“ von Miriam Meckel gelesen habe in der sie ein Szenario beschreibt in dem die Menschheit von KI-Systemen entmachtet wurde. Das Buch beschreibt sehr plastisch all das, was wir gerade im KI-Sektor beobachten können, der eiskalte Schauer den Rücken runter bekommt man allerdings, wenn man das Veröffentlichungsdatum des Buches liest: 02.01.2013, also lange bevor man Chatbots wie ChatGPT vorgestellt hat.

Die Frage die sich mir also stellt ist, werden wir uns selbst verblöden wenn wir immer mehr auf LLMs als „allwissende Systeme“ setzen? Natürlich ist es angenehm, wenn einem das System jedwede Frage beantworten kann, wie gut oder ungut die Antwort ist wird man aber nur einschätzen können wenn man in diesem Gebiet zumindest über ein Basiswissen verfügt.

Und da sind wir dann auch schon wieder an einem anderen Aspekt dieses KI-Hypes. Wer sich dem verweigert wird als „im Jahr 2020 hängen geblieben“ bezeichnet (O-Ton in einer Besprechung) und außerdem sollen wir uns von der Vorstellung lösen, dass die Welt „deterministisch“ ist, das waren Algorithmen, KI heißt dass wir auf die gleiche Frage zwei verschiedene Antworten bekommen können. Das ist für mich als Informatiker schwer zu akzeptieren, denn die Welt der Algorithmen war eben jetzt mehr als 40 Jahre lang streng deterministisch. Wobei natürlich auch hier schon immer galt, Garbage in, Garbage out.

Und was mich besonders nervt ist dass man um mitreden zu können jetzt quasi das ganze tolle Marketing-Geblubber aller KI-Firmen rezitieren können muss. Wir können also Gemini, Copilot, Claude Code nutzen, aber dann kommt der Kollege der wieder was für „openCode“ erstellt hat und außerdem gibt es da dann noch Opus (ist wohl ein Modell von Anthropic) und MCP und jede Menge anderer Akronyme. Wir stopfen uns also die Birne mit „Wissen“ zu das angesichts der Schnelllebigkeit der technologischen Entwicklung vielleicht nur eine Halbwertszeit von ein paar Monaten hat. Muss ich mir das knapp eineinhalb Jahre vor der Rente noch antun?

Ich weiß es nicht. Auf der einen Seite stellt sich mir die Frage, ob ich wirklich der „grumpy old man“ bin der sich dem Fortschritt verweigert oder ob ich mit meiner Abneigung recht habe. Oder muss ich mich nun tatsächlich auf meine alten Tage mit einem Thema intensiv beschäftigen, das mich nicht überzeugt und bei dem ich halt nicht nur den „oh cool“-Faktor sehe sondern auch die gesellschaftlichen Verwerfungen die diese Technologie mit sich bringt.

Vielleicht würde ich dem Thema enthusiastischer gegenüberstehen wenn ich nochmal 25 Jahre alt wäre, frisch aus der Uni und im Glauben dass man mit Technologie alle Probleme der Welt lösen kann. Aber mit 65 und mehr als 40 Jahren Berufserfahrung ist mein Blickwinkel ein anderer und lässt mich mit Unwillen zurück. Und ja, mit ist klar, dass ich hier auch das klassische Problem des „confirmation bias“ habe, sprich jede Meldung über ein Versagen von KI wird mich in meiner Ablehnung bestärken, jede Meldung über „Erfolge“ werde ich hingegen sehr kritisch hinterfragen und versuchen diese als Fake zu entlarven.

8 Kommentare zu „Bin ich zu alt…?“

  1. @rainer Kann die Gedanken komplett nachvollziehen. Es sollte m.E. niemand das, was die AI-Apologeten derzeit fabulieren, komplett annehmen, aber auch nicht komplett ablehnen.
    Ich vermute, dass es bei ca. 70% Hype und 30% Substanz enden wird.
    Und um die 30% zu verstehen und nutzen zu können, lohnt sich die intensive Beschäftigung mit dem Thema. Nicht nur für den Job, auch um die Welt morgen noch verstehen zu können.

    • @rainer Achso, noch was:

      Determisimus hin oder her. Der Mensch scheint doch eher eine „Wahrscheinlichkeitsmaschine“ zu sein. Und damit wären uns die LLMs gar nicht unähnlich.

      • @rainer Das sagt Claude zu der Fragestellung:

        „Ist der Mensch eine ‚Wahrscheinlichkeitsmaschine‘?

        Das ist eine faszinierende Frage, die Kognitionswissenschaft, Philosophie und Neurowissenschaft berührt. Die kurze Antwort: in vielem ja – aber nicht vollständig.

        Wo der Mensch tatsächlich wie eine Wahrscheinlichkeitsmaschine funktioniert

        Wahrnehmung und Kognition… (1/9)

        • Das Gehirn arbeitet nachweislich nach dem Prinzip der Predictive Coding: Es erzeugt ständig Vorhersagen über die Welt und aktualisiert sie anhand eingehender Sinnesreize – exakt wie ein Bayessches Inferenzsystem. Was wir „sehen” oder „hören”, ist also immer schon eine wahrscheinlichkeitsgewichtete Interpretation, kein neutrales Abbild der Realität. Optische Täuschungen entstehen, weil das Gehirn eine falsche Erwartung durchsetzt.

          Entscheidungen… (2/9)
          @rainer

          • Kognitive Psychologie (Kahneman, Tversky) zeigt: Menschen schätzen Wahrscheinlichkeiten systematisch falsch ein – aber sie schätzen sie ständig. Auch intuitives Entscheiden basiert auf impliziten Mustererkennung und Häufigkeitsbewertung.

            Sprache… (3/9)
            @rainer

          • Sprachproduktion und -verstehen sind statistisch geprägt: Wir vervollständigen Sätze, antizipieren Bedeutungen – und zwar auf Basis erlernter Häufigkeitsmuster. (Kein Zufall, dass Sprachmodelle wie ich überhaupt funktionieren.)

            Wo das Bild zu kurz greift

            Intentionalität und Bedeutung… (4/9)
            @rainer

  2. @rainer Du sprichst mir aus der Seele. Als Lehrer kann ich den KI-Blödsinn inzwischen gar nicht mehr ab. Und stelle mir ähnliche Fragen wie du.

  3. Interesssante Innenansicht und ja, ich schwanke auch zwischen grumpy old man und Adaptionswillen. Aber, im Bereich der Chemieinformatik habe ich Ähnliches vor über 20 Jahren schon einmal gesehen. Der gleiche Hype, die gleichen Versprechungen und dann landeten sie alle als Bettvorleger. Heute soll KI für die Lösung der genau gleichen Probleme wieder eingesetzt werden, wohlwissend, dass es für die Problemlösungen „nur“ gute Daten gibt (gibt es aber nicht. Es gibt viele Daten, aber die Qualität ist meistens lausig) und wir wieder in die Sackgasse aus Hype und Frust landen werden. Häufig werden auch alte Tools (neural networks etc.) als neue KI-Tools verkauft. Aber solange die KI heute immer noch nicht in der Lage ist, einen gezeichneten Benzolring mit Substituenten zu erkennen und nach IUPAC zu benamen, brauchen wir uns keine großen Sorgen zu machen, ob wir durch die KI ersetzt werden könnten.

    Antworten ↓

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert