Die Diskussion über kleine Sprachmodelle beginnt oft mit einer falschen Erwartung: Man nimmt ein 3B- oder 8B-Modell, startet es lokal und bekommt fast dasselbe wie `ChatGPT`, nur günstiger und auf dem eigenen Rechner. Das ist eine bequeme Fantasie, aber ein schlechter technischer Rahmen.
Noch vor Kurzem wurde AI in der Softwareentwicklung vor allem als intelligenteres Autocomplete wahrgenommen. `Copilot` schlug die nächste Zeile vor, `ChatGPT` half beim Erklären einer Fehlermeldung, und der Entwickler blieb die einzige Person im Prozess, die die Aufgabe wirklich als Ganzes sehen konnte.
Noch vor kurzem bedeutete Automatisierung fast immer dasselbe: Ein Unternehmen kaufte ein `SaaS`-Produkt, Mitarbeitende lernten die Oberfläche, verschoben Daten manuell zwischen Systemen, klickten die richtigen Buttons, schickten E-Mails, schlossen Tickets und bauten Reports zusammen. In diesem Modell steckte der größte Teil des Produktwerts in Screens, Rollen und Schritt-für-Schritt-Abläufen, durch die sich Menschen selbst bewegen mussten.
Wenn Teams zum ersten Mal ein `LLM` an ein Produkt anschließen, wirkt es oft so, als sei der schwierigste Teil schon geschafft. Das Modell beantwortet Fragen, formuliert Texte um, schreibt Entwürfe und führt Dialoge. Aber sobald das Produkt auf echte Geschäftsprozesse trifft, zeigt sich eine unangenehme Tatsache: Für sich genommen weiß das Modell fast nichts über eure Verträge, internen Richtlinien, Wissensdatenbanken, Tickets, euren Code, Produktkataloge oder neue Dokumente.
Noch vor einem Jahr drehte sich die Diskussion über lokale LLMs oft um Demos, Heim-GPUs und die Begeisterung darüber, dass ein Modell überhaupt ohne Cloud läuft. Im Jahr 2026 ist das Thema deutlich erwachsener geworden. Unternehmen haben inzwischen API-Rechnungen gesammelt, Compliance-Fragen auf dem Tisch und genug Erfahrung mit der Abhängigkeit von externen Anbietern. Deshalb lautet die eigentliche Frage heute nicht mehr: „Kann man ein Modell selbst betreiben?“, sondern: In welchen Szenarien ist das tatsächlich wirtschaftlicher und sicherer, als sich nur auf OpenAI, Google oder Anthropic zu verlassen?
Noch vor ein paar Jahren klang die Formulierung "ein KI-Startup allein aufbauen" wie eine schöne Fantasie. Heute ist das keine Fantasie mehr, sondern ein durchaus praktikables Format für die erste Phase. Nicht weil es leicht geworden wäre, allein ein Unternehmen aufzubauen. Sondern weil KI die Kosten von Experimenten drastisch gesenkt hat: Was früher einen Designer, einen Frontend-Entwickler, einen Backend-Entwickler, DevOps und etwas Glück brauchte, kann heute oft von einer Person auf fertiger Infrastruktur und mit API-Modellen zusammengesetzt werden.
In den letzten Jahren sind KI-Tools zu einem festen Bestandteil der Softwareentwicklung geworden. Es ist jedoch wichtig zu verstehen, dass KI kein „Programmierer ist, der alles für uns schreibt“, sondern ein Beschleuniger der Entwicklung, der nur innerhalb des Kontexts funktioniert und eine Validierung der Ergebnisse erfordert.
