Kurz gesagt
Ob man KI im Unternehmen einsetzt, ist entschieden. Offen bleibt, wie sehr man sich auf sie verlassen kann.
Die echten Risiken sehen nicht aus wie im Katastrophenfilm. Sie sind betrieblich: ein Preis, den Sie nicht bestimmen, ein Anbieter, der ein Modell ändern oder abschalten kann, Energie, Menschen, die vergessen, wie man etwas von Hand macht, Daten und die Haftung für Fehler.
Der Preis eines Tokens ist nicht der Preis der fertigen Arbeit. KI wird billiger und kann ein Unternehmen trotzdem mehr kosten.
Es ist ein Unterschied, ob ein System auf KI läuft oder ob KI nur hilft, es zu bauen, und die Arbeit beschleunigt.
KI zu nutzen ist ein kalkuliertes Risiko. Sich darauf zu verlassen, dass alles reibungslos läuft, ist ein Glücksspiel.
Die Cloud oder E-Mail stellt heute wohl niemand mehr infrage. Es gab aber Zeiten, in denen Unternehmen über sie ähnliche Debatten führten wie heute über KI. Ob KI in die Prozesse und Systeme eines Unternehmens gehört, ist für viele Unternehmen nicht mehr die Hauptfrage. Wichtiger ist, wofür man sich auf sie verlassen kann, welche Aufgaben man ihr anvertraut und ob man bei veränderten Bedingungen auf ein anderes Werkzeug oder Vorgehen umsteigen kann.
Und auch wenn wir sie immer mehr als selbstverständlichen Teil der Systeme und ihrer Entwicklung betrachten, lohnt sich ein Blick auf die Risiken, die sie in Unternehmen bringt. Auf jene, die wir aus ihrer kurzen Geschichte schon erlebt haben, und auf jene, die bisher nur möglich, aber keineswegs unwahrscheinlich sind.
Der Einsatz von KI ist keine Frage mehr für die IT-Abteilung. Er ist vor allem eine Geschäftsentscheidung. Deshalb landet er oft auf dem Tisch von Menschen, die mit Technologie bisher nur am Rande zu tun hatten. Ich schreibe nicht über Start-ups, deren Geschäft auf KI aufgebaut ist. Ich schreibe für Unternehmen, die bisher mit Excel, Aktenordnern und Telefon gearbeitet haben. Sie können nicht länger so tun, als fände die technologische Revolution nicht statt, und haben vielleicht das Gefühl, dass ihnen der Zug davonfährt. Sie wissen nur nicht, woher er kommt, wohin er fährt und wie schnell.
Bei Moravio arbeiten wir tagtäglich mit KI. Wir kennen ihre Grenzen und ihren Zauber, und wir setzen sie pragmatisch ein. Wir sprechen längst nicht mehr nur mit IT-Abteilungen. Vor allem sitzen wir mit den Menschen zusammen, die in Unternehmen entscheiden, und klären, wie sich das Geschäft beschleunigen lässt, welche Rolle Software dabei spielt und welche die KI.
KI als Teil der Infrastruktur
Unternehmen außerhalb der IT-Branche haben bisher mit einer gekauften Standardlösung gearbeitet (ERP, CRM, Buchhaltung, Konstruktionsprogramme und Ähnliches), mit einer eigens entwickelten Lösung oder mit einer Kombination aus beidem. Und mit einem Haufen Handarbeit dazwischen. Sie zahlen Lizenzen für das Produkt, Lizenzen pro Person, Entwicklung, Wartung, Fehlerbehebung, Anpassungen, Server, Hardware. Das alles sind Kosten, die sich recht gut vorstellen und planen lassen. Die sorgfältigeren Unternehmen rechnen zusätzlich nach, ob sich die Investition lohnt: um wie viel die Arbeit effizienter geworden ist, wie viele Personenstunden sie gespart haben, ob dadurch Umsatz oder Gewinn wächst.
Dann kam die KI, und mit ihr kamen Fragen. Machen wir alles so effizient, wie wir könnten? Und wie sehr kann man sich darauf verlassen?
Von KI-Halluzinationen hat wohl schon jeder gehört. Auch bei mir sind KI-Protokolle interner Besprechungen gelandet, in denen ich von unserer eigenen Expansion in neue Märkte las (genau diese Idee wurde nie geäußert), von personellen Veränderungen (es gab keine) oder von Anforderungen eines Kunden, über die der Kunde nie gesprochen hat. Man lacht, korrigiert es und macht weiter. Nur sind KI-Halluzinationen bloß der sichtbare Teil. Einen Fehler im Protokoll bemerken Sie, wenn Sie es lesen. Viel schwerer bemerken Sie, wie sehr Ihr Unternehmen schon von KI abhängt, was sie wirklich kostet und was passieren würde, wenn die KI nicht mehr funktionierte.
Und dort liegen die echten Risiken.
Die langweiligen Risiken
Sie sind nicht filmreif. Kein Roboter übernimmt die Kontrolle über eine Fertigungslinie und niemand versklavt uns. Sie sind langweilig, betrieblich, und aus anderen Bereichen kennen wir sie gut. Auch deshalb übersieht man sie so leicht: Sie sind nicht attraktiv genug für die Schlagzeilen.
Zu jedem Risiko gehört eine praktische Frage, die ich mir an der Stelle der Geschäftsführung stellen würde:
Preis: Was kostet Sie ein fertiger Auftrag mit KI, einschließlich Kontrolle und Korrekturen?
Anbieter: Was steht bei Ihnen still, wenn ein Modell für drei Wochen verschwindet oder sich anders verhält?
Energie und Regulierung: Was tun Sie, wenn sich der Preis oder die Regeln eines Dienstes ändern, den Sie nicht selbst steuern?
Eigene Server: Wer bezahlt sie, betreibt sie und stellt sie nach einem Ausfall wieder her?
Menschen: Wer im Unternehmen kann den Prozess noch ohne KI ausführen, und müssen Sie diese Möglichkeit erhalten?
Daten: Wissen Sie, welche Werkzeuge Ihre Leute nutzen und was sie dort eingeben?
Verantwortung: Wer entscheidet, was die KI allein tun darf, und wer kontrolliert ihre Ergebnisse?
1. Was kostet Sie KI wirklich?
Beim ERP wissen Sie, was Sie pro Person und Monat für die Lizenz zahlen. Bei KI zahlen Sie für Tokens, also für die Textstücke, die ein Modell liest und schreibt. Und hier beginnt das Paradox. Tokens werden langfristig billiger, und zwar dramatisch: Laut dem Stanford AI Index 2025 sank der Preis für Anfragen an ein Modell mit einer Leistung vergleichbar mit GPT-3.5 von 20 Dollar pro Million Tokens im November 2022 auf 0,07 Dollar im Oktober 2024, also um mehr als das 280-Fache.
Das ist ein deutlicher Rückgang des Rechenpreises, der für sich genommen aber nicht sagt, was die fertige Arbeit kostet. Ein Unternehmen beginnt vielleicht mit kurzen Anfragen, schickt später ganze Verträge und lange Dokumente an die KI, nutzt leistungsfähigere Modelle und lässt das System eine Aufgabe in mehreren Schritten bearbeiten. Am Ende müssen noch die menschliche Kontrolle und die Korrekturen eingerechnet werden. Ein Pilot für fünf Personen kann einen geringen Verbrauch haben. Ein ganzes Unternehmen mit langen Dokumenten, wiederholten Versuchen und mehreren automatisierten Schritten kann eine völlig andere Wirtschaftlichkeit haben.
Ändern kann sich auch, wie Text in Tokens gezählt wird. Anthropic gab beim Modell Opus 4.7 an, dass der neue Tokenizer für denselben Text etwa 1,0- bis 1,35-mal mehr Tokens verwenden kann als die Vorgängerversion. Der Preis pro Token blieb gleich, die Rechnung für dieselbe Arbeit kann aber steigen.
Und eine Preisliste kann sich auch geplant ändern. Anthropic kündigte zum Beispiel bei der Einführung des Modells Sonnet 5 an, dass der Einführungspreis am 31. August 2026 endet und der Preis ab dem 1. September um 50 Prozent steigt. Im August teilte das Unternehmen jedoch mit, dass es den Einführungspreis dauerhaft beibehält und die geplante Erhöhung nicht stattfindet. Für Kunden ist das eine gute Nachricht. Zugleich ist es ein konkretes Beispiel dafür, dass sich ein Preis, mit dem ein Unternehmen plant, ändern kann, noch bevor die Änderung selbst eintritt.
Der Preis eines Tokens ist nicht der Preis der fertigen Arbeit. Verfolgen Sie deshalb neben der Preisliste des Anbieters auch die Kosten des abgeschlossenen und geprüften Prozesses.
2. Kann ein KI-Modell über Nacht verschwinden?
Es kann passieren, dass ein Modell verschwindet, in einem bestimmten Tarif nicht mehr verfügbar ist oder vom Anbieter durch eine neue Version ersetzt wird. Und es kann sich auch eine Regel ändern, die der Anbieter nicht selbst steuert.
Im Juni 2026 schrieben wir uns im Team, wir sollten das neue Modell Fable von Anthropic nutzen, solange es im Abonnement enthalten ist, denn man rechnete damit, dass es ab dem 22. Juni nach Verbrauch abgerechnet wird. Drei Tage später, am 12. Juni, setzte Anthropic den Zugang zu den Modellen Fable 5 und Mythos 5 aus. Das war keine Laune des Unternehmens. Anthropic reagierte auf Exportbeschränkungen der US-Regierung. Der Zugang zu Fable 5 kehrte am 1. Juli zurück.
Bei uns traf das nur Experimente, weil wir die Modelle danach wechseln, was wir brauchen und was verfügbar ist. Stellen Sie sich aber vor, an einem bestimmten Modell hinge die Angebotserstellung oder die Produktionsplanung.
Eine vollständige Aussetzung ist nicht die einzige Möglichkeit:
Erzwungener Versionswechsel: Der Anbieter stellt ein altes Modell ein und das Unternehmen muss auf ein neues umsteigen, obwohl es selbst nichts geändert hat.
Das Modell funktioniert, antwortet aber anders: Eine neue Version kann eine Reklamation anders bewerten oder eine andere Angabe aus einem Vertrag ziehen. Technisch läuft der Dienst, das geschäftliche Ergebnis kann sich aber ändern.
Update eines Werkzeugs: Wir haben einen Chatbot über Unternehmensdokumenten gesehen, der nach einem Update des Werkzeugs die Anbindung an das Modell und an die Dokumente verlor. Der Kunde hatte nichts geändert, und der Chatbot funktionierte trotzdem nicht mehr.
Änderung der Geschäftsbedingungen: Eine Funktion kann in ein teureres Paket wandern, der Anbieter kann die Preisliste ändern oder ein kleines Werkzeug einstellen, in dem ein Unternehmen seinen gesamten Workflow hat. Wie aus einem bequemen Anbieter eine Falle werden kann, haben wir im Artikel über Vendor Lock-in beschrieben.
3. Wer beeinflusst den Preis von KI noch?
Neben dem Anbieter beeinflussen ihn auch die Infrastruktur, auf der KI läuft, und die Regeln, die Staaten festlegen.
Energie. KI läuft in Rechenzentren, die Strom, Kühlung und weitere physische Infrastruktur brauchen. Die Internationale Energieagentur schätzt, dass der Stromverbrauch der Rechenzentren von 485 TWh im Jahr 2025 auf etwa 945 TWh im Jahr 2030 steigt. Die Europäische Kommission gibt an, dass der Verbrauch der Rechenzentren in der EU von 68 TWh im Jahr 2024 auf 114 TWh im Jahr 2030 steigt. Das bedeutet nicht automatisch, dass KI oder Strom flächendeckend teurer werden. Es bedeutet, dass die Verfügbarkeit von KI von einer wachsenden physischen Infrastruktur abhängt, um die sich verschiedene Branchen bewerben können.
Staat. Ende Oktober 2026 nahm die französische Nationalversammlung einen Änderungsantrag zum Haushalt 2027 an, der eine Abgabe von 0,055 Euro für jedes Gigabyte Daten einführte, das Inhalteanbieter an französische Nutzer senden. Fünf Tage später lehnten die Abgeordneten den gesamten Einnahmenteil des Haushalts ab, und damit fiel der Antrag. Es war keine Steuer auf KI und sie wurde nicht Gesetz. Es zeigt aber, dass über die Besteuerung digitaler Datenströme bereits ernsthaft nachgedacht wird, und auch, wie schnell solche Regeln auftauchen und wieder verschwinden können.
Eine Steuer auf KI ist bisher ein Szenario. Wir wissen nicht, ob und wann es dazu käme. Für Unternehmen ist es aber sinnvoll, damit zu rechnen, dass der Preis eines digitalen Dienstes auch von Entscheidungen abhängen kann, die außerhalb des Anbieters fallen.
4. Hilft ein eigener Server?
Ein eigener Server kann manchen Unternehmen mehr Kontrolle über Daten oder Verfügbarkeit bringen, verlagert aber zugleich weitere Verantwortung auf das Unternehmen selbst.
Hardware für KI hängt von Chips und Speicher ab, deren Preise sich nach Angebot und Nachfrage ändern. Die Vertragspreise für konventionellen DRAM stiegen laut TrendForce im ersten Quartal 2026 um bis zu 98 Prozent gegenüber dem Vorquartal, und für das zweite Quartal wurde ein weiterer Anstieg um 58 bis 63 Prozent erwartet. Für das vierte Quartal prognostiziert TrendForce einen Anstieg bei DRAM um 10 bis 15 Prozent und bei NAND um 15 bis 20 Prozent. Es handelt sich um Vertragspreise für Speicher, nicht um eine direkte Prognose für den Preis jedes Servers. Der Speicherhersteller SK Hynix deutet zudem an, dass die Knappheit bis 2030 anhalten kann.
Eigener Betrieb bedeutet auch Administration, Absicherung, Backups, einen Wiederherstellungsplan und Menschen, die sich damit auskennen. Ein neues Modell kann weitere Prüfungen und manchmal auch Investitionen in Hardware erfordern. Deshalb ist es sinnvoll, die Gesamtkosten und den Nutzen der Kontrolle mit dem Risiko zu vergleichen, das das Unternehmen begrenzen will.
5. Was, wenn die KI genau so funktioniert, wie sie soll?
Dann kann ein weniger auffälliges Risiko entstehen: Die Menschen vergessen nach und nach, wie sich der Prozess ohne KI bewältigen lässt. Bei manchen Aufgaben muss das nicht stören. Anderswo stellt das Unternehmen fest, dass sein Notfallverfahren nur auf dem Papier existiert.
Verlust von betrieblichem Know-how: Wenn die KI über lange Zeit Kalkulationen oder Angebote erstellt, können die Menschen, die das von Hand konnten, gehen oder das Vorgehen vergessen.
Größere Wirkung eines einzelnen Fehlers: Einen fehlerhaften Entwurf kann ein Mensch abfangen. Ein Agent mit der Berechtigung, selbstständig zu handeln, kann denselben Fehler an hundert Kunden senden oder in Hunderte Datensätze schreiben.
Scheinbares Backup: Zwei verschiedene KI-Werkzeuge müssen kein echtes Backup sein, wenn beide dasselbe Modell oder dieselbe Infrastruktur nutzen.
Bei jedem Prozess ist es deshalb gut zu wissen, ob ein manuelles Vorgehen sinnvoll ist, wer es ausführen kann und wie schnell es sich wiederherstellen lässt. Und auch, wer das Ergebnis der KI kontrolliert, bevor es an den Kunden geht oder Daten im Unternehmenssystem ändert.
6. Wohin gehen Ihre Daten?
Oft woandershin, als den Menschen im Unternehmen bewusst ist.
Menschen geben Daten in die KI ein, die dort nicht hingehören. Im Jahr 2023 luden Mitarbeiter von Samsung Quellcode und weitere interne Informationen in ChatGPT hoch, damit es ihnen bei der Arbeit hilft. Samsung schränkte daraufhin die Nutzung generativer KI-Werkzeuge durch Mitarbeiter ein. In Unternehmen muss dabei nicht klar sein, welche Werkzeuge die Menschen über eigene Konten nutzen und welche Daten sie dorthin senden.
Daten werden nach den Bedingungen des Anbieters verarbeitet. Es hängt vom Tarif und vom Vertrag ab, ob und wie lange Daten gespeichert werden, ob sie für weiteres Training verwendet werden und wo sie verarbeitet werden. Die Bedingungen privater und geschäftlicher Versionen können sich unterscheiden. Bei personenbezogenen Daten von Kunden und Mitarbeitern ist zudem die DSGVO zu beachten.
Ein KI-Assistent kann missbraucht werden. Wenn er Zugriff auf E-Mails, Dokumente oder Unternehmenssysteme hat, kann eine schädliche Anweisung, die in einem Dokument oder einer Nachricht versteckt ist, sein Verhalten beeinflussen. Diese Art von Angriff heißt Prompt Injection. Das Risiko wächst mit den Daten und Berechtigungen, die dem Assistenten zur Verfügung stehen.
Wissen Sie, welche KI-Werkzeuge Ihre Leute nutzen und was sie dort eingeben? Und haben Sie ein Vorgehen für den Fall vorbereitet, dass Daten abfließen?
7. Wer zahlt, wenn die KI einen Fehler macht?
Das Unternehmen, das die KI eingesetzt hat. Nicht der KI-Anbieter.
Wenn die KI einem Kunden ein falsches Angebot schickt, eine Reklamation fehlerhaft bewertet oder einen Bewerber aussortiert, haftet dafür das Unternehmen, das sie eingesetzt hat. KI-Anbieter beschränken ihre Haftung in den Bedingungen in der Regel deutlich. Und die Gesetzgebung ändert sich unterdessen schnell:
Software als Produkt. Die EU-Staaten müssen bis zum 9. Dezember 2026 die neue Produkthaftungsrichtlinie umsetzen. Software einschließlich KI gilt danach als Produkt, für dessen Fehler auch ohne Verschulden gehaftet wird. Das betrifft Produkte, die ab dem 9. Dezember 2026 in Verkehr gebracht werden, und Schäden, die Menschen entstehen, nicht Unternehmen. Wer KI in eigene Produkte oder Dienstleistungen einbaut, sollte das auf dem Radar haben.
AI Act. Seit August 2026 gelten Transparenzpflichten, zum Beispiel, dass Menschen wissen müssen, wann sie mit einer KI kommunizieren. Strengere Regeln für risikoreiche Anwendungen wie die Personalauswahl oder die Bewertung der Kreditwürdigkeit gelten nach der diesjährigen Verschiebung ab Dezember 2027.
Fremde Inhalte. Das Ergebnis der KI kann fremden geschützten Text, Code oder ein fremdes geschütztes Bild enthalten. Verantwortlich ist, wer es verwendet.
Versicherung. Es lohnt sich zu prüfen, ob Ihre Police Schäden abdeckt, die durch KI verursacht wurden.
Die Geschäftsführung kann diese Verantwortung nicht auf die IT übertragen. Das Gesetz verlangt von ihr die Sorgfalt eines ordentlichen Geschäftsleiters, und zu entscheiden, wo die KI allein handeln darf und wer für sie einsteht, gehört genau in diese Zuständigkeit.
Wer ist bei Ihnen verantwortlich, wenn die KI beim Kunden einen Fehler macht? Und ist das in den Verträgen mit Anbietern und mit Kunden geregelt?
Ist es sinnvoll, deshalb auf KI zu verzichten?
Nein. Sinnvoll ist zu wissen, wo sie im Unternehmen genug Nutzen bringt und welche Abhängigkeit dadurch entsteht.
Einen ähnlichen Weg haben Cloud-Dienste und andere Technologien hinter sich, auf denen Unternehmen heute laufen. Die Risiken sind nicht verschwunden. Die Unternehmen haben gelernt, sie zu steuern, zum Beispiel mit Backups, Verfügbarkeitsvereinbarungen und der Möglichkeit, zu einem anderen Anbieter zu wechseln. Auch KI muss kein Grund zur Panik sein. Sie ist aber ein Grund, rechtzeitig Regeln für ihren Einsatz festzulegen.
Im Juli 2024 traf ein fehlerhaftes Update der Sicherheitssoftware CrowdStrike nach Schätzung von Microsoft rund 8,5 Millionen Windows-Geräte. Dieser Fall hatte nichts mit KI zu tun, zeigt aber gut, wie weitreichend die Wirkung einer Änderung in gängiger digitaler Infrastruktur sein kann.
Die Frage lautet also nicht, ob man KI nutzt, weil die Konkurrenz sie nutzt. Es geht darum, in welchen Tätigkeiten sie Geschwindigkeit, Preis oder Qualität so stark verändert, dass es das Unternehmen schwächt, sie zu ignorieren. An manchen Stellen wird die Antwort KI sein. An anderen ist es einfache Automatisierung, die Verbindung zweier Systeme oder die Korrektur eines Prozesses, den die KI nur samt seinen Fehlern beschleunigen würde. Laut unserer Studie zur KI-Bereitschaft von Unternehmen sind die meisten Unternehmen zudem noch nicht bereit, KI direkt einzusetzen.
KI zu nutzen ist ein kalkuliertes Risiko. Es bedeutet zu wissen, was sich ändern kann, was ein Ausfall kosten würde und welche Maßnahmen für den jeweiligen Prozess angemessen sind.
Läuft Ihr System auf KI, oder hilft die KI ihm nur?
Das ist aus meiner Sicht die wichtigste Unterscheidung des ganzen Artikels, denn die Risiken sehen anders aus, je nachdem, welche Rolle die KI im Unternehmen spielt.
KI als Funktion des Systems: Die KI liest im laufenden Betrieb Rechnungen, sortiert Reklamationen, erstellt Angebote oder antwortet Kunden. Wenn sie ausfällt, teurer wird oder sich ändert, funktionieren manche Schritte nicht mehr oder erzeugen Fehler. Das Unternehmen muss wissen, was in diesem Moment stehen bleibt und wie der Prozess sicher weiterläuft.
KI als Helfer beim Bau und bei der Verbesserung von Systemen: Die KI hilft, ein System zu entwerfen, zu programmieren, zu testen oder zu dokumentieren, aber das fertige System braucht sie für den normalen Betrieb nicht. Wenn ein Entwicklungswerkzeug ausfällt, kann die Arbeit langsamer werden. Das produktive System läuft weiter.

Die meisten Unternehmen können beide Möglichkeiten nutzen. Bei jeder Funktion ist es wichtig zu wissen, ob bei einem KI-Ausfall der Betrieb stehen bleibt oder nur die Arbeit langsamer wird. Wenn ein Prozess auf KI läuft, sollte das eine bekannte Tatsache sein, und er sollte entsprechend abgesichert sein.
Wie viele Ihrer Prozesse würden stehen bleiben, wenn die KI morgen für eine Woche ausfiele? Und wie viele würden nur langsamer?
Wie baut man ein System, das einen KI-Ausfall übersteht?
Beginnen Sie damit herauszufinden, welche Rolle die KI im Prozess spielt und was passiert, wenn sie nicht mehr verfügbar ist. Wo der Betrieb von Hand weiterlaufen kann, muss das Notfallverfahren auch in der Praxis funktionieren. Wo die KI die eigentliche Grundlage des Dienstes ist, kommt es auf ein sicheres Anhalten, den Erhalt der Daten und einen Wiederherstellungsplan an.
In der Praxis helfen sechs Dinge:
Das System kann auch ohne KI weiterarbeiten, wenn auch langsamer. Wenn das Modell ausfällt, kann die automatische Angebotserstellung stehen, während Bestellungen, Preislisten und Freigaben verfügbar bleiben. Die Arbeit kann in eine Warteschlange gehen oder an einen Menschen übergeben werden. Der Notbetrieb muss genug Kapazität haben und erprobt sein.
Daten und Prozessregeln bleiben in den Systemen des Unternehmens. Wenn das Werkzeug eines Anbieters eingestellt wird, sollte das Know-how des Unternehmens nicht mit ihm verschwinden. Warum man bei Daten und APIs anfangen sollte, beschreiben wir im Artikel Daten & APIs vor der Benutzeroberfläche.
Das Modell lässt sich austauschen, ohne das ganze System umzubauen. Ein Backup ist nur dann sinnvoll, wenn es nicht dasselbe Modell oder dieselbe Infrastruktur nutzt wie die Hauptlösung.
Die Kosten werden laufend verfolgt. Rechnen Sie mit dem Preis der abgeschlossenen Arbeit einschließlich menschlicher Kontrolle und prüfen Sie, ob die KI die erwartete Verbesserung bringt.
KI-Agenten haben nur die Berechtigungen, die sie brauchen. Wenn sie Daten ändern oder mit Kunden kommunizieren können, legen Sie fest, wo eine menschliche Freigabe nötig ist.
Die Menschen kennen den Prozess auch außerhalb des automatisierten Wegs. Prozesse sollen so beschrieben sein, dass ein Mensch sie übernehmen kann, wenn ihre Bedeutung und die Kosten eines Ausfalls das erfordern.
Ist Vibe Coding ein Problem?
Vibe Coding kann nützlich sein, um eine Idee zu prüfen, einen Prototyp oder ein kleines internes Werkzeug zu bauen. Das Risiko entsteht, wenn aus dem Prototyp ein kritisches System wird, das niemand versteht und das niemand prüfen, absichern oder warten kann. Solche Projekte enden dann oft als Projektrettung.
Meine Kollegin Šárka Skopalová hat über Vibe Coding einen eigenen Artikel geschrieben. In Unternehmen haben wir einen Fall gesehen, in dem eine mit KI erstellte Funktion ohne ausreichende Kontrolle bis zum Kunden gelangte. Es folgten eine Reklamation, eine Korrektur und eine verzögerte Rechnungsstellung. Code schnell zu erstellen kann nützlich sein, vor dem Einsatz in einem wichtigen Prozess muss aber jemand prüfen, was der Code tut, wie er mit Daten umgeht und wer ihn warten wird.
Wir sind auch auf einen Fall gestoßen, in dem ein potenzieller Kunde die Zusammenarbeit nicht fortsetzen wollte, nachdem er zu dem Schluss gekommen war, dass die Website des Unternehmens in Eile mit KI erstellt worden war. Der Einsatz von KI beim Erstellen einer Website muss für sich genommen kein Problem sein, die Qualität des Ergebnisses und die Art, wie das Unternehmen es präsentiert, beeinflussen aber das Vertrauen.
Es ist auch gut, zwei Dinge zu unterscheiden: KI kann helfen, Software zu erstellen, ohne dass die Software KI für den Betrieb braucht. Im ersten Fall liegt das Hauptrisiko in der Qualität und Wartbarkeit des Codes. Im zweiten in der Abhängigkeit des Betriebs von der Verfügbarkeit eines Modells.
Wie wir bei Moravio damit umgehen
Wir bauen und verbinden seit 2011 die Systeme, auf denen Unternehmen laufen. KI binden wir ebenfalls in sie ein, aber wir beginnen nicht mit der Frage, welches Modell man einsetzt. Zuerst müssen wir verstehen, wie das Unternehmen funktioniert und wo der größte Nutzen liegt. Dann lässt sich entscheiden, wo KI hilft, wo Automatisierung reicht und wo es besser ist, den Prozess selbst zu korrigieren. Manchmal ist eine Standardlösung am besten geeignet, und das sagen wir dann auch. Unternehmen können mit einem KI-Audit beginnen, das zu bestimmen hilft, wo sich KI lohnt und wie die damit verbundenen Regeln und die Sicherheit zu handhaben sind.
Genauso arbeiten wir selbst. Unsere Entwickler nutzen KI jeden Tag, im Editor und im Terminal, und wählen das Modell nach der Aufgabe. Für das eine eignet sich das eine besser, für das andere ein anderes, und wenn sich Preis oder Qualität ändern, wechseln sie. KI hilft uns beim Bauen, aber was wir bauen, läuft nicht auf ihr. Code, den die KI schreibt, kontrolliert ein Mensch, und ein Prototyp aus dem Vibe Coding geht nie direkt in den Betrieb. Und KI-Protokolle von Besprechungen nutzen wir weiter. Wir lesen sie nur wirklich, bevor wir danach handeln.
Fazit
KI wird uns weder retten noch vernichten. Sie ist ein Werkzeug. Auf Werkzeuge verlässt man sich, aber man baut nicht auf ihnen auf.
Wissen Sie, welche Ihrer Prozesse auf KI laufen und welchen sie nur hilft? Wenn sich die Bedingungen rund um KI ändern (und sie werden sich ändern), passen Sie entweder ein Werkzeug an oder Sie retten einen ganzen Unternehmensprozess.
Möchten Sie durchgehen, was bei Ihnen passieren würde, wenn die KI morgen für eine Woche ausfiele? Melden Sie sich. Und wenn Sie noch herausfinden, wo Sie überhaupt anfangen sollen, schauen Sie sich KI und Digitalisierung: wo anfangen, damit es Sinn ergibt an.