Zum Inhalt springen
InsightsArtikel
KI

Die 5 größten Herausforderungen beim KI-Einsatz im Unternehmen

Mehr als die Hälfte der Unternehmen nutzt KI, kaum eines schöpft sie aus. Fünf Hürden aus der Praxis und warum die meisten an derselben Stelle liegen.

Alexander HäglerGeschäftsführer 3HillsIT Deutschland05.11.202612 Min. Lesezeit

Mehr als die Hälfte der Unternehmen in Deutschland nutzt inzwischen KI. Laut einer Bitkom-Umfrage vom September 2026 (öffnet in neuem Tab) sind es 57 % der Unternehmen ab 20 Beschäftigten, ein Jahr vorher waren es noch 36 %. Spannender finde ich eine andere Zahl aus derselben Umfrage. Nur 3 % schöpfen das Potenzial nach eigener Einschätzung eher stark aus, 59 % überhaupt nicht.

Das deckt sich mit dem, was wir jeden Tag in unseren Projekten rund um CRM, Individualsoftware und KI sehen. Die Lizenzen sind gekauft, ein paar Leute haben es ausprobiert, und im Alltag läuft trotzdem fast alles wie vorher. Aus meiner Sicht liegt das selten am KI-Modell. Fünf Hürden begegnen uns immer wieder, und vier davon hängen an derselben Stelle, nämlich an der Verbindung zwischen der KI und deinen Systemen.

1. Die KI kennt dein Unternehmen nicht

Eine Geschäftsführerin will wissen, wie das Quartal gegen Plan läuft und welche drei Kundenbeziehungen das Ergebnis gefährden. Ein Vertriebsleiter sucht die Opportunities über 50.000 €, die seit vier Wochen stillstehen. Das Marketing will wissen, welche Kampagne aus Leads echte Aufträge gemacht hat.

Ein KI-Assistent könnte das in Sekunden beantworten, wenn er an die Daten käme. Die liegen aber im CRM, im ERP und in der Ablage, und dort kommt er nicht hin. Also läuft es wie immer, mit Anrufen, E-Mails und Exporten. Bis die Zahlen beisammen sind, vergehen oft Tage, obwohl sie längst im Haus liegen.

Eine KI ohne Zugang zu deinen Systemen ist ein sehr gut formulierender Generalist. Sie kann schreiben, zusammenfassen und erklären, aber sie weiß nichts über deine Kund:innen, deine Aufträge oder deine Produkte. Wenn ich nur das will, brauche ich keine KI-Strategie, dann reicht eine Lizenz. Der eigentliche Nutzen entsteht erst, wenn die KI an die Systeme kommt, in denen dein Unternehmen tatsächlich arbeitet.

Technisch ist das heute kein großes Thema mehr. Mit dem Model Context Protocol, kurz MCP, gibt es einen offenen Standard, über den sich KI-Werkzeuge mit Daten und Diensten verbinden. Immer mehr Softwarehersteller liefern eigene MCP-Schnittstellen mit, und die gängigen KI-Werkzeuge sprechen den Standard. Ob sich eine KI an dein CRM anbinden lässt, ist also nicht mehr die Frage. Die Frage ist, wie. Und genau dort fangen die nächsten Probleme an.

Was hilft: Mit einer konkreten Frage anfangen, die heute Tage dauert, und klären, welche Systeme dafür gebraucht werden. Das bringt dich weiter als ein Strategiepapier.

2. Deine Mitarbeiter:innen warten nicht

Wo das Unternehmen keinen Weg anbietet, suchen sich die Leute einen eigenen. Laut einem IW-Kurzbericht vom September 2026 (öffnet in neuem Tab) nutzen 29,1 % der Beschäftigten, die KI im Job einsetzen, Werkzeuge, die ihr Arbeitgeber nicht bereitgestellt hat. In Betrieben mit weniger als 50 Beschäftigten sind es 33,5 %.

Das ist selten böser Wille. Die meisten wollen einfach schneller arbeiten. Interessant finde ich einen anderen Befund derselben Studie. Wo Arbeitgeber sich stark für KI-Kompetenz engagieren, ist die Nutzung nicht freigegebener Werkzeuge sogar höher, 44,5 % gegenüber 21,3 % ohne dieses Engagement. Das Interesse wächst offenbar schneller als das offizielle Angebot.

Mit MCP wird aus Schatten-KI schnell ein echtes Sicherheitsproblem. Wer seinem KI-Werkzeug Zugriff auf das Ticketsystem oder das CRM geben will, richtet sich auf dem eigenen Rechner eine Schnittstelle ein und hinterlegt dort einen Zugangsschlüssel. Oft steht der in einer einfachen Konfigurationsdatei, und oft gehört er zu einem technischen Konto mit weitreichenden Rechten. Die IT weiß davon nichts. Verlässt die Person das Unternehmen, bleibt der Schlüssel gültig, bis ihn jemand findet und austauscht.

Was hilft: Verbieten bringt hier wenig, die Leute finden trotzdem einen Weg. Was funktioniert, ist ein offizieller Weg, der mindestens so bequem ist wie der inoffizielle und zentral zeigt, welche Verbindungen es gibt.

3. Datenschutz und die Frage, wo deine Daten landen

Unter den Unternehmen, die KI schon nutzen, nennen laut Bitkom (öffnet in neuem Tab) 66 % den Datenschutz als Hemmnis, 45 % haben Sorge, dass Unternehmensdaten in falsche Hände geraten. Beides ist berechtigt, wird aber oft zu einer einzigen, diffusen Sorge vermengt, und auf der Basis lässt sich nichts entscheiden. Aus meiner Sicht sind es zwei getrennte Fragen.

  • Was passiert mit den Daten, die du der KI gibst? Was du abfragst, geht an das KI-Werkzeug, sonst könnte es nicht antworten. Was der Anbieter damit tun darf, regelt dein Vertrag mit ihm. Diese Frage gehört in die Auswahl des Anbieters.
  • Wo läuft die Verbindung zu deinen Systemen, und wer hat die Schlüssel? Diese Frage wird viel seltener gestellt, ist aber mindestens genauso wichtig. Die Schicht, die eine KI an dein CRM anbindet, kennt die Zugangsdaten zu deinen wichtigsten Systemen. Läuft sie bei einem Anbieter, der US-Recht unterliegt, gilt für sie auch der US CLOUD Act, egal wo der Server steht.

Die zweite Frage kannst du selbst beantworten, und zwar unabhängig davon, welches KI-Werkzeug du gerade einsetzt.

Was hilft: Die Verbindungsschicht in der EU oder im eigenen Haus betreiben und dafür sorgen, dass die Zugangsdaten zu deinen Systemen nie bei der KI landen.

4. Niemand kann sagen, wer was gefragt hat

56 % der KI-nutzenden Unternehmen nennen rechtliche Unsicherheit als Hemmnis, ein Viertel fehlende Nachvollziehbarkeit (Bitkom 2026 (öffnet in neuem Tab)). Ein typischer Grund dafür ist eine Abkürzung, die erstmal naheliegt. Die KI bekommt für die Anbindung ein einziges technisches Konto mit weitreichenden Rechten.

Das funktioniert, hat aber Folgen. Die KI sieht mehr als die Person, die fragt, zum Beispiel Kundendaten anderer Regionen oder vertrauliche Konditionen. Im Protokoll steht nur „KI-Konto“ und nicht der Name der Person, die gefragt hat. Und den Zugang kannst du nicht für eine einzelne Person sperren, sondern nur für alle gleichzeitig.

Richtig kritisch wird es, sobald die KI nicht nur liest, sondern auch schreibt. Ein Angebot anlegen, eine Opportunity aktualisieren, ein Ticket schließen. Wer hat das freigegeben?

Was hilft: Die KI fragt immer im Namen der angemeldeten Person und mit deren Rechten. Jeder Zugriff wird mit Namen protokolliert, schreibende Aktionen brauchen die Zustimmung eines Menschen, und jeder Zugang lässt sich sofort sperren.

5. Der Markt dreht sich schneller als jeder Beschaffungsprozess

Die KI-Werkzeuge entwickeln sich in einem Tempo, mit dem klassische IT-Planung nicht mitkommt. Das Modell, das heute am besten zu deinen Aufgaben passt, ist es in einem halben Jahr vielleicht nicht mehr. Wer seine Anbindungen fest an einen einzelnen KI-Anbieter knüpft, baut sie beim nächsten Wechsel neu.

Auf der anderen Seite gibt es große Integrationsplattformen, die für Konzerne gebaut sind. Die sind leistungsfähig, kommen aber meistens mit einem Beschaffungsprozess über Monate und mit Kosten, die sich für ein erstes KI-Vorhaben im Mittelstand kaum rechtfertigen lassen. Nicht ohne Grund nennen 54 % der KI-nutzenden Unternehmen schwer kalkulierbare Kosten als Hemmnis (Bitkom 2026 (öffnet in neuem Tab)).

Was hilft: KI-Werkzeug und Anbindung trennen. Die eigenen Systeme werden einmal über einen offenen Standard angebunden, das KI-Werkzeug davor bleibt austauschbar. Und klein anfangen, mit einem Anwendungsfall und einem Team, über ein paar Wochen.

Was Technik allein nicht löst

Bevor es um Lösungen geht, eine ehrliche Einschränkung. Zwei Hürden, die in jeder Umfrage weit oben stehen, löst keine Plattform. 66 % der Unternehmen schätzen die KI-Kompetenz ihrer Beschäftigten als gering ein, und 42 % der KI-Nutzer kämpfen mit fehlender Akzeptanz im Team (Bitkom 2026 (öffnet in neuem Tab)).

Da helfen nur Schulung, klare Regeln und Leute, die vormachen, wie KI im Arbeitsalltag sinnvoll eingesetzt wird. Bei uns gibt es dafür alle zwei Wochen den FridAI, ein internes Schulungsformat, in dem wir neue Tools und Erfahrungen aus den Projekten weitergeben und neue Arbeitsweisen verbindlich einführen. Der eigentliche Fehler wäre, den Leuten einfach ein KI-Werkzeug hinzustellen und zu sagen, nutzt das mal. Technik kann diese Arbeit leichter machen, ersetzen kann sie sie nicht.

Wo steht dein Unternehmen bei KI?

Finde heraus, wie fit dein Unternehmen in Sachen KI schon ist.

Readiness-Check starten

Was die fünf Herausforderungen gemeinsam haben

Schaut man genauer hin, liegt nur die erste Hürde beim KI-Werkzeug selbst, und auch die löst erst eine Anbindung. Die anderen vier betreffen dieselbe Stelle, nämlich die Verbindung zwischen der KI und deinen Systemen. Wer die sauber baut, löst mehrere Probleme auf einmal. Daraus ergibt sich eine Liste von Anforderungen, an der du jede Lösung messen kannst, egal von welchem Anbieter.

HerausforderungWas die Anbindung leisten muss
Die KI kennt dein Unternehmen nichtCRM, ERP und Wissen über einen offenen Standard erreichbar machen
Schatten-KIEin offizieller Weg, so bequem wie der inoffizielle, zentral sichtbar
DatenschutzBetrieb in der EU oder im eigenen Haus, Zugangsdaten nie bei der KI
NachvollziehbarkeitAnfragen im Namen der Person, protokolliert, sofort widerrufbar
MarktdynamikKI-Werkzeug austauschbar, ohne die Anbindung neu zu bauen

Die meisten KI-Hürden liegen nicht im Modell, sondern in der Verbindung zu deinen Systemen.

Als wir für unsere Kund:innen nach einer Lösung gesucht haben, die alle fünf Punkte erfüllt und trotzdem zum Mittelstand passt, haben wir keine gefunden. Es gab den Wildwuchs am Arbeitsplatz, und es gab die großen Plattformen aus Übersee. Dazwischen fehlte etwas, also haben wir es selbst gebaut. Und wir nutzen es auch selbst, unter anderem für unser eigenes CRM und Azure DevOps.

Unsere Antwort: atrium

atrium bindet KI sicher an deine Systeme an. Es ist kein KI-Modell und enthält auch keins. atrium ist die Schicht zwischen dem KI-Werkzeug, das deine Mitarbeiter:innen nutzen, und den Systemen, in denen deine Daten liegen. Für die Fachabteilung ändert sich wenig. Sie arbeitet weiter mit dem Werkzeug, das sie kennt, etwa Claude oder ChatGPT, solange es MCP unterstützt. Die eigentliche Arbeit passiert dahinter, und da lohnt sich für deine IT ein genauerer Blick.

Der Weg einer Anfrage

  1. Das KI-Werkzeug nimmt die Frage entgegen und wählt per MCP das passende Werkzeug aus, etwa „offene Opportunities abfragen“.
  2. atrium stellt fest, wer fragt, prüft die Berechtigung und ruft das Zielsystem über einen Connector auf.
  3. Das Zielsystem, zum Beispiel das CRM, liefert die Antwort. Sie gelangt auf demselben Weg zurück.

Das KI-Werkzeug bekommt dabei nur das Ergebnis zu sehen, nie die Zugangsdaten zum CRM.

Die KI fragt im Namen einer Person

Ein KI-Werkzeug, das sich mit atrium verbindet, meldet sich nicht mit einem Sammelschlüssel an, sondern als konkrete Person über den Identity Provider deines Unternehmens. atrium nutzt dafür Standard-OAuth und leitet die eigentliche Anmeldung an Microsoft Entra ID weiter, inklusive Mehrfaktor-Authentifizierung. Die KI sieht deshalb nie mehr, als die angemeldete Person selbst sehen darf, und jeder Eintrag im Protokoll hat einen Namen.

Die KI bekommt kein Passwort

Der Code, der eine Abfrage ausführt, läuft in einer isolierten Umgebung, in der kein einziges echtes Passwort liegt. Will er ein externes System erreichen, geht das nur über einen vermittelnden Broker. Der Broker wird für jede Ausführung neu gestartet, ist an genau eine Integration gebunden und lehnt alles andere ab. Er entschlüsselt die Zugangsdaten, hängt die Anmeldung selbst an den Aufruf und protokolliert den Zugriff.

Die Zugangsdaten sind mit Envelope-Verschlüsselung nach AES-256-GCM gespeichert. Jede Entschlüsselung wird mit wer, was und wann festgehalten.

Kernpunkt

Die KI formuliert, was sie braucht. atrium entscheidet, ob sie es bekommt, und führt die Aktion selbst aus. Das Passwort bekommt die KI nie zu sehen.

Ein Widerruf wirkt sofort

atrium gibt eigene Tokens aus und schlägt sie bei jedem Aufruf in der Datenbank nach. Ein Token beglaubigt sich also nicht selbst. Wird ein Zugang gesperrt, gilt das ab dem nächsten Aufruf und nicht erst, wenn das Token abläuft. Jede Erneuerung verbraucht das alte Token. Taucht ein verbrauchtes Token noch einmal auf, wertet atrium das als Hinweis auf einen kompromittierten Zugang.

Freigaben und klare Grenzen

  • Schreibende Aktionen lassen sich so einstellen, dass vorher ein Mensch zustimmen muss. Auch das wird protokolliert.
  • Zugriffe lassen sich pro Endpoint und pro Werkzeug steuern, nicht nur über eine pauschale Rolle.
  • Workspaces trennen Teams voneinander, mit eigenen Mitgliedern, Zugängen und Rechten.
  • Eine Obergrenze für Aufrufe pro Endpoint bremst Fehlerschleifen und Missbrauch.

Europäisch betrieben, schlank gebaut

atrium läuft entweder bei dir im eigenen Haus oder wird von 3HillsIT betrieben, dann in Rechenzentren in Deutschland und Finnland. Eine US-Cloud ist in keinem der beiden Fälle beteiligt. Der Aufbau ist bewusst klein gehalten, ein Anwendungscontainer, eine Datenbank und davor ein Reverse Proxy als einzige öffentlich erreichbare Stelle. Datenbank und Metriken liegen in einem privaten Netz. Alle Details für dein IT-Team stehen im technischen Anhang.

Was atrium heute noch nicht kann

Auch die Grenzen gehören dazu. Die Anmeldung läuft derzeit nur über Microsoft Entra ID. Weitere Identity Provider sind vorgesehen, aber noch nicht ausgeliefert. Eine eigene Ansicht der Aktivitäten pro Person ist geplant. Und was der KI-Anbieter mit den abgefragten Daten tun darf, regelt weiterhin dein Vertrag mit ihm. atrium kontrolliert, wer fragen darf, welche Daten überhaupt erreichbar sind und dass die Zugangsdaten zu deinen Systemen atrium nicht verlassen.

Wie du anfangen kannst

KI-Vorhaben, die mit einer großen Ausschreibung starten, halte ich für den falschen Einstieg. Bis die durch ist, hat sich der Markt schon wieder gedreht. Sinnvoller ist ein konkreter Fall, also eine Frage, die heute Tage dauert, ein System, das angebunden werden soll, und ein Team, das es ausprobiert. Genau so bieten wir atrium an, als Pilot an deinem eigenen Anwendungsfall und mit deinen Systemen, in ein paar Wochen.

Wenn du vorher einordnen willst, wo dein Unternehmen steht, hilft unser kostenloser KI-Readiness-Check. Er dauert etwa sechs Minuten und schaut auf sechs Bereiche, von Strategie und Daten über Werkzeuge und Governance bis zu Befähigung und Organisation. Damit deckt er auch die Hürden ab, die keine Technik löst.

Wer KI ernsthaft nutzen will, muss sie an die eigenen Systeme anbinden. Wie diese Verbindung gebaut ist, entscheidet über Sicherheit und Nachvollziehbarkeit und darüber, ob du beim nächsten Modellwechsel wieder von vorn anfängst.

Dein Anwendungsfall, sicher angebunden

Kostenlos, unverbindlich, 30 Minuten. Wir hören zu, bevor wir etwas vorschlagen.

Pilotgespräch vereinbaren (öffnet in neuem Tab)

Dieser Beitrag ist mit KI-Unterstützung entstanden — Entwurf mit KI, Freigabe durch unser Team. Wir arbeiten selbst so, wie wir es unseren Kund:innen empfehlen.