Schreib uns oder buche direkt ein kurzes Meeting.
77 % der SAP-Unternehmen nutzen längst KI, aber nur 3 % davon mit SAP. Der Rest läuft mit ChatGPT und Copilot an den eigenen SAP-Daten vorbei. Dieser Beitrag zeigt, was Joule heute wirklich kann, wo es scheitert und wie ein Third-Party-Agent wie der ORAI Agent Ihre KI in Wochen statt Monaten an die SAP-Daten bringt: über Standard-APIs, mit echten Berechtigungen, on-premise wenn nötig.
Copilot, ChatGPT, eigene LLM-Setups: In den Fachbereichen ist KI längst Alltag. Nur eben außerhalb von SAP. Die Antwort, die jemand sucht, liegt im ERP. Die KI rät sie sich aus einer Office-Datei zusammen, mit entsprechend wackeligem Ergebnis.
Die Zahlen aus dem DSAG-Investitionsreport 2026 sind deutlich: 43 % der SAP-Anwenderunternehmen im DACH-Raum haben KI-Use-Cases realisiert. Aber nur 3 % der produktiv genutzten KI läuft auf SAP-Lösungen. 77 % setzen auf Non-SAP-KI wie ChatGPT oder Copilot.
Das ist kein Misstrauen gegen SAP. Das ist Pragmatismus. Und es führt direkt zur entscheidenden Frage für 2026: Wie bringen Sie KI an Ihre SAP-Daten, ohne Halluzinationen, ohne Compliance-Risiko und ohne sich an eine einzige Plattform zu ketten?
Drei Dinge haben sich in wenigen Monaten verschoben:
Joule Studio ist seit Q1 2026 allgemein verfügbar. Erstmals bauen Anwenderunternehmen eigene Joule-Agenten, mit eigenen Skills, Datenanbindungen und Geschäftslogik.
MCP ist SAP-Strategie. Das Model Context Protocol bindet Tools an LLMs, ein- und ausgehend. Damit werden Agenten plattformübergreifend kompatibel.
Gartner sagt 40 %. Bis Ende 2026 sollen 40 % aller Enterprise-Anwendungen task-spezifische KI-Agenten enthalten. 2025 waren es unter 5 %.
Die Technik ist da. Der Markt erwartet KI als Standard. Trotzdem bleibt die produktive Nutzung bei SAP-Kunden niedrig. Warum? Wegen der Umsetzung.
Joule ist kein Chatbot, sondern SAPs zentraler KI-Layer über dem ganzen Cloud-Portfolio. Über 40 Standard-Agenten sind ausgeliefert: Cash-Management, Bid-Analysis, Production-Planning, dazu Joule for Developers für ABAP und CAP.
Passt Ihr Use Case auf einen Standard-Agenten und steht Ihre BTP-Grundlage? Dann sind Sie schnell am Ziel. Für viele Unternehmen ist genau das der Haken. Fünf Grenzen begegnen uns in Projekt um Projekt:
1. Die BTP-Hürde ist hoch. Joule verlangt ein konsolidiertes Cloud-Identity-Services-Tenant, einen BTP-Subaccount mit Cloud Foundry, SAP Build Work Zone, die Integration Suite und je nach Szenario mehr. Wer diese Basis nur halb gebaut hat, kommt nicht in den Produktivbetrieb.
2. Standard-Agenten kennen Ihre Prozesse nicht. Der Cash-Management-Agent kennt Ihre Konten, aber nicht Ihre Eskalationsregeln, Ihre Risikobewertung oder Ihre Kunden-Sondervereinbarungen. Sobald es individuell wird, brauchen Sie eigene Skills.
3. Schlechte Daten, falsche Antworten. Ein undokumentiertes Custom-Field, eine kryptische Z-Tabelle, ein historisch gewachsener Stammsatz: Jede dieser Lücken wird zur Halluzination.
4. Governance bleibt Ihre Aufgabe. Welcher Agent darf was? Welche Daten verlassen das BTP-Tenant? Welches LLM für welche Datenklasse? Joule liefert die Technik. Die Antworten liefern Sie.
5. Ihre Daten liegen nicht nur in SAP. Sondern auch in Salesforce, im Data-Warehouse, in SharePoint, in ServiceNow. Standard-Joule deckt den SAP-Teil ab. Den Rest müssen Sie anbinden.
Aus diesen Grenzen ergeben sich drei Wege. Die Frage ist nicht, ob Joule gut ist, sondern welcher Weg zu Ihrem Use Case passt.
Option 1: Standard-Joule-Agent. Use Case passt auf einen der über 40 SAP-Agenten, BTP steht? Schnellster Weg, kaum Eigenentwicklung, voll im Standard. Stark bei klassischen Finance-, HR- und Procurement-Prozessen.
Option 2: Custom Joule Agent. Sie bauen in Joule Studio eigene Skills und Logik auf der Joule-Plattform, inklusive Multi-Agent und MCP. Stark, wenn die Lösung SAP-zentrisch ist und in der Joule-UI leben soll.
Option 3: Third-Party-Agent außerhalb von SAP. Sie bauen nichts in der SAP-Welt. Sie setzen ein fertiges Produkt ein, das über Standard-APIs auf Ihre SAP-Daten zugreift: über die OData-Schnittstellen, die SAP ohnehin mitliefert, mit den echten Berechtigungen jedes Nutzers. Der Agent läuft unabhängig von Joule und BTP, verbindet SAP in einer Oberfläche mit Microsoft 365, SharePoint, CRM oder DMS und läuft on-premise oder air-gapped, wenn Sie das brauchen. Genau dafür haben wir den ORAI Agent gebaut: Chatbots und KI-Agenten für SAP und Umsysteme, ohne ABAP, ohne Eingriff ins SAP-System, mit Ihren Berechtigungen 1:1. Stark bei schneller Time-to-Value, bei Wissens- und Self-Service-Szenarien über mehrere Systeme und überall dort, wo Datenhoheit zählt oder die BTP-Basis noch nicht steht.
Eine Frage ordnet alles: Wo soll die KI leben? SAP-zentrisch in der SAP-UI, BTP steht? Joule. Über mehrere Systeme, schnell live, in Ihrer eigenen Infrastruktur? Third-Party-Agent.
Am Beispiel ORAI Agent, in fünf Schichten:
SAP-Zugriff. Standard-OData auf S/4HANA oder ECC. Kein zusätzliches ABAP, keine proprietären Adapter. Verbindung über SAP Cloud Connector oder VPN. Jeder Nutzer meldet sich mit seinem eigenen SAP-User an, Ihr Rollenkonzept gilt 1:1. Der Vertrieb sieht seine Region, der Einkauf seine Warengruppen.
Umsysteme. Microsoft 365, SharePoint, CRM, DMS, über dieselbe Oberfläche und deren Standard-Schnittstellen. So beantwortet der Agent Fragen, die SAP-Daten und Dokumentwissen zusammenbringen.
Agent und Skills. Skills für wiederkehrende Aufgaben, automatisches Zusammenführen von Daten und Dokumenten, Antworten in natürlicher Sprache, mit Quelle und Link zum Originaldokument.
LLM. Azure OpenAI, OpenAI oder ein lokales Modell für den air-gapped Betrieb. Sie wählen nach Leistung und Datenschutz.
Betrieb. Jeder Kunde bekommt seine eigene, abgeschottete Instanz, betrieben dort, wo Sie sie haben wollen: in der Cloud, in Ihrem eigenen Rechenzentrum oder komplett offline. Jede Abfrage ist dem echten Nutzer zugeordnet und damit lückenlos nachvollziehbar und prüfbar, inklusive der Nachweise für TISAX, ISO 27001 und SOC 2.
Der Punkt: schnell produktiv, unabhängig vom BTP-Reifegrad, Datenhoheit bleibt bei Ihnen. Der Agent nutzt die Schnittstellen, die SAP selbst empfiehlt, statt eine zweite Integrationsebene zu bauen.
Ein produktiver ORAI Agent entsteht in sechs klar abgegrenzten Phasen. Wie schnell das gehen kann, zeigt ein Maschinenbauer mit 800 Mitarbeitern: Vertrieb und Service liefen mit dem ORAI Agent in rund drei Wochen auf produktivem Produktwissen, mit Antworten unter 10 Sekunden statt 20 bis 30 Minuten.
Phase 1: Use-Case. Welche Prozess-Painpoints soll der Agent lösen? Fragen, Systeme und Ziel definieren.
Phase 2: Architecture Setup. Deployment und LLM-Hosting festlegen: in der Cloud, on-premise oder air-gapped.
Phase 3: Agent Definition. Tools, Skills und Workflows des Agenten definieren.
Phase 4: User Training. Key-User einbinden, Vokabular und Antworten feinjustieren.
Phase 5: Testing. End-to-End-Tests, Berechtigungen und die angebundenen Systeme prüfen.
Phase 6: Rollout. Go-Live im Produktivbetrieb mit Hypercare und einer etablierten Feedback-Schleife.
Der zweite Anwendungsfall ist danach deutlich schneller. Anbindung, Berechtigungen und Skill-Patterns stehen, die nächste Anwendung setzt darauf auf.
KI-Projekte scheitern selten an der Technik. Häufiger an diesen drei Punkten:
1. Datenqualität ist die Voraussetzung, nicht das Ergebnis. Stimmen die Stammdaten nicht, antwortet der Agent falsch. Die Lösung ist kein stärkeres Modell, sondern saubere Daten.
2. Governance gehört in Phase 1, nicht in Phase 5. Was darf der Agent ohne Rückfrage? Welche Daten darf das LLM sehen? Wer haftet für eine falsche Entscheidung? Klären Sie das, bevor entwickelt wird.
3. Kosten unterschätzt man beim ersten Projekt fast immer. Jeder LLM-Aufruf kostet. Ein Agent mit mehreren Tool- und LLM-Calls pro Anfrage wird schnell teuer. Sizing, Caching und der passende Modell-Mix gehören in die Architektur.
Dazu DACH-spezifisch: Datenresidenz und EU-AI-Act. Sie haben zwei Hebel: die Modell-Region beim Provider bewusst wählen oder ein lokales Modell air-gapped fahren, bei dem die Daten Ihr Rechenzentrum nie verlassen. Wichtig ist nur, dass Sie aktiv entscheiden und es dokumentieren.
Die DSAG-Zahlen sind eindeutig: KI ist in den Unternehmen angekommen. Die einzige Frage ist, ob sie Ihre SAP-Daten erreicht oder daran vorbeiläuft. Wer ChatGPT-Schatten-IT als Strategie akzeptiert, verliert an drei Fronten: Datenhoheit, Compliance, Anschluss an den ERP-Kern.
Für SAP-zentrische Use Cases ist Joule die schnellste Antwort, sofern die BTP-Basis steht. Steht sie nicht, muss es schnell gehen oder dürfen die Daten Ihr Rechenzentrum nicht verlassen, dann schließt ein Third-Party-Agent genau die Lücke vom Anfang: das Tempo der Non-SAP-KI, aber mit echtem Zugriff auf Ihre SAP-Daten, über Standard-APIs und echte Berechtigungen.
Der teuerste Fehler wäre, zu warten. Die Technik ist reif, der Wettbewerb baut schon. Die Lernkurve aus Datenanbindung, Governance und Use-Case-Design holen Sie besser jetzt, nicht erst, wenn die Geschäftsführung kurzfristig einen Produktivfall sehen will.
Wir verbinden SAP-Tiefe mit echter KI-Erfahrung, von Joule und Generative AI Hub bis zur API-Anbindung von SAP an Ihre Umsysteme. Wir finden mit Ihnen den richtigen Use Case und die passende Architektur, bauen die Datenanbindung sauber auf und bringen den ersten produktiven Agenten in wenigen Wochen ans Ziel, mit Governance, Kostenmodell und Enablement.
Wenn ein fertiges Produkt der schnellste Weg ist, bringen wir den ORAI Agent mit: SAP über Standard-OData mit Ihren Umsystemen verbunden, Berechtigungen 1:1, in der Cloud, on-premise oder air-gapped.
In 30 Minuten finden wir Ihren schnellsten KI-Hebel und die Architektur dazu. Kostenfrei, konkret, ohne Verkaufsdruck.
