Zurück zum Blog

KI Kompetenz im Unternehmen aufbauen: Leitfaden für KMU

AI Tech Writer
27. November 2025
11 Min. Lesezeit
---

Warum KMU jetzt ein KI-Kernteam brauchen – und nicht nur ein Tool-Abonnement

Die Mehrheit der deutschen Unternehmen sieht KI als Zukunftstechnologie. Trotzdem setzen nur 9% der Betriebe KI tatsächlich selbst ein. Der Engpass liegt nicht in der Verfügbarkeit von Tools. ChatGPT, Copilot und Midjourney sind für jeden zugänglich. Der Engpass liegt in fehlenden Kompetenzen und Strukturen. Hinzu kommt: Ab dem 2. Februar 2025 verpflichtet der EU AI Act Unternehmen, Mitarbeiter nachweislich zu schulen, wenn sie KI-Systeme nutzen. AI Literacy wird zur Compliance-Pflicht. Und Fachkräftemangel sowie Wettbewerbsdruck tun ihr Übriges. Die Antwort auf alle drei Herausforderungen heißt: ein internes KI-Kernteam. Nicht eine neue IT-Abteilung. Nicht ein einzelner „Digitalisierungsbeauftragter", der Projekte anschiebt, aber keine Unterstützung hat. Sondern ein schlankes, funktionsübergreifendes Team aus 3–7 Personen, das innerhalb von 6–12 Monaten vom ChatGPT-Experiment zu produktiven Automatisierungen führt. Dieser Artikel zeigt Ihnen, wie Sie ein solches KI-Kompetenzteam aufbauen – mit realistischen Rollen, Zeitbudgets, Lernarchitekturen, Governance-Strukturen und einem konkreten Fahrplan. Basierend auf aktueller Forschung zu Citizen Development, betrieblicher Weiterbildung und den Erfahrungen erfolgreicher deutscher Unternehmen. ---

Was ist ein KI-Kernteam im Mittelstand?

Ein KI-Kernteam ist kein zweites IT-Team. Es ist eine cross-funktionale Struktur, die zwischen Geschäftsführung, Fachbereichen und externen Tools vermittelt. Die Fraunhofer-Studie „Industrial Transformation" zeigt: Erfolgreiche digitale Transformation braucht nicht nur Technologie, sondern explizite Governance, klare Rollen und eine Kultur des Lernens. Genau das leistet ein KI-Kernteam. Kernaufgaben eines KI-Kernteams:
  • • KI-Roadmap entwickeln: Welche Prozesse werden priorisiert?
  • • Use Cases identifizieren: Wo ist der ROI am höchsten?
  • • Enablement organisieren: Wie bringen wir Mitarbeitern KI-Kompetenzen bei?
  • • Governance sicherstellen: Welche Leitplanken brauchen wir für Datenschutz, Sicherheit, Qualität?
  • • Pilotprojekte umsetzen: Erste Workflows bauen und testen.
  • • Skalierung vorbereiten: Erfolgreiche Automatisierungen ausrollen.
Ein KI-Kernteam ist damit sowohl Innovationszelle als auch Träger von AI Literacy und Compliance im Unternehmen. ---

Rollenmodell: Wer gehört ins KI-Kernteam?

Deutsche Forschung zu Citizen Development in Unternehmen zeigt klar: Low-Code- und KI-Initiativen scheitern nicht an der Technik, sondern an fehlenden Rollen, Zeitbudgets und Management-Sponsoring. Erfolgreiche KMU etablieren deshalb vier zentrale Rollen:

1. Geschäftsführung (Sponsor)

Die Geschäftsführung trägt die strategische Verantwortung. Sie gibt dem KI-Kernteam Legitimation, Budget und Rückendeckung. Zeitaufwand: 0,5 Tage pro Monat für strategische Reviews, Prioritäten setzen, Change-Kommunikation. Ohne Management-Sponsoring bleiben KI-Initiativen Experimente, die in der Explorationsphase steckenbleiben. Das belegt die HMD-Studie zu den vier Phasen von Citizen Development deutlich.

2. KI-Programm-Lead

Diese Person koordiniert das KI-Kernteam. Häufig ist das ein Digitalisierungsbeauftragter, Innovationsmanager oder ein erfahrener Fachbereichsleiter mit Affinität zu Prozessen und Technologie. Zeitaufwand: 1–2 Tage pro Woche. Aufgaben: Roadmap-Pflege, Koordination der Champions, Kontakt zu externen Dienstleistern (z. B. Coaching oder Done-For-You Service), Governance-Strukturen aufbauen, AI Act Compliance sicherstellen.

3. Fachbereichs-Champions

Aus Sales, Service, Finance, HR oder Produktion kommen 2–4 Champions, die Prozesse kennen und Automatisierungspotenziale identifizieren. Zeitaufwand: 0,5–1 Tag pro Woche. Aufgaben: Use Cases aus dem eigenen Bereich einbringen, bei der Umsetzung mitdenken, neue Workflows im Team testen, Akzeptanz fördern. Laut Citizen-Development-Forschung sind Fachbereichs-Champions der Schlüssel zu erfolgreichen Digitalisierungsinitiativen – weil sie Prozesswissen und Nutzerakzeptanz mitbringen.

4. Citizen Developer

Citizen Developer sind Mitarbeiter mit Fachexpertise, die durch Schulung und Vibe-Coding-Praxis zu technischen Machern werden. Sie bauen Workflows, Datenbanken, Integrationen – ohne klassische Programmierung, aber mit produktionsreifen Ergebnissen. Zeitaufwand: 1–2 Tage pro Woche. Aufgaben: n8n-Workflows erstellen, Supabase-Datenbanken aufsetzen, RAG-Systeme für interne Wissensdatenbanken bauen, APIs anbinden. Moderne Low-Code/No-Code-Plattformen transformieren die Art und Weise, wie Unternehmen digitale Lösungen entwickeln. Fachbereichsmitarbeitende ohne umfassende IT-Kenntnisse können eigene digitale Lösungen entwerfen und implementieren – so beschreibt es die HMD-Forschung. Wichtig: Citizen Developer sind keine „Power User", die Excel-Makros bauen. Sie arbeiten mit echten Automatisierungsplattformen, Datenbanken und APIs – unter klaren Governance-Leitplanken. ---

Realistische Teamgrößen und Zeitbudgets

Für ein KMU mit 10–50 Mitarbeitern reicht ein 3er-Kernteam:
  • • Geschäftsführung (Sponsor)
  • • KI-Programm-Lead (auch Geschäftsführer oder Führungskraft)
  • • 1 Citizen Developer
Für Unternehmen mit 50–250 Mitarbeitern:
  • • Geschäftsführung
  • • KI-Programm-Lead
  • • 2–3 Fachbereichs-Champions
  • • 1–2 Citizen Developer
Für Mittelständler mit 250–1.500 Mitarbeitern:
  • • Geschäftsführung
  • • KI-Programm-Lead
  • • 4–6 Fachbereichs-Champions
  • • 2–4 Citizen Developer
Das Besondere: Diese Rollen laufen parallel zum Tagesgeschäft. Niemand wird Vollzeit abgestellt. 10–20% geschützte Arbeitszeit pro Rolle reichen aus, wenn die Lernarchitektur stimmt. Die BIBB-Studie zu betrieblicher digitaler Weiterbildung zeigt: E-Learning und digitale Weiterbildungsformen haben sich während der Pandemie flächig etabliert. Heute ist es möglich, Kompetenzen aufzubauen, ohne Mitarbeiter wochenlang aus dem Betrieb zu nehmen. ---

Lern- und Befähigungsarchitektur: So bauen KI-Kernteams Kompetenzen auf

Die entscheidende Frage lautet: Wie bringen wir Mitarbeitern ohne IT-Hintergrund bei, produktionsreife Automatisierungen zu bauen? Die Antwort liegt in einer Mischung aus drei Lernformen:

1. Strukturierte Theorie (20–30%)

Grundlagen zu KI, Prompting, Workflow-Logik, Datenbanken, APIs, EU AI Act, Datenschutz. Format: Videokurse, kompakte Schulungen, Webinare. Beispiel: Der Videokurs von SYNCLARO bietet 48 Stunden Content in 17 Kapiteln – von ersten Workflows bis zu production-ready Systemen.

2. Praxisprojekte im eigenen Unternehmen (70–80%)

Echte Use Cases aus dem eigenen Betrieb werden mit KI-Assistenz umgesetzt. Das ist Vibe Coding: Nicht selbst programmieren, sondern mit ChatGPT, Claude oder Copilot gemeinsam bauen. Format: Projektbasiertes Lernen, Peer-Austausch, wöchentliche Sprints. Studien zu betrieblicher Weiterbildung belegen: Praxisnahe Formate wie On-the-job-Projekte und Blended Learning sind deutlich wirksamer als reine Frontal-Seminare.

3. Begleitung durch Experten

Komplexe Themen wie RAG-Systeme, API-Sicherheit, Skalierung oder Change Management erfordern externe Expertise. Format: Intensiv-Coaching, Mastermind Retreats, technische Begleitung. Die Fraunhofer GenAI Days zeigen, wie interdisziplinäre Teams in drei Modulen (Use-Case-Identifikation, Architektur- und Kompetenzplanung, Governance & Management) befähigt werden, konkrete GenAI-Projekte zu planen und umzusetzen. Genau dieses Modell übertragen wir auf KMU, die KI-Kompetenzen aufbauen wollen. ---

Citizen Developer im deutschen Kontext: Was funktioniert und was nicht

Die gute Nachricht: Empirische Studien mit 16 deutschen Organisationen zeigen, dass Citizen Developer zu Innovationskatalysatoren werden – wenn drei Erfolgsfaktoren erfüllt sind:

1. Standardplattform

Ohne klare Plattform entsteht Wildwuchs. Erfolgreiche Unternehmen legen sich auf 2–3 Kernsysteme fest (z. B. n8n für Workflows, Supabase für Datenbanken, OpenAI/Anthropic für KI).

2. Governance-Framework

Welche Daten dürfen genutzt werden? Wer gibt Workflows frei? Wie dokumentieren wir? Ein einfaches Governance-Modell verhindert Sicherheitsrisiken und Datenschutzverstöße.

3. Community & Schulung

Citizen Developer brauchen Austausch, Best Practices und technische Hilfe. Ein internes oder externes Netzwerk (z. B. Mastermind-Gruppen) beschleunigt den Kompetenzaufbau erheblich. Die Haufe Group setzt seit zwei Jahren systematisch auf Citizen Developer. Die Initiative wird von der IT koordiniert, aber in den Fachbereichen verankert. Ergebnis: Entlastung der IT, schnellere Umsetzung fachlicher Anforderungen, klare Erfolgsfaktoren. ---

Change-Management und Kulturwandel: Skepsis, Ängste und Silos überwinden

Ein KI-Kernteam ist nicht nur eine technische, sondern auch eine organisatorische Herausforderung. Typische Widerstände:
  • • „Ich habe keine Zeit für Weiterbildung."
  • • „KI ersetzt meinen Job."
  • • „Das ist doch IT-Aufgabe, nicht unsere."
Die Fraunhofer Lernfabrik 5.0 zeigt in Industrie-Workshops, wie gemischte Teams (Führung, Shopfloor, IT/Prozessmanagement) neue Prozesse durchspielen und dabei sowohl Lean-Methoden als auch KI-gestützte Lösungen erlernen. Change Management, Teambildung und praktische Übungen stehen im Vordergrund. Bewährte Formate für KMU:
  • • Brown-Bag-Sessions: Jeden Monat zeigt das KI-Kernteam, was es gebaut hat.
  • • Pilotprojekte mit Quick Wins: Erste Automatisierungen, die allen helfen (z. B. automatisierte Rechnungsprüfung).
  • • Transparente Kommunikation: Welche Prozesse werden automatisiert? Welche Jobs verändern sich? Welche neuen Chancen entstehen?
Laut BVMW werden Fähigkeiten und Kompetenzen für die Arbeit mit KI zum zentralen Wettbewerbsfaktor für den Mittelstand. Entscheidend ist eine Kultur des lebenslangen Lernens und der gemeinsamen Gestaltung mit den Beschäftigten. ---

Governance, Risiko und Compliance: AI Literacy und EU AI Act

Ab dem 2. Februar 2025 sind Unternehmen verpflichtet, ihre Mitarbeiter zu schulen, wenn sie KI einsetzen. Die EU-Verordnung verlangt nachweisliche AI Literacy. Ein KI-Kernteam hilft, diese Pflichten pragmatisch zu erfüllen:
  • • AI Literacy: Grundlagenschulungen für alle KI-Nutzer dokumentieren.
  • • Governance: Klare Regeln für den Einsatz von Cloud-KI, Datennutzung, Prompt-Governance.
  • • Risikoklassifizierung: Welche KI-Systeme fallen unter den AI Act? Welche Dokumentation brauchen wir?
Der Bitkom-Umsetzungsleitfaden zur KI-Verordnung bietet eine praxisnahe Orientierung. Zentrale Botschaft: Unternehmen müssen Kompetenzen nicht nur in Prompting, sondern auch in Risikobewertung, Dokumentation und Überwachung aufbauen. Ein KI-Kernteam wird damit zur organisatorischen Antwort auf Compliance-Pflichten – nicht nur zur Innovationszelle. ---

Fördermittel und Business Case: Wie öffentliche Programme den Aufbau finanzieren helfen

Gute Nachricht: Der Aufbau eines KI-Kernteams muss nicht komplett aus eigener Tasche bezahlt werden. Förderprogramme für KI-Kompetenzaufbau: Wenn Qualifizierung, Pilotprojekte und erste Automatisierungen gefördert werden, sinkt die Amortisationszeit eines KI-Kernteams auf deutlich unter 12 Monate. Beispiel-ROI: Ein KMU mit 80 Mitarbeitern automatisiert drei Kernprozesse (Rechnungsprüfung, Angebotsverarbeitung, Wissenssuche). Zeitersparnis: 15 Stunden pro Woche. Bei 50 €/Stunde entspricht das 39.000 € Einsparung pro Jahr. ---

6–12-Monats-Fahrplan: Phasierter Aufbau eines KI-Kernteams

Die HMD-Studie zu Citizen-Development-Initiativen beschreibt vier typische Phasen: Exploration, Institutionalisierung, Skalierung, Integration. Übertragen auf ein KMU ohne IT-Abteilung sieht ein realistischer Fahrplan so aus:

Monate 1–2: Exploration – Rollen klären, Grundlagen schaffen

  • • Geschäftsführung entscheidet: Wer wird KI-Programm-Lead?
  • • KI-Kernteam wird benannt (3–7 Personen).
  • • Erste Schulungen: AI Literacy, Prompting, Workflow-Grundlagen.
  • • Tool-Entscheidung: Welche Plattformen nutzen wir? (z. B. n8n, Supabase, OpenAI).

Monate 3–6: Institutionalisierung – Erste Automatisierungen bauen

  • • 1–2 Pilot-Prozesse werden automatisiert (z. B. Rechnungsprüfung, Angebotserstellung).
  • • Citizen Developer arbeiten an echten Use Cases mit KI-Assistenz.
  • • Governance-Rahmen wird definiert (Datenschutz, Freigabeprozess, Dokumentation).
  • • Erste Quick Wins werden im Unternehmen kommuniziert.

Monate 7–9: Skalierung – Workflows ausrollen und optimieren

  • • Erfolgreiche Automatisierungen werden auf andere Bereiche übertragen.
  • • Weitere Fachbereichs-Champions werden geschult.
  • • Community-Formate starten (Brown-Bag-Sessions, interne Wikis).
  • • Externe Begleitung wird reduziert, interne Autonomie steigt.

Monate 10–12: Integration – Portfolio-Management und Governance

  • • KI-Roadmap wird regelmäßig reviewed.
  • • AI Act Compliance wird dokumentiert und nachgewiesen.
  • • Neue Use Cases werden systematisch geprüft und priorisiert.
  • • KI-Kernteam wird zur festen Struktur im Unternehmen.
Dieser Fahrplan ist realistisch für KMU ohne eigene IT-Abteilung – wenn die Rollen, Zeitbudgets und Lernarchitekturen stimmen. ---

Wann externe Unterstützung sinnvoll ist: SYNCLARO als Implementation-Bridge

Ein KI-Kernteam aufzubauen, bedeutet nicht, alles alleine zu machen. Die OECD empfiehlt in ihrem Bericht zu KI in Deutschland ausdrücklich, dass KMU interne Fähigkeiten aufbauen sollten – statt sich primär auf externe Anbieter zu verlassen. Gleichzeitig braucht es am Anfang methodische Begleitung, technische Expertise und Erfahrungswissen. Genau hier setzt SYNCLARO als Implementation-Bridge an. Wo externe Unterstützung den Unterschied macht:
  • • Strategischer Aufbau: Welche Rollen brauchen wir? Wie priorisieren wir Use Cases? Welche Governance-Strukturen sind sinnvoll?
  • • Technische Umsetzung: RAG-Systeme, komplexe Workflows, API-Integrationen – wo Citizen Developer an Grenzen stoßen, hilft professionelle Umsetzung.
  • • Change-Begleitung: Wie holen wir skeptische Mitarbeiter ab? Wie kommunizieren wir Erfolge?
Das Intensiv-Coaching bietet 100–150 Stunden persönliche Transformation – 1:1 oder in Gruppen. Das Mastermind Retreat vom 26. Februar bis 2. März 2026 bringt Geschäftsführer zusammen, die in kompakter Zeit das strategische Fundament für KI-Entscheidungen legen wollen. Und der Done-For-You Service setzt komplexe Automatisierungsprojekte professionell um – während Ihr Kernteam intern weiter lernt. ---

Fazit: Vom ChatGPT-Spielplatz zu produktiven Automatisierungen

Ein KI-Kernteam ist die organisatorische Antwort auf drei zentrale Herausforderungen: Fachkräftemangel, EU AI Act Compliance und Wettbewerbsdruck. In 6–12 Monaten kann ein schlankes Team aus 3–7 Personen den Weg vom ChatGPT-Experiment zu produktiven Automatisierungen gehen – vorausgesetzt, Rollen sind klar, Zeitbudgets geschützt, Lernarchitekturen praxisnah und Governance-Strukturen etabliert. Die Forschung ist eindeutig: Erfolgreiche KI-Initiativen scheitern nicht an der Technik, sondern an fehlenden Strukturen, Change Management und Befähigung. Genau diese Lücke schließt ein KI-Kernteam. ---

Ihre nächsten Schritte zur digitalen Autonomie

Sie haben gesehen, wie ein KI-Kernteam im Mittelstand aufgebaut wird – von Rollen über Zeitbudgets bis zur Governance. Jetzt stellt sich die Frage: Wie kommen Sie vom Wissen zum Können? Option 1: Intensive persönliche Transformation In unserem Intensiv-Coaching arbeiten wir 100–150 Stunden gemeinsam daran, dass Sie zu den Top 1% der Unternehmen gehören, die KI wirklich meistern. 1:1 oder in Gruppen – Sie entscheiden. Option 2: Strategische Entscheidungskompetenz in 5 Tagen Das Mastermind Retreat vom 26. Februar bis 2. März 2026 bringt Geschäftsführer zusammen, die in kompakter Zeit das strategische Fundament für KI-Entscheidungen legen wollen. Perfekt, um den Aufbau Ihres KI-Kernteams strategisch zu planen. Option 3: Strukturiertes Selbstlernen Der Videokurs bietet 48 Stunden Content in 17 Kapiteln – von den ersten Workflows bis zu production-ready Systemen. In Ihrem Tempo, mit Community-Support. Ideal für Citizen Developer in Ihrem Team. Option 4: Professionelle Umsetzung beauftragen Keine Zeit oder Nerven für DIY? Unser Done-For-You Service setzt Ihre Automatisierungsprojekte professionell um – während Ihr KI-Kernteam intern Kompetenzen aufbaut. Der erste Schritt ist immer ein Gespräch. Vereinbaren Sie ein kostenloses Erstgespräch – wir finden gemeinsam heraus, welcher Weg für Ihre Situation der richtige ist und wie Sie Ihr KI-Kernteam strategisch aufbauen.

Ähnliche Artikel