Zum Inhalt springen

Cookie-Einstellungen

Wir verwenden notwendige Cookies und Google reCAPTCHA, um unsere Formulare vor Spam zu schützen. Details finden Sie in unserer Datenschutzerklärung.

Datenschutzerklärung
FragonStudios

Von Danijel Balog, Gründer, Fragon Studios · Zuletzt aktualisiert: 11. November 2026

KI im Unternehmen einführen: der praktische Leitfaden

9 min LesezeitKI, Leitfaden, Digitalisierung, KMU

30 % der Unternehmen in Österreich nutzen bereits KI. So kommen Sie vom konkreten Problem über Pilot und Messung zur funktionierenden Lösung und erfüllen dabei die Pflichten aus dem EU-KI-Gesetz.

KI im Unternehmen einführen: der praktische Leitfaden

Kurz gesagt: Beginnen Sie mit einem einzelnen Arbeitsablauf, der häufig vorkommt, viel Zeit kostet und dessen Ergebnis ein Mensch leicht prüfen kann. Testen Sie dafür eine Lösung zwei bis vier Wochen lang und legen Sie vorher fest, woran Sie den Erfolg messen. Regeln für Datenschutz, Kennzeichnung und Schulung gehören von Anfang an dazu, denn die Transparenzpflichten des EU-KI-Gesetzes gelten seit dem 2. August 2026.

Das ist die häufigste Frage, die uns Geschäftsführer heute stellen. Dieser Leitfaden führt Sie vom konkreten Problem zu einer Lösung, die im Alltag funktioniert.

Wie verbreitet ist KI in österreichischen Unternehmen?

Knapp ein Drittel nutzt sie bereits. Laut Statistik Austria setzten 2025 in Österreich 30 % der Unternehmen ab 10 Beschäftigten KI ein, im EU-Schnitt waren es 20 %. Bei Unternehmen mit 10 bis 49 Beschäftigten lag der Anteil laut dem STATreport „IKT-Einsatz in Unternehmen 2025“ bei 26 %.

Wer noch nicht begonnen hat, ist trotzdem in guter Gesellschaft. Von den Unternehmen ohne KI-Nutzung haben 77 % den Einsatz noch gar nicht in Erwägung gezogen. Als Hindernisse nennen sie am häufigsten fehlendes Fachwissen im Haus (15 %), Datenschutzbedenken (11 %) und rechtliche Unklarheiten (11 %).

Woran scheitern KI-Projekte am häufigsten?

Meist an Menschen und Abläufen, selten an der Technik. In einer Befragung der Boston Consulting Group aus dem Jahr 2024 unter 1.000 Führungskräften aus 59 Ländern hatten 74 % der Unternehmen mit KI noch keinen greifbaren Wert vorzuweisen. Rund 70 % der Schwierigkeiten bei der Umsetzung hingen mit Menschen und Abläufen zusammen, rund 20 % mit der Technik und rund 10 % mit den KI-Algorithmen selbst. Die Studie befragte Führungskräfte weltweit und nicht speziell kleine Betriebe.

Ein Fehlstart beginnt mit dem Satz „Wir brauchen jetzt irgendwie KI“. Das ist kein Ziel, sondern der Wunsch nach einem Werkzeug, bevor das Problem benannt ist. KI ist kein Selbstzweck, sondern manchmal die günstigste Lösung für ein teures Problem. Fragen Sie deshalb nicht, wo sich KI einsetzen lässt. Fragen Sie, welcher Ablauf Sie unverhältnismäßig viel Zeit oder Geld kostet, obwohl er sich immer wieder ähnlich abspielt.

Wie fange ich konkret an?

Gehen Sie in sieben Schritten vor und halten Sie den ersten Versuch klein.

  1. Problem finden. Listen Sie Abläufe auf, die häufig vorkommen, ähnlich ablaufen und viel Zeit kosten.
  2. Sortieren. Bewerten Sie jeden Kandidaten nach Wert und Machbarkeit. Der Wert ist die Zeit oder das Geld, das die Lösung spart. Machbar ist ein Fall, wenn die Daten vorhanden sind, das Risiko gering ist und der Aufwand vertretbar bleibt. Beginnen Sie mit dem Fall, der in beiden Punkten gut abschneidet, und lassen Sie Fälle mit geringem Wert vorerst weg.
  3. Weg wählen. Entscheiden Sie, ob Sie ein fertiges Werkzeug kaufen, ein Sprachmodell anbinden oder selbst bauen lassen.
  4. Daten aufräumen. Sorgen Sie dafür, dass die nötigen Dokumente aktuell, geordnet und zugänglich sind.
  5. Klein testen und messen. Führen Sie einen Piloten über zwei bis vier Wochen durch und legen Sie vorher die Kennzahlen fest.
  6. Regeln festlegen. Klären Sie Datenschutz, Kennzeichnung, Schulung und die Prüfung durch einen Menschen.
  7. Verantwortung klären und ausweiten. Benennen Sie eine Person, die das Thema vorantreibt, Rückmeldungen sammelt und über Verbesserungen entscheidet. Ein eigenes KI-Team brauchen Sie dafür nicht. Weiten Sie nur aus, was sich im Piloten bewährt hat.

Welche Aufgabe eignet sich als erster Anwendungsfall?

Eine Aufgabe, die häufig auftritt, ähnlich abläuft, mit Sprache oder Text zu tun hat und deren Ergebnis ein Mensch leicht prüfen kann, bevor es Schaden anrichtet. Ein Werkzeug, das eine seltene Aufgabe erleichtert, spart kaum etwas.

Gute erste Anwendungsfälle sind das Vorformulieren von Angeboten, das Sortieren und Vorbeantworten von E-Mails, das Herausziehen von Daten aus Rechnungen oder Lieferscheinen, erste Antwortentwürfe für Kundenanfragen sowie das Zusammenfassen von Protokollen oder Recherchen. Ungeeignet als Einstieg ist alles, was ohne menschliche Prüfung rechtlich bindend wird oder sicherheitskritisch ist.

Soll ich kaufen, anbinden oder selbst bauen?

Kaufen Sie, was es fertig gibt, und bauen Sie nur das selbst, was Sie von anderen unterscheidet. Die drei Wege unterscheiden sich in Aufwand, Kosten und Kontrolle.

  • Kaufen. Oft steckt die passende KI-Funktion bereits in einer Software, die Sie ohnehin nutzen, oder es gibt ein fertiges Werkzeug. Das geht schnell und kostet wenig, passt sich Ihren Besonderheiten aber kaum an.
  • Anbinden. Ein Sprachmodell wird über eine Schnittstelle in Ihren bestehenden Ablauf eingebunden, etwa als kleines internes Werkzeug. So lässt sich der Ablauf passgenauer gestalten, ohne eine komplette Anwendung zu entwickeln.
  • Selbst bauen. Eine maßgeschneiderte Lösung lohnt sich, wenn der Ablauf zum Kern Ihres Geschäfts gehört, sehr spezifisch ist oder auf Ihren eigenen Dokumenten und Daten aufbauen muss. Das ist der aufwendigste Weg, gibt Ihnen aber die volle Kontrolle.

Der erste Weg ist am weitesten verbreitet. Laut Statistik Austria haben 56 % der KI-nutzenden Unternehmen in Österreich fertige kommerzielle Software oder Systeme gekauft.

Was muss ich bei meinen Daten beachten?

Ein Modell antwortet nur so gut wie die Grundlage, die es bekommt. Soll ein Werkzeug Fragen aus Ihren eigenen Dokumenten beantworten und sind diese über zehn Ordner verstreut, veraltet oder unstrukturiert, liefert auch ein gutes Modell schlechte Antworten. Planen Sie deshalb Zeit für das Aufräumen und Zugänglichmachen der Daten ein.

Wie teste ich, ob sich KI für uns lohnt?

Mit einem einzigen, eng umrissenen Anwendungsfall, den Sie zwei bis vier Wochen lang testen und an vorher festgelegten Kennzahlen messen. Vier Kennzahlen genügen für den Anfang.

  • Wie viel Zeit spart die Lösung pro Vorgang?
  • Wie hoch ist die Fehlerquote?
  • Was kostet ein Durchlauf?
  • Nehmen die Mitarbeiter das Werkzeug an?

Ohne diese Zahlen bleibt am Ende ein Bauchgefühl, und daraus lässt sich keine Investitionsentscheidung ableiten.

Welche Pflichten bringt das EU-KI-Gesetz für Unternehmen, die KI nur nutzen?

Solange Ihr Einsatz nicht als Hochrisiko-Anwendung gilt, sind es im Wesentlichen zwei Pflichten, nämlich KI-Kompetenz und Transparenz. Für KI-Systeme mit minimalem Risiko gilt laut KI-Servicestelle der RTR nur die Pflicht zur KI-Kompetenz. Die Termine stammen aus dem Zeitplan der RTR.

DatumWas gilt
2. Februar 2025Verbotene KI-Praktiken dürfen nicht mehr angewandt werden, die Regeln zur KI-Kompetenz gelten.
2. August 2026Die Transparenzpflichten nach Artikel 50 sind einzuhalten.
2. Dezember 2027Die Anforderungen an Hochrisiko-KI-Systeme nach Anhang III gelten.

Was bedeutet KI-Kompetenz?

Sie müssen Maßnahmen setzen, die das Wissen Ihrer Mitarbeiter im Umgang mit den eingesetzten KI-Werkzeugen fördern. Seit der Änderung durch den Digital-Omnibus vom 27. Juli 2026 müssen Unternehmen laut RTR die Entwicklung dieser Kompetenz unterstützen, aber kein bestimmtes Niveau garantieren. Die RTR empfiehlt eine schriftliche interne KI-Richtlinie, wiederkehrende Schulungen und eine Dokumentation darüber, wer wann geschult wurde. Laut Statistik Austria haben erst 27 % der kleinen Unternehmen mit KI-Nutzung eine solche Richtlinie.

Was muss ich kennzeichnen?

Seit dem 2. August 2026 müssen Menschen erkennen können, wenn sie mit einem Chatbot sprechen. Diese Pflicht trifft laut RTR den Anbieter des Systems. Als Betreiber müssen Sie offenlegen, wenn Bilder, Ton oder Videos sogenannte Deepfakes sind. KI-erzeugte Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren, müssen Sie ebenfalls kennzeichnen. Das entfällt, wenn ein Mensch den Text inhaltlich geprüft hat und jemand die redaktionelle Verantwortung trägt.

Wie hoch sind die Strafen?

Die Höchststrafe von bis zu 35 Mio. Euro oder 7 % des weltweiten Vorjahresumsatzes gilt laut RTR für verbotene Praktiken. Für Verstöße gegen andere Pflichten sind es bis zu 15 Mio. Euro oder 3 %. Bei kleinen und mittleren Unternehmen gilt der jeweils niedrigere der beiden Beträge.

Was empfehlen wir darüber hinaus?

Sprachmodelle können überzeugend klingen und trotzdem falschliegen. Lassen Sie deshalb alles, was Konsequenzen hat, vor der Verwendung von einem Menschen prüfen. Sensible Inhalte gehören in eine geschützte, möglichst europäische Umgebung und nicht in ein beliebiges Werkzeug aus dem Netz.

Fazit

Für den Einstieg brauchen Sie kein eigenes Datenteam und kein Großprojekt. Sie brauchen einen einzigen mühsamen, sich wiederholenden Ablauf, einen eng umrissenen Piloten, eine ehrliche Messung und eine solide Grundordnung.

Fragon Studios begleitet mittelständische Unternehmen von der ersten Idee bis zur produktiven Lösung, mit Fokus auf konkreten Nutzen statt auf Schlagworten. Wenn Sie herausfinden möchten, welcher Prozess in Ihrem Unternehmen sich am schnellsten lohnt, sprechen Sie uns an.

Häufige Fragen

Brauche ich für den Einstieg ein eigenes KI-Team?

Nein. Sie brauchen eine klar benannte Person, die das Thema vorantreibt, Rückmeldungen sammelt und über Verbesserungen entscheidet. Für den ersten Anwendungsfall genügt oft eine KI-Funktion in einer Software, die Sie bereits nutzen.

Wie lange sollte ein erster KI-Pilot dauern?

Wir empfehlen zwei bis vier Wochen für einen einzigen, eng umrissenen Anwendungsfall. Legen Sie vorher fest, woran Sie den Erfolg messen, etwa an der gesparten Zeit pro Vorgang, der Fehlerquote, den Kosten pro Durchlauf und der Akzeptanz im Team.

Muss ich meine Mitarbeiter für KI schulen?

Ja, in angemessenem Umfang. Das EU-KI-Gesetz verlangt von Unternehmen, die KI einsetzen, Maßnahmen zur Förderung der KI-Kompetenz ihres Personals. Die KI-Servicestelle der RTR empfiehlt dafür eine schriftliche Richtlinie, wiederkehrende Schulungen und deren Dokumentation.

Muss ich KI-erzeugte Inhalte kennzeichnen?

In bestimmten Fällen ja, und zwar seit dem 2. August 2026. Deepfakes müssen Sie offenlegen. KI-erzeugte Texte zu Themen von öffentlichem Interesse müssen Sie kennzeichnen, wenn kein Mensch sie inhaltlich geprüft hat und niemand die redaktionelle Verantwortung trägt. Bei einem Chatbot muss erkennbar sein, dass man mit einer KI spricht.

Quellen