Haeufige Fehler bei KI-Kompetenzanforderungen, die SaaS-Teams immer noch machen

KI-Kompetenzanforderungen funktionieren am besten, wenn SaaS-Teams sie in einen wiederholbaren operativen Workflow uebersetzen. Es geht nicht darum, nachzuweisen, dass alle an einem allgemeinen KI-Training teilgenommen haben. Es geht darum, dass Personen, die KI-Systeme bauen, einsetzen, einkaufen, verkaufen, supporten, ueberwachen oder steuern, genug fuer ihre konkrete Rolle verstehen.

Artikel 4 des EU AI Act gilt seit dem 2. Februar 2025. Anbieter und Betreiber von KI-Systemen muessen Massnahmen ergreifen, um ein ausreichendes Niveau an KI-Kompetenz bei Personal und anderen Personen sicherzustellen, die in ihrem Auftrag mit Betrieb und Nutzung von KI-Systemen umgehen. Dabei zaehlen technisches Wissen, Erfahrung, Ausbildung, Training und Nutzungskontext.

Fehler 1: KI-Kompetenz nur als HR-Training behandeln

Trainingsnachweise sind wichtig, aber sie reichen nicht. KI-Kompetenz betrifft Produkt-Governance, Engineering, Security, Kundenkommunikation, Vendor Review und Audit Evidence. Wenn HR nur Completion Records verwaltet, aber niemand Systeminventar, Rollenmatrix, genehmigte Kundenaussagen, Release Trigger oder Evidenzreviews verantwortet, sieht das Programm komplett aus, obwohl das Risiko weiter offen ist.

Der bessere Ansatz ist geteilte Ownership: Legal oder Compliance interpretiert die Pflicht, Product und Engineering definieren systembezogenes Wissen, Security und Privacy setzen Daten- und Zugriffgrenzen, Sales und Customer Success pflegen genehmigte Aussagen, HR oder Operations helfen bei Auslieferung und Tracking.

Fehler 2: Alle Rollen gleich trainieren

Ein Support Agent, der KI-Zusammenfassungen von Tickets nutzt, braucht anderes Wissen als ein Engineer, der Retrieval-Logik aendert. Ein Sales Lead braucht andere Leitplanken als ein Compliance Owner im Enterprise Review. Basistraining hilft, aber der belastbare Control ist rollenbasiert.

Erstellen Sie eine einfache Matrix. Fuer jedes KI-System oder jeden Workflow: Wer entwickelt, genehmigt, konfiguriert, nutzt, prueft, erklaert, verkauft, supportet, ueberwacht oder veraendert es? Danach definieren Sie die Mindestkompetenz je Rolle: Zweck, Grenzen, Datenregeln, Verifizierung, Kundensprache, Eskalation und Evidenzort.

Fehler 3: Interne KI-Tools ignorieren

Viele Teams starten mit kundenorientierten KI-Features und vergessen interne Tools. Das ist gefaehrlich, weil interne Assistenten sensible Daten verarbeiten, Kundenkommunikation beeinflussen, Security-Aktionen steuern oder Compliance-Nachweise erzeugen koennen.

In Scope gehoeren unter anderem Support-Antworten, Vertragspruefung, Meeting-Zusammenfassungen, Sales Research, Security Triage, Datenanalyse, Beschaffung, Code Assistance und Compliance Drafting. Wenn ein Tool Kundendaten, Kundenversprechen, regulierte Entscheidungen, Security oder Audit Evidence beeinflussen kann, gehoert es in die KI-Kompetenzpruefung.

Fehler 4: Kompetenz von KI-Systemklassifizierung trennen

KI-Kompetenz ersetzt keine Risikoklassifizierung, haengt aber von ihr ab. Teams koennen nicht bestimmen, was ausreichend ist, wenn unklar ist, welches System genutzt wird, welche Outputs entstehen und welches Risiko damit verbunden ist.

Ein niedriges internes Produktivitaetstool braucht moeglicherweise nur kurze Nutzungsregeln. Ein sensibler Kundenworkflow braucht Training zu Intended Use, Human Oversight, Logging, Monitoring, Incident Handling, Modellgrenzen, Disclosures und Evidence Retention.

Fehler 5: Nur Anwesenheit nachweisen

Completion Logs beantworten selten die eigentliche Prueffrage: Haben die richtigen Personen die richtigen Dinge fuer die Systeme verstanden, die sie wirklich nutzen? Staerkere Nachweise zeigen Scope und Relevanz.

Bewahren Sie KI-Inventar, Rollenkarte, Trainingsmaterial, rollenspezifische Guidance, Acknowledgements, Knowledge Checks, Release Briefings, genehmigte Kundensprache, Eskalationswege und Review Notes auf. Die Evidenz sollte beantworten: Wer brauchte Kompetenz, was musste diese Person wissen, wie wurde es vermittelt und wann wurde es nach Aenderungen geprueft?

Fehler 6: Customer-facing Teams vergessen

Sales, Customer Success, Support und Implementierung erklaeren KI-Features oft, bevor Legal oder Product jede Formulierung gesehen hat. Ohne Leitplanken koennen sie Genauigkeit ueberversprechen, Human Review falsch darstellen, Vendoren ungenau beschreiben oder Aussagen zu Trainingsdaten und Retention machen, die das Produkt nicht traegt.

Diese Teams brauchen genehmigte Beschreibungen, verbotene Claims, FAQ-Formulierungen, Eskalationswege und Beispiele fuer riskante Aussagen.

Fehler 7: Nach Produkt- oder Vendor-Aenderungen nicht aktualisieren

KI-Kompetenz veraltet schnell. Ein internes Tool verarbeitet spaeter sensiblere Daten. Ein Prompt aendert sich. Retrieval wird erweitert. Ein Modellprovider aktualisiert Funktionen. Ein Beta-Feature wird allgemein verfuegbar. Wenn Materialien gleich bleiben, wird die Evidenz stale.

Definieren Sie Trigger: neues KI-Feature, neuer oder ersetzter Vendor, wesentliche Modell- oder Prompt-Aenderung, neue Datenkategorie, weniger Human Review, mehr Automatisierung, neue Kundenaussage, Incident oder neue offizielle Guidance.

Fehler 8: Ownership unklar lassen

Mindestens noetig sind ein uebergeordneter KI-Kompetenz-Owner, System Owner fuer KI-Workflows, Rollen-Owner fuer betroffene Teams und Evidence Owner fuer Records und Reviews. Auch Ausnahmen brauchen klare Entscheidungspunkte: Wer genehmigt Nutzung vor Training, wer entscheidet ueber Refresh, wer prueft riskante Kundenaussagen?

FAQ

Was sollten Teams verstehen?

KI-Kompetenz ist eine operative Anforderung fuer Anbieter und Betreiber von KI-Systemen. Sie muss nach Rolle, System, Nutzungskontext und betroffenen Personen gescoped werden.

Warum ist das praktisch wichtig?

Missverstandene KI-Systeme fuehren zu falschen Kundenaussagen, sensiblen Daten in falschen Tools, fehlender Human Review und schwacher Audit Evidence.

Was ist der groesste Fehler?

Der groesste Fehler ist, KI-Kompetenz als einmalige Legal- oder HR-Aufgabe zu behandeln statt als Workflow mit Ownern, Triggern, rollenbezogenen Erwartungen und Nachweisen.

Sources

• Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence.
• European Commission guidance on AI talent, skills and literacy.
• European Commission AI Act policy overview.