Künstliche Intelligenz

Generative KI im Unternehmen in Marokko: Anwendungsfälle, Risiken und Vorgehen

Von Yasser MsahalVeröffentlicht am 12. Oktober 20268 Min. Lesezeit

Generative KI bringt einem B2B-Unternehmen in Marokko dann etwas, wenn sie einen klar umrissenen Prozess angeht: Dokumente verarbeiten, Antworten für den Support vorbereiten, Informationen in internen Unterlagen finden oder einen ersten Berichtsentwurf schreiben. Enttäuschend wird es, wenn man sie ohne Regeln überall ausrollt. Drei Dinge machen den Unterschied: Daten klassifizieren, bevor sie an ein Modell gehen, einen Menschen für das Ergebnis verantwortlich halten und mit einem messbaren Pilotprojekt beginnen.

Was kann generative KI für ein B2B-Unternehmen in Marokko leisten?

Ein großes Sprachmodell (Large Language Model, LLM) liest, fasst zusammen, ordnet und formuliert Texte. Im B2B-Umfeld hilft es bei wiederkehrenden Aufgaben, bei denen die meiste Zeit mit Lesen, Suchen und Abschreiben vergeht. Vier Gruppen von Anwendungsfällen sind zugleich gut erreichbar und leicht zu kontrollieren.

• Dokumentenverarbeitung: Rechnungen, Bestellungen, Verträge oder Reklamationen. Das Modell extrahiert die relevanten Felder, ordnet das Dokument zu und meldet, was fehlt. In Marokko kommen solche Dokumente oft auf Französisch, auf Arabisch oder in einer Mischung aus beidem an, manchmal eingescannt: Testen Sie das Modell mit Ihren eigenen Beispielen in jeder Sprache, die bei Ihnen eingeht, bevor Sie irgendetwas schlussfolgern.
• Antwortentwürfe für den Support: Das Modell liest das Ticket, sucht die passenden Informationen in Ihren Verfahrensanweisungen und schlägt eine Antwort vor, die der Mitarbeitende prüft, korrigiert und versendet. Der Gewinn liegt beim Suchen und Formulieren, nicht bei der Entscheidung. Schreiben Ihre Kunden auch auf Darija, dem marokkanischen Arabisch, gehören solche Nachrichten in Ihre Tests.
• Suche in der internen Dokumentenbasis: Qualitätsverfahren, HR-Richtlinien, technische Dokumentation. Mitarbeitende stellen ihre Frage in Alltagssprache und erhalten eine Antwort samt den zugrunde liegenden Textstellen.
• Berichtserstellung: Protokolle, Monatszusammenfassungen, Projektskizzen. Das Modell erstellt einen ersten Entwurf, den die verantwortliche Person ergänzt und freigibt; die Zahlen stammen aus Ihren Systemen, nie aus dem Gedächtnis des Modells.

Allen vier Einsatzbereichen ist eines gemeinsam: Das Modell bereitet vor, ein Mensch entscheidet. Genau deshalb lassen sie sich einführen, ohne auf ein perfektes Modell zu warten.

RAG: Unternehmensdokumente abfragen, ohne ein Modell zu trainieren

RAG (Retrieval-Augmented Generation, also durch Suche ergänzte Generierung) fragt das Modell nicht nach dem, was es „weiß“: Es liefert ihm zu jeder Frage die passenden Auszüge aus Ihren Dokumenten. Ein Training mit Ihren Daten ist nicht nötig, und eine aktualisierte Verfahrensanweisung wird berücksichtigt, sobald sie neu indexiert ist.

1. Die freigegebenen Dokumente werden in Textabschnitte zerlegt und indexiert.
2. Bei jeder Frage sucht das System die inhaltlich nächstliegenden Abschnitte heraus.
3. Das Modell erhält diese Abschnitte mit der Anweisung, ausschließlich auf ihrer Grundlage zu antworten.
4. Die Antwort wird mit ihren Quellen angezeigt, damit sie sich überprüfen lässt.

Über die Qualität entscheiden drei Punkte. Erstens die Dokumente selbst: Veraltete oder widersprüchliche Verfahren führen zu veralteten oder widersprüchlichen Antworten. Zweitens die Zugriffsrechte: Die Suche muss die Berechtigungen Ihres Dokumentenmanagements respektieren, sonst erhält ein Praktikant womöglich eine Antwort aus einem Dokument der Finanzleitung. Drittens die Evaluierung: Stellen Sie vor dem Start eine Liste echter Fragen mit der richtigen Antwort und dem richtigen Quelldokument zusammen und spielen Sie sie bei jeder Änderung von Modell, Prompt oder Aufteilung der Dokumente erneut durch.

Grenzen von LLMs im Unternehmen: Halluzinationen, Datenabfluss, Kosten

Halluzinationen

Ein LLM erzeugt den plausibelsten Text, nicht den wahrsten. Es kann eine nicht existierende Vertragsklausel oder einen erfundenen Betrag mit derselben Sicherheit nennen wie eine korrekte Antwort. Gegenmittel: Quellen vorschreiben, dem Modell die Antwort „Ich weiß es nicht“ ausdrücklich erlauben, extrahierte Felder automatisch prüfen (Formate, Summen, Referenzen) und alles gegenlesen lassen, was das Unternehmen verlässt.

Datenabfluss

Wer einen Kundenvertrag in ein frei verfügbares Consumer-Tool kopiert, übergibt ihn einem Dritten, dessen Server, Speicherdauer und oft auch Verwendungszwecke er nicht kontrolliert. Intern kann ein schlecht abgeschotteter Assistent zudem Informationen an Personen ausgeben, die sie nicht sehen dürfen. Eine letzte, weniger bekannte Falle: Ein vom Modell verarbeitetes Dokument oder eine E-Mail kann versteckte Anweisungen enthalten, die seine Antwort manipulieren. Geben Sie einem Assistenten daher nie mehr Zugriff oder Handlungsbefugnis als der Person, die ihn nutzt.

Ausufernde Kosten

Per API angebotene Modelle werden in der Regel nach Nutzung abgerechnet, abhängig von der Menge des gesendeten und erzeugten Textes. Ein günstiger Prototyp kann im flächendeckenden Einsatz teuer werden, vor allem wenn jede Anfrage lange Dokumente mitschickt. Messen Sie die Kosten pro Vorgang während des Pilotprojekts und legen Sie Obergrenzen fest, bevor Sie den Zugang öffnen.

Gesetz 09-08 und CNDP: Welche Regeln gelten für Daten an ein LLM?

Die erste Governance-Regel lautet: Daten klassifizieren, bevor sie an ein Modell gehen. Für den Anfang genügen drei Schutzstufen und ein übergreifendes Merkmal:

• Öffentlich: Produktkatalog, Website-Inhalte, veröffentlichte Vertriebsunterlagen.
• Intern: Verfahrensanweisungen, Dokumentvorlagen, organisatorische Mitteilungen.
• Vertraulich: Verträge, Preisangebote, Finanzdaten, Quellcode.
• Personenbezogen, unabhängig von der Stufe: alles, was eine Person identifiziert (Kunde, Mitarbeitende, Bewerber), auch in einer E-Mail, einem Ticket oder einem Lebenslauf.

In Marokko unterliegen personenbezogene Daten dem Gesetz 09-08 (loi 09-08), dem marokkanischen Datenschutzgesetz; seine Einhaltung überwacht die CNDP (Commission Nationale de contrôle de la protection des Données à caractère Personnel), die nationale Datenschutzbehörde. Eine Verarbeitung durch KI bleibt eine Verarbeitung: festgelegter Zweck, Beschränkung auf die notwendigen Daten, Information der Betroffenen und, je nach Fall, eine Meldung oder ein Genehmigungsantrag bei der CNDP. Bestimmte sogenannte sensible Kategorien (Gesundheit, Meinungen, religiöse Überzeugungen, Herkunft …) unterliegen strengeren Regeln. Auch die Übermittlung personenbezogener Daten ins Ausland, bei Online-KI-Diensten häufig der Fall, ist geregelt. Klären Sie Ihre Situation vor dem Produktivbetrieb mit der CNDP oder Ihrer Rechtsberatung.

Konkret erhält jede Stufe eine Nutzungsregel: Öffentliche Daten sind überall erlaubt; interne Daten nur über einen von der IT-Leitung freigegebenen Dienst; vertrauliche und personenbezogene Daten nur nach Anonymisierung oder über eine Lösung, deren Hosting und Vertrag geprüft wurden.

Governance für generative KI: Human in the Loop und Protokollierung

• Eine verantwortliche Person je Anwendungsfall auf Fachseite, die Umfang und Ergebnisse freigibt.
• Human in the Loop: Jede Ausgabe, die das Unternehmen verpflichtet (Kundenantwort, Personalentscheidung, Vertragsdokument), wird vor dem Versand freigegeben.
• Protokollierung: Anfrage, verwendete Quellen, Version von Modell und Prompt, Antwort und Freigabe werden gespeichert, damit sich ein Ergebnis nachträglich erklären lässt. Diese Protokolle enthalten selbst Daten: Schützen Sie sie und legen Sie ihre Aufbewahrungsdauer fest.
• Zugriffsrechte: Das Tool übernimmt die bestehenden Berechtigungen und schafft keine neuen.
• Eine Nutzungsrichtlinie: was Mitarbeitende KI-Tools übergeben dürfen und was nicht, auch frei verfügbaren Consumer-Tools.

Arbeitet ein Dienstleister mit, zählen seine Praktiken ebenso viel wie Ihre eigenen: siehe ISO 27001 und Datensicherheit beim Dienstleister.

Generative KI Schritt für Schritt in einen Geschäftsprozess integrieren

1. Einen einzigen Prozess auswählen: hohes Volumen, wiederkehrend, textlastig, und ein Fehler fällt auf und lässt sich korrigieren. Die Sortierung von Reklamationen eignet sich dafür; eine Kreditentscheidung nicht, jedenfalls nicht zum Einstieg.
2. Den Ist-Zustand messen: Bearbeitungszeit, Antwortzeit, Nacharbeitsquote. Ohne Ausgangswert lässt sich kein Gewinn belegen.
3. Ein kontrolliertes Pilotprojekt starten: ein Team, echte Dokumente, klassifizierte Daten, durchgängige menschliche Freigabe, aktive Protokollierung.
4. Vergleichen: dieselben Kennzahlen, ergänzt um die Kosten pro Vorgang und den Anteil der Antworten, die Nutzer korrigieren mussten.
5. Entscheiden: ausweiten, anpassen oder beenden. Ein Pilotprojekt zu stoppen, das seine Versprechen nicht hält, ist ein Ergebnis und kein Scheitern.
6. In den Regelbetrieb überführen: Integration in die IT-Landschaft, Monitoring, Budget, Begleitung der Nutzer.

Halten Sie den Umfang schriftlich fest, bevor Sie Dienstleister anfragen: ein Lastenheft schreiben gilt auch für KI-Projekte. Sobald der erste Anwendungsfall stabil läuft, besteht der nächste Schritt oft darin, mehrere Aktionen zu verketten: Darum geht es bei KI-Agenten im Unternehmen. Für das Gesamtbild lesen Sie die digitale Transformation mittelständischer Unternehmen in Marokko.

LLM-Projekte in Casablanca: Welche Garantien sollten Sie vom Dienstleister verlangen?

Stellen Sie vor der Unterschrift präzise Fragen:

• Wo werden Modelle, Indizes und Protokolle gehostet, und welche Daten laufen über Drittanbieterdienste?
• Erlauben die Bedingungen des Modellanbieters die Weiterverwendung Ihrer Daten, etwa für das Training?
• Wie sind die Zugriffe voneinander abgeschottet, und was wird protokolliert?
• Wie werden die Kosten überwacht und gedeckelt?
• Wem gehören der gelieferte Code, die Prompts und die Konfigurationen, und können Sie Modell oder Dienstleister wechseln, ohne alles neu aufzubauen?

Codevista Innovations mit Sitz in Casablanca und Zertifizierung nach ISO/IEC 27001:2022 integriert generative KI und LLMs in bestehende Geschäftsprozesse – mit einem klaren Anspruch: die Sicherheit nicht zu gefährden. Um einen ersten Anwendungsfall abzustecken, nehmen Sie Kontakt mit uns auf.

Häufige Fragen

Darf man in Marokko ein frei verfügbares KI-Tool mit Kundendaten nutzen?

Ohne klaren Rahmen ist davon abzuraten. Kundendaten sind häufig personenbezogene Daten im Sinne des Gesetzes 09-08, und Consumer-Tools verarbeiten sie oft auf Servern außerhalb Marokkos, nach ihren eigenen Bedingungen. Klassifizieren Sie zuerst die Daten, prüfen Sie Hosting und Vertrag des Dienstes, setzen Sie bevorzugt auf Anonymisierung und klären Sie die geltenden Formalitäten mit der CNDP oder Ihrer Rechtsberatung.

Muss man ein eigenes KI-Modell trainieren, um es auf Unternehmensdokumente anzuwenden?

In den meisten Fällen nicht. Beim RAG-Ansatz erhält das Modell zu jeder Frage die relevanten Abschnitte Ihrer Dokumente, ohne Training mit Ihren Daten. Er ist schneller umgesetzt, folgt den Aktualisierungen Ihrer Dokumente und zeigt zu jeder Antwort die Quellen an. Ein eigenes Training lohnt sich vor allem bei sehr speziellen Formaten oder Fachvokabular.

Wie lassen sich Halluzinationen eines LLM in einem Geschäftsprozess begrenzen?

Beseitigen lassen sie sich nicht, wohl aber eingrenzen. Geben Sie dem Modell Quellen vor und verlangen Sie, dass es sich daran hält, erlauben Sie ihm, Nichtwissen zuzugeben, prüfen Sie extrahierte Beträge, Daten und Referenzen automatisch und lassen Sie jede Ausgabe, die das Unternehmen verpflichtet, von einem Menschen freigeben. Protokollieren Sie die Antworten, um wiederkehrende Fehler zu erkennen.

Mit welchem Anwendungsfall sollte man generative KI im Unternehmen einführen?

Wählen Sie einen Prozess mit hohem Volumen, wiederkehrend und textlastig, bei dem ein Fehler auffällt und sich leicht korrigieren lässt: Sortierung von Reklamationen, Extraktion von Rechnungsdaten, Antwortentwürfe für den Support oder Suche in internen Verfahrensanweisungen. Messen Sie Zeitaufwand und Qualität im Ist-Zustand, starten Sie ein auf ein Team begrenztes Pilotprojekt und vergleichen Sie die Ergebnisse, bevor Sie über eine Ausweitung entscheiden.