Vertrauen ist keine Alles-oder-nichts-Frage: Natalia Mathá über KI in der Zoll- und Trade Compliance

Artificial Intelligence News

KI wird zunehmend wichtiger im Bereich Trade Compliance. Damit stellt sich eine zentrale Frage: Wann können sich Teams auf eine KI-Empfehlung verlassen, und wie viel menschliche Kontrolle ist dabei erforderlich? Wir haben mit Natalia Mathá gesprochen, Product Owner Machine Learning bei MIC. Sie promovierte in Informatik mit Schwerpunkt künstliche Intelligenz und leitet die Entwicklung der KI-Dienste, auf denen die Produkte von MIC basieren. In diesem Interview spricht sie darüber, in welchen Bereichen Zoll und Compliance bereits von KI profitieren, wie Vertrauen in KI-Entscheidungen entsteht und wie sich das richtige Gleichgewicht zwischen Automatisierung und menschlichem Urteilsvermögen finden lässt.

 

 

Wie hat sich der Umgang Ihrer Kunden mit KI in den letzten 12 bis 18 Monaten verändert, und welche Fragen stellen sie heute, die vor einem Jahr noch kein Thema waren?

Kunden stellen nach wie vor Fragen aus dem gesamten Spektrum – von grundlegenden bis hin zu fortgeschrittenen Themen. Insgesamt wissen Kunden heute deutlich mehr über KI. Ein wesentlicher Treiber dafür sich auch regulatorische Entwicklungen wie der AI Act. Auch die eigenen Erfahrungen mit KI im privaten Alltag stärken das Vertrauen, weil die Menschen inzwischen besser einschätzen können, was sie erwarten dürfen. Dieses Vertrauen überträgt sich auch auf den beruflichen Bereich, auch in Tätigkeiten mit hohen Compliance-Anforderungen.

Welcher der gängigen KI-Anwendungsfälle, von der Zolltarifierung über Dokumentenverarbeitung und Sanktionslistenprüfung bis zur Risiko- und Anomalieerkennung, ist heute am reifsten, und welcher hinkt noch am meisten hinterher?

Die Zolltarifierung, insbesondere die KI-gestützte zolltarifliche Einreihung und Exportkontrollklassifizierung, ist unser ausgereiftester und am breitesten etablierter Anwendungsfall. Sie deckt das gesamte Spektrum der Kundenanforderungen ab: von schnellen, hochskalierbaren klassischen Klassifizierungsmodellen bis hin zur agentengestützten Klassifizierung, bei der jedes Produktdetail eingehend analysiert wird. 

Die Dokumentenverarbeitung folgt dicht dahinter und etabliert sich zunehmend bei unseren Kunden. MIC DOCFLOW ist dafür ein gutes Beispiel. Die KI arbeitet mit einem strukturierten Knowledge-Framework in Verbindung mit konkreten Daten aus den Dokumenten. Dadurch wird bereits eine hohe Genauigkeit erreicht, und die Bandbreite der abgedeckten Anwendungsfälle wächst kontinuierlich.

Die Sanktionsprüfung befindet sich noch in intensiver Entwicklung. Sie unterstützt Anwender bereits bei ihren täglichen Screening-Aufgaben. Unser Schwerpunkt liegt nun darauf, die Automatisierung weiter auszubauen, um Compliance-Prozesse so reibungslos wie möglich zu gestalten.

Alle Erkenntnisse aus diesen einzelnen Produkten fließen direkt in unsere zentrale KI-Anwendung, den Global Trade Assistant, ein, dessen Markteinführung für 2026 geplant ist. Dadurch kommen Fortschritte in einem Bereich dem gesamten Produktportfolio zugute.

In welchen Bereichen der Trade Compliance ist KI der manuellen Bearbeitung heute schon klar überlegen?

Ich würde es nicht so formulieren, dass KI überlegen ist, der Mensch bleibt weiterhin in den Prozess eingebunden und muß die Ergebnisse der KI nach wie vor überprüfen. Besonders beeindruckend und durchgängig festzustellen ist die Zeitersparnis bei Routineaufgaben. Der manuelle Arbeitsaufwand lässt sich dadurch häufig erheblich reduzieren, sodass Aufgaben, für die zuvor mehrere Stunden benötigt wurden, deutlich schneller erledigt werden können.

Das gilt unabhängig von der Größe und Komplexität des Unternehmens: KI hilft dabei, unstrukturierte Daten zu erschließen und ermöglicht intelligente Automatisierungen, die mit herkömmlichen Methoden schlichtweg nicht möglich waren.

Setzen Zollbehörden selbst KI für Risikoanalyse und Kontrollen ein? Und was bedeutet das für Unternehmen, wenn es um Qualität und Aufbereitung ihrer Daten geht?

Die KI entwickelt sich in allen Bereichen weiter, auch im Hinblick auf die Methoden, mit denen Betrug begangen wird. Moderne Probleme erfordern moderne Lösungen. Es liegt auf der Hand, dass auch die Zollbehörden KI nutzen, um Compliance in vielen Bereichen zu verbessern. 

Bislang hat dies jedoch keine konkreten Auswirkungen auf die Anforderungen an die Strukturierung von Produktdaten. Generell gilt jedoch: Wenn Daten von einer KI überprüft werden sollen, müssen sie für die KI verständlich sein. Eine klare, einheitliche Terminologie und der Verzicht auf allzu spezifische Abkürzungen tragen wesentlich dazu bei.

Mein Rat lautet allerdings, nicht jeder Änderung hinterherzulaufen, die Zollbehörden auf ihrer Seite vornehmen. Das eigentliche Ziel bleibt unverändert: die Vorschriften einzuhalten. Ist diese Grundlage solide, muss man Überprüfungen – unabhängig davon, ob sie KI-gestützt sind oder nicht – nicht fürchten.

Aktuelle Studien zeigen, dass die Mehrheit der Supply-Chain-Organisationen bereits KI einsetzt, aber nur ein kleiner Teil eine echte Governance dafür etabliert hat.1 Deckt sich das mit Ihren Erfahrungen bei Kunden aus den Bereichen Zoll und Trade Compliance?

Ich kann zwar nicht für die gesamte Branche sprechen, aber ich kann über die Kunden berichten, mit denen ich direkt in den Bereichen Trade Compliance zusammenarbeite. Dort wird das Thema sehr ernst genommen. Wir beantworten regelmäßig Fragebögen, insbesondere zu den Themen Sicherheit und Einhaltung des AI Act. Außerdem achten wir sehr sorgfältig darauf, wie wir KI in unsere Produkte und Prozesse integrieren. Dazu gehört auch, die Mitarbeiter, die mit KI arbeiten, sowohl über die Möglichkeiten als auch über die Grenzen der Technologie zu schulen.

Was bedeutet „Vertrauen“ in die Entscheidungen einer KI für einen Compliance-Beauftragten konkret? Geht es dabei um Genauigkeit, Erklärbarkeit, Nachvollziehbarkeit oder etwas anderes?

KI ist ein Werkzeug, das Menschen unterstützt, die weiterhin für ihr Handeln verantwortlich sind. Metriken, wie die Genauigkeit helfen ihnen dabei, die Werkzeuge zu bewerten, die sie zur Unterstützung ihrer Aufgaben einsetzen möchten.

Erklärbarkeit ist vor allem bei der Entscheidungsfindung wichtig, besonders in komplexen Fällen. Dort sieht der Experte, welche Daten herangezogen und welche Schlussfolgerungen daraus gezogen wurden. So kann er prüfen, ob die Einschätzung der KI richtig ist.

Nachvollziehbarkeit hingegen sorgt dafür, dass Vertrauen auch bei hohen Volumen dauerhaft trägt. Entscheidend ist, im Nachhinein belegen zu können, dass sich das System wie erwartet verhalten hat. Das ist sowohl für das Vertrauen im eigenen Unternehmen als auch gegenüber den Aufsichtsbehörden wichtig.

Müsste ich für Compliance-Beauftragte die wichtigste Eigenschaft nennen, wäre es die Nachvollziehbarkeit sicherzustellen. Seine Aufgabe besteht nicht darin, jede einzelne Entscheidung selbst auf ihre Richtigkeit zu prüfen. Vielmehr müssen sie gegenüber der Zollbehörde oder einem Prüfer nachweisen können, dass ein fundierter Prozess konsequent angewandt wurde.

Welchem Irrtum unterliegen Kunden am häufigsten, wenn es darum geht, was KI in der Trade Compliance leisten kann und was nicht?

Ich würde hier zwei gegensätzliche Extreme nennen. Manche gehen davon aus, dass KI überhaupt nicht vertrauenswürdig ist, und richten deshalb einen so aufwendigen Prüfprozess ein, dass dieser mehr Zeit in Anspruch nimmt als die manuelle Zolltarifierung. Andere wiederum gehen davon aus, dass sie der KI alles anvertrauen können, und verzichten deshalb vollständig auf die Prüfung durch einen qualifizierten Experten. Beide Extreme beruhen auf der Vorstellung, dass Vertrauen eine Alles-oder-nichts-Frage ist. Tatsächlich sollte sich der Umfang der erforderlichen Kontrolle jedoch nach der Komplexität und dem Risiko der Einstufung richten. Konkret bedeutet das bei der Zolltarifierung:  Ein unkompliziertes Produkt mit einem eindeutigen HS-Code und einem geringen Zollabgabenrisiko erfordert nicht dieselbe Prüfung wie ein Grenzfall oder ein hochwertiger Artikel, bei dem eine falsche Einstufung zu Sanktionen, Prüfungen oder blockierten Sendungen führen kann.

Wie begleiten Sie Kunden vom vorsichtigen Pilotbetrieb hin zum selbstverständlichen Einsatz von KI-Empfehlungen? Was schafft dieses Vertrauen langfristig wirklich?

Praktische Erfahrung ist meiner Ansicht nach das wichtigste Mittel, um Vertrauen aufzubauen. Es ist vergleichbar mit der Einarbeitung eines neuen Kollegen, der Sie unterstützt: Anfangs überprüfen Sie jeden einzelnen Schritt und lernen, was er kann und was nicht. Erst danach übertragen Sie ihm Aufgaben, die er selbstständig erledigen kann – wobei Sie sich seiner Grenzen bewusst sind.

In der Praxis kann das bedeuten, KI-Vorschläge parallel zur eigenen Arbeit zu erstellen und die Ergebnisse miteinander zu vergleichen. Eine andere Möglichkeit besteht darin, die KI gezielt mit schwierigen Anwendungsfällen zu testen, um festzustellen, wo sie sich bewährt und wo ihre Grenzen liegen. Welche Vorgehensweise sinnvoll ist, hängt von der jeweiligen Aufgabe ab. Auf Grundlage dieser praktischen Erfahrungen und der zugehörigen Kennzahlen geht ein Kunde ganz natürlich dazu über, nicht mehr jeden einzelnen Fall zu prüfen, sondern auf Basis der gesammelten Erkenntnisse zu handeln. Im Grunde ist genau das eine Form von Vertrauen.

Wie würden Sie jemandem ohne KI-Kenntnisse den Unterschied zwischen „Human-in-the-Loop“ und „Human-on-the-Loop“ erklären? Und macht diese Unterscheidung im Arbeitsalltag eines Trade-Compliance-Teams wirklich einen Unterschied?

Ich erkläre das gerne am Beispiel der HS-Klassifizierung. „Human-in-the-Loop“ bedeutet, dass jede einzelne von der KI vorgeschlagene Zolltarifnummer von einem Experten überprüft wird, bevor sie verwendet werden darf. „Human-on-the-Loop“ bedeutet dagegen, dass ein Mensch nur in bestimmten Fällen eingreift, nicht bei jedem einzelnen Fall.

Bei einem „Human-on-the-Loop“-Ansatz könnte der Experte beispielsweise nur diejenigen Einstufungen überprüfen, bei denen der sogenannte Konfidenzwert der KI niedrig ist oder zusätzliche Informationen benötigt werden, etwa spezifische Angaben zum Produkt. Darüber hinaus könnte er eine Stichprobe der automatisch akzeptierten Vorschläge prüfen, um sicherzustellen, dass die KI weiterhin erwartungsgemäß funktioniert. Dabei wird im Wesentlichen kontrolliert, ob die Qualität der automatisch akzeptierten Vorschläge innerhalb des festgelegten Erwartungsbereichs bleibt.

Der richtige Ansatz hängt letztlich von den organisatorischen Rahmenbedingungen und der Datenlage des Compliance-Teams ab. Wenn sich die KI im Laufe der Zeit als zuverlässig erwiesen hat und die internen Richtlinien eine automatische Annahme in bestimmten Fällen zulassen, ist es durchaus möglich, auf ein „Human-on-the-Loop“-Verfahren umzustellen. So kann sich der Klassifizierungsexperte auf komplexe Fälle und systematische Prüfungen konzentrieren, anstatt routinemäßige Kontrollen durchzuführen.

Kritiker bemängeln, dass ‚Human in the Loop‘ schnell zum reinen Abnicken werden kann: Mitarbeitende geben KI-Ergebnisse frei, ohne sie wirklich zu prüfen, vor allem wenn das Volumen steigt. Beobachten Sie das auch? Und wie gestalten Sie Ihre Systeme, um dem entgegenzuwirken?

Das ist ein berechtigter Einwand. Routineaufgaben können dazu führen, dass Menschen Details übersehen. Und je größer das Volumen wird, desto schwieriger wird es, die Konzentration aufrechtzuerhalten. Das beobachte ich auch im Alltag. Ich halte dies für eines der stärksten Argumente für einen Wechsel zu einem „Human-on-the-Loop“-Konzept.

Anstatt jede einzelne Zolltarifierung zu überprüfen, setzt man auf systematische Stichprobenprüfungen. Dadurch lässt sich die Zahl der erforderlichen Prüfungen drastisch reduzieren, ohne dass die Wirksamkeit der Kontrolle darunter leidet. Dieser Prüfprozess kann auch teilweise durch KI unterstützt werden: Die KI kann eine parallele Prüfung einer Teilmenge der Zolltarifierungen durchführen und auffällige Fälle markieren. Dadurch wird eine zusätzliche Prüfebene geschaffen, anstatt eine bestehende wegfallen zu lassen.

Gibt es einen Punkt, an dem eine Entscheidung, für die derzeit eine menschliche Prüfung erforderlich ist – beispielsweise eine Tarifklassifizierung -, sinnvollerweise auf ein „Human-on-the-Loop“-Modell umgestellt werden könnte? Welche Voraussetzungen müssten dafür zunächst erfüllt sein?

Ja, dafür müssen zunächst einige klar definierte Voraussetzungen gegeben sein:

  1. Rechtlicher Rahmen Die internen Richtlinien des Unternehmens (Governance) und die rechtlichen Rahmenbedingungen müssen ein solches Vorgehen tatsächlich zulassen.
  2. Ausreichendes Volumen Das Tarifierungsvolumen muss groß genug sein, damit statistische Stichprobenprüfungen sinnvoll sind. Bei nur einer Klassifizierung pro Woche ist das schlichtweg nicht der Fall.
  3. Das passende KI-Tool für die jeweilige Anwendung Je nachdem, worauf es am meisten ankommt – Geschwindigkeit, Erklärbarkeit oder andere Faktoren – und welche Möglichkeiten die zugrunde liegenden Daten bieten, kann ein anderer KI-Ansatz besser geeignet sein.
  4. Qualität der Vorschläge Auch das richtige Tool kann schlechte Daten nicht ausgleichen. Die Vorschläge der KI müssen zuverlässig gut sein. Das setzt voraus, dass ausreichend geeignete Daten zur Verfügung stehen: Bei trainierten Modellen bedeutet das große Mengen verlässlicher historischer Daten. Bei generativer KI müssen die Produktdaten so klar und vollständig sein, dass ein Zolltarifierungsexperte die Ware anhand dieser Informationen tatsächlich einem HS-Code zuordnen kann.

Wie wird sich das Vertrauen in KI im globalen Handel Ihrer Einschätzung nach in den nächsten zwei bis drei Jahren entwickeln? Und was muss passieren, damit die Lücke zwischen KI-Einsatz und verantwortungsvoller Governance kleiner wird?

Das allgemeine Verständnis dafür, wie KI funktioniert, und die Sicherheit im täglichen Umgang damit werden weiter zunehmen. Das sehen wir bereits in der IT: Routinemäßige Programmieraufgaben verlieren zunehmend an Bedeutung. Dadurch gewinnen die Menschen Zeit, sich anspruchsvolleren Aufgaben zu widmen, etwa der Softwarearchitektur und der Lösung komplexer Probleme.

KI basiert auf zwei Dingen: Kontext und Daten. Der Kontext – also die Vorgaben dazu, wie die KI eingesetzt werden soll – wird von Menschen und Unternehmen geschaffen, damit die KI sie sinnvoll unterstützen kann. Erst die Daten machen diese Unterstützung wirklich wertvoll, anstatt sie zu einer Zeitverschwendung werden zu lassen. Ich gehe daher davon aus, dass KI immer leistungsfähiger wird, je mehr hochwertige Daten und Wissen in sie einfließen.

Und beim Kontext geht es nicht nur darum, was KI tun soll, sondern auch darum, was sie nicht tun soll. Genau hier setzt Governance an: Sie gehört zum selben ‚How-to‘, das KI wirklich nützlich macht, und ist keine separate, einschränkende Ebene, die nachträglich aufgesetzt wird.

Wenn Sie in der Branche einen Irrtum über KI und menschliche Kontrolle im Trade Compliance ausräumen könnten, welcher wäre das?

Ich würde sagen, dass es dabei nicht wirklich um die Branche geht, sondern um die Welt im Allgemeinen. Wie ich bereits erwähnt habe, ist KI ein Werkzeug. Sie nur deshalb einzusetzen, weil KI gerade im Trend liegt, ist nicht der richtige Ansatz. KI kann Menschen tatsächlich viel Arbeit abnehmen. Die Frage lautet also nicht: „Wie weit können wir die menschliche Aufsicht reduzieren?“, sondern: „Wo bringt menschliches Urteilsvermögen den größten Mehrwert?“ Genau daran arbeiten wir: Menschen dabei zu helfen, diese Frage zu beantworten.

 

1Quelle: IDC/Kinaxis, 2025–2026 – 88 % setzen KI ein, 12 % verfügen über entsprechende Governance-Strukturen, 52 % nennen mangelndes Vertrauen in KI-Entscheidungen als größtes Hindernis.
[Translate to Deutsch:] A young women with long hair is sitting on a desk and holding her hands on a artificial globe with the letter AI

Natalia Mathá, Product Owner Machine Learning