Agentic Commerce und die EU-KI-Verordnung: Wo Unternehmenshaftung beginnt
Autonome KI-Agenten kaufen bereits heute, ohne dass ein Mensch je auf "Bestellen" klickt. Die EU-KI-Verordnung verlangt Governance-Strukturen, die in den meisten Unternehmen noch nicht existieren.
Zwei Jahrzehnte lang wurde digitale Handelsinfrastruktur für eine einzige Annahme gebaut: Der Käufer ist ein Mensch. Menschliche Käufer reagieren auf Markenwerte, zögern, brechen Warenkörbe ab und lassen sich von Dringlichkeitssignalen beeinflussen. Jedes System, das auf Konversion ausgelegt wurde, ist auf diese psychologische Architektur kalibriert.
Diese Annahme trägt nicht mehr. Autonome KI-Agenten recherchieren, vergleichen und kaufen heute direkt über Schnittstellen, ohne dass eine Benutzeroberfläche je angezeigt wird. Für deutsche und europäische Unternehmen kommt zu dieser strukturellen Verschiebung eine zweite Dimension hinzu, die im internationalen Diskurs bisher kaum vorkommt: Die EU-KI-Verordnung (EU AI Act) verlangt von Anbietern und Betreibern bereits heute Rechenschaftspflichten, die voraussetzen, dass eine Governance-Struktur existiert, die in den wenigsten Unternehmen tatsächlich aufgebaut wurde.
Sechs Stufen autonomen Kaufens
Die Verschiebung von menschengesteuertem zu maschinengesteuertem Handel geschieht nicht an einem einzelnen Punkt, sondern stufenweise. Jede Stufe entfernt eine Kategorie menschlicher Kontrolle, auf die bestehende Governance-Strukturen sich verlassen.
Visuelle Übersicht der sechs Stufen in vereinfachter Sprache, angelehnt an SAE-J3016, den Standard zur Klassifizierung autonomer Fahrzeuge. Die formale Klassifikation, wie sie in der zugrunde liegenden Forschungsarbeit verwendet wird, ist nachfolgend aufgeführt.
Stufe 3, Delegierte Ausführung, ist der Punkt, an dem traditionelle Risikobewertungsmodelle zuerst versagen. Der Mensch erteilt dem Agenten eine explizite, zeitlich begrenzte Vollmacht zur Ausführung eines bestimmten Kaufs innerhalb fester Grenzen. Der Agent hält Zugriff auf tokenisierte Zahlungsdaten und führt den finalen API-Handshake eigenständig aus.
Genau an diesem Punkt greift die EU-KI-Verordnung. Die Verordnung (EU) 2024/1689 verpflichtet Anbieter und Betreiber von KI-Systemen zu Rechenschaftspflichten, die eine bestehende Governance-Struktur voraussetzen: dokumentierte Autorisierung, nachvollziehbare Verantwortlichkeit und die technische Fähigkeit, ein System im Bedarfsfall anzuhalten. Für ein Unternehmen, das einen Agenten auf Stufe 3 oder höher betreibt, ist die Frage nicht mehr, ob diese Strukturen wünschenswert sind, sondern ob sie bereits regulatorisch verlangt werden. In den meisten Organisationen, die wir geprüft haben, existieren sie nicht.
Wo die Haftung entsteht, bevor sie zugewiesen ist
Drei strukturelle Schwachstellen erklären die Lücke zwischen technologischer Fähigkeit und organisatorischer Vorbereitung, konsistent über Branchen und Unternehmensgrößen hinweg.
Weiterführende Quellen
Diese Analyse fasst zentrale Aspekte einer umfassenderen Forschungsarbeit zusammen und ist Teil eines wachsenden Themenclusters zu Agentic Commerce bei contraco.
Wissen, wo Ihr Unternehmen tatsächlich steht.
contraco begleitet Unternehmen beim Übergang zwischen den Stufen, mit Blick auf Infrastruktur, Governance und regulatorische Pflicht, bevor die Verpflichtung eintritt.
Gespräch beginnen →