Rubrik: Technologie & KI
Format: Spezialbericht
Autor: Sinisa Brkic (sb)
KI-Haftung: Wie falsche Aussagen von Sprachmodellen Unternehmen schädigen. Unternehmen veröffentlichen ungeprüfte KI-Aussagen, während Anbieter die Verantwortung vertraglich begrenzen. Warum Europa eine wirksame Haftungskette für Sprachmodelle benötigt.
Haftungsfrei in den Schaden: Wie KI-Falschaussagen Unternehmertum und Vertrauen bedrohen. Unternehmen lassen Sprachmodelle Kunden beraten, Inhalte verfassen, Personen bewerten und geschäftliche Auskünfte erteilen. Zugleich erklären die Anbieter dieser Systeme, dass ihre Antworten falsch sein können und vor der Verwendung geprüft werden müssen. Der wirtschaftliche Schaden trifft dennoch häufig jene, über die eine KI falsche Behauptungen verbreitet, während sich Verantwortung zwischen Modellanbieter, Anwender und Maschine auflöst. Diese Konstruktion gefährdet nicht nur einzelne Unternehmen, sondern die Verlässlichkeit des digitalen Wirtschaftsraums.
Die Maschine spricht, der Schaden bleibt menschlich
Ein Sprachmodell besitzt kein Bewusstsein, keine wirtschaftliche Existenz und kein Vermögen. Es kann sich in einer Antwort entschuldigen, eine Aussage korrigieren oder einräumen, dass es sich geirrt hat. Rechtliche oder finanzielle Verantwortung übernimmt es damit nicht, weil es dazu weder fähig noch verpflichtet ist.
Für Betroffene ist diese Unterscheidung entscheidend. Eine falsche Behauptung über ein Unternehmen kann Aufträge kosten, Geschäftsbeziehungen beschädigen, Kreditentscheidungen beeinflussen oder den Ruf eines Unternehmers nachhaltig beeinträchtigen. Die nachträgliche Entschuldigung eines Chatbots ersetzt weder entgangenen Umsatz noch die Kosten einer juristischen Gegenwehr.
Genau hier liegt der systemische Konflikt. Sprachmodelle erzeugen Aussagen in einer Form, die sachlich, geschlossen und häufig überzeugend wirkt. Ihre sprachliche Sicherheit ist jedoch kein Beweis für die Richtigkeit des Inhalts.
Die gefährliche Autorität flüssiger Sprache
Generative KI produziert keine überprüfte Wahrheit, sondern berechnet sprachlich wahrscheinliche Fortsetzungen. Das Ergebnis kann zutreffend sein, unvollständig bleiben oder frei erfundene Einzelheiten enthalten. Selbst die Anbieter der Systeme bestreiten diese Schwäche nicht.
Anthropic weist in seinen eigenen technischen Hinweisen darauf hin, dass auch fortgeschrittene Modelle sachlich falsche oder widersprüchliche Inhalte erzeugen können. Kritische Informationen müssten deshalb validiert werden, weil Maßnahmen zur Verringerung von Halluzinationen das Problem nicht vollständig beseitigen.
Das amerikanische National Institute of Standards and Technology behandelt solche Fehler nicht als nebensächliche Bedienungsprobleme. Sein Risikorahmen beschreibt Gefahren über den gesamten Lebenszyklus generativer Systeme und warnt auch vor Risiken auf Ebene ganzer Ökosysteme, etwa wenn dieselben Modelle in zahlreichen Organisationen und Geschäftsprozessen eingesetzt werden.
Damit verändert sich die Größenordnung des Problems. Eine falsche Aussage bleibt nicht auf einen einzelnen Dialog beschränkt, wenn dasselbe Modell in Suchmaschinen, Kundendiensten, Analysewerkzeugen, Medienprodukten und Unternehmenssoftware eingebaut ist. Aus einem Modellfehler kann eine industriell vervielfältigte Falschinformation werden.
Unternehmen behandeln Entwürfe wie Tatsachen
Das eigentliche Versagen beginnt häufig nicht beim Modell, sondern bei seiner ungeprüften Verwendung. Unternehmen setzen KI ein, um Personal zu sparen, Reaktionszeiten zu verkürzen und Inhalte in großer Menge zu produzieren. Die notwendigen Prüfprozesse werden dabei oft als vermeidbarer Kostenfaktor behandelt.
Besonders problematisch ist der Einsatz in öffentlich sichtbaren Bereichen. Automatisierte Kundenberatung, Produktbeschreibungen, Branchenanalysen, Bonitätseinschätzungen, Zusammenfassungen von Gerichtsentscheidungen und Aussagen über reale Personen oder Unternehmen können unmittelbare Folgen auslösen. Wird ein KI-Text ohne Kontrolle veröffentlicht, wird aus einer technischen Wahrscheinlichkeit eine geschäftliche Behauptung.
Die Verantwortung dafür kann nicht an das verwendete Werkzeug abgegeben werden. Ein Unternehmen, das eine Aussage verbreitet, trifft eine Veröffentlichungsentscheidung, auch wenn der Text zuvor von einer Maschine formuliert wurde. Wer die wirtschaftlichen Vorteile der Automatisierung nutzt, muss auch die Risiken ihrer Ergebnisse beherrschen.
Ein kanadisches Verfahren gegen Air Canada zeigte dieses Grundprinzip früh. Das Unternehmen hatte argumentiert, für eine fehlerhafte Auskunft seines Chatbots nicht verantwortlich zu sein. Das zuständige Tribunal stellte jedoch klar, dass der Chatbot Bestandteil der Unternehmenswebsite war und nicht als eigenständige Rechtsperson behandelt werden konnte.
Die bequemste Risikoverteilung der Digitalwirtschaft
Während Unternehmen KI-Ausgaben zunehmend in reale Geschäftsprozesse übernehmen, sichern sich Modellanbieter umfassend ab. OpenAI verpflichtet Geschäftskunden in seinem aktuellen Servicevertrag, die Genauigkeit und Eignung der Ausgaben selbst zu bewerten. Zugleich wird die vertragliche Gesamthaftung grundsätzlich auf die Zahlungen begrenzt, die der Kunde in den zwölf Monaten vor dem haftungsauslösenden Ereignis geleistet hat.
Für den Anbieter ist diese Konstruktion nachvollziehbar. Er kann nicht jede konkrete Nutzung kontrollieren und kennt weder sämtliche Eingabedaten noch den geschäftlichen Kontext jeder Veröffentlichung. Dennoch entsteht eine erhebliche Schieflage, wenn der Anbieter ein weltweit eingesetztes Informationssystem verkauft, vor bekannten Fehlleistungen warnt und das finanzielle Risiko weitgehend auf seine Kunden verschiebt.
Die wirtschaftlichen Vorteile bleiben konzentriert, die Schäden werden verteilt. Der Modellanbieter verdient an der Nutzung, das anwendende Unternehmen spart Personal und Zeit, doch ein geschädigter Dritter muss häufig selbst ermitteln, wer für die falsche Aussage verantwortlich ist. Er trägt zunächst die Kosten der Aufklärung, der Beweissicherung und der Rechtsdurchsetzung.
Das ist keine tragfähige Grundlage für einen verlässlichen Markt. Eine Technologie, deren Geschäftsmodell auf massenhafter Anwendung beruht, darf ihre Risiken nicht vollständig an jene weiterreichen, die weder das Modell entwickelt noch die Veröffentlichungsentscheidung getroffen haben.
Warum kleine Unternehmen besonders gefährdet sind
Große Konzerne verfügen über Rechtsabteilungen, Krisenkommunikation und finanzielle Reserven. Ein kleiner Betrieb, ein Selbstständiger oder ein junges Unternehmen besitzt diese Schutzmechanismen meist nicht. Schon eine einzelne falsche Behauptung kann deshalb unverhältnismäßig schwere Folgen haben.
Wird einem kleinen Unternehmen von einem KI-System mangelnde Seriosität, ein nicht existentes Verfahren, eine angebliche Insolvenz oder eine zweifelhafte Geschäftspraxis zugeschrieben, beginnt ein asymmetrischer Kampf. Die falsche Information kann in Sekunden erzeugt und weitergegeben werden, ihre Widerlegung verlangt dagegen Dokumente, anwaltliche Schritte und wiederholte Kontaktaufnahmen.
Hinzu kommt die Reichweite dominanter Plattformen. Erscheint eine falsche Aussage in einem bekannten Assistenten oder einer automatisierten Suchantwort, verleiht die technische Umgebung ihr zusätzliche Glaubwürdigkeit. Viele Nutzer unterscheiden nicht zwischen einer belegten Information und einer statistisch erzeugten Formulierung.
Auf diese Weise kann KI Unternehmertum nicht nur unterstützen, sondern auch beschädigen. Sie senkt zwar Produktionskosten und erleichtert den Zugang zu Wissen, erhöht zugleich aber die Geschwindigkeit, mit der unbelegte Behauptungen in den Wirtschaftskreislauf gelangen. Für kleine Marktteilnehmer kann diese Entwicklung existenzielle Bedeutung gewinnen.
Eine Entschuldigung ist keine Wiedergutmachung
Sprachmodelle reagieren auf Hinweise häufig mit einer formelhaften Korrektur. Sie erklären, die frühere Aussage sei unzutreffend gewesen, bitten um Entschuldigung und erzeugen anschließend eine neue Antwort. Technisch ist der Vorgang damit beendet, wirtschaftlich beginnt der Schaden möglicherweise erst.
Eine Korrektur innerhalb eines einzelnen Gesprächs erreicht nicht jene Personen, die die falsche Aussage bereits gelesen, gespeichert oder weitergegeben haben. Sie entfernt keine übernommenen Inhalte aus Unternehmensdatenbanken, Suchsystemen oder internen Entscheidungsvorlagen. Auch verhindert sie nicht, dass dasselbe Modell die Behauptung in einem späteren Dialog erneut erzeugt.
Deshalb genügt es nicht, KI-Systeme mit höflichen Korrekturmechanismen auszustatten. Erforderlich sind nachvollziehbare Berichtigungsverfahren, dokumentierte Fehlermeldungen und wirksame Möglichkeiten, wiederkehrende Falschbehauptungen über reale Unternehmen zu unterbinden. Ohne solche Instrumente bleibt die Entschuldigung eine Benutzeroberfläche ohne rechtliche Wirkung.
Der AI Act schließt die Haftungslücke nicht
Die Europäische Union hat mit dem AI Act ein umfassendes Regelwerk für Entwicklung und Einsatz künstlicher Intelligenz geschaffen. Viele Vorschriften betreffen Risikoklassen, Transparenz, Aufsicht und Pflichten bestimmter Anbieter und Betreiber. Ein allgemeiner Entschädigungsmechanismus für Unternehmen, die durch falsche Aussagen eines Sprachmodells wirtschaftlich geschädigt werden, entsteht daraus jedoch nicht automatisch.
Der im Juli 2026 in Kraft getretene AI Omnibus verlängert zudem die Übergangsfristen für bestimmte Hochrisikosysteme. Die Regeln für eigenständige Hochrisikoanwendungen gelten nun ab Dezember 2027, für in physische Produkte integrierte Systeme ab August 2028.
Diese Fristverlängerungen mögen Unternehmen bei der Umsetzung entlasten. Sie lösen aber nicht das Kernproblem generativer Falschaussagen, denn viele öffentlich eingesetzte Sprachmodelle fallen nicht allein deshalb unter eine strenge Hochrisikokategorie, weil sie falsche Informationen über ein Unternehmen erzeugen können.
Auch der ursprünglich geplante europäische Rechtsakt zur besonderen zivilrechtlichen Haftung für künstliche Intelligenz kam nicht voran. Die Europäische Kommission setzte den Vorschlag 2025 auf ihre Liste geplanter Rücknahmen und begründete dies mit fehlender Aussicht auf eine Einigung.
Damit bleibt ein bemerkenswertes Gefälle bestehen. Europa reguliert die Entwicklung, Klassifizierung und Transparenz von KI, verfügt aber weiterhin über keine durchgehende Haftungsordnung für sämtliche wirtschaftlichen Schäden, die durch unzutreffende generative Ausgaben entstehen können.
Die neue Produkthaftung hilft nur teilweise
Die reformierte europäische Produkthaftungsrichtlinie erfasst ausdrücklich Software und KI-Systeme. Die Mitgliedstaaten müssen sie bis zum 9. Dezember 2026 in nationales Recht umsetzen, wobei die neuen Regeln grundsätzlich für Produkte gelten, die nach diesem Zeitpunkt in Verkehr gebracht oder in Betrieb genommen werden.
Das ist ein wichtiger Schritt, weil Software nicht länger außerhalb klassischer Produkthaftungslogik steht. Geschädigte können unter bestimmten Voraussetzungen gegen Hersteller fehlerhafter digitaler Produkte vorgehen, ohne ein persönliches Verschulden nachweisen zu müssen.
Für die typische Schädigung eines Unternehmens durch falsche KI-Aussagen bleibt die Wirkung jedoch begrenzt. Reine Vermögensschäden, Datenschutzverletzungen oder Diskriminierungen lösen nach der Richtlinie für sich genommen nicht zwingend eine Produkthaftung aus.
Gerade Reputationsschäden, Auftragsverluste und Marktverdrängung bestehen häufig aus schwer messbaren wirtschaftlichen Folgen. Der Betroffene kann zwar unter Umständen auf andere zivilrechtliche, wettbewerbsrechtliche oder datenschutzrechtliche Ansprüche zurückgreifen, doch die Beweisführung bleibt komplex. Die neue Produkthaftung schließt daher einen Teil der Lücke, aber nicht deren wirtschaftlich bedeutendsten Bereich.
Verantwortung muss entlang der gesamten Kette gelten
Eine wirksame Haftungsordnung darf weder den Modellanbieter pauschal freistellen noch das anwendende Unternehmen von seiner Veröffentlichungspflicht entbinden. Beide Akteure kontrollieren unterschiedliche Teile des Risikos. Deshalb muss Verantwortung dort ansetzen, wo Einfluss, Wissen und wirtschaftlicher Nutzen tatsächlich liegen.
Das Unternehmen, das KI-Ausgaben veröffentlicht oder in Entscheidungen einbindet, muss für fehlende Kontrolle haften. Wer ein Sprachmodell im Kundenkontakt, in Bewertungsverfahren oder in öffentlicher Kommunikation einsetzt, benötigt dokumentierte Prüfregeln, verantwortliche Personen und nachvollziehbare Freigaben.
Der Modellanbieter muss einstehen, wenn Schäden auf systemischen, bekannten oder vermeidbaren Eigenschaften seines Produkts beruhen. Dazu gehören wiederkehrende Falschbehauptungen, unzureichende Schutzmechanismen, irreführende Leistungsversprechen, fehlende Möglichkeiten zur Fehlerkorrektur oder eine Architektur, die trotz erkennbarer Risiken für sensible Anwendungen vermarktet wird.
Auch Integratoren und Plattformbetreiber dürfen nicht aus der Kette verschwinden. Wer ein Basismodell verändert, mit Datenbanken verbindet oder als vermeintlich verlässliche Fachanwendung vertreibt, schafft einen neuen Nutzungskontext. Je stärker ein Anbieter eine KI als Rechtsberater, Finanzanalyst, Recherchewerkzeug oder Unternehmensauskunft positioniert, desto höher müssen seine Prüf- und Haftungspflichten sein.
Haftungsobergrenzen dürfen Schäden nicht entwerten
Vertragliche Haftungsbegrenzungen sind im internationalen Technologiegeschäft üblich. Problematisch werden sie, wenn die mögliche Ersatzleistung in keinem Verhältnis zum verursachten Schaden steht. Ein System, das für wenige tausend Euro genutzt wird, kann falsche Aussagen erzeugen, deren wirtschaftliche Folgen ein Vielfaches betragen.
Eine Haftungsobergrenze, die sich nur am gezahlten Nutzungsentgelt orientiert, bildet das tatsächliche Risiko deshalb kaum ab. Sie behandelt die KI-Leistung wie ein begrenztes Softwareabonnement, obwohl ihr Output in Personalentscheidungen, Kreditprüfungen, Medienberichten und geschäftlichen Bewertungen eingesetzt werden kann.
Für systemische Anbieter braucht es andere Maßstäbe. Denkbar wären Mindestdeckungssummen, verpflichtende Haftpflichtversicherungen und Haftungsgrenzen, die sich an Umsatz, Reichweite, Risikoklasse und Schwere des Versagens orientieren. Bei grober Fahrlässigkeit, verschwiegenen Risiken oder wiederholt bekannten Fehlermustern dürften Beschränkungen nicht greifen.
Finanzielle Verantwortung ist kein Angriff auf Innovation. Sie zwingt lediglich dazu, die realen Kosten eines Produkts nicht vollständig auf Geschädigte und kleinere Marktteilnehmer auszulagern.
Beweise dürfen nicht beim Geschädigten verschwinden
Wer durch eine KI-Aussage geschädigt wurde, steht häufig vor einem technischen Beweisproblem. Er kennt weder das verwendete Modell noch dessen Version, die Systemanweisungen, den vollständigen Gesprächsverlauf oder die angeschlossenen Datenquellen. Ohne diese Informationen lässt sich kaum feststellen, an welcher Stelle die Falschbehauptung entstanden ist.
Deshalb braucht es verbindliche Protokollierungsregeln für geschäftlich relevante KI-Systeme. Unternehmen müssen dokumentieren, welches Modell eingesetzt wurde, welche Quellen verwendet wurden, welche Prüfungen stattfanden und wer eine Veröffentlichung freigegeben hat. Modellanbieter müssen nachvollziehbar machen, ob ein gemeldeter Fehler bereits bekannt war und welche Maßnahmen zu seiner Behebung gesetzt wurden.
Kommt ein Betreiber diesen Pflichten nicht nach, sollte sich die Beweislast zu seinen Lasten verschieben. Es wäre unzumutbar, von einem kleinen Unternehmen den Nachweis eines technischen Fehlers zu verlangen, während sämtliche dafür notwendigen Daten bei einem globalen Plattformanbieter liegen.
Eine solche Beweislastregel würde keine automatische Schuld begründen. Sie würde lediglich verhindern, dass technische Intransparenz zu einem dauerhaften Haftungsschutz wird.
Das Recht auf schnelle Korrektur
Gerichtsverfahren dauern häufig länger als die wirtschaftliche Belastbarkeit kleiner Unternehmen. Wer eine falsche KI-Aussage erst nach Monaten korrigieren lassen kann, erhält möglicherweise Recht, nachdem Kunden und Geschäftspartner längst verloren sind. Deshalb braucht es neben Schadenersatz auch schnelle außergerichtliche Verfahren.
Betroffene Unternehmen sollten eine konkrete KI-Aussage melden, Nachweise vorlegen und eine menschliche Prüfung verlangen können. Bei offensichtlich falschen Tatsachenbehauptungen müsste der Betreiber die Verbreitung unverzüglich stoppen, die zugrunde liegende Fehlerquelle untersuchen und dokumentieren, ob weitere Nutzer betroffen waren.
Wurde eine falsche Aussage über eine Schnittstelle an Geschäftskunden ausgeliefert, sollte eine Korrekturmeldung an diese Kunden möglich sein. Andernfalls bleibt die Berichtigung in einem einzelnen System verborgen, während die ursprüngliche Behauptung in anderen Anwendungen weiterlebt.
Besonders bei falschen Insolvenzangaben, erfundenen Straftaten, angeblichen behördlichen Verfahren oder manipulierten Kundenbewertungen muss ein beschleunigter Schutz bestehen. Solche Inhalte können innerhalb weniger Stunden Vertrauen zerstören, das über Jahre aufgebaut wurde.
Was Unternehmen sofort ändern müssen
Unternehmen dürfen generative KI nicht länger wie eine verlässliche Datenbank behandeln. Jede öffentliche Tatsachenbehauptung benötigt eine prüfbare Grundlage, insbesondere wenn sie reale Personen, Firmen, Rechtsfragen, Gesundheitsinformationen oder finanzielle Entscheidungen betrifft.
Für kritische Inhalte sollte eine menschliche Freigabe verpflichtend sein. Die prüfende Person muss auf Originalquellen zugreifen können und darf nicht lediglich eine zweite KI um Bestätigung bitten. Zwei Sprachmodelle, die dieselbe unbelegte Information wiederholen, ergeben noch keine verifizierte Tatsache.
Kundenbots sollten Antworten nur aus kontrollierten Wissensbeständen erzeugen und die verwendeten Grundlagen offenlegen können. Wo eine verlässliche Antwort nicht möglich ist, muss das System an einen Menschen übergeben, statt eine plausible Auskunft zu erfinden.
Auch Vorfälle gehören dokumentiert. Wiederkehrende Fehler dürfen nicht als isolierte Einzelfälle behandelt werden, sondern müssen Konsequenzen für Modellwahl, Einsatzbereich und Freigabeprozesse haben. Ein Unternehmen, das bekannte Fehler ignoriert, entscheidet sich bewusst für das Risiko.
Was der Gesetzgeber regeln muss
Europa benötigt eine abgestufte, aber geschlossene Haftungskette. Das veröffentlichende Unternehmen haftet für ungeprüfte Verwendung, der Integrator für mangelhafte Einbindung und der Modellanbieter für systemische Produktfehler oder unzureichende Schutzmechanismen. Je nach Ursache des Schadens muss eine gemeinsame Haftung möglich sein.
Erforderlich ist zudem ein eigener Anspruch für erhebliche wirtschaftliche und reputationsbezogene Schäden durch generative Falschaussagen. Die gegenwärtige Produkthaftung deckt diesen Bereich nicht ausreichend ab, obwohl gerade dort die größte Gefahr für Selbstständige und kleinere Unternehmen liegt.
Hinzu kommen verpflichtende Versicherungen für Anbieter besonders reichweitenstarker Modelle, nachvollziehbare Meldewege, Schutz vor wiederholten Falschbehauptungen und wirksame Sanktionen bei fehlender Kooperation. Geldbußen allein reichen nicht, wenn sie ausschließlich an den Staat fließen und der konkret Geschädigte ohne Ersatz bleibt.
Schließlich müssen Gerichte Zugang zu technischen Informationen erhalten können. Modellversionen, Sicherheitsprüfungen, Fehlermeldungen und relevante Protokolle dürfen in Haftungsverfahren nicht pauschal hinter Geschäftsgeheimnissen verschwinden.
Innovation ohne Verantwortung ist Kostenverlagerung
Künstliche Intelligenz kann Unternehmertum stärken, Wissen zugänglicher machen und kleine Betriebe produktiver werden lassen. Dieselbe Technologie kann jedoch wirtschaftliche Existenzen beschädigen, wenn falsche Aussagen mit industrieller Geschwindigkeit erzeugt und ohne Prüfung veröffentlicht werden.
Der entscheidende Konflikt verläuft deshalb nicht zwischen Fortschritt und Regulierung. Er verläuft zwischen verantwortlicher Innovation und einem Geschäftsmodell, das Gewinne privatisiert, während es Fehlerkosten auf Anwender, Betroffene und Gerichte verteilt.
Eine Maschine kann keine Verantwortung empfinden. Gerade deshalb müssen jene verantwortlich sein, die sie entwickeln, verkaufen, integrieren und für geschäftliche Aussagen einsetzen. Wo diese Haftung fehlt, wird nicht nur Vertrauen in künstliche Intelligenz zerstört, sondern auch die Grundlage eines fairen Unternehmertums.
Kommentar hinzufügen
Kommentare