Wells Fargo und Chase: Fehler von KI-Agenten gehen laut AGB zulasten der Kunden
Das aktualisierte Online Access Agreement von Wells Fargo, gültig ab dem 24. November, sieht vor, dass Anfragen, die über ein KI-Werkzeug oder einen KI-Agenten eines Drittanbieters eingereicht werden, so behandelt werden können, als kämen sie direkt vom Kunden; die Bank behält sich zudem vor, bestimmte Werkzeuge zu sperren. Das Digital Services Agreement von JPMorgan Chase, gültig seit dem 27. Oktober, untersagt externer KI die Nutzung der Zugangsdaten von Kunden, lässt genehmigte Programmierschnittstellen (APIs) zu und unterstellt, dass Kunden die Handlungen einer externen KI autorisieren, wenn sie ihr Zugang gewähren. Laut WIRED haben auch Bank of America, Citibank und PNC Warnhinweise zu Agenten aufgenommen; gelesen haben wir nur die Texte von Wells Fargo und Chase.

Die Antwort der Banken auf KI-Agenten ist kein Verbot, sondern eine Verteilung der Haftung. Ab Dienstag, dem 24. November, sieht das aktualisierte Online Access Agreement von Wells Fargo vor, dass Anfragen, die über ein KI-Werkzeug oder einen KI-Agenten eines Drittanbieters eingereicht werden, „so behandelt werden können, als kämen sie direkt von Ihnen“; zudem behält sich die Bank das Recht vor, bestimmte Werkzeuge einzuschränken oder zu sperren. Im Digital Services Agreement von JPMorgan Chase heißt es seit dem 27. Oktober, dass bei einem Kunden, der einer externen KI Zugriff auf seine Konten gewährt, alles als von ihm autorisiert gilt, was diese KI tut.
Beide Dokumente lassen eine Tür offen. Chase erlaubt externen Werkzeugen, einschließlich externer KI, mit Zustimmung des Kunden über genehmigte Programmierschnittstellen (APIs) Kontodaten abzurufen; verboten ist die Nutzung der Zugangsdaten eines Kunden. Unsere Einschätzung: Die Klauseln zielen weniger darauf, Agenten zu stoppen, als darauf, festzulegen, wer den ersten Verlust trägt, wenn ein Agent Fehler macht, und in beiden Fällen ist das zuerst der Kunde.
Was die Verträge sagen#
Wells Fargo fasst die Änderung in seiner Kundenmitteilung zusammen. Nutzt ein Kunde ein KI-Werkzeug oder einen KI-Agenten eines Drittanbieters, um auf seine Konten oder Dienste zuzugreifen, werde das Werkzeug nach Angaben der Bank nicht von Wells Fargo betrieben, und der Kunde ermächtige die Bank, die Informationen weiterzugeben, die der Dienst benötigt. Diese Informationen unterliegen dann den Datenschutzpraktiken und Bedingungen des Werkzeuganbieters. Anfragen, die über das Werkzeug eingereicht werden, „können so behandelt werden, als kämen sie direkt von Ihnen“, und der Vertrag legt die Pflichten des Kunden bei der Verwaltung des Zugriffs des Werkzeugs fest. Die Bank behält sich außerdem vor, den Zugriff bestimmter KI-Werkzeuge von Drittanbietern einzuschränken oder zu sperren. Die Mitteilung verweist auf die Abschnitte 15, 17(c) und 20(c) des Vertrags, der für alle gilt, die die Dienste nach dem 24. November weiter nutzen.
Der Text von Chase ist ausführlicher. Dritten, „einschließlich externer KI [External AI], automatisierter Werkzeuge oder Datenaggregatoren“, ist die Nutzung der Zugangsdaten eines Kunden untersagt, und Kunden, die ihre Zugangsdaten weitergegeben haben, müssen sie ändern. Ein Kunde, der den Zugriff eines Dritten erlaubt, veranlasst oder erleichtert, ermächtigt diesen Dritten demnach, Transaktionen auf dem Konto vorzunehmen, und akzeptiert, dass die Bank dessen Anweisungen wie seine eigenen behandeln darf. Der Kunde erkennt zudem an, dass solche Handlungen „ungenau, unvollständig, unbeabsichtigt oder unvereinbar mit Ihren tatsächlichen Anweisungen sein können“, und erklärt sich bereit, für daraus entstehende Fehler einzustehen, einschließlich unbeabsichtigter Transaktionen. Chase darf den Zugriff verweigern, aussetzen oder beenden, auch einen durch externe KI ermöglichten, „nach unserem alleinigen Ermessen und ohne Vorankündigung“, und die Freistellungsklausel erfasst das Verhalten jedes Agenten, einschließlich externer KI, „unabhängig davon, ob dieses Verhalten von Ihnen beabsichtigt ist“. Der Vertrag definiert External AI als KI und KI-Agenten von Drittanbietern.
Was WIRED ergänzt#
WIRED zitiert in einem Beitrag von Reece Rogers vom 22. November die Bedingungen von Wells Fargo mit dem Satz: „Ihre Nutzung eines KI-Agenten erfolgt AUF IHR EIGENES RISIKO.“ Diese Formulierung haben wir nur bei WIRED gefunden; auf der Übersichtsseite der Bank steht sie nicht, und den vollständigen Vertrag haben wir nicht gelesen. WIRED berichtet außerdem, Bank of America habe Kunden am selben Tag, an dem die Änderung von Chase in Kraft trat, davor gewarnt, Zugangsdaten an Agenten weiterzugeben, und Citibank und PNC hätten ihre Bedingungen um Warnhinweise zu Agenten ergänzt. Diese Texte haben wir nicht gelesen.
Die aufschlussreichste Einordnung bei WIRED stammt von Luca Cian, Professor an der University of Virginia, der Konsumentenpsychologie und KI erforscht: „Die Banken tun zwei Dinge gleichzeitig. Sie verschließen die Tür vor externen Agenten und bauen ihre eigenen.“ WIRED verweist auf den hauseigenen generativen KI-Assistenten von Wells Fargo, mit dem Nutzer nach Angaben des Magazins mehr als eine Milliarde Mal interagiert haben. Zudem berichtet WIRED, American Express habe angekündigt, dass manche Fehler von Agenten, etwa die Bestellung einer zu großen Menge eines Artikels, erstattungsfähig werden könnten, wenn sich das Geld beim Händler nicht zurückholen lässt. Das ist in der Berichterstattung das einzige Anzeichen dafür, dass ein Finanzunternehmen den Verlust in die andere Richtung verschiebt.
Wer den Verlust trägt#
Dass der Kunde zuerst haftet, ist im Markt nicht neu. In der Telefonkonferenz zu den Quartalszahlen am 13. Oktober sagte Jamie Dimon den Anlegern, es gebe „eine Haftungsverlagerung“, wenn Kunden externe Agenten nutzen, und Finanzchef Jeremy Barnum sagte laut einem Transkript, wenn ein Agent etwas tue, was ein Kunde nicht wolle, „geht das zu ihren Lasten“. Im Kongress würde ein Diskussionsentwurf der Abgeordneten Lori Trahan dagegen KI-Entwickler haftbar machen, wenn ihre Systeme auf eine Weise handeln, die bei einem Menschen fahrlässig oder strafbar wäre; es handelt sich um einen Entwurf, nicht um ein Gesetz.
Die von uns gelesenen Bankbedingungen regeln nur das Verhältnis zwischen Kunde und Bank. Was der Entwickler eines Agenten oder ein Händler dem Kunden schuldet, dazu sagen sie in den gelesenen Passagen nichts.
Einschränkungen#
- Die Bedingungen von Wells Fargo stammen aus der Kundenmitteilung der Bank, die die Änderungen zusammenfasst; den vollständigen Vertrag haben wir nicht gelesen, und die Formulierung „AUF IHR EIGENES RISIKO“ ist ein Zitat von WIRED.
- Der Text von Chase stammt aus dem PDF des Digital Services Agreement; gelesen haben wir die Änderungsmitteilung und die oben zitierten Abschnitte, nicht das gesamte Dokument. Die Formulierung zur unterstellten Autorisierung gilt für Kunden, die den Zugriff eines Dritten erlauben, veranlassen oder erleichtern.
- Die Änderungen bei Bank of America, Citibank und PNC sowie der Erstattungsplan von American Express sind so wiedergegeben, wie WIRED darüber berichtet.
- Es handelt sich um Vertragsbedingungen. In den von uns gelesenen Dokumenten haben wir nichts dazu gefunden, wie sie mit Verbraucherschutzregeln für nicht autorisierte Transaktionen zusammenwirken.
- Die Änderung bei Chase trat vor dem Berichtszeitraum dieser Ausgabe in Kraft; wir nehmen sie auf, weil die von Wells Fargo am Dienstag wirksam wird und WIRED beide am 22. November nebeneinandergestellt hat.