Künstliche Intelligenz – Maschine oder echter Vertragspartner?


Die rasante Entwicklung von künstlicher Intelligenz (KI) und autonom handelnden Systemen führt zu immer neuen Einsatzbereichen, Geschäftsmodellen und Wertschöpfungsmöglichkeiten. Dabei handelt es sich um Systeme, die nicht nur starre Entscheidungsbäume abarbeiten, sondern die intelligent, autonom, proaktiv, kommunikativ und mobil sind. Agieren diese autonomen KI-Systeme selbständig am Markt, besteht das Risiko, dass von ihnen geschlossene Verträge unwirksam sind. Eine Lösung könnte darin bestehen, die Erklärungen der autonomen Systeme ihrem menschlichen Nutzer zuzurechnen.

Einsatz von KI in der Chemiebranche

In der Chemiebranche hilft KI u.a. dabei, neue Substanzen zu entwickeln. So können die Algo-rithmen vom gewünschten Endprodukt mit hohen Wahrscheinlichkeiten auf die notwendigen chemischen Reaktionen schließen. Eine weitere Gruppe von KI-Systemen kann – vergleichbar zu einem Menschen – Entscheidungen treffen und am Markt auftreten. Sie können beispiels-weise die Supply Chain steuern, indem sie die besten Preise finden, die Einkaufsbedingungen „verhandeln“, die Lieferung organisieren und die Qualitätskontrolle inklusive der Durchsetzung etwaiger Mängelrechte autonom steuern.

Ist das Rechtssystem auf autonom agierende Systeme vorbereitet?

KI macht es möglich, dass autonom handelnde Maschinen Verträge schließen. Offen ist dabei: Sind die dann auch rechtlich wirksam? Sind die Kriterien der übereinstimmenden Willenserklä-rungen durch Computerprogramme überhaupt erfüllt? Für die Rechtsberatung tut sich ein großes Feld neuer, spannender Fragen auf.

Allen Typen von KI ist gemein, dass sie von ihren Nutzern am Markt eingesetzt werden und für ihr Gegenüber nicht als Maschinen erkennbar sind. Autonome Systeme auf Basis von KI haben sich so weit entwickelt, dass sie den sogenannten „Turing Test“ bestehen. Dies bedeutet, dass sie von Menschen nicht mehr als Maschinen identifiziert werden.

Kann eine autonome KI wirksam Verträge schließen?

Wie juristisch mit Vertragsschlüssen durch autonom agierenden KI-Systemen umgegangen wer-den soll, ist bisher nicht endgültig geklärt: Ist das KI-System ein Bote des Nutzers oder dessen Stellvertreter? Könnte ein KI-System vielleicht sogar wie ein minderjähriges Kind des Nutzers oder sogar als eigene elektronische Rechtsperson behandelt werden? Gegen all diese Ansich-ten lassen sich gewichtige Argumente anführen.

Vertrauensschutz als entscheidender Faktor

Der Einsatz von KI-Systemen dürfte sich bereits mit den bestehenden Gesetzen abbilden las-sen, indem auf die Sichtweise des (menschlichen) Vertragspartners („objektiver Empfängerhori-zont“) abgestellt wird. Dazu finden sich einige Beispiele in der Rechtspraxis (Blanko- oder Com-putererklärung). Der Vertragspartner weiß regelmäßig nicht, dass er mit einer Maschine verhan-delt, sondern glaubt, einen Menschen auf der anderen Seite zu erkennen. Er vertraut darauf, dass dieser „Mensch“ befähigt und berechtigt ist, entsprechende Erklärungen abzugeben. Die-ses Vertrauen ist schützenswert, da sich der Rechtsverkehr andernfalls erheblich verkomplizie-ren würde.

Da das KI-System den Vertrag kaum erfüllen kann und selbst keine Haftungsmasse besitzt, muss der Vertragspartner darauf vertrauen können, dass der Nutzer des autonomen KI-Systems durch die Erklärungen gebunden wird. Wer durch den Einsatz autonomer Systeme im alltägli-chen Geschäftsverkehr die Erwartung weckt, dass er sich durch die Erklärungen der KI gebunden fühlt, muss sich daran festhalten lassen.

Fazit

Bestellt also die KI die falschen Basisrohstoffe, kommt trotzdem ein Vertrag zwischen dem Liefe-ranten und dem Chemieunternehmen als Nutzer des autonomen KI-Systems zustande. Das Chemieunternehmen ist an diesen Vertrag gebunden. So künstlich die Intelligenz auch sein mag – als Vertragspartner ist sie sehr real.

Autor: Johannes Groß
Johannes Groß ist Associate in der internationalen Sozietät Hogan Lovells International LLP in Frankfurt am Main. Er ist u.a. auf die Beratung von Digitalisierungsprojekten, IoT/KI und IT-Infrastruktur spezialisiert.
Mehr unter: www.hoganlovells.com