KI

Begriff und Einordnung der Künstlichen Intelligenz (KI)

Künstliche Intelligenz (KI) bezeichnet die Fähigkeit von Computersystemen, Aufgaben zu erfüllen, die üblicherweise menschliche Intelligenz erfordern. Dazu zählen insbesondere das Lernen, das Schlussfolgern, das Planen, die Spracherkennung sowie die Entscheidungsfindung. Im rechtlichen Kontext gewinnt KI zunehmend an Bedeutung, da sie in zahlreichen gesellschaftlichen und wirtschaftlichen Prozessen zum Einsatz kommt. Rechtliche Fragestellungen zur Künstlichen Intelligenz betreffen insbesondere Regelungsbereiche wie Zivilrecht, Datenschutzrecht, Haftungsrecht, Vertragsrecht, Urheberrecht sowie das Arbeitsrecht und öffentliche Regulierungen. KI ist dabei kein gesetzlich definierter Begriff, sondern eine technische Sammelbezeichnung für algorithmische Systeme unterschiedlichster Komplexität.

Rechtsrahmen für KI in Deutschland und der Europäischen Union

Allgemeine gesetzliche Grundlagen

Fehlen einer spezifischen Rechtsnorm

Bislang existiert in Deutschland kein spezifisches Gesetz, das ausschließlich auf KI-Systeme zugeschnitten ist. Vielmehr finden bestehende Normen des Zivilrechts, Strafrechts sowie des öffentlichen Rechts Anwendung, soweit KI in rechtlich relevante Sachverhalte eingebunden ist. In der Europäischen Union wird jedoch mit dem sogenannten „AI Act“ (Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz) ein umfassender Rechtsrahmen geschaffen, der die Entwicklung, das Inverkehrbringen und den Einsatz von KI-Systemen regelt.

Der Entwurf der KI-Verordnung (AI Act)

Die EU-KI-Verordnung legt risikobasierte Klassifizierungen für KI-Systeme fest und bestimmt Pflichten, Kontrollmechanismen sowie Sanktionsmöglichkeiten. Besonders hervorgehoben werden darin die Transparenzpflichten, das Verbot bestimmter Hochrisikoanwendungen und die Anforderungen an Sicherheit, Zuverlässigkeit und Diskriminierungsfreiheit. Die Verordnung zielt auf einen einheitlichen Binnenmarkt ab und stellt Anforderungen an Entwickler, Anbieter und Nutzer von KI-Systemen.

Zivilrechtliche Aspekte und Haftung von KI-Systemen

Vertragliche Beziehungen

KI-Systeme können in verschiedenste vertragliche Konstellationen eingebunden sein, etwa im Rahmen von Software-as-a-Service-Verträgen, Lizenzverträgen oder Kaufverträgen über Hardware mit integrierter KI. Dabei stellt sich insbesondere die Frage, wie Autonomiegrade der KI und dynamische Lernprozesse in bestehende Vertragstypen einzuordnen sind und welche Auswirkungen etwaige Fehler oder Fehlfunktionen auf bestehende Gewährleistungs- und Haftungsregelungen haben.

Deliktsrechtliche Haftung

Eine zentrale Herausforderung ist die deliktsrechtliche Haftung für Schäden, die durch den Einsatz von KI verursacht werden. Nach deutschem Recht (§§ 823 ff. BGB) setzt eine Haftung grundsätzlich ein Verschulden voraus. Die oft fehlende persönliche Zurechnungsfähigkeit der KI sowie die mangelnde Transparenz bei Entscheidungsprozessen (sogenanntes „Black Box“-Problem) erschweren es, eine Verantwortlichkeit beim Betreiber, Entwickler oder Anwender rechtssicher festzustellen.

Produkthaftung und Herstellerverantwortung

Für von KI gesteuerte Systeme, insbesondere in der Industrie oder im Verkehrsbereich (z. B. autonome Fahrzeuge), greifen produktspezifische Haftungsnormen, etwa nach dem Produkthaftungsgesetz (ProdHaftG) und der europäischen Produkthaftungsrichtlinie. Hier gelten strikte Haftungsmaßstäbe, insbesondere im Hinblick auf Fehlerfreiheit und Sicherheitsstandards der Produkte.

Datenschutzrechtliche Anforderungen an KI

Anwendung der Datenschutz-Grundverordnung (DSGVO)

KI-Anwendungen unterliegen – soweit sie personenbezogene Daten verarbeiten – den Vorgaben der Datenschutz-Grundverordnung. Relevante Grundsätze sind insbesondere der Grundsatz der Zweckbindung, die Datenminimierung, Transparenz und Rechenschaftspflicht. Bei algorithmischen Entscheidungsprozessen sind insbesondere Art. 22 DSGVO (Automatisierte Entscheidungsfindung im Einzelfall einschließlich Profiling) sowie die Betroffenenrechte auf Information und Widerspruch maßgeblich.

Datenschutz-Folgenabschätzung und Transparenzpflichten

Der Einsatz von KI kann eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich machen, sofern von einer hohen Wahrscheinlichkeit eines Risikos für die Rechte und Freiheiten betroffener Personen auszugehen ist. KI-Anbieter und -Nutzer haben angemessene Schutzvorkehrungen sowie organisatorische Maßnahmen zu treffen, um Datenschutzprinzipien und technische Sicherheit zu gewährleisten.

Urheberrechtliche Fragen im Kontext von KI

Schutzfähigkeit von KI-generierten Werken

Im Urheberrecht wird diskutiert, inwieweit durch KI entwickelte Inhalte schutzfähig sind. Nach geltender Rechtslage ist ein Urheberrechtsschutz nur möglich, wenn ein menschlicher Schöpfer beteiligt ist. Autonom erzeugte Werke durch KI werden daher nicht als originär schutzfähig angesehen. Ein urheberrechtlicher Schutz kommt somit regelmäßig nur in Betracht, wenn die menschliche Steuerung oder schöpferische Entscheidung maßgeblich ist.

Nutzung und Training von KI mit urheberrechtlich geschütztem Material

KI-Systeme werden vielfach mit großen Mengen urheberrechtlich geschützter Werke trainiert. Hierbei stellt sich die Frage nach der Zulässigkeit solcher Nutzungen, insbesondere unter dem Gesichtspunkt der Schrankenregelungen (z. B. Text- und Data-Mining). Die EU hat in der DSM-Richtlinie entsprechende Ausnahmen implementiert, die im deutschen Urheberrechtsgesetz (UrhG) umgesetzt wurden.

Arbeitsrechtliche Herausforderungen bei KI-Einsatz

Entscheidungen, die mithilfe von KI-Systemen am Arbeitsplatz getroffen werden – etwa im Bereich des Personalmanagements oder der Arbeitsorganisation – müssen arbeitsrechtliche Vorgaben beachten. Mitbestimmungsrechte von Betriebsräten nach dem Betriebsverfassungsgesetz sowie Grundsätze der Gleichbehandlung und Diskriminierungsfreiheit sind zu berücksichtigen. Die Einführung von KI-Systemen am Arbeitsplatz kann Mitbestimmungsprozesse auslösen und unterliegt strengen Transparenz- und Beteiligungspflichten.

Strafrechtliche Implikationen von KI

Im Strafrecht stellt sich insbesondere die Frage nach der strafrechtlichen Verantwortlichkeit für Handlungen, die unter (teilweiser) Mitwirkung von KI-Systemen geschehen. Nach dem Tatbestandsprinzip ist eine Zurechnung zu einer natürlichen Person erforderlich, sodass Automatismen oder autonome Handlungen derzeit nicht selbst strafbar sind. Die Einbindung von KI in Entscheidungsprozesse kann allerdings zu einer Zurechnung von Fahrlässigkeit oder Vorsatz beim Entwickler, Betreiber oder Nutzer führen, sofern diese trotz absehbarer Risiken keine ausreichenden Kontrollmechanismen implementieren.

Gesetzgeberische Entwicklungsperspektiven

Durch die fortschreitende Entwicklung von KI-Technologien bleibt der Gesetzgeber kontinuierlich gefordert, bestehende Regelungen zu evaluieren und anzupassen. Mit dem künftigen Inkrafttreten der EU-KI-Verordnung sowie laufenden Anpassungen im Datenschutz-, Verbraucherschutz- und Wettbewerbsrecht wird sich der Rechtsrahmen weiter ausdifferenzieren. Die Ausgestaltung nationaler und unionsrechtlicher Normen verfolgt das Ziel, Innovation und Schutzinteressen in ein ausgewogenes Verhältnis zu bringen.

Zusammenfassung

Künstliche Intelligenz (KI) wirft eine Vielzahl rechtlicher Fragen auf, die von Haftungs- und Regelungsproblemen über Datenschutz und Urheberrecht bis hin zu arbeits- und strafrechtlichen Aspekten reichen. Der aktuelle Rechtsrahmen folgt dabei weitgehend allgemeinen gesetzgeberischen Prinzipien, befindet sich jedoch durch neue europäische Regulierungen (z. B. KI-Verordnung) im Wandel. Die fortlaufende technische Entwicklung macht eine ständige Überprüfung und Anpassung der rechtlichen Grundlagen notwendig, um Rechtssicherheit, Innovation und Grundrechtsschutz gleichermaßen zu gewährleisten.

Häufig gestellte Fragen

Welche rechtlichen Haftungsrisiken bestehen bei Schäden durch Künstliche Intelligenz?

Beim Einsatz von Künstlicher Intelligenz (KI) entstehen aus rechtlicher Sicht zahlreiche Haftungsfragen, da traditionelle Haftungsmodelle auf menschliches Handeln abstellen, wohingegen autonome oder teilautonome Systeme eigene Entscheidungen treffen können. In Deutschland und der EU existieren derzeit keine einheitlichen spezialgesetzlichen Regelungen zur Haftung für KI, sodass sich die Haftung nach allgemeinen gesetzlichen Vorgaben wie dem Bürgerlichen Gesetzbuch (BGB), dem Produkthaftungsgesetz (ProdHaftG) oder unter Umständen spezialgesetzlichen Vorschriften, etwa im Straßenverkehr, richtet. Es kann zwischen Hersteller-, Programmierer- und Betreiberhaftung unterschieden werden:

• Herstellerhaftung: Nach dem Produkthaftungsgesetz haftet der Hersteller, wenn durch einen Fehler des Produkts, z.B. fehlerhafte Algorithmen oder Trainingsdaten, ein Schaden entsteht.
• Betreiberhaftung: Wer eine KI-Anwendung in Betrieb nimmt, muss dafür sorgen, dass keine rechtswidrigen Handlungen oder Schäden ermöglicht werden (Stichwort: Verkehrssicherungspflichten).
• Programmiererhaftung: Fehler in der Entwicklung, wie mangelnde Sorgfalt oder Verstöße gegen bestehende Standards, können haftungsbegründend sein.

Problematisch ist die Feststellbarkeit der Verantwortlichkeit: Bei selbstlernenden Systemen kann es schwierig sein, die schadenverursachende Handlung eindeutig einer Person zuzuordnen. Insoweit besteht auf europäischer Ebene Bestrebungen, mit dem geplanten AI Liability Act klarere Haftungsmechanismen zu etablieren. Auch Fragen der Beweislast und des Umfangs von Sorgfaltspflichten spielen eine erhebliche Rolle, da KI-Modelle eigendynamisch agieren können. Unternehmen, welche KI-gestützte Systeme bereitstellen oder einsetzen, sollten deshalb rechtliche Risiken durch Implementierung von Compliance-Maßnahmen und sorgfältige Vertragsgestaltung möglichst minimieren.

Wie kann der Datenschutz beim Einsatz von Künstlicher Intelligenz rechtskonform sichergestellt werden?

Die Anwendung von KI-Systemen ist häufig mit umfangreicher Datenverarbeitung verbunden; dabei betrifft die Verarbeitung oft personenbezogene Daten im Sinne der Datenschutz-Grundverordnung (DSGVO). Für eine rechtssichere Nutzung müssen verschiedene Voraussetzungen erfüllt werden:

• Rechtsgrundlage: Jede Datenverarbeitung durch KI benötigt eine klare Rechtsgrundlage (Art. 6 DSGVO), etwa Einwilligung, Vertragserfüllung oder berechtigtes Interesse. Automatisierte Entscheidungsfindungen unterliegen dabei besonderen Anforderungen (Art. 22 DSGVO).
• Transparenz: Die betroffenen Personen müssen über Art, Umfang und Zweck der Datenverarbeitung informiert werden (Art. 13, 14 DSGVO). Insbesondere bei intransparenten oder „Black-Box“-Systemen ist dies technisch und rechtlich herausfordernd.
• Datensparsamkeit und Zweckbindung: Es dürfen nur diejenigen Daten erhoben und verwendet werden, die für den konkreten Zweck erforderlich sind (Art. 5 Abs. 1 lit. c und b DSGVO).
• Technische und organisatorische Maßnahmen: Um die Sicherheit der Daten zu gewährleisten, müssen angemessene Maßnahmen gem. Art. 32 DSGVO implementiert werden.
• DSFA: Falls eine Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen mit sich bringt (z.B. Profiling durch KI), ist eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO erforderlich.

Verstöße gegen datenschutzrechtliche Vorgaben können gravierende Bußgelder und Schadensersatzansprüche nach sich ziehen. Der Einsatz von KI sollte daher immer gemeinsam mit Datenschutzexperten evaluiert werden.

Welche urheberrechtlichen Herausforderungen ergeben sich beim Einsatz von KI?

Künstliche Intelligenz kann in vielfältiger Weise urheberrechtliche Fragen aufwerfen, sowohl bei der Nutzung von Trainingsdaten als auch hinsichtlich der von KI generierten Ergebnisse.

• Training auf urheberrechtlich geschützten Werken: Das Trainieren von KI-Modellen auf geschützten Daten wie Bildern, Texten oder Musikstücken kann eine unerlaubte Nutzung darstellen, wenn keine Einwilligung der Rechteinhaber vorliegt oder keine gesetzliche Schrankenregelung greift. In Deutschland sind bereits erste Gerichtsverfahren anhängig, die klären sollen, ob und unter welchen Bedingungen das Text- und Data-Mining zulässig ist.
• Urheberrecht an KI-generierten Werken: Nach gegenwärtigem Recht (z.B. § 2 UrhG in Deutschland) kann nur ein Mensch Urheber sein; Erzeugnisse, die von KI ohne maßgebliche menschliche Steuerung erstellt werden, genießen daher nach derzeitigem deutschen und europäischen Urheberrecht keinen Schutz. Entsteht das Werk jedoch durch eine enge Zusammenarbeit zwischen Mensch und KI, kann dem Nutzer/Programmierer ein Urheberrecht zustehen.
• Verwertung und Lizenzierung: Die Nutzung von KI-generierten Inhalten kann lizenzrechtliche Besonderheiten aufwerfen, insbesondere wenn Trainingsdaten ohne ausreichende Rechte genutzt wurden und daraus abgeleitete Inhalte als Plagiate oder Urheberrechtsverletzungen angesehen werden könnten.

Insoweit empfiehlt es sich, im Vorfeld einer Verwendung rechtliche Prüfungen vorzunehmen und – soweit möglich – Rechte an verwendeten Daten abzusichern.

Welche Herausforderungen bestehen bei der Vertragsgestaltung rund um KI-Projekte?

Vertragliche Regelungen rund um KI-Projekte sind komplex, da die Entwicklung und der Betrieb von Künstlicher Intelligenz besondere Anforderungen mit sich bringen:

• Leistungsbeschreibung: Im Vertrag sollte möglichst genau geregelt werden, welche Fähigkeiten und Grenzen das zu entwickelnde oder zu lizenzierende KI-System besitzt. Besondere Bedeutung haben dabei Leistungsparameter wie Genauigkeit, Zuverlässigkeit und laufende Updates.
• Lizenz- und Nutzungsrechte: Detaillierte Regelungen sind erforderlich, welche Rechte an den genutzten und generierten Daten sowie an den Modellen selbst eingeräumt oder vorbehalten werden.
• Haftung und Gewährleistung: Es empfiehlt sich, Haftungsausschlüsse oder -begrenzungen sorgfältig zu formulieren und zu prüfen, wie aus einer Fehlfunktion oder fehlerhaften Entscheidungen resultierende Schäden zu regulieren sind.
• Datenschutz und IT-Sicherheit: Verträge sollten Regelungen zur Einhaltung datenschutzrechtlicher Vorgaben und zur Implementierung angemessener Sicherheitsmaßnahmen enthalten.
• Geistiges Eigentum: Es sollte geklärt werden, wem die Rechte an von KI generierten Inhalten und Modellen zustehen.
• Support und Wartung: Regelungen zur Fehlerbehebung, Wartung und Gewährleistung der Weiterentwicklung der KI sind zentral.

Da sich technische und rechtliche Rahmenbedingungen stetig weiterentwickeln, sollte eine Überprüfung und Anpassung der Verträge regelmäßig stattfinden.

Welche Besonderheiten gelten im Arbeitsrecht beim Einsatz von KI?

Wenn Arbeitgeber KI-Systeme einsetzen, insbesondere zur Leistungsüberwachung, Personalbeurteilung oder -auswahl, müssen verschiedene arbeitsrechtliche Anforderungen beachtet werden:

• Mitbestimmungspflicht: Der Betriebsrat muss beteiligt werden, sobald personenbezogene Daten automatisiert verarbeitet oder technische Einrichtungen eingesetzt werden, die das Verhalten oder die Leistung der Arbeitnehmer überwachen können (§ 87 Abs. 1 Nr. 6 BetrVG).
• Transparenz und Information: Arbeitnehmer müssen über den Einsatz von KI-Systemen, den Zweck und die möglichen Auswirkungen aufgeklärt werden.
• Diskriminierungsverbot: KI darf keine mittelbare oder unmittelbare Benachteiligung von Beschäftigten bewirken (AGG, europäische Gleichbehandlungsregelungen). Training und Einsatz von KI müssen diskriminierungsfrei ausgestaltet werden.
• Schutz der Persönlichkeitsrechte: Es ist sicherzustellen, dass die informationelle Selbstbestimmung der Beschäftigten gewahrt bleibt. Der Umfang der Datenerhebung und -auswertung muss verhältnismäßig sein.

Bei Verstößen drohen nicht nur arbeitsrechtliche Auseinandersetzungen, sondern auch Bußgelder nach Datenschutz- und Gleichbehandlungsvorschriften.

Wie sind Künstliche Intelligenz und Wettbewerbsrecht miteinander verknüpft?

Einsatz von KI-Systemen berührt zahlreiche Aspekte des Wettbewerbsrechts.

• Marktmacht und Diskriminierung: Der Einsatz von KI kann Marktverhältnisse stark beeinflussen, z.B. durch personalisierte Preisgestaltung oder automatisierte Entscheidungsfindung bei Plattformen. Hier sind kartellrechtliche Missbrauchstatbestände (§ 19 GWB, Art. 102 AEUV) zu beachten.
• Irreführende Geschäftspraktiken: Durch KI-generierte Inhalte (z.B. Deepfakes, automatisierte Bewertungen) können irreführende Werbe- oder Geschäftsmodelle begünstigt werden, was nach UWG unzulässig ist.
• Fairness bei Algorithmen: Es besteht die Gefahr, dass KI-Systeme Wettbewerber benachteiligen oder Kunden ungleich behandeln. Dies kann als Behinderungs- oder Diskriminierungspraktik im Sinne des Kartellrechts eingestuft werden.
• Transparenzgebote: Unternehmen müssen bei bestimmten Geschäftsmodellen offenlegen, wenn sie KI verwenden, und dürfen keine irreführenden Angaben im Zusammenhang mit KI-Systemen machen.

Verstöße gegen Wettbewerbsrecht sind mit erheblichen Rechtsfolgen wie Unterlassungs- und Schadensersatzansprüchen verbunden.

Welche regulatorischen Entwicklungen gibt es für KI im EU-Raum?

Im EU-Bereich werden aktuell mit dem AI Act und ergänzenden Rechtsakten spezifische Regelungen etabliert, um einen einheitlichen Rechtsrahmen für KI-Systeme zu schaffen. Zentrale Aspekte:

• Risikobasierter Ansatz: Der AI Act sieht eine Klassifizierung von KI-Systemen nach Risiko vor (minimales, begrenztes, hohes und unannehmbares Risiko), mit jeweils abgestuften regulatorischen Anforderungen.
• Transparenz- und Dokumentationspflichten: KI-Anbieter müssen umfangreiche technische Dokumentationen, Nachweise zur Risikoanalyse und zum -management vorhalten.
• Konformitätsbewertungsverfahren: Für Hochrisiko-KI sind umfangreiche Prüfverfahren vorgeschrieben.
• Aufsichtsbehörden: Die Umsetzung und Kontrolle erfolgt durch nationale und europäische Aufsichtsstellen.

Die regulatorischen Vorgaben werden den Einsatz und die Gestaltung von KI-gestützten Systemen künftig maßgeblich prägen und verlangen bereits jetzt eine genaue Beobachtung und Vorbereitung betroffener Unternehmen.