Het gebruik van kunstmatige intelligentie (AI) is een van de drijvende krachten achter de digitale transformatie en is in elk groot bedrijf aan de orde. Maar zoals zo vaak het geval is met technologie, wordt het principe van “doe het eerst” snel gevolgd, vooral omdat je de aansluiting niet wilt verliezen – waardoor fundamentele vragen over het contractenrecht snel uit het oog worden verloren. In het volgende kijken we naar de belangrijkste contractuele uitdagingen in een poging om praktijkgerichte impulsen te geven aan softwareontwikkelaars en management in Duitsland.
Diversiteit van Duitse contracttypes voor AI
KI-Leistungen können in Deutschland als Dienstleistung in Form des Trainings oder als Cloud-Lösung (KIaaS), Individualsoftware oder in hybriden Modellen bereitgestellt werden. Die jeweilige vertragliche Einordnung beeinflusst maßgeblich die Rechte und Pflichten der Parteien. Häufig werden KI-Verträge entweder als Miet- oder Werkverträge qualifiziert, wobei SaaS-Lösungen wie KIaaS typischerweise den Charakter eines Dauerschuldverhältnisses aufweisen.
Een specialiteit is het trainen van AI-modellen, waarbij vaak externe platforms zoals AWS of Azure worden gebruikt. Dit roept de vraag op of deze diensten moeten worden beschouwd als puur technische diensten of als auteursrechtelijk beschermde werkcontracten. Met name de verantwoordelijkheid voor de trainingsgegevens en de kwaliteit daarvan is een belangrijk punt. Uiteindelijk zie ik dit als een servicecontract waarbij (alleen) de goede uitvoering van de (doorlopende) training verschuldigd is.
Gegevens als onderwerp van een AI-contract
Gegevens vormen de basis van alle AI. De Data Act creëert nieuwe randvoorwaarden voor de toegang tot en het gebruik van gegevens, met name door de invoering van B2B-toegangsrechten. Bedrijven moeten duidelijke afspraken maken over de herkomst, het gebruik en het eigendom van gegevens.
Dit brengt specifieke uitdagingen met zich mee, vooral in de B2B-sector:
- Kwaliteit en representativiteit van de gegevens: Onvoldoende of bevooroordeelde gegevens kunnen leiden tot onjuiste modellen.
- Aansprakelijkheid en beveiliging: contracten moeten regelen wie aansprakelijk is als gegevens misbruikt of gecompromitteerd worden.
Garantie en aansprakelijkheid voor AI in Duitsland
AI-systemen kunnen per definitie leren en zijn niet deterministisch. Dit roept met name vragen op met betrekking tot het recht op gebreken en productaansprakelijkheid. Terwijl traditionele software vaak wordt beoordeeld op basis van zijn functionaliteit, moeten AI-diensten worden beoordeeld op basis van hun resultaten. Contracten moeten daarom:
- Definieer duidelijk de voorwaarde op het moment van risico-overdracht.
- bepalingen bevatten voor nakoming achteraf en rectificatie die recht doen aan het dynamische karakter van AI.
De beoordeling van materiële defecten in AI-systemen vormt een bijzondere uitdaging, omdat ze vaak dynamisch zijn en kunnen leren. Een centraal aspect is de overeenstemming over de doelkwaliteit. Dit moet expliciet definiëren welke diensten het AI-systeem vanaf het begin moet leveren en in welke mate het door training kan worden geoptimaliseerd.
Ik zie verschillende instructieverplichtingen voor ontwikkelaars van AI-systemen in de contractuele relatie – deze kunnen idealiter worden gecombineerd met een poging om de beperkingen en functionaliteiten van het systeem te beschrijven. In het bijzonder zou er een instructie moeten worden gegeven over de onvoorspelbare autonomie van een AI-systeem, in ieder geval in alle details – en deze kan worden gecombineerd met een gericht slagingspercentage bij de afhandeling van problemen.
Een afwijking van de overeengekomen kwaliteit, bijvoorbeeld door onvoorziene storingen of onvoldoende leergedrag, kan worden beschouwd als een materieel defect. Het is belangrijk dat contracten ook het verwachte leervermogen definiëren. Er moet bijvoorbeeld worden gespecificeerd hoe snel en onder welke omstandigheden de AI zijn prestaties moet verbeteren.
Een ander punt is de kwestie van “initiële prestaties”. Dit verwijst naar de verwachtingen van het systeem onmiddellijk na levering. Als er bijvoorbeeld een stembesturingssysteem wordt verkocht, moet het al werken zonder verdere training, tenzij anders overeengekomen.
Defectrechten zoals nakoming achteraf, vermindering of intrekking blijven essentiële instrumenten om te reageren op afwijkingen. Er moet echter worden opgemerkt dat bij AI-systemen de grens tussen een materieel defect en de natuurlijke beperkingen van de technologie vaak vaag is. Daarom moeten er duidelijke bepalingen in contracten worden opgenomen om de verwachtingen van beide partijen in goede banen te leiden.
Uitdagingen op het gebied van auteursrecht in Duitsland
De kwestie van de beschermbaarheid van AI-gegenereerde inhoud blijft controversieel. Onder de huidige wetgeving genieten alleen werken met een menselijk tintje auteursrechtelijke bescherming. Bedrijven moeten daarom contractueel vastleggen wie de rechten op AI-producten bezit en hoe ze gebruikt mogen worden.
AIaaS: specifieke uitdagingen
AI-as-a-Service (AIaaS) biedt flexibele gebruiksmogelijkheden, maar stelt ook speciale eisen aan het contractontwerp. Deze staan centraal:
- Servicebeschrijvingen: Duidelijke specificaties over de functie en prestaties van de AI.
- Trainingsgegevens: Verduidelijking van wie verantwoordelijk is voor de levering en kwaliteit ervan.
- Compliance: Ervoor zorgen dat de aanbieder voldoet aan wettelijke vereisten zoals de AI-wet.
De invloed van de AI-wet
De AI-wet van de EU heeft verstrekkende gevolgen voor het contractuele ontwerp van AI-systemen, vooral met betrekking tot toepassingen met een hoog risico. De verordening legt aanbieders en exploitanten strenge eisen op om de veiligheid en transparantie van AI-systemen te waarborgen. De verplichtingen voor opleiding en het op de markt brengen staan hierbij centraal:
- Risicobeheer: aanbieders van AI-systemen moeten een uitgebreid risicobeheersysteem implementeren dat de hele levenscyclus van een AI-systeem bestrijkt. Dit systeem moet niet alleen potentiële risico’s minimaliseren, maar ook continu worden gecontroleerd om aanpassingen te kunnen doen.
- Gegevens en gegevensbeheer: Er worden strenge normen gesteld aan trainingsgegevens. De gegevens moeten representatief, geldig en vrij van vooroordelen zijn. Daarnaast zijn aanbieders verplicht om hun procedures voor gegevensverwerking nauwkeurig te documenteren om te garanderen dat de trainingsgegevens aan het beoogde doel voldoen.
- Transparantie en documentatie: De regelgeving vereist gedetailleerde technische documentatie. Aanbieders moeten uitleggen hoe de AI werkt en hoe beslissingen worden genomen. Dit moet ook toegankelijk worden gemaakt voor exploitanten, zodat ze gemakkelijker aan de voorschriften kunnen voldoen.
- Systemen met een hoog risico: vooral voor AI-systemen met een hoog risico is een conformiteitsbeoordeling door een derde partij verplicht. Dit zorgt ervoor dat het systeem voldoet aan de wettelijke eisen voordat het op de markt wordt gebracht. Aanbieders zijn ook verplicht om een continu bewakingssysteem op te zetten dat incidenten of storingen meldt.
- Contracten opstellen: Bedrijven die AI-systemen ontwikkelen of gebruiken, moeten contracten zo opstellen dat de verantwoordelijkheden duidelijk geregeld zijn. Dit omvat expliciete regels voor gegevensbronnen, naleving van de AI-wet en processen voor samenwerking tussen aanbieders en exploitanten.
De AI-verordening voegt een nieuwe dimensie toe aan het opstellen van contracten, omdat specifieke vereisten rechtstreeks in de rechtsverhouding tussen de partijen worden geïntegreerd. Bedrijven moeten er daarom voor zorgen dat hun contracten zowel de technische als de wettelijke vereisten omvatten.
Outlook
De juridische uitdagingen op het gebied van AI en contractenrecht zijn net zo divers als de technologie zelf. Bedrijven moeten in een vroeg stadium strategische en juridische expertise inschakelen om juridische risico’s te minimaliseren en optimaal gebruik te maken van de mogelijkheden die AI biedt. Duidelijke contracten die zijn aangepast aan de speciale kenmerken van AI zijn een centrale sleutel tot succes – voor zover het een waarheid als een koe is.
Naar mijn mening is het zelfs duidelijk dat hier nog te veel werk aan de winkel is. De juridische verhandelingen over dit onderwerp benaderen het gebied van AI alsof we software ontwikkelen (zoals we vroeger deden). Oplossingen waarbij cloud-oplossingen worden getraind met bedrijfseigen gegevens – om vervolgens voortdurend opnieuw te moeten worden gekalibreerd – komen echter duidelijk veel voor bij mijn klanten. Dergelijke contracten zijn meestal diensten met doorlopende verplichtingen, vaak gekoppeld aan vrij eenvoudige ontwikkelingen op maat om de AI aan te sluiten op bestaande systemen. Daarnaast hebben de ontwikkelaars van AI-systemen naar mijn mening een oorspronkelijke verplichting om hun klanten te informeren over de vereisten van de AI-verordening met betrekking tot transparantie en systemen met een hoog risico. In geen geval mag worden aangenomen dat dit uitsluitend de verantwoordelijkheid van de klant is!
Ons kantoor is gespecialiseerd in strafrechtelijke verdediging, witteboordenstrafrecht en IT-recht. Let op ons werk in kunstrecht, digitaal bewijs en softwarerecht.
Let op: Voor bedrijven zijn wij landelijk actief, voor consumenten uitsluitend in NRW voor strafverdediging + OWI's!
- Informeel bankieren onder juridische druk: Hawala-systemen en de complexe juridische beoordeling van strafbaarheid en vermogensontneming in Duitsland - maart 23, 2025
- Open source software in de Duitse wet - maart 23, 2025
- Tabaksaccijns en shisha-tabak in Duitsland: strafrechtelijke risico’s voor winkeliers en bars - maart 8, 2025
