Categorieën
Technologie- & IT-Recht

Kunstmatige Intelligentie en Contractenrecht in Duitsland

De integratie van kunstmatige intelligentie (KI) is een van de drijvende krachten achter digitale transformatie en opent nieuwe horizonten voor bedrijven. Naast technologische en economische overwegingen spelen juridische aspecten echter een centrale rol. Dit artikel belicht de belangrijkste contractuele uitdagingen en biedt praktische inzichten voor softwareontwikkelaars en het management.

De diversiteit aan contracttypen

KI-diensten kunnen worden geleverd als een dienst (AIaaS), als maatwerksoftware of in hybride modellen. De contractuele classificatie heeft een aanzienlijke invloed op de rechten en verplichtingen van de betrokken partijen. KI-contracten worden vaak geclassificeerd als huur- of werkcontracten, waarbij SaaS-oplossingen zoals AIaaS doorgaans lijken op langlopende verplichtingen.

Een bijzonder kenmerk is de training van KI-modellen, die vaak gebruikmaakt van externe platforms zoals AWS of Azure. Dit roept de vraag op of deze diensten moeten worden beschouwd als puur technische of als contracten beschermd onder het auteursrecht. De verantwoordelijkheid voor trainingsgegevens en de kwaliteit ervan is een belangrijk vraagstuk.

Gegevens als contractueel onderwerp

Gegevens vormen de basis van elk KI-systeem. De Data Act stelt nieuwe kaders vast voor toegang tot en gebruik van gegevens, met name door de introductie van B2B-toegangsrechten. Bedrijven moeten duidelijke afspraken maken over de oorsprong, het gebruik en het eigendom van gegevens.

Specifieke uitdagingen doen zich voor in de B2B-context:

  • Kwaliteit en representativiteit van gegevens: Onvoldoende of bevooroordeelde gegevens kunnen leiden tot defecte modellen.
  • Aansprakelijkheid en beveiliging: Contracten moeten bepalen wie aansprakelijk is als gegevens verkeerd worden gebruikt of gecompromitteerd.

Garantie en aansprakelijkheid

KI-systemen zijn inherent dynamisch en niet-deterministisch. Dit roept unieke vragen op in de gebieden van defectenrechten en productaansprakelijkheid. Terwijl traditionele software vaak wordt beoordeeld op functionaliteit, moeten KI-diensten worden beoordeeld op basis van hun resultaten. Contracten moeten daarom:

  • Duidelijk de staat van het systeem bij risicotransfer definiëren.
  • Voorzieningen bevatten voor herstel en verbetering die zijn afgestemd op de dynamische aard van KI.

Het bepalen van defecten in KI-systemen is een bijzondere uitdaging vanwege hun dynamische en lerende aard. Een centraal aspect is de overeenkomst over de doelconditie. Dit moet expliciet definiëren welke prestaties het KI-systeem vanaf het begin moet leveren en binnen welk kader het door training kan worden geoptimaliseerd.

Een afwijking van de overeengekomen conditie, zoals onvoorziene storingen of onvoldoende leervermogen, kan worden beschouwd als een defect. Contracten moeten ook de verwachte leervermogens definiëren, zoals hoe snel en onder welke omstandigheden de KI zijn prestaties moet verbeteren.

Een ander probleem betreft de “aanvankelijke functionaliteit.” Dit heeft betrekking op verwachtingen voor het systeem onmiddellijk na levering. Als bijvoorbeeld een spraakbesturingssysteem wordt verkocht, moet dit zonder verdere training functioneel zijn, tenzij anders is overeengekomen.

Defectrechten zoals herstel, prijsvermindering of terugtrekking blijven essentiële instrumenten om afwijkingen aan te pakken. Het is echter cruciaal te erkennen dat bij KI-systemen de grens tussen een defect en de natuurlijke beperkingen van de technologie vaak vervaagt. Duidelijke contractuele bepalingen zijn daarom noodzakelijk om de verwachtingen van beide partijen te beheren.

Auteursrechtelijke uitdagingen

De kwestie van bescherming van door KI gegenereerde inhoud blijft omstreden. Volgens de huidige wetgeving genieten alleen werken met een menselijke invloed auteursrechtelijke bescherming. Bedrijven moeten daarom contractueel vastleggen wie de rechten op KI-uitvoer bezit en hoe deze mogen worden gebruikt.

Auteursrechtelijke uitdagingen bij het trainen van generatieve AI-modellen in Duitsland

AIaaS: Specifieke uitdagingen

AI-as-a-Service (AIaaS) biedt flexibele gebruiksmogelijkheden, maar stelt ook unieke eisen aan het ontwerp van contracten. Belangrijke aspecten zijn:

  • Dienstbeschrijvingen: Duidelijke definities van KI-functies en prestatieverwachtingen.
  • Trainingsgegevens: Verduidelijking van verantwoordelijkheid voor levering en kwaliteit.
  • Naleving: Zorgen dat aanbieders voldoen aan regelgevende vereisten zoals de AI Act.

De impact van de AI Act

De AI Act van de EU heeft aanzienlijke gevolgen voor het ontwerp van contracten voor KI-systemen, met name met betrekking tot toepassingen met een hoog risico. De verordening stelt strikte eisen aan aanbieders en exploitanten om de veiligheid en transparantie van KI-systemen te waarborgen. Belangrijke verplichtingen voor training en implementatie zijn:

  • Risicobeheer: KI-aanbieders moeten een uitgebreid risicobeheersysteem implementeren dat de hele levenscyclus van een KI-systeem bestrijkt. Dit systeem moet niet alleen potentiële risico’s minimaliseren, maar ook continu worden bewaakt voor noodzakelijke aanpassingen.
  • Gegevens en gegevensbeheer: Voor trainingsgegevens gelden strenge normen. Gegevens moeten representatief, valide en vrij van vooroordelen zijn. Aanbieders zijn ook verplicht om hun gegevensverwerkingsprocedures nauwkeurig te documenteren om ervoor te zorgen dat de trainingsgegevens het beoogde doel dienen.
  • Transparantie en documentatie: De verordening eist gedetailleerde technische documentatie. Aanbieders moeten de werking van de KI uitleggen en uiteenzetten hoe beslissingen tot stand komen. Deze informatie moet ook toegankelijk worden gemaakt voor exploitanten om naleving te vergemakkelijken.
  • Hoogrisico-systemen: Voor hoogrisico-KI-systemen is een conformiteitsbeoordeling door derden verplicht. Dit zorgt ervoor dat het systeem voldoet aan de wettelijke eisen voordat het op de markt wordt gebracht. Aanbieders zijn ook verplicht om doorlopende bewakingssystemen op te zetten om incidenten of storingen te melden.
  • Contractontwerp: Bedrijven die KI-systemen ontwikkelen of gebruiken, moeten contracten zodanig structureren dat verantwoordelijkheden duidelijk worden gedefinieerd. Dit omvat expliciete bepalingen over gegevensbronnen, naleving van de AI Act en processen voor samenwerking tussen aanbieders en exploitanten.

De KI-verordening voegt een nieuwe dimensie toe aan contractontwerp door specifieke vereisten rechtstreeks te integreren in de juridische relaties tussen partijen. Bedrijven moeten ervoor zorgen dat hun contracten zowel de technische als de regelgevende eisen dekken.

Vooruitblik

De juridische uitdagingen op het gebied van AI en contractenrecht zijn net zo divers als de technologie zelf. Bedrijven moeten in een vroeg stadium strategische en juridische expertise inschakelen om juridische risico’s te minimaliseren en optimaal gebruik te maken van de kansen die AI biedt. Duidelijke contracten die zijn aangepast aan de speciale kenmerken van AI zijn een centrale sleutel tot succes – voor zover het een waarheid als een koe is.

In feite is het naar mijn mening duidelijk dat er op dit gebied nog te veel te doen is. De juridische verhandelingen over dit onderwerp benaderen het gebied van AI alsof men software ontwikkelt (zoals in het verleden). Maar, althans bij mijn klanten, oplossingen waarbij cloud-oplossingen worden getraind met bedrijfseigen gegevens – om vervolgens voortdurend opnieuw te moeten worden gekalibreerd – komen duidelijk veel voor. Dergelijke contracten zijn meestal diensten met doorlopende verplichtingen, vaak gekoppeld aan vrij eenvoudige ontwikkelingen op maat om de AI aan te sluiten op bestaande systemen. Daarnaast hebben de ontwikkelaars van AI-systemen naar mijn mening een oorspronkelijke verplichting om hun klanten te informeren over de vereisten van de AI-verordening met betrekking tot transparantie en systemen met een hoog risico. In geen geval mag worden aangenomen dat dit uitsluitend de verantwoordelijkheid van de klant is!

Duitse Advocaat Jens Ferner
Laatste berichten van Duitse Advocaat Jens Ferner (alles zien)

Door Duitse Advocaat Jens Ferner

Ik ben een gespecialiseerde advocaat voor strafrecht + gespecialiseerde advocaat voor IT-recht en wijd mijn professionele leven volledig aan strafrechtelijke verdediging - en IT-recht als advocaat voor creatieve & digitale bedrijven en greentech. Voordat ik advocaat werd, was ik softwareontwikkelaar. Ik ben auteur in een gerenommeerd StPO-commentaar en in vakbladen.

Ons kantoor is gespecialiseerd in strafrechtelijke verdediging, witteboordenstrafrecht en IT-recht. Let op ons werk in kunstrecht, digitaal bewijs en softwarerecht.

Let op: Voor bedrijven zijn wij landelijk actief, voor consumenten uitsluitend in NRW voor strafverdediging + OWI's!