Welche Auswirkungen haben KI-implementierte Produkte auf die anwaltschaftliche Praxis?

Im Gespräch mit Frau Dr. Christiane Bierekoven

Celine Zeck: Frau Dr. Bierekoven, auf dem 9. Deutschen IT-Rechtstag, am 28. April 2022, sprechen Sie über die „Beratung von Mandanten mit KI-implementierten Produkten“. Kurz und knapp, ohne Ihrem Vortrag zu viel vorwegzunehmen: Welche Auswirkungen haben KI-implementierte Produkte auf die anwaltschaftliche Praxis? Welche Erwartungen hat die Mandantschaft?

Dr. Christiane Bierekoven: In der anwaltlichen Praxis stellt sich bei der Beratung zu KI-implementierten Produkten noch stärker als bislang die Herausforderung, neben dem Verständnis des wirtschaftlichen Geschäftsmodells ein ausgeprägtes Verständnis für die technologischen Hintergründe und Funktionsweisen KI-implementierter Produkte zu entwickeln. Gerade im Bereich der KI-implementierten Produkte, für den die EU mit dem Entwurf der KI-Verordnung einen branchenübergreifenden risiko-basierten Ansatz gewählt hat, ist dieses Verständnis von entscheidender Bedeutung, um die erforderliche Einordnung eines Produktes in die Risikoklassen des KI-VO-E vornehmen zu können.

Ein weiterer entscheidender Faktor ist die Bewertung der Datenqualität und des Personenbezugs der zu verarbeitenden Daten. Die Datenqualität, die mit dem Data-Centric AI Ansatz über den gesamten Lebenszyklus einer KI-implementierten Anwendung verbessert werden soll, ist von wesentlicher Bedeutung für das Funktionieren und die Qualität KI-implementierter Produkte. Entscheidend ist daneben die datenschutzrechtliche Bewertung, ohne die eine DSGVO-konforme Nutzung KI-implementierter Produkte nicht möglich ist.

Ein ausgeprägtes technisches Verständnis des jeweiligen KI-implementierten Produktes ist deshalb wesentlich für die Analyse und Identifikation der technologischen Risiken und der rechtlichen Rahmenbedingungen und Anforderungen.

Die Mandantschaft erwartet dieses technologische und technische Verständnis ebenso wie das Verständnis der wirtschaftlichen Implikationen und Geschäftsmodelle als Grundpfeiler einer fundierten rechtlichen Beratung im Zusammenhang mit KI-implementierten Produkten.

Celine Zeck: Ob in der Energiebranche, der Automobilindustrie, im Gesundheitswesen oder in der Chemiebranche – KI nimmt immer mehr Raum ein. Wie bewerten Sie die Entwicklung des Rechtsmarktes für KI-implementierte Produkte? Kann das Recht mit dieser Entwicklung mithalten? An welcher Stelle sehen Sie diesbezüglich den größten Handlungsbedarf?

Dr. Christiane Bierekoven: Das Potential für den Rechtsmarkt ist groß und wird bei weitem noch nicht voll ausgeschöpft. Dabei spielt eine besondere Rolle, dass die Beratung zu KI-implementierten Produkten vielfach eine Querschnittsmaterie darstellt, die unterschiedliche Rechtsgebiete betrifft.

Rechts- und Fachkenntnisse aus der Automobil-, Chemie- und Energiebranche sowie aus dem Gesundheitswesen – um Ihre Beispiele aufzugreifen – sind dabei ebenso wichtig wie die spezifischen Fach- und Rechtskenntnisse aus dem IT-, Daten-, Datenschutz- und Digitalrecht. Den größten Handlungsbedarf sehe ich darin, diese spezifischen Rechtsbereiche in einen modernen, agilen, interagierenden, iterativen und kooperativen Beratungsansatz zu integrieren, an dem neben Juristen auch Techniker Input liefern, um Mandanten umfassende auf ihr individuelles Geschäftsmodell und ihre spezifische Branche zugeschnittene Lösungen anbieten zu können.

Celine Zeck: Der Fortschritt im Bereich KI wirkt sich auf vielen Ebenen aus, etwa auf die Produktentwicklung, den Dienstleistungssektor, die Legislativebene und nimmt auch Einfluss auf die Verbrauchererwartungen. Auf welcher Ebene sehen Sie die größten Herausforderungen für KI-implementierte Produkte?

Dr. Christiane Bierekoven: Die größten Herausforderungen sehe ich bei der Produktentwicklung und der Legislativebene. Beide Ebenen sind eng miteinander verbunden, was insbesondere der Entwurf der KI-Verordnung der EU-Kommission zeigt. Ohne rechtlichen Rahmen stellt die Entwicklung KI-implementierter Produkte gerade in der aktuellen, sich ändernden wirtschaftlichen und gesellschaftlichen Lage potenziell eine erhebliche Gefahr für die Freiheiten, Grundrechte und die Gesundheit dar. Dieser rechtliche Rahmen darf jedoch nicht dazu führen, dass er technologischen Fortschritt behindert und für Unternehmen, die innerhalb der EU KI-implementierte Produkte entwickeln, vertreiben und einsetzen möchten, zu einem Wettbewerbsnachteil werden. Im Gegenteil, heute mehr denn je ist hier eine Vorreiterrolle der EU gefragt, die darauf ausgerichtet ist, sowohl technisch als auch wirtschaftlich und rechtlich in der sich abzeichnenden neuen Weltordnung eine Vorbildfunktion einzunehmen und zugleich autark und wettbewerbsfähig zu agieren.

Celine Zeck: Im internationalen Vergleich – welches Land sehen Sie als Vorreiter im Bereich Recht und KI? Wo können wir uns hier evtl. etwas abgucken?

Dr. Christiane Bierekoven: Ich würde hier gar nicht so sehr in andere Länder schauen. Die Rechtsinstrumente, die das deutsche und europäische Recht bieten, sind grundsätzlich gut geeignet, die rechtlichen Herausforderungen KI-implementierter Produkte abzubilden. Mit dem Entwurf der KI-Verordnung ist ein grundsätzlich praxistauglicher Regelungsrahmen geschaffen worden. Entscheidend ist jedoch, dass die Regelungen des Entwurfes die Innovation und technologische Entwicklung nicht behindern, indem beispielsweise zu starre Anforderungen an das Inverkehrbringen von KI-implementierten Produkten oder bestimmte Technologien festgeschrieben werden. Die Regelungen des Entwurfes sollten deswegen kritisch hinterfragt und so ausgestaltet werden, dass sie zwar einerseits die Risiken mindern oder minimieren, die der Entwurf vermeiden möchte, andererseits jedoch die Innovation und technologische Weiterentwicklung, die ja auch mehr Sicherheit bringen kann, nicht verhindern.

Zudem ist es dringend erforderlich, die weiteren rechtlichen Rahmenbedingungen, die im Zusammenhang mit KI eine wichtige Rolle spielen, insbesondere auf EU-Ebene, wie die DSGVO, der neue Entwurf des EU Data Act oder der Entwurf zur Produkthaftung bei KI-implementierten Produkten, viel stärker aufeinander abzustimmen, um von vorneherein Regelungsungenauigkeiten zu vermeiden. Diese schaffen andernfalls die Gefahr, die technologische und wirtschaftliche Entwicklung und Weiterentwicklung dieser Produkte aufgrund ihrer Rechtsunsicherheiten mittel- und langfristig zu verhindern. Es bedarf klarer und vorhersehbarer Regelungen nicht nur innerhalb der jeweiligen Regelwerke, sondern vor allem ihre Abstimmung aufeinander. Solche Abstimmungen können gerade im Entwurfsstadium noch Berücksichtigung finden. An ihnen wird gemessen, ob der Standort Europa attraktiv für KI-implementierte Produkte ist. Die rechtlichen Rahmenbedingungen nehmen hier neben den wirtschaftlichen eine entscheidende Rolle ein.

Celine Zeck: Gemessen an der zunehmenden Bedeutung von KI-implementierten Produkten für das Recht, die Wirtschaft und die Gesellschaft – hat sich Ihr persönlicher Umgang mit KI-implementierten Produkte in den letzten Jahren geändert? Gibt es eine Technologie, die Sie besonders spannend finden? Wenn ja, welche ist das und wieso?

Dr. Christiane Bierekoven: Das Vertrauen in die Leistungsfähigkeit und Sicherheit der Produkte ist im Laufe der Zeit gestiegen. Deshalb nutze ich solche Systeme wesentlich häufiger als früher. Face ID zum Entsperren des Smartphones und anstelle der Eingabe von Passwörtern für die zahlreichen Anwendungen, die man im Laufe der Zeit nutzt, Smart Home Produkte, Sprachassistenten beim Autofahren oder Fahrassistenzsysteme bis zum teilautonomen Fahren nutze ich regelmäßig. Sie erleichtern viele Alltagssituationen und machen zudem viel Spaß.

Celine Zeck: Das Thema des 9. Deutschen IT-Rechtstages lautet: IT-Recht überall: Transformation des IT-Rechts. Dieses Rechtsgebiet ist auch beim Juristennachwuchs stark im Kommen. Welche Tipps können Sie motivierten Junganwält*innen geben, die sich speziell für die Beratung von Mandanten mit KI-implementierten Produkten interessieren und in diesem Bereich aktiv werden wollen?

Dr. Christiane Bierekoven: Junganwält*innen, die ein Interesse für diesen Bereich mitbringen, sollten bereit sein, ein fundiertes Verständnis für die IT-Technologien, Rechtsgrundlagen, wirtschaftlichen Hintergründe und Rahmenbedingungen sowie Geschäftsmodelle für KI-implementierte Produkte zu entwickeln. Wichtig ist zugleich die Bereitschaft, während des Berufslebens offen zu bleiben für neue, radikale und zum Teil disruptive technologische Entwicklungen, um diese einordnen und auf ihre Zukunftsfähigkeit, ihr Potential und ihre Nachhaltigkeit hin bewerten zu können. Nur so gelingt im Ergebnis die rechtliche Einordnung.

IT-Recht bedeutet stetiger Wandel und Fortschritt. Die Faszination dieses Rechtsgebietes besteht für mich seit vielen Jahren darin, die neuesten technologischen Entwicklungen und Geschäftsmodelle begleiten und in Zukunft mit gestalten zu können.

Heute alltägliche Anwendungen, wie die Nutzung von Smartphones und Cloud-basierten Services, zeigen, dass entscheidende technologische Entwicklungen und neue Geschäftsmodelle ein Out-of-the-Box-Denken und die Bereitschaft erfordern, bestehende Mindsets aufzubrechen und zu ändern.

KI ist zwar keine neue Technologie, sie entfaltet jedoch gerade heute ihre besondere Bedeutung. Ohne sie wäre die Entwicklung von Impfstoffen in dieser kurzen Zeit in der Corona-Pandemie nicht möglich gewesen. Ohne KI-basierte Digitalisierung sind die großen Themen unserer Zeit wie Energiewende, Klimawandel und Sicherung unserer Freiheiten, Grundrechte und unseres Wohlstandes in den kommenden Jahren ebenso wenig zu bewältigen wie die Aufrechterhaltung unserer Wettbewerbs- und Verteidigungsfähigkeit in der neu einberufenen Zeitenwende. Dies alles sind spannende Herausforderungen, an denen mitzugestalten es sich gerade für junge Jurist*innen lohnt. Ich jedenfalls freue mich darauf und auf hoffentlich viele junge Jurist*innen, die uns auf diesem Weg begleiten werden.

Celine Zeck: Ich danke Ihnen herzlich für das Interview und Ihre Zeit.