Künstliche Intelligenz und die Rolle des Aufsichtsrats

Die konkrete Rolle des Aufsichtsrats

Der Überwachungsrahmen des Aufsichtsrats

Werden Vorstandsentscheidungen mithilfe KI vorbereitet oder die Entscheidung an diese delegiert, so betrifft die Delegation mittelbar auch den Aufsichtsrat, da er seiner Überwachungsaufgabe aus § 111 AktG nachkommen muss.

Der Aufsichtsrat hat nach § 111 I AktG die Pflicht die Geschäftsführung zu überwachen. Im Rahmen dessen müssen Aufsichtsräte regelmäßig entscheiden, ob der Vorstand seine Geschäftsleitungsaufgabe sorgfältig wahrgenommen hat bzw. wahrnimmt. Der Aufsichtsrat ist verpflichtet, die Geschäftsführung auf die wesentlichen Grundsätze für eine ordnungsmäßige Geschäftsführung, konkret hinsichtlich ihrer Rechtmäßigkeit, Ordnungsmäßigkeit, Zweckmäßigkeit und Wirtschaftlichkeit hin, zu überwachen. Bei drohenden Rechtsverstößen ist der Aufsichtsrat verpflichtet, einzuschreiten. Ist dem jeweiligen Unternehmen aufgrund der Pflichtverletzung des Vorstands ein Schaden entstanden, muss der Aufsichtsrat den Schadensersatzanspruch geltend machen. Greift der Aufsichtsrat nicht ein, kann es zu einer Schadensersatzpflicht seinerseits kommen, §§ 116, 93 AktG.

Überwachung des KI-Einsatzes bei Vorstandsentscheidungen

Es ist gem. § 111 AktG Aufgabe des Aufsichtsrats Vorstandsentscheidungen, die (teilweise) mithilfe von KI erfolgen, zu überwachen. Aufgrund der Lernfähigkeit und Autonomie der KI lassen sich jedoch Ergebnisse zum Teil nicht mehr nachvollziehen, das System wird gewissermaßen zur Black Box. Folglich kann ein Vorstand, der Entscheidungen an KI delegiert hat, dem Aufsichtsrat kaum noch sinnvoll Auskunft über deren genauen Arbeitsprozess geben, obwohl er dazu gem. § 90 AktG verpflichtet ist.

Dies stellt auch ein Risiko für den Aufsichtsrat dar. Für ihn werden die oben angesprochenen ISION-Grundsätze des BGH zur Plausibilitätsprüfung extern eingeholten Expertenrats entsprechend anzuwenden sein. Dabei besteht bei KI-Systemen, die anstelle externen Expertenrats treten, die Herausforderung, dass ihre Ergebnisse oftmals nicht oder nur bedingt erklärbar sind. Daher kann sich der Aufsichtsrat nicht darauf beschränken, sich allgemein mit KI vertraut zu machen und ihre Ergebnisse kritisch zu hinterfragen. Vielmehr muss in rechtssicherer Anwendung der geforderten Plausibilitätsprüfung jedenfalls die konkrete KI-basierte Entscheidung erklärbar sein. Richtigerweise folgt daraus für den Aufsichtsrat nicht, dass er den Vorstand verpflichten muss, den Einsatz von KI vollständig zu unterlassen. Das ist zum einen ökonomisch nachteilig, zum anderen ist der Zugang zu dem inneren Denkprozess eines Menschen ebenfalls für andere unzugänglich und an diese darf ebenfalls delegiert werden. Zudem sind KI-Systeme bzw. ihre Arbeitsweise nicht völlig unerklärbar. Dem Vorstand dürfte zumindest die Auskunft über Kernparameter iSv Art. 13 II lit. f DSGVO, also Logik, Tragweite, Auswirkungen, möglich sein und sollte daher vom Aufsichtsrat auch eingefordert werden. Zu diskutieren ist, ob und wie sich der Überwachungsfokus (nicht die Aufgabe) des Aufsichtsrats verändert, wenn KI vom Vorstand eingesetzt wird. Der Aufsichtsrat hat die sorgfältige Ausübung der Vorstandspflichten, die in diesem Zusammenhang auch oft "Corporate Digital Responsibility" genannt wird, zu überwachen. Eine präzisere Eingrenzung des Pflichtenprogramms ist mithilfe der ethischen Leitlinien der oben genannten Initiativen möglich. All diese Leitlinien fordern die Implementierung bestimmter organisatorischer Vorkehrungen, die fehlerhafte, diskriminierende KI-Ergebnisse vermeiden sollen, sowie die Letztentscheidungskompetenz eines Menschen und ein gewisses Mindestmaß an Technikverständnis des Anwenders fordern. Der Aufsichtsrat, der seiner Überwachungsaufgabe sorgfältig nachkommen möchte, sollte sich an den Ethikleitlinien orientieren. Zudem sollte sich der Aufsichtsrat an der Festlegung eines KI-Ethik-Codes beteiligen.

Überwachung des KI-Einsatzes außerhalb direkter Vorstandsentscheidungen

Die Rolle des Aufsichtsrats bei KI-Einsatz im Unternehmen ist herausfordernd und viele der hier angesprochenen Themen sind noch nicht abschließend geklärt. Klar ist aber, dass der Aufsichtsrat neben der Überwachung des Vorstands auch die Gesamtheit des Geschäfts im Blick haben muss. Er muss prüfen, ob der Vorstand den strukturellen Einsatz von KI richtig im Unternehmen verankert hat. Auch hier müssen Ethik und Compliance beachtet werden. Zudem muss der Aufsichtsrat überprüfen, wie der Vorstand den Einsatz von KI im Unternehmen überwacht.

Konkret darf der Aufsichtsrat nicht nur Effizienz der KISysteme für das Unternehmen und die strategische Weiterentwicklung des Geschäftsmodells, von Produkten mittels KI etc. betrachten. Entsprechend seiner drei Überwachungsperspektiven muss der Aufsichtsrat überwachen, ob der Vorstand KI verantwortlich, also recht-, ordnungs- und zweckmäßig einsetzt. Es geht dabei nicht um die Überwachung des KI-Einsatzes im Einzelfall, sondern um die Frage, ob ethische und regulatorischen Vorgaben beachtet werden und der Vorstand Prozesse und Strukturen für eine angemessene Entwicklung und Nutzung von KI im Unternehmen eingerichtet hat. Dies setzt eine intensive Beurteilung der Nutzung von KI-Systemen voraus. Dafür ist von entscheidender Bedeutung, dass der Aufsichtsrat Transparenz darüber schafft, welche rechtlichen und regulatorischen Regelungen für ein Unternehmen anwendbar sind. Dabei ist gerade vielfach auch der globale Blick gefragt, verschiedene Jurisdiktionen sollten im Auge behalten werden. Hier bietet sich die Zusammenarbeit mit entsprechenden Institutionen und Gremien an.

Beratungs- und Mitwirkungsfunktion des Aufsichtsrats

Der Aufsichtsrat hat den Vorstand im Rahmen seiner Überwachungstätigkeit auch zu beraten. Dies ist als Gremium in den Aufsichtsratssitzungen oder aber auch nur durch ein bestimmtes Aufsichtsratsmitglied aufgrund seiner besondere KI-Expertise im Rahmen seines Mandats möglich. Vor allem sollte der Aufsichtsrat sicherstellen, dass das Thema KI ausreichend in der Strategiediskussion verankert ist. Besonders wichtig ist die Beratungsfunktion des Aufsichtsrats bei Investitionsentscheidungen bezüglich KI. Aufsichtsräte sollten darauf hinwirken, dass weitsichtig gehandelt und KI mit einer langfristigen Perspektive im Unternehmen verankert wird. Denn Investitionen in neue, KI-gestützte Geschäftsmodelle weisen eigene, möglicherweise sehr langfristige Investitionszyklen auf. Aufsichtsräte sollten ausreichende finanzielle Mittel bereitstellen, um dieses zukunftsweisende Thema adäquat zu unterstützen.

Zusammengefasst wird die Überwachungs-, Beratungs- und Mitwirkungsfunktion des Aufsichtsrats in der Praxis einen kontinuierlichen Austausch von Aufsichtsrat und Vorstand schon bei der Entscheidung, ob und wie KI zum Einsatz – etwa bei der Erstellung von Entscheidungsvorlagen (auch in den Aufsichtsrat hinein) – gelangt, erfordern. KI-basierte Entscheidungsprozesse enthalten eine besondere psychologische Komponente. Zur Ausübung ihrer Überwachungsfunktion müssen die Aufsichtsräte daher die Stärken und Schwächen ihrer Vorstände bzw. Geschäftsführung kennen oder zumindest über die Zeit kennenlernen. Vor diesem Hintergrund muss der Aufsichtsrat ein Auge darauf werfen, wie der Vorstand bzw. die Geschäftsführung KI einsetzen, insbesondere bei wichtigen strategischen Entscheidungen. Sobald ein Mensch in einen KI-basierten Prozess eingebunden wird, spielen wieder die gleichen psychologischen Limitationen, Denkfehler und Emotionen eine Rolle, die auch ohne den Einsatz von KI die Qualität von Entscheidungen mindern können.

Personelle und strukturelle Überlegungen für den Aufsichtsrat

KI-Expertise im Aufsichtsrat

Neue, KI-gestützte Geschäftsmodelle können sich sehr schnell entwickeln, denn die technischen Möglichkeiten von KI steigen rasant. Dennoch spielt KI-Expertise in Dax-Aufsichtsräten bisher keine große Rolle. Nach einer durch die HKP Group und das European Center for Board Effectiveness durchgeführten Studie geben nur 39% der Aufsichtsräte der Dax-Konzerne an, Experten für Digitales zu sein. Da "Digital" nicht unbedingt "KI" bedeutet, dürfte die Zahl der Experten für KI in Aufsichtsräten wohl noch kleiner ausfallen. Der Begriff KI wird nur in drei veröffentlichten Qualifikationsmatrizen im DAX40 aus dem Geschäftsjahr 2022 verwendet. Schon dies zeigt, dass in den Räten KI noch keinen allzu großen Stellenwert hat.

Dabei ist es für eine effiziente Überwachung und Beratung des Vorstands von essenzieller Bedeutung, dass im Aufsichtsrat zumindest ein grundlegendes Verständnis für KI vorhanden ist. Hier gilt wie für das Transformationsthema „Nachhaltigkeit“ auch: Die persönliche Weiterbildung für alle Aufsichtsratsmitglieder, in denen KI eingesetzt wird, ist ein „Muss“. Hierfür sollten – auch im Unternehmen – regelmäßig Fortbildungsmaßnahmen mit internen und externen Experten für den Aufsichtsrat angeboten werden. Nicht nur, um externes Wissen, Entwicklungen und Benchmark einzuholen, sondern auch um unternehmensintern den Aufbau und den fortschreitenden Einsatz von KI lernend begleiten zu können.

Daneben muss im gesamten Gremium auch für vertieftes Spezialwissen gesorgt werden. Es braucht einzelne Mitglieder mit vertieften Kenntnissen zu KI-gestützter Transformation. Dies sollte schon heute unbedingt Gegenstand einer langfristigen Nachfolgeplanung sein, denn KI-Experten sind gesucht und stark nachgefragt. Für eine Interimsperiode sollte ein Aufsichtsrat daher die Möglichkeit nutzen, bestimmte KI-Entwicklungen im Unternehmen ggf. durch externe Experten einschätzen zu lassen und sich eine sachverständige Expertenmeinung einzuholen. Dies wird langfristig allerdings kein tragfähiges „operating model“ für den Aufsichtsrat sein.

Ethikräte

Stand heute ist in vielen Unternehmen KI-Expertise selten. Viele Vorstände haben ebenso Fortbildungsbedarf. Es ist daher auch Führungsaufgabe des Aufsichtsrats selbst, dass die notwendigen Kompetenzen in Sachen KI im Vorstand und Unternehmen durch eine gezielte Nachfolgeplanung und gegebenenfalls umfangreiche Aus- und Weiterbildung aufund ausgebaut werden.

Hinsichtlich der ethischen Perspektive eines KI-Einsatzes im Unternehmen kann der Aufsichtsrat den Vorstand dahingehend beraten, einen KI-Ethikrat zu bestellen. Grundsätzliche Aufgabe eines KI-Ethikrates ist es, die ethischen Risiken von KI systematisch zu erfassen, zu klassifizieren und den Umgang damit vorzuschlagen.

Die Räte können sowohl hinsichtlich ihrer Kompetenzen als auch Besetzung unterschiedlich ausgestaltet sein: Ihnen kann eine rein beratende Funktion zukommen, d. h. der KI-Ethikrat gibt der Geschäftsleitung nicht-bindende Empfehlungen für die konkrete Verwendung von KI im Unternehmen.

Dem KI-Ethikrat kann ein Anhörungs- und Beratungsrecht direkt mit dem zuständigen Vorstand eingeräumt werden. Damit wäre gewährleistet, dass der Ethikrat echten Einfluss auf die KI-Nutzung im Unternehmen nehmen kann. Hier gilt kein one-size fits all, jedes Unternehmen muss selbst entscheiden, welches Modell am besten zu ihm passt.

Das gilt auch für die Besetzung der Räte. Zum einen können KI-Ethikräte rein intern besetzt werden. So geht beispielsweise ein führender Technologiekonzern vor: Dessen KI-Ethikrat beinhaltet Führungspersönlichkeiten aus verschiedenen Abteilungen des Unternehmens. Vorteil einer solchen internen Besetzung ist u. a. die Begleitung eines Change-Prozesses unter den Mitarbeitenden, der bei der Implementierung von KI in eine Organisation zwingend erforderlich sein wird. Zum anderen werden KI-Ethikräte auch rein extern und fachübergreifend besetzt: In jenen Ethikräten kommen etwa Philosophen, Theologen und Juristen zusammen, um das hochkomplexe Feld KI-Ethik aus unterschiedlichen Perspektiven zu beleuchten.

Idealiter werden beide Besetzungsansätze miteinander verbunden: Es kann entweder ein gemischt besetzter Ethik-Rat oder jeweils ein interner und ein externer Ethik-Rat (, die sich eng abstimmen müssen) eingerichtet werden, um alle Perspektiven und Bedürfnisse miteinander zu kombinieren. Dadurch lassen sich zwei wertvolle Perspektiven auf das Thema KI-Ethik miteinander verbinden.

Empfehlenswert könnte darüber hinaus die Gründung von Strategie- und Innovationskomitees sein, die sich gezielt mit dem Einfluss von KI auf die Unternehmensstrategie und das Geschäftsmodell befassen. Einige Aufsichtsräte in Unternehmen, in denen die digitale Transformation zukunftsentscheidend ist, verfügen schon über Ausschüsse, die die Begriffe "Technologie" und/oder "Innovation" bzw. „digitale Transformation“ beinhalten.

KI als Instrument des Aufsichtsrats

Der Aufsichtsrat muss nicht nur die KI-Anwendung des Vorstands überwachen und dahingehend beraten, sondern kann bzw. sollte sich KI selbst zu Nutze machen.

Dies gilt nicht nur für den Einsatz von KI bei aufsichtsratseigenen Entscheidungen, wie etwa der Beschlussfassung zu unternehmerischen Maßnahmen, zum Beispiel Investitionsprojekten. Hier müssen wohl dieselben (rechtlichen) Maßstäbe für die Nutzungen und Verantwortung wie beim Vorstand angelegt werden. Das heißt: das Mandat ist ein höchstpersönliches, mithin eine Entscheidungsfindung durch KI kann maximal unterstützt werden. Die finale Entscheidungsbefugnis des Aufsichtsrats kann nicht vollständig an eine KI abgegeben werden.

Ähnlich wie auf Ebene des Vorstands stellt sich auf Ebene der Aufsichtsräte die Frage, ob sich dieser KI bedienen darf oder sogar sollte, um seinen Überwachungs- und Beratungspflichten nachzukommen. § 116 AktG verweist auf § 93 AktG, welcher wiederum die Vorstands- bzw. Aufsichtsratsmitglieder verpflichtet, bei ihrer Geschäftsführung die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters anzuwenden. Damit ähneln sich Ermessensspielraum und Pflichtbindung von Vorstand und Aufsichtsrat, sodass sich auf die oben genannte Diskussion zur Pflicht des Vorstands zur Nutzung von KI verweisen lässt. Im Ergebnis kann das Bestehen einer solchen Pflicht zur Verwendung von KI bei der Umsetzung von Überwachungs- und Beratungspflichten (noch) nicht angenommen werden. Der Aufsichtsrat darf sich der KI aber bedienen.

Zugleich besteht die Möglichkeit, KI auch für die Optimierung der eigenen Arbeitseffizienz des Aufsichtsrats zu nutzen. So wäre beispielsweise denkbar, für die Vor- und Nachbereitung von Sitzungen KI / Large Language Modelle einzusetzen. Mit der Hilfe von KI-Systemen können Präsentationen erstellt werden oder Berichte recherchiert und geschrieben werden. Insbesondere solche KI-Systeme, die auch unternehmensinterne Daten verwerten, können die Produktivität steigern. Dabei ist allerdings bisher noch offen, wie solche Systeme Datenschutz und Vertraulichkeit sicherstellen können.

KI-gestützte Tools, die einen Zugriff auf Unternehmensinterna haben, könnten Aufsichtsräte zudem zukünftig bei der Überwachung des Risikomanagements unterstützen. Wenn der Vorstand dem Aufsichtsrat Informationen bereitstellt, kann der Aufsichtsrat diese zum Beispiel auf ihre Vollständigkeit hin kontrollieren – zum Beispiel mit Hilfe von Chatbots (Die Anfrage an den Chatbot lautet dann zum Beispiel: "Welche Risiken wurden im Lagebericht 2023 genannt, die im Lagebericht 2022 noch nicht genannt wurden?").

Da Aufsichtsräte verpflichtet sind, sich eigenständig fortzubilden, können sie zu diesem Zweck den Austausch mit Chatbots wie ChatGPT nutzen. Zu beachten ist dabei jedoch, dass ChatGPT nicht immer präzise ist und Fehler machen kann.

Trotz der unterschiedlichen Einsatzmöglichkeiten von KI in der Tätigkeit des Aufsichtsrats hat eine Studie von ARMID herausgefunden, dass weniger als 2% der befragten Aufsichtsräte und Beiräte mittelständischer Unternehmen künstliche Intelligenz, beispielsweise ChatGPT, intensiv zur Effizienzsteigerung der Gremienarbeit einsetzen. Aktuelles Hemmnis für den Einsatz von KI könnten Einwände aus Rechtsabteilungen der Unternehmen sein, die Konflikte mit Datenschutz- und Datenaufbewahrungsvorschriften befürchten. In den Abteilungen herrscht noch Unklarheit darüber, wie man diesen Bedenken begegnen kann. Es besteht also noch reichlich Klärungsbedarf.

Fazit

Der Aufsichtsrat nimmt eine wichtige Rolle bei der Vorbereitung der eigenen Unternehmen auf die KI-Revolution ein. Er ist in vielfältiger Hinsicht mit dem Thema befasst. Der Aufsichtsrat muss die effiziente Nutzung von KI im Unternehmen durch weitsichtige Entscheidungen ermöglichen, aber auch auf die Risiken hinweisen. Denn die Verwendung von sich rasant entwickelnder KI ist untrennbar mit ethischen Herausforderungen verbunden. Durch die richtige personelle und fachliche Ausrichtung sowie die gezielte Einbeziehung externer Expertise, kann der moderne Aufsichtsrat beide Aufgaben erfüllen und so aktiv zur Gestaltung der KI-Nutzung in Unternehmen beitragen.