KI-Governance-Plattformen sind lt. Gartner Teil des sich entwickelnden TRiSM-Frameworks (Trust, Risk and Security Management), um die rechtliche, ethische und betriebliche Leistung ihrer KI-Systeme zu verwalten. Was steckt dahinter?
Man versteht damit eine Software, die verschiedene Governance-Themen abdeckt. Damit sollen Organisationen in der Lage sein, Richtlinien für den verantwortungsvollen Einsatz von KI zu erstellen, zu verwalten und durchzusetzen und die Funktionsweise von KI-Systemen zu erklären und Transparenz zu schaffen, um Vertrauen und Verantwortlichkeit aufzubauen.
Neben der Verwaltung können damit aber auch operative Aufgaben abgedeckt werden, z. B. Dokumentationspflichten zum AI-Act oder zu anderen Regulatorischen Regeln in verschiedenen Ländern.
Dabei kommt eine Kombination aus Prozessen, Vorlagen und weiteren Tools zum Einsatz, die Robustheit, Transparenz, Fairness, Rechenschaftspflicht und Risikokonformität überwachen.
Potenzial ethischer KI-Governance-Plattformen
Gartner geht davon aus, daß die KI-Governance-Plattformen es Unternehmen ermöglichen, Aspekte der KI-Ethikaufsicht zu automatisieren. Zu den einzigartigen Funktionen und Fähigkeiten dieser Plattformen gehören:
Integrierte verantwortungsvolle KI-Methoden, denn KI-Governance-Tools sorgen für Transparenz, die Vertrauen, Rechenschaftspflicht und fundierte Entscheidungsfindung fördert.
Risikobewertungen: Ethische KI-Governance-Plattformen bewerten potenzielle Risiken wie Voreingenommenheit, Datenschutzverletzungen und negative gesellschaftliche Auswirkungen.
Modelllebenszyklus-Management Plattformen: Diese überwachen die Modellentwicklung, indem sie geeignete Prüfungen und Kontrollen anwenden, die die Bereitstellung und Wartung ethischer KI-Modelle in großem Maßstab unter Einhaltung von Best Practices für das KI-Engineering ermöglichen.
Prüfung und Überwachung von KI-Systemen: Die Instrumentierung stellt sicher, dass KI-Systeme im Laufe der Zeit mit verantwortungsvollen KI-Governance-Standards übereinstimmen.
Compliance-Management: Tools können bestehende KI-Ethikvorschriften und sich entwickelnde Datenschutzgesetze wie DSGVO und CCPA überwachen, um die Einhaltung sicherzustellen.
Verantwortlichkeit: Diese Plattformen identifizieren Funktionen, die verantwortungsvolle KI überwachen und es verschiedenen Interessengruppen ermöglichen, KI-Systeme zu entwerfen, zu testen und zu entwickeln.
ISO 42001 im Zusammenhang mit den AI-Ethik
Die neue Norm für KI-Managementsysteme mit der Nummer ISO/IEC 42001 adressiert auch die Nutzung von KI. Gartner geht in seiner Betrachtung jedoch nicht verbal darauf ein, nennt allerdings viele Aspekte, die bei der Norm auch angesprochen werden.
Wie können sich also die Norm und allgemeine AI-Ethik-Fragen ergänzen oder konkurrieren sie, reden wir gar von den gleichen Themen?
Hier ein Überblick zu den beiden Ansätzen:
Strukturierter Rahmen: ISO 42001 bietet einen strukturierten Rahmen für das Management von KI-Systemen, während AI-Ethik-Richtlinien die ethischen Prinzipien und Werte definieren, die in diesen Systemen berücksichtigt werden sollten.
Risikomanagement: Die ISO-Norm fokussiert sich auf Risikomanagement in KI-Systemen, was direkt mit ethischen Überlegungen wie Fairness, Transparenz und Verantwortlichkeit verbunden ist.
Kontinuierliche Verbesserung: ISO 42001 fördert einen Prozess der kontinuierlichen Verbesserung, der auch die Weiterentwicklung ethischer Praktiken in KI-Systemen unterstützt.
Dokumentation und Nachvollziehbarkeit: Die Norm verlangt eine gründliche Dokumentation, die auch für die Nachvollziehbarkeit ethischer Entscheidungen in KI-Systemen wichtig ist.
Stakeholder-Engagement: Beide Ansätze betonen die Bedeutung der Einbeziehung verschiedener Stakeholder, was zu einer umfassenderen Betrachtung ethischer Fragen führt.
Compliance und ethische Standards: Während ISO 42001 die Einhaltung gesetzlicher Anforderungen unterstützen kann, ergänzen ethische Richtlinien dies um moralische Aspekte, die über gesetzliche Mindestanforderungen hinausgehen.
Unterm Strich finden sich viele Analogien und Überschneidungen, es kann sich also lohnen, darüber nachzudenken, ob man wirklich zwei Ansätze braucht.
Fazit
KI-Governance-Plattformen fördern Responsible AI, indem sie es Organisationen ermöglichen, die rechtliche, ethische und betriebliche Leistung von KI zu verwalten und zu überwachen.
Zu den Vorteilen von KI-Governance-Plattformen soll es lt. Gartner in Zukunft gehören, KI-bezogenen ethischen Vorfällen vorzubeugen. So werden Organisationen, die umfassende KI-Governance-Plattformen implementieren, bis 2028 um bis zu 40 Prozent weniger ethische Vorfälle im Zusammenhang mit KI erleben als Organisationen ohne solche Systeme. Ob dies dann so eintritt und gemessen werden kann? Das wird abzuwarten sein.
Erste KI-Governance Software kommt nach und nach auf den Markt, sei es mit reinem Fokus auf die AI oder als Teil eines integriertem Managementsystems, bei dem neben der KI auf Basis der ISO 42001 auch andere Themen (z. B. ISO 9001, ISO 27001, ISO 45001) mit abgedeckt werden.
Der Vorteil der Nutzung von Managementsystemen auf Basis der harmonisierten Strukturen der ISO 9001 und ISO 42001 liegt auf der Hand. Hier sind jahrelange Erfahrungen vieler Experten aus unterschiedlicher Branchen eingeflosssen, man muss nicht alles von "0" weg aufbauen! Und ein KI-Managementsystem ist auf Basis internationaler Normen zertifzierbar, eine KI-Governance-Plattform bisher noch nicht. Eine Prüfungspraxis muss hier erst noch etabliert werden.
Die Kombination dieser Ansätze ermöglicht aber eine ganzheitliche Herangehensweise an KI-Entwicklung und -Implementierung, die sowohl technische als auch ethische Aspekte berücksichtigt.
Daher sehen wir es als höchst effizient und pragmatisch an, auf Basis der ISO 42001 sein KI-Managementsystem aufzubauen und dies dann um weitere Ethik-Standards zu ergänzen. So bekommt man das beste aus zwei Ansätzen.
Quellen:
https://www.gartner.com/en/articles/ai-ethics
Comments