Wie ein Elefant ist die Essenz der KI schwer in Worte zu fassen, aber man erkennt sie, wenn man sie sieht.* Dies stellt politische Entscheidungsträger vor eine Herausforderung, wenn es darum geht, Regulierungen einzusetzen, um die sichere Entwicklung künstlicher Intelligenz zu unterstützen. In einem neuen Strategiepapier entscheidet sich die britische Regierung, nicht festzulegen, was KI bedeutet, und betont die Flexibilität ihres Ansatzes. Aber der Vorreitervorschlag der EU für ein KI-spezifisches Gesetz könnte am Ende den globalen Standard setzen.
Pro-Innovations-Regulierung
Das Ressort Digital, Kultur, Medien und Sport hat in seinem Grundsatzpapier eine „innovationsfreundliche“ Vision für die zukünftige Regulierung der künstlichen Intelligenz vorgestellt. Das Papier legt die Bausteine eines sektorübergreifenden Regulierungsrahmens dar.
Wie das Papier hervorhebt, hat das Vereinigte Königreich keine Gesetze, die ausdrücklich zur Regulierung von KI geschrieben wurden. Das bedeutet, dass Unternehmen, die KI-Systeme einführen, sicherstellen müssen, dass sie in bestehende rechtliche und regulatorische Regelungen passen. Beispielsweise hat das Information Commissioner’s Office (ICO) Maßnahmen gegen Clearview wegen seiner Gesichtserkennungstechnologie ergriffen und versprochen, Bedenken hinsichtlich der Verwendung von Algorithmen zur Sichtung von Bewerbungen zu untersuchen. Siehe auch unseren Hinweis zur Regulierung von KI bei Finanzdienstleistungen im Vereinigten Königreich.
Das Fehlen einer KI-spezifischen Regulierung kann jedoch zu Verwirrung führen und Innovationen behindern. Die Befragten einer Umfrage unter Finanzinstituten aus dem Jahr 2019 schlugen vor, dass zusätzliche Leitlinien dazu, wie KI in bestehende Regeln passt, mehr Unternehmen dazu ermutigen könnten, KI einzuführen.
Um die Konsistenz über verschiedene Branchen hinweg zu steuern, beabsichtigt das DCMS, sektorübergreifende Prinzipien festzulegen, die auf KI zugeschnitten sind, und die Regulierungsbehörden aufzufordern, diese für die von ihnen beaufsichtigten Sektoren zu kontextualisieren.
Prinzipien und Leitlinien, keine Regeln
Das DCMS hat sechs Leitprinzipien entwickelt, die Regulierungsbehörden bei der Überwachung des Einsatzes von KI in ihrem Sektor berücksichtigen sollten. Diese sind:
Stellen Sie sicher, dass KI sicher verwendet wird Stellen Sie sicher, dass KI technisch sicher ist und wie vorgesehen funktioniert Stellen Sie sicher, dass KI angemessen transparent und erklärbar ist Integrieren Sie Fairnessüberlegungen in KI Definieren Sie die Verantwortung juristischer Personen für die KI-Governance Klären Sie Wege zu Rechtsbehelfen oder Anfechtbarkeit
DCMS erwartet nicht, dass diese Grundsätze zwangsläufig in neue Verpflichtungen umgesetzt werden. Stattdessen plant es, die Regulierungsbehörden zu ermutigen, zunächst leichtere Berührungsoptionen wie Leitlinien oder freiwillige Maßnahmen in Betracht zu ziehen. Die Regulierungsbehörden werden aufgefordert, einen verhältnismäßigen und risikobasierten Ansatz zu verfolgen, der sich auf Bedenken mit hohem Risiko konzentriert.
Dieser flexible Ansatz wird wahrscheinlich begrüßt werden, aber wenn man sich dafür entscheidet, in diesem Bereich nicht zu regulieren, könnten die strengeren Regeln der EU zum De-facto-Standard für die KI-Regulierung werden.
Ich divergiere
Anders als die EU bereitet Großbritannien keine KI-spezifischen Gesetze vor. Stattdessen schlägt das DCMS vor, dass die Verantwortung für die Gestaltung und Umsetzung angemessener regulatorischer Maßnahmen an die Regulierungsbehörden delegiert werden sollte.
Der mutige Vorschlag der Europäischen Kommission für ein KI-Gesetz zielt darauf ab, KI-Systeme EU-weit nach ihrem Risikograd zu regulieren. Der Gesetzesentwurf zielt darauf ab, KI-Systeme zu verbieten, die inakzeptable Risiken darstellen, strenge Anforderungen an Systeme zu stellen, die als hochriskant gelten (z. B. Systeme zur Bewertung des Kreditrisikos oder zur Bereitstellung von Kredit-Scores), und möglicherweise Systeme mit geringerem Risiko Transparenzanforderungen zu unterwerfen.
Die EU-Regelung könnte weitreichende Änderungen mit sich bringen, die Unternehmen dazu verpflichten, die Risiken ihrer KI-Systeme zu bewerten und die entsprechenden Verpflichtungen einzuhalten. Die Nichterfüllung der Anforderungen an KI-Systeme mit hohem Risiko kann mit Geldstrafen von bis zu 30 Millionen Euro oder 6 % des weltweiten Umsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Lesen Sie mehr in unserem Blogpost darüber, was die EU tut, um menschenzentrierte KI zu fördern.
Ein weiterer Unterschied zwischen der EU und dem Vereinigten Königreich ist der Ansatz zur Definition von KI. Während das EU-KI-Gesetz eine sehr weit gefasste Definition enthält, verzichtet das DCMS-Strategiepapier auf eine Definition von KI. Stattdessen werden Kernmerkmale der KI-Technologie hervorgehoben, für deren Bewältigung die bestehenden Vorschriften möglicherweise nicht vollständig geeignet sind.
Diese Merkmale sind:
Anpassungsfähigkeit, dh die Logik hinter einer Ausgabe, kann schwer zu erklären sein. Autonomie, dh die Fähigkeit, Entscheidungen ohne ausdrückliche Absicht oder menschliche Beteiligung zu treffen
Es ist die Kombination dieser Merkmale, die eine maßgeschneiderte regulatorische Antwort für KI erfordert. Durch die Konzentration auf diese Kernmerkmale argumentiert das DCMS, dass eine detaillierte, allgemeingültige Definition von KI nicht erforderlich ist.
Der DCMS räumt ein, dass seine Vorschläge von der von der EU festgelegten Vision der KI-Regulierung abweichen, argumentiert jedoch, dass der Ansatz der EU, eine „relativ feste Definition“ in der Gesetzgebung festzulegen, für das Vereinigte Königreich nicht richtig wäre, da er nicht die vollständige Anwendung von KI erfasst KI und ihre regulatorischen Implikationen.
Nächste Schritte für KI in Finanzdienstleistungen
Die DCMS betont die Bedeutung der kontinuierlichen Zusammenarbeit zwischen den britischen Regulierungsbehörden im digitalen Bereich, einschließlich über das Digital Regulation Cooperation Forum, zu dem auch die Financial Conduct Authority gehört.
Die FCA hat nicht nur zum DRCF beigetragen, sondern auch eng mit der Bank of England im Bereich KI zusammengearbeitet, beispielsweise über das AI Public Private Forum. Die Ergebnisse einer Folgestudie zur FCA-Bank of England-Umfrage von 2019 zum Einsatz von maschinellem Lernen im Finanzdienstleistungssektor werden noch in diesem Jahr erwartet. Die Regulierungsbehörden planen außerdem, im Jahr 2022 ein Diskussionspapier zu veröffentlichen, das darauf abzielt, den aktuellen Regulierungsrahmen und seine Anwendung auf KI zu klären.
Das DCMS seinerseits sagt, dass es sich noch in einem frühen Stadium der Überlegungen befindet, wie es seinen Ansatz am besten in die Praxis umsetzen kann, wird aber später in diesem Jahr weitere Einzelheiten in einem Weißbuch und einer Konsultation darlegen. Ihre derzeitige Überlegung besteht darin, die sektorübergreifenden Grundsätze auf eine nicht gesetzliche Grundlage zu stellen, aber das DCMS schließt die Notwendigkeit von Rechtsvorschriften als Teil der Umsetzung und Umsetzung der Grundsätze nicht aus, beispielsweise um die Befugnisse der Regulierungsbehörden zu aktualisieren.
Das DCMS bittet um Stellungnahmen zu seinem Grundsatzpapier bis zum 26. September 2022.
Weitere Informationen zu den Aussichten für die KI-Regulierung finden Sie in unserem Tech Legal Outlook-Update zur Jahresmitte und in unserem Bericht 2021 über KI in Finanzdienstleistungen.
* „Es gibt einige Wörter oder Ausdrücke, die wie ein Elefant sind; seine Essenz ist schwer in Worte zu fassen, aber man erkennt es, wenn man es sieht.“ Blackbushe Airport Ltd gegen Hampshire County Council, R (On the Application of) & Ors [2021] EWCA Civ 398