Der Beitrag von Thomas Buocz, Sebastian Pfotenhauer und Iris Eisenberger beschäftigt sich mit der Regulierung von „Regulatory Sandboxes“ im Entwurf zum Artificial Intelligence (AI) Act. Der Beitrag untersucht, wie nützlich die vorgeschlagenen Regulierungen sind, um AI-basierte Systeme zur Erkennung von Hautkrebs in einem EU-Staat zu testen.

Im Mittelpunkt des Beitrages steht die Frage, ob die vorgeschlagene Sandbox-Regelung das Spannungsverhältnis zwischen Innovation und Sicherheit auflösen kann. Obwohl die Autor:innen ein erhebliches Potenzial in der vorgeschlagenen Regulierung sehen, wirft der Vorschlag auch einige rechtliche Fragen auf: Er verwischt die Zuständigkeitsgrenzen zwischen der EU und den Mitgliedstaaten, wirft Bedenken hinsichtlich der Rechtmäßigkeit und Gleichbehandlung auf, birgt Haftungsrisiken für Innovatoren und beinhaltet keine informierte Zustimmung der Testpersonen.

Um diese Probleme zu adressieren, schlägt der Beitrag vor, eine zielgerichtetere rechtliche Basis für die Sandbox-Regulierung zu schaffen. Sie könnte sich zB an herkömmlichen Testmechanismen wie klinischen Prüfungen für Medizinprodukte orientieren.

Die Publikation baut unter anderem auf Ergebnissen aus dem H2020 Projekt „SCALINGS“ auf und ist Teil der exzellenten Dissertation von Thomas Buocz mit dem Titel "Human responsibility for non-human entities: regulating robots, AI systems, and distributed networks".

Der Beitrag ist als Open Access verfügbar: https://doi.org/10.1080/17579961.2023.2245678.