Die Datenethikkommission hat im September 2018 von der Bundesregierung den Auftrag erhalten, sich mit Fragen zum Umgang mit Daten, Algorithmen und Künstlicher Intelligenz auseinanderzusetzen und hierzu binnen eines Jahres ethische Leitlinien und rechtliche Handlungsempfehlungen zu erarbeiten.
Die Datenethikkommission besteht aus 16 Mitgliedern aus den Bereichen Technik, Ethik und Recht. Sie hat als unabhängiges und eigenverantwortliches Expertengremium gearbeitet und ihre Beratungen im September 2019 auftragsgemäß abgeschlossen.
Zu zentralen Handlungsempfehlungen der DEK gehören:
- ein risikoadaptiertes Regulierungssystem für den Einsatz von algorithmischen Systemen mit nach Schädigungspotenzial abgestufter Regulierung
- Aufbau bzw. Stärkung sektorenspezifischer Aufsichtsinstitutionen zur risikoadäquaten Kontrolle von algorithmischen Systemen
- Schaffung eines bundesweiten "Kompetenzzentrums Algorithmische Systeme"
- In Abhängigkeit des Schädigungspotenzials von algorithmischen Systemen gesetzliche Verankerung von Regelungsinstrumenten wie:
- Ex-ante Zulassungsverfahren oder Vorabprüfungen durch Aufsichtsinstitutionen
- Transparenzpflichten (Kennzeichnungspflichten, Informationspflichten, Offenlegungspflichten gegenüber Aufsichtsbehörden)
- Pflicht zur Protokollierung verwendeter Datensätze und von Software-Programmabläufen sowie zu Risikofolgenabschätzungen
- Spezifische rechtliche Vorgaben für persönlichkeitssensible Profilbildungen von Qualitätsanforderungen bis hin zu absoluten Grenzen
- Etablierung einer EU-Verordnung mit Grundanforderungen an die Zulässigkeit von algorithmischen Systemen
Weitere Informationen zur Übergabe des Gutachtens finden Sie hier.
Das Gutachten finden Sie hier.
