Am 20. MĂ€rz 2023 veröffentlicht der Deutsche Ethikrat seine Stellungnahme âMensch und Maschine â Herausforderungen durch KĂŒnstliche Intelligenzâ, in der er die Auswirkungen digitaler Technologien auf das menschliche SelbstverstĂ€ndnis und Miteinander umfassend untersucht.
âDer Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern. KI darf den Menschen nicht ersetzen. Das sind grundlegende Regeln fĂŒr die ethische Bewertungâ, sagt Alena Buyx (Foto), die Vorsitzende des Deutschen Ethikrates.
KI-Systeme haben heutzutage in nahezu alle Bereiche des öffentlichen und privaten Lebens Einzug gehalten und reichen von Krebsdiagnostik in der Medizin und intelligenten Tutorsystemen in der Schule ĂŒber Empfehlungssysteme auf Onlineplattformen bis hin zu Software, die Entscheidungen im Sozial- und Justizwesen oder bei der Polizei unterstĂŒtzen soll.
âKI-Anwendungen können menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzenâ, betont Julian Nida-RĂŒmelin, der stellvertretende Vorsitzende des Deutschen Ethikrates und stellvertretende Sprecher der zustĂ€ndigen Arbeitsgruppe. Dieser Schluss ergibt sich in der Stellungnahme aus einer Betrachtung zentraler philosophischer und anthropologischer Begriffe, die fĂŒr das VerhĂ€ltnis von Mensch und Maschine bedeutsam sind: Intelligenz, Vernunft, Handlung und Verantwortung.
FĂŒr die ethische Bewertung von KI ist das von Bedeutung, denn es genĂŒgt nicht, nur die Technologien zu verstehen. Auch die komplexen Wechselwirkungen zwischen Mensch und Technik sowie gesellschaftliche Effekte mĂŒssen beachtet werden. Deshalb lautet fĂŒr den Ethikrat die zentrale SchlĂŒsselfrage fĂŒr die ethische Beurteilung: Werden menschliche Autorschaft und die Bedingungen fĂŒr verantwortliches Handeln durch den Einsatz von KI erweitert oder vermindert?
Mit dieser Frage setzt sich der Deutsche Ethikrat in seiner Stellungnahme exemplarisch in vier Anwendungsbereichen auseinander â Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung. Dabei zeigt sich, dass die Beurteilung von KI immer kontext-, anwendungs- und personenspezifisch erfolgen muss. âWenn menschliche TĂ€tigkeiten an Maschinen delegiert werden, kann dies fĂŒr verschiedene Personengruppen, Akteure und Betroffene ganz unterschiedliche Auswirkungen habenâ, sagt Judith Simon, die Sprecherin der Arbeitsgruppe. âDaher ist es wichtig, genau hinzuschauen, fĂŒr wen dies mit erweiterten HandlungsspielrĂ€umen verbunden ist und wessen Handlungsmöglichkeiten eher vermindert werden.â
Dieses Anliegen schlĂ€gt sich auch in den Empfehlungen nieder, die der Deutsche Ethikrat zum Einsatz von KI in jedem der vier untersuchten Anwendungsbereiche formuliert. FĂŒr den Medizinbereich richten sich Empfehlungen unter anderem auf die QualitĂ€tssicherung bei der Entwicklung und Nutzung von KI-Produkten, auf die Vermeidung Ă€rztlicher Kompetenzverluste und auf das Ziel, die PrivatsphĂ€re von Patientinnen und Patienten mit intensiver Datennutzung in der medizinischen Forschung in Einklang zu bringen. Dabei gilt es, das VertrauensverhĂ€ltnis zwischen allen beteiligten Personen zu schĂŒtzen und die vollstĂ€ndige Ersetzung medizinischer FachkrĂ€fte zu vermeiden.
Der Einsatz von KI in der schulischen Bildung sollte nach den Empfehlungen des Ethikrates nicht durch technologische Visionen gesteuert werden, sondern sich an grundlegenden Bildungsvorstellungen orientieren und auf Elemente beschrĂ€nken, die nachweislich die Kompetenzen und sozialen Interaktionen der Lernenden erweitern, ihre PrivatsphĂ€re schĂŒtzen und die Persönlichkeitsbildung fördern.
Im Bereich der öffentlichen Kommunikation und Meinungsbildung empfiehlt der Ethikrat unter anderem Weiterentwicklungen der Regeln fĂŒr Online-Plattformen hinsichtlich der Auswahl und Moderation von Inhalten sowie zu personalisierter Werbung und zum Datenhandel. AuĂerdem fordert er besseren Zugang auf Plattformdaten fĂŒr die Forschung und empfiehlt, den Aufbau einer digitalen Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung zu erwĂ€gen.
FĂŒr den Einsatz von KI in der öffentlichen Verwaltung rĂ€t der Ethikrat zu AnsĂ€tzen, die vor Diskriminierungen schĂŒtzen und dem blinden Befolgen maschineller Empfehlungen vorbeugen. Weiterhin fordert er, dass Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewĂ€hrleistet werden. Bei der Anwendung von KI in der Arbeit von Gefahrenabwehrbehörden sollten gesellschaftliche Aushandlungsprozesse ĂŒber ein angemessenes VerhĂ€ltnis zwischen Risiken und Chancen solcher AnsĂ€tze gefĂŒhrt werden.
ErgĂ€nzend identifiziert der Deutsche Ethikrat zehn Querschnittsthemen und Empfehlungen, die bereichsĂŒbergreifend von Bedeutung fĂŒr die ethische Einordnung von KI-Anwendungen sind. Darin geht es unter anderem darum, KI zur EntscheidungsunterstĂŒtzung und nicht zur Entscheidungsersetzung zu verwenden, die Diffusion von Verantwortung zu verhindern, menschliche Kontrolloptionen nicht zu beeintrĂ€chtigen und den Zugang zu den Entscheidungsgrundlagen insbesondere in Bereichen mit hoher Eingriffstiefe zu gewĂ€hrleisten.
Weitere Forderungen zielen darauf ab, Verzerrungen, AbhĂ€ngigkeiten und Missbrauch von Technik sowie unerwĂŒnschte Verluste menschlicher Fertigkeiten zu vermeiden. Ăber alle Anwendungsbereiche hinweg gilt es, die Interessen der Menschen, von denen die in KI-Anwendungen verwendeten Daten stammen, in den Mittelpunkt zu stellen, ĂŒbermĂ€Ăige Eingriffe in die PrivatsphĂ€re mithilfe effektiver rechtlicher und technischer Vorkehrungen zu verhindern und gleichzeitig eine gemeinwohlorientierte Datennutzung zu ermöglichen.
Foto: Prof. Dr. med. ALENA BUYX – Technische UniversitĂ€t MĂŒnchen (c) Ethikrat