Der deutsche Ethikrat plädiert in einer neuen Studie zum Verhältnis von Mensch und Maschine für einen regulierten Einsatz von KI, je nachdem in welchem Bereich.
“Der Einsatz von Künstlicher Intelligent (KI) muss menschliche Entfaltung erweitern und darf sie nicht vermindern”, sagte die Vorsitzende des Ethikrats, Alena Buyx am Montag bei der Vorstellung einer neuen Studie in Berlin. In der Untersuchung wurde das Verhältnis von Mensch und Maschine erforscht. Es müsse darum gehen, “dieses unglaublich nützliche Werkzeug zu nutzen und die Nachteile einzuhegen”, so Buyx weiter. Konkrete Nutzungsvorgaben müssten je nach Einsatzbereich erstellt werden.
Die Untersuchung mit dem Titel “Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz” wurde 2020 vom damaligen Bundestagspräsidenten Wolfgang Schäuble (CDU) in Auftrag gegeben. Er forderte eine Stellungnahme des Ethikrats zu der sich rasant weiter entwickelnden Technologie.
“Der Einsatz von Künstlicher Intelligent (KI) muss menschliche Entfaltung erweitern und darf sie nicht vermindern”, sagte die Vorsitzende des Ethikrats, Alena Buyx am Montag bei der Vorstellung einer neuen Studie in Berlin. In der Untersuchung wurde das Verhältnis von Mensch und Maschine erforscht. Es müsse darum gehen, “dieses unglaublich nützliche Werkzeug zu nutzen und die Nachteile einzuhegen”, so Buyx weiter. Konkrete Nutzungsvorgaben müssten je nach Einsatzbereich erstellt werden.
Die Stellungnahme sei “ein wichtiger Beitrag zur weiteren Debatte” über künstliche Intelligenz, erklärte Bildungsministerin Bettina Stark-Watzinger (FDP). Dies gelte auch “im Hinblick auf die Fortentwicklung der KI-Strategie der Bundesregierung.” Tabea Rößner, Grünen-Bundestagsabgeordnete und Mitglied im Digitalausschuss, verwies auf die Vorteile einer Regulierung dieser Technologie. “Wenn KI inklusiv, nachvollziehbar und transparent entwickelt wird und gesellschaftliche Fragen von Anfang an mit bedacht werden, dann ist das auch ein Wettbewerbsvorteil für die europäische Industrie.”
KI könnte von Regulierungen profitieren
In der 287 Seiten langen Studie beschäftigte sich eine Arbeitsgruppe beispielhaft mit vier Anwendungsbereichen von KI: Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie Verwaltung. Dies habe gezeigt, dass die Beurteilung von KI “immer kontext-, anwendungs- und personenspezifisch erfolgen muss”, erklärte das Gremium. Denn das Delegieren an Maschinen könne “für verschiedene Personengruppen, Akteure und Betroffene ganz unterschiedliche Auswirkungen haben”, erläuterte die Sprecherin der Arbeitsgruppe, Judith Simon. “Der Teufel steckt im Detail und wir müssen genau hingucken.”
Für den Medizinbereich richten sich die Empfehlungen des Ethikrates unter anderem auf die Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten. Zudem müssten ärztliche Kompetenzverluste vermieden und die Privatsphäre von Patienten mit intensiver Datennutzung in der medizinischen Forschung in Einklang gebracht werden. Ein vollständiger Ersatz von Ärzten durch ein KI-System gefährde jedoch das Patientenwohl und sei auch nicht durch “akuten Personalmangel” zu rechtfertigen, so die Medizinethikerin Buyx.
Im Bildungsbereich sollte sich der Einsatz von KI auf Elemente beschränken, die nachweislich die Kompetenzen und sozialen Interaktionen der Lernenden erweitern, heißt es. KI könne aber auch “zu einer Art Überwachungsregime führen”, so Julian Nida-Rümelin, der stellvertretende Vorsitzende des Deutschen Ethikrats: Systeme zur Videoüberwachung und Kontrolle von Schulklassen würden “eher kritisch gesehen”. Die aktuelle Debatte um den Texte erzeugenden Chatbot “ChatGPT”, der auch die Frage aufwarf, ob Hausaufgaben von Schülern tatsächlich noch selbst geschrieben werden, streift die schon vor Monaten weitgehend fertiggestellte Stellungnahme nur kurz.
In Sachen Kommunikation spricht sich der Ethikrat für eine Weiterentwicklung der Regeln für Online-Plattformen aus. Außerdem rät er zum Aufbau einer digitalen Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung. Sonst bestehe die Gefahr, dass private Firmen wie Tech-Konzerne aus den USA in Europa über Standards etwa zum Blockieren von Inhalten entschieden, sagte Nida-Rümelin. Für den KI-Einsatz in der Verwaltung rät der Ethikrat zu Ansätzen, die vor Diskriminierungen schützen und “dem blinden Befolgen maschineller Empfehlungen vorbeugen”. Verwiesen wird etwa auf den in anderen europäischen Ländern schon üblichen Einsatz bei der Prüfung von Sozialleistungen. Wichtig sei, dass Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewährleistet werden.
fwü/hf (afp, dpa)
“Der Einsatz von Künstlicher Intelligent (KI) muss menschliche Entfaltung erweitern und darf sie nicht vermindern”, sagte die Vorsitzende des Ethikrats, Alena Buyx am Montag bei der Vorstellung einer neuen Studie in Berlin. In der Untersuchung wurde das Verhältnis von Mensch und Maschine erforscht. Es müsse darum gehen, “dieses unglaublich nützliche Werkzeug zu nutzen und die Nachteile einzuhegen”, so Buyx weiter. Konkrete Nutzungsvorgaben müssten je nach Einsatzbereich erstellt werden.
Die Untersuchung mit dem Titel “Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz” wurde 2020 vom damaligen Bundestagspräsidenten Wolfgang Schäuble (CDU) in Auftrag gegeben. Er forderte eine Stellungnahme des Ethikrats zu der sich rasant weiter entwickelnden Technologie.
KI könnte von Regulierungen profitieren
Die Stellungnahme sei “ein wichtiger Beitrag zur weiteren Debatte” über künstliche Intelligenz, erklärte Bildungsministerin Bettina Stark-Watzinger (FDP). Dies gelte auch “im Hinblick auf die Fortentwicklung der KI-Strategie der Bundesregierung.” Tabea Rößner, Grünen-Bundestagsabgeordnete und Mitglied im Digitalausschuss, verwies auf die Vorteile einer Regulierung dieser Technologie. “Wenn KI inklusiv, nachvollziehbar und transparent entwickelt wird und gesellschaftliche Fragen von Anfang an mit bedacht werden, dann ist das auch ein Wettbewerbsvorteil für die europäische Industrie.”
In der 287 Seiten langen Studie beschäftigte sich eine Arbeitsgruppe beispielhaft mit vier Anwendungsbereichen von KI: Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie Verwaltung. Dies habe gezeigt, dass die Beurteilung von KI “immer kontext-, anwendungs- und personenspezifisch erfolgen muss”, erklärte das Gremium. Denn das Delegieren an Maschinen könne “für verschiedene Personengruppen, Akteure und Betroffene ganz unterschiedliche Auswirkungen haben”, erläuterte die Sprecherin der Arbeitsgruppe, Judith Simon. “Der Teufel steckt im Detail und wir müssen genau hingucken.”
Für den Medizinbereich richten sich die Empfehlungen des Ethikrates unter anderem auf die Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten. Zudem müssten ärztliche Kompetenzverluste vermieden und die Privatsphäre von Patienten mit intensiver Datennutzung in der medizinischen Forschung in Einklang gebracht werden. Ein vollständiger Ersatz von Ärzten durch ein KI-System gefährde jedoch das Patientenwohl und sei auch nicht durch “akuten Personalmangel” zu rechtfertigen, so die Medizinethikerin Buyx.
Im Bildungsbereich sollte sich der Einsatz von KI auf Elemente beschränken, die nachweislich die Kompetenzen und sozialen Interaktionen der Lernenden erweitern, heißt es. KI könne aber auch “zu einer Art Überwachungsregime führen”, so Julian Nida-Rümelin, der stellvertretende Vorsitzende des Deutschen Ethikrats: Systeme zur Videoüberwachung und Kontrolle von Schulklassen würden “eher kritisch gesehen”. Die aktuelle Debatte um den Texte erzeugenden Chatbot “ChatGPT”, der auch die Frage aufwarf, ob Hausaufgaben von Schülern tatsächlich noch selbst geschrieben werden, streift die schon vor Monaten weitgehend fertiggestellte Stellungnahme nur kurz.
Jeder Bereich braucht eigene Regeln
In Sachen Kommunikation spricht sich der Ethikrat für eine Weiterentwicklung der Regeln für Online-Plattformen aus. Außerdem rät er zum Aufbau einer digitalen Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung. Sonst bestehe die Gefahr, dass private Firmen wie Tech-Konzerne aus den USA in Europa über Standards etwa zum Blockieren von Inhalten entschieden, sagte Nida-Rümelin. Für den KI-Einsatz in der Verwaltung rät der Ethikrat zu Ansätzen, die vor Diskriminierungen schützen und “dem blinden Befolgen maschineller Empfehlungen vorbeugen”. Verwiesen wird etwa auf den in anderen europäischen Ländern schon üblichen Einsatz bei der Prüfung von Sozialleistungen. Wichtig sei, dass Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewährleistet werden.
KI im Bildungsbereich umstritten
fwü/hf (afp, dpa)
