IDW begrüßt Auffassung des Deutschen Ethikrats zum Verhältnis von Mensch und KI

Der Deutsche Ethikrat hat seine Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ veröffentlicht. In dieser setzt sich der Ethikrat mit der Wechselwirkung von Mensch und Technik auseinander und kommt zu dem Ergebnis, dass KI-Anwendungen menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen können.

Das IDW hat für die Prüfung der Verlässlichkeit von KI-Systemen den IDW Prüfungsstandard: Prüfung von KI-Systeme (IDW PS 861) (03.2023) entwickelt, der in Kürze in der IDW Life 04/2023 veröffentlicht wird.

Der Prüfungsstandard sieht als eine Anforderung an ein KI-System die Gewährleistung der menschlichen Autonomie vor. Bei dem Einsatz von KI muss immer auch eine menschliche Entscheidungsfindung möglich sein, insb. dann, wenn die KI (bspw. durch Unterbreitung von Entscheidungsvorschlägen oder durch direkte Kommunikation) Einfluss auf menschliche Entscheidungen nimmt. Der IDW Prüfungsstandard sieht somit vor, dass der Mensch über Möglichkeiten zur Steuerung der KI verfügen und Kontrolle über die KI ausüben können muss.

Das IDW folgt damit der Auffassung des Ethikrats, dass KI den Menschen nicht ersetzen darf.