Algorithmische Systeme können Menschen bei der Kreditvergabe oder Betrugserkennung benachteiligen. Eine neue Studie im European Journal of Information Systems untersucht, wie Unternehmen bereits während der Entwicklung verantwortliche Entscheidungen fördern können. Prof. Dr. Martin Adam (Professur für Smart Services) erläutert die Ergebnisse und ihre Bedeutung für die Praxis. Prof. Adam, was wollten Sie mit Ihrer Studie herausfinden? Uns hat interessiert, wie Unternehmen Entwicklerinnen und Entwickler dabei unterstützen können, ihre Entscheidungen an ethischen Grundsätzen auszurichten. Viele Risiken entstehen bereits bei der Auswahl von Daten, der Gestaltung eines Modells oder der Entscheidung über seinen Einsatz. Zu diesem Zeitpunkt sind die späteren Folgen noch nicht vollständig sichtbar. Deshalb ist es wichtig, dass Beschäftigte frühzeitig prüfen, ob ihre Entscheidungen beispielsweise Fairness und den Schutz vor Diskriminierung berücksichtigen. Sie sprechen von algorithmischer Rechenschaftspflicht. Was bedeutet das konkret? Gemeint ist die wahrgenommene Verpflichtung, eigene Entwicklungsentscheidungen und deren erwartete Folgen erklären und begründen zu müssen. Wer bestimmte Daten verwendet oder ein Modell zur Umsetzung freigibt, rechnet also damit, diese Entscheidung gegenüber anderen zu vertreten. Unsere Studie untersucht, ob dieses Bewusstsein die Orientierung an grundlegenden moralischen Pflichten und Rechten stärkt. Wir sprechen hier von deontologischen Urteilen: Menschen prüfen, ob ihr Handeln ethischen Grundsätzen entspricht, auch wenn ein problematisches System wirtschaftlich attraktiv erscheint. Wie haben Sie das untersucht? Wir haben eine Befragung mit 148 Entwicklerinnen und Entwicklern, ein randomisiertes Onlineexperiment mit 102 Teilnehmenden und 15 Interviews kombiniert. Die Untersuchungen konzentrierten sich auf die USA. Im Experiment entschieden die Teilnehmenden über die Umsetzung eines Kreditentscheidungssystems, das einige Antragstellende fälschlich als Glücksspielende einstuft und dadurch benachteiligt. Wir variierten, wie deutlich die Benutzeroberfläche die persönliche Zuordnung und Überprüfbarkeit ihrer Entscheidungen sichtbar machte. Die Interviews halfen uns, die Überlegungen hinter solchen Entscheidungen besser zu verstehen. Was war das zentrale Ergebnis? Unter höherer wahrgenommener Rechenschaftspflicht entschieden sich 62 Prozent gegen die Umsetzung des problematischen Systems. Bei niedrigerer Rechenschaftspflicht waren es 41 Prozent. Das entspricht einem Unterschied von rund 21 Prozentpunkten. Unsere Analysen sprechen dafür, dass eine stärkere Orientierung an ethischen Grundsätzen diesen Zusammenhang vermittelt. Die Entscheidung bezog sich auf ein beschriebenes Bankenszenario. Wie sich solche Maßnahmen langfristig auf tatsächlich eingesetzte Systeme auswirken, müssen weitere Studien im Unternehmensalltag prüfen. Welche Rolle spielen Fachwissen und Arbeitsumfeld? Der Zusammenhang zwischen Rechenschaftspflicht und ethischen Urteilen fiel stärker aus, wenn Entwicklerinnen und Entwickler ihre Kenntnisse über algorithmische Entscheidungssysteme höher einschätzten. Wer die Daten, die Funktionsweise und mögliche Fehler eines Systems versteht, kann Risiken konkreter beurteilen. Auch ein Arbeitsumfeld, das ethische Grundsätze unterstützt, verstärkte den Zusammenhang. Die Interviews verdeutlichen, wie wichtig dabei die Unterstützung im Team ist: Beschäftigte können Bedenken leichter vertreten, wenn diese ernst genommen werden und sie damit nicht alleinstehen. Was können Unternehmen konkret verändern? Aus unseren Ergebnissen leiten wir ab, dass Unternehmen Zuständigkeiten klären und wichtige Entwicklungsentscheidungen nachvollziehbar dokumentieren sollten. Vor der Freigabe eines Systems kann beispielsweise ausdrücklich gefragt werden, welche Menschen durch eine Designentscheidung benachteiligt werden könnten und wie das Team damit umgeht. Dazu brauchen Beschäftigte das Fachwissen, um solche Risiken zu erkennen. Führungskräfte sollten außerdem zeigen, dass ethische Bedenken erwünscht sind, auch wenn ihre Bearbeitung zusätzliche Arbeit oder eine spätere Einführung bedeutet. So wird die Aufforderung zu verantwortlichem Handeln im Entwicklungsalltag konkret. Welche Botschaft möchten Sie mitgeben? Unternehmen gestalten die Bedingungen, unter denen Entwicklerinnen und Entwickler Verantwortung übernehmen können. Dazu gehören nachvollziehbare Zuständigkeiten, fachliche Unterstützung und ein Arbeitsumfeld, in dem ethische Bedenken Gewicht haben. Wer verantwortungsvolle KI entwickeln möchte, muss diese Bedingungen bereits während ihrer Entstehung schaffen. Vielen Dank für das Interview! Publikation: Bartsch, S. C., Schmidt, J.-H., Alizadeh, A., Adam, M., & Benlian, A. (im Erscheinen). The role of algorithmic accountability in shaping developers’ deontological judgements and implementation behaviours. European Journal of Information Systems.
Verantwortung bei der Entwicklung algorithmischer Entscheidungssysteme
Neue Publikation im European Journal of Information Systems
DOI: https://doi.org/10.1080/0960085X.2026.2747938
