Neue Publikation zu Verantwortung bei der Entwicklung algorithmischer Entscheidungssysteme (VHB A)










Verantwortlichkeit von KI








Wer trägt die Verantwortung, wenn KI-Systeme eigenständig handeln und dabei Fehler machen? Aktuelle Entwicklungen – von autonomen KI-Agenten, die sich unbefugt Zugang zur Plattform Hugging Face verschaffen, bis hin zur KI-gestützten Entdeckung kritischer Sicherheitslücken in PHP – verdeutlichen die zunehmende Bedeutung dieser Frage. Doch wie lässt sich sicherstellen, dass ethische Grundsätze bereits bei der Entwicklung solcher Systeme berücksichtigt werden?




Dieser Frage widmen sich Prof. Dr. Martin Adam und Forschende der TU Darmstadt in ihrer neuen Publikation „The role of algorithmic accountability in shaping developers’ deontological judgements and implementation behaviours“, die im European Journal of Information Systems erschienen ist.




Die Ergebnisse aus einer Befragung, einem Experiment und Interviews zeigen: Wer erwartet, eigene Entwicklungsentscheidungen erklären und begründen zu müssen, orientiert sich stärker an ethischen Grundsätzen. Fachwissen über die entwickelten Systeme und ein Arbeitsumfeld, das solche Grundsätze unterstützt, verstärken diesen Zusammenhang. Im Experiment entschieden sich Entwicklerinnen und Entwickler unter höherer Rechenschaftspflicht häufiger gegen die Umsetzung eines problematischen Kreditentscheidungssystems.





Martin Adam: „Verantwortungsvolle KI beginnt bei den Entscheidungen über ihre Entwicklung. Unternehmen müssen dafür sorgen, dass Beschäftigte Risiken erkennen und ethische Bedenken wirksam einbringen können.“





Das Paper kann hier abgerufen werden:


https://www.tandfonline.com/doi/full/10.1080/0960085X.2026.2747938





Folgendes Interview arbeitet die Hauptidee der Veröffentlichung heraus:



Wie Unternehmen ethische Entscheidungen bei der Entwicklung von KI fördern können




Algorithmische Systeme können Menschen bei der Kreditvergabe oder Betrugserkennung benachteiligen. Eine neue Studie im European Journal of Information Systems untersucht, wie Unternehmen bereits während der Entwicklung verantwortliche Entscheidungen fördern können. Prof. Dr. Martin Adam erläutert die Ergebnisse und ihre Bedeutung für die Praxis.



Herr Adam, was wollten Sie mit Ihrer Studie herausfinden?




Uns hat interessiert, wie Unternehmen Entwicklerinnen und Entwickler dabei unterstützen können, ihre Entscheidungen an ethischen Grundsätzen auszurichten. Viele Risiken entstehen bereits bei der Auswahl von Daten, der Gestaltung eines Modells oder der Entscheidung über seinen Einsatz. Zu diesem Zeitpunkt sind die späteren Folgen noch nicht vollständig sichtbar. Deshalb ist es wichtig, dass Beschäftigte frühzeitig prüfen, ob ihre Entscheidungen beispielsweise Fairness und den Schutz vor Diskriminierung berücksichtigen.



Sie sprechen von algorithmischer Rechenschaftspflicht. Was bedeutet das konkret?




Gemeint ist die wahrgenommene Verpflichtung, eigene Entwicklungsentscheidungen und deren erwartete Folgen erklären und begründen zu müssen. Wer bestimmte Daten verwendet oder ein Modell zur Umsetzung freigibt, rechnet also damit, diese Entscheidung gegenüber anderen zu vertreten. Unsere Studie untersucht, ob dieses Bewusstsein die Orientierung an grundlegenden moralischen Pflichten und Rechten stärkt. Wir sprechen hier von deontologischen Urteilen: Menschen prüfen, ob ihr Handeln ethischen Grundsätzen entspricht, auch wenn ein problematisches System wirtschaftlich attraktiv erscheint.



Wie haben Sie das untersucht?




Wir haben eine Befragung mit 148 Entwicklerinnen und Entwicklern, ein randomisiertes Onlineexperiment mit 102 Teilnehmenden und 15 Interviews kombiniert. Die Untersuchungen konzentrierten sich auf die USA. Im Experiment entschieden die Teilnehmenden über die Umsetzung eines Kreditentscheidungssystems, das einige Antragstellende fälschlich als Glücksspielende einstuft und dadurch benachteiligt. Wir variierten, wie deutlich die Benutzeroberfläche die persönliche Zuordnung und Überprüfbarkeit ihrer Entscheidungen sichtbar machte. Die Interviews halfen uns, die Überlegungen hinter solchen Entscheidungen besser zu verstehen.



Was war das zentrale Ergebnis?




Unter höherer wahrgenommener Rechenschaftspflicht entschieden sich 62 Prozent gegen die Umsetzung des problematischen Systems. Bei niedrigerer Rechenschaftspflicht waren es 41 Prozent. Das entspricht einem Unterschied von rund 21 Prozentpunkten. Unsere Analysen sprechen dafür, dass eine stärkere Orientierung an ethischen Grundsätzen diesen Zusammenhang vermittelt.




Die Entscheidung bezog sich auf ein beschriebenes Bankenszenario. Wie sich solche Maßnahmen langfristig auf tatsächlich eingesetzte Systeme auswirken, müssen weitere Studien im Unternehmensalltag prüfen.



Welche Rolle spielen Fachwissen und Arbeitsumfeld?




Der Zusammenhang zwischen Rechenschaftspflicht und ethischen Urteilen fiel stärker aus, wenn Entwicklerinnen und Entwickler ihre Kenntnisse über algorithmische Entscheidungssysteme höher einschätzten. Wer die Daten, die Funktionsweise und mögliche Fehler eines Systems versteht, kann Risiken konkreter beurteilen. Auch ein Arbeitsumfeld, das ethische Grundsätze unterstützt, verstärkte den Zusammenhang. Die Interviews verdeutlichen, wie wichtig dabei die Unterstützung im Team ist: Beschäftigte können Bedenken leichter vertreten, wenn diese ernst genommen werden und sie damit nicht alleinstehen.



Was können Unternehmen konkret verändern?




Aus unseren Ergebnissen leiten wir ab, dass Unternehmen Zuständigkeiten klären und wichtige Entwicklungsentscheidungen nachvollziehbar dokumentieren sollten. Vor der Freigabe eines Systems kann beispielsweise ausdrücklich gefragt werden, welche Menschen durch eine Designentscheidung benachteiligt werden könnten und wie das Team damit umgeht.




Dazu brauchen Beschäftigte das Fachwissen, um solche Risiken zu erkennen. Führungskräfte sollten außerdem zeigen, dass ethische Bedenken erwünscht sind, auch wenn ihre Bearbeitung zusätzliche Arbeit oder eine spätere Einführung bedeutet. So wird die Aufforderung zu verantwortlichem Handeln im Entwicklungsalltag konkret.



Welche Botschaft möchten Sie mitgeben?




Unternehmen gestalten die Bedingungen, unter denen Entwicklerinnen und Entwickler Verantwortung übernehmen können. Dazu gehören nachvollziehbare Zuständigkeiten, fachliche Unterstützung und ein Arbeitsumfeld, in dem ethische Bedenken Gewicht haben. Wer verantwortungsvolle KI entwickeln möchte, muss diese Bedingungen bereits während ihrer Entstehung schaffen.




Publication

Bartsch, S. C., Schmidt, J.-H., Alizadeh, A., Adam, M., & Benlian, A. (forthcoming). The role of algorithmic accountability in shaping developers’ deontological judgements and implementation behaviours. European Journal of Information Systems.




DOI:

https://doi.org/10.1080/0960085X.2026.2747938