Schöne neue Algorithmenwelt

Am 9. Mai fand die cege-Diskussionsveranstaltung zum Thema „Schöne neue Algorithmenwelt – Führt die Digitalisierung zur überwachten Gesellschaft?“ statt. In Zuge der Digitalisierung nehmen Algorithmen in zunehmenden Maße Einfluss auf Entscheidungen: Algorithmen entscheiden etwa darüber, welche Inhalte Nutzern des Internets vorrangig angezeigt werden. Gleichzeitig sammeln Algorithmen Informationen über Nutzer und ziehen aus deren Verhalten Schlussfolgerungen, die für den Einzelnen nicht transparent nachvollziehbar sind. Dies kann zu dem Eindruck führen, dass Internetnutzer in einem wachsenden Ausmaß fremdbestimmt und überwacht werden.
Es diskutierten Prof. Dr. Gerald Spindler (Georg-August-Universität Göttingen, cege), Prof. Dr. Andreas Busch (Georg-August-Universität, cege), Uwe Lührig (Polizeipräsident Göttingen), Veronika Thiel (AlgorithmWatch), Ralph Müller-Eiselt (Bertelsmann Stiftung). Moderiert wurde die Veranstaltung von Prof. Dr. Frank Schorkopf (Georg-August-Universität Göttingen, cege).
In seinem Eingangsstatement wies Gerald Spindler darauf hin, dass die Fragestellung impliziere, dass man eine nicht überwachte Gesellschaft sichern könne. Hierfür sei es jedoch schon längst zu spät. Internetnutzer seien bereits vernetzt. Die Überwachung finde im wesentlichen durch private Unternehmen statt. Die Datenschutzgrundverordnung der Europäischen Union allein könne hier nicht ausreichen. Es fehle schlicht am nötigen Personal, um die bestehenden rechtlichen Regelungen durchzusetzen. Ergänzend könne man auf privatrechtliche Lösungen und die Arbeit von Nichtregierungsorganisationen setzen.
Uwe Lühring wies darauf hin, dass wir uns in einer neuen, in der digitalen Welt befinden, die nicht in gleicher Weise reguliert sei wie die analoge Welt. Alle Nutzer hinterließen digitale Spuren, wobei niemand wirklich wissen könne, was mit den Daten geschehe. Letztlich habe man es auch mit rechtsfreien Räumen zu tun, für die die Polizei dringend neue Eingriffsrechte benötige.
Die digitale Technologie sei aber auch eine Chance für die Ermittlungsarbeit der Polizei. So ließen sich riesige Datenmengen unter Zuhilfenahme von künstlicher Intelligenz auswerten. Dies entlaste das Personal, beispielsweise in Verfahren im Zusammenhang mit Kinderpornografie. Auch für die Gefahrenabwehr biete die digitale Technologie neue Möglichkeiten, etwa in der Prognose von Straftaten. Letztlich seien Täter aber der Polizei in der Nutzung der technischen Möglichkeiten voraus. Umso wichtiger sei es, dass Privatpersonen nicht zu offen ihre Daten preisgeben, um beispielsweise Einbrecher nicht geradezu einzuladen.
Zu Beginn seines Statements hob Ralph Müller-Eiselt die Chancen hervor, die sich aus der Nutzung von Algorithmen ergäben. So böten Algorithmen die Chance, menschliche Schwächen auszugleichen, indem sie bei komplexen Entscheidungen unterstützten. Algorithmen könnten auch vor unbewusster Diskriminierung durch menschliche Entscheidungen schützen. Der Grat zwischen Chancengleichheit und Diskriminierung sei aber schmal. Letztlich seien Algorithmen nur so gut, wie sie geschrieben würden. So könnten Algorithmen auch Ungleichheiten verstärken. Daher sei eine breite gesellschaftliche Debatte wichtig, wie Algorithmen eingesetzt werden sollten. Auch sei es wichtig, dass die Vielfalt im Internet gewährleistet sei und sich keine Monokulturen herausbildeten.
Veronika Thiel sprach sich für eine zurückhaltende Nutzung von Algorithmen aus. So müsse man sich fragen, ob man Algorithmen nur deshalb einsetzen solle, weil man es könne. Beispielsweise sei es fraglich, ob ein Algorithmus etwa zur Aufdeckung von Sozialbetrug tatsächlich höheren Nutzen als Kosten biete. So könne es infolge der Algorithmennutzung zu Vorverurteilungen kommen. Außerdem sei die Datenbasis nicht perfekt und eventuell verzerrt.
Andreas Busch machte in seinem Beitrag deutlich, dass wir die Vorteile der Digitalisierung dadurch erkaufen, dass unsere Daten gespeichert werden. Der einheitlichen regulativen Landschaft stünden zersplitterte Handlungskapazitäten seitens der überwachenden Einrichtungen gegenüber. Es seien unterschiedliche staatlich Akteure zuständig, deren Handlungen nicht hinreichend koordiniert seien. Darüber hinaus zeigten sich klare Monopolisierungstendenzen im Netz.
Es verbleibe ein Spannungsfeld zwischen den Erwartungen an staatliches Handeln und dessen tatsächlichen Fähigkeiten. Staatliches Handeln sei letztlich auf zivilgesellschaftliche Ressourcen angewiesen.
In der sich anschließenden Diskussion wurden unterschiedliche Aspekte des Themenkomplexes weiter vertieft. So ging es etwa um die Frage, woran man erkennen und messen könne, dass durch Algorithmen Entscheidungen besser oder gerechter würden. Es wurde verschiedentlich nochmals betont, dass auch zukünftig das Engagement der Zivilgesellschaft von hoher Bedeutung sei.
Die Veranstaltung klang bei Sekt, Orangensaft und Laugengebäck mit einem kleinen Empfang aus, bei dem die Podiumsteilnehmer sowie die ZuschauerInnen Gelegenheit hatten, die Thematik in informellen Gesprächen weiter zu vertiefen.