Suchergebnisse

Prozesse algorithmischer Entscheidungsfindung berühren in vielen Bereichen gesellschaftliche Teilhabe. Daraus ergeben sich Herausforderungen auf vier Feldern:
1. Gesellschaftliche Angemessenheit (Haben algorithmische Systeme sinnvolle Optimierungsziele?)
2. Überprüfen und erklären der Umsetzung (Verwirklichen algorithmische Systeme die sinnvollen Ziele?)
3. Schaffen von Diversität (Ist die Vielfalt der Systeme und Betreibermodelle groß genug, um gesellschaftlich angemessen zu sein?)
4. Übergreifende Rahmenbedingungen für teilhabeförderliche algorithmische Systeme (Genügen staatliche und individuelle Gestaltungskompetenzen dem gesellschaftlichen Anspruch?)
Der Beitrag stellt eine Auswahl von Lösungsideen in allen vier skizzierten Handlungsfeldern vor. Die Auswahl ist nicht umfassend und abschließend. Sie veranschaulicht aber auch in dieser Form, dass Akteure aus allen drei Sektoren Möglichkeiten haben, algorithmische Entscheidungsfindung für mehr gesellschaftliche Teilhabe zu gestalten. Es gibt viele Ideen für Maßnahmen und Methoden bzgl. der gesellschaftlichen Gestaltung, Intervention und Kontrolle algorithmischer Entscheidungsfindung. Keineswegs scheint der Mensch der Maschine ausgeliefert.

Zunehmend treffen algorithmische Entscheidungssysteme (ADM-Systeme) Entscheidungen über Menschen und beeinflussen damit öffentliche Räume oder die gesellschaftlichen Teilhabemöglichkeiten von Individuen; damit gehören derartige Systeme zur öffentlichen IT. Hier zeigen wir, am Beispiel der Analyse von Rückfälligkeitsvorhersagesystemen und dem Datenspende-Projekt zur Bundestagswahl 2017, wie solche Systeme mit Hilfe von Black-Box-Analysen von der Öffentlichkeit untersucht werden können und wo die Grenzen dieses Ansatzes liegen. Insbesondere bei ADM-Systemen der öffentlichen Hand zeigt sich hierbei, dass eine Black-Box-Analyse nicht ausreichend ist, sondern hier ein qualitätsgesicherter Prozess der Entwicklung und Evaluation solcher Systeme notwendig ist.

Algorithmische Entscheidungssysteme werden immer häufiger zur Klassifikation und Prognose von menschlichem Verhalten herangezogen. Hierbei gibt es einen breiten Diskurs um die Messung der Entscheidungsqualität solcher Systeme (Qualität) und die mögliche Diskriminierung von Teilgruppen (Fairness), welchen sich dieser Artikel widmet. Wir zeigen auf, dass es miteinander unvereinbare Fairnessmaße gibt, wobei wir auf zwei im Speziellen eingehen. Für sich allein betrachtet sind die zwei Maße zwar logisch und haben je nach Anwendungsgebiet auch ihre Daseinsberechtigung, jedoch können nicht beide zugleich erfüllt werden. Somit zeigt sich, dass gerade im Einsatz algorithmischer Entscheidungssysteme im Bereich der öffentlichen IT aufgrund ihres großen Wirkungsbereichs auf das Gemein-wohl höchste Vorsicht bei der Wahl solcher Maßstäbe herrschen muss. Wird im Anwendungsfall die Erfüllung sich widersprechender Maßstäbe gefordert, so muss darüber nachgedacht werden, ob eine algorithmische Lösung an dieser Stelle überhaupt eingesetzt werden darf.

Die neuen digitalen Technologien zur Erhebung und Auswertung von Daten bergen große Chancen für den Staat. Welche Datenquellen stehen dabei zur Verfügung? Welche politisch-administrativen Funktionen können die neuen Datentechnologien übernehmen und welche öffentlichen Aufgaben unterstützen? Wie verändert sich dadurch der klassische Politikzyklus? Welche Möglichkeiten der Verwaltungsautomatisierung eröffnen sich? Welche Varianten der Aufgabenteilung zwischen Mensch und Maschine gibt es? Mit diesen Fragen beschäftigt sich dieser Beitrag, um einen Überblick über die Einsatzmöglichkeiten und den Nutzen von Data Analytics in Politik und Verwaltung zu geben.

Kommunikation in digitalen Gesellschaften verlagert sich zunehmend in das Internet. Eine nichtlineare Vermittlung von Information und der stete Zuwachs von online verfügbaren Inhalten führen zu einer vermehrten Nutzung von algorithmischen Vorschlagssystemen. Öffentlich-rechtliche Rundfunkanstalten sind von diesem Trend nicht unberührt geblieben. Die Nutzung von Vorschlagssystemen stellt diese allerdings vor rechtliche und organisationale Probleme, da der demokratiepolitische Grundauftrag des öffentlich-rechtlichen Mediensystems mit einer individualisierten Informationsselektion unvereinbar scheint. In diesem Beitrag erörtern wir diese Probleme, kontextualisieren algorithmische Vorschlagssysteme technisch und rechtlich und skizzieren erste Gedanken eines neuen Modus von Informationsvermittlung basierend auf kalkulativen Praktiken, die an demokratischen Idealen orientiert sind. Wenn für die Privatwirtschaft Daten das neue Öl sind, muss die Öffentlichkeit Daten als eine neue Arena der demokratisch-politischen Auseinandersetzung verstehen, um den Programmauftrag im 21. Jahrhundert den neu entstehenden Anforderungen entsprechend zu interpretieren und zu implementieren.