AIming Toward the Future: Policing, Governance, and Artificial Intelligence

AIming Toward the Future: Policing, Governance, and Artificial Intelligence

Max-Planck-Forschungsgruppe

Mitarbeiter

Künstliche Intelligenz (KI) und verwandte Technologien verwandeln schon heute unsere Welt – gesellschaftlich, wirtschaftlich, politisch – und sie werden immer mehr zum festen Bestandteil des Alltags – häufig auf unsichtbare Weise. Sie haben bedeutsame und unmittelbare Auswirkungen im Bereich der Governance und der Justiz, beispielsweise wann und worauf die Polizeibehörden ihre Bemühungen konzentrieren und wie sie zur Verantwortung gezogen werden; welche Entscheidungen eine Richterin oder ein Richter im Laufe eines Verfahrens wahrscheinlich treffen wird; wer im Gefängnis sitzt und wie lange. Die Gemeinsamkeit all dieser Beispiele ist, dass Entscheidungen mithilfe von algorithmischen Assemblagen getroffen werden, was wiederum zu Fragen und Bedenken bezüglich der Gerechtigkeit, Verantwortung und Transparenz solcher Entscheidungen führt.

An diesen Systemen haftet häufig auch eine Aura der objektiven Wahrheit und wissenschaftlicher Legitimität, die von deren Unsicherheiten und konstruktiven (und destruktiven) Kräften ablenkt. Eine wachsende Zahl von Wissenschaftler/innen und politischen Entscheidungsträger/innen weist deshalb auf den dringenden Bedarf an weiteren Studien hin, die sich mit den alltäglichen und langfristigen Auswirkungen der KI befassen, ohne dabei aus den Augen zu verlieren, wofür diese Technik ursprünglich gedacht war.

Die unabhängige Max-Planck-Forschungsgruppe AIming Toward the Future wird unter der Leitung von Maria Sapignoli eingerichtet, um genau diesen Bedarf im Bereich der Policing- und Governance-Forschung zu decken. Im Projekt wird untersucht, wie KI und verwandte Technologien im Kontext der Intensivierung von staatlicher und nicht-staatlicher Kontrolle und Überwachung konzipiert, entwickelt, transferiert und angewandt werden. Zudem wird untersucht, wie die Privatwirtschaft in der Staatsführung und in Strafverfolgungsmaßnahmen involviert ist.

Dieses Ziel wird im Projekt durch zwei miteinander verbundene Forschungsstränge und Schwerpunkte verfolgt: Im ersten wird untersucht, wie KI und andere prognostische digitale Technologien im Bereich der Polizeiarbeit eingesetzt werden und wie ihre Anwendung vor Ort aussieht. Der Fokus liegt hier also darauf, welche Rolle diese Technologien in der Praxis spielen. Der zweite Schwerpunkt ist eine Ethnographie von Tech-Instituten und -Laboren und nimmt die Konzipierung, Entwicklung und den Transfer dieser Überwachungstechnologien durch Tech-Experten, insbesondere Ingenieur/innen und Entwickler/innen, in den Blick.

Die ethnographische Methode ist in dieser Forschung ein zentraler Ansatz. Die empirische Herangehensweise eröffnet Einblicke in den sozialen Wandel und in die Zukunft, die durch diese neuen Technologien herbeigeführt werden – warum sie überhaupt eingesetzt werden, warum Menschen ihnen vertrauen (oder auch nicht), wie sie entwickelt und schließlich in die Praxis transferiert und eingesetzt werden. All dies ist von besonderer Bedeutung in einer Zeit, in der Governance, wie es scheint, schnell den Bereich des Menschlichen zugunsten menschenähnlicher Intelligenz verlässt. Dabei ändern sich auch die Entscheidungsfindungsprozesse und das wiederum hat Auswirkungen auf die Grundrechte der Menschen.

Impulsgebend für das Projekt sind Bedenken und offene Fragen bezüglich der Rolle von Algorithmen – und digitalen Technologien im Allgemeinen – in der Anwendung oder Artikulierung von Machtverhältnissen sowie der Rolle von Tech-Firmen in der Gestaltung von Governancestrategien, Politik und Gesetzen. Ziel ist es, Einblicke in die Anwendung solcher Technologien und ihren Einfluss auf Polizeiarbeit, Staatsführung und Gesellschaft, mit besonderem Fokus auf die Bedeutung dieser Anwendungen für soziale Ungleichheit, das Rechtswesen und die Ergebnisse von Strafrechtsverfahren zu gewinnen.

Zur Redakteursansicht