Computersysteme

Wie Algorithmen die Gesellschaft verändern

published: 17.02.2019

Algorithmen werden in der Gesellschaft immer bedeutender  (Foto: metamorworks/Shutterstock.com) Algorithmen werden in der Gesellschaft immer bedeutender (Foto: metamorworks/Shutterstock.com)

Ohne Algorithmen ist unsere heutige Welt nicht mehr vorstellbar. Computer, Internet und die gesamte Infrastruktur basieren auf Algorithmen. Dass Künstliche Intelligenz eine immer größere Rolle im gesellschaftlichen Leben spielt, ist ob der vielen Vorteile verständlich. Doch eine Algorithmisierung der Gesellschaft kann auch zu weit gehen und Risiken bergen. Pointer geht auf zwei Fallbeispiele ein, bei denen die Algorithmisierung kritisch gesehen werden kann.

Was sind Algorithmen?

Ein Algorithmus ist, vereinfacht gesagt, eine Art Gebrauchsanweisung. So sind Algorithmen eindeutige Handlungsvorschriften zum Lösen eines vorab definierten Problems oder zur Erfüllung einer Aufgabe. Das Kochen nach Rezept kann auch als Algorithmus angesehen werden - allerdings nur dann, wenn alle Schritte des Rezepts genau erfüllt werden. In der Regel verwendet man den Begriff Algorithmus aber in der Informatik und Mathematik. Algorithmen sind dort in Codesprache formulierte Regeln, die von einem Computersystem umgesetzt werden. Alles, was wir am Computer oder Smartphone machen, funktioniert durch Algorithmen. Da diese Systeme sich immer weiterentwickeln, ergeben sich neue Möglichkeiten, die zu einschneidenden Veränderungen unseres gesellschaftlichen Lebens führen könnten.
 

Tweet

Aktivierung erforderlich
Nach deiner Zustimmung werden alle Tweets von Twitter auf www.pointer.de aktiviert. Wir weisen dich darauf hin, dass dann Daten an Twitter übermittelt werden. Du kannst dies auf der Datenschutzseite rückgängig machen.

Datenschutz


Bewertung des Sozialverhaltens

In China lässt sich diese Entwicklung schon jetzt beobachten. Ab 2020 soll es in der Volksrepublik für jeden Bürger ein digitales Punktekonto geben, welches die gesellschaftliche Vertrauenswürdigkeit ausweist. Durch negative Taten wie das Fahren über eine rote Ampel oder Steuerhinterziehung werden dem jeweiligen Sünder Punkte abgezogen. Für andere Handlungen wie soziales Engagement kann man sich Punkte dazuverdienen. Mit einem hohen Punktestand gehen einige Vorteile einher. Beispielsweise ist es so leichter möglich, Kredite zu bekommen.

Sanktionen und Einschränkungen müssen dagegen diejenigen fürchten, die zu wenig Punkte auf ihrem Konto haben. So kann es etwa schwieriger werden, an Flugtickets oder andere Fortbewegungsmittel zu kommen. Noch ist aber größtenteils offen, welche Auswirkungen der eigene Punktestand wirklich haben wird. Klar ist aber, dass so die Gesellschaft in "gut" und "böse" unterteilt werden kann. Ziel ist dabei die Normierung des Sozialverhaltens innerhalb der Gesellschaft. Angesichts der enormen Datenmengen, welche die chinesische Regierung zu diesem Zweck benötigt und verwenden wird, kann man durchaus von einem Überwachungsstaat sprechen. Die Privatheit des einzelnen Menschen wird damit enorm beeinträchtigt.
 

Tweet

Aktivierung erforderlich
Nach deiner Zustimmung werden alle Tweets von Twitter auf www.pointer.de aktiviert. Wir weisen dich darauf hin, dass dann Daten an Twitter übermittelt werden. Du kannst dies auf der Datenschutzseite rückgängig machen.

Datenschutz


Algorithmen können diskriminieren

In einigen US-Bundesstaaten hilft die Software COMPAS Justiz und Polizei bei der Beurteilung von Angeklagten. COMPAS steht für "Correctional Offender Management Profiling for Alternative Sanctions". Dahinter steckt das IT-Unternehmen Northpointe, welches COMPAS als eine zuverlässige Software vermarktet, die das Rückfallrisiko von Straftätern berechnen kann. Zur Bestimmung des Rückfallrisikos fließen viele Erkenntnisse über den Angeklagten ein. So berücksichtigt das Programm unter anderem das soziale Umfeld, die Wohnsituation sowie das Wut- und Aggressionspotenzial des Straftäters. Am Ende gibt COMPAS eine Einschätzung auf einer Skala von 1 bis 10 ab. Ist der Wert hoch, lassen die Richter in der Regel keine Bewährung zu. Sie vertrauen der Software dahingehend, dass der Straftäter wahrscheinlich in der Bewährungszeit rückfällig werden würde.

Dieses Programm birgt aber neben der schnellen und angeblich objektiven Beurteilung von Angeklagten auch Probleme. Zum einen gibt es keine öffentliche Einsicht, wie genau die Werte eigentlich berechnet werdenn. COMPAS ist also im hohen Maße intransparent. Dazu kommt, dass die Software wohl nicht so objektiv ist, wie man es sich wünschen würde. Eine Studie von Pro Publica kam zu dem Ergebnis, das die Prognose-Software zu Rassismus neigt. Das Recherche-Portal untersuchte dazu zwischen 2013 und 2014 mehr als 7000 Fälle im US-Bundesstaat Florida. Dabei kam heraus, dass das Rückfallrisiko von Menschen mit schwarzer Hautfarbe durchschnittlich doppelt so hoch eingeschätzt wurde wie das von Menschen mit weißer Hautfarbe. Anhand der tatsächlichen Rückfallzahlen ließ sich das nicht bestätigen, das System lag mit dieser Einschätzung also falsch.
 

Tweet

Aktivierung erforderlich
Nach deiner Zustimmung werden alle Tweets von Twitter auf www.pointer.de aktiviert. Wir weisen dich darauf hin, dass dann Daten an Twitter übermittelt werden. Du kannst dies auf der Datenschutzseite rückgängig machen.

Datenschutz


Logischerweise ist das Programm selbst nicht rassistisch, seine Entscheidungen sind es laut der Studie allerdings. Denn das ist eines der Hauptprobleme von Algorithmen: Sie werden immer noch von Menschen programmiert. Anhand von eigegebenen Trainingsdaten lernen Algorithmen - doch diese Daten können durch Voruteile und andere Faktoren beeinflusst sein. Oft passiert das unbewusst, kann allerdings wie bei COMPAS negative Folgen haben.

Der Autor: Jonas Bickel

Der Autor: Jonas Bickel

Leben, wo andere Urlaub machen: Jonas ist auf der Nordseeinsel Föhr aufgewachsen. Jeden Tag am Meer zu sein, ist zwar schön. Früh war aber klar: Journalismus auf der Insel - da kommt man nicht weit. Also nach dem Abitur ab in die Medienstadt Hamburg, wo Jonas seit 2015 Politikwissenschaft studiert. Für Pointer schreibt er oft über seine großen Hobbys: Sport - insbesondere Fußball - und Gaming.

Mehr

EU-Parlament stimmt für Urheberrechts­reform
Pointer auf der Artikel-13-Demo
5G: Daten­über­tragung fast in Echtzeit

Links

Die Studienergebnisse von Pro Publica im Überblick

Gefällt's? Teile es.

Das könnte dich auch interessieren:

Services
Service

Hochschulkarte

Suche

Mimadeo / shutterstock.com
Über 19.000 Studiengänge an 747 Hochschulstandorten
Werbung
Werbung
Werbung
Werbung