Wie Algorithmen die Gesellschaft verändern

Ohne Algorithmen ist unsere heutige Welt nicht mehr vorstellbar. Computer, Internet und die gesamte Infrastruktur basieren auf Algorithmen. Dass Künstliche Intelligenz eine immer größere Rolle im gesellschaftlichen Leben spielt, ist ob der vielen Vorteile verständlich. Doch eine Algorithmisierung der Gesellschaft kann auch zu weit gehen und Risiken bergen. Pointer geht auf zwei Fallbeispiele ein, bei denen die Algorithmisierung kritisch gesehen werden kann.

Was sind Algorithmen?

Ein Algorithmus ist, vereinfacht gesagt, eine Art Gebrauchsanweisung. So sind Algorithmen eindeutige Handlungsvorschriften zum Lösen eines vorab definierten Problems oder zur Erfüllung einer Aufgabe. Das Kochen nach Rezept kann auch als Algorithmus angesehen werden - allerdings nur dann, wenn alle Schritte des Rezepts genau erfüllt werden. In der Regel verwendet man den Begriff Algorithmus aber in der Informatik und Mathematik. Algorithmen sind dort in Codesprache formulierte Regeln, die von einem Computersystem umgesetzt werden. Alles, was wir am Computer oder Smartphone machen, funktioniert durch Algorithmen. Da diese Systeme sich immer weiterentwickeln, ergeben sich neue Möglichkeiten, die zu einschneidenden Veränderungen unseres gesellschaftlichen Lebens führen könnten.
 

Bewertung des Sozialverhaltens

In China lässt sich diese Entwicklung schon jetzt beobachten. Ab 2020 soll es in der Volksrepublik für jeden Bürger ein digitales Punktekonto geben, welches die gesellschaftliche Vertrauenswürdigkeit ausweist. Durch negative Taten wie das Fahren über eine rote Ampel oder Steuerhinterziehung werden dem jeweiligen Sünder Punkte abgezogen. Für andere Handlungen wie soziales Engagement kann man sich Punkte dazuverdienen. Mit einem hohen Punktestand gehen einige Vorteile einher. Beispielsweise ist es so leichter möglich, Kredite zu bekommen.

Sanktionen und Einschränkungen müssen dagegen diejenigen fürchten, die zu wenig Punkte auf ihrem Konto haben. So kann es etwa schwieriger werden, an Flugtickets oder andere Fortbewegungsmittel zu kommen. Noch ist aber größtenteils offen, welche Auswirkungen der eigene Punktestand wirklich haben wird. Klar ist aber, dass so die Gesellschaft in "gut" und "böse" unterteilt werden kann. Ziel ist dabei die Normierung des Sozialverhaltens innerhalb der Gesellschaft. Angesichts der enormen Datenmengen, welche die chinesische Regierung zu diesem Zweck benötigt und verwenden wird, kann man durchaus von einem Überwachungsstaat sprechen. Die Privatheit des einzelnen Menschen wird damit enorm beeinträchtigt.
 

Algorithmen können diskriminieren

In einigen US-Bundesstaaten hilft die Software COMPAS Justiz und Polizei bei der Beurteilung von Angeklagten. COMPAS steht für "Correctional Offender Management Profiling for Alternative Sanctions". Dahinter steckt das IT-Unternehmen Northpointe, welches COMPAS als eine zuverlässige Software vermarktet, die das Rückfallrisiko von Straftätern berechnen kann. Zur Bestimmung des Rückfallrisikos fließen viele Erkenntnisse über den Angeklagten ein. So berücksichtigt das Programm unter anderem das soziale Umfeld, die Wohnsituation sowie das Wut- und Aggressionspotenzial des Straftäters. Am Ende gibt COMPAS eine Einschätzung auf einer Skala von 1 bis 10 ab. Ist der Wert hoch, lassen die Richter in der Regel keine Bewährung zu. Sie vertrauen der Software dahingehend, dass der Straftäter wahrscheinlich in der Bewährungszeit rückfällig werden würde.

Dieses Programm birgt aber neben der schnellen und angeblich objektiven Beurteilung von Angeklagten auch Probleme. Zum einen gibt es keine öffentliche Einsicht, wie genau die Werte eigentlich berechnet werdenn. COMPAS ist also im hohen Maße intransparent. Dazu kommt, dass die Software wohl nicht so objektiv ist, wie man es sich wünschen würde. Eine Studie von Pro Publica kam zu dem Ergebnis, das die Prognose-Software zu Rassismus neigt. Das Recherche-Portal untersuchte dazu zwischen 2013 und 2014 mehr als 7000 Fälle im US-Bundesstaat Florida. Dabei kam heraus, dass das Rückfallrisiko von Menschen mit schwarzer Hautfarbe durchschnittlich doppelt so hoch eingeschätzt wurde wie das von Menschen mit weißer Hautfarbe. Anhand der tatsächlichen Rückfallzahlen ließ sich das nicht bestätigen, das System lag mit dieser Einschätzung also falsch.
 

Logischerweise ist das Programm selbst nicht rassistisch, seine Entscheidungen sind es laut der Studie allerdings. Denn das ist eines der Hauptprobleme von Algorithmen: Sie werden immer noch von Menschen programmiert. Anhand von eigegebenen Trainingsdaten lernen Algorithmen - doch diese Daten können durch Voruteile und andere Faktoren beeinflusst sein. Oft passiert das unbewusst, kann allerdings wie bei COMPAS negative Folgen haben.

AlgorithmenZukunftGesellschaftTechnikInfomatikKünstliche Intelligenz