Entscheidungsmacht von Algorithmen: Mensch versus Algorithmus

Algorithmen bestimmen mittlerweile unser tägliches Leben. Aber ist eine von Menschen getroffene Entscheidung richtig, auch wenn der Algorithmus das anders sieht? Algorithmen versuchen ein Problem zu lösen, in dem sie den Vorgang der Problemlösung genau beschreiben. Sie werden von Menschen entwickelt, um dann eigenständig nach vorgegebenen Parametern Ergebnisse zu liefern. Google präsentiert uns nach einem von Experten erarbeiteten Algorithmus die Suchergebnisse auf unsere gestellte Frage. Amazon versucht uns Empfehlungen nach einem Algorithmus vorzuschlagen und Facebook passt unsere Timelines nach einem Algorithmus an. Doch wie fehlerfrei kann etwas von Menschen entwickeltes sein?


Warum ist das wichtig? Durch die umfassende Digitalisierung unserer Gesellschaft sind Algorithmen ein fester Bestandteil unseres Lebens.

  • Algorithmen bestimmen unsere Gesellschaft, aber ohne Transparenz können sie nicht ethisch bewertet werden.

  • Entwicklungen wie Deep Learning treiben die „Menschwerdung“ von Algorithmen voran, ohne die Schwachstellen des menschlichen Denkens.

  • Erst das Ergebnis zeigt uns, ob Mensch oder Algorithmus Recht haben. Vorhersagen lässt sich das oftmals nicht.


Auch das Navigationsgerät eines Autos funktioniert nach einem Algorithmus: es erfasst den besten, schnellsten oder energieeffizientesten Weg. Was aber, wenn ich, als Mensch, einen schnelleren Weg kenne? Wenn ich eine andere Entscheidung treffe als mir der Algorithmus des Navigationsgerät vorgibt? Bin ich dann immer noch im Recht?

Das Beispiel mit dem Navigationsgerät wirkt einfach zu lösen: Solange das Ziel erreicht wird, war die Entscheidung richtig, unabhängig von der gewählten Strecke. Ob die Strecke, die das Navigationsgerät berechnet hat, oder die man letztlich gefahren ist, schneller war, kann kein Auto fahrender Mensch beurteilen. Außerdem spielen weiteren Faktoren wie der Verkehr, Baustellen und auch Ampeln eine Rolle.

Wie sieht es aber mit Algorithmen in einem Krankenhaus aus? In der ersten Folge von „Looking into Black Boxes“ wird erklärt, wie im Krankenhaus Berlin-Marzahn das „Manchester Triage System“ verwendet wird. Dieses beinhaltet einen Algorithmus, der die Patienten nach Symptomen einteilt und sie dementsprechend in einem bestimmten Zeitraum behandelt werden. Andere Algorithmen überwachen beispielsweise die Dosierung von Medikamenten.

Hier stellt sich wieder die gleiche Frage: Wie weit kann der Mensch auf die Maschine vertrauen? Und: Wenn der Mensch dem Algorithmus widerspricht, wer hat dann Recht?

Ethische Aspekte von Algorithmen

Algorithmen kann eine Ethik beiwohnen, solange sie Konsequenzen für unser tägliches Leben haben, so Zeynep Tufekci gegenüber der taz. „Sie sind zwar nicht lebendig, aber sie sind handlungsmächtig.“ Die Frage, die sich nun stellt, ist die ethische Verantwortung der Menschen hinter dem Algorithmus.

Es gibt immer einen Entwickler, welcher aus einer Formel einen funktionierenden Algorithmus entworfen hat. Letztlich setzt dieser die Parameter fest, nach denen der Algorithmus dann arbeitet und handlungsmächtig agiert. Im Endeffekt entscheiden diese dann auch, was richtig und falsch ist.

Um eine Entwicklerethik festzulegen und auch kontrollieren zu können, müssten Algorithmen transparent gemacht werden. Bisher sind die meisten Algorithmen nur für die Unternehmen dahinter zugänglich. Alles, was wir kaufen, recherchieren oder lesen, wird in Datenbanken gesammelt, ist für Unternehmen jederzeit verfügbar und kann einfach per Fernzugriff geändert werden.

Fehlende Transparenz

Für die Nutzer gibt es allerdings keinerlei Transparenz oder Kontrolle. Mit jedem Nutzer-Account, das wir uns zulegen, tragen wir wieder ein neues Konto in die Datenbank einer Firma ein, die Informationen über uns sammelt und aus diesen versucht, uns ein Erlebnis zu schaffen, was sich in irgend einer Form monetarisieren lässt.

Ohne Transparenz können wir als Gesellschaft nicht entscheiden, ob der Algorithmus nach ethischen Parametern entscheidet oder nicht. Arbeitet ein Algorithmus nach unethischen Vorgaben, sollte sein Ergebnis anzuzweifeln sein. Entspricht die vom Menschen getroffene Entscheidung den ethischen Vorgaben, ist sie klar als richtig zu bewerten, auch wenn der Algorithmus etwas anderes sagt.

Jedoch wird es ein schwieriges bis unmögliches Unterfangen, die Unternehmen zur Offenlegung ihrer Algorithmus-Parameter zu bringen. Daher wird eine ethische Bewertung so schnell nicht möglich sein.

Deep Learning – die neue Zukunft?

In der Forschung rund um Algorithmen werden immer mehr Fortschritte erzielt. Deep-Learning-Algorithmen sind auf dem Weg, ähnlich des menschlichen Gehirn zu funktionieren, in dem menschliches Lernen imitiert wird. Damit gehen die Entwickler einen großen Schritt Richtung Künstliche Intelligenz.

Lernfähige Algorithmen geben die Hoffnung, dass man Ihnen ethisches Verhalten „beibringen“ kann und sie somit irgendwann evaluieren können, was ethisch nicht vertretbar ist. Sind die Ergebnisse solcher Algorithmen dann bald besser als die Entscheidungen, die Menschen treffen? Und wer hat dann die Handlungsmacht?


Teaser & Image (adapted) by geralt (CC0)

 

Schlagwörter: , , , , , , ,
Alexandra von Heyl

Alexandra von Heyl

ist Management Studentin und immer auf der Suche nach Herausforderungen! In ihrem Leben dreht sich alles um Marketing, besonders POS & Online. Ehemalige Praktikantin bei den Netzpiloten und Hobby-Photographin. Mitglied des Netzpiloten Blogger Networks.

More Posts - Twitter - Facebook