Algorithmen und die Grenzen von Fairness

Abstract

Algorithmen werden immer öfter für Entscheidungen herangezogen, bei denen Menschen bewertet oder kategorisiert werden. Dieser Trend reicht von unternehmensinternen Anwendungen wie der Bewerbervorauswahl bis hin zu Produkten, deren Bestandteil eine solche Entscheidungssoftware ist – etwa ein Computerprogramm, das automatisch maßgeschneiderte Versicherungspolicen vorschlagen soll. Während menschliche Urteile immer subjektiv geprägt sind und diversen Verzerrungen wie wechselnder Konzentration oder (unbewussten) Vorurteilen unterliegen können, folgen Algorithmen in jedem Entscheidungsfall stets denselben Prinzipien. Man könnte daher annehmen, Programme und Algorithmen seien automatisch objektiv und damit fair. Das wäre jedoch ein Fehler. Wir zeigen am Beispiel Fairness auf, dass Unternehmen vor wichtigen moralischen und sozialen Fragen stehen, wenn sie in der Digitalisierung auf automatisierte Entscheidungen über Menschen setzen. Fairness kann in der Praxis anhand unterschiedlicher Maße operationalisiert werden, die alle sachgerecht und erstrebenswert erscheinen. Und doch ist es unter bestimmten plausiblen Voraussetzungen rein mathematisch unmöglich, all diese Fairnessmaße gleichzeitig zu erfüllen. Darüber hinaus ist neben den statistischen Fairnesskonzepten auch die subjektive Wahrnehmung von Bedeutung, wenn es um die Akzeptanz automatisierter Entscheidungsprozesse geht. Die Kompetenz, Fairness in hinreichendem Maße zu gewährleisten und mit einem gewissen Maß an notwendiger Unfairness umzugehen – über sie zu reflektieren, sie zu begründen und entsprechend zu kommunizieren –, ist folglich eine Herausforderung, die in den Bereich Corporate Digital Responsibility fällt

@incollection{baumAlgorithmenUndDieGrenzen2020,
 author = {Kevin Baum and Tina Feldkamp and Sophie Elisabeth Henning and Nikolai Käfer},
 booktitle = {Kevin Baum; Tina Feldkamp;  Sophie Elisabeth Henning; Nikolai Käfer; Andreas Suchanek; Wolfgang Gründinger; Sarah J. Becker; André T. Nemat; Marcel Rebbert; Robert Ranisch; Lisa Schöttl; Manuel Kilian; Pauline Kuss; Philipp Hommelsheim; Simon Dümpelmann;: Unternehmensverantwortung im digitalen Wandel: Ein Debattenbeitrag zu Corporate Digital Responsibility},
 pages = {35-42},
 publisher = {Verlag Bertelsmann Stiftung},
 title = {Algorithmen und die Grenzen von Fairness},
 url = {https://www.dfki.de/fileadmin/user_upload/import/16853_UN_Verantwortung_im_digitalen_Wandel.pdf},
 year = {2020}
}