Meine persönliche Bemerkung:
Seit
einiger eit beschäftige ich mich intensiv mit den Begriff Algorithmus
und die Missverständnisse, die darüber bei den Bürgern entstanden sind.
Auf Initiative von Prof. Dr. Ulrich Trottenberg, Universität zu Köln und
Fraunhofer-Institut, wurde ein Arbeitskreis gebildet, der dabei hilft,
das algorithmische Denken – angefangen bei Grudschulen bishin zu
Gymnasien und Fach-Oberschulen – fördern soll. Ich selbst engagiere mich
vor allen Dingen deshalb, weil ich befürchte, dass das Unwissen zu
dieser Methode zu Ängsten führen kann, die vergleichbar sind, mit
Ängsten zur Kernenergie oder ungewissen Krankheiten. Solche Ängste
provozieren gesellschaftliche Entwicklungen, insbesondere auch
vermittelt durch die sozialen Medien mit ihren Fake News, die kaum mehr
kontrollierbar sind und zu Handlungen führen, die die Vernunft bezogene
Evolution unserer Gesellschaft so politisch als auch soziologisch
extrem behindern und das demokratische Verständnis abbauen. Deswegen ist
es unbedingt notwendig, den Bürgern zumindest ein Grundverständnis zu
ermöglichen, aber auf keinen Fall fachsprachlich abgehoben. Die
entsprechende Didaktik muss unbedingt entwickelt werden. Dafür setze ich
meine Kenntnisse als Wissenschaftsjournalist weiterhin intensiv ein.
Der von uns entwickelte technische ‚Turmbau zu Babel‘ kann nur durch
Vernunft vor dem Einsturz bewahrt werden.
Ihr Jean Pütz
Was Deutschland über
Algorithmen weiß und denkt
Ergebnisse einer repräsentativen Bevölkerungsumfrage
Impuls Algorithmenethik #7
Was Deutschland über Algorithmen weiß
und denkt
Ergebnisse einer repräsentativen
Bevölkerungsumfrage
Sarah Fischer und Thomas Petersen
Impressum
© Mai 2018 Bertelsmann Stiftung
Bertelsmann Stiftung
Carl-Bertelsmann-Straße 256
33311 Gütersloh
www.bertelsmann-stiftung.de
Verantwortlich
Ralph Müller-Eiselt
Autoren
Dr. Sarah Fischer, Bertelsmann Stiftung, Dr. Thomas Petersen, Institut für Demoskopie Allensbach
Lizenz
Der Text dieser Publikation ist urheberrechtlich geschützt und lizenziert unter der der Creative Commons
Namensnennung 3.0 International (CC BY-SA 3.0) Lizenz. Den vollständigen Lizenztext finden
Sie unter: https://creativecommons.org/licenses/by-sa/3.0/legalcode.de.
Das Titelfoto (© Shutterstock/William Perugini) ist ebenfalls urheberrechtlich geschützt, unterfällt aber
nicht der genannte CC-Lizenz und darf nicht verwendet werden.
DOI 10.11586/2018022 https://doi.org/10.11586/2018022
Inhalt | Seite 3
Inhalt
Vorwort ……………………………………………………………………………………………………… 4
Zusammenfassung …………………………………………………………………………………….. 6
Executive Summary …………………………………………………………………………………… 8
1 Ziel und Vorgehen der Befragung ………………………………………………………… 9
2 Unkenntnis: Geringes Wissen über den Einsatz von Algorithmen ………. 12
3 Unentschlossenheit: Noch keine klare Meinung zu Vor- und
Nachteilen …………………………………………………………………………………………. 16
4 Unbehagen: Vorbehalte gegenüber algorithmischen
Entscheidungen und Wunsch nach mehr Kontrolle ……………………………. 24
5 Fazit und Ableitungen ……………………………………………………………………….. 29
Literatur …………………………………………………………………………………………………… 31
Über die Autoren ……………………………………………………………………………………… 32
Impulse Algorithmenethik ………………………………………………………………………… 33
Anhang ……………………………………………………………………………………………………. 34
Seite 4 | Vorwort
Vorwort
Algorithmische Systeme sind im Alltag angekommen, sie betreffen jeden von uns. Tagtäglich begegnet uns Software,
die uns bewertet, die für und über uns entscheidet. Sie wählt für uns Informationen und Nachrichten aus,
wenn wir Google oder Facebook nutzen. Sie spielt auf uns zugeschnittene Werbung aus und macht uns auf Datingportalen
Vorschläge für passende Lebenspartner. Algorithmen bewerten unsere Kreditwürdigkeit und wählen
aus, wer im Bewerbungsprozess auf einen Job die wichtige Hürde der Vorauswahl nimmt.
Auf der einen Seite sind mit Algorithmen, die Entscheidungen treffen oder Menschen in ihren Entscheidungen
unterstützen, große Chancen verbunden. Sie sind schnell und effizient im Umgang mit riesigen Datenmengen:
Eine Software prüft in Australien 20.000 Sozialbezüge in der Woche, Menschen brauchen dazu ein ganzes Jahr.
IBMs Supercomputer Watson verarbeitet in drei Sekunden über 200 Millionen Textseiten. Das bietet große Potenziale
etwa in der Medizin, wo „Dr. Watson“ künftig Ärzte bei ihrer Diagnose unterstützen kann. Auf der
anderen Seite bergen automatisierte Entscheidungen erhebliche Risiken. Fehler und Verzerrungen beschränken
sich selten auf Einzelfälle, sondern treffen gleich eine Vielzahl von Menschen. Algorithmen können bestehende
Benachteiligungen reproduzieren und soziale Ungleichheit verstärken: wenn etwa Stellenanzeigen für Führungspositionen
bei Google nur Männern, aber nicht Frauen angezeigt werden (Carpenter 2015) oder Bewerber
aufgrund ihres Wohnortes oder psychischer Krankheiten (Weber und Dwoskin 2014) systematisch aussortiert
werden.
Die Debatte über Chancen und vor allem Risiken algorithmischer Entscheidungsfindung nimmt zumindest in
Presse und Politik allmählich Fahrt auf. Doch ist den Deutschen eigentlich bewusst, wo Algorithmen überall zum
Einsatz kommen und wie solche Systeme funktionieren? Würden sie als Verbraucher, Bürger1 oder Patienten
einer Entscheidung vertrauen, die Algorithmen maßgeblich beeinflusst haben? Stehen sie dem Thema eher offen
gegenüber oder dominieren Skepsis, Ängste und Sorgen? Diesen Fragen gehen Sarah Fischer und Thomas Petersen
in der vorliegenden repräsentativen Bevölkerungsbefragung nach. Sie ergründet erstmals tiefergehend,
was die Menschen in Deutschland über Algorithmen wissen, welche Vorstellungen und welche Einstellungen sie
zu diesem Thema haben und inwiefern sie in unterschiedlichen Lebensbereichen bereit sind, Aufgaben und Entscheidungen
an Algorithmen abzugeben.
Derartige Informationen sind eine wichtige Grundlage für einen breiten Diskurs in der Bevölkerung über eine
Technologie, die erhebliche Konsequenzen für jeden Einzelnen und große Veränderungen – positive wie negative
– für unsere gesamte Gesellschaft bringen wird. So ist etwa für Emmanuel Macron seine aktuelle Strategie
für Künstliche Intelligenz (KI) erst dann erfolgreich, wenn Frankreich nicht nur führender KI-Standort in Europa
wird, sondern auch die Bevölkerung diesen Wandel versteht und angstfrei mitträgt: „If a majority of people in
France understand and endorse this change it will be a success. It will be a failure if we are stuck with fears and
blocked by big scares. My concern is that there is a disconnect between the speediness of innovation and some
practices, and the time for digestion for a lot of people in our democracies“ (Thompson 2018).
Für Deutschland zeigt die Umfrage, dass eine breite gesellschaftliche Diskussion abseits der Fachdiskurse und
einschlägig Interessierten noch nicht begonnen hat. Vielmehr herrschen in Bezug auf das Thema Algorithmen in
Deutschland Unkenntnis, Unentschlossenheit und Unbehagen: Das Thema beschäftigt die deutsche Bevölkerung
bisher kaum. Die wenigsten haben eine klare Meinung dazu, begegnen jedoch Entscheidungen, die von oder mithilfe
von Algorithmen getroffen werden, mit großer Ablehnung. Für ein besseres Verständnis und eine realistische
Einschätzung von Chancen und Risiken ist ein Wissens- und Kompetenzaufbau auf allen Ebenen notwendig. Um
Ängsten und Ablehnung zu begegnen, braucht es einen sachlichen und differenzierten Diskurs über die positiven
und negativen Konsequenzen neuer Technologien. Nicht zuletzt ist mehr Transparenz und eine effektive Kontrolle
algorithmischer Entscheidungsfindung notwendig, um Vertrauen in der Bevölkerung aufzubauen. Wo
1 Aus Gründen der Einfachheit und besseren Lesbarkeit verwendet diese Publikation vorwiegend die männliche Sprachform. Es sind jedoch
jeweils beide Geschlechter gemeint.
Vorwort | Seite 5
Software das Leben von Menschen maßgeblich beeinflusst, muss ihr Einsatz gesellschaftlich angemessen gestaltet
sein. Wer davon betroffen ist, muss darüber und über potenzielle Folgen Bescheid wissen. Auch wenn
Algorithmen bereits heute unseren Alltag beeinflussen, stehen wir in Deutschland gerade im internationalen Vergleich
noch am Anfang des Weges hin zu einer zunehmend algorithmisch geprägten Gesellschaft. Mit dieser
Studie wollen wir einen Beitrag zu einer breiten gesellschaftlichen Debatte leisten, wie diese Entwicklung so gestaltet
werden kann, dass sie in der Bevölkerung nicht uninformiert auf große Skepsis, sondern informiert auf
Abwägung und Akzeptanz trifft. Wir danken dem Institut für Demoskopie Allensbach für die kreative Unterstützung
in der Umsetzung des Fragebogens sowie die sehr kompetente Umsetzung der Erhebung.
Die Umfrage ist Teil des Projekts „Ethik der Algorithmen“, in dem sich die Bertelsmann Stiftung näher mit den gesellschaftlichen
Auswirkungen algorithmischer Entscheidungssysteme beschäftigt. Bislang erschienen sind in der
Reihe „Impulse Algorithmenethik“ eine Sammlung internationaler Fallbeispiele (Lischka und Klingel 2017), eine
Untersuchung des Wirkungspotenzials algorithmischer Entscheidungsfindung auf Teilhabe (Vieth und Wagner
2017), eine Analyse des Einflusses algorithmischer Prozesse auf den gesellschaftlichen Diskurs (Lischka und
Stöcker 2017), ein Papier zu Fehlerquellen und Verantwortlichkeiten in Prozessen algorithmischer Entscheidungsfindung
(Zweig 2018), ein Gutachten zu den Potenzialen und Grenzen der europäischen Datenschutz-
Grundverordnung (DSGVO) für algorithmische Systeme (Dreyer und Schulz 2018) sowie ein Überblick über Lösungsansätze,
um algorithmische Prozesse in den Dienst der Gesellschaft zu stellen (Krüger und Lischka 2018).
Um den Diskurs und die Debatte über die Ergebnisse der Studie zu erleichtern, veröffentlichen wir sie unter einer
freien Lizenz (CC BY-SA 3.0 DE). Wir freuen uns über Resonanz und natürlich auch jede Form konstruktiver Kritik.
Dr. Jörg Dräger Ralph Müller-Eiselt
Mitglied des Vorstands Senior Expert Taskforce Digitalisierung
Bertelsmann Stiftung Bertelsmann Stiftung
Seite 6 | Zusammenfassung
Zusammenfassung
Wenn wir Informationen googeln, wenn wir auf Facebook unterwegs sind oder wenn uns im Internet auf uns zugeschnittene
Werbung angezeigt wird, Produkte empfohlen oder Preise angezeigt werden – jeden Tag sind wir
mit Algorithmen konfrontiert. Sie entscheiden, wer wem auf Datingportalen vorgeschlagen wird, sie bewerten
Menschen hinsichtlich ihrer Kreditwürdigkeit und entscheiden teils schon, welche Bewerber in der ersten Phase
des Bewerbungsprozesses aufgrund ihres Lebenslaufes aussortiert werden. Der Einsatz von Algorithmen birgt
Chancen und Risiken, die im Fachdiskurs seit Jahren diskutiert und seit einiger Zeit auch in den Medien aufgegriffen
werden.
Doch was wissen und denken die Deutschen eigentlich über Algorithmen? Dieser Frage geht die vorliegende repräsentative
Bevölkerungsbefragung nach. Sie hat das Ziel, Kenntnisse und Einstellungen der Deutschen zum
Thema Algorithmen zu analysieren. Die Umfrage ergründet, wie tiefgehend das Wissen der Deutschen zum
Thema Algorithmen ist und inwiefern ihnen der Einsatz von Algorithmen in verschiedenen Anwendungsfeldern
überhaupt bewusst ist. Sie erfasst, welche Vor- und Nachteile die deutsche Bevölkerung in Verbindung mit Algorithmen
sieht und inwiefern sie bereit ist, Urteile und Entscheidungen in verschiedenen Lebensbereichen an
Algorithmen abzugeben. Die Ergebnisse der Umfrage zeichnen ein klares Bild: Es herrscht weitverbreitetes Unwissen
über Algorithmen, eine große Unentschlossenheit über die Chancen und Risiken und ein erhebliches
Unbehagen gegenüber Urteilen und Entscheidungen, die von Algorithmen getroffen werden, sowie damit verbunden
ein starker Wunsch nach mehr Kontrolle.
Im Einzelnen zeigt die Umfrage, dass zwar fast drei Viertel der Befragten schon einmal den Begriff „Algorithmus“
gehört haben. Nur 10 Prozent der Deutschen wissen jedoch recht genau, wie Algorithmen funktionieren. Fast die
Hälfte der Befragten (45 Prozent) konnte spontan nicht sagen, was ihnen zu diesem Begriff einfällt. Zudem ist
den Deutschen in vielen Anwendungsgebieten gar nicht bewusst, dass dort Algorithmen eingesetzt werden. Zwar
weiß etwa die Hälfte der Befragten, dass Algorithmen auf den Einzelnen zugeschnittene Werbung (55 Prozent)
und Nachrichten (49 Prozent) zuspielen. Weniger bekannt sind potenziell folgenreichere Anwendungsbereiche:
Bei der Vorauswahl von Bewerbern oder Krankheitsdiagnosen weiß nur etwa ein Drittel der Befragten, dass dort
Algorithmen zum Einsatz kommen (35 bzw. 28 Prozent).
Die Frage, ob mit Algorithmen mehr Chancen oder mehr Risiken verbunden werden, zeigt, dass sich die Deutschen
noch kein klares Bild vom Thema gemacht haben. Fast die Hälfte (46 Prozent) beantwortet die Frage mit
„unentschieden“. Eine positive Haltung zum Thema haben vor allem diejenigen, die generell im technischen Fortschritt
Chancen sehen. Auch männliche Befragte und jene, die eine Vorstellung davon hatten, wie Algorithmen
funktionieren, sahen eher ihre Vorteile. Insgesamt zeigt sich keine klare Tendenz in der Einschätzung des Themas:
Auf der einen Seite sahen die Befragten den praktischen Nutzen von Algorithmen, rund die Hälfte verband
Begriffe wie „Genauigkeit“ (53 Prozent) und „Effektivität“ (49 Prozent) damit. Auf der anderen Seite stimmten viele
Befragte auch negativen Aussagen zu, etwa, dass Algorithmen Programmierern viel Macht über Menschen verleihen
(57 Prozent) und dazu führen, dass der Einzelne nur noch eine Nummer sei (54 Prozent).
So unklar die Meinung über Chancen und Risiken algorithmischer Systemen noch ist, so klar ist die Skepsis
ihnen gegenüber: In Deutschland herrscht ein erhebliches Unbehagen in allen Gesellschaftsschichten, wenn es
um Algorithmen geht, die über Menschen urteilen und Entscheidungen über sie treffen. Eine große Mehrheit (79
Prozent) zieht menschliche Entscheidungen automatisierten vor. Die Abneigung gegenüber Algorithmen ist umso
höher, je folgenreicher die Entscheidung ist. Allein bei der Aufgabe der Lagerraumverwaltung, die keine unmittelbaren
Auswirkungen auf Menschen hat, kann sich eine Mehrheit (57 Prozent) vorstellen, diese vollständig an
Computer abzugeben. Jedoch sprechen sich immerhin noch 36 Prozent dafür aus, dass auch dort der Mensch
beteiligt sein sollte. Bei schwerwiegenden Entscheidungen, wie etwa bei der Diagnose von Krankheiten oder bei
der Vorauswahl von Bewerbern, lehnten hingegen 40 bzw. 49 Prozent der Befragten es ab, dass bei diesen überhaupt
ein Algorithmus beteiligt ist.
Zusammenfassung | Seite 7
Mit diesem Unbehagen geht ein Wunsch nach mehr Kontrolle einher. Fast zwei Drittel der Befragten (63 Prozent)
in allen Gesellschaftsschichten sprechen sich für stärkere Kontrollen von Algorithmen aus. So befürwortet ein
Großteil der Befragten die in der Befragung vorgeschlagenen Maßnahmen, beispielsweise ein Recht auf eine
zweite Meinung, die Einführung eines Auskunftsrechts für Betroffene, einen Algorithmen-TÜV oder den Einsatz
einer Ethikkommission. Fast drei Viertel der Befragten (73 Prozent) sprechen sich sogar für ein Verbot von Entscheidungen
aus, die Algorithmen allein treffen. Ein vollständiges Verbot aller Algorithmen halten hingegen nur
10 Prozent für sinnvoll.
Aus den Ergebnissen können drei zentrale Ableitungen getroffen werden: Erstens zeigt die Befragung, dass ein
besseres Verständnis von der Funktionsweise algorithmischer Entscheidungen eine positive Einstellung zum
Thema und gleichzeitig ein geschärftes Risikobewusstsein begünstigt und zu weniger Ablehnung gegenüber Algorithmen
führt. Wichtig ist deshalb ein breiter Wissens- und Kompetenzaufbau auf allen Ebenen und eine
Aufklärung der Bevölkerung über Nutzen und Schaden von Algorithmen. Zweitens zeigt die Befragung, dass eine
positive Haltung zum Thema Algorithmen stark von einer optimistischen Sicht auf technischen Fortschritt insgesamt
bestimmt wird. Statt Technikdeterminismus und Angstszenarien braucht es deshalb einen sachlichen und
differenzierten Diskurs über die Chancen und Risiken neuer Technologien. Um dem weitverbreiteten Unbehagen
gegenüber Algorithmen entgegenzuwirken und Vertrauen aufzubauen, bedarf es drittens nicht zuletzt einer kompetenten
und effektiven Kontrolle algorithmischer Systeme. Dieser Wunsch artikuliert sich in allen Schichten der
Bevölkerung und sollte dementsprechend ernst genommen werden.
Seite 8 | Executive Summary
Executive Summary
When we google information, scroll through Facebook or are shown individually tailored ads, recommended products
or special offers on the internet – every day, we are confronted with algorithms. Algorithms decide who is a
match on dating websites, rate people in terms of creditworthiness, and sometimes, in the first phase of the application
process, decide which applicants will be screened out on the basis of their CV. The use of algorithms
presents opportunities and risks that have for years been discussed in specialist circles and have also been taken
up by the media for some time.
But what does the German public actually know and think about algorithms? This question is at the core of this
representative population survey, which sets out to analyze the knowledge of and attitudes toward the topic of
algorithms on the side of the German public. The survey investigates the depth of knowledge of algorithms and
assesses the awareness of the use of algorithms in a variety of applications. It records the advantages and disadvantages
identified by the German public in relation to algorithms, and the extent of its willingness to hand over
responsibility for judgments and decisions to algorithms in various domains of life. The findings of the survey draw
a clear picture: There is widespread ignorance about algorithms, extreme indecisiveness on the opportunities and
risks, and considerable unease as regards the judgments and decisions made by algorithms. All of this is accompanied
by a strong desire for more control.
The survey shows that while almost three-quarters of respondents have heard the term “algorithm” before, only
10% of the German public know exactly how algorithms actually work. Almost half of those surveyed (45%) could
not provide a spontaneous response when asked what the term means to them. In addition, the German public is
unaware that algorithms are already being used in many fields of application. Although around half of respondents
know that algorithms play a role in tailored advertising (55%) and news (49%), less is known about
potentially more far-reaching fields of application. For example, only around one third of respondents know that
algorithms are used in the preselection of applicants or the diagnosis of diseases (35% and 28%, respectively).
The question of whether algorithms are associated with more opportunities or more risks indicates that the German
public is yet to form a clear picture. Almost half (46%) answer this question with “undecided.” Those who
generally see opportunities in technical progress have a positive attitude toward algorithms as well. In addition,
male respondents, and those with an idea of how algorithms work, were more likely to see benefits in their use.
Overall, there is no clear trend in the appraisal of the topic. On the one hand, respondents saw the practical benefits
of algorithms; around half associated the topic with terms such as “accuracy” (53%) and “effectiveness”
(49%). On the other, many respondents also agreed with negative statements along the lines of “algorithms give
programmers a great deal of power over people” (57%) and “algorithms reduce the individual to a mere number”
(54%).
The opinions on the opportunities and risks of algorithmic systems are as unclear as the skepticism towards them
is clear: In all classes of German society, there is considerable unease as regards algorithms that pass judgement
on and make decisions about people. A large majority (79%) prefer human to automated decisions. The
aversion to algorithms increases as the decisions become more consequential. Only for the field of warehouse
management, which has no immediate impact on people, can a majority (57%) imagine handing over responsibilities
to computers entirely. Even here, 36% are in favor of retaining a role for humans. However, in the case of
more serious decisions such as the diagnosis of illnesses or the preselection of job applicants, 40% and 49% of
respondents, respectively, opposed the involvement of algorithms in any such decision.
This unease is accompanied by a desire for greater oversight and control. Across all social classes, nearly twothirds
of respondents (63%) are in favor of more stringent controls on the use of algorithms. For example, a large
proportion of respondents are in favor of the measures proposed in the survey, such as a right to a second opinion,
the right of access to information for those affected, a technical inspection authority for algorithms, or the
input of an ethics committee. Almost three-quarters of respondents (73%) are even in favor of a ban on decisions
Ziel und Vorgehen der Befragung | Seite 9
that fall exclusively into the hands of algorithms. However, only 10% consider a complete ban on all algorithms to
be appropriate.
Three central conclusions can be drawn from the results. Firstly, the survey indicates that a better understanding
of how algorithmic decisions work favors a positive attitude toward the topic as well as a high risk awareness, and
leads to algorithms being rejected less frequently. It is therefore important to establish broad knowledge and expertise
at all levels, and to educate the public on the benefits and harms of algorithms. Secondly, the survey
shows that an optimistic view of technical progress as a whole is a strongly determining factor in a positive attitude
towards algorithms. In place of technical determinism and fear scenarios, what is therefore required is a
factual and differentiated discourse on the opportunities and risks of new technologies. Thirdly, and not least, a
competent and effective means of control of algorithmic systems is required in order to counteract widespread
unease on the topic of algorithms and to establish trust. This desire is articulated across all sections of the population
and must be taken seriously.
1 Ziel und Vorgehen der Befragung
Software löst mithilfe von Algorithmen vielfältige Aufgaben und bereitet auf dieser Grundlage Entscheidungen vor
oder trifft diese selbst. Algorithmen können uns damit viele Routinetätigkeiten abnehmen. Sie werden jedoch
auch zunehmend eingesetzt, um Menschen zu bewerten und Entscheidungen über sie zu treffen. In Deutschland
ist das längst keine Fiktion mehr, sondern Realität. Neben der Auswahl von Werbung und Nachrichten im Internet
als alltäglichste Beispiele werden Algorithmen hierzulande auch genutzt, um Gesichter gesuchter Personen auf
Videomaterial zu identifizieren, die Kreditwürdigkeit zu bewerten und Bewerber vorauszuwählen. In anderen Ländern
wie den USA stellen Algorithmen medizinische Diagnosen, kalkulieren Versicherungstarife, prognostizieren
die Rückfallwahrscheinlichkeit von Straftätern und berechnen die Lebenserwartung von Patienten.
Bei so folgenschweren Entscheidungen ist es nicht verwunderlich, dass in der medialen Berichterstattung häufig
die Sorge um Risiken dominiert und ein großes Unbehagen mitschwingt: Wie viele Tätigkeiten werden in Zukunft
von Algorithmen übernommen und wie viele Arbeitsplätze gehen dadurch verloren? Wie fair können Entscheidungen
von Algorithmen eigentlich sein? Sind Algorithmen objektiv oder reproduzieren sie vielmehr schon
bestehende Vorurteile im großen Stil? Inwiefern produzieren Algorithmen Filterblasen und üben negativen Einfluss
auf die Meinungsbildung aus? Vor dem Hintergrund des wachsenden Einflusses von Algorithmen in
verschiedenen Lebensbereichen sowie einer vermehrten Berichterstattung über Algorithmen und ihre Konsequenzen
stellt sich die Frage, ob sich auch die Menschen in Deutschland mit diesem Thema auseinandersetzen.
Ist ihnen der Einfluss von Algorithmen bewusst? Stehen sie dieser technischen Entwicklung mit Skepsis gegenüber
oder begreifen sie diese als Fortschritt?
Seite 10 | Ziel und Vorgehen der Befragung
Bisherige Umfragen setzen sich vor allem mit den Einstellungen der Deutschen zum Thema Künstliche Intelligenz
(KI) auseinander. Der Begriff hat Schlagwortcharakter und wird auch von den Medien häufiger verwendet
als der Begriff „Algorithmus“. Algorithmen und Künstliche Intelligenz unterscheiden sich in der Art, wie die Software
Probleme löst: Algorithmen folgen dabei vorab vorgegebenen Schritten, künstliche Intelligenz lernt aus
Daten Muster und wendet sie auf neue Daten an, dabei sucht sie sich selbstständig Lösungswege. Manche der
bisherigen Umfragen (Bitkom 2017; Marsden 2017) zeigen den Befragten Definitionen von Künstlicher Intelligenz,
die sie als Eigenschaft von IT-Systemen beschreiben, menschenähnliche intelligente Verhaltensweisen zu zeigen,
vor allem die Fähigkeit des Lernens. Die Umfragen stellen KI vor allem in den Kontext von digitalen
Assistenten (z. B. Sprachassistenten oder Chatbots; Bitkom 2017; Marsden 2017; VMware 2017) oder fragen
allgemein nach Kenntnissen und Einstellungen zum Thema. Eine große Mehrheit kennt den Begriff (PwC 2017)
und weiß nach eigenen Angaben auch, was damit gemeint ist oder kann ihn erklären (Bitkom 2017; BVDW
2018). Die Einstellungen der Befragten werden über die Zustimmung zu Aussagen über KI abgefragt, Dabei zeigen
die Umfragen, dass die Deutschen sowohl positiven Aussagen (Produktivität steigern, Krankheiten besser
diagnostizieren) zustimmen als auch negative Aspekte sehen (Machtmissbrauch, Arbeitsplatzverlust; Bitkom
2017; BVDW 2018; PwC 2017). Die Umfrage von Bitkom (2017) weist zudem darauf hin, dass etwa 40 Prozent
der Befragten den Einsatz von KI grundsätzlich ablehnen und eine große Mehrheit will, dass die Politik Regeln
vorgibt. Zu einem ähnlichen Ergebnis kommt auch eine Umfrage der Verbraucherzentrale (VZBV 2017) zu automatisierten
Entscheidungen durch Algorithmen: Ein Großteil der Befragten befürwortet eine staatliche
Überprüfbarkeit und eine Offenlegung der Daten und Kriterien aufseiten der Firmen. Geschieht dies nicht, sehen
viele in automatisierten Entscheidungen eine Gefahr.
In der vorliegenden Umfrage wird nicht „Künstliche Intelligenz“, sondern der Begriff „Algorithmus“ als Untersuchungsgegenstand
gewählt, um bei den Befragten den Eindruck zu vermeiden, es handele sich um Software, die
genauso intelligent ist wie der Mensch. Bei den Systemen, die heute im Einsatz sind, handelt es sich um sogenannte
„schwache künstliche Intelligenzen“, die in einem eng umgrenzten Einsatzgebiet die
Problemlösungskompetenz von Menschen erreichen oder übertreffen. Im Sinne der Fähigkeit, komplexe Ziele zu
erreichen, sind solche Systeme also intelligent (Tegmark 2017). Dies ist jedoch beschränkt auf ein eng begrenztes
Ziel: Eine KI, die Schach spielen kann, kann kein Monopoly spielen, sie muss erst komplett neu darauf
trainiert werden. Und auch wenn KI-Systeme selbstständig lernen und eigene Lösungswege finden, die Ziele und
die Rahmenbedingungen werden von Menschen vorgegeben. Zudem muss Software nicht künstlich intelligent
sein, um einen großen Einfluss auf die Gesellschaft zu haben. In vielen Bereichen werden Systeme eingesetzt,
die auf relativ einfachen Algorithmen basieren, etwa das viel diskutierte COMPAS-System, das in den USA die
Rückfälligkeitswahrscheinlichkeit von Straffälligen bewertet.
Die dieser Studie zugrundeliegende Bevölkerungsbefragung hat das Ziel, bisherige Erkenntnisse zu diesem Themenbereich
noch einmal zu vertiefen und genauer zu ergründen, was die Deutschen über das Thema
Algorithmen wissen und denken. Drei Fragestellungen stehen dabei im Vordergrund:
1. Wie viel weiß die deutsche Bevölkerung über Algorithmen?
Diese Frage wird in der Befragung in drei Punkten tiefergehend ergründet: Erstens interessiert nicht nur wie in
den vorherigen Umfragen, ob die Befragten den Begriff kennen und ihn erklären können. Vielmehr werden sie
konkreter gefragt, ob sie wissen wie Algorithmen funktionieren. Hier geht es also nicht nur um das Wissen, sondern
auch um ein grundlegendes Verständnis des Themas. Zweitens wird offen nach spontanen Assoziationen
gefragt, um zusätzlich zur Selbstauskunft zu ergründen, wieviel die Menschen in Deutschland tatsächlich mit diesem
Thema anfangen können. Drittens ergründet diese Studie näher, wie bewusst den Deutschen über der
Einsatz von Algorithmen ist. Dazu werden ihnen 16 verschiedene Anwendungsfelder von Algorithmen vorgelegt.
2. Welche Einstellungen haben Menschen in Deutschland zu Algorithmen?
Bei den Einstellungen werden verschiedene Aspekte des Themas berücksichtigt und sowohl pragmatische Vorteile
als auch ethische Aspekte und verschiedene Arten von Risiken einbezogen. Erhoben werden die
Ziel und Vorgehen der Befragung | Seite 11
Einstellungen sowohl über Assoziationen zum Begriff „Algorithmus“ als auch über die Zustimmung zu Aussagen.
Weitere Analysen zeigen verschiedene Meinungsbilder in der Bevölkerung. Darüber hinaus werden die zentralen
Faktoren bestimmt, die die Einstellung zu Algorithmen beeinflussen.
3. Inwiefern sind Menschen in Deutschland bereit, Urteile, Entscheidungen und Aufgaben an Algorithmen
abzugeben?
Über die Einstellungen hinaus erfasst die Befragung zudem, inwiefern Menschen in Deutschland Algorithmen
vertrauen und ihnen Aufgaben und Entscheidungen übertragen würden. Um Auskunft darüber zu erhalten, wie
viel Verantwortung sie Algorithmen geben würden, wird dabei zwischen Entscheidungen, die Algorithmen allein
treffen, und solchen, bei denen sie Menschen lediglich bei der Entscheidungsfindung unterstützen, differenziert.
Für die 16 Anwendungsfelder wählen die Befragten, ob Algorithmen dort allein, mit Menschen gemeinsam oder
Menschen allein entscheiden sollen.
Insgesamt geben die Ergebnisse der Befragung Aufschluss darüber, wie hoch das Bewusstsein für und die Akzeptanz
von Algorithmen bei den Deutschen ausgeprägt sind. Wichtige Ansatzpunkte also, die es zu
berücksichtigen gilt, wenn die Bevölkerung stärker in die Diskussion um Algorithmen und ihre gesellschaftlichen
Folgen einbezogen werden soll.
In den folgenden Kapiteln werden die Ergebnisse der Befragung vorgestellt. Für diese Untersuchung wurden insgesamt
zwölf Fragen zum Thema Algorithmen in eine bevölkerungsrepräsentative Mehrthemenumfrage des
Instituts für Demoskopie Allensbach aufgenommen. In der Zeit vom 5. bis zum 18. Januar 2018 wurden insgesamt
1.221 Personen ab 16 Jahren in persönlichen Interviews mündlich („face to face“) befragt. Die
Gesamtstichprobe besteht aus zwei in sich repräsentativen Teilstichproben (Halbgruppen A und B). Darüber hinaus
erfolgte die Auswahl disproportional für die alten und die neuen Bundesländer: In beiden Halbgruppen und
damit auch in der Gesamtstichprobe wurde der Osten mit etwa einem Viertel stärker berücksichtigt als es seinem
Anteil von 18 Prozent an der Gesamtbevölkerung entspricht. Bei der Ausweisung von zusammenfassenden Ergebnissen
wird diese Disproportionalität über die Gewichtung aufgehoben. Halbgruppe A: insgesamt 590
Personen, davon 431 West, 159 Ost; Halbgruppe B: insgesamt 631 Personen, davon 469 West und 162 Ost. Die
Auswahl der Befragten erfolgte nach dem Quotenverfahren. Den Interviewern wurden dabei Quoten vorgegeben,
die ihnen vorschrieben, wie viele Personen sie zu befragen hatten und nach welchen Merkmalen diese auszuwählen
waren. Die Befragungsaufträge oder Quoten wurden nach Maßgabe der amtlichen statistischen
Unterlagen auf Bundesländer und Regierungsbezirke und innerhalb dieser regionalen Einheiten auf Groß-, Mittelund
Kleinstädte sowie Landgemeinden verteilt. Die weitere Verteilung der Quoten erfolgte auf Männer und
Frauen, verschiedene Altersgruppen sowie auf Berufstätige und Nichtberufstätige und die verschiedenen Berufskreise.
Die Ergebnisse der Befragung sind damit – abgesehen von einer bei Repräsentativumfragen
unvermeidlichen statistischen Unschärfe von etwa drei Prozentpunkten – auf die Gesamtbevölkerung übertragbar.
Seite 12 | Unkenntnis: Geringes Wissen über den Einsatz von Algorithmen
2 Unkenntnis: Geringes Wissen über den Einsatz von Algorithmen
Obwohl die Medien seit einigen Jahren mehr und mehr über den Einsatz von Algorithmen berichten, ist davon
auszugehen, dass viele Befragte mit diesem Stichwort wenig anfangen können. In einer solchen Situation ist es
aufschlussreich, zunächst einmal die spontanen Reaktionen zu ermitteln, die der Schlüsselbegriff der Untersuchung
auslöst.
Kaum spontane Assoziationen zum Begriff „Algorithmus“
In der Umfrage wurde den Befragten deshalb zunächst die folgende Frage gestellt: „Einmal unabhängig davon,
wie viel Sie schon darüber wissen oder gehört haben: Woran denken Sie, wenn Sie den Begriff ‚Algorithmus’ hören,
was fällt Ihnen spontan dazu ein?“ Es handelte sich um eine offene Frage, bei der keine Antwortmöglichkeiten
vorgegeben werden, sondern die Befragten ihre Reaktion mit eigenen Worten formulieren. Erst im
Nachhinein werden die Antworten dann zu Kategorien zusammengefasst.
Während die Reaktionen der Befragten oft eine große Bandbreite zeigen – Ideen,
Meinungen, Ängste –, fielen die Antworten in dieser Umfrage bemerkenswert blass
aus. Fast die Hälfte der Befragten (45 Prozent) konnte auf die Frage keine klare Antwort
geben, auch keine Spontanassoziationen äußern. 38 Prozent bemühten sich um
eine Definition des Begriffs. Von ihnen machten 12 Prozent im weitesten Sinne richtige
Angaben wie zum Beispiel „Weg zur Lösung eines Problems“, weitere 21 Prozent
machten vage Angaben, die zumindest nicht eindeutig falsch waren. Unzweifelhaft falsche Angaben waren mit 5
Prozent selten. Darüber hinaus beschränkten sich die Antworten auf die Nennung der Begriffe „Mathematik“ (18
Unkenntnis: Geringes Wissen über den Einsatz von Algorithmen | Seite 13
Prozent) und „Computer“ (9 Prozent). Vermutungen, dass viele Bürger spontan an die Gefährdung der Privatsphäre
im Internet denken, Äußerungen des Unbehagens formulieren oder andere Gefühlsregungen zeigen,
haben sich nicht bestätigt.
Ob Befragte etwas mit dem Begriff Algorithmus verbinden, ist eng mit ihrer Bildung und ihrem Alter verknüpft. Ein
Muster, das sich in der vorliegenden Untersuchung auch bei den meisten anderen Fragen zeigte. So gaben 42
Prozent der unter 45-Jährigen Antworten auf diese Frage, die erkennen ließen, dass ihnen zumindest nichts
grundsätzlich Falsches vor dem geistigen Auge stand. Von den 45- bis 59-Jährigen gab dagegen nur jeder Dritte
eine entsprechende Antwort, von den 60-Jährigen und Älteren nur jeder Vierte. Und während eine Mehrheit der
Befragten mit Abitur eine zumindest vage richtige Vorstellung von Algorithmen formulieren konnte, waren es bei
denjenigen, die über einen Volks- oder Hauptschulabschluss verfügten, nur 13 Prozent. Zudem gab es Unterschiede
zwischen Männern und Frauen: Während fast die Hälfte (46 Prozent) der weiblichen Befragten keine
Angaben machen konnte, war dies nur bei einem Drittel (33 Prozent) der männlichen Teilnehmer der Fall.
„Algorithmen“ ist für die meisten anscheinend ein Fachbegriff, bei dem sich manche daran erinnern, dass er irgendwie
mit Mathematik oder Computern zu tun hat. Anzeichen einer lebendigen gesellschaftlichen Debatte über
die wachsende Bedeutung von Algorithmen lassen die Antworten nicht erkennen.
Nur wenige haben konkrete Vorstellung von Algorithmen
Dieses Antwortmuster bestätigt sich, wenn man konkret nach dem Wissen über Algorithmen fragt. Bevor die Befragten
gebeten wurden, anzugeben, ob sie schon einmal vor dem Interview von Algorithmen gehört haben,
wurde ihnen der Begriff Algorithmus im Fragetext recht ausführlich wie folgt erklärt: „In vielen Lebensbereichen
werden ja Computerprogramme eingesetzt, um automatisiert Aufgaben zu lösen, Empfehlungen zu geben oder
Entscheidungen zu treffen. Die Regeln, nach denen die Computerprogramme dabei vorgehen, nennt man Algorithmus
bzw. Algorithmen.“ Nachdem auf diese Weise die Erinnerung aufgefrischt und nebenher mögliche
Missverständnisse und Verwechslungen ausgeschlossen wurden, erinnerten sich immerhin fast drei Viertel (72
Prozent) der Befragten daran, dass sie den Begriff „Algorithmus“ schon einmal vor dem Interview gehört hatten
(s. Abbildung 1).2
Diejenigen, die sagten, sie hätten den Begriff „Algorithmus“ schon einmal gehört, wurden in einem zweiten Schritt
etwas genauer nach ihren Kenntnissen gefragt. 10 Prozent der Deutschen wissen nach eigenen Angaben recht
genau, wie Algorithmen funktionieren. 31 Prozent haben zumindest eine ungefähre Vorstellung davon. Eine
Mehrheit von 56 Prozent sagt selbst, dass sie kaum etwas über Algorithmen weiß (s. Abbildung 1). Auch hier zeigen
sich die schon beschriebenen Unterschiede zwischen den Alters- und Bildungsgruppen: Befragte mit Abitur
haben wesentlich häufiger eine klare Vorstellung von der Funktionsweise von Algorithmen als Personen mit
Hauptschulabschluss (21 zu 2 Prozent), Befragte unter 45 Jahren (13 Prozent) häufiger als 60-Jährige und Ältere
(7 Prozent). Auch ein Unterschied zwischen den Geschlechtern zeigte sich erneut: Männer können sich häufiger
Genaueres unter dem Begriff vorstellen (19 Prozent) als Frauen (7 Prozent).
2 Dieser Wert ist auch durchaus glaubwürdig, denn anders als oft angenommen wird, neigen die meisten Menschen bei Umfragen
nicht dazu, aus Prestigegründen Wissen vorzutäuschen, über das sie nicht verfügen (während andere
Antwortverzerrungen, etwa die „Anpassung“ der eigenen Antwort an eine vermeintliche soziale Norm, häufiger vorkommen).
Seite 14 | Unkenntnis: Geringes Wissen über den Einsatz von Algorithmen
Wie bei der offenen Frage deuten auch diese Ergebnisse auf ein mäßiges Wissensniveau hin: Es ist eine Minderheit,
die mit dem Stichwort etwas anfangen kann, aber eine durchaus beträchtliche. Das Wort „Algorithmen“ ist
weit davon entfernt, „in aller Munde“ zu sein, aber es ist auch kein „exotischer“ Fachbegriff. In jedem Fall bestätigen
die Ergebnisse den Befund, dass das Thema die Deutschen aktuell nicht übermäßig beschäftigt.
Viele Einsatzgebiete sind kaum bekannt
Durch die Erklärung im Fragetext der vorangegangenen Frage wurde auch denen eine grobe Vorstellung des
Begriffs „Algorithmus“ vermittelt, die zuvor wenig damit anfangen konnten. Daraufhin konnte in den nachfolgenden
Fragen detaillierter auf das Thema eingegangen werden. Hierbei wurde den Befragten ein Stapel mit 16
Karten überreicht. Auf jeder Karte war kurz ein Anwendungsgebiet von Algorithmen beschrieben. Dazu wurde
gefragt, bei welchen dieser Einsatzgebiete die Teilnehmer wussten, dass dort Computerprogramme mithilfe von
Algorithmen Entscheidungen treffen oder Empfehlungen abgeben. Die Ergebnisse zeigen, dass auch hier der
Kenntnisstand der Bevölkerung eher mäßig ist (s. Abbildung 2). Am ehesten sind den Deutschen noch die Anwendungen
von Algorithmen geläufig, deren Folgen sie selbst im Alltag beobachten oder die kürzlich Gegenstand
einer intensiven Medienberichterstattung waren. So antworteten 55 Prozent der Befragten, ihnen sei bewusst,
dass Computerprogramme eine individuelle Auswahl an Werbung erstellen, die man als Internetnutzer angezeigt
bekommt. Hier kann man vermuten, dass nicht wenige Internetnutzer den Effekt der Algorithmen schon bewusst
wahrgenommen haben, beispielsweise, wenn sie nach der Recherche nach einem bestimmten Produkt in der
Folge Anzeigen für eben dieses Produkt angezeigt bekommen haben. Auch, dass bei der Auswahl von möglichen
Partnern bei Singlebörsen im Internet Algorithmen zum Einsatz kommen, war einer Mehrheit von 52
Prozent bewusst. Von der computergestützten Gesichtserkennung bei der Videoüberwachung hatten 50 Prozent
der Befragten schon gehört. Immerhin knapp die Hälfte der Bevölkerung weiß außerdem, dass auch Nachrichten,
die man als Internetnutzer angezeigt bekommt, mithilfe von Algorithmen individuell ausgewählt sein können (49
Prozent) und dass Algorithmen die Kreditwürdigkeit von Bürgern einstufen (48 Prozent). Dass auch hinter der
Rechtschreib- und Satzbaukontrolle bei Textverarbeitungsprogrammen Algorithmen im Hintergrund tätig sind, ist
46 Prozent der Bevölkerung bewusst.
Unkenntnis: Geringes Wissen über den Einsatz von Algorithmen | Seite 15
Weniger bekannt sind dagegen Anwendungsbereiche, bei denen die Entscheidungen von Algorithmen potenziell
folgenreicher für die soziale Teilhabe sind als die Zuordnung von Werbung im Internet. So sagte nur etwas mehr
als ein Drittel der Befragten, sie hätten schon vor der Befragung gewusst, dass es vorkommen kann, dass bei
Bewerbungsverfahren Algorithmen eine Vorauswahl von Bewerbern treffen. Dass in manchen Regionen die Polizei
mithilfe von Algorithmen versucht, Gebiete zu identifizieren, in denen ein Wohnungseinbruch besonders
wahrscheinlich ist, wussten 32 Prozent. Ebenso 32 Prozent sagten, sie hätten davon gewusst, dass mit Algorithmen
Unregelmäßigkeiten in Steuererklärungen identifiziert werden. Vom Einsatz von Algorithmen bei der
Krankheitsdiagnose und in der Justiz bei der Beurteilung der Rückfallwahrscheinlichkeit von Straftätern wussten
nur 28 bzw. 18 Prozent.
Angesichts dieser Ergebnisse muss man annehmen, dass die im Interview vermittelten Informationen viele Befragte
überrascht haben. Im Fragetext wurde ausdrücklich darauf hingewiesen, dass in allen beschriebenen
Bereichen Algorithmen zum Einsatz kommen. Da bei den meisten Punkten eine Minderheit zu Protokoll gab, sie
hätte schon von dem betreffenden Anwendungsgebiet gehört, dürfte umgekehrt den meisten Befragten erst während
des Interviews die Tragweite der Nutzung von Algorithmen bewusst geworden sein.
Ein Experiment: Führt ein höheres Bewusstsein für den Einsatz zu mehr Relevanzzuschreibung?
Seite 16 | Unentschlossenheit: Noch keine klare Meinung zu Vor- und Nachteilen
Diese neuen Informationen über die Verbreitung von Algorithmen beeinflussen das Bild, das die Befragten von
dem betreffenden Gegenstand haben. Damit haben sie auch Auswirkungen auf das Antwortverhalten auf nachfolgende
Fragen zum gleichen Thema. Wie stark dieser Einfluss ist, zeigt sich an den Ergebnissen eines
Experiments, das in die vorliegende Untersuchung integriert war: Der Fragebogen enthielt zwei Fragen zur Bedeutung
von Algorithmen im Alltag der Befragten. Die eine Frage lautete „Wie viel Einfluss haben Algorithmen auf
Ihr Leben? Wie stark beeinflussen Algorithmen Ihren Alltag?“, die zweite war identisch, bezog sich aber mit dem
Zusatz „in zehn Jahren“ auf die Zukunft. Für das Experiment wurde die Reihenfolge der Fragen in Halbgruppen
variiert: Die eine Hälfte der Befragten erhielt die beiden Fragen nach der oben beschriebenen Frage zu den Einsatzgebieten
von Algorithmen. Die andere Hälfte der Befragten bekam die Fragen zu der heutigen und künftigen
Bedeutung von Algorithmen in ihrem Leben gestellt, bevor ihnen die ganze Breite der heutigen Nutzung von Algorithmen
vor Augen geführt wurde.
Der Effekt des Experiments ist deutlich, vor allem in Bezug auf die Zukunftsperspektive:
Ohne vorherige Detailinformationen über die Einsatzgebiete von Algorithmen zu
erhalten, sagten 24 Prozent der Befragten, der Einfluss von Algorithmen in ihrem Alltag
sei stark oder sehr stark. Bekamen sie diese Informationen vorab, gaben
immerhin 31 Prozent diese Antwort. Dagegen war der Anteil derjenigen, die meinten,
der Einfluss sei „weniger stark“ oder „kaum, gar nicht stark“, in beiden Gruppen praktisch
gleich groß (51 Prozent und 50 Prozent). Noch deutlich stärker ist der Effekt bei der zweiten Frage, in der es
um die Zukunftsperspektive ging. Wurde die Frage gestellt, bevor im Detail über die Einsatzfelder von Algorithmen
aufgeklärt wurde, meinten 48 Prozent, Algorithmen würden ihren Alltag wohl in zehn Jahren sehr stark oder
stark beeinflussen. Nach Information über die Anwendungsfelder waren es 61 Prozent.
Das Ergebnis des Experiments zeigt, wie wenig sich viele Bürger bisher mit dem Thema Algorithmen beschäftigt
haben. Hätte es bereits eine intensivere öffentliche Diskussion darüber und eine entsprechend breite Meinungsbildung
in der Bevölkerung gegeben, wäre ein so starker Ausstrahlungseffekt wie der vorliegende kaum
vorstellbar. Das Aufzeigen der Einsatzbereiche von Algorithmen hätte in diesem Fall keine so starken Auswirkungen
auf die Relevanzzuschreibungen gehabt.
3 Unentschlossenheit: Noch keine klare Meinung zu Vor- und Nachteilen
Neben dem Wissen der Bevölkerung interessierten in der Umfrage vor allem die Vorstellungen und Einstellungen
der Deutschen zum Thema Algorithmen. Um jedoch bei vorab vermuteten geringen Kenntnisstand, den die vorherigen
Fragen bestätigt haben, überhaupt Einstellungen zum Thema ermitteln zu können, mussten die
Befragten zunächst genauer über den Untersuchungsgegenstand aufgeklärt werden (s. Kapitel 2). Aus diesem
Grund handelt es sich bei den nachfolgenden Ergebnissen nicht um gefestigte Meinungen, sondern größtenteils
um spontane Reaktionen auf das Thema.
Unentschlossenheit über Chancen und Risiken
Unentschlossenheit: Noch keine klare Meinung zu Vor- und Nachteilen | Seite 17
Zunächst wurden die Teilnehmer nach einem allgemeinen Urteil befragt, ob es alles in allem mehr Chancen oder
mehr Risiken mit sich bringt, wenn Entscheidungen auf der Grundlage von Algorithmen getroffen werden. 18 Prozent
sahen mehr Chancen, 36 Prozent mehr Risiken. Bemerkenswert war jedoch, dass 46 Prozent der Befragten
mit „Unentschieden“ antworteten (s. Abbildung 3). Ein so hoher Anteil an Unentschiedenen ist in der Umfrageforschung
selten. In aller Regel liegen die Werte um 10, allenfalls einmal bei 20 Prozent. Dass fast die Hälfte der
Befragten auf diese Kategorie ausweicht, ist ein sicheres Zeichen für Orientierungslosigkeit. Das Ergebnis zeigt,
wie unsicher viele Bürger in ihrem Urteil sind und bestätigt noch einmal die Ergebnisse aus dem vorangegangen
Kapitel: Weite Teile der Bevölkerung haben sich über das Thema Algorithmen noch kein klares Bild gemacht
Je nach Bevölkerungsgruppe fallen die Urteile zu den Chancen und Risiken von Algorithmen unterschiedlich aus.
Welche Merkmale der Befragten diese grundsätzliche Haltung gegenüber Algorithmen am stärksten beeinflussen,
zeigt eine Regressionsanalyse3. Sie ergab, dass die Einstellung zum technischen Fortschritt den größten
Einfluss auf die Haltung zu Algorithmen hat. Wer technische Innovationen als Chance sieht, der ist auch gegenüber
Algorithmen positiv eingestellt. Außerdem prägt das Wissen über Algorithmen die Einschätzung der
Chancen und Risiken (s. Abbildung 3). Befragte, die mehr über Algorithmen wissen, sehen eher ihre Chancen.
Das Alter der Befragten, ihre Schulbildung sowie ihr Haushaltseinkommen trugen hingegen nicht direkt zu einer
positiven Grundeinstellung bei. Ältere Befragte sind zwar skeptischer gegenüber Algorithmen, doch es ist nicht
das Alter selbst, das diesen Effekt auslöst. Vielmehr wirken hier andere Merkmale der Befragten, die mit dem Alter
verbunden sind. Das sind allen voran eine positive Haltung zu technischem Fortschritt und das Wissen über
Algorithmen, die bei älteren Menschen geringer ausgeprägt sind. Ähnlich sieht es bei der Schulbildung aus: Die
Meinung zu Algorithmen wird nicht vom allgemeinen Bildungsniveau, sondern vom fachspezifischen Wissen über
Algorithmen beeinflusst: Befragte mit Abitur haben zwar eine positivere Einstellung zu Algorithmen als Befragte
mit Hauptschulabschluss. Sobald jedoch Menschen mit Hauptschulabschluss etwas von Algorithmen verstehen,
haben sie keine negativere Einstellung dazu als solche mit Abitur, die etwas über das Thema wissen. Neben der
Einstellung zu technischem Fortschritt und dem Wissen über Algorithmen erwies sich das Geschlecht der Befragten
als ein Faktor, der die Meinung zu Algorithmen beeinflusst. Männliche Befragte hatten eher eine positivere
Einstellung zum Thema. Männer zeigen grundsätzlich, trotz aller gesellschaftlichen Bemühungen Frauen für naturwissenschaftliche,
technische und mathematische Themen zu begeistern, noch immer ein größeres Interesse
3 Eine Regressionsanalyse ist ein mathematisch-statistisches Verfahren bei dem in einer sogenannten „multivariaten
Analyse“ mehrere Aspekte gleichzeitig mathematisch gegeneinander gestellt werden. Es wird errechnet, welchen Einfluss
beispielsweise das Alter auf die Einstellung zu Algorithmen hat – unabhängig von anderen Einflussgrößen wie der Bildung,
dem Fachwissen, dem Geschlecht und der allgemeinen Einstellung zum technischen Fortschritt.
Seite 18 | Unentschlossenheit: Noch keine klare Meinung zu Vor- und Nachteilen
an diesen Gebieten. Dies führt dazu, dass sie sich intensiver damit auseinandersetzen und – im Durchschnitt –
auch mehr darüber wissen, wie die Wissensfragen in Kapitel 2 bestätigen.
Deutsche sehen den pragmatischen Nutzen, vor allem diejenigen mit Vorwissen
Neben dem allgemeinen Urteil, ob Algorithmen mehr Chancen oder Risiken mit sich
bringen, sollten die Befragten auch konkreter Auskunft zu ihren Assoziationen, Vorstellungen
und Werturteilen zum Thema geben. Dazu wurden sie zunächst gefragt,
an welche von neun Begriffen sie denken, wenn sie den Begriff Algorithmus hören. In
den Antworten lässt sich eine klare Struktur erkennen (s. Abbildung 4): Jeweils rund
die Hälfte der Befragten wählte bei diesem Assoziationstest die drei Begriffe aus, die
den pragmatischen Nutzen von Algorithmen anklingen ließen. An erster Stelle, genannt von 53 Prozent, stand die
Assoziation „Genauigkeit“, gefolgt von „Fortschritt“ (50 Prozent) und „Effektivität“ (49 Prozent). Mit einem deutlichen
Abstand hinter diesen positiven Aussagen folgten dann, ausgewählt von jeweils rund einem Drittel der
Befragten, vier Begriffe, die das Ungewohnte und Gefährliche an Algorithmen beschrieben: „Unheimlich“ (37 Prozent),
„“Unverständlich“ (37 Prozent), „Kontrollverlust“ (35 Prozent) und „Bedrohlich“ (28 Prozent). Dann erst,
wiederum mit klarem Abstand, folgen die beiden Assoziationen, bei denen es um die möglichen ethischen Vorteile,
die Objektivität von Algorithmen ging: Lediglich jeder Fünfte wählte den Punkt „Faire Entscheidungen“ aus.
Dass man bei „Algorithmen“ an „Unfehlbar“ denken könne, meinten nur 7 Prozent.
Positive Assoziationen hinsichtlich des pragmatischen Nutzens, etwa „Genauigkeit“ oder „Effektivität“, verbanden
vor allem diejenigen mit dem Begriff Algorithmus, die von sich sagen, sie wüssten ungefähr, wie Algorithmen
funktionieren (s. Abbildung 5).
Unentschlossenheit: Noch keine klare Meinung zu Vor- und Nachteilen | Seite 19
Mehr Zustimmung zu negativen Aussagen
In einer weiteren Frage sollten die Befragten unter 16 Äußerungen über Algorithmen
diejenigen auswählen, denen sie zustimmen. Es handelte sich um Aussagen, über
die die Befragten angesichts ihres bereits beschriebenen mäßigen Wissensstandes
kaum qualifizierte Angaben machen können. Doch es ging in dieser Frage nicht darum,
die Qualifikation der Befragten zu prüfen, sondern mit den meist wertenden
Aussagen ihre Gefühlsebene anzusprechen und Rückschlüsse auf ihre Einstellung
zu ziehen. Die meisten Befragten stimmen Aussagen zu, die einen negativen Beiklang haben (s. Abbildung 6): 57
Prozent wählten die Aussage aus, Algorithmen gäben Menschen, die sie programmieren, viel Macht über andere
Menschen. Es folgten die Punkte „Algorithmen ermöglichen es Unternehmen, zu viele Daten über Menschen zu
sammeln“ (56 Prozent), gefolgt von „Algorithmen können leicht manipuliert werden“ (55 Prozent) und „Algorithmen
führen dazu, dass der einzelne Mensch nur eine Nummer ist“ (54 Prozent). Erst an fünfter Stelle, genannt
allerdings immer noch von 51 Prozent, folgt mit „Algorithmen sparen Zeit bei Entscheidungen“ die erste positive
Aussage. Ebenfalls 51 Prozent der Befragten stimmen der Aussage „Algorithmen manipulieren Menschen“ zu
und 46 Prozent der Deutschen finden Algorithmen unheimlich, weil man oft nichts von ihnen mitbekommt. Aussagen
über nachvollziehbarere oder gerechtere Entscheidungen durch Algorithmen im Vergleich zu menschlichen
Urteilen stimmten nur wenige Befragte zu (17 bzw. 13 Prozent).
Seite 20 | Unentschlossenheit: Noch keine klare Meinung zu Vor- und Nachteilen
Schaut man sich die Ergebnisse für diejenigen Befragten an, die eine ungefähre Vorstellung über die Funktionsweise
von Algorithmen haben, dann zeigt sich, dass sie praktisch alle Antworten häufiger auswählen als die
Befragten insgesamt (s. Abbildung 6). Dieses Ergebnis ist überraschend. Im vorherigen Kapitel zeigte sich, dass
die Kenntnis des Themas das Gesamturteil positiv beeinflusst. Es war also zu erwarten, dass diejenigen, die sich
mit Algorithmen zumindest ein wenig auskennen, häufiger die positiven Punkte auswählen. Das war auch der
Fall. Gleichzeitig nahmen aber bei einem größeren Wissensstand die Bedenken angesichts der mit dem Thema
verbundenen Risiken und ethischen Fragen nicht ab, sondern zu. Dieses Muster ist noch deutlicher zu erkennen,
wenn man sich die Durchschnittswerte für die positiven und negativen Aussagen ansieht: Insgesamt wählten
durchschnittlich 31 Prozent der Befragten die positiven Aussagen und 47 Prozent die negativen Aussagen aus.
Bei denjenigen, die zumindest eine ungefähre Vorstellung von Algorithmen haben, liegt der Durchschnittswert für
die positiven Angaben mit 42 Prozent deutlich höher, der für die negativen Angaben mit 53 Prozent aber ebenfalls.
Das Wissen über die Funktionsweise von Algorithmen geht also nicht nur mit einem größeren Verständnis
für ihre Vorteile einher, sondern auch mit einem geschärften Bewusstsein ihrer Risiken (s. Abbildung 7).
Unentschlossenheit: Noch keine klare Meinung zu Vor- und Nachteilen | Seite 21
Man kann annehmen, dass sich hinter den Reaktionen der Befragten zu den 16 Aussagen nicht 16 unterschiedliche,
miteinander unverbundene Einzelurteile zu den betreffenden Teilaspekten des Themas Algorithmen
verbergen. Vielmehr verbirgt sich hinter diesen Antworten eine geringere Zahl von Blickwinkeln auf das Thema.
Eine Faktorenanalyse4 (s. Tabelle 4 im Anhang) zeigt, dass sich die Aussagen in drei übergeordnete Faktoren
gliedern, die in ihrer Struktur der des Assoziationstests ähneln: Der erste Faktor umfasst Aussagen zum pragmatischen
Nutzen von Algorithmen. Der zweite Faktor fasst alle negativen Aussagen zusammen. Wer einen dieser
Punkte ausgewählt hat, neigt in der Regel dazu, auch die anderen auszuwählen. Eine feinere Binnenstruktur der
negativen Antworten, die es ermöglichen würde, unterschiedliche Motivbündel zu identifizieren, ist nicht erkennbar.
Der dritte Faktor schließt Aussagen ein, die sich auf ethische Vorteile durch Algorithmen, auf ihre Objektivität
und „Unbestechlichkeit“ beziehen (s. Abbildung 6). Das Ergebnis der Faktorenanalyse ist damit ungewöhnlich:
Meistens ergibt sich bei einem solchen Verfahren eine größere Zahl von Faktoren, die verborgene Strukturen
sichtbar werden lassen, die über eine bereits bei oberflächlicher Betrachtung naheliegende Gliederung hinausgehen.
Dass dies hier nicht der Fall ist, ist ein weiterer Hinweis darauf, dass viele der Antworten der Befragten eher
oberflächlich sind, nicht der Ausdruck eines über längere Zeit gefestigten, von vielen individuellen Eindrücken
und Erfahrungen geprägten Meinungsbildungsprozesses.
4 Eine Faktorenanalyse ist ein mathematisch-statistisches Verfahren, mit dem festgestellt werden kann, welche Antworten oft
gemeinsam von den Befragten ausgewählt werden. Es wird also beispielsweise geprüft, wie wahrscheinlich es ist, dass jemand
der sagt, Algorithmen führten zu effizienteren Entscheidungen, außerdem sagt, Algorithmen seien bei vielen
Entscheidungen unersetzlich. Wenn sich herausstellt, dass mehrere Aussagen besonders häufig zusammen ausgewählt werden,
dann schließt man daraus, dass diese Punkte auch inhaltlich etwas gemeinsam haben, dass ihnen also ein
gemeinsamer Faktor zugrunde liegt.
Seite 22 | Unentschlossenheit: Noch keine klare Meinung zu Vor- und Nachteilen
Unterschiedliche Meinungsbilder, aber keine uneingeschränkte Befürwortung
Welche Bevölkerungsgruppen nun welche Faktoren besonders häufig auswählen, zeigt eine weitere Analyse
(Clusteranalyse5). Mit ihr ließen sich die Befragten in fünf unterschiedlich große Gruppen einteilen, die sich durch
ein bestimmtes charakteristisches Antwortverhalten in Bezug auf die drei Faktoren auszeichnen. Sie stehen für
fünf Bevölkerungsgruppen mit unterschiedlichen Meinungsstrukturen (s. Abbildung 8):
– Gruppe 1: „Verhaltene Anerkennung von Objektivität“ (25 Prozent der Befragten): Diese Gruppe zeigt
sich am wenigsten auskunftsbereit, sie scheint wenig zum Thema Algorithmen zu sagen wissen. Die Affinität
zum Faktor der Objektivität zeugt also weniger von begeistertem Enthusiasmus für die
Unbestechlichkeit der algorithmischen Entscheidungen, sondern vielmehr von einer nüchternen Einsicht,
dass Algorithmen helfen können, willkürliche Entscheidungen zu verhindern. Gleichzeitig verzeichnet
diese Gruppe ein geringes Niveau an Ängsten und negativen Gefühlen gegenüber Algorithmen.
– Gruppe 2: „Totalverweigerung“ (17 Prozent der Befragten): Die Gruppe zeichnet sich durch eine kompromisslose
Ablehnung der Nutzung von Algorithmen aus. Die Befragten dieser Gruppe wählen weitaus
überdurchschnittlich häufig die negativen Zuschreibungen zu Algorithmen aus und äußerst selten die
Punkte des ersten Faktors, bei denen es um die praktischen Vorteile von Algorithmen geht. Sie bestreiten
also, dass Algorithmen überhaupt einen Nutzen haben.
– Gruppe 3: „Enthusiasmus für pragmatischen Nutzen“ (24 Prozent der Befragten): Diese Gruppe stellt das
Gegenteil zu zweiten Gruppe dar. Sie wählt deutlich überdurchschnittlich die Aussagen aus, in denen die
praktischen Vorteile des Einsatzes von Algorithmen angesprochen werden, und zeigt sich – relativ – weniger
als alle anderen Gruppen angesichts der Risiken besorgt. Bei den Aussagen zur Objektivität von
Algorithmen unterscheidet sich die Gruppe nicht wesentlich vom Bevölkerungsdurchschnitt. Dieser Aspekt
scheint sie nicht umzutreiben. Sie befürworten den Einsatz von Algorithmen, einfach, weil sie
nützlich sind.
– Gruppe 4: „Differenzierte Befürwortung angesichts Neutralität“ (15 Prozent der Befragten): Das dominierende
Element in dieser Gruppe ist die Betonung der Objektivität von Algorithmen. Sie werden nicht
5 Eine Clusteranalyse ist ein ein mathematisch-statistisches Verfahren, bei dem die Befragten nach dem Prinzip der Ähnlichkeit
ihres Antwortverhaltens in Gruppen sortiert werden. Es geschieht im Prinzip etwas Ähnliches, wie bei der Faktorenanalyse,
nur dass dieses Mal nicht die Antwortkategorien in Gruppen einsortiert werden, sondern die Befragten auf der
Grundlage ihrer charakteristischen Antwortprofile.
Unentschlossenheit: Noch keine klare Meinung zu Vor- und Nachteilen | Seite 23
wegen ihres praktischen Nutzens positiv eingeschätzt, sondern als Fortschritt in Bezug auf die Gerechtigkeit
bei der Behandlung von Menschen eingestuft. Gleichzeitig leugnet diese Gruppe auch nicht die
problematischen Aspekte der Nutzung von Algorithmen.
– Gruppe 5: „Resignierte Sicht auf Nutzen und Schaden“ (19 Prozent der Befragten): Diese Gruppe wählt
überdurchschnittlich häufig negative Aussagen über Algorithmen, erkennt aber gleichzeitig den praktischen
Nutzen an. Man könnte also pointiert von einer resignierten oder gar zynischen Haltung sprechen:
Die Befragten erkennen die Vorteile für diejenigen, die Algorithmen anwenden, halten sie aber grundsätzlich
für schädlich. Daran, dass Algorithmen zu einer objektiveren Beurteilung von Menschen führen,
glauben nur vergleichsweise wenige Angehörige dieser Gruppe.
Die Gruppen erscheinen jedoch in der Darstellung trennschärfer als sie es eigentlich sind. Tatsächlich sind die
Übergänge zwischen den Gruppen fließend. Die Grenzen wurden anhand statistischer Kennwerte gewählt, die
auf kleine Einflüsse empfindlich reagieren. So könnte man auch Analysen berechnen, die die Befragten in mehr
oder weniger Gruppen untergliedern. Man sollte die Ergebnisse der Clusteranalyse also nicht überbewerten.
Dennoch sind die Strukturen, die das Verfahren sichtbar macht, aufschlussreich. So gibt es keine Gruppe, die
Algorithmen befürwortet, weil sie praktische und ethische Vorteile mit sich bringen können. Die öffentliche Diskussion
ist – sofern sie überhaupt stattfindet – in dieser Hinsicht anscheinend fragmentiert. Eine Gruppe, die die
Nutzung von Algorithmen uneingeschränkt befürwortet, gibt es nicht.
Insgesamt zeigen die Ergebnisse, dass die Deutschen noch keine klare Meinung und gefestigte Einstellungen
zum Thema Algorithmen haben. Sie sehen sowohl in Teilen einen Nutzen, etwa für die Effektivität, als auch potenzielle
Risiken, beispielweise durch Manipulationen von Algorithmen.
Seite 24 | Unbehagen: Vorbehalte gegenüber algorithmischen Entscheidungen und Wunsch nach mehr Kontrolle
4 Unbehagen: Vorbehalte gegenüber algorithmischen Entscheidungen
und Wunsch nach mehr Kontrolle
Algorithmen können Menschen in verschiedenen Aufgaben, Urteilen und Entscheidungen unterstützen oder sie
ihnen ganz abnehmen. Inwiefern die Deutschen Verantwortung an Algorithmen übertragen würden und für welche
Aufgaben, wurde in dieser Befragung mithilfe von zwei Fragen ergründet.
Ob die Deutschen ganz allgemein Entscheidungen von Menschen oder von Algorithmen
bevorzugen, wurde durch eine sogenannte „Dialogfrage“ ermittelt. Die Befragten
sollten entscheiden, welche von zwei Figuren, deren Meinung in einer Sprechblase
dargestellt war, am ehesten das sagt, was auch sie denken. Die Meinung der ersten
Figur lautete: „Ich finde es besser, wenn Algorithmen anstelle von Menschen über
mich urteilen. Sie treffen sachliche Entscheidungen, die für alle gleich sind.“ Die
zweite Figur vertrat die Gegenposition: „Algorithmen entscheiden vielleicht sachlich, dennoch ist mir unwohl dabei,
wenn Computer Entscheidungen über mich treffen. Ich finde es besser, wenn Menschen solche
Entscheidungen treffen.“ Eine sehr große Mehrheit von 79 Prozent stimmte der zweiten Aussage zu, lediglich 6
Prozent der ersten. Bei einem derart klaren Meinungsbild ist auch, anders als bei den bisherigen Fragen, kein
nennenswerter Unterschied zwischen den verschiedenen gesellschaftlichen Gruppen festzustellen.
Die deutsche Bevölkerung zeigt damit ein ganz erhebliches Unbehagen, wenn es darum geht, dass Algorithmen
über Menschen urteilen und Entscheidungen automatisiert getroffen werden. Diese Abneigung ist in allen Gesellschaftsschichten
vorhanden. In Deutschland herrscht gewissermaßen ein Konsens darüber, dass persönliche
Entscheidungen über Menschen, mögen sie auch noch so fehlerhaft und subjektiv sein, automatisierten vorzuziehen
sind.
Diese Grundhaltung gegenüber Entscheidungen durch Algorithmen wird in einer weiteren Frage noch einmal verdeutlicht.
Dabei wurde unterschieden zwischen solchen Entscheidungen, die vollautomatisiert autonom von
Algorithmen getroffen werden, und solchen, bei denen Algorithmen Entscheidungen von Menschen nur unterstützen.
Den Befragten wurden die bereits erwähnten Einsatzgebiete von Algorithmen noch einmal vorgelegt.
Daraufhin sollten sie die folgende Frage beantworten: „Bei welchen dieser Punkte würden Sie sagen, dass das
ein Computer gut allein entscheiden kann; wo sollte ein Computer zwar Vorschläge machen, aber ein Mensch
letztlich entscheiden; und worüber sollte allein der Mensch entscheiden, ohne dass ein Computer Vorschläge
macht?“ (s. Abbildung 9). Es gibt nur einen Bereich, in dem sich eine eindeutige Mehrheit der Befragten für autonome
Entscheidungen des Computers aussprach: die effiziente Ausnutzung und Verwaltung von Lagerraum in
Lagerhallen. 57 Prozent waren der Meinung, dass dies ein Computer alleine entscheiden könne. Das bedeutet
umgekehrt aber auch, dass selbst bei einem derart technischen, Menschen nicht unmittelbar betreffenden Vorgang
noch eine beträchtliche Minderheit von 36 Prozent (hinzu kommen 7 Prozent Unentschiedene) sich dafür
aussprach, dass der Mensch das letzte Wort hat.
Unbehagen: Vorbehalte gegenüber algorithmischen Entscheidungen und Wunsch nach mehr Kontrolle | Seite 25
Gespalten zeigten sich die Befragten beim Thema Rechtschreib- und Satzbaukontrolle bei der Textverarbeitung.
Hier standen 48 Prozent, die meinten, das könne der Computer allein entscheiden, einer nahezu ebenso großen
Gruppe von 47 Prozent gegenüber, die die (letztendliche) Entscheidung beim Menschen sehen wollten. Ähnlich
verhält es sich bei der individuellen Auswahl von Werbung, die man als Internetnutzer angezeigt bekommt. Hier
standen 46 Prozent, die eine alleinige Entscheidung des Computers akzeptierten, 41 Prozent gegenüber, die das
nicht für angemessen hielten. Offenbar hat auf diesem Gebiet bereits eine gewisse Gewöhnung eingesetzt. Bei
allen anderen Einsatzgebieten sprachen sich klare Mehrheiten dafür aus, dass der Mensch die Entscheidung
fällt. Die Aversion gegen eine Beteiligung des Computers nimmt dabei umso mehr
zu, je potenziell folgenreicher die Entscheidung scheint. So lehnten 40 Prozent der
Befragten es ab, dass Algorithmen bei der Diagnose von Krankheiten überhaupt nur
zurate gezogen werden. Bei der Vorauswahl von Bewerbern anhand bestimmter
Kriterien wie Schulnoten oder Berufserfahrung waren es stolze 49 Prozent, bei der
Beurteilung eines Risikos, ob ein Straftäter rückfällig wird, sogar 54 Prozent.
Seite 26 | Unbehagen: Vorbehalte gegenüber algorithmischen Entscheidungen und Wunsch nach mehr Kontrolle
Rational sind solche Reaktionen auf die Möglichkeit der Unterstützung durch Algorithmen kaum zu erklären. Dass
ihr Einsatz zur Entscheidungsunterstützung etwa Willkür bei der Bewerberauswahl oder Fehldiagnosen in der
Medizin verringern oder vermeiden kann, wird von den meisten Befragten nicht gesehen. Derartige Überlegungen
stehen für einen Großteil der Befragten nicht im Vordergrund, wenn sie die Frage beantworten. Viel eher scheint
das Bedürfnis ausschlaggebend zu sein, dass wichtige Themen von Menschen persönlich behandelt werden:
Wenn es um das berufliche Schicksal eines Menschen, die öffentliche Sicherheit oder gar um Leben und Tod
geht, hat für eine Mehrheit der Computer bei der Entscheidungsfindung nichts verloren.
Bei Befragten, die eine ungefähre Vorstellung über der Funktionsweise von Algorithmen haben, zeigt sich dieses
Grundmuster ebenfalls (s. Abbildung 10): Bei Einsatzgebieten mit potenziell weitreichenden Folgen für die Betroffenen,
wie etwa der Diagnose von Krankheiten und der Vorauswahl von Bewerbern, lehnten viele von ihnen
es ab, dass Algorithmen Menschen in der Entscheidungsfindung unterstützen. Insgesamt zeigt sich jedoch, dass
Befragte mit einem rundlegenden Verständnis von Algorithmen deutlich weniger Berührungsängste haben als
jene, die nichts oder kaum etwas über das Thema wissen. Von Erstgenannten lehnten deutlich weniger als bei
den anderen die Beteiligung von Algorithmen an der Entscheidungsfindung gänzlich ab.
Unbehagen: Vorbehalte gegenüber algorithmischen Entscheidungen und Wunsch nach mehr Kontrolle | Seite 27
Vor dem Hintergrund des weitverbreiteten Unbehagens gegenüber Algorithmen ist es nicht verwunderlich, dass
sich große Teile der Bevölkerung für eine stärkere Kontrolle des Einsatzes von Algorithmen aussprechen. Fast
zwei Drittel der Befragten (63 Prozent) befürworteten stärkere Kontrollen, nur 7 Prozent hielten dies nicht für notwendig.
Auch hier gibt es bemerkenswert wenige Unterschiede zwischen den verschiedenen Alters- und
Bildungsgruppen. Wer wenig über Algorithmen weiß, neigt etwas eher dazu, auf die Kategorie „Unentschieden“
auszuweichen, doch das Grundmuster ändert sich dadurch nicht. Der Anteil derjenigen, die keine stärkeren Kontrollen
für notwendig halten, liegt in keiner Gruppe über zehn Prozent, auch nicht bei
denen, die sagen, sie hätten zumindest eine ungefähre Vorstellung davon, wie Algorithmen
funktionieren. Dieses Antwortverhalten ist in einer Gesellschaft wie der
deutschen, in der Sicherheit als außerordentlich wichtiger Wert betrachtet wird, nicht
überraschend. Dennoch ist auffällig, wie deutlich die Zahl derjenigen überwiegt, die
schärfere Kontrollen fordern.
Seite 28 | Unbehagen: Vorbehalte gegenüber algorithmischen Entscheidungen und Wunsch nach mehr Kontrolle
In der Folge befürworten die Befragten die meisten Vorschläge und Ideen für Maßnahmen zur Kontrolle von Algorithmen,
die ihnen im Interview vorgelegt wurden (s. Abbildung 11). Ob es sich um das Recht auf eine zweite
Meinung handelt, die Einführung eines Auskunftsrechts für Betroffene, einen Algorithmen-TÜV oder den Einsatz
einer Ethikkommission stets spricht sich die klare Mehrheit dafür aus. Auch für ein Verbot von Entscheidungen,
die von Algorithmen allein durchgeführt werden, spricht sich ein Großteil der Befragten aus (73 Prozent). Ein vollständiges
Verbot von Algorithmen, auch denjenigen, die Entscheidungen nur unterstützen, befürworten hingegen
nur 10 Prozent der Befragten. Eine so radikale Maßnahme erscheint den meisten wohl unrealistisch.
Bemerkenswert ist es, dass diejenigen, die angaben, eine ungefähre Vorstellung von der Funktionsweise von
Algorithmen zu haben, fast durchweg sogar etwas häufiger als der Durchschnitt der Befragten die vorlegten Maßnahmen
befürworteten. Offensichtlich nimmt das Unbehagen angesichts der Risiken von Algorithmen mit
zunehmenden Wissen nicht ab und der Wunsch nach Kontrolle bleibt bestehen.
Fazit und Ableitungen | Seite 29
5 Fazit und Ableitungen
Algorithmen durchdringen bereits heute unseren Alltag, sie übernehmen Routineaufgaben, bewerten und entscheiden
über Menschen. Vieles spricht dafür, dass ihr Einfluss in Zukunft noch weiter zunimmt und spürbare
gesellschaftliche Veränderungen mit sich bringt. Die Chancen und Risiken algorithmischer Entscheidungen betreffen
jeden Einzelnen ganz konkret im Alltag. Vor diesen Hintergrund ging diese Studie der Frage nach, was die
Deutschen über Algorithmen und ihre Anwendungsfelder wissen, was sie über potenzielle Folgen denken und
inwiefern sie bereit sind, Algorithmen bestimmte Aufgaben und Entscheidungen zu überlassen. Aus den Resultaten,
die im Folgenden eingeordnet werden, lassen sich drei zentrale Ableitungen ziehen:
Unkenntnis: Wissen und Kompetenzen in der Breite aufbauen
Die Ergebnisse der Umfrage zeigen: Trotz zunehmender medialer Berichterstattung beschäftigt das Thema Algorithmen
die Deutschen aktuell nicht. Sie wissen sehr wenig über Algorithmen und ihre Funktionsweise und
verbinden kaum etwas damit. Zudem ist ihnen für viele Lebensbereiche gar nicht bewusst, dass dort automatisierte
Systeme zum Einsatz kommen. Wo Algorithmen Menschen in ihrem Alltag beeinflussen, sie bewerten und
über sie entscheiden, braucht es jedoch ein Bewusstsein dafür und ein grundlegendes Verständnis darüber, wie
und wozu sie eingesetzt werden. Nur dann ist es für den Einzelnen überhaupt möglich, seine durch die neue Datenschutz-
Grundverordnung (DSGVO) gestärkten Rechte wahrzunehmen, etwa auf Auskunft über und Korrektur
von automatisierten Entscheidungen
Zudem schafft ein grundlegendes Wissen über Einsatz und Funktion von Algorithmen eine Grundlage, um Vertrauen
in solche neuen Technologien zu entwickeln. Wer gar nichts über einen Sachverhalt weiß, der kann nur
blind vertrauen – oder intuitiv misstrauen. Die Ergebnisse der Umfrage zeigen, dass die meisten Menschen bislang
mit großer Skepsis und Unbehagen reagieren. Menschliche Entscheidungen werden von einer klaren
Mehrheit der Bevölkerung über alle Bevölkerungsschichten hinweg gegenüber algorithmischen Entscheidungen
bevorzugt. Die Vorteile algorithmischer Entscheidungen, etwa weniger subjektive und willkürliche Urteile oder
eine fundiertere Entscheidung aufgrund des Rückgriffs auf eine große Menge an Daten, ist der Mehrheit der
Deutschen offenbar nicht bekannt. So verkennen sie auch die Potenziale, die Algorithmen gerade zur Unterstützung
von Menschen haben.
Die Umfrage belegt, dass ein Bewusstsein für und eine klarere Vorstellung von Algorithmen das ändern könnte:
Ein besseres Verständnis der Funktionsweise von Algorithmen ging mit einer positiveren Grundhaltung einher:
Diejenigen, die mehr über Algorithmen wissen, sehen eher die Chancen der neuen Technologie, ohne dabei die
Risiken aus den Augen zu verlieren. Außerdem verbinden diese Befragten eher positive Assoziationen wie Genauigkeit
und Effektivität mit dem Begriff. Auch auf die Akzeptanz und das Vertrauen gegenüber Algorithmen hat
ein besserer Kenntnisstand positive Auswirkungen: Menschen mit einem grundlegenden Verständnis von Algorithmen
lehnen ihren Einsatz in allen Bereichen deutlich weniger ab als Menschen ohne Vorwissen.
In Deutschland braucht es deshalb einen breiten Wissens- und Kompetenzaufbau, um der großen Unkenntnis
entgegenzuwirken und den Einzelnen für den Umgang mit algorithmischen Entscheidungen in seinem Alltag zu
befähigen. Dazu bedarf es einer intensiven gesellschaftlichen Debatte und Aufklärung über den Einsatz von Algorithmen
sowie ihre konkreten Chancen und Risiken. Ein besseres Verständnis und aufgeklärter Umgang mit
Algorithmen ist nicht nur in der Bevölkerung, sondern auch in Politik und Verwaltung dringend nötig. Es braucht
eine systematische Initiative zum zügigen Aufbau staatlicher Kompetenz, algorithmische Systeme bewerten, kontrollieren
und regulieren sowie gemeinwohlorientiert gestalten zu können.
Seite 30 | Fazit und Ableitungen
Unentschlossenheit: Sachlicher, gesamtgesellschaftlicher Diskurs für eine realistische Einschätzung der
Chancen und Risiken erforderlich
Im Hinblick auf die Einstellungen den Deutschen zum Thema Algorithmen zeigt sich, dass sie sich noch keine
klare Meinung dazu gebildet haben. Vielmehr sind sie noch unsicher in ihrer Einschätzung der Folgen algorithmischer
Entscheidungsfindung. Die tiefergehende Analyse verdeutlicht, dass Einstellungen zu algorithmischen
Systemen nicht nur vom Vorwissen beeinflusst werden, sondern die Haltung zum technischen Fortschritt der
stärkste Einflussfaktor ist. Daraus kann man ableiten, dass Skepsis stärker vom Zeitgeist als von spezifischen
Persönlichkeitsmerkmalen wie dem Kenntnisstand zum Thema abhängt. Eine Gesellschaft, in der der technische
Fortschritt eher als Gefahr denn als Chance angesehen wird, wird auch der Nutzung von Algorithmen misstrauen
– ein Effekt, der sich durch verstärkte Aufklärung nur teilweise würde kompensieren lassen. Neben dem spezifischen
Kompetenzaufbau zum Thema Algorithmen ist vor diesem Hintergrund vor allem auch ein breiter Diskurs
über technologische Entwicklungen und deren gesellschaftliche Auswirkungen im Allgemeinen wichtig. Statt Horrorszenarien
und Technikdeterminismus braucht es eine differenzierte und realistische Darstellung von Chancen
und Risiken, in der auch der Bezug zur Lebenswelt der Bürger hergestellt wird. Um einen derartigen Diskurs zu
ermöglichen, muss es unabhängige Organisationen geben, die den Einsatz algorithmischer Systeme beobachten,
nachvollziehen und prüfen können sowie auf Missstände und Risiken aufmerksam machen. Vor allem
zivilgesellschaftliche Organisationen sollten gestärkt werden, um diese Wächterrolle einzunehmen und einen
sachlichen Diskurs voranzutreiben.
Unbehagen: Effektive Kontrolle von algorithmischen Systemen etablieren
Die Umfrage macht deutlich, dass in der deutschen Bevölkerung ein erhebliches Unbehagen gegenüber automatisierten
Entscheidungen herrscht und diese intuitiv überwiegend abgelehnt werden. Die Zustimmung zu
negativen Aussagen macht deutlich, dass sich die Deutschen vor allem Sorgen darum machen, dass diejenigen,
die Algorithmen entwickeln und nutzen, mehr Macht und Informationen über sie bekommen, während sie selbst
zum Objekt von algorithmischen Entscheidungen werden, die sie nur schwer nachvollziehen können. Vor diesem
Hintergrund wünscht sich eine große Mehrheit der Bevölkerung stärkere Kontrollen von Algorithmen. Die Menschen
möchten, auch wenn sie selbst nur schwer nachvollziehen können, was bei algorithmischen
Entscheidungen passiert, zumindest sicher sein können, dass solche Prozesse korrekt ablaufen und verantwortungsvoll
gestaltet sind. Um Vertrauen in der Bevölkerung gegenüber dem Einsatz von Algorithmen bei Urteilen
und Entscheidungsfindung aufzubauen, bedarf es deshalb einer effektiveren Kontrolle. Wo Algorithmen Menschen
bewerten und über sie entscheiden, müssen sie nachvollziehbar sein und überprüft werden können.
Ansätze wie eine Aufsicht für Algorithmen, eine Zertifizierung algorithmischer Prozesse oder professionsethische
Standards sind Maßnahmen, die von der Bevölkerung überwiegend befürwortet werden. Ihre konkrete Gestaltung
sollte verstärkt diskutiert, hinsichtlich Umsetzbarkeit geprüft und eine Implementierung zügig vorangetrieben werden.
Eine breite gesellschaftliche Debatte über die Bedeutung und Folgen algorithmischer Entscheidungsfindung steht
noch ganz am Anfang. Bei der Gestaltung und Regulierung dieser neuen einflussreichen Technologien müssen
die Vorbehalte und Ängste der Bevölkerung ernst genommen und in den Diskurs mit einbezogen werden. Ein
Bewusstsein für und ein grundlegendes Verständnis unter den Bürgern von algorithmischen Prozessen im Speziellen
und von technologischem Fortschritt im Allgemeinen sind Voraussetzung für eine solche angstfreie Debatte.
Das Vertrauen der Bevölkerung in algorithmische Entscheidungen kann mittelfristig zudem nur gestärkt werden,
wenn es dank effektiver Kontrollen gelingt, die Chancen für mehr gesellschaftliche Teilhabe durch algorithmische
Unterstützung zu nutzen und gleichzeitig die Risiken potenzieller Diskriminierungen zu mindern.
