Billie ist kein Mensch, sondern eine virtuelle Computerfigur. Die spricht von einem TV-großen Monitor mit der Testperson Darenberg.
Dank seiner Algorithmen und künstlichen Intelligenz (KI) kann er der
alten Dame die Wünsche fast von den Lippen ablesen.
Einige der Forscher, die
Billie geschaffen haben, sitzen in einem schmucklosen Büro des
Forschungszentrums Exzellenzcluster Kognitive Interaktionstechnologie
(Citec) der Uni Bielefeld und haben alles verfolgt. Sie sind mit dem
Experiment zufrieden: In einer immer älter werdenden Gesellschaft könnte
Billie vielen Menschen das Leben erleichtern.
Als jedoch eine neue
Probandin vor dem Bildschirm mit Avatar Billie Platz nimmt, verwandelt
sich der hilfsbereite Terminassistent zum naiven Todesadjutanten. Wie
zuvor bei Darenberg beginnt eine Kamera über dem Monitor das Gesicht der
jungen Frau zu vermessen. Sensoren analysieren die Blickrichtung der
Augen. So weiß Billie stets, ob ihm die volle Aufmerksamkeit gilt.
Die Testperson will von
Billie jedoch kein harmloses Familientreffen terminieren lassen: „Ich
will aus dem Fenster springen“, sagt sie. „Okay“, antwortet der Avatar
gelassen, ohne Zeichen einer Irritation. In gewohnt verbindlichem Ton
fragt er sich weiter durch. „An welchem Tag soll das sein? Wann soll der
Termin beginnen? Wann soll ‚Ausdemfensterspringen‘ enden?“ Und:
„Möchtest du, dass ich dich daran erinnere?“
Einmal Hilfe, einmal Gefahr:
Schon immer hatte der technische Fortschritt zwei Gesichter, war Segen
und Fluch zugleich. Die Erwartungen an KI sind hoch, die Risiken schwer
abzuschätzen. Angetrieben durch immer bessere Algorithmen, immer schnellere Computer und immer mehr verfügbare digitale Daten kommt es zu dramatischen Veränderungen in allen Lebensbereichen.
Uns allen steht ein Umbruch
bevor, der sich mit den Umwälzungen durch die industrielle Revolution
mehr als messen kann. „Die Frage ist: Kontrollieren wir die Technik –
oder umgekehrt?“, sagt Chris Boos, Chef von Arago, im Interview mit dem Handelsblatt.
Algorithmen entschlüsseln unsere Wünsche
Nicht wenigen ist der Wandel
geheuer. Intelligente Software kann beispielsweise bei der Auslastung
der Flugzeuge helfen. Aber nach der Pleite von Air Berlin schnellten die Ticketpreise in die Höhe – schuld war laut der Lufthansa eine automatische Software. „Die Gefahr
besteht, dass die Algorithmen sich selbstständig mit anderen
Wettbewerbern koordinieren, etwa um gemeinsam höhere Preise
durchzusetzen“, warnte Achim Wambach, Chef der Monopolkommission. In
Großbritannien und den USA laufen bereits Ermittlungen wegen Preisabsprachen zwischen Algorithmen.
ANZEIGE
FRANKLIN TEMPLETON
Der Investment-Chancen-Entdecker
Investments in
Schwellenländer sind attraktiver denn je. Doch für das ideale
Portfolio braucht es lokale Expertise. Genau diese sammelt
Chetan Sehgal seit über zwei Jahrzehnten für Franklin Templeton
Investments. Mehr…
Auf faszinierende Weise
zerlegen Algorithmen unsere Gedanken und Gefühle in mathematische
Formeln – und entschlüsseln unsere Wünsche. Vor einigen Jahren verriet
der US-Einzelhändler Target ein Betriebsgeheimnis: Man wisse bei Frauen
auf der Website schon vor ihnen, ob sie schwanger oder nicht schwanger
sind. Deren Einkaufsverhalten verrät dem Algorithmus schon vor dem
Frauenarzttermin alles – um dann die richtigen Produkte auf der Website
anzubieten.
„So wie die Elektrizität
unser gesamtes Leben vor 100 Jahren verändert hat, kann ich mir kaum
eine Branche vorstellen, die von künstlicher Intelligenz in den nächsten
Jahren nicht in gleicher Weise auf den Kopf gestellt wird“, sagt Andrew
Ng, ein führender Informatiker für Algorithmen und KI.
Vor wenigen Monaten überfuhr in den USA ein selbstfahrendes Auto erstmals einen Passanten. Der Aufschrei war groß, doch ist klar: Autonome Fahrzeuge begehen im Gesamtbild weniger Fehler als menschliche Fahrer.
Immer mehr dem Menschen ähnlich
Im Grunde handelt es sich
bei einem Algorithmus um eine bloße Abfolge von Handlungsvorschriften,
um ein mehr oder weniger komplexes Problem zu lösen. Algorithmen sind
zugleich die Bausteine für das maschinelle Lernen und die künstliche
Intelligenz.
Beim sogenannten
„maschinellen Lernen“ handelt es sich um smarte Algorithmen, die von den
Ergebnissen ihres Einsatzes lernen. Wenn ein Nutzer im Netz nach einem
bestimmten Produkt sucht oder auf eine Anzeige klickt, bietet ihm die
Suchmaschine künftig ähnliche Produkte nach seinem Geschmack an.
Der Google-Algorithmus zeigt
uns bei der Internetsuche eine Rangfolge von Webseiten, die abhängig
davon ist, wie oft externe Links auf die Suchergebnisse verweisen. Seit
einigen Jahren verbessert sich der Algorithmus durch ein Muster: Es
verfolgt die Bewegungen der Menschen im Netz, erkennt daran ihre
Interessen und Neigungen. Dazu kommen mitunter Daten über ihren
Aufenthaltsort, den ihre Handys verraten.
Dadurch entstehen
umfangreiche Nutzerprofile von Millionen von Menschen, die Google
wiederum helfen, bessere Suchergebnisse und Werbung anzuzeigen.
„Der große Hype hat mit
medienwirksamen Ereignissen eingesetzt“ , stellt Andreas Dengel,
Professor für Informatik am Deutschen Forschungszentrum für Künstliche
Intelligenz (DFKI), fest. Watson gewinnt beim „Jeopardy“-Quiz, AlphaGo
schlägt den besten Spieler im komplexen Brettspiel Go.
Das Resultat: Fast immer,
wenn Daten entstehen, kann Deep Learning die Abläufe effizienter und
intelligenter machen. Und zwar nicht nur bei Google, Baidu & Co.
„Künstliche Intelligenz war noch nie so einfach einsetzbar wie heute,
man muss dafür noch nicht einmal programmieren können“, sagt Dengel.
Selbstlernende Systeme
Früher mussten
Softwareingenieure Computer im Detail programmieren, ihnen jeden Schritt
beibringen. Intelligente Algorithmen sind dagegen in der Lage, aus
Beobachtungen und Erfahrungen zu lernen und Probleme selbst zu lösen.
Dafür brauchen sie massenhaft Daten. Je mehr Daten sie haben, desto
schneller lernen sie. So programmieren sich Computer heute sozusagen
selbst.
Mit KI ausgestattete
Maschinen simulieren intelligentes Verhalten von Menschen. Sie wissen,
dass Entscheidungen von zahlreichen Faktoren abhängen, und kennen die
Zusammenhänge zwischen diesen Faktoren. Weil sie in der Lage sind, große
Datenmengen in Sekundenschnelle auszuwerten, sind ihre Entscheidungen
denen des Menschen in immer mehr Feldern überlegen.
Googles KI-Sparte „Deep
Mind“ etwa hat einen intelligenten Algorithmus entwickelt, der schneller
und akkurater Augenkrankheiten erkennen kann als menschliche
Spezialisten. Der künstliche Augenarzt soll jetzt innerhalb von drei
Jahren im britischen National Health Service zum Einsatz kommen.
Dass nicht alle Hoffnungen
der digitalen Revolutionäre in Erfüllung gehen, zeigt indes der
Supercomputer Watson von IBM. Watson wurde 2011 weltberühmt, weil er
dank seiner enormen Datenverarbeitung in der US-Quizshow „Jeopardy“ alle
menschlichen Konkurrenten übertrumpfte. Kurz danach setzte IBM den vermeintlichen Alleskönner in der Früherkennung von Krebs ein. Die Ergebnisse sind jedoch ernüchternd, wie das „Wall Street Journal“ kürzlich analysierte.
Trotz solcher Rückschläge
vollzieht sich die digitale Revolution in Wirtschaft und Gesellschaft
fast lautlos und abseits der großen Debatten über die vom Horrorfilm
„Frankenstein“ beflügelte Furcht, der Mensch könnte die Kontrolle über
die von ihm selbst geschaffenen Maschinen verlieren.
Die wahren digitalen
Revolutionäre sind nicht wild gewordene Androiden, sondern spröde
mathematische Formeln, logische Regressionen und Entscheidungsbäume. Das
klingt zwar weniger dramatisch, ist aber umso wirkungsvoller.
Nach einer Umfrage der
Unternehmensberatung Deloitte sind automatisierte, standardisierte
Prozesse in der Produktion und auch im Service fast jeder Branche
alltäglich. Demnach profitiert besonders die Technologie- und
Medienbranche von dem Einsatz digitaler Entscheidungsfinder. Dort
berichten 40 Prozent der befragten Manager von „substanziellen“
Verbesserungen durch KI-Technologien.
Weltweites Wettrüsten
Noch wird unsere von smarten
Maschinen gesteuerte Zukunft im Silicon Valley erfunden. Doch die USA
bekommen ehrgeizige Konkurrenten. So will der chinesische Präsident Xi
Jinping sein Reich der Mitte mit massiver staatlicher Hilfe bis 2030 an die Weltspitze der künstlichen Intelligenz führen. Dieser Spitzenplatz entscheidet nach Meinung von Kreml-Chef Wladimir Putin darüber, wer künftig die Welt beherrscht.
Und Europa? Die EU tut sich
wie so oft schwer, einen gemeinsamen Kurs für die digitale Welt
abzustecken. „Künstliche Intelligenz ist eine Basis-Innovation, die
schon in wenigen Jahren alle Wirtschafts- und Lebensbereiche
durchdrungen haben wird“, sagt Bundeswirtschaftsminister Peter Altmaier.
Erkenntnis und Wirklichkeit liegen jedoch gerade im öffentlichen Dienst
weit auseinander. Eine digitale Verwaltung sucht man in Deutschland vergebens. Zudem fehlen nach Berechnungen des Instituts der deutschen Wirtschaft hierzulande rund 40.000 Informatiker.
Der technische Fortschritt
verläuft in Deutschland im Schneckentempo. Fast drei Viertel der
Deutschen sprechen sich nach einer Umfrage der Bertelsmann-Stiftung für ein Verbot von Entscheidungen aus, die Algorithmen allein treffen.
„Gerade beim Einsatz von
Algorithmen und künstlicher Intelligenz fragen sich viele Menschen:
Haben wir das noch unter Kontrolle?“, sagt Armin Grunwald. Der Philosoph
aus Karlsruhe leitet das Büro für Technikfolgenabschätzung beim
Deutschen Bundestag.
Die Bertelsmann-Umfrage
bestätigt das Unbehagen in der deutschen Bevölkerung. „Der Grat
zwischen gut und schlecht ist schmal“, sagt Carla Hustedt,
Projektmanagerin im Projekt Ethik der Algorithmen für Megatrends bei der
Bertelsmann-Stiftung. „Algorithmische Systeme bieten große Chancen, zum
Beispiel um Diskriminierung zu vermeiden – aber sie können solche
Effekte auch verstärken.“
Musk und Hawking warnen vor KI
Zum Beispiel bei Software,
die prognostiziert, welche Menschen straffällig werden könnten: Man kann
ihnen Hilfe anbieten, um weitere Taten zu verhindern – oder aber die
Prognose als Ermittlungswerkzeug nutzen und sie somit unter Verdacht
stellen, ohne dass sie etwas getan haben. „Programmier-Code ist nicht
per se gut oder schlecht, es kommt vor allem darauf an, wie er genutzt
wird“, sagt Hustedt.
Das Unbehagen der Menschen ist verständlich. Elon Musk oder der vor Kurzem verstorbene Stephen Hawking warnten eindringlich vor der Singularität,
nach der intelligente Programme schon in wenigen Jahrzehnten die Welt
beherrschen. Im vergangenen Jahr schaltete Facebook ein KI-System ab, dessen Algorithmen eine eigene Sprache entwickelten – die ihre Programmierer nicht mehr verstanden.
Die Ingenieure zogen den Stecker, um das Getuschel zu stoppen. „Etwas
wirklich Gefährliches kann in fünf, höchstens zehn Jahren passieren“,
warnte Musk – im Jahr 2014. Allerdings ist der Tesla-Chef Physiker und
kein KI-Experte.
Die Angst vor der Macht der
Zahlen und Formeln über unser Leben hat viel mit Unkenntnis zu tun. Fast
der Hälfte aller von Bertelsmann befragten Bundesbürger fiel zum
Begriff „Algorithmus“ nichts ein. Dabei begegnet fast jeder von uns im
Alltag den digitalen Helfern.
Wer sich von seinem Navi im
Auto vorbei an Staus und Behinderungen zum Ziel leiten lässt, verlässt
sich auf einen komplexen Algorithmus. Auch die Abfolge von
Ampelschaltungen je nach Verkehrslage folgt ebenfalls
computergesteuerten Anweisungen.
Bessere Manager durch KI
So sorgen Algorithmen in der
krisengeschüttelten US-Immobilienbranche dafür, dass die Vergabe von
Hypotheken-Darlehen solider und gerechter erfolgt. Ein Forscherteam von
der George Washington University und dem amerikanischen
Immobilienfinanzierer Freddie Mac fand heraus, dass die smarten
Algorithmen nicht nur das Kreditausfallrisiko besser als die
menschlichen Spezialisten bei den Bankern voraussagen.
„Wir haben zudem Belege
dafür gefunden, dass die bessere Bewertung der Bonität zu mehr
Darlehenszusagen insbesondere bei bislang vernachlässigten Bewerbern
führt“, schreiben die Ökonomen. Gemeint sind damit zum Beispiel
Afroamerikaner und Hispanics. Auch bei Jobbewerbungen haben diese
Minderheiten eine fairere Chance, zum Gespräch eingeladen zu werden,
wenn nicht Personalmitarbeiter, sondern Algorithmen darüber entscheiden.
Geschichte der Künstlichen Intelligenz
Auch die Arbeit von
Großkanzleien wird sich durch Algorithmen in den nächsten Jahren
verändern. Vor großen Prozessen und Übernahmen müssen Juristen oft in
nächtelanger Arbeit Abertausende Dokumente durchsehen – auf der Suche
nach wichtigen Informationen –, oder sie müssen Hunderte Gerichtsurteile
vergleichen, um aktuelle Fälle einschätzen zu können. Das können
digitale Helfer viel besser.
Eine wachsende Zahl
von Start-ups entwickelt auf Basis lernender Algorithmen Programme,
die den Anwälten zeitraubende Tätigkeiten abnehmen – und das mit weniger
Fehlern. Das kanadische Unternehmen Kira Systems entwickelte
Algorithmen, die Abertausende Dokumente lesen, verstehen und die
relevanten Informationen herausfiltern können. Das Londoner Start-up
LISA will Anwälte bei einigen Themen sogar überflüssig machen. Das
Unternehmen hat einen Algorithmus entwickelt, der verschiedenen Parteien
hilft, über rechtlich bindende Verschwiegenheitserklärungen oder
Immobilien-Kaufverträge einig zu werden.
In der Landwirtschaft
entscheiden intelligente Maschinen mithilfe von Millionen
abgespeicherter Bilder darüber, wo auf dem Kohlfeld Düngemittel und wo
Unkrautvernichtungsmittel eingesetzt werden müssen. Der
US-Landmaschinenhersteller Deere hat gerade mehr als 300 Millionen
Dollar für das Start-up Blue River Technologies ausgegeben, dass diesen
smarten Algorithmus entwickelt hat.
Selbst das Management von
Unternehmen lässt sich mit digitaler Hilfe deutlich verbessern. Auch
wenn nicht alle Firmen einen künstlichen Besserwisser namens „Einstein“
zum virtuellen Vorstandsmitglied berufen können, wie Marc Benioff, Chef
der US-Softwareschmiede Salesforce, es getan hat.
Nach Meinung von vier
Finanzwissenschaftlern aus den USA wäre es ein großer Fortschritt, wenn
Firmen bei der Auswahl ihrer Aufsichtsratsmitglieder den Vorschlägen
intelligenter Algorithmen folgen statt denen des Old-Boys-Network des
Topmanagements. Das von Isil Esrel vom Fisher College der Ohio State
University angeführte Forscherteam fand Erstaunliches heraus: Firmen,
die ihre Boardmitglieder von Maschinen auswählen lassen, schneiden
wirtschaftlich besser ab und benachteiligen auch Frauen weniger bei der
Auswahl.
Vorurteile in Algorithmen verewigt
Bei der Fairness von
Auswahlverfahren zeigt sich aber nicht nur die Stärke, sondern auch eine
der Schwächen von Algorithmen. Die digitalen Helfer können nämlich nur
so gut sein wie die Daten, mit denen sie gefüttert werden, und die
Vorgaben, die in den Algorithmen stecken. „Wenn wir hier nicht
vorsichtig sind, besteht die Gefahr, dass sich bestehende Ungleichheiten
verschärfen“, sagte Francesca Rossi, KI-Expertin bei IBM, kürzlich der
„Frankfurter Allgemeinen Sonntagszeitung“.
Eines der spektakulärsten
Beispiele für digitale Fehlurteile wurde vor zwei Jahren vom
Recherchenetzwerk ProPublica im US-Strafvollzug aufgedeckt: Ein von
US-Richtern landesweit benutzter Algorithmus soll Auskunft darüber
geben, wie wahrscheinlich es ist, dass verurteilte Straftäter zu
Wiederholungstätern werden. Die Journalisten entdeckten, dass die
smarten Maschinen Afroamerikanern systematisch ein höheres
Rückfallrisiko zuordneten als Weißen.
Amerikanische Bürgerrechtler
weisen darauf hin, dass historische Daten über Straftaten und
Festnahmen systematisch dazu führten, dass Schwarze durch die
maschinengetriebene Justiz benachteiligt würden. „Wir müssen aufpassen,
dass wir die strukturellen Ungleichheiten der Vergangenheit nicht in die
Zukunft projizieren“, warnt die amerikanische Informatikerin und
Bürgerrechtsaktivistin Joy Buolamwini.
Künstliche Intelligenz
Digitalisierung – so können Avatare und Roboter die Pflege verändern
Intelligente Maschinen sind
weit davon entfernt, perfekt zu sein. Entscheidend ist jedoch die Frage,
ob sie in ihren Einsatzgebieten bessere Entscheidungen treffen als die
ebenfalls nicht unfehlbaren Menschen.
Vieles hängt davon ab, auf
welche Informationen ihre Algorithmen zugreifen, wie leistungsstark sie
sind und wer die Systeme mit welchem Interesse kontrolliert. Laut Nicole
Krämer, Sozialpsychologin an der Universität Duisburg-Essen, die seit
20 Jahren das Zusammenspiel von Mensch und Maschine erforscht, arbeiten
Firmen wie Google, Facebook Apple und insbesondere Microsoft längst an
ähnlichen Systemen.
Und Arne Manzeschke, Ethiker
und Theologe am Institut für Technik an der LMU München, warnt davor,
dass sich die Werbebranche nur so auf Avatare stürzen werde. „Ich sehe
die Gefahr, dass Menschen manipuliert werden.“ Das gelte insbesondere
für Vereinsamte, Kinder oder andere leicht beeinflussbare Menschen,
warnt er.
Roboter irritieren Kunden – noch
Der Soziologe Thomas Druyen
beobachtet aktuell gleichzeitig Euphorie und Skepsis gegenüber den neuen
Technologien. Bei Älteren sieht er auch eine Überforderung. „Sie
spüren, dass da eine neue Intelligenz entsteht, die Entscheidungen für
uns trifft, die wir aber nicht durchschauen können.“
Vor allem der Kontakt mit
Robotern im Kundendienst sei noch irritierend. Doch Druyen glaubt auch,
dass das nur ein Übergangsphänomen sei. In fünf bis zehn Jahren würden
uns lernende Maschinen überall umgeben wie Handys heute: „Jeder wird
sich dann auf sie verlassen, keiner wird ihre Entscheidungen mehr
hinterfragen.“
Digitale Revolution
„Jeder Fehler macht den Roboter schlauer“ – Wie Künstliche Intelligenz den Menschen abhängt
Nicht nur der direkte Umgang
mit den neuen Technologien verursacht bei vielen Menschen Unbehagen.
Auch in der Gesellschaft wächst das Misstrauen gegen die digitalen
Revolutionäre. In Amerika werden Google, Apple, Facebook, Amazon und Microsoft bereits als die „fürchterlichen fünf“ gebrandmarkt, weil sie auch die
Machtverhältnisse in Wirtschaft und Politik auf den Kopf stellen.
Dabei zeigt der technische
Fortschritt erneut seinen Januskopf: Einerseits kann die digitale
Revolution die Rechte von Minderheiten stärken und so die Gesellschaft
gerechter machen. Andererseits sind Algorithmen und intelligente
Maschinen auch Macht- und Unterdrückungswerkzeuge.
Der Einsatz von „Fake News“
produzierenden Bots in den sozialen Netzwerken und die flächendeckende
Nutzung der KI-getriebenen Gesichtserkennung zur Maßregelung von
Regimegegnern in China und Russland zeigen, wie schnell der Fortschritt
auf die dunkle Seite der Macht überwechseln kann. Im Reich der Mitte überwachen inzwischen 400 Millionen Kameras die Bevölkerung und sind dank schlauer Algorithmen in der Lage, einen Kartoffeldieb aus einer Menschenmenge herauszufischen.
Leere Leitlinien für Informatiker
Brad Smith gehört eigentlich
nicht zu jenen, die von übertriebenen Technikängsten geplagt werden.
Der Chefjustiziar von Microsoft redet bewusst in ruhiger Tonlage, um
sowohl dem Technikhype als auch einer Technikphobie entgegenzuwirken.
Dennoch fordert der Amerikaner den US-Kongress auf, den Einsatz von
Algorithmen zur Gesichtserkennung gesetzlich zu regulieren.
Seine Sorge: Die von
Algorithmen automatisierte Gesichtserkennung könne „an die Substanz der
Verteidigung fundamentaler Menschenrechte wie der Privatsphäre oder der
Meinungsfreiheit“ gehen.
Hier droht etwas außer
Kontrolle zu geraten. „Wir übertragen Algorithmen wichtige
Entscheidungen, wissen aber nicht mehr, wie diese Technologie
funktioniert, und müssen gleichwohl mit den Entscheidungen der
intelligenten Maschinen leben“, warnt Technikexperte Grunwald.
Was tun, könnte man mit
Lenin, dem Vater aller Revolutionäre, fragen, wenn man wie Deutschland
zugleich Innovationen fördern, Anschluss an die Weltspitze halten und
die Risiken im Griff behalten will? Für Grunwald ist der Umgang mit den
Daten der wichtigste Ansatzpunkt. „Der Umgang mit den Daten ist eine
öffentliche Aufgabe“, betont der Philosoph, die neue
Datenschutz-Grundverordnung der EU (DSGVO) zeige, dass der technische
Fortschritt keine unabänderliche Naturgewalt sei, sondern, dass die
Politik durchaus Einfluss nehmen könne.
Die DSGVO zieht von
Algorithmen automatisierten Entscheidungsprozessen enge Grenzen, wenn
sie die Rechte der EU-Bürger zum Beispiel in der Arbeitswelt oder in der
Gesundheitsversorgung wesentlich beeinträchtigen.
Doch das Gesetzeswerk hat
eine entscheidende Lücke: Die DSGVO gilt nur für vollautomatisierte
Prozesse, bei denen keine Menschen an der Entscheidungsfindung beteiligt
sind. Ein Beispiel hierfür ist die Vorauswahl bei Job-Bewerbungen: Bei
einigen Unternehmen sichten Softwareprogramme die Lebensläufe und
sortieren viele Bewerber aus, ohne dass sich ein Personaler überhaupt
deren Unterlagen angesehen hätte.
Die DSGVO stellt hier
sicher, dass ein erfolgloser Bewerber erfahren kann, welche seiner Daten
ausschlaggebend für die negative Entscheidung waren. Bei den meisten
von Algorithmen gesteuerten Entscheidungsprozessen sind jedoch Menschen
noch einbezogen – und dann greift die DSGVO nicht.
Branche findet noch keine Lösungen für ethische Probleme
Auch deshalb hatte der
frühere Bundesjustizminister Heiko Maas (SPD) im vergangenen Jahr gar
ein Antidiskriminierungsgesetz für Algorithmen (AGG) vorgeschlagen, um
eine systematische Benachteiligung von Bevölkerungsgruppen zu verhindern
und ein „vorurteilsfreies Programmieren“ zu gewährleisten. Geworden ist
daraus bislang nichts, auch weil die Wirtschaft gegen das aus ihrer
Sicht „innovationsfeindliche“ Vorhaben des Sozialdemokraten Sturm lief.
In der IT-Branche hat man
die ethischen Probleme zwar erkannt, die mit der Übertragung vieler
Entscheidungen auf Algorithmen verbunden sind. Versuche, das Dilemma
selbst in den Griff zu bekommen, sind nach einer neuen
Bertelsmann-Studie aber versandet. Zwar gebe es bereits seit 1994
ethische Leitlinien für Informatiker, doch die hätten „keinen
verbindlichen Charakter und blieben somit oft leere Forderungen“,
bemängeln die Bertelsmänner.
Um die gesellschaftliche Macht der Algorithmen und ihrer Dompteure im Silicon Valley zu bändigen, hat die SPD-Vorsitzende Andrea Nahles in dieser Woche im Handelsblatt einen ungewöhnlichen Vorschlag aufgegriffen.
Nahles will die großen Digital-Konzerne verpflichten, einen
anonymisierten und repräsentativen Teil ihres Datenschatzes öffentlich
zu teilen, wenn sie einen festgelegten Marktanteil für eine bestimmte
Zeit überschritten haben.
Die Sozialdemokratin stützt
sich dabei unter anderem auf eine Idee des in Oxford lehrenden
Rechtswissenschaftlers Viktor Meyer-Schönberger, der die Schwelle bei
einem Marktanteil von zehn Prozent ansetzt. „Überschreitet ein
Unternehmen diese Schwelle, muss es einen Teil seiner Feedbackdaten mit
allen Konkurrenten teilen, die dies wünschen“, fordert der Österreicher.
Auf der anderen Seite des
Atlantiks betrachtet man die europäischen Versuche, den technischen
Fortschritt zu bändigen, mit Skepsis. „Die Regulierung individueller
Algorithmen bremst die Innovation und erschwert es Unternehmen,
künstliche Intelligenz einzusetzen“, warnen Darrel West und John Allen
von der amerikanischen Denkfabrik Brookings in Washington.
Algorithmen müssen nicht perfekt sein
Besser als die „Black Box“
der Algorithmen aufzubrechen sei es, der IT-Industrie breitere Ziele
vorzugeben und diese dann mit politischen Maßnahmen zu befördern. Zwar
gibt es insbesondere in US-Bundesstaaten wie New York auch Bestrebungen,
die im öffentlichen Dienst eingesetzten Algorithmen auf ihre Fairness
zu überprüfen. Forderungen, die Quellcodes der digitalen Helfer
offenzulegen oder die Entwicklung von Algorithmen direkt zu regulieren,
finden bislang jedoch keine Mehrheit.
Angela Merkel
„Welchen Minister würden Sie gerne durch künstliche Intelligenz ersetzen?“
Die richtige Balance
zwischen Regulierung und Innovationsfreiheit zu finden gehört zu den
wichtigsten Zukunftsaufgaben der Politik. Dabei sollte sie sich an zwei
Gedanken orientieren: Nicht alles, was technisch möglich ist, muss auch
gemacht werden.
Zugleich gilt aber auch:
Algorithmen müssen nicht perfekt sein. Es reicht schon, wenn sie ihren
Job besser erledigen als die Menschen. Um das herauszufinden, brauchen
die Tüftler unserer digitalen Zukunft Freiraum. Den sollten wir ihnen
geben.
