Uschibuch: Mensch + Maschine = fucking awesome!
Text: Henriette Frädrich
Noch nie waren Menschen und das Menschliche so wichtig wie im Zeitalter der Algorithmen und all dem ganzen Digitalisierungs- und Technikgedöns. Das ist das Fazit aus dem wunderbaren Buch „Hello World - Was Algorithmen können und wie sie unser Leben verändern“ der britischen Mathematikerin Hannah Fry.
Was mich an dem Buch beeindruckt hat: Wie reflektiert und smart Hannah Fry die Chose mit den Algorithmen betrachtet, darstellt und analysiert. Sie malt keine Zukunftsutopien aber auch keine Zukunftsdystopien an die Wand - wie so viele andere der digitalen Möchtegern-Elite - aber auch ihre Gegner - es gerade ständig tun.
Hannah Fry schaut sich die Dinge einfach erst mal nur an. Was können, nach dem heutigen Stand der Dinge, Algorithmen alles? Was sind selbst lernende Systeme? Was ist künstliche Intelligenz überhaupt? Was macht es mit uns? Wie verändern sie Gesellschaften? Hannah Fry bewertet dabei nicht. Aber sie stellt wichtige Fragen. Welche Macht hat der, der Daten hat? Was kann man man damit alles anstellen? Sie zeigt die „guten“ Geschichten, bei denen Überwachung, Datensammlungen, Technik, Gesichtserkennung und Algorithmen dabei wunderbar helfen, Verbrechen aufzuklären oder Krebsprognosen zu erstellen.
Sie erzählt aber auch die „bösen“ Stories. Wie Daten missbraucht werden. Die Digital-Jünger, die sabbernd und neidisch alle nach China starren und China bewundern, wie toll China doch gerade in Sachen künstliche Intelligenz in Siebenmeilenstiefeln voran schreitet und Milliarden investiert. Bravo! Toll! Super! Aber warum macht China das denn? Weil es seine Bürger zu 100% kontrollieren will. Ich kann und will immer noch nicht glauben, dass es so etwas wie das Bürger-Bewertungs-System „Sesame“ wirklich gibt.
Schon Autorin Cecilia Ahern hat die Idee in ihrem packenden Sci-Fi-Roman „Flawed - Wie perfekt willst du sein“ ausgesponnen. Und in China ist diese absurde Welt schon längst Realität. Und alle rennen sie, die Digital-Lemminge, derzeit nach China. Echt jetzt?! Ich bin gebranntes DDR-Kind. Ich hatte all den Scheiß doch schon mal.
„Fragen stellen. Hinterfragen. Hirn einschalten. Und mit dem Herzen prüfen. Muss denn wirklich alles, was kann?“
Wir dürfen uns also immer wieder die Frage stellen: Welche Absicht steckt hinter allem? Wer hegt welche Absichten und warum? Und wenn ich meine Antwort gefunden habe, kann ich entscheiden, ob ich es gut oder doof finde. Und kann entscheiden, okay, hier mache ich mit. Aber hier eben nicht. Horror wäre, wenn wir diese Wahl irgendwann nicht mehr haben. Und die Systeme einfach so über uns drüber gestülpt werden.
Fragen stellen. Hinterfragen. Hirn einschalten. Und mit dem Herzen prüfen. Muss denn wirklich alles, was kann? Muss wirklich alles gemacht und getan werden, nur weil es technisch möglich ist? Verantwortung. Moral. Ethik. Was ist „gut“? Was ist hingegen eher eine „dumme Idee“? Mehr denn je sind diese Fragen wichtig.
___STEADY_PAYWALL___Hannah Fry zeigt auch, dass es nicht DEN EINEN Weg gibt. Sie untersucht den Einsatz von Algorithmen in verschiedenen Lebensbereichen – Justiz, Daten, Militär, Medizin, Autos (wir stehen in Sachen „selbstfahrende Autos“ noch viel mehr und weiter am Anfang, als alle Digi-Heinis derzeit propagieren), Kriminalität und Kunst – und zeigt immer wieder spannende Fallbeispiele, die jeweils die andere Seite der Medaille sind. Beispiele von fatalen Fehlern, die Algorithmen gemacht haben, wo es besser gewesen wäre, hätte der Mensch eingegriffen. Aber auch Beispiele vom Gegenteil, wo man sich zu sehr auf den Menschen verlassen und die Analysen der Daten nicht ernst nahm - und verheerende Fehlentscheidungen getroffen wurden.
Weder Maschine noch der Mensch ist perfekt. Und genau das ist es, worum es am Ende vielleicht geht. Genau das anzunehmen und zu akzeptieren. Fry schreibt: „Was wäre, wenn wir akzeptieren würden, dass es keine perfekten Systeme gibt? Algorithmen machen Fehler. Algorithmen sind ungerecht.“ Genau wie wir Menschen. Aber wir Menschen haben so eine enorme Sehnsucht danach, Ordnung ins Chaos zu bringen, dass wir alles kontrollieren und vorhersagen möchten. Wir wollen Perfektion. Kontrolle. Ordnung. Aber das Unvorhersehbare vorhersehbar machen wollen, das ist absurd. Denn Prognosen sind für´n Arsch.
Dennoch können uns Technik und Algorithmen natürlich in vielen Bereichen des Lebens helfen und unterstützen. Und das sollten wir auch nutzen und annehmen. Aber wir dürfen bei all dem Hype niemals eins vergessen: Den Menschen. Was mir nicht gefällt, sind die Angst-Szenarien, die derzeit gezeichnet werden. Der Mensch, der hier und da durch Maschinen ersetzt wird. Böse Maschinen! Böse Technik! Böse Digitalisierung! Genauso wenig gefällt mir der Hype um all das. Bücher wie „Abundance“, die uns den Überfluss versprechen, wenn wir nur brav und unhinterfragt alle mitmachen beim Daten-Digi-Technik-Hype.
Hannah Fry benennt auch, dass der technische Fortschritt so rasend voran prescht, und wir mit unseren Fragen nach Moral, Verantwortung und Ethik gar nicht mehr hinterher kommen. Aber wir MÜSSEN diese Fragen beantworten und uns Zeit dafür nehmen. Das wird nur derzeit komplett ignoriert und „vergessen“. Warum das so ist? Auch eine wichtige Frage. Warum gesteht uns niemand diese Zeit zu? Welche - und da sind wir wieder beim Thema Absichten - Absicht steckt dahinter? #Überrumpelungstaktik
„Ihre Beantwortung entscheidet, wer wir als Menschen sind, wie unsere Gesellschaft aussehen soll und inwieweit wir mit der drohenden Autorität einer gefühllosen Technologie umgehen können.“
Nur schwarz oder weiß zu malen, war noch nie eine gute Idee. Weder die Technik unhinterfragt als universellen Heilsbringer für alles zu glorifizieren, noch sich all dem komplett entgegen zu stellen und vor allem zu warnen und den Untergang des Abendlandes - à la Digital-Obermotzer Manfred Spitzer herauf beschwören, ist eine gute Idee.
Und genau das ist auch das Fazit aus Hannah Frys Buch. Wie bei allem im Leben: Zusammen und miteinander statt Gegeneinander. Stärken und Kompetenzen bündeln statt gegeneinander auszuspielen. Nicht Mensch only. Nicht Maschine only. Mensch + Maschine = fucking awesome.
„Hirn kriegste in jede Maschine. Aber nie ein Herz.“
Schach-Genie Garri Kasparow verlor 1997 gegen den IBM-Computer Deep Blue. Fry erzählt im Buch u.a. auch die Geschichte dahinter. Und warum Kasparow auch gewinnen hätte können. Nun hätte Kasparow sich gedemütigt verkrümeln können. Aber, und so schreibt Fry in ihrem Buch:
„Seit der Niederlage gegen Deep Blue hat Garri Kasparow Computern nicht den Rücken gekehrt. Ganz im Gegenteil. Stattdessen ist er zu einem großen Verfechter des „Zentaurenschachs“ geworden, bei dem ein menschlicher Spieler und ein Algorithmus gemeinsam gegen ein anderes Hybridteam antreten. Der Algorithmus bewertet die möglichen Folgen jedes Zuges und reduziert die Wahrscheinlichkeit eines Fehlers, während der Mensch die Verantwortung für das Spiel behält.
Kasparow sagt dazu: „Wenn man mit Computerunterstützung spielt, kann man sich auf die strategische Planung konzentrieren und muss sehr viel weniger Zeit mit Berechnungen verbringen. Unter diesen Bedingungen bekam die menschliche Kreativität sogar noch größere Bedeutung.“ Infolgedessen wird Schach auf einem höheren Niveau gespielt als je zuvor. Perfektes, taktisches Spiel und schöne, sinnvolle Strategien. So nutzt man die Vorteile beider Welten.
Auf diese Zukunft hoffe ich. Eine Zukunft, in der wir Maschinen nicht mehr als objektive Herren betrachten, sondern sie wie jede andere Machtquelle behandeln. Indem wir ihre Entscheidungen hinterfragen, ihre Motive untersuchen, unsere Emotionen anerkennen. Auskunft darüber verlangen, wer Nutznießer ist. Sie für ihre Fehler zur Verantwortung ziehen und darauf achten, dass wir dabei nicht nachlässig werden.
Ich halte dies für den Schlüssel zu einer Zukunft, in der Algorithmen unterm Strich eine positive Wirkung für die Gesellschaft haben. Und diese Aufgabe fällt völlig zu Recht uns zu. Denn eins ist sicher: Noch nie waren Menschen so wichtig wie heute, im Zeitalter der Algorithmen.“
Vielleicht kann man es auch anders sagen: Algorithmen sind wie Hunde. Sitz, Platz, Komm. Wir sind die Herrchen im Haus. Wir machen die Ansagen. Und nicht andersrum.
Die beste künstliche Intelligenz kann alles lernen. Mehr als ein Mensch je lernen kann. Aber: Sie wird nie fühlen, nie lieben, nie sich freuen, nie trauern können. Hirn kriegste in jede Maschine. Aber nie ein Herz. Und dass wir Menschen Herz und Hirn haben, genau das ist unsere Einmaligkeit. Und genau das dürfen wir uns niemals nehmen oder klein reden lassen.
Und so fordert Hannah Fry, dass IT-Professionals – ebenso wie Ärzte – den hippokratischen Eid schwören.
“Mediziner halten sich seit mehr als 2500 Jahren an den hippokratischen Eid, der als ethischer Kodex für ärztliches Handeln zwar nicht verbindlich ist, aber einen hohen Stellenwert genießt. Im Zuge des zunehmenden Einflusses von Algorithmen auf unseren Alltag, dem wir uns teilweise gar nicht bewusst sind, nimmt die Diskussion um eine ethische Selbstverpflichtung in technischen Berufen erneut Fahrt auf. "Wir brauchen einen hippokratischen Eid, so wie er für die Medizin existiert", fordert die aus unterschiedlichen TED-Talks bekannte Mathematikprofessorin Hannah Fry gegenüber "The Guardian". In der Medizin lerne man die Ethik vom ersten Tag an kennen, in der Mathematik dagegen spielt sie kaum eine Rolle. Das möchte die Britin gerne ändern: "Ethische Grundsätze müssen vom ersten Tag an im Vordergrund unserer Gedanken stehen", so ihre Forderung.
So mahnt Fry, dass Forscher heute Systeme bauen, die persönliche Daten sammeln und verkaufen, menschliche Schwächen ausnutzen und Entscheidungen über Leben oder Tod treffen. "In den Technologieunternehmen dieser Welt finden wir heute meist sehr junge, sehr unerfahrene und oft weiße Männer. Sie wurden nie gebeten, darüber nachzudenken, wie sich die Lebensperspektiven anderer Menschen von ihren unterscheiden, und letztendlich sind dies die Menschen, die die Zukunft für uns alle gestalten.” (mehr)
P.S.
Entdeckt habe ich das Buch - ganz ohne Algorithmus - per Zufall in einer kleinen, niedlichen Buchhandlung auf der gefühlt fast technik- und komplett autofreien und ebenso niedlichen Insel Spiekeroog. Es sprang mich genauso an, wie mich die Tentakeln aus einem Buch über Tintenfische regelrecht in ihren Bann zogen. Denn da stand auch dieses Buch „Rendezvous mit einem Octopus - Extrem schlau und unglaublich empfindsam: Das erstaunliche Seelenleben der Kraken“ im Schaufenster. Und ich musste es einfach haben. Keine Ahnung wieso. Und ich liebe es. Ich liebe das Buch. Und ich liebe neuerdings Tintenfische. Was für irre Wahnsinns-Wesen!
Hätte Amazons Empfehlungs-Algorithmus mir jemals ein Buch über Kraken und ein Buch über Algorithmen empfohlen? Ich glaube nein. Es sei denn, man würde hier mal den Überraschungsmodus programmieren. Ironie der Geschichte: Das Trichterorgan vom Tintenfisch, das ihm zur Atmung und zur Fortbewegung dient, nennt man - tada - Funnel. Jetzt weiß ich auch, woher das stets schale Gefühl bei mir kommt, wenn ich online mal wieder irgendwo mich jetzt hier sofort und gleich anmelden und mir mein kostenfreies eBook oder Webinar sichern soll: Krakententakeln ziehen mich in nicht entkommbare Marketing-Spam-Newsletter-Sales-Untiefen (= Online-Funnel) hinein. Hat dich ein Krake nämlich einmal mit seinen besaugknöpften Tentakeln fest im Griff, hast du keine Chance, zu entkommen. Selbst ein kleiner Krake, der nur einen halben Meter groß ist, hat die Kraft, mehrere 100 Kilo zu bewegen. Merkt man mir meine Ablehnung gegen das ganze Funnel-Gedöns an? Nö, oder?
P.P.S.
Ich will einen Tintentisch.
