Statistik ist noch keine Intelligenz.

i0.wp

 aus Handelsblatt.com, 22.03.2019

Eine Mathematikerin erklärt, wie Algorithmen unser Leben ändern

Maschinen trauen – oder nicht? Das fragt sich Mathematikerin Hannah Fry und erklärt, warum Algorithmen in Flugzeugen nicht viel Einfluss haben sollten.

 

von Carsten Volkery

London - Eigentlich wollte Hannah Fry nach der Schule Friseurin werden. Als Arbeiterkind habe sie nie im Leben daran gedacht, Professorin für Mathematik sein zu können, sagt sie. Doch die Mutter drängte die zahlenbegeisterte Tochter zum Studieren. Fry wählte das Fach Aerodynamik, wie von Mathematik war sie von der Formel 1 fasziniert.

Als sie dann tatsächlich bei einer Designfirma landete, die mehrere Formel-1-Rennställe beriet, merkte sie schnell: Der Job war ganz anders als ihr Traum. Statt eigene Modelle zu entwickeln, musste sie nur einen Computer füttern – und der erledigte sämtliche Simulationen. „Es war ziemlich langweilig“, sagt sie.

Hannah Fry

Jetzt schrieb sie ein Buch über die Spannung zwischen Mensch und Maschine, das gerade auf Deutsch erschienen ist („Hello World“). Sie beschreibt, wie Algorithmen die Welt verändern – und welches Potenzial Künstliche Intelligenz (KI) hat. Heute lehrt die 35-Jährige Mathematik an einer der besten britischen Universitäten, dem University College London (UCL). Hier wurde Deepmind gegründet, eins der führenden KI-Start-ups, das von Google 2014 gekauft wurde.

Fry betreut und wirkt in Forschungsprojekten, die sich mit Algorithmen in allen möglichen Feldern beschäftigen. „Algorithmen sind überall“, sagt sie. „In Schulen, Krankenhäusern, Gerichtssälen.“ Auch in Flugzeugen. Das Drama um den Absturz der 737 Max 8 von Boeing wirft wieder die Grundsatzfrage auf: Wie sehr können wir der Maschine vertrauen – und wie sehr nicht? Fry warnt: Bei aller Begeisterung für die technologische Entwicklung solle man sich nicht zu sehr auf die Computer verlassen.

In ihrem Buch führt sie auch das Beispiel eines Piloten an, dessen Maschine abstürzte, als der Autopilot einmal ausfiel: Er hatte das Fliegen verlernt. Überforderung spielte auch eine Rolle beim Absturz des Boeing-Jets. Das MCAS-System korrigierte automatisch die Fluglage des Jets. Der Pilot kann die Entscheidung der Steuerungssoftware zwar überstimmen. Das kann das System aber wieder korrigieren. Ein Ringen zwischen Mensch und Maschine, das die Piloten von zwei 737-Flügen auf tragische Weise verloren.

Hannah Fry – Hello World: Was Algorithmen können und wie sie unser Leben verändern
C.H. Beck
2019
272 Seiten
19,95 Euro
ISBN: 978-3462051674

Laut Fry ist es eine echte Gefahr, dass Menschen aufgrund des technischen Fortschritts gewisse Fähigkeiten verlernen. So hätten Chirurgen früher mit ihren Händen im Patienten herumgetastet und ein Gefühl für den Körper entwickelt. Dieser Tastsinn drohe verloren zu gehen, wenn alles per Schlüssellochchirurgie operiert werde.

Aber Fry will die Neuerungen nicht verdammen – im Gegenteil. In ihrem Buch beschreibt sie viele anschauliche Beispiele, wie Algorithmen im Alltag helfen. Im Justizsystem etwa können sie für mehr Konsistenz sorgen. „Wenn es eine Person gibt, die kühl und berechnend und logisch und emotionsfrei sein sollte, dann ist es ein Richter“, sagt Fry. Doch laut Untersuchungen spiele Glück in der Justiz eine große Rolle.

Ein Algorithmus hingegen könne etwa mit größerer Treffsicherheit einschätzen, ob das Risiko vertretbar sei, einen Angeklagten gegen Kaution auf freien Fuß zu setzen. Allerdings könne ein Algorithmus dem Richter nur helfen, diese sehr eng umgrenzte Entscheidung zu treffen.

Weg von Science-Fiction

Mit komplexeren Entscheidungen, wie etwa dem Urteil über die Schuld oder Unschuld des Angeklagten oder der Festsetzung des Strafmaßes, wäre die Technik überfordert. Ersetzen kann der Algorithmus den Richter also nicht. Aber er kann ihn sinnvoll ergänzen.

Ähnlich ist es bei der Früherkennung von Brustkrebs. Algorithmen seien sehr gut darin, aus Millionen Proben die verdächtigen Zellmuster auszusortieren, sagt Fry. Sie könnten also schon eine Vorauswahl treffen und dem Pathologen so die Arbeit erleichtern. Auch hier gilt jedoch: Ganz ohne den Menschen geht es nicht.

Als geübte Ted-Talkerin weiß sie, wie man Wissenschaft populär macht. In einem anderen Buch hat sie darüber geschrieben, wie Mathematik in der Liebe helfen kann. Und auch über die Mathematik von Weihnachten hat sie schon räsoniert. „Es gibt nichts, wozu Mathematik nicht einen anderen Blickwinkel beisteuern kann“, sagt sie.

In der Debatte über die Künstliche Intelligenz vermisst Fry das nötige Maß. „Es gibt einen unglaublichen Hype“, sagt sie. „Die einen sagen, KI sei die größte Erfindung der Menschheit und werde alles revolutionieren. Die anderen zeichnen dieses sehr düstere Bild einer Zukunft, in der Maschinen uns die Jobs wegnehmen und die Menschheit zerstören.“ Man müsse weg von dieser Science-Fiction, sagt sie, und hin zu einer realistischen Bestandsaufnahme: Was können Algorithmen besser als Menschen – und was nicht?

KI-Begriff führt in die Irre

Schon der Begriff Künstliche Intelligenz führt aus ihrer Sicht in die Irre. Künstliche Intelligenz habe weniger mit Intelligenz zu tun als vielmehr mit Statistik. Das sei natürlich nicht so sexy, sagt sie mit einem tiefen Lachen.
 
Laut der Britin muss man zwischen gewöhnlichen Algorithmen und Künstlicher Intelligenz unterscheiden.

Letztere nutze Algorithmen, die von ihrer Umwelt lernen und versuchen, die Prozesse im menschlichen Gehirn nachzumachen. Die Technik sei noch im Krabbelalter, sie habe noch nicht mal die Komplexität eines Wurmgehirns. Trotzdem seien die Fortschritte der KI erstaunlich. Sie könne beispielsweise den hohen Energieverbrauch in großen Datenzentren regeln. So habe der lernende Algorithmus von Deepmind Googles Energiekosten wesentlich gesenkt, sagt Fry.

Er errechne selbstständig aus Millionen Daten die optimalen Einstellungen für das Kühlungssystem der Serverfarmen. Die meisten Algorithmen sind jedoch simpler gestrickt, sie finden keine eigenen Lösungen, sondern befolgen einfach vorgegebene Regeln. Die Programme könnten viele Aufgaben präziser und schneller erledigen als Menschen, sagt die Mathematikerin. Menschen wiederum seien Algorithmen in anderen Dingen überlegen. Das beste Resultat erziele man, indem man die Stärken von Mensch und Maschine geschickt kombiniere.

Algorithmen leben von Daten: Je mehr sie gefüttert werden, desto besser funktionieren sie. Das bringt sie in Konflikt mit dem menschlichen Bedürfnis nach Datenschutz und Privatsphäre. „Es gibt Leute, die sagen, wenn es ein Wettrüsten in Künstlicher Intelligenz gibt, hat der Osten einen massiven Vorteil gegenüber dem Westen, weil die Privatsphäre im Osten egal ist“, sagt Fry. In China könne man ohne Probleme eine Datenbank mit einer Milliarde Gesichtern aufbauen.

Doch sie glaubt, dass Firmen nicht länger zwischen Innovation und Datenschutz wählen müssen. Vor fünf Jahren sei eine Kultur, in der die Privatsphäre als höchstes Gut angesehen wird, ein massiver Wettbewerbsnachteil gewesen, sagt sie. Inzwischen hätten die großen US-Techfirmen jedoch Lösungen gefunden. „Sie können heute Daten von Menschen sammeln, ohne deren Identität zu kennen.“

Der Skandal um Facebook und Cambridge Analytica habe die Branche wachgerüttelt. Jetzt gehe es darum, das Vertrauen der Nutzer zurückzugewinnen. Deshalb sei die EU-Datenschutzrichtlinie GDPR ein wichtiger Schritt, der Europa langfristig voranbringen werde.

Keine autonomen Autos

Mit großer Skepsis sieht Fry die Versprechen der Autohersteller zum autonomen Fahren. „Ich wette, dass wir niemals selbstfahrende Autos im normalen Verkehr sehen werden“, sagt sie. Das größte Problem sei nicht das Fahren an sich, sondern die unberechenbare Umgebung. „Nehmen Sie zum Beispiel die Situation, dass plötzlich ein Krankenwagen hinter Ihnen auftaucht. Wie erklären Sie dem Algorithmus, dass es in Ordnung ist, auf den Bürgersteig zu fahren, aber nur unter diesen besonderen Umständen? Sie können keine Liste aller möglichen Szenarien einprogrammieren.“

Auch könnte jeder Passant ein selbstfahrendes Auto anhalten: Wenn er sich davorstellt, würde das Auto automatisch bremsen. „Sie haben plötzlich ein gehorsames Objekt auf der Straße“, sagt Fry. Das würde das Verhalten anderer Verkehrsteilnehmer ändern. Der einzige Weg, wirklich autonom fahrende Autos zu haben, wäre, wenn man alle anderen Verkehrsteilnehmer von der Straße verbannte. „Dann reden wir über das Prinzip des Zugs“, sagt Fry.

Auch Flugzeuge könnten nur deshalb mit Autopilot fliegen, weil der Luftraum strikt geregelt ist. Dennoch glaubt sie, dass Algorithmen das Autofahren deutlich sicherer und angenehmer machen können. Hersteller wie Volvo und Toyota hätten bereits eine Menge Technik im Hintergrund, die den Fahrer unterstützt. „Auch hier sehen wir, wie Mensch und Algorithmus ein Team bilden“, sagt Fry. „Wir müssen akzeptieren, worin Menschen gut sind und worin sie schlecht sind, und die Technologie daran ausrichten.“