Dumme Intelligenz

Schon Einstein wusste: Messungen und Beobachtungen sind nie neutral. Sie sind mit dem Gemessenen und Beobachteten immer verbunden. Das ist ein Teil der Relativitätstheorie. In der Data Science tut man gelegentlich, als ob dieses physikalische Grundgesetz nicht gelte. Das zeigt sich beim Hype um Artificial Intelligence (AI).

AI ist kein Selbstzweck, sie existiert immer in Resonanz mit der Realität. Die entscheidende Frage ist, wie wir diese Abhängigkeit gestalten: sinnvoll, nützlich, fair, oder ausgrenzend, zerstörerisch. Der Mensch programmiert den Lernalgorithmus, der Mensch hat es in der Hand. Es soll keiner der AI die Schuld geben. Sie kann nichts dafür, wenn sie dumm programmiert wurde. Ich empfehle das Buch “Angriff der Algorithmen” von Cathy O’Neill. Die Mathematikerin spricht darin von “Weapons of Math Destruction”. Ihre Ausführungen strotzen von Beispielen unreflektierter Technikgläubigkeit und Machbarkeitswahn. Und woher kommt das? Es ist eine weit verbreitete Unterlassungssünde zahlreicher AI-Lösungen, dass sie nur den oberflächlichen Nutzen aus den Daten ziehen und dass das Lernen aus der Rückkopplung mit der Realität vergessen geht. Und das geht früher oder später garantiert schief.

Die selbst lernende Verarbeitung von Big Data verstärkt oft vorherrschende Muster.

Das führt zu Ausgrenzungen, Fehlanreizen und sozialer Ungerechtigkeit – ein toxischer Cocktail. Beispiele sind Chatbots, die zu rassistischen, sexistischen Monstern wurden, weil sie wertfrei die online vorherrschenden Gesinnungen verstärkten. Auch spannend sind jene Fälle, die über Zeit die amerikanischen Studiengebühren um 500 Prozent haben steigen lassen, die die Bildungsqualität in den USA unnötig beeinträchtigen.

Wenn es möglich ist, einzelne Gesinnungen zu verstärken und Kosten eines Systems ansteigen zu lassen, muss es ebenso möglich sein, Kosten zu senken und Inklusion zu verstärken. Denke ich. So richtig intelligent wird die Maschine also erst, wenn sie uns mit ihrem Wirken automatisch in Richtung Fairness, Inklusion und Qualität unterstützt. Künstliche Intelligenz verdient ihren Namen also erst dann, wenn sie ihren eigenen Effekt kritisch beobachten und entlang von Grundwerten selbst steuern kann. Alles andere soll bitte Dumme Intelligenz heissen.

Kolumne von Esther-Mirjam de Boer, erschienen in der Handelszeitung vom 9. Mai 2019.

 

Kategorien: