zeitzeichen - Evangelische Kommentare zu Religion und Gesellschaft

„Pessimismus ist keine Option“

Gespräch mit dem Wissenschaftsjournalisten Ranga Yogeshwar über Künstliche Intelligenz, die Bewältigung von Komplexität und warum das Leben mehr ist als ein Businessmodell

Ranga Yogeshwar

Vor dem Hintergrund der enormen Konsequenzen, die die Forschung mit Künstlicher Intelligenz hat, fordert der Physiker und Wissenschaftsjournalist Ranga Yogeshwar eine Art hippokratischen Eid für Ingenieure, Informatiker und Programmierer. Sie tragen wie Ärzte viel Verantwortung und müssen über die Konsequenzen ihres Handelns permanent reflektieren.

Foto: © Herby Sachs
Foto: © Herby Sachs

zeitzeichen: Herr Yogeshwar, viele Experten sagen, dass kein Feld der Technologie gleichzeitig so unter- und so überschätzt wird wie die Künstliche Intelligenz (KI). Aber was ist KI? Können Sie es uns erklären?

RANGA YOGESHWAR: Es beginnt damit, dass erste Erfolge der Künstlichen Intelligenz auf so genannten digitalen neuronalen Netzen basieren. Das ist ein kompliziertes Wort. Wir sind heute in der Lage, mit dem Computer die elementaren Strukturen des Gehirns in ihrer Funktion nachzubilden. Das heißt, ein Netzwerk aus Neuronen, die mit anderen Neuronen verschaltet sind. Und die werden gefüttert mit Daten, justieren sich selbst auf mehreren Ebenen, um am Ende ein Ergebnis zu liefern. Das genau ist die Basis, mit der zum Beispiel Objekte auf Bildern erkannt werden. So lassen sich zum Beispiel Menschen, Gesichter, Autos oder Zahlen in einem Bild identifizieren. Diese Technik funktioniert aber im Moment noch wie eine Black Box. Das heißt, man nutzt ein mathematisches System, was durch seine Komplexität nicht verstanden wird. Obwohl es zwar prinzipiell funktioniert, versteht man bislang nicht genau, wieso das System seine Entscheidung fällt, und diese Tatsache rüttelt am Kausalitätsprinzip. Es gibt viele Fragezeichen: Was zum Beispiel sind die genauen Merkmale beim Identifizieren eines Objekts, können die Trainingsdaten bei solchen Systemen zu Vorurteilen führen, handelt es sich vielleicht um eine von vielen Identifikationsmöglichkeiten?

Das heißt, das Prinzip Ursache und Wirkung ist aufgehoben?


Ranga Yogeshwar: Ja, und in Fachkreisen spricht man von „explainable artificial intelligence“, also erklärbarer künstlichen Intelligenz. Man investiert sehr viel Arbeit, um genau zu verstehen, wie diese Systeme tatsächlich funktionieren, denn nur auf dieser Basis kann man sie ethisch vertretbar in bestimmten Bereichen anwenden.

Wie weit ist man damit, die explainable artificial intelligence zu identifizieren?

RANGA YOGESHWAR: Man beginnt zu verstehen, dass diese Systeme andere Kategorien bilden. Ein Beispiel: Bei der Identifizierung von Menschen achten die Computersysteme auf Falten im Stoff. Das heißt, die Kategorien der Maschine bei der Zuordnung von Menschen sind offensichtlich völlig andere als bei uns. Der zweite Punkt ist, dass man zu begreifen beginnt, dass diese Systeme in Abhängigkeit des Lernprozesses bisher alle einen Bias, einen systematischen Fehler haben, der sich beispielsweise darin äußert, dass diese Systeme, wenn sie ständig weiße Menschen zu sehen bekommen, bei dunkelhäutigen Menschen behaupten, es seien Affen. Natürlich nicht, weil das System rassistisch ist, sondern weil die Prägung des Systems bereits eine gewisse Vorwegnahme, ein gewisses Vorurteil bildet.

Intelligente Computersysteme stellen medizinische Diagnosen und geben Rechtsberatung. Sie managen den Aktienhandel und steuern bald unsere Autos. Doch neben die Utopie einer schönen neuen intelligenten Technikwelt sind längst Schreckensbilder getreten: von künstlichen Intelligenzen, die uns auf Schritt und Tritt überwachen oder unsere Arbeitsplätze übernehmen. Welche Hoffnungen und welche Befürchtungen sind realistisch?

RANGA YOGESHWAR: Zunächst einmal glaube ich fest daran, dass wir diese neue Technik in ihren Chancen prägen und mit einer gewissen Sensibilität die Risiken auch im Vorfeld erkennen können. Ein aktuelles Beispiel: Der digitale Assistent von Google machte während einer Vorführung per Telefon einen Termin beim Friseur. Eine Maschine redet mit einem Menschen, ohne dass dieser weiß, dass am anderen Ende ein Sprachroboter ist. Bei dieser Demonstration produzierte der Sprachassistent sehr menschliche Laute wie „Hmmmm“, und die Dame im Friseursalon ahnte nicht, dass es sich um eine Maschine handelte. Das ist, wie ich meine, unethisch, denn hier wurde ein Mensch bewusst getäuscht. Aus diesem Beispiel kann man eine simple Forderung ableiten: Wir brauchen in Zukunft immer Klarheit, ob es sich um Maschinen oder um Menschen handelt. Die Maschine darf daher nicht sagen „Ich bin Lisa“, sondern muss sich outen: „Ich bin ein Sprachroboter.“
Auf der einen Seite birgt es Chancen, bestimmte Prozesse über Maschinen laufen zu lassen. Denken Sie in der Medizin an neue Diagnosemöglichkeiten, die im Frühstadium eine Erkennung möglich machen. Natürlich kann das zu einer Präjudizierung führen, bei der das Wissen um diese Daten bei der Einstufung von Versicherungen Menschen schadet. Es gibt eben immer beides, das ist ein Merkmal des Fortschritts der Geschichte. Die Kernaufgabe in den nächsten Jahren wird darin bestehen, eben nicht nur Technologien voranzutreiben, sondern gleichermaßen sehr klar zu überlegen, wo sind Grenzen, wo sind rote Linien, was sind Verabredungen, die wir als Gesellschaften einhalten müssen. Das nenne ich reflektierten Fortschritt.

Die Entwicklung von Technik und ethische Überlegungen sollten also immer parallel laufen?

RANGA YOGESHWAR: Das ist aufgrund der Tiefe, mit der KI in viele Bereiche des Lebens eindringt, zwingend geboten, denn sonst droht eine Verselbstständigung, deren Folgen niemand absehen kann. Da gibt es extreme Beispiele wie autonome Tötungsmaschinen, so genannte Killerroboter. Schon heute plädiere ich für eine prinzipielle Ächtung solcher Waffen und hoffe, dass es schnell zu einem weltweiten Stopp kommt. Aber diese ethischen Diskussionen sind sehr viel komplexer, weil an einigen Stellen die Grenze zwischen dem Gemeinwohl oder dem Vorteil für eine Minderheit schwer zu ziehen ist. Es gibt heutzutage eine hohe Konzentration an Know-how bei einer kleinen Zahl sehr großer potenter Firmen. Das kann unter Umständen demokratische Systeme destabilisieren, und das finde ich sehr bedenklich.

Ray Kurzweil, der Vordenker des Transhumanismus, behauptete schon vor Jahrzehnten, die Menschen würden durch Maschinen ersetzt, es gäbe irgendwann nur noch maschinelle Intelligenz. Er sagt, 2030 werden Computer genauso viele Transistoren wie Menschen Neuronen haben, also werden die Maschinen automatisch intelligenter sein. Wie stehen Sie zu dieser Vision?


RANGA YOGESHWAR: Diese Vision ist teilweise schon sehr viel früher wahr geworden, denn es gibt heute schon Bereiche, in denen Maschinen besser sind als Menschen, zum Beispiel als Schachcomputer, beim Erkennen von Verkehrsschildern oder dem Identifizieren von Tumoren auf Röntgenbildern. Die Medizin wird durch die KI eine Revolution erleben. Schon heute setzen Biochemiker KI ein, um Wirkstoffe zu finden. Die Cambridge University hat ein System entworfen, das kürzlich erstmals den in Zahnpasta enthaltenen Wirkstoff Triclosan auch für den Einsatz gegen resistente Malaria-Stämme hervorgebracht hat.

Durch KI?

RANGA YOGESHWAR: Ja. Im Bereich der Chemie wird der Fortschritt in den nächsten Monaten explodieren. Stellen Sie sich vor, Sie designten ein Medikament, eine komplexe chemische Verbindung. Chemiker suchen dann nach einem Herstellungsprozess, wie sich in vielen Einzelschritten aus einfachen Verbindungen die gewünschte komplexe Substanz erstellen lässt. Bisher war das ein mühevoller und zeitaufwändiger Prozess des Ausprobierens, doch in den vergangenen Monaten haben Wissenschaftler mit so genannten Machine-Learning-Systemen die Vielzahl der Syntheseschritte modelliert. Vereinfacht gesagt, liefert die KI nun in kürzester Zeit das Kochrezept für komplexe Moleküle, und das führt zu einer immensen Beschleunigung bei der Herstellung neuer Wirkstoffe. Wir stellen uns chemische Laboratorien immer noch als eine Stätte vor, in der Menschen mit weißen Kitteln hantieren. Aber heute werden so genannte Pikotröpfchen, also minimale Flüssigkeitsmengen, in einem integrierten Schaltkreis direkt untersucht. Ein großes chemisches Labor schrumpft also auf die Größe eines Computerchips. Wenn wir solche Entwicklungen weiterdenken, dann erscheint es keinesfalls als Science-Fiction, dass in den nächsten Jahren beim Telefonieren mein Atem über einen Sensor im Handy erfasst wird und damit auch viele Parameter meines Gesundheitszustands.

Und wir werden länger leben, oder?

RANGA YOGESHWAR: Ich habe kürzlich im Silicon Valley das Unternehmen Alcahest, zu Deutsch: Jungbrunnen, besucht, das der Neurologe Tony Wyss-Coray von der Stanford-Universität gegründet hat. Wir alle kennen die schöne Vorstellung vom Jungbrunnen, in den die Menschen reinsteigen und jung wieder rauskommen. Das genau ist eine der großen Visionen im Silicon Valley. Bisher habe man die Welt digital verändert, nun soll auch das Leben an sich verändert werden. In ersten Versuchen ist es gelungen, Alzheimer bei Mäusen zu heilen, vielleicht auch bald beim Menschen - das wäre ein Segen. Aber das langfristige Ziel dieser Forschungen ist eindeutig, das Leben erheblich zu verlängern. Viele im Silicon Valley träumen davon, mindestens 120 Jahre alt zu werden und dabei gesund zu bleiben. Für manche ist der Kampf gegen das Altern nichts anderes als ein lösbares technisches Problem. Mit Milliardenbudgets verfolgen große IT-Unternehmen dieses Ziel.

Aber heißt es nicht, dass im Silicon Valley alle die Welt verbessern wollen?

RANGA YOGESHWAR: Da bin ich mir nicht so sicher. Im Silicon Valley regiert der ökonomische Profit, doch es gibt durchaus viele Menschen, die diesen technologischen Fortschritt nicht als Mittel nutzen, bei dem eine Minderheit reich wird, sondern sie wollen ihre Erkenntnisse zu einem echten Gewinn für die gesamte Gesellschaft machen. Diese ethische Diskussion gibt es zum Glück auch bei den großen Konzernen. Auch Google und Facebook sind keine monolithischen Blöcke, da sitzen zum Teil sehr kluge Menschen, die durchaus hinterfragen, was sie tun.

Ist es nicht zu optimistisch, auf edle Gesinnung der Forscher zu setzen?

RANGA YOGESHWAR: Ja, dabei kann man es vor dem Hintergrund der enormen Konsequenzen, die diese Forschung hat, nicht belassen. Deshalb plädiere für eine Art hippokratischen Eid für Ingenieure, Informatiker und Programmierer, denn sie tragen wie Ärzte viel Verantwortung und müssen über die Konsequenzen ihres Handelns permanent reflektieren.

Sie sprechen in Ihrem Buch „Nächste Ausfahrt Zukunft“ von einem Pakt zwischen Ökonomie und digitalem Denken. Und wer sich diesem digitalen Diktat nicht unterwirft, der wird bestraft, in Langsamkeit und Isolation. usa und China erobern den Rest der modernen Welt. Wird die KI nicht auch als Machtfaktor eingesetzt?

RANGA YOGESHWAR: Gerade China gegenüber herrschen bei uns sehr viele Vorurteile. Auch dort gibt es eine Ethik und eine Moral. Insofern gehöre ich nicht zu denen, die pauschal sagen, China wird die KI nur machtpolitisch nutzen. In China gibt es jede Menge Ingenieure und Wissenschaftler, die darüber nachdenken, was sie tun und die sich fragen, ob sie ihre Landsleute in eine digitale Diktatur überführen wollen. Dennoch gibt es dort problematische Entwicklungen: Citizen Scoring, also die elektronische Bürgerbewertung durch den Staat, ist etwas, das wir generell ablehnen sollten, weil damit ein Nährboden für autokratische und diktatorische Systeme geschaffen wird. Aber für mich gibt es eben auch eine globale Solidarität, bei der ich nicht trennen möchte zwischen China, den USA und Europa.

Wie kann die KI international geregelt werden?

RANGA YOGESHWAR: Es gibt gute Beispiele in meiner Disziplin, der Physik. Immerhin hat man vor einigen Jahrzehnten einen weltweiten Konsens der Ächtung von Atomwaffen etabliert. Oberirdische Atombombentests wurden trotz Kaltem Krieg weltweit verboten. Doch dieses Mal sollten wir handeln, bevor das Problem auftaucht. Das heißt, eine Ächtung autonomer Waffen ist nötig, bevor sie das Schlachtfeld erobern. Daran sollten wir jetzt weltweit arbeiten, denn wir alle sollten uns einig sein, dass wir nicht Maschinen Entscheidungen über Leben und Tod überlassen dürfen.

Wie würden Sie den Menschen die Angst vor der Digitalisierung und der KI nehmen? Sie schreiben ja in Ihrem Buch, wir sollten keine Angst vor dem Morgen haben, denn wir leben in den aufregendsten Zeiten, die es je gab.

RANGA YOGESHWAR: Die Entscheidung liegt bei uns: Welchen Fortschritt wollen wir? Einen, der sich nur ableitet aufgrund der technologischen Möglichkeiten? Oder einen Fortschritt, der sich aus den globalen Bedürfnissen ableitet? Im Moment reden alle von Innovation und meinen damit das, was eine kleine, meistens weiße reiche Minderheit für eine andere kleine weiße reiche Minderheit entwickelt. Fortschritt muss allen Menschen zugutekommen. Der Fortschritt für eine Minderheit geht eine gewisse Zeit lang gut, bis Systeme destabilisiert werden, weil es zu viele Menschen gibt, die das Gefühl haben, sie kommen nicht vor und sind Zukunftsverlierer. Plötzlich werden Gesamtsysteme instabil. Insofern wären auch die klug beraten, die zurzeit rein ökonomisch denken, diese grundlegenden Diskussionen zu fordern. Denn wenn das System kollabiert, verdient niemand Geld.

Ist in den politischen Kreisen, zu denen Sie Kontakt haben, das Bewusstsein schon ausgebildet oder sind Sie eher pessimistisch?

RANGA YOGESHWAR: Pessimismus ist für mich keine Option. Wir stehen vor epochalen Herausforderungen, und wir müssen sie mutig anpacken. Auch in der Vergangenheit gab es Entwicklungen, die massiv neue Fragestellungen aufwarfen und sehr besorgniserregend waren. Aber in der Bilanz, und deswegen bin ich auch zuversichtlich, ist unsere Welt in den vergangenen Jahrzehnten besser geworden. Auch wenn die meisten Menschen anders empfinden: Die Lebenserwartung hat zu-, die Kindersterblichkeit abgenommen. Der Analphabetismus ist zurückgegangen, und die Zahl der Demokratien auf der Welt hat sich in den vergangenen Jahrzehnten verdreifacht. Trotzdem haben wir große Baustellen. Ob es das Thema Nachhaltigkeit ist, die Ressourcen oder das Klima.

Wird diese Welt in Zukunft auch eine bessere?

RANGA YOGESHWAR: Ja, aber wir müssen daran arbeiten, denn es ist kein Automatismus. Die gesamte Geschichte des Fortschritts war immer ein Ringen um die Ziele und um Balance. Es ist ein Ringen um die Grundwerte, Sichtweisen und die Ziele des Fortschritts. Das ist nichts, bei dem man im Schaukelstuhl sitzt, und der Fortschritt passiert einfach, da müssen wir alle aktiv sein.

Und doch kann man sich des Eindrucks nicht erwehren, dass wir uns in Deutschland immer noch auf dem früher Erreichten ausruhen.

RANGA YOGESHWAR: Wir dachten lange Zeit, Demokratien seien so eine Art Endzustand, der stabil sei. Doch was wir im Moment weltweit erleben, ist ein sonderbarer Verfall, mitunter ein Abbau von Demokratie, der alle überrascht. Wenn man genauer hinschaut, ist das Wort Demokratie falsch, denn es geht um liberale Demokratie. Ein offensichtliches Problem dabei ist die Bewältigung von Komplexität. Ob es um die Finanzwelt geht, oder um neue Freihandelsabkommen. Die Prozesse sind so komplex, dass sie von den gewählten Politikern an Fachinstitutionen delegiert werden müssen. Damit haben viele Menschen ein Problem, weil sie das Gefühl haben, bei der Gestaltung ihrer Zukunft nicht mehr mitreden zu können. Wenn sie es dennoch versuchen, werden sie von Experten zurechtgewiesen. Diese Komplexität führt zu einer großen gesellschaftlichen Verunsicherung. Menschen suchen nach einfachen Antworten und Populisten bedienen diese Ängste. Sie geben vor, die Stimme des Volkes ernst zu nehmen, skandieren das bekannte „Wir sind das Volk“, aber gleichzeitig sind Populisten zutiefst illiberal, weil sie den Schutz von Minderheiten ablehnen und nicht bereit sind, Kompromisse zu schließen. Ein Teil der Ursachen für das weltweite Erstarken des Populismus hat mit dem rasanten Fortschritt, den damit einhergehenden massiven Veränderungen und der „gefühlten“ Unsicherheit zu tun. Insofern müssen wir Hausaufgaben machen.

Und wenn diese Hausaufgaben nicht gemacht werden, driftet die Gesellschaft dann auch ökonomisch auseinander?

RANGA YOGESHWAR: Ja, natürlich. Irgendwann kippt das System. In vielen Studien zeigt sich, dass reiche gesellschaftliche Schichten weit mehr vom Fortschritt profitieren als ärmere Gruppen. Nehmen Sie die Zukunft der Arbeit: Hier geht es nicht um die Frage, ob Roboter uns Menschen komplett ersetzen. Es reicht schon, wenn ein Teil der arbeitenden Menschen ersetzt wird. Und die spannende Frage ist, ob Deutschland noch stabil bleibt, bei zehn, bei 15 oder bei 20 Prozent Arbeitslosigkeit. Bei allen positiven Chancen, die der Fortschritt uns gibt, gilt es diese Entwicklung stabil zu gestalten. Wenn eine Gesellschaft auseinanderbricht, entsteht Chaos.

Wie ist Ihre Vision der Welt von 2030?

RANGA YOGESHWAR: Sie wird an einigen Stellen deutlich anders sein als heute. Vor zwölf Jahren gab es noch keine Smartphones. Und was diese schon alles an Prozessen, an Berufsbildern verändert haben, ist immens. Fortschritt ist ein beschleunigter Prozess. Die Veränderungen in den nächsten zwölf Jahren werden vermutlich größer sein als die Veränderungen der vergangenen. Insofern ist es sehr schwer, eine belastbare Prognose zu geben. Aber wir sollten zumindest festsetzen, dass es bestimmte elementare Grundsätze des Menschlichen gibt, an denen wir 2030 noch festhalten wollen.

Was meinen Sie?

RANGA YOGESHWAR: Schon alleine die Stellung des Menschen, die sich im Gegensatz zur Maschine durch eine liebenswerte Inkonsequenz auszeichnet. Menschen können verzeihen, Ausnahmen machen, können sich versöhnen. Natürlich auch all die nicht so schönen Facetten. Wir sollten uns immer wieder fragen: Was macht den Menschen aus? Was sind unsere inneren Ziele? Ökonomie ist nicht die einzige Triebfeder für Fortschritt.
Was sind die qualitativen Ziele unserer digitalisierten Welt? Wollen wir in erster Linie die reibungslose Sofortbefriedigung unserer Wünsche? Macht uns das glücklich? Oder verstehen wir, dass Glück auf Dauer vielleicht eher mit Beziehungen zu tun hat und nicht mit schneller Erfüllung von Konsumwünschen? Wir Menschen lieben das Miteinander. Wir fühlen uns wohl, wenn wir teilen, davon bin ich zutiefst überzeugt. Wir alle sollten erkennen, dass das Leben mehr ist als ein Businessmodell.

Welche Aufgabe haben dabei die Religionen?


RANGA YOGESHWAR: Alle Religionen haben immer einen dezidierten Kontrapunkt gesetzt zu dem rein ökonomischen Bestehen. Die einzige Stelle, wo Jesus Gewalt anwendet, ist, wo er die Händler aus dem Tempel treibt. Das ist schon ein klares Statement. Wir müssen als aufgeklärte und zivilisierte Gesellschaft begreifen, dass es in unserem Leben auch geschützte Räume geben muss, die nicht dem ökonomischen Diktat unterliegen. Dieses ist auch die Botschaft vieler Religionen.

Das Gespräch führten Kathrin Jütte und Reinhard Mawick am 16. Mai in Berlin.

Kommentar hinzufügen

* - Pflichtfeld

*



*
Keine Kommentare
 

Auch unterwegs

Zeitzeichen

für Smartphones

und Tablets

zeitzeichen auf facebook

zeitzeichen im sozialen Netzwerk - aktuelle Kommentare, wöchentlich neu.

Abonnement/ Probeheft

Abonnieren Sie das Magazin zeitzeichen, oder bestellen Sie kostenlos und unverbindlich ein Probeheft.

Hörausgabe

zeitzeichen erscheint im DAISY-Format für blinde und sehbehinderte Menschen. 

Exklusiv für unsere Abonnenten

10 % bei Einkäufen
im chrismonshop