Showdown!: Ein besseres heute

Auto-Transcript für S&P- und NFSC-Einreichung

EP:66:12: „Ein besseres heute“

Willkommen bei Showdown, der Debattenshow, die sich auf die dringendsten Probleme des Imperiums konzentriert. Ich bin Ihre Moderatorin in der Mitte, Eria Quint. Später in der Show werden wir uns mit den jüngsten gewalttätigen Zusammenstößen zwischen Privatpersonen auf Yela und Crusader Security befassen und fragen, ob die Unternehmenspolizei zu weit gegangen ist oder ob sie sich endlich verstärkt, um ein Problem anzugehen, das viel zu lange ignoriert wurde.

Aber erstens ist es ein Jahr her, seit Laylani Addison Imperatorin des United Empire of Earth wurde, und nicht alle ihre Unterstützer sind mit den bisher erzielten Fortschritten zufrieden. Trotz ihres Wahlkampfversprechens, für mehr Mittel für die Forschung im Bereich der künstlichen Intelligenz zu sorgen, hat sie bisher keine konkreten Maßnahmen ergriffen. Ihr kürzlich vorgeschlagenes Gesetz, des ein Besseres heute Gesetzes, wird viele der bestehenden Beschränkungen gegen die KI-Forschung schwächen und ihr die Tür öffnen, um staatliche Mittel zu erhalten. Einige feiern das neue Gesetz, andere sind sich nicht sicher, ob es eine gute – oder sichere – Idee ist.

Ich bin hier mit Yuna Glidewell, Ingenieurin und Verfechterin künstlicher Intelligenz, und Mahir Lemond, Autor des Buches 2044: Der Lemming-Zwischenfall.

YUNA GLIDEWELL: Hallo Eria. Toll, hier zu sein.

MAHIR LEMOND: Hallo.

Wie stehst du zu Addisons Vorschlag? Ich fange mit dir an, Yuna.

YUNA GLIDEWELL: Ich meine, natürlich bin ich mehr als aufgeregt. Es ist so lange her, seit Addison ihr Amt antrat, so dass meine Kollegen und ich allmählich die Hoffnung verloren. Wir dachten, sie hätte vergessen, dass sie die Wahl dank ihres Versprechens für eine bessere Zukunft gewonnen hat.

Ein „helleres Morgen“? Können Sie das näher erläutern?

YUNA GLIDEWELL: Zu lange hat die Menschheit dank unserer irrationalen Angst vor künstlicher Intelligenz ihren eigenen Fortschritt behindert. Es ist Jahrhunderte her, dass wir in der KI-Forschung nennenswerte Fortschritte machen durften, und meiner Meinung nach sind wir in der Technik mindestens ein Jahrhundert hinter den Xi’An zurück.

Hat das Xi’an-Imperium echte künstliche Intelligenz entwickelt? Wenn ja, ist mir das neu.

YUNA GLIDEWELL: [ lacht ] Nun, nicht dass wir wüssten. Aber deshalb ist es so wichtig, dass wir es zuerst angehen. Wenn wir etwas schaffen, was selbst die Xi’An noch nicht haben, können wir große Fortschritte beim erschließen der Technologielücke machen.

Was ist mit dir, Mahir? Begeistert oder beunruhigt Sie das bessere heute Gesetz?

MAHIR LEMOND: Es macht mir große Sorgen. Wir haben vor langer Zeit entschieden, dass KI das Risiko nicht wert ist, und das aus sehr guten, ausführlich dokumentierten und vor allem tödlichen Gründen. Dies geht weit über die Katastrophe von Tokyo Lemming Car im Jahr 2044 hinaus, die 12.456 Tote und unzählige Verletzte forderte. Jedes Mal, wenn wir KIs gemacht haben, sind wir schlechter weggekommen. Die Mars-Tragödie im Jahr 2125, die Explosion des Cerita-Turms im Jahr 2298, der Horus-Zwischenfall im Jahr 2696: alles verursacht durch gut gemeinte, aber letztendlich gefährliche Experimente mit KI.

YUNA GLIDEWELL: Das waren alles schreckliche Tragödien; Ich werde dem nicht widersprechen. Aber frühe Technologie hat immer Probleme, die in nachfolgenden Generationen ausgearbeitet werden.

MAHIR LEMOND: Der Verlust von Menschenleben ist ein bisschen ernster als ein „Problem“, Ms. Glidewell.

YUNA GLIDEWELL: Und wie ich schon sagte, es waren Tragödien. Solche, die wir vermeiden können, wenn wir aufhören, Angst vor dem Fortschritt zu haben. Heute sind wir in der Lage, Sicherheitsvorkehrungen zu treffen, die sich unsere Vorfahren nicht hätten vorstellen können. Glauben Sie mir, niemand denkt mehr über die möglichen Folgen einer schlecht gemachten und verwalteten künstlichen Intelligenz nach als die Menschen, die sie erforschen.

MAHIR LEMOND: Ich denke gerne, dass die Menschheit gut vorankommt. Schauen Sie sich den Einfluss an, den die Regenerationstechnologie hatte. Wie ist das kein Fortschritt?

YUNA GLIDEWELL: Natürlich meine ich nicht, dass wir absolut nirgendwo hingehen. Aber während es Fortschritte gibt, geht der allgemeine Trend dahin, dass wir langsamer werden. Sie müssen zugeben, dass es seltsam ist, dass wir seit Hunderten von Jahren dieselben Modelle von Raumfahrzeugen fliegen, während in den frühen Tagen der Raumfahrt neue Schiffsmodelle in rasender Geschwindigkeit auf den Markt kamen. Ich meine, komm schon, mein Sohn fliegt ein Schiff, das 2874 gebaut wurde.

MAHIR LEMOND: Ja, ich gebe zu, dass es sich in manchen Bereichen anfühlt, als gäbe es eine Flaute. Aber so funktioniert Fortschritt. Wenn Sie sich die Geschichte der Menschheit ansehen, gab es Perioden rascher Veränderungen, Perioden des „Business as usual“ und Perioden des Niedergangs. Einige Technologien können erst lange nach ihrer Entdeckung vollständig genutzt werden. Schauen Sie sich die Dampfkraft an: Sie wurde im 1. Jahrhundert von alter Völker geschaffen, konnte aber aufgrund fehlender Ressourcen erst im 17. Jahrhundert vollständig realisiert werden. Schauen Sie sich in diesem Zusammenhang Wasserschiffe an, deren Design nicht mehr sinnvoll aktualisiert werden musste, seit Menschen überhaupt auf Luna gelandet sind. Warum etwas reparieren, das nicht kaputt ist?

YUNA GLIDEWELL: Warum sich mit dem zufrieden geben, was man hat, wenn man etwas bekommen kann, das besser funktioniert? Wie Sie sagten, gibt es Perioden mit wenig bis keiner Veränderung und dann Perioden explosiver Veränderungen, wenn eine neue Ressource entdeckt wird. KI hat das Potenzial, diese Ressource für uns zu sein. Egal zu wie viel Kreativität und Einsicht Menschen fähig sind, unser Verstand ist begrenzted. Eine mit anderen KIs vernetzte KI wird übermenschliche Fähigkeiten haben. Stellen Sie sich vor, wie die Zukunft des Raumfahrzeugdesigns aussehen könnte, wenn wir auch nur ein paar KIs einsetzen würden, um ein besseres Schiff zu bauen.

MAHIR LEMOND: Wir haben bereits komplexe Algorithmen und leistungsstarke Technologien für maschinelles Lernen, die genau das erreichen, was Sie beschreiben. Die Drohnen der nächsten Generation, die die Armee 1947 entwickelte, wurden ursprünglich von einem Computer entworfen, der mit Daten über Vogelskelette gefüttert wurde. Wir brauchen eindeutig keine künstliche Intelligenz, um neue Technologien zu entwickeln. Historische Beweise besagen das eindeutig-

YUNA GLIDEWELL: Nochmals, ich behaupte nicht, dass es kein Risiko gibt, was ich sage, ist-

MAHIR LEMOND: Ich bin noch nicht fertig. Die Beweise besagen, dass Menschen sterben, wenn KI beteiligt ist.

YUNA GLIDEWELL: Sie interpretieren mich absichtlich falsch. Ich habe mehrfach gesagt, dass wir die hypothetische Gefahr in Betracht gezogen haben und den Schutz von Menschenleben zu unserer obersten Priorität machen werden.

MAHIR LEMOND: Die Gefahr ist nicht hypothetisch und Sie wissen es. Es ist ihnen einfach egal.

Lassen Sie uns für einen Moment von der Frage der Menschenleben zurücktreten. Yuna, könnten Sie mir mehr über die Probleme erzählen, bei deren Lösung künstliche Intelligenz Ihrer Meinung nach helfen kann?

YUNA GLIDEWELL: Danke, Eria. Wenn wir KI haben, müssen Soldaten nicht in den Krieg ziehen. Todesfälle im Operationssaal werden drastisch zurückgehen. Verkehrsunfälle gehören der Vergangenheit an. Schiffe werden in der Lage sein, wirklich selbst zu fliegen. Ich könnte weitermachen, aber das ist die Zukunft, der wir uns verweigern. Es ist nur unerreichbar, weil wir Angst haben, die nächsten Schritte zu gehen. Das bessere tag Gesetz ist der sanfte Anstoß, den wir brauchen, um uns aus dem Startblock zu holen.

MAHIR LEMOND: In Ordnung. Vergessen wir die Vergangenheit und stellen wir uns für eine Sekunde vor, dass es für eine fehlerhafte oder schurkische KI keine Möglichkeit gibt, Menschen zu ermorden. Sie haben gerade eine Welt beschrieben, in der die Opfer von Krieg, frühem Tod und Armut alle ausgerottet oder so nahe wie möglich an der Ausrottung sind. Ist das richtig?

YUNA GLIDEWELL: Nicht ganz. Aber die Dinge haben definitiv das Potenzial, viel, viel besser zu werden.

MAHIR LEMOND: Und der beste Weg, dies zu tun, ist, denkende und fühlende Sklaven zu erschaffen, die unsere Probleme für uns lösen werden?

YUNA GLIDEWELL: Entschuldigung?

Bevor wir diese Frage beantworten, müssen wir eine kurze Werbepause einlegen. Wir werden bald zurück sein, um die faszinierende Diskussion von Mahir Lemond und Yuna Glidewell abzuschließen. Dann tauchen wir in die Situation auf Yela ein. Kann Crusader Security auf einem Mond, auf dem es nicht das geringste gibt, wirklich für Ordnung sorgen? Bleibt dran.

ÜBERTRAGUNG BEENDENT