Showdown!: KI Piloten

Automatisches Transkript für S&P- und NFSC-Einreichung

EP: 54:16: „Leitendes Licht“

ERIA QUINT: Hallo und willkommen zu einer weiteren dynamischen Episode von ShowDown! Ich bin Ihre Gastgeberin, Eria Quint. Am 12. April dieses Jahres gab das Bergbau- und Schifffahrtskonsortium ArcCorp bekannt, dass es sein erstes KI-gesteuertes Frachtschiff auf der berüchtigten Erde-Pinecone-Fahrt im Feld testen wird. Die öffentliche Reaktion auf die Nachrichten war bestenfalls gemischt. Einige loben dies als natürlichen, nächsten Schritt in der Flugmechanik, während andere das Unternehmen dafür verurteilen, dass es in wirtschaftlich schwierigen Zeiten Tausende ihrer Arbeitsplätze beraubt.

Wir haben zwei ganz besondere Gäste, die sich uns anschließen, um diese Debatte zu führen. Der erste ist der Moderator der sehr beliebten Schifffahrtssendung Clean Shot, Mr. Craig Burton.

CRAIG BURTON: Hallo.

ERIA QUINT: Der zweite ist Dr. Yusef Phan, Chief Programming Executive bei BabbageCorp und einer der Architekten des Avioniksystems, das letztendlich als Teil des proprietären KI-Flugsystems von ArcCorp verwendet wurde. Willkommen, Herr Doktor.

DR. YUSEF PHAN: Ich bin froh, hier zu sein. Danke für die Einladung.

ERIA QUINT: Craig, seit der Ankündigung von ArcCorp stehen Sie dem gesamten Konzept ziemlich kritisch gegenüber.

CRAIG BURTON: Das ist wohl eine höfliche Art, es auszudrücken.

ERIA QUINT: Wie würden Sie es sagen?

CRAIG BURTON: Ich denke, es ist eine Travestie gegenüber den guten Männern und Frauen, die beim Transport von Waren ihr Leben riskieren.

DR. YUSEF PHAN: Ich denke, dieses System würde genau das adressieren. Rette sie davor, ihr Leben zu riskieren. Es ist gefährlich da draußen.

CRAIG BURTON: Verdammt richtig. Der Punkt ist, kein verdammtes System wird jemals so gut sein wie ein erfahrener Pilot.

DR. YUSEF PHAN: Anfangs vielleicht, aber das sind adaptive Programme, die lernen und wachsen können, während sie weiterhin Missionen fliegen.

CRAIG BURTON: Sagen Sie mir etwas, denken Sie, es wird jemals sagen können, wann es in einen Hinterhalt geraten ist?

DR. YUSEF PHAN: Ich bin sicher, ein Schiff zu scannen, um zu sehen, dass Waffen und Schilde aktiviert werden, ist ein ziemlich guter Hinweis auf böswillige Absichten.

CRAIG BURTON: Ja, woher soll es wissen, dass die böswillige Absicht auf es oder eine andere Bedrohung gerichtet ist?

DR. YUSEF PHAN: Ich weiß es nicht. Sie präsentieren eine hypothetische Situation, deren Parameter Sie allein kennen.

CRAIG BURTON: Mein Daddy hat mir immer gesagt: "Sohn, es ist leicht, klug zu sein, es ist nicht leicht, weise zu sein." Der Punkt ist, dass Sie einen Computer bitten, eine Entscheidung zu treffen. Jetzt ist es mir egal, wie schlau es wird, es wird immer noch Entscheidungen nach Logik treffen, und ich denke, wir alle wissen, dass die Leute nicht so logisch sind.

DR. YUSEF PHAN: Folgendes weiß ich. ArcCorp meldete im letzten Zyklus über 300 Millionen Credits an Verlusten aufgrund menschlicher Fehler und Entschädigungszahlungen an die Familien von Piloten, die bei Piraten- und Vanduul-Angriffen verloren gingen.

CRAIG BURTON: Meine Güte, bist du sicher, dass du nicht wirklich ein Mitglied des Marketingteams von ArcCorp bist?

DR. YUSEF PHAN: Wenn man das Geld im Moment beiseite lässt, würde ich denken, dass es die Unannehmlichkeiten der Arbeitssuche wert sein könnte, das Leben Ihrer Mitversender zu retten.

CRAIG BURTON: Versuchen Sie nicht, es zu verdrehen. Mir bricht jedes Mal das Herz, wenn ich höre, dass ein Transporter während einer Flucht in die Luft gesprengt wird, aber wir haben uns alle für den Job angemeldet. Niemand hat uns jemals die Risiken erspart. Wir haben sie gelassen, wie wir alles andere tun. Der Punkt ist, Ihr Programm nimmt uns die Möglichkeit, für unsere Familien zu sorgen.

ERIA QUINT: Ich glaube nicht, dass die Möglichkeit, das Leben von Piloten auf Transportrouten durch gefährliche Welträume zu retten, jemandem widerspricht, aber lassen Sie uns einen Moment über die finanziellen Auswirkungen sprechen.

CRAIG BURTON: Das Herzblut des Unternehmens, meinst du.

ERIA QUINT: Um seine Perspektive zu diesem Thema darzulegen, gesellen sich Wirtschaftsanalyst Ryu Tarkovsky zu uns.

RYU TARKOWSKY: Hallo.

ERIA QUINT: Reden wir also über die Kosten. Sie haben eine ziemlich umfassende Analyse der möglichen Kostenrisiken und Vorteile der Einführung einer Flotte von KI-gesteuerten Frachtführern angeboten.

CRAIG BURTON: Es gibt ein schreckliches Bild.

RYU TARKOVSKY: Ja, Eria, das stimmt.

ERIA QUINT: Was haben Sie entdeckt?

RYU TARKOVSKY: Die Menschheit hatte immer eine Abneigung gegen die Vorstellung von KI. Besonders nach der katastrophalen Artemis-Expedition —

DR. YUSEF PHAN: Technisch wissen wir nicht, ob Janus tatsächlich dafür verantwortlich war.

RYU TARKOVSKY: Unabhängig davon scheint es der Öffentlichkeit theoretisch zu gefallen, aber die tatsächliche Anwendung scheint eine andere Sache zu sein. Anthropologen vermuten, dass es einen angeborenen Teil unseres Seins gibt, der kontrolliert werden muss. Daher sind Flugcomputer so konzipiert, dass sie den Piloten unterstützen und die komplexe Mathematik beherrschen, die zum Fliegen notwendig ist, anstatt die Steuerung dem System zu überlassen.

CRAIG BURTON: Es ist auch verdammt langweilig. Ich meine, warum willst du es nicht selbst fliegen, wenn du die Wahl hättest?

DR. YUSEF PHAN: Oh, ich weiß nicht, die Kraftstoffeffizienz maximieren, mit Reflexen arbeiten, die deutlich höher sind als Ihre eigenen …

ERIA QUINT: Meine Herren, bitte. Fahren Sie fort, Herr Tarkovsky.

RYU TARKOVSKY: Die erste Hürde wäre also, dass ihre Kunden das Konzept der KI im allgemeinen Gebrauch annehmen. Finanziell gesehen könnte es eine lohnende Investition in dielangfristig. Das erste Schiff ist anscheinend eine modifizierte Caterpillar, aber letztendlich könnten sie, wenn sie sich dafür entscheiden, die Credits auszugeben, einen brandneuen Schiffstyp entwerfen, der nicht mit lebenserhaltenden Funktionen im Hinterkopf entworfen werden muss, wodurch viele Systeme eliminiert und die Ladekapazität, wodurch das Geld pro Fahrt erhöht wird.

Leider wird diese Anfangsphase ihre teuerste sein. Wie Dr. Phan sagte, sind dies lernende Systeme. Jeder Systemingenieur, mit dem ich gesprochen habe, geht davon aus, dass ein kleiner Prozentsatz der Schiffe einige sehr kostspielige Unfälle verursachen wird, Unfälle, die leicht hätten vermieden werden können, wenn man einen menschlichen Piloten hat, der „die Umstände lesen“ könnte, wenn man so will.

Die Situation wird effektiv zu einem Finanzspiel von Dead Man's Bluff: Kann ArcCorp die finanzielle Belastung durch Unfälle und verlorene Fracht lange genug überstehen, damit die KI genug lernt, um diese Fehler zu stoppen?

DR. YUSEF PHAN: Wenn ich einwerfen darf, Herr Tarkovsky, Sie gehen davon aus, dass die KIs nicht in der Lage sein werden, voneinander zu lernen. Die Programme werden ständig Feeds ihrer Aktivitäten an Relaisstationen senden, die in einen zentralen Hub geleitet und dann an die Drohnenpiloten zurückgestrahlt werden. So lernen alle aus den Fehlern und Erfolgen des anderen.

CRAIG BURTON: Richtig, an guten Tagen ist der Comm-Verkehr nicht gerade zuverlässig …

DR. YUSEF PHAN: ArcCorp hat bereits angekündigt, menschliche Piloten als „Überwacher“ einzubeziehen, während das KI-System überprüft und gelernt wird. Ich denke, Ihre Bedenken sind ein wenig unbegründet, Mr. Burton.

CRAIG BURTON: Richtig, nun, das erste Mal, dass ein 200.000 kg schweres Tankschiff kopfüber in ein Orbital stürzt, weil es nicht das richtige Update bekommen hat, dass der Andockarm im Bau war, werden Sie sicher eine andere Melodie singen .

DR. YUSEF PHAN: Wenn Sie computergesteuerten Schiffen so misstrauen, Mr. Burton, warum überlassen Sie dann Ihrem eigenen Computer die Kontrolle über einen Sprungpunkt?

CRAIG BURTON: Das ist anders. Das ist nicht weiter als das Abspielen einer Aufnahme über die Schiffssteuerung, und das tun wir seit mehr als 1000 Jahren. Es ist also überhaupt keine KI-Sache.

DR. YUSEF PHAN: Es ist heuchlerisch.

ERIA QUINT: Wir machen eine kurze Pause. Wenn wir zurückkommen, werden wir die rechtlichen Auswirkungen von KI-gesteuerten Schiffen untersuchen. in der Vergangenheit haften Piloten teilweise für Schäden; Wäre es jetzt allein der Konzern oder wäre auch die KI-Programmierung zur Rechenschaft gezogen worden? Sie werden es nicht verpassen wollen. Laden Sie also Ihre Waffen nach und machen Sie sich bereit für einen weiteren ShowDown!

TRANSKRIPTPAUSE