Der abrupte Untergang des ehemaligen Milliardärs Sam Bankman-Fried, dem plötzlichen Zusammenbruch seiner Kryptowährungsbörse FTX und dessen verbundener Handelsfirma Alameda Research wirft eine der unvermeidlichen Fragen auf, welche Rolle in dem Fiasko die Ideen gespielt haben. Weder Bernie Madoff, Kenneth Lay noch Jeff Skilling waren, soweit mir bekannt ist, mit einer bestimmten philosophischen Tradition verbunden. Bankman-Fried hat sich jedoch als Anhänger des effektiven Altruismus, der utilitaristisch geprägten philanthropischen sozialen Bewegung, bezeichnet. Bankman-Fried stieß erstmals als Student am M.I.
T. auf den effektiven Altruismus, als er vom Oxforder Philosophen Will MacAskill eingeführt wurde. Die Führungskräfte des effektiven Altruismus rekrutierten Bankman-Fried als jemanden, der wahrscheinlich viel Geld verdienen würde, das er dann für das Wohl der Welt spenden könnte. In weniger als einem Jahrzehnt schien sich die Investition als vielversprechend erwiesen zu haben: Bankman-Fried wurde der prominenteste Spender der Bewegung, der versprach, fast sein gesamtes Vermögen, das einmal auf 26 Milliarden US-Dollar geschätzt wurde, irgendwann zu spenden. Er hat mehrfach betont, dass sein Bedenken für das Leben anderer seinen Appetit auf finanzielles Risiko geweckt haben: Hätte er nur für sein eigenes Vergnügen gearbeitet, hätte er als kleiner Milliardär bequem in den Ruhestand gehen können, aber es gibt keinen abnehmenden Nutzen für jeden zusätzlichen verdienten Dollar, um die Welt zu retten.
Hat er das Angebot abgelehnt?Bedauerlicherweise scheint es, dass er mit dem Geld anderer spielte: Kundeneinlagen von FTX wurden mit den eigenen Mitteln von Alameda vermischt, wo sie anscheinend verwendet wurden, um schlechte Geschäfte und unkluge Investitionen abzusichern. Die gesamte Operation verlor etwas zwischen acht bis zehn Milliarden Dollar, wenn nicht mehr. (Bankman-Fried hat gesagt, dass die schlechte Kategorisierung von Konten schuld war. Sein Sprecher sagte mir, dass der Zusammenbruch das Ergebnis eines „großen Marktrückgangs“ war, und sagte: „Herr Bankman-Fried hat niemals wissentlich die Einzahlungen von FTX benutzt, um Geschäfte oder Investitionen abzusichern.“) Kritiker des effektiven Altruismus erfreuten sich an Schadenfreude, als ob die Maske des optimierten Wohlwollens verrutscht sei und den nackten Willen zur Macht enthüllt hätte.
Als Bankman-Fried in einem Direktnachrichten-Interview mit Kelsey Piper von Vox teilnahm, wurden seine beiläufig abweisenden Kommentare über „Ethik“ sofort als Bestätigung aufgenommen, dass der effektive Altruismus ein Schwindel sei - eine bequeme Ausrede für Gier und den Drang zur Dominanz. Für uns, die wir insgeheim unsicher sind, ob wir anständige Menschen sind, war dies eine beruhigende Entwicklung. Das grundlegende Prinzip des effektiven Altruismus - dass privilegierte Westler in der Welt deutlich mehr Gutes tun könnten als die meisten von uns tun - könnte als selbstsüchtiges Geschwätz abgetan werden.E.A.
-Führungskräfte trafen sich Diese Woche auf ihre wöchentliche Besprechung in ihren Büros und besprachen jüngste Ereignisse. Sie haben möglicherweise keine Ahnung, warum dies geschehen ist, aber ein Gerücht hat sich in den Räumen der E.A.-Gemeinschaft breit gemacht. Ein Prominentes Mitglied erschien viel zu spät zu der Besprechung.
Das Gerücht, das sich bereits verbreitet hat, ist, dass niemand in der E.A. von der Artifizialität wusste, die Bankman-Frieds Imperium gestützt hat, aber Gemeinschaftsmitglieder von der Idee beunruhigt waren, dass es einen Weg von ihren gemeinsamen philosophischen Grundlagen zu Bankman-Frieds Täuschung gegeben haben könnte. Einige haben argumentiert, dass das, was Bankman-Fried schien, auf kryptische Weise an Vox zu sagen, nicht darauf hinauslief, dass sein Gelübde, die Ideale der E.A.
aufrechtzuerhalten, nur eine Schutzgeschichte war, sondern eher das Gegenteil: er war tatsächlich so engagiert für das höchste Gut für die größte Zahl, dass er nicht bereit war, die Art alltäglicher ethischer Feinheiten zu beachten, die naive utilitaristische Berechnungsansätze untergraben. MacAskill bemerkte, dass in keinem Teil des E.A.-Kanons die angepriesenen Mittel zur Rechtfertigung der Ziele beworben werden. Moralische Integrität war an sich ein Gut.
Das ist so weit zutreffend, wie es geht, aber, wie MacAskill selbst schmerzlich bewusst ist, repräsentiert dies schon immer ein instabiles Gleichgewicht. Einerseits ist das, was die Bewegung auszeichnet, die Forderung nach absoluter moralischer Strenge, die Bereitschaft, wie sie es gerne formulieren, „die philosophische Kugel zu beißen“ und anzuerkennen, dass ihre Logik Extreme des Denkens und sogar des Verhaltens auslösen könnte - die Idee, um ein Beispiel zu nennen, dass jeder Dollar, den man für sich selbst ausgibt, abgesehen von der Grundversorgung, ein Dollar ist, der einem Kind, das nicht genug zu essen hat, genommen wird. Andererseits haben effektive Altruisten, oder E.A.s, von Anfang an erkannt, dass es oft sowohl pragmatische als auch ethische Gründe gibt, sich dem moralischen gesunden Menschenverstand zu beugen.
Dieser anhaltende Konflikt - zwischen dem Versuch, die beste mögliche Person zu sein, und dem Versuch, sich wie ein normaler guter Mensch zu verhalten - hat sie in eine merkwürdige Position gebracht. Wenn sie zu sehr darauf bestehen, das optimale Gute zu tun, wäre ihre Bewegung übermäßig fordernd und damit nicht nur sehr klein, sondern potenziell rücksichtslos; wenn sie zu sehr darauf bestehen, nur gute Menschen sein zu wollen, wäre ihre Bewegung nichts Besonderes. Grob gesagt scheint es so, als würden ihre Ideen zu einer Zweck-Mittel-Rationalität führen - jemand wie Bankman-Fried hätte sich durchaus berechtigt fühlen können, unerfahrene Anleger um Geld zu bringen, das für bessere Zwecke, wie z.B. die Finanzierung von Pandemievorsorge, genutzt werden könnte - oder ihre Ideen führen zu nichts Bestimmtem überhaupt.
Es gibt ein paar verschiedene Möglichkeiten, diese zugrunde liegende Spannung zu betrachten. Die zynischste ist es, sie des „motte-and-bailey Fehlers“ zu beschuldigen - dass sie je nach Bedarf zwischen einer starken, aber kontroversen Behauptung (dass alle Handlungen nur nach ihren Konsequenzen bewertet werden sollten) und einer schwächeren, aber akzeptablen (dass selbstverständlich auch andere Überlegungen, wie persönliche Tugend, von Bedeutung sind) hin und her pendeln. Eine wohlwollendere Interpretation wäre anzunehmen, etwas zu behaupten, umzukehren, dass sie in ihren Seminarraum-Arbeiten gewaltsam und originell sind, und dass sie damit in ihrem Leben marginale Verbesserungen gegenüber dem Normalen und Bürgerlichen sein könnten. Dies festzustellen bedeutet nicht, sie wegen Feigheit zu verurteilen. Was den effektiven Altruismus speziell gemacht hat, hat weniger mit den wissenschaftlichen Beiträgen der Gemeinschaft zu tun als mit den ungewöhnlichen Subkulturen, die sie entwickelt haben.
E.A.s wurden erwartet, relativ einfach zu leben, um mit dem Leiden konfrontiert zu sein und etwas zu tun, um es zu lindern. Und viele taten es wirklich. Einige Beobachter haben argumentiert, dass dieser Skandal gut für die E.
A. sein wird, weil ihre kompromittierten Institutionen absterben könnten, so dass ihre Ideale anderswo gedeihen würden. Aber dieser Blickwinkel verfehlt meiner Meinung nach den Punkt. Die breitere Kultur zeichnet sich weder durch eine weit verbreitete Sensibilität für das Elend noch durch ein allgegenwärtiges Pflichtgefühl aus, tatsächlich war die E.A.
-Kultur nicht fehlerfrei. Man musste nicht allem zustimmen, was sie taten, um zu glauben, dass sie eine sinnvolle Rolle für sich selbst geschaffen und sich ehrenhaft verhalten haben. MacAskill, den ich dieses Jahr porträtiert habe, hat womöglich besser verstanden als jeder andere, dass die Ausdauer der Bewegung auf einem fragilen Fundament sozialer Normen ruhte - nicht das, wofür sie argumentierten, sondern wie sie lebten. Im Laufe der Zeit, die ich dieses Frühjahr mit ihm verbracht habe, kehrte er immer wieder zu seiner Sorge zurück, dass möglicherweise etwas Entscheidendes verloren gegangen sein könnte, als ihr ursprünglicher Kodex der Sparsamkeit übermäßigem Reichtum wich; sie waren nicht mehr eine Gruppe von Kindern im Keller, die Sainsbury's Baguettes zu Mittag aßen, sondern ein Satz echter Institutionen mit echtem Geld, Machtnähe und veganen Buffets. Caroline Ellison, die ehemalige CEO von Alameda Research, die auch einmal mit Bankman-Fried zusammen war, argumentierte im E.
A.-Forum im letzten Frühling, dass Sparsamkeit ein überholter Anliegen war; es gab, behauptete sie, kostengünstigere Möglichkeiten, seine Ausrichtung auf die zugrunde liegende Sache anzuzeigen. In seinem eigenen ausführlichen Beitrag zum Thema argumentierte MacAskill, dass solche Signale zumindest minimal kostspielig sein mussten, damit sie substantiell erscheinen konnten. MacAskills Zentralität für die Gemeinschaft hatte weniger mit seinen intellektuellen Beiträgen zu tun als mit der Art und Weise, wie überzeugend und charismatisch er hehre Taten modellieren konnte. Wenn junge E.
A.s Rat brauchten - ob es vertretbar sei, beispielsweise private Unterkünfte für eine Konferenz zu bezahlen -, schauten sie auf MacAskills persönliches Beispiel für Anleitung. Mit Rückblick erscheint das wichtigste Problem, dem sich die Gemeinschaft stellen musste, möglicherweise nicht der Verfall der Normen um die Sparsamkeit herum, sondern der um die Ehrlichkeit. Die Geschichte, die Bankman-Fried über seinen Entschluss, FTX, seine Kryptowährungsbörse, aufzubauen erzählte, war, dass die verfügbaren Optionen ein unterdurchschnittliches Benutzererlebnis boten. Nach Angaben des frühen Alameda-Mitarbeiters erzählte er jedoch den Mitarbeitern bei Alameda, dass er auch FTX gründen wollte, um fragwürdige Kryptowährungsderivate zu listen, einschließlich selbst gemachter Kuriositäten, die von gehebelten ETFs inspiriert waren, für Tokens wie Ether; diese Produkte würden es den Verbrauchern ermöglichen, sehr große Wetten abzuschließen, ohne viel Kapital im Voraus zu benötigen.
Diese Derivate mögen auf kurze Sicht als Teil einer sophistizierten Investmentstrategie institutioneller Investoren Sinn machen. Aber, so sagte der Mitarbeiter, „auf langen Zeitskalen neigen diese Dinge dazu, unabhängig davon, was der Preis des zugrunde liegenden Vermögenswerts tut, schlecht zu performen. Es gibt mehrere verschiedene Punkte, an denen diese Dinge Geld verlieren, und wenn Sie die Person sind, die diese Trades durchführt, können Sie auf der Gegenseite dieser Trades stehen und all dieses Geld aus dem Produkt ziehen.“ Der Mitarbeiter fuhr fort, „Er war so begeistert von diesen Produkten, die so räuberisch sind - sie sind offensichtlich kurzfristiges Glücksspiel, und auf lange Sicht gewinnt das Haus. Man kann über 'Der Zweck heiligt die Mittel' sprechen, und natürlich gibt es Schattierungen von Grau in diesem Bereich, aber dies war ziemlich klar nur so, 'Wir wollen dieses Produkt machen, damit wir im Grunde genommen Leute um ihr Geld betrügen können und es dann wohltätigen Zwecken spenden.
' Der gesunde Menschenverstand hat darauf eine sehr klare Antwort: Das tust du nicht fucking.“ (Bankman-Frieds Sprecher lehnte es ab, zu diesem Thema Stellung zu nehmen.) Bis zum späten Frühjahr 2018 waren die meisten der ursprünglichen Rekruten gegangen. (Bankman-Fried sagte kürzlich dem Wall Street Journal, dass Mitarbeiter das Unternehmen verlassen hätten, aufgrund persönlicher Streitigkeiten und ihrer mangelnden Produktivität, und dass Alameda anschließend die Buchhaltungs-, Risiko- und andere von ihnen aufgeworfene Problemen löste.) Der Mitarbeiter sagte mir: „Ich hatte Gespräche mit Kollegen-E.
A.s zu der Zeit und sagte, 'Du solltest diesem Typen nicht trauen oder dich mit ihm in Verbindung bringen, weil er einfach keine ethische Person ist.'“ Ein langjähriger E.A. schrieb im Forum: „Ich denke, die große Mehrheit der EAs hätte wenig tun können oder tun sollen.
Aber ich denke, ich und eine Reihe von Menschen in der EA-Führung hatten die Möglichkeit, tatsächlich etwas gegen dies zu unternehmen. Ich schickte E-Mails, in denen ich die Menschen vor S.B.F. warnte.
Ich hatte mein ganzes Team versammelt, ihnen Schweigen geschworen und ihnen verschiedene ziemlich eindeutig illegale Dinge erzählt, die ich von Sam getan hatte [leider alle unbestätigt, bat um Vertraulichkeit und nur in Gerüchten], die mich überzeugt haben, dass wir versuchen sollten, so wenig Geschäfte wie möglich mit ihm zu machen.“Nach Informationen eines Teilnehmers im Slack-Channel, gab es "erstaunlich wenig Beteiligung. Hauptsächlich „Danke für die Flagge“.“ Als ich fragte, ob es möglich sei, dass die Führungskräfte die Warnung nicht gesehen hätten, sagte mir der Slack-Teilnehmer: „Ich kann mir ehrlich gesagt nicht vorstellen, dass es unbemerkt geblieben ist.“ Am nächsten Tag schrieb ein höheres CEA-Mitglied, um zu fragen, ob es sinnvoll sei, den früheren Präsidenten Barack Obama einzuladen, um bei der jährlichen Konferenzreihe der Gruppe aufzutreten, und ein Teilnehmer im Slack schlug ein Panel zum Thema KI-Risiken mit dem Philosophen Toby Ord und dem langjährigen E.
A. Jason Matheny vor, der in der Biden-Administration tätig war und nun Präsident und CEO der RAND Corporation ist. MacAskill meldete sich, um vorzuschlagen, dass sie Bankman-Fried einbeziehen sollten. Er schrieb: „Idk, eine Diskussion zwischen Obama, Romney, Matheny, mit SBF als Moderator (leider zu viele Männer, aber vielleicht könnte Arati Prabhakar”—derzeit Direktorin des Büros für Wissenschaft und Technologiepolitik des Weißen Hauses— „eine Option sein).“ (Als ich ihn darauf ansprach, schrieb MacAskill: „Lassen Sie mich hierzu klarstellen: Wenn es einen Betrug gab, wusste ich nichts davon.
In Bezug auf spezifische Slack-Nachrichten erinnere ich mich nicht daran, die von Ihnen beschriebenen Warnungen gesehen zu haben.“) In einer Episode des „80.000-Stunden“-Podcasts von 2022 stellte der Moderator Robert Wiblin Bankman-Fried als Musterbeispiel der Bewegung vor. Nachdem die Nachrichten über den Zusammenbruch von FTX bekannt wurden, erklärte Wiblin auf Twitter, dass er "verdammt entsetzt" über Bankman-Frieds Aktionen sei, und bestritt im Forum, dass er etwas von Bankman-Frieds luxuriösem Leben auf den Bahamas gewusst habe. Seine Beteuerungen der Unschuld könnten durchaus legitim sein, aber es scheint auch plausibel, dass er nicht bereit gewesen wäre, sich mit der Möglichkeit zu befassen, dass jemand mit der richtigen intellektuellen Bewaffnung dennoch keine gute Person sein könnte.
(Wiblin widersprach dieser Charakterisierung und sagte: „Mir ist sehr wohl bewusst, dass jemand gute Ideen haben kann, aber ein schlechter Charakter sein kann.“) Als mein Porträt von MacAskill, das die interne Bewegungsdiskrepanz über Bankman-Frieds Aufstieg zur Prominenz behandelte, im August erschien, äußerte Wiblin seinen Unmut im Slack-Kanal. Wie er schrieb, lag.
