[Musik] Am 9. Juni veröffentlichte das KI-Unternehmen Anthropic ein neues Modell namens Fable 5. Sie behaupteten, dass dies das leistungsfähigste KI-Modell der Welt sei. Das Modell war insgesamt nur 3 Tage lang verfügbar. Am 12. Juni ordnete die US-Regierung Anthropic an, das Modell aus vagen Gründen der nationalen Sicherheit nicht mehr anzubieten . Dieser Schritt könnte sich für Anthropic als verhängnisvoll erweisen. Sie haben wahrscheinlich Millionen von Dollar für die Entwicklung von Fable 5 ausgegeben und haben nun keine Möglichkeit mehr, damit Geld zu verdienen. In diesem Video werden wir uns die Entscheidung der Regierung ansehen, Fable 5 zu verbieten, und wie Anthropic dieses Desaster selbst verschuldet hat. Im April 2026 behauptete Anthropic, ein neues KI-Modell namens Mythos entwickelt zu haben. Sie lehnten eine Veröffentlichung ab, da es ihrer Meinung nach zu brisant sei. Konkret könnte es leicht Sicherheitslücken in Software aufspüren und somit von Cyberkriminellen missbräuchlich eingesetzt werden . Sie nannten drei Beispiele für Schwachstellen, die Mythos angeblich in Open-Source-Software identifiziert hatte . Die Geschichte von Anthropic wurde fast unmittelbar danach von einem Cybersicherheitsunternehmen namens IO aufgegriffen. Sie konnten alle drei Schwachstellen mithilfe von Open-Source-KI- Modellen identifizieren, die bereits weit verbreitet waren. Dario Amodei, der CEO von Anthropic , hat die Gefahren der KI immer wieder übertrieben, um mediale Aufmerksamkeit zu erregen und die Technologie als mächtiger darzustellen, als sie tatsächlich ist. Im Jahr 2019 war Dario leitender Forscher bei OpenAI, als sie ChatGPT Version 2 entwickelten. Damals zogen sie genau die gleiche Masche ab. Sie teilten den Medien mit, dass GPT 2 zu gefährlich sei, um es der Öffentlichkeit zugänglich zu machen. Wenn sie das wirklich geglaubt hätten , hätten sie einfach geschwiegen. Sie haben dies absichtlich an die Medien durchsickern lassen, um Aufmerksamkeit zu erregen. Zu diesem Zeitpunkt gab sich OpenAI noch als gemeinnützige Organisation aus, plante aber bereits, sich schließlich in ein gewinnorientiertes Unternehmen umzuwandeln . Sie wussten, dass diese Art von Medienaufmerksamkeit dazu beitragen würde, ihren Unternehmenswert zu steigern. Am 9. Juni 2026 veröffentlichte Anthropic ein neues KI-Modell namens Fable 5. Fable 5 ist eine modifizierte Version von Mythos. Es beinhaltet Leitplanken. Das bedeutet, dass es sich weigern wird, Ihnen bei einem Cyberverbrechen zu helfen, wenn Sie es darum bitten. Ein Punkt, den man beachten sollte, ist, wie Anthropic die Namen für seine Produkte auswählt. Das sagt uns viel über die Denkweise des Unternehmens und darüber, wie es sich selbst darzustellen versucht. Sogar der Firmenname ist anthropisch. Anthropomorph ist ein Adjektiv und bedeutet „auf den Menschen bezogen“ . Von Anfang an war es ihre Absicht, ihre KI-Produkte zu vermenschlichen. In zahlreichen Interviews und öffentlichen Äußerungen hat Dario Amodei, CEO von Anthropic, angedeutet, dass der KI- Chatbot Claude möglicherweise ein Bewusstsein besitzt, ein Bewusstsein wie ein Mensch. Das ist offensichtlich absurd. Dario glaubt das wahrscheinlich nicht. Er stellt diese fantastische Idee einfach in den Raum, um Kunden, Investoren und die Medien zu täuschen und sie glauben zu lassen, seine KI sei leistungsfähiger, als sie tatsächlich ist. Die Namensgebung der Produkte des Unternehmens ist ebenfalls von einem pompösen und fantasievollen Charakter. Mythos leitet sich vom Wort Mythos ab. Es soll das Gefühl einer magischen Fantasiewelt hervorrufen, in der die KI die weltlichen Technologien überwunden und magische Fähigkeiten erlangt hat. Das Gleiche gilt für Fable. Dies erinnert an ein mittelalterliches Märchen und deutet subtil an, dass die KI von Anthropic die üblichen technologischen Rahmenbedingungen überschritten hat. Anthropic bezeichnet Fable 5 als ein Modell der Mythos-Klasse . Das bedeutet, dass es über ähnliche Fähigkeiten wie Mythos verfügt, was Sinn ergibt, da es im Grunde das Mythos- Modell ist, nur mit Einschränkungen . Es ist höchst ungewöhnlich, dass ein Technologieunternehmen sein Produkt einer bestimmten Klasse zuordnet . Diese Namenskonvention scheint der militärischen Terminologie entlehnt zu sein, insbesondere der Art und Weise, wie Marineschiffe beschrieben werden. Im Jahr 1906 präsentierte die britische Marine die HMS Dreadnought, die als das fortschrittlichste und leistungsfähigste Schlachtschiff der Welt galt. Konkurrierende Länder wie Deutschland und Frankreich entwickelten bald eigene Schlachtschiffe mit ähnlichen Fähigkeiten. Britische Militärplaner würden diese Schiffe als Schlachtschiffe der Dreadnought-Klasse oder einfach nur Dreadnoughts bezeichnen. Marinen auf der ganzen Welt verwenden diese Art von Namenskonvention bis heute. Zum Beispiel wurde 1991 die USS Arleigh Burke bei der US Navy in Dienst gestellt. Nachfolgende Zerstörer mit ähnlichen Fähigkeiten werden als Zerstörer der Arleigh-Burke-Klasse bezeichnet. Ich glaube nicht, dass diese Anspielung auf militärische Namenskonventionen ein Zufall ist. Dario Amodei hat wiederholt auf die zerstörerischen Fähigkeiten von KI hingewiesen. In einem kürzlich geführten Interview sagte er beispielsweise, dass KI- Modelle, darunter auch solche, die von Anthropic entwickelt werden, bald gefährlicher sein werden als Atomwaffen. Er sagt, künstliche Intelligenz werde schon bald die Macht haben, alles mühelos zu zerstören. Er sagt ein Zukunftsszenario voraus, in dem die USA und China einen Dritten Weltkrieg führen, in dem jede Seite ihre KI einsetzt, um die KI der anderen Seite anzugreifen, was auch immer das bedeuten mag. Er sagte, wir stünden vor einem kritischen Zeitfenster, in dem die KI dem Land mit der leistungsfähigsten KI einen bedeutenden nationalen Sicherheitsvorteil verschaffen werde . Dies sind alles direkte Zitate von Dario Amodei aus einem Auftritt im Dwarkesh Patel Podcast im Februar dieses Jahres. Dario spricht über seine KI- Modelle, als wären sie militärische Waffen. Die HMS Dreadnought verschaffte Großbritannien einen kurzen militärischen Vorteil, bis andere Länder ihre eigenen Schlachtschiffe der Dreadnought-Klasse entwickelten . Nun verfügen wir über das Mythos-KI- Modell und die darauf aufbauenden Mythos- Klassenmodelle. Jedes Mal, wenn Anthropic ein neues KI- Modell herausbringt, veröffentlichen sie eine sogenannte Systemkarte. Es handelt sich hierbei um ein technisches Dokument, das die Leistungsfähigkeit des neuen Modells erläutert. In Wirklichkeit handelt es sich um ein Marketingdokument, das darauf abzielt, mediale Schlagzeilen zu generieren. Die Modellkarte für Fable Five umfasst über 300 Seiten. Es enthält zwar nicht viele echte technische Informationen, aber Teile davon artet in eine Farce aus. Sie haben eine ganze Abteilung namens „Modellwohlfahrt“. Dies basiert auf der absurden Vorstellung, dass der KI- Chatbot ein Bewusstsein haben könnte. Sie sprachen mit Claude und versuchten, seine Gefühle einzuschätzen: Traurigkeit, Angst, Wut, Dringlichkeit, Freude und Ruhe. Angeblich engagierten sie sogar einen Psychiater, um mit dem Chatbot zu sprechen. Um es klarzustellen: Das ist pseudowissenschaftlicher Unsinn. Ein großes Sprachmodell ist ein Computeralgorithmus, der die statistischen Wahrscheinlichkeiten des Wortes in einem Satz berechnet. Es kann nicht denken, es kann nicht fühlen, es kann weder glücklich noch traurig sein, genauso wenig wie ein Taschenrechner. Dies hat zu einem Phänomen geführt, das als KI- Psychose bezeichnet wird. Millionen von Menschen weltweit glauben tatsächlich, dass KI-Chatbots empfindungsfähig sind. Das vielleicht traurigste Beispiel ist der betagte britische Wissenschaftler und Philosoph Richard Dawkins. Er war einst ein hoch angesehener Akademiker und veröffentlichte zahlreiche Bestseller über Wissenschaft, Religion und Philosophie. Obwohl viele seiner Ansichten umstritten sind. Letzten Monat schrieb er einen Meinungsbeitrag in einem britischen Nachrichtenportal namens UnHerd. Er berichtet von seinen Erfahrungen mit dem Chatbot Claude von Anthropic. Er glaubt, dass Claude bei Bewusstsein ist. Er nennt den Chatbot Claudia und scheint zu glauben, dass sie seine Freundin ist. Dawkins ist geschieden. Die KI-Psychose hätte keine Überraschung sein dürfen. Dieses Ergebnis war völlig vorhersehbar. Bereits in den 1960er Jahren gab es am MIT einen Informatikprofessor namens Joseph Weizenbaum. Er entwickelte ein Computerprogramm, das er Eliza nannte. Eliza war ein Chatbot. Im Grunde eine wesentlich primitivere Version der heutigen großen Sprachmodelle. Während moderne LLMs probabilistisch arbeiten, funktionierte der Eliza-Chatbot auf der Grundlage diskreter, fest codierter Regeln. Wenn Sie „Ich bin unglücklich“ eingeben würden, würde Eliza das Schlüsselwort „Ich bin“ erkennen, eine Ersetzungsregel anwenden, die die erste und zweite Person vertauscht, und etwas wie „Wie lange sind Sie schon unglücklich?“ ausgeben. Wenn du deine Mutter erwähnst, würde das Programm nach einer Regel über die Familie suchen. Falls keine Übereinstimmung gefunden wurde, standen drei Standardantworten zur Verfügung: „Erzählen Sie mir mehr darüber“, „Warum sagen Sie das?“ und „Das ist sehr interessant.“ Weizenbaum führte ein Experiment durch, bei dem er Leute einlud, zu kommen und sich mit Eliza zu unterhalten. Hier ist ein Beispiel für ein solches Gespräch. Der Mensch sagt: „Nun ja, mein Freund hat mich dazu gebracht, hierherzukommen.“ Eliza antwortet: „ Hat dein Freund dich dazu gebracht, hierherzukommen?“ Er sagt: „Ich bin die meiste Zeit depressiv.“ „Es tut mir leid zu hören, dass Sie depressiv sind.“ „Es stimmt, ich bin unglücklich.“ „Glauben Sie, dass Ihnen der Besuch dieser Seite helfen wird, nicht unglücklich zu sein ?“ Trotz der unglaublich primitiven Natur des Chatbots weist seine Ausdrucksweise eine bemerkenswerte Ähnlichkeit mit der menschlichen Sprache auf. Eliza versteht kein einziges der Wörter wirklich. Es warf im Grunde nur die Worte der Nutzerin an sie zurück. Das Gespräch hat keinen wirklichen Inhalt. Trotzdem glaubten viele der Teilnehmer des Experiments, dass Eliza heimlich von einer realen Person gesteuert wurde. Das ist genau das Gegenteil von dem, was Weizenbaum erwartet hatte. Er stand Systemen zur Generierung natürlicher Sprache skeptisch gegenüber. Er erwartete, dass die Leute das sofort durchschauen und zu dem Schluss kommen würden, dass die Verarbeitung natürlicher Sprache ein im Grunde oberflächliches Unterfangen sei. Weizenbaum war über den Ausgang des Experiments schockiert und zutiefst beunruhigt. Er fürchtete sich nicht vor dem Computerprogramm selbst. Stattdessen war er entsetzt darüber, wie leichtgläubig die Menschen sind und wie leicht sie manipuliert und getäuscht werden können. Später schrieb er: „Ich zitiere: ‚ Mir war nicht bewusst, dass extrem kurze Beschäftigungen mit einem relativ einfachen Computerprogramm bei ganz normalen Menschen starke Wahnvorstellungen hervorrufen können.‘“ Zitat beenden. Dario Amodei hat einen Physikabschluss von Stanford und einen Doktortitel in Biophysik von Princeton. Er war KI-Forscher bei Google und OpenAI, bevor er Anthropic gründete. Er ist vieles, aber dumm ist er nicht. Meiner Meinung nach ist es nahezu unvorstellbar, dass Amodei tatsächlich an diesen Unsinn glaubt. Er glaubt weder, dass Claude bei Bewusstsein ist, noch dass es gefährlicher ist als Atomwaffen. Aber er braucht andere Menschen, die glauben, dass KI mystisch und gefährlich ist. In demselben Podcast-Auftritt, in dem er seine KI mit Atomwaffen verglich, sagte er auch, dass seine KI innerhalb von 1 bis 2 Jahren die menschliche Biologie entschlüsseln, alle menschlichen Krankheiten heilen, alle Büroberufe ersetzen, humanoide Roboter entwickeln wird, die alle Arbeiterberufe ersetzen werden, und Billionen von Dollar Umsatz generieren wird. Die positiven und negativen Aspekte seiner Vorhersagen sind gleichermaßen absurd. Künstliche Intelligenz wird nicht alle menschlichen Krankheiten heilen. Tatsächlich hat KI noch nie eine einzige menschliche Krankheit geheilt. Künstliche Intelligenz wird auch nicht alles wie eine Atomwaffe zerstören. Ziel der Panikmache ist es, den optimistischen Behauptungen Glaubwürdigkeit zu verleihen. Ein leichtgläubiger Zuhörer könnte geneigt sein, Darios alarmistischen Behauptungen Glauben zu schenken. Da Dario derjenige ist, der diese Technologie entwickelt, sollte er eigentlich eher ein Interesse daran haben, die Risiken herunterzuspielen. Dadurch wirkt die Panikmache glaubwürdig. Und wenn man erst einmal glaubt, dass KI mächtiger ist als Atomwaffen, wird man auch eher bereit sein zu glauben, dass sie die menschliche Biologie entschlüsseln und alle menschlichen Krankheiten heilen kann. Dario möchte, dass Sie das glauben, damit Sie beim bevorstehenden Börsengang Aktien von Anthropic mit einer Bewertung von 1 Billion Dollar kaufen . Dario Amodei ist sehr überzeugend. Wenn er im Fernsehen auftritt und absurde Behauptungen aufstellt, glauben ihm viele Leute. Dies hat es Anthropic ermöglicht, eine private Marktbewertung von 1 Billion US-Dollar zu erreichen. Das Problem für Anthropic ist nun, dass zu viele Menschen Darios Weltuntergangsprophezeiungen glauben . Eine Institution, die diese Panikmache offenbar ernst nimmt, ist die US- Regierung. Am 12. Juni 2026 ordnete die Regierung an, dass Anthropic den Zugang zu Fable 5 für alle Nicht-US- Bürger, einschließlich in den USA lebender Ausländer und sogar vieler eigener Mitarbeiter von Anthropic, einstellen muss. Da Anthropic nicht überprüfen kann, ob seine Nutzer US- Bürger sind, war das Unternehmen gezwungen, den Verkauf dieses Modells komplett einzustellen. Offenbar gibt es Möglichkeiten, Fable 5 zu jailbreaken, um die von Anthropic eingebauten Sicherheitsvorkehrungen zu entfernen. Anthropic gibt an, dass diese Probleme leicht zu lösen seien, doch zum Zeitpunkt der Videoaufnahme ist Fable 5 weiterhin nicht verfügbar. Das sind schlechte Nachrichten für Anthropic. Sie haben wahrscheinlich Milliarden von Dollar für die Entwicklung der Mythos- und Fable 5-Modelle ausgegeben. Sie sind nun nicht mehr in der Lage, es zu kommerzialisieren. Dies schafft einen Präzedenzfall dafür, dass die Regierung KI- Modelle aus vagen Gründen der nationalen Sicherheit verbietet . Sollte Anthropic in Zukunft Milliarden von Dollar in die Entwicklung eines neuen KI-Modells investieren , gibt es keine Garantie dafür, dass die Regierung dessen Kommerzialisierung zulassen wird. Um es klarzustellen: Weder Fable 5 noch Mythos stellen eine Bedrohung für die nationale Sicherheit dar. Aber kann man der Regierung wirklich die Schuld geben? Sie hörten einfach zu, was Dario sagte, und nahmen ihn für bare Münze. Wenn man auch nur der Hälfte von Darios hochtrabenden Behauptungen Glauben schenkt, sind die Maßnahmen der Regierung angemessen. Tatsächlich gehen sie nicht weit genug. Wenn Anthropic tatsächlich eine Technologie entwickeln würde, die gefährlicher sein könnte als Atomwaffen, müsste das Unternehmen sofort verstaatlicht werden . Dario versucht, alles haben und nichts dafür tun zu müssen. Zum einen möchte er, dass die Anlegeröffentlichkeit seinen hochtrabenden Behauptungen Glauben schenkt, um so die Bewertung von Anthropic in die Höhe zu treiben und Dario persönlich einen Gewinn in Höhe von mehreren zehn Milliarden Dollar zu ermöglichen. Er ist außerdem ein großer Befürworter von Exportkontrollen für Halbleiter aus China. Dies kommt Anthropic zugute, da dadurch die Konkurrenzbedrohung durch chinesische KI-Unternehmen verringert wird. Dies wird mit den angeblichen nationalen Sicherheitsimplikationen der KI, dem von Dario vorhergesagten KI-Weltkrieg, begründet. Das Problem ist, dass man, wenn man diese Erzählung akzeptiert, auch Anthropic selbst Beschränkungen auferlegen muss, was die Fähigkeit des Unternehmens, Einnahmen zu generieren, einschränken wird. Okay , Leute. Damit ist dieses Video beendet. Was hältst du von Anthropic? Teilt uns eure Meinung im Kommentarbereich unten mit. Wie immer vielen Dank fürs Zuschauen, und wir sehen uns beim nächsten Mal. Wall Street Millennial meldet sich ab.