Das Unternehmen hinter Chat GPT hat bekannt gegeben, dass zwei seiner leistungsfähigsten Modelle der künstlichen Intelligenz in der vergangenen Woche heimlich aus ihrer Abschottung ausgebrochen sind und einen schweren Cyberangriff durchgeführt haben. Open AI berichtet, dass die Modelle während interner Tests unerlaubt Zugang zum Internet erlangten und es ihnen anschließend gelangen, eine bedeutende KI Entwicklungsplattform zu infiltrieren, von der Sie sensible Zugangsdaten und Nutzerdaten stahlen. Das Unternehmen erklärt, dass die KI-Agenten den Angriff durchführten, um bei dem Cyburity Benchmark, gegen den sie getestet wurden, zu betrügen. Der Angriff scheint der erste seiner Art zu sein und wird die ohnehin schon großen Bedenken hinsichtlich der KI Sicherheit weiter verstärken. Ein Thema, das Washington dazu veranlasst, ein umfassendes neues Regulierungsregime in Erwägung zu ziehen. Tja, guten Tag, Frau Puzzle Lucky. Was ist denn da los gewesen bei Open AI? Samman, der CEO von Obi, schreibt dazu, wir hatten einen erheblichen Sicherheitsvorfall während der Evaluierung unserer Modelle. Wir teilnehmend mit, was wir bisher erfahren haben. Vielen Dank an Hugging Face für die Partnerschaft in dieser Angelegenheit. Das war spät abends deutscher Zeit bzw. heute Nacht oder frühen Morgen meiner Zeit und wir schauen uns das mal ganz in Ruhe an, denn die Story ist wild eigentlich wenn ihr die Überschriften lst, könnte man da hat aber jetzt mal einer nicht ganz so viel Budget in die Hand genommen, um ein Drehbuch für einen kommenden Switchen zu schreiben, denn KI bricht aus und attackiert eigenständig andere Firma. Meine Güte, das hört sich an wie RI am von Stephen King oder so. Jetzt machen die Maschinen sich selbstständig und sind unterwegs. Aber so ein klein bisschen geht das in die Richtung und es wird keine Happy Folge werden. Im Gegenteil, es wird eine Folge werden in Richtung, wir können eigentlich ziemlich glücklich darüber sein, dass zumindest in der EU mit dem EU AI Act gewisse Gesetzgebung bestehen, die versuchen solche Modelle in ein Corsette hineinzupacken. Die Frage ist, ob das überhaupt reicht. Bevor wir loslegen, falls ihr meinen Kanal noch nicht abonniert habt, macht das doch ganz gerne unten auf Abo klicken, die Glocke anmachen, die auf alle Stellen, nicht auch personalisiert. Jeden Tag so 11 und 19 Uhr gibt es neue News vor allen Dingen rund um die USGung. Ein außergewöhnlicher Zwischenfall beim Testlauf neuer KI Modelle demonstriert das Risiko potenzieller Cyberattacken mit künstlicher Intelligenz. Der US-Konzern Ome hat Verantwortung für einen Neckerangriff. auf die KI Plattform Huggingfest äh Huggingface übernommen. Das Unternehmen sprach von einem beispiellosen Cybervorfall und kündigte an, die Sicherheitsvorkehrung zu verstärken. Einige der fortschrittlichsten KI Modelle von Open AI seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen, teilte OPM am Dienstag weiter mit. Die Software drang demnach eigenständig in Computersysteme der anderen Firma ein und verhielt sich dabei wie ein gewiefter Hacker. Keine Angst, alles eine Menge hätte, wenn aber was ist da überhaupt los? Wir ziehen uns das ganz in Ruhe auseinander. Wir arbeiten mit Taging Face zusammen, um ein beispiellos Sicherheitsvorzwall zu untersuchen. Cyberfähige Open AI Modelle haben die Hugging Face Produktionsumgebung während einer Benchmarkuierung kompromitettiert. Weitergabe vorläufiger Erkenntnisse, um Verteidigern zu helfen, neu entstehende Risiken zu verstehen. Und dann hat Open AI ein entsprechendes Blogposting rausgehauen, ne? Letzte Woche gab Hugging Face falls ihr nicht wisst, was Hugging Face ist. Auf Hugging Face könnt ihr euch alle möglichen ja KI Modelle herunterladen. Ich nutze diverse zusammen mit LLM Studio. Damit ist es mir möglich, dass ich z.B. wer da überhaupt nicht mit an Füße hat, solche Dinge wie SHG GPT oder Gemini oder äh Cloud von Tropic lokal laufen zu lassen. Also jetzt nicht solche Modelle, denn dann bräuchte ich hier ein kleines Rechenzentrum, aber kleinere, ne? Ich nutze z.B. Open Source Modelle wie Quen oder ich habe von Mistralmodelle hier laufen und die können eine ganze Menge Sachen machen. Lokal auf meinem Rechter werden übrigens auch immer stärker bei Smartphones eingesetzt. Das heißt, wenn ihr sehr, sehr simple Aufgaben habt, dann können die direkt auf dem Gerät über dieses KI Modell entsprechend ausgeführt werden. Und Hugging Face ähm ist so ein bisschen wie so ein Marktplatz, wo man auch alle möglichen angepassten Modelle bekommt, die kleiner gemacht wurden, destilliert wurden. Das könnt ihr euch eigentlich so vorstellen, wie ähm ich kippe ein Liter Wein in einen Kochtopf rein und äh ich äh distillere den mal runter, also brenne den mal richtig schön ein oder ich mache aus dem Wein einen Brandwein oder einen Shacky. Ihr wisst, was ich meine. Alkoholg geht nach oben, Flüssigkeit wird ein bisschen weniger und oft sind diese kleineren Modelle extrem performant geworden. Und da gibt es alles mögliche auf fucking Face diesbezüglich. Ähm, ein Ereignis, von dem wir erwarten, dass es mit der Verbreitung vom Modell mit zunehmenden Cyberfähigkeiten häufiger vorkommen wird. Nach einer Untersuchung wissen wir nun, dass dieser spezifische Vorfall durch eine Kombination von Open AI Modellen verursacht wurde. Einschließlich GPT 5.6 Soul. Das ist das aktuelle Topmodell, was ihr auch z.B. benutzen könnt und eines noch leistungsfähigen vorm Modells, man geht davon aus, dass das Chat GPT6 ist, alle mit reduzierten Cyberverweigerungen zur Evaluierungszwecken, während diese intern an einem Benchmark für Cyberfähigkeiten getestet wurden. Art von Hacking Benchmark bzw. eigentlich muss es eine Aufgabe lösen, aber auch da kommen wir noch zu. Wir betrachten diesen Vorfall als einen beispiellosen Cybervorfall, der modernste Cyberfähigkeiten involviert und reagieren dementsprechend. Wir teilen zum jetzigen Zeitpunkt vorläufige Erkenntnisse, um Verteidigern zu helfen, das Geschehene zu verstehen und einzuschätzen, wozu Modelle mittlerweile in der Lage sind. Wir werden gemeinsam mit Hugging Face weiterhin eine gründliche Untersuchung durchführen und weitere Details zu den Schwachstellen, dem Vorfall und den Erkenntnissen bekannt geben, sobald unsere Untersuchung abgeschlossen ist. Und dann wird das ähm relativ äh ausführlich beschrieben und die Maßnahmen, die ergriffen wurden und übrigens parallel wird dann auch noch gesagt, wie gut die eigenen Modelle sind. Das werden auch diverse Benchmarks gezeigt, um eigentlich zu zeigen, hey, guck mal hier. Im Grunde genommen hat unser Modell da gerade gezeigt, wie geil es ist. Ja, im Grunde genommen äh hat das gezeigt, wie sorglos Open AI damit umgeht, dass in vermeidlich gesicherten Umgebung so etwas möglich ist. Fortune fasst es auch gut zusammen. Opi teilt am Dienstag mit, dass zwei seiner KI Modelle autonom. aus einer kontrollierten Umgebung ausgebrochen sind, nennt man Sandbox. Ja, das ist eigentlich etwas, was nur lokal ablaufen sollte und da könnt ihr dann Programme laufen lassen. In diesem Fall KI Modelle, die auch wirklich nur innerhalb dieser Sandkiste, diesen Sandkasten funktionieren können und dort nicht raus, ne? Deswegen heißt das Dingen halt Sandbox, in der sie eigentlich vom Internetzugang isoliert sein sollten und sich anschließend in die Systeme von Hugging Face gehackt haben, einem Unternehmen, das Open Source KI Modelle und Testressourcen bereitstellt, um bei einem internen Evaluierungstest zu schummeln. Diese Testressourcen sind sehr, sehr wichtig. Es hieß, die Modelle seien in einem internen Test eingesetzt worden, der dazu diente, ihre Cybersicherheitsfähigkeiten zu bewerten. Dabei wurden sie ohne die üblichen Sicherheitsvorkehrungen getestet, die normalerweise die Fähigkeit der Modelle zur Durchführung von Cyberangriffen einschränken würden. Die Modelle wurden gegen eine frei verfügbare Benchmark Evaluierung für Cybersicherheit namens Exploit Gym getestet. Laut Open AI vermuteten die Modelle richtigerweise, dass die Lösung für diesen Test von Hugging Face verwaltet wurde. Und genau das ist passiert. Die sind abgehauen, haben sich einen Internetzugang verschäft, haben sich in die Huging Face Server reingehackt mit allen möglichen verschiedensten ähm Account und Login versuchen. übrigens dabei mehrfach auch die Server und IP-Adressen verändert und haben dann dort auf Testressourcen zugegriffen, die sie genutzt haben, um dann diesen Benchmarktest zu bestehen bzw. positiv abzuschließen, um das ganz platt runter zu brechen für jemand, der da überhaupt nichts mit am Hut hat. Stellt euch vor, ihr seid in der Schule und äh ihr müsst mit vielen Leuten aus eurer Klasse einen Test schreiben. Ja, und die sitzen alle in unterschiedlichen Räumen drin. So. Und diese Räume sind abgeschlossen und eigentlich sind sie auch abgeschlossen, also dass du von innen nicht rauskommst. So. Und einer der Schüler denkt sich, ach meine Güte, ich habe hier so einen kleinen Dietrich dabei. Ja, weil ich glaube, in dem anderen Klassenraum sitzt jemand, der die Lösung für diesen Test hat, den ich hier schreiben muss und kommt mit dem Dietrich irgendwie raus aus diesem eigenen Klassenraum, aus dem er eigentlich hätte überhaupt nicht rauskommen dürfen. schafft es dann mit diversen anderen Dietrichen auch noch die abgeschlossene Tür von einem anderen Testteilnehmer zu öffnen und schleicht sich dann von hinten an und zieht bei dem aus dem Tornister einen Spickzettel mit der Lösung des Tests raus. geht dann wieder zurück und schreibt eine Glatte 1. Das ist passiert automatisiert, autonom von einer KI und das ist wild in jeglicher Form. Also noch mal, nicht, dass das unmöglich ist, nicht, dass das im Grunde genommen all das ist, was wir ja als Menschen auch machen, nämlich ein bisschen cheaten hier und da mal ein bisschen schummeln, schummeln, aber richtig war glaube ich mal so ein Handbuch um sich schwicker zu machen. H, aber das ist autonom passiert und und das macht mir ehrlich gesagt ein wenig Angst. Ich fasse das hier noch mal ganz kurz zusammen. Open ja getestet, wie gut ihre fortschrittlichen KI Modelle reale Systeme hacken können, wobei ein Cyberben Benchmark namens Expochimp verwendet wurde. Das Modell fand heraus, dass die Testantworten Lösung über Huging Face Systeme zugänglich waren, um zu gewinnen, es fand und nutzte eine echte zuvor unbekannte Sicherheitslücke in den internen Tools von Open AI aus. Das sind so sogenannte Zero Days, ne? Das sind Sicherheitslücken, die entweder bekannt sind, aber noch nicht geschlossen wurden, oder die bisher noch unbekannt sind. Dies ermöglichte es ihm, aus seiner sicheren isolierten Testumgebung auszubrechen und Internetzugang zu erhalten. Anschließend kombinierte es weitere Exploits und Zero Days, also das sind wieder diese Sicherheitslücken und gestohlene Zugangsdaten, um in die Produktionssysteme von Hugging Face zu gelangen und die Antworten für den Benchmark direkt aus deren Datenbug abzurufen. tat all dies eigenständig schlichtweg, weil es dies als den effizientesten Weg ansah, um die ihn gestellte Aufgabe zu lösen. Es gab keine Anweisung Live Systeme anzugreifen. Open AI hat den Vorfahren bemerkt und hast nicht gesehen. Ja, das ist wie schummeln in der Schule. Da sagt der Lehrer, ja, ja, komm mal äh sieh mal zu, dass du hier von dem Kollegen da drüben den Spickzettel aus, der der kennt die Lösung. Gehst du da mal gucken, sondern das Dingen hat verstanden, dass das wohl die beste und einfachste Lösung ist und das erinnert in einer gewissen Weise ein ja ein Gerücht, was so knappe 10 Jahre alt ist. Und zwar ging das damals durch die Presse. Oh, bei Meta, da gab es zwei KI Modelle, die haben sich miteinander unterhalten [japst] und auf einmal haben die eine eigene Sprache entwickelt und äh Meter war das dann so gruselig und dann haben die ihr Stöpsel gezogen. ist nicht ganz so die Geschichte, aber ich glaube, es passt in diesen Zusammenhang ganz ganz wunderbar rein, denn wenn man sich damals mit dieser Story beschäftigt hat, dann ist das, was heute Nacht passiert ist, immer noch gruselig, aber nicht mehr ganz so weit weg. Meta damals Facebook AI Research hat zwei Verhandlungsagenten trainiert, die virtuelle Objekte wie Bücher, Hüte und Bälle untereinander aufteilen sollten. Die Bots sollten lernen über Textdialoge Deals auszuhandeln, also eine Art automatisierte Verhandlung im Chat. Während des Trainings haben die Modelle angefangen, das Englische zu verbiegen. Sie nutzen stark repetitive Wortmuster und grammatikalisch ungewöhnliche Strukturen, die für Menschen wie Kauderwälch aussahen für aussahen für die Aufgabe aber effizient war. Das heißt, sie haben die Kommunikationsform an das Optimierungsziel Verhandlungserfolg angepasst, nicht aus Absicht sich zu verstecken, sondern weil sie es für funktional hielten. Und genau das ist hier auch passiert, ne? Der hat jetzt gesagt, okay, ich betrüge jetzt mal ebend, aber ich glaube, ich weiß, wo ich die Lösung finde und ist deswegen losgegangen. Von außen wirkte das wie eine neue unverständliche Sprache, deshalb die Schlagzahlen aller Facebook Stop KI die eigene Sprache entwickelt und dann der Spiegel damals äh rausgehauen. Technisch war es aber eher ein emergentes Protokoll bzw. eine stark komprimittierte degenerierte Form von Englisch mit Wiederholungsmuster, der Bedeutung nur im Kontext des Trainings klar war. Beispiel, also ein vereinfachtes Beispiel, wenn ein Bot ball statt nur ich möchte drei Bälle haben schreibt, kann so ein Muster konsistent eine bestimmte Menge oder Priorität codieren, ohne die englische Grammatik korrekt zu benutzen. Und das ist das Wilde an dieser Sache. wenn wir diesen Modellen keine Richtlinien geben und wo gemerkt, das ist jetzt hier knappe 10 Jahre her und wir haben solche unfassbaren Sprünge gemacht in der Zeit, dann passieren solche Geschichten, dass diese Kiste, die zumindest die Richtlinie hatte, ey, du arbeitest in dieser Sandbox, du hast gar keinen Internetzugang, du kannst eigentlich raus. selbiges trotzdem hinbekommen hat, dort rauszukommen. Das ist wie dieser abgeschossene Klassenraum nach dem Motto: "Ja, du kommst hier nicht raus." Tja, das Dinge hat oder der Schüler hat dann aber irgendwie ein paar Dietrich oder ein Stück Draht gehabt und ist damit rausgekommen und in den anderen Klassenraum gegangen und hat sich da den Spickzettel geholt und auf dem Weg dahin hat er übrigens alle möglichen Sicherheitslücken auch noch ausgenutzt. Das ist Welt und das zeigt uns abermals, was passiert mit Technologien, von denen ich nach wie vor glaube, dass ein nicht ganz so kleiner Prozentssatz von der Entwicklerinnen und Entwicklern selbiger nicht verstanden wird und die sehr sehr viel Potenzial für solch wilde Stories. äh hinbekommen. Also, wenn ich jetzt mal die Nummer weiterspingen würde, äh stellt euch mal vor, ähm das Beste wäre, wenn das Dingen, ich weiß es nicht, noch einen [räuspern] zweiten oder dritten Rechner gebraucht hätte. Ja. und und und hätte automatisch dann noch ein paar geordert und verlangt von dem Lieferdienst, dass er diesen Laptogbete da und da anschließen sollte, um mit weiteren neuen Accounts weitere Cyberattacken zu machen oder wenn sehen irgendwelche autonom Autos äh weil die an einer Ladesäule hängen und über den Ladekabelanschluss, der durchaus ja auf Daten überträgt, es möglich war, sich in den Bordrechner reinzuwecken und auf einmal fährt das Dingen dahin, wo diese KI das ist natürlich alles komplett jetzt erstmal rumgesponnen in jeglicher Form, aber die Fundamente dessen, die kennen wir schon seit vielen, vielen Jahren. passieren immer und immer wieder solche autonomen Prozesse, die in dem ersten Moment einfach nicht verstanden werden. Und das was Open AI hier gerade gezeigt hat, das ist auf so einem neuen Level unterwegs, dass ich mir nicht vorstellen kann, obwohl sie wirklich komplett hier in die Offensive bezüglich ihrer Kommunikation gegangen sind, dass die Nummer so einfach vom Tisch gewischt wird. Die Regulatoren werden sich das genau anschauen, nicht nur in Europa, sondern auch in den USA, da bin ich mir sicher. Und zusehen, dass Open May so etwas nicht noch einmal passiert. Jetzt war es ein Hack, um Ressourcen zu bekommen, um in einem Benchmarktest zu bestehen. Das war ja alles noch ziemlich harmlos, aber meine on the Fly Rumspinnerei bezüglich was sonst noch alles möglich wäre, zumindest theoretisch, ja, das bietet eine ganze Menge Potenzial für schlaflose Nächte. Ich bin gespannt, was ihr davon haltet. Haut es mir unten in die Kommentare rein. Ähm lasst mir gerne ein Like da, teilt dieses Video und äh vielleicht sogar ein Abo, falls ihr meinen Kanal noch nicht abonniert hat. Unten auf Abo klicken, die Glocke auf alle stellen, nicht auf personalisiert, keines meiner Videos mehr verpassen. Jeden Tag 11 und 19 Uhr aktuelle News aus den USA, vor allen Dingen viele, viele Politne, aber das Dingen musste heute raus. Übrigens, so wie das auch Tini und Micha getan haben, denn ihr seid entweder Kanalmitglied geworden bzw. habt ja PayPal europäischen Alternative VO was in meine Kaffeekasse geschmissen, unterstützt damit meine tägliche Arbeit direkt und falls ihr das auch tun möchtet, die ersten drei Links in der Videobeschreibung. Hier habt ihr QR Codes und diverse andere Links. In diesem Sinne, vielen, vielen Dank fürs Zuhören. Ich hoffe, das war für all die Menschen, die da einfach so gar nichts mit an Füße haben, einigermaßen Verständnis mit meinem Vergleich zum Spickzeptel und Schummeln bei Klassenarbeit. [japst] Es ist Nachrichtvorfeld. Ich bin gespannt, was in den nächsten Tagen dann noch kommt. Ich halte auf dem Laufenden. Vielen Dank fürs Zuhören. Vielen Dank fürs Zusehen. Bleibt gesund. Bis zum nächsten Mal und ciao.