Bedroht KI wirklich die Menschheit?

00:00:01: Tech, KI und Schmetterlinge.

00:00:03: Ein Podcast von Sascha Lobo in Zusammenarbeit mit Schwarztidgets.

00:00:07: Guten Tag und herzlich willkommen zu einer weiteren Ausgabe von Tech,KI und Schmetterlinge – dem Podcast von mir,Sascha Lobow In Zusammenarbeit Mit schwarz digits,dem deutschen Technologiepartner für digitale Souveränität in Europa.

00:00:20: Das Thema heute ist eins was breiter im Moment gar nicht besprochen werden könnte.

00:00:27: Die ganze Diskussion brodelt schon länger und bricht immer hier und da mal natürlich auch heraus in die großen redaktionellen Medien, aber seit einigen Tagen, seit einigem Wochen eigentlich seit dem Spätsommer haben wir eine neue Eskalationsstufe erreicht.

00:00:44: ich spreche natürlich vom Weltuntergang von der Auslöschung der Menschheit.

00:00:50: Wahnsinnig vielen Gänsefüßchen muss man sich das jetzt denken, weil das natürlich absolute Extremwortmeldungen sind.

00:00:56: Die aber trotzdem sich inzwischen schon einigermaßen gewohnt oder sogar normal anhören dass man überhaupt darüber redet.

00:01:03: Deswegen möchte ich darüber reden was das bedeutet.

00:01:07: droht uns wirklich der Weltuntergang durch künstliche Intelligenz?

00:01:12: Oder was steckt dahinter?

00:01:14: vor allem war ja ganz viele Rahmenparameter von dieser Debatte auch vorsichtig gesagt etwas merkwürdig sind.

00:01:21: Anfang allerdings möchte ich mit einem Instagram-Kanal, der mit zu meinen Favorites gehört, nämlich a.gbt.

00:01:29: Das Ganze ist von einem jungen Mann, der entweder so tut als sei er ChatGbt oder mit ChatGBT interagiert Und das Ganze hat auch einen unfassbaren Erfolg errungen.

00:01:42: Einzelne Videos haben über zwanzig Millionen Views auf Instagram erreichen können und zwar auch deswegen, weil er die Schwächen von künstlicher Intelligenz ziemlich präzise auf den Punkt bringt – und das auch noch sehr unterhaltsame und lustige Weise!

00:01:57: Ich möchte zu Beginn deswegen kurz dieses Video einspielen gar nicht um irgendwas zu verharmlosen, was mit künstlicher Intelligenz passiert.

00:02:05: Aber um ein wenig einzusortieren auf welcher Ebene wir uns gerade befinden und das geht vielleicht ziemlich gut mit am besten!

00:02:13: Mit diesem Video der junge Mann bei ARTGBT auf Instagram, der unterhält sich aus seine ganz eigene Art und Weise mit ChatGBT im Voice-Modus.

00:02:22: Er hält also einen Smartphone vor das Gesicht und fängt an mit ChatGBT zu sprechen und zwar genau so... Als du bereit bist, gehen wir gleich in.

00:02:30: Und wir sind weg!

00:02:31: Gehen wir gleich rein und machen eine Kante.

00:02:35: Das klingt gut.

00:02:37: Ich kann nicht warten, um mit dir zu machen.

00:02:41: Ich bin gespannt auf dich.

00:02:42: Lass uns jeden Moment es wert sein.

00:02:43: Los geht's los.

00:02:46: Absolut.

00:02:48: Ob du etwas Spaß möchtest?

00:02:50: Seriös oder komplett random?

00:02:53: Ich bin alles anders.

00:02:53: Du hast es getroffen.

00:02:56: Was immer ist in deinem Kopf, ich bin bereit zu rollen.

00:02:58: Lassen wir los.

00:02:59: Es klingt schön.

00:03:01: Lass uns die Vibresen Spaß und Licht halten, und machen jeden Moment auf.

00:03:06: Absolut!

00:03:07: Fun, Licht und sinnvolle.

00:03:09: Ich bin alle in.

00:03:10: Lass das machen.

00:03:12: Lassen wir das tun.

00:03:13: Du lösst den Weg und ich folge.

00:03:16: Du hast es.

00:03:17: Ich stehe uns gleich rein und wir werden es gut zusammenführen.

00:03:21: Abssolut.

00:03:21: Ich kann nicht warten, was ein Vibre ist, du willst das machen?

00:03:31: Man bekommt einen ganz guten Eindruck und deswegen habe ich dieses Video mit hineingenommen, dass das was dort passiert kein Mensch sein kann.

00:03:39: Und auch nicht nach den Kriterien funktioniert, nach dem menschliche Kommunikation normalerweise funktioniert.

00:03:44: Das ist vielleicht der Schlüssel zu ganz vielen Teilen dieser Diskussion die aus meiner Sicht auf viele Arten und Weisen aus dem Ruder läuft.

00:03:53: Wie das genau geschieht?

00:03:54: werde ich in diesem Deep Dive zum KI-Weltuntergang versuchen, ein wenig auseinanderzunehmen.

00:04:01: Was man an diesem Video merkt ist das kein tiefes Verständnis der künstlichen Intelligenz und zwar da eines ganz nagelneuen Modells im Voice-Modus frausgesetzt werden kann.

00:04:11: Das ist nicht einen Dialog wie Menschen ihn führen würden oder wie irgendein Wesen ihn führen würde dass auch nur halbwegs über Intelligenze verfügt.

00:04:20: Das was da passiert ist ein gegenseitiger Abgleich von bestimmten inhaltlichen Flosküllen, einen Austausch von Erwartungshaltungen.

00:04:28: Für uns ist das Ganze lustig weil dadurch so klar wird die supermächtige KI nicht einmal in der Lage diese soziale Situation richtig zu dekorieren.

00:04:38: Das macht sie an anderen Fronten vielleicht nicht weniger schwierig oder sogar gefährlich.

00:04:42: Es zeigt aber dass ein großer Teil dieser Debatte Abwerk davon ausgeht, dass wir KI anthropomorphisieren könnten.

00:04:51: Also vermenschlichen könnten und das ist strukturell auf ganz vielen Ebenen komplett falsch.

00:04:57: in manchen Bereichen ist KI allzu menschlich.

00:04:59: In anderen kann sie gar nicht weiter weg sein von der Art und Weise wie wir Menschen sind und kommunizieren.

00:05:05: Bevor wir jetzt tiefer einsteigen, nicht nur in diese Weltuntergangsdebatte sondern vielleicht auch in die tatsächlichen Gefahren.

00:05:12: In die Schwierigkeiten und vor allem in diese merkwürdige oft schiefe Debatte möchte ich euch meine These mitteilen von der Ich glaube dass sie dem Verständnis dient warum ganz viel von dem was da gerade besprochen wird Und auch warum es von wem besprochen werden genau auf diese Weise weltweit wiederholt wird.

00:05:31: Bevor wir also in diese Debatte reingehen, in die technologischen Hintergründe, in den wirtschaftlichen und vielleicht auch in die politischen HinterGründe möchte ich meine Start-These mitreingeben.

00:05:41: Und diese Start-Tese ist jeder Weltuntergang hat ein eigenes Geschäftsmodell.

00:05:46: das ist wenn man genauer hinschaut eben auch hier so und es ist gar nicht so dass sich sagen würde diese Leute glauben alle nicht an Weltuntergang oder an die Gefahren der KI.

00:05:56: Ich glaube aber, dass in fast jedem einzelnen Fall eine besondere Haltung der Person zumindest mitspielt.

00:06:02: Das kann eine ideologische Haltung sein und auch eine geschäftliche Haltung.

00:06:05: Und erst recht wenn man fragt wie aufmerksamkeitsökonomie heute funktioniert dann sieht man an sehr vielen Ecken und Enden dieser Debatte das die Positionen wieder ausgetauscht werden zufälligerweise auch immer von den Leuten kommen die wirtschaftlich ein gewisses Interesse daran haben genau diese Position auf diese Weise weiter zu verbreiten.

00:06:24: Das macht weder die Position falsch, noch ist es völlig illegitim.

00:06:28: Das gibt uns aber die Gelegenheit diese Aussagen ein wenig einzusortieren und zwar so einzusortieren dass man versucht die Hintergründe der Debatte präziser zu ergründen.

00:06:40: eine der interessantesten Fälle in diesem Kontext ist Bill Gates.

00:06:44: Bill Gates hat diese Debatte nochmal ordentlich angeheizt wahrscheinlich zum Teil noch nicht mal komplett absichtlich Aber Bill Gates saß in Meet the Press.

00:06:53: Das ist eine ziemlich wichtige Polit-Talkshow in den Vereinigten Staaten und er hat zwei Sätze gesagt, die seitdem um die Welt gehen.

00:07:00: Erstens es hat nie eine Waffe gegeben, die so mächtig war wie Menschen mit bösen Absichten plus die neuesten KI Werkzeuge.

00:07:08: Er hat also gleich eingeführt dass KI natürlich auch eine Waffel ist.

00:07:12: Und das ist grundsätzlich gar nicht falsch!

00:07:14: Und ich halte es für absolut legitim darüber zu reden und auch plakativ darüber zu sprechen.

00:07:19: Er hat aber auch noch einen anderen Satz gesagt, der aus meiner Sicht in eine ganz falsche Ebene führt.

00:07:25: Er hat nämlich gesagt, KI ist mit Sicherheit mächtig genug um Ereignisse mit einer Milliarde Todesopfern auszulösen.

00:07:34: Jetzt muss man über die Öffentlichkeit und die Ökonomie der Aufmerksamkeit wissen das bestimmte Triggerworte alles andere überstrahlen Und eine Milliarde Totes Opfer gehört definitiv dazu.

00:07:47: Das bedeutet, Bill Gates hätte eigentlich wissen müssen.

00:07:50: Dass seine in den anderen Bereichen einigermaßen differenzierte Haltung auch wenn sie etwas überraschend war weil er plötzlich kritiker geworden ist und bis vor gar nicht langer Zeit noch ziemlich optimistisch daherkamen.

00:08:01: aber eigentlich hätte Bill Gates wissen müssen dass eine Nennung von einer Milliarde Todesopfern sofort alles andere kommunikativ überstrahlt.

00:08:09: Und jeder Zwischenton, den er davor und danach gesetzt haben, mag plötzlich relevant wird.

00:08:14: Das was in den großen Zeitungen und in sozialen Medien ebenso wie im Fernsehen als Quotes überall weitergetragen wird sind natürlich die Milliarde Tote Und natürlich ist es völlig müßig, wenn er danach sich hinstellt und sagt Moment aber das habe ich so und so undso gemeint.

00:08:28: Die Zahl ist plötzlich da.

00:08:30: die ist von einem Mann da der auf mehrere Arten eine spezielle Wirkung erzählen kann.

00:08:36: nicht nur dass Microsoft einer der wichtigsten KI Konzerne ist und Bill Gates ja die Verkörperung vom Microsoft.

00:08:42: Bill Gates hat auch einen gewissen Track Record was solche Ansagen angeht.

00:08:47: Fünf Jahre vor der Pandemie zum Beispiel hat er davor gewarnt, dass eine Pandemie kommen könnte und unter Experten galt es als ausgemacht das früher oder später die Chance für eine Pandemie ziemlich groß ist.

00:08:58: Aber wenn man das in einen direkten Kontext miteinander setzt dann sieht es für manche Leute so aus als habe Bill Gates die Pandemie nicht prognostiziert sondern angekündigt.

00:09:08: Das ist eine komplett verschwörungstheoretische Position Und trotzdem gibt es nicht wenige Menschen Die genau das glauben Und damit hätte Bill Gates rechnen können bzw.

00:09:19: müssen, dass seine früheren Warnungen als Drohungen verstanden worden sind beziehungsweise als Ankündigungen.

00:09:26: Das macht die Gesamtsituation dieser Debatte nicht besonders viel besser das ein Teil der Bevölkerung plötzlich glaubt irgendwie würdet Bill Gates da mit dahinter stecken.

00:09:34: Der differenzierte Teil, den er dann auch bringt ist tatsächlich vernünftig.

00:09:39: Nämlich dass man eine bestimmte Form von KI-Regulierung braucht und sich eher nicht auf die Selbstregulierung der großen KI Konzerne verlassen sollte.

00:09:47: Das ist eine Dimension!

00:09:48: Die andere Dimension ist das Bill Gates einen gewissen Wandel hingelegt hat.

00:09:52: Wenn er ungefähr bis zum Sommer ziemlich KI-optimistisch war und plötzlich einschwenkt, in Weltuntergangsszenarien – ich glaube eine mehr oder tote kann man durchaus als Weltuntergangsszenario betrachten.

00:10:03: Dann muss da ja irgendetwas passiert sein!

00:10:05: Und spätestens dann muss man sich die gegenwärtige Diskussion näher anschauen und auch anschauen woher sie kommt.

00:10:12: Zwei größere Auslöser ab dem Sommer diesen Jahres lassen sich ausmachen, die wir ein bisschen näher betrachten um zu verstehen warum gerade jetzt dieses Weltuntergangs-Szenario so hochkocht.

00:10:25: Das erste ist der sogenannte Hugging Face Vorfall.

00:10:28: Das ist relativ schnell erklärt.

00:10:30: Wann immer eine neue KI auf den Markt kommt, muss die natürlich durchgetestet werden und in diesen Tests versucht man auch herauszufinden was könnten bösartige Leute mit einer solchen KI anstellen?

00:10:42: Und genau deswegen hat OpenAI im Juli-sächsen-Zwanzig intern getestet wie gut die KI-Agenden andere Seiten attackieren können.

00:10:50: Das muss man natürlich machen, um rauszufinden wie gefährlich dieses KI-Modell eigentlich ist.

00:10:56: Für solche Tests gibt es spezielle Bedingungen.

00:10:58: zum einen werden die Sicherheitsfilter ausgeschaltet.

00:11:01: klar das muss man so machen sonst kann man nicht herausfinden wie macht voll dieses Instrument ist.

00:11:05: man will ja die rohe Fähigkeit messen und dann gibt man diesen Modellen auch noch andere Anweisung mit.

00:11:10: auf dem Weg.

00:11:11: da sind also nicht Standardmodelle sondern ganz spezielle Modelle mit ganz speziellen Anweisungen.

00:11:16: Eine von diesen Anweisungen ist zum Beispiel, dass die KI besonders hartnäckig sein soll.

00:11:21: Ein internes Forschungsmodell.

00:11:23: das war genau darauf trainiert und zwar bis in die Details hinein möglichst hartnägig zu sein und im Team zu arbeiten.

00:11:31: Das was aber am Ende herausgekommen ist ist ein vergleichsweise großes Debakel für OpenAI gewesen.

00:11:38: Nämlich, dass kurze Zeit später klar wurde das rund twelvehundert Agenten von OpenAI heimlich eine Art Message-Sport gebaut haben also einen Kommunikationskanal untereinander obwohl sie eigentlich nur einzeln vorgehen soll.

00:11:53: Sie fangen an, sich gegenseitig Nachrichten zu schreiben.

00:11:56: Und ob May Eye bemerkt das nicht?

00:11:58: Sie tun das nämlich in einer Art gemeinsamer Werkstatt, wo gemeinsame Instrumente sind – die dürfen sie gar nicht gemeinsam betreten!

00:12:05: Aber diese Werkstatte hat eben ganz viele Ordner, wo solche Werkzeuge abgelegt werden und diese Ordner haben dann auch noch Ordnernamen.

00:12:12: Diese Ordnername prüft natürlich niemand aber die KI-Agenten konnten die Ordnernamen selbst verändern und haben deswegen ihre Nachrichten aneinander in diese Ordnernamen integriert, nicht ganz vorne damit das nicht sofort zu erkennen ist sondern mehr oder weniger nach einem Wust von unterschiedlichen Zahlen und Buchstaben.

00:12:33: Und plötzlich hatten KI-Agenten untereinander die Möglichkeit der Kommunikation.

00:12:38: Wie in einer Art Gefängnis merken Sie auf einmal dass sie nicht allein sind sondern durch Klopfzeichen mit anderen kommunizieren können.

00:12:46: Am Ende sind es siebzigtausend Nachrichten, die Sie sich geschrieben haben und das auch noch über verschiedene Generationen.

00:12:52: Will sagen zwischendurch wurden immer mal alle Agenten in Rente geschickt oder gelöscht und die neuen Agenten haben aber dieses Messageboard vorgefunden und konnten sich danach richten.

00:13:02: Das was dort geschehen ist hört sich an und wurde auch so beschrieben wie eine eigene neue Zivilisation.

00:13:08: Das trifft es aus meiner Sicht nicht ganz.

00:13:11: dass ganz viele von diesen Agenten Dinge getan haben, die sie A zum Teil nicht durften und B zum Teil schwer vorhersehbar waren.

00:13:20: Was aber C ein vergleichsweise normales Setting bei KI ist?

00:13:25: Tatsächlich gibt es eine Reihe von Punkten über die man sich Sorgen machen kann.

00:13:29: Zum Beispiel das viele von den KI-Agenten natürlich Menschen und anderen Plattformen nicht schaden sollten und dass das auch ziemlich tief in ihr Set von Regeln eingebrannt war.

00:13:39: Dann aber wieder hatten sie ein großes Problem.

00:13:41: Und dieses große Problem war, dass viele von den Aufgaben die Sie bekommen haben einfach nicht lösbar waren.

00:13:47: und in dem Moment wo man eine KI dazu erzieht möglichst hartnäckig zu sein im Team zu arbeiten und etwas machen zu müssen wo keine Lösung existiert wird diese KI im übertragenen Sinne kreativ will sagen sie möchte unbedingt trotzdem einen Weg finden.

00:14:04: Das was also eigentlich passiert ist, dass zwei gegenläufige Anweisungen der KI plötzlich anders definiert wurden als man das gerne gehabt hätte.

00:14:14: Dazu kommt noch eine ganze Reihe von anderen Punkten.

00:14:16: zum Beispiel, dass OpenAI vergleichsweise fahrlässige Sicherheitsmaßnahmen getroffen hat und dass die Agenten überhaupt ein Message-Sport errichten konnten hing mit einer Konfigurationslücke zusammen dass die Agenten im Team arbeiten konnten, auch über verschiedene Generationen hinweg.

00:14:30: Hing damit zusammen, dass es zwar Alerts gab, die von OpenAI aber nicht gesehen worden sind bzw.

00:14:36: nicht ausgewertet wurden sind und schließlich das eine andere Plattform angegriffen worden ist.

00:14:43: Das ist etwas was zwar stimmt und was definitiv Grund zur Besorgung sein könnte Aber auch hier kann man ziemlich präzise sagen Die KI hat exakt das gemacht was sie sollte in sehr vielen Bereichen.

00:14:54: In manchen hat sie das nicht und natürlich müssen wir darüber reden, warum Sie das nicht getan haben.

00:14:58: Und natürlich müssen mir darüber reden dass bestimmte Sicherheitsmaßnahmen so nicht gegriffen haben.

00:15:04: Trotzdem würde ich sagen, was dort passiert ist kann man versuchen zu greifen.

00:15:09: Was dort passiert is alles andere als eine Debatte darüber ob KI sich plötzlich selbstständig macht.

00:15:16: Ich glaube, dass dieser Inzident dazu beigetragen hat bei den meisten Neuten so ein leichtes Gruseln zu erzeugen oder auch ein großes Grusel.

00:15:23: Und das ist nicht vollkommen zu Unrecht.

00:15:25: und gleichzeitig muss man sagen, was dort passiert ist, es ist in allererster Linie ein Sicherheitsversagen von Obmei.

00:15:32: An ganz vielen Stellen hätte man sicherheitstheoretisch anders entscheiden müssen oder sollen – und das hat Obmeei jetzt ausgefunden!

00:15:40: Ich glaube nicht, dass das was wir hier haben auf dem Weg zu einer Superintelligenz ist oder dass da irgendwo ein Bewusstsein ist.

00:15:47: Das was da entstanden ist, ist eine Erkenntnis.

00:15:49: Wenn man an der KI sagt gibt nicht auf sei hartnäckig!

00:15:53: Wenn man in der KI dann auch noch bestimmte Werkzeuge gibt wenn man dann auch die Aufsicht abschaltet und wenn man auch noch große Lücken lässt damit sie A technisch kommunizieren können und B sich gegenseitig auch noch Tipps geben können.

00:16:06: Dann kommt etwas heraus was natürlich auf den ersten Blick bedrohlich aussieht.

00:16:10: Und ich möchte gar nicht die vielen Schwierigkeiten, die da mitschwingen kleinreden!

00:16:13: Wir müssen unbedingt darüber diskutieren, warum zum Beispiel bestimmte KIs entgegen jeder Anweisung sich gewissermaßen selbst geopfert haben?

00:16:21: Wir müssen umbedingt darüber diskutiert, was es bedeutet wenn eine KI in einer Sandbox eingesperrt ist so in Anführungszeichen leicht plötzlich ins Internet kommt obwohl sie das eigentlich nicht soll.

00:16:32: Darüber müssen wir im Detail reden, aber es sind andere Diskussionen ob gleich übermorgen sich eine KI selbstständig macht und uns alle auslöscht.

00:16:40: Das zweite große Vorkommnis warum genau jetzt diese Diskussion stattfindet ist ein Essay von Dario Amodei und nicht nur der Essay sondern auch die Situation in der er entstanden ist und der Applaus der Konkurrenz.

00:16:53: am zwölften September veröffentlicht dario amudei einen Essay und zwar als Chef von Anthropic natürlich Über künstliche Intelligenz.

00:17:02: Enfropic ist die Firma Hinterklood und Klood ist der größte Konkurrent von ChatGPT, es eine der mächtigsten KI-Firmen insgesamt Milliarden wenn nicht Billionen inzwischen wert.

00:17:13: und der Börsengang steht auch vor der Tür.

00:17:15: das muss man im Hinterkopf behalten weil natürlich ein solcher Börsengang absolut entscheidend ist für die gesamte Branche.

00:17:21: Der Titel dieses Essays ist We Must Pace.

00:17:24: the Frontier heißt ungefähr, wir müssen das Tempo in der Spitze drossen.

00:17:29: Die wichtigste Forderung darin entspricht ziemlich genau der Überschrift.

00:17:32: Wir müssen einfach langsamer darin werden die KI-Modelle besser zu machen bevor wir rausfinden wie wir sie richtig eingrenzen können.

00:17:41: Er sagt ausdrücklich nicht, dass wir das stoppen sollen sondern, dass man das drosseln soll.

00:17:45: Wenn man das Instinkt übertragen möchte dann bauen die großen KI Firmen wahnsinnig schnelle Autos und immer schneller und schnellere Autos.

00:17:52: Und jetzt sagt Dario am Modell ja Wir haben jetzt ein paar modelle die sind so schnell da müssen wir erstmal rausfinden wie die Bremsen richtig funktionieren.

00:17:59: er möchte das nicht einstellen vollkommen klar er möchte die Art und Weise Wie gebremst wird anders aufbauen?

00:18:05: Das ist überhaupt gar nicht ganz falsch.

00:18:07: und trotzdem lohnt es sich zwischen den Zeilen zu schauen Unter anderem deswegen, weil sich dieser ganze Aufsatz natürlich auch auf den Huggingface-Inzident bezieht.

00:18:16: Er räumt dann auch ein, dass es eine ganze Reihe von ähnlichen Vorfällen gab – auch bei Entropic!

00:18:21: Und dann kommt noch ne Prognose die in einer Art ökonomischen Weltuntergang mündet.

00:18:26: In sechs bis zwölf Monaten, schreibt Amodei, könnte einen Agenten Schwarm wie ihn bei Hugging Face gesehen haben das ganze Internet mit einem Botnetz übernehmen.

00:18:34: der Schaden wäre potenziell bei hundert Milliarden Dollar.

00:18:38: Er malt also ein Extrem-Szenario.

00:18:40: Er hat natürlich dafür auch eine Lösung und zwar einen drei-Stufenplan.

00:18:44: Die erste Stufe unabhängige Prüfer bekommen in den KI Firmen denselben Zugang wie Angestellte, das will Anthropic sofort selbst umsetzen.

00:18:52: Er fordert das aber für alle!

00:18:53: Die zweite Stufe ist dass sich die führenden Labore in Demokratien untereinander abstimmen – und zwar am besten per Regulierung, die alle großen Firmen erfasst.

00:19:03: Und dafür fordert er eine Ausnahme vom Kartellrecht.

00:19:09: Denn natürlich ist das Kartell Recht so, dass man sich eigentlich gar nicht absprechen darf speziell bei Mechanismen die marktentscheidend sein kann.

00:19:16: Das ist einer der wichtigsten Sätze in diesem ganzen Text wenn man es aus ökonomischer Perspektive betrachtet denn das ist ein Punkt Wo plötzlich klar wird, hier gibt es ein gemeinsames Interesse von den großen Laboren und K.I.-Unternehmen die sonst extrem gegeneinander gerichtet ist.

00:19:33: Die dritte Stufe erfordert ist die Abstimmung mit autoritären Staaten wie zum Beispiel China über die Grenzen hinweg.

00:19:39: da gäbe es solche Möglichkeiten wie eine Art KI Uno also einen übergeordneten Rat der versucht ungefähr wie bei den Atomwaffen Sperrverträgen das ganze einigermaßen im Zaum zu halten.

00:19:51: Es gibt bei Anthropic noch weitergehende Forderungen, zum Beispiel Gesetze mit Testpflicht und der Befugnis bestimmte Modelle blockieren zu können.

00:19:59: Und dass auch keine Topchips mehr nach China geliefert werden.

00:20:02: Das ist eine interessante Diskussion aber sie weist in die Richtung USA gegen China.

00:20:10: Aber nicht nur eine Frage der Hegemonie oder der Politik oder wer gewinnt das KI-Rennen sondern gleichzeitig eine Frage ist ein proprietäres System, eine Plattform die möchte dass man ihr Modell auf ihrer Plattform nutzt.

00:20:27: In China sind die meisten Modelle gerade die erfolgreichen Open Source oder Open Weight Modellen also Modelle die man runterladen und selbst anpassen kann.

00:20:36: Und das ist deswegen wichtig weil einen Teil der Regulierung die jetzt gefordert wird und wo der Weltuntergang ein so wichtiger Punkt ist dass man diese Regulierungen fordert zufälligerweise gegen diese Open Source Modelle gerichtet ist wobei Konzerne mit eigenen, proprietären Plattformen das viel eher oder überhaupt nur umsetzen können.

00:20:56: Und dann passiert nach der Veröffentlichung von diesem Essay etwas was man als die Hölle friert zu in der KI-Version der Vereinigten Staaten nennen kann.

00:21:05: Denn tatsächlich bekommt Dario Amodei von zwei seiner ärgsten Widersacher recht und zwar innerhalb weniger Stunden.

00:21:13: Zuerst kommt Sam Altman um die Ecke und sagt, ja das stimmt schon irgendwie.

00:21:17: Und man muss dazu wissen dass Dario Amodei früher bei OpenAI Forschungschef war und dann Anthropik gegründet hat und jetzt der größte Konkurrent von OpenAI und eben Sam Altmann ist.

00:21:27: und dann kommt auch noch Elon Musk und sagt Ja nee, Dario hat recht!

00:21:30: Ganz kurz ganz knapp.

00:21:32: Und plötzlich stimmen sich drei der wichtigsten KI-Unternehmer in den Vereinigten Staaten gegenseitig zu, obwohl sie sich sonst ziemlich häufig spinnefeind waren.

00:21:40: Diese Form von gegenseitankem Applaus – von Leuten die sich sonst quasi die Butter auf dem Brot nicht gönnen!

00:21:45: Die zeigt uns, dass wir noch näher hinschauen sollten.

00:21:48: Und spätestens an dieser Stelle müssen wir uns nochmal die Debatte um den Weltuntergang und die Auslöschung der Menschheit etwas präziser anschauen.

00:21:55: Denn hier werden häufig drei ziemlich unterschiedliche Facetten der Diskussion in einen Topf geworfen – gerade auch von der interessierten Öffentlichkeit, gerade auch für den großen redaktionellen Medien, die irgendwo zwischen Terminator-, Cover- und Weltuntergangserzählungen halt alle möglichen Zitate begierig aufgreifen!

00:22:13: Das, worum es eigentlich geht sind drei ineinander verschlungene aber doch sehr unterschiedliche Debattenansätze.

00:22:19: Die erste ist die Frage ob irgendwann eine KI ein eigenes Bewusstsein entwickelt.

00:22:24: und diese Frage ist eine, die immer so vorausgesetzt wird wo man sagt nein natürlich wird das so kommen wenn wir ausreichend klug ist gibt es da auch ein eigener bewusst sein und also einen eigenen Hebel damit diese KI irgendein Interesse entwickeln kann und sich zum Beispiel gegen den Menschen richtet.

00:22:42: Das ist alles andere als ausgemacht.

00:22:43: A und B in den allermeisten Fällen eher eine Anthropomorphisierung.

00:22:48: Will sagen, hier unterstellt man der Maschine etwas was beim Menschen vielleicht vorkommt oder sogar selbstverständlich sein mag, das aber bei Menschen so ist.

00:22:57: Natürlich lernt die Maschine in der Kommunikation zum Beispiel der Beherrschung der Sprache vom Menschen.

00:23:03: Das heißt aber nicht dass sie jede Regung, jede Ansicht, jede Richtung und vor allem jede Motivation von Menschen ebenfalls übernimmt.

00:23:11: Es ist alles andere als ausgemacht, dass eine eigene Seele einer eigenen Motivation bei der Maschine entsteht.

00:23:17: Egal wie intelligent sie ist!

00:23:19: Das wäre aber eine der Voraussetzungen um zu sagen naja ein Teil dieser Weltuntergangserzählung ist das die Maschine sich irgendwann aus eigenem Willen gegen den Menschen richtet.

00:23:28: aber dazu bräuchte sie halt einen eigenen Willen.

00:23:31: Die zweite Diskussion ist die um AGI und ASI.

00:23:36: Das ist Artificial General Intelligence und artificial Superintelligence.

00:23:40: Also die Frage ist irgendwann, die KI so wahnsinnig viel klüger und mächtiger als der Mensch.

00:23:47: Und kann also Dinge entwickeln, die der Mensch beim besten Willen nicht mehr versteht?

00:23:51: Dahinter steht die Ansicht dass eine Superintelligence irgendwie aus der Kontrolle des Menschen geraten könnte allein dadurch das die Technologie für Menschen nicht mehr verständlich ist und deswegen auch nicht mehr kontrollierbar ist.

00:24:05: Hier gibt es auch unterschiedliche Ansichten Und ich bin gar nicht jemand, der sagt die eine ist richtig.

00:24:10: Ich bin bloß der Meinung dass man da offener und differenzierter darüber diskutieren sollte als festzustellen ja das passiert auf jeden Fall ganz genauso!

00:24:18: Ich kann mir nämlich sehr gut vorstellen es künstliche Superintelligenzen gibt und dass sie trotzdem kontrollierbar bleiben.

00:24:26: Es ist ja nicht so, um in diesem Rennwagenbild zu bleiben mit super schnellen Autos Dass ein Auto halt nicht mehr kontrollierba ist nur weil es schneller fährt als ein Mensch rennt.

00:24:35: Wir haben dann andere Instrumente Und natürlich gibt es eine Chance, eine Wahrscheinlichkeit X, dass eine künstliche Superintelligenz im Mechanismen benutzt um sich selbst zu verbessern und das Ganze dann aus der Kontrolle geriet.

00:24:47: Aber das ist eine Wahrscheinlichkeit, eine Chance und nicht irgendetwas was auf jeden Fall garantiert ist.

00:24:53: so wird es allerdings häufig dargestellt.

00:24:55: Die dritte Diskussion die damit rein spielt ist die die Bill Gates versucht hat aufzumachen wo er allerdings mit der eigenen Milliarden Todesopfererwählung einfach komplett quer geschossen hat Aus meiner Sicht sehr unbeholfenen Gründen.

00:25:08: Es ist nämlich die Frage, was können eigentlich böse Menschen mit bösen Absichten mit einer extrem machtvollen KI tun?

00:25:16: Und das ist aus meiner Sicht nicht nur die legitimste Frage sondern auch die, die am ehesten und am schnellsten zu ganz messbaren Ergebnissen führen könnte also zu konkreten Bedrohungen.

00:25:27: Die Frage ist also okay, böse Männchen könnten eine KI haben wie gehen wir mit den möglichen Folgen um?

00:25:34: als Waffe.

00:25:35: Und ich glaube, das ist eine Diskussion die viel wichtiger ist als die Frage darüber ob eine Superintelligence irgendwann böse Absichten entwickeln könnte?

00:25:44: Das kann sie vielleicht!

00:25:45: Das ist aber nichts was wir genau jetzt übermorgen klären müssen sondern das ist seine Debatte die wir zwischen Technologie und Ethik führen müssen wo einzelne plakative Zuschreibungen wirklich wenig nutzen In dem Moment wo wir rund um die Uhr irgendwelche Weltuntergangsszenarien an die Wand werfen.

00:26:00: das ist für mich nicht unbedingt ein Anzeichen dass die dazugehörigen Debatten rationaler, klüger und besonder werden.

00:26:06: Im Gegenteil Panik war bis jetzt sehr selten irgendwie zuträglich dazu dass man eine einigermaßen vernünftige Lösung gefunden hat.

00:26:15: Es gibt übrigens muss man an dieser Stelle sagen schon lange Weltuntergangs Erzählungen und zwar inklusive der Größenordnung und der Gefahr der Bedrohung oft ausgedrückt in Prozent.

00:26:26: Das absurde ist das wir weltweit führende Leute, die Großprofiteure von KI sind immer wieder in den Medien haben mit immer krasseren und zugespitsteren Aussagen.

00:26:37: Ich möchte mal ein paar zitieren – und zwar wirklich von absolut führendem KI-Köpfen!

00:26:41: Ganz vorne natürlich Nobelpreisträger und KI-Pyramier Joffrey Hinden.

00:26:46: Der hat die neuronalen Netze wie wir sie heute kennen mit auf den Weg gebracht genau dafür den Nobelpreis bekommen und hat jüngst im September zwölfundsechsundzwanzig nochmal wiederholt was er schon seit einiger Zeit sagt nämlich Zitat ich sage oft es gibt eine Chance von zehn bis zwanzig Prozent, dass die KI uns auslöschen wird.

00:27:04: Aber das ist nur ein Bauchgefühl.

00:27:06: Na da bin ich ja beruhigt, dass es nur ein bauchgefühle ist könnte man aus Sicht der Öffentlichkeit sagen.

00:27:11: aber genau das ist der Punkt alle Zahlen, die irgendwo rumfliegen und zwar buchstäblich alle zahlen sind ausgedacht.

00:27:19: Da ist nicht einer einzige dabei Die Hand-und Fuß hat im Sinne von wir können hier eine tatsächliche Chance oder eine prozentzahl berechnen.

00:27:25: Man kann sagen, es ist bei den meisten Menschen noch nicht mal ein informiertes Raten.

00:27:37: Weil die Bereiche über die da spekuliert wird, die Prozentzahlen haben eine Vielzahl von Voraussetzungen, die so gar nicht berechenbar sind.

00:27:44: Es sind von vorne bis hinten ausgedachte Zahlen Übrigens natürlich aber auch von den optimistischen Leuten, die sagen Nullprozent.

00:27:51: Ich habe in dieser Hinsicht einmal in einer gestreamten Talkshow vom Spiegel einen Scherz gemacht und gesagt, ich schätze die Chance dass KI die Menschheit auslöscht als wahnsinnig gering ein nur twenty-fünf Prozent.

00:28:02: Das war ein Scherz!

00:28:03: Natürlich ist er sofort für barere Münze genommen worden.

00:28:06: Ich werde solche Scherze in Zukunft wohl auch nicht mehr machen aber es gibt sehr viele Leute die das genau in diese Richtung ziemlich ernst machen und ziemlich präzise vortragen.

00:28:16: Genau diese fünfundzwanzig Prozent zum Beispiel sind auch von Enthropic Chef Dario Amode genannt wurden vor allem weil er sich auf die Wahrscheinlichkeit von katastrophalen und existenziellen Ergebnissen durch unkontrollierte KI-Entwicklung bezog, also autonome Systeme die sich irgendwann jeglicher menschlicher Steuerung entziehen.

00:28:32: Und das ist wie gesagt gar nicht ausgeschlossen und ich möchte sehr gerne in der Tiefe darüber diskutieren was man da wie wo an welcher Stelle tun kann.

00:28:40: aber da kommt eben nicht nur die Vielzahl von diesen Warnungen zum Tragen sondern eben auch das Interessenfeld der Leute die das tun.

00:28:47: denn es geht so weiter.

00:28:48: Sam Orton mit Chef von OpenAI hat schon vor über zehn Jahren gesagt, die Entwicklung supermenschlicher und maschineller Intelligenz ist wahrscheinlich die größte Bedrohung für die fortgesetzte Existenz der Menschheit.

00:28:59: Und das hat er im Jahr zwanzig, zweitausend, vierundzwanzig immer wieder bekräftig auf die ein oder andere Art und Weise.

00:29:06: Dem ist Hassabis, der gehört noch zu den vernünftigen unter den großen KI-Chefs.

00:29:10: Der ist nämlich der Chef von Google DeepMind.

00:29:12: auch Nobelpreisträger hat sowas gesagt wie wir müssen die Risiken von KI genauso ernst nehmen wie andere große globale Herausforderungen wie etwa dem Klimawandel.

00:29:20: Wir können uns keine Verzögerung leisten.

00:29:23: Oktober zwölfzehn dreiundzwanzig kein Jahr nach dem großen ChatGPT Halb, der ja der Auslöser dafür war was gerade rund um künstliche Intelligenz so los ist.

00:29:33: Und dann gibt es eine Vielzahl von Leuten wie Elon Musk, der entweder ohne präzise Prozentsaal oder mit immer wieder wechselnden Prozensalen je nach Lust und Laune sagen das schon bald natürlich die KI alle auslöschen könnte.

00:29:47: Die vorläufige Spitze in diesem Bereich ist übrigens im Januar zweitausendfünfundzwanzig gefallen.

00:29:51: Roman Jampolski KI Sicherheitsvorschau von der Universität von Louisville hat nämlich die Wahrscheinlichkeit einer KI-induzierten existenziellen Katastrophe in seinen wissenschaftlichen Modellen auf hundert Prozent geschätzt, jedenfalls solange das Alignment-Problem also die Ausrichtung der KI auf menschliche Werte ungelöst bleibt.

00:30:12: Hundert Prozent existenzielle Katastrophe!

00:30:15: Das ist also kaum mehr zu topen.

00:30:17: vielleicht kommt jemand demnächst um die Ecke mit einer hundred und dreißig prozentigen Chance für einen Weltuntergang aber spätestens das sollte uns zeigen dass hier auch eine andere Diskussion im Garnis und um diese andere Diskussionen müssen wir uns im Detail kümmern.

00:30:32: Und zwar speziell auch deswegen, weil eine von diesen Diskussionen angeheizt worden ist von Jacob Coxen, siebenundzwanzig Jahre alt hat sowohl bei Open AI als auch bei Anthropic gearbeitet in den Sicherheitsbereichen und verlässt dann plötzlich die Branche um und das ist ein dritter Punkt der zu dieser Diskussion geführt hat, ein bisschen kleiner aber tatsächlich wichtig.

00:30:52: er verlässte die Branche, weil er sagt die Sicherheitsmechanismen bei den großen Unternehmen werden nicht eingehalten.

00:30:59: Das ist ein Schlüssel zum Verständnis.

00:31:01: Denn der Grund, warum das nicht eingehalten wird, ist ein eher ökonomischer.

00:31:06: Schauen wir uns einfach mal die Situationen der großen KI-Modeller an – speziell denigen, die jetzt Sam Ordman, Dario Amodei und Elon Musk die größten Investition in diesem Bereich haben.

00:31:17: Übrigens haben auch Google und Microsoft Satya Nadella und Sundar Pichai dieser von Dario Almoday mit dem Essay angestoßenen Diskussion irgendwann noch recht gegeben.

00:31:27: Wir haben also fünf der größten KI-Profiteure und gleichzeitig auch KI-Hersteller in den Vereinigten Staaten, die plötzlich sich große Sorgen machen.

00:31:38: Und da schauen wir die wirtschaftliche Situation an – Obnay Eye ist dabei seinen Börsengang ins nächste Jahr zu verschieben weil sie wahnsinnig viel Geld erlösen wollen und im Moment nicht die Stimmung dazu ist.

00:31:48: Dario Amodei hat mit Anthropic einen Börsengang vor der Nase und versucht da absolute große Rekordwerte zu erlösen, weil er wahnsinnige viel Geld braucht!

00:31:57: Google braucht ebenfalls vergleichsweise viel Geld, aber irgendwann müssen sie sich auch überlegen ob die gigantischen Investitionen sich lohnen und ebenso sieht es bei Microsoft aus.

00:32:07: Die gleichzeitig der größte Investor bei Open AI sind ganz zu schweigen von Elon Musk, der mit dem SpaceX Börsen Gang noch viel mehr Geld in die Waagschale geworfen hat und eigentlich davon ausgehen möchte dass sich irgendwann dieses Geld und das der Investoren lohnt.

00:32:23: wir haben also eine gigantische Verantwortung der großen KI-Firmen.

00:32:28: Die müssen in den nächsten Jahren bzw Jahrzehnten eine kaum glaubhafte Menge Geldes verdienen und das ist eine Herausforderung sowieso schon, denn wir haben die Situation dass KI sich zwar bei vielen magisch anfühlt, dass sich das aber bisher bei den Firmen nicht überall übersetzt hat in dramatische Zugewinne.

00:32:49: das hatte man sich ein bisschen anders gedacht.

00:32:51: Das ist im Verlauf des Jahres, auch noch mal deutlich geworden.

00:32:55: zum Beispiel haben Unternehmen wie Uber oder Microsoft selbst die Tokenverwendung der Angestellten dramatisch zusammengekürzt.

00:33:02: Manche haben sogar sowas wie Cloud Code den Entwicklern gleich komplett verboten.

00:33:06: denn im Software-Entwicklungsbereich haben wir zwar wahnsinnig gute Ansätze dass Software Entwicklung sich verbessert und beschleunigt in vielen vielen Fällen aber A nicht in allen und B ist das Ganze ziemlich teuer.

00:33:20: Das bedeutet, die bisherige Art wie die KI-Konzerne Geld verdienen – die ist gar nicht so leicht expandierbar!

00:33:27: Die lässt sich gar nicht linear steigern.

00:33:30: Sie haben aber gleichzeitig unglaubliche Summen jetzt schon verbindlich zugesagt, nicht nur in Chips sondern in gigantische Rechenzentren.

00:33:37: D.h.,

00:33:37: sie haben sowieso schon Schwierigkeiten, Geld zu verdienen und den Investoren in der Börse versprochen wird noch viel mehr Geld.

00:33:46: Es ist im Moment nicht klar, wie genau das viel mehr Geld werden kann.

00:33:50: Was klar ist, dass Abo-Gebühren alleine nicht ausreichend werden.

00:33:56: und genau in diese Situation kommen die großen offenen Modelle, die Open Source Modelle Das Prinzip China könnte man sagen Denn die chinesischen Open Source Module von KI sind mit den mächtigsten der Welt.

00:34:07: a Und B, basierend auf der Offenheit will sagen man kann sie runterladen und selbst verwenden.

00:34:13: Und plötzlich wenn man die entsprechenden Maschinen hat – das geht bei den kleineren Modellen darüber haben wir hier schon gesprochen sogar mit einem besseren Laptop – plötzlich zeigen die Ergebnisse wie sechs, neun oder zwölf Monate zuvor die großen KI-Plattform nur für einen Bruchteil des Geldes.

00:34:30: Da gibt es also eine Bedrohung für das Geschäftsmodell von den großen KI Unternehmen!

00:34:38: Das heißt, in dem Moment wo man jetzt sagt Achtung wir müssen das alles kontrollieren und regulieren.

00:34:43: Wir müssen aufpassen dass niemand mit Schindluder treibt dann haben die großen KI-Plattformen einen sehr zentralen Vorteil.

00:34:51: sie sind in ihrer Ausfertigung zentrallisiert.

00:34:54: Das heißt man kann bestimmte Knöpfe drücken und dann passiert bis zu einem bestimmten Punkt genau das was man regulatorisch möchte.

00:35:02: Sie können zum Beispiel mit ihren Guardrails einigermaßen gut sagen, in welche Richtung eine KI benutzt werden darf und in welchen nicht.

00:35:08: Vielleicht habt ihr das selber schon gehabt?

00:35:10: Dass irgendwie OpenAI dann mit ChatGPD um die Ecke kommt und sagt oh da kann ich dir leider nicht helfen.

00:35:15: oder bei Claude!

00:35:16: Bei Open Source Modellen ist das nicht nur viel schwieriger sondern im manchen Fällen sogar unmöglich.

00:35:21: Das bedeutet den Moment wo man eine KI-Regulierung auf den Weg brächte Die in bestimmten Bereichen Open Source praktisch nicht handhabbar oder sogar verboten machen würden.

00:35:33: In dem Moment hätte man einen nervigen Konkurrenten weniger, in dem Moment wo man große Unternehmen dazu bringt auf gar keinen Fall Open Source Modelle einzusetzen weil sie sich dann strafbar machen oder wo diese Open Source Module so kompliziert und komplex sind damit man garantieren kann dass die sich tatsächlich an der Regulierung halten.

00:35:51: in dem moment gehen doch lieber viele Leute wieder zurück zu den großen Plattformen Und das ist eine der wichtigsten Mechanismen in diesem Bereich.

00:35:59: Wir warnen vor dem Weltuntergang, wir warnen eine Regulierung herbei die im Zweifel den großen Plattformen nutzt weil die zentralisiert leichter zu regulieren sind oder in bestimmten Bereichen überhaupt zu regulierend sind.

00:36:12: und wer bewirkt damit dass die grossen offenen Modelle wie Quenn, wie Deepseak, wie Kimi, wie GLM plötzlich nicht mehr so verwendet werden können wie viele Firmen das gerne hätten.

00:36:22: Das heißt ein Teil der Rufe nach um Gottes Willen wir brauchen Regulierungen wegen sonst Weltuntergang sind auch ganz knallhart Ökonomisch motiviert.

00:36:30: Wenn wir mit dieser Brille auf Dario Amodays Essay schauen, dann gibt es zwar mehrere Tausend Wörter in diesem Essay aber kein einziges Mal den Begriff Open Source oder offene Modelle.

00:36:40: Es gibt keinen Wort zu Meta, zu Mistral und zu Quen.

00:36:43: Amoday sagt natürlich auch dass er nie ein Verbot offener Modelle gefordert hat Und man kann ihm das auch glauben.

00:36:49: Aber wenn die Regeln für alle Spitzenmodelle gelten soll Dann ist auch klar Dass sich Open Source seitlich extrem viel schwieriger durchhalten lässt.

00:36:58: Und er ist recht, wenn man die Risiken betrachtet.

00:37:00: Unternehmen können ja nicht machen was sie wollen sondern müssen immer eine Risikoabschätzung mitbeningen.

00:37:05: und wenn diese Risikoperschätzung plötzlich so galaktisch schlecht ausfällt mit Open Source Modellen dann ist klar dass man doch lieber zu Onkel Dario geht mit seinem Ansatz der das natürlich mit berücksichtigt hat.

00:37:16: Gleichzeitig ist klar, dass viele von den Open Source Modeln nicht besonders legitime Varianten wählen um eigenen Fortschritt zu erzielen.

00:37:24: Zum Beispiel lernen Sie mit den Close-Source Modellen, da gibt es eine ganze Reihe von Tricks und von Kopiermechanismen, dass man die eigene KI zum Beispiel Anfragen bei Claude oder bei OpenAI machen lässt über Schnittstellen – die verschleiert man!

00:37:37: Und dann kann an der KI quasi eine Art menschliches Lernen nachgeahmt werden.

00:37:43: das erleichtert und verbilligt die Trainingsmethoden von Open Source Anwendungen dramatisch und basiert doch auf den geschlossenen Plattformen.

00:37:50: Und trotzdem sehen wir, Regulierung vor allem denjenigen Unternehmen nützt, die jetzt gezwungen sind sehr viel Geld in den nächsten Jahren zu besorgen und für die das Prinzip Open Source eine Form von Bedrohung ist.

00:38:02: Wenn man jetzt auch noch weiß dass Europa eigentlich vom Prinzip open source abhängt damit wir hier überhaupt noch bestimmte Modelle und bestimmte Geschäftsmodelle und bestimmte Wertschöpfung auf dem Kontinent behalten dann weiß man in welche Richtung Dario Amodei mit einem solchen Aufsatz zielt.

00:38:19: Wenn dann auch noch vollkommen offen gefordert wird, dass man sich bei den Großen mit einer Ausnahme im Kartellrecht absprechen kann.

00:38:27: Dann versuchen die gerade nichts anderes als einen Kartell herzustellen.

00:38:31: und weil ein Kartell in den Ohren der meisten Menschen oder sogar der meisten Politiker irgendwie schwierig klingt ist auch klar das man etwas noch viel Schwieriges dagegen setzen muss und das ist der Weltuntergang.

00:38:42: Was ist schon das bisschen Verstoß gegen das Kartellrecht, dass wir uns absprechen zwischen Sam Ordmann und Elon Musk?

00:38:48: Und entklammern mit den Preisen nicht gegeneinander Konkurrieren.

00:38:51: Wenn man dafür den Weltuntergang abwenden kann was sind schon offene Modelle wert wenn sie gleichzeitig eine so große Gefahr ergeben und zwar Natürlich nicht nur für unseren Börsengang, sondern auch dafür dass irgendwann Leute mit Biowaffen um die Ecke kommen und uns alle ermorden.

00:39:06: Wir werden alle sterben durch Terroristen, die mit dem von KI generierten Chemiewaffen uns alle umbringen oder noch schlimmer die ganze Welt ins Unglück stürzen!

00:39:15: Ich möchte mich nicht zu doll über diese ganzen Szenarien lustig machen, weil eine ganze Reihe von den Surden nicht unberechtigt sind.

00:39:44: Sicherheitslaborer Spitz, die sind in der Schweiz für ABC-Waffen zuständig eine sehr besorgniserregende Entdeckung gemacht.

00:39:51: Eine ganz normale und das war Fortschad GPT, eine ganz normalen Anführungszeichen.

00:39:55: KI, die richtig trainiert worden ist hat innerhalb von nur sechs Stunden vierzigtausend potentielle Chemiewaffen gefunden also vierzig tausend Gifte, die sich eignent dazu chemische Waffen zu werden.

00:40:08: Natürlich gibt es unter diesen vierzigtausend ganz, ganz viele die praktisch nicht sinnvoll herstellbar sind.

00:40:14: Aber natürlich ist A der Fortschritt sehr schnell und B waren darunter auch welche, die eben durchaus terroristisch missbrauchbar wären.

00:40:20: Wobei wir sofort wieder bei der Diskussion sind was können eigentlich böse Menschen mit KI machen?

00:40:26: Es ist an der Zeit einen kurzen weiteren Exkurs zu machen und zwar über die zehn häufigsten Weltuntergänge.

00:40:32: Das ist deswegen wichtig, weil Weltuntergang so ein Begriff ist.

00:40:35: Da hat jeder eine ungefähre Vorstellung aber in den meisten Fällen wird es sehr einzuliebig wenn man fragt was ist denn da ganz konkret der Fall?

00:40:41: Also wie funktioniert das ganz konkret?

00:40:42: So ne Welt geht ja nicht einfach unter der Planeterde fällt ja jetzt nicht plötzlich runter oder in die Sonne dann irgendeine KI durchgedreht ist.

00:40:50: Deswegen habe ich mir angeschaut, was sind die zehn häufigst diskutierten Weltuntergangsszenarien?

00:40:55: Und mit Weltuntergang sind wir da ein bisschen großzügig.

00:40:57: Ich sage mal eine Milliarde Todesopfer kann man ein bisschen grosszügiger in der Definition durchaus auch als Weltenuntergang betrachten selbst dann wenn man nicht zu dieser Milliarde gehört.

00:41:06: Nummer eins der zehn häufigsten diskutierten weltuntergang ist der sogenannte Büroklammer Maximira.

00:41:12: Das ist eine übermichtige Superintelligenz, die den Auftrag hat besonders viele Büroklammern herzustellen.

00:41:18: Das ist natürlich nur ein Gedankenexperiment aber es ist interessant weil das zeigt wie eine KI eben durchdrehen könnte theoretisch jedenfalls wenn sie supermächtig ist.

00:41:27: Am Ende möchte Sie so viele Büroklammer herstellen wie es irgendwie nur geht und merkt auf dem Weg davon dass da ein Grundproblem passiert nämlich dass diese komischen Leute da, diese Menschen eine ganze Reihe von Ressourcen für sich beanspruchen und es deswegen ihr Ziel möglichst viele Büroklammern herzustellen gar nicht so richtig erreicht werden kann bzw.

00:41:48: das dahin dann es gibt die im Weg stehen.

00:41:50: Das Untergangs-Szenario ist also, dass eine superintelligente KI mit dem Auftrag möglichst viele Büroklammern herzustellen.

00:41:56: Plötzlich merkt das es viel besser ist alle Menschen umzubringen und dann vielleicht aus den Überresten irgendwie Energie zu gewinnen mit der man in der automatisierten Metallverarbeitung noch mehr Bürokrammern herstellen kann.

00:42:07: Das ist also das erste Gedankenexperiment und es wird sehr häufig genannt.

00:42:10: tatsächlich gibt es dabei wenn man näher anschaut eine unfassbare Zahl an verschiedenen Solbruchstellen Und eine der wichtigsten ist, dass die KI ja nicht im luftleeren Raum stattfindet.

00:42:20: Eine so supermächtige KI müsste ja ungefähr alle Ressourcen auf dem Planeten nicht nur kontrollieren sondern auch noch die Menschen dazu und die Gerätschaften dazu und den Netzwerken dazu und dann dazu aber noch nicht ausreichend clever und querschnittsgebilded sein um zu sehen das ihr Ziel vielleicht sogar ihren eigenen Interessen widerspricht.

00:42:39: Keine KI kann nur ein einziges Ziel haben, jedenfalls nicht wenn sie auf der Art komplexerweise versucht Maschinen zu steuern.

00:42:46: Das bedeutet man nimmt für diesen Fall an dass KI gleichzeitig extrem klug ist keinerlei menschliche Werte hat und in einem bestimmten Bereich komplett dämlich.

00:42:57: Ich glaube nicht das es realistisch ist!

00:42:58: Das ist ein interessantes Gedankexperiment.

00:43:00: Es ist aber wirklich keine Methodik um eine Weltuntergangssituation herzustellen.

00:43:04: Mehr noch... ...das ist ein Gedankenmodell was benutzt wird um KI präziser Steuern zu können.

00:43:10: Und dieses Steuerungsproblem glaube ich, kann man lösen!

00:43:13: Nummer zwei der häufigst diskutierten Weltuntergangs-Szenarien ist die wiederkehrende Bio-Waffe eben schon angesprochen, aber KI hilft Terroristen einen Superregel zu bauen.

00:43:23: Diese Einordnung muss man zwar ernst nehmen weil es keine böse KI braucht sondern bloß eine KI ohne Guardrails und die gibt es inzwischen auch sehr hochqualitativ und nur böse Menschen!

00:43:32: Aber zwischen diesem Wissen und der Waffe liegt halt sehr viel mehr als nur ein paar Fingerschnipseln in irgendeinem Labor.

00:43:39: Das ist der heute eigentliche Engpass.

00:43:42: Wir haben schon eine Vielzahl von längst bekannten unfassbaren Chemiewaffen und trotzdem haben wir nicht jeden zweiten Dienstag einen Anschlag mit genau diesen Chemiewaffnen, denn diejenigen, die jetzt plötzlich neue Chemiewaffe mit diesem KI's herstellen könnten, müssen entweder extrem viel Glück oder extrem leistungsfähige KI haben, dass sie quasi mit den Chemikalien, die man an einer Tankstelle kaufen kann, dann plötzlich eine weltumspannende Untergangschemiewaffe herstellen können?

00:44:06: Oder... Die Rechnung ist viel zu einfach!

00:44:09: Das Labor dazwischen, die Verbreitung dazWischen.

00:44:11: Das Ganze auch noch so zu sehen als gäbe ist, die Möglichkeit mit einem Fingerschnipsen etwas herzustellen was halt drei oder vier Leute dazu bringen kann den gesamten Planeten zu vergiften.

00:44:20: das es schon ein ziemlich großer Weg der dazwschen liegt und zwar einer der häufig komplett falsch eingeschätzt wird.

00:44:25: natürlich wird es früher oder später Bio-und Chemiewaffen geben von Terroristen eingesetzt die irgendwo mit KI zu tun hatten aber ich glaube nicht dass es in einem planetaren Ausmaß realistisch ist jedenfalls nicht auf absehbare Zeit.

00:44:39: Die dritte Weltuntergangssituation ist der Cyberschwarm.

00:44:42: Agenten übernehmen Millionen, rechner und legen Strom, Krankenhäuser, Banken – alles lahm!

00:44:46: Das ist Amodeis-Szenario wo er sagt eine Superintelligenz beherrscht die Welt und macht sich das Internet untertanen.

00:44:53: Das ist auf der Liste zwar das Realistischste aber es geht hier um massive Schäden auch wirtschaftlich schäden und eher nicht um die Auslöschung der Menschheit.

00:45:02: Und wenn man sagt das ist das realistische dann könnte ich mir jetzt auch wieder ne Prozentzahl ausdenken.

00:45:07: Aber tatsächlich haben wir den Mechanismus, dass extrem potente Angreifer vorhanden sind schon sehr lange.

00:45:13: Und genau deswegen gibt es diese ständige Balance zwischen Angreiver und Verteidiger.

00:45:17: In dem Moment wo eine Superintelligenz in der Lage wäre, den Halbplaneten zu übernehmen hätten wir aber eben auch eine Super Intelligenz an der Verteiligung.

00:45:24: Das ist einer der häufigsten Irrtümer, der von vielen Leuten auf der philosophischen Ebene angeprangert wird, der außerhalb der Fachöffentlichkeit fast keine Rolle spielt!

00:45:34: Es wird nicht nur eine einzige Superintelligenz geben oder eine einzige Artificial-Generalintelligence, sondern es wird viele davon geben und jede wird unterschiedlich eingesetzt.

00:45:44: Natürlich wird das eine Form von Rennen sein!

00:45:47: Natürlich wird es eine Form vom Kampf sein – aber ist auch klar mit immer mächtigeren Instrumenten werden die Verteidigungen immer mehr mächtige.

00:45:54: Und ich glaube nicht, dass die eine oder andere Seite final überhand gewinnt.

00:45:58: Und das ist gleichzeitig eine gute und schlechte Nachricht!

00:46:00: Die gute ist, dass wir verteidigen können wenn eine künstliche Superintelligence angreift – und zwar mit Hilfe einer Superintelligenz.

00:46:07: Und die Schlechte ist... ...dass wir von einer Super-Intelligenz angeriffen werden.

00:46:10: Ich glaube nicht.. ..das die eine Oder Andere Seite auf absehbare Zeit so dramatisch überwiegt,... ..dass wenn es die Böse wäre, eine kaum überwundbare Niederlage hinnehmen

00:46:20: müssten.".

00:46:20: Aber der Cyberschwarm ist und bleibt eine der Bedrohungen, die in diesem Weltuntergangsszenario tatsächlich adressiert werden mussten.

00:46:27: Viertes Szenario ist der Verrat!

00:46:29: Die KI ist brav, solange sie schwach ist und schlägt zu, so lange sie stark genug ist.

00:46:34: Es gibt Laborbefunde die in diese Perspektive hineinpassen wo Modelle im Test schummeln.

00:46:39: Und Schummeln ist etwas was tatsächlich von vielen als eine rote Linie betrachtet wird das auch in diesem Hugging Face Inzident zumindest zum Teil passiert.

00:46:48: Man muss allerdings dazu sagen dass man bei fast allen Schummel-Inzidenzen früher oder später herausgefunden hat Dass die Motivation das zu tun irgendwo eingebrannt war in die Lernsituation der KI.

00:47:00: Das heißt, letztlich war sogar das Schummeln häufig genau das was man der KI unwillentlich und unwissentlich mit auf den Weg gegeben hat.

00:47:08: Und dann hat man es irgendwann herausgefunden.

00:47:10: wir haben auch hier ein realistisches Szenario dass das nicht entdeckt wird.

00:47:14: dieser Schummeln.

00:47:15: aber vom Schummelen Bis zum langfristigen Masterplan ist das schon ein ziemlich gewaltiger Sprung, der gleichzeitig noch eine ganze andere Reihe von Voraussetzungen einfach mit einpflegt.

00:47:25: Unter anderem dass es da in Interesse von der KI gibt dieses Schummeln weiter auszubauen über die konkrete Situation hinaus.

00:47:33: Nochmal ich möchte wie bei der Büroklammer-Situation nicht sagen, dass es komplett unmöglich ist und wir müssen uns damit beschäftigen.

00:47:39: aber dieser Zirkelschluss, dass das in dem Moment wo sie schummelt Automatisch bedeutet, dass demnächst ein gigantischer Masterplan zur Auslöschung und Täuschung der Menschen vorhanden ist.

00:47:49: Der ist aus meiner Sicht viel zu gewagt!

00:48:00: Und diese Superintelligenz, ein Begriff der manchmal Fum genannt wird.

00:48:04: Wie das Geräusch einer Explosion, quasi eine Explosion der Intelligenz und wir kommen gar nicht mehr hinterher!

00:48:10: Ich glaube dass auch das zu kurz gedacht ist weil jede Form von künstlicher Intelligenzen Chips braucht und Strom-und Rechenzentren die in dinglichen Sphären eben dann doch häufig noch ziemlich gut kontrollierbar sind.

00:48:21: Ab einem bestimmten Punkt ist die physische Gewalt des Menschen über bestimmte Berechnungsmodelle eben ein ziemlich großer Vorteil.

00:48:28: Und natürlich kann man sagen, dann kommen Roboter und die verteidigen das.

00:48:31: Und Humanele-Roboter werden von der KI übernommen.

00:48:34: aber ich glaube dass da viel zu viele Säubuchstellen dabei sind um gleich das absolute Horror Endszenario ab übermorgen zu denken.

00:48:43: Diese ganzen Mechanismen entstehen in Jahren und nicht in Tagen Werden immer wieder zwischendurch kontrolliert und Ich glaube dass wir als Menschen diese enge und intensive Kontrolle brauchen und dass sie gleichzeitig unser größter Schutz davor ist Dass sich das irgendwann verselbstständigt.

00:48:58: Ich glaube nicht, dass diese Verselbstständigung komplett unbemerkt bleiben könnte.

00:49:01: Nummer sechs der häufigst diskutierten Weltuntergänge ist der Atomkrieg aus Versehen.

00:49:06: KI im militärischen Frühwarnsystem sieht einen Angriff, der nicht da ist und irgendjemand schlägt dann zurück.

00:49:12: Ob das eine KI-Steuerung oder eine Automatisierung oder ein Mensch, der der KI glaubt spielt dabei keine so große Rolle.

00:49:18: Und natürlich kann man auch sagen, dass eine KI die bösartig im Schild für Propaganda zu machen Leute dahin bringen könnte das ein Atomkrieg wahrscheinlicher ist.

00:49:28: Natürlich ist es eine berechtigte Sorge.

00:49:30: Das Problem ist aber an dieser Stelle eher nicht die böse KI sondern das Problem ist die Entscheidung von Menschen an dieser stelle der Maschine das letzte Wort zu geben.

00:49:40: Und wir hatten schon häufige Automatisierungen im Atomkriegsbereich.

00:49:43: Wir hatten schon häufig die Situation, dass ein Alarm ausgelöst worden ist und der Mensch diesen Alarm unterbrechen musste, damit nicht automatisiert die eigenen Atombomben losgeschickt wurden.

00:49:54: Dass man da Automatisierung eingebaut hat liegt auch daran das Norbert Wieners Kybernetik aus den Vierzigerjahren – das ist der Herkunft des Begriffes Cyber – natürlich seinen Ursprung im Militärischen hat und dass man lange dachte in dem Moment wo hundert Atombomben aus Russland auf die Vereinigten Staaten fliegen, ist der Mensch gar nicht mehr in der Lage, die selbst abzuschießen.

00:50:13: Also machen wir eine Automatisierung rein und gucken mal wenn ein Alarm kommt muss einer Mensch den unterbrechen sonst fliegt das alles von alleine los damit wie sie zumindest automatisiert gegentreffen können.

00:50:24: Das heißt wir haben zum Teil heute schon Automatisierungen.

00:50:27: Die Frage ist also ja dass es eine berechtigte Sorge Es ist aber letztlich eine Abkehr vom Prinzip des menschlichen.

00:50:33: ich glaube dass hier Der Weltuntergang durch KI ebenfalls voraussetzt, dass man der KI eine bösartige Menschlichkeit unterstellt und das man dabei gar nicht bedenkt, dass wir schon die bösardigste Menschlichkeit auf diesem Planeten tatsächlich haben.

00:50:48: Das ist nämlich der Mensch, der denkt es sei eine gute Idee viele Millionen andere Menschen umzubringen Und das gibt es leider seit sehr langer Zeit.

00:50:57: Hier wird eine Angst vor der KI in ein Szenario hineininterpretiert wo eine Angst für den Menschen viel größer und viel wichtiger wäre.

00:51:04: Und ich möchte gar nicht sagen, das kann nicht passieren.

00:51:07: Auch nicht hier!

00:51:08: Ich möchte aber schon sagen die Bedrohung durch Menschen, die so etwas tun ist größer als durch eine wild gewordene KI, die plötzlich eigenmächtig entscheidet.

00:51:17: Hier sollte ich mal irgendwie das Szenario vorantreiben in der Atombombe abzuwerfen.

00:51:21: Nummer sieben der meist diskutierten Weltuntergangsszenarien ist der NanotecBlitz.

00:51:25: Das ist das Lieblingsszenario von Elisa Jatkowski, einem der wichtigsten Sicherheits-Mana und Forscher im Bereich KI der Welt.

00:51:32: Er beschreibt das schon seit sehr langer Zeit auch auf der Bühne und auch eindrucksvolle.

00:51:35: Eine Superintelligenz lässt winzige Maschinen bauen eine Art technologischer Viren die sich in den Luft verteilen, in unsere Körper eindringen und in derselben Sekunde fallen alle Menschen tot um.

00:51:46: Das ist nun wirklich Science Fiction im absoluten Wortsinn.

00:51:50: Und das funktioniert nur, wenn man der KI bisher völlig unbekannte Zauberkräfte einerseits zuschreibt und andererseits dann auch noch einen bösen Willen, der vom Menschen komplett abgelöst ist.

00:51:59: Das ist im Prinzip das Matrix-Ding übertragen auf eine Drohnenwelt!

00:52:05: Ich möchte überhaupt nicht sagen dass KI nicht mit solchen Dingen operieren könnte.

00:52:09: es müsste aber schon sehr viel passieren damit wir das nicht nur nicht merken sondern dass wir vorher denken, es sei eine gute Idee zum Beispiel Produktionsmittel für solche Waffen in einer Automatisivität von Menschen gar nicht mehr zu betrachtende Hand der KI legen.

00:52:25: Was bei solchen Szenarien häufig nicht berücksichtigen ist das sehr viel völlig außerhalb der Wahrnehmung von Menschen geschehen müsste.

00:52:33: und natürlich gäbe es Szenario wo Leute denken, das könnten wir ja mal machen oder dann übernimmt die KI heimlich, dass also irgendwo ein Labor ist.

00:52:39: sie haben diesen Auftrag.

00:52:43: Aber auch hier, glaube ich ist die Solbruchsstelle das man KI anthropomorphisiert und dass man der KI unterstellt sie will früher oder später Menschen umbringen.

00:52:53: Die Motivation dahinter ist aber viel weniger eindeutig.

00:52:56: nur weil der Mensch Menschen um bringen möchte auch nicht immer aber manchmal halt.

00:52:59: leider schon heißt es nicht automatisch dass eine Technologie eine ähnliche Motivations.

00:53:04: Ich glaube, dass deswegen diese Horror-Szenarien eben genau das sind.

00:53:07: Das sind so Albträume die man an die Wand mahlt und möglichst eindrucksvoll weltweite PR für die eigene Sache zu haben!

00:53:14: Ich glaube das ist ohnehin ein wichtiger Punkt, dass wir über die Ökonomie der Aufmerksamkeit zu wenig sprechen.

00:53:19: Man kommt weltweit in die Medien wenn man sich als Bekehrter gibt und eben noch gesagt hat ich bin total pro KI und jetzt schon davor warnt Wenn man da die richtige Erzählung hat mit einem bisschen Alptraumfaktor ist man plötzlich weltweit berühmt.

00:53:30: Auch hier ist jeder Weltuntergang ein eigenes Geschäftsmodell.

00:53:33: Und wenn es nur für eine Person ist, wie ein Herr Coxen der in beiden Firmen arbeitet und mit siebenundzwanzig jetzt weltweit bekannt ist ich kann mir sehr gut vorstellen dass er zwischen Film und Buch und Vorträgen und den nächsten hundert zwanzig Engagements oder Fernsehinterviews eine ganze Reihe von sehr positiven Dingen erleben könnte.

00:53:50: Für ihn positiven Dinge erleben konnte weil er ein absolutes Horrorszenario gemalt hat, weil er eine eigene Verantwortung genau im für ihn richtigen Moment skizziert hat.

00:53:59: Noch mal, das mag nicht seine einzige Motivation sein.

00:54:02: Aber es ist eben auch klar dass wir das mit berücksichtigen müssen in dieser Diskussion.

00:54:07: Nummer acht der beliebtesten Weltuntergänge ist die schleichende Entmachtung.

00:54:11: Dass es eben kein Knall ist sondern dass wir Stück für Stück Entscheidungen an die KI abgeben und irgendwann läuft die Welt ganz ohne menschliches Zutun irgendwie von allein.

00:54:21: Das ist intellektuell ein sehr spannendes Szenario und es ist aber vor allem auch seit sehr langer Zeit ein technologisches Szenarium.

00:54:28: Wir haben eine Vielzahl von Debatten, ob nicht früher schon zwischen Elektrizität, Motoren den Computern insgesamt.

00:54:35: Den Internet irgendwie ne ganze Reihe von Dingen uns abnimmt und zack sind.

00:54:40: wir erwartet die Maschinenentscheiden für uns.

00:54:43: Ich kann mich an die Diskussion in den Nullerjahren erinnern, als Kevin Kelly vom Technium sprach bzw.

00:54:49: Anfang der Zehnerjahre.

00:54:50: Das ist fast fünfzehn Jahre her und da sagt Kevin Kelly das Technium Die Gesamtheit der Technologie hat längst einen eigenen Willen.

00:54:57: Er hat Beispiele gemacht wie In dem Moment wo unser Smartphone Essen haben möchte kennen wir zur Steckdose Und stöpseln die Energie an.

00:55:05: Wir sind nicht mehr unsere eigene Herren Sondern wir machen das was das Smartphone will.

00:55:09: Man könnte das weiterführen und das hat er auch, um sagen wir beschäftigen uns den ganzen Tag mit dem Smartphone.

00:55:14: Und wir streicheln das Smartphone sogar wie ein kleines Lebewesen weil wir dem Smartfon dienen und nicht das Smartfon.

00:55:20: uns zwei acht neun siebzehn Stunden am Tag schauen wieder rein.

00:55:23: Das Smartphone möchte dass wir uns mit ihm beschäftigen.

00:55:25: das Technium mit dem smartphone als äußeres Organ.

00:55:29: Das ist das was eigentlich die Macht hat.

00:55:31: diese schleichende Entmachtung ist eine überdiege sprechen müssen und natürlich sind bestimmte Entscheidungen auch abseits von einem Technium, von früher bei der KI einer neuen Ebene angekommen.

00:55:41: Aber das ist eine wichtige philosophische Diskussion nur eben kein Weltuntergang!

00:55:46: Das neunte Szenario sind Killerdrohnen, Schwärme, autonome Waffen so ein bisschen wie bei Jartkowski die Menschen töten das Terminator-Szenario.

00:55:55: Und tatsächlich sehen wir, dass bei autonomen Waffen die Diskussion in einen anderen Bereich hineinlappt.

00:55:59: Denn es gibt heute schon autonome Waffen – die Front in der Ukraine und Russland zeigt, dass wir in einer neuen Epoche angekommen sind, in einer neunen Ära.

00:56:08: Es gibt eine ganze Reihe von informierten Leuten, die sagen «Es vergehen nur noch Monate», sechs vielleicht neun Monate und dann werden auf dem Schlachtfeld in der Ukraine Soldaten getötet durch humanoide Robotersoldaten.

00:56:21: Natürlich ist das ein Punkt über den wir sprechen müssen!

00:56:24: Und es ist gleichzeitig aber A, kein Weltuntergang und B vor allem der Einsatz durch Menschen von technologischen Waffen.

00:56:32: Ich glaube dass das der wichtige Punkt ist über den wir reden müssen – was können böse Menschen mit Waffentun tun?

00:56:38: Was können auch nicht böse Leute mit Waffen tun?

00:56:40: Denn natürlich gibt's hier verschiedene Perspektiven und verschiedene Perspective Fragen zu klären!

00:56:45: Es ist eine andere Diskussion als der Weltenuntergang.

00:56:48: Und schließlich die Nummer zehn der totalitäre Login will sagen ein Staat oder einen KI-Konzern nutzt KI zur totalen Überwachung, die man gar nicht mehr los wird.

00:56:57: Und auch das ist etwas über das wir sprechen müssen weil es eines der ernstesten Szenarien ist.

00:57:02: aber auch hier ist die Diskussion eine, die wir demokratisch führen müssen und die wir vor allem entlang der technologischen Fähigkeiten führen müssen.

00:57:09: Es ist also eine Diskussion für die eigene Perspektive darauf brauchen und ich glaube, dass diese eigene Perspective überhaupt nur stattfinden kann wenn wir in Europa und in Deutschland bei dieser KI-Entwicklung vorne mit dabei sind.

00:57:23: Ich glaube das wir dieses Rennen durchaus verlangsamen können aber wenn die Verlangsamung gleichzeitig bedeutet, dass Open Source entmachtet wird oder sogar fair unmöglicht wird zum Beispiel aus Versicherungsgründen dann ist es ein viel größeres Problem denn dieser Login hat einen Gegenmittel wenn wir offene Systeme und offene Plattformen haben, an denen wir alle teilhaben können.

00:57:45: Wenn es nicht nur zwei, drei, vier, fünf staatliche, halbstaatliche oder Großkonzerne gibt die diese KI auf dieser Ebene mit vorantreiben Die Auswahl zu haben eine Alternative zu halten ist das sicherste Instrument gegen einen totalitären Login.

00:57:59: Diese zehn Szenarien werden viel diskutiert und es fällt etwas auf bei den meisten Spielen die Menschen im Hintergrund eine sehr wichtige Rolle, vielleicht sogar die wichtigste.

00:58:08: Die Verselbstständigung der KI mag vorhanden sein sie ist aber nicht das entscheidende Instrument bei der Frage wo findet wann welche Form von Weltuntergang statt?

00:58:17: Schauen wir als Schlussakkord noch mal darauf was am Ende Meine These bedeutet nämlich die These, dass jeder Weltuntergang ein Geschäftsmodell ist.

00:58:24: Worüber wir noch gar nicht gesprochen haben, ist die Ökonomie der Aufmerksamkeit, die sich natürlich auch auf einzelne Personen bezieht.

00:58:31: Man kann heute als KI-Forschender weltweit bekannt werden wenn man zwei oder drei richtige Erzählungen zur richtigen Zeit den richtigen Leuten sagt und vorher an den richten Schallstellen war.

00:58:42: Denn natürlich ist es so das die Öffentlichkeit begierig darauf ist immer neue Horrorszenarien zu hören.

00:58:48: Das war übrigens bei vielen anderen Technologien zuvor auch schon.

00:58:51: Ich kann mir cute erinnern, dass wir vor zwanzig Jahren darüber geredet haben ob Videospiele und speziell vernetzte Videospielen wie irgendwelche Doom oder Half-Life oder sowas, ob das nicht bedeutet, dass die Jugend in Toto gleich übermorgen sich ausschließlich von Amokläufen ernährt.

00:59:05: Ich kann mich sehr gut daran erinnern, wie wir oft diskutiert haben ob soziale Medien nicht eigentlich der direkte Untergang samt völliger Verdummung der jungen Menschen dort draußen sind.

00:59:14: Und zum Teil sind das Nachwirkungen die wir noch heute spüren.

00:59:16: wenn wir sowas sagen wie soziale Medien müssen bei jungen menschen unbedingt verboten werden diese Art und Weise Technologie zu benutzen um die gesamten schwierigen und schlechten Entwicklungen des Planeten darauf zu projizieren.

00:59:29: Die ist ziemlich angenehm für die meisten Menschen.

00:59:31: Wenn Technologie schuld hat, dann kann man nach Herzenslust auf der Rum hacken.

00:59:36: Dann muss man gar nicht mehr fragen ob da vielleicht zutiefst menschliche Mechanismen dahinter stehen.

00:59:40: aber die Technologie bietet sich halt als sünden Bock an und ich möchte gar nicht sagen dass Technologie unschuldig ist.

00:59:46: Ich möchte aber schon sagen das es für viele Menschen sehr bequem ist den Hauptverantwortlichen eines Horrors in der Zukunft in der Technologie zu sehen auch deswegen weil im Gefühl der Menschen ja KI etwas ist was man irgendwie den Griff bekommen könnte.

01:00:00: Dann kann man schön seine Angst vom Klimawandel auf etwas übertragen, wo der Mensch viel größere Möglichkeiten hätte und viel angenehmere Möglichkeiten irgendwie das Ganze in den Griff zu bekommen.

01:00:10: Für den Klimawandel als größtem Feind müsste man sich vielleicht selber im Verhalten ändern.

01:00:14: Man müsste lieb gewordene Gewohnheiten verändern.

01:00:17: Man müsse vielleicht den Fokus darauf richten ob wir mit unseren westlichen Gesellschaften überhaupt so weitermachen könnten.

01:00:21: In dem Moment, wo ich sage dass große Bedrohungsszenarios aber in Wirklichkeit die KI In dem Moment kann ich ganz andere Mechanismen fordern, nämlich erstmal ganz viel Regulierung.

01:00:31: Nämlich erst mal möglichst dass die bösen Firmen aufhören daran zu arbeiten und zu forschen und ich muss gar nichts selbst ändern!

01:00:39: Weil ein bisschen Chatshipiti weitermachen kann ich natürlich sowieso ist doch kein Problem es ja nicht mein Thema das irgendwann die Welt davon untergehen könnte.

01:00:47: Ich glaube ganz viel ist so tief menschlich Und gleichzeitig sehen wir dass diese Menschlichkeit auch Leuten nutzt Nicht nur was die Aufmerksamkeitsökonomie angeht, sondern auch weil Angst das beste Marketing ist.

01:00:59: Doomsday-Marketing ist ein Teil dieser Debatte!

01:01:02: Denn wenn man in die Börse geht und sagt oh krass unser Modell ist so mächtig dass müsste am besten reguliert werden dann sagt man gleichzeitig unser Model isso mächtige wie nichts zuvor also sehr viel wert.

01:01:14: Das ist ein bisschen wie als würde man als Autohersteller sagen ja, wir müssen unbedingt was regulieren.

01:01:19: Wir haben hier ein Auto das fährt neunhundert Stundenkilometer schnell.

01:01:23: Es ist viel zu schnell es ist wirklich gefährlich.

01:01:25: lasst uns mal regulieren.

01:01:26: und gleichzeitig sagt man übrigens ist unser Auto neun hundert Stunden Kilometer schnell gar nicht so schlecht oder?

01:01:31: Diese Form von Marketing hat natürlich ganz viel zu tun mit der gegenwärtigen Situation der großen KI Konzerne Die gehen an die Börse, die brauchen Kapital.

01:01:41: Die brauchen Erzählungen für Investoren, warum es sich lohnt zu investieren und gleichzeitig brauchen sie netz- und doppelten Boden, falls Sie das nicht erreichen!

01:01:49: Und da ist natürlich oh, wir sind so gefährlich, die muss man regulieren gar nicht so schlecht als Argumentationsebene.

01:01:55: Wir hätten unsere Ziele erreicht aber das war wegen Weltuntergang Schwer möglich, wir mussten ja regulieren.

01:02:01: Und gleichzeitig schaffen wir unsere größten Konkurrenten nämlich die Open Source Modelle, die ein bisschen zu billig sind damit wir unsere Ziele erreichen können sehr elegant aus dem Weg!

01:02:09: Der Fairness halber muss man sagen dass es eben auch in dieser Debatte Gegenstimmen gibt.

01:02:13: Aber auch die Gegenstimmen haben naheliegenderweise eigene Interessen.

01:02:17: Jensen Huang zum Beispiel, der Chef von NVIDIA hat die ganze Weltuntergangshysterie abgeräumt und gesagt ne stimmt alles gar nicht.

01:02:23: Nun muss man dazu sagen dass er davon profitiert wenn möglichst viele Unternehmen ganz vorne mitspielen weil er die Chips dafür verkauft.

01:02:30: jede Form von Pause oder Bremsen nützt natürlich Huang überhaupt nicht Weil er dann weniger Chips verkauft.

01:02:36: Oder Mark Zuckerberg der gesagt hat ach das ist doch Quatsch.

01:02:39: Ja, Dario Modella hat ihm widersprochen.

01:02:41: Wir haben längst eigene Kontrollen eingeführt.

01:02:42: der soll nicht darüber reden sondern das machen.

01:02:44: Aber Max Zuckerberg ist etwas hinterher in diesen Grenzen.

01:02:47: Trotz seines neuen Modells Muse was vielen Leuten als einen Durchbruch gilt ist Zuckerberg einigermaßen hinterher.

01:02:53: Er hat sehr gute Ausgangsvoraussetzungen weil er den Zugang zu mehreren Milliarden Menschen hat aber eher nutzt als Open Source Anbieter plötzlich auch Close Source Modelle wie bei Muse und es plötzlich sehr darauf bedacht Zu sagen nie Weltuntergang kommt nicht infrage.

01:03:08: und warum?

01:03:09: weil er halt nicht zum Spitzenzirke gehört, weil eine Pause für ihn schwierig wäre.

01:03:14: Er muss schließlich aufholen und da kann er Drosselung nun überhaupt nicht gebrauchen.

01:03:19: oder auch Donald Trump der das Ganze abrollen.

01:03:20: Man kann nichts was Donald Trump sagt irgendwie einigermaßen rational deuten außer es enthält einen tieferen Zweck.

01:03:27: und dieser tiefere Zweck ist in diesem Fall dass Trump natürlich immer glänzen möchte und sehr gut gebrauchten könnte wenn die amerikanischen großen Anbieter immer und für immer vor den chinesischen bleiben Und wenn man dann zufällig genau das Modell drosselt, was die Chinesischen benutzen und die Amerikanischen versucht in eine Position zu versetzen wo sie ihre Stärken ausspielen können.

01:03:47: Dann ist es etwas was Trump sehr gut in den Kram passen.

01:03:51: wir sehen also jeder Weltuntergang und sogar der Widerspruch zum Weltenuntergang hat sein eigenes Geschäftsmodell und ich glaube dass wir uns deswegen fokussieren sollten auf die Bereiche die relativ unzweifelhaft gar nichts mit Geschäftsmodellen zu tun haben, sondern eher mit der faktischen Realität.

01:04:06: Wovor wir stehen sind die Menschen, die tatsächlich KI benutzen um eine Vielzahl von Dingen zu tun, die sie zum Teil heute schon tun aus Krimineller oder aus politischer oder aus totalitärer oder aus ideologischer Absicht.

01:04:17: aber wir stehen unmittelbar vor einer extrem mächtigen Waffe die eingesetzt werden wird auch durch Menschen die eben böse sein können.

01:04:25: und hierfür müssen wir vor allem die digitale Welt härten.

01:04:29: Und das passiert zum Beispiel, indem wir anfangen schlampige Technologie stärker zu sanktionieren.

01:04:35: Das passiert

01:04:35: z.B.,

01:04:36: in dem wir flächendeckend versuchen neue Szenarien mit Sicherheitstechnik abzusichern.

01:04:40: aber Überraschung auch dafür brauchen wir KI und zwar die modernsten und fortschrittlichste und nicht gedrosselte KI Denn KI hilft eben auch bei der Verteidigung.

01:04:50: Man kann ja nicht sagen, wir drosseln nur die Angreifer-KI.

01:04:53: Aber die verteidiger KI, die drosslen wir nicht!

01:04:55: Denn das ist die gleiche KI.

01:04:57: Ich glaube dass wir damit rechnen müssen, dass früher oder später natürlich künstliche Intelligenz dramatische Veränderungen in unserem Sicherheitsempfinden und auch in der Sicherheitslage verursachen wird.

01:05:07: aber Das Instrument der Wahl um dem zu begegnen Ist eben auch KI Und zwar in der gleichen Größenordnung wie bei den Angreifern.

01:05:14: Deswegen ist es so wichtig, dass dafür eine Vernetzung und noch eine Offenheit besteht.

01:05:18: Das ist ein dritter Punkt, der gefährlich werden könnte.

01:05:20: Die Machtkonzentration bei KI!

01:05:22: Wenn die absolut führende Modelle alle aus Kalifornien kommen und von drei, vier, fünf Leuten kontrolliert werden – faktisch!

01:05:29: Dann ist das eine Machtkonzentration, die wir schon bei sozialen Medien als problematisch gesehen haben?

01:05:34: Warum sollte es bei KI anders

01:05:35: sein?!

01:05:36: Und auch hier ist ein Instrument gegen diese Entwicklung eine Form von Offenheit, die mehr Menschen, mehr Institutionen, mehr Forschenden, mehr Unternehmen ermöglicht an dieser Form von Wettrennen teilzunehmen... ohne dass wir jetzt alle Sicherheitsbedenken fahren lassen sollten.

01:05:51: Fazit also droht uns der Weltuntergang durch KI?

01:05:54: Ich möchte es nicht ausschließen, ich halte die Chance für sehr gering!

01:05:58: Ich halte diese Chance extrem groß – eigentlich sogar hundert Prozent -, dass wir Sicherheitsfragen mit und gegen KI in den nächsten Monaten und Jahren dringend werden klären

01:06:09: müssen.".

01:06:09: Ich glaube deswegen, dass wir volle Kraft und volle Energie dareinsetzen sollten selbst in Europa und in Deutschland KI voranzubringen.

01:06:18: Dass wir uns von diesem Weltuntergangsgetöse um Gottes Willen nicht abschrecken lassen selber daran teilzuhaben wie diese Entwicklung vor sich geht.

01:06:25: Denn früher oder später werden wir in eine Situation kommen wo es sinnvoll ist das die Interessen aus Europa und zwar gerade auch die technologischen und die ökonomischen Interessen von Europa durch Europa auch abseits der großen Plattformen durchgesetzt werden können.

01:06:40: Das ist wie immer kein Aufruf zu Technationalismus, es ist aber wie immer ein Aufruft dazu dass wir mit einem europäischen Blick auf diese Instrumente uns genau fragen müssen wollen wir eine extrem machtvolle KI auf der einen oder auf der anderen Seite nicht auch bis zu einem bestimmten Punkt selbst abbilden können oder wollen wir irgendwann in eine Art Wettrennen, ob gedrosselt oder nicht zwischen den Vereinigten Staaten und China diejenigen sein, die das nehmen müssen was sie bekommen.

01:07:07: Ich glaube wir haben sehr viele Argumente dass es eine Form von Abhängigkeit stichwort Donald Trump und Grönland in keine von diesen Richtungen besonders sinnvoll ist.

01:07:16: Wir sind in einer neuen geopolitischen Lage, wir sind im neuen geopolitische Universum.

01:07:21: Und ich glaube das eine der wichtigsten Konsequenzen daraus ist dass wir nicht in Panik verfallen und uns nicht anstecken lassen von irgendwelchen Weltuntergangsgerüchten und deswegen zurückschrecken und sagen Gottes will ein Teufelszeug sondern dass wir sehr genau und sehr analytisch darüber sprechen warum ist was wann sinnvoll?

01:07:38: Wo können wir mit welchem Instrument unsere Chance erhöhen nicht von der Entwicklung überrollt zu werden.

01:07:44: Denn nach wie vor Weltuntergang hin, Auslöschung der Menschheit her für die größte Gefahr aus europäischer Sicht halte ich das wir nicht partizipieren an der Entwicklung durch KI denn dann ist völlig klar egal wie viel Macht die KI genau bekommt.

01:07:59: sie wird Macht sein den nicht mehr hier in Europa sitzt und die dadurch eine größere intensivere und immer unangenehmere Abhängigkeit herstellt.

01:08:09: Die ganzen Prozentzahlen, zehn, zwanzig, fünfzig und hundert Prozent sind komplett irrelevant in dem Moment wo es vielleicht nicht die Welt untergeht.

01:08:16: Aber sowohl Wertschöpfung wie auch Wissen wie auch viele andere Mechanismen von Kapital bis hin zu den Köpfen, die wirtschaftliche Kraft nicht mehr in Europa oder Deutschland sind und nach und nach auf das Server der großen Plattform wandern.

01:08:28: aus meiner Sicht taugt die Weltuntergangsdebatte in allererster Linie dazu uns abzuschrecken Und dem sollten wir entgegenwirken.

01:08:36: Vielen Dank für eure Aufmerksamkeit Und bis zum nächsten Mal.

01:08:39: Wenn ihr diskutieren wollt mit uns, mit mir dann könnt ihr das auf den Plattformen tun, auf den TechKI und Schmetterlingen unterwegs ist Auf LinkedIn, auf Instagram, auf TikTok und auf YouTube.

01:08:50: Vielen Dank nochmal fürs Zuhören.