Killerroboter und unsere Zukunft (Bitte nicht schlecht gelaunt hören!)

00:00:01: Guten

00:00:07: Tag und herzlich willkommen zu einer neuen Ausgabe von Tech, KI & Schmetterlinge.

00:00:12: Dem Podcast von mir Sascha Lobo in Zusammenarbeit mit schwarz digits dem deutschen Technologiepartner für digitale Souveränität in Europa.

00:00:22: das Thema heute wird klar durch mein Eingangs Zitat.

00:00:28: Im Dezember-Zw.A.

00:00:30: hat China damit begonnen, humanoide Roboter der Walker S II Serie an Grenzübergängen in der Stadt Fangchengang an der Grenze zu Vietnam zu stationieren.

00:00:41: Die Roboter sollen dort Patrouillen und Kontrollgänge durchführen beim Transport von Ausrüstung helfen und bei der Lenkung des Personenflusses an Checkpoints unterstützen.

00:00:51: Durch die Fähigkeit des Walker S II selbstständig seine Batterien zu wechseln, ist nahezu ein Vierundzwanzig Sieben-Einsatz möglich.

00:01:00: Das hört sich erst mal an wie Science Fiction ist es aber nicht!

00:01:03: Es ist ein Zitat aus dem Cyber Security Report.

00:01:06: zwei Tausend Sechs und Zwanzig von Schwarz Digits.

00:01:10: Diesen Report kann man sich runterladen, was ich übrigens auch empfehlen würde.

00:01:14: Denn im Verlauf der Sendung sehen wir noch das es nicht um eine Anhäufung von Statistiken handelt sondern dass da ganz konkrete Szenarien beschrieben werden, was auf uns zukommt.

00:01:24: Das ist ein bisschen wie eine Mischung aus Science-Fiction und einer Liste von Dingen die überfällig sind zu tun.

00:01:32: Das Thema über das wir heute sprechen schmiede sich ziemlich eng an das Zitat, das ich gerade gegeben habe.

00:01:39: Der Cyber Security Report in den letzten Jahren beschäftigt sich natürlich mit der ganzen Spreizbreite von dem, was im Bereich Sicherheit in so komplexen und schwierigen Zeiten wie der in der wir gerade leben alles so unterwegs ist.

00:01:53: Um in den Cyber Security-Report aber ein bisschen tiefer einzugtauchen möchte ich erst mal feststellen dass der für Experten genauso interessant ist wie für Leute die vielleicht Entscheider oder Erscheiderinnen sind, aber nicht das umfangreiche technische Fachwissen mitbringen.

00:02:09: Und vor allem ist es für alle auch verständlich!

00:02:12: Das erste Kapitel vom Cybersecurity-Report in den vergangenen Jahren im Jahr- und Zwanzig von Schwarz-Didgets besteht v.a.

00:02:17: daraus, dass weltweite Studien zur Cybersecurity der letzten Monate zusammengefasst werden – vergleichend zusammengefasst werden, um einen aktuellen Stand in der ganzen Breite zu bekommen.

00:02:30: Im zweiten Kapitel dann die Ergebnisse einer repräsentativen Wirtschaftsumfrage in Deutschland zu Cybersecurity und auch digitaler Souveränität.

00:02:38: Also den beiden großen Themen, die geopolitisch von höchster Relevanz sind und noch relevant da sein werden.

00:02:45: Dann haben wir das Kapitel drei Robotik natürlich, von dem wir jetzt doch sehr viel hören werden.

00:02:53: Das Kapitel vier Wie können wir digitale Souveränität messbar machen, zum Beispiel für Ausschreibungen?

00:02:59: Denn wir wissen alle der Weg dorthin zu digitaler Souveranität.

00:03:03: Der führt halt nicht über an aus Null eins digitale schwarz-weißwerte sondern über Schritte in die richtige Richtung und wo!

00:03:11: Und wie diese richtige Richtung genau aussieht und man die Messbar machen kann.

00:03:14: damit beschäftigt sich Kapitel vier und in Kapitel fünf Da geht es um die digitale Nachlassplanung, ein unterschätztes Thema, dem wir hier an dieser Stelle einen anderen Deep Dive widmen werden.

00:03:30: Der Fokus den wir heute aber setzen wollen, der handelt von dem aus meiner Sicht spannendsten und gleichzeitig auch gruseligsten Kapitel des Cyber Security Reports nämlich dem Kapitel über Robotik und dem was das noch mit sich bringen wird.

00:03:46: Personalweise steht schon in der Überschrift die Zielrichtung, wo Humanity Roboter Cybersecurity auf mehreren Ebenen stattfinden.

00:03:54: Robotik im Konflikt heißt die Überschaft vom Helfer zum Terminator und Terminator ist eigentlich ein Begriff der große Teile der Debatte in den letzten Jahren etwas schwieriger gemacht hat weil sich unter Robotik plus KI sofort eine ganze Reihe von Menschen vorstellen dass da der T-Achthundert um die Ecke kommt und als Bedrohung der Menschheit funktioniert.

00:04:15: Tatsächlich ist das, was wir im Cyber Security Report lesen eigentlich eine Annäherung.

00:04:21: Was heute schon möglich ist einerseits und andererseits genau diese Punkte so zusammengesetzt dass man sehr schnell merkt was in zwei in drei oder vielleicht auch erst in fünf Jahren aber dann eben doch mit Robotik und insbesondere auch mit den Fähigkeiten der Robotik was Kampf angeht möglich sein wird.

00:04:41: Aus dieser Perspektive sind diese beiden Zitat-Teile, die ich gerade vorgelesen habe, Lenkung des Personenflusses an Checkpoints eben durch Roboter und wechselt selbstständig seine Batterien.

00:04:51: Deswegen ist ein Vierundzwanzig Sieben-Einsatz möglich – es ziemlich genau das als Szenario wo viele Menschen eine gewisse Furcht haben und deswegen nicht begrüßen dürften!

00:05:02: Aber und das ist aus meiner Sicht absolut essentiell, die gesamte Technologie muss man nicht nur unter Dual Use betrachten.

00:05:08: Das ist der Standardbegriff dafür wenn man eine Technologie sowohl sehr konstruktiv wie eben auch destruktiv oder attackierend verwenden könnte.

00:05:18: Das klassische Dual-Use Beispiel ist da das Brotmesser mit dem man Brotschneiden kann, mit dem aber auch Menschen verletzen können.

00:05:25: Aber die Entwicklung, die wir mit Robotik im Moment sehen und zwar ganz explizit auch humanoid Robotik.

00:05:30: Die hat eine Ebene zusätzlich bekommen wie Cyber Security auf ein neues Level hebt.

00:05:36: Zwei parallele Entwicklungen sind dafür entscheidend.

00:05:39: Zum einen die kommende Präsenz von meist humanoiden Robotern Im Alltag zum Beispiel im Haushalt.

00:05:45: Schon laufen in China die ersten Roboter über die Straße, werden noch angeguckt wie ein gelandetes UFO.

00:05:52: Aber spürbar ist bereits einen Teil der Normalität von humanoiden Robotern im Alltag.

00:05:58: Juste heute habe ich auf einer Konferenz tatsächlich einem humanoiden Roboter die Hand geschüttelt!

00:06:03: Der konnte gar nicht viel mehr.

00:06:04: Es war trotzdem mein interessantes Gefühl weil die Selbstverständlichkeit von humanödenem Alltag in den nächsten Jahren dramatisch zunehmen wird.

00:06:11: Das ist die eine Sphäre.

00:06:13: Die andere Sphäre ist natürlich die Entstehung von Roboter-Soldaten, von Kampfrobotern und dafür steht eben der Begriff Terminator.

00:06:21: Ein Roboter in China namens T-Achthundert von der Firma Engine AI wird gerade ziemlich häufig besprochen auch weil ein paar Clips in den sozialen Medien verbreitet werden.

00:06:31: Der ist ganz bewusst nach dem Terminator benannt besteht aus Luftfahrtaluminium also gehärtet und für ganz spezielle Belastungen verbessert.

00:06:40: Er hat vierhundertfünfzig Newtonmeter Drehmoment, kann also eine erhebliche Kraft entfalten!

00:06:45: Er hat ganz speziellen Chipsets in Vidya Jetson Tour mit bis zu zwei tausend siebzig Teraflops.

00:06:50: man möchte sich einfach nicht mit ihm anlegen... Nicht nur der Rechenpower sondern auch der Power insgesamt wegen.

00:06:56: das Video von dem ich gerade gesprochen habe findet man leicht im Netz Wenn man einfach danach sucht, wie der CEO des Unternehmens Engine AI von einem Roboter einen Tritt bekommen soll.

00:07:07: Eben diesem T-Authundert und ziemlich ansatzlos umgetreten wird.

00:07:12: Er hat das machen lassen inklusive der Aufnahme von Dutzenden Handys der Angestellten dort weil er die Anschuldigung bekämpfen wollte dass sei alles nur AI generiertes Filmmaterial gewesen.

00:07:24: Das scheint es so nicht zu sein.

00:07:26: Der Cyber Security Report in den letzten Jahren hat ein eigenes Robotikkapitel, weil die Verbindung von physischer und digitaler Sicherheit ein völlig neues Bedrohungsszenario erzeugen kann.

00:07:39: Es ist ja auch klar, dass wenn wir einen so machtvollen Roboter bei uns direkt in der Wohnung haben irgendwann oder wenn wir dem auf der Straße begegnen.

00:07:48: Oder wenn das unser neuer Arbeitskollege wird.

00:07:50: Dass dann ein Heck dieses Robotters oder vielleicht das Ausnutzen einer digitalen Hintertür durch sagen wir mal... nicht besonders konstruktive Kräfte.

00:08:00: Dass das ein eigenes Bedrohungs-Szenario darstellt, dass weit hinaus geht darüber, dass vielleicht mal der Laptop abstürzt oder man eine bestimmte Software drei Stunden nicht mehr benutzen kann.

00:08:09: Das also war auch für Zusteuern verdient nicht nur eine Betrachtung aus der Perspektive – was ist alles möglich?

00:08:16: Wo ich ehrlich gesagt als Person großer Fan bin!

00:08:18: Ich bin Roboteroptimist wenn man so sagen will.

00:08:21: Ich glaube, dass eine Vielzahl von heutigen Problemen durch KI auf zwei Beinen gelöst werden

00:08:26: können.".

00:08:27: Und gleichzeitig sehen wir, dass die Missbrauchsszenarien aber eben auch die Gebruchs-Szenarie eine Reihe von Säubungsstellen haben um die man sich kümmern muss.

00:08:35: Fangen wir also an und schauen uns an wie Robotik zwischen einstürzenden neu behauptend durchdrehenden Robotern und den absurden Windungen der Cybersecurity im Jahr für den Weg gebracht wird.

00:08:48: Gehen wir erst einmal ins Detail was die Entwicklung der Roboter angeht.

00:08:52: Mit dem Fokus auf ein paar TikTok-Videos, da gibt es inzwischen eine eigene Kategorie von ganz klassischen Bloopervideos.

00:09:01: Bloopers also wie schon in den Achtzigern mit so America's Home Videos im Fernsehen gesendet worden sind zufällige Aufnahmen von Leuten die sehen das ist ein Missgeschick passiert.

00:09:11: Ich kann persönlich mit Schadenfreude nicht besonders viel anfangen, aber Roboter-Schadenfreude hat noch mal eine andere Färbung.

00:09:18: Fast als würde man sich beruhigen wollen und da gibt es in der Tat wenn man das auf TikTok oder Instagram sucht tausende Videos davon wie humanoide Roboter versagen.

00:09:28: einer zum Beispiel möchte auf dem Siegertreppchen im Stadion einfach die Treppe runter gehen stolpert fällt unglücklich auf die Kante.

00:09:37: uns ein ganzer Kopf wird ab getrennt und drei Meter weiter weg geschleudert.

00:09:42: Ein zweiter Roboter, der direkt danach eingeblendet wird, der versucht sich aufzurichten nach einem Stoß schafft das nicht und fällt rückwärts hin, nachdem er noch zwei-drei Meter taumelnd versucht hat es Gleichgewicht zu halten.

00:09:55: Und so geht es weiter und weiter.

00:09:57: Das Ganze sieht erst mal gar nicht bedrohlich aus sondern ganz im Gegenteil.

00:10:01: Wir bekommen sehr schnell einen Eindruck dass in sehr vielen Fällen Roboter einfach überhaupt nicht dort sind, dass man ihn irgendwie in irgendeiner Weise motorisch gar nicht mehr beikommen könnte.

00:10:13: Und trotzdem wenn man anfängt nachzuforschen und nachzudenken dann ist genau das ein sehr wichtiger und großer Trugschluss.

00:10:21: Im Cyber Security Report gibt es eine zentrale These der auch den Grund darstellt warum ein eigenes Robotikkapitel da drin vorhanden ist Und zwar weil moderne Roboter eigentlich keine mechanischen Systeme mehr sind, keine Maschinen mehr sind die nur auf das bezogen ist was man dort sieht sondern hochgradig vernetzte IT-Systeme und das ist der entscheidende Punkt die dazu noch lernen können.

00:10:46: Das heißt was immer wir da sehen an irgendwelchen Missgeschicken von Robotern erzeugt in vielen Fällen automatisch auch Daten von denen dann das ganze System lernen kann.

00:10:56: Das was wir sehen kann man gewissermaßen übertragen an einen Lernschritt wie bei kleinen Kindern.

00:11:03: Die einmal hinfallen, zweimal hinfallen und dreimal hinfahren sich wehtun aber es wird immer besser.

00:11:07: man weiß ganz genau in einem halben Jahr kann das Kind nicht nur sehr viel mehr sondern gleichzeitig viel mehr Herausforderungen annehmen weil es die entsprechenden Lerndaten hat übertragen auf die lernenden IT-Systeme.

00:11:20: lachen wir jetzt über den Roboter der da stürzt Aber tatsächlich ist das nichts anderes als einem gigantischen System dabei zuzuschauen Wie ist immer besser?

00:11:29: und immer präziser in immer mehr Situationen mit unserer Welt zurechtkommt.

00:11:34: Und weil das gleichzeitig die Wahrscheinlichkeit erhöht, dass Roboter bei uns im Alltag stattfinden wird jede technische Schwachstelle ganz unmittelbare Konsequenzen für uns haben.

00:11:45: Ein gehackter Industrieroboter war gestern ein Sachschaden – ärgerlich aber reparabel!

00:11:50: Einen gehackten humanöder Roboter ist heute eine mögliche Bedrohung Und diese Veränderung erst einmal zu begreifen und vor allem vorzusorgen dafür, heite ich für eine der wichtigsten Aufgaben, die wir uns jetzt stellen müssen.

00:12:09: Perspektivisch – und ich möchte nicht zu sehr schwarz malen!

00:12:11: Ich möchte eher darauf vorbereiten was möglich ist.

00:12:14: Perspectivisch bedeutet das sogar dass so etwas wie Umstürze mit bewaffneten Robotern theoretisch möglich sein könnten?

00:12:21: Die Demokratie in Gefahr durch gehackte Roboter-Soldaten.

00:12:25: Da stellt sich natürlich sofort die Frage, brauchen wir einen eigenen Cyberverfassungsschutz mit Roboter-Verfassungsgesetzten?

00:12:32: Vielleicht sogar Roboter Verfassungsgericht.

00:12:34: Aber bevor wir jetzt in eine robotapolitische Metaebene der Zukunft zutief eintauchen glaube ich ist es sinnvoll nochmal zurückzukommen zum Cyber Security Report.

00:12:45: Ich habe eine Sprachnachricht bekommen von Autor des Kapitels Robotik beim Cyber Security Report.

00:12:52: Und die Frage, die ich mir zuallererst gestellt habe ist natürlich eine Frage aus der Perspektive der digitalen Souveränität.

00:12:59: ja und diese Frage hab' ich nicht nur mir gestellt sondern sie ein bisschen weiterentwickelt auch an den Autor des Kapitals über Cyber Security und Robotik gegeben nämlich Robert Koch.

00:13:10: und Robert Koch isst nicht nur Generalstabsoffizier der Bundeswehr und hat da eine gewisse Führungserfahrung im militärischen Bereich sondern hat auch eine tiefgehende Cyber-Expertise, zum Beispiel die langjährige Praxiserfahrung beim Aufbau und der Leitung des Dezernats Penetrationstests.

00:13:28: Er war auch Referent für Cyberpolitik im Bundesministerium der Verteidigung.

00:13:32: Robert hat gleich zwei Doktortitel und zu diesem Thema auch habilitiert.

00:13:36: Er hat bei der NASA gearbeitet und ist jetzt bei der Bundeswehrakademie.

00:13:41: Da sind sogar meine ausgedachten Lebensläufe nicht annähernd so eindrucksvoll.

00:13:46: Und Robert Koch habe ich gefragt, wo die neuralgischen Punkte in der weiteren Entwicklung sind und wie wir in Europa mithalten können oder uns zumindest nicht überrollen lassen müssen?

00:13:56: Wir sind ein wenig in der Zwickmühle!

00:13:58: Die Geschwindigkeit der Weiterentwicklung gerade in China ist enorm nach dem klassischen Ansatz move fast and break things um eine möglichst dominante Position im Markt zu erhalten.

00:14:08: In vielen Bereichen schauen wir da jetzt schon hinterher.

00:14:10: mit dem Cyber Resilience Act, der neuen Produkthaftungslinie und dem AI-Act kommen in der EU nun Regulierungen welche eine herausragende Bedeutung mit Blitt auf die Sicherheit beispielsweise auch von Software & Algorithmen vollgepackten Robotern haben.

00:14:25: Zu glauben dass dadurch China die Entwicklungsgeschwindigkeit zugunsten der Softwarequalität und Sicherheit reduziert ist aber eher utopisch.

00:14:32: Die zentrale Frage ist daher, wie wir in der Praxis konkret mit diesen Vorgaben umgehen werden.

00:14:38: Wenn wir unsere eigenen Forschungen und Entwicklungen wieder einmal zu sehr hemmen und den Markt durch extreme Haftungsrisiken unattraktiv machen wird sich der technologische Abstand oder vielmehr unser Rückstand in kurzer Zeit massiv erhöhen.

00:14:52: es also von essenzieller Bedeutung die Kapazitäten und Fähigkeiten die wir noch haben besser und systematischer zu fördern, um zu nutzen und den Unternehmen und Forschern Unterstützung von staatlicher Seite in einer Art und Weise zu eröffnen.

00:15:05: Dass diese sich auf Forschung und Weiterentwicklung konzentrieren können und nicht den regularien Papierarbeit und Konversationen mit Rechtsberatern

00:15:12: ersticken.".

00:15:13: Robert hat den Fokus auf die Regulierung gesetzt und macht damit im Prinzip eine große wiederkehrende Digitaldebatte auf.

00:15:22: Es gilt, gerade wenn man aus der Perspektive digitaler Solidarität schaut.

00:15:26: Also wie unabhängig können wir in welchen Bereichen sein?

00:15:30: Im Prinzip um die Auswahl zwischen zwei verschiedenen Wegen.

00:15:35: Der eine, der in der Vergangenheit häufig gegangen worden ist es zu sagen Wir müssen in Europa sehr früh und sehr hart und sehr umfassend regulieren.

00:15:42: Die anderen werden sich schon daran halten Und dann können wir versuchen, den eigenen Markt und die eigenen Unternehmen so gut wie möglich in die richtige Richtung zu steuern.

00:15:52: Ich muss sagen dass dieser Ansatz schon ein paar Mal sehr nicht funktioniert hat.

00:15:56: im Bereich Social Media zum Beispiel aber auch mit der DSGVO gab es da eine Reihe von Ansätzen die eher dazu geführt haben das diejenigen die schon sehr weit vorne waren sich nicht im Detail darum kümmern mussten was eigentlich da los war und dass diejenigen, die gerade anfangen wollten kleine Unternehmen vor allem aus Europa und aus Deutschland plötzlich sehr große Schwierigkeiten hatten oder sogar Steine in den Weg gelegt bekommen haben.

00:16:19: Robert spricht sich deswegen für einen anderen Ansatz aus, den ich auch intelligenter finde nämlich beim Aufbau von kleinen Unternehmen aus Europa und Deutschland im Auge zu behalten.

00:16:29: das ist früher oder später der wichtigste Hebel für eine sinnvolle Regulierung.

00:16:35: Was können solche Roboter und was nicht?

00:16:37: Für einen sinnvollen Ansatz vor allem auch im Bereich Cyber Security.

00:16:41: dass wir große Unternehmen aus Deutschland und Europa haben, die Alternativen anbieten können.

00:16:47: Und das wir nicht gezwungen sind, sagen wir chinesische oder amerikanische Roboter bzw deren Steuerungssoftware zu verwenden Das macht am Ende den zentralen Unterschied aus.

00:16:58: D.h.,

00:16:58: die Frage nicht nur nach Sicherheit sondern auch nach digitale Souveränität wäre eigentlich eine wie kann man Kleine Unternehmen in Deutschland und Europa so schnell wie möglich dazu bringen, international konkurrenzfähig zu sein.

00:17:12: Zum Beispiel was humanoide Robotik angeht.

00:17:15: Diese Frage zu beantworten ist eben etwas völlig anderes als zu sagen wir fühlen so harte Regulierung wie möglich ein.

00:17:23: Der andere Bereich der sich da aufträngt ist natürlich Entbürokratisierung und dadurch dass wir in Europa immer sehr nach Risiken ist zusammen mit Risiko, Haftung, Gefahren die Betonung der Gefahr in der öffentlichen Debatte dann dazu noch Bürokratie ein sehr großer Hemmschuh.

00:17:44: Ich glaube dass wir am Ende eine Balance brauchen Und der Kulminationspunkt dieser Belongs, da wo alles zusammenfindet ist aus meiner Sicht Cyber Security.

00:17:54: Denn natürlich nützt es überhaupt nichts wenn man sagt Alles ist egal ein tolles Startup kommt dann meine wegen aus Frankreich oder Europa und nach drei Monaten wird klar die haben zwar richtig viel gemacht aber gleichzeitig auch einiges kaputtgemacht.

00:18:06: am Ende geht es womöglich um Menschenleben und dann versteht die Öffentlichkeit gar keinen Spaß mehr will sagen.

00:18:13: Ich glaube, dass wenn wir den Fokus und zwar den Regulierungsfokus auf das Sicherheitsthema legen.

00:18:18: Dass wir dann durch Entbürokratisierung und auch Deregulierungen in anderen Bereichen nicht unbedingt noch mehr kaputt machen.

00:18:27: Gleichzeitig sehen wir – es ist im Cyber Security Report deutlich geworden – wie groß jetzt schon der Schaden durch Cyberangriffe ist?

00:18:34: Das kann man sich multipliziert vorstellen, wenn dazu auch noch Roboter im Alter kommen!

00:18:39: Wir reden hier von mehr als zweihundert Milliarden Euro Schaden im Jahr allein in Deutschland.

00:18:45: Und wenn diese heute schon so schädlichen Schwachstellen, die zum Beispiel Fabriknlamm legen, morgen auch noch in allgegenwärtigen Robotern stecken und autonom agieren können dann wird aus einem IT-Problem ein massives und öffentliches Sicherheitsproblem des gesamten Staates Das heute dieses Prinzip eigentlich aus dem Silicon Valley, aber eben in China auch angewendet Move fast and break things.

00:19:09: Dass das schon die Maßgabe vieler Robotikfirmen sogar vieler Robotikfirme ist, dass hat der Chaos Computer Club gezeigt auf seiner nr- und dreißig C drei Veranstaltung, die findet traditionell immer zwischen den Jahren zwischen Weihnachten und Neuer statt.

00:19:24: Und da hat er CCC vorgeführt wie einfach heutige Roboter zu übernehmen sind.

00:19:29: Die genau gleichen Angriffswektoren, die heute schon leider häufig erfolgreich eingesetzt werden bei IT-Systemen können auch bei humanoiden Robotern dazu führen dass man die Kontrolle übernimmt.

00:19:40: Faktisch werden so kann man es parafrisieren vom CCC Roboter heute mit dem Sicherheitsniveau schlecht gewarteter Router gebaut während ihre Fähigkeiten aber gleichzeitig exponentiell wachsen.

00:19:52: Das muss man sich ungefähr vorstellen wie eine immer bessere Waffe, die gleichzeitig aber sehr schlecht gesichert wird.

00:19:59: Und diese Sichtweise auf humanide Roboter ist glaube ich eine, die wir gesellschaftlich erst mal verdauen müssen.

00:20:05: Dass wir auf der einen Seite ein Gerät haben, die KI auf zwei Beinen Die Lösung für eine ganze Reihe von heutigen Problemen darstellen könnte.

00:20:13: Wir haben zum Beispiel beim Fachkräftemangel durchaus die Perspektive den mit humaniden Robotern bekämpft zu können Und dass aber gleichzeitig ein solcher Roboter auch als potenzielle Waffe betrachtet werden kann und muss.

00:20:26: Die Perspektive der digitalen Souveränität ist deswegen bei Robottern besonders wichtig, und da haben wir hierzulande in gewisses Manko... Der Cyber Security Report hat herausgefunden, dass siebenundachtzig Prozent der deutschen Unternehmen nicht in die Reduktion von technologischen Abhängigkeiten investiert.

00:20:43: Und spätestens, wenn ein paar hundert Roboter am Fließband stehen und bestimmte Arbeiten machen die bisher nur Menschen machen konnten.

00:20:49: Spätestens dann weiß man was physikalische Abhängigkeit dadurch das jemand anders Roboter kontrolliert tatsächlich bedeuten kann.

00:20:59: Kommen wir zum Elefanten im Raum quasi dem Roboter-Elefanten Im Raum Was humanoide Roboter und deren aktuelle Entwicklung angeht Nämlich die Verwendung von Waffe oder als Soldat.

00:21:12: Wir haben einen kurzen Szenarioausflug ins Jahr, so als Überblick.

00:21:17: und schauen wir eine Kompanie Roboterkriege auf dem Schlachtfeld über die Schulter.

00:21:22: Fünf Jahre von heute, zwei Tausend Dreißig einund dreißig.

00:21:25: eine Roboterkompanie rückt vor.

00:21:27: Achtzig humanöde Einheiten, Stückpreis fünfundzwanzigtausend Dollar.

00:21:32: kein einziger Mensch in der ersten Reihe.

00:21:34: Die Einheiten kommunizieren untereinander über verschlüsselte Mesh-Netzwerke.

00:21:38: Jeder Roboter hat Neuromorphe Sensoren, die zweitausend Bilder pro Sekunde verarbeiten, Reaktionszeit im Mikrosekundenbereich.

00:21:45: Ein menschlicher Soldat braucht zweihundertfünfzig Millisekunden um überhaupt auf ein Mündungsfeuer zu reagieren.

00:21:51: der Roboter hatte in dieser Zeit längst zurückgeschossen.

00:21:54: Die Roboter sehen infrarot erkennen Tarnung durch hyperspektrale Analysen messen Herzfrequenzen durch Wände.

00:22:01: Ein Biosensor in der Körpermittel analysiert Stresshormone in der Luft.

00:22:04: und das heißt, die Roboter riechen Angst des menschlichen Gegners noch bevor sie ihn sehen oder er sie sieht.

00:22:12: Wird ein Roboter beschädigt?

00:22:13: Flickt sein Selbstheilungssystem aus Vitrimären den Riss!

00:22:16: Vitrimere sind eine ziemlich neue Klasse von Kunststoffen.

00:22:20: Sie bestehen aus permanent vernetzten Polymerketten und im Gegensatz zu klassischem Hartplastik können sich diese dynamischen Netzwerke unter den Kunststoffe chemisch umformen, will sagen in dem Moment wo man sie Wärme aktiviert.

00:22:33: oberhalb einer bestimmten Umwandlungstemperatur werden die Bindungen flexibel und erlauben dem Material an genauer Stelle zu fließen ohne dass sich die Gesamtzahl der chemischen Verknüpfung ändert.

00:22:44: und das heißt ganz konkret Das Material bleibt insgesamt vomstabil und weitestgehend auch resistent zum Beispiel gegen Lösungsmittel.

00:22:52: Und gleichzeitig kann eine exakt einer Stelle einen Selbstreparaturvorgang stattfinden.

00:22:59: So können KI-Roboter mit solchen Kunststoffen sich selbst heilen, und zwar im Einsatz!

00:23:06: Wenn ein Arm ausfällt von einem solchen Robotersoldaten dann adaptiert der Algorithmus sofort die Bewegungsmuster Denn natürlich weiß die Maschine für jeden Eventualfall, wie man sich dann am besten weiter fort bewegt wenn welcher Teil ausfällt.

00:23:19: Was überhaupt noch möglich ist!

00:23:21: Und wenn die KI in der Analyse feststellen muss dass der Schaden zu groß ist und es nicht weiter geht... Dann geht der Roboter alleine zurück in die autonome Fertigungseinheit eine Art Robofab wo drei D-Drucker hinter der Front Ersatzzelle produzieren und Roboter Roboter reparieren.

00:23:38: Verlorne Einheiten werden dann eben auch nicht ersetzt, sondern einfach nochmal gebaut.

00:23:42: Nur weil das Wissen in Echtzeit übertragen wird können sie ab exakt der Stelle mit exakt dem Wissen der vorherigen Kompanie direkt weitermachen.

00:23:51: Die Steuerungskai wird deswegen mit jeder Iteration auch besser bei mehr und bessere Daten vorhanden sind.

00:23:58: Die Gesamtkosten der Kompanie betragen ungefähr zwei Millionen Dollar.

00:24:02: Eine vergleichbare menschliche Einheit, was Ausbildung, Ausrüstung sollt, logistik und medizinische Versorgung angeht kostet ein Vielfaches und im Zweifel eben auch Menschenleben.

00:24:12: Und schon allein deshalb ist vollkommen klar das wird kommen!

00:24:16: Und dann kommt der Bruch denn plötzlich übernimmt einen Angreifer über eine bekannte Schnittstelle zwei oder drei Einheiten die gleichen Exploits also die gleichen ausnutzbaren Schwachstellen wie beim Neunundreißig C-III vom Chaos Computerklug demonstriert wurden, werden nun genutzt die gesamte Kompanie zu übernehmen.

00:24:35: Eben noch das Ast im Ärmel drehen sich die Roboter jetzt schon um und feuern auf die eigenen Leute.

00:24:41: Zwischen verbündeter Wunderwaffe und einem unerbittlichen Feind liegt am Ende einfach der Faktor Cyber Sicherheit – man kann davon ausgehen dass sie insbesondere im Konfliktfall aus Härteste und Schärfste geprüft werden wird!

00:24:55: Da drinnen zwischen dieser Unterscheidung durch ein paar Zeilen Code, was Freund oder Feind angeht liegt eine große Erkenntnis.

00:25:03: Und diese Erkenntnisse möchten wir mitnehmen bei der Betrachtung von Robotik der Zukunft.

00:25:07: Wenn einen Roboter einhundertmal schneller reagiert als ein Mensch nie müde wird Angst riechen kann und einem Sturmgewehr tatsächlich zwölf Ziele pro Sekunde bekämpfen könnte Was unterscheidet ihm dann noch vom Terminator?

00:25:20: Eigentlich nur die Software also die Steuerung Und vor allem die Frage, wer den Roboter kontrolliert.

00:25:26: Deshalb sind Roboter automatisch eine Frage der Cybersecurity weil das darüber entscheidet ob wir hier einen harmlosen Pflegeroboter haben oder eine Kampfmaschine die sich kaum aufhalten lässt.

00:25:38: Kommen wir zur Anatomie des Terminators von heute und der Frage was Roboter bereits können.

00:25:44: Im Cyber Security Report Kapitel Robotik ist weniger ein Ausblick auf die buntesten Science Fiction Möglichkeiten vorhanden sondern eher eine überfällige Montage der inzwischen verfügbaren verschiedenen Technologiekomplexe.

00:25:58: Der Terminator ist deswegen nicht ein einzelnes Produkt, sondern entsteht dadurch dass viele unterschiedliche bereits existierende Technologien miteinander verschmolzen werden und zwar durchaus auch Technologin die einzeln vielleicht harmlos erscheinen mögen.

00:26:12: Schauen wir als erstes auf das Gehirn.

00:26:15: Der Qualitätssprung der humaniden Robotik, der hängt ja vor allem an der Steuerung durch das Gehirn des Roboters.

00:26:21: und nicht nur dass das vernetzt ist sondern hier haben wir durch generative künstliche Intelligenz eine dramatische Zunahme der Fähigkeiten der Möglichkeiten und auch der Geschwindigkeit zu verzeichnen.

00:26:31: Gleichzeitig gibt es Entwicklungen die genau in diese Richtung zählen wie spiking neural networks.

00:26:36: Spiking Neural Networks bedeutet, dass das Hirn von Robotern nur bei besonderen relevanten Reizen überhaupt anfängt bestimmte Aktionen zu vollführen.

00:26:46: Das heißt man braucht viel weniger Energie und hat eine viel schnellerer Unterscheidungsmöglichkeit.

00:26:50: zum Beispiel ist es ein sinnvolles Ziel oder nicht als Roboter Soldat.

00:26:54: Die Senkung der verbrauchten Energie ist deswegen so wichtig weil das natürlich die Zeit erhöht die einen Kampfroboter auf dem Feld sein kann versus Batterienwechsel.

00:27:03: Ein weiterer Aspekt der Verbesserungs des Gehirns ist die sogenannte Wetware Computing.

00:27:07: Wir sehen heute schon Experimente, wo menschliche Gehirnzellen gezüchtet werden und mit Chips verbunden werden.

00:27:13: Solche Neuronen im buchstäblichen Sinn sind in vielen Bereichen noch nicht so einfach mit der Elektronik zu verbinden aber wenn sie es sind dann haben Sie dramatische Vorteile zum Beispiel einen millionenfach geringeren Energieverbrauch als ganz normale Prozessoren und gleichzeitig die Möglichkeit, zum Beispiel mit explorativen Verhalten anders als Maschinen quasi menschlich zu lernen.

00:27:36: Ganz konkret kann man sich gut vorstellen dass bei den vielen Daten, die auf dem Schlachtfeld relevant in der Auswertung werden ja auch die Verbesserungen von generativer künstlicher Intelligenz dazu führt das man mit vielen unterschiedlichen Sensoren viel mehr Daten bekommt und deswegen viel besser einschätzen kann was dort eigentlich vonstatten geht.

00:27:54: Das für zum nächsten Innovationskomplex, der eben heute schon existiert.

00:27:58: Und das ist eine übermenschliche Wahrnehmung!

00:28:00: Noch vor kurzer Zeit musste man die Sensoren suchen, die sehr viel besser als Menschen wahrnehmen können was da draußen passiert, vor allem auch in der Verarbeitung.

00:28:08: Wir haben inzwischen so umfangreiche Sensorik und vor allem KI-gestützte Auswertungen dass die Wahrnehnung der Roboter, die den Menschen um ein Vielfaches übertrifft Vor allem weil sowas wie Drohnen sich plötzlich mit einberechtigt werden kann.

00:28:22: Vor mir steht ein Kampfroboter und das geht eben heute schon, der nicht nur Selbstaugen hat sondern gleichzeitig aus den Augen von einem Dutzend Drohnen über uns mitschauen kann.

00:28:32: Und entsprechend seine Aktion dieser zusätzlichen Wahrnehmung anpasst.

00:28:37: Gleichzeitig gibt es andere Sichtweisen wie die hyperspektrale Analyse wo Tarnungen einfach durchschaubt werden können unter anderem weil Farbe keine große Rolle mehr spielt.

00:28:47: Wir haben Wahrneemungssysteme zum Beispiel auf Basis von Radar wo Roboter durch Wände schauen können.

00:28:54: Intensiv in der Erprobung seit einigen Jahren ist sogar eine passive Form von Radaren, wo WLAN-Router und deren Strahlung dazu benutzt wird um die Ablenkung durch Lebewesen von elektromagnetischer Strahlungen durch Router zu berechnen.

00:29:08: Und die KI kann dann durch eine Wand sagen allein aufgrund der abgestrahlten elektromagneticen Frequenzen und Veränderungen Wo genau wer gerade langgeht dass man irgendwelche Strahlung wie beim klassischen Radar überhaupt erst aussenden muss.

00:29:22: Bedeutet Identifizierung ohne Sichtkontakt und auch das schon angesprochene Riechen ist inzwischen auch mithilfe von KI auf einem Niveau, dass der Roboter die Angst riechen kann.

00:29:33: wir haben bio-eufaktorische Chips mit lebenden Rezeptorzellen und die können eben Stresshormone bestimmte Pheromone bis hin zur DNA Analyse praktisch in Echtzeit auf Distanz versuchen abzubilden Und spätestens, wenn eine heute schon absehbare Technologie wie einer DNA-Spur zu folgen durch Roboter anwendbar ist.

00:29:54: Spätestens dann haben wir ein Szenario das vom Terminator gar nicht mehr weit weg ist.

00:29:59: Über die Selbstheilung haben wir schon gesprochen aber es gibt sehr viel mehr als nur in Anführungszeichen Vitrimere also Kunststoffe die sich selbst heilen können.

00:30:09: Erkennbar wird inzwischen die nächste Ebene nämlich flüssiges Metall in mikrovaskulären Netzwerken Das Material genau dorthin transportiert, wo man es braucht und das dann aushärten lässt.

00:30:19: Und das wiederum ist ganz knapp vor dem T-Einthausend aus dem zweiten Terminatorfilm.

00:30:25: Wenn wir auf die heute schon mögliche Kampffähigkeit schauen Dann sehen wir dass Waffen entwickelt werden, die mit Hilfe von KI nahezu hundert Prozent Treffsicherheit entfalten können zum Beispiel durch Echtzeitfeuerleitsysteme.

00:30:39: Bestätigt sind von heutigen KI-Anwendungen zwölf Kills pro Sekunde mit einem Standardsturmgewehr.

00:30:45: Will sagen ein humaner Roboter ist in der Lage, mit einem ganz normalen Gewehr zwölfe Schüsse pro Sekund abzugeben die alle exakt ihr Ziel treffen.

00:30:54: Dazu gibt es Mikrodrohnen oder Cyborg Insekten die angewendet werden können.

00:30:58: auch darüber steht einiges im Cyber Security Report.

00:31:02: will sagen wir haben aus der Fließbankfertigung kleine Insektingartige Drohne die ein Roboter mit sich führt und in dem Moment, wo er dem Gegner gegenübersteht einfach loslässt mit Mikroinjektionssystemen.

00:31:14: In extremsten Szenarien gibt es auch hier wieder eine Art genetische Zielerfassung – will sagen DNA-spezifische Wirkstoffe gegen einzelne Personen.

00:31:22: Das ist technisch und biologisch heute schon machbar wenn auch die Kosten der Aufwand und Logistik die letzten gigantischen Hürden sein durften.

00:31:29: aber als Ausblick erkennt man in welche Richtung das geht Eine extrem machtvolle KI-Robotikanwendung, die ganz spezifisch versucht den maximalen Schaden bei exakt dem anvisierten Ziel hervorzurufen.

00:31:43: Schauen wir abschließend auf die Kostensituation, die in den meisten Fällen den limitierenden Faktor darstellt Weil wenn wir uns das im Cybersecurity-Report im Bereich Robotik anschauen, dann gibt es natürlich eine Vielzahl von solchen Technologien die man theoretisch anwenden könnte.

00:31:58: Häufig ist das A eine Frage der Steuerung B eine Frage Energie und C. genau deshalb eine Frage Der Kosten.

00:32:05: Und zwar haben wir autonome Roboterfertigung Wir haben drei D Druck wir haben automatische Montage Wir haben sogar Roboter die sich selbst gewissermaßen fortpflanzen können weil sie sich selbst neu bauen und weiterentwickeln können.

00:32:16: Aber die Kosten sind zumindest im Moment noch so hoch, dass sich das kaum lohnt.

00:32:22: Dann aber – und das können wir im Report auch ganz gut nachlesen – kommt das Reitge-Gesetz zur Gültigkeit.

00:32:27: Wir sagen, die Kosten fangen an immer stärker zu sinken sowohl die Materialkosten allein schon aufgrund der Größenordnung der Skalierbarkeit wie insbesondere auch die Produktionskosten.

00:32:38: D.h.

00:32:39: realistischerweise können wir davon sprechen, dass in zehn Jahren ein Roboter für vielleicht twenty-fünftausend Dollar gebaut werden kann Wenn wir das halten gegen die Kosten eines einzelnen menschlichen Soldaten Allein.

00:32:51: für die Ausbildung liegt es zwischen fünfzig und hunderttausende Dollar Und Personalkosten sind der Großteil rund vierzig Prozent der westlichen Verteidigungsbudgets.

00:33:00: daraus kann man direkt schließen Das wird kommen.

00:33:03: Es ist vollkommen klar, dass wir früher oder später schon aus Kosten gründen und es gar nicht leisten können so zu tun als wäre der Roboter auf dem Schlachtfeld etwas was nur andere machen.

00:33:13: Und wo wir uns aus moralischen Gründen dagegen entscheiden.

00:33:15: Das heißt für mich persönlich nicht das ich keine Alternative dazu sehe.

00:33:19: Das heisst aber schon ,dass wir in Europa und Deutschland nicht so tun können als würden andere Teile der Welt nicht ganz eindeutig auf genau dieses Szenarien abzielen.

00:33:29: Das war jetzt eine Perspektive, gerade was Kampfroboter und digitale Souveränität und auch das Leistungsvermögen von Europa angeht wo man vielleicht nicht unbedingt große Freude empfindet.

00:33:39: Deswegen habe ich nochmal den Autor des Robotik-Kapitelsrobot Koch gefragt mit der einfachen Feststellung dass es ja sich anhört wie ein Albtraumszenario wenn man nur das zusammensetzt was heute schon möglich ist.

00:33:52: aber wo sind denn die positiven Aspekte an denen wir uns festhalten können?

00:33:56: oder ganz konkret Wie bleibt man?

00:33:58: Optimist.

00:34:00: Wir stehen diesen Szenario nicht völlig hilf- und mittellos gegenüber, im Gegenteil wir haben entgegen dem was in der öffentlichen Diskussion oftmals dargestellt wird durchaus eigene europäische Alternativen in vielen Bereichen.

00:34:12: Wir nutzen sie nur oftmals aus diversem Gründen nicht das leider nichts Neues das seit Jahrzehnten so und entsprechend sind viele Erfolgversprechende Ansätze auch wieder verschwunden oder von Nichteuropäischen Firmen aufgekauft worden.

00:34:25: Aber hier sind große Chancen, wenn man diese Fähigkeit mal wirklich systematisch zu nutzen anfängt und auch immer mehr abwandern.

00:34:32: Wir haben durchaus noch viele brillante Köpfe und geniale Menschen mit Ideen und viel Energie Und wir haben auch so wie national als auch auf europäischer Ebene erkannt dass die Hütte wirklich brennt und dringend gehandelt werden muss Auch weil viel nicht klar ist wie groß das Feuer schon ist.

00:34:48: Die Forschungsrahmenprogramme der EU sind aber beispielsweise ein großartiges Mittel oder Projekte, wie der Innovationspaar künstliche Intelligenz sind.

00:34:56: Genau das was wir brauchen.

00:34:58: Elemental ist einfach dass wir in solchen Beispielen handeln und nicht endlose und vor allem sinnlose Diskussionen über kleine Details führen.

00:35:06: werden sich die Welt um uns herum in armen Berauben der Geschwindigkeit weiterentwickelt?

00:35:10: Machen wir einen kurzen Ausflug, was Roboter-Soldaten angeht in das Labor des Roboterkriegs – nämlich die Techfront in der Ukraine.

00:35:20: Tatsächlich ist das, was dort geschieht spätestens im Jahr auch ein großer Versuch wie Robotik und Krieg aus westlicher Sicht miteinander zu vereinen werden.

00:35:31: Im Februar hat die Roboterfirma Foundation zwei Phantom MK I Einheiten an die Front geschickt und zwar in erster Linie für Speer- und Aufklärungsarbeiten, um einfach Daten zu sammeln.

00:35:45: Und dann aber auch, um rauszufinden wie und wo und in welcher Weise Roboter an der Front überhaupt arbeiten können.

00:35:52: Tatsächlich ist also in Europa an einer Kriegsfront bereits ein Roboter eingesetzt worden Und in dieses Labor.

00:36:00: gucken wir kurz tiefer rein, denn es fängt an mit der russischen Inversion in die Ukraine und den großen Herausforderungen, wo die das vor allem die Ukraine gestellt hat.

00:36:09: Zum Beispiel was veraltet des militärisches Material angeht oder die sehr, sehr langsamen Beschaffungswege.

00:36:15: Gerade im Westen wird für die militärische Beschaffung häufig wahnsinnig lange gebraucht – und das gilt natürlich auch für Innovation!

00:36:23: Die Lösung, die die Ukraine gewählt hat in dieser Stelle bezieht KI intensiv mit ein.

00:36:29: Sie hat nämlich die Innovationszyklen der Zivilgesellschaft versucht zu aktivieren und das mit ziemlich großem Erfolg!

00:36:36: In der Phase eins ging es dabei in der Ukraine vor allem um freiwillige Unterstützergruppen, die zum Beispiel per drei D Druck bestimmte Drohnteile hergestellt haben und direkt an die Front versendet haben.

00:36:48: Gleichzeitig gab es automatisiert ausgewertete Kommunikation, vor allem in Signal- und Telegram-Kanälen.

00:36:53: Die Erfahrungen der Truppen, die sie dort veröffentlicht haben, flossen unmittelbar in die Weiterentwicklung der Technologien ein.

00:37:00: Die nächste Phase war eine politisch gesteuerte Digitalisierung des Krieges in der Ukraine ungefähr ab zwei Tausend dreiundzwanzig vierundzwantig.

00:37:08: Die Basis für die Digitalisierung hat das Ministerium geschaffen, indem es radikal entbürokratisiert hat, die Regeln geändert hat und vor allem die finanziellen Anreize.

00:37:18: Die entscheidende Maßnahme dabei war, dass Hersteller-Tests plötzlich akzeptiert wurden und keine staatliche Zertifizierung mehr notwendig war – zum Beispiel für neue Systeme.

00:37:28: Die Einführungszeit für Systeme lag vorher bei zwei Jahren und ist dadurch auf wenige Wochen zusammengeschnurrt.

00:37:34: Will sagen die Digitalisierung des Krieges hatte plötzlich die Geschwindigkeit, die auch die Weiterentwicklung von Technologie im Alltag hat!

00:37:42: bevor es in die Phase drei ging, die im Moment auch zu den entscheidenden Phasen überhaupt gehört.

00:37:48: Nämlich eine Art Marktplatz des Krieges, der nur keine auch einen ganz konkreten Namen hat – Brave One!

00:37:54: Das ist ein zentraler Innovationscluster will sagen eine Website mit einem Marktplatz wo Startups direkt mit Soldaten interagieren können.

00:38:02: Dafür gibt es ein E-Point System, wo zum Beispiel eine nachgewiesene Zerstörung von russische Material Punkte gibt.

00:38:10: Das ist eine Gamifizierung des Krieges und diese Punkte können die Soldaten dann für neue Drohnen einsetzen, die Lieferung erfolgt in Tagen.

00:38:19: Das es nicht nur eine Gamifikierung des Krieges sondern auch eine extrem ökonomische Art und Weise mit Innovationen umzugehen.

00:38:26: Man weiß per Video einen Kill nach, man sammelt Punkte.

00:38:29: Man kriegt dafür eine neue Waffe wie eine Drohne.

00:38:32: Das ist ein Mechanismus den jeder Gamer kennt und jede Gamerin.

00:38:35: Und natürlich ist das Absicht weil auf diese Art und Weise nicht nur die Geschwindigkeit sondern auch die Anreize und die Motivation der Menschen zu kämpfen erhöht werden soll!

00:38:44: Das Ergebnis dieser Gamification des Kriegs haben wir ja schon vorliegen.

00:38:48: Die russische Verluste haben sich in den ersten zehn Monaten nach der Einführung nahezu verdoppelt.

00:38:53: will sagen Das scheint tatsächlich so zu sein, dass die Gamification des Krieges einen zusätzlichen Anreiz darstellt.

00:39:01: In der Folge durch diesen Marktplatz!

00:39:02: Durch diese innovationstreibende Plattformen Brave One haben wir eine Vielzahl von Systemen direkt an der Front, zum Beispiel FPV also First Person View Kamikaze Drohnen die inzwischen die Basiswaffe sind.

00:39:16: Damit werden ein Großteil der sogenannten Kills oder Abschüsse von Geräten vollzogen.

00:39:21: Es gibt Systeme wie das UNIX-System Munitionstransport an die Front oder der Abtransport von Verwundeten.

00:39:27: es gibt Systemes wie Ratel S ferngesteuerte Vierradroboter für Panzerabwehrminen Bekämpfung von Fahrzeugen und Bunkern, und zwar ohne die Gefährdung eigener Soldaten.

00:39:37: Auf diesem Marktplatz ist sowas entstanden wie Magura V-Fünf ein unbemanntes Seekampfmittel das mehrere russische Einheiten einfach so versenkt hat und die schwarzmehrflotte faktisch wirkungslos gemacht hat weil sie noch nach dem alten Prinzip der großen starken mächtigen und bedrohlichen Maschinerie funktioniert haben und nicht mit den einzelnen sehr wirkundsvollen Nadelstichen die dieser autonomen Waffen schnell haben können.

00:40:02: und schließlich so etwas wie TFL-I.

00:40:04: Ein kleines Modul, das nur fünfzig Euro kostet auf diesen Marktplatz natürlich auch ein E-Point bezahlbar.

00:40:10: es ermöglicht eine autonome Steuerungsübernahme bei Funkverlust inklusive einer optischen Zielverfolgung im Endanflug.

00:40:16: Was bedeutet das?

00:40:17: Man setzt einfach ein solches Modul auf eine Drohne.

00:40:20: die steuert man dann bis in ihr Ziel.

00:40:23: wenn zum Beispiel durch Funkstörung das Signal unterbrochen wird Dann kann diese automatisierte kleine einmal KI Die Waffe ins Ziel lenken.

00:40:31: Das alles sind Entwicklungen, die zeigen dass Kriege heute eher nicht mehr mit den besten Panzern gewonnen werden sondern mit dem schnellsten und effektivsten Updatezyklus.

00:40:41: Kommen wir zum großen Schlussakord und der zentralen Frage was das für uns bedeutet auch außerhalb von Kriegen?

00:40:48: Der Wolf mit der Heizdecke warum der Pflegeroboter gefährlicher sein kann als der Kampfroboter.

00:40:54: Die größte Bedrohung So skizziert der Cyber Security-Report im Bereich Robotik geht eben nicht vom offensichtlichen Kampfroboter aus.

00:41:02: Der mag auf dem Feld essentiell sein, aber die größte Bedrohung der Zukunft kommt vom Haushaltshelfer dessen Software ein unerwünschtes Update bekommt und der vom Helfer zur Gefahr wird.

00:41:14: Man muss die Will Use als Standard begreifen – und zwar auch gerade dort wo wir es gar nicht gebrauchen können!

00:41:20: Denn zwischen einem heutigen Fabrikroboter, zum Beispiel die chinesischen humanien Roboter und einem Kampfroboter liegt kein wirklicher technologischer Graben sondern eine Softwareentscheidung.

00:41:32: Die meisten dieser Roboter sind Zitat vom CEO der Firma Foundation, die eben schon an die ukrainische Front ihre Roboter geschickt haben, so ausgerüstet, dass sie im Prinzip jede menschliche Waffe benutzen können sollen.

00:41:46: Und damit wird zur Software.

00:41:48: und dann eben Sicherheitsfrage, ob der Pflegerobotter nicht gleichzeitig auch ein Kampf- und Killerroboter sein kann.

00:41:54: Eingangs haben wir über Chinas Walker S II gesprochen, der bereits an der Grenze zu Vietnam eingesetzt wird – und natürlich ist dieser Roboter zunächst sehr offensichtlich für Kampfeinsätze ausgerüstet!

00:42:05: Die Plattform aber ist identisch mit den Zivilen Modellen will sagen mit genau den Robottern die für Haushalte angeboten werden….

00:42:14: Diese Überschneidung quasi Dual-Use in a nutshell, die dürfen wir nicht nur ignorieren sondern die ist die Essenz von Cyber Security der Zukunft.

00:42:24: Man muss sich das ungefähr so vorstellen als hätte man plötzlich ein iPhone im Haus was einen umbringen kann wenn man einen Virus bekommt.

00:42:32: und genau diese Perspektive ist eine die der Cyber Security Report versucht nachhaltig einzunehmen.

00:42:38: Wir haben eine Vielzahl von Herstellern die sagen Innovationen um jeden Preis Geschwindigkeit Marktdominanz Sicherheit ist bei ihnen entweder nachrangig oder zumindest nicht im Fokus.

00:42:48: Und gleichzeitig muss man auch fragen, was für konkrete Folgen die chinesische Staatsstruktur hat?

00:42:53: Also eine Diktatur, eine sehr autoritäre Struktur wo der Staat im Zweifel das Sagen gegenüber noch so mächtigen CEOs hat.

00:43:01: Das ist ja kein Zufall dass in China immer wieder extrem bekannte sehr erfolgreiche CEOs für zwei drei vier Monate verschwinden.

00:43:08: Manche kommen gar nicht zurück.

00:43:11: Die Botschaft dahinter ist klar Egal wie machtvoll deine Firma ist, der Staat bestimmt im Zweifel was du tust.

00:43:19: Und genau das bedeutet dass wir uns damit auseinandersetzen müssen.

00:43:22: ok Wir haben Wie bei Autos?

00:43:24: Wir haben wie bei Smartphones?

00:43:25: Wir Haben wie bei Routern?

00:43:26: Wir habe wie bei einer Vielzahl von technologischen Geräte natürlich die Möglichkeit chinesische Produkte zu benutzen und ich möchte gar nicht ausschließen Dass das in vielen Fällen eine sinnvolle Anwendung sein kann.

00:43:37: aber hat ein solcher Roboter eine Backdoor hatte Zero Day Bugs, die im Zweifel ausgenutzt werden können.

00:43:43: Wer weiß davon?

00:43:44: Gibt es einen Kill Switch oder gibt es gar keinen Killer-Switch?

00:43:48: Plötzlich müssen wir uns damit auseinandersetzen wie Cyber Security zu einer Frage der öffentlichen Sicherheit und zwar auch der physischen öffentlicher Sicherheit wird.

00:43:57: Der Soundroboter hat vergleichsweise wenig Möglichkeiten seinen Besitzer zu töten aber die künftige Haushaltshilfe Die wird schon die ein oder andere Möglichkeit haben und zwar egal wie intensiv man eingebrannt hat, die Roboter-Gesetze von Isaac Asimov.

00:44:13: Denn das wovon wir sprechen ist ja ein Szenario in dem du eine Textnachricht bekommst wo drin steht ich hab den humaniten Roboter der bei dir zu Hause gerade auf die Kinder aufpasst gehackt.

00:44:24: überweiß mir Null Komma einen Bitcoin sonst wird er in zwei Stunden ausrasten.

00:44:29: Und genau solche Ansätze zeigen dass wir einer neuen extrem machtvollen Technologie gegenüberstehen, die natürlich jetzt nicht nur Wäsche falten können soll oder irgendwann Staubsauger oder mit dem Hund rausgehen.

00:44:40: Sondern die im Verletzlichsten von dem was wir haben zu Hause ist nämlich unserem Zuhause.

00:44:45: und dann wird Julius von einer sehr theoretischen Frage plötzlich zu einer sehr konkreten Frage des Lebens.

00:44:52: Und dann wird die Heckbarkeit von humanoiden Robotern im Haushalt plötzlich auf einer ganz anderen Ebene verhandelt, wenn ransomware eben eine Bedrohung fürs Leben darstellt und nicht mehr nur eine Bedrogen für die eigenen Daten.

00:45:05: Wer die Software kontrolliert, kontrolliert den Roboter – und genau deswegen ist Software-Souveränität in der Zukunft eben nicht mehr abstrakt sondern entscheidet darüber, ob der Roboter für dich oder gegen dich arbeitet und wo die Ansatzpunkte sind um ihn gegen dich verwenden zu können.

00:45:19: Und zwar egal ob in der Fabrik im Büro oder bei dir Zuhause.

00:45:23: Was können wir daraus lernen?

00:45:24: Wenn wir dem Cyber Security Report folgen dann kommt der Terminator eben nicht als Terminator.

00:45:30: er kommt als Pflegerobotter der plötzlich einen Software Update bekommt.

00:45:34: Die größte Gefahr von solchen autonomen Systemen liegt eben nicht in bösartiger KI, wie viele Leute glauben im echten Terminenter-Szenario sondern in der fehlenden Cyber Sicherheit bei Systemen die physisch handeln können und die deswegen auch extrem innovativ in ihrer Bedrohung sein können.

00:45:51: Wenn Cyber Sicherheit in diesem Bereich nicht endlich sehr offensiv und aggressiv angegangen wird – und das für die Unternehmen gilt, die sich damit auseinandersetzen?

00:46:01: Dann werden wir große Probleme bekommen!

00:46:03: Auf der haben Seite, auf der positiven Seite ist aber auch das wenn wir das in den Griff bekommen die Möglichkeiten gigantisch sind.

00:46:10: Wir haben schon über Fachkräftemange gesprochen und die Fähigkeiten die humanöde Roboter in Zukunft haben werden.

00:46:16: Wir habe schon darüber gesprochen in welchen Einsatzbereichen solche Roboter auch denkbar sein werden.

00:46:22: worüber wir noch nicht gesprochen haben ist die Sinnhaftigkeit.

00:46:25: Die Frage zum Beispiel ob sich ein Terminator überhaupt verhindern lässt?

00:46:29: Vielleicht ist es aber auch gar nicht die wesentliche Frage.

00:46:32: Vielleicht ist es eher die Frage, wie wir sicherstellen können das Europas Werte in genau der Software stecken, die diesen Roboter steuert.

00:46:40: Das ist dann eine Frage der Sicherheit und der digitalen Souveränität.

00:46:45: Und da sehen wir im Cyber Security Report dass Europa noch vergleichsweise weit entfernt ist.

00:46:50: Vielleicht ist das einer der großen Fragen der Zukunft was es genau bedeutet wenn Kriege von Maschinen geführt werden können?

00:46:55: Wenn also ein Teil des Szenarios von Terminator Realität werden kann Bedeutet das vielleicht, dass wir eine Genfer-Konvention der Robotik brauchen?

00:47:05: Ich glaube abschließend können wir festhalten, dass KI auf zwei Beinen.

00:47:08: Dass Robotik bedeutet, dass Cybersecurity nicht nur immens wichtig wird weil es unser alltägliches Leben betreffen wird sondern dass wir uns am Anfang einer Zukunft befinden die vielleicht hier und da aussehen mag wie beim Terminator wo wir aber eine hohe Gestaltungskraft haben jedenfalls noch Solange das der Fall ist, möchte ich optimistisch sein.

00:47:29: Denn ich glaube ganz am Schluss es was KI oft vorbei hat, was Robotik angeht, was Dual-Use angeht zwischen Pflegeroboter und Killerroboter die wichtigste Antwort auf fast alle diese Fragen ob die letztendliche Kontrolle von solchen Maschinen in der liberalen Demokratie in Europa liegt oder woanders Und mit diesem Wegruf warum es so essentiell wichtig ist Cyber Security digitales Souveränität und Robotik der Zukunft zusammenzudenken.

00:47:56: Quasi die zentrale Botschaft des Cyber Security Reports bedanke ich mich für eure Aufmerksamkeit und würde mich freuen, wenn wir darüber diskutieren was das alles bedeutet!

00:48:05: Der Cyber Security Report, den kann man natürlich downloaden und zwar kostenfrei auf schwarz-digits.de im Bereich Publikationen.

00:48:18: Lass uns überdiskutieren was man ändern kann ,was man ändern muss Und zwar auf den Plattformen, wo ihr Tech-KI und Schmetterlinge findet.

00:48:26: Zum Beispiel LinkedIn zum Beispiel Instagram zum Beispiel TikTok oder auch YouTube.

00:48:30: Vielen Dank fürs Zuhören und bis zum nächsten Mal!