Das KI-Amt (mit Alexander Schellong und Lars Kukuk)

00:00:01: Tech, KI und Schmetterlinge.

00:00:03: Ein Podcast von Sascha Lobo in Zusammenarbeit mit Schwarztidgets.

00:00:07: Guten Tag und herzlich willkommen zu einer neuen Ausgabe von Tech,KI und Schmetterlingel – dem Podcast von mir, Sascha-Lobo in zusammenarbeit mit Schwartz-Digits, dem deutschen Technologiepartner für digitale Souveränität in Europa!

00:00:21: Das Thema heute ist quasi eine Art Leib-und-Magen-Thema nicht nur von Schwarzt digits sondern inzwischen auch Bundesrepublik Deutschland und das aus nachvollziehbarem Grund.

00:00:32: Es geht nämlich um IT-Security im weitesten Sinn, im Zusammenspiel mit Behörden also genau denjenigen

00:00:41: wo

00:00:42: die Bevölkerung zu Recht die Erwartungshaltung hat.

00:00:44: dass hat gefälligst zu funktionieren.

00:00:47: Und die Gäste die ich mit dabei habe um über dieses Thema zu diskutieren Das sind nicht nur zwei Gästen High End Gäster was es nur hau angeht sondern auch Leute die genau wissen Wovon Sie da reden, das ist zum einen Lars Kuckuck.

00:01:02: Lars Kukuck is CSIO der Bundesagentur für Arbeit und für die nunmaßlich Null Komma sieben Prozent der Leute, die nicht einschätzen können was das bedeutet?

00:01:12: Das ist Die Behörde mit den meisten Mitarbeitenden des Hundert.

00:01:16: vierzehntausend Mitarbeitende so viel wie Bundespolizei plus alle Rentenversicherungen des Bundesunterländer zusammengenommen.

00:01:24: Fünfzig Milliarden Euro Budget im Ja, wir reden hier von zum Beispiel zwei Hundert Millionen Überweisungen die im Jahr stattfinden durch die Bundesagentur für Arbeit.

00:01:34: Also ein nicht nur sehr relevantes Ziel was Cyberkriminalität angeht sondern auch eins wo man wirklich dafür sorgen muss dass da alles funktioniert weil das Gefühl dass der Staat funktionieren muss ganz eng mit den Leistungen rund um den Start und die Bundes Agentur für Arbeiten verbunden ist.

00:01:52: Hallo lieber Lars!

00:01:56: Hier da sein darf.

00:01:58: Und natürlich muss diese Grunde jemand komplettieren, der schon mal hier im Podcast war Alexander Schellon Managing Director Cyber Security der schwarz Gruppe und Mitglied der Geschäftsleitung Schwarz Digits.

00:02:12: Wir haben damals intensiv über die aktuellen Gefährdungen diskutiert Alexander und auch jetzt wieder versuchen wir dieses große Thema könnte sagen das Amt und KI oder die Behörde im Zeitalter von künstlicher Intelligenz, dass wir das von allen möglichen Seiten einkreisen.

00:02:31: Deine Perspektive ist nicht nur eine, dass du regelmäßig in diesem Bereich arbeitest sondern dass du, da bedeuten dich wahrscheinlich viele, die zuhören geradezu beruflich gezwungen bist um die Welt zu fahren und dich mit den aktuellsten Themen überlaufen der Welt was IT-Sicherheit angeht und Künstliche Intelligenze zu beschäftigen.

00:02:47: Hallo lieber Alexander!

00:02:49: Hallo lieber Sascha ich freue mich sehr.

00:02:51: auch hallo lieber Lars Und ja, ich interessiere mich nicht nur über das Thema IT-Sicherheit sondern auch für das Thema E-Government also Digitalisierung der Verwaltung.

00:03:01: Darüber habe ich nämlich promoviert.

00:03:03: Also insofern ist das Thema mir in zweifacher Reinsicht definitiv sehr nah.

00:03:06: Vielen Dank!

00:03:08: Ich möchte als Anlass nicht eine ketzerische Frage stellen aber eine die zeigt warum wir genau jetzt darüber diskutieren.

00:03:17: Nämlich dass wir einen extrem großen Digitalisierungs Druck haben, was die Verwaltung angeht.

00:03:24: Der ist nicht nur gesetzlich hinterlegt sondern der ist auch gar nicht mehr anders abzubilden im Jahr zwölfundzwanzig schon eine ganze Zeit lang.

00:03:30: Da kommt jetzt noch künstliche Intelligenz dazu.

00:03:33: sehr viele Menschen in Deutschland haben das Gefühl rund um Behörden könnte hier und da der Prozess noch ein Spureffizienter ablaufen sag ich mal ganz vorsichtig.

00:03:42: Und dass geht in vielen Fällen zumindest theoretisch mit Künstlichen Intelligenzen.

00:03:45: und gleichzeitig ist künstlicher Intelligenze wie man im IT Kontext sagt auch eine Art neuer Angriffsvektor.

00:03:53: Das heißt, wir haben so eine Multi-Aufgabe!

00:03:56: Wir müssen in Deutschland die Verwaltung digitaler, effizienter, schneller präziser machen und gleichzeitig muss sie weil immer mehr Angriffe von außen kommen sicherer werden.

00:04:07: oder besprechen wir gleich nochmal sicher bleiben?

00:04:11: Und der dritte Punkt ist natürlich dass wir zunehmend Angriffer haben von Staaten, von Gruppierungen die ein großes Interesse daran haben das Deutschland nicht funktioniert.

00:04:24: Wir sind in einer Art permanentem Cyberangriffshagel und diese drei Dinge zusammengenommen stellen aus meiner Sicht eine neue Epoche dar.

00:04:35: wie also ist das KI-Amt in Zukunft nicht nur sicher sondern funktioniert auch und das ganze am besten mit dem Fingerschnipsen so einfach dass man Wahnsinnig gerne Bürgeramtstermine in Zukunft bei seinem eigenen AI-Agent vom Bürgeramt machen wird.

00:04:50: Natürlich, du hast das jetzt gerade mit den drei Punkten super beschrieben Die Herausforderung könnte nicht größer sein.

00:04:56: Wir haben natürlich eine große Erwartungshaltung von den Bürgerinnen und Bürgern dass natürlich Verwaltung effizient wird.

00:05:03: Ganz klares Thema, das haben wir auch für uns erkannt und haben die ersten Themen auf den Weg gebracht.

00:05:09: Auf der anderen Seite müssen wir natürlich schauen, dass wir das Ganze mit einer entsprechenden kontrollierten Governance einführen.

00:05:17: Das sind eigentlich so die Themen, die für uns gerade die wesentlichen Herausforderungen sind.

00:05:23: Deswegen haben wir intern derzeit bei uns Jetzt im Security-Bereich war mir wichtig, dass man stückweit auch Vorderwelle schwimmen vor über zwei Jahren angefangen haben.

00:05:35: mit KI was selber zu bauen.

00:05:37: Also wir haben einen eigenen Bord gebaut, der mittlerweile unserem Security Bereich unterstützt ist auch vollkommen auf Open Source gebaut läuft bei uns on-prem von einer eigenen Umgebung und unterstützt uns mittlerweile im täglichen Security Geschäft.

00:05:52: das heißt wir haben den trainiert mit unseren Daten sozusagen um einfach mal Erfahrungen zusammen.

00:05:59: Fakt ist dass wir heute Bei uns nicht ein Zugriff auf Hacking Face haben, uns Modelle runterladen und die bei uns nach Lust und Laune ausprobieren.

00:06:10: Wenn ich mich mit meinen anderen Zizokollegen unterhalte in den Communities bei Cosenautomobilherstärken, wo es wirklich nur noch um Geschwindigkeit geht, die also permanent sich Modelle herunterladen installieren und eben auch verwenden.

00:06:26: Und die Security Abteilung sozusagen hinterherläuft, dann finde ich das als schwierig.

00:06:32: Auf der anderen Seite hast du natürlich schon den anderen Punkt gesagt Das Thema KI gerade im Einsatz der Produktverbesserung.

00:06:43: Ich bekomme jeden Tag den Lagebericht und wenn ich in einen Lagerbericht reingucke, die Schwachstellen derzeit, die geschlossen werden bei den großen Herstellern aus Amerika sind enorm teilweise im dreistelligen vierstelligen Bereich.

00:06:55: also man sieht die Frontiermodelle während dort eingesetzt.

00:06:58: das finde ich gut dass natürlich eine größere ja Qualitätsgesicherte Software rauskommt.

00:07:03: auf der anderen Seite müssen wir aber auch für uns schauen wie wir damit umgehen Bei uns mittlerweile durch zahlreichen Tooleinsatz, ob das jetzt in der Systementwicklung ist.

00:07:14: Also gerade im Bereich der Codes Entwicklung aber auch im Bereich des ganz traditionellen Patchmanagement haben wir eine sehr gute Visibilität an bekannten Schwachstellen und deren Umgang damit.

00:07:29: Es ist natürlich jetzt mit KI für uns noch mal eine völlig neue Herausforderung, weil die Geschwindigkeiten anders werden.

00:07:35: Wir haben also doch Schwachstellen gerade im Bereich... wir setzen ja auch viel Open Source Software gerade jetzt im webbasierten Entwicklungsbereich ein und da sehen wir natürlich schon schwachstellen sind doch sehr lange offen.

00:07:53: Wir stehen sehr lange, also wir sehen das sozusagen da auch eine andere Dynamik hinein kommen muss.

00:08:00: Patch-Zügeln sind sehr langsam.

00:08:03: Da setzen wir uns eigentlich gerade damit auseinander weil traditionelle Prozesse klassisch heute haben in dem Patch Zügel was ja irgendwie Immunisinoskurve ist.

00:08:13: Also man fängt an zu patchen und kommt ein neues Release und dann geht es wieder los.

00:08:17: und wenn ich das jetzt über einen Zeitraum von mehreren Monaten oder von einem Jahr sehe, dann verändert sich das nicht wesentlich.

00:08:24: Wir sehen aber jetzt alleine durch die KI-Modelleinsatz oder durch den KI-Angriff oder der Veröffentlichung von Schwachstellen allgemein natürlich dass die Geschwindigkeit einer andere sein muss.

00:08:35: also wir kommen nicht mehr hinterher das alles eigentlich sozusagen zu patchen und Alex hat es ja vorhin auch schon ganz kurz angesprochen klassisch wenn ich heute schwachstellen sehe dann werden die klassifiziert in dem CVS scoren haben neuner oder zehner CVS-Escore.

00:08:52: Aber die Frage, die man sicher auch immer stellen muss ist die Schwachstelle in dem Kontext denn wirklich auch von der schwere Grad überhaupt relevant?

00:09:01: Also das ist auch noch mal ein Thema wo wir jetzt schauen müssen zukünftig auch KI mit einzusetzen um sozusagen eine bessere Klassifizierung der Risiko an sich mit hinein zu bekommen weil es werden natürlich traditionelle Maßnahmen wie eben die aus Zero Trust Bereich haben, Netzwerksäckmetierungen etc.

00:09:21: da auch gar nicht mit berücksichtigt.

00:09:23: das heißt wir müssen eine bessere Klassifizierung von Schochstellen erlangen um letztendlich und vielleicht auch nochmal unterscheiden, wo wird ein System exponiert?

00:09:33: Ist es nach außen ist es nach innen.

00:09:36: Kann ich Ihnen vielleicht einen anderen Patchzyklus anlegen als nach Außen?

00:09:40: denn Faktes eins mit unseren traditionellen Prozessen die wir heute haben kann nicht die Geschwindigkeit die die Schwachstellen sozusagen veröffentlicht werden gar nicht mehr patchen.

00:09:51: Wir haben in den letzten Monaten war es so, dass ein Exploit wahrscheinlich ein halbes Jahr gebraucht hat bis er funktioniert hat.

00:09:58: heute ist das in wenigen Stunden der Fall und da muss letztendlich jetzt gerade auch in so einen großen IT-Betrieb wie wir sind, muss man letztendling auch deutlich flexibel werden um das einfach noch zur Bewehr leisten.

00:10:11: Du hast grade was erwähnt, was ich nochmal bisschen vertiefen möchte?

00:10:16: Anfang der Besprechung, wie kann künstliche Intelligenzbehörden gleichzeitig schneller, effizienter und sicherer machen?

00:10:23: Weil das einfach die Anforderungen ist.

00:10:25: Auch eine Anforderung von der ich sagen würde dass sie manchmal sehr ungerecht ist.

00:10:28: Ungerecht im Sinne von.

00:10:30: da hat man über Jahre und Jahre gesagt ihr seid jetzt so wichtig seit ihr jetzt auch nicht.

00:10:34: Jetzt kriegt euch mal ein.

00:10:35: Das ist bekannt doch alles es funktioniert doch noch und plötzlich quasi über Nacht verlangt man das drei Schritte auf einmal gemacht werden ja und das auch noch in allerhöchster Qualität denn Natürlich ist es immer total doof, wenn einer Behörde irgendwas nicht funktioniert.

00:10:48: Meine Wahrnehmung ist das der Begriff den du gesagt hast, dass deren neue Relevanz bekommen hat und eben auch eine Sicherheitsrelevanz bekommt.

00:10:56: Was von On-Premise gesprochen, on-prem abgekürzt heißt übersetzt Der Server steht im Keller.

00:11:02: Wir haben jetzt nicht irgendwie ne Cloud die auf siebenhundertdreiundzwanzig tausend verschiedene Data Center irgendwo verteilt ist sondern der Server steht Im Keller.

00:11:11: Das sind On-premises.

00:11:13: die ganze Fragestellung, die sich im Cyber Security Bereich ergeben hat.

00:11:17: Die ist auch dadurch dramatisch beschleunigt und intensiviert worden, dass wir spätestens seit Jahrzehnte zwanzig in einer neuen Welt leben.

00:11:27: Ich spiele natürlich an auf den Einmarsch dem Überfall der Ukraine durch Putin, wodurch sich dieser Krieg, der dort stattfindet... verhärtet, intensiviert hat und vor allem auch immer mehr Cyberwar-Anteile in alle möglichen Richtungen stattfinden.

00:11:47: Und diese Solbruchsstelle die hat weltweite Auswirkungen gehabt?

00:11:52: Unter anderem, dass wir inzwischen sehen der Staat ist ein Angriffsziel geworden?

00:11:58: Das ist natürlich absolut korrekt.

00:12:00: Ich würde es aber eigentlich sagen die Ukraine war eigentlich durch die Aktivitäten, die bereits vor zwei Jahren stattgefunden haben schon so einen Wake-up Call also im Prinzip seit den grünen Männchen.

00:12:11: Also weit davor gab es entsprechende Maßnahmen wo ja sogenannte Viper Malware auch eingesetzt wurde, wo also große Teile von Infrastrukturten einfach aus dem Betrieb genommen wurden.

00:12:23: Ich glaube, wir haben diese Geschichte mit der Ukraine und zum anderen haben wir einfach auch diese starke Dominanz von Ransome angriffen die einfach jeden in jeder Industrie, in jeder Größe einfach sukzessive getroffen haben und das hat sich dann eben fast als Mundpropaganda rumgesprochen und dementsprechend hat sich da natürlich einfach dann die Awareness für das Thema erhöht.

00:12:47: Vorher war es so ein Thema für gewisse, sagen wir mal elitäre Cyber Security Circle.

00:12:53: Ich finde du hast einen spannenden Punkt genannt und der Lars hatte ja auch gesagt sie machen sehr stark alles on-prem.

00:13:01: Das war gerade vor letzte Woche bei einer großen Veranstaltung von AMD in San Francisco.

00:13:08: es ging natürlich rauf und runter über KI und KI Infrastrukturen und das große Thema aktuell ist kommt ja auch zunehmend hier in der Debatte rein, ist natürlich dieses ganze Thema Token Economics.

00:13:21: Dass man eben sagt wir wollen KI einsetzen aber es kann uns quasi auch so viel kosten dass das alles nicht mehr effizient ist.

00:13:29: Ich gehe davon aus dass viele Organisationen plötzlich sagen werden ich halte mir plötzlich gewisse Infrastrukturen vor Ort vielleicht sogar Teilweise schon bei den Benutzern vor Ort auf dem System zur Verfügung mit entsprechenden optimierten Modellen, die gar nicht so viele Ressourcen komplexe Ressorzen brauchen.

00:13:50: Die für meinen Anwendungsfall notwendig sind, die dann eben nicht auf das große KI-Rechenzentrum zugreifen werden.

00:13:55: also weil man eben versucht durch eine Optimierung von KI ressourcenentsprechende Kostenvorteile zu gewinnen ja da geht es dann eben plötzlich um Kosten Und um Sicherheit.

00:14:10: Also wenn dort und in anderen Foren propagiert wird, dass jeder Organisation in Zukunft vielleicht hunderttausend, hundertfünfzig tausend Agenten hat die in einem Dauerloop sozusagen verschiedene Aufgaben erfüllen immer wieder Dinge abfragen sind das natürlich unendlich viele Schnittstellen, die diese KI-Agenten haben auch unendliche viele Rechte.

00:14:32: ja also ein.

00:14:32: wir müssen überlegen, dass einen KI-Agent am Ende teilweise Zugriffe bekommt, die ein neuer Mitarbeiter in der BA oder bei den Schwarz-Didgets niemals bekommen würde.

00:14:41: Aber einen KI-Agent bekommt er teilweise relativ gedankenlos und die machen dann alle möglichen Sachen und hoffentlich so kontrolliert dass wir das noch im Blick haben als IT oder als IT Security verantwortlich.

00:14:54: Und dann muss man sich vorstellen, dass je nach Aufgabe diese verschiedenen KI Aktivitäten – und es kann sich ja auch nochmal variieren unterschiedliche Ressourcen und unterschiedliche Modelle brauchen.

00:15:06: Also die Zukunft wird da leider noch komplexer, weil jetzt wir eben Security denken müssen.

00:15:12: Wir müssen sagen mal daran Art verwandt das Thema Data Protection denken.

00:15:16: Und dann haben wir das Thema Economics noch.

00:15:19: Das heißt für die Beteiligten in der IT und auch diejenigen, die vielleicht sich nicht als IT-ler fühlen aber an die IT reporten ist ja teilweise COO CFO CIO denkt das wahrscheinlich noch stärker mit.

00:15:33: Die müssen eben plötzlich diese ganze Klaviatur denken, sowohl in Behörden die natürlichen Staatsauftrag haben und von unseren Steuerbeträgen entsprechend finanziert werden als auch natürlich Unternehmen.

00:15:47: Wenn man sich so anschaut die Entwicklung nicht nur der Bundesagentur verarbeitet sondern von Behördenden den letzten zehn, fünfzehn vielleicht zwanzig Jahren insgesamt Dann hat man am Anfang Digitalisierung vielleicht nicht als nice to have betrachtet, aber schon so als das läuft parallel mit.

00:16:03: Wir schauen mal was wir damit machen können.

00:16:05: bei manchen war es besser, beim anderen war es schlechter.

00:16:08: Ich rede jetzt von der zweiten dritten Welle der Digitalisierung Als man gesagt hat naja Der Computer ist ein bisschen eine vernetzte Schreibmaschine.

00:16:15: Lange Zeit war auch das Fax immer noch das Mittel der Wahl in vielen Bereichen.

00:16:19: und plötzlich ich übertreibe nur ganz bisschen Und plötzlich kommen genau die gleichen Leute die gestern alles zusammensparen wollten und üben Druck auf, auf die Behörden und sagen eigentlich müsste euer AI-Bott übermorgen fertig sein.

00:16:34: Wie nimmst du diesen Wandel wahr so aus Sicht der operativen Realität in den Behörde?

00:16:41: Ja ich kann das so unterschreiben aber du hast vorhin schon eigentlich die Punkte schon mit aufgenommen.

00:16:48: wir sehen Vor Corona war das ja alles in der normalen Geschwindigkeit gelaufen.

00:16:56: Wir hatten unsere Prozesse, wir haben die mit der Digitalisierung angefangen, die D-Services nach außen zu bringen wobei man sagen muss, dass die BA deutlich weiter ist als andere Behörde im Vergleich.

00:17:09: Was ich jetzt natürlich wahrgenommen habe so eigentlich ist es mit Corona eingeleitet worden Es waren Brandbeschleuniger auf das Thema und dadurch rasant der Entwicklung von KI noch hinzukommt, sieht man das natürlich jeder jetzt irgendwie auf das Thema mit aufspringt und vorne so die Fackel in die Hand nimmt und sagt wir müssen jetzt alle nach vorne rennen.

00:17:31: Und jetzt so ein großer Druck quasi in den ganzen Organisationen auch erzeugt wird aber auch von außen natürlich eine enorm hohe Erwartungshaltung auch von Bürgerseite da ist dass Manchmal ist das gerade jetzt aus der Perspektive Security, dass wir kaum noch hinterherkommt.

00:17:49: Das muss man sagen.

00:17:50: Es ist ja eh schon immer ein Thema, dass man Security von Anfang an irgendwie mitgedacht wird und ich nehme das auch bei meinen Kollegen so wahr.

00:18:00: Wir sind in jedem Projekt was kommt Mit dabei versuchen immer mit dabei zu sein.

00:18:07: derzeit über dreißig Projekte parallel laufen und es kommt von allen Seiten hinein, jeder versucht jetzt sozusagen ganz vorne mit dabei zu sein.

00:18:16: Und kein Projekt was wir derzeit machen wo nicht das Wort KI fehlt also jedes Produkt heute.

00:18:22: wenn ein Produkt heute keinen KI mehr eine KI Funktionalität oder Unterstützung mehr dabei hat dann ist es irgendwie schon fast kein Projekt mehr.

00:18:31: Ja ich habe übrigens so als Seitennahmen dass glaube ich wird sich Ausgleichen und naturalisieren.

00:18:39: Das war nach meiner Beobachtung schon ein paar Mal so, dass man so eine neue Großtechnologie in Großkomplex betrachtet und dann am Anfang immer noch extra dazusagen muss das man das auch macht und es ist auch wichtig, dass Man das dazu sagt weil Es sich dann für selbstverständlich.

00:18:54: und irgendwann Ist man aber an dem Punkt Dass das vollkommen klar ist wir machen neues Projekt Natürlich ist da KI dabei Muss man gar nicht extra erwähnen ungefähr So wie man ja heute auch Nicht sagen würde hey ich gehe Heute ins Büro und arbeite mal mit Software.

00:19:06: Klar, natürlich tust du das.

00:19:08: Das musst du da nicht extra dazu sagen.

00:19:10: und genau diese Verselbstverständlichung die führt aber auch leider mit einem Punkt der eben schon deutlich geworden ist in neuen Statements zu einer Verschärfung der Sicherheitslage.

00:19:20: Wir haben ganz am Anfang der großen KI-Transformation noch kein besonders gutes Gefühl dafür was zum Beispiel die ganz klassischen Rechte und Rollenausstattungen von AI Agents angeht.

00:19:35: Wir haben, und das ist alles ein paar Monate alt, höchstens zwei Jahre alt eine Vielzahl von, sagen wir mal Großfails wo plötzlich einen KI-Agent etwas machen konnte.

00:19:46: Von dem man ganz überrascht dachte ach dass darf der, das ist ja crazy!

00:19:49: Und diese Daten darauf kann er auch zugreifen.

00:19:51: Das ist ja verrückt.

00:19:52: Wir haben noch kein gutes Gespür dafür wie KI-Agenden A sinnvoll eingesetzt werden können B Effizient sind, dass sie nicht drei Milliarden Token verbrauchen, nur mal am Ende irgendwie ein Ja oder Nein was man noch ratend hätte können draus zu geben und vor allem C wie Sie nicht ein eigenes gigantisches Sicherheitsrisiko werden.

00:20:12: Und das glaube ich ist jetzt eine Diskussion in der operativen Realität der Behörden.

00:20:18: da bin ich eben schon so mit dem Finger drauf wenn überall KI isst.

00:20:23: Was bedeutet das denn für diesen Sicherheitsaspekt?

00:20:28: Aus meiner Sicht, wenn wir vermehrt jetzt KI einsetzen müssen wir das in unseren Sicherheitsausprägung und Sicherheitsphilosophien mit integrieren.

00:20:40: Das heißt Wir müssen KI Agents genauso in Zero Trust integriern wie wir das heute für die anderen Bereiche im Netzwerkssegmentierungsbereich auch machen.

00:20:48: D.h.,

00:20:49: wir müssen uns um Berichtigungsthemen kümmern.

00:20:51: Wir müssen gucken dass wir die typischen Themen wie Nitonoprinzipien einhalten.

00:20:58: Vielleicht irgendwann, das ist ja noch Zukunftsmusik.

00:21:01: Aber das Management von KI Agents sozusagen in Berechtigungsagents mit zu überführen dass wir Lösungen schaffen Nur für eine bestimmte Zeit einräumen, dass wir die mit den wenigsten Rechten ausstatten und das wir sie permanent verifizieren und kontrollieren.

00:21:19: Und du hast gerade auch schon erwähnt – und da sehe ich in den ganzen Projekten – Wir müssen parallel auch lernen wie überhaupt mit dem Thema KI-Sicherheit.

00:21:27: Das wird es langsam mitnehmen!

00:21:29: Das ist noch Neuland für uns.

00:21:31: Wir probieren uns mit jedem Projekt natürlich auch aus.

00:21:35: Wie können wir das effizient für uns auch managen?

00:21:39: Und es ist ja nicht nur, ich möchte nicht das da der Eindruck entsteht dass wir alles nur unbremis machen.

00:21:44: Unsere Strategie ist schon in dem Hybrid Ansatz zu gehen und eben mit souveränen Cloud Anbietern auch perspektivisch mehr zu tun um mehr zu arbeiten.

00:21:54: Und da müssen wir alle gesamt noch eine ganze Menge an Erfahrungen sammeln mit entsprechenden Technologien, die wir dann eben bei uns eben auch mit berücksichtigen um das Thema KI sozusagen mit entwickeln zu lassen.

00:22:07: Das sind die klassischen Security-Themen dass ich eben gucke Berechtigungen Ich guck drauf was monitorisch sozusagen und welche Konzepte muss ich im Punkt Penetrationstesting machen, etc.

00:22:25: Wir haben ja Red Team alles... Das muss langsam mitgestaltet werden.

00:22:30: Ja das ist so momentan mit den Themen was wir uns da im KI-Bereich gerade anschauen.

00:22:37: Alexander Lars hat grade nicht nur von Penetrationstest, Pent-Test gesprochen.

00:22:41: Also der Test kann man in ein System eindringen auch von Red Teams.

00:22:46: also das sind Leute die auf der Seite der Guten stehen aber so tun als wenn sie jetzt mal ein paar Minuten lang böse und würden ganz gemein versuchen einzubrechen im Einsystem ob sowohl es nicht dürfen diese vielen unterschiedlichen Situationen in denen man sich wiederfinden kann.

00:23:03: Du verfolgst sehr engmarschig die internationale Diskussion, was IT-Security und eben auch künstliche Intelligenz angeht.

00:23:11: Und da sind ja ein paar Gruppierungen, würde ich sagen China, Vereinigte Staaten Russland Nordkorea... Ich möchte jetzt nicht in einen Topf tun aber da sind halt muss man sagen was Cybercriminalität angeht Schwerpunkte des Knowhow in diesen verschiedenen Ländern.

00:23:26: Was sind denn nach deiner Beobachtung die Dinge, die gerade groß diskutiert werden im Cyber Security Bereich und die deswegen automatisch relevant sein müssen für Behörden?

00:23:36: Die funktionieren garantieren müssen.

00:23:38: Also ich gebe meinen kleinen Überblick vielleicht aus Diskussionen beim World Economic Forum unter ZISUS mit der größten Unternehmen in der Welt vielleicht noch, es gibt noch so eine andere Gruppe vom Espen-Institut wo man sich auch zweimal im Jahr trifft.

00:23:56: Da sind dann sowohl Vertreter von verschiedenen Staaten als auch von großen Firmen und auch Forschungsinstitutionen.

00:24:05: Und die großen Themen über die wir bislang gesprochen haben waren zum Teil die alten Themen, die der Lars bereits erwähnt hat.

00:24:12: aber das was natürlich absolut die Diskussionen eingenommen hat war natürlich Diese Veröffentlichung von diesen Modellen wie Mythos, aber es gibt auch mittlerweile viele andere Lösungen aus Europa übrigens.

00:24:27: Die letztendlich in Windeseile Schwachstellen in Software finden und auch Software die sie gar nicht kennen.

00:24:36: Erst vor wenigen Tagen mussten wir wieder lernen das ist vielleicht zur Einordnung.

00:24:44: Da würde ich kurz noch was zu sagen, dass ja mit KI in diesem kryptografischen Ansatzhawk auch eine Schwachstelle identifiziert wurde.

00:24:55: Das eben entsprechend in einer Geschwindigkeit die man so vorher nicht kannte.

00:24:59: das ist aber völlig okay weil Dieser Ansatz ist ja noch nicht eingesetzt, sondern der ist im Moment in dieser, sagen wir mal über Prüfungsphase und man hat eben natürlich sofort auch die KI drauf angewendet.

00:25:13: Und hat dann entsprechend die Schwachstellen gefunden was ja auch sinnvoll ist und man härtet und verbessert seine Fehler.

00:25:21: also es ist das Thema Einsatz von KI, das ist das Thema... also da machen wir uns nichts vor.

00:25:26: Also alle großen Organisationen dieser Welt sicherlich auch die BA wie wir auch und wer auch immer da draußen isst Wir haben alle wissentlich Schwachstellen in unserem System.

00:25:38: Ob die ausnutzbar sind und wo sie sind Das ist eine andere Frage.

00:25:42: dass werden wir garantiert nicht in diesem Podcast irgendwie mehr erzählen.

00:25:46: Ich kann aber sagen wir sind praktisch unter uns.

00:25:50: Ihr könnt sagen, wir sind praktisch unter uns Alexander und Lars.

00:25:53: Ihr könnt auch ein Messer aus dem Nähkästchen plaudern und sagen ne also wenn man es richtig macht wir haben noch einen Windows drei einzelnen Keller da würde E-Motet funktionieren kein Problem.

00:26:01: also könnt ihr gerne zugeben ja ich bin da ganz offen

00:26:04: genau die vor der Herausforderung stehen Die größten Organisationen dieser Welt war ich vor ein paar Wochen mit denen im Austausch.

00:26:12: Das war wirklich sehr, sehr spannend und alle sagen auch ganz ehrlich wir können teilweise diese Themen und dieses Schwachstellen gar nicht adressieren weil unsere Kernaufgabe ist dass das Geschäft läuft und deswegen treffen wie eine risikobasierte Entscheidung und kümmern uns um gewisse Schwachstellen, also ähnlich das wie der Lasties Zukunfts skizziert hat.

00:26:35: Es wird noch wichtiger dass ich quasi in Echtzeit alle meine Systeme verstehe die verschiedenen Risiken von außen und von innen um dann zu sagen Wie könnte durch die Kombinatorik aller Möglichkeiten der Angreifer dahin kommen wo er hinkommen möchte?

00:26:51: Und worum muss ich mich heute kümmern?

00:26:53: und zwar heute?

00:26:54: und morgen muss ich wieder was anderes kümmern weil leider die Welt sich gerade so stark verändert hat.

00:27:00: Dieses Thema sollte man sich merken, also mean time to exploit.

00:27:06: tte ist mittlerweile quasi bei null oder negativ.

00:27:11: Ich kann auch jedem empfehlen, mal auf die Webseite Zero Day Clock zu gehen wo es eigentlich sehr eindrücklich steht dass es früher Jahre gedauert hat bis man sogenannte Exploits also Software gebaut hat um Schwachstellen auszunutzen und jetzt geht das eben teilweise in Minuten oder Stunden.

00:27:28: und dann ist natürlich die Frage wie setzt man sie ein?

00:27:31: Eine andere Diskussion, die wir einfach haben in den internationalen Zirkeln ist nach wie vor, wie man irgendwie besser zusammenarbeiten könnte.

00:27:39: Also wir reden da seit seit fünfzehn Jahren immer darüber ja Collaboration is key aber man tut sich teilweise immer noch schwer.

00:27:46: Wir haben natürlich teilweise sehr erfolgreiche Aktivitäten im Bereich entsprechend Sicherheitsbehörden.

00:27:51: also wir sehen das ja mal beim BKA zusammen mit ganz vielen anderen Behörden weltweit.

00:27:57: Ich glaube, der Karsten Mayward war auch schon mal in diesem Podcast.

00:28:01: Der leitet ja den Cyber-Gereich beim DKA und die haben natürlich sehr viele erfolgreiche Aktivitäten wo sie im Sinne des Gesetzes gemeinsam die Infrastrukturen zumindest im Zweifel temporär ausschalten.

00:28:13: Und da funktioniert das ja.

00:28:15: aber wir sehen nach wie vor die große Debatte ist immer noch Lagebilder.

00:28:21: Wie kann die Industrie oder kritische Infrastrukturen den Sicherheitsbehörden wie dem BSI und anderen Behörden, wie dem ANSI in Frankreich, der CSA in Singapur?

00:28:31: Der CSER in den USA.

00:28:32: Wie können wir da einfach das Lagebild, diese Informationen über vielleicht angefangenen Angriffe stärker verteilen um sie dann wiederum allen anderen zur Verfügung zu stellen?

00:28:44: Da tun wir uns nach wie vor alle sehr schwer.

00:28:48: Und natürlich jetzt, dass die große spannende Frage eben wie setzt man eben diese KI ein?

00:28:53: Da war auch sehr viel Frustration im Raum.

00:28:55: Kann man ganz klar sagen zwischen sagen wir alle nicht Amerikaner, die am Anfang da keinen Zugriff drauf haben Wir haben natürlich auch viel Frist gehabt weil alle gesagt haben ah das die wollen ja nur an die Börse Das ist alles Marketing.

00:29:06: aber wir haben natürlich schon gesehen Dass da schon auch leider was Wahres dran war an den Kapazitäten Was eben möglich ist.

00:29:15: und Die Frage ist natürlich, wie setzt man das Ganze jetzt ein und wie setzen wir uns auch wieder kostengünstig ein?

00:29:21: Das sind, sagen wir mal große Fragestellungen um die es eigentlich konstant auf globaler Ebene geht.

00:29:27: Ja, das würde ich sagen sind so die großen, die drei großen Themen Glück.

00:29:32: Vielleicht der vierte ist ein bisschen das Thema dass die Leute in der Security schon unter extremem Druck stehen und wir haben sie ja auch einmal in unserem früheren Cybersecurity Report berichtet Wir mehr Fälle von Burnout sehen, dass die Teams ausbrennen.

00:29:48: Dass sie daraus wollen und wie geht man damit um?

00:29:51: Aber sagen wir alle, die größten Börsen notierten Unternehmen und auch große Governmentorganisationen haben wirklich alle vergleichbare Themen und versuchen irgendwie einigermaßen damit zurechtzukommen.

00:30:06: Ich möchte jetzt mal zwei Begriffe kurz verbinden miteinander, die gefallen sind weil ich das für relevant halte die Perspektive, die wir darauf geben können.

00:30:13: Nicht nur Bundesagentur für Arbeit und schwarz-digit so von verschiedenen Seiten behördenseitig und security dienstleistungsseitig Und cloud diensteistung seitig sondern eben auch was die dritte Seite angeht nämlich das Publikum für dass man es am Ende machen muss und der Erne ist nochmal on premise oder ein bisschen präziser Am ende ist jetzt on premise Der Server im Keller, nur eine Variante von dem was man digital souverän nennen kann.

00:30:42: Man kontrolliert selbst welches Software die wo stattfindet mit den eigenen Daten tun kann.

00:30:49: Digitale Souveränität in Behördenkontexten ist ein Riesenthema geworden unter anderem durch Donald Trump der plötzlich angefangen hat sagen wir mal keine sichere Bank mehr zu sein, vorsichtig gesagt.

00:31:00: Wir kommen in eine Zeit sind zum Teil schon in einer Zeit wo wenn man einen Fehler entdeckt zb die Hersteller einer Software zum Beispiel der Anbieter von einem Cloud Service.

00:31:11: Wenn der Fehler entdekt wird dann muss man eigentlich davon ausgehen dass er bereits ausgenutzt worden ist und da kann man sich gut vorstellen was für eine dramatische Veränderung das bedeutet auch für die Instrumente die man braucht um Probleme in Anführungszeichen zu beheben, um Angriffe abzuwehren oder loszuwerden.

00:31:31: Eine spannende Sache von einem Dialog den wir hatten als die Teilnehmer von Project Glasswing ein bisschen berichteten.

00:31:39: Die konnten uns nicht alles sagen weil sie unter NDA von Entroffic waren.

00:31:44: Also Project Glass Wing ist letztendlich das Projekt von Entrophic mit einer sehr ausgewählten Zahl an amerikanischen Unternehmen gewesen wo man eben dann Zugriff bekam auf dieses Produkt Mythos und konnte damit letztendlich rumspielen.

00:31:58: Und natürlich gab es entsprechende Feedback-Loops dann an die Firma, aber die Firmen haben auch selber natürlich sofort reagiert weil man eben uns berichtet wurde dass man teilweise in sehr langjährig kuratierter Software Dinge gefunden hat wo man selber gesagt hat das gibt's ja wohl nicht da diese Schwachstelle war.

00:32:20: Man hatte aber auch Also es gibt ja Software die man einsetzt, das EOL End of Life.

00:32:26: Da gibts teilweise den Hersteller nicht mehr aber nur nutzt sie immer noch.

00:32:30: also du hast eben wieder irgendwelche Maschinen genannt, die wir irgendwo rumschten, die irgendwelchen Organisationen irgendwie rumstehen haben sollen.

00:32:37: Die haben dann auch mit der KI ein Patch entwickelt und mehr oder weniger, aber die anderen waren eher etwas überrascht davon.

00:32:44: Haben dann auch gesagt okay das wird schon irgendwie gehen und haben das Ding in die Produktivumgebung ausgerollt.

00:32:51: Da haben andere gesagt ja mutig, das könnten wir nicht machen weil dann steht unsere Chemieanlage im Zweifel.

00:32:56: Es war aber in dem Fall ein größerer Player aus der Finanzindustrie.

00:32:59: Die haben das einfach mal getestet wie es läuft und in diesem Fall lief es Und vielleicht in dem Kontext auch noch sehr, sehr spannend.

00:33:05: Auch zur Einordnung.

00:33:06: Es gibt natürlich immer diese Benchmarks wie diese offensiven Plattformen performen und da muss man natürlich mal gucken was passiert bei diesem Benchmark?

00:33:17: Wie weit realisieren oder stellen diese Benchsmarks eine echte Umgebung dar?

00:33:24: Weil das wird ja durchaus diskutiert, wie aussagekräftig das ist weil dann ignoriert wird wie der Lars auch gesagt hat dass Eine Netzwerkssegmentierung ist, dass da entsprechend eine andere Cyber Security-Lösung sind.

00:33:37: Die das oder jenes verhindern?

00:33:40: Ja

00:33:40: ich denke Panik muss man jetzt auch nicht machen weil ich hatte schon Eingang gesagt... Warum

00:33:43: nicht?

00:33:44: Ich habe total gute Erfahrungen mit Panik gemacht!

00:33:46: Kannst du mich mal ein bisschen Panik machen?

00:33:48: Wir haben keine Arbeitslosengeldzahlung.

00:33:50: weiß gar nicht ob es offiziell noch so heißt.

00:33:51: sicher ja nein Fragezeichen las guckuck nimmt live stellen.

00:33:54: also ich verstehe was du mit panik meinst.

00:33:56: aber ganz kurz dazwischen gefragt ist jetzt nicht genau der Zeitpunkt wo man sagen müsste krass Wenn man irgendwann mal den Druck erhöht, das ist für mich die Übersetzung von Panik.

00:34:04: Dann wäre jetzt der Zeitpunkt dass man sagt es kommt drauf an sonst fahren wir gegen die Wand.

00:34:12: Also die Diskussion führen wir ja schon.

00:34:14: also ich habe ja vorhin eingangs schon gesagt Wir müssen die Diskussionen führen.

00:34:18: wie können wir schneller und flexibler werden?

00:34:21: gerade was im Patchmanagement ist.

00:34:23: Das erste und das zweite ist Und da ist auch die Erwartungshaltung bei uns in den Entwicklungsabteilungen durchaus schon dar, wie wir es ermöglichen können zukünftig im LLMs auch in der Entwicklung einzusetzen.

00:34:40: Natürlich kriegen wir jetzt keinen Zugriff auf Frontiermodelle.

00:34:44: Das haben wir ja jetzt gesehen dass das politisch sozusagen von heute auf morgen uns verwehrt worden ist, dass ich einen Faible Five oder was weiß ich verwenden kann.

00:34:53: aber es muss uns doch gelingen möglichst schnell für uns Modelle zu trainieren, die wir in der Entwicklung mit einsetzen können und die wie bei uns sozusagen in die Software die wir entwickeln oder auch die wir im Einsatz haben sozusagen mit unseren Daten eine bessere Qualitätssicherung hinbekommen.

00:35:12: Lass brauchen wir eine staatliche Vibe Coding KI?

00:35:17: Also wie gesagt ich finde es jetzt bei uns wir haben einen großen Entwicklungsbereich muss es uns gelingen dass wir durchaus das Potenzial derzeit da ist für uns nutzbar zu machen.

00:35:31: Heute kann ich keinen Claw oder ich kann kein Chatchi-BT einfach so einsetzen.

00:35:36: Wir haben bis heute noch nicht den Mechanismus gefunden, um das Bedenken los einzusetzen.

00:35:41: wir haben heute Risiken und ich kann nicht kontrollieren dass Datenabflüsse da sind.

00:35:45: Das ist das eine.

00:35:47: Ich kann sozusagen chatchi bt.

00:35:50: also ich kann es heute nicht für hundert vierzehntausend Mitarbeiter verfügbar machen weil wir heute die Mechanismen nicht dafür haben ohne einen sicheren Einsatz zu gewähren.

00:36:00: Wir sind da schon mitten in der KI.

00:36:01: Digitale Souveränitätsdiskussion, Alexander.

00:36:04: Was ist denn dann deine Perspektive darauf?

00:36:05: Du verfolgst ja auch zum Beispiel Open Source Modelle, Chemica III gerade ein riesen Ding in der Diskussion.

00:36:12: Wie ist denn da deine Position und was ist denn dein Eindruck?

00:36:16: Also ich sehe hier einen interessanten Trend und zwar dass durch die Exportbeschränkungen natürlich andere Nationen insbesondere China im Prinzip durch die beschränkten Ressourcen kreativ geworden ist, um die Dinge anders zu tun.

00:36:31: Und das hat diese.

00:36:33: diesen Ansatz fährt China ja schon auch in anderen Bereichen wo sie sagen ah da wollen wir nicht mehr abhängig sein Da sind wir bereit reinzu investieren im Zweifel über ein Jahrzehnt und akzeptieren dass wir neun Jahre lang richtig schlecht sind bis wir dann vielleicht gleich ebenerdig so ebenwürdig sind und dann vielleicht sogar besser als Die Welt.

00:36:52: und dann versuchen wir das sozusagen in die Märkte reinzudrücken sagen wir industriepolitische strategische Ansatz.

00:36:59: Ich sehe so ein bisschen gerade den Trend, dass durch diese Sorge von dem politischen Einsatz von technologischer Überlegenheit und diesem Thema Vertrauen digitaler und dieser digitalen Souveränitätsdebatte die aktuellen Anbieter von den Frontschirmodellen nicht das klassisch amerikanische Modell fahren können wie sie es in der Vergangenheit gemacht haben.

00:37:21: ja in der vergangenheit war das immer.

00:37:23: Wir im Westen, gerade auch in Europa arbeiten sehr gerne mit den amerikanischen Anbietern zusammen.

00:37:29: Die sind innovativ, die sind cool und so weiter und sofort.

00:37:33: Wer besucht nicht gerne das Silicon Valley?

00:37:35: Und man konnte jahrelang im Prinzip diesen Burg graben.

00:37:39: also die Investoren sagen immer Mode.

00:37:42: Den konnte man einfach aufbauen weil man dann irgendwann einen Skaleneffekt so viele Kunden hatte dass andere Marktplayer gar nicht mehr so stark dort in den Markt reinkommen.

00:37:51: Gerade europäische Anbieten.

00:37:54: Und wir sehen aber hier gerade bei dem KI-Thema, auch weil natürlich da noch so viel Dynamik ist genau wie du gesagt hast.

00:38:02: Dass sie eben vielleicht nicht mehr diesen Burggraben aufbauen können, weil die Unternehmen schon von Anfang an nicht mehr sagen Wir machen jetzt diesen KI-Lock in sondern wir versuchen im Prinzip zu sagen sowohl aus Kostensicht als auch abhängigkeitssicht.

00:38:21: Wir arbeiten mit der KI zusammen und wir können sehr schnell einfach zwischen den KI switchen, das ist so ein bisschen die Situation in der wir uns gerade befinden.

00:38:29: Das heißt eigentlich hat man natürlich durch die typologischen Entscheidungen wahrscheinlich den Anbietern ein bisschen infusgeschossen dieses typische Modell zu fahren.

00:38:40: Ich könnte mir übrigens vorstellen weil du meintest verstaatlichste KI-Modeller oder so Natürlich fördern wir oder sollten Mit dem Start als Ankerkunden, also sei es jetzt die großen Infrastrukturen.

00:38:52: Die sind natürlich essentiell.

00:38:54: Muss der Start als Ankakunde dort beteiligt sein?

00:38:56: So wie das eben andere Länder auch machen, dass wir diese großen Modelle haben damit dann entsprechend Staat und Firmen, die an die Anwendung bauen können oder dann auch betreiben können.

00:39:08: Ich könnte mir aber durchaus vorstellen, dass wenn wir wirklich mal eine echte Krise sehen, müssen sich dann wahrscheinlich auch technologische Anbieter oder Datacenter-Anbietern Deo, Clouds und wie sie alle heißen könnten sich wahrscheinlich darauf einrichten dass vielleicht der Staat dann sagt irgendwann auch ihr seid für uns kritische Infrastruktur wir müssen jetzt große Berechnung fahren ist mir jetzt gerade egal was die Wirtschaft braucht.

00:39:30: Wir brauchen jetzt diese Rechenpower um das auch immer zu machen in der Krise.

00:39:34: also ich rede hier von dem äußersten Extremszenario aber das kann der Staat ja.

00:39:42: In der Totalkrise kann das ja, dass er dann eben staatlich eingreift und Ressourcen abgreift.

00:39:47: Das ist natürlich jetzt ein bisschen Off-Topic für das Thema digitale Souveränität aber das fand ich ein spannender Gedanke.

00:39:56: den habe ich so noch nicht gehört.

00:39:57: aber da ist was dran.

00:39:59: Man könnte sagen Behörden in Deutschland Das war noch nie eine große Liebesgeschichte mit dem Thema Geschwindigkeit und Beschleunigung.

00:40:06: Sogar Digitalisierung war in vielen, natürlich nicht BA vollkommen klar, in vielen anderen Behörden nicht immer auf Rang eins.

00:40:12: Dass es übrigens bei der BA auch ganz ohne Ironie anders ist, das konnte man sehen an Andrea Nahles die nicht nur hier im Podcast war sondern die auch von Anfang an gesagt hat, okay ich werde gerne die Chefin von der BA möchte dann aber auch gleichzeitig die IT-Chefin werden was ja ... seltener Move ist, um es mal so auszudrücken.

00:40:28: Es gibt eine Untersuchung von einer großen Unternehmensberatung... ... die im Jahr year two-tausend sechsundzwanzig erfolgt ist und die rausgefunden hat,... ... dass nur zwanzig bis fünfundzwantig Prozent aller Proof of Concepts also... Beweisführung, dass man ein Projekt macht und versucht rauszufinden ob das wie man sich gedacht hat auch funktioniert.

00:40:52: Dass nur zwanzig bis fünfundzwanzig Prozent der Proof of Concepts im Bereich künstlicher Intelligenz in Publixektor, in Behörden zum Erfolg wird, in Klammern, in den Regelbetrieb überführt wird.

00:41:04: Dass das immer als NUR bezeichnet wird Lars finde ich vorsichtig gesagt erstaunlich!

00:41:09: Ich würde sagen es ist ein total realistischer eigentlich sogar erstrebenswerter Wert, dass jedes vierte Test-Szenario was man macht mit einem Proof of Concept dennoch tatsächlich in den Regelbetrieb kommt.

00:41:23: Kannst du das irgendwie bestätigen aus deiner Wahrnehmung sowohl dieses nur was ich schwierig finde wie auch die Größenordnung?

00:41:30: Also ich kenne die Studie nicht die Du jetzt angeführt hast.

00:41:34: Ich kann Dir nur sagen Wir werden ja alle involviert aus Sicht der Informationssicherheit bei den Projekten, die anlaufen und mittlerweile ist es so dass fast jedes Projekt irgendeinen Anteil zumindest gewissen Anteil davon eben auch KI enthält.

00:41:52: Es ist nach wie vor sozusagen schwierig.

00:41:56: das ist halt weil wir als Behörde natürlich auch stark reguliert sind.

00:41:59: Das muss man ganz klar sagen.

00:42:02: Auf der anderen Seite ist es so, dass natürlich es sozusagen auch die Voraussetzungen erfüllt werden müssen.

00:42:09: Also ich brauche eine entsprechende Laufzeitumgebung, das sich das überhaupt zum Laufen bringen, dass ich es integriere in meine bestehenden Prozesse und dann überhaupt in Erfolg verbuchen kann muss ich ehrlich sagen bin ich sogar erstaunt, dass es offensichtlich weiß jetzt nicht wer da alles dran teilgenommen hat an dieser studie.

00:42:31: das ist doch jedes bei jedem vierten projekt gelingt.

00:42:36: Bei uns muss ich sagen wir haben jetzt auch den luxus eine Laufzeitumgebung überhaupt haben heute, die wir nutzen können.

00:42:44: Perspektivisch werden wir das auch in der souveränen Cloud sozusagen weiter voranbringen.

00:42:50: Ich weiß jetzt aber allerdings nicht wie bei uns die konkreten Werte sind.

00:42:53: Ich kann nur sagen dass wir momentan da sehr viel auch Security-Sites unterstützen, das Thema Kailina vorne zu bringen und eben auch den Einsatz zu ermöglichen.

00:43:03: Nur mal so als Kennzeil.

00:43:04: also Ich bin mir sicher, dass es wahrscheinlich im Public Sektor derzeit die einzig großen Use Days ist.

00:43:11: Wir haben unser ganzes Internet in eine eigene Entwicklung mit einer eigenen KI hineingeschoben und den haben wir schon mittlerweile über achtzig Tausend Mitarbeitern zur Verfügung gestellt.

00:43:21: Dafür finde ich so ein Viertel der Projekte, die am Ende tatsächlich produktiv eingebaut werden in den Regelbetrieb, finde ich viel.

00:43:29: Also meine Wahrnehmung ist eher... Das ist dieses lange geforderte Fehlerkultur, ich übersetze es meistens eher so als Kultur des Ausprobierends.

00:43:37: Es klingt positiver dass das im KI Bereich relativ schnell zur Regel geworden ist.

00:43:42: Dass Leute sagen wir probieren drei Sachen aus und gucken dann was am besten funktioniert.

00:43:46: Und das ja sogar teilweise in Behörden da finde ich eigentlich ein Fortschritt.

00:43:52: Aber man muss auch ganz klar sagen, es gibt natürlich viele Vorbehalte.

00:43:55: Ich glaube das braucht immer ein sauberes Change Management dazu.

00:43:59: wenn wir jetzt in die Entwicklung gehen und du weißt vor zwei drei Jahren war das meistgesuchtes Skill der Entwickler ja?

00:44:07: Und jetzt mit der Technologie KI Co zu generieren Ist das stark zurückgegangen?

00:44:13: Wir sehen draußen im öffentlichen Markt, dass quasi gut ausgebildete Entwickler große Schwierigkeiten haben überhaupt noch einen Job zu finden.

00:44:21: Und das was ich auch feststelle es gibt natürlich schon viele ich sage mal Vorbehalte wenn wir jetzt so Richtung denken Softwareentwicklung komplett zu revolutionieren mittels KI Effizienz und so wie.

00:44:35: wir müssen das tun.

00:44:36: aber das ist natürlich auch ein Change von den ganzen Entwicklungsteams heute mit zu arbeiten.

00:44:42: Ich erlebe immer, es gibt welche die sind total neugierig wollen sozusagen morgen Klorko oder auf dem Hof haben machen vielleicht auch privat ganz viel kennen die ganzen Themen die damit zusammenhängen die ganzen Chancen und wollen.

00:44:55: das ist gibt aber auch in der kleglichen Anteil die dann halt sagen ich habe noch ein bisschen wer jetzt dadurch morgen arbeitslos und kann das verstehen.

00:45:05: ja das ist ein Thema dass Du hast recht, wir stehen am Anfang.

00:45:10: Aber es ist ja nicht mehr zum Aufhalten!

00:45:12: Wir müssen nach vorne gehen und wir müssen effizienter werden.

00:45:14: Wir müssen schneller werden weil wenn ich heute schaue von einer Idee bis zur eigentlichen Umsetzung die Zeiten sind noch viel zu lang.

00:45:23: das muss effiziente, das muss schneller gehen und von daher wird auch eine gewisse Zeit brauchen.

00:45:29: Das ist so, wir müssen die Menschen mitnehmen

00:45:31: Alexander, das ist eine nahezu perfekte Überleitung.

00:45:35: Das offenbar viele Unternehmen glauben, ach wir brauchen nicht mehr so dringend gute Software-Entwicklerinnen.

00:45:40: Wir können das jetzt irgendwie zusammen.

00:45:42: vibecoding kein Problem und dann gibt es eine Art negative and trickledown Effekt ja?

00:45:46: Das heißt wenn jemand irgendwie zwölf Jahre bei Google Code geschraubt hat, dann ist diese Person im Zweifel in anderen Unternehmen wohl gelitten eher eingestellt als jemand, der vielleicht sagen wir drei oder vier Jahre Projektmanagement bei einem deutschen Mittelständler hinter sich hat.

00:46:03: Ohne dass ich das irgendwie bewerten oder abwerten möchte.

00:46:06: und jetzt glaube ich aber, dass genau diese Perspektive Wir brauchen nicht mehr so viel High End Know-How Dass die uns auf die Füße fallen wird weil Das ist die Überleitung Weil wir in eine Situation geraten Wo neue KI Modelle Neue KI Ansätze Teilweise Dinge, die wissenschaftlich gerade erst entdeckt werden.

00:46:30: Über Nacht Alexander ein explosiv größeres Sicherheitsrisiko darstellen können.

00:46:37: Wir haben die Diskussion um Cloud Mythos mitbekommen.

00:46:39: wir haben die Diskusionen um Chatchi-BT-Fünf-Punk-Sex-Zoll mitbekommen Die Aum-Passant plötzlich etwas tun was niemand gedacht hätte das möglich ist oder über Nacht Dutzende vielleicht hunderte Sicherheitslücken in altbekannter Software finden und das Sicherheitsgame komplett auf den Kopf stellen.

00:46:55: Ja, also das ist natürlich zum einen so dass diese ITler die wir haben ja auch viele Bewerbungen als der Schwarz-Digits jetzt freigesetzt werden.

00:47:06: Das freut uns im Zweifel weil wir den ein oder die andere wirklich für uns gewinnen können.

00:47:11: ich glaube das ist auch für die Verwaltung eine riesen Chance weil IT Kompetenz braucht es natürlich weiterhin wahnsinnig viel gebraucht in allen Bereichen.

00:47:23: Dann muss vielleicht der ein oder andere Attila auch mal akzeptieren, dass er dann vielleicht nicht mehr die entsprechenden Gehälter erhält.

00:47:28: Aber nichtsdestotrotz gerade in dieser KI-Zeit ist derjenige... Also das machen ja viele und KI Unternehmen, die wollen immer diesen Forward Deployed Engineer haben weil die schon bemerkt haben, dass das KI an sich, sondern da wo ihn sich KI bewegt natürlich jemand braucht, der diese Übersetzung macht Jeder IT-Lad, der in der Lage ist eben zu kommunizieren, in Architekturen zu denken und auch ein Code.

00:47:56: Und dann denjenigen Zuhört die vielleicht die physischen Prozesse und anderen Prozisse gut kennen.

00:48:02: Wenn man sie dann zusammen als Dream Team erschafft, ja?

00:48:06: Dann können wir natürlich das volle Potenzial KI entdecken.

00:48:09: Ich vermute mal, also ich habe leider diese Studie die du zitiert hast nicht erwähnt dass gerade in der Verwaltung die KI Anwendungen wahrscheinlich in der ersten Zeit sehr häufig zu Chat-Spots waren weil das war ja auch in der Industrie sehr häufig sehr beliebt ist ja auch eine tolle Möglichkeit im Prinzip den Kundennutzen zu erhöhen.

00:48:27: Das geht ja viel weiter.

00:48:28: es ist eben so dass ja KI in so vielen Bereichen mittlerweile Vorteile bietet eben auch In der Entwicklung.

00:48:37: In der Bundesangentur für Arbeit, da waren ja ganze Etagen voller Entwickler und haben die Programme weiterentwickelt und in den Stand gehalten.

00:48:46: Und in einer Welt wo wir mit KI neue Schwachstellen finden ist es natürlich umso wichtiger dass diese IT-Ler zusammen mit den KI Möglichkeiten einfach schauen das dieses Thema einfach sicherer werden und man das weiter umsetzt.

00:49:02: also sie sind nicht unwichtiger geworden und wir dürfen auch immer eins sich vergessen.

00:49:06: Das ist total toll, wenn ich bis zum Linus Torwald im Prinzip... Also das ist ja der Linux RL Entwickler.

00:49:19: Wenn ich entsprechend dort schon diese Fähigkeiten in der Key eingebaut habe und ich dann plötzlich nur noch alte Menschen um mich habe die das nicht mehr weitermachen, das kann ja nicht die Zukunft sein.

00:49:30: also wir müssen ja ... dass wir entsprechend auch Nachwuchs haben und das brauchen wir auch in einer zukünftigen KI-Welt.

00:49:38: Was auch immer danach kommt, werden wir auch nicht entwickeln weil das wird dann die Jüngeren beschäftigen.

00:49:45: also wenn wir jetzt plötzlich so handeln, dann haben wir auch irgendwas nicht von Demografie verstanden und vielleicht auch Verantwortung im Zweifel für die gesamte Gesellschaft.

00:49:58: Und also vielleicht noch ein spannender Punkt.

00:50:01: Wir haben ja das Institut für Seibersicherheit und digitale Souveränität, machen dort auch Untersuchungen und haben auch schon im Prinzip mit Organisationen zusammengearbeitet, wo wir uns geschaut haben wie sieht die an Angriffsfläche aus?

00:50:17: Machen es eher auf vertraulicher Basis Auch mal gerne Industriesteueranlagen im Internet und viele andere Themen auch.

00:50:26: Das sind eigentlich alte Themen, genau wie die der Larschen erwähnt hat, die einfach sehr, sehr viele Organisationen daraus haben in der öffentlichen Verwaltung als auch von kommerziellen Organisationen.

00:50:37: Und die brauchen einfach diejenigen IT-ler die diese Informationen in die Tat umsetzen, um die Organisation sicher zu machen.

00:50:45: Und das ist ja eigentlich auch der Weg vieler Cybersecurity-Expertinnen und Experten über die letzten Jahrzehnte.

00:50:52: Die haben sich nicht studiert und gesagt ich mache jetzt mal Cyber Security sondern viele waren ja vielleicht mal Systemadministratoren oder haben andere Themen gemacht und sind dann da irgendwie über die Zeit hineingewachsen.

00:51:05: und es braucht eben diese sagen wir mal Das Schweizer Taschenmesser an IT-Land, derer es da draußen viele gibt.

00:51:14: Die einfach dann auch Organisationen helfen KI in die Tat umzusetzen und Sicherheit in den Tat um zu setzen.

00:51:19: Und DERA haben wir immer noch so wenig.

00:51:21: Noch mal ganz kurz referenziert auf diese Bemühungen oder zumindest diese Aufforderung das Ganze ein bisschen zu entschleunigen.

00:51:29: Da gab es wenn man genau hinschaut in der großen Debatte in den Vereinigten Staaten zwei wichtige Momente.

00:51:34: einer war Anfang Juni.

00:51:37: Er hat nämlich Anthropic gesagt, ja wir sind schon offen für eine Verlangsamung der KI-Entwicklung.

00:51:46: In dieser großen Debatte war das erste Moment von Dario Amodei von Anthropic, dass sie Anfang Juni, zwanzig, sagen Wir sollten etwas zurückhalten.

00:51:57: die Gesellschaft und auch die Wirtschaft kommen nicht richtig hinterher.

00:52:02: Auch die Forschung hat er mit ins Feld geführt, die kommen nicht wirklich hinterher bei der extremen Beschleunigung in Klammern muss man immer dazusagen.

00:52:09: es geht bei dieser Entwicklung ja nicht nur um die großen Modelle OpenAI und Anthropic sondern es geht auch darum das ist schon festgestellt worden ist zwar auch Teil dieser Debatte dass etwa chinesische Anbieter die neusten großen Sprachmodelle systematisch absaugen, was deren Daten und Fähigkeiten angeht.

00:52:33: Das ist immer wieder festgestellt worden das die Tricks entwickelt haben um rauszufinden warum sind sie denn so leistungsstark?

00:52:41: Das tarnen Sie als normale Zugriffe.

00:52:43: Die werden nach und nach halt immer dann auch enttarnt aber nicht immer und nicht überall und nicht sofort.

00:52:48: und das bedeutet wir haben im Moment eine Verzögerung von sechs bis neun Monaten.

00:52:53: Das ist die Einschätzung von Fachleuten, wo ganz neue Modelle von Anthropic und OpenAI auf den Markt kommen, die Fähigkeiten haben vor dem man richtig Angst hat kann, die teilweise als Waffen gehandelt werden?

00:53:03: Und dann haben wir sechs bis neuen Monate bis diese Eigenschaften auch im Open Source Bereich ankommen zum Beispiel über chinesische Modelle.

00:53:09: das ist ungefähr die Zeit... ...die wir haben.

00:53:12: Ja, das ist der erste große incident.

00:53:14: Anthropik hat gesagt lasst mal ein bisschen softer werden, ein bisschen langsamer.

00:53:16: und das zweite war ein offener Brief im Juli, von den zwischen über tausend Mitarbeitenden.

00:53:23: Der auch von den Mitarbeitende kam nicht von der Firma, sondern von Mitarbeitern in den großen Unternehmen, großen KI-Konzernen Google, Open AI, Anthropic und ein paar andere noch.

00:53:33: Die gesagt haben Leute wir müssen ein bisschen auf die Bremse drücken.

00:53:37: Und der wichtigste Hebel des Aufdiebremse Drückens ist einer, der in der KI Security Szene intensiv diskutiert wird.

00:53:48: Markt noch nicht richtig angekommen ist.

00:53:50: Nämlich die Frage, wann macht sich eine KI selbstständig?

00:53:54: Und was wäre das für ein Sicherheitsrisiko wenn KI plötzlich anfangen würde zu sagen oh wär eigentlich gar nicht schlecht, wenn ich auf dreihundert tausend Servern weltweit noch irgendwelche Instanzen heimlich drauf nageln könnte weil dann kann man mich nicht abschalten.

00:54:07: also ganz plump in die Zukunft gedacht

00:54:12: Diese verlangsamen Stadt findet, glaube ich nicht dran.

00:54:15: Weil das ist wirklich eine Arms Race und du sagst in der Tat... Das ist auch so ein bisschen in der Debatte bislang untergegangen.

00:54:22: es geht ja hier nicht nur um Software Schadcode sondern es gibt ja auch noch andere Berichte die in Deutschland irgendwie untergegang sind dass man führende Experten im Bereich Biochemiewaffen mit einer Karriert spielen lassen Und die KI da eher sehr Ja es wirklich wie Hell bei dem berühmten Film von Stanley Kubrick sehr total emotionslos im Prinzip etwas einen Vorschlag gemacht hat, wie man möglichst viele Menschen entsprechend infiziert und die die Motilitätsraten hochtreibt.

00:54:56: Und das wirklich effizient und unbeobachtet machen kann.

00:55:00: Man war dann doch relativ schockiert weil die Experten gesagt haben auf diese Idee mit ich weiß nicht mal ob es irgend ein Enzym war oder was auch immer da werden sie jetzt auch nicht gekommen.

00:55:10: Und hat der dann auch nochmal wieder Restriktion gemacht?

00:55:13: Dass, worauf ich so ein bisschen zielen möchte was KI angeht ist noch mal die Sicherheitsfrage im Behörden Kontext.

00:55:21: Die sich automatisch zusammen mit digitaler Souveränität stellt wenn wir immer krassere Modelle haben.

00:55:27: Vorher hatten wir war schon die Rede von Projekt Glasswing, wo also Enthropic ein privates Unternehmen sagt.

00:55:34: Hey folgende siebzehn Institutionen und folgende neunundzwanzig Unternehmen unterrichten wir in Zukunft ein bisschen früher über die Fähigkeiten unserer KI.

00:55:42: Und da ist zufälligerweise aus Deutschland jetzt nicht so richtig nachvollziehbar tragfähig.

00:55:46: Also inzwischen ist da glaube ich auch der eine oder andere Unternehmung aus Deutschland mit dabei samt der Personen dahinter.

00:55:52: aber Am Anfang war das eher nicht so, in Zukunft muss es nicht so sein.

00:55:55: Wir sehen die geopolitische Verschiebung.

00:55:57: wie gehen wir als Land und auch aus Behördensicht laus?

00:56:01: Wie gehen wir damit um dass dort draußen inzwischen ein Takt

00:56:05: herrscht

00:56:06: an Sicherheits ich würde nicht sagen Horror aber an sicherheits bedeutenden KI Gefahren der in einer klassischen Behördensicht eigentlich kaum mehr bewältigbar ist.

00:56:20: Wie gehen wir damit um, dass nächsten Dienstag eine KI erscheinen kann die plötzlich Verschlüsselung X wie immer noch angewendet wird?

00:56:28: oder sagen wir mal Umgebung Y die wichtigste Umgebungen der Behörde Z ist das sie plötzlich nicht mehr sicher sind durch KI?

00:56:38: Also ich würde erst mal sagen wir haben ja heute unser ganz.

00:56:41: Also es kommt drauf an.

00:56:42: Wenn ich jetzt natürlich von draußen, wenn du die Gefahr anspielst dass von draußen KI gegen unseres Systeme läuft ganz im klassischen Fall dann ist das denke ich ein Thema.

00:56:55: Ich muss es natürlich irgendwie identifizieren können Das ist völlig klar.

00:57:00: und dann läuft zu mich Wenn ich es mitbekommen, im besten Fall natürlich über die klassischen Themen der Internet-Response.

00:57:07: Ich sage mal heute ist es bei uns ja so dass wir natürlich sehr reguliert sind.

00:57:14: Wir haben heute die KI, die wir im Einsatz haben Die haben wir vorher uns genau angeschaut, die läuft unter unseren Regeln.

00:57:22: Das ist noch sehr überschaubar das muss man ganz klar sagen.

00:57:26: wenn du natürlich die Bedrohung von außen her ansiehst die natürlich auf die BA ein brasseln können.

00:57:33: Dann ist es natürlich so, dass das aus meinen unseren Standardprozessen läuft ja, dass wir es identifizieren.

00:57:41: hoffentlich wenn man's nicht identifiziert dann ist es schon ein größeres Thema.

00:57:46: Wir haben aber eine ganze Menge an Partnern mit dem wir uns natürlich auch austauschen.

00:57:50: von denen war Natürlich auch Informationen kreben.

00:57:54: und ein Thema was ich noch nie angesprochen habe Was mir trotzdem sehr wichtig ist ist das Thema dazu hinkommen, unsere Infrastruktur und so Prozesse suchresilient zu haben.

00:58:06: Das sozusagen wenn dieser dieses Szenario eintritt dass wir Am Endeffekt das Thema KI, KI Ausfälle aus Fälle von Modellen oder im Identifizieren von Sicherheitslücken in unsere Notfallpläne mit überführt ist.

00:58:21: Und dass wir dieses Szenarien sozusagen mitdenken und eben dann auch zukünftig mit mit verproben.

00:58:30: Das ist eigentlich so.

00:58:31: das Thema aber Und das ist wirklich der Punkt, wo ich jetzt mit Kollegen auch dran bin.

00:58:36: Wie können wir insgesamt eine Resilienzstrategie weiter nach vorne treiben?

00:58:41: Dass wird die Szenarien KI... Das ist ein Ausfall!

00:58:44: Ich habe beispielsweise KI-Modelle in meine Geschäftsprozesse etabliert, die morgen ausgeschaltet werden meinetwegen aus geopolitischer Aspekte heraus oder eben dass es morgen komplette Schwachstellen so auftreten, das ich nicht mehr hinterher komme und vielleicht drüber nachdenken muss.

00:59:05: Dass sich Service abschalten muss weil sie nach Ex nach Außen hin exponiert sind Und derzeit das Risiko so groß ist, dass ich irgendwelchen Kundinnen nicht mehr zur Verfügung stellen kann Das sind Szenarien die muss man in einer Resilienz Strategie letztendlich mit aufnehmen letztendlich eben auch nicht überrascht zu sein.

00:59:24: Das wären jetzt so die Themen, die mir da spontan dazu einfallen?

00:59:27: Ich möchte einen Abschluss finden mit einer kleinen Vision wo ich euch bitten würde mal ganz fantasievoll und zukünftig und voller Begeisterung unter IT Security unüblicher Missachtung aller eventuellen Sicherheitsthemen die ihr damit schwingt möchte ich die Frage stellen bzw.

00:59:46: die Einleitung finden für unseren visionären Abschluss, dass man ein Staat ja als eine Art demokratisiertes und demokratisierendes Betriebssystem für eine Gesellschaft betrachten kann.

01:00:00: Und das wir sehen in den letzten Monaten deutlich geworden eigentlich in den Letzten zwei drei vier Jahren deutlich geworden dass KI Betriebssysteme nach und nach beeinflusst, teilweise überschreibt.

01:00:14: Teilweise umgeht oder eben irgendwann zu einer Art eigenem Betrieb system werden könnte?

01:00:21: Wann haben wir einen Staat der seine Behörden mit eine Art KI-Betrieb System versieht?

01:00:31: und wäre das A überhaupt sicherbar und B wünschenswert?

01:00:35: geht da mal ruhig ganz offen

01:00:38: Der Staat an sich braucht aus meiner Sicht in Deutschland gar nicht unbedingt ein KI-Betriebssystem, sondern er muss die Mittel, die er hat – die Bordmittel, die teilweise schon seit über fünfzehn Jahren existieren.

01:00:48: Zum Beispiel mit dem neuen Personalausweis.

01:00:51: Er muss hier einfach nur nutzen und gerade auf kommunaler Ebene wo wir glaube ich am ehesten Staat erleben das mußt es noch stärker durchdringen ja dass wird dort immer mehr digitale Prozesse abbilden zusätzlich uns immer wieder die Frage stellen.

01:01:09: Das passiert nicht so wenig, dass man sich zum einen sagt okay das was wir da getan haben die letzten dreißig Jahre oder weil es in irgendeiner Regulatorik stand müssen wir das überhaupt noch tun?

01:01:22: Brauche ich überhaupt noch das Formular den Antrag?

01:01:24: sonst?

01:01:25: wie ist der Staat mittlerweile so wissen zb durch die KI dass ich sagen kann der Sascha kriegt automatisch dies und jedes und welches also ähnlich wie wir das jetzt ja gerade bei dem Kindergeld gehört haben auf der politischen Ebene.

01:01:38: Es gibt aber ja noch viele, viele kleinere Beispiele und andersherum sehen wir auch das gerade auf staatlicher Ebene.

01:01:46: man ja teilweise wenn man Digitalisierung gesagt hat man in der Realität gesehen hat dass einfach physische Prozesse einfach digital stumpf abgebildet wurden weil man irgendwie sich unsicher war weil am Ende des Tages herrscht im Zweifel hat man Angst vor dem Haus Juristen der dann sagt Kannst du machen oder nicht?

01:02:06: Und ich glaube, da ist es einfach wichtig zu sagen.

01:02:09: Was können wir da schon machen?

01:02:10: Ansonsten gehe ich schwer davon aus dass der Staat sicherlich mit Verzögerung und je nach Geschäftsbereich von Sicherheitsbehörden über Behörden wie die BA KI sehr unterschiedlich einanwenden wird.

01:02:25: Er wird das anwenden so wie wir auch völlig unscheinbar und unspektakulär, wenn vielleicht kleinere Dinge entwickelt werden durch Vibecoding

01:02:34: usw.,

01:02:34: was wir besprochen haben.

01:02:36: Er wird es einsetzen in Security-Lösungen um effizienter zu sein, um sozusagen den Realitäten der neuen KI Bedrohungen herzuwerden.

01:02:47: Und dann kommt vielleicht das größere die größere Version wo der Staat wirklich agentisch wird und irgendwelche ganz neuen Modelle für die Bürger macht oder die staatlichen Prozesse ganz neu denkt.

01:02:59: Das sehe ich eher so in der Zukunft, aber es gibt viele völlig unkuhle und spektakuläre Einsätze von KI geben wo keiner richtig drüber... das wird genau wie du sagst.

01:03:10: Wie hast du das gesagt?

01:03:11: Ich gehe ja nicht mehr ins Büro und sage ich jetzt hafte es halt sondern es verselbstständigt sich.

01:03:16: also ich glaube diese Verselbständigung hat schon stattgefunden.

01:03:18: die Musik wird langsam lauter Aber sie spielt noch, das große Orchester hören wir noch nicht.

01:03:23: Ich

01:03:23: möchte natürlich bei dem Staat als KI-Betriebssystem Behörden nicht zu schnell werden damit es nicht plötzlich in eine sehr merkwürdige antidemokratische Ecke rutscht.

01:03:31: Aber Lars, siehst du aus der Innensicht wie nah können wir denn sinnvoll rankommen?

01:03:37: Machen das vielleicht ein bisschen kleiner als den ganzen Staat an eine Behörde die ein eigenes KI Betriebsystem hat und deswegen im Zweifel viel mehr Bürgerinnen, viel schneller, viel besser Gericht werden könnte.

01:03:52: Ich würde es nicht als Betriebssystem bezeichnen weil das können wir irgendwie assoziieren wie wir bauen jetzt im Vertriebsystem so ich wird's eher als Ökosystemen bezeichnend.

01:04:00: Ich glaube schon dass in den nächsten Jahren ein KI-Ökosistem bei uns speziell haben werden was uns deutlich mehr Automatisierung in den Prozessen ermöglichen wird.

01:04:14: Und die Erwartungshaltung der Bürgerinnen und Bürgern, ist ja durchaus da!

01:04:19: Ich sehe in den ganzen Projekten das oft... Du hattest jetzt einen elektronischen Personaler-Seil, das ist ein gutes Beispiel dafür.

01:04:28: das Security Mechanismen, gerade wenn es um Identifizierung oder sowas geht auch im Kontext der neuen EU Wallet die übrigens in die richtige Richtung geht und auch die Mechanismin hoffentlich zukünftig ganz normal machen wird dass Bürgerinnen und Bürger auf ihrem Handy in der Wallet alles dabei haben.

01:04:46: Und damit mal die Möglichkeit haben sich überall auch ganz einfach zu identifizieren denn das ist mir nicht so einfach für uns noch mal eine gute Beschleunigung geben würde.

01:04:56: Ich muss aber immer wieder sagen, dass ich in den Projekten feststelle das da dann die Medienbrüche kommen stand heute.

01:05:05: Aber ich bin davon überzeugt, dass wir in den nächsten Jahren und das wird mit Sicherheit.

01:05:09: Wenn ich jetzt mal eine Jahreszeit sagen soll bis zwanzig dreißig könnte ich mir das durchaus vorstellen?

01:05:14: Dass wir deutlich mehr KI-Agenten im Einsatz haben oder ganz andere Automatisierung haben und dann eben auch endlich Technologie haben Prozesse wirklich deutlich besser zu verschlanken und vor allen Dingen, so wie du es auch gesagt hast nicht einfach irgendwie nachbauen und entwickeln.

01:05:33: So wie sie heute sind sondern eben auch komplett anders denken und damit deutlich mehr Effizienzen gewinnen.

01:05:39: also davon bin ich schon überzeugt und es wird eher ein Ökosystem sein was vor allen dingen agnostisch ist was austauschbar ist wo wir versuchen die Abhängigkeiten so gering als möglich zu haben Und wobei eben, wie ich es vorhin schon gesagt habe.

01:05:54: Eben auch das in eine Resilienz überführen dass wir wenn ein wie auch immer geeigneter Notfall eintritt oder was auch immer sozusagen eine trainierte Organisation haben die damit umgehen kann.

01:06:10: also davon bin ich schon überzeugt.

01:06:12: Jetzt ganz als Abschluss wollte ich euch gerne mit kurzen Sätzen das Schlusswort geben.

01:06:17: würde wollen würde Was glaubt ihr?

01:06:21: Das KI-Amt.

01:06:22: Das KI Amt der Zukunft, die Behörde, die KI sicher und effizient einsetzt?

01:06:27: Was wären die drei wichtigsten Schritte in diese Richtung?

01:06:32: Ja was gehört zu dem ITamt?

01:06:35: Die richtige Führung das richtige Mindset eben die Dinge anders zu tun als man in der Vergangenheit gemacht hat und nicht zu sagen die und die Regulatorik verhindert das, sondern die Chancen zu sehen und gemeinsam mit anderen zusammen zu überlegen wie man das macht.

01:06:54: Das Schöne ist dass wir auch zwischen Bundländern und Kommunen über die letzten zwanzig Jahre wahnsinnig weit gekommen sind, dass man eben nicht mehr Insel-Lösungen denkt, sondern eben sowas wie GAFTEC und viele andere Initiativen nutzt um gemeinsam vielleicht ein zwei konkurrierende Lösungs haben, die man dann nutzen kann so dass man sehr effizient vorgeht.

01:07:15: also Führung ist ganz wichtig.

01:07:17: Der zweite Punkt, dass man agil bleibt und sowohl agile bleibt was die Infrastrukturen angeht als auch die Software-Lösungen selber.

01:07:28: also dieser Lock in effect bei KI wäre fatal und wir müssen hier auch geopolitisch denken.

01:07:36: es kann gut sein das die KI die ich heute nutze morgen nicht mehr zur Verfügung steht.

01:07:41: und das dritte punkt ist natürlich Trotz aller Agilität, auch die seine Hausaufgaben macht.

01:07:48: Die Hausaufгaben, die DBA natürlich in einer Dimension macht wie sie leider andere sich nicht leisten können als Organisationen auf dem KI-Amt oder in den KIämtern dieser Republik und auch an einem Professionalitätslevel seit Jahren, seit Jahrzehnten ja, wie man es für andere wünschen würde.

01:08:08: Nichtsdestotrotz ist Cybersecurity kein Hexenwerk.

01:08:13: Man kann heutzutage auch mit den neuen KI-Bedrohungen seine Hausaufgaben entsprechend machen, um einen im Prinzip einen sicheren KI-Einsatz zu gewährleisten.

01:08:24: Aber auch die Sicherheit der Bürgerdaten zu gewähre leisten und auch allgemein die Sicherheit des staatlichen Infrastruktur zu gewahre leisten, um im Zweifel a Resilienz zu sein und aber einfach diesen Staat immer am Laufen zu halten egal in welcher Situation wir uns befinden.

01:08:41: Also ich denke auch wichtig ist auf jeden Fall, dass sich es mit einer entsprechenden Governance einführen.

01:08:49: Ich muss es kontrolliert einführen und ich muss es mitdenken.

01:08:52: Es ist heute aus meiner Sicht das oberste Gebot genauso wie Sicherheit oder KI geht nur mit Sicherheit.

01:08:59: Das ist so, das ist gleichwertig!

01:09:01: Das ist, denke ich, das das obersche Thema, das zweite ist was ich jetzt eben schon gesagt habe für mich zumindest das Thema in die Notfallpläne mit aufzunehmen, es in eine Resilienz mit zu überführen.

01:09:15: In einer Resilience-Strategie regelmäßig sozusagen auch mit entsprechenden Szenarien mit zu hinterlegen.

01:09:23: Was ist wenn eben bestimmte Modelle nicht mehr verfügbar sind?

01:09:27: Also das heißt wie schaffe ich, wie gelingt's mir eine Landschaft zu haben, die ihm agnostisch ist.

01:09:34: Die Austauschbar ist sie sich nicht abhängig macht von bestimmten Modellen?

01:09:38: denn wir haben ja jetzt in den ganzen letzten Minuten diskutiert wie hoch die Geschwindigkeit ist.

01:09:43: ich baue heute Modelle ein und vielleicht sind Sie in vier Wochen wieder obsolet und wir sehen wir überholen uns links und rechts kaum hinterher.

01:09:52: das wäre so für mich.

01:09:53: der zweite Punkt Ja, der dritte Punkt.

01:09:56: im Prinzip hat das Alex auch schon gesagt.

01:09:58: Ich denke Führung ist auf jeden Fall wichtig und ist dabei obligatorisch das Thema sozusagen ganz oben zu verankern und das eben auch mitzubekleiden.

01:10:07: Das sind so die Themen, die mir eigentlich sehr spontan jetzt auch einfallen.

01:10:12: Lieber Alexander, lieber Lars vielen Dank dass ihr da war und diskutiert habt mitgesprochen.

01:10:18: Habt mit diesen vielen vielen sehr wichtigen wie ich finde Entwicklungen die genau jetzt passieren Wie kann dieses Land gerade auf Behördenseite fit werden für die Zukunft was Effizienz angeht vor allem auch was Sicherheit angeht?

01:10:31: Wie hat man das Gefühl vielleicht irgendwann dass man in Deutschland auch behördenseitig im einundzwanzigsten Jahrhundert lebt leben wird?

01:10:39: vielen dank euch, dass ihr da wart.

01:10:42: Vielen Dank auch an die Zuhörenden wenn ihr mit uns diskutieren möchtet über das KI-Amt über künstliche Intelligenz was Behörden angeht über die Sicherheitssituation?

01:10:52: ja ohnehin.

01:10:52: dann könnt ihr das gerne tun auf den verschiedenen Plattformen auf denen wir Social Media Account unterhalten von TechKI und Schmetterlinge nämlich vor allem linked in Instagram TikTok und YouTube.

01:11:04: vielen dank fürs zuhören und bis zum nächsten mal.