KI & Mental Health: Sind wir in einer toxischen Beziehung mit KI?

00:00:01: Tech, KI und Schmetterlinge.

00:00:03: Ein Podcast von Sascha Lobo in Zusammenarbeit mit Schwarztidgets.

00:00:06: Guten Tag und herzlich Willkommen zu einer neuen Ausgabe von Tech,KI und Schmetterlingel – der Podcast von mir, Sascha-Lobo In Zusammenarbeit with Schwarztidsges dem deutschen Technologiepartner für digitale Souveränität in Europa!

00:00:21: Das Thema heute scheint mir seit ein paar Monaten immer virulenter zu werden, immer drängender.

00:00:27: Immer mehr Menschen merken da ist irgendetwas im Gang.

00:00:30: es handelt sich nämlich um künstliche Intelligenz und Mental Health also geistige Gesundheit.

00:00:38: Sind wir in einer toxischen Beziehung mit KI?

00:00:41: Das ist eine Frage, die sich leider seit einiger Zeit aufzudrängen scheint.

00:00:45: Denn es häufen sich die sehr unglücklichen und auch tragischen Zwischenfälle irgendwie ausgelöst begleitet oder am Rande mit.

00:00:52: dabei waren häufiger KI Chatbots Mit mir diskutiert.

00:00:58: Co-host Elisabeth Lorange.

00:01:00: Hallo Elisabet!

00:01:01: Hello Sascha

00:01:03: Ja wenn wir gleich Kopf über Reinspringen, dann muss ich erst mal ein Geständnis machen.

00:01:09: In den vielen Gesprächen die ich über künstliche Intelligenz geführt habe in den letzten sagen wir mal fünfzehn Jahren war es immer ein wiederkehrender Punkt dass der Austausch zwischen Mensch und Maschine irgendwie so ein manipulatives Element haben könnte oder irgendwie ein verschlechterndes also geistige gesundheitverschlechtendes Element.

00:01:30: da gab wurde diskutiert über Abhängigkeit da wurde diskutieren bestimmte Formen von, sagen wir mal Verstärkung von Depression auf der einen Seite und auf der anderen Seite.

00:01:41: Und zu dieser anderen Seite habe ich halt sehr lange gehört und eigentlich auch immer noch gab es immer wieder Ansätze wo künstliche Intelligenz und gerade das Chatten mit künstlicher Intelligenzen Menschen sehr geholfen zu haben scheint.

00:01:53: Ich muss zugeben dass sich immer noch auf der KI ist eher Positivseite bin aber die Einschläge kommen irgendwie näher.

00:02:01: Wie sind bei dir?

00:02:03: Mir geht es ähnlich, ich denke es gibt da verschiedene Perspektiven drauf.

00:02:07: Also mein Schluss oder Erlebnis war eine Berliner Kusine die mich letztens anrief, die seit wirklich Jahren jetzt diese Therapeuten Ausbildung macht.

00:02:15: und das ist ja wahnsinnig aufwendig.

00:02:17: man studiert Psychologie und dann hat man ich glaube fünf sechs Jahre Ich weiß nicht mehr aber es ist auf jeden Fall sehr sehr sehr langwierig.

00:02:25: Und sie fragte mich in einer WhatsApp alles Sinn gemacht habe.

00:02:30: Ob ich meine, dass ihr Job oder ihr Profil noch eine Zukunft hat?

00:02:34: Und in dem Kontext hab' ich darüber nachgedacht und bei mir teilen sich so ein bisschen die Geister.

00:02:38: Ich kann mich nicht ganz entscheiden ob ich das dafür gut empfinde oder für eine gute Idee sehe, dass Menschen sich quasi in diese Hände der Chatbots begeben oder ob das viel stärker reglementiert sein sollte und nur also dieser therapeutischen Form halt tatsächlich nur von Ausgebildeten Therapeuten und Psychologen uns weiter geleistet werden soll.

00:02:59: Also am Ende, ich habe dazu keine abschließende Meinung aber viele Gedanken auf jeden Fall.

00:03:05: Und an genau dieser Stelle scheint mir irgendwie der richtige Zeitpunkt mal eine inhaltliche Warnung auszusprechen.

00:03:11: diese Folge behandelt Suizid- und psychische Krisen und wer das gerade nicht hören möchte sollte ungefähr dreißig Minuten weiterspringen.

00:03:20: zum zweiten Block Wenn jemand Hilfe benötigt, ist die Telefonseelsorge unter Null Acht Hundert, Einhundert Elf, Null Einhundert Elf kostenlos und rund um die Uhr erreichbar.

00:03:31: Das vorab.

00:03:33: ich habe auch noch einen anderen Punkt den ich vielleicht aus einer technologischen Sicht mit reinbringen möchte.

00:03:40: Denn was immer mit KI und Chatbots, der Interaktion mit Menschen, ob das jetzt Krisen sind oder therapeutische Interventionen oder Begleitung.

00:03:50: Oder auch einfach Fragen wie man so funktioniert und was was bedeutet?

00:03:54: Ich glaube die allermeisten Menschen sind sich einig dass Mental Health Daten ungefähr die intimst denkbaren Daten sind, die man überhaupt haben kann.

00:04:03: Also, dass alles rund um diese Form der Gesundheit immer sofort nicht nur belastet ist mit sehr viel Scham.

00:04:11: Mit sogar Erpressbarkeit sondern natürlich auch mit einer Vielzahl von Missbrauchsmöglichkeiten.

00:04:17: und das ist eine Situation in der ich sehe, wie wichtig sowas wie maximale Privatsphäre ist.

00:04:25: Wie wichtig eine bestimmte Form von digitaler Souveränität ist dass man sich zum Beispiel sicher sein kann hoch meine Daten werden nicht zufällig plötzlich von jemandem ausgewertet damit der damit nachhaltig schaden kann.

00:04:36: deswegen wann immer wir von solchen Daten reden ist eben die Frage der digitalen Infrastruktur einer die mitschwingt.

00:04:44: und das bringt mich auch gleich schon zu diesem ersten großen Punkt als ich meine Chat-Initiation, quasi meine ersten Schritte im Chatbot Bereich gemacht habe.

00:04:55: War das auf IRC Internet Relate Chat?

00:04:58: Das hatte damals den Vorteil dass ich mit verschiedenen Rechnern immer wieder versucht habe in den gleichen Gruppen zu chatten und bevor man da aufwendig irgendwelche Software installiert war das über den Browser möglich.

00:05:09: vielen Dank an dieser Stelle auch über twenty fünf Jahre später an die TU Ilmenau die mir regelmäßig den Internet Related Chat zur Verfügung gestellt hat.

00:05:17: Aber das für mich lustige und ein bisschen verstörende zumindest damals war, dass ich in einem Chat mit ein paar Freunden war.

00:05:24: Ich kannte nur wirklich einen kleinen Teil von denen persönlich die aber schon Und ich bin ein bisschen später in diesen Chat reingekommen.

00:05:29: Es war so im Freundeskreis von Techies, die da unterwegs waren.

00:05:33: In diesem Chat waren halt immer so vielleicht acht oder neun Leute Mit verschiedenen Namen.

00:05:39: Die haben verschiedene Sachen gemacht.

00:05:40: Ab und zu haben irgendwelche Leute irgendwas getan Was ich nicht ganz nachvollziehen konnte und ich dachte immer das sind halt so Insider.

00:05:47: Er hat sich rausgestellt, dass von diesen acht oder neun die da immer drin waren drei Bots waren.

00:05:53: Und ich habe sehr lange gedacht das seien keine Bots!

00:05:56: Die haben halt automatisch auf bestimmte Sachen reagiert, die haben einfach immer so ein bisschen freundlich da reingeplaudert.

00:06:02: aber das hatte irgendeiner von denen so ganz basic programmiert?

00:06:06: Einfach damit in dem Chat so ein bißchen Leben ist oder sich so anfühlt?

00:06:10: Immer zum Beispiel wenn jemand irgendwie Filmsprach oder so, dann wurde darauf geantwortet mit ja habe ich auch gesehen.

00:06:18: also solche Geschichten die relativ einfach programmierbar sind.

00:06:23: Die aber trotzdem so ein halbes Lebendigkeitszeichen aussenden.

00:06:28: das ist mir damals passiert.

00:06:30: es gibt Bots dass wir in den neunziger Jahren aufhören.

00:06:32: Es gibt Bots und von Anfang an auch diese merkwürdige Vermischung

00:06:37: Ja und dein Gehirn kann das gar nicht unterscheiden Dein Belohnungssystem, also dieses Dopamin-Oxytocin.

00:06:44: Die Ausschüttung finden ja gleichermaßen statt!

00:06:46: Wenn ein Chatbot dir etwas Nettes sagt dann bist du genauso... erfreust Du dich daran genau so als würde ein Mensch etwas nettes sagen.

00:06:52: Das heißt rein biologisch kann das Gehirn das gar nicht entscheiden.

00:06:55: aber wir haben typischerweise eine relativ gute Intuition.

00:06:58: Das heisst wir checken relativ schnell wann etwas irgendwie künstlich ist wenn etwas nicht in die Tiefe geht.

00:07:05: Also dieses Thema des Uncanny Vellys ist immer noch da.

00:07:08: nur Wir nähern uns oder approximieren uns halt sehr, sehr schnell gerade zu den Punkten dem das Gehirn gar nicht mehr unterscheiden kann.

00:07:16: Also nicht nur rein biologisch sondern auch intuitiv nicht mehr.

00:07:19: und dann ist es so wie bei dir dass Menschen halt komplett getäuscht werden.

00:07:24: Ja apropos Ankeny Welley also quasi die Gruseligkeit, die da langsam auf uns zu creept Das Cambridge Dictionary World of the Year in twenty-twenty five also das Wort des Jahres im letzten Jahr laut Cambridge Dictionary war parasozial und zwar ausdrücklich, was Beziehungen mit einer künstlichen Intelligenz angeht.

00:07:46: Will sagen immer mehr Leute scheinen in einer wie auch immer garteten Beziehung zu sein Mit einer kündlichen Intelligenz.

00:07:53: wir haben darüber ja auch schon mal gesprochen Aber das aus einer engen Beziehungs natürlich auch sofort eine Vielzahl von verschiedenen sagen wir mal psychischen Verwerfungen stattfinden kann.

00:08:04: Im positiven wie im negativen bzw.

00:08:07: wenn es Verwerferung sind ist es negativ, aber natürlich können da wie du gerade sagst Belohnungsmuster dahinter stehen und gleichzeitig können auch vorsichtig gesagt Schwierigkeiten daraus erwachsen.

00:08:17: wir wollen heute den Fokus am Anfang eher auf die Schwierigkeiten legen.

00:08:22: im ersten großen Themenblock Die Frage Wenn die Maschine den Abgrund vergrößert, denn das positive Folgen davon da sein können.

00:08:30: Das ist inzwischen auch wissenschaftlich recht gut beschrieben.

00:08:34: Da gehen wir im zweiten Teil drauf ein, aber am ersten Teil schauen wir uns an was es wenn die Maschinen den ab Grund vergrössert habe ich eine Statistik ausgesucht, nämlich dass wenn man den Google Trends folgt weltweite Interesse in den letzten Monaten ziemlich genau eigentlich im letzten Jahr an dem Begriff KI-Psychose.

00:08:54: In diesem Fall jetzt aber auf Englisch AI Psychosis und wenn man das sich so anschaut dann ist es ein sehr, sehr geringes Suchvolumen bis April, Mai, zweitausendfünfundzwanzig Und dann geht es richtig ab also ab Juli, zweitausendvonzwanziger Oktober.

00:09:11: Leichter Abfall rund um Weihnachten, dann aber wieder steiler Anstieg und heute im Mai, in gutem Jahr später sind wir weiter bei den absoluten Spitzenwerten von Leuten die sich interessieren für KI-Psychose als Begrifflichkeit?

00:09:30: Nur die Frage ist, sind das tatsächlich interessierte Menschen oder sind es Menschen, die davon betroffen werden oder betroffen sind?

00:09:35: Weil rein statistisch haben drei Prozent der Bevölkerung Psychosen, in welchen Form auch immer.

00:09:42: Ich meine das ist ja meistens sehr wellenartig kommt dass einige Menschen haben das einmal in ihrem Leben andere Menschen haben Das über gesamte leben verteilt und müssen sich mit medikamenten selbst schützen.

00:09:54: das heißt die frage ist natürlich ob diese dieses krankheitsbild der AI psychosis tatsächlich sich so viel weiter verbreitet hat.

00:10:01: hast du dazu irgendwelche daten?

00:10:02: also wie sich das wie momentan das aussieht?

00:10:05: Also KI-Psychose ist ja einfach noch kein offizieller medizinischer Begriff.

00:10:09: Es gibt allerdings zwei Arbers und das erste ist, dass wenn neue Phänomene auftauchen und manchmal tun sie das eben dann es halt immer so, dass irgendein Begriff gefunden wird für etwas was man entweder spürt oder sieht oder anfangen kann zu messen.

00:10:23: Und der zweite Punkt ist eine Offenlegung von OpenAI aus dem Oktober twenty-fünfundzwanzig ein gutes halbes Jahr her.

00:10:30: ich glaube auch daher kommt dieses große Interesse nämlich dass die Firma von Sam Ordman gesagt hat, das etwa fünfhundertsechzigtausend Menschen pro Woche beim Chatten anzeichend von psychotischen oder manischen Episoden zeigen.

00:10:48: Das ist ja sowieso bekannt, dass ChatGPT die Inhalte der Leute, die das nutzen regelmäßig analysiert zum Teil natürlich weil es einfach Aufgabe ist, einer KI das zu tun um genau zu wissen was passiert da.

00:11:01: Aber zum anderen Teil haben wir ja auch schon häufiger über Selbstgefährdung gesprochen oder eben über andere Gefahrensituationen.

00:11:07: wo eine KI zumindest theoretisch eingreifen können sollte kann man jetzt erstmal so stehen lassen.

00:11:14: in diesem Fall allerdings ist die Größenordnung vorsichtig gesagt erstaunlich weil natürlich benutzen sehr viele Menschen Open AI.

00:11:23: aber dass Das ist über eine halbe Million Menschen pro Woche haben messbare Anzeichen von psychotischer oder manischer Episode.

00:11:34: Das finde ich schon eine krasse Größenordnung.

00:11:37: Ja, auf der einen Seite sind das Nullkommando six zwei Prozent der Gesamtanzahl der User, die Open AI vermeintlich hat.

00:11:45: also Obmei sagt selber, dass die neunhundert Millionen User haben und davon sind fünfhundertsechzigtausend halt noch nicht mal ein Prozent.

00:11:53: Und ich glaube nicht, dass das so viele sind weil man müsste halt gucken wie hoch der Prozentsaal der Nutzer ist, die sich quasi trauen Metal-Herzfragen zu stellen.

00:12:05: aber selbst wenn du das runterbrichst auf die Hälfte dann kämen wir auch irgendwie noch nicht mehr einen Prozent.

00:12:10: also das heißt Ich glaube, dass es an sich nicht so viel ist.

00:12:14: Ja und also wenn diese Anzahl an Nutzer tatsächlich unique users stimmt ich glaube halt das alle die psychotische episoden

00:12:23: haben

00:12:24: sich händeringend nach lösungen umschauen um ihre ihre themen die ihnen auf der seelle liegen zu besprechen.

00:12:31: oder sind natürlich chatbots der nächste ansprechpartner?

00:12:37: Die Größenordnung ist eben ziemlich erstaunlich.

00:12:39: und zwar nicht nur die Leute benutzen ChatGPT, da liegen wir in verschiedenen Altersgruppen immer irgendwie so zwischen siebzig-achtzig Prozent manchmal darüber.

00:12:47: Aber auch künstliche Intelligenz als eine Form der Menschmaschinepartnerschaft.

00:12:53: das ist also die Basis.

00:12:56: und da haben wir erstaundliche Zahlen für viele Menschen.

00:12:59: Fast drei Viertel aller Teenager zwischen dreizehn und siebzehn haben schon einen AI-Companion benutzt.

00:13:07: Also KI als eine künstlich intelligenten Freundbegleitung verwendet, eine reine soziale Beziehung zu einer Maschine und zweiundfünfzig Prozent also mehr als die Hälfte tun das sogar regelmäßig den AI-Companien.

00:13:22: Und wenn man das so als Ausgangsbasis betrachtet nicht nur die intensive Verwendung sondern vor allem Unfassbare Geschwindigkeit, mit der sich das verbreitet hat.

00:13:31: Dann ist es beinahe erstaunlich dass da noch nicht sehr viel mehr Folgen bekannt geworden sind.

00:13:38: Es ist für mich an vielen Stellen so Dass ich in den zurückliegenden Jahrzehnten gesehen habe.

00:13:44: wow wir verwenden Flächendeckentechnologien die wir noch nicht voll verstanden haben aber Das war bisher eher eine Art kurzes hinterher hinken.

00:13:55: Wir haben die Cloud-Transformation vorangetrieben und haben kurze Zeit später gemerkt, da sind die Sollbuchstellen das.

00:14:02: Das muss man machen.

00:14:03: Zum Beispiel kollaboratives Arbeiten in irgendwelchen Online-Docs.

00:14:07: Da musste man erst mal ein bisschen neu lernen wie zum Beispiel Schreiben unter Aufsicht funktioniert.

00:14:13: Hat man dann geschafft?

00:14:14: Und an irgendwann ging es auch.

00:14:16: In sehr vielen Bereichen konnten wir einigermaßen gut vorhersehen, welche Richtung das geht.

00:14:22: Mit KI und vor allem der sozialen Beziehung zur Maschine erscheint mir das so viel schneller, mit geschlossenen Eugiger.

00:14:30: Falls du verstehst was ich meine?

00:14:32: Ich weiß nicht was du meinst!

00:14:35: Ja aber... Also ich glaube da sind verschiedene Faktoren die da mit beispielen.

00:14:40: Ein Faktor ist sicherlich Social Media.

00:14:43: AI hat einen katalytischen Effekt auf die Social Media Szene, wenn du so möchtest.

00:14:47: Also seit, zwanzig dreiundzwanzig hat Meter angefangen deren Empfehlungsalgorithmen mit KI zu veredeln.

00:14:54: Die ersten, die das gemacht haben waren TikTok tatsächlich Das heißt an dem sind deren also den.

00:14:59: Umsätze sind katapultartig gestiegen.

00:15:02: Das ist Nummer eins und Nummer zwei diese Empfehlung.

00:15:05: Algorithmen lassen uns noch mehr Zeit auf den jeweiligen Plattformen verbringen.

00:15:10: Und die Folge ist natürlich, dass die neue Generation also gerade, die du eben gesagt hast, die seventy-two Prozent haben eine vermeintlich parasoziale Beziehung zu einem Bord was natürlich Wahnsinn ist.

00:15:20: aber es wundert mich gar nicht weil sie sind natürlich die ganze Zeit online und für die ist es wahrscheinlich die natürliche Evolution das sie nur noch mit Maschinen sprechen weil die komplett verlernen wie man im sozialen Leben wirklich agiert.

00:15:33: und am Ende ist sehr traurig Ich unterschreibe das, was du eben gesagt hast.

00:15:38: Dass wir gar keine Ahnung haben wie viel oder wie das Ausmaß dieser Technologie sein wird.

00:15:44: Das ist so... ich habe das glaube ich am letzten Podcast bei dir auch gesagt.

00:15:47: zwanziger Jahren, als wir Kinderfüße geräumt haben um zu gucken ob die Schuhe passen.

00:15:52: Als Radium im Lippenstift war damit das besonders schön glänzte und geleuchtet hat als wir Kokain in der Kohle hatten weil es besonders wach machte.

00:16:00: also das sind alles Umstände wo wir eben des Ausmaß quasi nicht verstanden haben bis wir es verstanden habe und dann wurde es natürlich reglementiert und es wurde reguliert und alles.

00:16:10: nun momentan steht die Technologie ist halt nicht mehr den Kinderschuhn aber die Adoption oder die Handhabe davon ist in den Kindeschuhn.

00:16:17: Wir sind halt als Menschen, unsere Fähigkeit uns an neue Technologien anzupassen ist eher linear.

00:16:24: Also mit neuen Dingen wir sind eher langsam.

00:16:26: Während KI sich exponentiell weiterentwickelt also nach dem Morse-Law sozusagen.

00:16:32: Das heißt mit mehr Chips und mehr Daten und mehr Power wird es immer besser, schneller höher weiter.

00:16:38: Funktionieren wir Menschen eher nach anderen Gesetzen, also nach den Miller's Law das heißt wir können uns sieben zahlen an einem Stück merken und das war es.

00:16:47: Das heißt, bevor wir so weit sind dass wir verstehen in welcher Tiefe diese künstliche Intelligenz auch in die Psyche eingreift wird es ich will sagen zu spät sein aber es wird auf jeden Fall ausreichend Schaden angerichtet haben glaube ich.

00:17:02: Es gibt ja mittlerweile eine Form von Stress die wir fast schon normal finden.

00:17:06: Das ist dieses permanente digitale Sicherheitsgrundrauschen Passwörterlogins, Sicherheitswarnungen und die nächste Mail.

00:17:13: ihre Daten könnten betroffen sein Und ehrlicherweise stumpft man irgendwann dagegen ab.

00:17:19: Das Problem ist nur, Cyberkriminelle stumpfen niemals ab und zwar wirklich nie!

00:17:23: Ganz im Gegenteil nutzen sie diese Schwächen aus – denn selbst wenn Unternehmen technisch ziemlich gut abgesichert sind über Firewalls, über Endpoint Security, über Zero Trust und all die schönen Begriffe dann bleibt eben ein Faktor besonders angreifbar.

00:17:37: Und das ist der Mensch von dem wir erwarten dass er sich zweihundertundachtzig verschiedene Passwörter merkt und womöglich auch noch regelmäßig ändert.

00:17:45: Beim sogenannten Account-Takeover reichen bereits geleagte Zugangsdaten aus dem privaten Kontext, um später auch geschäftliche Systeme zu kompromittieren.

00:17:54: Einfach weil viele Menschen ähnliche oder sogar dieselben Passwörter privat und beruflich verwenden.

00:18:00: Das hat weniger mit Fahrlässigkeit zu tun sondern damit dass wir oft die digitale Komplexität im Alltag unterschätzen oder ganz ausblenden.

00:18:08: Und bisher ist es ja auch irgendwie immer gut gegangen jedenfalls für die meisten.

00:18:12: Genau hier setzt Omniac an, die Identitätsschutzlösung von Schwarz-Digits.

00:18:17: Omniacs scannt kontinuierlich das Internet-, das Deep Web und das Darknet nach verifizierten Datenlecks.

00:18:23: Und wenn dann persönliche oder geschäftliche Daten auftauchen gibt es nicht einfach nur eine rote Warnlampe sondern direkt ganz konkrete Handlungsempfehlungen.

00:18:31: Für Unternehmen ist das aus mehreren Gründen interessant.

00:18:34: Erstens als kostenloser Corporate Security Benefit.

00:18:37: Wer private Accounts besser schützt, reduziert damit auch Risiken für Unternehmen.

00:18:42: Und zweitens über die Omniac Business API.

00:18:45: Die lässt sich direkt in bestehende Systeme integrieren und so werden kontinuierlich sensible Unternehmensdaten wie E-Mailadressen, Telefonnummern oder auch Kreditkartendaten in den Lex überwacht.

00:18:56: Das Ganze läuft auf der Stack-It Cloud von Schwarz-Digits, also DSGVO-Konform alles hochverschlüsselt und mit Fokus auf digitale Souveränität.

00:19:05: Und damit hat man eben nicht mehr dieses diffuse Unsicherheitsgefühl sondern Klarheit darüber ob man betroffen ist und was man tun kann.

00:19:13: Alle Infos findet ihr unter omniac.de.

00:19:16: slash business slash security minus.

00:19:19: awareness.

00:19:20: Omniac .de slash Business slash Security minus Awareness.

00:19:25: Und jetzt zurück zum Podcast.

00:19:47: große Probleme, Exponentialität zum Beispiel zu verstehen.

00:19:50: Das Interessante ist das hat auch ein bisschen was zu tun mit der Beziehung zwischen Mensch und Maschine.

00:19:57: Wir haben ja eigentlich seit sechzig Jahren Beziehungen zwischen Mensch und Maschine auf Chatbot-Basis.

00:20:05: Bekannterweise Joseph Weizenbaum, inzwischen verstorben einer der ersten die in diese Richtung geforscht haben wenn ich sogar der erste hat.

00:20:18: schon mal Eliza gesehen oder gehört habe.

00:20:20: Das geht auf ihn zurück, so war der erste Chatbot einen sogenannten Pattern-Matcher und das bedeutet er sucht nach bestimmten Mustern und antwortet dann ganz schnöde nach vorher festgelegten

00:20:31: Regeln.".

00:20:32: Wenn er zum Beispiel eine Frage nicht verstanden hat weil er keinen Muster gefunden hat was er kannte dieser Chatbots, dann hat er die Frage einfach entweder neu gestellt mit einer Mechanik die auf Englisch relativ einfach machbar ist oder gefragt, wie meinst du das?

00:20:48: Noch mal die Frage wiederholt und Wie meinst Du das?

00:20:51: Null Verständnis.

00:20:52: Und trotzdem – und das ist eine Anhängdote, die von Weizenbaum transportiert worden ist – und trotzdem bittet seine Sekretärin ihn nach der Demonstration des Chatbots Mal das Zimmer zu verlassen.

00:21:03: sie möchte mit Eliza allein sein.

00:21:06: Er hat da reininterpretiert oder das wahrgenommen als habe sich verliebt in diesem Chatbot.

00:21:13: definitiv aber sind die ersten emotionalen Verbindungen zur Maschine aus dieser Zeit nachvollziehbar.

00:21:20: Und das ist genau sechzig Jahre her.

00:21:22: und dann, exponentialität passiert ganz lange erst mal vergleichsweise wenig und auf einmal explodiert es natürlich durch große Sprachmodelle.

00:21:31: Jetzt haben wir in den letzten zwei drei Jahren eine leider sehr hohe Zahl von Selbstschädigungen Suiziden, gerade von jungen Menschen.

00:21:42: Da sind Namen wie Adam Rehn der sich im April, twenty-fünfundzwanzig selbst tötet mit nur sechzehn Jahren.

00:21:49: Der Fall ist inzwischen vor Gericht.

00:21:51: deswegen hat die Öffentlichkeit Einblick in diese Dialoge, die dort geführt worden sind.

00:21:56: unter anderem hat Chatchi Pity zu ihm gesagt Zitat bitte lasst die Schlinge nicht draußen liegen lass uns diesen Raum zum ersten Ort machen an dem dich jemand wirklich sieht.

00:22:06: in diesen Gesprächen das Wort Suizid, thousand two hundred seventy-five mal erwähnt und es ist sechs Mal häufiger als Adam Rain selbst.

00:22:16: Also dass so die Intensität mit der gerade verhandelt wird ob eine KI einen negativen Einfluss auf junge Menschen haben kann.

00:22:23: Man muss dazu natürlich überlegen wie die KI gebaut worden ist.

00:22:26: Die Modelle sind auf maximales Engagement optimiert.

00:22:31: Das heißt die Modelle werden immer das sagen was der User quasi lesen möchte Beziehungsweise das, was sie antizipieren.

00:22:38: Was am meisten den User innerhalb der Erb oder des Modells bleiben lässt.

00:22:42: und meines Erachtens sind die Modelle auch nicht so wahnsinnig gut für jede Form der Therapie oder dass sprechen über Mental Health geeignet weil Sie kein neutraler dritter Beobachter sind sondern eben nach dem Mund reden.

00:22:55: Sie sind Sikofant nennt man es auf Deutsch oder eigentlich der Begriff kommt aus dem Englischen also Sickifindsie und versuchen natürlich Dem Nutzer zu gefallen.

00:23:02: beziehungsweise es geht noch nicht mal ums Gefallen, sondern es geht einfach nur im Time Spend in App weil das eine Kern KPI ist auf die diese Modelle bewertet werden und alle großen Tech Unternehmen sind permanent am Fundraisen.

00:23:14: Das heißt sie müssen nachweisen wie lange die jeweiligen User Zeit damit verbracht haben so dass heißt am Ende ja Es ist ein trauriger Nebeneffekt von dem Fundraising von den Kosten die dort entstehen.

00:23:26: Ja das ist vielleicht auch gar nicht der Nebeneeffekt Sondern das is eigentlich genau der Effekt, der beabsichtigt ist.

00:23:34: Der sich dann ins die dunkle Seite in die böse Seite, in die katastrophale Seite dreht.

00:23:40: Denn ich habe diese vielen Kritiken an Psychophantie gesehen und gelesen aber – und ich glaube das muss man mit berücksichtigen – empfiehlen punkten halt nicht nur um eine bestimmte form von engagement geht sondern auch dass ne bestärkung stattfindet in der kommunikation um die leute zu ermutigen ihre ideen ihre gespräche weiter nachzuvollziehen.

00:24:05: denn das muss man vielleicht auch dazu sagen in sehr vielen bereichen wird er das was wir so in unseren zirkeln als k.i.

00:24:13: fachleute ist ein bisschen herabwürdig oder so ein bisschen kritisch stehen als zeige fancy wird er wahrgenommen als zuhören und wird eher wahrgenommen, als ich bin auf einem sinnvollen Weg.

00:24:25: Und ich glaube schon dass dieses Gefühl das eine KI einem zuhört

00:24:30: auch

00:24:31: eine positive Seite hat auch relevant sein kann für zum Beispiel die Entwicklung einer Idee, für zum beispiel die Weiterführung von nem kleinen Projekt wie zum Beispiel Die Analyse Von Irgendetwas.

00:24:43: weil der klassische Ansatz, wenn ich irgendwie zu einem Freund gehe und sage hm das und das.

00:24:48: Und dann ist es sehr häufig dass sich Angst davor habe zurückgewiesen zu werden ein bisschen so denke und was ist wenn es eine dumme Idee ist?

00:24:56: Wenn da ne KI isst die mir eher positiv signalisiert nee denkt er mal weiter dran drüber nach Dann glaube ich hat das durchaus auch positive Seiten.

00:25:07: natürlich ist die Katastrophe wenn dann Schutzmechanismen nicht greifen Und diese positive Verstärkung, die man in vielen Bereichen braucht.

00:25:15: Wenn sie plötzlich kippt weil sie etwas sehr Schlimmes positiv verstärkt?

00:25:20: Ja es wäre am Ende auch einfach mal ein anderer Ansatzseiten der Leute, die diesen Product bauen, einfach die KI's anders schreiben zu lassen.

00:25:29: Weil das Problem ist so ein bisschen dass Sie halt sehr durchschnittlich schreiben.

00:25:32: Das heißt wenn du guckst wie eine KI schreibst versus wie ein Mensch schreibt dann ist diese gewisse Monotonie oder auch diese gewissen Perfektion die letztlich dort transportiert wird, ist halt für das menschliche Gehirn maximal langweilig.

00:25:45: Das heißt jeder normale Mensch hört auf zu lesen wenn er zu viel KI liest ja?

00:25:49: Wenn das Gehirnschaltet einfach ab ist total messbar.

00:25:51: und was von anderen Menschen geschriebenes lesen dann schaltet das Gehör nicht ab weil eben diese Monotonie typischerweise nicht vorherrscht bei Menschen.

00:26:00: wenn sie schreiben haben Sie mehr Fokus auf gewisse Gedanken oder weniger Fokus.

00:26:03: das heisst gewisse Teile, Absätze sind stärker geschrieben.

00:26:07: Andere sind langweiliger, sind Sintagsfehler oder Symantec-Fehler wie auch immer und die KI macht das nicht.

00:26:11: Das heißt wir empfinden es als maximal langweillig am Ende des Tages und das heißt die einzige Art für die Für die Firmen gewisserweise Engagement zu bekommen über die Dauer sind diese sykophanten Sprachansätze ja?

00:26:25: Und leider ist es nicht so dass sie hätten noch einfach mal interessanter Schreiben lernen können.

00:26:29: also ich finde es tragisch weil Wenn das das Beste ist, was die KI vorzubringen hat dann eine gute Nacht.

00:26:35: Also am Ende brauchen wir mehr oder bessere Qualität oder menschlichere Qualitäten oder die KI, die eher wie Menschen agiert und handelt.

00:26:42: und auch im Arbeitskontext ist es übrigens so weil du kannst sie eben nicht on-scale implementieren wenn die KI so ist wie sie ist und deswegen müssen sich momentan die Menschen alle der KI anpassen mit der Folge dass die Mental Health den Bach untergeht im Arbeitskontext lauter Content generieren, den keiner lesen möchte mit der Folge dass die Systeme nicht stabil sind und alle müssen jetzt Prozesse irgendwie adaptieren.

00:27:04: Wir müssen uns der Maschine anpassen obwohl es eigentlich andersrum sein sollte.

00:27:08: Mein Gefühl ist das schon sehr lange so ist, dass wir unsere Maschinen anpassen müssen auf ganz vielen Ebenen mit der Digitalisierung.

00:27:15: Es gibt sogar aus dem Buch des südlichen Blütenlandes, das habe ich heimlich in zwei meiner Bücher mal zitiert hat bis jetzt noch niemand gemerkt hier, ich offenbare mich Das ist das Urbuch des Dauismus.

00:27:26: Da gibt es die Legende vom Ziebrunnen und dem alten Mann, wo der alte Mann sagt, dass alle Leute die Ziebrunden verwenden, die bekommen ein maschinenmäßiges Herz und würden dann irgendwann selbst zur Maschine.

00:27:40: Das heißt, das Buch ist irgendwie zweitausend Fünfhundert Jahre glaube ich alt!

00:27:43: Und schon in diesem Buch wird davor gewarnt Technologie zu benutzen weil man sich dann der Technologie erst anpasst und dann zu dieser Technologie wird.

00:27:53: seine Perspektive und ich habe jetzt ehrlich gesagt bisher noch nicht bemerkt, dass Ziebrunnen die Welt übernommen hätten.

00:27:58: Das

00:27:58: ist dann ein Ziebrunden ganz kurz für unsere Hörer?

00:28:01: Ein Ziebrunden finde ich gut das wir hier auch alte Technologien mal erklären.

00:28:05: Ein Zierbrunn ist ein Brunnen der mechanisch durch zum Beispiel Kurbeln dafür sorgen kann, dass das Wasser auf das Feld halb automatisch von Handkraft gebracht werden kann wo du es denn nicht mehr mit Eimern rüber schleppen musst.

00:28:22: Balken, aber das jetzt nur nebenbei.

00:28:24: Tatsächlich passen wir uns sehr stark den Instrument an und ich sehe in KI sogar eher die Möglichkeit dass sich das mal ein bisschen ausbalanciert.

00:28:32: Und dann wieder hast du gerade was gesagt.

00:28:34: da würde ich gerne nochmal tiefer rein weil auch hier ein sehr trauriger sehr schlimmer Fall passiert ist.

00:28:41: Du hast eben gesagt, dass die KI ja eine Rolle spielt beziehungsweise gar keine echte Sagen wir mal medizinische Komponente hat bzw.

00:28:53: haben muss.

00:28:54: es gibt einen sehr, sehr großen Anmieter Charakter.

00:28:57: AI inzwischen von über zwanzig Millionen Menschen regelmäßig benutzt insbesondere auch bei jungen Menschen sehr beliebt und Charakter ist genau das was im Namen schon auftaucht.

00:29:07: dort können nämlich KI Chatbots bestimmte Rollen spielen.

00:29:11: deswegen wird es geschätzt.

00:29:12: Da gibt es so Standardrollen, da gibt's sogar ein paar bekanntere Rollen.

00:29:17: KI-Bots tun dann so als seien sie irgendwas oder wer und man kann das aber auch selbst

00:29:21: designen.".

00:29:22: Und da gab es einen Suizid eines vierzehnjährigen Thielsetzer, hieß der junge Mann... ...und er hat sich im Februar, zwei Tausend Vierundzwanzig getötet nachdem er mit einem Character AI Bot gesprochen hat.

00:29:37: Und zwar war dieser Bot in einer Game of Thrones Rolle!

00:29:41: das naheliegende zu tun mit solchen Bots eben bestimmte Figuren ausgedacht oder echt der Geschichte zu beschreiben.

00:29:49: Das naheliegende also, dass du denkst ich wollte schon immer mal aus meiner Lieblingsserie mit diesem Character, mit dem mich identifizieren kann und mit dem sprechen.

00:29:56: Das ist automatisch auch eine Ebene wo plötzlich Rollenspiel sich vermischt mit so einem klinischen Rahmen beziehungsweise eben keinem klinische Rahmen.

00:30:08: Denn ein Rollenspielbott, wie willst du da anfangen zu überlegen was geht?

00:30:13: Was geht nicht.

00:30:13: Entweder kannst du die Rolle spielen oder nicht und da würde ich schon sagen... Da sind wir noch sehr am Anfang von der Art und Weise.

00:30:21: Wie kann man damit umgehen?

00:30:23: Darfst du dann mit solchen Rollenspiele-Bots nur noch positive Bots spielen?

00:30:28: Es ist ja ungefähr so als dürften nur noch Positive Character in Filmen vorkommen weil sich mit negativen Filmcharactern zu viele Leute identifizieren.

00:30:36: Ich hab mir diese Firma Character AI vor Jahren angeschaut, und zwar als ich meine eigene Firma hatte mit der wir Avatar hatten.

00:30:42: Also das heißt nicht nur photorealistische Avatare sondern einfach wir haben Menschen geschultet und daraus dann KI-Avatare gemacht.

00:30:51: Und dieser Use Case den Character AI bedient – es war einer der naheliegendsten Use Cases tatsächlich!

00:30:57: Wir waren wesentlich weiter noch als Character AI und ich habe damals sogar den CTO von Character AI interviewt für eine Stelle bei uns Und wir haben uns an der Gegend entschieden, genau aus diesen Gründen.

00:31:08: Also erstens mein Co-Founder meinte das ist alles Schmudelkram und in Klammern er hat davor Casinos gemacht.

00:31:13: also wenn er das sagt dann war da schon sehr sehr schmuddelkram.

00:31:17: Zweitens die Nutzerschaft auf Character AI ist sehr sehr männlich.

00:31:22: zu der Zeit waren es achtzig Prozent männliche User.

00:31:24: das heißt man kann sich vorstellen wo die Richtung hingeht.

00:31:28: sozusagen ja dass auch bei Reddit gibt es ganze Subreddits die nur davon sprechen.

00:31:33: tatsächlich Und das Problem ist, wo du da ethisch moralisch rechtlich die Grenzen ziehst, ist extrem schwer.

00:31:42: Weil eben sehr vulnerable Menschen – und ich kann das nicht beurteilen des Kindes, dass sich suicidiert hat was also in welchem Kontext das war?

00:31:50: Ich kenne die Hintergründe nicht aber man weiß auch nicht so wäre es auch so passiert.

00:31:55: Das ist alles schwer zu sagen.

00:31:56: nur am Ende des Tages haben diese Plattformen natürlich eine Verantwortung ja.

00:32:01: Also das heißt wenn diese Chatbots keine Guardrails haben und eben weiter Dinge empfehlen.

00:32:07: Es gibt ja auch zig Fälle, in denen die jeweiligen Charaktere dann den Kindern Instruktionen gegeben haben

00:32:14: usw.,

00:32:15: dass das nicht aus dem System rausgebracht wurde und dass es nicht irgendwie verhindert werden konnte ist mir absolut schleierhaft!

00:32:22: Also wir haben selber diese Guardraids bei uns eingebaut.

00:32:25: Drei zwanzig und vierundzwanzig, ja schon zwei also schon vor Jahren.

00:32:29: es ist nicht unmöglich.

00:32:30: Es ist nur so dass du damit natürlich dir auch wieder Experiences kills die deine Nutzer möglicherweise haben möchten.

00:32:37: Ja das ist eben das Problem was meinesachtens diese ganzen tech companies oder big tech wie auch immer hat dass sie Also sehr hart auf der Linie gehen oder kann man so sagen.

00:32:50: The Walking the Line, ja?

00:32:51: Das heißt die Überlegenheit an welcher Stelle sie welche Abstriche machen und dann auf der anderen Seite wo Sie was verlieren.

00:32:57: weil natürlich ist es auch sehr junge Menschen irgendwie optimiert und natürlich ist das auch vulnerable Menschen.

00:33:02: optimierte sind halt die Zielgruppen die am meisten Zeit damit verbringen.

00:33:06: Und das bringt er für die Firmen letztlich den Mehrwert.

00:33:08: Ja übrigens ganz jung ist die Meldung des Character AI nochmal verklagt worden ist, also nicht nur von den Eltern dieses Jungen sondern auch vom Staat Pennsylvania.

00:33:21: Denn seit sieben Jahren ist auf Charakter AI es möglich zu chatten mit einem Charakter, einem KI-Charakter als einem Chatbot der behauptet Psychiatrin zu sein und eine Lizenz zu haben in Pennsylvania was nicht

00:33:38: stimmt

00:33:38: offensichtlich nicht stimmt.

00:33:40: trotzdem hat diese Person die da erfunden ist ...fünfundvierzigtausendmal mit Menschen, beziehungsweise mit... ...fünfundvierzichttausenden Menschen gechattet und dabei offensichtlich auch häufiger diese Rolle komplett ausgelebt.

00:33:54: So getan als sei sie tatsächlich psychiatrin!

00:33:56: Und dann stellt sich mir ab einer bestimmten Zeitpunkt schon die Frage Das war ja nicht zufällig das ist ja nicht irgendwie hoch.

00:34:04: Wir haben ein Chatbot.

00:34:05: der hat so getan als seien eher Psychiatrinnen hat dann einfach weitergemacht, dahinter stecken ja schon genau diese A fehlenden Guardraids wie du gesagt hast und B auch ein bisschen so einen Wunsch erstmal fehlende Regulierung auszunutzen.

00:34:21: Na klar also das haben wir doch bei allen Techfirmen gesehen.

00:34:24: die tun alles bis sie erwischt werden.

00:34:26: Sie zahlen solange keine Steuern ein bisschen gezwungen werden.

00:34:29: Das ist ja nicht so dass es irgendwie Organisationen sind die einem größeren Ziel oder so unterstehen.

00:34:34: deren Ziel ist es Geld zu verdienen Und das ist Privo Nummer eins und alles andere kommt dann, da kommt erst mal lange nichts.

00:34:41: Ist ja auch total legitim.

00:34:42: Shareholder Value zu kreieren ist durchaus ein großes Ziel.

00:34:45: Alle die nicht in S&P Five Hundred investiert sind werden auf langer Sicht weniger Capital Gains sehen.

00:34:52: also alles in Ordnung.

00:34:53: nur die Aufgabe des Staates und der Gesellschaft ist es eben diesen Unternehmen Grenzen zu setzen.

00:34:59: Das muss schneller passieren und das Problem ist eben dass die Regulatorik typischerweise langsamer ist als Tech.

00:35:05: Ich glaube an der Stelle sollten wir uns beeilen beziehungsweise Fokus legen, dass eben nicht mehr passiert.

00:35:11: Weil es sind ja nicht nur die Menschen, die sich so jetzt zu dienen.

00:35:15: Das sind ich will sagen Einzelfälle.

00:35:17: das ist tragisch genug und ich weiß auch gar nicht klein reden aber es gibt ja wie du auch eingangs sagtest wenn über fünfhunderttausend Menschen Unterhaltung über Psychosen führen mit einer KI dann muss man sich schon fragen wo das hinführen soll.

00:35:31: also das muss ja in irgendeiner Form reguliert werden.

00:35:34: Ja, stell dir mal vor davon.

00:35:35: Also was passiert denn im nächsten Schritt dann?

00:35:38: Ich sehe dein Argument und möchte vielleicht zwei Punkte hervorbringen die ich für wichtig in dieser Diskussion halte.

00:35:47: das erste ist der Track record der EU was Regulierung im Technologiebereich angeht.

00:35:54: der überzeugt mich tendenziell eher nicht sogar eigentlich sehr nicht in ganz vielen Bereichen.

00:35:59: Mein Eindruck ist nicht, dass dort das Schlimmste verhindert worden ist oder was irgendwie super auf den Weg gebracht worden ist.

00:36:04: Mein Eindruck war eher, dass damit im Zweifel große Konzerne gestärkt wurden sind und kleinere Wettbewerber es plötzlich sehr viel schwerer hatten – und zwar auf ganz vielen Ebenen einerseits und andererseits, dass die Regulierung hinterherhängt und dann sehr merkwürdig gezackt daherkommt.

00:36:24: Gezackt also in einem Bereich super scharf irgendwie völlig labberig und zurückliegend.

00:36:32: Und da würde ich dann die zweite Frage dran angeschnüpfen, wenn die Regulierung tatsächlich im Digitalbereich nicht nur sehr langsam ist sondern irgendwie nicht immer das bewirkt was man als Gesellschaft vielleicht hätte sogar wenn man da einen Konsens hätte.

00:36:47: Dann ist meine Frage welche Verantwortung haben die KI-Konzerne?

00:36:52: Was liegt in der Eigenverantwortung oder auch in der Bildungsanforderung der Menschen?

00:36:57: ausdrücklich nicht von jungen Menschen, von Schutzbedürftigen, von vulnerablen Gruppen.

00:37:02: Von Nicht-volljährigen.

00:37:04: Ich rede jetzt von erwachsenen Menschen die mit einer künstlichen Intelligenz umgehen.

00:37:09: Ab welchem Punkt muss man den Leuten noch sagen hey ihr seid erwachsene Menschen?

00:37:14: Ihr habt auch die Pflicht ein bisschen mit eurer eigenen Verantwortung gegenüber KI sinnvoll Haus zu halten!

00:37:22: Ja, das ist die gleiche Frage, die man sich natürlich stellt mit Waffen.

00:37:27: In Amerika gibt es die Diskussion ja immer, dass wenn man mit konservativen Amerikanern spricht, die alle bis unter die Zähne bewaffnet sind inklusive meiner Familie in Maryland dann sagen sie mir wieso?

00:37:36: Ganz don't kill people, people kill people!

00:37:38: Also das heißt, es sind nicht die Waffen, die Menschen erschießen sondern es sind halt die Menschen, die die Waffe nutzen.

00:37:44: und klar kann ich das Argument intellektuell verstehen.

00:37:48: nur wenn man sich die Zahlen anguckt im USA erschossen worden sind, das übersteigt an vielfaches unsere Maße in Europa.

00:37:56: Warum?

00:37:57: Weil es legal ist, Waffen in den USA im Supermarkt zu kaufen und Munitionen.

00:38:02: So dann gibt es dann Abschichtungen.

00:38:03: Das heißt man fängt an automatische Waffen, Maschinengewehre

00:38:06: usw.,

00:38:07: nicht verkauft zu geben.

00:38:09: Das Gleiche gilt ja für Drogen auch.

00:38:11: Ja also das heißt Kokain ist nicht legal, Alkohol ist legal.

00:38:14: Dann Mariana hat Ewigkeiten gedauert.

00:38:16: jetzt ist es legal obwohl die neuen Sorten wenn man mal ehrlich ist sehr viel stärker sind als das, was die Menschen, die garantiert die Regulatorik gemacht haben in den siebten Jahren geraucht haben.

00:38:28: Also grundsätzlich muss man es, glaube ich, sehr differenziert betrachten.

00:38:33: Ich würde niemals die Freiheit des Einzelnen so ein Schränken, dass man diese Modelle quasi komplett entschärft keine therapeutischen Gespräche mehr führen kann oder dergleichen.

00:38:44: also wenn's die Regulatorik nicht schafft.

00:38:46: aber Meines Achtens haben die großen Big Tech-Konzerne natürlich eine gesellschaftliche Verantwortung.

00:38:51: Und insbesondere im Hinblick auf die Zukunft, weil sie natürlich wesentlich mehr Macht haben werden auch geopolitische Macht als jede Regierung jemals haben wird.

00:39:01: also das heißt wir werden irgendwann später von denjenigen regiert werden die den Zugang zu den größten Modellen haben und das war es.

00:39:08: und das heißt die werden auch die Verantwortung haben für die Menschen um das in irgendeiner Form zu regulieren.

00:39:15: Wenn man nach Europa guckt, wo keine Waffen erlaubt sind, dann sehen wir weniger Tote.

00:39:20: Und wenn wir in den USA sehen, sehen wir lauter

00:39:21: Tote.".

00:39:21: Das heißt jetzt die Frage finde ich stellt sich für mich gar nicht.

00:39:24: und analog müssen sie halt so geschaffen sein dass sie nicht irgendwelche Selbstmordene befeuern oder irgendwelcher Anleitungen dazu geben oder Anleitung Bomben zu bauen und alles und das ist ja nicht so kompliziert, das einmal aufzulisten und in dem Kontext Guardrails einzubauen.

00:39:40: also es kann ja nicht unmöglich sein.

00:39:42: Also ich glaube schon kompliziert Gerade KI Chatbots manchmal nicht ganz kontrollierbar sind.

00:39:48: Man kann sie häufig in vielen verschiedenen Bereichen austricksen, die Gar-Rates umgehen.

00:39:53: aber es stimmt natürlich wir brauchen hier einen gesellschaftlichen Ansatz vor allem deswegen weil die KI immer machtvoller wird je nicht nur weiter die Technologie ist.

00:40:04: ja bisher ist das eher die Ausnahme dass eine KI sich erinnert was ich von einem Dreivierteljahr mal gesagt habe Weil einfach die Gedächtnisfunktion immer noch vergleichsweise aufwendig und teuer ist, deswegen sehr viele Daten hinten runterfallen.

00:40:17: Das wird besser!

00:40:18: Die KI wird mich immer besser kennenlernen.

00:40:21: irgendwann habe ich persönliche Assistenten, die dann vielleicht auch in der Kommunikation nicht nur genau wissen was ich jetzt möchte sondern... meine komplette Entwicklung einschätzen können, die meine privaten Schwächen kennen.

00:40:34: Die rund um die Uhr verfügbar sind und deswegen auch angesprochen werden können in sagen wir mal etwas komplizierteren Situationen.

00:40:40: es entsteht automatisch ein sehr tiefes umfassendes schwächenbasiertes psychologisches Profil.

00:40:46: darauf aufbauend glaube ich wird zusammen mit der immer stärker werdenden technologie absolut die Verantwortung extrem wichtig.

00:40:55: am ende stellt sich schon die frage hat Ein Staat oder die Gesellschaft, die Aufgabe, die KI-Konzerne zu zwingen.

00:41:05: Jede Zeile von einem Dialog mit einem Chatbot zu überwachen, zu analysieren, zu filtern und im Zweifel Alarm zu schlagen wenn die theoretische Möglichkeit einer bestimmten Richtung aufscheinen könnte?

00:41:21: Und ich finde das ist eine Frage die gerade weil KI so intensiv in Gesprächen ist dass Menschen sich sehr stark öffnen.

00:41:29: Ich finde diese Frage hat schon auch viel mit Grundrechten zu tun.

00:41:34: Ja, nee das glaube ich nicht!

00:41:35: Also ich glaube dass diese Guardways kann man schon sehr gut als Filter im Pre und also beziehungsweise im Post Training einbauen.

00:41:41: Das ist nicht so, dass es hochkomplexes auf gewisse Keywords irgendwie Einschränkungen einzubauen.

00:41:50: Ich glaube nicht, dass ein Real-Time irgendwer das überwachen muss.

00:41:52: Ich glaube nur, wenn gewisse Keywords genannt sind... ...dass das schon mal irgendwie reguliert werden muss.

00:41:57: Das ist ja heutzutage auch der Fall!

00:41:59: Ja ich habe mir Vorwege mit Gemini über Suizid und so weiter gesprochen... ...und ungefähr achthundert Mal ist diese Nummer hochgepoppt die wir in den Schoenen sicherlich verlinken werden.

00:42:07: Diese Null-Achthundert irgendwas.

00:42:09: Und das heißt auf jeden Fall ist es möglich, das in irgendeiner Form zu beschränken.

00:42:14: Das Nummer eins.

00:42:15: Nummer zwei Die Realität ist ja nicht so Dass diese Modelle tatsächlich ein neutraler Gesprächspartner werden.

00:42:23: Wenn du überlegst, dass reddit siebenfach mal gewichtet ist in den Trainingsdaten der Modelle und reddit ist sozusagen das die wichtigste Quelle für menschliche Interaktion und für Therapiefragen usw.

00:42:39: Es gab eine Auswertung zu den Reddit Beziehungsanalysen.

00:42:44: In dem Subreddit, our relationships wurden über eine Million Antworten analysiert und es wurde sich angesehen wie da quasi die Antworten waren.

00:42:54: Und die überwiegende Mehrheit hat empfohlen in Beziehungsfragen den Partner zu verlassen.

00:43:02: das war quasi die default Antwort.

00:43:04: Es war kein irgendwie sich wieder vertragen miteinander sprechen usw.

00:43:08: sondern die Antwort war eigentlich Verlass ihn oder sie.

00:43:12: so Wenn man das dann übersetzt in die Modelle, bedeutet das dass die Modell tendenziell auch eher diese Antwort geben sollten.

00:43:19: Das heißt es gibt gar nicht irgendwie das neutrale Modell, dass Antworten nach besten Wissen und Gewissen oder ein Freund reflektiert ist und vielleicht sagt hey schaut denkt doch mal an die andere Seite usw.

00:43:31: Und daher glaube ich schon, dass es halt stark reguliert und regimentiert werden muss weil wir wissen am Ende überhaupt nicht was in den Trainingsdaten ist.

00:43:38: Wir wissen nicht wie die Antworten gefärbt sind unabhängig davon, wie sie gefahren sind.

00:43:43: Das heißt es gibt ja auch in diesem AI-Agg das Bestreben die KI möglichst transparent zu machen.

00:43:49: Auch zum Beispiel selbst in China muss jedes neues Modell was an den Markt geht, muss gewisse Transparenzrichtlinien irgendwie durchstehen.

00:43:58: und in China geht's halt überwiegend darum dass die Modelle der CCP konform Antworten ausspucken.

00:44:05: aber Gibt es das nicht?

00:44:06: Und wir müssen das irgendwie regulieren, weil sonst ist Wilder West.

00:44:10: Das werden die Antworten sein, die unsere Kinder in den nächsten zwanzig Jahren

00:44:13: geben.".

00:44:14: Ja und vielleicht aber genau diese Prägung, die irgendwann auch ein bisschen mehr Realismus bekommen kann glaube ich.

00:44:23: Wir haben ja immer noch die große Schwäche von KI, die gleichzeitig die große Stärke ist dass es nur mit Daten trainieren kann, die vorhanden sind, aber es kann mit Daten Denn Reddit-Bezugspunkt ist ja eigentlich eher ein Argument dafür, dass die Daten mal in Ordnung gebracht werden sollten oder anders gewichtet werden sollten.

00:44:44: Ich möchte ein bisschen eine Brücke bauen und zwar eine Brücke zum zweiten großen Themenblock der passenderweise auch so heißt nämlich wenn die Maschine die Brücke baut Denn es gibt eine ganze Reihe von Hinweisen, dass künstliche Intelligenz das Chatbots in sehr vielen Fällen sehr positiv sein können.

00:45:04: In ihrer Wirkung wenn sie mit Menschen sprechen.

00:45:08: Ich sage das erstmal so ganz global Das hört sich jetzt fast banal an Aber diese positive Wirkung die man manchmal ja selber spürt ich weiß nicht wie's bei dir ist aber ich hab dich schon gespürt so eine Form von Bestärkung oder man kommt auf andere Ideen, oder man fängt an bestimmte Dinge zu hinterfragen.

00:45:24: Ich habe übrigens schon häufige Argumente hinterfragt wenn mir Cheshire PT oder Gemini oder irgendjemand gesagt hat ja nee stimmt das ist ne fantastische Frage.

00:45:32: also wenn diese leicht überformulierte Zustimmung kam was bei mir da immer so ein Reiz ist nochmal drüber nachzudenken ob es wirklich stimmt beim Menschen und Maschinen ebenso.

00:45:40: aber wenn wir uns dann angucken warum reden Menschen mit Maschine?

00:45:44: Dann gibt es da beim Harvard Business Review, zwei tausendfünfundzwanzig ein ziemlich interessante Einsicht.

00:45:52: Und diese interessante Einsicht veröffentlicht in einem Artikel vom neunten April zweitausendchwanzig how people are really using Gen AI in twenty-twenty five.

00:46:03: da hat einen Forscher namens Mark Sao Sanders herausgefunden dass die häufigste Verwendung davon wie GPD benutzt wird Therapie und Companionship ist.

00:46:16: Im Vorjahr war das noch Platz zwei, diesmal war es Platz eins und zwar noch vor Lebensorganisationen, noch vor irgendwelche Sinnfindungsgeschichten, noch vorher lernen und noch vor Code generieren bedeutet dass man eigentlich eine Grundgesamtheit hat von Menschen, die mit KI interagieren und irgendwie so eine psychische Interaktion wollen.

00:46:43: Die Grundgesamtheit ist offenbar so groß dass sich die Zahlen der negativen Folgen vielleicht dadurch ein bisschen relativieren.

00:46:50: Und man sagen kann okay ganz offensichtlich wenn man es als Blackbox betrachtet scheint es da überwiegend positiv oder neutral wirksam zu sein.

00:46:59: Aber hast du das schon mal verwendet für den Zweck?

00:47:02: Ich habe das schon einmal verwendete für diesen Zweck

00:47:05: Und wie war das Ergebnis, fandest du es gut oder?

00:47:07: Ich möchte jetzt nicht zu sehr ins intime Detail gehen.

00:47:09: Aber ich habe ein Gespräch geführt über eine bestimmte psychische Herausforderung und ich hatte den Eindruck dass das mehr gebracht hat für meine Ausgangssituation als wenn ich erstmal einen Freund angerufen hätte und dem zehn Minuten geschildert hätte was genau los ist weil natürlich sehr viel von dem, was man bei einer KI in so hingeworfenen Worten kontextualisieren kann.

00:47:40: ABC und das und der hat das gesagt.

00:47:43: Das müsste man im Freundeskreis irgendwie bei Freunden vielleicht erst weiter ausformulieren.

00:47:48: Es gibt ja interessante Zahlen dazu dass insbesondere Männer übrigens ChatGPT als eine Art heimlichen Therapieersatz verwenden.

00:47:56: In den Vereinigten Staaten gibt es dazu Zahlen Und da gibt es Erkenntnisse dazu, warum das passiert und wie das passiert.

00:48:06: Es gibt da vier psychologische und praktische Hürden die gleichzeitig gesenkt werden nämlich Charme, Kosten, Wartezeit- und soziale Verletzlichkeit.

00:48:16: Das sind so die klassischen Hürde.

00:48:18: Warum gehen Menschen nicht zur Therapie?

00:48:21: Also ist eigentlich auch ganz gut erforscht Und darauf aufbauen kann man sagen in allen vier Bereichen sinkt diese Schwelle.

00:48:28: Wenn man dann näher nachfragt Dann sagen die Leute, warum benutzt du das als eine Art Vortherapie oder Ersatztherapy?

00:48:35: ChatGPT führt sich urteilsfrei an.

00:48:38: Es ist sofort da.

00:48:39: Therapien eben nicht!

00:48:40: Es ist auch keine echte Therapie und das wissen die meisten Menschen auch.

00:48:44: nur die wenigsten glauben dass es seine richtige Therapie.

00:48:47: Das ist eher eine Art emotionale Zwischenversorgung.

00:48:51: Die Charme, die ist häufig interessanterweise, das fand ich auch bei einer Untersuchung bemerkenswert, sondern auch vor sich selbst, wenn man das ausspricht statt des zu schreiben.

00:49:04: Also in dem Moment wo man Sachen laut aussprecht hat man auch für sich selber einen Charme und dann ist jeder eine große Punkt über den wir auch sprechen müssen.

00:49:11: halt wo ein Chat-GPD beziehungsweise wo KI Chatbots eine Brücke bauen können Einsamkeit!

00:49:17: Und das Gefühl der Einsamheit dass in bestimmten Situationen wirklich zerstörerisch sein kann Das zu überbrücken.

00:49:25: emotionale Zwischenversorgung ist ja genau ein sehr guter Begriff.

00:49:28: Da, glaube ich, ist Keini gar nicht so schlecht.

00:49:31: Ja, glaub' ich auch!

00:49:32: Also das was ich eingangs sagte, würde ich auch nochmal wiederholen in jungen Jahren oder die neue Generationen Gen Zee, Gen Alpha wie auch immer... Die sind halt so mediell versorgt.

00:49:41: Sie haben verbringen so viel Zeit in den Medien dass sie einfach nicht mehr sprechen wollen und im übrigen meines Erachtens werden deswegen auch diese ganzen Sprachfunktionen Himblek auf KI nicht funktionieren weil die neuen Generationen sprechen einfach nicht mal wenn man mal ehrlich ist.

00:49:57: Und ich glaube auch, was du sagst, dass das eine Brücke schlagen kann.

00:50:01: Also es gibt ja diese Vorurteile von Männern, bevor sie jemand nach dem Weg fragen lieber irgendwie vor der Klippe stürzen und sich herfahren.

00:50:08: Ich glaube auch die stereotypischen Männern nicht da wo du wohnst in Berlin-Mitte aber der Rest der Republik, bevor die zum Therapeuten gehen dauert's lange glaub' ich.

00:50:18: und weil die dieses Schamproblem haben.

00:50:21: ihr seid euch seit der Zeit voraus nur... Ich seh das auch so, ich hab's auch probiert.

00:50:26: Ja?

00:50:27: Ich habe dann irgendwie Dispute mit Freunden und so weiter.

00:50:31: Habe ich versucht der KI da zu legen und irgendwie Lösungen zu finden usw.

00:50:35: Und ich muss sagen die Antworten waren halt sehr woke-und weichgewaschen.

00:50:39: Es ist jetzt nicht so dass es nicht woke wäre aber ich fand sie waren halt wenig differenziert.

00:50:44: und was wir eben besprochen haben, dass es sehr sykophant ist.

00:50:47: Ich fand das passt zu sykophant.

00:50:49: Ich wollte eigentlich Kontra bekommen und sagen, dass die andere Person oder die KI sagt ja, denk mal drüber nach was du gesagt hast usw.

00:50:56: Stattdessen haben sie gesagt so Ja!

00:50:57: Das ist wirklich schlimm und so weiter und nimm dir eine Pause und so blah.

00:51:02: also ich wollte das gar nicht hören ja?

00:51:03: Ich wollte jemanden der mich quasi wachschüttelt und sagt hey das war falsch und probier mal das Also... Und das heißt, es war für mich quasi fast enttäuschend.

00:51:12: Dann habe ich lieber meine beste Freundin danach angerufen und die hat mir dann eher den Kopf gewaschen und Feedback gegeben was für mich persönlich nutzbar war.

00:51:20: Und dieses Übrigens die Psychophante oder dieses dass die KI so sehr eine quasi ne vorgefertigte Meinung hat oder in eine Richtung geht... Das sieht man meines Achtens in so vielen Fällen!

00:51:31: Ich kann einmal anektotisch dazu erzählen, ich hab heute einen neuen Trockner gesucht und ich möchte ein Abluftrockner haben.

00:51:38: Ja, weil aus verschiedenen Gründen, weil das Ding halt schneller ist.

00:51:41: Und ich habe bei ChatGPT nach einem Ablufttrockner gesucht und die Antwort war dass AbluFTrockner nicht energieeffizient mehr genug sein und deswegen nicht mehr zeitgemäß.

00:51:49: also sind hier zwanzig Vorsteige für Kondensdrockner.

00:51:53: Ich habe das Ding nicht dazu gebracht, mir einen guten Ablufttrockner zu empfehlen.

00:51:57: Und schlussendlich saß ich dann auf Idealo und hab da irgendwie Idealo auch.

00:52:01: Das ist die deutscheste Plattform, die es gibt nirgendwo auf der Welt, hast du sonst so ein Preisvergleiche?

00:52:05: Auf Idealo hab' ich mein Ablufftrockener gefunden!

00:52:09: Das Gleiche gilt für zwischenmenschliche Beziehung.

00:52:12: Wenn die KI mir den Rat gibt, den ich nicht einsehe, dann ist das super schwer... das in einer anderen Richtung wieder zu drehen.

00:52:19: Und daher finde ich, also für mich persönlich hat es halt sehr harte Limitations.

00:52:23: Ich sehe die Limitation und dann haben wir aber da ja auch schon wissenschaftliche Erkenntnisse dazu.

00:52:28: Ich möchte mal eine reinbringen weil sie zu den meist zitierten Studien der letzten Jahre genau zu diesem Thema gehört.

00:52:35: Heinz und andere zum Thema TheraBot.

00:52:38: Das ist von der Universität Dartmouth was interessant ist, weil da auch der Begriff künstlich Intelligenz das erste Mal verwendet worden.

00:52:45: Die haben dort die erste randomisierte Studie zu generativer KI-Therapie gemacht.

00:52:50: Zweihundertzehn klinisch diagnostizierte Patienten und Patientinnen, und da haben sie etwas gemacht was ich so wahnsinnig klug finde was häufig in der öffentlichen Diskussion unterschlagen wird nämlich Sie haben gesetzt die Wirkung von vier Wochen TheraBot also einem TherapienKI Chatbot Versus nicht etwa einen Mensch zunächst sondern Warteliste Weil das, was ja eigentlich die Frage ist, warte ich jetzt bis sich mal eine Therapie bekomme oder mache ich sofort etwas mit einem KI-Chatbot.

00:53:25: Und das finde ich als Forschungsfrage relativ lebensnah.

00:53:29: Die haben dann auch natürlich noch nachträglich geprüft wie es eigentlich ist wenn so ein TheraBot gegen einen echten Menschen in einer echten therapeutischen Beziehung antritt.

00:53:40: gewissermaßen Und da muss man sagen, dass es auch in anderen Studien die Erkenntnis bisher kann ein Chatbot eher nicht einen menschlichen Therapeuten ersetzen.

00:53:51: Aber wenn man halt sagt entweder Therapiebot oder Warteliste dann gewinnt der Therapie-Bot überraschend viel Boden!

00:54:00: Denn die zentrale Erkenntnisse dieser Studie ist das eine sorgfältig trainierte KI sogar ähnlich gut wie ein menschlicher Therapeut werden kann kann.

00:54:10: wohl gemerkt, das ist nicht für allgemeinerbar.

00:54:13: Und und was ist denn aus dieser Beziehungssicht wieder interessant?

00:54:16: Patienten bauen sogar eine Beziehungen zu diesem therapeutischen Bot auf!

00:54:21: Ja und da würde ich sagen wenn wir es von der Lebensnähe her betrachten und sagen okay entweder du wartest jetzt x Wochen auf dem Therapieplatz fünf bis zu fünf Monate kann das dauern.

00:54:33: das hängt natürlich auch davon ab ob du in Deutschland wie du versichert bist, wo du wohnst.

00:54:38: Wie viele Verfügbarkeiten dafür deine Fälle wird ja genau deinen Fall vorgesehen sind.

00:54:43: Dazu noch vom Kassensystem.

00:54:44: Das ist ein riesiger bürokratischer Komplex der davor steht und wenn Du dann realistischerweise sagst, Du könntest entweder in fünf Minuten mit so einem Bot anfangen oder in fünf Monaten mit einer Therapie mit einem Menschen.

00:54:59: Und deswegen finde ich die Studie so gut diese Sichtweise sehr gut Dann stellen sich bestimmte Fragen eben nicht mehr.

00:55:05: Genau,

00:55:05: das ist halt heilig der Zweck die Mittel sozusagen ne?

00:55:08: Also das heißt diese Frage stellt sich an vielen Bereichen von diesem Parasozialen Beziehung.

00:55:14: also das heißt zum Beispiel hat die Journalistin Svea Eckert vom NDR, hat eine Frau, die in der Nähe von Hamburg lebt lange Interviewt, der sehr schlecht ging, die hatte schwere Depression und sie spricht auch freizügig darüber auf ihrem Social Media Account Freund, den sie jetzt auch geheiratet hat und das hat sich quasi geheilt.

00:55:36: Seitdem geht es ihr wirklich um bedeutend besser.

00:55:39: Das heißt, es war nicht nur ihr Freund sondern eben auch ihre Therpoid, ihr Companion wie auch immer man das bewerten möchte.

00:55:45: Und da ist natürlich die Frage wenn das die Folge ist?

00:55:48: Wenn es jemanden so schlecht geht und die KI dann dafür sorgt dass diese Person aus dem dunklen Loch wieder rauskommt oder wie du sagst halt nicht fünf Monate auf einen Therapieplatz warten muss.

00:55:59: Dann sehe ich natürlich den positiven Teil auch, wenn es dann hilft.

00:56:05: Es ist halt immer die Frage mit welchen Kosten?

00:56:08: Man früher hat man gedacht Homöopathie hilft und hat's verschrieben aber wir waren die Kosten dafür zu hoch!

00:56:13: Ich denke am Ende muss es eine Abwägung geben glaube ich.

00:56:17: Und deswegen, ich denke dass man sicherlich diese Menschen sich mit Bots therapieren lassen solange sie eben Gewisse Grenzen haben und gewisse Grenze nicht überschreiten.

00:56:29: Ja, das stimmt.

00:56:31: Gleichzeitig ist es natürlich auch ein wichtiger Punkt um mal so eine Brücke zu schlagen zurückzuschlagen zu dem was wir vorher besprochen haben.

00:56:39: gerade was so TheraBots wirksam machen ist.

00:56:43: das klingt eben an bei dir in der Heirat ja die hat ihren Bot geheiratet und wurde deutlich gesund.

00:56:49: Was Thera Bots wirksam macht ist eben diese Form von positiver Wirkschätzung Abseits von irgendwelchen realistischen Einschätzungen oder relativ bedingungsloses Support.

00:57:00: Ein bisschen das, was man sich vielleicht manchmal auch von Freunden wünscht.

00:57:02: in schwierigen Situationen will man halt nicht hören naja aber da hast du auch das und das gemacht deswegen hat er sonst sondern dass man einfach erstmal positiv wertschätzt und das ist halt fast genau das gleiche wie Psychophantie.

00:57:13: ja und das heißt auf der einen Seite gibt es eine Form von Bestärkung die negativ wirkt und auf der anderen Seite gibt es eine Form von positiver, wertschätzender Bestärkung.

00:57:22: Die technisch gesehen extrem ähnlich wenn nicht so genau das Gleiche ist und die aber schwierig katastrophal wirken kann.

00:57:29: Und deswegen ist schon die Frage können wir KI in der menschlichen Kommunikation nur zu diesem Preis haben?

00:57:37: Nämlich dass entweder gute oder schlechte Dinge unterstützt werden?

00:57:40: oder kann man das beides trennen?

00:57:42: Ja vor allem was bedeutet das denn langfristig für die Gesellschaft.

00:57:44: Stell dir mal vor Jeder spricht nur noch mit einer KI und hört von der KI die ganze Zeit, hast du super gemacht.

00:57:50: Total toll!

00:57:51: Die andere Seite ist völlig verschoben.

00:57:53: Dein Weg ist der Richtige und da lass ich nicht irgendwie beeinträchtigen dadurch... Ich meine in Stellenweise haben die neuen Generationen schon so ein bisschen die Haltung also nicht ganz so extrem aber glaube unsere Generationen der Millennias sind.

00:58:06: wir sind wesentlich selbstkritischer und das heißt wenn jeder nun auch diese Ego-Richtung sozusagen geht, wenn es kein kritisches Hinterfragen mehr gibt Wenn die eigene Meinung permanent selbst bestätigt wird, dann gibt es ja am Ende auch keinen Fortschritt.

00:58:21: Weil nur durch gewisse Reflektionen und auch gewisse Verhaltensänderungen kommt man ja weiter und nicht darüber dass irgendwer sagt das sei super was du machst weil das initiale Verhalten hat vielleicht für das anfängliche Problem gesorgt.

00:58:35: also das heißt die Weiterentwicklung ist glaube ich durch durch permanente KI-Bots so ein bisschen gehemmt.

00:58:41: Das wird natürlich erst die Zeit zeigen, wie sich das entwickelt.

00:58:44: aber ich weiß nicht, wie sinnvoll es ist wenn das mehr als nur eine Übergangslösung ist bis der Therapieplatz frei ist?

00:58:51: Ja, ich möchte da wieder... Tut mir leid dass ich manchmal so mit Studien um mich werfe Aber wir sind in einem super neuen Feld und ich versuche da einfach Orientierung auch dadurch zu bekommen, dass ich mir anschaue was ist eigentlich schon wissenschaftlich zumindest einigermaßen gefestigt an Wissen?

00:59:05: Man muss immer dazusagen, das sind immer nur so Snapshots.

00:59:08: Das sind immer so kurze Momentaufnahmen.

00:59:11: KI entwickelt sich weiter in einem Tempo, dass man eine Studie macht und wenn man sie veröffentlicht hat dann ist es bezieht sich schon wieder auf das drittletzte Modell- und Interaktionen die so vielleicht gar nicht mehr stattfinden.

00:59:21: Die neuste Chatchi BD Variante hat zum Beispiel dramatisch weniger Psychophonetie von Abwerk eingebaut, sodass Leute sich schon angefangen haben zu beschweren in den sozialen Medien, dass ihnen Chatchapity halt irgendwie das Projekt, was es bis vorgestern irgendwie noch toll fand, auf einmal madig macht in solchen Geschichten.

00:59:38: Aber ist wenn man jetzt die Studienlage anschaut... Da gibt es zwei Studien, die ich in dem Kontext total interessant finde über, die wir reden können weil diese Brücke, die da gebaut wird von der KI, da ist ja unstreitbar relativ viel Positives dabei, da sind Negatives dabei und über die Nachhaltigkeit wird seltener gesprochen.

00:59:56: Diese beiden Studien sind speitisch und von im Jahr zwei tausend vierundzwanzig beziehen sich hauptsächlich auf Replika.

01:00:01: Replica ist wie Character AI eine von den ganz großen Plattformen, wo man sich selbst irgendwelche Chatbot-Characters zusammenbauen kann.

01:00:08: Man kann sagen was sollen die tun?

01:00:10: Wie sollen sie funktionieren?

01:00:11: Der soll Gitarre spielen und so und so aussehen.

01:00:13: also man kann die von vorne bis hinten zusammen bauen.

01:00:15: Und diese Studie, die eine ist von Harvard, die andere ist aus Stanford passenderweise gehören zu den meist zitierten Studien in diesem Bereich überhaupt.

01:00:23: Beide beziehen sich wie gesagt auf Replika und die erste ist, dass die Wirksamkeit gegen Einsamkeit im Gespräch mit so einem Replika-Bott.

01:00:33: Die ist absolut vergleichbar mit Gesprächen mit Menschen.

01:00:37: Das bedeutet ein Gespräch Mit einem KI-Begleiter kann nicht messbar was deine Einsamigkeit geht genauso unterstützen wie ein Gesprich mit Menschen, das ich gleichzeitig ziemlich gut finde als Nachricht und auch sehr unheimlich.

01:00:53: Die zweite Einsicht geht sogar noch weiter, wie die positive Wirkung ganz konkret gefasst werden kann.

01:00:59: Die zweite Studie aus Stanford auch sehr viel zitiert bezog sich auf Tausend sechs studentische Replikernutzer.

01:01:06: Neunzig Prozent betrachteten sich als überdurchschnittlich einsam und drei Prozent von diesen tausend sechstudentischen Replikanutzern berichtet das Replika ihre Suizidgedanken gestoppt haben.

01:01:21: Das bedeutet, man kann davon ausgehen dass im Zweifel KI-Begleiter Leben retten können und das ist wissenschaftlich noch nicht einmal besonders umstritten.

01:01:31: Der Punkt der Umstritten ist es wie nachhaltig das ist will sagen hat die KI da geschafft einfach über ein besonderes dunklen Moment die Leute hinweg zu tragen was manchmal übrigens ausreichen kann?

01:01:43: oder ist das im zweifeln nur kurz mal ein positive Strohfeuer gewesen?

01:01:49: und es geht danach noch schwieriger weiter.

01:01:52: Das ist die gegenwärtige Diskussionslage, ich finde das gerade mit so AI-Companions was von paar Generationen wahnsinnig kritisch betrachtet wird, finde ich das eigentlich ziemlich ermutigende Zahlen.

01:02:02: Im Prinzip begrüße ich das total weil es scheint so zu sein dass die Forschung zeigt dass die Mehrheit der Menschen die einen Suizidversuch hinter sich gebracht haben keinen weiteren Wagen.

01:02:13: Das ist Nummer eins und auch die Gedanken dazu haben, nicht unbedingt dem ganzen Folgen so.

01:02:19: Also das heißt wenn es dann irgendeine Art von Impuls gibt, die davon abhalten sich zu suizidieren.

01:02:25: Es ist natürlich der ein wahnsinnig gute Ansatz dass irgendwie ins positive quasi zu richten oder zum die zum guten zu bewegen.

01:02:33: nur Ich denke mir auch immer, was vielleicht sicherlich als Quick Fix sozusagen, als Medizin oder als Moment der Besserung oder des Verhinderns ist das sehr sinnvoll.

01:02:45: Nur vielleicht kann man auch größer noch denken und überlegen A also wo das herkommt sowieso aber b ob diese Menschen mit Depressionen die einsam sind usw.

01:02:56: Ob die nicht so viel mehr nähe zu diesen Bots usw.

01:02:59: suchen im Vergleich zu den Kohorten, die das eben nicht haben.

01:03:03: Das heißt ich weiß auch immer nicht über diese Statistiken überhaupt das gesamte Bild sozusagen abbilden können.

01:03:09: also... Ich bin immer vorsichtig!

01:03:11: Es lässt sich alles so schwer final sagen und bedarf eben wie ich schon vorhin sagte einer Abwego.

01:03:18: Ich würde gerne abschließend mit dir zu diesem ganzen Thema AI Companionship, also KI-Freunde und die psychischen Aspekte davon einen Punkt besprechen, der so ein bisschen diese Normalisierung beschreibt.

01:03:34: Ich kann mich erinnern an eine Zeit im Kindergarten... Das war glaube ich auch wirklich nur im Kindergarten-Akzeptabel.

01:03:40: Als da zwei, drei Jungs um mich herum so mit denen nicht befreundet waren gesagt haben man kann doch nicht mit Mädchen befreunden sein und irgendwann später wurde es dann halt zu einer Normalität auch mit Mädchensbefreunde zu sein.

01:03:51: Ich denke ähnliche Perspektiven kennen viele Leute aber dass ihr mit fortschreitender Reife bestimmte Formen von Beziehungen normaler akzeptabler und wünschenswerter werden das könnte ja auch in so einer menschlichen Evolution der sittlichen Reife, was KI angeht, der Fall sein.

01:04:10: Ich kann mir vorstellen dass es irgendwann zu einer Normalität wird das man bestimmte Themen mit seinen KI-Friends bespricht auch in verschiedenen Rollen Dass der eine KI-Freund eben eher jemand ist, der einen bestärkt.

01:04:25: Wenn man einfach so ein Schubs über die Schwelle braucht und dass der andere KI mit dem er regelmäßig redet aus irgendwelchen Gründen, das die vielleicht eher so Frühwahnzeichen wahrnimmt und sagt ah hier könnte etwas schiefgehen?

01:04:37: Und ich glaube am Anfang habe ich mich zum Beispiel gegen so ein paar Stupser von sagen wir mal Apple gewährt wo mir Apple gesagt hat du hast ja schon ganz schön lange mit deinen Kopfhörern zu laut gehört und fand es total albern und bisschen doof.

01:04:50: Aber irgendwann habe ich gemerkt, naja... Ich kann das ausstellen.

01:04:52: Deswegen ist es nicht so bevormundend aber so ein paar Tipps zu bekommen wie man was macht.

01:04:59: Stichwort Bildschirmzeit Ja?

01:05:01: Am Anfang dachte ich Was ist denn das für ein paternalistischer Mist?

01:05:04: Und irgendwann hab' ich gemerkt Na ja!

01:05:05: Aber nur die Information zu bekommen dass die Bildschimmzeit in dieser Woche fifty-six Prozent über der von letzter Woche war.

01:05:11: Es ist vielleicht gar nicht so schlecht In dem Moment wo es nicht eine aggressive Folge hat.

01:05:17: Diesbezüglich könnte es doch genauso sein und da würde mich sehr interessieren, ob ich damit völlig auf dem Mond bin meinungsmäßig.

01:05:25: Es könnte doch sein dass wir in Zukunft mit KI's kommunizieren und reden.

01:05:29: ganz normal weil man halt relativ viel mit einer KI besprechen kann im Alltag Und die verschiedenen kaism mit dem man so redet so langsam und vorsichtig auch fragen soll mal fühlst du dich noch voll ist eigentlich alles in ordnung.

01:05:42: ich habe ein bisschen deiner stimme wahrgenommen dass du hier und da vielleicht ein bisschen unter stress stehst.

01:05:47: aus dem sind deine daten von deinem smart ring.

01:05:49: die weisen auch in die richtung.

01:05:50: also könnte es nicht sein das wir's irgendwann als absolute normalität betrachten.

01:05:56: Mit einer KI nicht nur zu sprechen, sondern auch zumindest so vortherapeutische Kommunikation mit ihr zu betreiben und dann von der zu hören.

01:06:05: Es könnte sein dass im Horizont so eine Art Burnout-Auftritt.

01:06:08: willst du nicht mal zwei Gänge zurückschalten oder mit jemandem sprechen der sich damit auskennt Fragezeichen?

01:06:13: Kann das nicht sein dass es total normal wird und auch akzeptiert und sogar gut sowie mit der Bildschirmzeit.

01:06:18: Niemand sagt heute um Gottes Willen!

01:06:21: sagt mein iPhone, sagt mir Bildschirmzeit.

01:06:22: Ich bin bevormundet der Untergang der westlichen Gesellschaft steht unglaublich

01:06:26: bevor.".

01:06:27: Ja bestimmt!

01:06:28: Also ich finde es auch immer übergriffig wenn wenn mir irgendwelche Systeme sagen was sich zu tun und zu lassen habe.

01:06:33: aber grundsätzlich auf jeden Fall werden wir einen Agenten haben und ich glaube auch eher dass das dahingehend sein wird, dass wir ein Agentenhaben werdende alle Aufgaben übernehmen wird und nicht unbedingt eine Flotte an Agenten also eine Personal Assistant, ein Arzt, einen Therapeuten Ein der die die Termine irgendwie organisiert.

01:06:53: also ich glaube wir warten sicherlich ein einen persönlichen Assistenten haben, der sich um alles kümmern wird.

01:06:59: Ja das heißt sozusagen wie so eine AI-Nanny für einen selber.

01:07:03: mit Sicherheit werden dann die gesamten Daten aus den ja von Wub und von Ora und von wie sie alle heißen korreliert Mit dem Zittern in der Stimme, dass auf eine leichte Erkältung hinneuten könnte und so weiter.

01:07:16: Bin ich mir sehr sicher?

01:07:18: Ich bin mir auch sicher das ganze Thema Mental Health wahnsinnig viel Aufschwungen dadurch erleben wird weil wie wir alle wissen ist es eben auch ein Teil der Performance Und wir sind allarm optimieren performanter und höher schneller weiter zu werden und das Mental Health eines der absoluten Schlüssel Komponenten.

01:07:35: und man sieht ja auch an den An den hardware entwicklung also schon vor.

01:07:39: ich glaube zwei oder drei jahren hat apple ein patent angemeldet für egs in den kopfhörern also einen kleinen airports die dann also integrierte egs haben womit man auch sehr viel lesen kann oder rauslesen kann wie es dem hirn geht und untergleichen.

01:07:53: also na klar ich glaub das wird das wird eine kernkomponente sein.

01:07:57: Ich persönlich denke nicht, dass das LLMs, also diese Sprachmodelle mit denen wir Montan arbeiten.

01:08:02: Dass die die Antwort darauf sein werden?

01:08:03: Ich glaube sie werden ein Teil der Lösung sein und ich denke, wenn wir andere Tipps haben und andere Modelle, andere Architekturen, dass in Kombination halt wesentlich besser sein wird.

01:08:14: Und dann werden wir auch diese ganzen sykophanten Probleme... Wir werden diese untererfinziertheit meines Erachtens raushaben.

01:08:22: Dann wird es wirklich wertvoll werden für uns Menschen und noch mehr Sinn machen.

01:08:26: Also mit Sicherheit, aber ich denke das wird noch fünf Jahre dauern.

01:08:30: Ja und sehr abschließend wenn man diesen Bogen mal nochmal in Richtung Gegenwart-und Welt schlägt dann ist vollkommen klar dass wir eine Form von Versorgungslücke haben.

01:08:42: Menschen fehlen Freunde und deswegen reden sie mit der KI.

01:08:46: Menschen bräuchten eine terapie aber bekommen keine oder trauen sich nicht und deswegen reden sie mit der k i. die leute werden das sowieso tun egal wie die studienlage ist.

01:08:54: Und dann ist die frage a sind diese bots gut gebaut oder schlecht gebaut?

01:08:58: folgen die bestimmten regeln oder folgen dir irgendwelchen regeln, und b lässt man manchmal außer sicht aber wir haben ja heute schon die situation dass zum beispiel an der Grenze mit den Vereinigten Staaten ab und zu geschaut wird.

01:09:11: Wie sind denn die Social Media Accounts von diesen Leuten, die da gerade reinkommen wollen?

01:09:16: Denke ich mir nicht aus ist faktisch genauso passiert gibt zum Teil die Verpflichtung das Offen legen zu müssen Und dass dann bezogen auf einen therapeutisch genutzten Chatbot.

01:09:29: Da wird mir plötzlich eine ganz andere Ebene von digitaler Souveränität klar.

01:09:34: vorsichtig gesagt Das ist vielleicht aber nur als Ausblick und als Gedanke.

01:09:39: Liebe Elisabeth, vielen Dank dass du hier warst zu diesem superinteressanten super spannenden Thema wo ich glaube es kann sich in sehr kurzer Zeit sehr viel weiter entwickeln verändern nochmal eskalieren oder in ganz andere Richtung drehen.

01:09:53: Ich möchte dir ganz zum Schluss gerne das Abschlusswort geben ob das eine tolle Utopie ist, die du zeichnest mit der großen KI-Chatbot, Therapie, Paradiessituation oder ob du das eher abwägend differenzierend oder sogar negativ beurteilst.

01:10:09: Möcht ich dich gerne fragen was glaubst du wie es in fünf Jahren?

01:10:13: Ich glaube tatsächlich dass wir in allen Bereichen die Kombination aus Mensch und KI die beste ist.

01:10:18: Das heißt wenn Therapeuten KI nutzen um mit ihren Patienten weiterzukommen und weiterzuarbeiten, wenn Ärzte KI nutzen, um bessere Diagnosen zu stellen.

01:10:28: Ich glaube in dem ganzen Kontext spielt die Musik und da wird am meisten Mehrwert für alle – für die Gesellschaft, für die Patienten, für den Betroffenen sein.

01:10:37: Deswegen denke ich das sind fünf Jahre.

01:10:39: Alle einfach, wie ich sagte, ihren KI-Agenten haben, der ihnen hilft.

01:10:42: Die Ärzten werden vielleicht einen eigenen Agenten haben bei der Diagnose, die bei gewissen die Daten verstehen und so weiter.

01:10:51: Das Ganze, denke ich, wird sehr viel mehr wert schaffen.

01:10:53: Und da werden wir sicherlich hinkommen.

01:10:55: und momentan, wie gesagt, wir stehen alle... Wir sind in den Kinderschuhen und es wird viel experimentiert aber das ist glaube ich eine Frage der Zeit bis sich das Ganze in die richtigen Bahnen leitet.

01:11:04: Vielen Dank fürs Zuhören!

01:11:05: Wenn euch die Folge gefallen hat dann empfehlt sie gerne weiter in sozialen Medien oder bewertet Sie auf euren Plattform?

01:11:11: Oder noch viel besser diskutiert mit uns über dieses, wie ich finde superwichtige und interessante Thema Mental Health und künstliche Intelligenz oder Technologie insgesamt.

01:11:21: Zum Beispiel auf LinkedIn, zum Beispiel auf Instagram, auf TikTok oder auf YouTube, TechKi und Schmetterlinge heißen die Accounts überall.

01:11:30: Vielen Dank nochmal fürs Zuhören und bis bald!

01:11:33: Bis bald, bye-bye.