Folge 10: Künstliche Intelligenz in Bremen: Chancen, Risiken, politische Folgen

00:00:00: Ich habe mich vor sechs Jahren mit GPT-III damals als Open Source Modell beschäftigt und hab mir trotzdem nicht vorstellen können, was heute passiert.

00:00:07: Wenn wir diese Dienstleistung in Anspruch nehmen – wie sehr macht man sich dann abhängig?

00:00:11: Und vor allem von wem macht man es sich abhängiger?

00:00:29: Herzlich willkommen zur neuen Folge von raus aus der Bubble.

00:00:33: Es ist so was wie eine Auftaktfolge, denn wir befinden uns nach der Sommerpause und es ist gleichzeitig die Folge, die erscheint während die Fast Forward Konferenz in Bremen läuft mit mehreren tausend Besucher, in die sich alle zum Thema KI austauschen wollen.

00:00:49: und da haben wir drei uns gedacht.

00:00:51: Wir drei, das sind Maren Benike, Herr Lokalchefin von Weser-Korea Gökhan Brandt vom FDP und Dario Schassmann pro von den Linken, dass wir auch mal über das Thema KI sprechen und wie KI in der Gesellschaft vor allem auch in der Politik genutzt wird und vielleicht sogar benutzt wird.

00:01:08: Zum Auftakt wie immer die Frage an euch – Wie nutzt ihr KI?

00:01:13: Wie nutzst ihr KI vor allem politisch Gökern

00:01:15: Boah, ständig und überall.

00:01:17: Ich glaube also was ist KI?

00:01:18: Blablabla ChatGBT ist nicht nur das Einzige das man kennt aber es kennt glaube ich mittlerweile jeder.

00:01:22: Deswegen tun wir mal so als wären large Language Models dass man wo man gerade redet einfach um komplexes Themen Sachverhalte zu begreifen, zu verstehen.

00:01:29: Wenn ich verstehen möchte was die Hintergrundgeschichte des Weserküris ist hätte man früher vielleicht die Wikipedia-Artikel studiert und dreißig Links auf Google angeklickt.

00:01:35: und heute kann ich mir eine Zusammenpassung geben lassen daraus sogar ein Audiobuch generieren lassen und auf der Autofahrt von A nach B einfach hören.

00:01:42: Das sind dann so Möglichkeiten, einfach effizienter zu werden in seiner eigenen Arbeit aber auch natürlich beim Generieren von Anfragen auf neue Ideen zu kommen und nach links und rechts zu gucken weil als normaler Mensch hat man das Problem des Unknown unknown.

00:01:54: Das heißt ich weiß oft gar nicht was ich nicht weiß und da kann mir KI einfach helfen nach links oder rechts mehr Themen wahrzunehmen als beim Einigblick denkel wären.

00:02:02: Nutzt es ganz ähnlich?

00:02:03: Naja also wir stehen ja als Partei KI eher kritisch gegenüber, zumindest ... dem Benutzen von KI im Alltag für alles Mögliche zumindest, also das KI-Stellenweise.

00:02:16: Für Verbesserungen bringt zum Beispiel in der Forschung, wenn da Medizin oder so, wenn es z.B.

00:02:19: darum geht irgendwelche ... ... auf irgendwelchen Recklümpel dann Krankheiten zu erkennen oder sowas.

00:02:25: Das kann sich ja keiner darüber beschweren.

00:02:28: dass wir eine Technologie haben die jetzt mit hoher Präzision voraus sagen kann, ist klar!

00:02:31: Aber jetzt für meinen... Alltag als Abgeordneten versuche ich das so wenig wie möglich zu benutzen.

00:02:36: Die ersten Berührungspunkte damit hatte ich damals noch als Mitarbeiter in der Öffentlichkeitsarbeit, die noch kein Abgeordneter war.

00:02:43: Da habe ich mich zum Beispiel selber diese Bildgenerierung gefreut.

00:02:46: Ich war ja immer auf der Suche nach irgendwelchen Fotos für die Sharepics Und dann hat man ja auch öfter mal Lizensierungsprobleme und da muss man sich da noch ein Abo holen usw.

00:02:57: und so vorunter ich mir, oh wie geil ist es dass mein jetzt vielleicht irgendein Bild selbst generieren kann, genau zugeschnitten auf das Thema was ich gerade brauche... ...und ansonsten habe ich das auch viel benutzt um Texte zusammenfassen zu lassen.

00:03:14: Habt ihr Standards also bei den linken Bremen oder Richtlinien die euch sagen, das ist okay, das nicht ok?

00:03:21: soweit ich weiß nicht, aber es gibt bei uns so den Zeitgeist das KI auf jeden Fall kritisch so gut achten ist.

00:03:27: Bei euch?

00:03:28: Wahrscheinlich nicht.

00:03:29: Ja also ich schalte aber am Ende des Tages alles von dem Menschen gelesen überprüft und freigegeben werden.

00:03:34: Also man liest ja sich da ein bisschen... ... populär damit beschäftigt, oft irgendwie von Gerichtsurteilen... ... Anwaltstags und was immer aus aller Welt.

00:03:41: Wo dann so die letzten Cheche-VT-Worte mit... Soll ich das noch freundlicher formulieren?

00:03:45: Also soll ich dann auch das und das einbauen?

00:03:47: in irgendeinem... oder beim Spiegel ist glaube ich auch schon mal passiert dass da irgendwie so eine Cheche VT letzter Satz nochmal reingefügt worden ist?

00:03:52: Das darf natürlich nicht passieren!

00:03:54: Am Ende soll es eine Möglichkeit sein einen Werkzeug um nochmal zum Beispiel bei Grammatik oder Ähnlichem nochmal Lupen reinzuwerden vielleicht auch mal viel zu verkoffte Sätze einfacher zu formulieren, aber immer von Menschen freigem zu werden.

00:04:06: Das haben wir auch noch nicht verschriftlich oder

00:04:07: so.".

00:04:07: Aber jetzt bist du ja zum Beispiel dabei das so zu nutzen dass du dir z.B.

00:04:13: Zusammenfassungen erstellen lässt und Dokumente irgendwie gescannt wird werden.

00:04:19: letztendlich besteht aber da auch die Gefahr, dass es alles gar nicht richtig wiedergegeben wird?

00:04:23: Stimmt!

00:04:23: Das ist tatsächlich ein Problem von frühen Modellen gewesen, dass sie halluziniert haben, dass Sie Sachen erfunden haben, die es gar nicht gab.

00:04:30: Vor ungefähr, also in den letzten drei Jahren hat sie unfassbar viel getan.

00:04:33: Das ist so ein bisschen das Vergleich mit Google-Bersetzer wo früher alle gedacht haben, dass es ja richtig schlimm ist und heutige KI-Übersetzungsmodelle sind drei Milliarden mal besser.

00:04:43: Wenn du aber nur Google-Setzer kennst dann bist du dem Thema vielleicht abgeneigt Und diese Halluzinationen sind eigentlich schon Teil der Vergangenheit zumindest bei den hochwertigen Modellen.

00:04:51: Ich habe vor ein, zwei Jahren selber etwas von Feliz Gürkern AK-Miss damals.

00:04:55: heute brandt Wir sind Bürgermeister von den Grünen kam da raus total daneben.

00:04:59: Heute ... hast du einfach andere Quasi-Qualitätsstufen.

00:05:03: Und es ist unwahrscheinlich, aber es kann natürlich trotzdem passieren... dann muss man natürlich und das gehört zum ordentlichen Arbeiten dazu auch ordentlichem wissenschaftlichen Arbeiten alle relevanten Behauptungen im Zweifel Fakten gecheckt haben.

00:05:15: so ist es halt auch aber sonst in der Politik.

00:05:17: also ich kann nicht einfach bei mir ein Kumpel was gesagt hat sagen dass jetzt eine Wahrheit sondern ich muss irgendwie darstellen können warum es jetzt eine belastbar Raussage

00:05:23: ist.

00:05:24: Bist Du schon mal reingefallen?

00:05:27: Ich selber Nee, aber ich hab natürlich oft in KI... Also ich baue das einfach quasi im Workflow mit ein und frag zum Beispiel A. Nenn mir die Quellen?

00:05:36: B. Und dann sage ich Rechercherimme zu jeder... Also nennen wir die Quelle, dann klick ich die an und dann gucke ich natürlich existieren die!

00:05:43: Die alten Modelle waren wirklich so gestrickt, dass sie eine Quelle erfunden mit einem Link, der ins Nirwana geführt hat.

00:05:49: Das ist natürlich Käse so.

00:05:51: Aber richtig im Sinne von was Falsches woanders wiedergegeben, nee, das nicht.

00:05:55: Hast du schon mal

00:05:55: reingefallen?!

00:05:56: Du meinst so auf KI-Fakes oder sowas?

00:05:59: Ich glaube jeder von uns ist wahrscheinlich schon mal auf dem Video gestoßen, was KI generiert war und hat es vielleicht im ersten Moment nicht ganz gecheckt.

00:06:05: Aber ich glaube das gerade in unserer Generation die Medium Kompetenz dann doch groß genug ist um sich nicht so leicht täuschen zu müssen.

00:06:13: Ja

00:06:14: meinst du?

00:06:14: Ich glaub' ich nicht!

00:06:15: Also wie kommst du darauf?

00:06:16: Will ich mich vergleichen mit meinen Eltern zum Beispiel.

00:06:20: Du meinst, der Generationenvergleich...

00:06:22: Ja genau.

00:06:23: Das

00:06:23: sehe ich total anders weil auf der Bildebene ja also ihr kennt ja bestimmt alle diese Facebook Gruppen wo irgendwelche so achtsiger Jahre gefühlt Bilder geteilt werden.

00:06:32: Guten Morgen Frohn Sonntag und was auch immer.

00:06:35: Wo ich das irgendwie so süß finde als ältere Menschen machen Und heute sind es eigentlich alle gleiche generierte Scheiße Auf Bildebend erkennen wir das alle noch Tonebene oder anderen Ebenen, wo es genug Material gibt von Menschen um daraus zum Beispiel einen Diebfekt zu erstellen hast du gar keine Chance.

00:06:52: Also ich denke von dir und mir könnt ihr schon mittlerweile vielleicht auch vom Maren genug Material geben um echte KDI-Diebfek zu erstellt damit wir am Ende des Tages dann ruf ich Maren an und tue einfach sagt wer ich tu?

00:07:02: Und dann hast du fast gar keine chance.

00:07:03: also vielleicht noch quasi in den Qualitätsbrüchen aber das ist eine Frage des Materialvolumes.

00:07:09: Ich würde gerne noch mal auf das Thema Medienkompetenz zurückgehen.

00:07:12: Also in meinem Gefühl ist auch, dass es immer schwerer wird, also Generationen übergreifend – du hast auf jeden Fall recht für die älteren.

00:07:19: Es kann man nicht überall über den Kamm scheren aber etwas pauschalisieren gesagt und etwas komplizierter weil sie einfach nicht so aufgewachsen sind wie wir.

00:07:28: Ich merke halt schon bei mir selber, dass's schwieriger wird.

00:07:31: ich weiß nicht bis euch geht.

00:07:34: unsere Kinder jetzt zum Beispiel wachsen ja damit auf mit KI die Hand, wie können sie was voneinander unterscheiden?

00:07:43: Ich finde es relativ komplex und kompliziert ist den weiterzugeben.

00:07:48: Wie sehr schwingt bei euch das Thema Sorge mit?

00:07:52: Naja, Sorge meins...

00:07:55: Er lehme ja gerade ein Wandel, wie wir ihn so vielleicht erlebt haben.

00:08:02: Ich würde es jetzt mal vergleichen mit dem Einzug des Internets, wenn überhaupt!

00:08:06: Also das ist ja ein ganz krasser Wandel der... Das ist kein technischer Wandel sondern ein komplett gesellschaftlicher Wandel in dem wir plötzlich drin stecken und deren einer wahnsinnigen Geschwindigkeit von Statten geht.

00:08:19: also wenn ich mich so an diese Internet wie sich das entwickelt hat Erinnere, das waren dann erst mal so Chats von Radio Bremen oder wo man halt irgendwie geschrieben hat und es war alles ganz low-level.

00:08:31: Man konnte sich aber irgendwie damit so step by step irgendwie anfreunden.

00:08:35: Jetzt ist also meine persönliche Empfindung der wandelt so rasant dass das schwierig ist da bei all dem Schritt zu halten.

00:08:42: Das ist das was Gökhan ja gerade auch in so ein Stück weit angedeutet hat, dass halt so das Thema Deep Faxes halt alles so schnell ist.

00:08:48: Es ist schwierig Schritt zu halten.

00:08:51: Das ist jetzt meine persönliche Meinung, deswegen frage ich euch aber nach eurer Sorge weil ihr seit Jahren überhaupt Sorgen habt, weil ihr seid einfach noch mal ein Stück jünger und blickt auch komplett anders auf das Thema KI.

00:09:02: Ich mache mir schon Sorgen darum dass durch KI generierte Inhalte Menschen in Zukunft öfter getäuscht werden könnten.

00:09:12: Also man sieht ja auch jetzt schon dass viele Menschen Interesse daran haben die politische Lage in Deutschland immer instabiler wird, damit meine ich jetzt auch wie in Vergangenheit schon beobachtet werden konnte.

00:09:25: Wie mit Fake News umgegangen wird

00:09:28: bzw.,

00:09:28: wie Fake News absichtlich platziert werden und dann vielleicht auch politische Prozesse oder sogar teilweise auch Wahlen zu beeinflussen.

00:09:36: Das wird dadurch KI sozusagen nur leichter weil das nicht Masse sozusagen größer macht, sondern auch die Qualität, teilweise verbessert.

00:09:47: Also los-los!

00:09:52: Ich glaube man muss unterscheiden zwischen einmal der äußere Einfluss von KI auf einen selbst und einmal wie man selber mit KI umgeht als Anwender Und gerade wenn es darum geht, seinen Kindern etwas mitzugeben.

00:10:09: zum Thema KI würde ich sagen.

00:10:10: Es ist ja wichtig dass man den auch einen sehr verantwortungsvollen Umgang damit beibringt also so eine von wie sehr lässt du KI in deinem Alltag?

00:10:20: Man gibt ja auch ein Stück weit Selbstbestimmung sozusagen, auch ab.

00:10:23: Je mehr man KI nutzt um auch alltägliche Dinge zu nutzen und gleichzeitig kann man ja durch das Nutzungsverhalten zumindest auf einer sehr kleinen Ebene beeinflussen wie groß z.B.

00:10:37: unternehmen wird weil je größer die Firmen werden, je mehr Monopol es auf der Welt gibt desto schlechter wird's auch mal wieder für die Anwender.

00:10:46: deswegen ist das eine Randnotiz.

00:10:52: Ich habe eine kleine Tochter, die ist zwei Jahre alt etwa.

00:10:55: Und ich möchte einfach, dass sie ein selbstbestimmter Mensch wird mit auch Selbstwirksamkeit.

00:10:59: Also keine Angst vor irgendeiner Veränderung hat.

00:11:01: Er ist ja noch.

00:11:02: Veränderungen kommen die wir alle heute noch nicht auf dem Schirm haben und das nicht vorstellen können.

00:11:05: Wir haben so wie KI sich vor zehn Jahren keiner vorstellen konnte.

00:11:09: Ich habe mich vor sechs Jahren mit GPT-III damals als Open Source Modell beschäftigt... ...und hab mir trotzdem nicht vorstellen kann was heute passiert!

00:11:16: Also es ist schon eine ihre Geschichte, dass du quasi... Obwohl ich da beschäftigt ist, nicht ahnen kannst welche welche Kaskaden daraus ausgelöst werden.

00:11:23: Ich finde aber, dass die beiden für den Internet sehr gut machen.

00:11:25: Weil das Internet ist, sagen wir mal, wann wird man also so achtziger Jahre erfunden und dann seit neunzigern in Deutschland halbwegs möglich zu erhalten.

00:11:35: Wie lang hat es gedauert bis jetzt wirklich jeder im Internet ist?

00:11:38: Wie lange hat's gedauerte bis jeder quasi... Und da sind diese Innovatoren Kurven tatsächlich noch ganz am Anfang.

00:11:44: Das erzähle ich auch allen, die das tun haben.

00:11:46: Also jeder kennt Chatchapity.

00:11:47: aber wie viele nutzen ein hochwertiges Chachapity-Modell weil sie zwanzig Euro mitbezahlen?

00:11:50: Also einen überschaubaren Betrag.

00:11:52: und die haben neulich jetzt die Zahlen rausgebracht für sagen mal welche Profi Anwender nutzen das höchste teuersten Modell intensiv.

00:11:59: täglich sind nur zehn tausend Leute gerade weltweit.

00:12:02: Das heißt wir sind noch so weit am Anfang bis quasi Mein Schwiegervater, der sollte ja noch so lange leben.

00:12:07: Wolfgang-Fünf-Siebzig.

00:12:09: Dazu kommen sollte mal sowas in der Hand zu haben.

00:12:11: Wir werden doch zwanzig Jahre vergehen.

00:12:13: genauso wie beim Internet Sie auch erst letztes Jahr sich ein Internetschluss geholt haben.

00:12:16: Das heißt wir werden immer Menschen haben sind sehr viel langsamer dabei als alle anderen aber die Veränderungen finden trotzdem statt und darauf muss eine Gesellschaft vorbereitet sein Und das wird uns noch so viele Umwälzungen mitbringen.

00:12:26: Wie qualifizieren wir Leute nach?

00:12:27: Welche Jobs werden entstehen welche Jobs werden wegfallen?

00:12:29: und dessen diese ganzen Prozesse?

00:12:31: Die werden Wachstumsschmerzen verursachen.

00:12:34: Damit werden wir umgehen müssen.

00:12:35: Was kann Politik da tun?

00:12:36: Und was ganz konkret Bremerpolitik.

00:12:39: und was könnt ihr als Einzelabgeordneter in der Sache auch tun?

00:12:43: Du kannst total viel machen in der Politik, also ich glaube zum einen kannst du erst mal anfangen KI einzusetzen.

00:12:49: jetzt können man die große Debatte führen sollten wir KI einsetzen die nicht aus der europäischen Union ist?

00:12:53: aktuell ist fast kein relevantes Modell selbst Mistralen andere sind quasi Der fährt fünfhundert so gegenüber den Ferraris aus China und den USA.

00:13:03: Wollte man sowas einsetzen?

00:13:05: Nehmen wir mal an, ja!

00:13:07: Dann könntest du sehr viele Verwaltungsaufgaben nehmen das Ausländeramt was quasi keine Termine vergibt.

00:13:12: Nimm irgendwelche Behörden die viel zu lange brauchen So gut automatisieren weil du diese Halluzziation nicht mehr hast und weil du das Regelwerk den ausgeben kannst.

00:13:21: Wir haben jetzt mit KI Prototypen gebaut, die werde ich nächste Woche dem Staatsrat für Arbeit vorstellen.

00:13:25: Grüße an dich Gunnar!

00:13:27: Für Elterngeld und ein paar andere nennen wir sie mal Sozialleistung und Transferleistungen wo ich aber darstelle wie man das abbilden kann ob sich das nicht nutzen wollen als Vorlage um irgendwie so einen Prototyp zu starten oder eine Verwaltung.

00:13:39: Das heißt du kannst die Möglichkeit geschlossenes Systeme in Produkte verwandeln also Sachen wo wir alle Regeln kennen Umstände oder Sachwahl, wo wir nicht alle regeln können.

00:13:47: Weil es Entscheidungsmaßstäbe gibt oder weil es so dynamisch ist wie im Straßenverkehr, wo sie Situationen ändern können kannst du noch nicht perfekt also nicht hundertprozent recht sicher abbilden.

00:13:56: alles andere könnten aber nutzen um so viel schneller zu sein und die gleichen leute könnte natürlich dann andere neue Aufgaben übernehmen die wir auch gleichzeitig haben.

00:14:05: Aber natürlich werden wir auch andere Jobs haben Menschen weniger gebraucht werden.

00:14:10: zum beispiel durch im bremer hafen wo ich wohne gibt es bank area die fahren.

00:14:16: das sind so container transporter im grunde und da ist man jetzt dabei die zu automatisieren dass sie unter anderem aber nicht nur mit k i. Automatisiert fahren kann.

00:14:26: das heißt da muss kein menschen mehr diese container transportieren sondern wird dann quasi unter andermit kei gemacht.

00:14:31: oder musste natürlich eine Lösung dafür haben, was soll aus den Leuten werden.

00:14:35: Wie können wir Leute weiterqualifizieren?

00:14:37: Was sind das für Menschen und in welchem Alter sind sie in der Regel?

00:14:39: Was haben Sie gelernt?

00:14:41: Und dann musst du dafür sorgen als politisches Angebot gibt dass keiner quasi auf der Straße landet!

00:14:46: Das ist meine Erwartungshaltung für Bremen.

00:14:48: Da sind jetzt ein paar Schuhe, würde ich mal sagen von denen Gökhan da spricht.

00:14:51: Das eine ist eben das wo man ja Einflussmöglichkeiten hat.

00:14:57: machen was sie wollen.

00:14:58: Also im Hafen kann, also wenn gut das teilstattliches Unternehmen dabei.

00:15:04: aber theoretisch kann ja jedes Unternehmen KI einsetzen wie er will.

00:15:07: Das andere ist wir fangen an in den Bürgerämtern ein gutes Beispiel wird mit Sicherheit schon in irgendeiner Form KI genutzt werden Aber wir intensivieren es noch mal.

00:15:18: Es geht keins Lösungen hin oder her.

00:15:20: Das ist jetzt letztes ist doch wahrscheinlich eine Lösung wo ihr irgendwie sagen würdet.

00:15:25: Das gucken wir uns aber genau an.

00:15:27: Ist das überhaupt was, was mit euch zu machen ist?

00:15:29: Ich glaube in der Bürgerschaft gab es auch schon einige Wattens zum Thema ob's nicht alle LLMs für Bremen geben soll.

00:15:38: Eine Sache kann einen über politische Parteien hinweg auch vereinen in der Sache sozusagen weil jeder daran interessiert dass die Verwaltung effizienter wird weil am Ende ja auch die Abgeordneten irgendwann mal ein Termin irgendwo machen müssen.

00:15:54: Ich glaube was man bei der ganzen Sache nicht vergessen sollte ist, dass die Frage immer ist wenn wir diese Dienstleistung in Anspruch nehmen.

00:16:04: Also in dem Fall dann die Dienstleistungen.

00:16:07: Wir stellen euch eine KI die Aufgabe X für euch erledigt Wie sehr macht man sich abhängig?

00:16:14: und vor allem von wem macht man es sich abhängig?

00:16:16: Jetzt gerade sehen wir zum Beispiel klar das natürlich auch aber ich meine jetzt vor allem auch dieses aktuelle Debatte um Microsoft Office.

00:16:24: Man hat jetzt mit dieser Karriere bald deswegen zu tun, aber da ist die Frage.

00:16:30: Ist es richtig dass wir uns für diese Dienstleistung sozusagen, für dieses Produkt was wir auch alle brauchen?

00:16:38: Weil es müssen Dokumente irgendwie geschrieben werden man muss irgendwie tippen können dann am Ende auf so abhängig machen von einem amerikanischen Konzern Und wenn wir dann Pech haben, dann irgendeinen folgten Mann im weißen Haus haben der von einen Tag auf den anderen eine Entscheidung trifft die uns hier in Deutschland schadet weil wir diese Microsoft Produkte benutzen.

00:17:01: Also da geht es nicht nur um Office, sondern auch zum Beispiel um Cloud also die Daten gespeichert werden.

00:17:07: ich finde das immer besser wenn man die Daten versucht möglichst lokal zu halten Und wenn man diese Philosophie folgt sozusagen bedeutet das im Umkehrschluss auch, dass es immer besser ist

00:17:22: sich

00:17:23: nicht abhängig zu machen.

00:17:24: Auch wenn's ums Thema KI geht.

00:17:26: Das heißt, wenn ich mich zum Beispiel jetzt darauf verlasse, dass KI in meinem Alltag so viele Sachen bestimmt.

00:17:32: Ich sage mal

00:17:33: z.B.,

00:17:34: KI plant für mich wann ich was esse als Beispiel.

00:17:38: ... muss ich mir auch bewusst sein, dass es Risiko gibt.

00:17:44: Dass wenn... Ich mich so seit dran gewöhnt habe das vielleicht gar nicht mehr anders kann dann irgendwann ein... ... privates Unternehmen einen Konzern, einen riesen Konstrukt irgendwo in Übersee und von einem Tag auf den anderen sagt Okay!

00:18:00: Das kostet jetzt nicht mehr zehn Euro monat sondern kostet hundert Euro Monat.

00:18:05: Du bist in der Abhängigkeit gefangen.

00:18:07: Also tolles Beispiel.

00:18:08: tatsächlich, ich mache nur mal das Beispiel mit dem Auto.

00:18:11: Also nehmen wir an.

00:18:12: wie werden jetzt dann ja KI Autos von alleine fahren können?

00:18:14: damit zu Autopiloten also wirklich vollständig wo du noch sitzt und Handys scrolls oder was liest oder einen Kaffee trinkst oder sowas?

00:18:22: Dann musst du und solltest du trotzdem in der Lage sein im Fall der Fälle so ein Auto vollständigt manuell zu fahren Weil in dem Moment, wo du diese Fähigkeit verlierst, bist du der ganzen Thematik absolut ausgeliefert.

00:18:34: Und das ist bei KI Code der Fall, dass es bei KI Auswertung der Fall und KI Entscheidungen der Fall.

00:18:38: Du musst natürlich immer noch sicherstellen, dass die Personen, die damit arbeiten also als Werkzeugarbeiten bis als Werkzeuge sehen und immer noch in jeder Situation in der Lage sind da einzugreifen.

00:18:48: Also nicht nur weil die KI dich am Wickel hat oder haben kann sondern auch natürlich zum Beispiel weil das Unternehmen pleite gehen kann.

00:18:55: Das haben wir bei eBikes gesehen, wo irgendwie diese E-Bikes primär über die App entschlüsselt werden und als der Anbieter innen soll werden, dann geht das eBike nicht mehr.

00:19:01: Bei Videospielen gibt es das auch.

00:19:02: Es gibt solche Videospiele, die sind nur online.

00:19:05: also du kannst dich als CD kaufen oder funktionierst nur online und wenn da natürlich irgendwann die Server abgeschaltet werden ist die CD einfach alles scheißegal.

00:19:12: Also dein Geld ist weg!

00:19:13: Und das sind aber auch veränderte Geschäftsmodelle und Konsumentenverhalten, über die wir nachdenken müssen.

00:19:17: Wir werden immer natürlich im Zweifel alles rechtsverbindlich abwickeln können müssen heißt.

00:19:22: Da muss ein Mensch sitzen, der muss begründen können warum ist das so?

00:19:24: gefallen in die Entscheidung.

00:19:25: aber dann kann er vielleicht am Tag nicht drei Anträge bearbeiten sondern dreißig und ich glaube dass es eigentlich der Vorteil bei dem wir reden.

00:19:31: Und das ist wo ich Value einfach auch sehe.

00:19:34: Aber das ist schön gedacht würde ich mal so sagen und ich denke das ist aus unserer Perspektive heraus auch der Standard.

00:19:41: also das ist zum Beispiel beim Weserkorea auch die Maßgabe für KI-Nutzung.

00:19:46: Es steht immer einen Menschen dahinter.

00:19:48: aber wie kann das funktionieren?

00:19:51: Wie kann das funktionieren an einer globalisierten Welt?

00:19:53: Ich meine jetzt nicht den Weser-Kuri, sondern wie kann KI in einer globalisiertem Welt funktionieren.

00:19:58: Weil dein Beispiel mit Microsoft war ja zum Beispiel ganz gut auf den Weg ist von KI oder... Container zum Beispiel.

00:20:04: Container funktionieren, weil sie ein weltweiter Standard sind und deswegen können Sie von A nach B transportiert werden.

00:20:10: KI setzt ja eigentlich auch voraus dass wir mit irgendeinem Standard unterwegs sind.

00:20:17: also wie willst du es hinbekommen?

00:20:20: Ich rede gar nicht von Deutschland sondern in Europa als Raum komplett anders agieren und dadurch ja auch ein Stück weit langsamer sind und langsamer sein werden als andere Nationen.

00:20:33: Ich glaube, das sollte man auch überdenken.

00:20:34: tatsächlich weil die Forschung von Dari mit eigenen Teilformaten und Offices hat eine Berechtigung aber Europa fehl.

00:20:42: Also verliert so langsam sicher die Bedeutung und den Stellenwert für solche Märkte, dass wir das einfordern können.

00:20:48: Du brauchst ja eine gewisse wirtschaftliche Relevanz entweder weil du irgendwas besitzt was sie haben wollen oder zumindest weil du ein interessanter Kunde bist So!

00:20:55: Und wir verlieren so langsam auch sicher die Relevance um für diese Märkte Anpassungen einfordert zu können.

00:21:01: also auch Microsoft & Co.. Haben so lokale Angebote damals aufgebaut.

00:21:06: Auch AWS selbst Zoom hat irgendwie so ne lokal gehoste Variante.

00:21:10: Sie alle entwickelt haben immer noch glauben und dachten, man kann in Europa und Deutschland sehr viel Geld verdienen.

00:21:14: Deswegen tun wir denen den Gefallen, wo sie da drüben über ein Teich in der USA gar nicht interessiert.

00:21:19: Wenn wir so langsam an dem Punkt kommen, an dem wir so langsamer sicher sind, dass wir finanziell nicht attraktiv sind, das wir nichts haben was ihr interessiert, nicht mal um unsere Daten weil unsere Sprache einfach eine Inselsprache ist für die dann werden jetzt auch nicht entwickeln.

00:21:30: Und dann muss man sich fragen wollen wir jetzt irgendwie David gegen Goliath spielen?

00:21:34: Gegen alles am Werkzeug in der Welt und irgendwas eigenes bauen oder wollen wir so Dafür sorgen, dass wir einfach unsere Parameter so anpassen.

00:21:43: Dass es eine vernünftige Nutzung geben kann und wir wissen ja wie gut globale Frameworks laufen.

00:21:48: Ehrlicherweise gar nicht!

00:21:49: Da muss man ins Gespräch gehen mit den Anbietern.

00:21:53: Jeder kann uns auch mal probieren etwas offenkundig Illegales irgendwie vorzuschlagen.

00:21:57: Wie ein Deepfake von Dario oder mir auf dem Pferd oder so einen Zintauer oder sowas.

00:22:01: Das wird die Karriersmensch machen.

00:22:03: Weil sie sagen wird, die auf einer einfachen E-Mitrainiert ist keine Fotos zu entstellen von echten Menschen.

00:22:08: Aber diese Regeln sind ja je nach Modell, je nach Land und so weiter anders.

00:22:12: Man muss ja durch chinesische KIWD-Psych fragen was auf einem himmlischen Platz damals passiert ist also das Tiananmasaka.

00:22:19: Willst du auch nicht beantworten wollen?

00:22:21: Und da brauchen wir ein globales Framework!

00:22:22: Dazu werden wir aber nicht kommen ohne eine gewisse Relevanz.

00:22:25: Diese Relevance müssen wir uns wieder aneignen indem wir entweder allgemeinwirtschaftlich attraktiver werden oder wenn wir irgendwas haben was wir als interessant vor die Füße werfen können.

00:22:36: Das kann das sein, Dari?

00:22:37: Oder wir schaffen uns einfach ab.

00:22:39: Ne also wenn ich an der Standart denke, denke ich vor allem auch erstmal an Verbraucherschutz.

00:22:44: Das heißt auch zum Beispiel eine kennzeichnende Kennzeichnung.

00:22:46: Das heisst auch dass man zb vielleicht darüber sprechen muss wie man KI zugänglich macht um sich eben nicht in solchen Abhängigkeiten schnell zu bewegen aufhören selber abschaffen Wenn das so weitergeht, wie es jetzt ist.

00:23:01: Ich glaube wenn man den einen oder anderen CEO fragt von... ...jeviel zum Beispiel Sam Orkman oder so, dann gibt's ganz viele lustige Schnips, wo er wirklich verrückte Sachen sagt.

00:23:12: Der hat auch schon öffentlich gesagt dass er glaubt, dass das passieren wird und dass das auch nicht schlimm sei weil vorher KI Firmen ganz viel Geld gemacht haben werden.

00:23:21: Deswegen ich glaube was wir vor allem tun sollten ist vor allem auch ... kosten und nutzen einmal abzubegen.

00:23:29: Also wie sehr, ich habe vorhin das Beispiel gemacht mit ... ... KI plante zum Beispiel einen Alltag im Sinne von ... ... schlägt ihr vor was du essen sollst?

00:23:36: So ist das wirklich notwendig?

00:23:38: Muss ich mir vom KI meine Terminenkalender eintragen lassen oder kann ich nicht einmal kurz die Kalender eröffnen?

00:23:44: muss ich mir irgendwie Texte, die ich in der Uni... ... Nutze von K.E.

00:23:52: zusammenfassen lassen?

00:23:53: oder kann ich mir vielleicht nicht doch noch mal die fünf Minuten nehmen, um den Text durchzulesen weil es am Ende auch für mich natürlich ein Profit ist?

00:24:03: und wenn man das jetzt alles miteinander addiert und dann sieht okay damit ich mir diese einen zwei Minütchen spare gibt es... irgendwo in, keine Ahnung wo ein Datenzentrum was das Grundwasser verseucht und was so?

00:24:19: genau weil viel Strom zieht.

00:24:24: Weswegen Menschen irgendwie umgesiedelt werden mussten und so weiter und sofort.

00:24:26: Und ich glaube da kommt man schnell auf den Schluss okay lohnt sich vielleicht nicht unbedingt.

00:24:31: also gerade wenn es auch zum Beispiel um... Ich finde jetzt gerade ist ja so den Alltagsozen von KI geht, benutzt die meisten Menschen KI als so eine Art Chatbot und so Recherche-Tool.

00:24:45: Das heißt immer weniger Menschen googeln, immer mehr Menschen geben das was sie sonst gegoogelt hätten zum Beispiel genau im Chatty ein oder Gemini oder was auch immer.

00:24:56: Und ich glaube da ist auch wieder so einen Moment wo man sich hinterfragen sollte.

00:25:03: es ist wirklich sinnvoll dass ich mir dann diese nur zu ninety-fünf Prozent oder neunzig Prozent korrekten Informationen da so vorkauen lasse.

00:25:12: Zum Preis in dieser Umweltrisiken und vor allem auch dieser Abhängigkeit, die man erzeugt.

00:25:20: Oder soll ich nicht lieber einfach googeln für die Jahre zuvor?

00:25:23: Und dann mich durch ein zwei Seiten klicken bevor ich meine Antwort habe.

00:25:26: Ich finde das eine schöne Idee aber ich finde es ist auch ein Stück weit realitätsfremd weil... Also das setzt ja voraus, dass die Leute sozusagen das über den eigenen Nutzen stellen.

00:25:39: Weil es ist sehr einfach sich... zum Beispiel von über die Chatbots, also über die KI.

00:25:50: Zum Beispiel Sachen zusammen passen zu lassen oder keine Ahnung.

00:25:53: ich habe irgendwie einen Krankheitssymptom und spinnen das denn hin und her?

00:25:59: Und die KI erzählt mir dann ob ich zum Arzt gehen muss oder nicht oder was es sein könnte und das ist ja schon ein Stück weit... ... nutzwärtiger als das Google zum Beispiel ist.

00:26:08: Das heißt, deinen Wunsch wäre es ja, dass man sich selber bewusst macht, okay... ... das was ich da gerade mache, macht ein Stück weit die Umwelt kaputt.

00:26:17: Ich trete den Schritt zurück und mach's mir selber schwerer, indem ich Google benutze dafür.

00:26:21: Naja also der Schaden, den man nimmt, der ist ja real jetzt nicht nur durch die Umwelt sondern auch vor allem dadurch wo ist das Wissen gelagert?

00:26:34: Also wenn ich jetzt z.B.

00:26:35: eine Sache Google Dann habe ich da Hunderquellen.

00:26:38: Also die Macht sozusagen, wer über das Wissen verfügt ist gestückelt und verteilt.

00:26:44: Finde ich fair!

00:26:46: Bei einer KI ist es so dass das gesamte Wissen gebündelt wird an einem Ort was auf der einen Seite natürlich convenient macht aber auf der anderen Seite natürlich eine Abhängigkeit erzeugt.

00:26:58: wenn es die KI irgendwann nicht mehr gibt oder wenn die KI sagt du musst jetzt ein super duper Premium-Abo für keine Ahnung wie viele Euro abschließen Dann habe ich als Verbraucher natürlich direkt Schaden genommen und das gilt es halt aus meiner Sicht zu verhindern.

00:27:13: Es ist ja auch so, dass jetzt nicht nur ein Nebeneffekt ist sondern dass das ja auch teilweise kalkuliert ist.

00:27:18: Es gibt ja inzwischen sowas, das nennt sich destruktives Lernen.

00:27:23: also da geht's darum, dass dann die großen KI-Firmen massenweise Bücher kaufen weil es auch viele Informationen in Büchern gibt und sie die gerne eingespeist hätten, ihre Systeme.

00:27:38: Genau, dann werden die Bücher anschließend geschreddert.

00:27:40: Das hast du auch wahrscheinlich schon mal gesehen.

00:27:42: Und das macht man nicht... Die

00:27:44: ganze Archive sind aufgedruckt

00:27:46: worden?

00:27:46: Ja ja genau!

00:27:47: Bei den Büchern sind teilweise auch Bücher dabei, die zum Beispiel sehr selten sind und halt nicht so oft gedruckt wurden oder vielleicht nicht mehr gedruckт werden.

00:27:55: Zumindest nicht nur weil es zu konvinient ist, die leicht entsorgen zu können sondern geht's auch darum gerade bei diesen selten Exemplaren

00:28:03: z.B.,

00:28:04: einen Wettbewerbsvoter zu haben gegenüber Konkurrenzfirma, die eben dieses Buch dann nicht mehr da

00:28:09: hat.

00:28:09: Lass uns mal genau das Beispiel reingehen!

00:28:11: Weil das wäre etwas was ich jetzt zwar bezweifeln würde, dass es so stattgefunderte... Doch doch,

00:28:14: das ist so!

00:28:14: Ich möchte das mal wirklich gleich mal angucken können weil erstens also du hast offene und geschlossene Systeme heißt ein Schachspiel oder irgendwas was du quasi mit dem Regelwerk hinterlegen kannst.

00:28:27: Mensch ärgere dich nicht kann KI super schnell lernen is der beste Spieler in der Welt unter einem Tag.

00:28:32: Ist kein Problem Bücher.

00:28:34: Es sind ein einfaches Beispiel, wo wir über offene Systeme reden.

00:28:37: Es gibt kein objektives Gut.

00:28:39: nur weil du quasi einen Buch von Karl Marx kaufst.

00:28:41: ist dadurch nicht sein Aussagen nicht wahr?

00:28:43: und weil du ein Buch von Ludwig Mises kaufs seine Aussage nicht war.

00:28:47: Da muss ja ein Mensch, ein Team quasi menschliche Annotation betreiben heißt der KI aktiv beibringen wie das Ganze zu interpretieren ist so.

00:28:56: dann wäre die zweite Frage also warum?

00:28:58: Also inwiefern spielt es eine Rolle diese antiken Bücher zu besorgen für den Wissensschatz dass es grundsätzlich interessant ist, was zu haben.

00:29:05: Ja!

00:29:06: Aber warum sollte ich das als Buch mir besorgen, nicht als E-Book?

00:29:09: Also welche Bücher gibt es als nur Buch und nicht als e-book.

00:29:13: Warum sollte ich die mir besorgten?

00:29:14: Ich glaube, dass ist eine spannende Information wenn sie so stattgefunden hat um irgendwie absolutes Verhalten darzustellen.

00:29:21: Am Ende des Tages ist es aber für KI gar nicht so relevant ein weiteres Buch geschluckt zu haben.

00:29:26: Sondern wo wir eigentlich reden müssen sind die neuronalen Netze dahinter.

00:29:29: Und ich glaube wo auch so ein bisschen das Verständnis für KI herkommen muss.

00:29:32: Wenn wir Google nehmen als Beispiel die arbeiten schon seit Jahrzehnten mit Anführungszeichen KI.

00:29:37: KI ist nichts anderes als verselbstständigte Algorithmen über neuronale Netze und die neuronalen Netze hat Google ja eh schon, heißt wenn ich eingebe Bremen geiles Essen so dann soll mir Google nicht vorschlagen wie ich in Bremen geil essen kochen kann sondern die Restaurants.

00:29:52: das heißt dahinter ist ein Algorithmus ohnehin der schon gelernt hat wie er solche Eingangparameter interpretieren muss.

00:30:00: Die nächste Ebene ist, dass dann Gemini was ja schon tun.

00:30:03: Also auf der Google Suche drauf gebaut sagt Möcht ein Bremen geiles Essen gehen.

00:30:08: hier um die Ecke ist das Duo Fratelli da muss man hin.

00:30:10: so.

00:30:11: und das ist dann quasi diese Verselbstständigung quasi der Algorithm die ohnehin schon stattfinden.

00:30:16: Und dann müssen wir uns fragen hilft es da nur viele Daten zu haben?

00:30:19: Nein!

00:30:20: Wir kommen gerade an Punkt tatsächlich der so hochgradig interessant ist Weil die ganzen KI-Firmen können ja gar nicht diese gigantische Datenmenge des Internets, die schneller größer wird als wir überhaupt gucken können der KI antrainieren.

00:30:34: Das heißt sie brauchen eigene Parameter mit denen du und wenn wir diesem Konzept der General Intelligence also dieser KillerKI uns nähern wollen um der KI Möglichkeiten beizubringen selbstständig zu lernen.

00:30:47: tauchen wir gerade an so Hardware-Grenzen.

00:30:49: Du kannst nicht mehr verbauen, als eine NVIDIA RTX A-Sixthausendgrade mit sixenneinzig Gigabyte DDR sieben Grafikgramm.

00:30:57: So kurz für die Insider und damit kannst du zwar deinen Server richtig fett folgtlastern vielleicht kriegst noch acht Stück eingebaut.

00:31:04: dann ist aber auch wirklich der Ultra Ferrari vom Computer gebaut.

00:31:07: mehr geht nicht.

00:31:09: Und dieser Computer, also es gibt quasi eine physische Hardware-Grenz von dem wie schau wir gerade KI machen können.

00:31:14: Ich möchte ein Beispiel mit einem realen und das fülle ich jetzt gerade zurück... Beispiel!

00:31:19: Ich habe KI benutzt Ich habe das teuerste GPD-Abo für zweiundzwanzig Euro im Monat, um mir alle Sozialleistungen in Deutschland katholografieren zu lassen.

00:31:26: Erstens?

00:31:27: Das hat ihn überfordert!

00:31:28: Also hat quasi den größten fettesten PC, den man so haben kann, überforderdet.

00:31:32: Was hat er nicht hinbekommen auf einen ersten

00:31:33: Anhieb?!

00:31:33: Ich muss es quasi in Pakete teilen diese Aufgabe.

00:31:35: und dann bin ich unter einer Sozialeistung gestoßen die total absurd sind und worüber schon berichtet worden ist weil dieser Absurdität Menschen viel schneller auffällt als der KI.

00:31:46: Und zwar zum Beispiel ein Bildungsenteilhabepaket.

00:31:48: Und zwar radet man, wie viele verschiedene Zugangsleistungen es für das Bindungs- und Teilhabepaket gibt.

00:31:54: Wie viele verschiedene Behörden diese Leistung bewilligen können?

00:31:57: Es gibt sieben verschiedene Zugangleistungen von Kinderzuschlag, Wohngeldsozialhilfe also Bewerberleistungen Grundleistungen, Grundsicherung und SGB II allgemein.

00:32:07: Sowohl der Jobcenter, der Landkreis die Familienkasse, die kreisfreie Stadt, der Sozialamt eine kommunal dezidiertes Büro als auch andere quasi... können diese Sozialleitungen vergeben.

00:32:18: Und das sind dann so diese Inselpunkte, auf die man sonst gar nicht käme, weil kein Mensch was auf dem Schirm hat außer man beschäftigt sich irgendwie als Leidenschaft der Journalist damit und die gilt es auch für uns als Politiker mal zu identifizieren, zu gucken.

00:32:30: wo können wir denn mal richtig Themen aufräumen, die sonst keiner aufm Schirm hatte?

00:32:33: Die vielleicht nicht das ganz große Kino sind?

00:32:35: Ich würde vorschlagen dass wir uns einfach in drei Jahren noch mal zusammensetzen und gucken, wo wir dann stehen.

00:32:40: Weil es sind ja jetzt so ein paar Punkte genannt worden da, wo man wie was verbessern kann.

00:32:43: ich würde euch gerne zum Abschluss fragen Was sind eure drei ganz konkreten Tipps an die HörerInnen?

00:32:51: Wie sie KI gut nutzen können?

00:32:56: Naja am besten ist das immer möglich selbstbestimmt weiterhin leben zu können und deswegen möglichst wenig Verantwortung an eine KI abzugeben, dass das erste was ich vorschlagen würde.

00:33:09: Und wenn hier jemand zuhört der irgendwie in der Medizin arbeitet oder in der Forschung von irgendwas super tollem Schlauen dann wird er nutzt KI verantwortungsvoll und da wo der Menschheit geholfen wird und nicht wo Menschheit zerstört wird.

00:33:29: Also ich würde sagen ähnlich wie Dari, erstens man sollte eine Selbstwirkksamkeit haben.

00:33:33: Dazu gehört auch einfach zu nutzen sich auseinanderzusetzen und zu gucken was kann es?

00:33:36: Was kann das mit mir helfen?

00:33:37: vielleicht auch nicht?

00:33:38: Einfach um zu verstehen worüber rede.

00:33:40: Ich glaube Angst ist kein guter Begleiter.

00:33:42: Man muss wissen was es eigentlich ist vor mal mit so einer abstakten Angst oder sowas lebt dann kann man das auch selber einschätzen.

00:33:47: deswegen nutzt es stellt auch gerne in der Anwendung Reflektierende Fragen.

00:33:52: also erkläre mir warum du das gemacht hast reflektiere den Fortgang Und dann auch wirklich wie in einem Einmal professionellen Gespräch, nicht wie mit Chatty-Chatten.

00:34:01: Aber so ein bisschen mit Fachbegriffen.

00:34:03: Also erklär mir mal, sag mal, wie das geht, ähnliches.

00:34:07: Verstehen wir, wie eine KI eigentlich arbeitet und was auch ihre Grenzen einfach sind?

00:34:11: Und dann würde ich sagen nur Mut!

00:34:13: Wir alle sind in einer Welt, in der man jetzt lebenslang lernen muss.

00:34:16: Finde ich auch brutal, aber um wo es darum gehen wird zu sehen, okay... Wie können wir besser werden, schneller werden, aber auch wieder menschlicher werden?

00:34:24: Eine gute Nachricht gibt's ja.

00:34:26: KI wird immer nur quasi ein unglaublich gutes Mittelmaß abbilden können.

00:34:30: Weil es wird nie einen neuen Witz erzählen können, denn hier wird nie quasi uns zum Lachen bringen können und wird nie ein fantastischen Artikel oder ähnliches schreiben sondern immer nur quasi einen sehr belastbaren mittelwert mäßig Wert ergeben können weil so wird das Ding auch trainiert.

00:34:45: gerade

00:34:46: Wie schön dass wir in so einem positiven Rausschubsser herausgehen können.

00:34:50: ich freue mich aufs nächste Mal

00:34:51: ebenso bis

00:34:52: dahin

00:34:53: haut rein.