Hybrid AI – KI-Boom trifft Budget: Warum die Zukunft zwischen Rechner und Cloud liegt

00:00:00: Hallo und herzlich willkommen zu einer neuen Folge von Das Ohr am Netz.

00:00:03: Hallo Sven!

00:00:04: Hallo Sidonie, hallo da draußen.

00:00:06: Ja wir haben uns mal wieder ein KI-Thema vorgenommen.

00:00:11: das passiert ja in letzter Zeit häufiger.

00:00:13: aber irgendwie ist es ja überall diese KI.

00:00:15: Du arbeitest wahrscheinlich auch schon damit ich auch nutzt du auch schon KI-Agenten tatsächlich richtig?

00:00:22: Da habe ich noch ein bisschen Berührungsängste.

00:00:24: Ich nutze einen Sprachassistenten, der mittlerweile mich ganz gut kennt und auch in meiner Cloud Dinge schreiben kann, in meinem Namen Mails versenden kann.

00:00:32: Also sagen wir mal so, ich taste mich langsam ran!

00:00:35: Aber du sagst es gerade so schön KI ist überall... Und das ist ja auch das Besondere an dieser Folge weil KI nicht mehr einfach nur in der Cloud sondern teilweise auch wieder in den Firmen- und in den Rechnersystem vor Ort also quasi on the edge.

00:00:49: Es geht um Hybrid AI.

00:00:51: Also so ein bisschen, wo lasse ich welche KI Anwendung laufen?

00:00:55: Was macht da Sinn?

00:00:57: Was spart am Ende Budget oder bringt mir nachher auch Geschwindigkeitsvorteile?

00:01:00: Weil KI ist in den Unternehmen natürlich längst angekommen!

00:01:03: Ich weiß sie doch nie.

00:01:04: ihr arbeitet beim ECO und natürlich auch mit KI, wäre ja dumm das nicht zu tun.

00:01:07: aber bisher laufen eben diese KI Anwendungen also die die ich nutze auf jeden Fall und ich glaube die die ihr nutzt auch ausschließlich über die Cloud.

00:01:14: Aber wenn da immer mehr Anwendungen auf leistungsfähige Modelle zugreifen, entwachsen auch die Anforderung an die Infrastruktur.

00:01:20: Dann haben wir ein Problem mit der Kostenkontrolle wenn es um Token geht dann haben wir Datenschutz und Sicherheitsprobleme.

00:01:24: und gleichzeitig werden aber PCs immer leistunsfähiger gerade wenn sie zum Beispiel eine vernünftige Grafikkarte und eine gute CPU haben und können KI-Modelle zunehmend auch direkt auf den Geräten ausführen.

00:01:34: vielleicht nicht die ganz großen Large Language Models aber doch so eigene gebaute Lösungen.

00:01:38: Ja, genau.

00:01:39: Also um das Ganze vielleicht auch noch mal ein bisschen Zahlen zu füttern also in Deutschland nutzten, zwanzig-fünfundzwanzig bereits sechsundzwanziger Prozent der Unternehmen KI.

00:01:47: Das sind in diesem Jahr denke ich auch schon deutlich mehr.

00:01:51: Das wächst ja stetig.

00:01:52: bei Unternehmen mit mindestens zweieinhalb Fünfzig Beschäftigen waren es schon siebenfünfzig Prozent klar bei den Größeren und gleichzeitig bezogen fünfzig Prozent der deutschen Unternehmenskostenpflichtige Cloud-Dienste.

00:02:03: Ich finde, da wird ja schon die Dimension so ein bisschen deutlich klar.

00:02:07: Wenn immer mehr KI Anwendungen benutzt werden, desto mehr wird es natürlich für Unternehmen tatsächlich auch zu einem Faktor wenn man mal schaut wie viel Rechenleistung brauchen wir denn und was kostet das alles?

00:02:18: Genau im Endeffekt ist dann die Frage nicht vielleicht doch günstiger da etwas eigenes zu machen sozusagen?

00:02:23: und deswegen stellen wir uns auch die große Frage, wenn jetzt KI immer selbstverständlicher wird, was definitiv der Fall ist muss dann auch immer mehr Rechenleistung in die Cloud wandern.

00:02:31: Also brauchen wir immer größere Rechenzentren.

00:02:34: oder liegt die Zukunft vielleicht auch darin einige der Aufgaben, wieder näher an unsere Arbeitsplätze zu holen?

00:02:40: Genau darum geht es beim Thema.

00:02:42: Hybrid AI oder hybride KI.

00:02:45: Anwendungen werden eben nicht mehr ausschließlich in der Cloud betrieben sondern je nach Aufgabe durchaus auch lokal auf dem PC am Edge sozusagen eben in der Cloud.

00:02:54: Es gibt da kleine, klar umrissende Aufgaben.

00:02:58: die können natürlich lokal erledigt werden.

00:03:00: für besonders rechenintensive Anwendungen gerade wenn man nicht genau weiß wohin die Reise geht muss es skalierbar bleiben und dann bleiben die Modelle natürlich am Ende in der cloud.

00:03:09: Der entscheidende Punkt ist aber jetzt Entweder Cloud oder Rechner, sondern die richtige Kombination bzw.

00:03:15: Die richtige Mische macht es auch hier.

00:03:17: Ja genau und wie immer nähern wir uns in dieser Folge dem Thema von unterschiedlichen Perspektiven – in diesem Falle zwei!

00:03:25: Wir wollen wissen, wie verändert Hybrid AI die Arbeitsplätze und Geschäftsmodelle in Unternehmen.

00:03:30: Was bedeutet der Ansatz für digitale Souveränität?

00:03:33: Und den KI-Einsatz in der öffentlichen Verwaltung?

00:03:36: Deswegen sprechen wir zuerst mit Adrian Müller von HP Deutschland über KI PCs und lokale Modelle und kosten bzw.

00:03:45: den Arbeitsplatz der Zukunft sozusagen.

00:03:48: Anschließend ordnet Dr.

00:03:49: Maximilian Lukas Wehage die Entwicklung aus Sicht der Bundesverwaltung ein.

00:03:54: auf Infrastruktur, sensible Daten, Skalierungen und digitale Souveränität.

00:03:59: Aber vorher gibt's wie immer... Genau!

00:04:01: Neues aus der digitalen Welt – so viel muss gesagt werden.

00:04:12: Wir starten mit einem digitalpolitischen Zombie-Thema der Vorratsdatenspeicherung.

00:04:20: Die Bundesregierung unternimmt tatsächlich einen neuen Anlauf zur Vorratsdatenspeicherung und aus Sicht von ECO bleiben hier leider die grundlegenden Probleme bestehen.

00:04:29: Der Gesetzentwurf sieht vor, IP-Adressen und weitere für die Zuordnung erforderliche Daten grundsätzlich drei Monate anlasslos zu speichern.

00:04:38: ECO hält diese Frist für unverhältnismäßig lang.

00:04:41: Selbst vom Bundeskriminalamt untersuchte Fälle sprechen dafür, dass relevante Verkehrsdaten für Ermittlungen regelmäßig nur wenige Wochen benötigt werden.

00:04:50: Kritisch sieht ECO auch die zusätzlichen Risiken für Cyber-Sicherheit und digitale Souveränität.

00:04:55: Werden IP-Adressen mit weiteren Verkehrs- und Nutzungsdaten verknüpft können sensible Rückschlüsse auf das Kommunikationsverhalten entstehen um vergeiche Datenbestände erhöhen zudem das Schadenpotenzial bei Cyberangriffen.

00:05:08: ECO fordert daher stärkere rechtsstaatliche Sicherungen und eine wirksame riechterliche Kontrolle.

00:05:13: Digitale Ermittlungsinstrumente müssen gezielt, verhältnismäßig und rechtsstaaterlich abgesichert

00:05:19: sein.".

00:05:19: So jetzt gucken wir mal nicht in die Sterne sondern in die Cloud.

00:05:23: künstliche Intelligenz verändert gerade ziemlich deutlich wie Unternehmen ihre Cloud-Strategien aufstellen – na wenn das mal nicht zum Thema der heutigen Folge passt!

00:05:32: Der neue EuroCloud Pulse checkt Mit dreieinfünfzig Prozent der befragten Unternehmen planen in den kommenden zwei Jahren europäische Cloud-Anbieter für KI Anwendungen und Modelle ein.

00:05:43: Dabei geht es jetzt aber nicht darum, internationale Plattform einfach zu ersetzen – stattdessen wird die Cloud-Landschaft vielfältiger!

00:05:49: Das zeigt sich auch bei MultiCloud.

00:05:51: Aktuell nutzen zehn Prozent mehrere Public Cloud anbieterkünftig.

00:05:55: Sollen es einundzwanzig Prozent sein?

00:05:57: Gleichzeitig beschäftigen sich sechsundsechzig Prozent mit einem Anbietterwechsel, aber nur zweiundvierzig Prozent halten eine Migration oder auch nur eher einfach.

00:06:06: Europäische Anbieter gewinnen also an Bedeutung, vor allem als zusätzliche Option in immer stärker differenzierten Cloud-Strategien die aktuell einfach nötig werden unter anderem durch KI!

00:06:18: Das Bundeskabinett hat einen Gesetzentwurf für einen besseren Schutz vor digitaler Gewalt beschlossen.

00:06:23: ECO unterstützt dieses Ziel natürlich, betroffene wirksam vor digitalen Gewalt wie sexualisierter, bildbasierter Gewalt und deepfakes zu schützen.

00:06:31: Dafür braucht es aus Sicht von ECO klare Zuständigkeiten, präzise Straftatbestände und eine enge Abstimmung mit dem Europäischen Digital Services Act.

00:06:40: Wichtig sind insbesondere praktikable Auskunftsverfahren mit Richtervorbehalt sowie eine klare Abgrenzung zu bestehenden DSA-Pflichten bei Kontosperrungen und der Löschung rechtswidriger Inhalte.

00:06:50: Diensteanbieter sollen dabei eine unterstützende Rolle einnehmen – keine staatlichen Aufgaben.

00:06:56: ECO fordert deshalb klare und widerspruchsfreie Regelungen, verständliche Definitionen standardisierte und möglichst digitale Verfahren sowie eine angemessene Erstattung des zusätzlichen Aufwands für Diensterangieter.

00:07:09: Auch Medienkompetenz und Prävention müssen gestärkt

00:07:12: werden.".

00:07:13: Und damit kommen wir zum Thema der heutigen Ausgabe vom ORMnetz Hybrid AI.

00:07:18: Also die hybride KI, die nicht mehr ausschließlich unbedingt in der Cloud stattfinden muss.

00:07:23: Sondern auch wieder, ich sage jetzt beinahe mal so am heimischen PC stattfinden kann oder viel besser direkt am Arbeitsplatz oder auch im Keller des jeweiligen Unternehmens.

00:07:32: Der PC war lange vor allem das Gerät über dass wir auf Anwendung und Rechenleistungen in der cloud zugreifen.

00:07:38: deswegen haben auch einige rechner an Arbeitsplätzen gar nicht mehr als zu viel Power.

00:07:42: Mein Audiorechner hier zum Beispiel geht schon in die Knie einfach wenn wir nur eine Folge aufnehmen.

00:07:47: Fassbar das, da muss was Neues her.

00:07:49: Aber mit neuen KI PCs verändert sich die Rolle.

00:07:51: bestimmte Modelle und Anwendungen können direkt auf den Geräten laufen ohne für jede Aufgabe Daten an einen Cloud-Dienst zu übertragen.

00:07:59: Das ist natürlich superrelevant, gerade wenn es um sensible Firmen eigene Daten geht.

00:08:04: Kürzere Reaktionszeiten haben aber auch noch mehr Kontrolle über die Daten und möglicherweise auch geringere laufende Kosten.

00:08:09: Denn es ist nicht alles.

00:08:11: Flatrate für viele Anwendungen – das werden alle von euch gemerkt haben, die KI professionell nutzen werden sogenannte Tokenfällig!

00:08:17: Und das kann am Ende des Monats auch so richtig ins Konto erhauen.

00:08:20: Also insofern ist es wichtig zu gucken was brauche ich eigentlich wirklich?

00:08:24: Und wo hole ich's mir?

00:08:26: In der Cloud oder doch lieber on the Edge.

00:08:28: Ja und ein Aspekt, der ja in dem ganzen Thema auch relevant ist so ein bisschen sozusagen wie fühlt sich das Arbeiten mit diesen ganzen KI Anwendungen eigentlich für die Beschäftigten also für die Arbeitnehmerinnen und Arbeitnehmer an.

00:08:40: und da gibt es so ein paar Zahlen zu von HP, haben die erhoben in ihrem Work Relationship Index.

00:08:47: Die zeigen das tatsächlich, über die Hälfte der befragten Beschäftigten in Deutschland sich schnellere und zuverlässigere Geräte wünschen und immerhin neun-dreißig Prozent wünscht sich eine bessere Integration ihrer Technologien und zweiunddreißig Prozent sagen sie würden gerne ohne technische Unterbrechungen arbeiten können.

00:09:09: ich denke Wunder mich, dass nicht hundert Prozent das wollen.

00:09:12: Ja, an den Tag!

00:09:13: Das könnte man tatsächlich mal hinterfragen.

00:09:16: aber also Stichwort sozusagen usability und dass technisch alles läuft ist natürlich auch am Ende im Interesse aller Mitarbeitende.

00:09:24: ja und genau darüber habe ich jetzt besprochen mit Adrienne Müller von HP, denn auch die Rolle von Anbietern wie HP selbst verändert sich natürlich mit dem KI-Boom.

00:09:35: Es geht eben nicht mehr nur um Geräte sondern zunehmend auch um das Zusammenspiel von Hardware Software, KI Modellen und

00:09:42: Unternehmensinfrastruktur.".

00:09:45: Künstliche Intelligenz ist in den allermeisten Unternehmen angekommen und verändert gerade grundlegend die Frage, wie und wo künftig gerechnet wird.

00:09:54: Denn mit dem Einsatz von KI steigen nicht nur die Möglichkeiten sondern auch der Bedarf an Rechenleistungen, die Kosten für Infrastruktur und die Anforderungen an Sicherheit und Datensouveränität.

00:10:04: Unternehmen stehen deshalb vor der Frage muss künftig wirklich alles in die Cloud oder braucht es einen neuen Mix aus Cloud- und lokaler Rechenleistung?

00:10:13: Darüber spreche ich heute mit Adrian Müller, Managing Director von HP Deutschland.

00:10:18: Uns interessiert vor allem was hinter dem Konzept Hybrid AI steckt, welche Rolle KI-PCs und lokale Modelle künftig spielen und wie Unternehmen KI wirtschaftlich sicher und skalierbar einsetzen können.

00:10:31: Herzlich willkommen beim Ohr am Netz, Herr Müller!

00:10:33: Hallo an einem wunderschönen guten Morgen Herr Müller, Ihr Kerngeschäft bei HP ist ja der Vertrieb und Service von Hard- und Software.

00:10:41: Wie verändert sich denn dieses Geschäft für Sie jetzt gerade durch KI?

00:10:44: Ich denke zuerst mal wir haben uns selber verändert bei HP.

00:10:47: Wir setzen sehr stark KI bei HP selbst ein.

00:10:50: Wir haben die Mitarbeiter mit sogenannten KI PCs und da werden noch zusprechend kommen ausgelüstet aber auch mit entsprechenden Software Lizenzen und ich denke am wichtigsten mit der entsprechenden Schulung.

00:11:04: Ich denke, was sich stark verändert bevor wir dann eigentlich zu sprechen kommen, dass sich für unsere Kunden alles verändern ist.

00:11:11: Zum Wissen, alles das heute zählt, ist eigentlich bereits morgens etwas veraltet und übermorgen ist es definitiv veraltet.

00:11:18: So schnell geht der Fortschritt im Moment.

00:11:20: wenn wir KI anschauen die KI-Modelle, die wir vor drei vier Jahren hatten in Vergleich zu heute ist es ein Riesenunterschied und ich kann mir nur wage vorstellen wo wir in ein paar Jahren stehen werden.

00:11:30: Was bedeutet das für Ihre Kunden?

00:11:32: Also wenn Sie mit Unternehmen sprechen, was verändert sich für die besonders.

00:11:35: Ich denke vor zwei drei Jahren haben wir noch diskutiert ja braucht es KI.

00:11:39: wer braucht KI?

00:11:41: von den Mitarbeitenden nur eine spezielle Gruppe die KI nutzen darf oder andere die davon ausgeschlossen sind?

00:11:47: und entsprechend haben auch die Unternehmer dann gesagt okay wir haben zum Beispiel den Vertrieb der soll mit KI arbeiten.

00:11:53: wir starten dem Vertrieb mit sogenannten KI Notebooks aus.

00:11:57: Der Rest der Mitarbeiter hält keine solchen Geräte.

00:12:00: Wir kommen ja dann auch technisch darauf zu sprechen, was für einen Unterschied zwischen einem in Anführungszeichen normalen Notebook ist und einem KI-Notebook ist.

00:12:07: Das hat sich in der Tat stark verändert.

00:12:09: heute durchdringt die KI die ganzen Unternehmen und sie haben kaum noch Bereiche, die eigentlich von KI nicht betroffen sind.

00:12:15: Und wer vor zwei Jahren gesagt hat es ist nur ein Teil meines Unternehmens, der da entsprechend ausgerüstet wird.

00:12:20: Er hatte natürlich ein bisschen das nachsehen Wenn er nach zwei, drei Jahren sagt okay vielleicht sind die Geräte doch nicht für das ausgelegt was sie heute leisten sollten und dann stehen natürlich Kunden vor der Frage ja soll ich das Gerät jetzt bereitzusetzen oder soll ich noch warten.

00:12:35: Und ich denke aber für Kunden die jetzt zum Scheiß stehen ist es eigentlich bei den meisten Kunden so dass sie Geräten einsetzen oder bereits beschaffen die keine tauglich sind da also Geräter drei vier Jahre im Einsatz sind Und in drei, vier Jahren ist es wahrscheinlich keinem Bereich mehr.

00:12:49: In einem Unternehmen gibt das mit der Elektronik Arbeiter, dass nicht von KI durchstrungen ist.

00:12:54: Also wir haben eine sehr dynamische Entwicklung gerade durch KI getrieben.

00:12:58: Jetzt habe ich in der Anmoderation ja schon das Stichwort Hybrid AI gesagt.

00:13:03: Mögen Sie das mal ein bisschen beschreiben?

00:13:05: Was sie darunter verstehen oder welche konkreten Probleme Ihrer Kunden Sie damit adressieren?

00:13:10: Vielleicht zuerst mal was ist dein KI-Notebook oder ein KI PC zu einem NichtKI PC?

00:13:16: Der Fundamentell der Unterschiede ist, dass ein sogenannter KI-PC dafür gebaut ist, Lokalrechenleistung zu bringen und sehr hohe Rechenleistungen um die KI Modelle zu berechnen.

00:13:28: Diese Geräte haben eine so genannte NPU mit einem normalen Prozessor und dem Grafikprozessor, einen sog.

00:13:34: Europe Processing Unit, das ist ein kompliziertes Wort.

00:13:37: Das ist aber nichts anderes als ein eigenen Chip, der die ganzen KI Berechnungen macht Und das sagt der Abgleichsrat aus, dass die Berechnung lokal bei mir gemacht wird und nicht mehr nur in den Cloud.

00:13:50: Sie müssen sich vorstellen wir haben in den letzten fünfzehn Jahre eigentlich die gesamte Rechenleistungen die wir hatten, lokal, haben wir in die Cloud verschoben.

00:13:57: Wir kommen vom kleinen Server Zeitalter mit hoher Rechenleitung auf dem Rechner und auch im Rechenzentrum haben wir alles in die cloud verschoben also nichts mehr lokal berechnet und heute sind wieder auf dem Weg zurück lokal zu berechnen.

00:14:11: Es gibt einen ganz einfachen Grund, weshalb das eigentlich absolut Sinn macht.

00:14:15: Oder es gibt mehrere Gründe.

00:14:17: Das eine ist sicher mal die Latentszeit.

00:14:20: D.h.,

00:14:20: wenn ich Befehle erteile oder Anfragen mache an die KI muss nicht alles in die Cloud gehen dort berechnet werden und zurückkommen sondern ich kann das lokal machen.

00:14:30: Das ist der Grund eins, die Latenszeit.

00:14:32: Der zweite Grund ist natürlich die Daten.

00:14:35: Ich habe es, vielleicht wenn ich KAU-Berechnungen machen auch sehr persönliche Daten bei mir die ich in BKI einbeziehen will.

00:14:41: Die hab' ich bei mir lokal auf dem Rechner und die hab', ich nicht irgendwo in einer Cloud drin.

00:14:46: Das geht auch um Datensicherheit oder auch um welche Daten man überhaupt in eine Cloud verschiebt.

00:14:51: Sie müssen sich vorstellen dass KAU komplett andere Berechnungen macht wie wir das eigentlich bis jetzt ordentlich hatten.

00:14:57: Und das dritte und ich denke das ist absolut wichtigste Grund sind die Kosten.

00:15:01: Alles, was ich lokal bei mir, oder wir sprechen von sogenannten Edge Computing, bei mir lokal berechnen kann, fallen eigentlich sehr tiefe Kosten an.

00:15:09: All das, was sich in die Cloud schiebe und dort zu überrechnen zurück kriege, hat einen Preisschild.

00:15:16: Und den muss ich bezahlen.

00:15:17: Je mehr dass ich durch drüber gebe, je mehr, dass ich mit KI arbeiten, desto höher wird die Rechnung.

00:15:22: Man spricht auch in einer eigenen Währung, sogenannte Tokens Und je mehr, dass ich von diesem Verbrauchte, desto teurer wird das.

00:15:29: Das kann in die Tausende von Euros gehen pro Mitarbeitenden der starken KI arbeitet.

00:15:35: Ja, verstehe jetzt haben Sie schon einige der Benefits genannt, die dieser Rückzug auf lokale Rechenleistung für die Unternehmen hat.

00:15:43: Stichwort geringere Latentszeiten, sensible Daten kann ich lokal speichern und ist auch kosteneffizienter.

00:15:51: Können Sie vielleicht noch mal sagen, welchen Mehrwert das vielleicht auch für die Mitarbeiterinnen und Mitarbeiter hat?

00:15:56: Die dann damit tatsächlich arbeiten.

00:15:57: Also ich denke den Mitarbeitern interessiert in erster Linie die Latentszeit.

00:16:01: Wie schnell wenn er uns eingebt wie schnell kriegt der Antwort.

00:16:05: Und das erste ist, wenn sie keinen KI-feigen PC haben es einen Standort ob die Snowbook dass sie hatten dann dauert das.

00:16:12: Das zweit ist, Wenn sie das ganze noch in die Cloud schicken da haben sie aus dem Mitarbeitenden keinen Einfluss drauf sondern entscheidet TIT und dann die Antwort zurückkommt, das dauert auch.

00:16:22: Das was die Mitarbeiter heute auch vielfach davon hat zu sagen okay ich arbeite noch stärker mit der KI.

00:16:28: je schneller sie die Antworten kriegen auf was sie wollen, je mehr Daten sie verarbeiten können bei ihnen lokal, desto zufriedener sind sie als Mitarbeiter und desto eher setzen sie sich das ein.

00:16:38: also wenn sie einfach schlichtweg lange warten müssen oder noch schlimmer, wenn Sie vom Vorgesetzten mitkriegen, dass sie kein weniger nutzen sollten weil sie zu viele Kosten generieren.

00:16:47: Stichwort Kosten fand ich auch nochmal interessant.

00:16:50: Kann denn lokale KI die Kosten für Unternehmen tatsächlich senken?

00:16:53: Oder verlagern sich die Ausgaben lediglich von der Cloud in Hardware Infrastruktur und IT Management?

00:17:01: Ich denke die Kosten für die KI-Modelle alles, was sie nicht lokal berechnen.

00:17:05: Die werden noch ziemlich viel teurer werden wenn ich in die nächste Zukunft schauen und es im einfachen Grund all die Cloud anbietet.

00:17:11: Im Moment erriesen Milliarden Investitionen in den Rechenzentren, sag ich mal so salopp gesagt reinbuttern.

00:17:17: das wird ein Preisschild haben und das Preissschild wird genau sein für die Kunden die eigentlich die Cloud benutzen, die die Cloud und in der Cloud Rechgenleistung und deshalb wird dort auch sehr viel Geld reingebuttert.

00:17:27: um nochmal bei diesem Wort zu bleiben.

00:17:29: Ein KI Notebook Das ist ein hybrides Arbeitenlaut mit den Recheneisungen.

00:17:33: Das ist teuer wie ein Standardnotebook, das aber sich sehr schnell amortisiert und rechnet.

00:17:40: Ich nehme aus, wenn die Mitarbeitenden diese Rechnung leistend zurück aufs Notebook holen und das über einen Lifecycle über vier Jahre.

00:17:46: Das sind nicht nur Geschwindigkeit, die bedeutend höher ist, sondern auch die Kosten, die nicht anfallen der Daten, die hin- und hergeschoben werden zwischen ihrem lokalen Gerät unter Cloud irgendwann auf der

00:17:59: Welt.".

00:17:59: Sie hatten auch genannt als wichtigen Aspekt, dass sensible Daten lokal gespeichert werden.

00:18:07: Welche Daten sollten denn aus Ihrer Sicht künftig tatsächlich bewusst lokal verarbeitet werden und wann bleibt vielleicht doch die Cloud die bessere Wahl?

00:18:15: Ich denke alles was Standard-Daten sind in einem Unternehmen, die heute schon in der Cloud sind, kommen auch in der cloud berechnen.

00:18:22: Alles was sich dann sagt ist persönliche Daten.

00:18:25: Ich spreche jetzt nicht von intimen Daten aber ich spreche von persönlichen Daten die ich auch produziert habe, die sollten sie lokal haben und die sollten lokal in die Berechnungen einfließen.

00:18:35: Und das hat ... Die KI macht erst dann wirklich Sinn wenn ich möglichst auf einen breiten Datenpool zugreifen kann und umso besser wird sie!

00:18:43: Das ist genau dann, wenn es eigentlich Sinn macht, dass man sagt, ich hab gewisse Daten bei mir lokal, die lass' sich nur lokal berechnen, sprich vom Edge, das kann bei mir auf dem Notebook sein oder im Rechenzentrum meines Unternehmens, das hat mich noch gar nicht angesprochen und nicht irgendwo in der Cloud.

00:18:57: Ich denke, Sie können auch von einem dreistufigen Modell sprechen.

00:19:00: Sie haben Standarddaten in der Cloud und dann haben sie das Rechenzentrum, dass sie lokal sind und man eigentlich während vielen Jahren abgebaut hat oder wo sie unternehmenswichtige Daten haben und die Sie sehr oft verarbeiten müssen.

00:19:12: Es ist auch bedeutend günstiger wenn Sie das in der cloud haben und dann sprechen Sie von so einer persönlichen Daten, die Sie auf dem Rechner haben.

00:19:19: Ich spreche vor allem aber vom Verarbeiten all dieser gemeinsamen Daten.

00:19:23: Wenn ich das bei mir lokal machen kann, ist es einfach bedeutender günstig.

00:19:27: und schneller.

00:19:28: Auch wenn die Anschaffungskosten für die Hardware etwas höher sind, aber das kann bei einem Mitarbeiter stark mit Kj-Arbeitern, das kann bis zu Tausende Euro sein, die da pro Monat gespart werden

00:19:39: können.".

00:19:39: Neben den Kosten ist ja für Unternehmen auch immer wichtig wie das Management ihrer IT-Landschaft läuft.

00:19:45: mehr Rechenleistungen auf dem Gerät klingt jetzt erst mal nach mehr Kontrolle.

00:19:50: macht denn eine solche hybride IT Landschaft die Dinge für Unternehmen tatsächlich einfacher oder?

00:19:56: wird das Management schon auch irgendwie komplexer?

00:19:58: Ich denke, einfacher wird es nicht.

00:20:00: Da müssen wir ehrlich sein – die Zukunft ist komplexter!

00:20:02: Die Alternative, die Sie haben, dass Sie nicht auf den KI-Zug ausbringen und wenn Sie das nicht gemacht haben sind sie jetzt bereits sehr spät dran.

00:20:10: Schauen Sie sich das im Privatleben an.

00:20:12: wie viele Menschen heute mit KI arbeiten eigentlich alle von

00:20:15: uns?!

00:20:15: Die klassische Google Anfragen und dann sich da die Links zusammen suchen, das macht kein Mensch mehr.

00:20:20: Sondern jeder Arbeiten breit.

00:20:21: Mit diesen Modellen werden auch immer besser.

00:20:23: Natürlich wird es nicht einfacher.

00:20:25: Das war am einfachsten alles genau nur in der Cloud, warum ich eigentlich im Anflugzeugen nur einen dummen Client hatte.

00:20:30: Das waren das einfachste Management.

00:20:32: Diese Zeiten denke ich Unternehmen, die auf dieses Pferd setzen würden einfach enorm hohe Kosten haben.

00:20:37: Und deshalb wird die Komplexität daran des Managings der IT und von der Security haben wir noch gar nicht gestockt und wird zunehmen aber es ist ein Weg, den die Unternehmen gehen müssen.

00:20:46: Ich finde das ganze Thema auch spannend im Kontext.

00:20:49: wir reden ja gerade viel über digitale Souveränität.

00:20:52: wenn wenige große Anbieter heute einen erheblichen Teil der Cloud und KI-Infrastruktur kontrollieren kann ihr Modell der Hybrid AI Unternehmen hier stückweit auch unabhängiger machen?

00:21:06: Ja in würde ich mal sagen selbstverständlich.

00:21:08: also sie die Kontrolle drüber haben macht ihr Leben einfacher.

00:21:11: Wir müssen aber auch realistisch sein, dass die K.I.

00:21:13: heute bei den großen Unternehmen sehr weit vorgeschritten ist.

00:21:16: Ich spreche auch von amerikanischen Unternehmen und ich spreche umgekehrt natürlich auch von chinesischen Unternehmen.

00:21:21: Und dann ist das ihnen überlassen zu sagen, mögen sie sich eher anlehnen?

00:21:25: Die Investitionen diese großen Unternehmen oder in ein paar Staaten reinbuttern sind enorm hoch.

00:21:32: Es wird schwierig sein zu sagen wir bauen eine autonome Digital komplett unabhängige KI-Lösung, ob das jetzt für Deutschland sei oder dass es für ein Unternehmen ist.

00:21:42: In meiner Sicht ist es eine Schlag, die nur sehr schwer zu gewinnen

00:21:45: wäre.".

00:21:46: Lassen Sie uns nochmal ein bisschen über Ihr Geschäftsmodell sprechen.

00:21:49: Die Veränderungen durch KI sind ja gerade erst am Anfang.

00:21:52: im Grunde, das ist eine rasante Entwicklung.

00:21:54: was bedeutet diese Entwicklung für HP selbst?

00:21:57: verändert?

00:21:58: Das langfristig Ihre Produkte oder verändert sich auch Ihr Geschäftsmodell?

00:22:02: oder wie sehen sie die Rolle von HP künftig im Computingmarkt?

00:22:06: Ich denke die Produkte haben sich bereits verwendet.

00:22:09: wenn wir anschauen vor ein paar Jahren gab es diese Geräte noch gar nicht.

00:22:12: die waren eigentlich eine Antwort jetzt auf diese enorme Rechnung die verlangt wird für die KI-Modelle, das ist seine und die Produkte selbstständlich.

00:22:19: Die werden sich noch mal stark verbessern über die nächsten Jahre und da sind immer ein bisschen die Schwierigkeiten für den Kunden zu sagen, wann kauf ich oder wort ich noch zu?

00:22:27: Ich denke wir sind hier wieder an einem Zyklus angelangt wo die Geräte sich sehr schnell stark verbesseren.

00:22:33: Das ist bereits jetzt der Fall und wird auch in Zukunft der Fall sein.

00:22:36: Während langer Zeit haben sich eigentlich die Notebooks oder die PCs beim Entkunden nicht groß verändert.

00:22:42: Das waren zu Beginn, wo wir die Notebooks hatten.

00:22:45: Waren enorme Quantensprünge mit der Rechgenleistung und bei der Beraterielaufzeit extra der Geräte.

00:22:50: Mit dem Bezug auf Rechgerneistungen sind wir in so einem zogen Zirkus rein, dass sich die Eigenschaften, die Rechenkapazitäten und die Möglichkeit der Gerät natürlich wieder sehr stark verändern wird über den nächsten Jahre um mit der erhöhten Rechgeneistung der KI-Modelle auch Schritt zu halten.

00:23:05: Das ist das eine.

00:23:07: Das zweite bei HP selbst.

00:23:09: Wir schauen momentan alle unsere Prozesse an ob mit KI anders abgebildet werden können.

00:23:15: Wie Sie heute, sprich jetzt noch von sogenannten Analogenprozessen beschauen, dann braucht jede Rolle und also meine Rolle als Geschäftsführer von HP in Deutschland aber auch die Rolle eines Vertriebsmitarbeiten in der Supply Chain

00:23:26: etc.,

00:23:27: wie verändert sich der Arbeitsplatz heute?

00:23:31: Und wie wird er sich in Zukunft verändern?

00:23:33: Das ist natürlich sehr dynamisch und das bedingt natürlich auch dass die Mitarbeiter nicht da mitgehen und sagen ich bin den wegen über offen, komplett verändern wird, wie sie vor ein paar Jahren waren.

00:23:44: Wenn Sie das zurückschauen, wo wir den PC, die wo ich für die vierzeig Jahre im PC eingeführt haben ... Die Leute mit Karteikartling gearbeitet haben war das einen Riesenschritt dann auch von einem Computer zu gehen oder von einer Schreibmaschine auf einen Computer zu geben.

00:23:57: Ich denke, wir stehen wieder vor einer ähnlichen Herausforderung, dass die Mitarbeitenden eigentlich nicht frei verantwortungsvoll umgehen können und sagen, das wird eine enormen Produktivitätsschub geben.

00:24:08: noch mal in den Unternehmen Für diese Unternehmen, die mitgehen Unternehmen, die sagen sie lassen das Außen vor.

00:24:15: Sehe ich dich Zukunft sehr schwierig.

00:24:16: Ich kenne auch kein Unternehmen was eigentlich heute besagt.

00:24:19: Ich setze keine IT ein.

00:24:20: Es gibt es eigentlich nicht mehr wenn ein Unternehmen länger bestehen will.

00:24:23: Das ist ja eine Herausforderung die wir auf HP haben.

00:24:26: Unser Vorteil noch etwas aus den Mitarbeitern von HP natürlich, wir sind ein IT-Unternehmen.

00:24:31: Wir sind ein Technologieunternehmer, die etwas offener sind für Technologie, sonst würde ich ja nicht bei HP arbeiten wenn ich kein Interesse an der Technologie hätte und werde in einer anderen Branche.

00:24:39: Ich denke es ist schwieriger für andere Unternehmen, die eigentlich mit IT nur als Supportfunktion etwas zu tun hatten und nicht aus Kenntgeschäft.

00:24:48: Für diese natürlich bedeutet es schwieriger die Prozesse und die Mitarbeitung zu gewinnen, sich da unterstehen um KI zu arbeiten.

00:24:54: Ich denke das wird die größte Herausforderung sein auch Stichwort Mittelstand in Deutschland, dass sich die Unternehmen daran gewöhnen und sagen ich muss mit KI arbeiten und sich auf entsprechende Hilfe holen.

00:25:04: Herr Müller wenn Sie mal so fünf Jahre nach vorne schauen Wie sieht da der typische Arbeitsplatz aus?

00:25:11: Was wird ein PC in fünf Jahren können, was wir heute vielleicht noch gar nicht für möglich halten.

00:25:17: So'n bisschen der Blick in die Glaskugel sozusagen zum Schluss... Das ist aber viel, was Sie von mir verlangen!

00:25:24: Wenn ich mal fünf Jahre zurückschau', hatten wir zwanzig, einenzwanzig.

00:25:27: Hätten sie mir gesagt, dass wir mit KIA arbeiten, hätte ich es immer angeschaut.

00:25:31: Ich war nicht sicher gewesen, von was Sie sprechen.

00:25:34: Ich denke das ist vermessen zu sagen wie der Arbeitsplatz in fünf.

00:25:38: Also ich würde nämlich sagen, der Arbeitsplatz habe ich gesagt wie wir arbeiten in fünf Jahren.

00:25:43: Das ist extrem schwierig zu sagen was sich überzeugt bin dass sich die KI noch viel schneller durchsetzen wird.

00:25:49: Wie wir mit den KI arbeiten das für uns auf die KI verlassen werden.

00:25:53: In fünf Jahren wird der Mensch nicht begrationalisiert sein.

00:25:57: Der Mensch wird es nach wie vor brauchen.

00:25:59: Trotzdem ist es natürlich so, dass mit Koi extrem viel mehr gemacht, leistungsfähig als Koi viel leisungsfähiger ist wie jede Technologie wandelt, in der wir bis jetzt jeweils hatten.

00:26:08: Das wird sich weiter fortsetzen.

00:26:10: das einzige was ich empfehlen kann ist allen Mitarbeitern sich ab-to-day zu haben, wie man so schön Neudeuts sagt, die Technologien über offen zu sein, sich dagegen zu sperren oder sagen da gehe ich nicht mit, dass es definitiv keine Zukunft, die Veränderung wird so schnell sein, dass sich ein Mitarbeiter den sich dem verweigert sehr schnell qualifiziert nicht mehr auf dem Arbeitsmarkt, mittelbar zu sein.

00:26:32: Weil es Schlückzeug ihm wird das fehlen.

00:26:35: wenn sie jemanden haben der vor vierzeig Jahren gesagt hat ich will nix mit deinem Computer zu tun haben Ich schreibe weiter mit einer Schreibmaschine paar Jahre später braucht's niemand mehr der mit der Schreib Maschinen schreibt sondern das waren alle Leute die waren am Computer und ich glaub wie.

00:26:46: diese Offenheit kann ich nur mitgeben Jemanden was in einem Jahr ist oder in fünf jahren ist aber wie genau sich der Arbeitsplatz in fünf Jahren entwickelt hat das kann ich ihn auch noch nichts sagen.

00:26:55: Auf jeden Fall arbeiten wir alle mit einem KI PC oder KI Notebook dann bestimmt.

00:27:00: Das wird so sein, ob sie keine KI-Brille haben das kann ich Ihnen auch nicht sagen und ich glaube es auch nicht unbedingt dass wir ein Chip implementiert haben werden das würde ich mir selber nicht antun.

00:27:09: Ich denke wie wenn auch in fünf Jahren noch mit Geräten arbeiten die vor uns stehen die einen Bildschirm haben.

00:27:15: Ob ich das mehr über Stimme mache oder ob ich das mit Tastatur mache das weiß ich nicht.

00:27:19: Man hat ja auch die Tastatour schon lange mal gesagt Die braucht's nicht mehr.

00:27:23: Es gibt immer Menschen Sportmodellen.

00:27:24: sehr viele von uns lieben die Tastatur noch, auch wenn man ab und zu mit Stift arbeitet.

00:27:29: Ich glaube der Mensch ändert sich aber er wird sich nicht so schnell wenden dass wir eine komplett andere Arbeitswelt haben in fünf Jahren.

00:27:35: Aber was wir produzieren wie wir das produzieren?

00:27:38: Mit welchen Methoden?

00:27:40: Das wird sich selbstverständlich verändern.

00:27:41: Ja, KI verändert die Art und Weise wie wir arbeiten, verändert natürlich auch die Anforderungen, die Unternehmen an ihre IT-Landschaft stellen müssen und verändert damit auch das Geschäftsmodell für Hardwareanbieter.

00:27:55: Das Hybrid AI Modell von HP Deutschland bringt wieder mehr Rechenleistung für KI zurück auf den PC oder das Notebook Und das bringt für Unternehmen im Wesentlichen drei Vorteile mit sich.

00:28:08: Geringere Latentszeiten, sensible Daten können lokal gespeichert werden und am Ende gibt es auch Kostenersparnisse.

00:28:16: Vielen herzlichen Dank Adrian Müller für dieses Gespräch!

00:28:21: So, wir haben es schon gehört.

00:28:22: Also Hybrid AI gibt auch die Möglichkeit gerade wenn man es mit sensiblen Daten zu tun hat vielleicht ein bisschen ich sag mal vorsichtig besser umgehen zu können weil man viel mehr Kontrolle und den Daumen auf diesen Daten hat.

00:28:33: das wird natürlich vor allem dann interessant wenn es unser aller Daten sind die von uns Bürgerinnen und Bürgern.

00:28:39: Für den Staat selber geht es natürlich einerseits darum, den Daumen auf unser aller Daten zu haben.

00:28:44: Aber es geht natürlich auch um Souveränität und da bietet Hybrid AI völlig neue Möglichkeiten Und genau darüber habe ich in unserem zweiten Interview gesprochen.

00:28:56: Dr.

00:28:56: Maximilian Lukas-Wehage ist Chief AI Officer für die Bundesverwaltung und Leiter des Referats KI Bund im Bundesministerium für Digitales und Staatsmodernisierung, dort verantwortet und koordiniert er zentrale KI Vorhaben in der Bundesverarbeitung und im Deutschlandstecke.

00:29:12: Bereits seit Jahrzehntszehn beschäftigt er sich in verschiedenen Funktionen unter anderem als Leiter der Projektgruppe Künstliche Intelligenz im BMI mit Fragen und Projekten rund um den Einsatz von KI.

00:29:22: Zuvor war er in einer international agierenden Wirtschaftskanzlei tätig.

00:29:26: Heute ist er bei uns im Ohr am Netz, um mit uns über künstliche Intelligenz und AI zu sprechen.

00:29:33: Herzlich willkommen im Ohhr am Netz.

00:29:34: Hallo Herr Wehage!

00:29:35: Ja hallo freut mich hier zu sein.

00:29:37: Herr Weihage KI verändert gerade ziemlich grundlegend alles wie wir mit Computern und digitalen Prozessen arbeiten.

00:29:42: was beobachten Sie dabei in der öffentlichen Verwaltung?

00:29:45: Und wo sehen sie aktuell die größten Veränderungen?

00:29:47: Also wir beobachten natürlich auch, dass KI die Verwaltung grundlegend verändert und zwar in einem Tempo glaube ich das frühere Innovationszyklen deutlich übertrifft.

00:29:58: Was heute neu ist kann in wenigen Monaten schon wieder überholt sein und das spüren wir auch im Alltag.

00:30:04: Und daraus folgt für uns so ein bisschen in der Verwaltung.

00:30:07: Auch wir müssen diese neuen Technologien früh erproben praktische Erfahrungen sammeln in vielen Bereichen, sei es irgendwie bei klassischen Bürgerservices oder Genehmigungsverfahren oder sonst was.

00:30:17: Und vor allem systematisch lernen.

00:30:20: also wir brauchen irgendwie ein Setting wo Behörden und Beschäftigte Freiräume haben um eigenständig mal KI auszuprobieren zu entscheiden und trotzdem einen Setting was auch klare Leitplanken bietet an denen sich diese dann orientieren können.

00:30:35: Die größten Veränderungen liegen dabei bei uns aber auch nicht nur in der Technologie allein, sondern vor allem auch in der Organisation.

00:30:41: Das ist für uns auch ganz offensichtlich.

00:30:43: also da stellen wir uns halt verschiedene Fragen.

00:30:46: ja wie arbeiten wird zukünftig zusammen?

00:30:48: wer verantwortet was welche Regeln gelten und wie sieht die richtige Technologie in der richtigen Technologiesteck dafür aus?

00:30:55: Und das ist natürlich eine große Herausforderung.

00:30:58: Technologie, schönes Stichwort.

00:30:59: Ich sage mal noch vor zwei Jahren haben alle gesagt wir gehen sowieso mit allem immer weiter in die Cloud.

00:31:03: irgendwann ist alles nur noch in der Cloud.

00:31:05: jetzt kommt die KI und auf einmal merkt man nee warte mal.

00:31:07: KI läuft ja auch ganz gut auf Edge-Systemen, auf Computern vor Ort.

00:31:10: das heißt also es kommt da eine Mischung.

00:31:13: Hybrid.

00:31:13: AI is im Moment das Stichwort.

00:31:15: welches Chancen bietet das aus ihrer Sicht für Behörden?

00:31:18: Und wo liegen die konkreten Einsatzmöglichkeiten im Arbeitsalltag wenn's eben nicht alles in der cloud ist sondern teilweise auch ich sag mal physisch vor Ort?

00:31:25: Also ich glaube die Kernbrotschaft wir ein Mix aus lokalen und zentralen Lösungen.

00:31:31: Wir haben als Verwaltung ja besondere Anforderung, was Datensicherheit angeht, Datenschutz angeht aber auch was Verfügbarkeit von Leistungen angeht und dass sich jetzt beispielsweise kleinere Sprachmodelle auch direkt auf Geräten verarbeiten lassen und nicht immer nur in den großen Clouts.

00:31:46: das eröffnet natürlich ganz neue Möglichkeiten.

00:31:49: Und dann ist die spannende Frage wie Binden wir das alles in ein Gesamtbild ein.

00:31:54: Also was beziehen wir zentral aus Rechenzentren oder aus der Cloud?

00:31:57: Was arbeiten wir?

00:31:58: irgendwie verarbeiten wir lokal und gerade beim Thema Sicherheit kann man sich natürlich erstmal einen Vorteil offensichtlich vorstellen, was lokal verarbeitet wird verlässt vielleicht das Gerät erst gar nicht.

00:32:09: Und da gibt es aber auch im Arbeitsalltag natürlich viele naheliegende Beispiele.

00:32:13: also Wenn ich irgendwie auf meinem Gerät direkt verarbeite, dann kann ich dort halt lokal meine Vermerke oder meine Vorgänge bearbeiten.

00:32:21: Ich habe irgendwie ganz andere Möglichkeiten auf Dienstreisen.

00:32:24: Ich kann unabhängig von Verfügbarkeit vom Netzverbindung- oder Auslastung zentraler Systeme irgendwie arbeiten.

00:32:30: Auf der anderen Seite muss man auch ganz klar sagen, lokal heißt nicht immer automatisch gleich sicher.

00:32:34: Also auf die lokalen Geräte müssen natürlich geschützt werden und aktuell gehalten werden.

00:32:40: Auch noch vor physischem Zugriff?

00:32:41: Was muss man bei der Cloud ja nicht?

00:32:43: Da sind ja andere für zuständig.

00:32:45: Genau!

00:32:45: Vor physischen Zugriffs, ein lokales Gerät muss man im entsprechenden Management haben und immer aktuell halten.

00:32:51: Und was aber auch natürlich klar ist... Die kleineren Modelle, die immer gut lokal betreiben kann, bestößen bei bestimmten komplexen Aufgaben irgendwann auch an ihre Grenzen.

00:33:01: Und deswegen ist für uns auch klar, für anspruchsvolle Aufgaben brauchen wir weiterhin auch leistungsfähige zentrale Modelle und die Kunst ist dann so ein bisschen beides sinnvoll zu kombinieren.

00:33:11: Deswegen für die zentralen Plattform setzen wir dann auf zentale Angebote, also berühmte Modelle- und Lösungen, die alle Behörden nutzen können.

00:33:20: Das schafft für die Behörde auch Sicherheit ja?

00:33:22: Dann wirkt dem entgegen das Beschäftigte irgendwie vielleicht sich unsicher sind, was dürfen sie eigentlich verarbeiten und wie?

00:33:27: Ja.

00:33:28: Und ich meine Geld spielt auch eine Rolle ist ja klar.

00:33:30: also wenn ich jetzt ne physische Infrastruktur aufbaue das kostet natürlich ein Invest.

00:33:34: andererseits wenn ich Cloudmodelle nutze kostet es Token oder eben auch Kosten.

00:33:38: da ist wahrscheinlich auch wieder irgendwie der goldene Mittelweg genau dass richtige um effizient arbeiten zu können auch als Verwaltung oder?

00:33:45: Genau die Verwaltung muss glaube ich insgesamt das beste Setting für sich finden.

00:33:49: also wo wollen wir KI oder auch IT insgesamt betreiben?

00:33:52: was betreiben wir wo und wie kommen wir dann an die Daten, in den jeweiligen Strukturen.

00:33:57: Das hängt auch eng mit digitaler Souveränität zusammen.

00:33:59: also wie unabhängig kann ich sein je nachdem ob ich irgendwie auf Clouds oder auf lokale Anbieter lokale Geräte zurückgreifen kann und dann ist natürlich wie Sie richtig gesagt haben beim Skalieren quasi die Kostenrechnung ein wichtiger Hebel und dabei dann irgendwie die Bündelung auch.

00:34:16: Also wenn jede Behörde ihre eigenen Lösungen wie dezentral aufbaut, dann zahlen wir vielleicht auch mehrfach für dasselbe.

00:34:22: Und da kann es natürlich schon sein zu sagen, zentrale Plattformen und Lösungen, die wir zentral bereitstellen und von vielen Nutzenden lassen sind durch die Bindung auch vielleicht kosten einfacher?

00:34:33: Und ich glaube gleichzeitig brauchen wir trotzdem so ein Funktionalitätenvielfaltmix.

00:34:38: Also auch irgendwie dezentrale Lösungen, die dazu beitragen und deswegen einen sinnvollen Mix aus zentralen und lokalen Lösungen wird wahrscheinlich helfen nicht nur besser zu arbeiten sondern auch die Kosten einzuschränken und Ressourcen effizient einzusetzen denn nicht jede Anwendung braucht irgendwie den größtmöglichen Aufwand Das stimmt.

00:34:56: Und da kommen wir genau dahin, wonach wird entschieden was wo landet?

00:34:59: Also in einer lokalen Technologie sage ich mal oder in der Cloud oder in einer gemeinsamen eigenen Cloud.

00:35:06: also gibt's das schon so eine Art, ich sag mal Entscheidungskatalog mit Parameter, wo man sagt dass machen wir ja da oder das da oder entsteht sowas und wer entscheidet nachher.

00:35:15: Also ich meine Sie haben es gerade gesagt wie reden von der Verwaltung sind viele Ministerien die damit zu tun haben eigentlich im Endeffekt alle weil ich mein KI betrifft wirklich alle Bereiche unseres Lebens.

00:35:23: Gibt es da schon einen Plan?

00:35:24: Genau.

00:35:25: Also da gibt es natürlich verschiedene Ansätze, die man auch betrachten muss und das gibt schon ein paar klare Kriterien.

00:35:30: Die man betrachten muss gleichzeitig gerade im KI-Bereich sehr volatil.

00:35:34: Das ändert sich auch.

00:35:35: aber das erste ist natürlich irgendwie immer der Inhalt der Daten.

00:35:40: also wie sensibel sind die Daten?

00:35:41: welche rechtlichen Vorgaben gelten bei der Verarbeitung?

00:35:44: Wie muss mein Datenschutz und meine Datensicherheit drum herum aufgebaut werden?

00:35:48: Und da können wir natürlich nicht Kompromisse machen.

00:35:51: Ja, also da müssen wir schon hohen Datenschutz gewährleisten bei uns und eine hohe Datensicherheit.

00:35:56: Das zweite was auch ganz wichtig ist die Verfügbarkeit.

00:36:00: Also kann ich mich darauf verlassen dass meine Anwendungen und meine Leistung da sind wenn ich sie brauche.

00:36:06: Und dann drittens nicht gerade unwichtig ist die Leistungsfähigkeit der Anwendung.

00:36:11: Welches Modell brauche ich wirklich?

00:36:13: Wie schaffe ich es auch den Beschäftigten und den Bürgerinnen und Bürgern Angebote zu machen Leistung bringen und die dann auch wirklich dadurch angewandt werden.

00:36:23: Und dann kommt natürlich dazu weitere Kriterien, wie was sind die Kosten im Betrieb?

00:36:28: Was ist der Energiebedarf?

00:36:29: Wie ist die Nachhaltigkeit?

00:36:31: Und wie abhängig werde ich gerade auch bei Cloud angeboten?

00:36:34: da bewerten wir dann auch nach klaren Souveränitätskriterien welche Cloud wir einsetzen wollen Und dabei spielt bei uns natürlich auch eine Rolle, liegt irgendwie die Wertschöpfung in Deutschland und Europa.

00:36:46: Und können wir als Staat dazu beitragen, zentrale Ökosysteme aufzubauen von dem am Ende dann auch viele profitieren also sowohl die Anbieter vom Cloud- und Rechenzentrumsleistungen aber natürlich auch die Verwaltung.

00:36:57: Wir haben jetzt viel über den technischen Unterbau im weitesten Sinne gesprochen.

00:37:01: Wir haben darüber geredet, dass sie natürlich den Mitarbeitenden in der Verwaltung auch Möglichkeiten geben müssen sich auf dieser KI-Spielwiese ein bisschen auszutoben und vor allem die Chance geben müssen das Ganze überhaupt erstmal in ihren Arbeitsalltag zu integrieren und zu lernen.

00:37:13: Und wir haben aber auch schon sehr viele KI-Projekte, die dann irgendwie erfolgreich sind als Pilot und häufig passiert da nicht so viel.

00:37:22: Was aus Ihrer Sicht sind die größten Hürden wenn es darum geht?

00:37:25: So eine Anwendung, die eigentlich erstmal in der Pilotphase cool aussieht wirklich nachher in die Fläche zu bringen und wie funktioniert dabei die Zusammenarbeit über die einzelnen Ressorts hinweg bisher?

00:37:33: Also zunächst einmal, ich finde es gut dass die Verwaltung viel ausprobiert und auch viele Piloten hat.

00:37:38: Und sich vor allem damit beschäftigt wie KI die eigene Prozesse und die eigene Organisation voranbringen kann.

00:37:44: Denn dahinter steht ja am Ende eine Kultur, die irgendwie Erprobung zulässt und hoffentlich auch versucht aus den Ergebnissen zu lernen.

00:37:51: Naja ist ein bisschen so.

00:37:52: das Gegenteil von das haben wir schon immer anders gemacht.

00:37:54: also insofern bin ich ganz bei Ihnen Es ist super wenn da probiert und ausprobieren wird.

00:37:58: Wie gesagt es gibt ja auch coole Pilote wo man sagt Das ist geil das wollen wir in der Fläche aber manchmal Klappt's halt nicht.

00:38:03: Und da ist die Frage, haben Sie eine Idee, woran es hakt und wie man es besser hinkriegt?

00:38:06: Genau also ich glaube bei dieser großen Transformation vor der wir stehen, dann müssen wir halt auch sehr schnell herausfinden was funktioniert.

00:38:13: so ja und zeitgleich bin ich ja auch dabei Wir arbeiten hier mit Steuermitteln.

00:38:17: Also wir müssen schon ne Kultur zwischen Offenheit und Innovation und um vernünftigen Umgang Mit Ressourcen denken.

00:38:22: also die Kritik das Pilotprojekte im Pilotstatus stecken bleiben Ja und dann nicht weitergehen kennen wir ja auch und die will ich auch gar nicht irgendwie ausblenden.

00:38:32: Und das müssen wir wahrscheinlich so begegnen, dass man von Anfang an Betrieb- und Produkte später dann auch mitdenkt.

00:38:39: Denn die eigentliche Hürde liegt meistens nicht im Pilot selbst sondern in dem späteren Betrieb und der wird oft zu spät mitgedacht.

00:38:46: Wir dürfen halt nicht erst am Ende überlegen wie eine Lösung später ausgerollt sind Sondern müssen die Menschen, die sie dann auch später betreiben sollen rechtzeitig einbinden Und dazu gehört verlässliche Finanzierung des späteren Betriebs.

00:38:57: Da gehört so was, wie Datenschutzkonzepte rechtzeitig mitdenken, IT-Sicherheit einbinden gemeinsame Standards und Schnittstellen.

00:39:05: Dann brauchen wir quasi in diesem Setting eine Art Struktur die zum einen viele schnelle Vorhaben ermöglicht und erfolgreich ist dann auch in so einem Setting rasch skaliert aber weniger erfolgreiches und weniger gute Piloten ebenso rasch beendet.

00:39:20: Und dabei ist natürlich eine große Herausforderung, dass so eine Struktur oft gar nicht zu gewachsenen Behördenstrukturen passt.

00:39:26: Ja und vielleicht im Hinblick zu der Zusammenarbeit mit den Ressorts, da hatten sie ja auch nachgefragt, ich finde, da sind wir auch auf einem guten Weg aber halt auch noch nicht am Ziel.

00:39:35: Wir versuchen natürlich in unserer Rolle heraus zentral zu koordinieren und Strukturen zum Mitmachen anzubieten.

00:39:42: Wir haben zum Beispiel sowas wie den Marktplatz der KI-Möglichkeiten, kurz Maki genannt.

00:39:47: Die einen Überblick über KI vorhaben gibt die in der öffentlichen Verwaltung entweder bereits im Einsatz sind oder auch geplant sind.

00:39:53: und wenn jemand dann ein KI Projekt starten möchte, sollte man vielleicht erstmal da reinschauen was gibt es eigentlich alles schon?

00:40:01: Damit wir das Rad nicht neu erfinden mit den projektverantwortlichen Personen irgendwie in Kontakt treten Und dann profitieren wir auch von gemeinsamen Wissen.

00:40:08: und ich finde immer also natürlich ist es toll wenn dort konkrete lösen einfach nachgenutzt werden.

00:40:13: Super, aber ich finde es auch immer besonders toll wenn sich dort Personen zusammenfinden die gleiche Idee haben und dann sagen jetzt arbeiten wir gemeinsam an dieser Idee.

00:40:22: so ja und dann hat man natürlich viel mehr wissen das geht viel schneller.

00:40:25: und dann für uns auch ganz wichtig im Ressort austauschen in der Vernetzung ist dass wir irgendwie niederschwellige Angebote zum Austausch machen.

00:40:32: Da haben wir sowas wie Community of Practice, wo sich die Verwaltung einmal im Monat treppen kann und sich einfach austauscht zu KI-Themen.

00:40:39: Bisschen zum KI Kompetenzaufbau, Change Management oder ähnliches.

00:40:42: Wir bieten so eine Vernetzungsplattform den KI Space an also dass man einfach viele Angebote der Zusammenarbeit und des gemeinsamen Wirkens anbietet.

00:40:50: ich glaube das ist ganz entscheidend.

00:40:52: Es gibt ja zum Beispiel auch den Agentec AI Hub, da arbeiten jetzt Startups erfolgreich schon mit Kommunen zusammen.

00:40:57: Oft ist aber das Problem ja wenn dann irgendwie eine coole Idee da ist, dann ist es halt manchmal gar nicht so leicht dass dann wirklich auch in ihren Einsatz in der Verwaltung zu bekommen.

00:41:04: Sie haben's schon erwähnt sie arbeiten hier mit Steuergeil und das heißt es gibt ein relativ komplexes Vergaberecht und Beschaffung ist ein Thema.

00:41:10: müsste dies nicht auch alles reformiert werden damit man schnell genug reagieren kann?

00:41:14: und eben ich sage mal das Beispiel Wenn es jetzt den einen Anbieter gibt einer coolen KI-Lösung und man einfach keine zwei Vergleichsangebote kriegen kann, weil die gibt's noch nicht das man dann durchziehen kann.

00:41:25: Genau, also vielleicht noch mal ganz kurz zum Hintergrund Agentik AI hat.

00:41:27: Das sind wir ja zu Anfang des Jahres gestartet und da bauen wir so ein Ökosystem aus das Marktakteure die sonst nicht so häufig miteinander zusammengearbeitet haben dann auch zusammenarbeiten.

00:41:37: Also gerade Kommunen & Startups!

00:41:39: Und in der ersten Phase hatten wir sehr viele Bewerbungen, knapp zwanzig Kilolitikerung und neun Start-Ups, die da uns geholfen haben.

00:41:45: jetzt ist grad die zweite Phase gestartet mit siebzehn weiteren Start Ups und achtunddreißig weiteren Kommunen und wir wollen jetzt vor allem auch im Fokus nehmen genau diese wie schaffen wir Skalierung.

00:41:56: Also mit dem Engineering-Ihab finden wir ganz schnell heraus, das haben wir schon gelernt welche Vorhaben tatsächlich Wirkung für Bürgerinnen und Bürger entfalten.

00:42:02: aber die Vorhabem wollen wir ja dann auch in die Fläche bringen So.

00:42:06: Und da gibt es konkrete Ansatzpunkte, um gerade diese Beschaffungsverfahren die oft sehr lange dauern zu verbessern und das ist vor allem auch natürlich irgendwie die Kultur in der Beschaffung vielleicht zu verändern.

00:42:17: Ja.

00:42:18: Denn die klassische Beschaffungen stellt ja so Startups vor große Herausforderungen und die haben aber grade die interessanten Lösungen.

00:42:25: Und das fängt schon damit an, dass ganz oft in den Anforderungen bei Ausschreibung ganz viele Referenzen und gewisse Unternehmensgrößen und Ähnliches gefordert werden was Start-ups oft gar nicht erfüllen können.

00:42:36: Und daran haben wir so Überlegungen die wir jetzt umsetzen wie dynamische Beschaffungsverfahren oder ähnliches wo man sehr schnell dann nachdem man mal in so einer initialen ich komme in das Beschaffungssystem rein Phase durch ist sehr schnell Lösungen bezuschlagen kann.

00:42:50: Dann geht das alles vergaberecht sicher und trotzdem schnell.

00:42:53: Umgekehrt bei Start-ups.

00:42:55: Ich auch ganz klar sagen, muss die Verwaltung natürlich auch eine gewisse Art abgesichert sein weil manchmal scheitern ja auch Start-Ups oder Lösungen und dann braucht die Verarbeitung natürlich schon Sicherheit dass man irgendwie die Lösung weiter betreiben kann.

00:43:08: da gibt es aber auch Wege für also indem man dann zum Beispiel in einem solchen Fall irgendwie Zugang zum Code oder ähnliches bekommt oder einfach offene Schnittstellen oder Ähnliches hat so das die Verwandlung nicht plötzlich ohne Lösung dasteht.

00:43:20: Okay, wenn wir jetzt mal auf Ihren Job gucken als Chief AI Officer der Bundesverwaltung.

00:43:24: Was würden Sie gerne ganz konkret in den nächsten Jahren erreichen?

00:43:28: Ich sage jetzt ganz bewusst nicht in den Nächsten drei fünf oder zehn weil wir wissen ja alle im KI-Zeitalter ist völlig egal wie viele Jahre man redet.

00:43:34: Man weiß es nicht.

00:43:35: aber was ist so?

00:43:36: das nächste große Ziel?

00:43:37: was sie sich gesetzt haben muss ich sagen Wenn wir das hinkriegen dann sind wir in Deutschland hier einen großen Schritt weiter und dann kann KI uns helfen richtig vorne mitzuspielen.

00:43:43: Genau also ihr habt's glaube ich schon sehr gut gesagt in Jahren zu denken.

00:43:46: Es ist oftmals schwierig.

00:43:49: Gerade bei der Geschnelligkeit der Transformation müssen wir in zeitlich gut absehbaren Schritten planen, denn die Dynamik ist einfach enorm.

00:43:58: Gleichzeitig müssen wir natürlich von einem Ziel geleitet werden und für mich ist das eigentlich relativ klar.

00:44:03: am Ende brauchen wir eine KI-native Verwaltung.

00:44:06: also wieder Wir wollen den Behörden einen Rahmen bilden mit möglichst vielen KI Funktionalitäten und Angeboten und denen zur Verfügung stellen damit nicht jeder Behörde alleine losläuft, wie Sie ja glaube ich auch gesagt haben.

00:44:18: Sondern dass wir quasi die großen Anliegen koordinieren und diese Transformation hin zu einer KI nativen Verwaltung hinbekommen.

00:44:26: Und da will ich gar keinen Zeitpunkt draufkleben sondern das ist einfach die Aufgabe mit der wir als Ziel weiterarbeiten müssen.

00:44:32: Und dabei ist es für mich halt ganz wichtig Die Mitarbeitenden dabei auch abholen, also dass wir hier für eine breite Akzeptanz dieser Technik sorgen und den Motivation aufhinsch zu dieser Transformation stärken indem die Mitarbeitende dann auch die Transformation mitgestalten können.

00:44:48: Und ganz wichtig glaube ich als Ziel was uns dabei leiten lassen müssen ist... ...die Entlastungen müssen am Ende bei Bürgerinnen- und Bürgern ankommen und auch bei den Mitarbeiten.

00:44:57: Wir müssen hier Wirkung mit der KI-Transformation entfalten denn dafür treten wir glaube ich hier an.

00:45:03: ja also ganz klar Wirkung, Entlastung bei Bürgerinnen und Bürgern.

00:45:07: Das muss das Ziel einer KI-Transformation

00:45:09: sein.".

00:45:09: Dr.

00:45:09: Maximilian Lukas Weherge ist Chief AI Officer für die Bundesverwaltung und Leiter des Referats KI Bund im Bundesministerium für Digitales und Staatsmodernisierung.

00:45:18: Er hat viel vor und auch jede Menge zu tun.

00:45:20: aber das Gute ist der Mann hat Erfahrung.

00:45:21: seit über zehn Jahren beschäftigt er sich mit dem Thema KI – ihn hat die KI jetzt nicht überrascht!

00:45:33: Ja, also uns ging es darum hier mal zwei Perspektiven auf Hybrid AI zusammenzuführen.

00:45:39: Ich finde das ein spannendes Thema weil es ja am Grunde auch bisschen so'n Gegentrend ist zu dem was wir bisher eigentlich ja immer gesagt haben von wegen dass er eigentlich immer mehr in die Cloud wandert.

00:45:49: und Hybrid AI is ja jetzt auch kein Ersatz für die Cloud sondern einfach so einen Ansatz dass man sozusagen künftig unterschiedliche Rechenressourcen gezielt miteinander verbinden kann.

00:46:00: Also sozusagen Cloud nutzt aber eben manche KII-Anwendungen vielleicht auch lokal auf dem Rechner laufen lässt.

00:46:06: Ja, genau und es gibt halt auch wichtige Möglichkeiten für Unternehmen gerade kleine und mittelständische Unternehmen die sagen ja ich würde gerne mit KI arbeiten aber ich trau mich nicht unser ich sage mal unseren Schatz unserer Firmen wissen irgendwo in die Cloud zu laden.

00:46:17: Ich will das hier bei mir behalten.

00:46:19: da ist vielleicht wirklich dann eine AI on the Edge also im eigenen Unternehmen die auf einem eigenen rechner läuft und keine Verbindung ins Internet hat Auf jeden Fall ne gute Alternative mit nem besseren Gefühl trotzdem mit KI zu arbeiten.

00:46:31: weil Bei einer Sache sind wir uns ja alle einig, die KI geht nicht wieder weg und wenn man sie richtig einsetzt kann es ihnen richtig gutes Werkzeug sein.

00:46:38: Man kann damit auch viel Mist machen wie auch mit einem Hammer aber wenn wir erstmal lernen den Hammer richtig zu schwingen dann wird das schon werden also auch digital denke ich zumindest.

00:46:44: Ja genau also die Zukunft der KI entscheidet sich nicht allein daran, wie leistungsfähig die Modelle werden.

00:46:50: Es wird ja eigentlich immer nur noch über die Modälle gesprochen, sondern entscheidend ist natürlich auch wo sie laufen, wem die Infrastruktur gehört und wer am Ende die Daten kontrolliert.

00:46:59: Und ja da könnte Hybrid AI tatsächlich zum Schlüssel werden wenn eben Unternehmen und auch die Verwaltung nicht nur die Technologie einführen, sondern eben auch strategisch einsetzen.

00:47:08: Genau, und irgendwann ist es so wie früher als wir alle auf einem Mann Walkman hatten.

00:47:12: Wir haben dann alles ein kleines Gerät und unseren eigenen persönlichen nicht mit dem Internet verbundenen KI-Assistenten, den wir mit uns rumschleppen.

00:47:19: Das wäre doch auch mal wieder lustig!

00:47:20: Ja... Und irgendwann wird er uns vielleicht sogar implantiert.

00:47:24: Aber darüber gehen wir vielleicht in der anderen Folge.

00:47:27: Bis dahin macht's gut.

00:47:27: Sido nie lass das dir gutgehen.

00:47:29: Tschüss allerseits.