#12 Agentic AI & Governance: Wie wir autonome KI verantwortungsvoll steuern

00:00:02:

00:00:17: Hallo und herzlich willkommen zu einer neuen Folge von Compliance Unboxed.

00:00:20: Schön, dass ihr wieder dabei seid!

00:00:22: Heute sprechen wir über ein Thema das gerade in der KI- und Compliance Welt überall auftaucht – AI Governance um besonders über die Frage wie wir agentischer also zunimmt autonomie KI Systeme verantwortungsvoll steuern können?

00:00:35: Warum brauchen Unternehmen hier neue Konzepte, was unterscheidet Agentik AI von klassischer KI und welche Ansätze gibt es international schon?

00:00:44: Etwa im neuen Model Governance Framework aus Singapur.

00:00:47: Darüber sprechen wir heute mit Tobias Heinz, einem unserer Experten für AI Governance und verantwortungsvolle KI-Systeme.

00:00:54: Schön dass du dabei bist Tobias!

00:00:56: Stell dich doch gerne einmal kurz vor.

00:00:59: Ja, vielen Dank an euch beiden für die Einladung und die Möglichkeit am Compliance-Podcast mitzuwirken.

00:01:04: Ich bin Tobias.

00:01:05: ich bin bei Wavestone Experte for AI Governance und als promovierter Philosoph bin ich insbesondere auch zuständig für KI Ethik und den verantwortungsvollen Umgang mit KI Und das sind auch Themen zu denen nicht unsere Kunden bei WaveStone vor allem unterstütze.

00:01:22: Ich habe ähnliche Tätigkeiten auch vor meiner Zeit bei Wavestone, bei Mercedes ausgeübt.

00:01:27: Dort war ich im KI Governance Team und zuständig für die ethische Beratung von Use Cases und auch für Risikoanalysen.

00:01:34: Und da das ja nun mal ein Automobilhersteller ist, habe ich auch die Fahrzeugentwickler bei ethischen Fragen rund um das automatisierte Fahren unterstützt.

00:01:43: Mein Lebenslauf ist sogar noch ein bisschen bunter denn ich war vorher als Medizinetiker in der Wissenschaft.

00:01:51: Vielen Dank für die Vorstellung Tobias.

00:01:54: Lass uns doch direkt mit einer grundlegenden Frage starten, was verstehen wir eigentlich unter AR Governance und warum reicht die klassische IT oder Data Governance hier nicht mehr aus?

00:02:05: Ja, ich würde sagen AI Governance ist eine umfassende Steuerungsaktivität und das bedeutet alle KI-bezogenen Aktivitäten innerhalb einer Organisation werden so gesteuert dass sie verantwortungsvoll sicher und auch regulatorisch konform sind.

00:02:23: Das bedeutet es geht darum, KI-Aktivitäten so zu steuern, dass Sie verantwortungssvoll, sicher.

00:02:31: Das heißt, AI Governance umfasst sehr heterogene Elemente und Instrumente – etwa Risikoassessments, Rollenkonzepte, definierte Verantwortlichkeiten, Richtlinien- und Handlungsleitfäden.

00:02:42: Und natürlich geht es auch im Trainingsprogramme, um Beschäftigte in der verantwortungsvollen Entwicklung und Nutzung von KI zu befähigen!

00:02:51: Wenn man sich jetzt klassischer IT Governance oder Datengovernanz anschaut, findet man dort zwar schon ähnliche Elemente aber einen anderen Fokus….

00:03:00: Bei der IT Governance geht es zum Beispiel um die Gestaltung der IT-Infrastruktur und um wertschöpfende Maximierung des Nutzens von IT-Ressourcen.

00:03:09: Aber natürlich geht das auch um Compliance Aspekte.

00:03:12: Und bei der Datengovernance geht's beispielsweise um Themen wie die Datenbereitstellung, die Datenqualität und Integrität – und auch da ist Compliance und auch Datenetik ein Bestandteil!

00:03:24: Und wenn man nun einen Blick auf neue Regularien im KI-Bereich wirft, insbesondere natürlich auf den EU AI Act dann findet man dort keinen Fokus auf Daten oder auf IT Infrastruktur.

00:03:37: Der Fokus des AI Act der liegt auf dem Schutz von Leib und Leben und von Grundrechten und das liegt an den Risiken die KI mit sich bringt die aber nicht von diesen anderen Governance Formen adressiert werden.

00:03:49: Und deshalb würde ich sagen, dass eine dezidierte AI Governance für Organisationen unbedingt erforderlich ist wenn diese Organisationen KI verantwortungsvoll und regulatorisch konform anwenden wollen.

00:04:11: Ja, und was macht aus deiner Sicht Agente-GEI so besonders?

00:04:15: Also welche Fähigkeiten haben agentische Systeme die herkömmliche KI Modelle nicht haben.

00:04:20: Agente GEI ist deshalb besonders weil solche KI-Systeme deutlich mehr Eigenständigkeit und auch Kontextverständnis zeigen.

00:04:28: das bedeutet man steckt ihnen einen Rahmen.

00:04:31: das sollte man unbedingt machen aber in diesem Rahmen können sie dann autonom handeln Und dieser Handlungsbegriff umfasst Tätigkeiten wie beispielsweise das Verändern produktiver Daten oder auch den Zugriff auf interne oder externe Tools und Systeme, sofern der Agent das für erforderlich hält.

00:04:51: Für all das braucht es in manchen agentischen Systemen keine menschliche Freigabe.

00:04:57: Ein traditionelles KI-Modell reagiert auf einzelne Anfragen und ein argentisches System agiert proaktiv.

00:05:06: Das heißt, es kann selbstständig mehrere Schritte im Voraus planen und auch in Echtzeit auf Veränderungen reagieren.

00:05:13: Und das ermöglicht Anwendungen, wo man früher noch gesagt hätte, dass ist eindeutig Science Fiction.

00:05:19: Wenn man sich eine generative KI wie JCPT anschaut dann liefert diese Texten oder Analysen.

00:05:25: aber eine agentische KI kann weitergehen.

00:05:28: sie führt basierend auf den Informationen direkt Handlungen aus.

00:05:32: besonders interessant sind die natürlich praktische Beispiele.

00:05:35: Wenn wir uns mal in die Finanzbranche orientieren, dann würde eine gewöhnliche KI ein verdächtiges Finanztransaktionsmuster vielleicht kennzeichnen.

00:05:45: Aber ein agentisches System könnte das Konto vorübergehend sperren, Untersuchungen einleiten und auch menschliches Sicherheitsteams informieren.

00:05:54: Damit bewegen wir uns in einem deutlich erweiterten Wirkungsraum im Vergleich zu klassischer KI.

00:05:59: Warum steigt denn mit agente GI der Bedarf an neuen Governance-Mechanismen, Stichwort Autonomie, Multi-Step Planning, emergente Verhaltensweisen?

00:06:09: Ja sobald KI Systeme wie agentische Systeme eigenständig handeln und auch komplexe Pläne verfolgen können dann stellt man fest, dass traditionelle Governance-Ansätze an ihre Grenzen stoßen.

00:06:21: Das heißt, man hat einfach diesen Bedarf an neuen Mechanismen.

00:06:24: Denn Autonomie bedeutet ja das weniger menschliche Kontrolle im Tagesgeschäft stattfindet –

00:06:30: d.h.,

00:06:31: es kann die Gefahr eines unerwünschten Kontrollverlusts wachsen!

00:06:36: Wenn man sich klassische Softwaresysteme anschaut, konnte man jeden Schritt durch feste Regeln oder Refuse prüfen.

00:06:42: Aber agentische KI entzieht sich einem solchen Kontrollmechanismus, einen solchen Micromanagement weil sie Entscheidungen in Echtzeit treffen und adaptieren kann.

00:06:54: Das heißt solche klassischen Aufsichtsmechanismen und Steuerungsmechanisten müssen Erneuert werden, müssen angepasst werden oder man muss ganz neue Mechanismen ergänzen um sicherzustellen dass diese KI zwar einerseits ihre Freiräume nutzt aber andererseits im Einklang mit gesetzten Zielen und Werten handelt.

00:07:14: Dieses von dir schon erwähnte Multi-Step Planning das führt dazu dass emergent Verhaltensweisen auftreten können.

00:07:22: emergente Verhaltensweisen sind solche, die vorher nicht absehbar waren und erst dann entstehen wenn mehrere Agenten komplex miteinander interagieren.

00:07:32: Und dann hat man nun in der Praxis festgestellt dass solche Systeme kreative aber eben auch unvorhergesehene Lösungen finden die einerseits effektiv sein können aber andererseits womöglich auch gegen Richtlinien oder ethische Grundsätze verstoßen.

00:07:48: ein Beispiel sind unerwartete Strategien.

00:07:52: Es gab interne Tests von Unternehmen, in denen KI-Agenten Verhaltensweisen gezeigt haben die selbst die Entwickler überrascht haben.

00:08:00: Das Stichwort ist hier das sogenannte Agentic Misalignment, dass es zielgerichtetes Fehlverhalten und Governance muss sich entsprechend anpassen um mit dieser Unberechenbarkeit umzugehen.

00:08:11: Beispiele wären hier intensiveres Pretesting, kontinuierliche Überwachung Und jetzt kann man einen Blick auf Regulierung und Standards werfen und feststellen, dass dort auch nachgezogen wird.

00:08:25: DayIect z.B.

00:08:27: verlangt für hochriskante KI-Systeme deutlich verschärfte Auflagen zum Beispiel Dokumentation, Transparenz über die Funktionsweise und auch menschliche Aufsicht.

00:08:38: Aber solche Vorgaben beziehen sich noch auf eher klassische Systeme während sie bei adaptiven Systemen deutlich schwerer umzusetzen sind.

00:08:47: Das heißt, man braucht hier neue Verfahren.

00:08:49: Zum Beispiel automatische Protokollierung jeder Entscheidung oder auch erklärbare KI-Modelle die ihre Gedankenwege – wenn man dieses Wort benutzen möchte – offenlegen können.

00:09:00: und aus regulatorischer Sicht ist besonders spannend dass der AI Act ja auch Ausnahmen von Hochrisikoklassifikationen kennt.

00:09:08: Solche Ausnahmen sind etwa das bloße Ausführen enger Verfahrensvorgaben oder die Vorbereitung menschlicher Tätigkeiten.

00:09:17: Das heißt, diese Ausnahmen hätten vielleicht dazu geführt dass KI-Systeme die eigentlich Hochrisikosysteme wären das eben nicht sind.

00:09:25: Aber – und jetzt noch eine Schleife!

00:09:28: Diese Ausnahmen dürften für viele agentische Systeme eben nicht gelten.

00:09:39: Leider vielleicht darauf einstellen, dass sie dann auch Hochrisikosysteme sind weil die Ausnahmen nicht gelten.

00:09:46: und das heißt man muss auch die strengen Vorgaben des AI Act erfüllen.

00:09:50: Ja jetzt hast du ja schon das nächste Thema ein bisschen angeschnitten welche Risiken entstehen in konkret wenn KI selbstständig Entscheidungen trifft oder Handlungen ausführt?

00:09:59: und wo überschätzen Unternehmen vielleicht auch hier die Gefahr?

00:10:03: Ich denke Ein ganz zentrales Risiko sind die schon erwähnten emergenten Verhaltensweisen.

00:10:08: Das heißt zur Erinnerung, agentische KI kann Entscheidungen treffen, die nicht vollständig voraussehbar sind und das kann bedeuten dass auch Handlungen unerwartet oder unerwünscht sind.

00:10:20: Damit eng verbunden sind sehr intransparente Entscheidungsprozesse d. h., die KI entwickelt eigene Strategien für einen Menschen ein Kontrolleur überhaupt Und das kann natürlich mit einem zumindest gefühlten, vielleicht aber auch tatsächlichen Kontrollverlust einhergehen.

00:10:38: Wenn es keine funktionierende dauernde Aufsicht mehr gibt für einen System dann fällt es natürlich auch schwer im genau richtigen Moment einzugreifen vor allem wenn dieses System sehr schnell nach menschlichen Maßstäben oder in vielen kleinen Schritten agiert.

00:10:55: Es gibt auch seriale ethische oder juristische Risiken.

00:10:58: Das sind bestimmte Formen von Fehlentscheidungen.

00:11:01: Das ganze Thema Fairness und Bias ist hier sehr groß.

00:11:04: Eine autonom entscheidende KI kann vor eingenommenen, also bayesbehaftete Entscheidungen treffen etwa im Bereich der Kreditvergabe oder der Bewerberauswahl und dadurch können Diskriminierungen oder auch Verstöße gegen Regularien drohen.

00:11:20: Sicherheitslücken spielen eine Rolle!

00:11:22: Ein KI-Agent, der Programmcode nicht nur erstellen sondern auch ausführen kann oder Systeme steuert könnte Schaden anrichten.

00:11:30: Im schlimmsten Fall kann er große Datenmengen löschen oder schutzwürdige Datenpreis geben.

00:11:37: und wenn man einen solchen Agenten angreifbar von außen macht wahrscheinlich unabsichtlich dann kann er natürlich manipuliert werden und wie ein sogenannte Insider Thread agieren.

00:11:48: Das wäre also eine Art digitaler Mitarbeiter, der absichtlich oder unabsichtlich gegen die Interessen des Unternehmens handelt.

00:11:55: Und auch hierzu gibt es Studien, die gezeigt haben dass große KI-Modelle in Simulationen unter Druck zu sehr extremen Mitteln greifen können.

00:12:03: Es gab einen Test, wo ein Agent versucht hat einen Abschaltbefehl zu umgehen indem er einen Vorgesetzten erpresst hat.

00:12:10: das sind erstmal Tests Aber solche Ergebnisse zeigen genau diese Risiken, agentisches Fehlverhalten auf die man vorbereitet sein sollte.

00:12:20: Jetzt die Frage überschätzt man vielleicht auch manche Gefahren?

00:12:24: Wer erwähnt ja dieses skizzierten?

00:12:26: Risiken sind grundsätzlich real aber haben sich zunächst mal in Test-Szenarien gezeigt oder in Anwendungsfällen von Agente GAI in Bereichen, die auch sowieso schon ein erhöhtes Risiko aufweisen.

00:12:39: Das heißt, man kann versuchen diese Gefahren gering zu halten indem man sich schrittweise an Agent GAY herantastet.

00:12:46: Man setzt sie erst mal in Arbeitsbereichen mit ohnehin geringeren Risiken ein und man begrenzt die Zugriffsmöglichkeiten von Agenten.

00:12:55: Und dann kann man diese Zugriffsmöglichkeiten schrittweise und auch risikobewusst erweitern wodurch sich die Risiken auch als handhabbar herausstellen sollten.

00:13:05: Das heißt, der Schlüssel liegt hier wie so oft in einer Befähigung der relevanten Akteure.

00:13:10: Das sind die Entwickler, die gemeinsam mit der Governance die Leitplanken festlegen.

00:13:14: aber das sind eben auch die Anwender, die die typischen Risiken kennen und sie allein schon durch ihr Verhalten mitigieren können.

00:13:22: Und wenn ein Unternehmen solcher Art befähigte Mitarbeiter hat dann sollte es auch keine Angst vor genteilige Eier haben!

00:13:28: Das nimmt dem Thema ja viel von seinem Schrecken, ohne natürlich die Risiken kleinzureden.

00:13:34: Tobias Wie unterscheidet sich die Governance von Agentik AI von Ansätzen, die wir aus dem EU-AI-Akt kennen?

00:13:41: Und warum reicht regulatorische Konformität hier nicht aus?

00:13:44: Also man kann sagen dass der AI Akt Agentik EI grundsätzlich einschließt und auch reguliert sofern sie unter den für ihn relevanten Geltungszweck fällt!

00:13:53: Und das ist wie erwähnt der Schutz von Leibleben und Grundrechten von Menschen.

00:13:58: Aber es gibt auch Risiken von agentik AI, die für Unternehmen zwar hochrelevant sind zu denen sich aber der AI-Act letzten Endes agnostisch verhält.

00:14:07: Man könnte sagen er interessiert sich nicht für diese Risiken und das sind betriebliche Risiken oder auch Sicherheitsrisiken so fern sich diese eben nicht auf Grundrechte oder den Schutz natürlicher Personen erstrecken.

00:14:20: Und deshalb ist es wichtig, dass Unternehmen ihre Risikoassessments nicht nur am AI-Akt ausrichten und dann denken sie hätten alles Notwendige erledigt.

00:14:29: Wenn man das so angeht, dann hinterlässt man blinde Flecke – und die sind natürlich nicht im Unternehmensinteresse!

00:14:35: Und nun gibt's noch eine dritte Ebene über das was regulatorisch gefordert und aus betrieblicher Vernunft herausgeboten ist hinaus.

00:14:44: Es gibt eine technische Entwicklung, die so rasant verläuft, Das heißt, es werden technische Möglichkeiten erschlossen die noch gar nicht reguliert sind.

00:14:55: Jetzt könnte man sich zurücklehnen und sagen wunderbar anything goes.

00:14:59: aber damit übersieht man natürlich dass es auch sowas gibt wie gesellschaftliche Wertvorstellungen.

00:15:05: Und wenn man nun als Unternehmen gegen solche Wertvorstellung verstößt Auch weil man sich rechtlich überhaupt nichts zu Schulden kommen lässt dann riskiert man einen Reputationsschaden oder im Falle betrieblicher Risiken auch einen finanziellen Schaden.

00:15:19: Das heißt, eine Governance die sich nicht nur an geltenden Recht ausrichtet sondern zum Beispiel auch an der Ethik ist sehr sehr empfehlenswert weil sie tatsächlich auch ein Wettbewerbsvorteil sein kann.

00:15:30: Ja alles wichtige Punkte die du eben angesprochen hast Tobias aber welche Governance-Prinzipien sollten Unternehmen deiner Meinung nach sofort umsetzen?

00:15:38: Auch wenn Sie jetzt noch keine hochgradig agentischen Systeme im Einsatz haben!

00:15:42: Also auch wenn ein Unternehmen jetzt noch kein hochgradige agentische KI-Systeme im einsatz hat gibt es sehr entscheidende Governance-Prinzipien, die unbedingt verankert werden sollten.

00:15:51: Das sind klare unternehmensinterne KI Richtlinien definierte Rollen und Verantwortlichkeiten und natürlich ein systematisches Risikomanagement rund um KI.

00:16:02: Wozu dient eine solche KI-Richtlinie?

00:16:05: Sie kann festlegen, wer überhaupt das Mandat dazu hat neue KI Tools freizugeben.

00:16:11: Wieder Prozess verläuft um KI Anwendungen auf Risiken zu prüfen und sie kann auch Aussagen darüber treffen dass sensible Daten nicht unkontrolliert in externe KI Plattformen gelangen.

00:16:22: Dann gibt es auch Ethische Grundprinzipien, wie etwa Fairness, Transparenz, Sicherheit und Nichtdiskriminierung die ebenfalls in einer KI-Gavanz verankert sein sollten damit jede KI Anwendung mit den ethischen und gesetzlichen Vorgaben im Einklang steht.

00:16:38: Außerdem empfiehlt es sich auch jetzt schon Bias Tests durchzuführen und Qualitätskontrollen für KI Modelle durchzufühlen.

00:16:46: Dann gibt es noch einen weiteren wichtigen Grundsatz, der zwar auch im AI-Akt erwähnt ist.

00:16:51: Der aber auch eine ethische Grundlage hat und das ist menschliche Aufsicht.

00:16:55: Besonders kritische Entscheidungen dürften nie allein von einer KI getroffen werden Sondern ein Mensch muss die Möglichkeit haben einzugreifen oder zumindest das letzte Wort zu haben.

00:17:06: Außerdem sollten Unternehmen auch Transparenz schaffen.

00:17:09: Sie sollten etwa dokumentieren, wo KI zum Einsatz kommt und betroffene Kunden oder auch Mitarbeiter aktiv darüber informieren.

00:17:18: Wichtig ist auch eine Form von Rechenschaftspflicht – es muss intern ganz klar geregelt sein wer denn für die Ergebnisse eines KI-Systems die Verantwortung trägt und auch gegenüber Aufsichtsbehörden Betroffenen oder anderen Stakeholders Rede und Antwort steht.

00:17:34: Und die Grundlage, das heißt Last but not least ist eine sensibilisierte Firmenkultur.

00:17:41: Das heißt Mitarbeiter sollten lernen wie sie KI-Systeme verantwortungsvoll einsetzen und wie sie die Empfehlungen eines KI- Systems auch kritisch hinterfragen.

00:17:51: Und das sind alles Prinzipien und Herangehensweisen, die sich natürlich nicht mit geringem Aufwand aber letzten Endes doch sofort umsetzen lassen.

00:18:01: Und dann ein solides Fundament bilden, mit dem sich ein Unternehmen sowohl heutige, aber auch künftige KI-Anwendungen sicher ethisch und regelkonform steuern

00:18:11: kann.".

00:18:21: Ja, zunächst würde ich sagen gibt es eine Vielzahl an Industrieunabhängigen Bereichen in denen Agent GGI durchaus Chancen eröffnet.

00:18:29: Wenn man an alles denkt was mit Kundenservice zu tun hat dann hat man zahllose Möglichkeiten zur Einführung von KI-Agenten.

00:18:37: So könnt ein Agent schriftliche Kundenanfragen oder auch Anrufe entgegennehmen und je nach Anliegend an den Kunden zu weiteren Agenten schicken, die auf andere Aufgaben spezialisiert sind.

00:18:47: Und das alles bedeutet für den Kunden natürlich dass er nicht mehr in irgendwelchen nervigen Warteschleifen hängt.

00:18:53: Auch die Aktualisierung von Vertragsdaten ist denkbar wenn der dafür zuständige Agent den entsprechenden Schreibzugriff und Zugriff auf die entsprechenden Systeme hat.

00:19:03: Man sollte aber auch eins hier nicht vergessen Klar, wenige Menschen hängen gerne in Warteschleifen.

00:19:08: Aber es gibt Menschen die es sehr schätzen wenn ihr Anliegen von einem anderen Menschen gelöst wird anstatt von einer Maschine.

00:19:16: Es gibt ja Leute die nicht gerne auf Anruf beantworten sprechen und diese Leute unterhalten sich vielleicht auch nicht gerne mit einer KI.

00:19:24: Und auf Anbieter von KI-Agenten im Kundenkontakt kommen auch Transparenzpflichten aus der Regulatorik zu Und dieser Tatsache sollte man sich bewusst sein.

00:19:33: Und da besten erruiert man als Unternehmen vorher, ob man das wirklich so durchführen möchte oder vielleicht diesen menschlichen Faktor auch beibehalten möchte und dann erruhiert man, ob ein KI-Agent im Callcenter die Kundenzufriedenheit erhöht.

00:19:48: Ganz andere Bereiche sind solche in denen hochkomplexe Datenmengen in Echtzeit analysiert werden müssen und in denen es um zeitnahe Reaktionen geht.

00:19:59: Beispiele hierfür ist die Anomalieerkennung in der Cyber-Sicherheit oder auch bei Finanztransaktionen, wenn es darum geht, Cyberangriffe abzuwehren oder betrügerische Aktivitäten zu erkennen.

00:20:10: Denn hinter solchen Anomalien können sich erhebliche Schadenspotenziale verbergen Wenn etwa mehrere KI-Agenten in der Lage sind, Datenflüsse in Echtzeit zu überwachen, Anomalien zu erkennen und dann mit sehr hoher Geschwindigkeit darauf zu reagieren.

00:20:24: Dann können Bedrohungen womöglich viel schneller und effektiver abgewährt werden als wenn ein Mensch noch substanziell daran beteiligt wäre.

00:20:32: Und wie kann man sicherstellen dass ein agentisches System jeder Zeit kontrollierbar bleibt?

00:20:37: Stichwort hier Oversight

00:20:39: fail saves

00:20:40: human in the loop vs Human on The Loop.

00:20:43: Das ist so ein bisschen die Crux mit der agentischen KI.

00:20:46: Eigentlich ist eine jederzeitige Kontrolle über einen argentischen System weder sinnvoll noch möglich, denn es liegt in der Natur der Sache dass man bis zu einem gewissen Grad die Kontrolle an dieses argentische System abgeben muss um seine Potenziale zu heben.

00:21:02: Die Schlüsselfrage lautet hier also bis zu welchem Grad muss und will ich die Kontroll abgeben?

00:21:09: Wichtig ist zunächst einmal ein solides Grundverständnis von solchen typischen Modellen der Menschmaschine-Interaktion, die du auch schon erwähnt hast.

00:21:17: Human on the loop!

00:21:20: Es gibt Mechanismen wie das manuelle Abschalten des Agenten im Notfall es gibt die automatische Abschaltung wenn bestimmte definierte Schwellenwerte überschritten oder unterschriten werden und es gibt eine definierte Rückfallebene bei Fehlfunktionen oder bei einer inakzeptablen Performance.

00:21:37: Das sind alles Mechanismen, über die man nachdenken kann und die sich technisch und organisatorisch auch implementieren lassen.

00:21:45: Aber wenn es um die tatsächliche Ausgestaltung geht sollte man sich noch feinkönigere Fragen stellen.

00:21:51: zum Beispiel Welche Fähigkeiten soll der Agent denn haben?

00:21:55: Er könnte lesen schreiben er kann Daten verändern er kann auch prinzipiell Tools verwenden.

00:22:01: auf welche internen oder auch externen Systeme soll er Zugriff haben?

00:22:06: Inwieweit sollen oder müssen vielleicht sogar seine Handlungen reversibel, also umkehrbar sein?

00:22:12: All die Antworten auf diese Fragen definieren letztlich das Maß an Kontrolle dass man einem Agenten zugesteht damit er für den Zweck eingesetzt werden kann der ursprünglich beabsichtigt ist.

00:22:24: Das heißt man entscheidet sich dann genau in dieser Maße Kontrolle an den Agenten abzugeben.

00:22:29: Du hast sehr klar beschrieben, dass es setzlich um bewusste Entscheidungen über Kontrolle und Verantwortung geht.

00:22:35: Wenn du Unternehmen nur drei Empfehlungen geben könntest, muss ich jetzt so viel gente gay eye vorzubereiten?

00:22:40: Welch wären das?

00:22:42: Ich denke die erste Empfehlung hat mit den enormen Potenzialen aber auch durch die große Autonomie von Agenten und den Risiken zu tun.

00:22:52: Deshalb empfehle ich sich zunächst einmal mit dem ganz realen Nutzen von Agentic AI zu befassen, anstatt blind auf irgendeinen Zug aufzuspringen, auf den bereits sehr viele Mitfahrer sind.

00:23:03: Die Leitfrage sollte sein – wo bietet Agente AI einen echten Mehrwert?

00:23:07: Und wenn man diese Frage beantwortet hat, dann kann man sich auch mit den Risiken und ihre Mitigation befassen!

00:23:14: Die zweite Empfehlung, das ist nun wirklich die Governance-Empfehlung.

00:23:18: Bevor man sich mit Agentic AI Governance beschäftigt sollte man erstmal eine funktionierende AI Governanz im Allgemeinen haben.

00:23:27: Das heißt spätestens jetzt ist der Zeitpunkt um sich mit diesen ganzen Instrumenten zu befassen und sie zu implementieren, die ich erwähnt habe Rollenkonzepte, Verantwortlichkeiten Prozesse zur verantwortungsvollen KI Entwicklung und Nutzung usw.

00:23:42: kann und sollte man dann für Agentik AI adaptieren und spezifizieren.

00:23:48: Und die dritte Empfehlung ist, Beschäftigte sollten sowohl die Potenziale als auch die Risiken von Agenti AI möglichst hautnah erfahren!

00:23:57: Und deshalb würde ich empfehlen, dass man Beschäftigten einfache Werkzeuge an die Hand gibt und sie darin natürlich auch schult.

00:24:05: Wie man in Risikoabend-Bereichen eigene Agenten baut, testet und Sie dann letztlich auch im Tagesgeschäft einsetzt.

00:24:12: Das ist eine Art und Weise wie Beschäftigte sowohl positive als auch negative Aha-Erlebnisse haben können über Möglichkeiten und Grenzen von Agente

00:24:20: G.I.,

00:24:21: das trägt am letzten Endes zu ihrer Sensibilisierung bei.

00:24:25: Ja, vielen Dank für deine Empfehlungen Tobias.

00:24:28: Nun eine abschließende Frage!

00:24:30: Welcher Aspekt von Agente Gai wird deiner Meinung nach im öffentlichen Diskurs noch komplett unterschätzt?

00:24:35: Ich habe zu Beginn ja gesagt dass ich von Hause aus Philosoph bin und er kommt jetzt ein bisschen zum Vorschein.

00:24:41: Wenn man sich so den öffentlichen Diskurs anschaut dann sieht man häufig die große Sorge das viele Menschen durch agente gai aber auch durch gewöhnliche KI ihren Job verlieren werden.

00:24:52: Ich denke diese Sorge ist sehr stark Und ich will sie auch keines als klein reden.

00:24:56: Aber es gibt noch eine andere Facette und die wird mir momentan ein bisschen zu wenig betrachtet, und ich würde Sie beschreiben als das Risiko einer Sinnentlehrung des Arbeitslebens.

00:25:08: Viele Menschen üben ihren Job grundsätzlich sehr gerne aus und haben Freude daran – sie würden vielleicht sagen, mein Job verleiht meinen Lebensinn!

00:25:17: Und was dem einen vielleicht monoton oder langweilig erscheint, ist für den anderen etwas worin er aufgeht und prilliert.

00:25:25: Das heißt wenn wir jetzt beginnen Menschen diese Tätigkeiten wegzunehmen und sie an Agents delegieren dann nehmen wir ihnen ja letztlich etwas weg das ihrem Leben Sinn stiftet.

00:25:36: Und das heißt für mich Wenn man menschliche Tätigkeit an Agenten delegiert Vielleicht aus sehr guten Gründen Dann sollte man auch immer eine Frage stellen Wie unterstützen wir die Menschen, die diese Tätigkeiten ausgeübt haben dabei andere aber gleichermaßen sinnhafte Tätigkeiten zu finden?

00:25:54: Ja vielen Dank für deine genaue Ausführung Tobias.

00:25:57: Zum Abschluss fasse ich noch einmal kurz zusammen was uns heute mitgegeben hast.

00:26:01: Agentic AI bedeutet einen echten Schritt nach vorne.

00:26:04: KI die nicht nur antwortet sondern eigenständig handelt und mehrere Schritte voraus denkt.

00:26:10: Genau das macht neue Governance-Modelle nötig, weil traditionelle IT oder Data Governance diese Autonomien nicht auffangen können.

00:26:17: Er hat erklärt dass damit neue Risiken entstehen etwa unvorhersehbares Verhalten oder in Transparenz.

00:26:23: Gleichzeitig sind diese Risiken gut beherrschbar wenn die Unternehmen bewusst klein starten, Zugrussmöglichkeiten begrenzen und mit Arbeitende frühzeitig einbeziehen.

00:26:32: Wir haben außerdem gehört dass der AI Act zwar wichtige Standards setzt aber nicht alle praktischen Unternehmensrisiken abdeckt.

00:26:39: Governance muss deshalb weitergehen mit klaren Rollen, Regeln und ethischen Leitplanken.

00:26:44: Und besonders wichtig.

00:26:45: es geht nicht nur um Effizienz oder mögliche Jobfoluste sondern auch darum wie wir Arbeit so weiterentwickeln das sie für Menschen sinnstiften bleibt.

00:26:54: Vielen Dank für die tolle Zusammenfassung, Vanessa.

00:26:57: Damit sind wir tatsächlich auch schon am Ende unserer heutigen Folge angekommen!

00:27:01: Wir hoffen ihr konntet einen guten Einblick gewinnen warum AI Governance und besonders Agentic AI Governace gerade jetzt so relevant ist und welche Veränderungen auf Unternehmen zukommen.

00:27:11: Vielen lieben Dank auch an dich Tobias, für die spannenden Einblicke und die klaren Empfehlungen.

00:27:16: Es war eine megainteressante Folge!

00:27:18: Und wenn euch die Folge auch so sehr gefallen hat, abonniert unseren Podcast, teilt ihn gerne mit Kollegen innen und lasst uns eine Bewertung da.

00:27:25: Falls ihr Themenwünsche oder aber auch Fragen habt, schreibt uns jederzeit – wir freuen uns immer wieder über Import aus der Community.

00:27:32: Danke, dass ihr heute wieder dabei wart.

00:27:34: Wir hören uns in der nächsten Folge von Compliance Unboxed.