Thema der heutigen Folge

Unsere digitale Welt beruht auf Vertrauen. Wir vertrauen darauf, dass unsere Banküberweisungen korrekt verbucht werden, dass medizinische Geräte präzise messen und dass die Software in Kraftwerken oder Krankenhäusern vor Angriffen sicher ist. Lange Zeit war klar: Dieses Vertrauen baut auf Systemen, die wir testen, zertifizieren und kontrollieren können.

Doch aktuell entsteht eine neue Generation von agentischen Systemen, die nicht mehr nur regelbasiert arbeitet, sondern Inhalte erzeugt, Entscheidungen eigenständig trifft und sich an neue Situationen anpasst. Sie liest und schreibt Daten, führt Prozesse autonom aus und interagiert mit unserer realen Umgebung. Dadurch eröffnen sich enorme Möglichkeiten, aber auch eine neue Art von Risiko. Denn je eigenständiger solche Systeme handeln, desto unvorhersehbarer können ihre Fehler sein.

In dieser Folge von Chatbots und KI sprechen Thomas Bahn und Prof. Dr. Dirk Nowotka darüber, wie KI die Bedeutung von Sicherheit und Zuverlässigkeit im IT-Kontext verändert, welche Branchen besonders auf diese Veränderungen reagieren müssen und welche Gefahren von der Manipulation von KI für Unternehmen ausgehen.

Heute zu Gast

Prof. Dr. Dirk Nowotka ist seit 14 Jahren Professor am Institut für Informatik der Christian-Albrechts-Universität zu Kiel und leitet dort den Bereich „Zuverlässige Systeme”. Prof. Nowotka ist Sprecher des KI-Anwendungszentrums an der CAU zu Kiel und engagiert sich in zahlreichen Initiativen zur KI, wie etwa im KI-Transfer-Hub Schleswig-Holstein. Er gilt als wichtiger Experte für KI-Sicherheit und Zuverlässigkeit und verknüpft dabei grundlegende Forschung mit praktischen Anwendungen in Wirtschaft und Gesellschaft.

Shownotes

In „Chatbots und KI“ diskutiert Thomas Bahn mit interessanten Gästen aus Wirtschaft und Wissenschaft über Nutzen, Anwendungen und Erfahrungen aus den Bereichen Chatbots und Künstliche Intelligenz.

Zeitstempel:
00:00:00 Intro
00:01:57 Vorstellung von Prof. Dr. Dirk Nowothka
00:03:37 Was bedeuten Sicherheit und Zuverlässigkeit im IT-Kontext?
00:06:15 Welche Branchen sind besonders gefährdet?
00:08:20 Welche neuen Sicherheitsherausforderungen bringt KI mit sich?
00:19:05 Manipulation von KI-Modellen
00:26:43 Outro

Weitere Informationen:
Forschung in der Arbeitsgruppe Zuverlässige Systeme

Host:
Thomas Bahn ist Geschäftsführer, Mitgründer und Gesellschafter der assono GmbH. Seit mehr als 20 Jahren berät er erfolgreich Unternehmen aus ganz Deutschland rund um das Thema Software und Digitalisierung.

Produktion:
Johannes Göttsch ist Mediengestalter und Conversational Designer bei der assono GmbH.

Bei Fragen oder Anmerkungen freuen wir uns auf Ihre Nachricht an podcast@assono.de

Der Podcast wird präsentiert von assono - Wir entwickeln Chatbots, mit denen sich Menschen gerne unterhalten.

In 3 Schritten zum eigenen KI-Chatbot-Projekt

1. Informieren Sie sich über das Chatbot-Angebot von assono
2. Vereinbaren Sie ein kostenloses Beratungsgespräch oder nehmen Sie an einer unserer Live-Demos teil
3. Starten Sie Ihr Chatbot-Projekt innerhalb weniger Wochen