DLR Institut für KI-Sicherheit

//Alaaf, Helau und Algorithmus! KI in der fünften Jahreszeit// Von selbstfahrenden Festwagen bis zur Gesichtserkennung unter Kostümen – die fünfte Jahreszeit stellt auch Künstliche Intelligenz vor ganz besondere Herausforderungen. Wie kann KI sicher und zuverlässig in unvorhersehbaren, bunten und manchmal chaotischen Umgebungen funktionieren? Während Menschen ausgelassen feiern, sind KI-Systeme auf präzise Muster und vorhersagbare Daten trainiert. Doch was passiert, wenn plötzlich Piraten neben Prinzessinnen tanzen und Clowns mit Cowboys schunkeln? Willkommen im KI-Stresstest namens Karneval! In Menschenmengen sind klassische KI-Modelle oft überfordert: Gesichter verschwinden hinter Masken, Stimmen gehen im Lärm unter, Bewegungsmuster folgen keiner bekannten Logik. Selbstfahrende Systeme oder Sicherheitsalgorithmen stehen vor ungewohnten Herausforderungen. Genau diesen Aufgabenstellungen widmen wir uns am DLR Institut für KI-Sicherheit. Unser Ziel ist es, Künstliche Intelligenz so zu gestalten, dass sie auch in unstrukturierten, dynamischen Umgebungen zuverlässig und sicher agiert. Wir forschen an robusten Erkennungs- und Lernverfahren, die sich flexibel anpassen können - nicht nur im Karneval, sondern überall dort, wo KI unter realen Bedingungen funktionieren muss. Denn eines ist klar: In einer Welt voller Jecken, die die KI je nach Kostüm täuschen können, braucht es smarte Algorithmen, die nicht nur mit-, sondern auch weiterdenken! Wir arbeiten auch in der fünften Jahreszeit daran, Methoden und Technologien zu entwickeln, die den sicheren und zuverlässigen Einsatz von KI in allen Lebensbereichen ermöglichen - auch dort, wo Tradition und Innovation aufeinandertreffen. Denn Sicherheit in KI-Anwendungen ist kein saisonales Thema, sondern eine permanente Herausforderung, der wir uns mit unseren Mitarbeiterinnen und Mitarbeitern stellen, um innovative praxisrelevante Lösungen aufzeigen zu können. Mehr über unsere Forschung zur sicheren KI: DLR Institut für KI-Sicherheit #DLR #KI #AI #KISicherheit #Karneval #TrustworthyAI #Serviceroboter #JeckImLab

//Vom Labor in den Markt: Wie das DLR Forschende zu Gründer:innen macht// Der DLR_Startup Factory Tour Bus hat vergangene Woche den DLR-Standort in Sankt Augustin und die dort ansässigen DLR Institute besucht. Bei der Eröffnung der Veranstaltung unterstrich DLR-Vorstand Prof. Dr. Karsten Lemmer die besondere Bedeutung des Technologietransfers für das Deutsches Zentrum für Luft-und Raumfahrt e.V. In NRW besteht ein außergewöhnliches Innovationsökosystem, das sich durch die enge Verzahnung von Spitzenforschung und Gründungsförderung auszeichnet. Besonders im Fokus der Veranstaltung stand dabei die DLR_StartUp Factory als systematisches Company Building Programm: Sie begleitet Gründende von der ersten Idee bis zur Ausgründung und stärkt damit nicht nur den Innovationsstandort, sondern schafft auch nachhaltige Perspektiven für Forschende, die ihre Erkenntnisse in die praktische Anwendung überführen möchten.   Das Land NRW und das DLR bieten gemeinsam ideale Rahmenbedingungen für forschungsbasierte Ausgründungen: Hochkarätige Forschungseinrichtungen, ein dichtes Netzwerk aus Wirtschaft und Wissenschaft, sowie gezielte Unterstützungsprogramme schaffen ein einzigartiges Umfeld für innovative Start-ups. Im Anschluss an die Eröffnung besuchten die Gäste aus Politik und BMWK, Mona Neubaur, Dr. Michael Scharnberg, Sascha Lienesch MdL, die beiden Institute DLR Institut für KI-Sicherheit und DLR Institut für den Schutz terrestrischer Infrastrukturen. In Fachgesprächen und Präsentationen wurde deutlich, wie das DLR zukunftsweisende Technologien entwickelt und deren Transfer in die Wirtschaft aktiv vorantreibt.   Erfahren Sie mehr über unsere Forschung für sichere und vertrauenswürdige KI auf unserer Website: www.dlr.de/ki Informationen zu Möglichkeiten der Ausgründung im DLR: https://lnkd.in/gpKiqQ72   #DLR #Innovation #Startup #KI #AI #Transfer #NRW #Forschung #Gründung #DeepTech #DLR_StartupFactory #Wissenschaft #FutureTech #CompanyBuilding

//An alle zukünftigen Physikerinnen und Informatikerinnen// Habt ihr Lust, Wissenschaft hautnah zu erleben? Beim Girls'Day - Mädchen-Zukunftstag taucht ihr in die faszinierende Welt der Forschung und Entwicklung am DLR ein! In interaktiven Workshops erlebt ihr, wie unsere Wissenschaftlerinnen und Wissenschaftler arbeiten, und könnt euch direkt mit ihnen austauschen. Erfahrt aus erster Hand, was es bedeutet, als Forscherin beim DLR die Zukunft mitzugestalten. Seid dabei und lasst euch inspirieren!

// Sicherheit von KI-Modellen mit physikbasierten Simulationsmodellen // Im Rahmen des Forschungsprojekts Physics InSpired AI - kurz PISA - hat das DLR Institut für KI-Sicherheit in den vergangenen zwei Jahren die Abschätzung von Unsicherheiten und Vorhersagefehlern von physikalisch inspirierten KI-Modellen untersucht. Diese Modelle kombinieren die Rechengeschwindigkeit eines datengetriebenen KI-Modells mit der Genauigkeit eines physikalischen Simulationsmodells. Für eine sichere Implementierung der in PISA entwickelten KI-Modelle in sicherheitskritischen Anwendungen ist die Identifikation von Unsicherheiten in der Vorhersage des Modells unerlässlich. So können potentielle Sicherheitsrisiken frühzeitig erkannt und gezielte Maßnahmen zur Fehlerreduktion und Verbesserung der Modellgenauigkeit eingeleitet werden. Wir haben uns insbesondere mit der Unsicherheitsabschätzung neuromorpher KI-Methoden beschäftigt. Teile unserer Projektergebnisse wurden im Open Source Softwarepaket SCAN veröffentlicht. Unsere Erfahrungen und Ergebnisse aus PISA im Bereich der neuromorphen KI setzen wir auf klassischen Computern im Projekt RESIKOAST und auf Quantencomputern im Projekt NeMoQC ein, um präzise Vorhersagen für sicherheitskritische Systeme zu erhalten.  RESIKOAST: https://lnkd.in/eMxaJwhD NeMoQC: https://lnkd.in/e7-HHtYE Weitere Informationen zu PISA: https://lnkd.in/eNc6y8jC Open Source Softwarepaket SCAN: https://lnkd.in/eCdak3Db Ein großes DANKE geht an unsere DLR-Forschungspartner: DLR Institute of Software Technology, DLR-Institut für Aerodynamik und Strömungstechnik, DLR-Institut für Materialphysik im Weltraum und DLR-Institut für Raumfahrtantriebe für den erfolgreichen Projektabschluss von PISA! #DLR #KI #AI #reservoirComputing #physicsAwareAI

// Zukunft der Mobilität und KI-Sicherheit: Oberbürgermeister Martin Ansbacher und Ulmer Gemeinderat zu Gast beim DLR // Diese Woche besuchte Oberbürgermeister #MartinAnsbacher gemeinsam mit dem Ulmer Gemeinderat den DLR-Standort in Ulm. Im Fokus: Sicherheit von Künstlicher Intelligenz (KI) und Quantentechnologien. Das DLR Institut für KI-Sicherheit zeigte anhand eines Demonstrators, wie KI unsere Mobilität sicherer und effizienter machen kann – und warum Ulm ein Schlüsselstandort für das DLR ist. Der Standort Ulm im Rampenlicht Ulm ist mehr als nur ein geografischer Punkt auf der Landkarte des Deutschen Zentrums für Luft- und Raumfahrt (DLR). Laut Frank Köster, DLR Institut für KI-Sicherheit, ist Ulm ein essenzieller Standort für wegweisende Forschung zu KI-Sicherheit, insbesondere im Zusammenwirken mit den Quantentechnologien. KI gegen Datenmanipulation: Sicherheit im vernetzten Verkehr Ein Highlight des Besuchsprogramms war der Demonstrator von Tarek Stolz. Er zeigte, wie verteilte #Datenräume Manipulationen im vernetzten Straßenverkehr abwehren können. Durch sogenannte Data Poisoning-Angriffe können manipulierte Daten die Steuerung automatisierter Fahrzeuge gefährlich beeinflussen – etwa durch manipulierte Verkehrsschilder. Der Demonstrator machte klar: Eine dezentrale Speicherung und der Live-Abgleich von Daten können solche Angriffe abwehren, indem manipulierte Daten frühzeitig erkannt und entfernt werden. Diese Technologie ist ein entscheidender Baustein für die sichere und zuverlässige Mobilität der Zukunft.   Globale Skalierbarkeit: KI-basierte Straßenschadenerkennung mit Base-X Maximilian Stäbler demonstrierte, wie KI-Algorithmen Straßenschäden analysieren und weltweit einsetzbar sind – ein Forschungsergebnis aus dem Projekt #BaseX aus der #GaiaX4FutureMobility Familie. Base-X beseitigt Datensilos und schafft so eine vertrauenswürdige und interoperable Infrastruktur für den sicheren und nachhaltigen Datenaustausch – eine Grundlage für die Mobilität der Zukunft. Ein anschauliches Beispiel: Ein in Hamburg entwickelter Algorithmus zur Analyse von Straßenschäden kann mühelos in Ulm angewendet werden – und umgekehrt. Kommunen profitieren so von erprobten Technologien, die effizient geteilt und genutzt werden können. Der Besuch zeigte, wie praxisnahe Forschung aus Ulm nicht nur regional, sondern auch global neue Standards für KI-Sicherheit setzt. #DLR #KI #AI #KISicherheit #Digitalisierung #Datenaustausch #Ulm

//Wenn Autos und Raumschiffe die gleiche Sprache sprechen//   Das DLR Institut für KI-Sicherheit intensiviert die Zusammenarbeit mit japanischen Partnern im Bereich der KI-Sicherheit. Bei einem mehrtägigen Austausch in Tokyo standen insbesondere die Absicherung von KI in sicherheitskritischen Szenarien und der Technologietransfer im Fokus. Die Sicherheit von KI-Systemen kennt keine Grenzen – weder geografische noch domänenspezifische. Dies wurde bei einem intensiven Workshop zwischen dem DLR Institut für KI-Sicherheit und der Research Unit III der japanischen Raumfahrtagentur JAXA: Japan Aerospace Exploration Agency deutlich. Im Mittelpunkt stand die Frage, wie KI-Systeme in sicherheitskritischen Szenarien zuverlässig und vertrauenswürdig gestaltet werden können. Besonders spannend: Die Erkenntnisse aus der Mobilitätsforschung lassen sich gewinnbringend auf die Herausforderungen in der Luft- und Raumfahrt übertragen. Ob autonomes Fahrzeug oder Raumfahrtsystem – die grundlegenden Anforderungen an Sicherheit und Zuverlässigkeit sind erstaunlich ähnlich. Diese Synergiepotenziale wurden in zahlreichen fachlichen Diskussionen ausgelotet und werden in zukünftige Forschungsvorhaben einfließen. Ein weiterer Schwerpunkt lag auf der Frage, wie Innovationen im Bereich der KI-Sicherheit effektiv in die praktische Anwendung überführt werden können. Hierzu gab es einen intensiven Austausch mit dem Start-up-Inkubator DEEPCORE sowie einen Besuch im Hauptquartier von Woven by Toyota. Diese Einblicke in das japanische Innovationsökosystem liefern wertvolle Impulse für die Gestaltung von Technologietransfer-Prozessen. Den Abschluss bildete eine Konferenz an der Universität Tokyo (Department of Aeronautics and Astronautics),welche gemeinsam mit JAXA organisiert wurde. Dr. Arne Peter Raulf referierte zum Thema "Safety and Security Features of Autonomous AI Systems". Hier wurde besonders deutlich, wie wichtig der domänenübergreifende Ansatz bei der Entwicklung sicherer KI-Systeme ist: Die Methoden und Technologien, die wir für autonome Systeme im Straßenverkehr entwickeln, können auch die Sicherheit von KI-Anwendungen in der Luft- und Raumfahrt erhöhen. Erfahren Sie mehr über unsere Forschung zur sicheren und vertrauenswürdigen KI: https://lnkd.in/dUGVF5KC Sie möchten Teil unseres internationalen Forschungsnetzwerks werden? Wir freuen uns über Ihre Initiativbewerbung: https://lnkd.in/exdwTwZ5   #DLR #KI #AI #KISicherheit #AutonomeSystems #Innovation #Mobility #Space #JAXA #InternationalCollaboration #SafeAI #TrustedAI #Research

//100 Jahre Quantenmechanik: Die Revolution geht weiter!// 2025 steht ganz im Zeichen der Quantenwissenschaft und -technologie. In Deutschland wird heute (14.01.2025) das International Year of Quantum Science and Technology (IYQ) in Berlin von der Deutsche Physikalische Gesellschaft e. V. (DPG) eröffnet. Weltweit gibt es das ganze Jahr über Aktivitäten und Events. Ein Jahrhundert nach der bahnbrechenden Formulierung der Quantenmechanik stehen wir an der Schwelle zu einer neuen Ära: Quantentechnologien und künstliche Intelligenz verschmelzen zu leistungsfähigen Systemen, die unsere technologische Zukunft prägen werden.   Das DLR Institut für KI-Sicherheit präsentiert innovative Wege, diese Zukunftstechnologie erlebbar zu machen. Unser Quantum Arcade Demonstrator ist dabei das perfekte Beispiel: Hier wird hochkomplexe Technologie spielerisch erlebbar. Besucherinnen und Besucher können in einem klassischen Arcade-Setup gegen zwei verschiedene Gegner antreten – eine konventionelle KI und eine Quantum-Version. Diese einzigartige Installation veranschaulicht die praktischen Unterschiede zwischen klassischen und quantenbasierten KI-Modellen auf interaktive Weise. Mit unserer Arcade und unseren Forschungsergebnissen beteiligen wir uns an verschiedenen IYQ-Events in Ulm und auch an anderen Standorten im Verlauf des Jahres. Für den Herbst 2025 planen wir eine öffentliche Präsentation unserer aktuellen Forschungsergebnisse im Bereich Quantentechnologie. Besonders stolz sind wir auf unser Engagement in der Nachwuchsförderung: Am Girls‘Day 2025 werden wir zusammen mit dem DLR Institute of Quantum Technologies junge Frauen für das Quantum Machine Learning begeistern. Unsere Forschungsaktivitäten im Bereich des quantenmaschinellen Lernens sind vielfältig. In Projekten wie ELEVATE, QuTeNet und Quant2AI arbeiten wir an der Schnittstelle von Quantencomputing und künstlicher Intelligenz. Dabei entwickeln wir nicht nur neue Technologien, sondern setzen auch Maßstäbe für deren sichere und zuverlässige Implementierung.   Entdecken Sie unsere Projekte im Bereich quantenmaschinelles Lernen: www.dlr.de/ki/elevate www.dlr.de/ki/qutenet www.dlr.de/ki/quant2ai    #Quantum2025 #QuantumComputing #KI #ArtificialIntelligence #DLR #Innovation #QuantumAI #Zukunftstechnologie #Forschung #GirlsDay2025 #MINT #KISicherheit

//Willkommen in der Zukunft: Unsere neuen KI-Kollegen zeigen den Weg// Am DLR Institut für KI-Sicherheit in Sankt Augustin wird die Zukunft der Mensch-KI-Interaktion bereits heute Realität: Ein selbstfahrender Telepräsenzroboter empfängt ab sofort Besucher und begleitet sie sicher durch die Flure. Die Innovation ist Teil des wegweisenden Forschungsprojekts "AI in the Loop", das unsere Kollegen Yannick Kees und Ryan Mut gemeinsam mit der IAV und der Hochschule Mittweida durchführen. Die Integration von KI-Systemen in den Alltag wirft viele Fragen auf: Wie können wir die Sicherheit und Zuverlässigkeit gewährleisten? Wie lassen sich KI-Anwendungen im laufenden Betrieb optimieren? Und vor allem: Wie gestalten wir die Interaktion zwischen Menschen und künstlicher Intelligenz intuitiv und vertrauenswürdig? Unser neuer "Kollege" am Empfang liefert wichtige Antworten. Ausgestattet mit modernster KI-Technologie, navigiert der Telepräsenzroboter autonom durch die Institutsflure. Über einen benutzerfreundlichen Touchscreen wählen Besucher ihre Kontaktperson aus – der Rest geschieht automatisch: Der Roboter berechnet die optimale Route und begleitet die Gäste sicher zu ihrem Ziel. Was auf den ersten Blick wie ein innovativer Concierge-Service erscheint, ist in Wirklichkeit ein hochkomplexes Forschungslabor für die Mensch-KI-Interaktion. Im Rahmen von "AI in the Loop" entwickeln wir gemeinsam mit unseren Partnern eine zukunftsweisende Toolkette, die es ermöglicht, KI-Algorithmen direkt in realen Umgebungen zu trainieren und zu optimieren. Anders als bei konventionellen Verfahren, bei denen KI-Systeme in isolierten Umgebungen mit vordefinierten Datensätzen trainiert werden, erfolgt hier das Training im echten Einsatz – eine Innovation, die besonders für physische Mensch-Maschine-Interaktionen neue Maßstäbe setzt. Dieser praxisnahe Ansatz ermöglicht es uns, die KI-Systeme kontinuierlich zu verbessern und an die realen Bedürfnisse anzupassen. Die gewonnenen Erkenntnisse fließen direkt in die Weiterentwicklung sicherheitskritischer KI-Anwendungen ein – ein wichtiger Schritt auf dem Weg zu einer vertrauenswürdigen und menschenzentrierten künstlichen Intelligenz. Erfahren Sie mehr über unsere Forschung zur sicheren Mensch-KI-Interaktion: www.dlr.de/ki #DLR #KI #AI #AIintheLoop #HumanAIInteraction #KISicherheit #DigitaleTransformation

//Quantencomputing zum Anfassen: Design trifft Wissenschaft// Quantencomputing ist ein abstraktes Konzept, das sich schwer greifen lässt. Das DLR Institut für KI-Sicherheit bringt daher Wissenschaft und Design zusammen. Hier setzt unser innovatives internationales Kooperationsprojekt „How to show off quantum computing?“ an: Studierende der Köln International School of Design und Parsons School of Design - The New School entwickeln für das Institut interaktive Installationen, die Quantencomputing erlebbar machen. Diese Kooperation ist mehr als nur ein Projekt, sie ist Teil unserer Vision für das Jahr der Quantentechnologie 2025. Wir wollen gemeinsam Technologie erlebbar machen und Begeisterung für wissenschaftliche Innovation wecken. Unser Ziel: Innovative Wissenschaftskommunikation, die die Brücke zwischen hochkomplexer Quantenphysik und breiter Öffentlichkeit schlägt. 30 Studierende übersetzen wissenschaftliche Konzepte in Installationen und gingen der Frage nach, wie künstlerische und interaktive Ansätze die abstrakten Konzepte des Quantencomputings einem größeren Publikum vermitteln können. Unter der Leitung von Prof. Nina Juric und Prof. Dr. Lasse Scherffig und mit fachkundigen Unterstützung seitens des DLR Instituts haben sie daran gearbeitet, Quantencomputing in Material und haptische Objekte zu übersetzen. Die besten Arbeiten wurden prämiert: Die interaktive Installationen sollen Quantencomputing kommunizieren und erfahrbar machen. Die Jury hatte es nicht leicht – fünf großartige Beiträge standen zur Auswahl. Das Projekt “Quantum Abacus” von Milan Elsen, Cora Kindermann, Ashley Lee, Sofia Pristash, Sirui Liao und Zhuoyu Zhang setzte sich durch. Das Gewinnerprojekt „Quantum Abacus“ beeindruckt mit einer mechanischen Visualisierung der probabilistischen Natur der Quantenberechnung – ein herausragendes Beispiel, wie Design Wissenschaft erlebbar macht. Dank geht an das Projektteam Nina Juric, Lasse Scherffig and Julius Walsch (Köln International School of Design, TH Köln) sowie Sven Travis, Michie Pagulayan und Brad MacDonald (Parsons School of Design, New York) sowie Anja Groten vom Sandberg Institute in Amsterdam und Augustina Woodgate für Ihre Unterstützung.   Mehr Informationen über das Projekt: https://lnkd.in/db-ni2SR Gewinnerprojekt: https://lnkd.in/eQ-3YUjR, https://lnkd.in/eEGkC383 Mehr über unsere Arbeit an der Schnittstelle von KI, Quantencomputing und Innovation erfahren Sie unter: https://lnkd.in/ekpmjEQk   #DLR #KI #QuantenComputing #Design #Innovation #WissenschaftVermitteln #Zukunftstechnologie #KreativeWissenschaft

//Neues Jahr, neue Herausforderungen – und jede Menge Chancen!// Ebenso wie Künstliche Intelligenz (KI) große Veränderungen in der Berufswelt stimuliert, verändert sie auch unseren weiteren Alltag. Die Geschwindigkeit mit der dies passiert, wird sich auch in Zukunft nicht verringern. Eine Sache bleibt für uns im DLR Institut für KI-Sicherheit allerdings immer unverändert: unser Engagement für sichere, zuverlässige und innovative KI-Lösungen in ambitionierten Anwendungen. Auch 2025 arbeiten wir an der Weiterentwicklung von KI und KI-basierten Lösungen, die nicht nur leistungsfähig sind, sondern vor allem auch vertrauenswürdig und sicher. Warum das wichtig ist? KI nicht mehr nur ein Zukunftsthema – sie ist heute in vielen Lebensbereichen unverzichtbar. Von der generellen Mobilität bis hin zu intelligenten Lösungen für die Lieferung von Gütern an die Haustür und die Gewährleistung von Cybersicherheit: Unsere Arbeit trägt dazu bei, dass KI bzw. KI-basierte Lösungen sicher, robust, vertrauenswürdig und normgerecht umgesetzt werden können. Unser Ziel: Wir entwickeln KI für komplexe Szenarien, in denen Vertrauen, Sicherheit und Resilienz entscheidend sind – insbesondere auf der Straße, auf der Schiene oder in weiteren verkehrlichen Anwendungen. Dabei betrachten wir KI immer aus einer ganzheitlichen Perspektive: von der Algorithmenentwicklung über sichere Dateninfrastrukturen bis hin zur Integrationsfähigkeit in komplexe Systemumgebungen. 2025 im Fokus: ➡️ Sichere und normgerechte KI: Wie können wir KI-Systeme noch zuverlässiger und sicherer machen? ➡️ Cybersicherheit in Daten- und Dienste-Ökosystemen: Wie schützen wir sensible Daten und schaffen Vertrauen in verteilte Systeme? ➡️ Automatisierung in Mobilität und Logistik: Wie gestalten wir die Mobilität von morgen sicher, effizient und nachhaltig? Ein Blick in die Zukunft Wir wissen, dass echte Innovation nur durch interdisziplinäre Zusammenarbeit entstehen kann. Deshalb vereinen wir Expertise aus den DLR-Bereichen und setzen auf Synergien zwischen Wissenschaft, Industrie und Gesellschaft. Bis zum nächsten Post wünschen wir allen ein Frohes Fest und einen guten Übergang ins neue Jahr! #DLR #KI #AI #KIZukunft #Innovationen2025 #TechnologieGestalten #DLRForschung