DLR Institut für KI-Sicherheit

// Base-X auf der IAA Transportation // Auf der internationalen Messe für Logistik, Nutzfahrzeuge und den Transportsektor zeigt das Deutsches Zentrum für Luft-und Raumfahrt e.V. vom 17. bis 22. September 2024 aktuelle Projekte und Prototypen aus seiner Verkehrsforschung. Zu sehen ist u.a. das futuristischen Fahrzeugkonzepts U-Shift in der Cargo-Variante, Einblicke in die funktionale Sicherheit von autonomen Fahrzeugen und #BaseX, das gemeinsame Ergebnis der Projektfamilie Gaia-X 4 Future Mobility #GX4FM, die vom DLR Institut für KI-Sicherheit koordiniert wird. Im Kontext der europäischen Initiative Gaia-X liefert GX4FM wissenschaftliche Grundlagen sowie zahlreiche praxisrelevante Anwendungen. Basierend auf Base-X hat sich eine Umsetzungsallianz gebildet, um die #OnDemandMobilität voranzutreiben, insbesondere der ländliche Raum soll profitieren. Außerdem gibt es bereits Kooperationen mit den Städten Hamburg und Daegu in Südkorea, die Base-X z.B. für ein verbessertes Kundenerlebnis im #intermodalenVerkehr nutzen oder den knappen innerstädtischen Raum durch ein innovatives Halstestellen-Management besser ausnutzen wollen. Auf der Messe konnten wir neue spannende Kontakte mit Interessenten aus diversen Branchen knüpfen – denn Base-X ist mehr als Verkehr und Logistik, das System trägt #branchenübergreifend zu einer leistungsfähigen, sicheren und vertrauenswürdigen #Dateninfrastruktur bei. Base-X ist ein fortschrittliches dezentrales #Datenintegrationssystem, das bestehende Daten- und Diensteinfrastrukturen nahtlos mit anderen offenen #Datenökosystemen verbindet. Dadurch werden der effiziente Austausch und die gemeinsame Nutzung von Daten erheblich erleichtert und die Abhängigkeit von großen privatwirtschaftlichen Cloud-Anbietern reduziert. Stattdessen können alle Nutzer #selbstbestimmt, #transparent, #sicher und grenzüberschreitend Daten- und auch Dienste anbieten und nutzen. Base-X unterstützt damit nicht nur die Industrie bei der Entwicklung #interoperabler und #skalierbarer Lösungen, sondern stärkt auch die Autonomie der Bürgerinnen und Bürger. Durch die Vernetzung über Ländergrenzen hinweg fördert Base-X #international die #Innovation. Base-X stellt einen entscheidenden Schritt in Richtung einer souveränen digitalen Zukunft dar. Besuchen Sie unseren DLR-Stand in Halle 13, E67 und lesen Sie mehr zu Base-X unter gaia-x4futuremobility.de #KI #Ai #DLR #Future Mobility #SmartCity #OpenData #GaiaX

//Data Poisoning: Angriffe erkennen und verhindern// Künstliche Intelligenz (KI) verarbeitet Bilder anders als wir Menschen. Während wir Muster und Zusammenhänge erkennen, sieht die KI nur einzelne Pixel. Wird ein Bild beispielsweise herunterskaliert, gehen die Informationen einiger Pixel verloren, während andere Pixel mehr Aufmerksamkeit erhalten. Dies kann von Angreifern ausgenutzt werden, um subtile Veränderungen an Bildern vorzunehmen, die so klein sind, dass wir sie nicht bemerken, die aber einen großen Einfluss auf die KI haben. Aus einem Stoppschild kann ein Vorfahrtsschild werden oder ein Objekt kann plötzlich in einem Bild auftauchen, das für das menschliche Auge völlig unsichtbar ist. Solche „Vergiftungsangriffe“ stellen eine erhebliche Gefahr für das maschinelle Lernen und die Datenverarbeitung dar und sind in vielen Fällen sehr schwer zu erkennen. Deshalb forschen Tarek Stolz und Aliza Reif am Institut für KI-Sicherheit an Methoden, um solche Angriffe zu erkennen und abzuschwächen. Ihr Ziel: KI-Systeme - etwa beim autonomen Fahren - sicherer zu machen, um solche Angriffe abzuwehren und die Sicherheit im Straßenverkehr zu erhöhen. #DLR #KI #AI #datapoisoning #safeAI #machinelearning

//Inspirierender Austausch beim Institutsworkshop des DLR Instituts für KI-Sicherheit// Eine direkte Interaktion und ein direkter fachlicher Austausch sind neben vielen inzwischen etablierten virtuellen Formaten zur Zusammenarbeit immer einmal unverzichtbar. Der Workshop des DLR Institut für KI-Sicherheit war ein gutes Beispiel hierfür. Den Auftakt bildete der Impulsvortrag von Prof. Martin Baumann (Universität Ulm), der die Herausforderungen der Mensch-KI-Interaktion beleuchtete und damit wichtige Diskussionen anregte. Ein weiterer Programmpunkt war die Vorstellung der über 40 aktuell laufenden Projekte des Instituts für KI-Sicherheit, die in anschaulichen und praxisnahen Präsentationen erläutert wurden. Hierdurch wurde unterstrichen, dass das Institut z.B. in hohem Maße an unmittelbar transferrelevanten KI-basierten und datenzentrierten Lösungen für sicherheitskritische Anwendungen arbeitet, die insbesondere eine hohe Bedeutung für die Transformation des Mobilitätssektors besitzen und auch andere Forschungsbereiche des DLR beflügeln. Das Grußwort von Prof. Dr. Meike Jipp, unserer Bereichsvorständin, akzentuierte u.a. die zukünftigen Aufgaben des Instituts im Bereich Autonomous Mobility and Logistics Facilitation. Im kreativen Teil des Workshops haben wir im Rahmen von "Time for Teamwork" gemeinsam eine Vision für das Institut für das Jahr 2035 entworfen und mit Lego und Pinsel visualisiert. Abgerundet wurde der Abend durch die musikalische Begleitung der Band Prof. Dr. Dr. Brinkmann – mit unserem Institutsleiter Prof. Frank Köster am Bass. Ein gelungener Workshop, der den Teamgeist, unsere gemeinsame Leistung und die Zukunftsausrichtung unseres Instituts in den Mittelpunkt rücken konnte.   #DLR #KI #AI #KISicherheit #MenschKIInteraktion #Innovation #Teamwork

🇪🇺 Today, the EU AI Act, the world’s first comprehensive framework for regulating AI, comes into force. This landmark legislation governs cross-sector AI use in the internal market, setting a global benchmark for AI use and protecting fundamental rights. As Europe's pioneering framework for innovative and safe AI, the act seeks to create a supportive environment for European SMEs and start-ups, enabling them to bring innovative AI solutions to the industry!

//KI und Simulation – Safety First!// Letzte Woche fand eine äußerst spannende Veranstaltung mit Experten der KI- und Automobilbranche beim ASCS e.V. - Automotive Solution Center for Simulation (ASCS) statt. Beim Panel „Game-Changer Simulation: KI und datengetriebene Simulation für ADAS & AD“ betonte Frank Köster vom DLR Institut für KI-Sicherheit, was während Entwicklung und Betrieb einer vertrauenswürdigen und sicheren KI zu gewährleisten ist: ein adäquater Schutz vor äußeren Angriffen (Security) und eine extrem hohe Betriebssicherheit (Safety). Dies betrifft eine KI als Teil einer Lösung, aber auch eine KI als Werkzeug bzw. Teil des Engineering-Teams selbst. Über die „Safety and Security by Design“-Philosophie werden beide Sicherheitsaspekte während des gesamten Lebenszyklus von KI-basierten Systemen durch die Ansätze des Instituts für KI-Sicherheit garantiert – gerade auch für hohe Automatisierungsgrade. Weitere wichtige Punkte: - Kontinuierliche kritische Reflexion der Sicherheit und Zuverlässigkeit ist unerlässlich. - KI ist die Super-Power in datenzentrierten Anwendungen. - Menschliche Aufsicht muss gewährleistet sein. Der DevOps-Ansatz, der im DLR umgesetzt wird, verbindet bruchlos die Entwicklung (Dev) und den Betrieb (Ops) einer KI-basierten Lösung und spielt zudem eine große Rolle bei der (Weiter-) Entwicklung von KI-Systemen. Jede Entwicklungsphase wird adäquat abgesichert, um Sicherheitsrisiken zuverlässig erkennen und handhaben zu können. Zusammen mit Johannes Betz von der Technische Universität München (Technical University of Munich), Bhasit khan von Automotive Artificial Intelligence (AAI) GmbH und Andreas Lauringer von Kontrol bot das Panel spannende Einblicke in die Integration von KI und Simulation aus verschiedenen Perspektiven. Zum Abschluss betonte Frank Köster die Notwendigkeit im Automotive-Umfeld datenbasiert zu kooperieren und kollaborieren. Daten- und Dienste-Ökosysteme aus Initiativen wie Catena-X und #GX4FM Gaia-X 4 Future Mobility (#BaseX) liefern hierzu wichtige Grundlagen und erste praxisrelevante Anwendungen. Die bereits etablierten ASAM e.V. - Association for Standardization of Automation and Measuring Systems Open-X-Standards sowie weitere ASAM-Standards, fördern zudem eine integrationsfähige Repräsentation der Daten. Eine sehr interessante Veranstaltung, die zeigte, dass Simulation als Game-Changer für die wirtschaftliche Entwicklung nur auf Basis einer sicheren und vertrauenswürdigen KI erfolgreich sein kann. #DLR, #AI, #KI, #digitalisation, #reliableAI, #KISicherheit

//NeMo.bil trifft Habeck// Selbstbewusst präsentierte sich vergangenen Freitag das NeMo.bil Shuttle (INYO Mobility GmbH) auf dem Paderborner Rathausplatz – zu den neugierigen Besuchern zählte im Rahmen seiner Sommerreise auch Bundeswirtschaftsminister Robert Habeck. Bei der Informationsveranstaltung wurde das BMWK-geförderte Projekt NeMo.bil vorgestellt, an dem auch das DLR Institut für KI-Sicherheit mitarbeitet, u.a. am Aufbau und der Skalierung von Mobilitätsinfrastrukturen als Marktgrundlage. Das anschließende Fachgespräch im Paderborner Rathaus thematisierte die besondere Notwendigkeit einer Mobilität im ländlichen Raum. Der schwarmbasierte NeMo.bil-Ansatz bringt vieles mit, um diese mit autonom und im Verbund fahrenden Personen-Shuttles zu revolutionieren. Im Mittelpunkt stehen dabei eine #OnDemandMobilität - also ein Angebot, das individuell und auf Abruf statt fix und nur per Fahrplan zur Verfügung steht - und die Überlegung, wie diese deutschlandweit angeboten werden kann. Herausforderungen, die sich nur über eine umfassende #Digitalisierung des #Mobilitätssystems lösen lassen. Hier schließt sich der Kreis zu weiteren Aktivitäten des DLR Instituts für KI-Sicherheit im Bereich der #DatenDiensteÖkosysteme. Insbesondere das Zusammenwirken mit #BaseX, dem zentralen Projektergebnis der Projektfamilie Gaia-X 4 Future Mobility ist hier relevant. Base-X ermöglicht die Verstetigung und macht NeMo.bil fit für die Praxis. Ihre Lösungsansätze für die #Transformation der öffentlichen Mobilität hat die Expertenrunde in einem Positionspapier zusammengefasst und an den Bundesminister übergeben. Geleitet wurde das Fachgespräch von Robert Habeck, es nahmen teil: Christoph Rüther (Landrat Landkreis Paderborn), Jonathan Behm (Neue Mobilität Paderborn e.V.), Frank Köster (Deutsches Zentrum für Luft-und Raumfahrt e.V.), Marcus Zwick (INYO Mobility GmbH, Konsortialführer NeMo.bil), Mario Nowack (Leipziger Verkehrsbetriebe, Projektleiter ABSOLUT), Michael Walther (Ministerium für Umwelt, Naturschutz und Verkehr NRW), Michael Dreier (Bürgermeister Stadt Paderborn), Norika Creuzmann (Landtagsabgeordnete NRW) und Dr. Stephan Melzer (msg global solutions). Die Fachbegleitung lag bei Ernst Stöckl-Pukall und Stefan Heidemann aus dem Bundesministerium für Wirtschaft und Klimaschutz (BMWK). Weitere Infos unter: nemo-bil.de DLR und Nemobil: https://lnkd.in/e3_Gi8pi #KI #AI #DLR #FutureMobility #GX4FM #SmartCity #OpenData #GaiaX

//Innovation & Produkthaftung für KI im Fokus// Das DLR Institut für KI-Sicherheit veranstaltet am 11. Juli 2024 in München gemeinsam mit der LMU München und der Robotics & AI Law Society eine Konferenz zu Fragen der Innovation und Produkthaftung. Die Konferenz wurde im Rahmen des institutseigenen ELSA-Projekts „Regulatory and Ethical Framework of AI (RefAI)“ in Zusammenarbeit mit der Ludwig-Maximilians-Universität München München und Robotics & AI Law Society - RAILS konzipiert, um die Forschung zum Produkthaftungsrecht zu fördern. Unter anderem werden praktische Fragen zur neuen europäischen Produkthaftungsrichtlinie behandelt. Insbesondere deren innovative Haftungskonzepte für Software und KI werden unmittelbare Auswirkungen auf die Anbieter von KI-Systemen haben. Dr. Thomas Krüger und Dr. Clemens Danda vom Institut für KI-Sicherheit (Deutsches Zentrum für Luft-und Raumfahrt e.V.) tragen mit Vorträgen zur Luftfahrthaftung und der Moderation der Diskussion zum Schweizer Produkthaftungsrecht zum Programm bei. Weitere Informationen: Konferenzprogramm: https://lnkd.in/dpfixHdy Anmeldung: https://lnkd.in/d2P_9whv   Institut für KI-Sicherheit: https://https://www.dlr.de/de/ki/   #dlr #ki #elsa #aiethics #responsibleAI #kisicherheit #produkthaftung

//Catena-X Konsortium hat sein Ziel erreicht// Das Projekt Catena-X ist eines der aktuell international wichtigen industriepolitischen Leuchtturmprojekte im Bereich der dezentral organisierten Daten- und Dienste-Ökosysteme. Unter der Förderung des Bundesministerium für Wirtschaft und Klimaschutz (BMWK) haben die knapp 30 Firmen des Catena-X Konsortiums drei Jahre lang eng an vorwettbewerblichen Themen zur Schaffung von IT-technischen Grundlagen für zukünftige Kooperation/Kollaboration zusammengearbeitet. Ziel war es, gemeinsam ein Daten- und Dienste-Ökosystem für die Lieferketten-Digitalisierung der Automobilindustrie zu schaffen. Zum Projektabschluss trafen sich über 320 Teilnehmende des Konsortiums mit Vertretern des BMWK sowie des Projektträgers VDI Technologiezentrum GmbH. Das DLR Institut für KI-Sicherheit und die BMW Group waren federführend bei der Organisation der Veranstaltung. Sie nahm die Teilnehmenden mit auf eine Reise durch die Errungenschaften von Catena-X der zurückliegenden 3 Jahre, visualisiert durch Live-Präsentationen zu den Themen Product Carbon Footprint , Wallet & Credential Issuance Flow, Battery Passport und diversen Resiliency Lösungen. Das Projekt Catena-X endet nun. Spannender als der Projektabschluss ist aber die Frage, wie es nun weitergeht mit den Ergebnissen aus Catena-X? Insbesondere war der Transfer von Projektergebnissen in die Praxis in Catena-X immer schon mitgedacht. Das Team Transfer & Communication hat seine Ergebnisse entsprechend an den Verein Catena-X e.V. übergeben. Prof. Frank Köster (DLR), Andreas Kottmann (BMW) und Georg Schnauffer (Arena 2036) überreichten die Team-Ergebnisse symbolisch in Form von 9 Geschenkpaketen. Die Betreibergesellschaft Cofinity-X, das BMWK vertreten durch Ernst Stöckl-Pukall und Dr. Jan Bornemeier vom VDI erhielten symbolische Staffelstäbe. Das gemeinsame Ziel wird es in Zukunft sein, Catena-X branchenübergreifend voranzutreiben, wie z.B. durch Initiativen wie Manufacturing-X und weitere Nachfolgeaktivitäten. Auch in diesen Aktivitäten ist das Institut für KI-Sicherheit mit seinen Kernkompetenzen beteiligt und bringt dabei auch seine Learnings und sein Know-how aus Catena-X mit ein.  Mehr Info unter https://lnkd.in/et_Jqrb7 #KI #AI #CatenaX #Digitalisierung #responsibleAI #DLR

Base-X - einfach erklärt im Film Wieder einmal liegt eine erlebnisreiche Hannover Messe hinter uns. Für alle, die keine Gelegenheit hatten, Gaia-X 4 Future Mobility auf der #HM24 zu besuchen: hier ein kompakter Einstieg in #BaseX, das zentrale und gemeinsame Ergebnis der Projektfamilie. Das DLR Institut für KI-Sicherheit bedankt sich sehr herzlich im Namen von #GX4FM bei allen Besuchern, den Teams aus den sechs GX4FM Projekten und nicht zu Letzt bei all denen, die unseren Messeauftritt im Hintergrund möglich gemacht haben: #GaiaX4AMS // Gaia-X 4 moveID // GAIA-X4PLC-AAD // #GaiaX4ROMS // #GaiaX4KI // #GaiaX4AGEDA // 3c Agentur // acatech – Deutsche Akademie der Technikwissenschaften // TÜV Rheinland Consulting // Bundesministerium für Wirtschaft und Klimaschutz // HANNOVER MESSE // Erim Giresunlu (3M2 FILM) Mehr Infos unter: base-x-ecosystem.com #DataSovereignty #FutureMobility #DLR #KI #AI #GaiaX

// Live von der Hannover Messe – #BaseX goes South Korea // Die DLR-Vorstandsvorsitzende Prof. Dr.-Ing. Anke Kaysser-Pyzalla und Prof. Dr.-Ing. Karsten Lemmer, DLR Vorstand Innovation & Transfer, empfingen zusammen mit Prof. Dr. Frank Köster, Gründungsdirektor DLR Institut für KI-Sicherheit, auf der Hannover Messe eine Wirtschaftsdelegation aus Daegu, Südkorea.   Im Kontext des Messeauftritts von Gaia-X 4 Future Mobility #GX4FM unterzeichneten das #DLR und die Gäste ein Memorandum of Understanding (MoU), das den Aufbau einer intensiven Zusammenarbeit vorsieht. Zusammen wollen die Beteiligten sichere #DatenDiensteÖkosysteme und datengetriebene #Mobilitätskonzepte entwickeln. Mit einem gemeinsam in Süd Korea umgesetzten #UseCase sollen weitere Schritte in Richtung einer internationalen und #anwendungsagnostischen #Dateninfrastruktur unternommen werden.   Das DLR Institut für KI-Sicherheit koordiniert die Projektfamilie Gaia-X 4 Future Mobility. Dabei setzt sich das Team intensiv für den #Wissenschaftstransfer sowie die #Verstetigung und #Internationalisierung der in der Projektfamilie entwickelten Lösung #BaseX ein, die bei der o. g. Zusammenarbeit zum Einsatz kommen soll.   Weitere Informationen zur Projektfamilie gaia-x4futuremobility.de Weitere Informationen zu Base-X base-x-ecosystem.com #DLR #KI #AI #GaiaX #DataSovereignty #FutureMobility #HM #Transfer