Fraunhofer IAIS

💬 🗝️ Europäisch. Multilingual. Open Source.   Das ist »Teuken-7B-instruct« – das KI-Sprachmodell des Forschungsprojekts OpenGPT-X     Das im Projekt #OpenGPTX entwickelte KI-Sprachmodell Teuken-7B-instruct steht ab sofort kostenfrei auf Hugging Face zum Download bereit. Unternehmen und Wissenschaft können das Open-Source-Modell für ihre KI-Anwendungen anpassen und nutzen. Das #LLM wurde durch ein »Instruction Tuning« bereits für Chat-Anwendungen vorkonfiguriert. 𝗗𝗮𝘀 𝘀𝗶𝗻𝗱 𝗱𝗶𝗲 𝗛𝗶𝗴𝗵𝗹𝗶𝗴𝗵𝘁𝘀: Teuken-7B ist aktuell eines von wenigen KI-Sprachmodellen, das von Grund auf multilingual trainiert wurde und Open Source unter der sehr umfassenden Lizenz Apache 2.0 zur Verfügung steht. Ein eigens entwickelter »Tokenizer« macht das Modell besonders effizient bei multilingualen Anwendungen. 𝗪𝗮𝗿𝘂𝗺 𝗱𝗮𝘀 𝘄𝗶𝗰𝗵𝘁𝗶𝗴 𝗶𝘀𝘁: Forschung und Unternehmen in Europa und darüber hinaus erhalten eine aus der Wissenschaft stammende Open-Source-Alternative, mit der sie datenschutzkonform ihre GenAI-Vorhaben umsetzen können – auch in vielsprachigen, internationalen Kontexten und spezialisierten Anwendungen. Technische Infos zum Modell und zur Anwendung stehen in unserer Model Card ➡️ https://lnkd.in/ep5zFWaP Evaluierungsergebnisse sind über unser European LLM Leaderboard verfügbar ➡️ https://lnkd.in/exzUBvxf Eine grafische Aufbereitung der Benchmarks gibt es auf unserer Website  ➡️ https://lnkd.in/e-D2DJyQ Eine ausführliche Besprechung des Modells gibt es auf der Projektwebsite ➡️ https://lnkd.in/ekpnPVKm 🗣️ Wir sind uns sicher: Kollaboration in Verbindung mit Open-Source-Modellen ist wichtig für die digitale Souveränität in Europa! Lasst uns #Teuken miteinander diskutieren und weiterentwickeln, um das Modell noch besser und leistungsfähiger zu machen. Hierfür beantworten wir Fragen der Wissenschaftscommunity und bieten Raum für Feedback und Austausch über den OpenGPT-X-Discord-Server. ➡️ https://lnkd.in/eYMyQfYD Speziell für Unternehmen besteht demnächst die Möglichkeit, an kostenfreien Demoterminen teilzunehmen. Zur Anmeldung: https://lnkd.in/e78C7Sqg Das Projekt wurde vom Bundesministerium für Wirtschaft und Klimaschutz gefördert. Vielen Dank an unser Partnerinstitut Fraunhofer IIS sowie an alle Partner von OpenGPT-X und ihre Teams: KI Bundesverband | Aleph Alpha | ControlExpert GmbH | Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI) | IONOS | Forschungszentrum Jülich | WDR | Technische Universität Dresden  Ein besonderer Dank für das Modelltraining geht an die Teams von Mehdi Ali, Michael Fromm, Nicolas Flores-Herr, René Jäkel, Stefan Kesselheim, Georg Rehm

Teuken-7B-instruct – 𝗟𝗲𝘁'𝘀 𝗱𝗶𝘃𝗲 𝗱𝗲𝗲𝗽𝗲𝗿! 🕵️ Vielen Dank für das zahlreiche positive und konstruktive Feedback! Viele sind bereits dabei, #Teuken zu testen, mit uns weiterzuentwickeln und einzusetzen. Lasst uns heute im Detail schauen, was das Modell besonders macht: ⤵️   🇪🇺  01_𝗧𝗲𝘂𝗸𝗲𝗻 𝗶𝘀𝘁 𝘃𝗼𝗻 𝗚𝗿𝘂𝗻𝗱 𝗮𝘂𝗳 𝗺𝘂𝗹𝘁𝗶𝗹𝗶𝗻𝗴𝘂𝗮𝗹 𝘁𝗿𝗮𝗶𝗻𝗶𝗲𝗿𝘁. Teuken wurde mit einem hohen Anteil an nicht-englischen Daten trainiert, um die Leistung in den europäischen Sprachen zu stärken. Die Sprachverteilung zeigt: Teuken-7B enthält ca. 50 % nicht-englischen Text aus 23 europäischen Ländern und nur ca. 40 % englische Pretraining-Daten (ca. 10 % sind Code). Zum Vergleich: Meta Llama3 wurde nur mit 8 % nicht-englischen Sprachen trainiert. Damit unterscheidet sich Teuken-7B von den meisten bisher verfügbaren mehrsprachigen Modellen, die erst im Zuge eines fortgeführten Pretrainings oder Finetunings um mehrsprachige Daten erweitert wurden. 📊 02_𝗧𝗲𝘂𝗸𝗲𝗻 𝗸𝗮𝗻𝗻 𝗺𝗶𝘁𝗵𝗮𝗹𝘁𝗲𝗻. Das Diagramm zu den Vergleichsmodellen zeigt die Leistung von Teuken-7B in den multilingualen Benchmarks ARC-, HellaSwag- und TruthfulQA im Vergleich zu anderen Open-Source-Modellen ähnlicher Größe. Bei dieser Auswahl von Benchmarks liegt Teuken-7B im Durchschnitt vor allen anderen Modellen. Bei den einzelnen Benchmarks ARC und HellaSwag liegt Teuken an zweiter Stelle hinter Salamandra-7b-instruct, und bei TruthfulQA an zweiter Stelle hinter Mistral-7B-Instruct-v0.3.  📈 03_𝗧𝗲𝘂𝗸𝗲𝗻 𝗵𝗮𝘁 𝗲𝗶𝗻𝗲𝗻 𝗲𝗳𝗳𝗶𝘇𝗶𝗲𝗻𝘁𝗲𝗻 𝗧𝗼𝗸𝗲𝗻𝗶𝘇𝗲𝗿. Das Diagramm zeigt die zusätzliche Rechenleistung, die erforderlich ist, um einen nicht-englischen Text mit dem zu dem Sprachmodell zugehörigen Tokenizer zu verarbeiten (in % im Vergleich zu Llama 3). Teuken-Modelle benötigen im Vergleich die geringste Menge an zusätzlicher Rechenleistung und verursachen somit den geringsten Aufpreis für multilinguale Anfragen an das Modell.  Und natürlich: Teuken ist #OpenSource! Eine Alternative aus Europa – vertrauenswürdig und frei für alle. 🎧 Podcast-Tipp: Mehdi Ali und Michael Fromm sprechen im »Knowledge Science«-Podcast über das Training großer multilingualer Sprachmodelle in Projekten wie #OpenGPTX und EuroLingua-GPT. Eine exklusive Folge zu Teuken ist in Arbeit. Stay tuned! ➡️ https://lnkd.in/e7d-EWMw 💬 Mit den Wissenschaftlerinnen und Wissenschaftlern diskutieren: https://lnkd.in/eYMyQfYD 🔎 Eine ausführliche Besprechung des Modells gibt es hier: https://lnkd.in/ekpnPVKm 🏢 Das Modell für die eigene Unternehmensanwendung anpassen: Jetzt für einen Demotermin mit den Expertinnen und Experten vormerken lassen: https://lnkd.in/e78C7Sqg

Wenn es um Künstliche Intelligenz geht, stehen auffällig häufig statt der vielfältigen positiven Möglichkeiten Worst-Case-Szenarien im Fokus. Bei all den berechtigten Sorgen angesichts der Risiken – für mich persönlich überwiegen die Chancen. Daher freut es mich besonders, dass gestern Abend der Senat der Fraunhofer-Gesellschaft zu einer fachlichen Austauschveranstaltung zum Thema Künstliche Intelligenz zusammengekommen ist. Es gibt kaum ein Fraunhofer-Institut, das nicht längst am branchenübergreifenden, praktischen Einsatz oder an der Weiterentwicklung der technologischen Grundlagen arbeitet, beispielsweise um ◻️ Roboter lernfähiger und sicherer für die Zusammenarbeit mit Menschen zu machen; ◻️ Produktionsprozesse zu digitalisieren, die Produktqualität zu verbessern und Ausschussraten zu verringern; ◻️ die Effizienz von Wirtschaftsprüfungsprozessen massiv zu steigern; ◻️ Logistiknetzwerke zu optimieren; ◻️ Lebensmittel sicherer zu machen und Verschwendung vorzubeugen; ◻️ beim hochgenauen Sortieren von Abfällen und Recycling zu helfen und damit den Hochlauf der Kreislaufwirtschaft zu unterstützen. Darüber hinaus treibt Fraunhofer die Entwicklung großer, souveräner, anwendungsorientierter KI-Modelle über die OpenGPT-X und EuroLingua-Projekte voran. Die große Frage, die es zu beantworten gilt, ist, wie wir KI möglichst schnell in die breite industrielle Anwendung bringen und damit auch, wie wir unsere Unternehmen, unseren Mittelstand, dazu befähigen an diesem Markt teilzunehmen. Denn darin liegt eine große Chance, um unseren Wirtschaftsstandort zukunftsfest aufzustellen. Mit ihrer Mission, gemeinsam mit Unternehmen Innovationen zur Stärkung der deutschen und europäischen Wirtschaft zu entwickeln, kommt der Fraunhofer-Gesellschaft eine besondere Rolle zu.   Deutschland hat gute Voraussetzungen, um ein wettbewerbsfähiges und souveränes KI-Ökosystem aufzubauen: ein exzellentes Forschungssystem, eine zukunftsorientierte Industrielandschaft und einen starken Mittelstand, Weltklasse Hochleistungsrechenzentren sowie einen Industriedatenschatz von unschätzbarem Wert. Wir brauchen den Mut, in Innovationen zu investieren, die unser eigenes KI-Ökosystem wettbewerbsfähig machen. Nur so können wir unsere Unternehmen ertüchtigen, Geschäftsmodelle mit internationaler Strahlkraft zu entwickeln, und unser europäisches Wertesystem als Standard etablieren. Nur mit einem konzertierten Handeln zwischen Forschung, Wirtschaft und Politik können wir alle Maßnahmen miteinander kombinieren und die Innovationspotentiale heben, um Deutschland und Europa nachhaltig zu stärken – die Fraunhofer-Gesellschaft steht bereit ihren Beitrag zu leisten. Vielen Dank an unsere Senatsvorsitzende Hildegard Müller sowie alle Senatorinnen und Senatoren für die offenen und konstruktiven Gespräche sowie Prof. Dr. Veronika Grimm, Prof. Dr. Jürgen Beyerer und Prof. Dr. Stefan Wrobel für ihre spannenden fachlichen Impulse!

👩💻 Braucht Ihr Unternehmen wirklich ein Large Language Modell? 💭 Dieser Frage ist Jannis Spiekermann, Machine Learning Engineer am Fraunhofer IAIS, im jüngsten ML-Blog des Lamarr-Instituts nachgegangen. Darin gibt er einen Überblick über die Pros und Contras, die #LLM im Vergleich zu anderen #ML-Methoden mit sich bringen und gibt Beispiele für KI-Lösungen, die konkrete Bedürfnisse von Unternehmen bedienen. Zwar sind LLMs leistungsstark, bringen jedoch auch Herausforderungen wie hohe Kosten und eine komplizierte Implementierung mit sich. In diesem Artikel erfahren Sie, ob sich der Einsatz eines LLM für Sie tatsächlich lohnt oder ob traditionelle ML-Methoden die Aufgabe effizienter und schneller bewältigen können. 🔎 Finden Sie heraus, welche KI-Lösung am besten zu Ihrem Unternehmen passt, und laden Sie den kostenlosen Leitfaden zur KI-Bedarfsanalyse herunter, um Ihren Entscheidungsprozess zu vereinfachen. 📖👉 Den kompletten Text finden Sie hier: https://lnkd.in/ebSbdiVT #LargeLanguageModel | #NLP | #AIForBusiness

In den nächsten zwei Tagen stehen mein Kollege Lennard H. und ich am Zertifizierte-KI/KI.NRW -Stand für Vertrauenswürdige KI auf der KI Navigator Community Messe in Nürnberg. Wir freuen uns auf zwei interessante Tage und laden herzlich zu unserem Vortrag "Auf dem Weg zur vertrauenswürdigen KI" ein, heute um 14:00 Uhr im Raum "St. Petersburg".

🎄 Das will man in der Vorweihnachtszeit als Händler wirklich nicht hören. 🗣️🚫   Ob es nun Dominosteine, Spekulatius oder das dringend benötigte Spielzeug als Weihnachtsgeschenk für die Tochter ist: Out-of-Stock ist immer ein Problem. Es treibt Kund*innen nicht nur in den Wahnsinn – sondern auch in die Arme der Händler, die einen besseren Weg gefunden haben, ihre zentral gelagerten Produkte auf ihre Filialen und den Online-Shop zu verteilen, sodass sie an den Stellen zu finden sind, wo der Bedarf entsteht. 📊 Im Durchschnitt macht das Weihnachtsgeschäft im Einzelhandel ca. 20% des Jahresumsatzes aus. Gleichzeitig kämpften im letzten Dezember rund 60% der Händler mit Lieferengpässen und über 90% berichteten von fehlender Ware am Point of Sale (POS). 💡 Unsere intelligente Allokationslösung RetAIl Allocator reduziert Lagerbestände, maximiert die Verfügbarkeit am #POS, verringert Out-of-Stock-Situationen, verhindert #LostSales und steigert den Umsatz. Diese Lösung nutzt maschinelles Lernen und historische Verkaufsdaten, um Allokationsentscheidungen zu automatisieren und zu optimieren – ein entscheidender Faktor für bessere Verfügbarkeit von Dominostein bis Weihnachtsgeschenk. 🎥➡️ Hierzu, und zu weiteren KI-Lösungen für den Handel, haben wir diverse Videos aufgenommen, die wir Ihnen auf science4retail.de vorstellen möchten. #Retail | #OutOfStock | OPCORE Partners AG | Tim Wirtz

👨🏫 KI-Kompetenzen an Schulen stärken mit dem eCourse »KI verstehen« von Klett 🎓👩💻   Der Ernst Klett Verlag, das Fraunhofer IAIS und das Lamarr-Institut haben gemeinsam den fächerübergreifenden eCourse »KI verstehen« entworfen, um Kindern und Jugendlichen eine fundierte Einschätzung der Chancen und Risiken von KI zu ermöglichen. Der Kurs vermittelt wissenschaftliche Grundlagen sowie Anwendungsbereiche der #KI und bietet eine benutzerfreundliche Plattform für Experimente im Bereich maschinelles Lernen und Programmierung. Schüler*innen der Klassen 7 bis 10 aller Schulformen sollen durch den Kurs frühzeitig für #KünstlicheIntelligenz begeistert werden. Das modular aufgebaute Unterrichtsmaterial gibt ihnen dabei das notwendige Wissen an die Hand, um KI als Werkzeug in der Schule und später im Berufsleben sinnvoll einzusetzen. Das Lernmaterial wurde in Zusammenarbeit mit einem interdisziplinären Autorenteam des Klett Verlags, sowie KI-Expert*innen des Fraunhofer IAIS und des Lamarr-Instituts für Maschinelles Lernen und Künstliche Intelligenz entwickelt. 💬 Dazu Dr. Georg Fuchs, Geschäftsfeldleiter Big Data Analytics & Intelligence, Fraunhofer IAIS: »KI-Anwendungen durchdringen mittlerweile unseren Alltag im Privat- und Berufsleben, und spätestens mit den aktuellen Werkzeugen der Generativen KI wie ChatGPT & Co gilt das auch für das Leben und die Unterrichtsrealität von Schülerinnen und Schülern. Der kompetente Umgang mit diesen Werkzeugen, ihren Chancen und Risiken wird in seiner Bedeutung zukünftig noch zunehmen. Wesentliche Grundlage für den Aufbau entsprechender Kompetenzen ist das Verständnis der methodischen Grundlagen. Der eCourse KI verstehen vermittelt diese Grundlagen und bietet gleichzeitig praktische Einblicke in alltagsrelevante KI-Anwendungen mit ihren Möglichkeiten und Beschränkungen.« ℹ️ Ob Prompt-Labor oder #Programmieren mithilfe von Scratch: das Kursmaterial umfasst Grundlagen ebenso wie praxisnahe Anwendungen und wird kontinuierlich aktualisiert. Einen ersten Einblick in den bis März 2025 kostenfreien #eCourse erhalten Sie hier: https://lnkd.in/eFVmSX5j

🔊 ⚕️ Einblick in die transformative Rolle von KI-Sprachassistenten in der Medizin auf der KI-Biennale in Essen Moderne Krankenhäuser kämpfen mit Herausforderungen wie Fachkräftemangel, Bürokratie und Kostendruck. KI-basierte Sprachassistenten könnten der Schlüssel sein, um Prozesse effizienter zu gestalten und Abläufe zu optimieren – immer mit Blick auf die Bedürfnisse von Patient*innen und Mitarbeitenden. 🏥 👩⚕️ Im Rahmen der diesjährigen KI-Biennale gewährt Ulrike Stiefelhagen Voice User Interface Designerin am Fraunhofer IAIS, kommenden Freitag Einblick in die transformative Rolle von KI-Sprachassistenten in der medizinischen Kommunikation. In einem halbtägigen Workshop können KI-Enthusiasten, Klinikpersonal, Medizinstudierende sowie Unternehmer*innen mehr über die Einsatzmöglichkeiten und Potenziale von KI im Krankenhaus zu erfahren. Der Workshop aus dem KI.NRW Leuchtturmprojekt »SmartHospital.NRW« informiert u.a. über: ☑️ Erfolgreiche Use Cases und Business Cases ☑️ Herausforderungen bei der Einführung von KI-Assistenten ☑️ Integration und Nutzung von Krankenhausdaten 📅 22.11.2024 | 09:00 - 13:00 Uhr 📍 Digital Campus Zollverein e. V. | Gelsenkirchener Straße 181 | 45309 Essen ➡️ Hier geht es zur Anmeldung: https://lnkd.in/eYCENaGQ #SmartHospital | #NRWkannKI | Digital Campus Zollverein e.V.

Smartere Kommunen durch KI – effizient, innovativ, vertrauenswürdig 🌆 👩💻   Das ist das Ziel von URBAN.KI, der deutschen KI-Initiative für Kommunen. Bei der Fachtagung der Initiative am 22. November in Gelsenkirchen erhalten Teilnehmende Einblicke in innovative KI-Anwendungen, die speziell zur Förderung einer nachhaltigen und resilienten #Stadtentwicklung konzipiert werden. In praxisorientierten Vorträgen zeigen Expert*innen Projekte, die als Best Practices für Städte und Landkreise in ganz Deutschland dienen können. In Workshop-Sessions können Sie Ihre konkreten Fragen stellen und weitere Einblicke zu #KI in kommunalen Anwendungsfeldern erhalten. 🗣️ In einer Keynote stellen Dr. Tim Wirtz, Abteilungsleiter Enterprise Information Systems am Fraunhofer IAIS, und Jan Henrik Ziesing (Fraunhofer FOKUS) gemeinsam vor, wie #KünstlicheIntelligenz kommunale Prozesse unterstützen kann und welche Themen Kommunen akut beschäftigen. 💭 Die verschiedene Fokusthemen werden außerdem in Workshops bearbeitet. Dabei geht es vor allem um: ↪️ KI für Stadtplanung und (geo-) datenbasierte Infrastrukturen 🗺️ ↪️ KI für den Bevölkerungsschutz und die zivile Sicherheit 🛡️ ↪️ KI für Verwaltungsprozesse und Bürgerbeteiligung 👨👩👧👦 Seien Sie dabei: 📅 22. November 2024 | ab 08.30 Uhr 📍 Wissenschaftspark Gelsenkirchen | Munscheidstraße 14 | 45886 Gelsenkirchen ℹ️ Hier geht es zur Anmeldung für die Fachtagung: https://lnkd.in/eyR5uiVj #URBAN_KI