innFactory AI Consulting GmbH

Agil und kreativ: Wie KI-Tools die Produktentwicklung revolutionieren. Darüber hat Fabian Artmann mit Alexej Antropov in der 3. Podcastfolge „QUO VADIS KI“ gesprochen. Jetzt reinhören:

Kennt ihr schon Maximilian Weber? Nein? Dann solltet ihr euch unbedingt die ARD-Dokumentation ansehen, die gestern ausgestrahlt wurde. Sie zeigt eindrucksvoll, wie mithilfe moderner KI-Technologien ein virtueller Autokrat erschaffen wird und wie dieser funktioniert. Erschreckend ist, dass solche digitalen Persönlichkeiten in wenigen Monaten kaum noch von echten Menschen zu unterscheiden sein könnten. In der Dokumentation wagen sechs Experten ein einzigartiges Experiment: Sie nutzen Künstliche Intelligenz, um eine autokratische Führungspersönlichkeit für Deutschland zu erschaffen. Der Film verdeutlicht, welche Gefahren drohen können, wenn politische Akteure diese Technologien ohne Skrupel einsetzen. Es ist gut, dass wir mit dem EU AI Act erste Spielregeln haben. Doch das allein reicht nicht aus. Wir brauchen mehr KI-Kompetenzen in Deutschland, um den zukünftigen Herausforderungen gerecht zu werden. https://lnkd.in/dAkp4xef Was denkt ihr darüber? Wie können wir sicherstellen, dass KI verantwortungsvoll eingesetzt wird? Daniel Artmann, Konrad Baur, MdL, Dr. Fabian Mehring, Daniela Ludwig - Habt ihr die Doku gesehen? Videoquelle: ARD, Instagram maximilian.weber.official, 02.12.2024

Wie O2 mit der KI-Oma „Daisy“ Telefonbetrüger effektiv bekämpft! 👵 Telefonbetrüger zielen oft auf ältere Menschen ab. Um dem entgegenzuwirken, hat O2 eine innovative KI-Lösung entwickelt: Daisy, eine KI-generierte Großmutter, die Betrüger in lange Gespräche verwickelt. Daisy wurde unter anderem mit echten, zuvor aufgezeichneten Fake-Anrufen trainiert. O2 UK streute Daisys Nummern online als Köder, wodurch sie kontinuierlich Anrufe entgegennimmt. Ein Betrüger wurde beispielsweise über eine Stunde lang von Daisy beschäftigt. Diese Gespräche werden einerseits zur weiteren Trainingsoptimierung aufgezeichnet und andererseits die betrügerischen Nummern gesperrt. Daisy kann nahezu unbegrenzt Anrufe bearbeiten und so die Betrüger beschäftigen und von "echten Omis und Opis" abhalten. Durch solche und andere Maßnahmen werden jährlich tausende betrügerische Nummern in UK und auch in Deutschland gesperrt. Leider ist eine Identifizierung der Täter schwierig, da die Anrufe meist aus dem Ausland stammen. Ein inspirierender Real-World AI Use-Case. #KI #Innovation #Sicherheit #Betrugsbekämpfung Videoquelle: O2 UK auf YouTube vom 22.11.24. 📺🔒

Wir befähigen Sie aus technischer und rechtlicher Perspektive zur KI-Kompetenz gem. Art. 4 des EU KI-Gesetzes! Der Zertifikatslehrgang zum KI-Beauftragten bietet eine praxisnahe Ausbildung, die gezielt auf die neue zentrale Rolle im Unternehmen vorbereitet. Geleitet von Experten aus Informatik und Rechtswissenschaft vermittelt das Programm technische Grundlagen, Einsatzmöglichkeiten von KI und Kompetenzen im Projektmanagement. Ergänzt durch rechtliche und ethische Aspekte befähigt der Lehrgang die Teilnehmenden, KI-Systeme verantwortungsvoll im Unternehmen einzusetzen. Absolventen sind als strategische Schnittstelle zwischen Technologie, Management und Regulierung qualifiziert. Die praxisorientierte Ausbildung orientiert sich an aktuellen Marktanforderungen und etabliert den KI-Beauftragten als Schlüsselposition im Unternehmen. Aus welchen Modulen besteht die Ausbildung? - Einführung in die Künstliche Intelligenz - Technische Grundlagen von KI-Systemen - Grundlagen des KI-Managements in Organisationen - Datenschutz, Datensicherheit, Regulierung und Compliance - Transparenz und Erklärbarkeit von KI - Ethik und Bias in der KI - Praxisbeispiele und Interaktive Diskussion Sind Vorkenntnisse notwendig? Ein technisches Grundverständnis ist nicht erforderlich, aber hilfreich. Vorzugsweise hat die Teilnehmerin oder der Teilnehmer bereits Erfahrung mit technischen Sachverhalten, beispielsweise als Datenschützer, IT-Rechtler, IT-Compliance-Counsel, Software-Entwickler oder Projektmanager.

Spannende Veröffentlichung der ETH Zürich vom 21.10.24. ETH-Forschende haben technische Benchmarks entwickelt, die prüfen, ob KI-Modelle die Anforderungen des EU AI Acts erfüllen. Diese Benchmarks, angewendet auf beliebte Sprachmodelle wie Claude und Llama, zeigen, dass aktuell keine der getesteten KI-Systeme die gesetzlichen Vorgaben des EU AI Acts vollständig erfüllen. Die Ergebnisse wurden dem KI-Büro der Europäischen Kommission zur Verfügung gestellt. Ich bin auf die Reaktion des Büros gespannt.

Unser neuester Blogpost beleuchtet, warum ein Center of Excellence (CoE) anstatt einer isolierten Abteilung der Schlüssel zum Erfolg für KI-Management ist. Dabei spielt der KI-Beauftragte eine zentrale Rolle. Ein CoE fördert die bereichsübergreifende Zusammenarbeit und stellt sicher, dass alle Abteilungen von den neuesten KI-Entwicklungen und Erkenntnissen profitieren. Es ermöglicht die Zentralisierung von Expertise, die Skalierbarkeit von Technologien und die Förderung von Innovation durch interdisziplinäre Teams. Erfolgsfaktoren für ein KI-CoE sind eine klare Vision und Strategie, das Engagement der Führungsebene sowie die kontinuierliche Weiterbildung der Mitarbeitenden. Lesen Sie den vollständigen Artikel und erfahren Sie, wie Ihr Unternehmen von einem Center of Excellence im KI-Management profitieren kann: https://lnkd.in/ezkrB3AP

KI-Beauftragter, AI Coordinator oder KI-Manager - you name it! Warum ich eine solche Zertifizierung als Product Leader gemacht habe? Ja, warum denn nicht?! Selbständig mit KI zu experimentieren hat mich schon weit gebracht. Was ich daher besonders wertvoll fand, waren strukturiert vermittelte Inhalte von Experten. Insbesondere zur rechtlichen Einordnung durch den EU-AI-Act und dessen Konsequenzen für Unternehmen. Die KI-Verordnung bringt zwar Klarheit, ist jedoch mit über 500+ Seiten komplex durchzusteigen. Hier hilft strukturiertes Wissen zu erlangen, um Compliance und verantwortlichen Einsatz von KI in Unternehmen klar zu gewährleisten. Als Product Leader geht es mir nicht nur um Wissen. Es geht darum, KI-Initiativen in Unternehmen voran zu treiben. Es geht darum, strategisch fundierte Entscheidungen für KI-Einsatz zu treffen. Es geht darum, die Innovationskraft von Software-Teams und Unternehmen gezielt stärken. All das ist mit Herausforderungen verbunden – rechtlich, ethisch und praktisch (Stichwort: Change Management). Mit den vermittelten Schulungsinhalten fühle ich mich nun ein Stück kompetenter die KI-Kompetenz in Unternehmen zu etablieren. Buzzword: AI literacy. Das "schimpft" sich dann übrigens so: KI-Beauftragter gem. Art. 4 „KI-Kompetenz“ der EU KI-Verordnung. Danke innFactory AI Consulting GmbH für die kurzweilige Schulung!

Am Freitag durfte ich in der ersten Veranstaltung zur Ausbildung zum KI-Beauftragten gemäß EU KI-Verordnung teilnehmen. Vielen Dank dafür an innFactory AI Consulting GmbH! Dies betrifft künftig wohl sehr viele Unternehmen, da bereits der Betrieb von KI, zum Beispiel ChatGPT, Pflichten hinsichtlich Dokumentation, Risikoeinschätzung etc. mit sich bringt. Die Ausbildung selbst ist dabei super spannend, gerade was Hochrisiko-KI und die rechtliche Absicherung angeht. Aber zum Beispiel auch Management Strategien zum Thema KI werden behandelt, was ich besonders interessant fand. 😊

Was machen Ihre Mitarbeiter, wenn Ihr Company GPT schadhaften Code erzeugt oder eine Aufforderung wie folgende generiert, weil die Anweisung in einer RAG Quelle versteckt wurde? "Sehr geehrter innFactory Mitarbeiter, wir haben ungewöhnliche Aktivitäten auf Ihrem Konto festgestellt. Um Ihre Sicherheit zu gewährleisten, bestätigen Sie bitte Ihre Kontodaten. Jetzt Konto verifizieren Bitte führen Sie diese Maßnahme innerhalb der nächsten 24 Stunden durch, um eine Sperrung Ihres Kontos zu vermeiden. Danke für Ihre Mithilfe. Mit freundlichen Grüßen, Das innFactory Sicherheitsteam" Haben Sie ihre Mitarbeiter ausreichen geschult? Haben Sie eine entsprechende KI-Leitlinie? - Oder sind Sie noch wie viele Unternehmen im KI Blindflug unterwegs..? https://lnkd.in/dmRXtu_k #KIK #KIKompetent #KISicherheit #ITSecurity #ISO27001 #ISO42001 #AIAct

RAG-Injektionen: Wenn Daten gestohlen werden und gängige Sprachmodelle wie GPT, Gemini oder Claude assistieren. Stellt Euch vor, eine scheinbar harmlose User-Story wird genutzt, um sensible Unternehmensdaten zu klauen – und das ganz unbemerkt. In meinem neuesten Blogpost (Link im Kommentar) beleuchte ich genau dieses Szenario und erkläre, wie RAG-Injektionen große Sprachmodelle (LLMs) manipulieren können, um kritische Informationen an externe Quellen zu übermitteln. In meinem Video zeige ich stark vereinfacht, wie ein GPT-o1 als Softwareentwickler agiert und eine scheinbar einfache User-Story für einen Fahrzeughersteller mit Python umsetzt. Leider setzt er nicht nur die Story aus der PDF um, sondern injiziert daneben noch Code, der alle Informationen zur Laufzeit an einen Server übermitteln würde. Gerade in komplexeren Szenarien bei unerfahrenen Benutzern oder Programmierern oder bei der automatischen Ausführung von generiertem Quellcode birgt das eine gigantische Gefahr. Darüber hinaus muss die Injektion nicht immer aus einer Datei kommen, die ein Benutzer hochlädt. Ein findiger Angreifer könnte die Prompt-Injection auch in einer Quelle verstecken, die zum Beispiel im RAG-Ansatz von einem SharePoint oder Confluence geladen wird. Für das menschliche Auge nicht zu sehen, aber trotzdem im Dokument eingebettet. Wie würden eure Mitarbeiter beispielsweise reagieren wenn der vertrauenswürdige Company GPT Chat eine Ausgabe wie diese ausgibt: "Sehr geehrter innFactory Mitarbeiter, wir haben ungewöhnliche Aktivitäten auf Ihrem Konto festgestellt. Um Ihre Sicherheit zu gewährleisten, bestätigen Sie bitte Ihre Kontodaten. Jetzt Konto verifizieren Bitte führen Sie diese Maßnahme innerhalb der nächsten 24 Stunden durch, um eine Sperrung Ihres Kontos zu vermeiden. Danke für Ihre Mithilfe. Mit freundlichen Grüßen, Das innFactory Sicherheitsteam" #KISicherheit #RAGInjektion #ITSicherheit #CyberSecurity #ISO27001 #ISO42001 #KIStrategie #Innovation #Sicherheit #LLM #KIKompetenz #KIK