Beitrag von innFactory AI Consulting GmbH

Wenn Sie Sarah Connor heissen (nein, nicht die Sängerin, die andere), kann Ihnen diese Meldung egal sein. Ansonsten wäre es gut, wenn Sie Ihre Beschäftigten mit sinnstiftenden Maßnahmen für dieses nächste Big Thing sensibilisieren. Denn es besteht die nicht unwahrscheinliche Wahrscheinlichkeit, dass Ihre IT die nächsten Angriffe nicht mehr abfangen wird, wenn Sie selber in Ihrer IT nicht bereits KI gesteuerte Abwehrmechanismen nutzen. Kommen Sie gern auf uns zu. Wir helfen Ihnen gern.

🎭 Gefährliche Illusion: Wie KI-generierte Bilder zur Falle für Unternehmen werden können   In der aktuellen Ausgabe des Audit Committee Quarterly III/2024 werfen wir einen Blick auf Angriffsszenarien mittels Deepfakes und mögliche Präventionsmaßnahmen. 💡Im Überblick: - „Deep Learning“ und „Fake“ – aus diesen beiden Begriffen setzt sich „Deepfake“ zusammen und beschreibt einen Trend, im Rahmen dessen durch künstliche Intelligenz mediale Identitäten erstellt werden. Täuschend echt anmutende Fotos, manipulierte Videos oder die Imitation von Stimmen können Produkte dieser Anwendung von maschinellem Lernen sein. - Social Engineering wird durch Deepfakes verstärkt: Betrüger verwenden manipulierte Videos oder Stimmen, um falsche Identitäten zu erschaffen und Verifizierungsprozesse zu umgehen. - Betrugsrisiken steigen: Deepfakes erleichtern es Kriminellen, an sensible Unternehmensdaten zu gelangen oder Zahlungen zu erschleichen. - Der Gesetzesentwurf zum strafrechtlichen Schutz von Persönlichkeitsrechten vor Deepfakes sieht künftig Strafen bei der Verbreitung von Deepfakes, die das Persönlichkeitsrecht oder den höchstpersönlichen Lebensbereich verletzen, vor. - Präventive Maßnahmen: Unternehmen sollten KI-gestützte Monitoring- und Sicherheitssysteme einsetzen, um Bedrohungen frühzeitig zu erkennen. 📖 Den Link zu dem Artikel finden Sie in den Kommentaren.   #KPMG #KPMGForensic #AIFraud #SocialEngineering #ACQuarterly 

Captcha erklärt: Captcha ist wie ein digitales Sicherheitspuzzle, das die echten Menschen von den automatisierten Bots unterscheidet. Es stellt eine Herausforderung dar, die nur von Menschen gelöst werden kann, um sicherzustellen, dass die Interaktionen auf einer Website echt sind. Ähnlich einem Türsteher, der sicherstellt, dass nur diejenigen eingelassen werden, die das Geheimwort kennen, fordert ein Captcha die Benutzer auf, bestimmte Aufgaben zu erledigen, wie das Identifizieren von Bildern, das Lösen von mathematischen Problemen oder das Eingeben von verzerrten Buchstaben und Zahlen. Durch die Implementierung von Captchas können Websites Spam, Missbrauch und automatisierte Angriffe wirksam verhindern und die Sicherheit für ihre Benutzer erhöhen

Menschliche und maschinelle Identitäten stellen durch die Zugriffsmöglichkeiten auf kritische Ressourcen für jedes Unternehmen ein großes Sicherheitsrisiko dar. Durch die zunehmende Nutzung von Lösungen der generativen KI steigt gerade die Gefahr von Attacken auf KI-Maschinen-Identitäten. Drei Angriffsszenarien könnten in naher Zukunft Probleme bereiten. Welchen Abwehrmechanismus gibt es? https://lnkd.in/eWHgVJfF

𝗦𝘁𝗶𝗺𝗺𝗲𝗻 𝘃𝗼𝗻 𝗱𝗲𝗿 𝗶𝘁-𝘀𝗮: 𝗔𝘂𝗳 𝗔𝘂𝗴𝗲𝗻𝗵ö𝗵𝗲 𝗺𝗶𝘁 𝗱𝗲𝗻 𝗛𝗮𝗰𝗸𝗲𝗿𝗻 👀 #KI ist Segen und Fluch zugleich in der heutigen digitalen Welt. So weiten Cyberkriminelle ihr Angebot von Large Language Models (LLMs) und Deepfake-Technik aus, produzieren mehr und vergrößern ihre Reichweite. Auf der anderen Seite bietet Künstliche Intelligenz die Möglichkeit, solchen Bedrohungen besser begegnen zu können. 𝗪𝗲𝗹𝗰𝗵𝗲 𝗥𝗼𝗹𝗹𝗲 𝘀𝗽𝗶𝗲𝗹𝘁 𝗞ü𝗻𝘀𝘁𝗹𝗶𝗰𝗵𝗲 𝗜𝗻𝘁𝗲𝗹𝗹𝗶𝗴𝗲𝗻𝘇 𝗶𝗻 𝗜𝗵𝗿𝗲𝗺 𝗮𝗸𝘁𝘂𝗲𝗹𝗹𝗲𝗻 𝗦𝗶𝗰𝗵𝗲𝗿𝗵𝗲𝗶𝘁𝘀𝗮𝗻𝘀𝗮𝘁𝘇? wollten wir daher auf der it-sa – Home of IT Security wissen. Geantwortet hat Michael Haas von WatchGuard Technologies (DACH). 🔜 Die restlichen, auf der it-sa eingefangenen Hashtag #SecurityVoices werden wir peu à peu in den kommenden Tagen hier veröffentlichen.

🚨 Prompt Injection: Eine unterschätzte Sicherheitslücke? 🚨 Ein aktueller Artikel zeigt neues Gefährdungspotenzial. Was wäre, wenn ein einfacher Textbefehl ausreichen könnte, um Sicherheitsmechanismen zu umgehen und direkten Zugriff auf eine KI-Umgebung zu erhalten? Dieses Vorgehen nennt sich Prompt Injection. In der Vergangenheit wurde Prompt Injection vor allem eingesetzt, um beispielsweise Chatbots, die auf Closed-Source-Sprachmodellen basieren, ihre Systemprompts zu entlocken. Die Möglichkeiten gehen aber – je nach KI-Tool – weit darüber hinaus, wie der lesenswerte Artikel „Prompt Injecting Your Way To Shell“ (im ersten Kommentar verlinkt) von Marco Figueroa zeigt. Dort wird detailliert erklärt, wie Prompt Injection genutzt werden kann, um sich in einer containerisierten ChatGPT-Umgebung Zugang zum Dateisystem zu verschaffen. Zwar gibt es eine Sandbox-Umgebung. Dennoch sind solche Angriffsmöglichkeiten ein Risiko für Unternehmen, die KI-Systeme produktiv einsetzen. ➡️ Interessant wäre ein ähnlicher Test mit gängigen Open-Source-LLMs, die zunehmend von Unternehmen selbst gehostet werden, um den Datenschutz zu gewährleisten. 👉 Warum ist das wichtig? ▶️ Prompt Injection zeigt, dass Sicherheit in KI nicht nur auf Code-Ebene gedacht werden darf – auch Sprache selbst kann zur Schwachstelle werden. ▶️ Unternehmen müssen dringend überlegen, wie sie ihre KI-Modelle gegen solche Angriffe absichern können. 📌 Was kann man tun? ▶️ Sicherheitsbewusstsein in der KI-Entwicklung schärfen. ▶️ Angriffsflächen durch Tests und Simulationen identifizieren. ▶️ KI-Systeme durch zusätzliche Validierungsschichten schützen. Link zum Artikel im ersten Kommentar 👇

Mein erster Kommentar, den ich auf den Sockel eines Beitrags hebe. Also los, Community, teilt Euer Schwarmwissen. Ich bin neugierig, wie ihr auf das Thema schaut, was ihr denkt und teilen möchtet. Der verlinkte Beitrag lässt mich etwas ratlos zurück. Ich habe - mal wieder - den Eindruck, dass kaum, dass "KI" irgendwo drauftsteht, alle zusammenkommen und erstaunt auf diese Attraktion namens KI gucken. Wenn sich ein Skript (hier ein über Python integriertes Sprachmodell) so in einem Zielsystem einnisten und wilde Sau spielen kann, sollte man sich dieses Zielsystem genauer ansehen (#sysadminrechte). Denn eine KI kann nicht zaubern, sondern braucht ein Ökosystem, in dem es agieren kann. Des weiteren finde ich die Formulierung "die KI entschied sich" problematisch. Ist das so? Ab wann "entscheidet" man? Derzeit sind LLMs sehr potente Statistikmaschinen. Ist das Finden des nächsten Schrittes (bei LLMs eine Silbe oder Buchstabe) eine Entscheidung oder "nur" Mathematik im Vektorraum von Wortbedeutungen und -beziehungen. Damit wären wir - radikal abgekürzt - bei den hier im Beitrag erwähnten Risiken. Wie gut können wir als Anwender oder Betroffene diese Risiken überhaupt einschätzen? Wieviel Wissen und welche Kompetenzen sind dafür notwendig? Das größte Risiko, das ich sehe ist, dass die Entwicklung von KI-Themen in einem Tempo voranschreitet, dass auch versierte Teilnehmer und womöglich Experten an ihre Grenzen kommen.

Ein Thema mit dem sich gerade auch Betriebsräte auseinandersetzen sollten, viele Themen wenn von der KI berührt. Von der Personalauswahl bis zu alltäglichen Geschäftsprozessen, da heißt es informiert zu sein um die Interessen von Belegschaft und Unternehmen gut zu vertreten.

Künstliche Intelligenz (KI) und Machine Learning (ML) für die Erkennung von E-Mail-Bedrohungen Unser AntiSpam-Schutz Proofpoint, den wir auch bei unseren Kunden einsetzen, setzt mit der neuesten Version seiner Erkennungs-Engine von möglichen E-Mail-Bedrohungen neue Massstäbe. So werden durch die Analyse von Sprache und Kontext bedrohliche E-Mails frühzeitig erkannt. Dabei markiert die Engine verdächtige E-Mails auch aufgrund weiterer Anomalien und nicht zuletzt technischer Eigenschaften. Als rockIT kümmern wir uns um die IT-Sicherheit unserer Kunden, einschließlich der E-Mail-Sicherheit und dem Spamschutz. Möchtest du mehr zur oben erwähnten Engine und der Technik dahinter lesen? Dann empfehlen wir dir folgenden Artikel: https://lnkd.in/eiZaFtnU #rockIT #ITSecurity #EMailSecurity #SpamProtection

Habt ihr in den letzten Tagen von der neuesten Entwicklung von OpenAI gehört? Ihre "Voice Engine" kann Stimmen klonen - und zwar auf Basis eines nur 15-sekündigen Audioschnipsels! Diese Technologie ist beeindruckend, wirft aber auch Fragen zum Missbrauch auf. Hier drei Tipps für eine sichere Kommunikation: 🤔 Hinterfragt suspekte Nachrichten! Fragt im Zweifelsfall über einen anderen Kanal bei der betreffenden Person nach. ⏱️ Lasst euch nicht unter Druck setzen! Betrüger versuchen oft, ihre Opfer zu ängstigen. 🔒 Bei besonders sensibler Kommunikation ein Codewort mitliefern, um sich zu identifizieren. Gerade in Unternehmen ist es wichtig, die Mitarbeitenden immer wieder zu sensibilisieren, um auch bei neuen Betrugsmaschen richtig zu reagieren: https://lnkd.in/etxatmqT #socialengineering #OpenAI #VoiceEngine __________________ Betrugsmaschen wie der «Enkeltrick» könnten künftig noch schwieriger zu erkennen sein: OpenAI, der Entwickler von ChatGPT, hat die "Voice Engine" vorgestellt – ein Programm, das es ermöglicht, Stimmen mit nur einem 15-sekündigen Audio zu duplizieren. Die Vermutung liegt nahe, dass die Technologie künftig nicht nur für rechtschaffene Zwecke eingesetzt wird. Hier findet ihr nützliche Informationen, um den Trickbetrügern einen Schritt voraus zu sein: Was ist Social Engineering? https://lnkd.in/eBmve7si Wie können KMU ihre Mitarbeitenden sensibilisieren? https://lnkd.in/etxatmqT #socialengineering #OpenAI #VoiceEngine