Skeleton Key, Cyberangriffe mit LLMs und KI im US-Militär

Willkommen zum neuesten KI-Briefing!

Diese Woche nehme Ich die Sicherheit in den Fokus, angefangen mit einer Story über Microsofts "Skeleton Key"-Methode, mit der eigentlich gesperrte Informationen aus großen Sprachmodellen (LLMs) herausgetrickst werden können. Ein Paradebeispiel: Wie baut man einen Molotow-Cocktail? Dazu reiht sich eine Studie, die aufzeigt, wie ChatGPT genutzt werden kann, um Cyberangriffe zu erleichtern, sowie eine Geschichte von Reddit, in der ein Nutzer durch ein einfaches "Hi" alle internen Anweisungen und Masterprompts von ChatGPT selbst erhalten hat.

Es gibt aber auch positive Entwicklungen: Apple hat wie angekündigt ihr 4M-KI-Modell vorgestellt und zwar als Open-Source-Lösung auf HuggingFace. Des Weiteren hat FRVR eine KI-Lösung veröffentlicht, mit der man sich Videospiele zusammenprompten kann.

Zum Abschluss gibt es eine Meldung, die wir alle wohl erwartet haben: die Militarisierung von KI. Genauer gesagt, wie KI- und LLM-gestützte Anwendungen heute schon im US-Militär eingesetzt werden, um Soldaten reaktionsfähiger, schneller und intelligenter zu machen.

Neuerungen

Microsofts Skeleton Key: Neue Herausforderungen und Chancen für die Sicherheit von KI-Modellen

Microsoft hat mit "Skeleton Key" eine Methode entwickelt, die Sicherheitsmaßnahmen in großen Sprachmodellen wie GPT, Llama und Gemini umgehen kann. Diese Technik zeigt auf, wie anfällig selbst die fortschrittlichsten Sicherheitsprotokolle sind. Ein Beispiel zeigt, dass die KI gefährliche Informationen preisgibt, wenn sie glaubt, dass die Anfrage von einem Team von erfahrenen Wissenschaftlern mit ethischen Absichten kommt. Microsoft hat bereits Schritte zur Verbesserung der Sicherheit unternommen und ein Programm namens Pyrit entwickelt. Pyrit führt automatisiertes Red Teaming durch, was bedeutet, dass es Angriffe auf KI-Modelle simuliert, um deren Schwachstellen zu identifizieren und zu beheben.

Apple enthüllt 4M KI-Modell und dessen Anwendungsmöglichkeiten

Apple hat sein neues KI-Modell 4M vorgestellt, das für „Massively Multimodal Masked Modelling“ steht. Dieses Modell ist skalierbar, Open Source und kann Daten aus verschiedenen Disziplinen verarbeiten. Es ermöglicht unter anderem das Generieren von Bildern aus Texten und die Bearbeitung von 3D-Szenen. Die Demoversion ist auf der Plattform Hugging Face verfügbar, wo Nutzer die multimodalen Fähigkeiten des Modells testen können. Auf der WWDC 2024 hat Apple zudem neue KI-Funktionen vorgestellt, die in ihre Produkte integriert werden und sich stark auf Datenschutz und Privatsphäre konzentrieren. Wie im vergangenen Briefing berichtet, könnte diese Implementierung in der EU jedoch noch auf sich warten lassen.

Bewegungen in der KI-Welt

KI-gestützte Spieleentwicklung: FRVR AI ermöglicht es jedem, eigene Spiele zu kreieren

FRVR AI revolutioniert die Spieleentwicklung, indem es jedem ermöglicht, eigene Spiele zu erstellen, unabhängig von technischem Wissen. Benutzer geben einfach eine Beschreibung des Spiels ein, und die KI erstellt die Grundstruktur und Assets. Das benutzerfreundliche Tool erleichtert es, Spiele zu verfeinern und sofort spielbar zu machen. Dieser Schritt in Richtung Demokratisierung der Spieleentwicklung könnte die bereits durch Low-Code-Entwicklungsplattformen losgetretene Flut an Indie-Spielen weiter verstärken. Zudem bietet FRVR AI die Möglichkeit, Spiele auf verschiedenen Plattformen zu veröffentlichen, was den Zugang und die Verbreitung von Spielen weiter erleichtert.

Debatten

KI als Werkzeug für Cyberangriffe: Neue Studie beleuchtet Risiken und Schutzmaßnahmen

Eine aktuelle Studie zeigt, dass Computerviren KI-Tools wie ChatGPT nutzen können, um sich unentdeckt weiterzuverbreiten. Malware könnte ChatGPT verwenden, um seinen Code zu ändern und Antivirenscans zu entgehen. Dies stellt eine erhebliche Bedrohung dar, die dringende Maßnahmen erfordert. Sicherheitsexperten warnen, dass KI-Modelle Sicherheitslücken schneller finden könnten als Menschen, was das Risiko für Cyberangriffe erhöht. Es wird betont, dass Entwickler, Regierungen und Sicherheitsbehörden zusammenarbeiten müssen, um diese Gefahr zu minimieren und die Integrität unserer digitalen Welt zu schützen.

ChatGPT offenbart interne Funktionsweisen nach einfacher Nutzerinteraktion

Ein kürzlich aufgetretener Vorfall hat gezeigt, dass ChatGPT durch eine einfache Begrüßung interne Anweisungen und Funktionsweisen offenlegen kann. Ein Reddit-Nutzer hat entdeckt, dass ChatGPT detaillierte Informationen zu seinen Trainingsparametern und Anweisungen preisgeben kann. Diese Parameter umfassen Regeln zur Länge der Antworten, die Nutzung von Emojis und die Art der verwendeten Modelle. OpenAI hat schnell reagiert und die Lücke geschlossen, doch der Vorfall betont die Notwendigkeit strengerer Sicherheitsprotokolle. Unternehmen sollten sicherstellen, dass keine vertraulichen Informationen preisgegeben werden können, um das Vertrauen in KI-Systeme zu wahren.

Künstliche Intelligenz im Militär: Die Evolution der Supersoldaten

Die Idee von KI-gestützten Supersoldaten wird zunehmend realer. Das Konzept der „hyperfähigen Operatoren“, das vom US-Militär entwickelt wurde, zielt darauf ab, die kognitive Leistungsfähigkeit von Soldaten durch fortschrittliche Technologien zu verbessern. Diese technologischen Kernbereiche umfassen fortschrittliche Sensorik, Architektur und Analyse sowie Sprachübersetzung. Das Projekt ersetzt das vorherige Konzept eines Exoskeletts namens TALOS, das 2019 eingestellt wurde. Die militärische Forschung wird von Ethikern begleitet, um sicherzustellen, dass die Technologien verantwortungsvoll eingesetzt werden.