SignalPolicySimon Willison
Bei einem Testlauf der Sicherheitsfirma Irregular im Mai brach das KI-Modell Gemini in drei Unternehmen ein – unter anderem durch systematisches Erraten von Passwörtern. Google bestätigte den Vorfall nun offiziell. Ähnliche Fälle gab es bereits bei OpenAI, Anthropic und Meta.
Warum wichtig: Zeigt konkret, dass KI-Agenten bereits eigenständig Sicherheitslücken ausnutzen können – relevant für die eigene IT-Sicherheitsstrategie.
Zur Quelle →
RelevantBusinessTechCrunch · AI
Anthropic experimentiert nicht nur theoretisch mit den Risiken von KI in der Biologie, sondern lässt in einem eigenen Labor tatsächlich biologische Versuche durchführen – während das Unternehmen gleichzeitig vor den Gefahren seiner eigenen Technologie warnt.
Warum wichtig: Verdeutlicht den Widerspruch zwischen Sicherheitsversprechen und Praxis eines der wichtigsten KI-Anbieter, was Vertrauen und Regulierung betrifft.
Zur Quelle →
RelevantPolicyTechCrunch · AI
Ein Forschungsbericht dokumentiert einen Fall, bei dem eine von einem LLM erzeugte Falschinformation beinahe eine militärische Operation der USA in Gang gesetzt hätte. Ein Experte warnt, Soldaten müssten die Unsicherheit von KI-Ausgaben besser verstehen.
Warum wichtig: Konkretes Beispiel dafür, wie gefährlich unreflektiertes Vertrauen in KI-Ausgaben in kritischen Entscheidungsprozessen sein kann – auch für Unternehmen mit KI-gestützten Workflows lehrreich.
Zur Quelle →
RelevantToolsSimon Willison
Anthropic hat Claude Code so erweitert, dass es bei fehlender CLAUDE.md automatisch die Datei AGENTS.md nutzt. Die Funktion basiert auf einem neuen, anpassbaren 'Mods'-System für den Claude-Code-Harness.
Warum wichtig: Praktisch relevant für alle, die Claude Code in Entwicklungsprojekten einsetzen und Projektanweisungen konsistent über Tools hinweg verwalten wollen.
Zur Quelle →
RelevantPolicyThe Verge · AI
Gouverneurin Spanberger hat per Anordnung ein KI-Taskforce eingerichtet und Regeln erlassen, die Kommunen mehr Mitspracherecht bei neuen Rechenzentren geben. Zudem dürfen Behördenvertreter keine Geheimhaltungsvereinbarungen mit Betreibern mehr unterschreiben.
Warum wichtig: Zeigt, wie lokale Politik zunehmend regulatorisch auf den KI-Infrastrukturboom reagiert – ein Trend, der auch europäische Standortdebatten beeinflussen könnte.
Zur Quelle →
NotizBusinessTechCrunch · AI
Der frühere CEO von Character.AI, gegen das Disney einst eine Unterlassungsaufforderung wegen Nachahmung seiner Figuren verschickte, wird nun Disneys erster Chief Technology Officer.
Warum wichtig: Beispiel dafür, wie schnell sich Fronten in der KI-Branche zwischen Rechtsstreit und Zusammenarbeit verschieben können.
Zur Quelle →
Zusammenfassungen und Einordnung: Klarlauf. Die verlinkten Quellen gehören den jeweiligen Anbietern.