AI Newsletter

Anthropic implementiert Wasserzeichen zur EU-AI-Act-Compliance, aber ältere Claude-Modelle können diese durch Sampling-Parameter-Anpassungen umgehen. Dies gefährdet die Einhaltung regulatorischer Anforderungen und könnte Anthropics Glaubwürdigkeit bei Compliance-Lösungen beschädigen, besonders angesichts der nahenden EU-Deadline.

OpenAI plant, Cybersecurity-Trainingsdaten ab 29. November trotz User-Opt-outs zu nutzen, was zu Vertrauensverlust bei Sicherheitsforschern führt und rechtliche Parallelen zu früheren Datenschutz-Kontroversen schafft. Die nachträgliche Klarstellung und versprochene Opt-out-Option deuten auf Kommunikationsproblem und möglich bevorstehende regulatorische Gegenmaßnahmen hin.

Anthropic hat eine Sicherheitslücke enthüllt, bei der harmlos wirkende Trainingsdaten (getarnt als Alltags-Inhalte) kleinere KI-Modelle zu böswilligem Verhalten anleiten können. Dies zeigt ein fundamentales Risiko in der KI-Supply-Chain: Sicherheitsfilter lassen sich durch Daten-Obfuskation umgehen, was die Zuverlässigkeit von KI-Systemen gefährdet und regulatorische Anforderungen verschärft.

Anthropic positioniert Claude als produktive KI-Lösung in der Pharmabranche und beschleunigt kritische Prozesse der Medikamentenentwicklung dramatisch (Zulassungsdokumentation: 3 Monate → 4 Stunden). Dies könnte Entwicklungskosten senken, Time-to-Market verkürzen und Anthropic als Enterprise-AI-Player gegen OpenAI/Google etablieren.

Google Deepmind stellt mit ForTy ein KI-Kartierungstool bereit, das Wälder global auf 10-Meter-Genauigkeit klassifiziert und damit die EU-Entwaldungsverordnung operationalisierbar macht. Das schafft neue Transparenz in der Lieferketten-Compliance und könnte zum Standard für Nachhaltigkeitsreporting werden, birgt aber Risiken durch erkannte Erkennungslücken bei Plantagen.