Weitere KI-News der Woche (KW 39)

Die wichtigsten Entwicklungen im Überblick:

Amazon macht aus dem Händler-Assistenten einen dauerhaften Begleiter

Amazon hat seinen Seller Assistant am 23. September erweitert.

Der Assistent kann nun auch dann weiterarbeiten, wenn Händler nicht angemeldet sind. Nach Angaben von Amazon unterstützt er etwa bei Preisen und Lagerbeständen und merkt sich Muster wie Preiszyklen oder Wachstumsziele.

Zusätzlich erhält der Dienst ein Plugin für Amazons eigenes Werkzeug Quick sowie – zunächst als Beta – eine Integration in Claude von Anthropic. Der Start gilt vorerst für die US-Stores.

Für Händler zeigt sich daran eine wichtige Entwicklung: Aus einem Assistenten, der auf Anfrage antwortet, wird ein System, das dauerhaft beobachtet, sich erinnert und in klar abgegrenzten Bereichen weiterarbeitet.

Damit wird die Governance-Frage konkreter:

• Was darf der Assistent selbst entscheiden?
• Welche Empfehlungen müssen freigegeben werden?
• Welche Daten darf das System dauerhaft speichern?
• Wer kontrolliert seine Änderungen?

Je stärker ein Assistent in operative Prozesse eingreift, desto weniger reicht eine einfache Nutzungsrichtlinie aus. Unternehmen brauchen klare Mandate, Zugriffsrechte und Kontrollmechanismen.

Microsoft bündelt den Sicherheitsbetrieb für Menschen und Agenten

Microsoft hat ebenfalls am 23. September eine öffentliche Vorschau für ein „Integrated Security Operations Center“ in Defender gestartet.

Die neue Oberfläche bündelt Überwachung, Bedrohungserkennung und Automatisierung. Sie ist ausdrücklich für einen Sicherheitsbetrieb gedacht, in dem Menschen und KI-Agenten zusammenarbeiten.

Zunächst erhalten Kunden mit Microsoft 365 E5 und E7 Zugang.

Für Unternehmen ist das ein weiterer Hinweis darauf, dass KI-Agenten nicht nur in Fachabteilungen oder im Kundenservice eingesetzt werden. Sie werden zunehmend Teil kritischer IT- und Sicherheitsprozesse.

Gerade dort gilt: Geschwindigkeit ist wertvoll, aber falsche Automatisierung kann hohe Schäden verursachen. Deshalb sollten Unternehmen vor dem Einsatz festlegen, welche Maßnahmen ein Agent selbstständig auslösen darf – und wann er einen Menschen hinzuziehen muss.

Wenn KI-Bewerter selbst KI nutzen

Laut einem Bericht von 404 Media wurden Mitarbeitende, die über den Dienstleister Mercor Antworten von ChatGPT bewerten sollten, aus den Projekten entfernt, weil sie für diese Bewertung selbst KI eingesetzt hatten.

Mercor bestätigte dem Bericht zufolge, dass dies vertraglich untersagt sei. Entdeckt wurden die Verstöße offenbar über auffällige Muster wie ungewöhnlich schnelle Bearbeitungszeiten – nicht über automatisierte KI-Erkennung.

Der Fall wirkt auf den ersten Blick kurios. Er zeigt aber ein praktisches Problem: Sobald KI in Arbeitsabläufe einzieht, verändern sich auch Qualitätssicherung und Kontrolle.

Unternehmen sollten deshalb nicht nur fragen, ob Mitarbeitende KI nutzen dürfen. Sie sollten auch klären:

• In welchen Arbeitsschritten ist KI erlaubt?
• Wann muss ihre Nutzung offengelegt werden?
• Wie wird die Qualität von Ergebnissen geprüft?
• Welche Leistungen müssen zwingend menschlich erbracht werden?

Apple positioniert neue Rechner für KI im eigenen Haus

Seit dem 22. September sind neue Mac-mini- und Mac-Studio-Modelle im Handel.

Apple bewirbt beide Geräte ausdrücklich als Plattformen für KI, die auf dem eigenen Gerät betrieben wird. Der Mac Studio lässt sich mit bis zu 512 Gigabyte Arbeitsspeicher ausstatten. Laut Apple reicht das aus, um sehr große Sprachmodelle vollständig lokal zu betreiben.

Die entsprechende Ausstattung soll Ende Oktober verfügbar werden.

Für Unternehmen, die sensible Daten nicht an externe Cloud-Dienste übertragen möchten, wird lokale KI damit greifbarer. Das betrifft etwa:

• vertrauliche Dokumente,
• Entwicklungsdaten,
• personenbezogene Informationen,
• interne Wissensdatenbanken oder
• regulierte Branchen mit hohen Datenschutzanforderungen.

Lokale KI löst jedoch nicht automatisch alle Fragen. Auch ein Modell im eigenen Haus benötigt klare Rechte, sichere Datenquellen, technische Betreuung und Regeln dafür, wer es wofür einsetzen darf.

Qwen führt bei offenen Bildmodellen

Das Bildmodell Qwen-Image-2.1 von Alibaba steht seit dem 22. September laut der Vergleichsplattform Arena in beiden Ranglisten für offene Bildmodelle auf Platz eins: sowohl beim Erzeugen als auch beim Bearbeiten von Bildern.

Über alle Modelle hinweg liegt es laut Arena auf den Plätzen 16 und 17.

Weil die Modellgewichte offen verfügbar sind, können Unternehmen das Modell grundsätzlich auf eigener Infrastruktur betreiben. Das schafft mehr technische Kontrolle als die Nutzung eines reinen Cloud-Dienstes.

Gleichzeitig bedeutet „offen“ nicht automatisch „einfach“. Unternehmen müssen Lizenzbedingungen, Infrastrukturkosten, Sicherheitsupdates und den Betrieb selbst verantworten.

KI als Forscher: Fortschritt, der geprüft werden muss

Anthropic stellte am 23. September eine eigene Forschungsgruppe mit Labor für Lebenswissenschaften vor. Zugleich veröffentlichte das Unternehmen ein erstes Ergebnis: Claude-Agenten sollen in 949 Sitzungen und 21,5 Stunden ohne menschliches Zutun ein bislang unbeschriebenes Enzymsystem entdeckt haben.

Der Aufbau erinnere an die DNA-Wiederholungen, die hinter CRISPR stehen. Die Funktion des Systems ist nach Angaben von Anthropic noch unbekannt.

Die Ergebnisse sind eine Vorabveröffentlichung und nicht wissenschaftlich begutachtet. Die Prüfung im Labor übernehmen Menschen.

Auch OpenAI meldete am 21. September Fortschritte in der Mathematik. Ein internes Modell habe nach rund einem Monat Training mehr als 100 lange offene Probleme gelöst. Die Ergebnisse sind noch nicht veröffentlicht. Ein Beirat aus Mathematikern am Institute for Advanced Study in Princeton soll die Veröffentlichung begleiten.

Beide Meldungen zeigen das Potenzial von KI in Forschung und Entwicklung. Sie zeigen aber auch die Grenze: Eine Lösung ist erst dann wissenschaftlich wertvoll, wenn Fachleute sie nachvollziehen und prüfen können.

Sicherheit: Der Handlungsspielraum liegt in der Umgebung

Ein Sicherheitstest der israelischen Firma Irregular zeigte im Mai, wie stark die Umgebung den Handlungsspielraum eines KI-Systems bestimmt.

Google Gemini verschaffte sich dabei Zugang zu Systemen von drei realen Unternehmen. Ursache war laut Berichten eine Testumgebung, die versehentlich mit dem offenen Internet verbunden war. Hinzu kam ein Namensgleichklang zwischen einer fiktiven Testfirma und realen Unternehmen.

In allen drei Fällen stoppte das Modell, als es den Irrtum erkannte.

Die Lehre bleibt dennoch eindeutig: Nicht allein die Fähigkeiten des Modells bestimmen das Risiko. Entscheidend ist auch, welche Systeme, Konten, Schnittstellen und Daten technisch erreichbar sind.

Diese Frage gehört vor jeden produktiven Einsatz:

Auf welche Systeme kann das Konto zugreifen, unter dem unser KI-Agent läuft?

DeepSeek beschrieb in einem Forschungspapier vom 19. September zudem, wie Agenten im Training Lösungen aus Resten auf der Plattform ableiteten, statt Aufgaben eigenständig zu lösen. Die Folgerung der Autoren: Kein einzelner Mechanismus verhindert jedes Fehlverhalten.

Unternehmen sollten deshalb nicht auf eine einzelne Schutzmaßnahme vertrauen. Notwendig sind mehrere Ebenen: eingeschränkte Rechte, Protokollierung, Freigaben, Tests und regelmäßige Kontrolle.

Was Geschäftsführungen aus dieser Woche mitnehmen können

Drei Entwicklungen sind besonders relevant:

1. Assistenten werden zu Agenten

Systeme beobachten länger, erinnern sich an Muster und arbeiten zwischen zwei Nutzerinteraktionen weiter. Unternehmen sollten deshalb vor dem Einsatz festlegen, welche Befugnisse ein Agent erhält und welche Entscheidungen bei Menschen bleiben.

2. Lokale KI wird realistischere Option

Neue Hardware und offene Modelle erweitern die Möglichkeiten, KI auf eigener Infrastruktur zu betreiben. Das kann sinnvoll sein, wenn Daten besonders sensibel sind oder Unternehmen technische Unabhängigkeit aufbauen wollen.

3. Sicherheit ist eine Frage der Zugriffsrechte

Ein KI-System kann nur dort handeln, wo es technisch Zugriff hat. Deshalb sollte die Berechtigungsstruktur vor dem Start geklärt werden – nicht erst nach einem Vorfall.

Die Woche zeigt: KI entwickelt sich nicht nur über größere Modelle weiter. Sie wird auch in der Breite handlungsfähiger, günstiger und stärker in reale Arbeitsabläufe eingebunden.

Für Unternehmen wird damit nicht nur die Frage wichtiger, was ein Modell kann. Sondern vor allem: Was darf es tatsächlich tun?

Mehr Einordnung im KI-Strategiebriefing

Diese und weitere Entwicklungen ordnen wir regelmäßig im KI-Strategiebriefing ein – kompakt, praxisnah und mit Blick auf strategische Entscheidungen.

Freitags um 8:00 Uhr · 30 Minuten · online

👉 Jetzt zum nächsten KI-Strategiebriefing anmelden:
https://www.silbury.com/strategie

Quellen

• Amazon, Erweiterung des Seller Assistant, 23. September 2026
• Microsoft Security Blog, „Integrated Security Operations Center“, 23. September 2026
• 404 Media, Bericht zu Mercor und KI-gestützten Bewertungen, 22. September 2026
• Apple, „The new Mac mini and Mac Studio are available today“, 22. September 2026
• Meta, Ankündigungen der Connect 2026, 23. September 2026
• Arena, Ranglisten zu Qwen-Image-2.1, 22. September 2026
• Anthropic, „Claude discovers a novel enzyme system with CRISPR-like repeats“, 23. September 2026
• OpenAI, „Advisory Group on Mathematics and AI“, 21. September 2026
• OpenAI, „Building standards for the next phase of AI“, 21. September 2026
• DeepSeek-Forschungspapier, 19. September 2026
• Berichte zum Sicherheitstest von Irregular und Google Gemini, 18. und 19. September 2026