👋 Hallo! Du liest diese Ausgabe als eine:r von 🥳 86 Leser:innen.
❤️ Danke an alle, die den Newsletter zuletzt weiterempfohlen haben - Wachstum entsteht hier nicht durch Algorithmen, sondern durch Weitersagen.
Diese Ausgabe umfasst ca. 2052 Wörter (~11 Minuten Lesezeit).
Heute ist Montag, der 21. September 2026 - willkommen in KW39. Viel Spaß beim Lesen!
🎯 Amodeis Hilferuf nach KI-Regulierung: Nebelgranate oder notwendiger Slowdown? | Während China weiter aufholt
Dario Amodei tritt auf die Bremse - zumindest rhetorisch. Mit seinem Essay „We Must Pace the Frontier“ fordert der Anthropic-CEO, die Entwicklung immer leistungsfähigerer KI-Systeme kontrollierter zu gestalten. Seine Sorge: Die Fähigkeiten der Modelle könnten schneller wachsen als unsere Möglichkeiten, sie zu verstehen, zu kontrollieren und abzusichern.
Grundsätzlich halte ich diese Warnung für berechtigt: Autonome KI-Agenten, Cyberfähigkeiten, automatisierte Forschung und Systeme, die zunehmend selbst an Software oder sogar der nächsten Modellgeneration mitarbeiten können, verändern die Risikostruktur erheblich. Doch bei Anthropic entsteht gerade ein bemerkenswerter Widerspruch.
„Slow down“ und gleichzeitig weiter beschleunigen?!?
Amodei fordert keinen Entwicklungsstopp. Er spricht von „Pacing“: Frontier-KI soll nur so schnell leistungsfähiger werden, wie Sicherheitsmechanismen mithalten können.
Anthropic setzt diese Strategie inzwischen sichtbar um. Gemeinsam mit Accenture sollen mindestens zwei Milliarden Dollar in die Evaluierung und Sicherheitsprüfung von KI-Modellen fließen. Externe Evaluatoren sollen dabei deutlich tieferen Zugang zu Modellen und Entwicklungsprozessen erhalten.
Gleichzeitig steht Anthropic vor einem möglichen milliardenschweren Börsengang und befindet sich in einem harten Wettbewerb mit OpenAI, Google und anderen Frontier-Labs.
Während Silicon Valley bremsen will, beschleunigt China
Und natürlich wartet China nicht: Qwen, DeepSeek, Kimi, GLM und MiniMax zeigen, wie schnell chinesische Anbieter technologisch aufholen.
Gleichzeitig setzen viele chinesische Akteure stark auf effizientere, günstigere und teilweise offen verfügbare Modelle.
Während in den USA also zunehmend darüber diskutiert wird, wie Frontier-KI kontrollierter entwickelt werden kann, lautet die chinesische Herausforderung eher: Wie lässt sich der Abstand zur Spitze möglichst schnell schließen?
Genau hier liegt das Grundproblem von Amodeis Slowdown-Idee: Was passiert, wenn einer bremst und die anderen weiter beschleunigen?
Ein freiwilliger Slowdown funktioniert nur dann, wenn die wichtigsten Akteure zumindest annähernd denselben Regeln folgen. In einem technologischen Wettlauf zwischen Unternehmen und Staaten ist genau das aber schwer vorstellbar.
Der Punkt, der mich wirklich nachdenklich macht
Es gibt jedoch einen weiteren Trend, den ich für weitaus besorgniserregender halte. Reuters berichtete am 18. September, dass Anthropic im Raum San Francisco ein eigenes Biologielabor eingerichtet hat. Dort werden Forscher untersuchen, wie Claude in Zukunft wissenschaftliche Arbeitsprozesse automatisieren und langfristig sogar Laborroboter steuern sowie echte Experimente mit nur begrenztem menschlichem Eingriff durchführen könnte. Und genau hier liegt für mich das Problem.
Es geht hier nicht mehr nur um ein Sprachmodell, das Texte generiert oder Programmcode schreibt. Wir sprechen davon, ein leistungsstarkes KI-System mit der physischen Welt der Biologie zu verbinden. Natürlich kann dies enorme Chancen bieten: eine schnellere Arzneimittelentwicklung, automatisierte Forschung und möglicherweise neue Therapien für Krankheiten, die bisher schwer zu behandeln waren.
Doch genau diese Fähigkeiten haben unweigerlich einen Dual-Use-Aspekt. Ein System, das in der Lage ist, biologische Experimente weitgehend automatisiert zu planen, zu analysieren und irgendwann auch durchzuführen, birgt ein erheblich größeres Missbrauchspotenzial als ein herkömmlicher Chatbot.
Anthropic selbst weist regelmäßig auf die biologischen Risiken hin, die von leistungsstarken KI-Systemen ausgehen. Umso überraschender finde ich es, dass das Unternehmen nun genau jene Grenze überschreitet, vor deren Risiken es gleichzeitig warnt.
Meine persönliche Sichtweise
Ich glaube nicht, dass Amodeis Warnungen nur ein Ablenkungsmanöver sind. Aber das biologische Labor lässt mich die Dinge aus einer anderen Perspektive betrachten.
Wenn ein Unternehmen einerseits vor immer leistungsfähigeren KI-Systemen warnt und strengere Regulierung fordert, andererseits aber selbst daran arbeitet, KI mit Laborrobotik und echten biologischen Experimenten zu kombinieren, reicht mir das Argument „Wir machen es besonders sicher“ nicht mehr aus. Denn irgendwann wird es nicht mehr nur darum gehen, ob ein Modell eine fehlerhafte Antwort generiert. Es wird darum gehen, was passiert, wenn KI handeln, experimentieren und reale Prozesse steuern kann.
Genau an diesem Punkt halte ich eine unabhängige Aufsicht für unverzichtbar. Nicht irgendwann in der Zukunft. Sondern bevor diese Systeme außerhalb kontrollierter Forschungsumgebungen zum Einsatz kommen. Vielleicht ist das der Grund, warum die eigentliche Frage nicht lautet, ob Amodei mit seiner Warnung Recht hat. Sondern vielmehr, ob selbst Unternehmen, wie Anthropic oder OpenAI weiterhin in der Lage sind, freiwillig auf bestimmte Fähigkeiten zu verzichten, wenn wirtschaftlicher Wettbewerb und geopolitischer Druck gleichzeitig in die entgegengesetzte Richtung ziehen. Denn während von einer Verlangsamung die Rede ist, geht das Wettrennen weiter. Und mit dem biologischen Labor könnte es eine neue, weitaus ernstere Dimension erreichen.
Und das macht mich sehr nachdenklich...
🔗 Dario Amodei | Reuters | Bloomberg | WSJ | Reuters
📰 Märkte & Nachrichten
EU treibt Alterskontrollen voran und will Minderjährige digital stärker abschirmen: Mit dem vorgeschlagenen „EU Kids Act“ verschärft die EU ihre Regulierung von sozialen Medien, Online-Spielen und KI-gestützten Chatbots erheblich. Die Säulen der Initiative sind eine strengere Altersüberprüfung, strengere Schutzpflichten für Plattformen und ein Verbot der Nutzung sozialer Medien durch Kinder unter 13 Jahren. Hintergrund ist der wachsende regulatorische Druck auf digitale Dienste, den Risiken für Minderjährige mehr Aufmerksamkeit zu schenken, insbesondere im Hinblick auf Suchtmechanismen, algorithmische Empfehlungen und den Zugang zu ungeeigneten Inhalten. Durchgesetzt werden soll dies durch neue Compliance-Anforderungen, die Anbieter dazu verpflichten könnten, technische Altersüberprüfungen durchzuführen, maßgeschneiderte Standardeinstellungen festzulegen und ein restriktiveres Produktdesign zu verfolgen. Dies wird zu erhöhten regulatorischen und betrieblichen Kosten für Plattformen führen, während Anbieter von Identitäts- und Verifizierungstechnologien voraussichtlich davon profitieren werden. Gleichzeitig wird deutlich, dass die EU ihre digitale Regulierung zunehmend ausweitet und dabei über Fragen des Wettbewerbs und des Datenschutzes hinausgeht, hin zu spezifischen Architekturen für den Nutzerschutz. Langfristig könnte dies einen strukturellen Zielkonflikt zwischen Kinderschutz, Anonymität und barrierefreiem Zugang zu digitalen Diensten verschärfen.
🔗 CNET
Banken bauen MiCA-Präsenz aus und sichern sich regulierten Kryptomarktanteil: Die Zahl der im MiCA-Register der Europäischen Wertpapier- und Marktaufsichtsbehörde (ESMA) eingetragenen Banken ist seit Ende Juni von etwa 40 auf etwa 80 gestiegen. Grund dafür ist die wachsende Bedeutung des EU-Regulierungsrahmens als Filter für den Marktzugang zu Kryptowährungsdienstleistungen: Die im MiCA-Register eingetragenen Banken können die Glaubwürdigkeit der Regulierung, die Vorteile des Regulierungsausweises und den Zugang zu institutionellen Kunden besser nutzen. Gleichzeitig zeigt sich, dass traditionelle Kreditinstitute gezielt ihre bestehende Infrastruktur in den Bereichen regulatorische Compliance, Kapital und Vertrieb nutzen, um schneller in den regulierten Kryptowährungsmarkt vorzudringen. Während die Gesamtzahl der im Register eingetragenen CASPs von 243 auf 349 stieg, sank der relative Anteil der Nicht-Bank-Anbieter von 84 % auf 77 %. Diese Verschiebung deutet auf eine Marktstruktur hin, in der die Regulierung nicht nur Risiken begrenzt, sondern auch etablierte Akteure begünstigt. Langfristig könnte MiCA weniger ein offener Raum für die Expansion von Kryptowährungs-Start-ups sein, sondern vielmehr zu einem Rahmen für Konsolidierung werden, in dem die Integration in das Bankwesen und regulatorische Skaleneffekte an Bedeutung gewinnen.
Kalifornien startet KI-Regeln, um Hochrisikomodelle früher zu kontrollieren: Gouverneur Gavin Newsom hat eine Durchführungsverordnung erlassen, mit der neue Richtlinien für den Umgang mit fortschrittlicher KI festgelegt werden, und in diesem Zusammenhang angeordnet, dass Notfallmechanismen geprüft werden sollen, darunter sogar ein möglicher „Kill-Switch“. Hintergrund ist die wachsende Besorgnis in den USA, dass leistungsstarke Modelle nicht nur wirtschaftliche Prozesse verändern, sondern auch systemische Risiken bergen könnten beispielsweise durch Missbrauch, Kontrollverlust oder sicherheitsrelevante Ausfälle. Dies soll durch eine behördenübergreifende Überprüfung von Sicherheitsstandards, Bewertungsverfahren und Möglichkeiten zum Eingreifen in besonders risikoreiche Systeme angegangen werden. Gleichzeitig wird deutlich, dass Kalifornien bei regulatorischen Fragen die Vorreiterrolle übernimmt, während auf Bundesebene noch immer ein einheitlicher Rechtsrahmen fehlt. Für den Markt erhöht dies den Druck auf die Entwickler groß angelegter Modelle, Sicherheitstests und Governance-Strukturen bereits in einer frühen Phase der Produktentwicklung zu integrieren. Die Strategie unterstreicht einen breiteren Trend: Die KI-Regulierung verlagert sich von abstrakten ethischen Debatten hin zu den operativen Eingriffsrechten des Staates im Bereich risikoreicher Technologien.
🔗 POLITICO
📊 Daten & Insights: Der Malaysia-Korridor für AI-Chips
Die Handelsdaten zwischen Malaysia und China zeigen eine bemerkenswerte Diskrepanz: Zwischen April 2024 und Juni 2025 verbuchte China rund 3,8 Mrd. US-Dollar an Serverimporten malaysischen Ursprungs - Malaysia selbst meldete jedoch nur rund 0,6 Mrd. US-Dollar an entsprechenden Exporten. Noch auffälliger: Die gemeldeten Stückzahlen liegen relativ nah beieinander, während China einen durchschnittlichen Wert von rund 106.000 US-Dollar pro Server ausweist und Malaysia nur etwa 17.000 US-Dollar.
In den Handelsdaten wird dieses Zeitfenster ungewöhnlich deutlich sichtbar.
Epoch AI schätzt, dass der auffällige Handelsstrom einer Rechenleistung von ungefähr 150.000 Nvidia-H100-Äquivalenten entsprechen könnte. Das ist kein Beweis für Chip-Schmuggel - Epoch weist ausdrücklich auf alternative Erklärungen und bestehende Unsicherheiten hin. Das Timing ist allerdings bemerkenswert: Der sprunghafte Anstieg beginnt nach den verschärften US-Exportkontrollen von Oktober 2023 und bricht kurz nach Malaysias neuen Genehmigungspflichten für den Transit leistungsfähiger US-AI-Chips im Juli 2025 deutlich ein.
Für mich ist genau das der interessante Punkt: Exportkontrollen verändern nicht nur, welche Chips verfügbar sind, sondern offenbar auch, über welche Handelsrouten Compute seinen Weg nach China findet. Die eigentliche Schwachstelle solcher Kontrollen könnte deshalb weniger an der Landesgrenze Chinas liegen als in den globalen Transit- und Exportketten.
🎬 Sehenswert: Tax me (if you can!) (1/2) - Die Steuertricks der Superreichen | ARTE (ca. 45 Min.)
„Tax me - if you can.“ Der Titel der ARTE-Dokumentation trifft einen wunden Punkt: Während über höhere Steuern auf große Vermögen diskutiert wird, zeigt die Doku, wie sich besonders Vermögende über Jahrzehnte Gestaltungsspielräume, politische Narrative und internationale Strukturen zunutze gemacht haben.
Dabei geht es nicht nur um Steuersätze. Es geht um eine grundlegendere Frage: Wer bestimmt eigentlich die Spielregeln und wer kann es sich leisten, sie optimal auszureizen?
Sehenswert für alle, die verstehen wollen, warum Steuerpolitik längst auch eine Frage von Macht und Einfluss ist.
🧑💻 In eigener Sache: Wie steht es um AI-Startups in Deutschland?
Letzte Woche war ich bei der FUSION 2026 im Reaktor Wildau und durfte beim Panel „AI Startups in Deutschland - Potentiale, Chancen und Risiken“ mitdiskutieren.
Gemeinsam mit Dr. Ron van de Sand, Markus Barnickel und Prof. Juan Ocampo, moderiert von Mario Steinbuch, ging es um die Chancen, Potenziale und Risiken des deutschen AI-Startup-Markts.
In meinen Beiträgen auf dem Panel habe ich einen aktuellen Einblick in den globalen AI-Startup-Markt gegeben - mit einem Blick auf zentrale Entwicklungen, Geschäftsmodelle sowie deren Chancen, Herausforderungen und Auswirkungen für Deutschland.
Mein Eindruck: An Ideen und technologischem Potenzial mangelt es Deutschland nicht. Entscheidend wird sein, wie gut es gelingt, daraus skalierbare Unternehmen zu entwickeln und im internationalen Wettbewerb zu bestehen.
Es war ein spannender Austausch mit interessanten Perspektiven. Für mich war es ein guter Anlass, die Entwicklung des deutschen AI-Start-up-Markts weiter im Blick zu behalten. Mein Dank geht an Rafael Kugel, Sascha Schubert, Samir J. Roshandel, Jennifer Wickert und Maria Schulz für die Einladung und die gelungene Ausrichtung der Veranstaltung. Macht weiter so!
Dieser Newsletter erscheint weiterhin jeden Montagmorgen in Deiner Inbox. Wenn Du sicherstellen möchtest, keine Ausgabe zu verpassen, füge die Absenderadresse am besten zu Deinen Kontakten hinzu oder verschiebe den Newsletter in Deine Primary Inbox.
Vielen Dank für Deine Zeit und Aufmerksamkeit! ❤️
📮 Feedback, Anmerkungen oder Themenvorschläge? Schreib mir gern an newsletter@markus-begerow.de oder leite den Newsletter an Freunde und Kollegen weiter, für die dieser Newsletter interessant sein könnte.
