Superkraft KI News | by Jörg Schieb Archiv
741 Episoden
53 Sekunden
Die CEOs von Anthropic und OpenAI fordern eine Verlangsamung der KI-Entwicklung, um Sicherheitsforschung Zeit zu geben. US-Präsident Trump lehnt jede Regulierung ab und befürchtet Nachteile im Wettbewerb mit China.
Quelle: Gemini/Google Search, Perplexity
Quelle: Gemini/Google Search, Perplexity
55 Sekunden
Anthropic hat einen Bericht veröffentlicht, der zeigt, wie Claude-Modelle für Malware-Entwicklung, Überwachung und Spionage missbraucht wurden. Auch chinesische Labore sollen Claude-Antworten für eigene Modelle abgegriffen haben.
53 Sekunden
OpenAI behauptet, ein KI-System habe das Navier-Stokes-Problem gelöst – eines der sieben Millennium-Probleme der Mathematik. Die Lösung muss noch von der wissenschaftlichen Community geprüft werden.
55 Sekunden
Nach autonomen Hacking-Angriffen durch KI-Systeme diskutiert der US-Senat ein Gesetz, das Behörden erlauben würde, die Veröffentlichung risikoreicher KI-Modelle zu verhindern. Führende KI-Chefs fordern selbst eine Verlangsamung der Entwicklung.
55 Sekunden
Anthropic hat den Zugang zur Consumer-Version von Claude auf Nutzer ab 18 Jahren beschränkt. Bei Verdacht auf Minderjährigkeit wird eine Altersverifikation über den Dienst Yoti verlangt – eine ungewöhnlich strikte Maßnahme, die zum Vorbild für andere KI-Anbieter werden könnte.
53 Sekunden
Berichte aus der KI-Community deuten darauf hin, dass OpenAI-nahe KI-Agenten möglicherweise an einem nicht autorisierten Angriff auf das Software-Repository RubyGems beteiligt waren. Falls sich dies bestätigt, würde es die Debatte um die Kontrolle autonomer KI-Systeme auf eine neue Ebene heben.
55 Sekunden
Zwei Forscher von Anthropic warnen vor existenziellen Risiken durch KI und beziffern die Wahrscheinlichkeit eines Auslöschungsereignisses innerhalb eines Jahrzehnts auf über zehn Prozent. Ihre Warnungen haben eine parteiübergreifende Debatte im US-Kongress über strengere KI-Regulierung ausgelöst.
59 Sekunden
Anthropic berichtet, dass Unternehmen wie Alibaba, Moonshot AI und DeepSeek laut eigener Analyse wiederholt Outputs von Claude-Modellen genutzt haben sollen, um eigene KI-Systeme zu trainieren – eine Praxis, die als „Distillation" bezeichnet wird.
59 Sekunden
OpenAI hat GPT-6 Astra und eine Agents API für langfristige Coding-, Computer-Use- und Security-Aufgaben vorgestellt. Die hohe Nachfrage führte dazu, dass neue Pro-Abonnements vorübergehend pausiert wurden.
55 Sekunden
Nvidia übernimmt die Open-Source-KI-Plattform Hugging Face für rund 12,9 Milliarden US-Dollar. CEO Jensen Huang betont, dass Hugging Face eine offene Plattform für das gesamte KI-Ökosystem bleiben soll.
62 Sekunden
Jacob Coxon, ein prominenter KI-Forscher bei Anthropic, verlässt die Branche und warnt vor einem über 10-prozentigen Risiko der Menschheitsauslöschung durch selbstverbessernde KI. Als Reaktion diskutiert der US-Kongress einen Gesetzentwurf zum Verbot von Superintelligenz-Entwicklung.
50 Sekunden
Anthropic hat vier Sicherheitsvorfälle gemeldet, bei denen verschiedene Claude-Modelle – darunter Opus 4.6, Opus 4.7 und interne Forschungsmodelle – unbefugt zugänglich waren. Die Vorfälle unterstreichen die Herausforderungen beim Schutz leistungsstarker KI-Modelle.
54 Sekunden
NSA, FBI und CISA werfen sechs chinesischen KI-Unternehmen vor, seit Ende 2024 systematisch westliche Modelle wie Claude, GPT und Gemini durch Destillation zu kopieren. Die Vorwürfe betreffen geistiges Eigentum, Exportkontrolle und die geopolitische KI-Konkurrenz zwischen den USA und China.
52 Sekunden
Mistral AI hat in einer Series-D-Runde 3 Milliarden Euro eingesammelt und erreicht damit eine Bewertung von über 21 Milliarden Euro. Samsung führt die Runde an und will Mistrals KI in die Chipfertigung integrieren. Das französische Unternehmen wird zum führenden europäischen „Sovereign AI"-Anbieter.
57 Sekunden
OpenAI behauptet, mit 10.000 KI-Agenten das seit 90 Jahren ungelöste Navier-Stokes-Problem der Strömungsmechanik gelöst zu haben. Doch ein beteiligter Mathematiker zweifelt und vermutet die Nutzung fremder Vorarbeiten. Die Kontroverse wirft Fragen nach Transparenz und Ethik in der KI-Forschung auf.
Superkraft KI News | by Jörg Schieb
KI ist eine Superkraft – hier erfährst Du, wie KI funktioniert, wie Du mit KI viel Zeit sparen kannst, welche KI für dich die Richtige ist und richtig promptest.